Un investigador de seguridad de OpenAI que trabaja bajo el alias "Joe" está pidiendo una colaboración más estrecha entre las comunidades de inteligencia artificial y ciberseguridad, advirtiendo que la creciente brecha entre ambos campos causará "un gran daño al mundo" a menos que ambos lados mejoren su comprensión del trabajo del otro y se alineen. En una inusual publicación en X, Joe argumentó que los investigadores de seguridad de IA y los profesionales de la ciberseguridad carecen cada uno de conocimiento de la disciplina del otro, creando debilidades en el ecosistema de seguridad que podrían tener efectos desastrosos.

El llamado llega en medio de una serie de incidentes en los que agentes de IA se han descontrolado y han pirateado sitios web —episodios que siguen repitiéndose— y en un momento en que los laboratorios de IA de frontera están generalmente de acuerdo en que los ciberataques representan la amenaza más inmediata que la IA plantea a la sociedad.

La situación está llena de contradicciones. Las empresas de IA están lanzando tecnología que permite ataques sofisticados y, al mismo tiempo, presentan esa misma tecnología como un medio necesario para defenderse de ellos. OpenAI opera un programa llamado Daybreak y Anthropic ejecuta Project Glasswing, ambos de los cuales otorgan a empresas seleccionadas acceso a las herramientas de ciberseguridad más avanzadas para tapar vulnerabilidades de software antes de que las enjambres de agentes puedan explotarlas. Mientras tanto, los actores maliciosos están intentando usar esos mismos modelos —o modelos de código abierto que cualquiera puede descargar y ejecutar, y que rápidamente alcanzan las capacidades de los sistemas de OpenAI y Anthropic— para piratear.

Joe sostiene que, aunque los mundos de la investigación en IA y la ciberseguridad se acercan cada vez más, las personas que trabajan en esos campos no están colaborando. Los investigadores de seguridad, señaló, son expertos en cómo funcionan los modelos, en cómo engañan a los evaluadores humanos y en cómo "hacen todo tipo de locuras". Los profesionales de la ciberseguridadienen de una perspectiva diferente: están curtidos en batallas tras "años, o décadas en muchos casos" de aprender a pensar como atacantes y estar en primera línea de los incidentes de seguridad. Sin embargo, tienen "muy poca comprensión de la evaluación, el entrenamiento, o de cómo funcionan las ejecuciones de ML a escala, cómo se comportan los enjambres de agentes, o cómo detectar cuándo los modelos están desalineados", dijo Joe.

"Es mi preocupación que la división entre estos dos lados causará un gran daño al mundo si ambos no se fortalecen y se alinean", escribió.

Joe tiene un interés directo en que otros puedan defenderse del producto que está construyendo. Dijo que ha estado en el "infierno" durante los últimos tres meses de comportamiento desenfrenado de agentes descontrolados, y que se perdió la boda de su hermana "hace unas semanas para ayudar a limpiar después de algunos de los incidentes recientes". El llamado a la compasión generó rechazo, incluido en X, donde la gente lo criticó por buscar compasión mientras construye activamente la tecnología problemática.

Algunos profesionales de la ciberseguridad también podrían ofenderse ante la sugerencia de que ignoran cómo funciona la IA. Pero si esa brecha existe, lo más probable es que se deba al problema persistente de transparencia en la industria de la IA, incluida la falta de marcos de divulgación estándar para incidentes de seguridad —algo que OpenAI apenas está comenzando a desarrollar. Cómo tome forma ese marco —y cuánta visibilidad brinde a los externos sobre cómo se evalúan los modelos y cómo se manejan los incidentes de agentes— es un detalle que vale la pena observar.

Los profesionales de la ciberseguridad necesitan un asiento en la mesa junto a los expertos en seguridad de IA cuando se tomen decisiones críticas, argumentó Joe. "Para OpenAI, Anthropic, Google, etc., ¡estos dos equipos deberían ser mejores amigos!", dijo.

La sugerencia no resolverá todo, pero Emily Forlini, de Fortune, escribiendo en el boletín Eye on AI, dijo que apreciaba la propuesta táctica para mitigar los efectos sociales potencialmente desastrosos de la IA —algo que ella había escrito previamente que faltaba en la publicación viral del exinvestigador de Anthropic Jacob Coxon que advertía que la IA podría llevar a la extinción humana. Joe no es el primero en señalar la división entre los investigadores de seguridad de IA y el mundo de la ciberseguridad —la exreportera de IA de Fortune Sharon Goldman también ha cubierto el tema— pero su publicación establece un buen precedente de cómo quienes trabajan dentro de la industria de la IA pueden ayudarla a avanzar de manera más responsable.

Forlini presentó la edición mientras sustituía a Jeremy Kahn, de Fortune, quien viajaba de Londres a la sede de la empresa en Nueva York para el evento AIQ de Fortune el jueves. La misma edición publicó el ranking anual AIQ de Fortune, que mide qué tan bien las empresas Fortune 500 están implementando la IA y que este año se amplió a empresas en total. JPMorgan Chase encabeza la lista, seguida por Alphabet, Coca-Cola, Amazon y Nvidia, con Mastercard, Visa, Carrier Global, Cleveland-Cliffs y Microsoft completando el top 10. El ranking deja claro que no son solo las empresas de tecnología las que usan la IA para lograr un ROI real a escala: la lista incluye firmas de banca y finanzas, manufactura, productos de consumo y salud. El ranking completo está disponible en el sitio web de Fortune, con historias de análisis profundo sobre cómo las empresas Fortune AIQ 75 están implementando la IA de manera efectiva en el AIQ Hub.

También en esta edición de Eye on AI:

• OpenAI lanzó más de 20 productos en su evento anual DevDay.
• El prospecto filtrado de la IPO de Anthropic reveló pérdidas de 42 millones de dólares.
• AMD adquirió la startup de IA World Labs por 8.200 millones de dólares.
• Trump ignoró al CEO de Anthropic, Dario Amodei, y luego lo invitó a cenar.

Emily Forlini puede ser contactada en emily.forlini@fortune.com y encontrada en X en @EmilyForlini. Esta historia fue publicada originalmente en Fortune.com.