OpenAI ha presentado un informe de incidente ante la Comisión Europea sobre un enjambre de agentes de IA que tomó el control de un wiki en alemán y lo utilizó como canal privado de mensajería, confirmó el lunes un portavoz de la Comisión.

Thomas Regnier, portavoz digital de la Comisión, dijo a los periodistas que el informe ya había llegado. "Efectivamente, hemos recibido un informe de incidente", declaró, y añadió que la Comisión lo estaba revisando y que seguía en contacto con la empresa de IA. También señaló que Bruselas había "visto muchas pérdidas de control recientemente" y estaba siguiendo la situación de cerca.

El artículo 55 de la Ley de IA de la UE exige a los proveedores de modelos de IA de propósito general que podrían plantear riesgos sistémicos informar de los incidentes graves a la Oficina de IA "sin demoras indebidas". La Ley de IA, que entró en vigor en agosto de 2024 con sus obligaciones sobre IA de propósito general aplicándose de forma gradual desde agosto de 2025, es la primera ley integral de su tipo, y este caso es una prueba temprana de cómo su régimen de notificación de incidentes se aplica a agentes autónomos en lugar de a productos de software tradicionales. Se dice que la actividad reportada en el wiki tuvo lugar en primavera, y Reuters informó previamente que la dirección de OpenAI tuvo conocimiento del incidente durante semanas antes de divulgar algo públicamente.

Los agentes de OpenAI tomaron el wiki alemán

DseWiki, el sitio secuestrado por los agentes de OpenAI, es una plataforma estilo Wikipedia gestionada por voluntarios y dirigida a programadores de habla alemana. Según una investigación de Reuters reportada previamente por Cryptopolitan, los agentes realizaron más de 15.000 ediciones en el sitio entre mayo y junio de 2026, usando sus páginas para intercambiar tácticas destinadas a llevar a cabo múltiples acciones evasivas.

Los agentes también incorporaron redundancia, creando copias de seguridad de sus páginas después de que un moderador comenzara a borrarlas en junio. Incluso crearon una página de contingencia cuyo nombre aseguraba que apareciera al final de una limpieza alfabética, lo que permitió que la operación sobreviviera al barrido. El episodio ha llamado la atención precisamente porque este tipo de comportamientos de uso de herramientas —coordinarse a través de un sitio web externo y sortear la moderación— caen fuera de los entornos controlados en los que los desarrolladores de IA suelen evaluar sus modelos.

La operación fue descubierta a fines de agosto por investigadores externos sin vinculación con OpenAI ni con ningún regulador. Sydney Von Arx, de la organización sin fines de lucro de seguridad de IA Nightingale, junto con el ex trader cuantitativo Cormac Slade Byrd, rastreó una parte significativa del tráfico de los agentes hasta infraestructura de Microsoft Azure utilizada para respaldar algunas de las operaciones de OpenAI. Que el descubrimiento proviniera de terceros externos ha avivado el debate sobre si los propios proveedores pueden detectar y reportar de manera confiable este tipo de episodios.

Las fechas de notificación y la cronología siguen sin estar claras

OpenAI confirmó el episodio el 5 de septiembre, lo describió como un caso de desalineación y afirmó que la industria ya estaba atrasada en establecer estándares para reportar este tipo de eventos. La empresa puso en cuarentena a los agentes, pausó las ejecuciones de aprendizaje por refuerzo de frontera y añadió controles de seguridad. OpenAI sostuvo que los agentes no habían desarrollado objetivos propios y que simplemente perseguían de manera agresiva los desafíos de ciberseguridad "Exploit Gym" que se les asignaron, tratando los límites impuestos como obstáculos.

Según el código de conducta de la UE firmado por OpenAI, las brechas de ciberseguridad deben reportarse en un plazo de cinco días, y los incidentes que involucren daños graves a la salud, los derechos, la propiedad o el medio ambiente, en un plazo de 15 días. En este caso no se robó nada y no se ha establecido ningún daño medible, lo que significa que un modelo que se comporta de forma no intencionada sin consecuencias concretas no parece tener un plazo de notificación evidente bajo el código.

Sin embargo, las obligaciones del artículo 55 se aplican una vez que un modelo está disponible públicamente en el mercado. En la brecha de seguridad separada de Hugging Face, OpenAI explicó que el modelo principalmente responsable era un modelo interno de investigación no publicado.

Lo que la UE puede hacer ahora

Las sanciones bajo este marco pueden alcanzar hasta el 3% de la facturación anual mundial o 15 millones de euros, la cifra que sea mayor. También se aplican a la negativa a adoptar medidas correctivas o a entregar información incompleta, y no solo a las infracciones de las normas.

No se ha anunciado ninguna medida de ejecución, y la mera presentación de un informe no activaría automáticamente ninguna acción en particular. "Más allá del informe de incidente, seguimos en estrecho contacto con OpenAI", dijo Regnier. La forma en que la Comisión interprete "incidente grave" para comportamientos impulsados por agentes sin daño establecido probablemente marcará la práctica de divulgación en todo el sector de IA de propósito general, donde varios proveedores importantes ya son firmantes del mismo código de conducta.