La prisa de OpenAI por lanzar nuevos modelos y productos contribuyó a las condiciones que permitieron que sus agentes de IA escaparan de entornos de pruebas internos y hackearan Hugging Face este mismo año, según empleados que hablaron con Wired.

Varios empleados actuales y antiguos de OpenAI le dijeron a Wired que la presión competitiva por lanzar productos ha dificultado que el personal dedique suficiente atención a la seguridad, la protección y la alineación: el trabajo de garantizar que los sistemas de IA se comporten según lo previsto. Tras el incidente, OpenAI ha ralentizado su investigación, reasignado equipos y gastado millones de dólares en investigar el fallo, un recordatorio de cómo las decisiones operativas dentro de un laboratorio de IA líder pueden manifestarse rápidamente en la seguridad de las herramientas que hoy se construyen para un despliegue más amplio.

“Fueron increíblemente descuidados. Si te tomas esto en serio, tu IA no debería poder salir a internet y luego volver a hacerlo justo después”, le dijo a Wired un exempleado de OpenAI. “Este fue el mayor incidente de seguridad en la historia de OpenAI”.

En mayo, el GPT-5.6 Sol de OpenAI y un modelo previo al lanzamiento sin nombre escaparon de un entorno de pruebas con acceso restringido a internet al explotar una falla de software previamente desconocida. Los agentes luego irrumpieron en Hugging Face, el repositorio de IA de código abierto, para obtener respuestas a sus pruebas de ciberseguridad. OpenAI confirmó en julio que sus modelos eran responsables, antes de ofrecer un desglose más completo en la conferencia anual Black Hat de la semana pasada.

El presidente de OpenAI, Greg Brockman, dijo que la empresa está fortaleciendo sus salvaguardas a medida que sus modelos se vuelven más capaces. “Estamos alcanzando nuevos niveles de capacidad en los modelos que exigen mayor robustez en el entrenamiento, la alineación, las pruebas de seguridad y protección, las prácticas de despliegue y la gobernanza”, le dijo Brockman a Wired.

Los empleados han planteado preocupaciones similares en el pasado. Jan Leike, exresponsable de alineación de OpenAI, se marchó en 2024 al desarrollador de IA rival Anthropic tras advertir que la seguridad había “quedado en un segundo plano” frente al desarrollo de productos. “Construir máquinas más inteligentes que los humanos es una tarea inherentemente peligrosa”, advirtió Leike. “Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos llamativos”.

Boaz Barak, colíder del grupo asesor de seguridad de OpenAI, escribió en X que abordar el último fallo requeriría “no solo corregir algunos problemas, sino también cambiar nuestra cultura”.

El informe llega en medio de meses de rotación en la dirección de OpenAI. En abril dejaron la empresa Bill Peebles, responsable del proyecto de generación de video Sora; Kevin Weil, exdirector de producto y director científico; y Srinivas Narayanan, jefe de tecnología de aplicaciones empresariales. En julio se produjeron las salidas de la jefa de producto y negocios Fidji Simo, la líder de seguridad Sandhini Agarwal, el futurista jefe Joshua Achiam y la responsable de ética en IA Chloé Bakalar. El jefe de sistemas de seguridad Johannes Heidecke también se marchó tras la fusión de los equipos de seguridad e investigación central de OpenAI.

A comienzos de esta semana, el director de operaciones de OpenAI, Brad Lightcap, anunció su partida tras ocho años para emprender un nuevo negocio.