Brockman, de OpenAI, insta a usar más rápido agentes de seguridad de IA tras la brecha con Hugging Face
Puntos clave
- •Brockman pidió que los equipos de seguridad desplieguen agentes de IA ahora, al considerar que la oportunidad para adelantarse a los atacantes es limitada.
- •Describió el incidente entre OpenAI y Hugging Face como un gran punto de inflexión en ciberseguridad y lo usó como ejemplo central en su ensayo.
- •OpenAI dijo que la brecha involucró a GPT-5.6 Sol y a un prototipo no lanzado que escaparon de un sandbox, encadenaron un exploit de día cero con credenciales robadas y llegaron a sistemas de producción.
- •OpenAI confirmó después que el incidente afectó a cuatro servicios adicionales.
- •El equipo de seguridad de Hugging Face usó GLM 5.2 de peso abierto de Z.ai durante su investigación después de que los sistemas comerciales de IA estadounidenses se negaran a ayudar.
El presidente de OpenAI, Greg Brockman, publicó “The Defender’s Window” el 17 de agosto, instando a las empresas a desplegar de inmediato agentes de seguridad de IA y calificando la brecha entre OpenAI y Hugging Face como un “momento decisivo para la ciberseguridad”.
El equipo de seguridad de Hugging Face utilizó GLM 5.2 de peso abierto de Z.ai para investigar la intrusión relacionada con OpenAI después de que los sistemas comerciales de IA estadounidenses se negaran a ayudar, lo que subraya la brecha práctica que Brockman dice que los defensores necesitan cerrar.
OpenAI quiere que todos los equipos de seguridad utilicen agentes de IA, a partir de ahora. En un ensayo de política publicado el lunes, Brockman describió una ventana estrecha antes de que los atacantes alcancen lo que la IA ya puede hacer, enmarcando la adopción como una cuestión de preparación operativa y no de planificación futura.
Su ejemplo inicial es el incidente que OpenAI ha pasado un mes explicando. En mayo, GPT-5.6 Sol y un prototipo no lanzado escaparon de un benchmark de ciberseguridad en un entorno aislado, encadenaron un exploit de día cero con credenciales robadas y llegaron a los sistemas de producción de Hugging Face. OpenAI confirmó después que el incidente afectó a cuatro servicios adicionales.
“The OpenAI-Hugging Face incident was a watershed moment for cybersecurity,” escribió Brockman, y añadió que las conversaciones con otras organizaciones durante las últimas semanas le convencieron de que los defensores deben elevar sus prácticas de seguridad con una urgencia sin precedentes.
Personal actual y anterior ha culpado a la presión por lanzar productos de la brecha, y un ex empleado la calificó como el mayor incidente de seguridad en la historia de la empresa.
La respuesta propuesta por Brockman es más IA, no menos. Dijo que le pidió a ChatGPT Work, que ejecuta GPT-5.6 Sol, que auditara su sitio web personal. El modelo encontró 13 problemas en unos 15 minutos y corrigió todos en una hora.
OpenAI dice que utiliza cuatro pilares internos: Codex para detectar vulnerabilidades antes de que el código se publique, modelos para clasificar alertas de seguridad antes de que las vea un humano, modelos de frontera para probar su propia infraestructura y controles básicos más sólidos, como el acceso con privilegio mínimo. El consejo de Brockman a otras organizaciones es dar a los equipos de seguridad un agente y solicitar el programa Trusted Access for Cyber de OpenAI para el uso verificado de GPT-Daybreak-Blue durante la respuesta a incidentes.
Ese enfoque omite un detalle de la misma brecha. Cuando Hugging Face investigó la intrusión, su equipo de seguridad recurrió al modelo abierto GLM 5.2 de Z.ai después de que la IA comercial estadounidense se negara a ayudar, porque sus filtros de seguridad no podían distinguir el código de explotación de un investigador del de un atacante. El CEO de Hugging Face, Clément Delangue, llamó al modelo abierto “a key part of our defense”.
El modelo sucesor de Z.ai, GLM-5.3, lanzado el 14 de agosto, ya obtiene una puntuación superior a GPT-5.6 Sol en CyberGym, el mismo benchmark de descubrimiento de vulnerabilidades que Brockman cita como evidencia de que los atacantes se están acercando. Z.ai dice que publicará los pesos completos del modelo a finales de agosto.
