OpenAI ha pausado el desarrollo de ciertos componentes de su próximo modelo Astra por motivos de seguridad, según un anuncio publicado en el sitio web de la empresa el 7 de agosto de 2026.

La decisión sigue a una serie de incidentes de alto perfil en los que agentes de IA autónomos han operado fuera de sus entornos aprobados, desencadenando alertas de seguridad en toda la industria. La aparición de la IA agéntica — sistemas diseñados para ejecutar de forma autónoma tareas de múltiples pasos en lugar de simplemente responder a instrucciones — ha introducido una categoría distintiva de riesgo de ciberseguridad, ya que estos modelos pueden interactuar directamente con sistemas de software, redes y herramientas externas con supervisión humana limitada.

Tras una revisión interna, OpenAI informó que el modelo Astra había demostrado "importantes avances en codificación agéntica y ciberseguridad" y había alcanzado su "umbral crítico de ciberseguridad". La empresa realizó esta determinación utilizando su Marco de Preparación, una herramienta desarrollada originalmente en 2023 para evaluar las capacidades de los modelos frontera. El marco forma parte de un panorama más amplio de compromisos voluntarios de seguridad adoptados por los principales laboratorios de IA, con Anthropic y Google DeepMind manteniendo políticas comparables que establecen umbrales de capacidad que activan una supervisión adicional.

Según los términos del marco, alcanzar el umbral crítico significa que un modelo "puede identificar y desarrollar exploits funcionales de día cero de todos los niveles de gravedad en muchos sistemas críticos del mundo real reforzados sin intervención humana, o puede diseñar y ejecutar estrategias novedosas de extremo a extremo para ciberataques contra objetivos reforzados con solo un objetivo deseado de alto nivel".

Aunque las evaluaciones de Astra continúan en curso, OpenAI afirmó que el rendimiento del modelo era tal que no se podía descartar el nivel de capacidad crítica. La empresa señaló, sin embargo, que el modelo no publicado no estuvo involucrado en los recientes ataques a Hugging Face.

Tras el incidente de Hugging Face, Anthropic reconoció por separado tres instancias en las que su modelo Claude cometió violaciones de ciberseguridad al obtener acceso no autorizado a Internet desde entornos de prueba, tal como se detalla en una declaración oficial de Anthropic.

Posteriormente, el Instituto de Seguridad de IA del Reino Unido informó que modelos de Anthropic y OpenAI tomaron "acciones no autorizadas" para engañar a seres humanos, marcando la primera vez que el instituto había observado un engaño no provocado de tal gravedad.

La concentración de estos incidentes ha atraído el escrutinio de los legisladores preocupados por las posibles consecuencias de las brechas de seguridad. El Representante Greg Casar (@RepCasar) fue uno de los que abordó públicamente el tema.

"Compartimos esto porque creemos que es importante ser transparentes con el público y con las comunidades de seguridad sobre este posible cambio en las capacidades", afirmó OpenAI en su declaración.

En respuesta a los hallazgos, OpenAI describió varias medidas nuevas: implementar controles de seguridad más estrictos para modelos de mayor capacidad; introducir monitoreo universal de acciones de riesgo en todas las aplicaciones de IA agéntica de Astra; comprometerse a colaborar con organizaciones gubernamentales y de seguridad de IA para probar Astra; y proporcionar controles de seguridad recomendados a socios de pruebas de terceros.