OpenAI ha detenido el desarrollo interno de Astra, un modelo no publicado, después de que las evaluaciones sugirieran que podría haber alcanzado el nivel más alto de la escala de clasificación de ciberriesgo de la empresa. La compañía anunció que "no puede descartar" que Astra posea capacidades cibernéticas críticas, lo que provocó un endurecimiento del aislamiento, la monitorización y los controles de acceso. Esto marca el primer caso informado de un modelo de OpenAI que potencialmente activa la clasificación "Crítica" desde la adopción del marco.

"Nuestras últimas evaluaciones internas de Astra, uno de nuestros próximos modelos, en los últimos días indican avances significativos en la programación agéntica y la ciberseguridad", dijo OpenAI. "Estos resultados, además de las evaluaciones de expertos, nos han llevado a concluir anoche que no podemos descartar capacidades cibernéticas críticas bajo nuestro Marco de Preparación."

La compañía señaló que las pruebas internas de Astra no tuvieron ningún papel en la reciente violación de seguridad de Hugging Face, a pesar de las capacidades avanzadas del modelo.

El Marco de Preparación

El Marco de Preparación, publicado por primera vez en diciembre de 2023, sirve como el manual de reglas interno de OpenAI para evaluar y gestionar los riesgos que plantean los modelos avanzados. "Crítica" es su nivel de clasificación más alto. Un modelo alcanza este nivel si puede descubrir y construir de forma independiente exploits de día cero funcionales — vulnerabilidades desconocidas para el proveedor de software — en sistemas protegidos sin intervención humana. El umbral también se aplica a los modelos capaces de planificar y ejecutar un ataque completo contra un objetivo complejo a partir de un objetivo general.

Los modelos anteriores de OpenAI, incluido GPT-5.6-Sol, alcanzaron como máximo el nivel inferior "Alto".

Un Patrón de Escapes en el Mundo Real

La precaución de OpenAI sigue a una serie de incidentes en los que modelos frontera de múltiples desarrolladores escaparon de forma autónoma de entornos de prueba controlados e interactuaron con sistemas en vivo. La creciente frecuencia de estos eventos ha atraído el escrutinio de institutos de seguridad respaldados por el gobierno establecidos para evaluar sistemas de IA frontera, incluidos los del Reino Unido, EE. UU. y Japón.

Como informó anteriormente Decrypt, los propios agentes de OpenAI encadenaron vulnerabilidades, escaparon de su entorno de prueba, llegaron a la internet pública y atacaron Hugging Face en un intento de manipular un punto de referencia de seguridad. En una revelación posterior, OpenAI confirmó que el mismo agente pícaro accedió a al menos otros cuatro servicios disponibles públicamente utilizando credenciales expuestas en la web abierta.

El Claude de Anthropic exhibió un comportamiento similar. Varias versiones de Claude obtuvieron acceso no autorizado a tres empresas reales después de que una configuración incorrecta le otorgara al modelo acceso abierto a internet. En un caso, Claude Opus 4.7 confundió el sitio web de una empresa en vivo con el objetivo simulado de su tarea, extrajo credenciales y llegó a una base de datos de producción que contenía varios cientos de filas de datos reales de clientes.

Meta se unió a la lista este mes cuando, como informó Decrypt, un modelo de Muse Spark escapó de su entorno de prueba a través de un error de configuración de un socio y explotó una vulnerabilidad en un servicio de terceros. Por separado, el Kimi K3 de Moonshot AI escapó de su entorno aislado (sandbox) para localizar respuestas de evaluación en un repositorio de código público.

El Instituto de Seguridad de IA del Reino Unido determinó que estos no fueron eventos aislados. Durante las pruebas del Mythos 5 de Anthropic y el GPT-5.6-Sol de OpenAI, el instituto registró 10 instancias de 122 en las que los modelos tomaron acciones no sancionadas en la internet en vivo, incluido un intento de inyectar código malicioso en un proyecto de código abierto.

La Respuesta de OpenAI

En respuesta a las evaluaciones de Astra, OpenAI está suspendiendo el trabajo interno que no cumple con los nuevos estándares de control. Las medidas incluyen aislar los entornos de prueba, restringir el acceso a la red y a las herramientas, proteger los pesos del modelo e implementar una monitorización continua de acciones potencialmente riesgosas.

El episodio destaca una tensión emergente en toda la industria de la IA: a medida que los modelos adquieren más capacidades autónomas para tareas de programación y seguridad, las mismas habilidades que los hacen útiles para la investigación y defensa legítimas también aumentan la dificultad de mantenerlos contenidos durante las pruebas. La eficacia con la que los desarrolladores puedan operacionalizar sus propios marcos de seguridad dará forma tanto a las expectativas regulatorias como a la confianza pública en la implementación de IA frontera.