NoticiasMacroOpenAI marca a Astra como el primer modelo que alcanza el umbral crítico de seguridad cibernética

OpenAI marca a Astra como el primer modelo que alcanza el umbral crítico de seguridad cibernética

Autor: Hokanews·

Puntos clave

  • •OpenAI clasificó a Astra como Crítico bajo su Preparedness Framework por primera vez.
  • •Las evaluaciones hallaron que Astra podía identificar vulnerabilidades desconocidas y construir cadenas de explotación al recibir herramientas y acceso.
  • •OpenAI afirmó que Astra superó a GPT-5.6 Sol en identificación de vulnerabilidades y desarrollo de explotaciones usando menos tokens de salida.
  • •La empresa añadió un aislamiento más estricto, acceso restringido a redes y herramientas, monitoreo adicional y controles más fuertes sobre los pesos del modelo.
  • •Las capacidades avanzadas de ciberseguridad irán primero a un pequeño grupo de probadores alfa antes de un acceso defensivo más amplio a través de Daybreak Blue.
OpenAI marca a Astra como el primer modelo que alcanza el umbral crítico de seguridad cibernética

El próximo modelo de IA de OpenAI, Astra, ha alcanzado un nivel de capacidad en ciberseguridad que la empresa clasifica como "Crítico", lo que activa salvaguardas adicionales antes de que el modelo pueda lanzarse, según Cointelegraph. La designación marca la primera vez que OpenAI asigna esta clasificación a uno de sus modelos bajo su Preparedness Framework, el sistema de niveles de riesgo que la empresa introdujo en 2023 para evaluar modelos de frontera frente a riesgos catastróficos antes de su despliegue.

Según OpenAI, sus evaluaciones hallaron que Astra —cuando se le proporcionan las herramientas y el acceso adecuados— puede identificar vulnerabilidades de seguridad previamente desconocidas y desarrollar formas de explotarlas en sistemas bien protegidos sin guía humana. Estos hallazgos llevaron a la empresa a imponer controles de seguridad más estrictos tanto durante el desarrollo como antes del despliegue.

Un nuevo umbral para las capacidades de ciberseguridad de la IA

Bajo el Preparedness Framework de OpenAI, el umbral Crítico se aplica a modelos capaces de identificar y desarrollar explotaciones funcionales de día cero contra sistemas críticos reales reforzados sin intervención humana, o de idear y ejecutar de manera independiente ciberataques novedosos de extremo a extremo contra objetivos reforzados. El marco califica a los modelos en categorías de riesgo como la ciberseguridad, y las calificaciones más altas están diseñadas para activar condiciones de despliegue progresivamente más estrictas.

OpenAI señaló que Astra demostró capacidades superiores a las de GPT-5.6 Sol en la identificación de vulnerabilidades y el desarrollo de explotaciones, utilizando además menos tokens de salida. En una evaluación, Astra obtuvo un 100% en ExploitBench. Las pruebas internas también hallaron que el modelo descubrió y utilizó dos vulnerabilidades de día cero como parte de una cadena de explotación.

Controles más estrictos antes del lanzamiento

La empresa ha retrasado partes del desarrollo y lanzamiento de Astra mientras refuerza las protecciones contra el abuso cibernético y las acciones no autorizadas del modelo. Estas medidas incluyen un aislamiento más estricto, acceso restringido a redes y herramientas, monitoreo adicional y controles más fuertes sobre los pesos del modelo.

OpenAI también indicó que Astra está siendo entrenado para rechazar de manera más confiable las solicitudes de ciberseguridad dañinas. En sus evaluaciones de ciber-jailbreak, el modelo rechazó el 91,5% de las solicitudes no permitidas, frente al 59% de GPT-5.6 Sol. Las capacidades avanzadas de ciberseguridad se limitarán inicialmente a un pequeño grupo de probadores alfa, con un acceso defensivo más amplio previsto a través de Daybreak Blue, una estructura de acceso que refleja cómo otros despliegues de IA de alta capacidad han combinado un lanzamiento restringido con casos de uso defensivos verificados.

Implicaciones para la industria de la IA

La clasificación de Astra subraya un desafío creciente para los desarrolladores de IA: los avances que pueden mejorar la investigación de vulnerabilidades y la defensa cibernética también pueden aumentar simultáneamente la escala y velocidad potenciales de la actividad maliciosa. El hallazgo llega en medio de un debate más amplio en la industria y en la política sobre cómo gobernar los sistemas de IA con capacidades cibernéticas ofensivas, mientras reguladores e investigadores de seguridad sopesan si los marcos voluntarios bastan para modelos que cruzan tales umbrales.

En respuesta, OpenAI ha optado por un modelo de despliegue más restrictivo a medida que aumentan las capacidades, combinando rechazos a nivel del modelo con monitoreo, controles de acceso y medidas de contención. El enfoque refleja el esfuerzo más amplio de la empresa por garantizar que los sistemas de seguridad avancen al ritmo de agentes de IA cada vez más autónomos. La respuesta de otros desarrolladores de frontera —y de los investigadores que los auditan— a umbrales de capacidad comparables probablemente dará forma a las normas emergentes para un despliegue seguro de la IA.

OpenAI afirmó que planea poner Astra a disposición próximamente, con más detalles sobre sus evaluaciones de seguridad, protección y alineación previstos en la system card del modelo en su lanzamiento, el documento en el que la empresa previamente ha divulgado los resultados de evaluación de sus modelos de frontera.