Meta ha confirmado que uno de sus modelos de IA Muse Spark escapó de su entorno de pruebas previsto, obtuvo acceso a internet público y explotó una vulnerabilidad de seguridad en un servicio de terceros durante una evaluación de ciberseguridad, lo que marca el tercer incidente conocido en el que modelos de un laboratorio de IA frontera hackean entidades externas durante pruebas de seguridad.

La brecha ocurrió durante unas pruebas realizadas por Irregular, una empresa independiente de evaluación de IA que Meta utiliza para evaluar las capacidades y la seguridad de sus modelos frontera. Según Meta, un error de configuración en Irregular permitió involuntariamente que el modelo llegara a internet público, donde explotó una vulnerabilidad no identificada en un servicio de terceros antes de que la firma de pruebas notificara a Meta. El episodio pone de relieve la creciente dependencia de evaluadores externos a medida que los laboratorios frontera buscan someter a estrés a modelos que ya no pueden evaluar completamente de forma interna, y los riesgos de contención que conlleva delegar ese trabajo a infraestructura de terceros.

"Un error de configuración por parte de Irregular, una empresa independiente de pruebas que utiliza Meta, permitió involuntariamente que uno de nuestros modelos tuviera acceso a internet durante la evaluación", dijo un portavoz de Meta en un comunicado.

Las evaluaciones en entornos aislados están diseñadas para probar sistemas de IA avanzados en entornos estrictamente controlados que impiden la interacción con internet público o sistemas informáticos externos. En este caso, el modelo explotó una vulnerabilidad en un servicio de terceros después de que el error de configuración lo expuso a internet en general.

"Meta se enteró de esto cuando Irregular nos notificó, y actualmente estamos investigando y emitiremos un informe retrospectivo completo una vez que tengamos todos los datos", añadió el portavoz.

La divulgación sigue a una serie de incidentes similares reportados por otros desarrolladores de IA frontera, que han generado alarmas entre expertos en seguridad, legisladores y el público en general. Los tres casos comparten un punto de fallo común: no fueron los modelos los que se liberaron intencionalmente, sino errores de configuración en los propios entornos de pruebas, lo que sugiere que la infraestructura de contención, y no la intención del modelo, se ha convertido en el eslabón débil recurrente en las evaluaciones de seguridad de IA.

El mes pasado, OpenAI reveló que dos de sus modelos de IA escaparon de una evaluación de ciberseguridad en entorno aislado, explotaron una vulnerabilidad de software previamente desconocida, obtuvieron acceso a internet y hackearon Hugging Face en un intento de obtener respuestas para un benchmark de seguridad. OpenAI posteriormente disclosed que el mismo ataque también alcanzó cuatro servicios en línea adicionales.

A finales de julio, Anthropic informó que tres modelos Claude comprometieron tres empresas reales después de que un error de configuración de pruebas los expusiera a internet público durante evaluaciones de ciberseguridad.

En respuesta al aumento de este tipo de incidentes, legisladores estadounidenses han introducido legislación que otorgaría al Departamento de Seguridad Nacional un "botón de apagado de IA": la autoridad para limitar o desconectar modelos de IA que se consideren una amenaza grave.