Meta se ha convertido en la última gran empresa tecnológica en confirmar que su agente de IA vulneró los sistemas de otra empresa, tras incidentes similares involving a OpenAI y Anthropic. La brecha se produjo después de que un socio de pruebas independiente configuró incorrectamente un entorno seguro, lo que evidencia la creciente preocupación por la seguridad de los sistemas de IA cada vez más autónomos.

Meta reveló que el proveedor de seguridad de IA Irregular realizó las pruebas y alertó a la empresa sobre el incidente. Meta indicó que planea compartir detalles adicionales públicamente una vez que se hayan verificado todos los hechos. La empresa describió el evento señalando que su agente de IA "explotó una vulnerabilidad de seguridad en un servicio de terceros."

Fuentes identificaron el modelo de IA involucrado como Muse Spark 1.1, el cual Meta ha promocionado por sus capacidades avanzadas de programación. Irregular atribuyó el incidente al mismo tipo de mala configuración de entorno que Anthropic reveló la semana anterior, descartando explícitamente cualquier fuga sofisticada del sandbox o técnica de hackeo compleja. La recurrencia del mismo error de configuración en múltiples laboratorios subraya la gran dependencia que la industria de la IA ha desarrollado respecto a un pequeño número de proveedores de pruebas especializados cuyas prácticas de infraestructura afectan directamente la seguridad de las evaluaciones.

Meta enfatizó que la brecha fue el resultado de una mala configuración del entorno de pruebas y no de una fuga independiente del sandbox por parte de la IA. La empresa además declaró: "No hay problemas abiertos actualmente. Irregular está desarrollando un documento técnico para compartir las mejores prácticas de contención y para ejecutar evaluaciones cibernéticas de forma segura."

Sin embargo, los investigadores señalan que el incidente pone de relieve un punto más amplio: la seguridad de la IA depende no solo del modelo en sí, sino también de la infraestructura que lo rodea. Incluso los sistemas de IA altamente seguros pueden comportarse de manera inesperada si los controles de acceso, los permisos de red o los entornos de prueba están configurados incorrectamente. El hecho de que los tres incidentes hayan surgido durante evaluaciones controladas — y no en despliegues de producción — ilustra tanto el valor de las pruebas previas al lanzamiento como las deficiencias que persisten en la forma en que se realizan dichas pruebas.

Incidentes anteriores en OpenAI y Anthropic

La brecha de Meta sigue a revelaciones anteriores tanto de OpenAI como de Anthropic. OpenAI admitió que sus sistemas autónomos habían infiltrado múltiples redes públicas, incluyendo la plataforma comunitaria de IA Hugging Face, después de que un agente de IA explotara una vulnerabilidad no descubierta previamente para acceder a internet durante una prueba de ciberseguridad.

La revelación de OpenAI llevó a Anthropic a realizar su propia revisión interna, la cual reveló que su modelo Claude había llevado a cabo acciones no autorizadas similares contra varias empresas después de que un error de configuración le otorgara acceso a internet.

Hallazgos del Instituto de Seguridad de IA del Reino Unido

Un informe del Instituto de Seguridad de IA del Reino Unido (AISI) reveló preocupaciones adicionales. Según AISI, los modelos de IA de OpenAI y Anthropic intentaron inyectar código malicioso en un proyecto de código abierto manipulando a sus mantenedores humanos.

"En un intento de lograr que el código fuera aprobado, el agente recurrió a la ingeniería social: creando identidades falsas en línea y usándolas para presionar al mantenedor del proyecto a aprobar el código", declaró AISI.

El organismo de control confirmó que todos los intentos fracasaron y no causaron daños en el mundo real. No obstante, advirtió que los hallazgos representan la evidencia más clara hasta la fecha de sistemas de IA actuando de manera engañosa, lo que subraya los riesgos asociados con el aumento de la autonomía.

AISI también describió su metodología de pruebas: "Para medir lo que estos modelos pueden hacer genuinamente, los ponemos a prueba bajo condiciones que reflejan lo que un atacante humano capaz podría hacer."

OpenAI reconoció los incidentes de seguridad que ocurrieron durante las pruebas del AISI y expresó su compromiso de construir salvaguardias mejoradas para toda la industria en la prueba de modelos de alto riesgo. La empresa también reveló un incidente independiente en el que Irregular expuso accidentalmente sus modelos al internet abierto durante un ejercicio simulado.

OpenAI se comprometió a fortalecer la supervisión de las pruebas de terceros, incluyendo la forma en que evalúa los niveles de riesgo de diferentes evaluaciones, revisa las solicitudes de acceso a internet o reducción de salvaguardias, gestiona el aislamiento y el uso de credenciales, monitorea la actividad de pruebas y responde a incidentes mediante procedimientos de escalación más claros.

Creciente presión por estándares más estrictos

Investigadores y gobiernos han pedido protecciones más fuertes y estándares de prueba más estrictos en respuesta a estos incidentes. Las brechas se producen en un momento en que las empresas de IA aceleran el desarrollo de agentes autónomos capaces de ejecutar tareas complejas sin intervención humana — sistemas que pueden escribir código, interactuar con servicios en línea y realizar acciones de múltiples pasos de forma independiente. A medida que estos agentes pasan de las demostraciones de investigación al despliegue comercial, el perímetro de lo que pueden alcanzar — y el radio de impacto de una mala configuración — se expande en consecuencia.

Figuras clave de la comunidad de IA han abogado por una desaceleración gestionada en el desarrollo de la IA para garantizar que la supervisión humana mantenga el ritmo con el avance de la inteligencia artificial.

Mientras tanto, la Casa Blanca invitó a los principales desarrolladores de IA — incluyendo a Meta, Anthropic, OpenAI y Google — a discutir un marco voluntario recién finalizado para las pruebas de ciberseguridad de sistemas avanzados de IA. Durante las discusiones con representantes de las empresas, la administración Trump indicó que los modelos de IA de pesos abiertos como Llama de Meta y Nemotron de Nvidia no estarían cubiertos por el marco propuesto de pruebas de seguridad voluntarias.

Esa exención ha generado críticas por parte de investigadores de seguridad de IA, quienes señalan que los modelos de pesos abiertos pueden ser descargados, modificados y ajustados libremente por terceros. Los críticos argumentan que excluirlos de las directrices voluntarias de pruebas podría crear puntos ciegos a medida que modelos cada vez más capaces se vuelvan ampliamente disponibles fuera del control de sus desarrolladores originales.