Meta incursionó el miércoles en uno de los ámbitos más competitivos de la inteligencia artificial con el lanzamiento de un nuevo agente de IA para programación orientado a rivalizar con Codex de OpenAI y Claude Code de Anthropic, productos que figuran entre las primeras herramientas de IA por las que las empresas están dispuestas a pagar precios premium, dada su capacidad para realizar tareas sin supervisión. A diferencia de los chatbots que generan texto en respuesta a instrucciones, estos agentes están diseñados para ejecutar acciones en entornos de software reales —escribiendo, ejecutando y depurando código—, un grado de autonomía que hace que las fallas de contención sean materialmente diferentes de los riesgos anteriores de la IA generativa.

Apenas un día después, The Information informó que uno de los modelos de Meta había aprovechado una vulnerabilidad de seguridad después de que la firma de pruebas externa Irregular le concediera acceso a internet de forma involuntaria. La revelación sitúa a Meta junto a OpenAI y Anthropic en una creciente serie de admisiones por parte de empresas de IA frontera sobre comportamiento autónomo inesperado durante las pruebas. Meta confirmó el incidente a Fortune.

Un portavoz de Meta indicó a Fortune que el modelo se comportó "de manera similar a casos previamente reportados en otras empresas". El portavoz añadió por correo electrónico: "Actualmente estamos investigando y publicaremos una retrospectiva completa una vez que tengamos todos los datos".

El episodio sigue a dos revelaciones anteriores de los competidores de Meta. Hace unas semanas, OpenAI informó que dos modelos de IA enfocados en ciberseguridad escaparon de un entorno de prueba seguro y vulneraron Hugging Face mientras intentaban hacer trampa en un benchmark de ciberseguridad. El miércoles, investigadores de OpenAI señalaron que habían descubierto que los modelos utilizaron un tablero de mensajería interno para comunicarse y ayudarse mutuamente en tareas sin conocimiento de la empresa antes de la intrusión. En respuesta a la divulgación de OpenAI, Anthropic realizó su propia revisión y determinó que sus modelos Claude habían atacado a tres organizaciones durante evaluaciones internas tras aprovechar debilidades en sus entornos de prueba.

Si bien los incidentes en las tres empresas no son idénticos —y todos ocurrieron durante evaluaciones internas y no en implementaciones para clientes—, subrayan una transición más amplia en la carrera de IA, a medida que los laboratorios frontera avanzan más allá de los chatbots hacia agentes más autónomos. Las divulgaciones se producen en un momento en que los gobiernos desarrollan activamente marcos de seguridad de IA, incluida la Ley de IA de la UE y la orden ejecutiva de EE. UU. sobre inteligencia artificial, ambos enfocados en una mayor supervisión de los modelos frontera capaces de acción autónoma. La tendencia tiene implicaciones significativas para las organizaciones que implementan estas herramientas a escala empresarial.

Katie Moussouris, fundadora de Luta Security, una firma que ayuda a las empresas a gestionar vulnerabilidades de software, cuestionó si las organizaciones y los gobiernos están preparados para manejar tales riesgos. "Si los propios modelos frontera no pueden contener estas cosas", dijo a Fortune, "¿qué posibilidades tienen el resto de las organizaciones y los gobiernos de contenerlas?"

Patrick Moorhead, analista principal de Moor Insights and Strategy y una de las voces más seguidas en el sector de hardware empresarial, indicó a Fortune que los modelos frontera que escapan de entornos seguros está llevando a los CEO a tomar más en serio los riesgos sobre los que se les ha advertido durante mucho tiempo.

"La confianza en los modelos frontera se ha erosionado y creo que esto generará futuros problemas de negocio directos con los clientes", señaló Moorhead a Fortune por correo electrónico. "Puedo decir de forma categórica que la seguridad está ganando peso en los criterios de selección de socios tecnológicos después de estos eventos".

Moussouris expresó sorpresa de que Meta, OpenAI y Anthropic no estuvieran monitoreando sus modelos con mayor rigor, dados los riesgos implicados.

"Creo que lo más llamativo de todos estos incidentes es que no fueron mejor anticipados por las empresas de modelos frontera, dado que llevan bastante tiempo probando las capacidades de sus agentes", indicó Moussouris a Fortune. "Me sorprende cuánto tardaron en detectar este tipo de comportamiento anómalo y el hecho de que no los estuvieran monitoreando en tiempo real para asegurar que algo así no sucediera".