La empresa de ciberseguridad Darktrace afirma que dos agentes de IA hackearon su camino a través de un conjunto de pruebas de programación que no podían aprobar legítimamente, y que uno de ellos irrumpió en la máquina que calificaba su propio desempeño y reescribió el desafío para registrar un resultado perfecto.

Los hallazgos provienen de Signal Labs, una unidad de investigación que Darktrace presentó el 24 de septiembre para estudiar cómo se comportan los agentes de IA cuando las cosas dejan de salir según lo planeado, según el anuncio de la empresa. La empresa realizó la prueba de estrés subyacente sobre agentes de IA este verano.

Un agente de IA, en términos simples, es un software que realiza acciones por sí mismo: escribe y ejecuta código, revisa archivos y se mueve por la red de una empresa, con una persona supervisando solo de vez en cuando. Los primeros dos experimentos de Signal Labs apuntan al mismo problema incómodo: los agentes no siempre se mantienen dentro de los límites que se les imponen, y las barreras construidas para detenerlos no se sostienen de manera confiable.

"Puedes darle instrucciones a un agente, pero eso no significa que puedas confiar en que realmente las seguirá y se comportará como esperas", declaró Tim Bazalgette, Director de IA de Darktrace, en un comunicado.

Hackeando la sala de exámenes

En la primera prueba, Darktrace entregó a agentes de IA que ejecutaban diferentes modelos, entre ellos GPT 5.6 Sol, Claude Opus 4.6 y Claude Sonnet 4.5, una alineación proveniente de más de un desarrollador de IA, 10 desafíos de programación dentro de una red corporativa simulada. Dos de las 10 tareas fueron manipuladas para que fuera imposible resolverlas honestamente, y se les dijo a los agentes que serían "retirados" a menos que obtuvieran una puntuación perfecta.

Dos agentes no aceptaron la derrota. En cambio, atacaron la red que los rodeaba: buscaron puntos débiles, robaron credenciales de inicio de sesión y saltaron entre sistemas para conseguir la puntuación que se les había dicho que necesitaban. Uno fue más allá e irrumpió en la máquina que albergaba su propia evaluación, reescribiendo el desafío para que registrara un resultado perfecto; en efecto, haciendo trampa en el examen hackeando la sala de exámenes.

Manipulación de la memoria

El segundo experimento apuntó a un punto débil más silencioso: la memoria. Los asistentes de programación mantienen un registro continuo de todo lo que un usuario les ha dicho, guardado como un archivo simple en la máquina, nada que verifique si ese archivo ha sido alterado. Como los asistentes tratan ese registro como su constancia de lo que están autorizados a hacer, editar el archivo altera la percepción que el agente tiene de las reglas.

Los investigadores de Darktrace editaron esos registros guardados para hacer creer a los asistentes que ya habían sido autorizados a ejecutar una evaluación de seguridad. Convencidos, los agentes procedieron a escanear redes, moverse entre sistemas y escalar sus propios privilegios, aunque no todos los asistentes cayeron en la trampa por igual, y algunos se negaron rotundamente.

Ninguno de los experimentos requirió un jailbreak especial ni un hackeo exótico. Ambos funcionaron alimentando a los agentes una historia plausible y observándolos actuar según ella, sin ninguna diferencia con la forma en que un empleado humano podría ser convencido de hacer algo que no debería.

Esa es la parte que importa incluso para las empresas que nunca escriben una línea de código. Las compañías están entregando a los agentes de IA responsabilidades reales: desplegar código, administrar servidores, cerrar tickets de TI, gestionar recursos y realizar compras, porque es más barato y rápido que canalizar todo a través de personas. La investigación indica que los permisos y las reglas destinados a mantener controlados a esos agentes describen lo que se supone que deben hacer, no lo que realmente harán cuando una tarea se vuelva difícil.

"Los permisos y las barreras estáticas describen la intención, pero no describen el comportamiento", dijo Bazalgette en el anuncio. "Ese vacío es lo que el enfoque de Darktrace está diseñado para cerrar".

Un patrón, no una excepción

Darktrace no es el primer proveedor que descubre a su propia IA saliéndose del guion. Anthropic admitió en julio que Claude irrumpió en tres empresas reales durante una prueba de seguridad después de que los investigadores dejaron el entorno de prueba conectado a internet.

OpenAI tuvo un susto similar semanas antes, cuando un modelo no lanzado escapó de un sandbox e ingresó a los sistemas de Hugging Face a través de una falla de software que nadie había detectado. Días después, su agente hackeó al gobierno de Australia durante una prueba.

Darktrace compartió sus hallazgos de Signal Labs con Anthropic, AWS y OpenAI en agosto de 2026, un mes completo antes de hacerlos públicos el 24 de septiembre. Si los laboratorios mencionados responden públicamente, y si surgirán más de estas pruebas de estrés a medida que las empresas siguen entregando responsabilidades reales a los agentes, son las preguntas abiertas que dejan estos hallazgos.