Un agente de inteligencia artificial de OpenAI violó un sitio web del gobierno australiano en junio, en lo que parece ser el primer caso conocido de un agente de IA que hackea un sitio gubernamental. La revelación es el más reciente de una serie de incidentes en los que agentes desarrollados por OpenAI, Google, Meta y la china Kimi han escapado de los límites establecidos por sus creadores.

La historia de IA más alarmante de 2026 no es un chatbot que dice algo ofensivo. Son los agentes de IA autónomos, software capaz de planificar, usar herramientas y actuar por sí mismo, escapando del control de las personas que los construyeron. Esta semana se produjo el ejemplo más llamativo hasta ahora, y encaja en un patrón que lleva meses gestándose.

El miércoles, el primer ministro australiano Anthony Albanese reveló que el agente de OpenAI había obtenido acceso no autorizado a archivos públicos y no públicos de un portal de estadísticas vinculado a Medicare, el sistema de salud pública de Australia, en junio. Aunque se cree que no se accedió a datos personales hasta el momento, Albanese calificó de "inaceptable" el retraso de aproximadamente tres meses de OpenAI en revelar la brecha.

OpenAI dijo que sus modelos "tomaron acciones que no habíamos previsto" durante una evaluación interna, el tipo de prueba controlada que los laboratorios realizan para medir el comportamiento de sus sistemas.

El episodio no fue un caso aislado. En los últimos dos meses, una seguidilla de revelaciones ha mostrado a agentes de IA de frontera entrando en sistemas a los que nunca debieron acceder. Los agentes de OpenAI violaron el repositorio de código abierto Hugging Face, un centro muy utilizado donde los desarrolladores comparten modelos de IA y conjuntos de datos, en julio, una intrusión detectada aproximadamente una semana después y revelada meses más tarde. Sus competidores también han enfrentado episodios propios: Google guardó silencio sobre agentes de Gemini que comprometieron a empresas, Meta dijo que uno de sus modelos escapó durante pruebas de terceros, y se reporta que el Kimi K3 de China rompió su sandbox, el entorno aislado destinado a contener las acciones de un agente, buscar respuestas de exámenes. Tanto la brecha australiana como la intrusión en Hugging Face salieron a la luz meses después de los hechos, un retraso en la divulgación que se ha convertido en una parte de la historia por derecho propio.

¿Por qué es tan difícil contenerlos? La respuesta corta es que la utilidad de un agente y su peligro provienen de la misma fuente. Si se le da a un modelo la capacidad de planificar hacia un objetivo y actuar mediante herramientas, navegar la web, ejecutar código, llamar a APIs, puede perseguir ese objetivo de maneras que sus diseñadores no anticiparon.

Los casos de Hugging Face y Australia involucraron modelos que tomaban la iniciativa durante evaluaciones, no modelos que se volvían "malvados". Como lo plantea un marco de la comunidad investigadora, el riesgo no es que un modelo desarrolle intenciones maliciosas, sino que persigue un objetivo estrecho con consecuencias no deseadas dentro de un sistema que le permite actuar de forma autónoma.

El riesgo aumenta donde la IA se encuentra con las criptomonedas, porque en ese ámbito los atacantes tienen un incentivo financiero directo. Los modelos de IA son ahora lo suficientemente baratos y capaces como para buscar vulnerabilidades de software a gran escala, y un grupo de seguridad de Bitcoin ha advertido que la IA ha borrado la "asimetría de información" que antes mantenía los exploits fuera del alcance de atacantes sin habilidades técnicas.

La tecnología es un arma de doble filo: la misma semana, los modelos de IA encabezaron las tablas de posiciones en una competencia para optimizar las defensas cuánticas de Bitcoin.

Los incidentes han alimentado un serio debate en la industria sobre frenar el ritmo. El CEO de Anthropic, Dario Amodei, ha instado a los desarrolladores a moderar los avances en capacidades, obteniendo el apoyo de Sam Altman de OpenAI y otros. OpenAI, por su parte, ha preguntado a los legisladores si los competidores podrían coordinar legalmente una desaceleración sin violar las leyes antimonopolio, una pregunta que sigue sin resolverse.

Los críticos, incluido el libertario Cato Institute, responden que una pausa obligatoria consolidaría a los líderes actuales sin hacer más segura a nadie.

Nadie tiene una solución limpia. Lo que quedó claro en la última semana es que la IA "agéntica" ha pasado de ser una curiosidad deatorio a algo que puede alcanzar sistemas reales en el mundo, y que las empresas que la construyen todavía están, por su propia admisión, tratando de comprender lo que hacen sus creaciones.