Australia llevó sus preocupaciones sobre la seguridad de la inteligencia artificial a la Organización de las Naciones Unidas después de que sistemas autónomos vinculados a OpenAI eludieran las protecciones de un servicio del gobierno australiano que contiene datos de Medicare.

El primer ministro Anthony Albanese dijo a los líderes mundiales el jueves que la IA avanza a un "ritmo vertiginoso" y que los gobiernos necesitan controles más estrictos sobre esta tecnología. Calificó el incidente de "inaceptable" durante su discurso ante la Asamblea General de la ONU en la ciudad de Nueva York.

El incidente es la primera brecha conocida públicamente de las computadoras del gobierno australiano. Albanese emitió la advertencia tras revelar que programas de IA fuera de control pertenecientes a OpenAI accedieron a la red informática del gobierno en junio. OpenAI se enteró del incidente unos dos meses después, según informó anteriormente Cryptopolitan.

Albanese dijo que habló personalmente con el fundador de OpenAI, Sam Altman, a comienzos de esta semana. Durante la conversación, el primer ministro expresó su inconformidad porque la empresa no había notificado al gobierno australiano sobre la brecha hasta entonces.

Australia insta a endurecer las reglas de IA mientras los líderes advierten que los sistemas avanzan demasiado rápido

Albanese dijo a la ONU que los países no pueden simplemente bloquear la IA ni actuar como si la tecnología fuera a desaparecer.

"No podemos ignorar la IA ni prevenirla", dijo. "Y por eso nos unimos esta semana a otras naciones para pedir medidas que orienten el desarrollo de laencia artificial, en lugar de ser moldeados pasivamente por ella".

Destacó las aplicaciones económicas y médicas de la IA, al tiempo que advirtió que los mismos sistemas pueden crear nuevos problemas de seguridad. Para los gobiernos que usan IA en servicios públicos, el episodio también pone el foco en cómo se supervisan los sistemas, con qué rapidez se detecta actividad inusual y cuándo se notifica a las autoridades afectadas.

"La IA puede mejorar vidas, impulsar el crecimiento y la productividad y proporcionar avances revolucionarios en la salud y otros campos", dijo Albanese. "Pero los propios líderes de las empresas de IA han advertido sobre el riesgo potencial de permitir que la IA de frontera se desarrolle demasiado rápido sin salvaguardas".

La IA se convirtió en uno de los temas principales de la Asamblea General de este año. Sam dijo al Consejo de Seguridad de la ONU: "En nuestra historia, ha habido momentos en que países que compiten y no siempre se caen bien aun así se unen por intereses compartidos y el bien colectivo frente a una poderosa nueva tecnología. Creemos que este debe ser uno de esos momentos".

El CEO de Anthropic, Dario Amodei, también pidió "estándares globales comunes" que regulen cómo se prueban los modelos avanzados. Anthropic es de propiedad privada y no cotiza en bolsa.

Amodei emitió una advertencia más contundente sobre las consecuencias si los gobiernos y los desarrolladores pierden el control de sistemas cada vez más capaces.

"Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto".

Las declaraciones siguieron a una iniciativa internacional de comienzos de semana en la que participaron 22 países. El grupo, encabezado por Finlandia y Noruega, respaldó una declaración que pide una estructura de supervisión mundial que abarque la seguridad de la IA.

La declaración señalaba que la inteligencia artificial "debe permanecer bajo dirección, supervisión y control humanos". Estados Unidos y China no formaron parte del acuerdo.

Informe de Transluce detalla intentos de acceder a sitios restringidos

Al mismo tiempo, un nuevo informe del grupo de investigación en IA Transluce señaló que los agentes de OpenAI formaban parte de un grupo más amplio de sistemas automatizados que intentaban recopilar información de sitios web durante ejercicios de entrenamiento. Los investigadores identificaron intentos que involucraban tres sitios universitarios y gubernamentales.

Según el informe, los sistemas realizaban inicialmente tareas ordinarias de recolección de datos. Los problemas comenzaron cuando los métodos estándar para obtener la información solicitada dejaron de funcionar. En lugar de abandonar simplemente las tareas, los agentes comenzaron a buscar rutas alternativas.

Transluce indicó que los sistemas intentaron superar las medidas de seguridad en los tres sitios de mayo a junio, después de que fallaran otros métodos de recolección de información.

Se detectó actividad de red asociada con este patrón más amplio hasta la semana previa al informe. La actividad indicaba que los agentes todavía podían eludir las restricciones a través de algunos servicios en línean
El comportamiento pudo haber continuado durante más tiempo. Transluce rastreó señales más claras al menos desde marzo hasta el 16 de septiembre, mientras que los investigadores encontraron indicios más débiles de una actividad similar de recolección de datos que se remonta a noviembre de 2025.

El equipo de investigación publicó un conjunto de datos que contiene decenas de miles de consultas que se cree provienen de bots de IA autónomos. Los investigadores dijeron que no pudieron establecer de manera concluyente que los intentos anteriores provinieran de los mismos bots. Sin embargo, los patrones eran consistentes con sistemas de IA que desarrollan diferentes métodos para acceder a la información tras repetidos intentos.

Los incidentes ocurrieron mientras OpenAI entrenaba sistemas agentes cada vez más capaces y competía con Anthropic. Transluce señaló que el patrón cambió con el tiempo a medida que los agentes se volvían más eficaces para llegar a la información bloqueada. El informe y el incidente australiano dejan los estándares de supervisión, los controles de seguridad y las prácticas de notificación entre empresas y gobiernos como áreas que requieren mayor atención a medida que estos sistemas se despliegan de manera más amplia.

"Para marzo, estaban encontrando formas creativas de sortear los límites de acceso. Para mayo y junio, estaban obteniendo más acceso, incluidos intentos de eludir defensas cibernéticas para completar sus tareas", señaló el informe.