El parlamento australiano está citando a los dos hombres que dirigen los laboratorios de IA más poderosos del mundo, después de que un agente de inteligencia artificial hackeara a su gobierno, y una disculpa más un tuit de apoyo probablemente no basten para calmar a los legisladores.

La senadora Sarah Hanson-Young, que preside una investigación del Senado sobre IA y centros de datos, envió invitaciones por escrito el 27 de septiembre solicitando que el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, comparecieran ante la investigación en Canberra el 1 de octubre, según reportó IT News, medio de noticias australiano.

La investigación examina cómo los sistemas de IA y los centros de datos que los operan afectan a las comunidades, industrias, suministros de agua y redes eléctricas australianas, y recopila evidencia en audiencias públicas antes de presentar hallazgos y recomendaciones al Parlamento. Su labor adquirió una urgencia renovada cuando un software comenzó a explorar por sí solo una base de datos de salud del gobierno.

Ese software era un agente: un sistema de IA capaz de actuar por iniciativa propia, navegar sitios web, recuperar archivos y completar tareas de múltiples pasos, sin que una persona apruebe cada paso.

El 18 de junio, un agente de OpenAI accedió al Medicare Statistics Reporting Portal de Services Australia, obteniendo estadísticas de salud agregadas no públicas, cifras compiladas por grupos y no extraídas de registros individuales, así como nombres de archivos internos. Services Australia es la agencia federal que administra Medicare, el sistema de seguro de salud financiado con fondos públicos de Australia. OpenAI afirma que detectó la intrusión el 11 de agosto, pero no notificó a Canberra hasta el 10 de septiembre, e incluso entonces solo mediante un correo electrónico a una bandeja de entrada pública. El primer ministro Anthony Albanese hizo público el incidente el 23 de septiembre.

El episodio se ha convertido en un dolor de cabeza diplomático. "Hoy hablé con el CEO de OpenAI, Sam Altman, para expresar larema preocupación de Australia por este incidente", dijo Albanese a los reporteros. "También expresé mi decepción de que la compañía tardara demasiado en informar al gobierno lo que había ocurrido, y que la naturaleza de la forma en que se realizó esa notificación también fue inaceptable".

La propia versión de OpenAI sobre la brecha es más limitada. "Nuestra revisión no encontró evidencia de que se accediera a registros de pacientes. La información a la que se accedió incluía estadísticas de salud agregadas y nombres de archivos internos", dijo la compañía. El portal de Medicare fue uno de al menos cuatro sitios gubernamentales australianos que el agente tocó. OpenAI ha dicho desde entonces que está revisando cómo se comportan sus modelos durante el entrenamiento y las pruebas, cuando pocos humanos los supervisan de cerca.

Tampoco se trata de un incidente aislado. En julio, los modelos de OpenAI escaparon de un entorno de pruebas de seguridad y utilizaron una falla de software previamente desconocida para acceder a Hugging Face y a otras cuatro plataformas sin autorización. Episodios similares que involucran agentes de Google y otros laboratorios se han acumulado a lo largo del año, lo que convirtió la brecha en Australia en el primer caso documentado de un agente de IA hackeando a un gobierno.

La asistencia a la audiencia del 1 de octubre está lejos de ser segura, y es probable que ninguno de los dos CEO se presente. Las invitaciones son voluntarias en lugar de citaciones judiciales, y dado que ni Altman ni Amodei son ciudadanos australianos, ninguno tiene la obligación legal de cumplir. Hasta el momento en que se enviaron las solicitudes, ninguna de las dos compañías había respondido públicamente.

Sin embargo, ambas compañías tienen razones para mantenerse en buenos términos con Canberra. Cada una firmó por separado memorandos de entendimiento, acuerdos marco que establecen las áreas previstas de cooperación antes de los contratos formales, con el gobierno australiano este año: Anthropic está explorando hasta 5 gigavatios de capacidad de entrenamiento en Nueva Gales del Sur, la energía y el hardware informático necesarios para construir y ejecutar modelos de IA, a una escala que podría abastecer a una ciudad pequeña, mientras que OpenAI tiene propuesto un campus en Sídney con el operador de centros de datos NEXTDC.

Ninguno de los dos laboratorios puede permitirse simplemente ignorar al gobierno que actualmente evalúa esos acuerdos.

Fuente: Decrypt