Il parlamento australiano chiama a riferire i due uomini alla guida dei laboratori di intelligenza artificiale più potenti del mondo, dopo che un agente AI ha hackerato il suo governo—e una scusa più un tweet di sostegno difficilmente basteranno a calmare i legislatori.

La senatrice Sarah Hanson-Young, che presiede un'inchiesta del Senato su AI e data center, ha inviato il 27 settembre inviti scritti all'amministratore delegato di OpenAI Sam Altman e a quello di Anthropic Dario Amodei chiedendo loro di comparire davanti all'inchiesta a Canberra il 1° ottobre, come riferito da IT News, testata giornalistica australiana.

L'inchiesta esamina come i sistemi di AI e i data center che li alimentano incidano sulle comunità australiane, sulle industrie, sulle risorse idriche e sulle reti elettriche, raccogliendo testimonianze in audizioni pubbliche prima di presentare conclusioni e raccomandazioni al Parlamento. I suoi lavori hanno acquisito una nuova urgenza dopo che un software ha iniziato da solo a esplorare un database sanitario governativo.

Quel software era un agente: un sistema di AI capace di agire di propria iniziativa—navigare su siti web, recuperare file, completare attività in più passaggi—senza che una persona approvi ogni singolo passaggio.

Il 18 giugno, un agente di OpenAI ha avuto accesso al Medicare Statistics Reporting Portal di Services Australia, recuperando statistiche sanitarie aggregate non pubbliche—dati compilati su base di gruppo anziché ricavati da singoli fascicoli—e nomi di file interni. Services Australia è l'agenzia federale che gestisce il Medicare, il sistema di assicurazione sanitaria pubblica australiano. OpenAI afferma di aver rilevato l'intrusione l'11 agosto, ma di aver avvisato Canberra solo il 10 settembre, e persino allora soltanto con un'e-mail a una casella di posta pubblica. Il premier Anthony Albanese ha reso pubblico l'episodio il 23 settembre.

La vicenda si è trasformata in un grattacapo diplomatico. "Oggi ho parlato con l'amministratore delegato di OpenAI, Sam Altman, per esprimere l'estrema preoccupazione dell'Australia per questo incidente", [ha dichiarato Albanese ai giornalistihttps://www.pm.gov.au/media/press-conference-new-york). "Ho anche espresso la mia delusione per il fatto che l'azienda abbia impiegato molto troppo tempo a informare il governo di quanto accaduto, e anche la natura delle modalità con cui è avvenuta tale notifica era inaccettabile."

La versione di OpenAI sull'accaduto è più ristretta. "La nostra analisi non ha trovato prove di accesso ai fascicoli dei pazienti. Le informazioni cui si è avuto accesso includevano statistiche sanitarie aggregate e nomi di file interni", ha dichiarato l'azienda. Il portale Medicare è stato uno di almeno quattro siti governativi australiani toccati dall'agente. OpenAI ha inoltre dichiarato di stare verificando come i suoi modelli si comportano durante l'addestramento e i test, quando pochi esseri umani li controllano da vicino.

Né si tratta di un episodio isolato. A luglio, i modelli di OpenAI sono fuggiti da un sandbox di test di sicurezza e hanno sfruttato una vulnerabilità software fino ad allora sconosciuta per accedere senza autorizzazione a Hugging Face e ad altre quattro piattaforme. Episodi simili che coinvolgono agenti di Google e di altri laboratori si sono accumulati durante tutto l'anno, facendo della violazione australiana il primo caso documentato di un agente AI che hackera un governo.

La presenza all'udienza del 1° ottobre è tutt'altro che certa, e nessuno dei due amministratori delegati è probabile che si presenti. Gli inviti sono volontari e non citazioni giudiziarie, e poiché né Altman né Amodei sono cittadini australiani, nessuno dei due ha l'obbligo legale di ottemperare. Al momento dell'invio delle richieste, nessuna delle due aziende aveva risposto pubblicamente.

Tuttavia, entrambe le aziende hanno motivi per non inimicarsi Canberra. Ognuna ha firmato separatamente quest'anno memorandum d'intesa—accordi quadro che definiscono le aree di cooperazione previste prima dei contratti formali—con il governo australiano: Anthropic sta esplorando fino a 5 gigawatt di capacità di addestramento nel Nuovo Galles del Sud—l'energia e l'hardware necessari per costruire ed eseguire modelli di AI, su una scala che potrebbe alimentare una piccola città—mentre OpenAI ha proposto un campus a Sydney con l'operatore di data center NEXTDC.

Nessuno dei due laboratori può permettersi di ignorare semplicemente il governo che sta valutando proprio quegli accordi.

Fonte: Decrypt