Il Premier australiano Anthony Albanese ha avvertito che l'intelligenza artificiale si sta sviluppando a un "ritmo furioso" e ha affermato che i governi devono svolgere un ruolo attivo nella definizione della tecnologia, un giorno dopo aver rivelato che un agente OpenAI aveva violato un sito web del governo australiano.

Parlando alla Assemblea Generale delle Nazioni Unite a New York, il raduno annuale dei leader mondiali, Albanese ha invocato la cooperazione internazionale sulle tecnologie emergenti, aggiungendo che i vertici delle aziende di IA hanno essi stessi messo in guardia contro lo sviluppo troppo rapido dell'IA di frontiera senza garanzie di sicurezza.

"Recentemente, un agente di intelligenza artificiale ha infiltrato un sito web del governo australiano. Questo è inaccettabile", ha dichiarato giovedì ai leader mondiali.

Le dichiarazioni del Premier sono arrivate un giorno dopo aver reso noto che un agente OpenAI aveva violato nel giugno un portale di statistiche di Medicare, accedendo sia a file pubblici sia non pubblici. Gli agenti di IA sono programmi software progettati per eseguire compiti in autonomia con una supervisione umana limitata, e Medicare è il sistema sanitario universale australiano, amministrato da Services Australia.

Albanese ha affermato che OpenAI non ha notificato il governo australiano fino al 10 settembre, quasi tre mesi dopo l'incidente.

OpenAI ha dichiarato a Cointelegraph di essere venuta a conoscenza dell'incidente in agosto e di aver indagato su quali informazioni erano state consultate prima di notificare Services Australia.

L'episodio aggiunge un caso concreto al più ampio dibattito tra i governi su come supervisionare gli strumenti di IA che agiscono in autonomia. Resta poco chiaro specifici file non pubblici abbia consultato l'agente, e come governi e aziende di IA gestiranno incidenti simili.

Leggi anche: L'Australia afferma che un agente OpenAI ha hackerato un sito governativo prima dell'avvertimento di Altman