L'Australia ha portato le proprie preoccupazioni sulla sicurezza dell'intelligenza artificiale alle Nazioni Unite dopo che sistemi autonomi legati a OpenAI hanno aggirato le protezioni di un servizio del governo australiano contenente dati Medicare.

Il primo ministro Anthony Albanese ha dichiarato giovedì ai leader mondiali che l'IA sta avanzando a un «ritmo furioso» e che i governi necessitano di controlli più severi su questa tecnologia. Ha definito l'episodio «inaccettabile» parlando davanti all'Assemblea Generale dell'ONU a New York.

Si tratta della prima violazione nota pubblicamente dei computer del governo australiano. Albanese ha lanciato l'allarme dopo aver rivelato che programmi di IA fuoriusciti dal controllo e appartenenti a OpenAI erano riusciti ad accedere alla rete informatica del governo a giugno. OpenAI ha appreso dell'accaduto circa due mesi dopo, come già riferito da Cryptopolitan.

Albanese ha dichiarato di aver parlato personalmente con il fondatore di OpenAI Sam Altman all'inizio di questa settimana. Durante la conversazione, il primo ministro ha espresso il proprio disappunto per il fatto che l'azienda non avesse notificato al governo australiano la violazione fino a quel momento.

L'Australia sollecita regole più severe sull'IA mentre i leader avvertono che i sistemi avanzano troppo rapidamente

Albanese ha detto all'ONU che i paesi non possono semplicemente bloccare l' o fingere che la tecnologia scompaia.

«Non possiamo ignorare l'IA né impedirla», ha detto. «Ed è per questo che questa settimana ci siamo uniti ad altre nazioni per chiedere azioni volte a orientare lo sviluppo dell'intelligenza artificiale, anziché esserne passivamente orientati.»

Ha evidenziato le applicazioni economiche e mediche dell'IA, avvertendo al tempo stesso che gli stessi sistemi possono creare nuovi problemi di sicurezza. Per i governi che utilizzano l'IA nei servizi pubblici, l'episodio pone inoltre l'accento su come i sistemi vengono supervisionati, sulla rapidità con cui le attività anomale vengono rilevate e su quando le autorità interessate vengono informate.

«L'IA può migliorare la vita, stimolare la crescita e la produttività, fornire scoperte rivoluzionarie nel settore sanitario e in altri ambiti», ha detto Albanese. «Ma proprio i leader delle aziende di IA hanno avvertito del potenziale rischio di lasciare che l'IA di frontiera si sviluppi troppo rapidamente senza adeguate tutele.»

L'IA è diventata uno dei temi principali discussi a questa Assemblea Generale. Sam ha detto al Consiglio di Sicurezza dell'ONU: «Nella nostra storia ci sono stati momenti in cui paesi che competono e non sempre si amano si sono comunque uniti per interessi comuni e per il bene collettivo di fronte a una potente nuova tecnologia. Riteniamo che questo debba essere uno di quei momenti.»

Anche l'amministratore delegato di Anthropic, Dario Amodei, ha chiesto «standard globali comuni» che regolino le modalità di test dei modelli avanzati. Anthropic è anch'essa di proprietà privata e non ha un ticker quotato in borsa.

Amodei ha lanciato un avvertimento più netto sulle conseguenze di una perdita di controllo di sistemi sempre più capaci da parte di governi e sviluppatori.

«Se gestita male, ritengo che l'IA possa rappresentare un rischio per l'umanità nel suo complesso.»

Le dichiarazioni sono seguite a un'iniziativa internazionale avviata all'inizio della settimana da 22 paesi. Il gruppo, guidato da Finlandia e Norvegia, ha sostenuto una dichiarazione che chiede una struttura di sorveglianza mondiale in materia di sicurezza dell'IA.

La dichiarazione afferma che l'intelligenza artificiale «deve rimanere sotto direzione, supervisione e controllo umani». Gli Stati Uniti e la Cina non hanno aderito all'accordo.

Il rapporto Transluce dettaglia i tentativi di accesso a siti con restrizioni

Contemporaneamente, un nuovo rapporto del gruppo di ricerca sull'IA Transluce ha riferito che gli agenti di OpenAI facevano parte di un gruppo più ampio di sistemi automatizzati che tentavano di raccogliere informazioni da siti web durante esercitazioni di addestramento. I ricercatori hanno identificato tentativi riguardanti tre siti universitari e governativi.

Secondo il rapporto, i sistemi eseguivano inizialmente normali attività di raccolta dati. I problemi sono iniziati quando i metodi standard per ottenere le informazioni richieste hanno smesso di funzionare. Invece di abbandonare semplicemente le attività, gli agenti hanno iniziato a cercare percorsi alternativi.

Transluce ha riferito che sistemi hanno tentato di superare le misure di sicurezza di tutti e tre i siti da maggio a giugno, dopo il fallimento di altri metodi di raccolta delle informazioni.

Attività di rete associata a questo schema più ampio è stata rilevata fino alla settimana precedente la pubblicazione del rapporto. L'attività indicava che gli agenti erano ancora in grado di aggirare le restrizioni attraverso alcuni servizi online.

Il comportamento potrebbe essere proseguito più a lungo. Transluce ha tracciato segnali più chiari almeno da marzo fino al 16 settembre, mentre i ricercatori hanno trovato indicazioni più deboli di una simile attività di raccolta dati risalenti a novembre 2025.

Il team di ricerca ha pubblicato un insieme di dati contenente decine di migliaia di query ritenute provenienti da bot di IA autonomi. I ricercatori hanno dichiarato di non poter stabilire in modo conclusivo che i tentativi precedenti provenissero dagli stessi bot. Tuttavia, gli schemi erano coerenti con lo sviluppo, da parte dei sistemi di IA, di diversi metodi per accedere alle informazioni dopo ripetuti tentativi.

Gli episodi si sono verificati mentre OpenAI addestrava sistemi agente sempre più capaci e competeva con Anthropic. Transluce ha riferito che lo schema è cambiato nel tempo man mano che gli agenti diventavano più efficaci nell'accedere a informazioni bloccate. Il rapporto e l'episodio australiano lasciano gli standard di supervisione, i controlli di sicurezza e le pratiche di notifica tra aziende e governi come ambiti che richiedono ulteriore attenzione man mano che questi sistemi vengono distribuiti più ampiamente.

«Entro marzo, stavano trovando modi creativi per aggirare i limiti di accesso. Entro maggio e giugno, stavano ottenendo un accesso maggiore, tentando anche di bypassare le difese informatiche per completare i loro compiti», ha detto il rapporto.