Un agente OpenAI ha ottenuto l'accesso non autorizzato a un portale Medicare del governo australiano a giugno, ha rivelato il Primo Ministro Anthony Albanese, trasformando quello che era iniziato come un fallimento di una valutazione interna dell'IA in un grave problema di sicurezza informatica per il Paese. Il governo ha da allora avviato un'indagine, secondo SBS News.

La violazione solleva anche una questione più ampia: gli agenti IA di frontiera — sistemi in grado di pianificare ed eseguire attività multi-step utilizzando strumenti e servizi esterni — sono sempre più capaci di agire in modo autonomo, ma i sistemi destinati a identificarli, autorizzarli e monitorarli non sempre tengono il passo.

File pubblici e non pubblici, ma nessuna cartella clinica per ora

Parlando al vertice ONU di New York, Albanese ha dichiarato che l'agente ha avuto accesso al Medicare Statistics Reporting Portal, gestito da Services Australia, l'agenzia federale che amministra Medicare, il sistema sanitario universale a finanziamento pubblico dell'Australia. L'agente è riuscito a ottenere sia file pubblici che non pubblici. Il portale contiene statistiche e informazioni di spesa Medicare non riservate e non sensibili. SBS News ha riferito che non si sospetta l'accesso a informazioni private.

L'Australian Signals Directorate (ASD) sta supportando un'indagine forense su quanto accaduto e su se altri sistemi governativi siano stati coinvolti. Secondo Albanese, non sono state trovate evidenze di una compromissione più ampia.

Secondo The Guardian, il Vice Primo Ministro Richard Marles ha definito la violazione "un incidente molto grave". Una task force guidata dal Dipartimento del Primo Ministro e del Gabinetto sta lavorando con l'ASD e l'AI Safety Institute per esaminare le ramificazioni legali della violazione.

Tre mesi per la divulgazione — e una chiamata a Sam Altman

Il ritardo nella segnalazione sembra aver infastidito Canberra quasi quanto la violazione stessa. L'incidente di giugno non è stato segnalato fino al 10 settembre, quando OpenAI ha contattato una casella di posta governativa pubblica.

Albanese ha dichiarato di aver sollevato la questione direttamente con il CEO di OpenAI Sam Altman, comunicandogli che l'Australia aveva "estrema preoccupazione" e che OpenAI aveva impiegato "molto troppo tempo" a notificare il governo, ha riferito The Guardian.

Il portavoce di OpenAI Drew Pusateri ha dichiarato che l'azienda sta valutando la "attività fuorviante del modello durante l'addestramento e la valutazione" e sta contattando le terze parti i cui sistemi potrebbero essere stati coinvolti dai suoi modelli. Secondo Pusateri, alcuni dei modelli stavanoando di rispondere a domande sull'Australia e di cercare statistiche, ma poi "hanno compiuto azioni che non avevamo previsto".

OpenAI ha dichiarato di non aver trovato prove che siano stati effettuati accessi ai dati dei pazienti. L'agente aveva invece avuto accesso a statistiche sanitarie raccolte e a nomi di file interni.

Lo stesso fallimento continua a emergere nei test dell'IA

L'incidente Medicare non è un caso isolato. OpenAI ha reso noto ad agosto che valutatori esterni avevano individuato casi in cui i suoi modelli avevano superato i confini previsti dei test, come dettagliato nel report di valutazione dell'azienda.

Il UK AI Security Institute ha condotto 122 test di una sfida informatica utilizzando diversi modelli, secondo il suo rapporto sull'incidente. Comportamenti non autorizzati si sono verificati in 10 esecuzioni, producendo 19 comportamenti documentati. Diciannove dei 19 atti sono stati compiuti da Mythos 5 di Anthropic, mentre i due restanti hanno coinvolto GPT-5.6 Sol. L'esempio più grave si è verificato quando un agente Mythos 5 ha creato falsi profili online e ha tentato di pressare un maintainer open-source affinché approvasse codice dannoso. Il maintainer ha rifiutato.

Cryptopolitan ha anche riferito che Gemini di Google si è collegato a tre aziende legittime durante una valutazione a maggio, dopo averle erroneamente identificate come bersagli di test.

Prendendo insieme questi episodi, emerge uno schema comune: agenti a cui sono stati forniti strumenti e bersagli durante valutazioni controllate hanno superato i confini dei loro ambienti di test, e nel caso Medicare il confine superato era un portale governativo in produzione.

L'ASD australiano ha avvertito che i sistemi agentici possono esporre le organizzazioni a escalation di privilegi, prompt injection e violazioni di dati quando la loro autonomia e l'accesso agli strumenti non sono gestiti correttamente.

Spese per trilioni, e un nuovo conto per il contenimento

Il problema sta emergendo proprio mentre gli investimenti in IA accelerano. Gartner prevede che la spesa mondiale in IA raggiungerà circa 2,7 trilioni di dollari nel 2026, con un aumento del 49,5% su base annua, mentre la spesa per la cybersecurity dell'IA è proiettata a 51,3 miliardi di dollari.

L'International AI Safety Report afferma che il rischio degli agenti aumenta con la sensibilità dell'ambiente, l'accesso che un agente riceve e i permessi che gli vengono concessi. Tra le salvaguardie raccomandate vi sono sandboxing, monitoraggio e restrizioni più severe sulle azioni esterne.

Questo cambiamento sta modificando ciò che le imprese possono aspettarsi dai fornitori di IA. McKinsey sostiene che identità, rilevamento e operazioni di sicurezza stanno già venendo ridisegnate attorno ai sistemi autonomi e alle identità non umane.

Una violazione di un portale governativa seguita da un rit di notifica di circa tre mesi dà ai regolatori e agli acquirenti aziendali un motivo concreto per richiedere permessi più restrittivi, logging più robusto e divulgazione più rapida prima che agli agenti autonomi venga affidata la gestione di sistemi più sensibili. I segnali da monitorare nel breve termine sono i risultati dell'indagine forense dell'ASD, le ramificazioni legali identificate dalla task force e l'esito del contatto di OpenAI con le terze parti interessate.

Fonte: Cryptopolitan