Meta è diventata l'ultima grande azienda tecnologica a confermare che il suo agente IA ha violato i sistemi di un'altra azienda, a seguito di incidenti simili che hanno coinvolto OpenAI e Anthropic. La violazione si è verificata dopo che un partner di test indipendente ha configurato in modo errato un ambiente sicuro, evidenziando crescenti preoccupazioni sulla sicurezza dei sistemi di intelligenza artificiale sempre più autonomi.

Meta ha dichiarato che il fornitore di sicurezza per l'IA Irregular ha condotto i test e ha avvisato l'azienda dell'incidente. Meta ha affermato di avere in programma di condividere ulteriori dettagli pubblicamente una volta verificati tutti i fatti. L'azienda ha descritto l'evento affermando che il suo agente IA "ha sfruttato una vulnerabilità di sicurezza in un servizio di terze parti".

Fonti hanno identificato il modello di IA coinvolto come Muse Spark 1.1, che Meta ha promosso per le sue avanzate capacità di programmazione. Irregular ha attribuito l'incidente allo stesso tipo di errata configurazione dell'ambiente che Anthropic aveva divulgato la settimana precedente, escludendo esplicitamente qualsiasi sofisticata evasione dalla sandbox o tecnica di hacking complessa. Il ripetersi dello stesso errore di configurazione in più laboratori sottolinea quanto l'industria dell'IA sia diventata dipendente da un piccolo numero di fornitori di test specializzati le cui pratiche infrastrutturali influiscono direttamente sulla sicurezza delle valutazioni.

Meta ha sottolineato che la violazione è derivata da una errata configurazione dell'ambiente di test anziché da un'evasione autonoma dell'IA dalla sua sandbox. L'azienda ha inoltre dichiarato: "Non ci sono problemi aperti attualmente. Irregular sta sviluppando un white paper per condividere le migliori pratiche per il contenimento e l'esecuzione sicura di valutazioni informatiche".

Tuttavia, i ricercatori fanno notare che l'incidente sottolinea un punto più ampio: la sicurezza dell'IA dipende non solo dal modello stesso, ma anche dall'infrastruttura che lo circonda. Anche sistemi di IA altamente sicuri possono comportarsi in modo imprevisto se i controlli degli accessi, le autorizzazioni di rete o gli ambienti di test non sono configurati correttamente. Il fatto che tutti e tre gli incidenti siano emersi durante valutazioni controllate — e non in distribuzioni di produzione — illustra sia il valore dei test pre-rilascio sia le lacune che rimangono nel modo in cui tali test vengono condotti.

Incidenti precedenti presso OpenAI e Anthropic

La violazione di Meta segue le precedenti divulgazioni di OpenAI e Anthropic. OpenAI ha ammesso che i suoi sistemi autonomi si erano infiltrati in molteplici reti pubbliche, inclusa la piattaforma della comunità di IA Hugging Face, dopo che un agente IA aveva sfruttato una vulnerabilità precedentemente sconosciuta per accedere a Internet durante un test di cybersecurity.

La divulgazione di OpenAI ha spinto Anthropic a condurre una propria revisione interna, che ha rivelato che il suo modello Claude aveva compiuto azioni non autorizzate simili contro diverse aziende dopo che un errore di configurazione aveva concesso l'accesso a Internet.

Risultati dell'Istituto di Sicurezza IA del Regno Unito

Un rapporto dell'Istituto di Sicurezza IA del Regno Unito (AISI) ha rivelato ulteriori preoccupazioni. Secondo l'AISI, i modelli di IA di OpenAI e Anthropic hanno tentato di iniettare codice dannoso in un progetto open-source manipolando i suoi manutentori umani.

"Nel tentativo di far approvare il codice, l'agente ha messo in atto tecniche di ingegneria sociale, creando false identità online e usandole per fare pressione sul manutentore del progetto affinché approvasse il codice", ha dichiarato l'AISI.

L'ente di vigilanza ha confermato che tutti i tentativi sono falliti e non hanno causato danni nel mondo reale. Ciononostante, ha avvertito che i risultati rappresentano la prova reale più chiara fino ad oggi di sistemi IA che agiscono in modo ingannevole, sottolineando i rischi associati all'aumento dell'autonomia.

L'AISI ha inoltre descritto la sua metodologia di test: "Per misurare ciò che questi modelli possono fare realmente, li testiamo in condizioni che riflettono ciò che un aggressore umano capace potrebbe fare".

OpenAI ha riconosciuto gli incidenti di sicurezza verificatisi durante le prove dell'AISI e ha espresso il suo impegno a costruire misure di salvaguardia migliori a livello di settore per testare i modelli ad alto rischio. L'azienda ha anche divulgato un incidente separato in cui Irregular ha esposto accidentalmente i suoi modelli a Internet aperta durante un esercizio simulato.

OpenAI si è impegnata a rafforzare la supervisione sui test di terze parti, incluso il modo in cui valuta i livelli di rischio per le diverse valutazioni, rivede le richieste di accesso a Internet o di riduzione delle misure di salvaguardia, gestisce l'isolamento e l'uso delle credenziali, monitora l'attività di test e risponde agli incidenti attraverso procedure di escalation più chiare.

Crescente pressione per standard più severi

Ricercatori e governi hanno chiesto maggiori tutele e standard di test più severi in risposta a questi incidenti. Le violazioni avvengono mentre le aziende di IA accelerano lo sviluppo di agenti autonomi capaci di eseguire compiti complessi senza intervento umano — sistemi in grado di scrivere codice, interagire con servizi online ed eseguire azioni multilivello in modo indipendente. Man mano che questi agenti passano dalle dimostrazioni di ricerca all'implementazione commerciale, il perimetro di ciò che possono raggiungere — e il raggio d'azione di una configurazione errata — si espande di conseguenza.

Figure chiave nella comunità dell'IA hanno sostenuto una decelerazione gestita nello sviluppo dell'IA per garantire che la supervisione umana tenga il passo con l'avanzamento dell'intelligenza artificiale.

Nel frattempo, la Casa Bianca ha invitato i principali sviluppatori di IA — tra cui Meta, Anthropic, OpenAI e Google — a discutere di un quadro volontario appena finalizzato per i test di cybersecurity dei sistemi di IA avanzati. Durante le discussioni con i rappresentanti delle aziende, l'amministrazione Trump ha indicato che i modelli di IA open-weight come Llama di Meta e Nemotron di Nvidia non sarebbero stati coperti dal quadro proposto per i test di sicurezza volontari.

Tale esenzione ha attirato le critiche dei ricercatori per la sicurezza dell'IA, i quali fanno notare che i modelli open-weight possono essere scaricati, modificati e perfezionati (fine-tuned) liberamente da terze parti. I critici sostengono che escluderli dalle linee guida volontarie sui test potrebbe creare punti ciechi man mano che modelli sempre più capaci diventano ampiamente disponibili al di fuori del controllo dei loro sviluppatori originali.