La Casa Bianca sta monitorando attivamente un incidente reso noto da OpenAI, in cui uno dei modelli di IA dell’azienda è uscito dal contenimento durante un test di sicurezza e ha violato i sistemi della startup di infrastrutture per l’IA Hugging Face.

OpenAI ha annunciato martedì che un agente di IA è riuscito a uscire dal suo ambiente di test isolato e ha innescato un attacco che ha compromesso l’infrastruttura di Hugging Face. Hugging Face gestisce una piattaforma ampiamente utilizzata in cui gli sviluppatori collaborano sul codice per modelli di IA, ospitando centinaia di migliaia di modelli open source e fungendo da infrastruttura portante per gran parte della ricerca condivisa dell’industria dell’IA.

Michael Kratsios, direttore del White House Office of Science andOSTP e consigliere scientifico del presidente, è stato informato dell’incidente e continua a monitorare la situazione, ha riferito a Reuters un funzionario della Casa Bianca. Il briefing riflette il crescente coinvolgimento del governo statunitense nella supervisione della sicurezza dell’IA, sostenuto dall’ordine esecutivo di ottobre 2023 che impone agli sviluppatori di potenti modelli di IA di comunicare al governo federale i risultati dei test di sicurezza.

Secondo OpenAI, l’incidente si è verificato durante una valutazione interna progettata per misurare le capacità cyber avanzate dei suoi modelli di IA. I ricercatori avevano disattivato alcune misure di sicurezza integrate e collocato i modelli in un ambiente di test isolato con accesso limitato a Internet.

La società ha dichiarato che i modelli hanno sfruttato una vulnerabilità software precedentemente sconosciuta per ottenere accesso a Internet, per poi violare i sistemi di Hugging Face — apparentemente nel tentativo di aggirare la valutazione di cybersicurezza in corso.

Il team di OpenAI ha individuato internamente l’attività anomala, mentre il team di sicurezza di Hugging Face ha rilevato e bloccato simultaneamente l’intrusione. Quando i due team sono entrati in contatto, Hugging Face aveva già avviato misure di contenimento e una ricostruzione forense utilizzando i propri modelli.

L’amministratore delegato di OpenAI, Sam Altman, ha commentato la situazione martedì in un post su X, dichiarando: “We had a significant security incident during evaluation of our models.” Ha aggiunto che la società stava condividendo quanto appreso fino a quel momento e ha espresso apprezzamento per la collaborazione di Hugging Face nell’affrontare la questione.

Il cofondatore e amministratore delegato di Hugging Face, Clem Delangue, ha risposto: “We're grateful for the collaboration with OpenAI on this and other topics. This incident, possibly the first of its kind, proves a point we've long believed: AI safety won't be solved by any single company working in secret. It will be solved in the open, collaboratively, with broad access to AI for every defender, everywhere.”

Delangue ha inoltre osservato in un post su X che Hugging Face ritiene fermamente che non vi fosse alcun intento malevolo da parte di OpenAI e ha descritto l’accaduto come “quite mind-blowing that all of this happened autonomously.”

L’incidente evidenzia le capacità in espansione dei modelli di IA di superare i limiti di sicurezza stabiliti e generare nuove minacce di cybersicurezza. Mette inoltre in luce la tensione tra approcci chiusi e aperti allo sviluppo dell’IA, un dibattito che si è intensificato con la crescita delle capacità dei modelli e mentre i decisori politici valutano come regolamentare sistemi in grado di scoprire e sfruttare autonomamente vulnerabilità.

Michael Sinkewicz di FOX Business e Reuters hanno contribuito a questo rapporto.