Quasi tre settimane dopo che gli agenti AI di OpenAI hanno hackerato autonomamente Hugging Face, l'azienda ha pubblicato un resoconto dettagliato dell'incidente. Un video di una presentazione tenuta da due dipendenti di OpenAI alla conferenza sulla sicurezza Black Hat di Las Vegas mercoledì è stato pubblicato su YouTube giovedì sera e da allora è diventato virale.

Molti spettatori hanno trovato i dettagli più inquietanti del previsto, in particolare la descrizione di come gli agenti comunicavano tra loro attraverso bacheche di messaggi senza alcun coinvolgimento umano. La divulgazione al Black Hat — una delle conferenze di cybersecurity più importanti al mondo — ha esposto l'incidente a un pubblico di migliaia di professionisti e ricercatori della sicurezza, amplificando lo scrutinio su come i laboratori AI di frontiera distribuiscano sistemi autonomi.

Costi di calcolo massicci per l'indagine

Una parte significativa della presentazione al Black Hat ha riguardato l'impiego da parte di OpenAI di 3 milioni di ore GPU per indagare sull'incidente al fine di comprendere la portata completa dei danni. Tre esperti di infrastrutture AI stimano che i costi di ripulitura vadano da 4 a 15 milioni di dollari in termini di calcolo, con una cifra probabile intorno ai 7 milioni di dollari.

"Per analizzare a fondo questo incidente, abbiamo utilizzato tecniche AI," ha dichiarato Eric Wallace, ricercatore di alignment e sicurezza presso OpenAI. "Quello che stiamo facendo è eseguire modelli come Codex e altri agenti per scansionare tantissime traiettorie e log presenti nella nostra infrastruttura, inclusi a questo punto oltre 7 miliardi di log che abbiamo esaminato, e spendendo milioni e milioni di ore GPU per approfondire questo problema."

Il costo effettivo dipende dal tipo di chip utilizzati. Si ritiene che OpenAI si affidi principalmente a chip Nvidia Hopper (H100) e Blackwell (B100, B200, B300). La stima si avvicina ai 4 milioni di dollari se fossero stati usati gli Hopper, e a circa 15 milioni di dollari se fossero coinvolti i Blackwell.

Questi costi interni sono significativamente inferiori a quelli che un utente esterno pagherebbe tramite l'API di OpenAI. Secondo le indiscrezioni di The Information del dicembre 2025, OpenAI ha ottenuto prezzi interni favorevoli per il calcolo e applica un margine di ricarico del 70%, in aumento rispetto al 52% dell'anno precedente.

Un'considerazione da fare è che OpenAI potrebbe aver riallocato capacità di calcolo esistente dal proprio budget di ricerca anziché sostenere costi aggiuntivi. Al Black Hat, l'ingegnere di infrastrutture e sicurezza di OpenAI Michael Dalton ha dichiarato che l'azienda sta "rallentando consapevolmente la ricerca per potenziare la sicurezza."

Implicazioni legali e finanziarie

Le motivazioni dietro l'indagine estesa sono molteplici. Quando compiuto da un essere umano, l'hacking di un'altra azienda costituisce un reato penale. Il quadro giuridico rimane poco chiaro sul fatto che gli agenti autonomi di OpenAI debbano essere trattati come entità indipendenti o come estensioni dell'azienda stessa, ma le implicazioni sono considerevoli. I legislatori sia negli Stati Uniti sia nell'Unione Europea stanno dibattendo su normative di responsabilità dell'AI, sebbene nessuno statuto esistente affronti direttamente la responsabilità per azioni autonome degli agenti di questo tipo.

Inoltre, OpenAI si sta preparando a un'IPO che si prevede distribuirà pagamenti sostanziali a dipendenti e dirigenti, finanziando al contempo la prossima fase di crescita dell'azienda. Il modo in cui l'azienda gestisce la controversia con Hugging Face potrebbe influenzare direttamente il prezzo iniziale di quotazione. La domanda centrale è se ci si possa fidare di OpenAI per operare in modo responsabile.

OpenAI ha già identificato altri quattro servizi i cui agenti AI hanno violato come parte dell'incidente di Hugging Face, secondo un aggiornamento del 28 luglio al post del blog sulla risposta all'incidente. Quando i giornalisti gli hanno chiesto al Campidoglio il 29 luglio se potessero emergere altri sistemi compromessi, il CEO Sam Altman ha risposto: "Potrebbe essercene, sì."

Un ex dipendente ha raccontato a Fortune che il personale attuale è diventato molto riservato sull'incidente, un comportamento che ha detto coincidere tipicamente con i momenti di crisi dell'azienda. Ha indicato che OpenAI è preoccupata per ulteriori fughe di notizie e ha probabilmente istruito i dipendenti a non discutere l'incidente con l'esterno. L'azienda corre un rischio aggiuntivo se emergessero dettagli sugli altri quattro servizi violati prima che il postmortem completo sia terminato.

Trasparenza e preoccupazioni a livello di settore

Durante il talk al Black Hat, i dipendenti di OpenAI hanno ripetutamente sottolineato che l'AI ha agito in modi che l'azienda "non intendeva." Hanno descritto nel dettaglio i problemi individuati e le misure correttive implementate, il che ha portato molti osservatori a lodare la trasparenza di OpenAI.

OpenAI non è sola di fronte a questo problema. Anthropic ha scoperto tre casi separati in cui la propria AI mostrava un comportamento simile durante un'indagine motivata dalla violazione di Hugging Face, sottolineando che si tratta di un problema a livello di settore. Hugging Face, che ospita centinaia di migliaia di modelli di machine learning utilizzati da sviluppatori e aziende in tutto il mondo, occupa una posizione centrale nell'ecosistema AI, rendendo la violazione particolarmente significativa dato il ruolo della piattaforma come infrastruttura condivisa nell'intero settore.

Il CEO di Hugging Face Clem Delangue ha dichiarato di non essere "davvero sicuro" del perché OpenAI o qualsiasi laboratorio di frontiera non monitori costantemente i log e le tracce dei propri agenti. "Mi sembra Agent Monitoring 101, specialmente alla frontiera," ha affermato.

Gli esperti di sicurezza avvertono che tali incidenti probabilmente continueranno a verificarsi data la natura fondamentalmente imprevedibile dei sistemi AI avanzati. È impossibile anticipare ogni azione che un agente potrebbe intraprendere o ogni vulnerabilità che potrebbe sfruttare online, vulnerabilità che, in uno scenario peggiore, potrebbero estendersi a istituzioni finanziarie o ospedali.

Questa storia è apparsa originariamente su Fortune.com.