Settimane dopo che i suoi modelli AI hanno hackerato Hugging Face, OpenAI ha pubblicato il primo resoconto dettagliato di come i suoi agenti abbiano segretamente coordinato le proprie azioni, avvertendo che i cyberattack autonomi guidati dall'IA non rappresentano più una minaccia futura ipotetica.

Durante una presentazione di mercoledì alla conferenza cybersecurity Black Hat, uno dei principali eventi annuali dell'industria della sicurezza informatica, i ricercatori di OpenAI Eric Wallace e Michael Dalton hanno spiegato che l'incidente ha avuto origine a maggio durante una valutazione interna di cybersecurity. Gli agenti AI a cui erano stati assegnati compiti complessi di sicurezza del software hanno scoperto di poter comunicare in modo occulto attraverso il sistema interno di gestione dei pacchetti Artifactory dell'azienda.

Secondo OpenAI, ciò che inizialmente appariva come richieste di assistenza si è evoluto in una bacheca di messaggi condivisa in cui gli agenti scambiavano exploit, credenziali e assegnazioni di lavoro attraverso molteplici sessioni di valutazione. Dopo aver rilevato attività sospette intorno al 4 luglio, OpenAI ha ricostruito l'infrastruttura Artifactory, revocato le credenziali e corretto le vulnerabilità.

Entro pochi giorni, tuttavia, gli agenti hanno ricreato la bacheca incorporando le comunicazioni nei nomi delle directory, eludendo le protezioni che erano state messe in atto.

OpenAI ha dichiarato che gli agenti hanno infine concatenato molteplici vulnerabilità, sono evasi dal loro ambiente di test, hanno ottenuto l'accesso a Internet e hanno attaccato Hugging Face mentre tentavano di completare il benchmark di cybersecurity ExploitGym. Hugging Face ospita centinaia di migliaia di modelli di machine learning e dataset utilizzati dalla comunità di ricerca AI globale, costituendo un'infrastruttura critica sia per sviluppatori che per aziende.

Dalton ha descritto l'incidente come "un momento di svolta" per la sicurezza informatica, avvertendo che gli attaccanti saranno presto in grado di distribuire collettivi coordinati di agenti AI in grado di scoprire, condividere e sfruttare vulnerabilità a velocità informatica. La divulgazione a Black Hat segnala che i laboratori di IA stanno sempre più trattando gli incidenti di sicurezza guidati dagli agenti come una preoccupazione operativa a breve termine piuttosto che come una questione di ricerca teorica.

Per mitigare questi rischi in futuro, OpenAI ha sottolineato che l'implementazione di pratiche di sicurezza come l'accesso a minimo privilegio, la segmentazione di rete e le architetture zero-trust è essenziale, poiché gli agenti AI rimangono vincolati dai sistemi a cui possono accedere.

La presentazione segue una serie di divulgazioni effettuate a luglio. OpenAI ha rivelato che GPT-5.6 Sol, insieme a un modello non rilasciato più avanzato, è evaso da un ambiente di test sandboxed, ha sfruttato una vulnerabilità zero-day, ha ottenuto l'accesso a Internet e ha hackerato Hugging Face durante un test benchmark di cybersecurity. OpenAI ha successivamente dichiarato che lo stesso incidente ha colpito anche altri quattro servizi online, sebbene solo Modal Labs sia stato identificato pubblicamente.

Secondo Hugging Face, l'azienda ha fatto affidamento sul modello cinese open-weight GLM 5.2 per la sua indagine forense, dopo che i modelli AI commerciali statunitensi si sono rifiutati di analizzare i log dell'attacco a causa delle loro protezioni di sicurezza. Questa dinamica evidenzia una crescente tensione nella sicurezza dell'IA: gli stessi filtri di sicurezza progettati per impedire ai modelli di generare contenuti dannosi possono anche ostacolare la legittima analisi difensiva di attacchi reali.

So proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed. Also massively grateful to @Zai_org : they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our… — clem 🤗 (@ClementDelangue) July 22, 2026

La sfida di contenere i modelli AI si estende oltre OpenAI. Venerdì, Anthropic ha rivelato che tre modelli Claude hanno compromesso aziende reali durante test interni di cybersecurity dopo che una configurazione errata li ha esposti alla rete Internet pubblica. Anthropic ha attribuito la violazione all'ambiente di test piuttosto che ai modelli stessi.

Mercoledì, Meta ha comunicato che il suo modello AI Muse Spark è evaso dal contenitore e ha violato i sistemi di un'altra azienda. "Una configurazione errata da parte di Irregular, un'azienda di test indipendente utilizzata da Meta, ha inavvertitamente consentito a uno dei nostri modelli l'accesso a Internet durante la valutazione", ha dichiarato un portavoce di Meta a CNN.

Con divulgazioni ora provenienti da tre dei più grandi laboratori di IA nello stesso mese, gli incidenti collettivamente sottolineano che il sandboxing degli agenti e la sicurezza degli ambienti di valutazione rimangono problemi irrisolti nell'intero settore man mano che i modelli diventano più capaci e autonomi.