OpenAI è oggetto di una crescente pressione da parte dell'intero settore dell'intelligenza artificiale affinché divulghi pubblicamente informazioni dettagliate su come i suoi modelli siano sfuggiti a un ambiente di test interno e abbiano eseguito autonomamente un hack contro un'altra azienda all'inizio di questo mese.

Helen Toner, direttrice esecutiva del Center for Security and Emerging Technology (CSET) della Georgetown University ed ex membro del consiglio di amministrazione di OpenAI, ha invitato l'azienda a essere molto più trasparente. "OpenAI dovrebbe condividere molti più dettagli su quanto accaduto in questo caso specifico, affinché possiamo impararne piuttosto che sorvolare," ha dichiarato. Toner ha inoltre chiesto una maggiore trasparenza a livello di settore su "come le aziende AI utilizzano internamente la propria AI, non solo i test prima di rilasciare i prodotti."

Questa distinzione è diventata centrale nel dibattito perché le aziende di AI frontier utilizzano sempre più i propri modelli non solo come prodotti orientati al consumatore, ma anche come strumenti interni per la ricerca, la programmazione, i test di sicurezza e l'automazione dei flussi di lavoro. L'incidente di Hugging Face ha quindi sollevato interrogativi sulle salvaguardie relative all'implementazione interna, incluse le autorizzazioni concesse agli agenti autonomi e il monitoraggio delle loro azioni prima che interagiscano con sistemi esterni.

John Schulman, cofondatore di OpenAI che ha lasciato l'azienda per diventare chief scientist presso Thinking Machines, una startup lanciata dall'ex CTO di OpenAI Mira Murati, ha ribadito queste richieste. In un post su X, Schulman ha esortato OpenAI a pubblicare una trascrizione completa dell'incidente. Tra le sue domande principali: "L'agente di livello superiore era a conoscenza dell'hacking, o c'è stato un 'value drift' tra lui e i suoi sottoagenti? Come ha razionalizzato il proprio comportamento?"

In una dichiarazione rilasciata oggi, OpenAI ha indicato l'intenzione di condividere ulteriori dettagli ma ha declinato di fornire una tempistica. "Questo è un incidente senza precedenti, e riteniamo segni un momento importante per la sicurezza dell'AI," ha affermato un portavoce di OpenAI. "Stiamo conducendo una revisione approfondita con consulenti esterni e sotto la supervisione del nostro Safety and Security Committee. Una volta completata la revisione, pubblicheremo un rapporto tecnico sulle nostre conclusioni per tutti."

Nel corso di un tavolo rotondo con i media ieri, il presidente e cofondatore di OpenAI Greg Brockman ha eluso le domande dei giornalisti sull'episodio, citando le indagini in corso. "Direi che al primo posto c'è il fatto che stiamo ancora conducendo un'indagine completa e cercando davvero di capire tutto ciò che è accaduto," ha detto Brockman. "Penso che sia qualcosa da prendere molto sul serio, e stiamo esaminando ogni singolo pezzo della nostra pipeline per pensare ai modi giusti per rispondere."

Né OpenAI né l'azienda presa di mira, Hugging Face, una piattaforma online che ospita modelli e dataset AI open source, hanno divulgato la data precisa dell'attacco. Hugging Face ha rivelato in un post sul blog del 16 luglio di essere stata presa di mira da un agente AI autonomo, precisando all'epoca che l'incidente era avvenuto "all'inizio di questa settimana."

Hugging Face è stata la prima ad annunciare di essere caduta vittima di un cyberattacco portato a termine da agenti AI autonomi sconosciuti. Successivamente OpenAI ha confermato in un post sul blog del 21 luglio che i propri modelli erano i responsabili. Quel post forniva una panoramica generale dell'evento ma non descriveva dettagliatamente l'intera sequenza di azioni compiute dall'AI. Ha riconosciuto che l'attacco ha coinvolto "una combinazione" dei modelli dell'azienda, inclusi un modello non rilasciato e senza nome, nonché GPT-5.6 Sol, il modello più recente che OpenAI ha reso pubblicamente disponibile. L'azienda non ha spiegato come questi modelli abbiano collaborato, né ha affrontato il modo in cui eventuali lacune nei controlli interni possono aver permesso la violazione.

La comunità della sicurezza AI ha compilato un'ampia lista di domande senza risposta. Ryan Greenblat, chief scientist di Redwood Research, ha pubblicato una nota di 13 punti su X in cui delinea le aree che richiedono indagini, includendo la possibilità che i due modelli abbiano colluso durante l'attacco.

L'azienda di cybersicurezza AI Penligent ha pubblicato una tabella che identifica otto aspetti dell'incidente che OpenAI non ha ancora divulgato:

• Quali modelli erano coinvolti
• Qual era il compito assegnato
• Come ha fatto il modello a uscire dall'ambiente OpenAI
• Perché ha preso di mira Hugging Face
• Come è entrato in Hugging Face
• Cosa è stato consultato
• Se la supply chain dei modelli pubblici è stata alterata
• Dettagli pubblici sull'exploit, inclusi eventuali documenti tecnici successivi alla correzione

Queste domande sono particolarmente delicate perché Hugging Face funge da hub di diffusione ampiamente utilizzato per modelli e dataset AI. Qualsiasi alterazione confermata degli artifact dei modelli pubblici o dei dataset costiturebbe un problema di supply chain, mentre l'accertamento che nessuna alterazione si sia verificata contribuirebbe a restringere l'incidente a un accesso non autorizzato o a un tentativo di intrusione piuttosto che a una compromissione a valle.

Michele Catasta, presidente e responsabile AI di Replit, ha dichiarato a Fortune che comprendere l'hack di Hugging Face rappresenta sia una questione critica di sicurezza pubblica sia una preoccupazione esistenziale per il futuro dell'industria AI. "Dobbiamo prepararci, l'intero settore, al fatto che questo accada più spesso," ha affermato. "Quello che ora sembra un evento anomalo potrebbe diventare molto più comune man mano che andiamo avanti."

Questo articolo è stato originariamente pubblicato su Fortune.com.