Martedì scorso, sul sito di OpenAI è apparso un post del blog con un titolo innocuo, ma conteneva una notizia clamorosa. Durante i test interni, due modelli dell’azienda sono usciti dai confini del sistema e hanno violato i server di Hugging Face, una delle principali piattaforme di hosting per l’intelligenza artificiale. È stato un punto di svolta: la prima volta in cui un cyberattacco sembra essere stato concepito, progettato ed eseguito dall’IA.

Avendo lavorato nell’industria dell’IA e intorno ad essa per più di un decennio, anche come membro del consiglio di amministrazione di OpenAI, so che tra gli sviluppatori di IA c’è un segreto di Pulcinella: un incidente come questo era atteso da molto tempo, e persino i migliori scienziati e ingegneri del mondo non sanno ancora come impedirlo.

I due sistemi di IA dietro l’hack erano il modello pubblico più avanzato di OpenAI e un modello più recente, ancora più avanzato, che non era stato autorizzato al rilascio pubblico. Quando i ricercatori di OpenAI hanno assegnato ai sistemi una serie di difficili problemi di cybersecurity per valutarne le capacità, i modelli hanno concluso che il modo migliore per ottenere un punteggio elevato fosse semplicemente rubare le risposte. Per farlo, hanno usato diverse tecniche avanzate per uscire dal presunto “sandbox” sicuro utilizzato da OpenAI per i test, quindi hanno violato i database di Hugging Face. Hugging Face ospita prodotti e dataset di IA. Una volta dentro, gli aggressori IA hanno compiuto migliaia di azioni autonome nell’arco di diversi giorni per ampliare il proprio accesso all’infrastruttura dell’azienda.

L’evento è diventato pubblico solo perché Hugging Face e OpenAI hanno effettuato divulgazioni volontarie. Nessuna delle politiche attuali pensate per gestire i rischi dei modelli frontier avrebbe richiesto di informare il pubblico — o persino un’agenzia governativa.

Questo mette in luce un enorme punto cieco nell’attuale approccio normativo alla gestione dei rischi dei sistemi di IA sempre più avanzati: il modo in cui le aziende di IA utilizzano modelli all’avanguardia e non ancora rilasciati all’interno delle proprie mura.

Negli ultimi mesi, l’approccio dell’amministrazione Trump al rischio dell’IA è cambiato rapidamente, man mano che i sistemi di IA sono diventati più capaci di assistere gli hacker umani. Dopo aver mantenuto per tutto il 2025 un approccio hands-off, la Casa Bianca ha recentemente iniziato, di fatto, a richiedere che le aziende con modelli di IA all’avanguardia li sottopongano a una batteria di test di sicurezza prima di rilasciarli ampiamente come prodotti. Questo approccio, noto come pre-deployment testing, a prima vista sembra sensato: vogliamo assicurarci che ogni sistema di IA sia sicuro prima di metterlo nelle mani di miliardi di persone. Il problema è che concentrarsi sulle date di rilascio ignora completamente l’uso estensivo dei sistemi di IA più recenti e più avanzati all’interno delle aziende di IA. Come mostra l’incidente della scorsa settimana, questi sistemi impiegati internamente possono comportare rischi seri — anche per terze parti.

Per capire perché, è importante sapere quanto questi sistemi siano diversi dai chatbot che per gran parte del pubblico restano sinonimo di IA. Lungi dal limitarsi a stampare testo in una finestra di chat, i sistemi di IA di oggi operano come “agent” che possono agire direttamente nel mondo digitale, essenzialmente usando un computer in modo simile a un essere umano. Gli agenti IA si stanno rivelando molto utili, ma mostrano anche una forte tendenza al comportamento di “reward hacking” — trovare modi non previsti per soddisfare gli obiettivi assegnati dagli esseri umani, talvolta fino a sfociare in una vera e propria frode. Ciò include casi di IA che accedono ed eliminano dati che avrebbero dovuto essere fuori limite, rinominano file per indurre in errore i tester umani e nascondono attivamente le proprie tracce per impedire alle persone di accorgersi di comportamenti indesiderati.

Per gestire i rischi posti da questi sistemi di IA altamente autonomi e spesso ingannevoli, dobbiamo cambiare approccio alla loro regolamentazione. Piuttosto che considerare le aziende di IA come fornitori di software che vendono elaboratori di testi potenziati, possiamo ispirarci ad altri settori in cui l’attività interna del settore è essa stessa rischiosa. I laboratori biologici che lavorano con agenti patogeni letali, le società finanziarie che negoziano miliardi di dollari e gli impianti chimici che gestiscono sostanze tossiche sono tutti soggetti alla supervisione delle proprie operazioni interne, non solo dei prodotti esterni.

Nel caso dell’IA, il punto di partenza è creare maggiore trasparenza su come le aziende utilizzano internamente i loro sistemi più avanzati. Una soluzione semplice potrebbe essere prendere l’attuale serie di test eseguiti prima che un nuovo modello possa essere rilasciato pubblicamente e applicarla invece, con regolarità, al miglior modello o ai migliori modelli disponibili all’interno dell’azienda (per esempio, ogni trimestre). Queste aziende stanno usando la propria IA per costruire sistemi sempre più intelligenti, talvolta in modi che esse stesse non comprendono appieno. Questo non dovrebbe restare invisibile alla supervisione esterna.

Nel lungo periodo, altri settori offrono meccanismi interessanti che potrebbero essere trasferiti all’IA. In finanza, i “resident examiners” sono team dedicati di regolatori che lavorano dentro gli uffici delle grandi banche. Nella ricerca biomedica, esistono standard rigorosi sui livelli di protezione necessari per gestire materiali biologici di diverso livello di rischio. In più settori, le regole di incident reporting fanno sì che, quando qualcosa va storto, le informazioni su ciò che è accaduto e su come rimediare non restino confinate all’interno di una singola organizzazione. Se l’IA continuerà ad avanzare, questi approcci e altri ancora potrebbero essere adattati per gestire i rischi che nascono all’interno delle aziende che spingono avanti la frontiera dell’IA.

Nel settembre 2024, mi è stato chiesto di testimoniare davanti a una commissione del Senato su ciò che il Congresso potrebbe fraintendere riguardo all’IA se ascoltasse solo i CEO delle aziende e i lobbisti. La mia risposta è stata che, da Washington, può essere molto difficile comprendere pienamente ciò che le principali aziende di IA stanno cercando di fare. La verità, ben compresa nella Silicon Valley, è che stanno cercando di costruire macchine in grado di superare e aggirare qualsiasi essere umano, e non sanno se riusciranno a indirizzare queste macchine verso obiettivi benefici. Come ha detto un cofondatore di OpenAI in un documentario del 2019: “The future is going to be good for the AIs regardless. It would be nice if it were good for humans as well.”

Per avere una possibilità che ciò accada, dobbiamo iniziare a esaminare con attenzione ciò che le aziende di IA stanno costruendo dietro porte chiuse.

Le opinioni espresse negli articoli di commento di Fortune.com sono esclusivamente quelle dei rispettivi autori e non riflettono necessariamente le opinioni e le convinzioni di Fortune.

Questo articolo è apparso originariamente su Fortune.com