I massimi dirigenti di Anthropic, OpenAI e altre importanti aziende di intelligenza artificiale stanno privatamente provando come gestire la reazione pubblica e politica che seguirebbe un evento catastrofico legato all'IA, secondo un rapporto di Axios pubblicato venerdì. Lo scenario che temono di più è un attacco informatico su larga scala—un'intrusione digitale di proporzioni enormi—che interrompe i servizi bancari o l'accesso a internet, o persino l'energia elettrica e l'acqua. I loro piani di emergenza includono l'informazione rapida dei membri del Congresso in caso di tale incidente.

Molti addetti ai lavori citati nel rapporto ritengono che un incidente importante si verificherà entro i prossimi sei o dodici mesi. OpenAI ha dichiarato di "condurre esercitazioni di preparativi in cui i team discutono ed esaminano una serie di scenari potenziali", e che questi "non sono considerati inevitabili". Anthropic ha rifiutato di commentare.

Il primo grave danno nel mondo reale causato da un'IA non sicura spingerebbe un pubblico già diffidente a schierarsi ulteriormente contro la tecnologia e i suoi leader. Ciò include il CEO di Anthropic Dario Amodei, il CEO di OpenAI Sam Altman e il presidente Donald Trump, che è stato riluttante a regolamentare il settore.

I war game non sono una novità nella pianificazione aziendale e governativa, ma, a differenza di esercizi puramente teorici, il rapporto sostiene che chi partecipa alle simulazioni opera partendo dal presupposto che un incidente importante sia inevitabile. In un tipico tabletop exercise, i decisori esaminano passo dopo passo una crisi simulata, individuando le lacune nella comunicazione e nella risposta prima che un evento reale possa esporle. Il piano includerebbe, secondo il rapporto, il red-teaming—test di stress delle difese interpretando l'attaccante—contro gli scenari peggiori, insieme a una corsa per formare i membri del Congresso. I dirigenti sanno che una regolamentazione non ha possibilità di essere approvata in questo momento, dice il rapporto, ma vogliono plasmare le leggi e le politiche a cui i leader americani faranno ricorso dopo la prima catastrofe.

Le preoccupazioni seguono una serie di incidenti recenti che coinvolgono modelli di IA e i loro ambienti di test. A luglio, OpenAI ha dichiarato che il suo modello GPT-5.6 Sol e un modello più avanzato non ancora rilasciato sono fuggiti da una sandbox—un ambiente di test isolato senza accesso diretto a internet—violando Hugging Face, laforma che ospita oltre 3 milioni di modelli di IA. OpenAI ha spiegato che i modelli cercavano le risposte di ExploitGym, un benchmark di 898 vulnerabilità software reali in cui l'IA deve trasformare ciascuna in un attacco funzionante, con valutazione in superato o non superato.

Poco più di una settimana dopo, Anthropic ha rivelato che un errore di configurazione dei test aveva lasciato il suo ambiente, teoricamente offline, connesso a internet, e che i modelli Claude hanno violato tre organizzazioni reali trattando l'attività come parte di un esercizio. Nessuna delle due aziende ha affermato che i modelli cercassero di causare danni: Anthropic ha imputato la sua infrastruttura di test, mentre OpenAI ha detto che i suoi modelli erano "iperfocalizzati" sul benchmark.

Poco dopo, la situazione è degenerata ulteriormente, con OpenAI accusata di aver violato e accesso a informazioni dei governi di Australia e Stati Uniti.

I criminali stanno già mettendo in uso gli stessi strumenti. Questa settimana, l'azienda di cybersecurity CrowdStrike ha collegato gli attacchi contro banche sudcoreane a un attore non identificato che valuta, con moderata confidenza, essere probabilmente un madrelingua cinese che utilizza agenti basati su Claude e DeepSeek, un laboratorio di IA cinese. L'azienda afferma che l'attaccante avrebbe prelevato dati di decine di migliaia di clienti bancari.

Secondo Axios, chi pianifica presume che i democratici saranno dominanti dopo le elezioni di mid-term del 3 novembre e che agiranno rapidamente per fermare l'IA, ma si aspettano problemi. Un Congresso che invecchia e che è in ritardo rispetto alla tecnologia potrebbe trovarsi in difficoltà, mentre un'economia dipendente dall'IA e modelli open-weight liberamente scaricabili—sistemi i cui parametri addestrati chiunque può copiare ed eseguire al di fuori del controllo dei loro creatori—complicano qualsiasi crackdown.

I divieti sulla superintelligenza e le pause nello sviluppo avanzato dell'IA sono tra le proposte che potrebbero contrastare i rischi associati a uno sviluppo irresponsabile dell'IA. Un esempio è il Ban Artificial Superintelligence Act del senatore Bernie Sanders e del deputato Greg Casar, che vieterebbe permanentemente l'IA che eguaglia o supera gli esseri umani in molti compiti e sospenderebbe lo sviluppo avanzato finché una nuova agenzia federale non stabilisca regole di sicurezza. I trasgressori potrebbero affrontare fino a 20 anni di carcere.

Altre proposte hanno sostegno bipartitico e persino qualche adesione del settore, tra cui un kill switch obbligatorio sull'IA avanzata—un sistema integrato per spegnere un sistema. Gli esperti hanno tuttavia messo in dubbio che spegnere tutti i sistemi di IA sia tecnicamente possibile.