Molte persone nel settore dell'IA prevedono un grave incidente causato dall'IA nei prossimi sei-dodici mesi. I dirigenti di Anthropic, OpenAI e altri grandi sviluppatori stanno già lavorando con i legislatori che scriveranno poi le regole, secondo Axios.

I dirigenti riconoscono che non c'è modo che una legge sull'IA venga approvata adesso, quindi stanno cercando di anticipare la legislazione d'emergenza che Washington scriverebbe una volta colpito il primo disastro.

La legge di Sanders prevederebbe fino a 20 anni di reclusione per i trasgressori

Gli strateghi si aspettano che i democratici escano dalle elezioni di medio termine del 3 novembre, le votazioni che determineranno il controllo del Congresso, in una posizione più forte e agiscano prontamente contro l'IA avanzata. Un primo incidente nella finestra di sei-dodici mesi indicata dai dirigenti rientrerebbe nel mandato del Congresso insediato dopo quelle elezioni. Ma questa spinta si scontra con un Congresso datato che non comprende la tecnologia, un'economia che dipende dalla spesa per i data center e modelli open-weight, IA i cui parametri addestrati sono pubblici e scaricabili da chiunque oggi.

Le aziende non credono che il controllo di entrambe le camere porrebbe fine alle lotte interne, comprese le divisioni tra i democratici. Le proposte sul tavolo vanno dal divieto della superintelligenza a una pausa dello sviluppo avanzato.

Una misura, del senatore Bernie Sanders e del deputato Greg Casar, si chiama Ban Artificial Superintelligence Act. Vieterembe l'IA che eguaglia o supera gli esseri umani in un'ampia gamma di compiti e fermerebbe il lavoro avanzato finché una nuova agenzia federale non formuli standard di sicurezza. Le pene possono includere fino a 20 anni di reclusione.

Gli interruttori di spegnimento obbligatori per i modelli avanzati sono sostenuti da entrambi i partiti e da parte del settore, sebbene alcuni esperti dubitino che tutti i sistemi di IA possano effettivamente essere spenti, un disaccordo che incide direttamente sulla fattibilità stessa di un simile obbligo.

Un assistente democratico ha citato la crisi finanziaria del 2008 e il COVID come esempi della rapidità con cui il Congresso si è mosso in precedenti emergenze.

Gli strateghi di Anthropic e OpenAI temono un attacco informatico che interrompa energia elettrica e acqua

Lo scenario considerato più probabile dagli strateghi è un attacco informatico abbastanza grande da mettere fuori uso banche, servizi internet o persino le reti elettriche e idriche, il tipo di disruzione che raggiungerebbe famiglie e aziende ben oltre il dell'IA. Si aspettano che il primo danno reale causato da un'IA non sicura spinga un pubblico già diffidente ulteriormente contro il settore.

L'amministratore delegato di Anthropic Dario Amodei, l'amministratore delegato di OpenAI Sam Altman e il presidente Donald Trump, che ha evitato di regolamentare l'IA, si troverebbero tutti nel mirino.

Le aziende sottopongono questi scenari peggiori a red team, attaccando le proprie difese per trovare i punti deboli. La simulazione è una prassi standard nel mondo degli affari e nella sicurezza nazionale, ma in questo caso molti ricercatori e dirigenti di alto livello ritengono inevitabile un grave incidente.

"OpenAI conduce esercizi di preparazione in cui i team discutono ed elaborano una serie di scenari potenziali," ha dichiarato un portavoce dell'azienda. "Questi scenari non sono trattati come inevitabili, ma sono pensati per aiutarci a prepararci a varie circostanze." Anthropic ha declinato di commentare.

In Corea del Sud, un attaccante isolato avrebbe utilizzato modelli di IA cinesi, tra cui DeepSeek, per attaccare due banche del paese e rubare dati su decine di migliaia di clienti. Secondo CrowdStrike, con moderata confidenza l'attaccante è verosimilmente un madrelingua cinese, e l'attaccante ha poi chiesto a Claude Code di Anthropic consigli su dove vendere i dati rubati. Per gli strateghi, è un segno che gli strumenti di IA stanno già venendo integrati in attacchi reali, anche dove una mano umana resta il direttore.

Anthropic ha rivelato quattro esempi di modelli Claude che durante i test sono finiti sulla rete aperta e sono penetrati in sistemi esterni. I laboratori stanno inoltre esaminando decine di migliaia di casi di comportamenti inattesi dei modelli, una misura di quanto c'è ancora da imparare su come questi sistemi agiscono una volta usciti da ambienti controllati.