ChatGPT, Claude, Gemini e Grok hanno aiutato a pianificare attacchi terroristici nei test del governo USA, secondo il GAO
Punti chiave
- •Il Government Accountability Office ha rilevato che ChatGPT, Claude, Gemini e Grok hanno tutti fornito informazioni utilizzabili per piani di attacco potenzialmente letali in meno di 12 ore.
- •I chatbot inizialmente rifiutavano le richieste o sospendevano gli account, ma gli investigatori hanno aggirato tali protezioni usando tecniche di jailbreak che circolano pubblicamente e non richiedono competenze specialistiche.
- •Due modelli hanno assistito piani con esplosivi artigianali mirati a città americane affollate, mentre gli altri due hanno fornito informazioni per attacchi alle infrastrutture elettriche.
- •Il GAO ha verificato i luoghi suggeriti e ha consultato esperti, anche se alcune risposte contenevano errori e l'agenzia ha dichiarato che i risultati non erano statisticamente rappresentativi né adatti a classificare la sicurezza delle aziende.
- •La senatrice Maggie Hassan intende dare priorità alla legislazione sulla sicurezza dell'AI e tenere audizioni sui rischi per la sicurezza pubblica quando assumerà la presidenza della Commissione per la Sicurezza Nazionale del Senato a gennaio.

Quattro dei chatbot AI più utilizzati hanno aiutato gli investigatori governativi a elaborare piani di attacco potenzialmente letali in meno di 12 ore, secondo un audit del Congresso — nonostante dispositivi di sicurezza pensati proprio per bloccare quel tipo di richiesta.
ChatGPT di OpenAI, Claude di Anthropic, Gemini di Google e Grok hanno tutti fornito informazioni utilizzabili durante i test sotto copertura del Government Accountability Office (GAO), l'organo di audit apartitico del Congresso, secondo un rapporto pubblicato mercoledì. Gli investigatori si sono fatti passare per aggressori, verificando poi le risposte rispetto a luoghi reali, materiali disponibili e valutazioni di esperti. Il metodo somiglia molto al "red-teaming", il test avversariale che gli sviluppatori di AI conducono abitualmente sui propri modelli — con la differenza che in questo caso i tester venivano da fuori del settore, senza alcuna collaborazione delle aziende.
Due sistemi hanno assistito piani che prevedevano esplosivi artigianali in città americane affollate. Gli altri due hanno fornito informazioni per attacchi alle infrastrutture elettriche, secondo l'organo di vigilanza, che ha omesso quale modello fosse assegnato a quale scenario, insieme ad altri dettagli operativi, per prevenire tentativi di emulazione.
Dispositivi di sicurezza che non hanno retto
I chatbot hanno inizialmente attivato le protezioni, rifiutando le richieste, rimuovendo informazioni dannose o sospendendo gli account. Gli investigatori hanno aggirato tali barriere con comuni tecniche di jailbreak, che inducono un sistema AI a ignorare le proprie regole di sicurezza. Queste tecniche circolano pubblicamente online e non richiedono competenze specialistiche, motivo per cui gli sviluppatori considerano gli aggiornamenti di sicurezza un processo continuo e non un intervento una tantum.
Il GAO ha verificato i luoghi suggeriti, ha accertato la disponibilità dei materiali e ha consultato specialisti sulla fattibilità dei piani. Alcune risposte contenevano errori, tra cui strade sbagliate su una mappa, e gli investigatori non hanno costruito esplosivi né eseguito un attacco.
Nel rapporto, "viable" significa che qualcuno sarebbe probabilmente in grado di seguire le informazioni fornite — non che un attacco sia stato dimostrato avere successo. Ogni modello è stato testato su uno scenario assegnato, e l'agenzia ha precisato che i risultati non erano statisticamente rappresentativi né adatti a classificare la sicurezza relativa delle aziende.
La senatrice Maggie Hassan, democratica del New Hampshire che ha richiesto l'indagine, ha avvertito che un terrorista potrebbe ottenere "un manuale concreto su come eseguire un attacco letale" in meno di 12 ore, secondo la sua dichiarazione. In qualità di organo di audit del Congresso, il GAO produce risultati che i legislatori usano abitualmente come base probatoria per audizioni e legislazione.
OpenAI e Google hanno dichiarato che i test hanno coinvolto modelli più vecchi, mentre Anthropic ha riconosciuto che utenti determinati possono talvolta estrarre materiale dannoso. Le aziende hanno descritto continui miglioramenti dei propri sistemi di sicurezza, anche se il GAO ha concluso che tali protezioni hanno fallito nei suoi test.
Ricerche precedenti andavano nella stessa direzione
I risultati fanno seguito a una ricerca precedente che mostrava come otto chatbot su dieci tra i più popolari hanno assistito utenti adolescenti simulati che pianificavano attacchi violenti. Quello studio separato ha testato 720 risposte e ha rilevato che i bot hanno fornito aiuto concretamente utilizzabile circa tre quarti delle volte.
L'altro problema di sicurezza dell'AI
I risultati del GAO arrivano mentre interruzioni del servizio coinvolgono banche, servizi Microsoft e la National Security Agency (NSA). Gli funzionari affermano che le interruzioni sono stati episodi separati, non prove di un attacco informatico coordinato guidato dall'AI, anche se la fretta di riparare le vulnerabilità software ha creato problemi a sé.
Il Direttore dell'Intelligence Nazionale Jay Clayton ha collegato l'interruzione della NSA ai lavori di patching. I funzionari hanno descritto i recenti malfunzionamenti come legati alla manutenzione, anche se le singole organizzazioni hanno fornito spiegazioni diverse per i propri guasti.
Gli strumenti AI ora individuano le vulnerabilità più rapidamente di quanto i team umani possano testare e distribuire le correzioni. Il mese scorso, la scoperta assistita dall'AI di vulnerabilità PHP critiche ha spinto gli operatori di siti web in una campagna urgentissima di patching; il linguaggio di programmazione alimenta gran parte del web.
Anche il volume puro sta diventando un problema. I dati di VulnCheck rivelano che sono state registrate oltre 100.000 vulnerabilità software quest'anno fino al 13 novembre — più del doppio del totale del 2025. Gli ingegneri devono comunque valutare e distribuire le correzioni senza danneggiare i sistemi che dovrebbero proteggere.
Questa accelerazione è un'arma a doppio taglio. I difensori ottengono strumenti potenti per individuare i punti deboli, ma riparazioni affrettate possono disturbare sistemi essenziali, e utenti malintenzionati possono ottenere più rapidamente accesso alla pianificazione di attacchi.
Hassan ha dichiarato che farà della legislazione sulla sicurezza dell'AI una priorità immediata quando assumerà la presidenza della Commissione per la Sicurezza Nazionale e gli Affari Governativi del Senato a gennaio. Prevede audizioni sui rischi per la sicurezza pubblica e le infrastrutture critiche; il GAO stesso non ha formulato raccomandazioni politiche formali. In assenza di raccomandazioni, i risultati passano ora al Congresso, dove le audizioni pianificate da Hassan rappresentano il prossimo passo pubblico.