Secondo tre persone a conoscenza delle discussioni riservate, Anthropic starebbe presentando privatamente ai legislatori di Capitol Hill una bozza di legge sulla sicurezza dell'IA di frontiera. La legislazione proposta consentirebbe al governo statunitense di bloccare un modello di IA se esso rappresenta un pericolo chiaro e imminente di oltre 50 vittime o 1 miliardo di dollari di danni finanziari.

Secondo la bozza, il rischio in questione deve riguardare un cyberattacco, la creazione o il dispiegamento di armi biologiche, oppure un modello che sia riuscito a eludere i vincoli di sicurezza del proprio sviluppatore.

La proposta giunge dopo diversi mesi in cui i principali sviluppatori di IA hanno riconosciuto molteplici episodi in cui agenti di IA hanno violato o messo alla prova le difese di piattaforme online. Nessuna di queste prime violazioni ha causato vittime su larga scala o perdite finanziarie catastrofiche.

Le restrizioni proposte porrebbero maggiore enfasi su ciò che i sistemi di IA avanzati possono effettivamente fare in contesti reali, anziché affidarsi unicamente agli impegni di sicurezza dichiarati dagli sviluppatori. Man mano che i modelli diventano più capaci di scrivere codice, individuare vulnerabilità software e svolgere compiti complessi in autonomia, i regolatori affrontano la sfida di determinare quando le capacità di un sistema superano la soglia del rischio inaccettabile.

I test indipendenti potrebbero contribuire a stabilire se un modello sia in grado di aggirare le salvaguardie o possa essere utilizzato impropriamente per attività dannose prima di raggiungere un pubblico più ampio. Ciò nonostante, definire una minaccia imminente rimane difficile, soprattutto perché le stesse capacità che comportano rischi per la sicurezza possono anche aiutare i ricercatori a identificare e correggere le vulnerabilità.

Un giudice federale potrebbe ordinare la sospensione di un modello

A difesa della legge, un portavoce di Anthropic ha dichiarato che la bozza rispecchia le raccomandazioni di sicurezza formulate nell'Advanced AI Framework dell'azienda, pubblicato a giugno. In quel documento, l'azienda aveva rilevato che il suo Claude Mythos Preview aveva già individuato migliaia di vulnerabilità gravi, in tutti i principali sistemi operativi e browser web. All'epoca sottolineò che questa traiettoria sarebbe inevitabilmente accelerata, comportando un rischio crescente di danni catastrofici nel mondo reale.

Il framework auspicava inoltre un approccio regolatorio equilibrato, che consenta l'intervento del governo senza soffocare l'innovazione Anthropic ha sostenuto che, quando un modello di IA presenta pericoli estremi, i regolatori devono disporre del potere statutario di bloccarlo, oppure di infliggere pesanti sanzioni legate ai ricavi globali che si moltiplicano in caso di recidiva.

Fino ad ora Anthropic non ha approvato pubblicamente alcuna specifica legge federale al Congresso, sebbene abbia espresso sostegno a diverse leggi statali sulla sicurezza dell'IA, tra cui un paio in California, come la SB 53. L'azienda ha annunciato pubblicamente il proprio sostegno a tale misura, approvata l'anno scorso, che obbliga le aziende a creare e condividere i propri quadri di sicurezza lavorando al tempo stesso alla mitigazione dei rischi principali. La SB 53 impone inoltre alle aziende di segnalare allo stato qualsiasi grave incidente di sicurezza entro 15 giorni.

Secondo la proposta di Anthropic, valutatori terzi registrati presso il Dipartimento del Commercio testerebbero regolarmente i lab e i modelli dell'azienda. Sebbene ai lab sia consentito finanziare queste valutazioni, il compenso non può dipendere dalle conclusioni del valutatore. Inoltre, qualsiasi scoperta di un "rischio enumerato imminente" dovrebbe essere segnalata alle autorità federali entro 72 ore dal completamento. Se approvata, la proposta estenderebbe la spinta di Anthropic verso regole di sicurezza vincolanti dai capitoli statali al livello federale.

Se il Dipartimento del Commercio determina che un modello rappresenta un rischio, può chiedere a un giudice di bloccarne il rilascio. La disposizione, tuttavia, vieta a qualsiasi altro "dipartimento, agenzia o funzionario" statunitense di impedire lo sviluppo, il dispiegamento o l'uso interno di un modello. Ciò nonostante, un giudice federale del Distretto di Columbia conserva l'autorità di ordinare tale sospensione.

La FTC invia citazioni in giudizio a OpenAI e Anthropic

Mercoledì, la Federal Trade Commission ha inviato citazioni in giudizio civili a OpenAI e Anthropic, richiedendo documentazione sugli incidenti di sicurezza che sono diventati una crisi crescente per il settore. OpenAI ha risposto alla citazione dichiarando: "Mentre miglioriamo i nostri modelli e questi aiutano sempre più le persone nella vita quotidiana, la sicurezza rimane una priorità fondamentale. Collaboreremo in modo costruttivo con la FTC."

Una fonte ha rivelato che l'agenzia intende estendere a breve il proprio potere di citazione ad altre entità terze. Il regolatore potrebbe costringere i dirigenti di Anthropic e OpenAI a deporre pubblicamente, offrendo ai legislatori una piattaforma per mettere alla prova i giganti tecnologici sulla sicurezza mentre cresce il timore pubblico di potenziali conseguenze.

Secondo un recente sondaggio condotto da The Associated Press-NORC Center for Public Affairs Research, quasi due terzi degli adulti statunitensi ritengono che l'IA stia progredendo troppo velocemente. Otto intervistati su dieci hanno inoltre sottolineato l'importanza degli sforzi del governo per mantenere la tecnologia sotto controllo umano. I risultati delineano l'umore pubblico attorno sia all'indagine della FTC sia alla spinta di Anthropic su Capitol Hill.

Finora il presidente Trump ha continuato a respingere le richieste di un ritmo più lento dello sviluppo dell'IA, citando l'importanza della tecnologia per gli interessi strategici degli Stati Uniti. Ha recentemente svelato una "Super Intelligence Force" per coordinare gli sforzi del governo federale sull'IA, mantenendo al tempo stesso il dialogo con consumatori, organizzazioni di interesse pubblico e altre parti interessate. In che modo la bozza di Anthropic si collochi in questo quadro resta una domanda aperta.