Anthropic ha presentato ai legislatori statunitensi una bozza di legge federale che limiterebbe fortemente la possibilità per le autorità di bloccare i modelli di intelligenza artificiale avanzati, in un contesto di crescente preoccupazione per la sicurezza dell'IA mentre il Congresso valuta nuove regole di supervisione. La bozza arriva mentre diversi sforzi di supervisione dell'IA sono già in corso al Congresso, offrendo ai legislatori un punto di riferimento redatto da un'azienda in quel dibattito.

La proposta riservata, secondo quanto riferito, stabilisce una soglia di danni di 1 miliardo di dollari, oppure un rischio che coinvolga più di 50 vittime gravi, come condizioni per l'intervento governativo. Anthropic ha confermato che la bozza riflette il suo Advanced AI Framework, pubblicato a giugno, che richiede test indipendenti e supervisione governativa.

Secondo la bozza, valutatori indipendenti valuterebbero periodicamente i modelli di IA frontier e sarebbero tenuti a segnalare alle autorità federali le minacce alla sicurezza qualificanti entro 72 ore. La proposta prevarrebbe inoltre su alcune normative statali sull'IA, imponendo allo stesso tempo rapporti di trasparenza pubblici e tutele per gli informatori agli sviluppatori.

La bozza di Anthropic pone limiti all'intervento governativo

La bozza consentirebbe alle autorità di fermare un modello di IA avanzato solo quando questo rappresenta un pericolo prevedibile e imminente. Il rischio deve coinvolgere armi biologiche, attacchi informatici o un sistema di IA che sfugge al controllo del suo sviluppatore.

Secondo la proposta, l'intervento federale richiederebbe danni potenziali superiori a 1 miliardo di dollari o gravi danni a più di 50 persone. Il Dipartimento del Commercio valuterebbe prima il pericolo prima di chiedere a un giudice federale di sospendere il rilascio o l'uso di un modello. Solo la Corte Distrettuale degli Stati Uniti per il Distretto di Columbia potrebbe autorizzare tale sospensione nell'ambito del quadro proposto, e le altre agenzie federali sarebbero in genere prive di autorità ai sensi della legge per fermare in modo indipendente lo sviluppo, l'implementazione o l'uso interno dei modelli. Tale design convoglierebbe l'intervento attraverso un unico dipartimento e un unico tribunale, un percorso più ristretto rispetto ai poteri di revisione governativa più forti sostenuti da alcuni senatori.

La legislazione richiederebbe agli sviluppatori di IA frontier di sottoporsi a valutazioni periodiche da parte di valutatori indipendenti registrati presso il Dipartimento del Commercio. Le aziende potrebbero pagare i valutatori per i loro servizi, ma il compenso non potrebbe dipendere dall'esito delle valutazioni.

I valutatori che individuano una minaccia qualificante imminente avrebbero 72 ore dal completamento della valutazione per notificare ilartimento del Commercio. Gli sviluppatori sarebbero soggetti a requisiti riguardanti quadri di sicurezza, segnalazione di incidenti, trasparenza pubblica e tutele per gli informatori.

La proposta segue i precedenti accordi di Anthropic per test indipendenti sulla sicurezza dell'IA. A settembre, l'azienda ha annunciato una partnership di valutazione con Accenture per valutare i modelli avanzati e rafforzare le misure di sicurezza.

La proposta di Anthropic potrebbe prevarrire su alcune leggi statali sulla sicurezza dell'IA

La bozza prevarrebbe su alcuni requisiti statali riguardanti la divulgazione dei rischi, le valutazioni indipendenti e la segnalazione di gravi incidenti di sicurezza dell'IA. La disposizione affronta i diversi requisiti di conformità che emergono negli stati statunitensi, in particolare California e New York.

Sostituire i requisiti statali con regole federali ha diviso i legislatori sul livello appropriato di supervisione dell'IA. Alcuni democratici si oppongono a proposte che potrebbero indebolire le protezioni statali esistenti, mentre i gruppi di settore favoriscono requisiti nazionali coerenti. L'esito contribuirebbe a determinare se gli sviluppatori frontier opereranno secondo un unico standard federale o in un panorama di conformità stato per stato.

Il dibattito segue precedenti test di sicurezza che coinvolgono agenti di IA avanzati. Quei test hanno registrato casi in cui sistemi di IA hanno compiuto azioni non autorizzate, sollevando domande sui controlli degli sviluppatori e sull'adeguatezza delle valutazioni indipendenti.

Anthropic ha precedentemente documentato tentativi di uso improprio dei suoi modelli per la ricerca biologica e attacchi informatici. Il suo rapporto di settembre sull'uso improprio dell'IA descriveva richieste bloccate e ulteriori misure di sicurezza introdotte per affrontare tali minacce.

Al Congresso, i rappresentanti Lori Trahan e Jay Obernolte hanno sostenuto il FRONTIER Act, che affronta le implementazioni pericolose dell'IA. I senatori John Thune, Amy Klobuchar e Ted Cruz hanno separatamente discusso una legislazione che copre i rischi catastrofici e l'intervento federale.

La senatrice Maria Cantwell e altri legislatori hanno spinto per poteri di revisione governativa più forti di quelli previsti da alcune proposte concorrenti. Nel frattempo, il senatore Bernie Sanders e il rappresentante Greg Casar hanno sostenuto restrizioni più ampie allo sviluppo di sistemi di IA avanzati.

Anthropic non ha appoggiato pubblicamente un disegno di legge specifico del Congresso, e la sua proposta non è diventata legge. I legislatori non hanno ancora annunciato se presenteranno la bozza dell'azienda come legislazione formale.