L'intelligenza artificiale si è silenziosamente insinuata nella redazione della legislazione americana, e chi ha il compito di garantire la correttezza dei disegni di legge afferma che il risultato è un disastro sempre più grande.

Secondo Politico, i collaboratori del Congresso e i gruppi di pressione esterni ricorrono sempre più spesso a chatbot come Claude, sviluppato da Anthropic, e ChatGPT, sviluppato da OpenAI, per produrre testi legislativi — costringendo l'House Office of Legislative Counsel (OLC), l'ufficio apartitico che assiste i membri della Camera nella redazione dei disegni di legge, a rimediare al loro lavoro.

«L'IA è utile per molte cose», ha affermato Daniel Schuman, direttore esecutivo dell'American Governance Institute. «Ma non è in grado di redigere una legislazione che si vorrebbe promulgare come legge.»

Una persona che fa da consulente agli uffici del Congresso ha riferito che l'OLC oggi spende «più tempo a cercare di sistemare le leggi redatte dall'IA di quanto ne servirebbe per redigerle da zero», rilevando che i modelli di IA, a quanto riportato, inciampano nelle sottili distinzioni giuridiche — ad esempio se il finanziamento debba essere strutturato come «un credito d'imposta, una deduzione, un'esclusione o una sovvenzione».

Il problema di precisione è aggravato da una limitazione ben documentata della tecnologia: i chatbot assemblano testi scorrevoli anziché attingere a fonti giuridiche verificate, e sono noti per inventare casi, citazioni e disposizioni — un tipo di fallimento noto come allucinazione. I tribunali federali si sono imbattuti nel problema entro pochi mesi dal rilascio pubblico di ChatGPT, alla fine del 2022: nel 2023, un giudice federale di New York ha sanzionato degli avvocati che avevano presentato un atto citando sei decisioni giudiziarie inventate da ChatGPT.

Un collaboratore del Congresso incaricato di esaminare a fondo la legislazione proposta ha detto che i parlamentari non hanno idea di ciò che li aspetta a causa di errori e citazioni che non reggeranno a un esame approfondito quando sorgeranno conflitti.

«È assolutamente terrorizzante, e nessuno ci sta ancora pensando», ha detto il collaboratore.

Le poste in gioco sono peculiari di questo mezzo: le leggi, a differenza di memorandum o discorsi, diventano testo vincolante una volta approvate, e la loro formulazione esatta è ciò che i tribunali e le agenzie federali devono interpretare e applicare. Gli errori che sopravvivono in una legge richiedono in genere una nuova legislazione per essere corretti, quindi il lavoro di pulizia dell'OLC è di fatto l'ultimo controllo prima che gli errori di redazione possano diventare permanenti.

I rischi non sono ipotetici, riporta Politico. A giugno, l'ufficio della deputata Anna Paulina Luna (R-FL) ha pubblicato il sommario di un emendamento che conteneva ancora la frase del chatbot non modificata "Claude responded" («Claude ha risposto»). Luna ha riconosciuto su X che «il mio staff ha usato l'IA per correggere una bozza e non l'ha revisionata», un'ammissione che all'epoca aveva fatto scattare allarmi.

Ari Hershowitz, avvocato e tecnologo che ha lavorato con l'ufficio per integrare strumenti tecnologici nel processo legislativo, ha affermato che senza controlli la pratica rappresenta «un modo garantito di introdurre migliaia di bug nel nostro sistema giuridico».