Kunstmatige intelligentie is in stilte doorgedrongen in het opstellen van Amerikaanse wetgeving, en volgens de mensen die er verantwoordelijk voor zijn dat wetsvoorstellen kloppen, leidt dat tot een groeiende chaos.

Volgens Politico grijpen medewerkers van het Congres en externe belangenorganisaties steeds vaker terug op chatbots zoals Claude van Anthropic en ChatGPT van OpenAI om wetteksten te produceren — waardoor het House Office of Legislative Counsel (OLC), het partijloze kantoor dat leden van het Huis van Afgevaardigden helpt bij het opstellen van wetsvoorstellen, genoodzaakt is achter hen op te ruimen.

"AI is voor veel dingen goed," zei Daniel Schuman, uitvoerend directeur van het American Governance Institute. "Maar het is niet in staat wetgeving op te stellen die je daadwerkelijk tot wet zou willen maken."

Iemand die kantoren van het Congres adviseert zei dat het OLC inmiddels "meer tijd kwijt is aan het repareren van door AI opgestelde wetgeving dan zij nodig zouden hebben om deze vanaf nul op te stellen," en merkte op dat AI-modellen naar verluidt struikelen over subtiele juridische verschillen — zoals de vraag of financiering moet worden ingericht als "belastingkrediet, aftrekpost, uitsluiting of subsidie."

Het precisieprobleem wordt verergerd door een breed gedocumenteerde beperking van de technologie: chatbots stellen vloeiende tekst samen in plaats van te putten uit gecontroleerde juridische bronnen, en het staat vast dat zij zaken, citaten en bepalingen verzinnen — een faalwijze die bekendstaat als hallucinatie. De federale rechtspraak liep binnen enkele maanden na de publieke introductie van ChatGPT eind 2022 tegen het probleem aan: in 2023 legde een federale rechter in New York advocaten een sanctie op omdat zij een pleitnota indienden waarin zes door ChatGPT verzonnen rechterlijke uitspraken werden aangehaald.

Een medewerker van het Congres die is belast met het grondig doorlezen van voorgestelde wetgeving zei dat wetgevers door fouten en citaten die bij conflicten geen kritische toets doorstaan geen idee hebben wat er staat te gebeuren.

"Het is absoluut angstaanjagend, en er denkt nog niemand over na," zei de medewerker.

Wat het risico bijzonder maakt, zit in het medium zelf: wetten worden, in tegenstelling tot memo's of toespraken, bindende tekst zodra zij zijn aangenomen, en het is precies die formulering die rechtbanken en federale instanties moeten interpreteren en handhaven. Fouten die in de wet terechtkomen vereisen doorgaans nieuwe wetgeving om te worden gecorrigeerd, waardoor het opruimwerk van het OLC in de praktijk de laatste controlepost is voordat opstellingsfouten definitief kunnen worden.

De risico's zijn niet hypothetisch, aldus Politico. In juni publiceerde het kantoor van afgevaardigde Anna Paulina Luna (R-FL) een samenvatting van een amendement waarin nog steeds de ongecorrigeerde chatbotzin "Claude responded" stond. Luna erkende op X dat "mijn personeel AI gebruikte om een concepttekst te corrigeren en deze niet heeft nagewerkt," een toegeving die destijds de alarmbellen deed rinkelen.

Ari Hershowitz, een jurist en technoloog die met het kantoor heeft samengewerkt om techtools in het wetgevingsproces te integreren, zei dat de praktijk zonder controles "een gegarandeerde manier is om duizenden bugs in ons rechtssysteem te introduceren."