L'intelligence artificielle s'est discrètement immiscée dans la rédaction de la législation américaine, et les personnes chargées de garantir l'exactitude des textes affirment que le résultat est un chaos croissant.

Selon Politico, les collaborateurs du Congrès et les groupes de plaidoyer extérieurs recourent de plus en plus à des chatbots comme Claude, développé par Anthropic, et ChatGPT, développé par OpenAI, pour produire des textes législatifs — obligeant le Bureau du conseiller législatif de la Chambre des représentants (OLC), service non partisan qui aide les membres de la Chambre à rédiger leurs projets de loi, à corriger le travail à leur place.

« L'IA est utile pour beaucoup de choses », a déclaré Daniel Schuman, directeur exécutif de l'American Governance Institute. « Mais elle n'est pas capable de rédiger un texte législatif que l'on souhaiterait promulguer. »

Une personne qui conseille des bureaux du Congrès a indiqué que l'OLC consacre désormais « plus de temps à tenter de corriger des textes législatifs rédigés par l'IA qu'il ne lui en faudrait pour les rédiger à partir de zéro », soulignant que les modèles d'IA trébucheraient sur des distinctions juridiques subtiles — par exemple déterminer si un financement doit prendre la forme d'un « crédit d'impôt, d'une déduction, d'une exclusion ou d'une subvention ».

Le problème de précision est aggravé par une limite bien documentée de la technologie : les chatbots assemblent un texte fluide au lieu de s'appuyer sur des sources juridiques vérifiées, et il est établi qu'ils inventent des affaires, des citations et des dispositions — un mode de défaillance connu sous le nom d'hallucination. Les juridictions fédérales ont été confrontées au problème quelques mois seulement après la sortie publique de ChatGPT fin 2022 : en 2023, un juge fédéral de New York a sanctionné des avocats qui avaient déposé un mémoire citant six décisions de justice inventées par ChatGPT.

Un collaborateur du Congrès chargé d'analyser en profondeur les textes législatifs proposés a affirmé que les parlementaires n'ont aucune idée de ce qui les attend, en raison d'erreurs et de citations qui ne résisteront pas à un examen approfondi lorsque des conflits surgiront.

« C'est absolument terrifiant, et personne n'y songe encore », a confié cette personne.

Les enjeux sont propres au média : les lois, à la différence des notes internes ou des discours, deviennent des textes contraignants une fois votées, et c'est leur rédaction exacte que les tribunaux et les agences fédérales doivent interpréter et appliquer. Les erreurs qui subsistent dans la loi exigent généralement une nouvelle législation pour être corrigées ; le travail d'assainissement de l'OLC constitue donc en pratique le dernier point de contrôle avant que les erreurs de rédaction ne deviennent permanentes.

Selon Politico, ces risques ne sont pas hypothétiques. En juin, le bureau de la représentante Anna Paulina Luna (R-FL) a publié un résumé d'amendement contenant encore l'expression de chatbot non modifiée « Claude responded » (« Claude a répondu »). Mme Luna a reconnu sur X que « mon équipe a utilisé l'IA pour corriger un projet de texte et ne l'a pas révisé », un aveu qui avait suscité l'inquiétude à l'époque.

Ari Hershowitz, juriste et technologue qui a travaillé avec ce bureau pour intégrer des outils technologiques au processus législatif, a estimé que, sans vérifications, cette pratique constitue « une manière garantie d'introduire des milliers de bogues dans notre système juridique ».