Sztuczna inteligencja po cichu wkradła się w proces tworzenia amerykańskiego ustawodawstwa, a osoby odpowiedzialne za dopracowywanie projektów ustaw twierdzą, że efektem jest narastający chaos.

Według doniesień Politico doradcy poselscy i zewnętrzne grupy nacisku coraz częściej sięgają po chatboty, takie jak Claude firmy Anthropic oraz ChatGPT firmy OpenAI, do tworzenia tekstów legislacyjnych — co zmusza Biuro Radcy Legislacyjnego Izby Reprezentantów (OLC), bezpartyjny urząd wspierający członków Izby w redagowaniu projektów ustaw, do sprzątania po nich.

„AI sprawdza się w wielu zastosowaniach” — powiedział Daniel Schuman, dyrektor wykonawczy American Governance Institute. „Ale nie jest w stanie sporządzić projektu ustawy, który chciałoby się uchwalić.”

Jedna z osób doradzających biurom kongresowym powiedziała, że OLC spędza teraz „więcej czasu na próbach naprawiania ustaw napisanych przez AI, niż zajęłoby ich napisanie od zera”, zauważając, że modele AI — według doniesień — potykają się o subtelne rozróżnienia prawne, takie jak to, czy finansowanie powinno przybrać formę „kredytu podatkowego, odliczenia, wyłączenia czy grantu”.

Problem precyzji pogłębia dobrze udokumentowane ograniczenie tej technologii: chatboty składają płynny tekst, zamiast czerpać ze zweryfikowanych źródeł prawnych, i zdarza im się wymyślać sprawy, cytaty i przepisy — tryb awarii znany jako halucynacja. Sądy federalne zetknęły się z tym problemem w ciągu kilku miesięcy od publicznego udostępnienia ChatGPT pod koniec 2022 roku: w 2023 roku sędzia federalny w Nowym Jorku nałożył sankcje na prawników, którzy złożyli pismo procesowe powołujące się na sześć orzeczeń sądowych wymyślonych przez ChatGPT.

Jeden z doradców kongresowych, odpowiedzialny za dogłębną analizę proponowanych ustaw, powiedział, że ustawodawcy nie mają pojęcia, co nadciąga — z powodu błędów i cytatów, które nie wytrzymają sprawdzenia, gdy pojawią się konflikty.

„To absolutnie przerażające, a nikt jeszcze nad tym nie myśli” — powiedział doradca.

Stawka jest specyficzna dla tego rodzaju tekstów: ustawy, w przeciwieństwie do notatek czy przemówień, po uchwaleniu stają się tekstem wiążącym, a ich dokładne brzmienie muszą interpretować i wykonywać sądy oraz agencje federalne. Błędy, które znajdą się w prawie, co do zasady wymagają nowej ustawy, aby je poprawić — praca porządkowa OLC jest więc w praktyce ostatnim punktem kontrolnym, zanim błędy redakcyjne staną się trwałe.

Ryzyka nie są hipotetyczne, donosi Politico. W czerwcu biuro posłanki Anny Pauliny Luny (republikanka z Florydy) opublikowało podsumowanie poprawki zawierające nadal niezredagowaną frazę z chatbota „Claude responded”. Luna przyznała na platformie X, że „mój zespół użył AI do poprawienia szkicu tekstu i nie zredagował go” — ujawnienie to wywołało wówczas niepokój.

Ari Hershowitz, prawnik i technolog współpracujący z tym biurem nad wdrażaniem narzędzi technologicznych w procesie legislacyjnym, powiedział, że bez kontroli praktyka ta to „gwarantowany sposób na wprowadzenie tysięcy błędów do naszego systemu prawnego”.