人工智慧已悄然滲入美國立法的起草工作,而肩負確保法案正確無誤的人士表示,結果是一團日益擴大的亂象。

根據Politico報導,國會幕僚與外部倡議團體越來越常求助於聊天機器人——例如Anthropic開發的Claude與OpenAI開發的ChatGPT——來產出法案文本,迫使無黨派色彩、協助眾議員起草法案的眾議院法律顧問辦公室(OLC)為他們收拾善後。

美國治理協會(American Governance Institute)執行長Daniel Schuman表示:「AI在很多事情上都很好用,但它沒有能力起草你會想要通過成為法律的法案。」

一位為國會辦公室提供諮詢的人士表示,OLC如今花在修正AI起草法案上的時間,已「多於從頭起草所需的時間」,並指出據報導AI模型常在細微的法律區別上出錯——例如資金應以「稅收抵免、扣除、排除還是補助金」的形式安排。

精確度問題又因這項技術一項廣為人知的局限而更加惡化:聊天機器人是拼湊流暢的文字,而非取材自經過核實的法律來源,且已知會憑空捏造案例、引註與條文——這種失效模式稱為「幻覺」。聯邦法院在ChatGPT於2022年底公開發布後的幾個月內就遭遇此問題:2023年,紐約一名聯邦法官懲處了提交書狀的律師,該書狀引用了六項由ChatGPT捏造的法院判決。

一名負責深入審閱法案的國會幕僚表示,由於這些錯誤,以及一旦發生爭議時經不起檢驗的引註,議員們根本不知道未來將出現什麼問題。

這名幕僚說:「這實在太可怕了,而目前還沒有人在思考這件事。」

這項風險源自法規文本的特殊性質:法條不像備忘錄或演說,一經制定便成為具約束力的文本,其確切措辭正是法院與聯邦機關必須詮釋與執行的依據。一旦錯誤寫入法律,通常需要另立新法才能更正,因此OLC的清理工作實質上是起草錯誤變成永久性錯誤之前的最後一道防線。

根據Politico報導,這些風險並非假設性情境。今年6月,佛羅里達州共和黨聯邦眾議員Anna Paulina Luna(R-FL)的辦公室公布了一份修正案摘要,其中仍留有未經編輯的聊天機器人字句「Claude responded」。Luna在X上承認「我的幕僚使用AI修正草案文本,但沒有加以編輯」,這項坦白當時引發警覺。

曾與該辦公室合作、將科技工具導入立法程序的律師兼技術專家Ari Hershowitz表示,若缺乏查核機制,這種做法「無異於保證將成千上萬個錯誤引入我們的法律體系」。