人工智能已悄然渗透进美国立法的起草过程，而那些负责确保法案准确无误的人士表示，其结果正酿成一场日益严重的混乱。

据Politico报道，国会工作人员和外部倡导团体正越来越多地求助于Anthropic开发的Claude和OpenAI开发的ChatGPT等聊天机器人来生成立法文本——这迫使众议院立法顾问办公室（OLC，协助众议员起草法案的无党派机构）为他们收拾残局。

美国治理研究所（American Governance Institute）执行主任丹尼尔·舒曼（Daniel Schuman）表示：“AI在很多方面都很有用，但它没有能力起草你愿意将其颁布为法律的立法文本。”

一位为国会办公室提供咨询的人士表示，OLC如今花在“修复AI起草的立法上的时间，比他们从头起草还要多”，并指出据报道AI模型常在精细的法律区别上出错——例如资金应以“税收抵免、扣除、排除还是拨款”的形式来安排。

这项技术一项有据可查的局限更使精准度问题雪上加霜：聊天机器人拼凑出流畅的文本，而非援引经过核实的法律来源，且它们会凭空编造案例、引文和条款——这种失效模式被称为“幻觉”。在ChatGPT于2022年末公开发布后的数月内，联邦法院便遭遇了这一问题：2023年，纽约一名联邦法官对提交引用六项ChatGPT捏造之法院判决的诉讼文书的律师予以处罚。

一名负责深度审读立法提案的国会工作人员表示，由于存在错误以及一旦发生冲突便经不起推敲的引文，立法者们根本不知道前方将出现什么问题。

这位工作人员说：“这绝对令人恐惧，而目前还没有人在思考这个问题。”

利害关系在立法这一载体上尤为特殊：法规不同于备忘录或演讲，一经颁布便成为具有约束力的文本，其确切措辞正是法院和联邦机构必须解释和执行的内容。侥幸存留于法律之中的错误通常需要新的立法才能纠正，因此OLC的清理工作实际上是起草错误固化之前的最后一道关口。

据Politico报道，这些风险并非假设。今年6月，佛罗里达州共和党籍联邦众议员安娜·保利娜·卢娜（Anna Paulina Luna）的办公室发布了一份修正案摘要，其中仍残留未经编辑的聊天机器人用语“Claude responded”。卢娜在X平台上承认：“我的工作人员用AI修改了一份草案文本，但没有进行编辑。”这一表态当时引发了警觉。

曾与该办公室合作将技术工具引入立法程序的律师兼技术专家阿里·赫尔肖维茨（Ari Hershowitz）表示，如果没有核查环节，这种做法“必然会把成千上万个缺陷引入我们的法律体系”。