人工知能(AI)は米国の立法の草案作成に静かに入り込んでおり、法案を正確に仕上げる責任を担う人々は、その結果として混乱が拡大していると指摘する。

Politicoによると、議会スタッフや外部のアドボカシー団体の間では、法律条文の作成にAnthropic社のClaudeやOpenAI社のChatGPTといったチャットボットを利用する動きが広がっており、下院議員の法案起草を支援する無党派の機関である下院立法顧問局(OLC)がその後始末を迫られている。

「AIは多くのことに役立つ」と、American Governance Instituteのエグゼクティブディレクター、ダニエル・シューマン氏は語った。ただし同氏は「法律として成立させたい法案の起草はできない」と警告した。

議会事務所に助言するある人物は、OLCは今や「AIが起草した法案を修正する方が、ゼロから起草するよりも多くの時間を費やしている」と述べ、AIモデルは資金措置を「税額控除、所得控除、課税除外、助成金のいずれとして設計すべきか」といった細かな法律上の区別でつまずくと指摘した。

この精度上の問題に輪をかけているのが、同技術のよく知られた限界だ。チャットボットは検証済みの法的情報源に基づくのではなく流暢な文章を組み立てるものであり、判例や引用、条文を捏造することが知られている。この失敗モードは「ハルシネーション(幻覚)」と呼ばれる。連邦裁判所も、ChatGPTが2022年後半に一般公開されてから数か月以内にこの問題に直面した。2023年にはニューヨークの連邦判事が、ChatGPTが捏造した6件の判決を引用した準備書面を提出した弁護士らに制裁を科している。

法案の精読を担当する議会スタッフの一人は、誤りや、対立が生じた際に検証に耐えられない引用のせいで、議員たちはこの先何が起きるかを把握できていないと語った。

「本当に恐ろしいことで、まだ誰も考えようとしていない」と同スタッフは述べた。

この問題の重大さは、法律という形式特有のものだ。メモや演説と異なり、法律は一度成立すると拘束力を持つ文章となり、その正確な文言こそが裁判所や連邦政府機関が解釈し、執行しなければならないものである。法律に残った誤りを修正するには通常、新たな立法が必要となる。そのため、OLCの修正作業は事実上、起草時の誤りが恒久的なものとなる前の最後の関所となっている。

こうしたリスクは仮定の話ではないとPoliticoは伝えている。今年6月、アンナ・ポーリナ・ルナ下院議員(共和党・フロリダ州選出)の事務所が公開した修正案の要約には、チャットボットの未編集の文言「Claude responded(Claudeが応答しました)」が残されたままだった。ルナ議員はX上で「私のスタッフがAIで草案の文章を修正し、編集しなかった」と認め、この発覚は当時警戒を呼んだ。

同議員事務所とともに立法プロセスへの技術ツール導入に取り組んできた弁護士で技術者のアリ・ハーショウィッツ氏は、検証なしにこうした手法を続ければ「我々の法制度に数千のバグを持ち込むことが保証されたやり方」になると述べた。