Anthropic、Claudeの憲法書き換えに向けた専門家セッションを開催
重要ポイント
- •Marginal Revolutionの著者は、Claudeの憲法改訂に関するAnthropicの2日間のセッションに参加した。
- •Anthropicは立憲的AI（constitutional AI）を採用しており、Claudeの憲法は2023年から公開されている。
- •セッションでは、AIの行動を導くために判例法、コモンローおよび関連する法的枠組みをより活用することが強調された。
- •参加者は、多様なAIと人間の裁定者による最終委員会を含む審査システムについて議論した。
- •Anthropicは以前からClaudeの憲法について外部の意見を求めており、今後の変更は公開される更新に反映される見通しだ。
経済学ブログ「Marginal Revolution」の著者は、Claudeの憲法の書き換えに関する助言を行うため、Anthropicで開かれた2日間のセッションにごく最近参加したと報告している。招待された少人数のグループは「一様に優秀」であり、参加者は主要な意思決定者と十分な時間を持ち、議論の質も非常に高かったと著者は記している。
Anthropicは2021年、CEOのダリオ・アモデイ（Dario Amodei）氏を含むOpenAIの元研究者らによって設立された、サンフランシスコに拠点を置くAI安全性企業である。Claudeは同社のAIアシスタントであり、同社は「立憲的AI（constitutional AI）」として知られる手法を用いて訓練を行っている。これは、モデルの行動を明示的な成文の原則集によって導くというものである。AnthropicはClaudeの憲法を公開しており、その内容は国連の世界人権宣言などを含む資料の一部から採られている。この手法は2022年12月のAnthropicの研究論文で発表され、文書は2023年5月に公開された。これにより、Claudeは行動指針を公開している数少ない広く利用されるAIアシスタントのひとつとなっている。また、今回のセッションは、外部パートナーと実施した公開諮問を含め、Anthropicが同文書について外部の意見を求めてきた流れに沿うものである。憲法はClaudeが多数のユーザーにどう応答するかを左右するため、文書がどのように書かれるか、そしてモデルが実際にそれに従っているかを誰が検証するかは、AIガバナンスにおける活発な論点となっている。
セッション中に強調されたと著者が述べる主な論点は以下の通りである。
- この文脈で「憲法」が何を意味するにせよ、判例法やコモンローに類するものからより多くを借りる必要がある。
- 関連して、「トーラー」だけでなく「タルムード」の観点からもっと考えるべきである。
- AIの憲法および関連文書に関する質の高い二次文献の構築を支援する取り組みを行う。現時点ではそうした文献は存在しない。
- 異なるプロンプトで動作する多様なAIによるパネルが、Claudeやその他のAIモデルがどの程度それぞれの憲法に従って行動しているかを評価する助けとなり得るかを検討する。
- 独立した司法機関に準える形で機能する、人間の裁定者による最終的な委員会を設置する。多様なAIによるパネルが、Claudeが憲法に従っていないと懸念した場合、それらのAIは何が起きているかを人間の裁定者に警告し、裁定者はその上で潜在的な変更や救済措置に対する権限を持つことになる。
著者はまた、AIの統治・自己統治を支援するための内部裁判所とコモンローの活用に関する最近の短い投稿や、裁判所についてのさらなる論考を読者に紹介している。総合すると、セッションでの提案は、判例、解説、独立した審査といった馴染みのある法的仕組みを、著者が指摘するように今日では二次文献すら存在しないプロセスに導入するものとなる。
投稿の最後では、招き入れに対するAnthropicへの感謝が述べられている。その結果生じる変更は、Anthropicがモデル世代をまたいで更新してきた同文書の今後の公開改訂版で確認できるはずだ。
Marginal Revolutionは、2003年にジョージ・メイソン大学の経済学者タイラー・コーウェン（Tyler Cowen）氏とアレックス・タバロック（Alex Tabarrok）氏によって創設された、長く続く経済学ブログである。
