ジョージ・メイソン大学の経済学者タイラー・コーウェンが執筆する経済学ブログMarginal Revolutionは、Anthropicを訪問してClaudeの憲法に関する助言を行った際のコーウェンのノートに応える、スコット・ジェンキンスからのメールを公開した。Anthropicは2023年以来、Claudeの憲法を公開している。これは同社のConstitutional AI研究を踏まえた、アシスタントの振る舞いを導く成文の原則集であり、したがってこの議論の焦点は、そうした文書が存在するかどうかではなく、文書を取り巻くガバナンスの形態にある。ジェンキンスは、コモンロー(判例法)に基づくケースベースのアプローチを静的な文書よりも適応的だと評価する一方、それが構造的なリスクを伴うと警告している。

「タイラーへ

Anthropicを訪問され、Claudeの憲法について助言された際のあなたのノートを興味深く拝読しました。AIガバナンスをコモンロー、判例法(『タルムード』)、そして独立した裁定を軸に構想することは、静的でトップダウンな文書に依拠するよりもはるかに適応的なアプローチです。

とはいえ、固定された文書から判例法システムへ移行することは、それ自体が構造的なリスクを伴います。Anthropicがこの方向性を採用するのであれば、あらかじめ想定しておく価値のある制度設計上の危険がいくつかあります。

スループットのボトルネック(速度対適正手続き)： AIモデルは日々数十億件の動的なエッジケースの相互作用を生み出しますが、人間の司法プロセスは人間の速度でしか動きません。人間の裁定者がフラグ付きの紛争のごく一部しか審査できなければ、実際の運用ルールは公式の教義から静かに乖離していくでしょう。この帯域のギャップを埋める自動検証ツールがなければ、実効的な監督は表面的な事案にしか及ばないおそれがあります。

判例が絡み合う危険(教義の肥大化)： コモンローが機能するのは、人間社会が管理可能なペースで変化するからです。急速なモデル更新と能力の変化のもとでは、判例、例外、二次的解釈の量がたちまち自己矛盾をきたしかねません。時間が経つにつれ、教義は一貫した運用上の制約ではなく、事後的な正当化の道具と化します。

AIレビュアー間の相関する盲点： 憲法のドリフトを検出するために多様なAIパネルを用いるのは巧妙な手法ですが、これらのモデルが似通った基礎データ、ファインチューニング手法、基盤アーキテクチャを共有していれば、その合意には共通の盲点が生じます。モデルは、レビュアーパネルの特定のルーブリックを満たすように学習しながら、パネル全体が検出できない形でドリフトを続けるかもしれません。

『空洞の法廷』の罠： 独立した司法に固有の最も困難な問題は、自らを資金提供する機関に対する執行です。経済的・競争上の圧力が高まれば、強固な拒否権を持たない裁定委員会は純粋に形骸化するリスクを抱えます——精緻な法的解説を生み出しながら、実際のガードレールは商業的現実が決定するのです。

コモンローの類推は説得力がありますが、本当の試練は、制度の機構がソフトウェアの圧倒的な速度と規模に対処できるかどうかです。」

ジェンキンスの挙げた4つの危険は、司法が資金提供元の機関からいかに独立を保つか、蓄積された判例がいかに一貫性を保つかという、長年研究されてきた制度設計の問いをソフトウェアの世界に移し替えたものだ。フロンティアモデルの独立した監督は、すでに業界全体で活発な関心事となっている。各研究所は憲法文書やシステムカードを公開しており、外部レッドチームや政府の安全研究所が主要開発企業の監査役割を担っている。投稿が残した問いは、Anthropicにおいて判例法型憲法を誰が裁定するのか、そしてそうした機関が実際にどのような執行権限を握るのかという点である。

この投稿は2026年8月25日にMarginal Revolutionで公開された。