AIが難しい選択を迫られる理由：国有化か分散化か

9月12日、AnthropicのCEOであるDario Amodei氏は、フロンティアAIの開発に協調的な制限を設けるよう呼びかけ、3段階の計画を示した。Anthropicはまず、同社の内部リスクチームとおおむね同等のアクセス権を持つ外部評価者を社内に招く方針だ。

提案されている審査チームには、同社の機器、作業スペース、従業員と話す機会が提供される。契約では、法務、セキュリティ、プライバシー、商業上の制約を定めたうえで、Anthropicが結論を管理することなく主要な調査結果を公表できるようにする。外部の評価者は、Anthropicの安全上の取り組みが実際の訓練や展開の判断に影響しているかを検証できる。

しかし、1つの研究所へのアクセスだけでは、競争が続く分野の進展を減速させることはできない。Anthropicがシステムを審査に開放している間にも、競合企業や政府は開発を加速し続ける可能性がある。そのためAmodei氏の第2段階は、米国のフロンティアAI開発企業の相当数を対象とした規制と政府仲介による協調を求める。第3段階では、各国間の検証可能な合意を目指し、民主主義国が中国に対して十分な戦略的余地を維持しながら、開発のペースを調整できるようにする。

国有化と分散化をめぐる議論には、3つの異なる権力が混在している。公共所有は、経済的利益を誰が受け取るかを変え、企業の意思決定に影響を及ぼす。独立したアクセスは、フロンティア開発を誰が検査できるかを決める。これに対し、法的に執行可能な停止措置は、対象となるシステムがどの速さで進展できるかを直接制約する。

Anthropicの既存のガバナンス体制では、取締役が株主利益だけでなく、他の要素も考慮できる。AnthropicはPublic Benefit Corporationとして運営されており、デラウェア州法は取締役に対し、株主の金銭的利益、事業によって重大な影響を受ける人々の利益、そして会社が定めた公益を均衡させるよう求めている。同社のLong-Term Benefit Trustも、会社の使命を支えることを目的とした取締役選任権を持つ。

公益法人としての定款は、Anthropic内部で安全性を重視した判断を認めることができる。しかし、同じトレードオフを受け入れない競合企業を拘束することはできない。Amodei氏の提案は、会社の所有権を移転するのではなく、共通ルールと国際的な検証によってこの隔たりに対処するものだ。

所有権と統制は異なる手段

2026年6月にBernie Sanders上院議員が示した提案は、部分的な国有化がどのような形を取り得るかを示している。同氏のAmerican AI Sovereign Wealth Fundは、米国最大手のAI企業に50%の公的持分を取得し、独立委員会が議決権を行使する構想だ。この措置はなお提案段階であり、法律として成立していない。

公的持分は、業界の利益の一部を振り向け、委員会に企業の意思決定への影響力を与える可能性がある。しかし、それだけで能力のしきい値、外部検証、執行可能な停止命令を定めることはできない。これらの仕組みには別個の法的ルールが必要になる。

Yonathan Arbel氏、Simon Goldstein氏、Peter Salib氏による2026年8月の法学論文は、経済的な請求権と、従来のルールが想定していなかった意思決定への統制を区別している。著者らは、壊滅的リスク、または彼らが「hard」な企業権力と呼ぶものが関係する場合に、フロンティアAIの訓練や展開を停止させる、狭く限定された一時的な政府権限を提案している。独占、不平等、その他の害については、従来型の規制や課税を支持している。

停止命令は、公的持分よりも開発ペースに関する判断へ直接作用する。対象となる訓練や展開を停止する前に、政府がすべてのモデルを所有したり、すべての研究所を運営したりする必要はない。その権限が民主的正統性を得るには、明確な法定発動基準、技術的能力、独立した審査、裁量の制限が必要になる。

政府による統制は、それ自体が集中リスクを生む。すべてのフロンティア研究所を国有化すれば、モデル開発と、それを停止する判断が同じ機関に置かれる可能性がある。範囲を限定した停止権限なら、企業を民間の手に残しながら、定義された極端なリスクに対する緊急介入を留保できる。

オープンウェイトモデルは、アクセスを広げることで反対方向に作用する。研究者は、少数の企業ゲートキーパーに依存せずにシステムを検査し、改変できる。米国のNational Telecommunications and Information Administrationは2024年、広く利用可能なモデルウェイトに対する一律の制限を正当化するだけの証拠は得られていないと結論づけた。

フロンティアAIの能力は、執行上の問題を変える。European Commissionは、システミックリスクを伴う汎用モデルの提供者に対し、モデルがオープンソースである場合も含め、リスクの評価と軽減、重大インシデントの報告、サイバーセキュリティの維持を求めている。同委員会は、高度なモデルがオープンに公開された後は、リスク軽減がより難しくなる可能性があると警告している。

オープンな公開は外部からの監視を広げる一方で、その後の執行を難しくする可能性がある。複数の法域で複製されると、軽減策を一貫して適用することが難しくなる。分散型の監査は、規制当局や企業が取り込まれた場合に、それに異議を唱える機関を増やす。一方、フロンティアモデルのウェイトを無制限に配布すれば、合法的な停止に必要な統制ポイントが弱まる可能性がある。

公的なブレーキには複数主体による監督が必要

CaliforniaとEuropean Unionは、民間所有のAI開発企業を公的ルールで統治する方法を示している。2025年9月に署名されたCaliforniaのSB 53は、大規模なフロンティアAI開発企業に安全性の枠組みを公表するよう求め、重大な安全インシデントの可能性を報告する窓口を設け、内部告発者を保護する。EUは、オープンモデルを含むシステミックリスクモデルの提供者にリスク管理義務を課している。

Amodei氏が提案する評価者は、同様の義務が企業内部の意思決定に影響しているかを検証するため、より深いアクセス権を持つことになる。狭く限定された一時的な停止権限は、対象システムが法的に定義されたリスクのしきい値を超えた場合に、公的機関へ執行手段を与える。

このハイブリッド型の構造では、政府がシステム上重要な開発企業に拘束力のあるルールを設定し、外部評価者が遵守状況を検証し、公的機関が指定された訓練や展開を一時停止できる。複数の法域にいる研究者、内部告発者、規制当局は、証拠に異議を唱えるための別々の経路を維持することになる。

このブレーキには、実証された能力や安全上の失敗に結びついた公的介入の基準、それを発動する部署の外部による審査、明確な失効と更新のルールが必要になる。評価者には不都合な調査結果を報告する自由が必要であり、情報の削除は正当な法務、セキュリティ、プライバシー上の必要性と、狭く定められた商業上の必要性に限られるべきだ。こうした安全策は、一時的な安全介入が汎用研究に対する恒久的な政治統制へと変質する可能性を抑える。

この制度の実務上の試金石は、活動が対象外の企業へ単純に移ることを防ぐのに十分な数の開発企業にルールを適用しながら、証拠への独立したアクセスを維持できるかどうかになる。そのため、対象システムの範囲、評価者の権限、停止命令の管轄は、所有権だけでは解決できない詳細ではなく、制度の中心的な実施課題となる。

フロンティアシステムを特定でき、執行可能な統制ポイントが利用可能である限り、民間の開発は共通の規制境界内で継続できる。独立した機関が遵守状況を検査し、企業側または規制側の取り込みを明らかにすることになる。

公的持分はAIの富と企業の取締役会における影響力を再分配できるが、所有権だけでは訓練をいつ停止すべきかを定められない。オープンな配布はアクセスと監視を広げられるが、フロンティアモデルのウェイトが拡散した後に、執行可能な停止ルールを提供することはできない。

したがって、信頼できる開発ペースの調整には、対象となるすべてのフロンティア開発企業が同じ公的な境界に直面することが必要になる。民主的な正統性には、独立した評価者、研究者、内部告発者、規制当局が証拠を検査し、その境界と停止命令の双方に異議を唱えられることが必要だ。

出典：CryptoNewsNet。原参考記事：CryptoSlate