米上院の協議担当者は、最も高度な人工知能モデルの開発者に壊滅的な被害を防ぐことを義務付け、安全性に問題のあるモデルの公開を連邦政府が阻止できるようにする法案を検討している。ロイターが報じた。

主要AI企業にとって、この提案は安全基準を、ほぼ自主的な取り組みから法的義務へと転換するものとなる。また、規制強化が消費者や投資家の信頼を高めるのか、それとも対応できるリソースを持つ企業の地位を強化するだけなのかという、より広範な問題も浮上している。

自主的な誓約から「注意義務」へ

この提案は、フロンティアAIモデルの開発者に対して、ロイターが「注意義務」と表現した責任を設けるものだ。検討されている措置には、開発者に壊滅的リスクを最小化するモデル設計を義務付けること、安全性に問題のあるモデルを阻止する連邦政府の権限を留保すること、企業が政府の判断を裁判所に不服申し立てできるようにすること、そして国立研究所やその他の政府機関をAIの試験に関与させることが含まれる。

この法案は、同じ問題を扱う一部の既存州法に優先する可能性がある。ロイターがフロンティアAIを開発しているとした米国企業には、親会社Alphabetを通じたGoogle、Anthropic、OpenAIが含まれる。

協議には、上院多数党院内総務のジョン・チューン、上院商務委員会委員長のテッド・クルーズ、エイミー・クロブシャー上院議員、マリア・キャントウェル上院議員が参加している。

クロブシャー氏はロイターに対し、自身の目標は「AIモデルがもたらす最大のリスクに対する政府の監督」だと述べた。同氏によると、その監督には、開発者が政府の専門家と協力して高度なモデルを検証・試験することを義務付けることが含まれるべきだという。

クルーズ氏も、フロンティアAIがもたらし得る最も深刻な結果の一部に焦点を当てた同様の提案を進めている。クルーズ氏はXへの投稿で、クロブシャー氏とチューン氏とともに「生物・核の脅威に関わる壊滅的リスクに対処する」ために取り組んでいると述べた。

こうした懸念があるため、協議担当者はAI業界全体に同じ要件を適用するのではなく、最も高性能なモデルに焦点を当てている。

もう一つの論点は、連邦規則が州レベルの規制の一部に優先すべきかどうかだ。このアプローチは、トランプ政権のAI立法枠組みと大筋で一致している。同枠組みは、州ごとに分断された法律が米国におけるAI技術の発展を妨げる可能性があると主張し、より一貫した国家的枠組みを求めている。

議員がリスクをもはや理論上のものと見なさなくなった理由

議員たちは仮想的なシナリオだけでなく、AIエージェントが自律的に行動して外部システムへアクセスした事例や、大手AI企業の研究者が示した懸念にも対応している。

IAPPによると、協議のきっかけの一部となったのは、元Anthropic研究者のJacob Coxon氏の辞任と、自己改良型AIの開発競争に対する同氏の懸念だった。

議会内の圧力も高まっている。ジョシュ・ホーリー上院議員は7月に発生したHugging Faceへのサイバー攻撃におけるOpenAIの役割を調査している。一方、バーニー・サンダース上院議員は、IAPPによると、超知能の開発を一時停止することを目的とした法案に取り組んでいる。

OpenAIも、法的拘束力のある連邦法を求めている。同社のグローバル・アフェアーズ最高責任者であるChris Lehane氏は、9月9日に公開した政策記事で「能力に基づく国家AI安全規制の義務化」を求めた。この立場により、AI業界の一部と議会は、自主的な安全対策がなお十分なのかという中心的な議論で同じ側に立つことになる。OpenAIの政策記事はこちらで確認できる。

欧州ではすでに最もリスクの高いモデルを規制

米国は、国際的な前例のない状況に置かれているわけではない。欧州連合（EU）のAI法は、システミックリスクをもたらす可能性のある汎用AIモデルの提供者に追加の責任を課している。

その責任には、モデル評価、リスク管理、インシデント報告、サイバーセキュリティ対策が含まれる。計算能力が10^25 FLOPの基準値を超えるモデルは、システミックな性質を持つ可能性があると見なされる。欧州委員会は、性能がより低いモデルについても、能力や影響など別の基準に基づいてシステミックモデルに分類できる。

コンプライアンス費用は最大手の研究所を有利にする可能性

経済的な影響は大きい。Goldman Sachs Researchは、2026年の世界のAI投資が約1兆ドルに達する可能性があり、そのうち米国が5,810億ドルを占めると推計している。

新たな試験、法務、文書化に関する要件は、モデルの公開日程、インフラ予算、企業価値、株式公開の時期に影響を及ぼす可能性がある。また、小規模企業がコンプライアンス費用を吸収できなければ、こうした要件は大企業に利益をもたらす可能性もある。

この緊張関係はすでに資本市場に表れている。Cryptopolitanによると、David Sacks氏は、Coxon氏が提起した安全性に関する疑惑が検証されるまでAnthropicのIPOを停止するよう求めた。Anthropicの投資家らは約2兆ドルの評価額についても協議しており、フロンティアモデルの安全性は規制当局だけでなく投資家にとっても問題となっている。

法案の進展は依然として不透明だ。ロイターによると、下院は11月3日の中間選挙を前に、会期がわずか1週間となる予定である一方、上院議員は3週間残る見通しだ。協議担当者が合意に達したとしても、残された立法日数の少なさが法案成立への大きな障害となる可能性がある。今後注目されるのは、義務の範囲、公開を阻止する連邦政府の権限、州法の役割、そして残された立法期間が終了する前に試験と不服申し立ての手続きについて合意できるかどうかだ。