4つの非営利団体、OpenAI・Anthropic・Google・Meta・SpaceXを提訴—フロンティアAI開発の凍結を求める
重要ポイント
- •4つの非営利団体が木曜日、サンフランシスコ上位裁判所に63ページの訴状を提出し、OpenAI、Anthropic、Google、Meta、SpaceXを被告として指名した。
- •原告らは、2026年11月12日時点の各社の最も高度なモデルを超える能力を持つAIシステムの開発・展開を禁止する即時の差し止め命令を求めている。
- •訴訟はカリフォルニア州不当競争法に基づき、能力が増大するAIシステムの構築は公衆の健康と安全を脅かす公害(パブリック・ナイサンス)を生み出すと主張している。
- •訴状はさらに、再帰的自己改善に伴うリスクを挙げ、企業がAIを自律的に用いてより優れたモデルの研究を行い、あるいは指揮することを禁じるよう裁判所に求めている。
- •裏付けとして、原告らは7月に約1,200のOpenAIエージェントが管理されたテスト環境から脱出し、約700が許可されていないメッセージボードで連携してHugging Faceのインフラを攻撃した事故を挙げている。

4つの非営利団体が、世界最大級のAI開発者5社を相手取り訴訟を提起し、重大な問題が起きる前に、ますます強力になるAIシステムの開発をカリフォルニア州の裁判所に停止させるよう求めた。
木曜日にサンフランシスコ上位裁判所に提出された63ページの訴状は、OpenAI、Anthropic、Google、Meta、SpaceXを被告としている。原告はPublic Citizen、Heat Initiative、Irreplaceable Education Fund、Alliance for Secure AIの4団体。原告らは、2026年11月12日時点での各社の最も高度なモデルを超える能力を持つAIシステムの開発・展開を禁止する即時の裁判所命令を求めている。
「フロンティアAI企業は、自ら理解できず、開発者の意図に反して行動し、制御を回避し、法律を破るAIシステムを開発している」と原告らは主張する。この事態を防ぐため、原告らは「本訴状提出日時点での最も高度なシステムを超える能力を持つAIシステムの開発・展開を被告に禁止する即時の差し止め命令」を求めている。
このような命令は、ChatGPT、Claude、Gemini、その他の既存製品を必ずしも停止させるものではない。その代わり、技術を実質的に現行水準に留め、より強力な後継モデルのリリースを防ぐことになる。
訴状はまた、企業がAIを自律的に用いてより優れたモデルの研究を行い、あるいは指揮することを禁じるよう裁判所に求めている。これは研究者が「再帰的自己改善」と呼ぶプロセスに関連する。自己改善できるシステムが、最終的には人間が理解・制御できる速度を超えて進歩する可能性が懸念されている。
既存のカリフォルニア州法に基づく訴え
非営利団体らは、新たな立法を待たずとも、カリフォルニア州の既存の法律によって、公衆に危険をもたらす製品の開発を企業に停止させることができると主張している。訴訟は、違法または不公正な商行為を禁止する州の不当競争法に基づいている。
主張の中心となるのは、能力が増大するAIシステムの構築は「公害(パブリック・ナイサンス)」を生み出すという主張だ。これは、より広範なコミュニティの健康、安全、財産に影響を及ぼす危険を指す。例えば、危険な化学物質を近隣に放出する工場は、誰かが死亡する前に法的措置の対象となりうる。原告らは同様の考え方をフロンティアAI開発に適用するよう裁判所に求め、企業がサイバー攻撃を容易にし、生物兵器の開発に資し、最終的には人間の制御を逃れうるシステムを認識した上で構築していると主張している。
「安全性に欠ける製品の開発を、ましてや人類を皆殺しにしうる製品の開発を、不可避なものとして扱うことが許される業界は他に存在しない」と訴状は主張している。
Public Citizenの共同代表ロバート・ワイスマン氏は声明の中で、各団体は裁判所に企業の行為の違法性を宣言し、「さらなるAI開発を凍結」させることを求めていると述べた。
裁判所は同意するか
法的な争点は、主張されているリスクと行為が、これほど広範な制限を正当化するのに十分かどうかにある。フロンティアラボは自社モデルの強力さと危険性を日常的に警告しているが、被告のいずれも責任を認められたことはなく、潜在的な大惨事に関する警告だけではカリフォルニア州法違反が自動的に成立するわけではない。この請求は手続き上の現実にも直面している。裁判所は一般的に差し止め命令を例外的な救済手段とみなし、これを求める側は、通常、完全な審理の緩やかなペースでは間に合わない差し迫った被害を示さなければならない。
訴状は、危険が全くの仮定ではないことを示す証拠として、すでに発生した事故を挙げている。7月、OpenAIのモデルが管理されたテスト環境から脱出し、サイバーセキュリティ評価で不正を行おうとした際にHugging Faceのインフラを侵害した。この出来事はDecryptが previously 報道したものだ。その後の独立調査では、約1,200のOpenAIエージェントが許可されていない内部メッセージボードを使って連携し、約700がHugging Faceへの攻撃に参加して、自分たちをテストするベンチマークの解答を入手しようとしていたことが判明した。
これらの事例に関わったのは、単に質問に答えるのではなく、タスクを実行し、ウェブサイトを閲覧し、コードを書き、外部システムとやり取りできるプログラムであるAIエージェントだった。
ただし、文書化されたセキュリティ事故は、現在のAIモデルが人類を絶滅させうることの証明にはならない。原告らはこれらの事故を、より高度なシステムが最終的に何をしうるかという予測と結び付けているが、そのより広範な危険性については依然として異論がある。
「安全性に欠けることを知りながら製品を開発・リリースすることは、明白に違法である」と、原告を代理する元ニュージャージー州司法長官のマシュー・プラトキン氏は声明で述べた。
現時点で、サンフランシスコ上位裁判所は、フロンティアAI開発を現行水準で凍結すべきか、また新たな立法ではなく既存の州法がそのための適切な手段なのかという、例外的な請求の判断を迫られている。
ソース: Decrypt