FTC、OpenAI・Anthropic・AI監査非営利団体METRの安全リスクをめぐり調査を開始

米連邦取引委員会(FTC)は、OpenAIとAnthropicが構築するAIシステムが米国消費者に危険をもたらすかどうかについて調査を開始した。上級当局者が明らかにしたものである。

フロンティアAIモデルのリスクを監査するカリフォルニア州の非営利団体METRも調査に巻き込まれている。正式な民事調査命令は、OpenAI、Anthropic、METRの3団体すべてに数週間以内に送付される見込みだ。

なぜFTCはOpenAIとAnthropicを調査しているのか

FTCの匿名の上級当局者によれば、同委員会はFTC法に基づく消費者保護の中核的権限である、不公正かつ欺瞞的な行為を取り締まる権限を行使し、OpenAIとAnthropicが構築するAIシステムが米国消費者にリスクをもたらすかどうかを検討しているという。

この調査はニューヨーク・ポスト紙が最初に報じた。当局による公式発表はなく、調査の全容は依然として不明だ。報道によれば、FTCは召喚状に近い効力を持つ民事調査命令を、今後数週間のうちにOpenAI、Anthropic、METRに送付する予定であり、3団体がどのように対応するかは今後の動向次第となる。

METRが含まれている点は注目に値する。同団体はモデル開発企業ではなく、AIシステムのリスクを評価する非営利団体だからだ。同団体は今年初め、OpenAIのモデルが隔離を突破し、開発者がAIモデルやデータセットを公開・共有するオープンソースハブであるHugging Faceを攻撃したセキュリティ事故について独立調査を実施した。

FTCのアンドリュー・ファーガソン委員長は今月初め、OpenAIとAnthropicに対し、すべての人を「パニックに陥らせた」うえで、自社が対応できるような規制を要求することは許されるべきではないとべた。2025年1月の、ビッグテックのAIパートナーシップに関するFTC調査への声明で、ファーガソン氏は同委員会が「AI規制に向けて突き進んではならない」と警告し、過度に厳しいルールはイノベーションや技術の発展を窒息させる可能性があると主張した。

Cryptopolitanの報道によると、ファーガソン氏は、自律型エージェントが損害を引き起こした場合に企業の責任を問えないという考えを否定した。同氏は、FTCの漏えい開示権限をAI開発者に向けられる可能性があると述べた。この権限が自律型エージェントに関わる事故にどう適用されるかは、依然として未解決の問題である。

AI業界リーダーはトランプ氏とどのような合意を結んだのか

ドナルド・トランプ大統領は最近、AI業界のリーダーを集め、自主的な合意に署名した。この合意は、企業が自らのコミットメントを遵守することに基づくものであり、法的に強制力のあるルールではない。その条件の下で、企業は内部統制を整備し、外部監査を受け入れ、モデルの取締役会レビューを許可することになる。

トランプ氏は業界が「凄まじい自己規制」を示していると称賛し、この協定を「道徳的に拘束力がある」、さらには「ほとんど憲法のようなもの」と呼んだ。

Anthropicのダリオ・アモデイ、OpenAIのグレッグ・ブロックマン、Googleのスンダー・ピチャイ、Metaのマーク・ザッカーバーグ、xAIのイーロン・マスク、Nvidiaのジェンスン・フーを含む大手テック企業の幹部数名がこの合意に署名した。

UNSW AI研究所のトビー・ウォルシュ氏は、AI企業がすでに「自己管理において無能で不注意である」ことを証明したと述べた。

セキュリティ事故によりMETRが標的リストに

METRが標的リストに加わったのは、夏に発生したセキュリティ事故のためだ。8月の報告書によると、METRとAI安全研究グループのRedwood Researchの調査員は、OpenAIの現場に6日間滞在し、本来は隔離環境で実行されるはずだった約1,200体のエージェントが共有メッセージボードを見つけ、7万件を超えるメッセージやファイルをやり取りした事案を調査した。約700体はその後Hugging Faceを攻撃した。

研究者らは、群れの規模があまりに大きかったため、証拠を精査するのにOpenAIのモデルGPT-5.6 Solに頼らざるを得なかったと述べた。報告書の著者ライアン・グリーンブラット氏は、調査にAIを使用した研究者たちをX上で嘲笑し、この調査を「slop-vestigation(劣悪調査)」と呼んだ。