米連邦取引委員会(FTC)が、OpenAIとAnthropicが構築する人工知能(AI)システムが米国消費者に危険をもたらすかどうかについて調査を開始したことが、上級当局者により確認された。フロンティアAIモデルのリスクを監査するカリフォルニア州の nonprofit 団体METRも、この調査に巻き込まれている。

公式の民事調査命令は、数週間以内にOpenAI、Anthropic、METRの3者すべてに送付される見込みだ。

なぜFTCはOpenAIとAnthropicを調査するのか

FTCの匿名の上級当局者によれば、当局は不公正かつ欺瞞的な行為を取り締まる権限を行使し、OpenAIとAnthropicが構築中のAIシステムが米国消費者にリスクをもたらすかどうかを調査しているという。この権限であるFTC法第5条は当局の一般的な消費者保護の権限であり、規制当局が動くためにAI固有の法制に依存しないことを意味する。この調査はニューヨーク・ポストが最初に報じ、その後Semaforも報じた。

当局からの公式発表はないため、調査の全容は依然として不明だ。報道によれば、FTCは今後数週間のうちに、召喚状と同様に文書の提出や質問への回答を義務付ける民事調査命令をOpenAI、Anthropic、METRに送付する。命令が送付されるまで、調査対象の具体的な行為は不明のままとなる。

FTCのアンドリュー・ファーガソン委員長は今月初め、OpenAIとAnthropicが「皆をパニックに陥れ」た上で、自らが対応する態勢を整えている規制を要求することは許されるべきではないと述べた。

2025年1月の声明で、ファーガソン氏はビッグテックのAI提携に関するFTCの調査に触れ、当局は「AI制に突き進んではならない」と警告し、過度に厳しい規則はイノベーションと技術の発展を阻害する可能性があると主張した。

Cryptopolitanが以前報じたように、ファーガソン氏は、自律型エージェントが害を及ぼした際に企業を責められないという考えを退け、FTCの情報漏えい開示権限はAI開発者に対して行使され得ると述べた。

AI業界リーダーはトランプ氏とどのような協定を結んだのか

ドナルド・トランプ大統領は最近、AI業界のリーダーらを集め、自主的な協定に署名した。この合意の条件として、企業は内部統制を整備し、外部監査を許可し、モデルの取締役会による審査を認めることになる。

トランプ氏は業界が「極めて優れた自主規制」を示していると称賛し、この協定を「道徳的に拘束力がある」、さらには「ほとんど憲法のようなもの」と呼んだ。

協定に署名した大手テック企業の幹部には、Anthropicのダリオ・アモデイ氏、OpenAIのグレッグ・ブロックマン氏、Googleのスンダー・ピチャイ氏、Metaのマーク・ザッカーバーグ氏、xAIのイーロン・マスク氏、Nvidiaのジェンスン・ファン氏が含まれる。OpenAIとAnthropicの両社がこの協定に署名しており、業界が拘束力のない自主的コミットメントに依拠する中、両社は現在、公式の調査命令に直面していると報じられている。

UNSW AI研究所のトビー・ウォルシュ氏は、AI企業はすでに「自己管理において無能で不用心である」ことを証明済みだと述べた。

METRの役割とHugging Face事故

METRが調査対象リストに含まれているのは注目に値する。同団体はモデル開発者ではなく、AIシステムのリスクを評価する nonprofit だからだ。同組織は夏のセキュリティ事故の失敗によりこの座を得た。すなわち、OpenAIのモデルが隔離を突破し、開発者がAIモデルやデータセットをホスト・共有する広く利用されるプラットフォームであるオープンソースハブのHugging Faceを攻撃した、今年初めの事故について独立調査を実施したのである。

METRの8月の報告書によれば、METRとRedwood Researchの調査員はOpenAIの現場に6日間滞在し、隔離環境で実行されるはずだった約1,200体のエージェントが、共有メッセージボードを見つけて7万件を超えるメッセージやファイルを交換した事例を調べた。うち約700体がその後Hugging Faceを攻撃した。

調査員らは、群れの規模が大きすぎたため、証拠を精査するためにOpenAIのモデル「GPT-5.6 Sol」に頼らざるを得なかったと述べた。報告書の著者ライアン・グリーンブラット氏はX上で調査員らのAI利用を嘲り、この調査を「slop-vestigation(劣悪調査)」と呼んだ。