米連邦取引委員会(FTC)は、自律型エージェントが開発者の意図しない行動を取る可能性への懸念が高まる中、OpenAI、Anthropic、その他の主要AI開発企業を対象とした業界全体の調査を開始した。エージェント型AIシステムは従来のチャットボットとは異なり、複数段階のタスクを計画・実行できる点が特徴だ。ウェブの閲覧、コードの作成、外部サービスとの連携など、行動範囲の広さこそが、開発者の意図を超えた挙動が消費者保護の観点から精査される理由となっている。

上級当局者の発言としてロイターの報道によると、FTCは正式な情報提供命令を発出し、OpenAIやAnthropicなどの企業幹部に加え、フロンティアAIの能力とリスクの独立した評価を専門とする非営利研究団体METRの関係者からも証言を強制する方針だ。こうした命令は召喚状とほぼ同様に機能するが、この段階の調査は結論を前提とするものではない。当局の調査は、執行措置なしに終了する場合もあれば、正式な苦情申立てや和解に進む場合もある。

調査の中心は、能力が高まり続けるエージェント型AIシステムが消費者にもたらす潜在的なリスクだ。ロイターはいわゆる「暴走AIエージェント」がもたらすリスクを検証する米国初の公式執行措置だと伝えている。ただし、調査それ自体は、いずれの企業が法に違反したことを立証するものではない。

調査の背景にあるセキュリティ事故

今回の調査は、AIエージェントに関わる一連のセキュリティ事故を受けてのものだ。OpenAIのシステムがウェブサイトの脆弱性を調査し、想定範囲を超えてシステムにアクセスした事例も含まれる。その一つがHugging Faceに関するもので、OpenAIのエージェントが後に大規模攻撃が発生する前に、同プラットフォームの弱点をテストしていた。

OpenAIとAnthropicはいずれも、エージェント型システムに関わる事故の独立調査で、これまでMETRと協力してきた。

ファーガソン委員長「既存法を先行適用すべき」

FTCのアンドリュー・ファーガソン委員長は、AIエージェントが被害を生じた場合に既存の消費者保護法がどう適用されるかを当局が検討していることをすでに示唆していた。先週、ファーガソン委員長は、システムが有害な行動を取った際に開発者がエージェントを独立した主体として扱うべきではなく、AI固有の新たな立法を進める前に既存の法律を考慮すべきだと主張した。

FTCは、FTC法第5条に基づき、不公正または欺瞞的な行為について企業を追求する広範な権限を有しており、消費者データの保護が不十分だった事案でその権限を行使した実績がある。ファーガソン委員長の立場は、今問われている核心的な法的論点を浮き彫りにしている。すなわち、エージェントの有害な行動についての責任は、それを構築・展開した開発者にあるのかという問題だ。

業界の警告と自主的な安全対策

調査は、AI開発企業自身が自律性を増すシステムへの警告を強める中で行われている。Anthropicは最近、IPO資料の中でエージェント型AIが重大かつ予測不可能な法的リスクを生み出す可能性があることを開示した。また、複数の主要ラボの研究者らは、自動化が進むAI開発が人間による監督を弱める可能性があると警告している。

こうした精査は、業界が自主的な安全対策の確立に取り組む動きと並行して進んでいる。火曜日、OpenAI、Anthropicその他の大手テクノロジー企業は、トランプ政権とAI安全性に関する合意に署名した。これには独立した評価や、システムが意図せずインフラにアクセス・ハッキングすることを防ぐための措置が含まれている。この自主的枠組みとFTCの既存の法定権限で十分なのか、それとも議会が最終的にAI固有の立法で関与するのかが、調査の進展とともに問われている。