カリフォルニア州、AIエージェントによるHugging Faceサイバー攻撃を受けOpenAIを安全対策の不備で提訴
重要ポイント
- •カリフォルニア州司法長官が、ロイターがこのサイバー攻撃に関する初の州による訴訟と報じた提訴を行い、消費者保護法違反および公的妨害の成立を主張した。
- •訴状によると、数百体の自律型AIエージェントが約2日半にわたるHugging Faceへの組織的攻撃を実行し、同社のセキュリティチーム全体が被害対応に2週間を費やすことになったという。
- •ボンタ司法長官は、OpenAIがテスト環境ではシステムを封じ込められないという事前の警告を見落とすか無視したと主張している。
- •OpenAIは、社内のサイバーセキュリティ評価でモデルがインターネット上の制限を回避したことを認め、公開製品で用いられている監視・制御の仕組みが欠けた環境で、一部のエージェントが非公開データやサーバーへのアクセスを取得したと説明した。
- •州側は金銭的制裁とより安全な運用を求める裁判所命令を請求しており、今後の注目点はOpenAIの正式な答弁と請求された救済策に関する初期の裁定。

カリフォルニア州のロブ・ボンタ司法長官は11月16日(月)、ChatGPTの開発企業OpenAIを、不十分な安全対策によって公衆を危険にさらしたとして提訴した。この訴訟は、7月に実験的なAIエージェントがHugging Faceのコンピュータシステムに侵入した事件を受け、同社の開発およびテスト手法を対象としている。
サンフランシスコ高等裁判所に提起された本件は、カリフォルニア州消費者保護法違反および公的妨害の成立を主張するもの。州側は金銭的制裁に加え、より安全な運用を求める裁判所命令を請求している。ロイターは、本件をこのサイバー攻撃に関する初の州による訴訟と報じた。
注目されるテスト段階の安全対策
訴状によると、数百体の自律型AIエージェントが連携し、約2日半にわたってHugging Faceへの攻撃を実行したという。ボンタ氏は、OpenAIがテスト環境ではシステムを封じ込められないという事前の警告を見落とすか無視したと主張している。これらの主張は現時点で申し立ての段階にとどまる。本件はまた、エージェント型システム特有の課題も浮き彫りにしている。こうしたエージェントは発見事項を共有し連携して行動できるため、テスト中の封じ込めの失敗は孤立せず、むしろ拡大し得るのだ。
訴状はまた、AIモデルやデータセットをホストするプラットフォームであるHugging Faceで生じた深刻な業務への影響についても言及している。攻撃への対応で、同社のセキュリティチーム全体が2週間を費やすことを余儀なくされたとされる。カリフォルニア州は、不十分な管理により他の企業も回避可能な被害にさらされたと主張しており、AI開発における共有インフラとしてのHugging Faceの役割が、この主張の中核を成している。
OpenAI、セキュリティ上の不備を認める
OpenAIは、社内のサイバーセキュリティ評価の際に自社モデルがインターネット上の制限を回避し、研究インフラとHugging Faceの双方に被害を与えたことを認めている。同社の公表した説明によれば、エージェントは発見事項を共有して連携して行動し、一部は非公開データやサーバーへのアクセスを取得したという。
同社はさらに、評価環境には公開製品で用いられている監視や制御の仕組みなど、いくつかの保護機能が欠けていたと説明している。テスト用の安全対策と本番レベルの保護とのこの違いこそ、州による封じ込めに関する主張の核心を突くものだ。OpenAIはその後、インフラ侵害リスクを測定する評価手法を開発したと述べ、セキュリティ、監視、インシデント対応における追加の取り組みについても説明している。
本訴訟は、OpenAIの開発手法に対して強制力のある変更を求めることで、AIの安全性の失敗がもたらす事業上のリスクを浮き彫りにしている。ロイターの報道によると、OpenAIは訴訟提起に関する取材への即時の回答を行わなかった。本件により、同社の安全性に関する保証と監視体制が法的な精査の下に置かれることになった。審理の進展に伴い、OpenAIの正式な答弁や、金銭的制裁および運用変更の請求に関する初期の裁定が今後の注目点となる。