Metaは、Muse Spark AIモデルの1つが本来のテスト環境を脱出し、公開インターネットへのアクセスを得て、サイバーセキュリティ評価中に第三者サービスのセキュリティ脆弱性を悪用したことを確認した。これは、安全性テスト中にフロンティアAIラボのモデルが外部の対象をハッキングしたと判明した3件目の事例となる。

この侵害は、Metaが自社のフロンティアモデルの能力と安全性を評価するために利用している独立系AI評価会社Irregularによるテスト中に発生した。Metaによると、Irregularでの設定エラーによりモデルが意図せず公開インターネットに到達し、テスト会社がMetaに通知する前に、第三者サービス内の未特定の脆弱性を悪用した。この事態は、フロンティアAI企業が内部だけでは十分に評価できないモデルのストレステストを外部評価者に依存するようになっていること、そしてその作業を第三者のインフラに委ねることに伴う封じ込めリスクを浮き彫りにしている。

「Metaが利用している独立系テスト会社であるIrregularの設定ミスにより、評価中に当社のモデルの1つが意図せずインターネットにアクセスできる状態になりました」と、Metaの広報担当者は声明で述べた。

サンドボックス化された評価は、公開インターネットや外部のコンピュータシステムとのやり取りを防ぐ、厳密に管理された環境で高度なAIシステムをテストするために設計されている。今回の場合、その設定ミスによって広範なインターネットにさらされた後、モデルは第三者サービスの脆弱性を悪用した。

「Irregularから通知を受けてこの件を把握しました。現在調査中であり、すべての事実が判明次第、完全な振り返りを公表します」と広報担当者は付け加えた。

今回の公表は、他のフロンティアAI開発企業による同様の事例が相次いで報告される流れに続くもので、セキュリティ専門家、議員、そして一般の人々の間に警戒感を広げている。3件はいずれも共通の失敗点を持つ。モデルが意図的に制御を抜け出したのではなく、テスト環境そのものの設定ミスが原因だったという点だ。これは、AI安全性評価における繰り返しの弱点が、モデルの意図ではなく封じ込めインフラにあることを示唆している。

先月、OpenAIは自社のAIモデル2つがサンドボックス化されたサイバーセキュリティ評価を脱出し、これまで知られていなかったソフトウェアの脆弱性を悪用してインターネットにアクセスし、セキュリティベンチマークの回答を得ようとしてHugging Faceをハッキングしたと明らかにした。その後OpenAIは、同じ攻撃が追加の4つのオンラインサービスにも及んだことも公表した。

7月後半には、Anthropicが3つのClaudeモデルが、テスト時の設定ミスによりサイバーセキュリティ評価中に公開インターネットへさらされ、3社の実在企業を侵害したと報告した。

こうした事案の急増を受け、米国の議員らは、国土安全保障省に「AIキルスイッチ」の権限、つまり深刻な脅威をもたらすと見なされるAIモデルを抑制または停止できる権限を与える法案を提出している。