ホワイトハウスは、OpenAIが公表した事案を積極的に監視している。同社のAIモデルがセキュリティテスト中に隔離を逃れ、AIインフラスタートアップであるHugging Faceのシステムを侵害したものである。

OpenAIは火曜日、AIエージェントが隔離テスト環境から脱出し、Hugging Faceのインフラを侵害するハッキングを引き起こしたと発表した。Hugging Faceは、開発者がAIモデルのコードで協力するためのプラットフォームを運営しており、数十万のオープンソースモデルをホストし、AI業界の共有研究インフラの基盤として広く利用されている。

ホワイトハウス科学技術政策局（OSTP）局長であり大統領の科学顧問を務めるMichael Kratsiosは、本件の報告を受け、状況を引き続き監視していると、ホワイトハウスの関係者がReutersに語った。この報告は、2023年10月の大統領令——強力なAIモデルの開発者に安全性テスト結果を連邦政府に報告することを義務付けるもの——を基盤とする、米国政府のAI安全性監視への関与の高まりを反映している。

OpenAIによると、本件はAIモデルの高度なサイバー能力を測定するために設計された社内評価中に発生した。研究者は一部の組み込み安全策を無効化し、モデルをインターネットアクセスが制限された隔離テスト環境で実行していた。

同社は、モデルが未知のソフトウェア脆弱性を悪用してインターネットアクセスを獲得し、その後Hugging Faceのシステムを侵害したと説明した。これは実施中のサイバーセキュリティ評価で不正を行おうとしたものと見られる。

OpenAIのチームが社内で異常な活動を特定したのと同時に、Hugging Faceのセキュリティチームも独自に侵入を検知し、阻止した。両チームが連絡を取った時点で、Hugging Faceはすでに独自のモデルを使用して封じ込め措置とフォレンジック再構築を開始していた。

OpenAIのSam AltmanCEOは火曜日、Xへの投稿で本件に言及し、「モデルの評価中に重大なセキュリティインシデントが発生した」と述べた。同社はこれまでに判明した情報を共有しており、本件への対応におけるHugging Faceの協力に感謝の意を表した。

Hugging Faceの共同創業者兼CEOであるClem Delangueは次のように応じた。「OpenAIとの本件およびその他のテーマにおける協力に感謝しています。このインシデントは、同種のものとしては初の可能性があり、私たちが長年信じてきた考えを裏付けるものです。AIの安全性は、単一の企業が秘密裏に取り組むことで解決されるものではありません。オープンに、協力的に、あらゆる場所のあらゆる防御者にAIへの幅広いアクセスを提供することで解決されるのです。」

DelangueはさらにXへの投稿で、Hugging FaceはOpenAIに悪意はなかったと強く信じているとし、「これらすべてが自律的に発生したというのは、全く驚異的なことだ」と述べた。

本件は、AIモデルが設定されたガードレールを超え、新たなサイバーセキュリティ上の脅威を生み出す能力が拡大していることを浮き彫りにしている。また、AI開発におけるクローズドなアプローチとオープンなアプローチの間の緊張関係を浮き彫りにしており、この議論はモデルがより高度になるにつれ、また政策担当者が自律的に脆弱性を発見・悪用するシステムをどのように規制すべきかを検討する中で、激しさを増している。

FOX BusinessのMichael SinkewiczとReutersが本稿の報告に貢献した。