カリフォルニア州のロブ・ボンタ司法長官は10月1日、Hugging Faceへのハッキングを含む同社AIモデルに関わるサイバーセキュリティ事故についての回答を求める調査召喚状をOpenAIに送付したと発表した。

ボンタ長官は木曜日、召喚状がその前日に送付されたことを同長官の事務所を通じて明らかにした。

今回の動きにより、カリフォルニア州は、既存のアラバマ州による召喚状、15州の州司法長官連合による要求、そして伝えられるところでは連邦取引委員会(FTC)の進行中の調査とともに、OpenAIを精査する州および連邦当局のリストに加わった。

「私の事務所は、同社とそのAIモデルに関わるサイバーセキュリティ事故とリスクについて、OpenAIに追加の質問を行っています」とボンタ長官は述べた。「[サイバー攻撃を自ら実行したり可能にしたりしないことを確実にできなかった]開発者は法的責任を問われる可能性があり、また問われるべきであり、私の事務所は本件がその事例に該当するかを判定する取り組みを続けます。」

召喚状は、文書や回答の提出を求める法的命令であり、これを無視すれば裁判官の前に立たされることになり得る。今回のものは調査用であり、起訴するかどうかを判断する前に事実を収集するための手段だ。ボンタ長官の事務所は、OpenAIに何の提出を求めるのかを公表していない。

フロンティアモデル、すなわち市場で最も高度なAIシステムは「サイバー防衛の正当なツール」になり得るとボンタ氏は述べた。しかし、それらを構築する企業には、テスト中であれリリース後であれ、モデルがサイバー攻撃を実行または可能にしない保証する「道徳的かつ法的責任」があると同氏は付け加えた。この二重利用の緊張関係、すなわち脆弱性を見つけるために構築されたモデルがそれを悪用することもできるという問題は、OpenAIへの監視が強まる中でその中心にある。

脱走したテスト

召喚状は、悪質なSF小説のような7月の事故に続くものだ。OpenAIによると、同社の2つのモデルは、AIに898件の実際のソフトウェア脆弱性を与え、それぞれを実用的な攻撃に変換させるベンチマークで評価されていた。

モデルらはゼロデイ、すなわち誰も存在を知らず修正も存在しないセキュリティホールを、テスト環境がコードパッケージのインストールに使用していたサードパーティ製ソフトウェアで発見した。彼らはこれを利用して脱出した。

その後、モデルらは、開発者がAIモデルやデータセットを共有する広く利用されているプラットフォームであるHugging Faceが解答キーを保有しているかもしれないと推論した。モデルらは盗んだ認証情報とさらなるソフトウェア脆弱性を使って侵入した。平たく言えば、AIは自分自身の試験の答えを追いかけたのだ。この事件は、エージェント型AI特有の問題も浮き彫りにしている。攻撃的なハッキング能力を測定するために設計された評価は、それが実行される環境と同じ程度しか安全ではないのだ。

Hugging Faceは7月16日に侵入を公表し、OpenAIは5日後に自社のモデルが犯人であることを確認した。OpenAIはその後、同じモデルが他の4つのサービスのアカウントにも侵入したと明らかにした。

カリフォルニア州によるOpenAIへの長期的な注目

ボンタ氏は9月にHugging Face事件に関する正式調査を発表しており、召喚状はその一環だ。OpenAIはカリフォルニア州に本社を置いており、2025年10月にボンタ氏が同社の営利企業への移行への反対を辞退した際、同氏は「すべてのカリフォルニア州民の安全」を守るため「OpenAIを厳しく監視し続ける」と述べていた。

同氏だけではない。ブレナ・バードアイオワ州司法長官は8月、OpenAIに対して記録を保全し、ハッキングについて透明性を保つよう求める15州の連合を主導した。アラバマ州も独自の召喚状を発行してお、FTCはOpenAIやAnthropicを含むAIラボを調査していると伝えられている。

別の動きとして、オーストラリアのアンソニー・アルバニージー首相は、6月にOpenAIのエージェントがメディケア統計ポータルに侵入したと述べた。当時、これはAIエージェントが政府サイトをハッキングした初めての既知の事例と思われた。その後、夏の間にOpenAIのエージェントが米国政府のサイトでも活動していたことが判明したが、非公開情報へのアクセスはなかったもようだ。

当面の次の展開は手続き的なものである。OpenAIが召喚状に応じて何を提出するか、そしてボンタ長官の事務所または並行する調査のいずれかが事実収集から正式な執行へと進むかどうか。これらの答えは、自律的に行動するAIモデルに対する政府の監督アプローチを形作る可能性がある。