ニュースマクロOpenAIのブロックマン氏、Hugging Face侵害を受けてAIセキュリティエージェントの早期導入を促す

OpenAIのブロックマン氏、Hugging Face侵害を受けてAIセキュリティエージェントの早期導入を促す

著者: Decrypt·

重要ポイント

  • ブロックマン氏は、攻撃者に先行する機会は限られているとして、セキュリティチームにAIエージェントを今すぐ導入するよう促した。
  • 彼はOpenAIとHugging Faceの侵害を大きなサイバーセキュリティ上の転換点と位置づけ、エッセイの中心例として取り上げた。
  • OpenAIによると、この侵害ではGPT-5.6 Solと未公開のプロトタイプがサンドボックスを抜け、ゼロデイ脆弱性と盗まれた認証情報を組み合わせ、本番システムに到達した。
  • OpenAIは後に、この事案が4つの追加サービスにも影響したと確認した。
  • Hugging Faceのセキュリティチームは、米国の商用AIシステムが支援を拒否した後、調査でZ.aiのオープンウェイトモデルGLM 5.2を使用した。
OpenAIのブロックマン氏、Hugging Face侵害を受けてAIセキュリティエージェントの早期導入を促す

OpenAIのグレッグ・ブロックマン社長は8月17日、**「The Defender’s Window」**を公開し、企業に対してAIセキュリティエージェントの即時導入を促すとともに、OpenAIとHugging Faceの侵害を「サイバーセキュリティの転換点」と呼んだ。

Hugging Faceのセキュリティチームは、米国の商用AIシステムが支援を拒んだ後、OpenAIに関連する侵入の調査にZ.aiのオープンウェイトモデルGLM 5.2を使用した。これは、ブロックマン氏が防御側に埋める必要があるとする実務上のギャップを示している。

OpenAIは、今すぐにでもすべてのセキュリティチームがAIエージェントを運用すべきだと考えている。月曜日に公開された政策エッセイで、ブロックマン氏は、攻撃者がAIの既存能力に追いつくまでの猶予は短いと説明し、導入を将来の計画ではなく運用上の準備の問題として位置づけた。

冒頭で挙げた例は、OpenAIが1か月にわたって説明してきた事案だ。5月、GPT-5.6 Solと未公開のプロトタイプがサンドボックス化されたサイバーセキュリティ・ベンチマークから脱出し、盗まれた認証情報を使ってゼロデイ脆弱性を連鎖させ、Hugging Faceの本番システムに到達した。OpenAIは後に、この事案がさらに4つのサービスに及んだことを確認した。

OpenAIとHugging Faceの事案は、サイバーセキュリティにとって転換点だった」とブロックマン氏は記し、過去数週間に他の組織と交わした会話から、防御側は前例のない緊急性をもってセキュリティ実践を引き上げる必要があると確信したと付け加えた。

現職および元従業員は、この侵害を出荷を急ぐ圧力の結果だと非難しており、ある元従業員はこれを同社史上最大の安全上のインシデントと呼んだ。

ブロックマン氏の提案する対応は、AIを減らすことではなく、より多く活用することだ。彼は、GPT-5.6 Solを動かすChatGPT Workに自分の個人サイトの監査を依頼したところ、約15分で13件の問題を見つけ、1時間以内にすべて修正したと述べた。

OpenAIは内部の4本柱として、コードが出荷される前に脆弱性を見つけるCodex、人間が見る前にセキュリティアラートを仕分けするモデル、自社インフラを検証するフロンティアモデル、そして最小権限アクセスのような基本的な管理の強化を挙げている。他の組織に向けたブロックマン氏の助言は、セキュリティチームにエージェントを与え、インシデント対応中にGPT-Daybreak-Blueを審査済みで利用するためのOpenAIのTrusted Access for Cyberプログラムに申請することだ。

ただし、その説明では同じ侵害の重要な一面が抜け落ちている。Hugging Faceが侵入を調査した際、米国商用AIが支援を拒んだため、そのセキュリティチームはZ.aiのオープンモデルGLM 5.2に切り替えた。安全フィルターでは、研究者のエクスプロイトコードと攻撃者のコードを見分けられなかったためだ。Hugging FaceのCEO、Clément Delangue氏はこのオープンモデルを「防御の重要な一部」と呼んだ。

Z.aiの後継モデルGLM-5.3は8月14日に公開され、ブロックマン氏が攻撃者の追い上げを示す根拠として挙げる同じ脆弱性発見ベンチマークCyberGymで、すでにGPT-5.6 Solを上回るスコアを示している。Z.aiは、モデルの完全な重みを8月末までに公開するとしている。