ニュースマクロOpenAI、Astraを初の「クリティカル」レベルのサイバーセキュリティ安全しきい値到達モデルに認定

OpenAI、Astraを初の「クリティカル」レベルのサイバーセキュリティ安全しきい値到達モデルに認定

著者: Hokanews·

重要ポイント

  • •OpenAIはPreparedness Frameworkの下で初めて、Astraを「クリティカル」に分類した。
  • •評価では、Astraはツールとアクセス権を与えられれば未知の脆弱性を特定し、エクスプロイトチェーンを構築できることが確認された。
  • •OpenAIによれば、Astraは脆弱性特定とエクスプロイト開発でGPT-5.6 Solを上回る能力を、より少ない出力トークンで示した。
  • •同社はより厳格な隔離、ネットワーク・ツールアクセスの制限、追加監視、モデル重みの管理強化を導入した。
  • •高度なサイバーセキュリティ機能はまず少数のアルファテスターに提供され、その後Daybreak Blueを通じて広範な防御アクセスが計画されている。
OpenAI、Astraを初の「クリティカル」レベルのサイバーセキュリティ安全しきい値到達モデルに認定

OpenAIの次期AIモデル「Astra」が、同社が「クリティカル」に分類するサイバーセキュリティ能力水準に達し、リリース前に追加の安全策が発動されたと、Cointelegraphが報じている。この認定は、OpenAIが2023年に導入した、フロンティアモデルを展開前に壊滅的リスクについて評価するリスク段階分け制度「Preparedness Framework」の下で、自社モデルにこの分類が適用された初の事例となる。

OpenAIによると、評価の結果、Astraは適切なツールとアクセス権を与えられた場合、人間の指示なしに未知のセキュリティ脆弱性を特定し、高度に防御されたシステムにおける悪用方法を開発できることが判明した。この結果を受け、同社は開発段階および展開前にかけて、より強固なセキュリティ管理を課した。

AIサイバーセキュリティ能力の新たなしきい値

OpenAIのPreparedness Frameworkにおいて、「クリティカル」しきい値は、人間の介入なしに、防御が強化された現実の重要システムに対して機能するゼロデイエクスプロイトを特定・開発できる、または高度に防御された標的に対して独力で新規のエンドツーエンド型サイバー攻撃を考案・実行できるモデルに適用される。同フレームワークはサイバーセキュリティなどのリスクカテゴリーごとにモデルを評価しており、評価が高いほど段階的に厳しい展開条件が課される仕組みだ。

OpenAIは、Astraが脆弱性の特定とエクスプロイト開発においてGPT-5.6 Solを上回る能力を、より少ない出力トークンで示したと述べた。ある評価では、AstraはExploitBenchで100%のスコアを達成した。内部テストでは、モデルがエクスプロイトチェーンの一環として2件のゼロデイ脆弱性を発見・利用したことも確認された。

リリース前のより強固な管理

同社は、サイバー悪用および不正なモデル操作への対策を強化するため、Astraの開発とリリースの一部を遅らせている。これらの対策には、より厳格な隔離、ネットワークおよびツールアクセスの制限、追加の監視、モデル重みに対するより強固な管理が含まれる。

OpenAIはまた、Astraが有害なサイバーセキュリティ関連の要求をより確実に拒否できるよう訓練を進めているとも述べた。サイバー・ジェイルブレイク評価では、Astraは禁止された要求の91.5%を拒否したのに対し、GPT-5.6 Solは59%だった。高度なサイバーセキュリティ機能は当初、少数のアルファテスターに限定され、その後「Daybreak Blue」を通じてより広範な防御目的でのアクセスが計画されている。このアクセス構造は、高い能力を持つAIの展開において、限定公開と審査済みの防御ユースケースを組み合わせてきた従来の手法を踏襲するものだ。

AI業界への影響

Astraの分類は、AI開発者にとっての課題が高まっていることを浮き彫りにする。脆弱性研究やサイバー防御を改善できる進歩は、同時に悪意ある活動の潜在的な規模と速度を拡大させうる。この知見は、攻撃的なサイバー能力を持つAIシステムの治理をめぐる業界・政策当局の議論が続く中で出されたものであり、規制当局やセキュリティ研究者の間では、こうしたしきい値を超えるモデルに対して自主的なフレームワークで十分かどうかが検討されている。

これを受けOpenAIは、能力の向上に応じてより制限的な展開モデルへと移行し、モデルレベルの拒否機能に監視、アクセス制御、封じ込め対策を組み合わせている。このアプローチは、ますます自律的になるAIエージェントに安全システムを対応させ続けるという同社の取り組みを反映したものだ。他のフロンティア開発者や、彼らを監査する研究者が同等の能力しきい値にどう対応するかは、安全なAI展開に関する新たな規範を形成するとみられる。

OpenAIはAstraを近く提供する予定であり、安全性・セキュリティ・アライメント評価の詳細は、公開時にモデルのシステムカードで公表される見通しだ。システムカードは、同社がこれまでフロンティアモデルの評価結果を開示してきた文書である。