OpenAIは2026年8月7日、予備的な評価結果により、AIが同社が「クリティカル」に分類するサイバーセキュリティ能力に達したことが示されたことを受け、Astraモデルに関連する一部の内部活動を停止した。しかし、サム・アルトマンCEOは、Astraの中核となるトレーニングは一度も停止しておらず、新モデルも予定どおり近日中に提供される見通しであると強調した。

一時停止のきっかけ

懸念の中心はAstraのサイバーセキュリティ能力であり、報道によれば、この能力はOpenAIの「Preparedness Framework(準備フレームワーク)」における「クリティカル」層に達するか、それに近い水準にあったとされる。これは、同社がモデルのリスクを評価する際に用いる最上位の分類である。

具体的には、このモデルは高度なエージェンティック(自律的)コーディング能力を示し、ゼロデイ脆弱性を特定または悪用する可能性を有していた。ゼロデイ脆弱性とは、ソフトウェアベンダーがまだ把握していないセキュリティ上の欠陥であり、防御者と攻撃者の双方にとって極めて高い価値を持つ。AIによる脆弱性発見はすでに活発な分野となっている。DARPAの「AI Cyber Challenge」は2025年にハッキングカンファレンス「DEF CON」で決勝が開催され、AIシステムに広く利用されているオープンソースソフトウェアの欠陥の発見と修正を課題とした。これは、ここで問題となっている能力が持つ防御面での期待と、両用(デュアルユース)リスクの双方を浮き彫りにするものである。

一時停止は2週間強続き、その間OpenAIはこれらの特定の能力を対象とした新たなセキュリティ対策を実施した。この期間中、同社はリスクを評価し、ガードレールを整備したうえで、対象となっていた活動を再開した。

Astraのより広範な能力

サイバーセキュリティ面は、極めて強力とみられるこのモデルの一側面にすぎない。報道によれば、Astraの以前のバージョンは、数学および理論計算機科学における10個の主要な未解決問題を解決したとされ、この主張が独立した検証で裏付けられれば、AI研究における画期的な成果となる。

アルトマン氏は、Astraを「一般に利用可能な形(generally available)」で提供する意向を示しており、これは同モデルが制限付きの研究アクセスの中に無期限に閉じ込められたままにはならないという意味である。ただし同氏は、より広範な展開に先立ち、特にサイバー能力への対処に重点を置きながら、モデルを安全に開発するためにはさらに時間が必要であると認めている。

安全性とスピードのバランス

OpenAIのPreparedness Frameworkは、まさにこのような状況のために設計されたものである。2023年10月に導入されたこのフレームワークは、サイバーセキュリティ、説得、自律性、生物学的脅威などのカテゴリーにわたって、「ロー(低)」から「クリティカル(重大)」までのリスク階層を定めている。モデルがいずれかのカテゴリーでクリティカル層に達すると、デプロイメントを進める前に追加のレビューと緩和策が発動される。

同様の仕組みは最先端AI研究所の間にも広がっている。Anthropicの「Responsible Scaling Policy」やGoogle DeepMindの「Frontier Safety Framework」も、より厳格な安全策を発動させる能力閾値を定めており、階層型リスク評価は新たな業界標準となりつつある。Astraがクリティカル層に達したという報道は、大手研究所でこの種の閾値が発動された、これまでで最も明確な公開事例の一つといえる。

このフレームワークが注目される背景には、OpenAIの安全ガバナンスをめぐる動きの激しい時期もある。2024年、同社は共同リーダーであったイリヤ・サツケヴァー氏とヤン・レイケ氏の退社を受け、長期的視野の「Superalignment」チームを解散し、その業務をより広範な安全性の取り組みに統合した。この一連の経緯により、同社のスピードと慎重さのバランスをめぐる疑問は常に世間の注目を集め続けている。

今後の注目点

当面の焦点は、Astraまたはそこから派生したモデルが、実際にいつユーザーへ提供されるかである。アルトマン氏が新モデルは近日中に登場すると述べたことは、一時停止があったにもかかわらず、スケジュールが大幅には後退していないことを示唆している。

もう一つの注目点は、OpenAIが安全性評価の詳細な結果を公表するかどうかである。サイバーセキュリティリスクでクリティカル層に達したモデルであれば、何が判明し、どのような緩和策が講じられたのかについて、徹底した公開説明が正当化されるはずである。さらに、AnthropicとGoogle DeepMindが同様の閾値ベースのフレームワークを運用しているなか、他の大手研究所が同等の評価の開示を始めるかどうかも追跡すべき動きである。