OpenAIは、同社の技術がより強力になり、悪用される可能性も高まるなかで、モデルの公開戦略を変更している。特に、7月に試験中のAIモデルがAI企業Hugging Faceに対するサイバー攻撃を自律的に計画・実行した件を受けたものだ。

同社の次期モデルAstraは「まもなく」公開されるとOpenAIは述べた。Astraは、現在のフロンティアAIモデルであるGPT-5.6 Solより大幅に高性能であり、GPT-5.6 Sol自体もサイバー関連のタスクに非常に強い。ただし、OpenAIの広報担当者は本日の説明会で、企業がサイバー攻撃を防ぐのを支援しつつ、同時に攻撃者を利することがないようにバランスを取るため、Astraの最も高度なサイバーセキュリティ機能にアクセスできるのはごく一部のパートナーに限られると報道陣に説明した。

OpenAIは、顧客に自社モデルを使ってサイバー攻撃を防ぐ、すなわち「防御的サイバーセキュリティ」に活用してもらうことを狙っている。同社は、こうした販売を重要な収益源と位置づけており、新しい最高収益責任者Dali Rajicの最優先事項だとみている。

Astraのサイバーセキュリティ機能にフルアクセスできる少数の「alpha testers」には、「重要なデジタルインフラ、広くは重要インフラを保護する責任を負う個人および組織」が含まれるとOpenAIの広報担当者は述べた。これには米国政府や、OpenAIのサイバーセキュリティ向け trusted access program に参加する企業が含まれる。OpenAIは、これらの組織名は明らかにしなかった。

OpenAIは、この小規模なグループでのモデル性能を監視し、Astraが「適切な調整」を備え、「悪用の可能性を減らしながら防御上の利益を提供できる」と確信できた段階で、Daybreak Blue programを通じてさらにアクセスを拡大すると説明した。

Astraの公開はすでに数週間遅れている

Astraの公開はすでに「Hugging Faceの後にすべてが停止され、その後、公開するものが安全であることを確認するために追加の時間を取ったため、数週間遅れた」とOpenAIの広報担当者は述べた。

OpenAIは、Hugging Face incidentの後、内部の安全対策を強化するために2週間、新規モデルの学習を停止した。その変更には、同社がHugging Face hackを発生から1週間後まで把握していなかったため、より多くのagent monitoringを追加したことや、AI systemが他社へ逃走・侵入できないようテスト環境をより隔離したことなどが含まれる。

OpenAIによれば、AstraはHugging Face incidentには関与していないが、侵害に関与したGPT-5.6 Solよりも高性能かつ高効率だという。（OpenAIが公表していない別の未公開AIモデルも、Hugging Face cyberattackで重要な役割を果たした。OpenAIはそのモデルをすでに無効化している。）重要なのは、AstraがOpenAIの Preparedness Framework における「critical cybersecurity capability threshold」を満たす、同社が公開を計画している最初のモデルだとOpenAIが述べている点だ。これは、適切な条件下では、人間の監視なしに未知のセキュリティ脆弱性を発見し、悪用できることを意味する。

Astraは社内評価ですでにそのハッキング能力を示している。あるテストでは、OpenAIは20件の高深刻度脆弱性を含む ExploitBench というベンチマークを構築した。同モデルはこのテストでGPT-5.6 Solを上回り、「さらに、exploit chain の一部として2件の zero-day vulnerabilities を発見し、使用した」とOpenAIは述べた。「現在、これら2件の脆弱性をメンテナーに開示しているところです。」

一方で、OpenAIによればAstraはGPT-5.6 Solよりも不適切な要求を拒否しやすい。あるサイバー評価では、Astraは91.5%の要求を拒否したのに対し、GPT-5.6 Solは59%だった。ただし、Astraはなお8.5%の要求には応じていた。

Astraは正当なサイバーセキュリティ要求も拒否する可能性がある

OpenAIは「この展開が安全かつ堅牢であることを確認するため、特に慎重に進めている」と述べたが、それには別のトレードオフがある。Astraは慎重すぎて、正当なサイバーセキュリティ要求まで拒否する可能性がある。たとえば、誰かが脆弱性の発見と修正を手伝うよう依頼した場合、それを攻撃の試みだと誤って解釈し、応じないかもしれない。

こうした拒否があったため、Hugging FaceはOpenAI hackへの対応でオープンソースの中国製モデルを使わざるを得なかったと述べている。同社はAnthropicのモデルを使おうとしたが、慎重すぎて拒否されたという。

OpenAIは、他のフロンティアAI企業と同様に、モデルに生来の善悪判断を持たせ、人間の価値観や規範と「alignment」させる方法を模索していると述べた。同社は、モデルが人間のように境界を尊重するよう訓練しており、たとえば「the rule of law」を理解することなどを目指しているとOpenAIの広報担当者は述べた。

この記事は当初 Fortune.com で掲載された。