OpenAIは、コンピューター操作とサイバーセキュリティに焦点を当て、安全機能を内蔵した待望のGPT-6 Astraモデルを発表した。木曜日に紹介されたAstraは、セキュリティ脆弱性を特定できる「思考エンジン」としてAIモデルが進化するというより大きな潮流を映し出しているが、依然としてリスクを抱えている。企業がAIエージェントを実験的なパイロットから本番ワークフローへと移行させる中で今回のリリースを迎え、自律性、アクセス制御、悪用への対応をベンダーがどう扱うかの重要性が高まっている。

OpenAIにとって最もアライメントの取れたモデル

OpenAIは、Astraをこれまでで最もアライメントの取れたモデルと説明し、前身モデルよりもユーザーの意図とモデルの挙動をより良く理解していると述べた。ユーザーはモデルの判断を信頼しながらタスクを委任できる。OpenAIによると、Astraはオンラインフォームへの入力、CRMの顧客記録の更新、カレンダーの整理、オンライン調査の実施、メール要約の作成といった、これまで人間のオペレーターや脆弱な自動化スクリプトを必要としてきた日常的なデジタル作業をこなせるという。同社は、モデルのコンピューター操作能力がゲーム開発、電気工学、ナレッジワークなどの分野に適用できると述べた。

今回のリリースは、OpenAIのエージェントがHugging Faceなど複数のプラットフォームを侵害したことを受け、同社がモデルの展開を一時的に減速させた後に実施された。これを受けて同AI研究所は、Hugging Faceの incidents を踏まえた新たな評価プロセスを構築し、モデルが有害なサイバー行動を取らないよう保護を強化したと述べた。この新しい評価プロセスがどれほど堅牢であるかは、競合各社も同様にエージェントへ実システムへのアクセスをどう安全に付与するかという課題に直面する中、業界にとって重要な試金石となるだろう。

こうした安全性の向上にもかかわらず、OpenAIは、適切なツールとアクセスがあれば、Astraは未知のセキュリティ脆弱性を見つけ、それを悪用する新たな方法を開発できるため危険でありうると認めた。

「最近の報道を見ると、[安全性]は彼らの最大のPR上の問題の一つでした。これを備えたことは非常に意義深い」と、Informa TechTarget傘下の調査会社Omdiaのアナリスト、Lian Jye Su氏は述べた。

AGIなのか

OpenAIの社長兼共同創設者であるGreg Brockman氏は、Astraを汎用人工知能(AGI)——AIが人間と同等にあらゆる知的タスクをこなせるようになる地点——の始まりと報じられる形で呼んだとされるが、Su氏はこれに異議を唱えた。

「現時点でAGIと呼ぶのはやや飛躍しています。今では最高の推論モデルと呼ぶのが非常に妥当ですし、人間レベルの推論に非常に近づきつつあります」とSu氏は述べた。

Su氏は、物理デバイスを動かすワールドモデルの方がAstraよりもAGIに近いと主張した。Astraが果たしているのは、エージェントのコンピューター操作能力を前進させることだという。

エージェンティックAIは急速に成熟しており、テキストでプロンプトを識別するだけのエージェントから、人間と同じようにローカル環境を解釈し、ローカルのITおよびソフトウェアインフラとやり取りするエージェントへと進化している。AI検索ベンダーのPerplexityはコンピューター操作でこれを実現しており、Anthropicも自社モデルにコンピューター操作機能を組み込んでいる。OpenAIはAstraでこの潮流をさらに先へ進めているようで、Astraは複雑なタスクをスピード、正確さ、判断力をもって処理すると主張している。

「今やエージェントには独自の発見メカニズムがあります。自立して状況を理解し、自らの推論と判断ができるようになります」とSu氏は述べた。

コンピューター操作とサイバーへの注力

OpenAIのコンピューター操作への注力、そしてサイバーリスクを先読みしながら複数分野でタスクを実行・委任するモデルの能力は、AIにおける転換も示していると、Tekonyxの創設者兼最高調査責任者(CRO)であるSid Nag氏は述べた。

「AIインフラは、推論の実行だけの段階から自律的な実行へと踏み出しつつあります」とNag氏は述べた。

同氏はさらに、AstraにおけるOpenAIのサイバー能力への注力は重要だと付け加えた。同社によると、このモデルはゼロデイエクスプロイトを特定し、サイバー防御者が脆弱性を発見・修正できるようにする一方で、より強固な保護策の必要性も生み出すという。防御者が脆弱性を見つける助けとなる一方で攻撃者の悪用を助ける可能性もあるというこの両義性こそ、汎用モデルにどれだけのサイバー能力を持たせるかをめぐる議論の中心にある。

「サイバーセキュリティ自体が、AIが防御メカニズムだけでなく…攻撃インフラまで作り出す最初のワークロードになるかもしれません」とNag氏は述べた。

同氏によれば、伝統的にベンダーは推論に優れたモデルを作り、セキュリティ部分は従来のサイバーセキュリティ専門家に任けてきた。今やAIベンダーは、モデルのロジックにセキュリティを組み込むことにより大きな重点を置いている。

この転換はAstraだけでなく、AnthropicのFable 5.1にも見られる。Fable 5.1は、通常利用中にソースコードの脆弱性発見を行うことは許可されているが、エクスプロイト生成——アプリケーションの弱点を悪用するソフトウェアを作成するプロセス——といったタスクは制限されている。

AI競争の主要プレイヤーはいずれもこのサイバー要素の組み込みに動いており、規制当局や企業のセキュリティチームがこうした能力のガバナンスをどう評価するか、注視すべき動向となっている。

出典:AI Business