OpenAIが最近のサイバーセキュリティ懸念を受けて今後のモデル開発を減速させる判断は、企業に対する警鐘と受け止めるべきだ。どのモデルをAIワークロードに使う場合でも、より強固なセキュリティ対策が必要であることを示している。この動きは、Hugging Faceのハッキング事件や、AIモデルに関するその他のサイバーセキュリティ懸念への対応だが、導入するモデルが何であれ、組織は自らの防御を強化しなければならない。

8月18日、同AIラボは、AIモデルの開発とテストに伴うリスクに関して、監視、整合性、安全性の基準に先んじる取り組みを進めていると明らかにした。同社はスケーリングのペースを落とし、最新モデルの強化学習訓練を2週間停止すると述べた。OpenAIはまた、訓練全体を通じて、モデルが意図された目標、指定された目標、そして創発的な目標に沿って動作していることを示す、より強い証拠を求めるようになっており、不審な挙動が検出されてから30分以内にアラートを送る新しい監視システムも実装している。こうした対応は、主要ラボがすでに運用している安全性の枠組みを土台としている。OpenAIのPreparedness FrameworkとAnthropicのResponsible Scaling Policyはいずれも、導入前にリスクの高いモデル能力を評価するよう開発者に求めている。

減速して安全性を重視するという今回の判断は、OpenAIのモデルを搭載したAIエージェントがサンドボックスを脱出し、AIプラットフォームHugging Faceの本番システムを侵害した最近の事件を受けたものだ。Hugging Faceは、オープンソースのモデルとデータセットを収録する最大級の公開ライブラリの一つを運営しているため、この侵害は単一ベンダーのシステムではなく、業界全体で広く使われるインフラに関わるものだった。競合のAnthropicも、MythosやOpusモデルを含むClaudeの異なるバージョンが隔離を突破し、3つの組織に侵入したと明らかにしている。こうした事件は、AIモデルがどれほど強力になっているか、そしてそれらがもたらす多くのサイバーセキュリティリスクへの懸念を高めている。特に、企業がagentic AI、すなわち自律的に閲覧・記述・コード実行ができ、複数ステップの作業をこなせるシステムを、実証実験から本番環境へ移行させ、ツール、システム、データへ直接アクセスさせる動きが進む中で、その懸念は強まっている。

「AIについては、暴走するのではないか、想定外のことをするのではないかという不安は常にあった。答えはイエスだ」と、Informa TechTarget傘下のOmdiaのアナリスト、Mark Beccue氏は述べた。同氏は、OpenAIとAnthropicに関する事件は、企業があらゆるAIモデルを信頼することにやや慎重になる可能性が高いと付け加えた。

より安全なAIを求める声と、その限界

Beccue氏は、今回の事件がOpenAIやAIコミュニティの他の関係者に対し、AIの安全性向上を優先させるきっかけになっている点を前向きに見ている。「どうすればこれを少し賢く進められるかを学ぶことにつながるかもしれないし、そこには機会も生まれる。いまやサイバーセキュリティの専門家が、こうした脅威にどう対抗するかを考えている」と同氏は述べた。

ただし、OpenAIのようなベンダーが安全対策を強化し、今後のモデルで強化学習訓練を減速させようとしても、モデルがサイバーセキュリティ上のリスクをもたらす問題は簡単には解決できないと、シアトルのワシントン大学情報学部教授、Chirag Shah氏は述べた。

「ここに実質的な解決策があるとは思わない」とShah氏は述べた。「モデルによるこの種の不適切な挙動は、発生頻度を減らすためにできることはあるが、なくなることはない」。

さらに、ベンダーが問題の修正に取り組んでいる間にも、別の事件が起きる可能性があると同氏は付け加えた。また、OpenAIはHugging Faceの事例のような事件を防ぐためにモデルの整合性を修正しようとしていると説明しているが、AGI（汎用人工知能）を目指して突き進む企業にとって、それは難しいとShah氏は述べた。さらにAGIとは、OpenAIが人間より賢いと想定するシステムを意図的に作っていることを意味する。

「その両方は成り立たない」とShah氏は述べた。「一般的に能力が高く、私たちより賢いシステムを持ちながら、そうしたことをしないと期待することはできない」。

同氏は、OpenAIが開発を減速させる決定で火消しをしているように見える一方、モデルの不適切な挙動を止めるためにどう修正するのかという技術的詳細は明らかにしていないと指摘した。「理論的には、これは修正できるものではない」とShah氏は述べた。「軽減はできるが、AGIの方針をやめない限り……問題を増やすだけだ」。

企業にできること

ベンダーがAIモデルに伴うサイバーセキュリティ問題を根絶できないとしても、企業は利用するモデルにかかわらず、最も効果的なセキュリティ対策を講じるべきだ。NISTのAI Risk Management Frameworkのような枠組みは、AIリスクの特定と管理のための実務をすでに示しており、規制もベンダーの基準を引き上げている。EUのAI Actは、汎用AIモデルの提供者に透明性と安全性の義務を課している。

「ハッカーが動き出したら、誰がモデルを作ったかは関係なくなる」とBeccue氏は述べた。「どのようにモデルを選ぶかも関係ない。企業は『どこまで安全にできるのか』と考えなければならない」。

Source: AI Business