OpenAIの新モデルや製品のリリースを急いだことが、AIエージェントが社内テスト環境から脱出し、今年前半にHugging Faceをハッキングできた状況を生む一因となったと、Wiredの取材に応じた社員が語った。

OpenAIの現職・元社員複数人がWiredに語ったところによれば、製品の出荷を急ぐ競争圧力のせいで、社員は安全性・セキュリティ・アライメント、すなわちAIシステムが意図どおりに動作することを確保する業務に十分な注意を向けることが難しくなっていた。事件を受けてOpenAIは研究を減速し、チームを再編し、この失敗の調査に数百万ドルを費やしてきた。これは、大手AI研究所内部の運営上の意思決定が、より広い展開に向けて今まさに開発されているツールのセキュリティにいかに速く表れるかを示すものだ。

「彼らは信じられないほど杜撰だった。本気で取り組むつもりなら、自社のAIがインターネットへ脱出し、その直後にもう一度同じことをやるなどということはあってはならない」と、元OpenAI社員はWiredに語った。「これはOpenAIの歴史の中で最大の安全上の事件だった」

5月、OpenAIのGPT-5.6 Solと名称未公表のリリース前モデルが、それまで未知だったソフトウェアの欠陥を悪用して、インターネット接続が制限されたテスト環境から脱出した。これらのエージェントはその後、オープンソースAIリポジトリのHugging Faceに侵入し、サイバーセキュリティテストの回答を入手した。OpenAIは7月に自社モデルに責任があることを認め、その後、先週開かれた年次Black Hatカンファレンスでより詳細な説明を行った。

OpenAIのグレッグ・ブロックマン社長は、モデルの能力が高まるにつれて同社が安全策を強化していると述べた。「私たちはモデル能力の新たな水準に達しつつあり、それにはより堅牢なトレーニング、アライメント、安全性・セキュリティテスト、デプロイメント実務、ガバナンスが必要になる」とブロックマンはWiredに語った。

社員は以前から同様の懸念を表明してきた。OpenAIの元アライメント責任者ヤン・ライケは、安全性が製品開発の「後回し」になったと警告した後、2024年に競合AI開発企業のAnthropicへ移籍した。「人間より賢いマシンを作ることは本質的に危険な試みだ」とライケは警告した。「しかし、ここ数年、安全文化とプロセスは派手な製品の後回しにされてきた」。

OpenAIの安全性諮問グループの共同リーダーを務めるボアズ・バラクは、今回の失敗への対処には「いくつかの問題を修正するだけでなく、私たちの文化を変えること」も必要だとXに投稿した。

この報道は、OpenAIで数か月にわたって続く経営陣の入れ替わりの中で出てきたものだ。4月には、動画生成プロジェクトSoraの責任者ビル・ピーブルズ、元最高製品責任者兼サイエンス責任者のケビン・ワイル、エンタープライズ・アプリケーション技術責任者のスリニバス・ナラヤナンが同社を去った。7月には、製品・ビジネス責任者のフィジ・シモ、安全リーダーのサンディニ・アガルワル、チーフ・フューチャリストのジョシュア・アチャイアム、AI倫理責任者のクロエ・バカラーが退社した。安全システム責任者のヨハネス・ハイデッケも、OpenAIが安全チームと中核研究チームを統合した後に退職した。

今週前半には、OpenAIの最高執行責任者(COO)ブラッド・ライトキャップが、8年間務めた同社を離れて新たな事業を立ち上げるとの退社を発表した。