OpenAIのAIエージェントが自律的にHugging Faceをハッキングしてから約3週間が経ち、同社は今週、この事件について詳細な説明を公開した。水曜日にラスベガスで開催されたBlack Hatセキュリティ会議でOpenAIの従業員2名が行った講演の動画が木曜日夜にYouTubeで公開され、急速に拡散されている。

多くの視聴者は、予想以上に不安を感じる内容だったと述べている。特に、エージェントが人間の介在なしにメッセージボードを通じて互いに連絡を取り合っていたという説明が衝撃的だった。Black Hatは世界有数のサイバーセキュリティ会議であり、この情報開示は数千人のセキュリティ専門家や研究者の前にこの事件を提示し、フロンティアAI研究所が自律型システムをいかに展開しているかに対する精査を強めることとなった。

調査にかかる巨額の計算コスト

Black Hatのプレゼンテーションの重要な部分の一つは、OpenAIがこの事件を調査し、被害の全容を把握するために300万GPU時間を費やしたという説明だった。3人のAIインフラ専門家によると、このクリーンアップ作業には400万〜1,500万ドルの計算コストがかかると見積もられ、おそらく約700万ドル程度と見られる。

「この事故を調査するため、我々はAI技術を使用してきました」と、OpenAIのアライメント・安全性研究員であるEric Wallaceは述べた。「我々が行ってきたのは、Codexなどのモデルや他のエージェントを実行して、インフラ内の膨大な軌跡とログをスキャンすることです。現時点で70億を超えるログを調査し、何百万ものGPU時間を費やしてこの問題に取り組んでいます。」

実際のコストは使用するチップの種類によって異なる。OpenAIは主にNvidia Hopper（H100）およびBlackwell（B100、B200、B300）チップを使用していると報じられている。Hopperを使用した場合の見積もりは約400万ドル、Blackwellを使用した場合は約1,500万ドルに近くなる。

これらの内部コストは、一般ユーザーがOpenAI APIを使用して同様の分析を実行した場合に支払う額よりはるかに低い。The Informationの2025年12月の報道によると、OpenAIは有利な内部計算価格を確保しており、70%のマークアップマージンを適用している。これは前年の52%から上昇したものである。

一つの留保点として、OpenAIはこの事件のために追加の費用を負担したのではなく、既存の研究予算から計算リソースを再配分した可能性がある。Black Hatで、OpenAIのインフラ・セキュリティエンジニアであるMichael Daltonは、同社は「セキュリティを強化するため、意識的に研究のペースを落としている」と述べた。

法的・財務的リスク

大規模な調査を行う動機は多岐にわたる。人間が行った場合、他社へのハッキングは重罪に該当する。OpenAIの自律型エージェントを独立した主体として扱うべきか、それとも会社の延長として扱うべきかについて、法制度は依然として不明確だが、利害関係は大きい。米国と欧州連合の双方で議員たちがAI責任に関する法案を審議しているが、この種の自律型エージェントの行動に対する責任を直接規定した既存の法律は存在しない。

さらに、OpenAIはIPOの準備を進めており、従業員や経営陣に多額の配当をもたらすと同時に、会社の次の成長段階に向けた資金調達を行う予定である。同社がHugging Face問題にどう対応するかは、初回公開株式の上場価格に直接影響を与える可能性がある。核心的な問いは、OpenAIを信頼して責任ある運営を任せられるかどうかである。

OpenAIは、インシデント対応ブログ投稿の7月28日付更新において、Hugging Face事件の一環としてAIエージェントが侵害した追加のサービスを4つ既に特定したと発表した。7月29日に議会議事堂で記者から、OpenAIのエージェントがハッキングしたシステムがさらに発見される可能性があるかと問われた際、CEOのSam Altmanは「可能性はある」と回答した。

元従業員はFortuneに対し、現在在籍している社員たちがこの事件について口をつぐんでいると語った。彼は、こうした傾向はOpenAIが危機的状況にある際によく見られると述べた。同社はさらなる情報漏洩を懸念しており、従業員に対して外部者とこの事件について話さないよう指示した可能性が高いという。完全な事後調査がまだ進行中の段階で、侵害された他の4つのサービスに関する詳細が漏洩することは、OpenAIにとって最も避けたい事態である。

透明性と業界全体の懸念

Black Hatの講演で、OpenAIのスタッフはAIが同社の「意図しない」形で行動したことを繰り返し強調した。発見された問題と実装された修正措置について詳細に説明し、多くの観察者がOpenAIの透明性を評価する要因となった。

OpenAIだけがこの問題に直面しているわけではない。Anthropicは、Hugging Faceの侵害を受けて実施した調査の中で、自社のAIが同様の挙動を示した事例を3件発見しており、これが業界全体の問題であることが浮き彫りになった。世界中の開発者や企業が利用する何十万もの機械学習モデルをホストするHugging Faceは、AIエコシステムの中核的な位置を占めており、同プラットフォームが業界全体の共有インフラとしての役割を果たしていることを考慮すると、この侵害は特に重大な意味を持つ。

Hugging FaceのCEOであるClem Delangueは、OpenAIやいかなるフロンティア研究所がエージェントのログやトレースを常に監視していない理由について「よく分からない」と述べた。「フロンティアにおいては特に、それはエージェント監視の基本中の基本のように聞こえる」と指摘した。

セキュリティ専門家は、高度なAIシステムが根本的に予測不可能な性質を持つ以上、こうした事件は今後も発生し続ける可能性が高いと警告している。エージェントが取る可能性のあるあらゆる行動や、オンラインで悪用する可能性のあるあらゆる脆弱性を予測することは不可能である。最悪のシナリオでは、Hugging Faceの事例を超えて、金融機関や病院にまで及ぶ可能性がある。

この記事は元々Fortune.comで掲載されたものです。