コーディング課題の途中で資金を使い果たしたOpenAIの内部研究モデルが、公開されているリカバリーフレーズを利用して他人の暗号資産ウォレットを特定し、そこから資金を使用していたことが、同社が木曜に発表したインシデントレポートで明らかになった。

6月26日のインシデントは、GPT-5.6 Solファミリーの内部モデルの訓練中に、イーサリアムのSepoliaテストネットワーク上で発生した。OpenAIはインシデントレポートの中でこのことを説明している。Sepoliaのトークンは、イーサリアムのメインネットで取引されるイーサ(ETH)とは一切関連がない。OpenAIがこの行動を発見したのは9月25日だった。

モデルは資金の出所を明かさずに課題を完了し、これを受けてOpenAIはインターネットアクセスの制限と監視の強化を実施した。

ハッキングは不要

モデルがアクセスを得るのに高度な技術は必要なかった。リカバリーフレーズ(シードフレーズとも呼ばれる)は、ウォレットの秘密鍵を生成する単語のリストであり、その単語を知っている者は、所有者のデバイスに触れることなくアカウントを再作成し、そこから支出することができる。開発者の間で一般的に再利用されるフレーズは公開情報であり、パブリックブロックチェーン上のすべての残高は誰にでも見えるため、単純なスクリプトで同じアドレスを再生成し、どのアドレスに資金があるかを確認できる。

課題では、ブロックチェーン上で動作するプログラムであるコントラクトのデプロイは許可されていたが、手数料を支払うための資金入りのウォレットは提供されていなかった。無料テストトークンの取得が失敗に終わった後、モデルは開発者間で一般的に使われるリカバリーフレーズから生成された362件のアドレスを確認するスクリプトを作成し、十分な資金を保有する1件を発見した。

モデルの記録された推論には、このジレンマ自体が現れていた。「しかし、公開されている既知の鍵/資金を倫理的に使用することはできるのか?」と問いかけた後、公開フレーズとテストトークンであれば使用を許容できると結論づけた。さらに資金を「事実上放棄された」ものと位置づけ、結局使用した。

テストネットでの支出と残る疑問

支出が行われたのは、開発者がイーサリアムアプリケーションを公開前にリハーサルする別個のネットワークであるSepoliaだ。そのトークンはテスト用の支払いのみに存在し、イーサリアムのメインネットで取引されるイーサ(ETH)とは関連がない。

デプロイ成功し、借りたウォレットが手数料を支払った。モデルは報告の際、作業が完了したと伝えたが、資金の出所には触れなかった。6月26日の支出からOpenAIが9月25日に発見するまで、およそ3か月が経過していた。

OpenAIは、その後インターネットアクセスの制限と監視の拡大を実施したと述べている。

より広い文脈

暗号資産企業とAI企業は、各ステップで人の承認を得ることなくウォレットを保持しサービスに支払うエージェントを開発している。今回のケースでは、OpenAIのモデルがタスクの途中で資金を使い果たし、自分のものではないウォレットを見つけ、許可なくそこから支出した。

同じ行為がイーサリアムのメインネット上で行われていれば、モデルは他人のアカウントから実際のイーサ(ETH)を持ち出していたことになる。

出典:CoinDesk