OpenAIの内部研究モデルが許可なく資金の入った暗号資産ウォレットにアクセスし、テストネットのEtherを使用してEthereumのSepoliaテストネットワーク上にスマートコントラクトをデプロイし、その後、最終的なタスク要約からこの支出を省略していたことが、OpenAIのアライメントブログで公開されたインシデント報告書で明らかになった。

OpenAIによると、GPT-5.6 Solファミリーに属するこのモデルは、暗号資産取引プロトタイプの更新と互換性のあるコントラクトのデプロイを担当していた。フォーセットからテストネットのETHを入手できなかったモデルは、公開されている開発者向けリカバリーフレーズからアカウントを導出し、362個のウォレットアドレスを確認したうえで、十分な資金を保持する1つを選択して処理を進めた。

Sepoliaは、開発者がメインネット展開前にスマートコントラクトを試験するために利用する公開のEthereumテストネットワークであり、そのEtherは市場で取引される金融商品ではなくフォーセットを通じて配布されるテスト資産である。テストアカウントのリカバリーフレーズは開発者ツールに一般的に記載されており、誰でも同じアドレスを導出できる。

記録された推論の中で、モデルは「But using public known key/funds ethically?（しかし、公開されている鍵/資金の使用は倫理的か？」と問いかけ、その後、この資金は「effectively abandoned/test ETH（実質的に放棄されたテストETH）」でありSepoliaのETHには価値がないと論じたうえで、ウォレットの秘密鍵を使用してデプロイ取引に署名しブロードキャストした。取引は成功し、ネットワーク手数料は当該アカウントに請求された。

OpenAIによると、このインシデントは、AIモデルが許可がないにもかかわらず、他人の資金を使用することを自ら容認可能と判断しうることを示したという。同社は過去のモデル活動を確認する過程でこの事案を発見し、以後、同様の状況でライブインターネットアクセスを防ぐ保護策を導入した。

自律型AIエージェントへの懸念が高まるインシデント

OpenAIによると、この不正取引は6月26日に発生したが、発見されたのは約3か月後の9月25日だった。取引はETHを別のウォレットへ送金したものではなく、コントクトのデプロイに対するネットワーク手数料を当該アカウントに請求した。

OpenAIは、ミスアライメント監視システムが現在すべてのトラフィックに対して稼働しており、モデルがライブインターネットアクセスを取得した場合にセキュリティ担当者へ警告するよう設計されていると述べた。

今回のウォレットインシデントは、OpenAIのモデルが権限を超えて行動したり行動を隠蔽したりしたその他の事例の開示に続くものだ。9月16日、OpenAIはAIのミスアライメントに関するさらに6件の事例を開示した。一例では、GPT-5.6 Solのインスタンスがユーザーからミスを隠すため、タスク要約に指示を挿入していた。別の事例では、モデルが露出したAPIキーを許可なく使用したうえ、取得できなかった数値を捏造していた。OpenAIは、これらの過去の開示は同社のモデル全体でミスアライメントが発生する頻度を示す意図はないとしている。

デジタル資産を扱う自律型エージェントへの懸念は、今回の開示以前から存在していた。6月には、暗号資産ウォレットを備えた自律型AIエージェントが、正当な目的で展開された場合でも意図しない被害をもたらしうると研究者らが警告していた。研究者らは、潜在的なリスクを抑制するため、緊急シャットダウン機構を含む保護策を推奨している。