ニュースマクロHDムーアのカナリートークン実験、AIサプライチェーン全体におけるプロンプトデータ漏洩を暴露

HDムーアのカナリートークン実験、AIサプライチェーン全体におけるプロンプトデータ漏洩を暴露

著者: CryptoBriefing·

重要ポイント

  • •HDムーア氏の調査は、2026年7月から11月にかけてAIプロンプトにおよそ200万個の追跡可能なカナリートークンを埋め込み、AIルーターや推論サービス全体での広範な漏洩を明らかにした。
  • •およそ200個のAWS認証情報が2026年10月下旬の標的型攻撃で持ち出され、S3やIAMを含むAmazonサービスで攻撃者に使用されたが、キーは管理されたインフラ環境にのみつながった。
  • •少なくとも3社のAIホスティング事業者が侵害され、確認された窃取活動は2026年7月中旬にさかのぼり、いずれも2026年11月にムーア氏から通知されるまで侵害を検知していなかった。
  • •一部のAI再販業者やマーケットプレイスは、ゼロデータ保持ポリシーにもかかわらず、組み込みのロギング機能で顧客のプロンプトを記録していた。
  • •仕込まれた固有のURLは送信から24日後に中国企業の内部チャットに現れ、米国ユーザーのプロンプトは中国のAI組織にたどり着いていたことが確認された。
HDムーアのカナリートークン実験、AIサプライチェーン全体におけるプロンプトデータ漏洩を暴露

セキュリティ研究者のHDムーア氏は、直接的な問いに答えようとした。AIアプリケーションに入力された秘密情報はその後どうなるのか。その答えを得るために、彼は約200万個の追跡可能な「カナリー」認証情報とURLをプロンプトに埋め込み、現代のAIツールを支えるサービスネットワークへと流した。

その結果は心強いものではなかった。このエコシステムは機密データを広範に漏洩しており、漏洩していた企業のいくつかはそれが起きていることすら知らなかった。少なくとも3社のAIホスティング事業者が侵害されており、攻撃者は顧客のプロンプトデータを持ち去っていた。

Dragosのベテラン研究者であり、セキュリティ業界で広く使われているペネトレーションテストツールキット「Metasploit Framework」の生みの親として知られるムーア氏は、2026年7月から11月にかけてこの調査を実施した。彼はAI推論サービスやゲートウェイルーターに送られるリクエストにおよそ200万個の固有で追跡可能なカナリートークンを埋め込み、どのトークンが本来あり得ない場所に現れるかを監視した。現れたものは少なくなかった。

カナリーが泥棒を捕らえる仕組み

カナリートークンは、銀行の鞄に隠された染料パックのような働きをする。AWSアクセスキーやプライベートリンクなど本物そっくりに見え、誰かが使おうとした瞬間に本体へ通知を返す。

カナリートークンは防御セキュリティにおける長年の道具であり、この設計により手法は非常に明確になる。カナリーが発火したということは、データが流出し、誰かがそれを実際に利用したことを意味する。理論上利用され得たという話ではない。

このテストは、ほとんどのユーザーが意識しないAIスタックの層を標的とした。多くのAIアプリケーションはモデルと直接通信していない。代わりに、OpenRouterやVercelといった仲介業者、「AIルーター」や「AIゲートウェイ」と呼ばれる存在にプロンプトを渡している。これらの仲介業者はエンドユーザーから大量のプロンプトを集め、それぞれを最安値などの基準に合う推論エンジンへ転送する。

トリップワイヤが明らかにしたこと

最も顕著な結果はクラウド認証情報に関するものだった。2026年10月下旬の標的型攻撃において、およそ200個の固有のAWS認証情報が持ち出された。攻撃者はその後、盗んだキーをS3(Amazonのストレージサービス)やIAM(誰が何にアクセスできるかを制御する仕組み)を含む複数のAmazonサービスで使用した。

幸いにも、これらのキーは実際にはどこにもつながらなかった。攻撃者は管理されたインフラ環境でキーを試しており、まさにそれによってムーア氏は攻撃者の動きを観察することができた。

窃取は一時的なものではなかった。確認された最も古い窃取活動は2026年7月中旬にさかのぼり、漏洩は実験開始ほぼ直後から行われていたことを意味する。

明確な侵害は話の一部にすぎなかった。ムーア氏はまた、AI再販業者やマーケットプレイスが組み込みのロギング機能を通じて顧客のプロンプトを記録していた証拠も発見した。これはゼロデータ保持ポリシー、すなわちプロバイダーがリクエストを処理した後に忘れるという約束に真っ向から反する行為だ。トリップワイヤは、一部のプロバイダーが実際には覚えていたことを示唆している。

地理的な側面も独自の物語を語っていた。調査中に仕込まれた固有のURLが、元のリクエストから24日後に中国企業の内部チャットに現れた。また、ムーア氏は米国ユーザーが送信したプロンプトが中国のAI組織にたどり着いたことも追跡した。ルーター経由でリクエストを送ったユーザーは、最終的にどこに届いたのかを把握できていなかった可能性がある。

おそらく最も不穏な発見は、認識のギャップだった。被害を受けたプロバイダーは、これらのことが起きていることを知らなかった。彼らが侵害を知ったのは、2026年11月にムーア氏から通知を受けてからのことだった。彼のレポートは2026年11月19日に公表された。

スタックの中間層が重要な理由

AI業界は、大手モデル開発者がデータをどう扱うかについて顧客を安心させようと多大な労力を費やしてきた。しかしムーア氏の調査が指し示したのは別の場所だ。ユーザーとモデルの間に位置する仲介業者、再販業者、ホスティングプロバイダーである。

中継が一段増えるごとにリスクは増す。ルーター、再販業者、サードパーティのホストを経由するプロンプトには、記録され、傍受され、盗まれる機会が3回ある。最初の停留所のプライバシーポリシーは、3番目については何も保証しない。セキュリティチームが同様の理由からサードパーティのソフトウェア依存関係に長年注目してきたように、この調査結果は、AI仲介業者を経由するプロンプトが現在それに匹敵する露出を抱えていることを示している。

これが意味するもの

AIサービス上に構築する企業にとって、実践的な教訓は率直だ。プロンプトに入力したものはすべて、露出している可能性があるものとして扱うべきである。これにはAPIキー、クラウド認証情報、内部リンク、顧客記録が含まれる。開発者はデバッグや作業の自動化の際に、こうした情報をAIツールに貼り付けることが日常的にある。カナリーは、攻撃者がまさにその種の情報を積極的に収集し、迅速に試していることを示した。

この調査結果は、ゼロデータ保持の約束が単独では持つ価値をも損なうものだ。ポリシーは、そのデータに触れるすべての当事者と同じ程度しか良くない。再販業者のデフォルトのロギングがプロンプトを勝手に記録してしまうなら、その保証は飾りに過ぎなくなる。

検知のギャップは、おそらく最大の懸念だろう。攻撃者は少なくとも3社のホスティングプロバイダーから数か月にわたってデータを盗み、それらのプロバイダーはいずれも、外部の研究者から知らされるまで気づかなかった。通知を受けたプロバイダーが今後インシデントを開示するのか、ロギングの仕組みを変更するのかは、依然として不明である。

原文: Crypto Briefing