ニュース暗号資産コインベースのAIエージェント、イーロン・マスクのディープフェイク暗号資産プレゼント詐欺から470万ドルを阻止

コインベースのAIエージェント、イーロン・マスクのディープフェイク暗号資産プレゼント詐欺から470万ドルを阻止

著者: Hokanews·

重要ポイント

  • •Coinbaseの自律型AI詐欺防止エージェントは、偽のイーロン・マスク暗号資産プレゼントライブ配信に関わる詐欺師への顧客資産約470万ドルの流出を阻止した。
  • •テスラの「空飛ぶ車」デモに合わせて配信された偽のYouTube番組は50万人以上の視聴者を集め、AI生成のイーロン・マスクが送金されたデジタル資産を倍増すると主張する手口を宣伝していた。
  • •約2時間の間に数百人のCoinbase顧客が数百万ドルの送金を試みたが、AIシステムは対象資金の約91%が顧客口座から流出するのを防いだ。
  • •AIエージェントは人間を介さずに運用され、リアルタイムで高リスク取引を検知し、顧客が詐欺の警告サインを認識できるよう状況に応じた対話を行った。
  • •Coinbaseは、介入にもかかわらず送金を完了した顧客の数や、YouTubeがライブ配信に対して取った対応(あれば)を明らかにしていない。
コインベースのAIエージェント、イーロン・マスクのディープフェイク暗号資産プレゼント詐欺から470万ドルを阻止

Coinbaseは、イーロン・マスクのAI生成ディープフェイクを利用した大規模な暗号資産プレゼント詐欺を検知し、AIを活用した詐欺防止システムにより顧客資産約470万ドルを保護したと発表した。同社のブログで公開されたレポートによると、偽のライブ配信は50万人以上の視聴者を集め、約2時間の間に数百人のCoinbase顧客が詐欺師への数百万ドルの送金を試みたという。

テスラの注目イベントに便乗した偽ライブ配信

攻撃者は、テスラの「空飛ぶ車」デモに合わせて配信された偽のYouTubeライブ配信を作成した。この配信では、AI生成のイーロン・マスクが、送金されたデジタル資産を倍増すると主張する偽の暗号資産プレゼントを宣伝していた。

この手口は、テスラのデモの注目度とマスクの知名度を利用して宣伝に信頼性を持たせていた。視聴者は暗号資産を送金することでプレゼントに参加するよう促された。これは、最初の送金と引き換えに大きなリターンを約束する、よく知られた詐欺の形式である。著名なテクノロジー関係者になりすました暗号資産倍増プレゼント詐欺は、ソーシャルメディアや動画プラットフォーム上で何年も流通しており、今回AI生成の出演者が使用されたことは、合成動画ツールがいかに容易に入手できるようになったかを示している。

AIシステムがリアルタイムで介入

Coinbaseによると、詐欺が活動していた約2時間の間に、数百人の顧客が数百万ドルの送金を試みた。試みられた取引の規模と速度、特に複数の不審な送金が同時に発生した状況は、従来の不正防止プロセスにとって課題となった。

これを受けて、Coinbaseの自律型AI詐欺防止エージェント(AI Scam Prevention Agent)はリアルタイムで高リスク取引を特定し、資金が顧客口座から流出する前に介入した。同社は、このシステムが人間を介さずに運用され、不審な活動を検知し、影響を受けた顧客と直接対話することを可能にしたと説明している。

取引のブロックだけに頼るのではなく、AIエージェントは偽のプレゼントの仕組みを説明するために設計された、的確で状況に応じた対話を開始した。Coinbaseによると、これらの介入により、顧客は警告サインを認識し、要求された送金がなぜ危険なのかを理解することができたという。

同社の報告によれば、システムは最終的に対象資金の約91%が顧客口座から流出するのを防ぎ、約470万ドルを保護した。この数字は、AIによる介入によって詐欺師に渡るのを阻止した資金を示している。

ディープフェイクが暗号資産詐欺に新たな複雑さをもたらす

今回の事件は、AI生成になりすましが暗号資産詐欺に取り込まれつつあることを示している。詐欺師は著名人物の外見と声を再現することで、視聴者の著名な個人や企業への親しみを悪用する説得力のある宣伝素材を作り出すことができる。金融関連のプロモーションを見る視聴者にとって、この変化は、ライブ配信に見慣れた顔が映っていても、それだけではその人物が本物である証拠にはならないことを意味する。

今回のケースでは、テスラ関連のライブ配信で提示されたマスクのAIディープフェイクが、偽の暗号資産倍増オファーの舞台となった。配信の視聴者数は50万人を超え、数百人のCoinbase顧客が比較的短期間のうちに送金を試みた。

この事例は、金銭的損失の防止において、取引監視と顧客とのコミュニケーションが果たす役割も示している。Coinbaseの事件説明は、自動システムが取引リスクを評価し、個別化された説明を用いて顧客が潜在的に不正な送金を完了することを思いとどまらせるアプローチを描写している。

Coinbaseは、この介入を、取引がまだ処理されている間に自律型AIシステムが暗号資産詐欺の特定と阻止を支援できる例として提示した。同社の説明では、介入にもかかわらず何人の顧客が送金を完了したか、またYouTubeがライブ配信に対していかなる対応(あれば)を取ったかについては明らかにされておらず、これらの詳細は手口の最終的な損失額とプラットフォームレベルの対応を明確にするものである。

出典: Hokanews