ニュース暗号資産Coinbase、AIがエロン・ムスクのディープフェイク crypto 贈付詐欺で470万ドルを阻止と発表

Coinbase、AIがエロン・ムスクのディープフェイク crypto 贈付詐欺で470万ドルを阻止と発表

著者: Bitcoin Magazine·

重要ポイント

  • •CoinbaseのAI詐欺防止エージェントは約470万ドルの顧客資金の流出を阻止し、ユーザーが詐欺師に送金しようとした約520万ドルのうち約91%をブロックした。
  • •この詐欺は、エロン・ムスクのディープフェイクを用いた偽のYouTubeライブ配信を利用し、送られた暗号資産の倍額返還を約束して、テスラの「空飛ぶ車」デモ中に50万人以上を集めた。
  • •Coinbaseは、顧客自身が送金を承認していたため、ハッキングや認証情報の窃取はなく、送金時点が資金を阻止できる最後の場所となったと強調した。
  • •詐欺検知エージェントは実際の製品発表に紐付いたディープフェイク贈呈詐欺で訓練されたことがなかったが、資金倍増の約束や取り消し不能な送金といったシグナルからパターンを認識した。
  • •Coinbaseは、リスクのある送金のAI自動審査をすべての詐欺類型に拡大し、AIで新規詐欺ケースにラベルを付けることで、モデルが数週間ではなく数時間以内に学習できるようにしていると述べた。
Coinbase、AIがエロン・ムスクのディープフェイク crypto 贈付詐欺で470万ドルを阻止と発表

Coinbase (COIN)は、エロン・ムスクのディープフェイクを使って偽のテスラ暗号資産贈呈キャンペーンを宣伝していた詐欺師たちへの送金のうち、顧客資金約470万ドルをAIによる詐欺防止エージェントが阻止し、顧客が送金しようとした金額の約91%をブロックしたと発表した。

同取引所は、火曜日のブログ記事でこの一件を詳述した。これは消費者保護に関する週次シリーズの一部で、同システムは「人間を介さずに」作動した——フラグが立った送金は、人間の審査担当者ではなく自動システムによって停止されたという。

この2つの数字から、顧客は合計約520万ドルの送金を試み、約46万ドルは依然として口座から流出していたことがわかる。Coinbaseは、そのうちのいくらが詐欺師の手に渡ったかは明らかにしていない。

実在しなかったライブ配信

この詐欺は、テスラの「空飛ぶ車」デモに並行して実行された。詐欺師たちは本物の配信に見せかけたYouTubeライブ配信を開設し、ディープフェイクのムスク、画面上のウォレットアドレス、QRコードを表示した。この配信は送られた暗号資産を倍額にすると約束し、Coinbaseによれば50万人以上が視聴した。

およそ2時間の間に、数百人のCoinbase顧客——その多くは長年のユーザー——が画面に表示されたアドレスに数百万ドルの送金を試みた。Coinbaseは、偽の配信がいつ行われたのか、顧客がどの暗号資産を送ろうとしたのかは明らかにしていない。

同社は、自社プラットフォームへの侵入はなかったと強調した。「ハッキングされた者はいません」とCoinbaseは記した。「Coinbaseアカウントへの侵入はなく、パスワードの窃取も、認証情報のフィッシングもありませんでした。」

この点こそが、贈呈詐欺を阻止することを難しくしている。多くの防御策はアカウント保有者が承認していない活動を検知する仕組みだが、このケースでは顧客が自らログインし、確認ボタンを押していたため、送金時点が資金を阻止できる最後の場所となっていた。「当社のシステムはリスクシグナルをリアルタイムで検知できます。しかし、意図までは見えません」と記事は述べている。

エージェントの仕組み

Coinbaseによると、その防御は3つの要素で構成されている。まず機械学習モデルがリアルタイムで送金をスコアリングし、贈呈キャンペーンのパターン、ブランド偽装、新規作成されたウォレットアドレスを監視する。目標は、同社の言葉では「顧客ではなく危険を捕らえること」だ。

送金にフラグが立つと、詐欺専用のエージェントが引き継ぎ、コンテキストを調べ、詐欺パターンを特定し、贈呈スキームの仕組みを説明し、話が崩れるように仕向ける質問を行う。各返信は顧客が目にする前に信頼度でスコアリングされ、システムはより多くの摩擦が必要な状況を把握できる。

Coinbaseによれば、このエージェントはこの種の詐欺について訓練されたことがなかった。実際の製品発表に紐付いたディープフェイク贈呈詐欺は訓練データには存在しなかった。「それでも、システムはこのスキームの形を見抜きました」と同社は記し、資金倍増の約束、実際のイベントという期限、取り消し不能な送金といったシグナルを挙げている。

安価になった偽物

Coinbaseは、ディープフェイクが詐欺の経済性を変えたと述べた。かつてこのような仕込みには「クルーとスタジオ、そして数週間」が必要だったが、「今ではライブ配信の枠とモデルがあれば足りる」と同社は記した。実際には、これは説得力のある偽物を、実際の製品発表の注目に便乗できるほど短時間で制作できることを意味し、今回の配信もまさにそうだった。

同社は、リスクのある送金のAI審査を知名度の高い詐欺だけでなくすべての詐欺類型に拡大しているほか、AIを使って新たな詐欺ケースにラベルを付け、モデルが攻撃から数週間ではなく数時間以内に学習できるようにしているとも述べた。

ソーシャルエンジニアリングは、Coinbase顧客にとって慢性的な問題であり続けている。9月には、ブルックリンの男性が1600万ドルのCoinbaseフィッシング詐欺で懲役12年の判決を受けた。今週は、ハードウェアウォレットメーカーの配送パートナーへの侵入で2万7000件の注文情報が流出した後、Trezorの顧客から詐欺電話の報告があった。

このブログ記事は、Coinbaseがビットコイン、株式、デリバティブの取引用ChatGPTプラグインを発表したのと同じ日に公開された。こちらは、完全自動化された詐欺対策エージェントとは異なり、ユーザーがすべての注文を承認する必要がある。

Coinbaseは記事を、決して行わないことのリストで締めくくった。その中には、顧客が送る暗号資産を2倍、3倍、または増額すると約束することも含まれている。「まともな業者があなたの暗号資産を2倍にすることはありません」と同社は記した。

この記事は元々Bitcoin Magazineに掲載されたもので、Micah Zimmermanによるものです。