新聞加密貨幣Coinbase 稱其 AI 攔截了 470 萬美元的馬斯克 Deepfake 空投詐騙

Coinbase 稱其 AI 攔截了 470 萬美元的馬斯克 Deepfake 空投詐騙

作者: Bitcoin Magazine·

重點速覽

  • •Coinbase 的 AI 詐騙防護代理攔截了約 470 萬美元的客戶資金,約為用戶嘗試轉給詐騙者的 520 萬美元中的 91%。
  • •該騙局利用假冒的 YouTube 直播,搭配承諾加倍所有發送加密貨幣的 Elon Musk deepfake 影像,在 Tesla「飛行汽車」示範期間吸引超過 50 萬名觀眾。
  • •Coinbase 強調沒有任何帳戶被駭或憑證被竊,由於客戶是自行授權轉帳,轉出環節成為資金最後一個可能被攔截的關卡。
  • •該詐騙偵測代理從未接受過與產品發表會綁定的 deepfake 空投詐騙訓練,但仍依據資金倍增承諾和不可逆轉帳等訊號辨識出該模式。
  • •Coinbase 表示正將 AI 自動審查高風險轉帳的機制擴展至所有詐騙類型,並利用 AI 為新詐騙案例標記,讓模型在數小時而非數週內完成學習。
Coinbase 稱其 AI 攔截了 470 萬美元的馬斯克 Deepfake 空投詐騙

Coinbase(COIN)表示,其 AI 詐騙防護代理成功攔截了約 470 萬美元的客戶資金,避免其落入利用 Elon Musk deepfake 影片宣傳假 Tesla 加密貨幣空投活動的詐騙者手中,攔截比例約為客戶嘗試轉出金額的 91%。

該交易所在一篇週二的部落格文章中詳細描述了這起事件,該文章屬於每週消費者保護系列的一部分,並指出系統是在「無人工介入」的情況下運作——被標記的轉帳是由自動系統攔截,而非人工審查人員。

這兩個數字意味著客戶嘗試轉出的總金額約為 520 萬美元,其中約 46 萬美元仍流出他們的帳戶。Coinbase 並未透露有多少錢最終落入詐騙者手中。

一場不存在的直播

該詐騙在 Tesla 的「飛行汽車」示範期間進行。詐騙者架設了一個看似真實轉播的 YouTube 直播,配有 Musk 的 deepfake 影像、螢幕上的錢包地址以及 QR code。據 Coinbase 表示,該直播承諾加倍所有發送的加密貨幣,吸引了超過 50 萬名觀眾。

在大約兩小時內,數百名 Coinbase 客戶——其中許多是長期用戶——嘗試將數百萬美元轉至螢幕上顯示的地址。Coinbase 未說明假直播的播出時間,也未說明客戶嘗試發送哪些幣種。

該公司強調其平台未被入侵。Coinbase 寫道:「沒有任何人被駭。沒有 Coinbase 帳戶被入侵,沒有密碼被竊取,沒有憑證被釣魚。」

正是這一點使得空投詐騙難以阻止,因為大多數防禦機制都在尋找帳戶持有人未授權的活動——而在這起事件中,客戶自己登入並按下確認,使得轉出環節成為資金最後一個可能被攔截的關卡。文章寫道:「我們的系統能即時看到風險訊號,但無法看到意圖。」

該代理的運作方式

Coinbase 表示其防禦包含三個部分。機器學習模型首先即時為每一筆轉出交易評分,監測空投詐騙模式、品牌冒用以及新建立的錢包地址。該公司寫道,目標是「攔截危險,而非為難客戶」。

當轉帳被標記時,專門處理詐騙的代理會接手,查詢相關背景、指出詐騙模式、解釋空投騙局的運作方式,並提出旨在讓謊言瓦解的問題。在客戶看到每則回覆之前,系統都會為其信心程度評分,因此系統知道何時需要增加更多阻拦。

Coinbase 表示,該代理從未接受過這類騙局的訓練。與產品發表會綁定的 deepfake 空投詐騙並不在其訓練資料中。該公司寫道:「它仍然辨識出了這個騙局的形態」,並指出判斷依據包括資金倍增的承諾、實體活動的時限壓力,以及無法撤銷的轉帳。

更廉價的造假

Coinbase 表示,deepfake 已經改變了這類詐騙的經濟學。該公司寫道,過去籌備這樣的騙局需要「一個團隊、一間攝影棚,以及數週時間」。「現在只需要一個直播時段和一個模型。」實際上,這意味著如今製造一個足以亂真的假影片可以快到搭上真實產品發表會的關注熱度,正如這場直播一樣。

該公司表示,正將 AI 審查高風險轉帳的機制擴展至所有類型的詐騙,而不僅限於高知名度的案件,同時也利用 AI 為新的詐騙案例進行標記,讓其模型能在數小時而非數週內從攻擊中學習。

社交工程一直是 Coinbase 客戶面臨的持續性問題。9 月,一名布魯克林男子因涉及 1,600 萬美元的 Coinbase 釣魚詐騙被判處 12 年徒刑。本週,Trezor 客戶在該硬體錢包製造商的物流合作夥伴發生資料外洩、暴露 27,000 筆訂單後,通報接到詐騙電話。

這篇部落格文章發布的同一天,Coinbase 推出了用於交易比特幣、股票和衍生性商品的 ChatGPT 外掛——與全自動的詐騙防護代理不同,該外掛需要用戶對每筆訂單進行確認。

Coinbase 在文章結尾列出了一系列它絕不會做的事,包括承諾加倍、三倍或倍增客戶發送的加密貨幣。該公司寫道:「任何正當的一方都不會加倍你的加密貨幣。」

本文最初發表於 Bitcoin Magazine,作者為 Micah Zimmerman。