新闻加密货币Coinbase 称其 AI 拦截了 470 万美元马斯克深度伪造赠币骗局

Coinbase 称其 AI 拦截了 470 万美元马斯克深度伪造赠币骗局

作者: Bitcoin Magazine·

要点速览

  • •Coinbase 的 AI 反诈骗智能体拦截了约 470 万美元客户资金,阻止了用户试图转给诈骗者的约 520 万美元中的约 91%。
  • •该骗局利用了一场伪造的 YouTube 直播,配有埃隆·马斯克的深度伪造形象,承诺翻倍任何发送的加密货币,并在 Tesla“飞行汽车”演示期间吸引了超过 50 万观众。
  • •Coinbase 强调没有任何账户被黑客攻击或凭据被盗,因为客户是自己授权了转账,转出的转账成为资金可能被拦截的最后环节。
  • •该诈骗检测智能体此前从未接受过与实时产品发布相关的深度伪造赠币骗局训练,但仍依据资金翻倍承诺和不可撤销转账等信号识别出了该模式。
  • •Coinbase 表示,正在将针对高风险转账的自动化 AI 审查扩展至所有类型的骗局,并利用 AI 为新的诈骗案例打标签,使其模型能在数小时而非数周内学习。
Coinbase 称其 AI 拦截了 470 万美元马斯克深度伪造赠币骗局

Coinbase(COIN)表示,其 AI 反诈骗智能体阻止了约 470 万美元的客户资金落入诈骗者之手——这些诈骗者利用埃隆·马斯克的深度伪造视频推广一场虚假的 Tesla 加密货币赠币活动,拦截了客户试图转出金额的约 91%。

该交易所在一篇周二发布的博客文章中详细介绍了此次事件,该文章是其消费者保护每周系列的一部分,并指出该系统“在无人参与的情况下”运行——被标记的转账由自动化系统而非人工审核员拦截。

这两个数字意味着客户总计试图转出约 520 万美元,其中约 46 万美元仍然流出了他们的账户。Coinbase 未披露其中多少钱到达了诈骗者手中。

一场并不真实的直播

该骗局与 Tesla 的“飞行汽车”演示同步进行。诈骗者搭建了一场看似真实直播的 YouTube 直播,配有马斯克的深度伪造形象、屏幕上的钱包地址和二维码。据 Coinbase 称,该直播承诺翻倍任何发送给它的加密货币,吸引了超过 50 万观众。

在大约两个小时里,数百名 Coinbase 客户——其中许多是长期用户——试图向屏幕上显示的地址转出数百万美元。Coinbase 未透露这场虚假直播的播出时间,也未说明客户试图转出哪些币种。

该公司强调,其平台并未遭到入侵。Coinbase 写道:“没有人被黑客攻击。没有任何 Coinbase 账户被入侵,没有密码被盗,没有凭据被钓鱼。”

正是这一细节使得赠币欺诈难以阻止,因为大多数防御机制都在寻找账户持有人未授权的活动——而在此案中,客户是自己登录并按下确认键的,转出的转账成为资金可能被拦截的最后环节。文章称:“我们的系统可以实时看到风险信号,但无法看到意图。”

智能体的工作原理

Coinbase 表示,其防御体系包含三个部分。机器学习模型首先对转出的转账进行实时评分,监测赠币模式、品牌冒用以及新创建的钱包地址。公司写道,其目标是“抓住危险,而不是抓住客户”。

当一笔转账被标记时,一个专门针对诈骗的智能体会接管处理,查找背景信息、指出诈骗模式、解释赠币骗局的运作方式,并提出旨在让骗术不攻自破的问题。每条回复在客户看到之前都会进行置信度评分,因此系统知道何时的情况需要更多的干预。

Coinbase 表示,该智能体此前从未接受过此类骗局的训练。与实时产品发布相关的深度伪造赠币骗局并不在其训练数据中。公司写道:“它依然识别出了这个骗局的特征”,并指出其依据是资金翻倍承诺、实时活动的截止期限以及无法撤销的转账。

成本更低的伪造

Coinbase 表示,深度伪造技术改变了此类骗局的经济成本。公司写道,策划一场类似的活动过去需要“一个团队、一间工作室和数周时间”。“现在只需要一个直播时段和一个模型。”从实际角度看,这意味着如今制作一场以假乱真的伪造直播的速度,足以借势一场真实产品发布带来的关注,正如这次直播所做的那样。

该公司表示,正在将针对高风险转账的 AI 审查扩展至所有类型的骗局,而不仅仅是受关注度高的骗局,同时还在利用 AI 为新的诈骗案例打标签,使其模型能在数小时而非数周内从攻击中学习。

社会工程学攻击一直是 Coinbase 客户面临的持续问题。今年 9 月,布鲁克林一名男子因涉及 1600 万美元的 Coinbase 钓鱼骗局被判处 12 年监禁。本周,Trezor 客户报告接到诈骗电话,此前该硬件钱包制造商的物流合作伙伴遭入侵,泄露了 27,000 笔订单。

这篇博客文章发布当天,Coinbase 推出了用于交易比特币、股票和衍生品的 ChatGPT 插件——与完全自动化的反诈骗智能体不同,该插件要求用户对每笔订单进行批准。

Coinbase 在文章结尾列出了它永远不会做的事情,包括承诺将客户发送的加密货币翻倍、三倍或成倍增加。公司写道:“任何正规机构都不会让你的加密货币翻倍。”

本文最初发表于 Bitcoin Magazine,作者为 Micah Zimmerman。