Coinbase сообщила, что её ИИ заблокировал $4,7 млн в скаме с дипфейком Илона Маска
Ключевые выводы
- •ИИ-агент Coinbase по предотвращению скамов остановил около $4,7 млн средств клиентов, заблокировав примерно 91% из примерно $5,2 млн, которые пользователи попытались отправить мошенникам.
- •Схема использовала поддельную трансляцию на YouTube с дипфейком Илона Маска, которая обещала удвоить любую отправленную криптовалюту и собрала более полумиллиона зрителей во время демонстрации «летающего автомобиля» Tesla.
- •Coinbase подчеркнула, что ни один аккаунт не был взломан и учётные данные не украдены: клиенты сами авторизовали переводы, и исходящий перевод оставался последней точкой перехвата средств.
- •Агент по выявлению скамов никогда не обучался на раздачах с дипфейками, привязанных к живым презентациям продуктов, но распознал схему по сигналам вроде обещания умножить средства и необратимости перевода.
- •Coinbase сообщила о расширении автоматического ИИ-контроля рискованных переводов на все типы скамов и об использовании ИИ для разметки новых случаев мошенничества, чтобы модели учились за часы, а не недели.

Coinbase (COIN) сообщила, что её ИИ-агент по предотвращению скамов остановил перевод примерно $4,7 млн средств клиентов мошенникам, использовавшим дипфейк Илона Маска для продвижения фейковой раздачи криптовалюты от имени Tesla, заблокировав около 91% суммы, которую клиенты попытались отправить.
Биржа рассказала об инциденте в блоге во вторник, который является частью еженедельной серии материалов о защите потребителей, отметив, что система работала «без участия человека» — flagged-переводы были остановлены автоматическими системами, а не модераторами.
Эти две цифры означают, что клиенты попытались отправить в общей сложности около $5,2 млн, при этом примерно $460 тыс. всё же покинули их счета. Coinbase не раскрыла, какая часть этих денег достигла мошенников.
Трансляция, которой не было
Схема развернулась параллельно с демонстрацией «летающего автомобиля» Tesla. Мошенники создали трансляцию на YouTube, имитировавшую настоящий эфир: с дипфейком Маска, кошельковыми адресами на экране и QR-кодом. Трансляция обещала удвоить любую отправленную криптовалюту и, по данным Coinbase, собрала более полумиллиона зрителей.
Примерно за два часа сотни клиентов Coinbase — многие из них давно пользуются платформой — попытались отправить миллионы долларов на адреса, показанные на экране. Coinbase не уточнила, когда шла фейковая трансляция и какие монеты пытались отправить клиенты.
Компания подчеркнула, что её платформа не была взломана. «Никого не взломали», — написала Coinbase. «Ни один аккаунт Coinbase не был взломан, ни один пароль не украден, ни одни учётные данные не выманены фишингом».
Именно этот факт затрудняет борьбу с мошенничеством с раздачами: большинство средств защиты ищут активность, которую владелец аккаунта не авторизовал, — а в данном случае клиенты сами входили в систему и нажимали подтверждение, и исходящий перевод оставался последней точкой, где деньги ещё можно было перехватить. «Наши системы видят сигналы риска в реальном времени. Но они не видят намерений», — говорится в публикации.
Как работает агент
Coinbase сообщила, что её защита состоит из трёх частей. Сначала модели машинного обучения в реальном времени оценивают исходящие переводы, отслеживая паттерны раздач, подделку брендов и недавно созданные кошельковые адреса. Цель, как написала компания, — «поймать опасность, а не клиента».
Когда перевод помечается, вступает в дело специализированный агент по скамам: он ищет контекст, называет схему мошенничества, объясняет, как устроены раздачи, и задаёт вопросы, призванные разрушить легенду мошенников. Каждый ответ оценивается по уровню уверенности до того, как клиент его увидит, поэтому система знает, когда ситуация требует больших ограничений.
По словам Coinbase, этот агент никогда не обучался на подобном виде мошенничества. Раздачи с дипфейками, привязанные к живым презентациям продуктов, отсутствовали в его обучающих данных. «Тем не менее он распознал форму схемы», — написала компания, указав на обещание умножить средства, дедлайн в рамках живого события и необратимость перевода.
Более дешёвые подделки
Coinbase сообщила, что дипфейки изменили экономику подобных скамов. Раньше организация чего-то подобного требовала «команды, студии и недель», — написала она. «Теперь достаточно слота для трансляции и модели». На практике это означает, что убедительную подделку теперь можно создать достаточно быстро, чтобы воспользоваться вниманием к реальной презентации продукта, как и произошло с этой трансляцией.
Компания сообщила, что расширяет ИИ-проверку рискованных переводов на все типы скамов, а не только на громкие, а также использует ИИ для разметки новых случаев мошенничества, чтобы её модели учились на атаках за часы, а не недели.
Социальная инженерия остаётся постоянной проблемой для клиентов Coinbase. В сентябре житель Бруклина был приговорён к 12 годам тюрьмы за фишинговый скам с Coinbase на $16 млн. На этой неделе клиенты Trezor сообщали о мошеннических звонках после утечки у партнёра производителя аппаратных кошельков по доставке, раскрывшей 27 000 заказов.
Публикация вышла в тот же день, когда Coinbase запустила плагин для ChatGPT для торговли биткоином, акциями и деривативами — в отличие от полностью автоматизированного анти-скам агента, он требует от пользователей подтверждения каждого ордера.
Coinbase завершила публикацию списком того, чего она никогда не будет делать, в том числе обещать удвоить, утроить или умножить криптовалюту, которую отправляют клиенты. «Никто из законных игроков не удвоит вашу криптовалюту», — написала компания.
Эта статья впервые опубликована на Bitcoin Magazine, автор — Micah Zimmerman.