ActualitésCryptoCoinbase déclare que son IA a bloqué 4,7 millions de dollars dans une arnaque aux cryptos avec un Elon Musk deepfake

Coinbase déclare que son IA a bloqué 4,7 millions de dollars dans une arnaque aux cryptos avec un Elon Musk deepfake

Auteur: Bitcoin Magazine·

Points clés

  • •L'agent de prévention des arnaques par IA de Coinbase a bloqué environ 4,7 millions de dollars de fonds clients, soit près de 91 % des quelque 5,2 millions de dollars que les utilisateurs avaient tenté d'envoyer aux fraudeurs.
  • •L'escroquerie s'appuyait sur un faux livestream YouTube avec un deepfake d'Elon Musk, promettant de doubler toute crypto envoyée et ayant attiré plus d'un demi-million de spectateurs pendant la démo de la « voiture volante » de Tesla.
  • •Coinbase a souligné qu'aucun compte n'a été piraté ni aucun identifiant volé : les clients ont autorisé les transferts eux-mêmes, l'envoi sortant étant le dernier point où les fonds pouvaient être interceptés.
  • •L'agent de détection n'avait jamais été entraîné sur les giveaways par deepfake liés à des lancements de produits en direct, mais il a reconnu le schéma grâce à des signaux tels que la promesse de multiplier les fonds et un transfert irréversible.
  • •Coinbase a annoncé étendre la revue automatisée par IA des envois à risque à tous les types d'arnaques et utiliser l'IA pour étiqueter les nouveaux cas afin que ses modèles apprennent en quelques heures plutôt qu'en quelques semaines.
Coinbase déclare que son IA a bloqué 4,7 millions de dollars dans une arnaque aux cryptos avec un Elon Musk deepfake

Coinbase (COIN) a déclaré que son agent de prévention des arnaques alimenté par l'IA a empêché environ 4,7 millions de dollars de fonds clients de parvenir à des fraudeurs qui utilisaient un deepfake d'Elon Musk pour promouvoir un faux giveaway de cryptomonnaies Tesla, bloquant environ 91 % des fonds que les clients avaient tenté d'envoyer.

La plateforme d'échange a détaillé l'incident dans un article de blog publié mardi, qui fait partie d'une série hebdomadaire sur la protection des consommateurs, précisant que le système a fonctionné « sans intervention humaine » — les envois signalés ont été bloqués par des systèmes automatisés plutôt que par des relecteurs humains.

Ces deux chiffres impliquent que les clients ont tenté d'envoyer environ 5,2 millions de dollars au total, et qu'environ 460 000 dollars ont tout de même quitté leurs comptes. Coinbase n'a pas révélé quelle part de cet argent est parvenue aux escrocs.

Un livestream qui n'était pas réel

L'escroquerie s'est déroulée en parallèle de la démo de la « voiture volante » de Tesla. Les escrocs ont mis en place un livestream YouTube conçu pour ressembler à la véritable retransmission, avec un Musk en deepfake, des adresses de portefeuille affichées à l'écran et un code QR. Le stream promettait de doubler toute crypto envoyée et a attiré plus d'un demi-million de spectateurs, selon Coinbase.

En environ deux heures, des centaines de clients de Coinbase — dont beaucoup étaient des utilisateurs de longue date — ont tenté d'envoyer des millions de dollars aux adresses affichées à l'écran. Coinbase n'a pas indiqué quand le faux stream a eu lieu ni quelles cryptomonnaies les clients ont tenté d'envoyer.

L'entreprise a souligné que sa plateforme n'avait pas été compromise. « Personne n'a été piraté », a écrit Coinbase. « Aucun compte Coinbase n'a été fracturé, aucun mot de passe volé, aucun identifiant hameçonné. »

Ce détail explique pourquoi la fraude au giveaway est difficile à stopper : la plupart des défenses cherchent des activités que le titulaire du compte n'a pas autorisées — or, dans ce cas, les clients se sont connectés et ont eux-mêmes appuyé sur « confirmer », laissant l'envoi sortant comme dernier point où l'argent pouvait être intercepté. « Nos systèmes peuvent voir des signaux de risque en temps réel. Ils ne peuvent pas voir l'intention », a indiqué l'article.

Comment fonctionne l'agent

Coinbase a indiqué que sa défense comporte trois volets. Des modèles d'apprentissage automatique évaluent d'abord les envois sortants en temps réel, en surveillant les schémas de giveaway, l'usurpation de marque et les adresses de portefeuille nouvellement créées. L'objectif, a écrit l'entreprise, est « d'attraper le danger, pas le client ».

Lorsqu'un envoi est signalé, un agent spécialisé dans les arnaques prend le relais, recherchant le contexte, nommant le schéma d'escroquerie, expliquant le fonctionnement des systèmes de giveaway et posant des questions destinées à faire s'effondrer le récit des escrocs. Chaque réponse est notée selon un niveau de confiance avant que le client ne la voie, afin que le système sache quand une situation nécessite plus de friction.

L'agent n'avait jamais été entraîné sur ce type d'arnaque, a précisé Coinbase. Les giveaways par deepfake liés à un lancement de produit en direct ne figuraient pas dans ses données d'entraînement. « Il a néanmoins reconnu la forme du schéma », a écrit l'entreprise, citant la promesse de multiplier les fonds, l'échéance liée à un événement en direct et un transfert impossible à annuler.

Des faux moins coûteux

Coinbase a indiqué que les deepfakes ont modifié l'économie de ce type d'arnaque. Monter un dispositif de ce genre exigeait autrefois « une équipe, un studio et des semaines », a écrit l'entreprise. « Désormais, il suffit d'un créneau de livestream et d'un modèle. » Concrètement, cela signifie qu'un faux convaincant peut aujourd'hui être produit assez rapidement pour surfer sur l'attention d'un véritable lancement de produit, comme l'a fait ce stream.

L'entreprise a déclaré qu'elle étend la revue par IA des envois à risque à tous les types d'arnaques, et pas seulement aux plus médiatisées, et utilise également l'IA pour étiqueter les nouveaux cas d'escroquerie afin que ses modèles apprennent des attaques en quelques heures plutôt qu'en quelques semaines.

L'ingénierie sociale constitue un problème persistant pour les clients de Coinbase. En septembre, un homme de Brooklyn a été condamné à 12 ans de prison pour une arnaque par hameçonnage de 16 millions de dollars liée à Coinbase. Cette semaine, des clients de Trezor ont signalé des appels frauduleux après qu'une violation de données chez le partenaire logistique du fabricant de portefeuilles matériels a exposé 27 000 commandes.

L'article de blog est paru le même jour que le lancement par Coinbase d'un plugin ChatGPT pour le trading de bitcoin, d'actions et de produits dérivés — un plugin qui, contrairement à l'agent anti-arnaque entièrement automatisé, oblige les utilisateurs à approuver chaque ordre.

Coinbase a conclu son article par une liste de choses qu'elle ne fera jamais, notamment promettre de doubler, tripler ou multiplier les cryptomonnaies que les clients envoient. « Aucune personne légitime ne doublera vos cryptos », a écrit l'entreprise.

Cet article est initialement paru sur Bitcoin Magazine et a été rédigé par Micah Zimmerman.