NieuwsCryptoCoinbase zegt dat zijn AI $4,7 miljoen blokkeerde in deepfake Elon Musk-oplichting

Coinbase zegt dat zijn AI $4,7 miljoen blokkeerde in deepfake Elon Musk-oplichting

Auteur: Bitcoin Magazine·

Belangrijkste punten

  • •De AI-oplichtingspreventieagent van Coinbase hield ongeveer $4,7 miljoen aan klantgeld tegen en blokkeerde circa 91% van de roughly $5,2 miljoen die gebruikers probeerden te versturen naar fraudeurs.
  • •De oplichting gebruikte een vervalste YouTube-livestream met een deepfake van Elon Musk die beloofde elke verzonden crypto te verdubbelen en trok meer dan een half miljoen kijkers tijdens Tesla's 'vliegende auto'-demonstratie.
  • •Coinbase benadrukte dat er geen accounts werden gehackt en geen inloggegevens werden gestolen, omdat klanten de transacties zelf autoriseerden, waardoor de uitgaande overboeking het laatste punt was waarop het geld kon worden onderschept.
  • •De oplichtingsdetectieagent was nooit getraind op deepfake-giveaways gekoppeld aan live productlanceringen, maar herkende het patroon op basis van signalen zoals de belofte van geldverveelvoudiging en een onomkeerbare overboeking.
  • •Coinbase zegt de geautomatiseerde AI-controle van risicovolle transacties uit te breiden naar elk type oplichting en AI te gebruiken om nieuwe gevallen te labelen, zodat zijn modellen binnen enkele uren in plaats van weken leren.
Coinbase zegt dat zijn AI $4,7 miljoen blokkeerde in deepfake Elon Musk-oplichting

Coinbase (COIN) meldde dat zijn AI-gedreven oplichtingspreventieagent ongeveer $4,7 miljoen aan klantgeld tegenhield voordat het fraudeurs bereikte die een deepfake van Elon Musk gebruikten om een nep-cryptogiveaway van Tesla aan te prijzen, waarbij circa 91% van het geld werd geblokkeerd dat klanten probeerden te versturen.

Het beursplatform beschreef het incident in een blogpost op dinsdag, onderdeel van een wekelijkse serie over consumentenbescherming, en meldde dat het systeem werkte “zonder mensen in de lus” — de gemarkeerde transacties werden tegengehouden door geautomatiseerde systemen in plaats van door menselijke beoordelaars.

Die twee cijfers impliceren dat klanten in totaal ongeveer $5,2 miljoen probeerden te versturen en dat circa $460.000 toch van hun rekeningen verdween. Coinbase maakte niet bekend hoeveel van dat geld de oplichters bereikte.

Een livestream die niet echt was

De oplichting vond plaats naast Tesla's demonstratie van de “vliegende auto”. Oplichters richtten een YouTube-livestream op die eruitzag als de echte uitzending, compleet met een deepfake Musk, walletadressen in beeld en een QR-code. De stream beloofde elke verzonden crypto te verdubbelen en trok meer dan een half miljoen kijkers, volgens Coinbase.

In ongeveer twee uur tijd probeerden honderden Coinbase-klanten — velen van hen langdurige gebruikers — miljoenen dollars te versturen naar de adressen op het scherm. Coinbase zei niet wanneer de nep-stream werd uitgezonden of welke munten klanten probeerden te versturen.

Het bedrijf benadrukte dat zijn platform niet was gecompromitteerd. “Niemand werd gehackt”, schreef Coinbase. “Geen Coinbase-account werd binnengedrongen, geen wachtwoord gestolen, geen inloggegevens phished.”

Juist dat detail maakt giveaway-fraude moeilijk te stoppen, omdat de meeste verdediging zoeken naar activiteit die de accounthouder niet heeft geautoriseerd — en in dit geval logden klanten zelf in en drukten zelf op bevestigen, waardoor de uitgaande overboeking het laatste punt was waarop het geld kon worden onderschept. “Onze systemen kunnen risicosignalen in realtime zien. Ze kunnen intentie niet zien”, aldus de post.

Hoe de agent werkt

Coinbase zei dat zijn verdediging uit drie delen bestaat. Machine learning-modellen beoordelen eerst uitgaande transacties in realtime, met aandacht voor giveaway-patronen, merkimitatie en nieuw aangemaakte walletadressen. Het doel, schreef het bedrijf, is “het gevaar te vangen, niet de klant”.

Wanneer een transactie wordt gemarkeerd, neemt een oplichtingsspecifieke agent het over: die zoekt context op, benoemt het oplichtingspatroon, legt uit hoe giveaway-regelingen werken en stelt vragen die bedoeld zijn om het verhaal te doen uiteenvallen. Elk antwoord wordt op betrouwbaarheid beoordeeld voordat de klant het ziet, zodat het systeem weet wanneer een situatie meer wrijving vereist.

De agent was nooit getraind op dit type oplichting, zei Coinbase. Deepfake-giveaways gekoppeld aan een live productlancering zaten niet in zijn trainingsdata. “Het herkende toch de vorm van het schema”, schreef het bedrijf, verwijzend naar de belofte om geld te verveelvoudigen, de deadline van een live evenement en een overboeking die niet ongedaan gemaakt kon worden.

Goedkopere nep-producties

Coinbase zei dat deepfakes de economie van de oplichting hebben veranderd. Het organiseren van zoiets kostte vroeger “een crew, een studio en weken”, schreef het bedrijf. “Nu kost het een livestream-slot en een model.” In de praktijk betekent dat dat een overtuigende nep-uitzinding nu snel genoeg kan worden gemaakt om mee te rijden op de aandacht van een echte productlancering, zoals deze stream deed.

Het bedrijf zei de AI-controle van risicovolle transacties uit te breiden naar elk type oplichting, niet alleen de hoogprofiele, en gebruikt ook AI om nieuwe oplichtingsgevallen te labelen, zodat zijn modellen binnen enkele uren in plaats van weken van aanvallen leren.

Social engineering is een aanhoudend probleem voor Coinbase-klanten. In september werd een man uit Brooklyn veroordeeld tot 12 jaar gevangenisstraf wegens een Coinbase-phishingoplichting van $16 miljoen. Deze week meldden Trezor-klanten oplichtingsgesprekken nadat een inbreuk bij de verzendpartner van de maker van hardware wallets 27.000 bestellingen had blootgesteld.

De blogpost verscheen op dezelfde dag dat Coinbase een ChatGPT-plugin lanceerde voor het handelen in bitcoin, aandelen en derivaten — een plugin die, anders dan de volledig geautomatiseerde oplichtingsagent, vereist dat gebruikers elke order goedkeuren.

Coinbase sloot de post af met een lijst van dingen die het nooit zal doen, waaronder beloven om crypto die klanten versturen te verdubbelen, te verviervoudigen of te verveelvoudigen. “Niemand die legitiem is, verdubbelt je crypto”, schreef het bedrijf.

Dit artikel verscheen oorspronkelijk op Bitcoin Magazine en is geschreven door Micah Zimmerman.