NachrichtenKryptoCoinbase sagt: KI hat 4,7 Millionen US-Dollar in Deepfake-Betrug mit Elon Musk blockiert

Coinbase sagt: KI hat 4,7 Millionen US-Dollar in Deepfake-Betrug mit Elon Musk blockiert

Autor: Bitcoin Magazine·

Wichtige Erkenntnisse

  • •Der KI-Betrugsschutz-Agent von Coinbase hat rund 4,7 Millionen US-Dollar an Kundengeldern gestoppt und damit etwa 91 % der insgesamt rund 5,2 Millionen US-Dollar blockiert, die Nutzer an Betrüger senden wollten.
  • •Das Schema nutzte einen gefälschten YouTube-Livestream mit einem Elon-Musk-Deepfake, der versprach, gesendete Kryptowährungen zu verdoppeln, und während Teslas „Flying Car“-Demo mehr als eine halbe Million Zuschauer anzog.
  • •Coinbase betonte, dass keine Konten gehackt oder Zugangsdaten gestohlen wurden, da Kunden die Überweisungen selbst autorisierten – die ausgehende Transaktion war der letzte Punkt, an dem das Geld hätte abgefangen werden können.
  • •Der Betrugs-Erkennungs-Agent war noch nie auf Deepfake-Verlosungen im Zusammenhang mit Live-Produktvorstellungen trainiert worden, erkannte das Muster jedoch anhand von Signalen wie dem Versprechen der Geldvervielfältigung und einer nicht umkehrbaren Überweisung.
  • •Coinbase kündigte an, die automatisierte KI-Prüfung riskanter Transaktionen auf alle Betrugsarten auszuweiten und KI zur Kennzeichnung neuer Betrugsfälle zu nutzen, damit die Modelle innerhalb von Stunden statt Wochen lernen.
Coinbase sagt: KI hat 4,7 Millionen US-Dollar in Deepfake-Betrug mit Elon Musk blockiert

Coinbase (COIN) teilte mit, dass sein KI-gestützter Betrugsschutz-Agent approximately 4,7 Millionen US-Dollar an Kundengeldern davon abgehalten hat, in die Hände von Betrügern zu gelangen, die mit einem Deepfake von Elon Musk für eine gefälschte Tesla-Krypto-Verlosung warben – blockiert wurden rund 91 % des Geldes, das Kunden zu senden versuchten.

Die Börse beschrieb den Vorfall in einem Blogbeitrag am Dienstag, Teil einer wöchentlichen Serie zum Verbraucherschutz, und stellte fest, dass das System „ohne menschliches Zutun“ arbeitete – die markierten Transaktionen wurden von automatisierten Systemen gestoppt und nicht von menschlichen Prüfern.

Diese beiden Zahlen lassen darauf schließen, dass Kunden insgesamt etwa 5,2 Millionen US-Dollar senden wollten und dass rund 460.000 US-Dollar dennoch ihre Konten verließen. Coinbase gab nicht bekannt, wie viel davon die Betrüger erreichte.

Ein Livestream, der nicht echt war

Das Schema lief parallel zur „Flying Car“-Demo von Tesla. Betrüger richteten einen YouTube-Livestream ein, der der echten Übertragung ähnelte – komplett mit einem Deepfake von Musk, eingeblendeten Wallet-Adressen und einem QR-Code. Der Stream versprach, jede gesendete Kryptowährung zu verdoppeln, und zog nach Angaben von Coinbase mehr als eine halbe Million Zuschauer an.

Im Verlauf von rund zwei Stunden versuchten Hunderte Coinbase-Kunden – viele davon langjährige Nutzer –, Millionen von Dollar an die auf dem Bildschirm angezeigten Adressen zu senden. Coinbase sagte nicht, wann der gefälschte Stream lief oder welche Coins die Kunden senden wollten.

Das Unternehmen betonte, dass seine Plattform nicht kompromittiert wurde. „Niemand wurde gehackt“, schrieb Coinbase. „Kein Coinbase-Konto wurde aufgebrochen, kein Passwort gestohlen, keine Zugangsdaten per Phishing abgegriffen.“

Genau dieses Detail macht Verlosungsbetrug so schwer zu stoppen, da die meisten Schutzmaßnahmen nach Aktivitäten suchen, die der Kontoinhaber nicht autorisiert hat – in diesem Fall loggen sich die Kunden jedoch selbst ein und bestätigten die Transaktion eigenhändig, sodass die ausgehende Überweisung der letzte Punkt war, an dem das Geld abgefangen werden konnte. „Unsere Systeme können Risikosignale in Echtzeit erkennen. Absichten können sie nicht sehen“, hieß es in dem Beitrag.

Wie der Agent funktioniert

Coinbase sagte, seine Verteidigung besteht aus drei Teilen. Machine-Learning-Modelle bewerten zunächst ausgehende Transaktionen in Echtzeit und achten auf Verlosungsmuster, Markenimitationen und neu erstellte Wallet-Adressen. Das Ziel, schrieb das Unternehmen, sei „die Gefahr zu erkennen, nicht den Kunden“.

Wird eine Transaktion markiert, übernimmt ein betrugsspezifischer Agent, der den Kontext recherchiert, das Betrugsmuster benennt, erklärt, wie Verlosungsschemas funktionieren, und Fragen stellt, die dazu führen sollen, dass die Geschichte des Nutzers zusammenbricht. Jede Antwort wird bewertet, bevor der Kunde sie sieht, sodass das System weiß, wann eine Situation mehr Reibung erfordert.

Der Agent sei noch nie auf diese Art von Betrug trainiert worden, sagte Coinbase. Deepfake-Verlosungen im Zusammenhang mit einer Live-Produktvorstellung waren nicht in seinen Trainingsdaten enthalten. „Er hat die Form des Schemas trotzdem erkannt“, schrieb das Unternehmen und verwies auf das Versprechen der Geldvervielfältigung, die Frist eines Live-Events und eine Überweisung, die nicht rückgängig gemacht werden konnte.

Günstigere Fälschungen

Coinbase sagte, Deepfakes hätten die Kostenstruktur des Betrugs verändert. Die Inszenierung eines solchen Aufbaus erforderte früher „eine Crew, ein Studio und Wochen“, schrieb das Unternehmen. „Heute braucht es einen Livestream-Slot und ein Modell.“ In der Praxis bedeutet das, dass eine überzeugende Fälschung heute schnell genug erstellt werden kann, um die Aufmerksamkeit einer echten Produktvorstellung auszunutzen – so wie es dieser Stream tat.

Das Unternehmen sagte, es weite die KI-Prüfung riskanter Transaktionen auf jede Art von Betrug aus, nicht nur auf prominente Fälle, und nutze außerdem KI, um neue Betrugsfälle zu kennzeichnen, damit seine Modelle innerhalb von Stunden statt Wochen aus Angriffen lernen.

Social Engineering ist ein hartnäckiges Problem für Coinbase-Kunden. Im September wurde ein Mann aus Brooklyn wegen eines Coinbase-Phishing-Betrugs in Höhe von 16 Millionen US-Dollar zu zwölf Jahren Gefängnis verurteilt. In dieser Woche meldeten Trezor-Kunden Betrugsanrufe, nachdem eine Sicherheitsverletzung beim Versandpartner des Hardware-Wallet-Herstellers 27.000 Bestellungen offengelegt hatte.

Der Blogbeitrag erschien am selben Tag, an dem Coinbase ein ChatGPT-Plugin für den Handel mit Bitcoin, Aktien und Derivaten einführte – eines, das im Gegensatz zum vollautomatischen Betrugs-Agenten von den Nutzern die Freigabe jeder einzelnen Order verlangt.

Coinbase schloss den Beitrag mit einer Liste von Dingen, die es niemals tun wird, darunter das Versprechen, von Kunden gesendete Kryptowährungen zu verdoppeln, zu verdreifachen oder zu vervielfachen. „Niemand Seriöser verdoppelt Ihre Kryptowährungen“, schrieb das Unternehmen.

Dieser Artikel erschien ursprünglich auf Bitcoin Magazine und wurde von Micah Zimmerman verfasst.