Coinbase informuje: jego AI zablokowało 4,7 mln dolarów w ramach oszustwa z deepfake Elona Muska
Najważniejsze informacje
- •Agent AI zapobiegający oszustwom w Coinbase zatrzymał około 4,7 mln dolarów środków klientów, blokując około 91% z około 5,2 mln dolarów, które użytkownicy próbowali wysłać oszustom.
- •Oszustwo wykorzystywało podrobioną transmisję na YouTube z deepfake Elona Muska, obiecującą podwojenie każdej wysłanej kryptowaluty, która przyciągnęła ponad pół miliona widzów w trakcie dema „latającego samochodu” Tesli.
- •Coinbase podkreślił, że żadne konto nie zostało zhakowane ani dane skradzione — klienci sami autoryzowali przelewy, więc wychodzący transfer był ostatnim punktem, w którym można było przechwycić środki.
- •Agent wykrywający oszustwa nigdy nie był trenowany na deepfake loteriach powiązanych z premierami produktów na żywo, a mimo to rozpoznał schemat na podstawie sygnałów takich jak obietnica pomnożenia środków i nieodwracalny przelew.
- •Coinbase poinformował, że rozszerza automatyczny przegląd AI ryzykownych przelewów na wszystkie typy oszustw i wykorzystuje AI do etykietowania nowych przypadków, dzięki czemu modele uczą się w ciągu godzin zamiast tygodni.

Coinbase (COIN) poinformował, że jego agent AI zapobiegający oszustwom zatrzymał około 4,7 mln dolarów środków klientów, zanim trafiły one do oszustów, którzy wykorzystali deepfake Elona Muska do promowania fałszywej loterii kryptowalutowej Tesli, blokując około 91% kwoty, którą klienci próbowali wysłać.
Giełda opisała incydent we wtorkowym wpisie na blogu, będącym częścią cotygodniowej serii poświęconej ochronie konsumentów, zaznaczając, że system działał „bez udziału człowieka” — oznaczone jako podejrzane przelewy zostały zatrzymane przez zautomatyzowane systemy, a nie przez recenzentów.
Te dwie liczby oznaczają, że klienci próbowali łącznie wysłać około 5,2 mln dolarów, a około 460 tys. dolarów mimo to opuściło ich konta. Coinbase nie ujawnił, jaka część tych środków trafiła do oszustów.
Transmisja, która nie była prawdziwa
Oszustwo rozegrało się w trakcie dema „latającego samochodu” Tesli. Oszuści uruchomili transmisję na YouTube wyglądającą jak prawdziwa transmisja, z deepfake Muskiem, adresami portfeli wyświetlanymi na ekranie i kodem QR. Transmisja obiecywała podwojenie każdej wysłanej kryptowaluty i przyciągnęła ponad pół miliona widzów — według Coinbase.
W ciągu około dwóch godzin setki klientów Coinbase — wśród nich wielu wieloletnich użytkowników — próbowało wysłać miliony dolarów na adresy widoczne na ekranie. Coinbase nie podał, kiedy odbyła się fałszywa transmisja ani jakie kryptowaluty próbowali wysyłać klienci.
Firma podkreśliła, że jej platforma nie została przełamana. „Nikt nie został zhakowany” — napisał Coinbase. „Żadne konto Coinbase nie zostało przełamane, żadne hasło nie zostało skradzione, żadne dane logowania nie zostały wyłudzone”.
To właśnie ta okoliczność sprawia, że takie oszustwa typu giveaway są trudne do powstrzymania, ponieważ większość zabezpieczeń szuka działań nieautoryzowanych przez właściciela konta — a w tym przypadku klienci sami zalogowali się i nacisnęli przycisk potwierdzenia, przez co wychodzący przelew był ostatnim punktem, w którym środki można było przechwycić. „Nasze systemy widzą sygnały ryzyka w czasie rzeczywistym. Nie widzą intencji” — napisano w poście.
Jak działa agent
Coinbase powiedział, że jego obrona składa się z trzech części. Modele uczenia maszynowego najpierw oceniają w czasie rzeczywistym przelewy wychodzące, obserwując wzory typowe dla loterii, fałszowanie marek i nowo utworzone adresy portfeli. Celem — jak napisała firma — jest „wyłapywanie zagrożenia, a nie klienta”.
Gdy przelew zostanie oflagowany, przejmuje go wyspecjalizowany agent ds. oszustw, który sprawdza kontekst, nazywa schemat oszustwa, wyjaśnia, jak działają loterie, i zadaje pytania mające doprowadzić do rozbicia fałszywej historii. Każda odpowiedź jest oceniana pod kątem pewności, zanim klient ją zobaczy, dzięki czemu system wie, kiedy sytuacja wymaga większej ostrożności.
Agent nigdy nie był trenowany na tego rodzaju oszustwie — poinformował Coinbase. Deepfake loterie powiązane z premierą produktu na żywo nie występowały w jego danych treningowych. „Niemniej rozpoznał kształt schematu” — napisała firma, wskazując na obietnicę pomnożenia środków, termin związany z wydarzeniem na żywo oraz przelew nieodwracalny.
Tańsze fałszywki
Coinbase powiedział, że deepfake zmieniły ekonomię tego rodzaju oszustw. Przygotowanie czegoś takiego kiedyś wymagało „ekipy, studia i tygodni” — napisał. „Teraz wystarczy slot na transmisję na żywo i model”. W praktyce oznacza to, że przekonujące fałszywki można obecnie tworzyć na tyle szybko, by wykorzystać zainteresowanie prawdziwą premierą produktu — tak jak zrobiła to ta transmisja.
Firma poinformowała, że rozszerza przegląd AI ryzykownych przelewów na każdy typ oszustw, nie tylko te głośne, a także wykorzystuje AI do etykietowania nowych przypadków oszustw, dzięki czemu jej modele uczą się z ataków w ciągu godzin zamiast tygodni.
Inżynieria społeczna to od dawna problem dla klientów Coinbase. We wrześniu mieszkaniec Brooklynu został skazany na 12 lat więzienia za oszustwo phishingowe związane z Coinbase o wartości 16 mln dolarów. W tym tygodniu klienci Trezora zgłaszali połączenia od oszustów po tym, jak włamanie do partnera logistycznego producenta portfeli sprzętowych ujawniło dane 27 000 zamówień.
Wpis ukazał się tego samego dnia, w którym Coinbase uruchomił wtyczkę ChatGPT do handlu bitcoinem, akcjami i instrumentami pochodnymi — w odróżnieniu od w pełni zautomatyzowanego agenta ds. oszustw wymaga ona od użytkowników zatwierdzania każdego zlecenia.
Coinbase zakończył wpis listą rzeczy, których nigdy nie zrobi, w tym obietnic podwojenia, potrojenia czy pomnożenia kryptowalut wysyłanych przez klientów. „Nikt uczciwy nie podwoi twojej kryptowaluty” — napisała firma.
Ten artykuł pierwotnie ukazał się w Bitcoin Magazine, autorem jest Micah Zimmerman.