AktualnościKryptoAgent AI Coinbase zablokował 4,7 miliona dolarów w ramach oszustwa z deepfake Elona Muska

Agent AI Coinbase zablokował 4,7 miliona dolarów w ramach oszustwa z deepfake Elona Muska

Autor: Hokanews·

Najważniejsze informacje

  • •Autonomiczny agent AI Coinbase ds. zapobiegania oszustwom zablokował około 4,7 miliona dolarów środków klientów przed dotarciem do oszustów stojących za fałszywym streamem z rzekomym rozdawnictwem kryptowalut Elona Muska.
  • •Fałszywa transmisja na YouTube, zsynchronizowana z prezentacją „latającego samochodu” Tesli, przyciągnęła ponad 500 000 widzów i przedstawiała deepfake Elona Muska wygenerowany przez AI, promujący schemat mający rzekomo podwajać wszelkie wysłane aktywa cyfrowe.
  • •Setki klientów Coinbase próbowało przelać miliony dolarów w ciągu około dwóch godzin, a system AI powstrzymał około 91% objętych celem środków przed opuszczeniem kont klientów.
  • •Agent AI działał bez udziału człowieka, oznaczając w czasie rzeczywistym transakcje wysokiego ryzyka i prowadząc rozmowy uwzględniające kontekst, które pomogły klientom rozpoznać sygnały ostrzegawcze oszustwa.
  • •Coinbase nie ujawnił, ilu klientów zrealizowało przelewy mimo interwencji ani jakie działania, jeśli jakieś, podjął YouTube wobec transmisji.
Agent AI Coinbase zablokował 4,7 miliona dolarów w ramach oszustwa z deepfake Elona Muska

Coinbase poinformował, że jego system zapobiegania oszustwom oparty na sztucznej inteligencji pomógł chronić około 4,7 miliona dolarów środków klientów po wykryciu dużego oszustwa związanego z rozdawnictwem kryptowalut, opartego na deepfake Elona Muska wygenerowanym przez AI. Według raportu opublikowanego na blogu Coinbase fałszywy stream przyciągnął ponad 500 000 widzów i skłonił setki klientów Coinbase do próby wysłania milionów dolarów do oszustów w ciągu około dwóch godzin.

Fałszywy stream przyczepił się do rozgłosu Tesli

Atakujący stworzyli fałszywy stream na YouTube, zsynchronizowany z prezentacją „latającego samochodu” Tesli. W transmisji wystąpiło wygenerowane przez AI podobieństwo Elona Muska promujące fałszywe rozdawnictwo kryptowalut, które miało podwajać cyfrowe aktywa wysłane przez uczestników.

Schemat opierał się na widoczności prezentacji Tesli i publicznym profilu Muska, aby nadać promocji wiarygodność. Widzów zachęcano do udziału w rzekomym rozdawnictwie poprzez przelanie kryptowalut — to znany format oszustwa, w którym ofiarom obiecuje się większy zwrot w zamian za początkową wpłatę. Rozdawnictwa mające podwajać kryptowaluty, wykorzystujące podobieństwo znanych postaci ze świata technologii, krążą w mediach społecznościowych i na platformach wideo od lat, a użycie prowadzącego wygenerowanego przez AI odzwierciedla, jak dostępne stały się narzędzia do tworzenia syntetycznych wideo.

System AI interweniuje w czasie rzeczywistym

Coinbase powiedział, że setki jego klientów próbowało przelać miliony dolarów w ciągu około dwugodzinnego okresu, w którym oszustwo było aktywne. Skala i szybkość próbnych transakcji stanowiły wyzwanie dla konwencjonalnych procesów zapobiegania oszustwom, zwłaszcza gdy jednocześnie odbywało się wiele podejrzanych przelewów.

W odpowiedzi autonomiczny agent AI Coinbase ds. zapobiegania oszustwom wykrywał wysokiego ryzyka transakcje w czasie rzeczywistym i interweniował, zanim środki mogły opuścić konta klientów. Firma powiedziała, że system działał bez udziału człowieka, co pozwalało mu wykrywać podejrzaną aktywność i bezpośrednio komunikować się z dotkniętymi klientami.

Zamiast polegać wyłącznie na blokowaniu transakcji, agent AI inicjował ukierunkowane rozmowy uwzględniające kontekst, mające wyjaśnić mechanizm fałszywego rozdawnictwa. Według Coinbase te interwencje pomogły klientom rozpoznać sygnały ostrzegawcze i zrozumieć, dlaczego żądane przelewy były niebezpieczne.

Firma poinformowała, że system ostatecznie powstrzymał około 91% objętych celem środków przed opuszczeniem kont klientów, chroniąc około 4,7 miliona dolarów. Liczba ta odpowiada środkom, które — jak powiedziała Coinbase — interwencja oparta na AI powstrzymała przed dotarciem do oszustów.

Deepfake komplikują oszustwa kryptowalutowe

Zdarzenie pokazuje, jak podszywanie się generowane przez AI jest włączane do oszustw kryptowalutowych. Odtwarzając wygląd i głos znanej osoby publicznej, oszuści mogą tworzyć przekonujące materiały promocyjne zaprojektowane tak, by wykorzystać znajomość dobrze znanych osób i firm wśród widzów. Dla odbiorców promocji finansowych oznacza to, że znajoma twarz w streamie nie jest już sama w sobie dowodem, że dana osoba jest prawdziwa.

W tym przypadku deepfake Muska wygenerowany przez AI, przedstawiony podczas streamu związanego z Teslą, stanowił tło dla fałszywej oferty podwajania kryptowalut. Audytorium transmisji przekroczyło 500 000 widzów, a setki klientów Coinbase próbowało wysłać środki w stosunkowo krótkim okresie.

Przypadek pokazuje również rolę, jaką monitorowanie transakcji i komunikacja z klientami mogą odegrać w zapobieganiu stratom finansowym. Opis zdarzenia przedstawiony przez Coinbase ukazuje podejście, w którym zautomatyzowany system ocenia ryzyko transakcji i wykorzystuje spersonalizowane wyjaśnienia, aby zniechęcić klientów do realizacji potencjalnie oszukańczych przelewów.

Coinbase przedstawił tę interwencję jako przykład tego, jak autonomiczne systemy AI mogą pomagać w identyfikowaniu i przerywaniu oszustw kryptowalutowych, gdy transakcje są jeszcze przetwarzane. Opis firmy nie określa, ilu klientów zrealizowało przelewy mimo interwencji ani jakie działania, jeśli jakieś, podjął YouTube wobec transmisji — szczegółów, które wyjaśniłyby ostateczny koszt schematu i ewentualną reakcję platformy.

Źródło: Hokanews