NotizieCryptoCoinbase dichiara che la sua IA ha bloccato 4,7 milioni di dollari in una truffa deepfake di Elon Musk

Coinbase dichiara che la sua IA ha bloccato 4,7 milioni di dollari in una truffa deepfake di Elon Musk

Autore: Bitcoin Magazine·

Punti chiave

  • •L'agente di prevenzione delle truffe basato sull'IA di Coinbase ha bloccato circa 4,7 milioni di dollari di fondi dei clienti, fermando circa il 91% dei circa 5,2 milioni di dollari che gli utenti tentavano di inviare ai fraudolenti.
  • •Lo schema utilizzava un falso livestream YouTube con un deepfake di Elon Musk che prometteva di raddoppiare qualsiasi criptovaluta inviata, attirando oltre mezzo milione di spettatori durante la demo dell'«auto volante» di Tesla.
  • •Coinbase ha sottolineato che nessun account è stato hackerato né credenziali rubate, poiché i clienti stessi hanno autorizzato le transazioni, lasciando l'invio in uscita come ultimo punto in cui i fondi potevano essere intercettati.
  • •L'agente di rilevamento delle truffe non era mai stato addestrato su giveaway con deepfake legati a lanci di prodotti dal vivo, ma ha riconosciuto il pattern grazie a segnali come la promessa di moltiplicare i fondi e una transazione non reversibile.
  • •Coinbase ha dichiarato di stare estendendo la revisione automatizzata tramite IA delle transazioni rischiose a ogni tipo di truffa e di utilizzare l'IA per etichettare i nuovi casi, così che i suoi modelli apprendano entro ore anziché settimane.
Coinbase dichiara che la sua IA ha bloccato 4,7 milioni di dollari in una truffa deepfake di Elon Musk

Coinbase (COIN) ha dichiarato che il suo agente di prevenzione delle truffe basato sull'IA ha impedito che circa 4,7 milioni di dollari di fondi dei clienti raggiungessero fraudolenti che utilizzavano un deepfake di Elon Musk per promuovere un falso giveaway di criptovalute Tesla, bloccando circa il 91% del denaro che i clienti tentavano di inviare.

L'exchange ha descritto l'incidente in un post sul blog di martedì, parte di una serie settimanale dedicata alla tutela dei consumatori, precisando che il sistema ha operato «senza alcun essere umano nel processo» — le transazioni segnalate sono state interrotte da sistemi automatizzati anziché da revisori umani.

Queste due cifre indicano che i clienti hanno tentato di inviare in totale circa 5,2 milioni di dollari, e che circa 460.000 dollari sono comunque usciti dai loro conti. Coinbase non ha divulgato quanto di quel denaro sia arrivato ai truffatori.

Un livestream che non era reale

Lo schema è stato messo in atto in parallelo alla demo dell'«auto volante» di Tesla. I truffatori hanno allestito un livestream YouTube progettato per assomigliare alla trasmissione reale, completo di un deepfake di Musk, indirizzi di wallet a schermo e un codice QR. La trasmissione prometteva di raddoppiare qualsiasi criptovaluta inviata e ha attirato oltre mezzo milione di spettatori, secondo Coinbase.

Nel giro di circa due ore, centinaia di clienti Coinbase — molti dei quali utenti di lunga data — hanno tentato di inviare milioni di dollari agli indirizzi mostrati sullo schermo. Coinbase non ha detto quando è stata trasmessa la trasmissione falsa né quali criptovalute i clienti hanno tentato di inviare.

L'azienda ha sottolineato che la sua piattaforma non è stata violata. «Nessuno è stato hackerato», ha scritto Coinbase. «Nessun account Coinbase è stato introdotto, nessuna password rubata, nessuna credenziale oggetto di phishing».

Questo dettaglio è ciò che rende difficile fermare le frodi legate ai giveaway, poiché la maggior parte delle difese cerca attività non autorizzate dal titolare dell'account — e in questo caso, i clienti hanno effettuato l'accesso e premuto conferma da soli, lasciando la transazione in uscita come ultimo punto in cui il denaro poteva essere intercettato. «I nostri sistemi possono vedere i segnali di rischio in tempo reale. Non possono vedere l'intento», ha dichiarato il post.

Come funziona l'agente

Coinbase ha dichiarato che la sua difesa si compone di tre parti. I modelli di machine learning assegnano prima un punteggio alle transazioni in uscita in tempo reale, monitorando i pattern dei giveaway, l'impersonificazione di brand e gli indirizzi di wallet appena creati. L'obiettivo, ha scritto l'azienda, è «catturare il pericolo, non il cliente».

Quando una transazione viene segnalata, un agente specializzato in truffe subentra, cercando il contesto, identificando il pattern della truffa, spiegando come funzionano gli schemi di giveaway e ponendo domande pensate per far crollare la storia. Ogni risposta viene valutata per livello di affidabilità prima che il cliente la veda, così il sistema sa quando una situazione richiede più attrito.

L'agente non era mai stato addestrato su questo tipo di truffa, ha detto Coinbase. I giveaway con deepfake legati a un lancio di prodotto dal vivo non erano presenti nei suoi dati di addestramento. «Ha comunque riconosciuto la forma dello schema», ha scritto l'azienda, indicando la promessa di moltiplicare i fondi, la scadenza di un evento dal vivo e una transazione non reversibile.

Falsi più economici

Coinbase ha dichiarato che i deepfake hanno cambiato l'economia della truffa. Allestire qualcosa del genere una volta richiedeva «una troupe, uno studio e settimane», ha scritto. «Ora basta una fascia oraria di livestream e un modello». In termini pratici, ciò significa che un falso convincente può ora essere prodotto abbastanza rapidamente da sfruttare l'attenzione di un vero lancio di prodotto, come ha fatto questa trasmissione.

L'azienda ha dichiarato di stare estendendo la revisione tramite IA delle transazioni rischiose a ogni tipo di truffa, non solo a quelle di alto profilo, e di utilizzare l'IA anche per etichettare i nuovi casi di truffa, così che i suoi modelli apprendano dagli attacchi entro ore anziché settimane.

L'ingegneria sociale è un problema persistente per i clienti Coinbase. A settembre, un uomo di Brooklyn è stato condannato a 12 anni di prigione per una truffa phishing da 16 milioni di dollari ai danni di Coinbase. Questa settimana, i clienti Trezor hanno segnalato chiamate truffa dopo che una violazione presso il partner di spedizione del produttore di hardware wallet ha esposto 27.000 ordini.

Il post sul blog è arrivato lo stesso giorno in cui Coinbase ha lanciato un plugin ChatGPT per fare trading di bitcoin, azioni e derivati — un plugin che, a differenza dell'agente antitruffa completamente automatizzato, richiede agli utenti di approvare ogni ordine.

Coinbase ha chiuso il post con un elenco di cose che non farà mai, tra cui promettere di raddoppiare, triplicare o moltiplicare le criptovalute che i clienti inviano. «Nessuno di legittimo raddoppierà le tue criptovalute», ha scritto l'azienda.

Questo articolo è apparso originariamente su Bitcoin Magazine ed è stato scritto da Micah Zimmerman.