OpenAI ha terminato una serie di conti ChatGPT collegati a un'organizzazione criminale cambogiana che utilizzava il chatbot per facilitare frodi legate agli investimenti in criptovalute. Il caso si aggiunge a un corpo di prove crescente che dimostra come i gruppi criminali organizzati stiano sfruttando strumenti di IA generativa insieme ai sistemi di pagamento in asset digitali.

La chiusura arriva in un momento di aumento delle truffe legate agli asset digitali, spingendo gli exchange, gli sviluppatori di token e le aziende di IA a rafforzare le misure preventive. Le cosiddette truffe del "pig-butchering" — un termine derivato dalla frase cinese "shā zhū pán," in cui i truffatori costruiscono relazioni romantiche o di investimento con le vittime prima di persuaderle a trasferire criptovalute — rimangono diffuse in tutto il Sud-est asiatico, sempre più agevolate da contenuti generati tramite IA.

In che modo gli operatori hanno sfruttato ChatGPT

Secondo il rapporto di OpenAI, le indagini sono state avviate in seguito a una segnalazione da parte di WhatsApp. L'attività è stata ricondotta a conti presumibilmente basati a Poipet, una città di frontiera cambogiana da tempo nota agli investigatori internazionali per la sua associazione con operazioni di truffa su larga scala, molte delle quali si ritiene si siano espanse a partire dall'infrastruttura costruita per l'industria dei casinò e del gioco d'azzardo online della regione durante la pandemia.

OpenAI ha dichiarato che gli operatori hanno utilizzato ChatGPT per creare false identità, tradurre conversazioni in più lingue e comporre messaggi volti a costruire fiducia con i bersagli. Il chatbot è stato inoltre impiegato per generare materiali promozionali per schemi di investimento fraudolenti.

La criptovaluta era centrale nell'operazione. Le vittime venivano inizialmente attirate in conversazioni a carattere romantico o platonico, per poi essere indirizzate verso piattaforme fittizie di trading di criptovalute e oro spot. Per rafforzare l'illusione di legittimità, i perpetratori hanno utilizzato ChatGPT per fabbricare falsi passaporti, comunicazioni legali, conferme di acquisto di azioni e finti cruscotti di trading di criptovalute.

OpenAI ha descritto la frode come articolata in tre fasi: i criminali convincevano inizialmente le vittime a inviare criptovalute, per poi richiedere pagamenti aggiuntivi con il pretesto di commissioni di attivazione, tasse o multe regolamentari.

Prove di tratta di esseri umani

Le indagini di OpenAI hanno inoltre portato alla luce indicatori di tratta di esseri umani. Alcuni operatori hanno utilizzato ChatGPT per creare annunci di reclutamento per "chatter" a Poipet, offrendo incentivi quali biglietti di viaggio gratuiti, alloggio, vitto e assistenza per i visti. Altre comunicazioni riguardavano la creazione di fogli di calcolo per monitorare i debiti dei dipendenti, le trattenute salariali, le multe per condotte inappropriate, lo status immigratorio, la detenzione e i tentativi di fuga.

Queste constatazioni riecheggiano ricerche condotte da Elliptic, secondo cui molti degli individui coinvolti nelle truffe romantiche e di investimento sono a loro volta vittime di tratta di esseri umani, costretti a lavorare in compound criminali organizzati in tutto il Sud-est asiatico. Nell'agosto 2023, l'Ufficio delle Nazioni Unite per l'Alto Commissariato per i Diritti Umani ha stimato che almeno 120.000 persone in Myanmar e circa 100.000 in Cambogia erano detenute in compound e costrette a compungere truffe online, con vittime provenienti da tutta la regione e oltre.

Prima di chiudere i conti, OpenAI ha condiviso i risultati delle indagini con le parti interessate del settore e le forze dell'ordine. Sulla base di comunicazioni interne, l'azienda stima che la rete abbia contattato centinaia di vittime, con perdite combinate potenzialmente nell'ordine di migliaia di dollari.

I flussi illeciti di criptovalute raggiungono livelli record

La portata del crimine legato alle criptovalute offre un contesto più ampio all'azione di OpenAI. Secondo il Crypto Crime Report di TRM Labs pubblicato il 28 gennaio, i flussi illeciti di criptovalute sono stati stimati a 158 miliardi di dollari nel 2025 — un aumento di quasi il 145% rispetto all'anno precedente e il dato più alto in cinque anni. Tuttavia, la quota di attività illecita sul volume totale on-chain è scesa dall'1,3% nel 2024 all'1,2% nel 2025, riflettendo una più ampia adozione delle criptovalute.

Il rapporto ha inoltre rilevato che le stablecoin rappresentavano circa l'84% degli afflussi fraudolenti verificati, consolidando il loro ruolo come principale strumento di pagamento per le operazioni di truffa organizzata. Le agenzie delle forze dell'ordine di tutto il mondo hanno risposto con un'intensificazione delle azioni repressive, tra cui la National Cryptocurrency Enforcement Team del Dipartimento di Giustizia degli Stati Uniti e il coordinamento transfrontaliero attraverso il Financial Action Task Force, sebbene la natura senza confini e pseudonima dei pagamenti in criptovaluta continui a complicare il recupero dei beni.

Le aziende di IA come punto di strozzatura

L'intervento di OpenAI è degno di nota perché l'IA generativa è ormai in grado di svolgere la componente più laboriosa delle truffe: costruire la fiducia con le vittime. Uno studio condotto da ricercatori di Amrita Vishwa Vidyapeetham, Ca' Foscari University of Venice, University of Melbourne e Ben-Gurion University of the Negev ha dimostrato che un agente Claude basato sull'IA ha superato un truffatore umano nel condurre una truffa del "pig-butchering". Dopo una settimana di messaggi, il 46% dei partecipanti ha utilizzato il software consigliato dall'agente IA, rispetto a solo il 18% in caso di interazione con un operatore umano. I partecipanti hanno inoltre valutato l'IA come più affidabile.

I ricercatori hanno intervistato 145 individui precedentemente coinvolti in operazioni di truffa, inclusi sopravvissuti alla tratta provenienti da strutture in Cambogia, Myanmar e Laos. I risultati indicano che il ruolo principale dell'IA nelle operazioni di truffa consiste nell'automatizzare la fase di costruzione della fiducia, e che la limitazione dell'accesso a modelli di IA sofisticati può interrompere le truffe prima che le vittime vengano persuase a consegnare il proprio denaro.

OpenAI e altri principali laboratori di IA hanno pubblicato con crescente frequenza rapporti di intelligence sulle minacce che documentano in che modo i loro modelli vengano sfruttati da attori statali, criminali informatici e reti di influenza. Poiché i sindacati criminali organizzati fanno sempre più ricorso all'IA generativa e ai sistemi di pagamento in criptovaluta, impedire l'uso illecito di strumenti avanzati di IA potrebbe diventare altrettanto critico per gli sforzi di cybersecurity quanto il blocco dei wallet illeciti o lo smantellamento delle reti di riciclaggio di denaro.