L’azienda tecnologica australiana Apate sta distribuendo in tutto il mondo una vasta gamma di personaggi-bot AI che recitano la parte di vittime di truffe ingenue, facendo perdere ogni mese milioni di ore ai truffatori.

Tra le metriche mensili dell’azienda c’è un dato insolito: quante volte i truffatori frustrati insultano le ignare “vittime” che fingono di non capire e li tengono in linea.

"Penso che siamo l’unica azienda al mondo che include davvero tra i propri KPI il numero di F-word che i truffatori ci rivolgono", dice con una risata Dali Kaafar, fondatore di Apate, a Magazine.

L’azienda mantiene un organico di quasi 200.000 personaggi AI capaci di sostenere telefonate credibili e conversazioni sui social media e sulle piattaforme di messaggistica. "Posso dirvi che stiamo sostanzialmente gestendo, come li chiamiamo noi, centinaia di migliaia di chiamate al giorno e praticamente centinaia di migliaia di conversazioni sugli altri canali", afferma.

Ogni ora di tempo di un truffatore che i bot fanno perdere è un’ora in cui quel truffatore non sta frodando un cittadino. Nelle sei settimane fino alla fine del 2025, i bot di Apate hanno gestito 600.000 chiamate truffa per un singolo operatore australiano, TPG.

"In sostanza, abbiamo fatto perdere più di cinquecento giorni di tempo ai truffatori", spiega. "Questo equivale grossomodo a circa tredici milioni di dollari risparmiati."

Si tratta di una cifra significativa in un Paese in cui le truffe sono un problema da miliardi di dollari: nel solo 2024 gli australiani hanno segnalato perdite superiori a 2 miliardi di dollari al servizio Scamwatch del consumer watchdog, un dato che le autorità ritengono sottostimi il danno reale perché molte vittime non presentano mai denuncia.

L’altro obiettivo dei bot è ottenere intelligence operativa per banche e telco che combattono le reti di truffa in Australia, Asia, Africa, Regno Unito ed Europa.

Scam baiting su larga scala con vittime AI

Kaafar racconta che l’idea gli è venuta quando ricevette una chiamata truffa durante un picnic con la famiglia a Sydney nel novembre 2021. Con grande fastidio della moglie, ma con enorme divertimento dei figli, tenne il truffatore al telefono per 44 minuti fingendosi un ingenuo che cadeva nel raggiro.

"Quello che seguì fu davvero, letteralmente, uno spettacolo comico completo per i miei figli", dice, aggiungendo che durante la telefonata apprese anche molte informazioni potenzialmente utili sul funzionamento della truffa e sulle tattiche utilizzate.

"Quando ho riattaccato, ricordo di aver pensato chiaramente: se posso farlo solo per divertimento, immaginate cosa può fare la tecnologia su scala."

All’epoca professore alla Macquarie University, sottopose l’idea ad alcuni dei suoi dottorandi che lavoravano su AI e sicurezza.

"Ho detto: ‘Ragazzi, deve esserci un modo molto migliore di fare questa cosa. Costruiamo qualcosa che automatizzi davvero l’intero processo di interazione con i truffatori su scala, ma soprattutto, forse ancora più importante, che estragga ogni tipo di intelligence da queste conversazioni.’ Ed è letteralmente così che tutto è iniziato."

Nel giro di pochi mesi il team ottenne finanziamenti dall’Office of National Intelligence per studiare l’idea, e il progetto fu scorporato dall’università e trasformato in Apate nel 2023, prendendo il nome dalla dea greca dell’inganno. Oggi l’azienda lavora con la maggior parte delle grandi banche australiane, oltre che con numerose banche nel Regno Unito, in Sudafrica e nel Sud-est asiatico.

La domanda per strumenti di questo tipo è rafforzata anche dai regolatori. Dal ottobre 2024 il Payment Systems Regulator del Regno Unito impone alle banche di rimborsare le vittime delle truffe authorized push payment — fino a £85,000 per richiesta — e nel 2025 il parlamento australiano ha approvato uno Scams Prevention Framework che introduce gradualmente obblighi vincolanti anti-truffa per banche, telco e piattaforme digitali.

Apate è tutt’altro che l’unica azienda a usare bot AI per raggirare i truffatori, anche se opera su una scala maggiore della maggior parte. Lo scorso anno la telco britannica O2 ha lanciato una campagna AI Granny — una pensionata loquace di nome Daisy, realizzata con il contributo del veterano dello scambaiting su YouTube Jim Browning — che frustra i truffatori facendogli perdere ore a parlare dei suoi 28 gatti. L’iniziativa era anche, e soprattutto, una campagna pubblicitaria per avvertire il pubblico dei pericoli delle chiamate truffa.

Creare le vittime AI perfette

Apate ha debuttato con 120 diverse personalità, distribuite tra generi, età e tipi di carattere, e oggi dispone di 197.000 personalità con tic vocali e accenti identificabili — che producono persino gli stessi piccoli suoni che le persone emettono quando cercano di pensare a cosa dire.

"Abbiamo dedicato molto tempo a rifinire e costruire questi bot AI che suonano esattamente come voi, come me e come i nostri vicini", afferma Kaafar.

I modelli AI sono stati addestrati su "centinaia e centinaia" di ore di conversazioni registrate tra scambaiter umani e truffatori, così da poter applicare strategie di contrasto.

"Sanno, per così dire, che stanno parlando con i cattivi, e gestiscono davvero le conversazioni in modo che risultino estremamente realistiche per qualsiasi truffatore, anche se il truffatore è scettico su alcune cose."

I bot vengono inviati su WhatsApp e Telegram, dove fanno da honeypot per i truffatori. Anche se il vecchio cliché secondo cui non si può truffare un uomo onesto non è vero, è ancora molto possibile sfruttare il desiderio di denaro dei truffatori.

"Sono cybercriminali, in realtà. Penso che molto spesso dimentichiamo che sono cybercriminali che cercano di sottrarre i risparmi di una vita alle persone. E quindi quell’elemento di avidità è talvolta ciò che i nostri bot sfruttano anche."

I bot raccolgono intelligence preziosa da ogni chiamata truffa

Nel settore crypto, Apate lavora per "uno dei leader nell’analisi blockchain", che potrebbe essere o meno Chainalysis. A quel cliente non interessa principalmente far perdere tempo ai truffatori: vuole intelligence sui wallet e sui metodi che i truffatori stanno usando per poter tracciare i flussi di fondi.

"Questi bot, mentre interagiscono in conversazioni diverse, estraggono nuovi indirizzi di crypto wallet a centinaia e a migliaia", spiega. "Sono dati e intelligence che arrivano letteralmente prima che il danno si verifichi."

La truffa è un grande business, e i call center che la sostengono sono "praticamente organizzazioni aziendali", spiega Kaafar.

"Questi dati sono molto, molto importanti perché, letteralmente, si tratta del nuovo account o del nuovo wallet su cui bisogna prestare estrema attenzione. Perché è qui che questi… complessi dei truffatori raccolgono il loro denaro o i loro fondi."

Questi complessi sono operazioni fraudolente su scala industriale, molte delle quali con base nel Sud-est asiatico, dove l’UN Office on Drugs and Crime ha stimato nel 2023 che almeno 220,000 persone fossero state trafficate e costrette a gestire truffe online — una misura della macchina organizzata dietro le chiamate che i bot di Apate gestiscono ogni giorno.

"Bisogna pensare a tutto questo come a un essere sempre un passo avanti alle tattiche dei truffatori. E più si sa prima che il denaro venga trasferito, meglio è."

A luglio, i bot di Apate hanno scoperto un marketplace per broker che cercavano conti bancari verificati in India, offrendo commissioni fino al 5% — pagate in USDT — sui proventi delle truffe che transitavano attraverso tali conti.

Corsa agli armamenti AI tra buoni e cattivi

Anche i truffatori usano sempre più spesso bot AI, e non passerà molto tempo prima che i truffatori AI siano onnipresenti quanto le email di spam. Truffare le persone è un business da 1,24 trilioni di dollari, quindi il settore può permettersi la potenza di calcolo necessaria a scalare le operazioni. Solo negli Stati Uniti, l’Internet Crime Complaint Center dell’FBI ha registrato nel 2024 perdite da frode denunciate per 16,6 miliardi di dollari, in aumento di circa un terzo rispetto all’anno precedente.

Le ricerche di Apate suggeriscono che circa il 20% al 30% delle conversazioni testuali truffa utilizzi già l’AI, ma Kaafar non è troppo preoccupato dell’esito dello scontro tra bot anti-truffa e bot truffa. Dice che i ricercatori di Apate ritengono, secondo la teoria dei giochi, che i bot AI in difesa abbiano un vantaggio, perché cercano di estrarre intelligence, mentre i bot truffa cercano di indurre l’altra AI a compiere un’azione.

"Si può anche dimostrare matematicamente che questo è a vantaggio del difensore, perché diventa più facile estrarre intelligence dal modello AI dell’attaccante", afferma.

"Possiamo immaginare un mondo in cui i truffatori diventano molto più sofisticati e dispiegano una tecnologia di questo tipo. Ma ciò significa anche che, se lo fanno, sono effettivamente considerati perdenti nella partita, e questa è un’ottima notizia nella lotta contro le truffe."

Related: AI-powered bot stands in for absent candidate in Virginia debate | Agent wastes 14 hours of scammers' time, LLMs 'poisoned' by Iran — AI Eye