Australische technologiebedrijf Apate zet wereldwijd een breed scala aan AI-botpersonages in die de rol aannemen van goedgelovige scamslachtoffers en zo elke maand miljoenen uren van fraudeurs verspillen.

Een van de maandelijkse prestatie-indicatoren van het bedrijf is opvallend: hoe vaak gefrustreerde oplichters vloeken tegen de nietsvermoedende "slachtoffers" die doen alsof ze niets doorhebben en hen aan het lijntje houden.

"Ik denk dat wij het enige bedrijf ter wereld zijn dat als onderdeel van de KPI's daadwerkelijk bijhoudt hoeveel F-words scammers naar hen gooien," zegt Apate-oprichter Dali Kaafar lachend tegen Magazine.

Het bedrijf beschikt over een bestand van bijna 200.000 AI-personages die overtuigende telefoongesprekken kunnen voeren en kunnen chatten op sociale media en berichtendiensten. "Ik kan je vertellen dat we, zoals wij het noemen, praktisch honderdduizenden gesprekken per dag afhandelen, en op de andere kanalen vrijwel honderdduizenden gesprekken," zegt hij.

Elk uur dat de bots van een oplichter verspillen, is een uur waarin die fraudeur geen lid van het publiek kan oplichten. In de zes weken tot eind 2025 voerden Apate’s bots 600.000 scamcalls uit voor een Australische telecomprovider genaamd TPG.

"In wezen hebben we meer dan vijfhonderd dagen van de tijd van oplichters verspild," legt hij uit. "Dat komt grofweg neer op ergens rond de dertien miljoen dollar aan besparingen."

Dat is aanzienlijk in een land waar scams een probleem van meerdere miljarden dollars vormen: Australiërs meldden in 2024 alleen al meer dan $2 miljard aan verliezen bij de consumentenwaakhond Scamwatch, een cijfer dat volgens toezichthouders de werkelijke schade onderschat omdat veel slachtoffers nooit een melding doen.

Het andere doel van de bots is bruikbare inlichtingen verzamelen voor banken en telecombedrijven die scamnetwerken bestrijden in Australië, Azië, Afrika en het VK en Europa.

Scam baiting op schaal met AI-slachtoffers

Kaafar zegt dat het idee bij hem opkwam toen hij in november 2021 tijdens een picknick met zijn familie in Sydney een scamcall kreeg. Tot ongenoegen van zijn vrouw, maar tot groot plezier van zijn kinderen, hield hij de oplichter 44 minuten aan de praat door te doen alsof hij een goedgelovige sukkel was die voor de truc viel.

"Wat volgde was echt letterlijk een volledige komedieshow voor mijn kinderen," zegt hij, en voegt eraan toe dat hij tijdens het gesprek ook veel mogelijk nuttige informatie leerde over de werking van de scam en de gebruikte tactieken.

"Toen ik ophing, dacht ik heel helder: als ik dit alleen voor de lol kan doen, stel je dan eens voor wat technologie op schaal kan doen."

Hij was destijds hoogleraar aan Macquarie University en bracht het idee ter sprake bij enkele van zijn promotiestudenten die werkten aan AI en beveiliging.

"Ik zei: 'Mensen, er moet een veel betere manier zijn om dit te doen. Laten we iets bouwen dat dit hele proces van het op grote schaal benaderen van oplichters echt automatiseert, maar misschien nog belangrijker: dat allerlei soorten inlichtingen uit deze gesprekken haalt.' En zo is het letterlijk begonnen."

Binnen enkele maanden verkreeg het team financiering van het Office of National Intelligence om het idee te onderzoeken, en in 2023 werd het project afgesplitst van de universiteit en ondergebracht in Apate, genoemd naar de oude Griekse godin van bedrog. Het bedrijf werkt nu samen met de meeste grote banken in Australië, evenals met talrijke banken in het VK, Zuid-Afrika en Zuidoost-Azië.

De vraag naar dergelijke hulpmiddelen wordt verder aangewakkerd door toezichthouders. De Britse Payment Systems Regulator verplicht banken sinds oktober 2024 slachtoffers van authorised push payment-scams te vergoeden — tot £85,000 per claim — en het Australische parlement nam in 2025 een Scams Prevention Framework aan dat bindende anti-scamverplichtingen voor banken, telecombedrijven en digitale platforms gefaseerd invoert.

Apate is verre van het enige bedrijf dat fraudeurs met AI-bots lokt, al opereert het op grotere schaal dan de meeste. De Britse telecomaanbieder O2 lanceerde vorig jaar een AI Granny-campagne — een praatgrage gepensioneerde genaamd Daisy, ontwikkeld met input van ervaren YouTube-scambaiter Jim Browning — die oplichters frustreert door uren van hun tijd te nemen met gesprekken over haar 28 katten. Het initiatief was net zo goed een advertentiecampagne om het publiek te waarschuwen voor de gevaren van scamcalls als iets anders.

Het creëren van de perfecte AI-slachtoffers

Apate begon met 120 verschillende persona’s, verspreid over verschillende geslachten, leeftijden en persoonlijkheidstypes, en heeft nu 197.000 persona’s met herkenbare vocale ticjes en accenten — en ze maken zelfs dezelfde geluiden als mensen wanneer ze proberen te bedenken wat ze moeten zeggen.

"We hebben veel tijd besteed aan het verfijnen en bouwen van deze AI-bots die precies klinken als jij en ik en onze buren," zegt Kaafar.

De AI-modellen werden getraind op "honderden en honderden" uren aan opgenomen gesprekken tussen menselijke scambaiters en oplichters, zodat ze tegenstrategieën kunnen toepassen.

"Ze weten dat ze, als je wilt, met slechte gasten praten, en ze sturen de gesprekken zo dat het voor elke oplichter daarbuiten echt heel, heel realistisch klinkt, zelfs als een oplichter ergens sceptisch over is."

De bots worden ingezet op WhatsApp en Telegram, waar ze als honeypots voor oplichters fungeren. Hoewel de oude cliché dat je geen eerlijke man kunt oplichten niet waar is, blijft het heel goed mogelijk om in te spelen op de geldzucht van een oplichter.

"Het zijn eigenlijk cybercriminelen. Ik denk dat we heel vaak vergeten dat het cybercriminelen zijn die proberen het levensvermogen van mensen afhandig te maken. En dat element van hebzucht is soms ook wat onze bots uitbuiten."

Bots verzamelen waardevolle inlichtingen uit elke scamcall

In de cryptosector werkt Apate voor "een van de leiders in blockchainanalyse", wat wel of niet Chainalysis kan zijn. Die klant is niet in de eerste plaats geïnteresseerd in het verspillen van de tijd van oplichters — het wil weten welke wallets en methoden oplichters gebruiken, zodat de geldstromen kunnen worden gevolgd.

"Deze bots halen, terwijl ze in verschillende gesprekken interactie hebben, nieuwe crypto-walletadressen eruit, bij de honderden en bij de duizenden," zegt hij. "Het zijn data en inlichtingen die letterlijk binnenkomen voordat hun schade optreedt."

Scams zijn een grote business, en de callcenters daarachter zijn "vrijwel corporate organisaties", legt Kaafar uit.

"Deze data is heel, heel belangrijk omdat dat letterlijk de nieuwe rekening of de nieuwe wallet is waar je echt extreem op moet letten. Want hier verzamelen deze... scammer compounds hun geld of hun fondsen."

Dergelijke compounds zijn frauderoutes op industriële schaal, waarvan er veel in Zuidoost-Azië zijn gevestigd. Volgens het UN Office on Drugs and Crime waren in 2023 ten minste 220,000 mensen daar getrafficked en onder druk gezet om online scams te draaien — een indicatie van de georganiseerde machine achter de gesprekken die Apate’s bots dagelijks afhandelen.

"Zie het letterlijk als altijd een stap vóór de tactieken van de oplichter te zitten. En hoe meer je weet voordat het geld wordt overgemaakt, hoe beter dat is."

In juli ontdekten Apate’s bots een marktplaats voor tussenpersonen die in India geverifieerde bankrekeningen probeerden te werven, met commissies tot 5% — uitbetaald in USDT — op de opbrengsten van scams die via die rekeningen liepen.

AI-wapenwedloop tussen goed en kwaad

Oplichters gebruiken zelf steeds vaker AI-bots, en het zal niet lang meer duren voordat AI-oplichters even alledaags zijn als spam-e-mails. Mensen oplichten is een business van $1.24 trillion, dus de sector kan zich de rekenkracht veroorloven die nodig is om de operatie op te schalen. Alleen al in de Verenigde Staten registreerde het Internet Crime Complaint Center van de FBI in 2024 $16.6 miljard aan gemelde fraudeverliezen, een stijging van ongeveer een derde ten opzichte van het jaar ervoor.

Apate’s onderzoek suggereert dat ongeveer 20% tot 30% van scam-tekstgesprekken al AI gebruikt, maar Kaafar maakt zich niet al te veel zorgen over de uitkomst van bots die fraude bestrijden tegen bots die fraude plegen. Volgens hem denken Apate’s onderzoekers op basis van de speltheorie dat AI-bots in de verdediging een voordeel hebben, omdat zij proberen inlichtingen te verzamelen, terwijl de scam-bots proberen de andere AI een handeling te laten uitvoeren.

"Je kunt ook wiskundig aantonen dat dat in het voordeel van een verdediger is, omdat het makkelijker wordt om inlichtingen te halen uit het AI-model van de aanvaller," zegt hij.

"We kunnen ons een wereld voorstellen waarin oplichters veel geavanceerder worden en dergelijke technologie inzetten. Maar dat betekent ook dat als ze dat doen, ze feitelijk geacht worden het spel te verliezen, en dat is goed nieuws in de strijd tegen scams."

Magazine: Agent verspilt 14 uur van de tijd van oplichters, LLM's 'vergiftigd' door Iran — AI Eye