La société technologique australienne Apate déploie dans le monde entier un vaste ensemble de personnages-bots IA qui jouent le rôle de victimes crédule de cyberescroquerie, faisant perdre chaque mois des millions d’heures aux escrocs.

Parmi les indicateurs mensuels de performance de l’entreprise figure un chiffre inhabituel : le nombre de fois où des fraudeurs frustrés injurient les « victimes » qui feignent la naïveté et les entretiennent dans l’échange.

« Je pense que nous sommes la seule entreprise au monde à suivre réellement, dans ses KPI, le nombre de grossièretés que les escrocs nous adressent », déclare avec un rire le fondateur d’Apate, Dali Kaafar, à Magazine.

L’entreprise dispose d’un vivier de près de 200,000 personnages IA capables de tenir des conversations téléphoniques convaincantes et d’échanger sur les réseaux sociaux et les plateformes de messagerie. « Je peux vous dire que nous traitons, comme nous le disons, des centaines de milliers d’appels par jour, et à peu près des centaines de milliers de conversations sur les autres canaux », dit-il.

Chaque heure de temps perdue par les escrocs est une heure de moins passée à arnaquer un membre du public. Au cours des six semaines précédant la fin de 2025, les bots d’Apate ont participé à 600,000 appels frauduleux pour un seul opérateur télécom australien, TPG.

« En substance, nous avons fait perdre plus de cinq cents jours de temps aux escrocs », explique-t-il. « Cela correspond à peu près à quelque part autour de 13 million de dollars économisés. »

Ce montant est significatif dans un pays où la fraude représente un problème de plusieurs milliards de dollars : en 2024 seulement, les Australiens ont signalé plus de 2 billion de dollars australiens de pertes au service Scamwatch du régulateur de la consommation, un chiffre que les autorités estiment inférieur à la réalité, car de nombreuses victimes ne déposent jamais de signalement.

L’autre objectif des bots est d’extraire des renseignements exploitables pour les banques et les opérateurs télécoms qui luttent contre les réseaux d’escroquerie en Australie, en Asie, en Afrique, ainsi qu’au Royaume-Uni et en Europe.

Le scam baiting à grande échelle avec des victimes IA

Kaafar explique que l’idée lui est venue lorsqu’il a reçu un appel frauduleux alors qu’il pique-niquait avec sa famille à Sydney en novembre 2021. Au grand agacement de sa femme, mais pour le plus grand plaisir de ses enfants, il a entretenu l’escroc pendant 44 minutes en faisant semblant d’être un benêt tombant dans le panneau.

« Ce qui a suivi a été, littéralement, un véritable numéro de comédie pour mes enfants », dit-il, ajoutant qu’au cours de l’appel il a aussi appris beaucoup d’informations potentiellement utiles sur le fonctionnement de l’arnaque et les tactiques employées.

« En raccrochant, je me suis dit très clairement : si je peux faire ça juste pour m’amuser, imaginez ce que la technologie peut faire à grande échelle. »

À l’époque professeur à Macquarie University, il a soumis l’idée à certains de ses doctorants travaillant sur l’IA et la sécurité.

« Je leur ai dit : “Les gars, il doit y avoir une bien meilleure façon de faire cela. Construisons quelque chose qui automatise réellement tout ce processus d’interaction avec les escrocs à grande échelle, mais aussi, et surtout, qui extrait toutes sortes de renseignements de ces conversations.” C’est littéralement comme ça que tout a commencé. »

En quelques mois, l’équipe a obtenu un financement du Office of National Intelligence pour étudier l’idée, puis le projet a été détaché de l’université pour devenir Apate en 2023, en référence à la déesse grecque antique de la tromperie. L’entreprise travaille désormais avec la plupart des grandes banques en Australie, ainsi qu’avec de nombreuses banques au Royaume-Uni, en Afrique du Sud et en Asie du Sud-Est.

La demande pour de tels outils est aussi soutenue par les régulateurs. Le Payment Systems Regulator britannique impose aux banques de rembourser les victimes d’arnaques par virement autorisé — jusqu’à 85,000 £ par réclamation — depuis octobre 2024, et le parlement australien a adopté en 2025 un Scams Prevention Framework qui introduit progressivement des obligations contraignantes de lutte contre la fraude pour les banques, les opérateurs télécoms et les plateformes numériques.

Apate est loin d’être la seule entreprise à appâter les fraudeurs avec des bots IA, même si elle le fait à une échelle supérieure à la plupart. L’opérateur télécom britannique O2 a lancé l’an dernier une campagne AI Granny — une retraitée bavarde nommée Daisy, conçue avec la participation du vétéran du scam baiting sur YouTube Jim Browning — qui exaspère les escrocs en leur faisant perdre des heures à parler de ses 28 chats. L’initiative était autant une campagne publicitaire destinée à alerter le public sur les dangers des appels frauduleux qu’autre chose.

Créer les victimes IA parfaites

Apate a démarré avec 120 personas différentes, réparties entre genres, âges et types de personnalité, et compte désormais 197,000 personas dotées de tics vocaux et d’accents identifiables — elles produisent même les mêmes petits bruits que font les gens lorsqu’ils cherchent quoi dire.

« Nous avons passé beaucoup de temps à affiner et à construire ces bots IA qui sonnent exactement comme vous, moi et nos voisins », dit Kaafar.

Les modèles d’IA ont été entraînés sur « des centaines et des centaines » d’heures de conversations enregistrées entre scam baiters humains et escrocs, ce qui leur permet d’employer des contre-stratégies.

« Ils savent qu’ils parlent, si l’on veut, à des méchants, et ils orientent vraiment les conversations de façon à ce que cela paraisse extrêmement réaliste à n’importe quel escroc, même si celui-ci se montre sceptique. »

Les bots sont envoyés sur WhatsApp et Telegram, où ils servent de pièges aux escrocs. Si le vieux cliché selon lequel on ne peut pas arnaquer un homme honnête n’est pas vrai, il reste tout à fait possible d’exploiter l’appât du gain des fraudeurs.

« Ce sont vraiment des cybercriminels. Je pense qu’on oublie très souvent qu’il s’agit de cybercriminels qui cherchent à s’emparer des économies de toute une vie. Et cet élément de cupidité est parfois aussi ce que nos bots exploitent. »

Les bots collectent des renseignements précieux à chaque appel frauduleux

Dans l’industrie crypto, Apate travaille pour « l’un des leaders de l’analyse blockchain », qui pourrait être Chainalysis ou non. Ce client ne cherche pas principalement à faire perdre du temps aux escrocs : il veut des informations sur les wallets et les méthodes utilisées afin de suivre les flux de fonds.

« Ces bots, au fil de leurs différentes conversations, extraient de nouvelles adresses de crypto wallets par centaines et par milliers », dit-il. « C’est de la donnée et du renseignement qui arrivent littéralement avant que les dommages ne se produisent. »

L’escroquerie est un gros business, et les centres d’appels qui la soutiennent sont « pratiquement des organisations d’entreprise », explique Kaafar.

« Ces données sont très, très importantes parce que, littéralement, c’est le nouveau compte ou le nouveau wallet auquel il faut prêter une attention extrême. Parce que c’est là que ces… complexes d’escrocs collectent leur argent ou leurs fonds. »

Ces complexes sont des opérations de fraude à l’échelle industrielle, souvent basées en Asie du Sud-Est, où l’Office des Nations unies contre la drogue et le crime estimait en 2023 qu’au moins 220,000 personnes avaient été victimes de traite et contraintes de participer à des arnaques en ligne — une illustration de la machinerie organisée derrière les appels traités chaque jour par les bots d’Apate.

« Voyez cela littéralement comme le fait d’avoir toujours une longueur d’avance sur les tactiques des escrocs. Et plus vous savez avant que l’argent ne soit transféré, mieux c’est. »

En juillet, les bots d’Apate ont mis au jour une place de marché pour des courtiers sollicitant des comptes bancaires vérifiés en Inde, offrant des commissions pouvant atteindre 5%, payées en USDT, sur les produits des arnaques transitant par ces comptes.

Course à l’armement IA entre les gentils et les méchants

Les escrocs utilisent eux aussi de plus en plus des bots IA, et il ne faudra pas longtemps avant que les fraudeurs IA soient aussi omniprésents que les courriels indésirables. L’escroquerie représente un business de 1.24 trillion de dollars, ce qui permet au secteur de financer la puissance de calcul nécessaire pour monter en échelle. Selon les recherches d’Apate, environ 20% à 30% des conversations frauduleuses par texte utilisent déjà l’IA, mais Kaafar ne s’inquiète pas particulièrement de l’issue d’une confrontation entre bots anti-fraude et bots d’escroquerie. Il affirme que les chercheurs d’Apate estiment que, selon la théorie des jeux, les bots IA en défense ont un avantage, car ils cherchent à extraire du renseignement, tandis que les bots frauduleux tentent d’amener l’autre IA à exécuter une action.

« On peut aussi démontrer mathématiquement que cela avantage le défenseur, parce qu’il devient plus facile d’extraire des renseignements du modèle d’IA de l’attaquant », dit-il.

« On peut imaginer un monde dans lequel les escrocs deviennent beaucoup plus sophistiqués et déploient ce type de technologie. Mais cela signifie aussi que, s’ils le font, ils sont en réalité considérés comme perdant la partie, ce qui est une excellente nouvelle dans la lutte contre la fraude. »

Magazine: Agent wastes 14 hours of scammers’ time, LLMs ‘poisoned’ by Iran — AI Eye