Das australische Technologieunternehmen Apate setzt weltweit ein großes Arsenal an KI-Bot-Charakteren ein, die die Rolle leichtgläubiger Betrugsopfer spielen und den Trickbetrügern so jeden Monat Millionen Stunden Zeit rauben.

Zu den monatlichen Leistungskennzahlen des Unternehmens gehört eine ungewöhnliche Größe: wie oft frustrierte Betrüger die ahnungslosen „Opfer“ beschimpfen, die sich dumm stellen und sie hinhalten.

„Ich glaube, wir sind das einzige Unternehmen der Welt, das die Anzahl der F-Wörter, die Betrüger ihnen an den Kopf werfen, tatsächlich als Teil seiner KPIs erfasst“, sagt Apate-Gründer Dali Kaafar mit einem Lachen gegenüber Magazine.

Das Unternehmen unterhält einen Bestand von fast 200.000 KI-Charakteren, die überzeugende Telefonate führen und in sozialen Medien sowie auf Messaging-Plattformen chatten können. „Ich kann Ihnen sagen, dass wir im Grunde – wie wir es nennen – Hunderttausende Anrufe pro Tag abwickeln und praktisch auch Hunderttausende Gespräche auf den anderen Kanälen“, sagt er.

Jede Stunde Betrügerzeit, die die Bots verschwenden, ist eine weitere Stunde, in der der Täter kein Mitglied der Öffentlichkeit betrügt. In den sechs Wochen bis Ende 2025 nahmen Apates Bots für einen einzigen australischen Telekommunikationsanbieter namens TPG 600.000 Betrugsanrufe an.

„Im Wesentlichen haben wir mehr als fünfhundert Tage Betrügerzeit verschwendet“, erklärt er. „Das entspricht ungefähr etwa dreizehn Millionen Dollar an Einsparungen.“

Das ist ein bedeutender Betrag in einem Land, in dem Betrug ein Milliardenproblem darstellt: Australier meldeten allein 2024 Verluste von mehr als 2 Milliarden Dollar an den Scamwatch-Dienst der Verbraucherschutzbehörde – eine Zahl, die nach Angaben der Aufsichtsbehörden die tatsächlichen Schäden unterschätzt, da viele Opfer nie eine Meldung erstatten.

Das andere Ziel der Bots ist es, verwertbare Informationen für Banken und Telekommunikationsunternehmen zu gewinnen, die Betrugsbanden in Australien, Asien, Afrika, Großbritannien und Europa bekämpfen.

Scam-Baiting im großen Stil mit KI-Opfern

Kaafar sagt, die Idee kam ihm, als er im November 2021 in Sydney während eines Picknicks mit seiner Familie einen Betrugsanruf erhielt. Zum Ärger seiner Frau, aber zur Freude seiner Kinder hielt er den Betrüger 44 Minuten lang hin, indem er sich als leichtgläubigen Tölpel ausgab, der auf den Trick hereinfiel.

„Was dann folgte, war buchstäblich eine regelrechte Comedy-Show für meine Kinder“, sagt er und fügt hinzu, dass er während des Anrufs auch eine Menge potenziell nützlicher Informationen über die Funktionsweise des Betrugs und die eingesetzten Taktiken erhielt.

„Als ich auflegte, erinnere ich mich, sehr klar gedacht zu haben: Wenn ich das nur zum Spaß schaffen kann, stell dir vor, was Technologie im großen Maßstab leisten kann.“

Zu dieser Zeit Professor an der Macquarie University, brachte er die Idea bei einigen seiner Doktoranden ein, die an KI und Sicherheit forschten.

„Ich sagte: ‚Leute, es muss einen viel besseren Weg geben. Lasst uns etwas bauen, das diesen gesamten Prozess der Interaktion mit Betrügern im großen Maßstab wirklich automatisiert, aber auch – und das ist vielleicht das Wichtigste – alle Arten von Informationen aus diesen Gesprächen extrahiert.‘ Und genau so hat es angefangen.“

Innerhalb weniger Monate sicherte sich das Team Fördermittel vom Office of National Intelligence, um die Idee zu erforschen, und 2023 wurde das Projekt als Unternehmen Apate aus der Universität ausgegründet – benannt nach der altgriechischen Göttin des Trugs. Das Unternehmen arbeitet inzwischen mit den meisten großen Banken in Australien sowie mit zahlreichen Banken in Großbritannien, Südafrika und Südostasien zusammen.

Die Nachfrage nach solchen Tools wird durch die Regulierung zusätzlich befeuert. Der britische Payment Systems Regulator verlangt seit Oktober 2024 von Banken, Opfer von Authorized-Push-Payment-Betrug zu entschädigen – bis zu 85.000 Pfund pro Fall –, und das australische Parlament verabschiedete 2025 einen Scams Prevention Framework, der verbindliche Anti-Betrugs-Pflichten für Banken, Telekommunikationsunternehmen und digitale Plattformen schrittweise einführt.

Apate ist längst nicht das einzige Unternehmen, das Betrüger mit KI-Bots hinters Licht führt, auch wenn es größer skaliert als die meisten. Der britische Telekommunikationsanbieter O2 startete im vergangenen Jahr eine KI-Oma-Kampagne – eine gesprächige Rentnerin namens Daisy, entwickelt mit Unterstützung des erfahrenen YouTube-Scambaiters Jim Browning –, die Betrüger zur Verzweiflung bringt, weil sie stundenlang über ihre 28 Katzen spricht. Die Initiative war zugleich eine Werbekampagne, um die Öffentlichkeit vor den Gefahren von Betrugsanrufen zu warnen.

Die Erschaffung perfekter KI-Opfer

Apate startete mit 120 verschiedenen Personas unterschiedlicher Geschlechter, Altersgruppen und Persönlichkeitstypen und verfügt heute über 197.000 Personas mit erkennbaren stimmlichen Eigenheiten und Akzenten – sie bringen sogar dieselben Laute hervor wie Menschen, die nach Worten suchen.

„Wir haben viel Zeit damit verbracht, diese KI-Bots zu verfeinern und zu entwickeln, die genau so klingen wie Sie, ich und unsere Nachbarn“, sagt Kaafar.

Die KI-Modelle wurden mit „hunderten und aberhunderten“ Stunden aufgezeichneter Gespräche zwischen menschlichen Scam-Baitern und Betrügern trainiert, sodass sie Gegenstrategien einsetzen können.

„Sie wissen, dass sie – wenn man so will – mit Ganoven sprechen, und sie führen die Gespräche so, dass sie für jeden Betrüger da draußen wirklich sehr, sehr realistisch klingen, selbst wenn ein Betrüger skeptisch ist.“

Die Bots werden auf WhatsApp und Telegram eingesetzt, wo sie als Honeypots für Betrüger dienen. Das alte Klischee, man könne keinen ehrlichen Menschen betrügen, stimmt zwar nicht, doch es bleibt sehr wohl möglich, die Geldgier eines Betrügers gegen ihn auszuspielen.

„Sie sind in Wahrheit Cyberkriminelle. Ich glaube, wir vergessen sehr oft, dass es Cyberkriminelle sind, die den Menschen ihre Lebensersparnisse abjagen wollen. Und dieses Element der Gier ist es manchmal, das auch unsere Bots ausnutzen.“

Bots sammeln wertvolle Erkenntnisse aus jedem Betrugsanruf

In der Krypto-Branche arbeitet Apate für „einen der führenden Anbieter von Blockchain-Analysen“ – bei dem es sich um Chainalysis handeln könnte, aber auch nicht. Diesem Kunden geht es nicht in erster Linie darum, Betrügern Zeit zu rauben; er möchte Erkenntnisse darüber, welche Wallets und Methoden Betrüger verwenden, um den Geldfluss verfolgen zu können.

„Diese Bots extrahieren im Laufe verschiedener Gespräche neue Krypto-Wallet-Adressen zu Hunderten und Tausenden“, sagt er. „Es sind Daten und Erkenntnisse, die buchstäblich anfallen, bevor der Schaden entsteht.“

Betrug ist ein großes Geschäft, und die Callcenter dahinter sind „im Grunde genommen klassische Unternehmen“, erklärt Kaafar.

„Diese Daten sind sehr, sehr wichtig, denn genau das ist das neue Konto oder die neue Wallet, der bzw. die man äußerste Aufmerksamkeit schenken muss. Denn genau dort sammeln diese … Scam-Zentren ihr Geld oder ihre Mittel.“

Solche Zentren sind Betrugsmaschinen im industriellen Maßstab, von denen viele in Südostasien angesiedelt sind. Das Büro der Vereinten Nationen für Drogen- und Verbrechensbekämpfung schätzte dort 2023, dass mindestens 220.000 Menschen verschleppt und zu Online-Betrug gezwungen wurden – ein Maß für die organisierte Maschinerie hinter den Anrufen, die Apates Bots jeden Tag entgegennehmen.

„Stellen Sie sich das schlicht so vor, dass man den Taktiken der Betrüger immer einen Schritt voraus ist. Und je mehr man weiß, bevor das Geld überwiesen wird, desto besser.“

Im Juli deckten Apates Bots einen Marktplatz für Vermittler auf, die in Indien verifizierte Bankkonten anwarben, mit Provisionen von bis zu 5 Prozent – ausgezahlt in USDT – auf die Erlöse aus Betrugsgeschäften, die über diese Konten liefen.

KI-Wettrüsten zwischen den Guten und den Bösen

Auch Betrüger setzen zunehmend selbst auf KI-Bots, und es wird nicht mehr lange dauern, bis KI-Betrüger so allgegenwärtig sind wie Spam-E-Mails. Betrug ist ein Geschäft im Wert von 1,24 Billionen Dollar, sodass sich die Branche die Rechenleistung leisten kann, die für die Skalierung ihrer Operationen nötig ist. Allein in den Vereinigten Staaten verzeichnete das Internet Crime Complaint Center des FBI im Jahr 2024 gemeldete Betrugsverluste in Höhe von 16,6 Milliarden Dollar – ein Anstieg von rund einem Drittel gegenüber dem Vorjahr.

Apates Forschung deutet darauf hin, dass bereits etwa 20 bis 30 Prozent der Betrugsgespräche per Textnachricht auf KI setzen, doch Kaafar macht sich um den Ausgang eines Kampfes von Anti-Betrugs-Bots gegen Betrugs-Bots keine großen Sorgen. Er sagt, Apates Forscher seien der Überzeugung, dass KI-Bots in der Verteidigung laut Spieltheorie im Vorteil sind, weil sie versuchen, Erkenntnisse zu gewinnen, während die Betrugs-Bots versuchen, die andere KI zu einer Handlung zu bewegen.

„Man kann auch mathematisch zeigen, dass dies zum Vorteil des Verteidigers ist, weil es leichter wird, Erkenntnisse aus dem KI-Modell des Angreifers zu ziehen“, sagt er.

„Wir können uns eine Welt vorstellen, in der Betrüger deutlich raffinierter werden und solche Technologie einsetzen. Das bedeutet aber auch: Tun sie das, verlieren sie das Spiel – und das ist eine großartige Nachricht im Kampf gegen Betrug.“

Siehe auch: KI-gestützter Bot vertritt fehlenden Kandidaten bei Debatte in Virginia | Agent verschwendet 14 Stunden der Zeit von Betrügern, LLMs von Iran „vergiftet“ — AI Eye