Australijska firma technologiczna Apate wdraża na całym świecie szeroką gamę postaci-botów AI, które odgrywają rolę łatwowiernych ofiar oszustw, marnując co miesiąc miliony godzin czasu oszustów.

Wśród miesięcznych wskaźników efektywności firmy znajduje się nietypowa miara: ile razy sfrustrowani oszuści przeklinają nieświadome „ofiary”, które udają naiwność i zwodzą ich dalej.

„Myślę, że jesteśmy jedyną firmą na świecie, która faktycznie ma w swoich KPI liczbę słów na F, którymi oszuści obrzucają ich w wiadomościach”, mówi z uśmiechem założyciel Apate Dali Kaafar w rozmowie z Magazine.

Firma utrzymuje zespół niemal 200,000 postaci AI zdolnych do prowadzenia przekonujących rozmów telefonicznych oraz rozmów w mediach społecznościowych i na platformach komunikacyjnych. „Mogę powiedzieć, że zasadniczo obsługujemy, jak to nazywamy, setki tysięcy połączeń dziennie i praktycznie setki tysięcy rozmów na innych kanałach” — mówi.

Każda godzina czasu oszusta, którą boty zmarnują, to kolejna godzina, w której nie wyłudza on pieniędzy od członka społeczeństwa. W ciągu sześciu tygodni do końca 2025 roku boty Apate obsłużyły 600,000 oszukańczych połączeń dla jednego australijskiego operatora telekomunikacyjnego, TPG.

„W praktyce zmarnowaliśmy ponad pięćset dni czasu oszustów” — wyjaśnia. „To mniej więcej odpowiada oszczędności rzędu trzynastu milionów dolarów”.

To znacząca kwota w kraju, w którym oszustwa stanowią problem wart wiele miliardów dolarów: sami Australijczycy zgłosili w 2024 roku straty przekraczające 2 billion dollars do usługi Scamwatch należącej do organu ochrony konsumentów, przy czym regulatorzy ostrzegają, że liczba ta zaniża rzeczywisty rozmiar szkód, ponieważ wielu poszkodowanych nigdy nie składa zgłoszenia.

Drugim celem botów jest wydobywanie użytecznych informacji dla banków i operatorów telekomunikacyjnych walczących z siatkami oszustów w Australii, Azji, Afryce oraz w Wielkiej Brytanii i Europie.

Walki z oszustami na dużą skalę z udziałem ofiar AI

Kaafar mówi, że pomysł przyszedł mu do głowy, gdy w listopadzie 2021 roku odebrał telefon od oszusta podczas pikniku z rodziną w Sydney. Ku niezadowoleniu żony, ale ku uciesze dzieci, przez 44 minuty podtrzymywał rozmowę, udając łatwowiernego naiwniaka nabierającego się na przekręt.

„To, co nastąpiło potem, było dla moich dzieci dosłownie pełnym show komediowym” — mówi, dodając, że podczas rozmowy dowiedział się też wielu potencjalnie przydatnych informacji o mechanice oszustwa i stosowanych technikach.

„Gdy odłożyłem słuchawkę, bardzo wyraźnie pomyślałem: skoro mogę to zrobić tylko dla zabawy, to wyobraź sobie, co technologia może zrobić na dużą skalę”.

W tamtym czasie był profesorem Macquarie University i przedstawił pomysł swoim doktorantom zajmującym się AI i bezpieczeństwem.

„Powiedziałem: «Słuchajcie, musi istnieć znacznie lepszy sposób. Zbudujmy coś, co naprawdę automatyzuje cały proces kontaktowania się z oszustami na dużą skalę, ale też — i może przede wszystkim — wydobywa z tych rozmów wszelkiego rodzaju informacje». I tak to się dosłownie zaczęło”.

W ciągu kilku miesięcy zespół uzyskał finansowanie z Office of National Intelligence na zbadanie pomysłu, a projekt został wydzielony z uniwersytetu do Apate w 2023 roku, przyjmując nazwę pochodzącą od starożytnej greckiej bogini oszustwa. Firma współpracuje obecnie z większością dużych banków w Australii, a także z licznymi bankami w Wielkiej Brytanii, RPA i Azji Południowo-Wschodniej.

Popyt na takie narzędzia wzmacniają także regulatorzy. Brytyjski Payment Systems Regulator wymaga od banków rekompensowania ofiarom oszustw typu authorised push payment — do 85,000 £ na jedno roszczenie — od października 2024 roku, a parlament Australii przyjął w 2025 roku Scams Prevention Framework, który stopniowo wprowadza wiążące obowiązki antyoszustwowe dla banków, operatorów telekomunikacyjnych i platform cyfrowych.

Apate nie jest bynajmniej jedyną firmą zwabiającą oszustów przy użyciu botów AI, choć działa na większą skalę niż większość. Brytyjski operator O2 uruchomił w zeszłym roku kampanię AI Granny — rozmowną emerytkę o imieniu Daisy, stworzoną przy udziale doświadczonego youtubowego scambaitera Jima Browninga — która frustruje oszustów, zajmując im godziny na rozmowy o swoich 28 kotach. Inicjatywa była równie mocno kampanią reklamową ostrzegającą opinię publiczną przed zagrożeniami związanymi z oszukańczymi połączeniami.

Tworzenie idealnych ofiar AI

Apate wystartowało z 120 różnymi personami obejmującymi różne płcie, grupy wiekowe i typy osobowości, a obecnie ma 197,000 person z rozpoznawalnymi tikami głosowymi i akcentami — a także wydają one te same dźwięki, które ludzie wydają, gdy próbują wymyślić, co powiedzieć.

„Poświęciliśmy bardzo dużo czasu na dopracowanie i budowę tych botów AI, które brzmią dokładnie jak ty, ja i nasi sąsiedzi” — mówi Kaafar.

Modele AI zostały wytrenowane na „setkach i setkach” godzin nagranych rozmów między ludzkimi scambaiterami a oszustami, co pozwala im stosować strategie kontrujące.

„Wiedzą, że rozmawiają z tymi złymi, jeśli można tak powiedzieć, i bardzo sprawnie prowadzą rozmowy tak, by brzmiały naprawdę bardzo, bardzo realistycznie dla każdego oszusta, nawet jeśli oszust jest wobec nich sceptyczny”. Boty są wysyłane na WhatsApp i Telegram, gdzie działają jako przynęta dla oszustów. Choć stare powiedzenie, że nie da się oszukać uczciwego człowieka, nie jest prawdziwe, nadal bardzo łatwo wykorzystać chciwość oszusta.

„To naprawdę cyberprzestępcy. Myślę, że bardzo często zapominamy, że są to cyberprzestępcy próbujący zdobyć oszczędności życia ludzi. I właśnie ten element chciwości nasze boty czasem również wykorzystują”.

Boty zbierają cenne informacje z każdego połączenia oszukańczego

W branży krypto Apate pracuje dla „jednego z liderów analizy blockchain”, którym może, ale nie musi, być Chainalysis. Taki klient nie jest przede wszystkim zainteresowany marnowaniem czasu oszustów — chce informacji o tym, jakich portfeli i metod używają oszuści, aby móc śledzić przepływ środków.

„Te boty, w trakcie różnych rozmów, wyciągają nowe adresy portfeli kryptowalutowych po setkach i tysiącach” — mówi. „To dane i informacje, które pojawiają się dosłownie zanim nastąpi szkoda”.

Oszustwa to wielki biznes, a stojące za nimi call center są „w zasadzie organizacjami korporacyjnymi” — wyjaśnia Kaafar.

„Te dane są bardzo, bardzo ważne, ponieważ dosłownie wskazują nowe konto lub nowy portfel, na który trzeba zwrócić szczególną uwagę. To właśnie w tym miejscu te… kompleksy oszustów gromadzą swoje pieniądze lub środki”.

Takie kompleksy to operacje oszustw przemysłowej skali, z których wiele ma siedzibę w Azji Południowo-Wschodniej, gdzie Biuro ONZ ds. Narkotyków i Przestępczości szacowało w 2023 roku, że co najmniej 220,000 osób zostało porwanych i zmuszonych do prowadzenia oszustw internetowych — co pokazuje skalę zorganizowanej machiny stojącej za połączeniami, które boty Apate obsługują każdego dnia.

„Myśl o tym dosłownie jako o byciu zawsze przed taktyką oszusta. Im więcej wiesz, zanim pieniądze zostaną przelane, tym lepiej”.

W lipcu boty Apate odkryły rynek brokerów pozyskujących zweryfikowane konta bankowe w Indiach, oferujących prowizje do 5% — wypłacane w USDT — od wpływów z oszustw przechodzących przez te konta.

Wyścig zbrojeń AI między dobrymi i złymi

Sami oszuści coraz częściej używają botów AI i nie minie wiele czasu, zanim oszuści korzystający z AI staną się tak powszechni jak spamowe e-maile. Oszukiwanie ludzi to biznes wart 1.24 trillion dollars, więc branża może pozwolić sobie na moc obliczeniową potrzebną do skalowania operacji. Tylko w Stanach Zjednoczonych Internet Crime Complaint Center FBI odnotowało w 2024 roku 16.6 billion dollars zgłoszonych strat z tytułu oszustw, czyli wzrost o mniej więcej jedną trzecią rok do roku.

Badania Apate sugerują, że około 20% do 30% oszukańczych rozmów tekstowych już wykorzystuje AI, ale Kaafar nie martwi się szczególnie wynikiem starcia botów antyoszukańczych z botami oszustów. Mówi, że badacze Apate uważają, iż boty AI działające defensywnie mają przewagę zgodnie z teorią gier, ponieważ próbują wydobyć informacje, podczas gdy boty oszustów próbują skłonić drugą AI do wykonania działania.

„Można też matematycznie wykazać, że jest to korzystne dla obrońcy, ponieważ łatwiej jest wydobyć informacje z modelu AI atakującego” — mówi.

„Możemy wyobrazić sobie świat, w którym oszuści stają się znacznie bardziej zaawansowani i wdrażają taką technologię. Ale to oznacza również, że jeśli tak zrobią, to w rzeczywistości uznaje się, że przegrywają grę, co jest świetną wiadomością w walce z oszustwami”.

Powiązane: AI-powered bot stands in for absent candidate in Virginia debate | Agent wastes 14 hours of scammers' time, LLMs 'poisoned' by Iran — AI Eye