Австралийская Apate развернула армию из 200,000 ИИ «жертв», чтобы выманивать мошенников по всему миру
Ключевые выводы
- •Apate утверждает, что ее ИИ-боты созданы для того, чтобы тратить время мошенников и собирать информацию для финансовых учреждений и телеком-компаний.
- •Компания сообщает, что использует почти 200,000 персонажей, способных вести убедительные разговоры по телефону и в мессенджерах.
- •За шесть недель боты Apate обработали 600,000 мошеннических звонков для австралийского телко TPG, что, по словам компании, эквивалентно более чем 500 дням времени мошенников.
- •Кафар говорит, что срыв этой кампании примерно соответствовал предотвращенным потерям на сумму около $13 million.
- •Apate заявляет, что ее инструменты используют банки и другие клиенты в Австралии и ряде зарубежных рынков на фоне ужесточения антифрод-обязательств регуляторов.
Австралийская технологическая компания Apate развертывает по всему миру широкий набор персонажей на базе ИИ, которые играют роль доверчивых жертв мошенников и ежемесячно тратят миллионы часов времени аферистов.
Среди ежемесячных показателей компании есть необычная метрика: сколько раз раздраженные мошенники ругаются на ничего не понимающих «жертв», которые прикидываются простачками и тянут время.
«Думаю, мы единственная компания в мире, которая действительно включает в свои KPI количество слов на F, которые мошенники в их адрес бросают», — с усмешкой говорит основатель Apate Дали Кафар Magazine.
У компании есть штат почти из 200,000 ИИ-персонажей, способных вести убедительные телефонные разговоры и общаться в соцсетях и мессенджерах. «Могу сказать, что мы, как мы это называем, обслуживаем сотни тысяч звонков в день и, по сути, сотни тысяч разговоров по другим каналам», — говорит он.
Каждый час времени, который боты отнимают у афериста, — это еще один час, когда он не обманывает обычных людей. За шесть недель до конца 2025 года боты Apate провели 600,000 мошеннических звонков для одного австралийского телеком-оператора TPG.
«По сути, мы потратили более пятисот дней времени мошенников», — объясняет он. «Это примерно эквивалентно тому, что было сэкономлено около thirteen million dollars».
Это существенные деньги в стране, где мошенничество — проблема на миллиарды долларов: только в 2024 году австралийцы сообщили о потерях на сумму более $2 billion в службу Scamwatch при ведомстве по защите прав потребителей, при этом регуляторы предупреждают, что реальный ущерб выше, поскольку многие пострадавшие никогда не подают заявление.
Другая задача ботов — получать полезную оперативную информацию для банков и телеком-компаний, которые противодействуют мошенническим сетям в Австралии, Азии, Африке, Великобритании и Европе.
Масштабная приманка для мошенников с ИИ-жертвами
Кафар говорит, что идея пришла к нему после того, как он получил мошеннический звонок во время пикника с семьей в Сиднее в ноябре 2021 года. К раздражению жены, но к восторгу детей, он удерживал мошенника на линии 44 минуты, притворяясь доверчивым простаком, который попался на уловку.
«То, что последовало, для моих детей было буквально полноценным комедийным шоу», — говорит он, добавляя, что во время звонка также узнал много потенциально полезной информации о механике мошенничества и используемых тактиках.
«Когда я завершил этот звонок, я очень ясно подумал: если я могу сделать это просто ради развлечения, представьте, что технология может сделать в масштабе».
В то время он был профессором в Macquarie University и обсудил эту идею с несколькими своими докторантами, занимавшимися ИИ и безопасностью.
«Я сказал: “Ребята, должен быть гораздо лучший способ делать это. Давайте создадим систему, которая действительно автоматизирует весь процесс взаимодействия с мошенниками в масштабе, но также, и, возможно, что важнее всего, извлекает из этих разговоров всевозможную информацию”. И буквально так все и началось».
В течение нескольких месяцев команда получила финансирование от Office of National Intelligence на исследование идеи, а в 2023 году проект был выделен из университета в компанию Apate, названную в честь древнегреческой богини обмана. Сейчас компания работает с большинством крупных банков Австралии, а также с многочисленными банками в Великобритании, Южной Африке и Юго-Восточной Азии.
Спрос на такие инструменты подстегивают и регуляторы. Британский Payment Systems Regulator с октября 2024 года обязал банки возмещать ущерб жертвам authorized push payment scams — до £85,000 по каждому случаю, — а парламент Австралии в 2025 году принял Scams Prevention Framework, который поэтапно вводит обязательные антифрод-обязательства для банков, телеком-компаний и цифровых платформ.
Apate — далеко не единственная компания, которая с помощью ИИ-ботов выманивает мошенников на разговор, хотя работает в более крупном масштабе, чем большинство. Британский телеком-оператор O2 в прошлом году запустил кампанию AI Granny — общительную пенсионерку по имени Daisy, созданную при участии ветерана YouTube-скэмбейтера Jim Browning, — которая раздражает мошенников, отнимая у них часы времени разговорами о своих 28 кошках. Эта инициатива была не только рекламной кампанией, но и способом предупредить публику об опасности мошеннических звонков.
Создание идеальных ИИ-жертв
Apate стартовала со 120 различными персонажами разных полов, возрастов и типов личности, а теперь у нее 197,000 персонажей с узнаваемыми особенностями речи и акцентами — они даже издают те же звуки, что и люди, когда пытаются придумать, что сказать.
«Мы потратили много времени на доработку и создание этих ИИ-ботов, которые звучат точно так же, как вы, я и наши соседи», — говорит Кафар.
Модели ИИ обучались на «сотнях и сотнях» часов записанных разговоров между людьми, занимающимися scam baiting, и мошенниками, что позволяет им применять контрстратегии.
«Они понимают, что разговаривают, если хотите, с плохими парнями, и действительно ведут разговор так, чтобы он звучал очень, очень реалистично для любого мошенника, даже если тот настроен скептически».
Ботов отправляют в WhatsApp и Telegram, где они работают как приманка для мошенников. Хотя старый штамп о том, что честного человека не обманешь, неверен, использовать жадность мошенника по-прежнему вполне возможно.
«На самом деле они киберпреступники. Думаю, мы очень часто забываем, что это киберпреступники, которые пытаются забрать у людей все их сбережения. И именно этот элемент жадности иногда тоже используют наши боты».
Боты собирают ценную информацию из каждого мошеннического звонка
В криптоиндустрии Apate работает на «одного из лидеров в blockchain analysis», которым может быть, а может и не быть Chainalysis. Их клиент в первую очередь заинтересован не в том, чтобы просто тратить время мошенников, — ему нужна информация о том, какие кошельки и методы используют злоумышленники, чтобы отслеживать движение средств.
«Эти боты, по мере общения в разных разговорах, извлекают новые адреса криптокошельков сотнями и тысячами», — говорит он. «Это данные и информация, которые поступают буквально до того, как будет нанесен ущерб».
Мошенничество — это крупный бизнес, а лежащие в его основе кол-центры — «по сути, корпоративные организации», объясняет Кафар.
«Эти данные очень, очень важны, потому что буквально это новый счет или новый кошелек, на который нужно обращать самое пристальное внимание. Потому что именно здесь эти… мошеннические комплексы собирают свои деньги или средства».
Такие комплексы — это индустриальные мошеннические операции, многие из которых базируются в Юго-Восточной Азии, где, по оценке Управления ООН по наркотикам и преступности в 2023 году, как минимум 220,000 человек были вовлечены в онлайн-мошенничество под принуждением и после торговли людьми — это показывает масштаб организованной машины, стоящей за звонками, которые боты Apate обрабатывают каждый день.
«Думайте об этом буквально как о постоянном опережении тактики мошенника. И чем больше вы знаете до перевода денег, тем лучше».
В июле боты Apate выявили рынок посредников, которые искали подтвержденные банковские счета в Индии и предлагали комиссию до 5% — выплачиваемую в USDT — с доходов от мошенничества, проходивших через эти счета.
ИИ-гонка вооружений между хорошими и плохими
Мошенники все чаще сами используют ИИ-ботов, и пройдет не так много времени, прежде чем ИИ-мошенники станут столь же обычным явлением, как спам-письма. Мошенничество приносит $1.24 trillion, так что у индустрии есть средства на вычислительные ресурсы, необходимые для масштабирования операций. Только в США Internet Crime Complaint Center ФБР зафиксировал $16.6 billion заявленных потерь от мошенничества в 2024 году, что примерно на треть больше, чем годом ранее.
Исследования Apate показывают, что примерно 20%–30% мошеннических текстовых разговоров уже используют ИИ, но Кафар не слишком беспокоится о том, чем закончится противостояние антифрод-ботов и ботов-мошенников. По его словам, исследователи Apate считают, что ИИ-боты в обороне имеют преимущество с точки зрения теории игр, потому что они пытаются извлечь информацию, тогда как боты мошенников пытаются заставить другой ИИ совершить действие.
«Можно также математически показать, что это дает преимущество защитнику, потому что становится легче извлекать информацию из модели ИИ атакующего», — говорит он.
«Можно представить мир, в котором мошенники станут гораздо более изощренными и начнут внедрять такую технологию. Но это также означает, что если они это сделают, они фактически считаются проигравшими, а это отличная новость в борьбе с мошенничеством».
Related: AI-powered bot stands in for absent candidate in Virginia debate | Agent wastes 14 hours of scammers' time, LLMs 'poisoned' by Iran — AI Eye
