オーストラリアのテクノロジー企業Apateは、世界中でAIボットのキャラクター群を展開し、だまされやすい詐欺被害者を装って、毎月何百万時間もの詐欺師の時間を浪費させている。

同社の月次パフォーマンス指標の中でも異彩を放つのは、苛立った詐欺師が、まんまと騙されたふりをして引き延ばしを続ける「被害者」たちに何回罵声を浴びせたか、という項目だ。

「世界で実際に、詐欺師が投げつけるFワードの回数をKPIの一部として追っている会社は、うちだけだと思います」と、Apate創業者のDali Kaafar氏は、笑いながらMagazineに語る。

同社は、説得力のある電話会話をこなし、ソーシャルメディアやメッセージングプラットフォーム上でもやり取りできる、約200,000体のAIキャラクターを抱えている。「私たちが“servicing”と呼んでいるものですが、1日に数十万件の通話、ほかのチャネルでもほぼ数十万件の会話を処理しているといえます」と同氏は話す。

ボットが無駄にする詐欺師の時間が1時間増えるごとに、その詐欺師が一般市民をだます時間は1時間減る。2025年末までの6週間で、Apateのボットはオーストラリアの通信会社TPG向けに600,000件の詐欺電話に対応した。

「結果として、詐欺師の時間を500日以上無駄にしたことになります」と同氏は説明する。「ざっくり言えば、約1300万ドルが守られた計算です。」

詐欺が数十億ドル規模の問題となっている国では、これは大きな金額だ。オーストラリアでは2024年だけで、消費者保護当局のScamwatchに対し20億ドル超の損失が報告された。ただし、実際の被害はさらに大きいと規制当局は警告している。被害者の多くが報告を行わないためだ。

ボットのもう1つの目的は、オーストラリア、アジア、アフリカ、英国、欧州にまたがる詐欺組織への対抗のため、銀行や通信会社にとって実用的な情報を引き出すことだ。

AI被害者を使った大規模な詐欺おとり捜査

Kaafar氏によると、このアイデアは2021年11月、シドニーで家族とピクニックをしている最中に詐欺電話を受けたことがきっかけだったという。妻をいら立たせ、子どもたちを喜ばせながら、同氏はだまされやすい間抜けを演じて44分間、詐欺師を引き延ばした。

「そのあとに起きたのは、子どもたちにとって文字どおり、完全なコメディーショーでした」と同氏は語る。通話中には、詐欺の仕組みや使われる手口について、実用的な情報も数多く得られたという。

「電話を切ったとき、私ははっきりこう思い出しました。遊びでこれだけできるなら、テクノロジーは大規模に何ができるだろうか、と。」

当時Macquarie Universityの教授だった同氏は、AIとセキュリティを研究する博士課程の学生たちにこのアイデアを持ちかけた。

「私は彼らにこう言いました。『みんな、これをやるもっと良い方法があるはずだ。詐欺師とのやり取りを大規模に自動化するだけでなく、何よりもこの会話からあらゆる種類の情報を抽出する仕組みを作ろう』。それがまさに始まりでした」

数か月以内に、チームはOffice of National Intelligenceから研究資金を獲得し、2023年にこのプロジェクトは大学から切り出されてApateとなった。同社名は、古代ギリシャ神話の欺瞞の女神に由来する。現在は、オーストラリアの大手銀行の多くに加え、英国、南アフリカ、東南アジアの多数の銀行と取引している。

こうしたツールへの需要は、規制当局によっても後押しされている。英国のPayment Systems Regulatorは2024年10月以降、銀行に対して認可済み送金詐欺の被害者への補償を義務付けており、1件あたり最大£85,000が対象だ。また、オーストラリア議会は2025年にScams Prevention Frameworkを可決し、銀行、通信会社、デジタルプラットフォームに対する法的拘束力のある対詐欺義務を段階的に導入している。

Apateは、AIボットを使って詐欺師をおびき寄せる企業としては決して唯一ではないが、規模は大きい部類に入る。英国の通信会社O2は昨年、AI Grannyキャンペーンを展開した。Veteran YouTube scambaiterのJim Browning氏の協力を得て作られた、Daisyというおしゃべりな高齢女性のキャラクターが、28匹の猫について延々と話すことで詐欺師の時間を奪う取り組みだ。この施策は、それ自体が広告キャンペーンでもあり、詐欺電話の危険性を一般に警告する目的もあった。

理想的なAI被害者を作る

Apateは当初、性別、年齢、性格タイプの異なる120のペルソナで始まり、現在では、識別可能な話し方の癖やアクセントを備えた197,000のペルソナを持つ。さらに、話す内容を考えようとしているときに人が出すのと同じような音まで再現する。

「私たちは、あなたや私、そして近所の人たちとまったく同じように聞こえるAIボットを、かなりの時間をかけて調整し、作り上げてきました」とKaafar氏は言う。

AIモデルは、人間の詐欺おとり役と詐欺師の間で録音された「数百、数百時間」に及ぶ会話で訓練されており、対抗戦略を使えるようになっている。

「いわば“悪者”と話していると理解したうえで、会話を本当に巧みに運び、どんな詐欺師にとっても極めてリアルに聞こえるようにしているのです。たとえ詐欺師が疑い深くてもです」

ボットはWhatsAppやTelegramに投入され、詐欺師にとっての囮として機能する。誠実な人はだませないという古い決まり文句は真実ではないが、詐欺師の金銭欲を突くことは依然として可能だ。

「彼らは本当にサイバー犯罪者です。人々の生涯の貯蓄を奪おうとしているサイバー犯罪者だということを、私たちはしばしば忘れがちです。だから、その貪欲さの要素を、私たちのボットも時に利用しているのです」

ボットは各詐欺通話から貴重な情報を収集する

暗号資産業界では、Apateは「ブロックチェーン分析のリーダーのひとつ」と取引している。Chainalysisかどうかは明らかにしていない。その顧客が主に求めているのは、詐欺師の時間を無駄にすることではなく、どのウォレットや手法が使われているのかという情報であり、資金の流れを追跡するためだ。

「これらのボットは、さまざまな会話に入り込むことで、新しい暗号資産ウォレットアドレスを数百、数千単位で抽出します」と同氏は言う。「被害が発生する、まさにその前に届くデータとインテリジェンスなのです。」

詐欺は巨大ビジネスであり、その背後にあるコールセンターは「ほぼ企業組織そのもの」だとKaafar氏は説明する。

「このデータは非常に重要です。文字どおり、それが新しい口座、あるいは新しいウォレットだからです。ここには極めて注意を払う必要があります。なぜなら、これこそが…詐欺組織が金や資金を集めている場所だからです。」

こうした組織は工業規模の不正運営であり、その多くは東南アジアに拠点を置く。国連薬物犯罪事務所は2023年、少なくとも220,000人が人身売買や強要によってオンライン詐欺に従事させられていたと推計しており、Apateのボットが日々相手にしている通話の背後にある組織化された仕組みの大きさを示している。

「要するに、常に詐欺師の手口の一歩先を行く、ということです。送金される前にどれだけ多くを知っているか、その多さが重要なのです」

7月には、Apateのボットが、インドで検証済み銀行口座を募るブローカー向けのマーケットプレイスを発見した。そこでは、口座を通過する詐欺収益に対し、USDTで支払われる最大5%の手数料が提示されていた。

善玉と悪玉のAI軍拡競争

詐欺師自身もAIボットをますます利用するようになっており、AI詐欺師がスパムメールと同じくらいありふれた存在になるのも時間の問題だ。人をだますことは1.24兆ドル規模のビジネスであり、その業界には事業拡大に必要な計算資源を賄う余力がある。Apateの調査によれば、詐欺のテキスト会話の約20%から30%はすでにAIを使っているが、Kaafar氏は、対詐欺ボットと詐欺ボットの戦いの行方をそれほど心配していない。同氏によれば、Apateの研究者はゲーム理論上、防御側のAIボットに優位性があると考えている。というのも、防御側は情報を引き出そうとしている一方、詐欺側のボットは相手のAIに行動を起こさせようとしているからだ。

「数学的にも、それが防御側に有利であることを示せます。攻撃側のAIモデルから情報を抽出するほうが容易になるからです」と同氏は話す。

「詐欺師がさらに高度化し、そのような技術を導入する世界を想像できます。ですが、それは逆に、もし彼らがそうした場合、彼らは実質的にゲームに負けることを意味します。詐欺との戦いにとっては、とても良いニュースです」

Related: AI-powered bot stands in for absent candidate in Virginia debate | Agent wastes 14 hours of scammers' time, LLMs 'poisoned' by Iran — AI Eye