OpenAIは、チャットボットを悪用して暗号資産投資詐欺を仕掛けていたカンボジアの犯罪組織に関連する一連のChatGPTアカウントを停止した。この事例は、組織犯罪グループがデジタル資産決済システムと並行して生成AIツールを悪用していることを示す証拠が増え続けていることを裏付けるものである。

このアカウント停止は、デジタル資産に関連する詐欺の増加を背景に行われており、取引所、トークン開発者、AI企業に対して予防措置の強化を促す要因となっている。中国語の「殺猪盤（shā zhū pán）」に由来する通称「ピッグ・ブッチャリング」詐欺は、詐欺師が被害者と恋愛や投資の関係を築いた上で暗号資産の送金を促す手口であり、東南アジア全域で広く蔓延し、ますますAI生成コンテンツの支援を受けるようになっている。

犯行グループによるChatGPTの悪用手口

OpenAIの報告書によると、調査はWhatsAppからの通報を契機に開始された。この活動は、カンボジアの国境都市ポイペトに拠点を置くとされるアカウントにまで追跡された。ポイペトは、大規模な詐欺組織との関連で国際的な捜査機関に以前から知られており、その多くはパンデミック期間中に同地域のカジノ・オンラインギャンブル産業のために構築されたインフラから拡大したものと見られている。

OpenAIは、犯行グループがChatGPTを使用して偽の身元を作成し、会話を複数の言語に翻訳し、ターゲットとの信頼関係を構築するためのメッセージを作成していたと述べた。また、このチャットボットは不正な投資スキームを宣伝するマーケティング素材の生成にも使用されていた。

暗号資産はこの犯行の中心であった。被害者はまず恋愛や友情を装った会話に引き込まれ、その後、偽の暗号資産および現物金取引プラットフォームへ誘導された。正当性の錯覚を強めるため、犯行者はChatGPTを使用して偽のパスポート、法的通知、株式購入確認書、および偽造された暗号資産取引ダッシュボードを作成した。

OpenAIは、この詐欺が3つの段階で展開されたと説明している。まず犯罪者が被害者に暗号資産を送金するよう説得し、その後、アクティベーション手数料、税金、規制上の罰金などの名目で追加の支払いを要求した。

労働力人身売買の証拠

OpenAIの調査では、労働力人身売買を示す兆候も発見された。一部の犯行グループはChatGPTを使用して、ポイペトでの「チャッター（対話担当者）」を募集する広告を作成し、無料の航空券、宿泊施設、食事、ビザ支援などの条件を提示していた。また、従業員の債務、給与天引き、不正行為に対する罰金、入国管理状況、拘束、逃走未遂を追跡するスプレッドシートの作成に関する通信も発見された。

これらの発見は、Ellipticの調査と共鳴するものである。同調査では、恋愛・投資詐欺の背後にいる多くの人物が自らも人身売買の被害者であり、東南アジア全域の組織犯罪施設で強制的に働かされていることが明らかになった。2023年8月、国連人権高等弁務官事務所は、ミャンマーで少なくとも12万人、カンボジアで約10万人が施設に監禁され、オンライン詐欺を強制されていると推定し、被害者は同地域内外の幅広い地域に由来するとした。

OpenAIはアカウントを停止する前に、調査結果を業界の関係者および法執行機関に共有した。社内通信に基づくと、同社はこのネットワークが数百人の被害者に接触し、被害総額が数千ドルに達する可能性があると推定している。

違法な暗号資産フローが過去最高に達する

暗号資産犯罪の規模は、OpenAIの対応に幅広い背景文脈を与える。TRM Labsの暗号資産犯罪レポート（1月28日発表）によると、2025年の違法な暗号資産フローは推定1,580億ドルに達し、前年比で約145%の増加、過去5年間で最大の数値となった。ただし、オンチェーン取引総量に占める違法活動の割合は2024年の1.3%から2025年には1.2%に低下しており、暗号資産のより広範な普及を反映している。

同レポートはまた、ステーブルコインが検証済みの不正流入資金の約84%を占めていることを明らかにし、組織的な詐欺において主要な決済手段としての地位を確固たるものにしている。世界各国の法執行機関は、米国司法省の国家暗号資産執法チームや金融活動作業部会（FATF）を通じた越境調整など、執法の強化で対応しているが、暗号資産決済の国境を越えた性質と仮名性により、資産回収は引き続き困難な状況にある。

詐欺ネットワークのボトルネックとしてのAI企業

OpenAIの介入が注目に値するのは、生成AIがすでに詐欺の中で最も労力を要する部分、すなわち被害者との信頼関係の構築を実行できるようになっているためである。Amrita Vishwa Vidyapeetham、Ca' Foscari University of Venice、University of Melbourne、Ben-Gurion University of the Negevの研究者による研究では、AIを活用したClaudeエージェントがピッグ・ブッチャリング詐欺の実行において人間の詐欺師を上回ったことが実証された。1週間のメッセージやり取りの後、AIエージェントが推奨するソフトウェアを使用した参加者は46%に達したのに対し、人間のオペレーターの場合はわずか18%であった。また、参加者はAIの方がより信頼性が高いと評価した。

研究者らは、カンボジア、ミャンマー、ラオスの施設からの人身売買の生存者を含む、以前に詐欺活動に関与していた145人にインタビューを実施した。調査結果によると、詐欺におけるAIの主な役割は信頼構築段階の自動化であり、高度なAIモデルへのアクセスを制限することで、被害者が金銭を手放すよう説得される前に詐欺を阻止できる可能性がある。

OpenAIや他の主要AIラボは、自社のモデルが国家主体、サイバー犯罪者、影響操作ネットワークによってどのように悪用されているかを文書化した脅威インテリジェンス報告書の発表を増やしている。組織犯罪シンジケートが生成AIと暗号資産決済システムをますます活用する中、高度なAIツールの悪意ある使用を防ぐことは、違法なウォレットのブロックやマネーロンダリングネットワークの解体と同等に、サイバーセキュリティの取り組みにおいて重要になると予想される。