Google DeepMindとシンガポール、端末上で動作するAI詐欺検出ツールを発表

Google DeepMindとシンガポール政府技術庁(GovTech)は、プライバシーを損なうことなくモバイルユーザーを詐欺から守ることを目的とした、端末上で動作する詐欺検出モデルを共同開発しました。JJ Geewax氏とMiguel de Andrés氏によるGoogle DeepMindのブログ投稿で発表され、Singapore International Cyber Week(SICW 2026)で紹介されたこの協力は、Googleとシンガポール政府の国家AIパートナーシップの一環として実施されました。

詐欺がシンガポールの犯罪の大半をめる現状

詐欺はシンガポールの犯罪届出の半数以上を占め、2019年以降、40億シンガポールドルを超える損失をもたらしています。詐欺の手口も、単純なフィッシングから、金銭を要求する前に説得力のある会話で被害者を操作する複雑なソーシャルエンジニアリングへと変化しており、こうした会話型詐欺が損失全体の最大80%を占めています。こうした手口は単一の不審なリンクではなく通常のやり取りの中で進行するため、従来のメッセージフィルターでは検出が困難です。
この脅威に対処するため、両機関はシンガポールの一般的なスマートフォンで動作するようモデルを最適化し、市民のプライバシーを守りながら喫緊の安全課題に取り組みました。

ローカルな学習データと端末内での分析

汎用AIモデルは地域特有の欺瞞手法への対応が難しく、詐欺検出を困難にしていました。この課題を埋めるため、Google DeepMindの軽量モデルGemmaを、公的機関・銀行・地元の著名人になりすます手口から地域で流行している詐欺スキームまで、ローカルな詐欺会話でファインチューニングしました。Gemmaは、日常的なハードウェアで動作するよう設計されたGoogle DeepMindの軽量オープンモデルファミリーであり、スマートフォンへの展開に適した特性を持っています。この学習により、モデルは無害な社交的な会話と実際の操作を見分けられるようになりました。

このモデルは、会話データを端末上で直接処理します。従来の脅威検出はクラウドでのサーバー側メッセージスキャンに依存していますが、多くのメッセージングプラットフォームはエンドツーエンドで暗号化されており、事業者はプライベートな会話を検査できません。結果、暗号化アプリ内の詐欺会話はサーバー側の防御では見えないままとなっていました。脅威分析を端末上に移すことで、システムは会話パターンをより速く分析して操作的な意図を検出し、金銭や認証情報が漏えいする前に市民が行動できるようにします。

「詐欺と闘うために個人のプライバシーを犠牲にする必要はない」と発表は述べています。「Google DeepMindとの協力により、高度なAI保護を市民の端末に直接提供します。これにより、個人の通信を完全にプライベートに保ちながら、高度に標的化されたローカルな詐欺の試みをリアルタイムで捕捉できます。」

システムの仕組み

モデルが操作的な会話パターンを検出すると、ユーザーの端末上でリアルタイムの警告を表示し、機密情報や資金を共有する前に立ち止まって注意を払うよう促します。

最新のスマートフォンで複雑な詐欺分類モデルを実行することは容易ではなく、バッテリー効率が重要な課題となります。そこで、システムは2段階のパイプラインを採用しています。

• ステージ1: 軽量で効率的な分類器が最小限の電力で着信メッセージをスクリーニングし、潜在的な脅威の検出に注力します。
• ステージ2: ファインチューニング済みのGemmaモデルによる文脈評価を行い、会話のより大きなスナップショットを分析して脅威を確認するか誤検知を棄却します。

厳格なガバナンスに基づく開発

この協力は、ユーザー保護とエンドツーエンド暗号化の両立を目指すメッセージングプラットフォームのモデルとしてSICW 2026で紹介され、開発全体を通じて厳格なガバナンスが維持されました。

• Sovereign Sandbox: ファインチューニングはGovTechが管理・運用するGoogle Cloud Platform(GCP)環境内で行われ、学習データを分離しました。
• 市民データ不使用: 学習では個人情報や個人を特定できる情報を一切使用せず、詐欺報告やインテリジェンスフィードから得た匿名化データセットを利用しました。
• ストレステスト: モデルは、多様な詐欺カテゴリと進化するなりすまし手口を網羅するため、合成対話やローカルコーパスに対してテストされました。

端末内セーフティの未来

ブログ投稿によれば、このプロジェクトは、AIがメッセージングサービスの犯罪対策にどのように役立つかを示すとともに、保護的なAIを端末上で直接実行しても安全性もプライバシーも損なわれる必要がないことを実証しています。また、政府とモデル提供事業者が協力して公共の利益のための技術を構築できることも示しています。

メッセージングプラットフォームやOSベンダーは、これらの軽量モデルを直接統合してユーザーをローカルに保護でき、プライベートデータを露出させることなくチャットのやり取りを安全に保つことができます。現時点でブログ投稿はこのプロジェクトを端末内保護の実現可能性を実証するものとして位置づけており、業界がこの可能性を実際の統合へと移行させるかどうかが次の注目点となります。

出典:Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI