Google DeepMind 与新加坡推出设备端 AI 诈骗检测工具

Google DeepMind 与新加坡政府科技局(GovTech)联合开发了一款设备端诈骗检测模型,旨在保护移动用户免受欺诈,同时不损害其隐私。该合作由 JJ Geewax 与 Miguel de Andrés 在 Google DeepMind 博客文章中公布,并在新加坡国际网络周(SICW 2026)上发布,是 Google 与新加坡政府国家 AI 合作的一部分。

诈骗主导新加坡的犯罪格局

诈骗占新加坡报案犯罪的一半以上,自 2019 年以来已造成超过 40 亿新元的损失。诈骗手段也从简单的网络钓鱼转向复杂的社会工程学攻击,攻击者通过有说服力的对话操纵受害者,然后再索要钱财。此类对话式诈骗目前占全部损失的高达 80%。由于这些骗局是在普通的来回聊天中展开,而非通过单个可疑链接,传统的消息过滤器更难察觉。
为应对这一威胁,两家机构对该模型进行了优化,使其可在新加坡常见的智能手机上运行,在应对紧迫安全挑战的同时保护公民隐私。

本地训练数据,设备端分析

通用 AI 模型往往难以应对本地化的欺骗手法,加大了诈骗检测的难度。为弥合这一差距,Google DeepMind 对其轻量级 Gemma 模型进行了本地诈骗对话微调,涵盖对公共机构、银行和本地人物的冒充,以及流行的区域诈骗套路。Gemma 是 Google DeepMind 的轻量级开放模型系列,专为日常硬件运行而设计,适合智能手机部署。这类训练使模型能够区分正常的社交闲聊与真正的操纵行为。

该模型还在设备上直接处理对话数据。传统威胁检测依赖云端服务器对消息的扫描,但许多消息平台端到端加密,服务商无法查看私人对话。实际上,这使加密应用内的诈骗对话对服务器端防御不可见。通过将威胁分析转移到设备本身,系统可以更快地分析对话模式、识别操纵意图,并让公民在财务或凭证信息泄露之前采取行动。

公告中写道:"打击诈骗不应以牺牲个人隐私为代价。""与 Google DeepMind 合作,我们将先进的 AI 保护直接带到公民的设备上。这使我们能够实时发现高度针对性、本地化的诈骗企图,同时保持个人通信完全私密。"

系统运作方式

当模型检测到操纵性对话模式时,会直接在用户设备上触发实时警告,建议用户在分享敏感信息或资金前暂停并保持警惕。

在现代智能手机上运行复杂的诈骗分类器是一项重大的工程挑战,电池效率是关键问题。因此,系统依赖两阶段流水线:

• 第一阶段: 轻量高效的分类器以极低功耗筛查收到的消息,专注于捕捉潜在威胁。
• 第二阶段: 使用微调后的 Gemma 模型进行上下文评估,分析更大的对话快照,以确认威胁或排除误报。

基于严格治理构建

该合作在 SICW 2026 上被展示为消息平台在用户保护与端到端加密之间取得平衡的范例,整个开发过程保持了严格的治理:

• 主权沙箱: 微调在 GovTech 管理和维护的 Google Cloud Platform(GCP)环境中进行,保持训练数据隔离。
• 不使用公民数据: 训练严格排除私人或可识别个人身份的信息,使用源自诈骗报告和情报来源的匿名化数据集。
• 压力测试: 模型针对合成对话和本地语料库进行测试,覆盖多样化的诈骗类别和不断演变的冒充手法。

设备端安全的未来

据博客文章所述,该项目展示了 AI 如何帮助消息服务对抗犯罪,并表明当保护性 AI 直接在设备上运行时,安全与隐私均无需妥协。它也说明了政府与模型供应商可以如何合作构建惠及公众的技术。

消息平台和操作系统厂商可以直接集成这些轻量级模型,在本地保护用户,确保聊天互动安全而不暴露私人数据。目前,博客文章将该定位为设备端保护所能实现的示范;行业是否会从这种可能性走向实际集成,将是下一个值得关注的进展。

来源:Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI