Google DeepMind 與新加坡推出裝置端 AI 詐騙偵測工具

Google DeepMind 與新加坡政府科技局（GovTech）共同開發一款裝置端詐騙偵測模型，旨在保護行動用戶免受詐騙，同時不損害其隱私。此合作由 JJ Geewax 與 Miguel de Andrés 於 Google DeepMind 部落格文章中公布，並在新加坡國際網路週（SICW 2026）上發表，屬於 Google 與新加坡政府國家 AI 夥伴關係的一部分。

詐騙主導新加坡的犯罪版圖

詐騙占新加坡通報犯罪案件的一半以上，自 2019 年以來造成超過 40 億新元損失。詐騙手法也已從單純的網路釣魚轉向複雜的社交工程，攻擊者先透過具說服力的對話操縱受害者，再要求匯款。此類對話式詐騙目前占所有損失高達 80%。由於這些騙局是透過日常往返對話展開，而非單一可疑連結，傳統訊息過濾器更難加以攔截。

為因應此威脅，兩個機構將模型最佳化，使其能在新加坡常見的智慧型手機上運作，在保護公民隱私的同時，處迫切的安全挑戰。

本地訓練資料，裝置端分析

通用 AI 模型往往難以應付本地化的欺騙手法，使詐騙偵測更加困難。為彌補此落差，Google DeepMind 對其輕量級 Gemma 模型進行了本地詐騙對話的微調，內容涵蓋假冒公共機構、銀行及本地人士，到流行於區域的詐騙手法。Gemma 是 Google DeepMind 专为日常硬體設計的輕量級開放模型系列，適合部署於智慧型手機。此訓練使模型能夠區分良性的社交閒聊與真正的操縱行為。

該模型也在裝置上直接處理對話資料。傳統威脅偵測依賴雲端伺服器端掃描訊息，但許多訊息平台採用端對端加密，供應商無法檢視私人對話。實務上，這使得加密應用程式內的詐騙對話無法被伺服器端防禦機制察覺。透過將威脅分析移至裝置本身，系統能更快速地分析對話模式、偵測操縱意圖，讓公民在財務或憑證曝險發生前採取行動。

「打擊詐騙不應意味著犧牲個人隱私，」公告指出。「與 Google DeepMind 合作，我們將先進的 AI 防護直接帶到公民的裝置上。這讓我們能即時攔截高度針對性的本地詐騙企圖，同時完全保障個人通訊的隱私。」

系統運作方式

當模型偵測到操縱性的對話模式時，會直接在使用者的裝置上觸發即時警告，建議他們在分享敏感資訊或資金前暫停並保持警覺。

在現代智慧型手機上執行複雜的詐騙分類器模型是一項重大工程挑戰，電池效率是關鍵考量。因此系統採用兩階段管線：

• 第一階段： 輕量且高效的分類器以極低功耗篩檢接收到的訊息，專注於捕捉潛在威脅。
• 第二階段： 由微調後的 Gemma 模型進行情境評估，分析較完整的對話快照，以確認威脅或排除誤報。

建立在嚴格治理之上

此合作在 SICW 2026 上發，作為訊息平台在使用者保護與端對端加密之間取得平衡的典範，開發過程全程遵循嚴格治理：

• 主權沙盒： 微調在 GovTech 管理與維運的 Google Cloud Platform（GCP）環境中進行，確保訓練資料隔離。
• 不使用公民資料： 訓練嚴格排除私人或可識別個人身份的資訊，使用源自詐騙通報與情報來源的匿名化資料集。
• 壓力測試： 模型經過合成對話與本地語料庫測試，涵蓋多元詐騙類型與不斷演變的假冒手法。

裝置端安全的未來

根據部落格文章，該專案展示了 AI 如何協助訊息服務對抗犯罪，並證明當防護型 AI 直接在裝置上執行時，安全與隱私無需犧牲其一。它也說明政府與模型供應商如何攜手打造公共利益的科技。

訊息平台與作業系統供應商可直接整合這些輕量級模型，在本地保護使用者，確保聊天互動安全且不暴露私人資料。目前，部落格文章將此專案定位為裝置端防護所能達成成果的示範；產業是否會從這種可能性走向實際整合出貨，將是下一個值得關注的發展。

來源：Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI