Google DeepMind e Singapore presentano un tool AI di rilevamento delle truffe on-device

Google DeepMind e la Government Technology Agency di Singapore (GovTech) hanno sviluppato congiuntamente un modello di rilevamento delle truffe on-device progettato per proteggere gli utenti mobili dalle frodi senza comprometterne la privacy. La collaborazione, annunciata in un post sul blog di Google DeepMind a firma di JJ Geewax e Miguel de Andrés e presentata alla Singapore International Cyber Week (SICW 2026), si è svolta nell'ambito della National AI Partnership tra Google e il governo di Singapore.

Le truffe dominano il panorama criminale di Singapore

Le truffe rappresentano oltre la metà dei crimini denunciati a Singapore e hanno causato perdite superiori a 4 miliardi di dollari di Singapore (S$4 miliardi) dal 2019. Le tattiche fraudolente si sono inoltre spostate dal semplice phishing alla complessa ingegneria sociale, in cui gli attaccanti manipolano le vittime attraverso conversazioni convincenti prima di richiedere denaro. Queste truffe conversazionali rappresentano ora fino all'80% di tutte le perdite. Poiché questi schemi si sviluppano attraverso una normale chat avanti e indietro anziché attraverso un singolo link sospetto, risultano più difficili da intercettare per i filtri di messaggi convenzionali.
Per affrontare la minaccia, le due organizzazioni hanno ottimizzato il modello per funzionare sugli smartphone tipici di Singapore, affrontando una sfida di sicurezza urgente e preservando al contempo la privacy dei cittadini.

Dati di addestramento locali, analisi on-device

I modelli AI generici spesso faticano con le tecniche di inganno localizzate, rendendo più difficile il rilevamento delle truffe. Per colmare questo divario, il modello leggero Gemma di Google DeepMind è stato ottimizzato (fine-tuning) su conversazioni fraudolente locali, che spaziavano dall'impersonificazione di istituzioni pubbliche, banche e figure locali a schemi regionali di tendenza. Gemma è la famiglia di modelli aperti leggeri di DeepMind, progettata per funzionare su hardware comune, un profilo adatto al deployment sugli smartphone. Questo addestramento consente al modello di distinguere le chiacchiere sociali innocue dalla manipolazione reale.

Il modello elabora inoltre i dati delle conversazioni direttamente sul dispositivo. Il rilevamento delle minacce si affida tradizionalmente alla scansione lato server dei messaggi nel cloud, ma molte piattaforme di messaggistica sono crittografate end-to-end, il che significa che i fornitori non possono ispezionare le conversazioni private. In pratica, ciò ha lasciato le conversazioni fraudolente all'interno delle app crittografate invisibili alle difese lato server. Spostando l'analisi delle minacce sul dispositivo stesso, il sistema può analizzare più rapidamente i pattern conversazionali, rilevare gli intenti manipolativi e consentire ai cittadini di agire prima che si verifichi un'esposizione finanziaria o delle credenziali.

"Combattere le truffe non dovrebbe significare sacrificare la privacy personale", dichiarato nell'annuncio. "Lavorando con Google DeepMind, stiamo portando una protezione AI avanzata direttamente sui dispositivi dei cittadini. Questo ci consente di intercettare in tempo reale tentativi di truffa locali altamente mirati, mantenendo le comunicazioni personali completamente private."

Come funziona il sistema

Quando il modello rileva pattern conversazionali manipolativi, attiva un avviso in tempo reale direttamente sul dispositivo dell'utente, consigliandolo di fare pausa e procedere con cautela prima di condividere informazioni sensibili o fondi.

Eseguire un classificatore complesso per le truffe sugli smartphone moderni è una sfida ingegneristica significativa, con l'efficienza della batteria come aspetto critico. Il sistema si affida quindi a una pipeline a due stadi:

• Stadio 1: un classificatore leggero ed efficiente esamina i messaggi in arrivo con un consumo minimo di energia, concentrandosi sull'individuazione di potenziali minacce.
• Stadio 2: valutazione contestuale con il modello Gemma ottimizzato, che analizza un'istantanea più ampia della conversazione per confermare una minaccia o scartare un falso allarme.

Costruito su una governance rigorosa

La collaborazione è stata presentata alla SICW 2026 come modello per le piattaforme di messaggistica che devono bilanciare la protezione degli utenti con la crittografia end-to-end, e durante tutto lo sviluppo è stata mantenuta una governance rigorosa:

• Sovereign Sandbox: il fine-tuning si è svolto nell'ambiente GCP gestito e mantenuto da GovTech, mantenendo isolati i dati di addestramento.
• Nessun dato dei cittadini: l'addestramento ha escluso rigorosamente informazioni private o personalmente identificabili, utilizzando dataset anonimizzati derivati da segnalazioni di truffe e feed di intelligence.
• Stress-testing: il modello è stato testato contro dialoghi sintetici e corpora locali per coprire diverse categorie di truffe e tattiche di impersonificazione in evoluzione.

Il futuro della sicurezza on-device

Secondo il post sul blog, il progetto dimostra come l'AI possa aiutare i servizi di messaggistica a contrastare la criminalità e mostra che né la sicurezza né la privacy devono essere compromesse quando l' protettiva viene eseguita direttamente sul dispositivo. Illustra inoltre come governi e fornitori di modelli possano collaborare per costruire tecnologia a beneficio pubblico.

Le piattaforme di messaggistica e i fornitori di sistemi operativi possono integrare direttamente questi modelli leggeri per salvaguardare gli utenti a livello locale, mantenendo le interazioni di chat sicure senza esporre dati privati. Per ora, il post sul blog presenta il progetto come una dimostrazione di ciò che la protezione on-device può ottenere; il passaggio del settore da questa possibilità a integrazioni effettive sarà la prossima evoluzione da osservare.

Fonte: Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI