Google DeepMind et Singapour dévoilent un outil d'IA sur l'appareil contre les arnaques

Google DeepMind et l'Agence gouvernementale des technologies de Singapour (GovTech) ont conjointement développé un modèle de détection d'arnaques fonctionnant sur l'appareil, conçu pour protéger les utilisateurs mobiles contre la fraude sans compromettre leur vie privée. Cette collaboration, annoncée dans un article de blog de Google DeepMind signé JJ Geewax et Miguel de Andrés et présentée à la Singapore International Cyber Week (SICW 2026), s'inscrit dans le cadre du Partenariat national sur l'IA entre Google et le gouvernement de Singapour.

Les arnaques dominent le paysage criminel de Singapour

Les arnaques représentent plus de la moitié des crimes signalés à Singapour et ont causé plus de 4 milliards de dollars singapouriens (S$) de pertes depuis 2019. Les techniques d'arnaque ont également évolué du simple hameçonnage vers une ingénierie sociale complexe, dans laquelle les attaquants manipulent leurs victimes au moyen de conversations convaincantes avant de leur demander de l'argent. Ces arnaques conversationnelles représentent désormais jusqu'à 80 % de l'ensemble des pertes. Comme ces stratagèmes se déploient au fil d'échanges ordinaires plutôt que par un simple lien suspect, ils échappent plus facilement aux filtres de messages conventionnels.
Pour faire face à cette menace, les deux organisations ont optimisé le modèle pour qu'il fonctionne sur des smartphones courants à Singapour, relevant un défi de sécurité urgent tout en préservant la vie privée des citoyens.

Données d'entraînement locales, analyse sur l'appareil

Les modèles d'IA génériques peinent souvent face aux techniques tromperie localisées, ce qui complique la détection des arnaques. Pour combler cet écart, le modèle léger Gemma de Google DeepMind a été affiné sur des conversations d'arnaques locales, allant de l'usurpation d'identité d'institutions publiques, de banques et de personnalités locales aux stratagèmes régionaux en vogue. Gemma est la famille de modèles ouverts légers de Google DeepMind, conçue pour fonctionner sur du matériel courant, un profil adapté au déploiement sur smartphone. Cet entraînement permet au modèle de distinguer les échanges sociaux bénins d'une véritable manipulation.

Le modèle traite également les données de conversation directement sur l'appareil. Traditionnellement, la détection des menaces repose sur l'analyse des messages côté serveur dans le cloud, mais de nombreuses plateformes de messagerie sont chiffrées de bout en bout, ce qui signifie que les fournisseurs ne peuvent pas inspecter les conversations privées. En pratique, cela rendait les conversations frauduleuses au sein des applications chiffrées invisibles pour les défenses côté serveur. En déplaçant l'analyse des menaces sur l'appareil lui-même, le système peut analyser les schémas de conversation plus rapidement, détecter les intentions manipulatoires et permettre aux citoyens d'agir avant une exposition financière ou une fuite d'identifiants.

« Lutter contre les arnaques ne devrait pas signifier sacrifier la vie privée », indique l'annonce. « En travaillant avec Google DeepMind, nous apportons une protection IA avancée directement sur les appareils des citoyens. Cela nous permet de détecter en temps réel des tentatives d'arnaques locales hautement ciblées tout en gardant les communications personnelles totalement privées. »

Fonctionnement du système

Lorsque le modèle détecte des schémas de conversation manipulatoires, il déclenche une alerte en temps réel directement sur l'appareil de l'utilisateur, lui conseillant de marquer une pause et de faire preuve de prudence avant de partager des informations sensibles ou des fonds.

Exécuter un classificateur d'arnaques complexe sur des smartphones modernes constitue un défi d'ingénierie de taille, l'efficacité énergétique étant une préoccupation majeure. Le système s'appuie donc sur un pipeline à deux étapes :

• Étape 1 : Un classificateur léger et efficace passe au crible les messages entrants en consommant un minimum d'énergie, axé sur la détection des menaces potentielles.
• Étape 2 : Une évaluation contextuelle avec le modèle Gemma affiné, qui analyse un instantané plus large de la conversation pour confirmer une menace ou écarter une fausse alerte.

Fondé sur une gouvernance stricte

Présentée à la SICW 2026 comme un modèle pour les plateformes de messagerie cherchant à concilier protection des utilisateurs et chiffrement de bout en bout, cette collaboration a maintenu une gouvernance stricte tout au long de son développement :

• Sign Sandbox : L'affinage a eu lieu au sein de l'environnement Google Cloud Platform (GCP) géré et entretenu par GovTech, maintenant les données d'entraînement isolées.
• Aucune donnée citoyenne : L'entraînement a strictement exclu toute information privée ou personnellement identifiable, en utilisant des jeux de données anonymisés issus de rapports d'arnaques et de flux de renseignement.
• Tests de résistance : Le modèle a été testé contre des dialogues synthétiques et des corpus locaux afin de couvrir diverses catégories d'arnaques et des tactiques d'usurpation d'identité en évolution.

L'avenir de la sécurité sur l'appareil

Selon l'article de blog, le projet démontre comment l'IA peut aider les services de messagerie à lutter contre la criminalité, et montre que ni la sécurité ni la vie privée ne doivent être compromise lorsque l'IA de protection s'exécute directement sur l'appareil. Il illustre également comment les gouvernements et les fournisseurs de modèles peuvent collaborer pour construire des technologies d'intérêt public.

Les plateformes de messagerie et les fournisseurs de systèmes d'exploitation peuvent intégrer directement ces modèles légers pour protéger les utilisateurs localement, en gardant les interactions de messagerie sécurisées sans exposer de données privées. Pour l'instant, l'article de blog présente le projet comme une démonstration de ce que la protection sur l'appareil peut accomplir ; le passage de cette possibilité à des intégrations effectivement déployées par l'industrie constituera la prochaine évolution à surveiller.

Source : Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI