Google DeepMind en Singapore onthullen AI-tool voor scamdetectie op het apparaat

Google DeepMind en het Government Technology Agency van Singapore (GovTech) hebben gezamenlijk een scamdetectiemodel ontwikkeld dat rechtstreeks op het apparaat draait en is ontworpen om mobiele gebruikers te beschermen tegen fraude zonder hun privacy aan te tasten. De samenwerking, aangekondigd in een blogpost van Google DeepMind door JJ Geewax en Miguel de Andrés en gepresenteerd tijdens de Singapore International Cyber Week (SICW 2026), werd uitgevoerd als onderdeel van de National AI Partnership tussen Google en de regering van Singapore.

Oplichting domineert het criminaliteitsbeeld in Singapore

Oplichting maakt meer dan de helft uit van de gemelde criminaliteit in Singapore en heeft sinds 2019 geleid tot meer dan S$4 miljard aan verliezen. De tactieken van oplichters zijn bovendien verschoven van eenvoudige phishing naar complexe social engineering, waarbij daders slachtoffers manipuleren via overtuigende gesprekken voordat ze om geld vragen. Dergelijke conversatieoplichting is nu verantwoordelijk voor tot % van alle verliezen. Omdat deze oplichtingsmethoden zich ontvouwen via gewoon heen-en-weer chatten in plaats van via één verdachte link, zijn ze moeilijker te vangen door conventionele berichtenfilters.
Om de dreiging aan te pakken, hebben de twee organisaties het model geoptimaliseerd om te draaien op gangbare smartphones in Singapore, waarmee ze een dringende veiligheidsuitdaging aanpakken met behoud van de privacy van burgers.

Lokale trainingsdata, analyse op het apparaat

Generieke AI-modellen hebben vaak moeite met gelokaliseerde misleidingstechnieken, wat scamdetectie bemoeilijkt. Om dit gat te dichten, is het lichtgewicht Gemma-model van Google DeepMind verfijnd met lokale oplichtingsgesprekken, variërend van imitatie van publieke instellingen, banken en lokale figuren tot trending regionale oplichtingsmethoden. Gemma is de familie van lichtgewichte open modellen van Google DeepMind, gebouwd om op alledaagse hardware te draaien — een profiel dat geschikt is voor inzet op smartphones. Dankzij deze training kan het model onschuldig sociaal geplappraat onderscheiden van echte manipulatie.

Het model verwerkt gespreksgegevens bovendien rechtstreeks op het apparaat. Traditionele dreigingsdetectie is afhankelijk van server-side scanning van berichten in de cloud, maar veel berichtendiensten zijn end-to-end versleuteld, waardoor aanbieders privégesprekken niet kunnen inzien. In de praktijk heeft dat ertoe geleid dat oplichtingsgesprekken in versleutelde apps onzichtbaar zijn voor server-side verdediging. Door de dreigingsanalyse naar het apparaat zelf te verplaatsen, kan het systeem gesprekspatronen sneller analyseren, manipulatieve bedoelingen detecteren en burgers in staat stellen te handelen voordat financiële of inloggegevens worden blootgesteld.

"De strijd tegen oplichting mag niet betekenen dat persoonlijke privacy wordt opgegeven", aldus de aankondiging. "In samenwerking met Google DeepMind brengen we geavanceerde AI-bescherming rechtstreeks op de apparaten van burgers. Zo kunnen we zeer gerichte, lokale oplichtingspogingen in realtime opvangen terwijl persoonlijke communicatie volledig privé."

Hoe het systeem werkt

Wanneer het model manipulatieve gesprekspatronen detecteert, geeft het rechtstreeks op het apparaat van de gebruiker een waarschuwing in realtime, met het advies te pauzeren en voorzichtig te zijn voordat gevoelige informatie of geld wordt gedeeld.

Het draaien van een complex oplichtingsclassificatiemodel op moderne smartphones is een aanzienlijke technische uitdaging, waarbij batterij-efficiëntie een cruciale zorg is. Het systeem vertrouwt daarom op een tweefasenpipeline:

• Fase 1: Een lichtgewicht, efficiënte classifier screent inkomende berichten met minimaal stroomverbruik, gericht op het opsporen van potentiële dreigingen.
• Fase 2: Contextuele evaluatie met het verfijnde Gemma-model, dat een grotere momentopname van het gesprek analyseert om een dreiging te bevestigen of een vals alarm te verwerpen.

Gebouwd op strikte governance

De samenwerking werd gepresenteerd tijdens SICW 2026 als een model voor berichtendiensten die gebruikersbescherming afwegen tegen end-to-end versleuteling, en gedurende de hele ontwikkeling werd strikte governance gehandhaafd:

• Sovereign Sandbox: De verfijning vond plaats binnen de door GovTech beheerde Google Cloud Platform-omgeving (GCP), waarbij de trainingsdata geïsoleerd bleef.
• Geen burgergegevens: De training excludeerde strikt privé- of persoonlijk identificeerbare informatie en gebruikte geanonimiseerde datasets afgeleid van oplichtingsrapporten en intelligencefeeds.
• Stresstests: Het model werd getest tegen synthetische dialogen en lokale corpora om diverse oplichtingscategorieën en evoluerende imitatietactieken te dekken.

De toekomst van veiligheid op het apparaat

Volgens de blogpost toont het project hoe AI berichtendiensten kan helpen criminaliteit te bestrijden, en laat zien dat veiligheid noch privacy onder druk hoeft te komen wanneer beschermende AI rechtstreeks op het apparaat draait. Het illustreert ook hoe overheden en modelaanbieders kunnen samenwerken om technologie voor het publieke belang te bouwen.

Berichtendiensten en leveranciers van besturingen kunnen deze lichtgewicht modellen direct integreren om gebruikers lokaal te beschermen, waarbij chatinteracties veilig blijven zonder privégegevens bloot te stellen. Voorlopig presenteert de blogpost het project als een demonstratie van wat bescherming op het apparaat kan bereiken; of de sector van die mogelijkheid naar daadwerkelijke integraties zal gaan, is de volgende ontwikkeling om in de gaten te houden.

Bron: Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI