Google DeepMind und Singapur präsentieren KI-Tool zur Betrugserkennung direkt auf dem Gerät

Google DeepMind und die Government Technology Agency of Singapore (GovTech) haben gemeinsam ein Modell zur Betrugserkennung direkt auf dem Gerät entwickelt, das mobile Nutzer vor Betrug schützen soll, ohne ihre Privatsphäre zu beeinträchtigen. Die Zusammenarbeit wurde in einem Blogbeitrag von Google DeepMind von JJ Geewax und Miguel de Andrés angekündigt und auf der Singapore International Cyber Week (SICW 2026) vorgestellt; durchgeführt wurde sie im Rahmen der National AI Partnership zwischen Google und der Regierung Singapurs.

Betrug dominiert das Kriminalitätsbild Singapurs

Betrug macht mehr als die Hälfte der gemeldeten Straftaten in Singapur aus und hat seit 2019 zu Verlusten von über 4 Mrd. S$ geführt. Die Betrugsmethoden haben sich zudem von einfachem Phishing zu komplexem Social Engineering verlagert, bei dem Täter Opfer zunächst durch überzeugende Gespräche manipulieren, bevor sie Geld fordern. Solche Gesprächsbetrügereien sind inzwischen für bis zu 80 % aller Verluste verantwortlich. Da diese Maschen über gewöhnliche Chatverläufe statt über einen einzelnen verdächtigen Link ablaufen, entziehen sie sich konventionellen Nachrichtenfiltern.
Zur Bekämpfung dieser Bedrohung haben die beiden Organisationen das Modell für den Betrieb auf handelsüblichen Smartphones in Singapur optimiert und gehen damit eine dringende Sicherheitsherausforderung an, ohne die Privatsphäre der Bürger zu gefährden.

Lokale Trainingsdaten, Analyse auf dem Gerät

Generische KI-Modelle stoßen bei lokalisierten Täuschungstechniken oft an Grenzen, was die Betrugserkennung erschwert. Um diese Lücke zu schließen, wurde Google DeepMinds leichtes Gemma-Modell anhand lokaler Betrugsgespräche feinabgestimmt – vom Auftreten als öffentliche Institutionen, Banken und lokale Persönlichkeiten bis hin zu aktuell verbreiteten regionalen Maschen. Gemma ist Google DeepMinds Familie leichter offener Modelle, die für den Betrieb auf alltäglicher Hardware ausgelegt sind – Profil, das sich für den Smartphone-Einsatz eignet. Dieses Training ermöglicht dem Modell, harmlose soziale Gespräche von echter Manipulation zu unterscheiden.

Das Modell verarbeitet die Konversationsdaten zudem direkt auf dem Gerät. Herkömmliche Bedrohungserkennung setzt auf serverseitiges Scannen von Nachrichten in der Cloud, doch viele Messaging-Plattformen sind Ende-zu-Ende-verschlüsselt, sodass Anbieter private Gespräche nicht einsehen können. In der Praxis blieben Betrugsgespräche in verschlüsselten Apps für serverseitige Abwehrmaßnahmen unsichtbar. Durch die Verlagerung der Bedrohungsanalyse auf das Gerät selbst kann das System Gesprächsmuster schneller analysieren, manipulative Absichten erkennen und Bürger handeln lassen, bevor finanzielle Schäden oder die Offenlegung von Zugangsdaten entstehen.

„Die Bekämpfung von Betrug sollte nicht auf Kosten der persönlichen Privatsphäre gehen“, heißt es in der Ankündigung. „In Zusammenarbeit mit Google DeepMind bringen wir fortschrittlichen KI-Schutz direkt auf die Geräte der Bürger. So können wir hochgezielte, lokale Betrugsversuche in Echtzeit erkennen und die persönliche Kommunikation dabei vollständig privat halten.“

So funktioniert das System

Wenn das Modell manipulative Gesprächsmuster erkennt, löst es direkt auf dem Gerät des Nutzers eine Echtzeit-Warnung aus, die ihn rät, innezuhalten und vorsichtig zu sein, bevor sensible Informationen oder Geld weitergegeben werden.

Der Betrieb eines komplexen Betrugs-Klassifikators auf modernen Smartphones ist eine erhebliche technische Herausforderung, bei der die Batterieeffizienz ein entscheidender Faktor ist. Das System setzt daher auf eine zweistufige Pipeline:

• Stufe 1: Ein leichter, effizienter Klassifikator prüft eingehende Nachrichten mit minimalem Energieverbrauch und konzentriert sich auf die Erkennung potenzieller Bedrohungen.
• Stufe 2: Kontextuelle Bewertung durch das feinabgestimmte Gemma-Modell, das einen größeren Ausschnitt des Gesprächs analysiert, um eine Bedrohung zu bestätigen oder einen Fehlalarm zu verwerfen.

Auf strikter Governance aufgebaut

Die Zusammenarbeit wurde auf der SICW 2026 als Vorbild für Messaging-Plattformen vorgestellt, die Nutzerschutz mit Ende-zu-Ende-Verschlüsselung vereinen wollen; während der gesamten Entwicklung wurden strenge Governance-Standards eingehalten:

• Sovereign Sandbox: Das Feintuning fand in der von GovTech verwalteten und gewarteten Google Cloud Platform (GCP)-Umgebung statt, wodurch die Trainingsdaten isoliert blieben.
• Keine Bürgerdaten: Das Training schloss private oder personenbezogene Daten strikt aus; verwendet wurden anonymisierte Datensätze aus Betrugsberichten und Intelligence-Feeds.
• Stresstests: Das Modell wurde gegen synthetische Dialoge und lokale Korpora getestet, um vielfältige Betragskategorien und sich wandelnde Täuschungstaktiken abzudecken.

Die Zukunft der Sicherheit auf dem Gerät

Laut dem Blogbeitrag zeigt Projekt, wie KI Messaging-Dienste bei der Bekämpfung von Kriminalität helfen kann, und verdeutlicht, dass weder Sicherheit noch Privatsphäre aufgegeben werden müssen, wenn schützende KI direkt auf dem Gerät läuft. Es zeigt zudem, wie Regierungen und Modellanbieter gemeinsam Technologie für das Gemeinwohl entwickeln können.

Messaging-Plattformen und Betriebssystemhersteller können diese leichten Modelle direkt integrieren, um Nutzer lokal abzusichern und Chatinteraktionen zu sichern, ohne private Daten preiszugeben. Derzeit präsentiert der Blogbeitrag das Projekt als Demonstration des Potenzials von On-Device-Schutz; ob die Branche von dieser Möglichkeit zu ausgelieferten Integrationen übergeht, wird die nächste zu beobachtende Entwicklung sein.

Quelle: Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI