Google DeepMind i Singapur prezentują narzędzie AI do wykrywania oszustw działające na urządzeniu

Google DeepMind i rządowa agencja Government Technology Agency of Singapore (GovTech) wspólnie opracowały model wykrywania oszustw działający na urządzeniu, zaprojektowany tak, aby chronić użytkowników telefonów przed oszustwami bez naruszania ich prywatności. Współpraca, ogłoszona we wpisie na blogu Google DeepMind autorstwa JJ Geewaxa i Miguela de Andrésa oraz zaprezentowana podczas Singapore International Cyber Week (SICW 2026), została zrealizowana w ramach Narodowego Partnerstwa AI między Google a rządem Singapuru.

Oszustwa dominują w krajobrazie przestępczości Singapuru

Oszustwa stanowią ponad połowę zgłaszanych przestępstw w Singapurze i od 2019 roku przyniosły straty przekraczające 4 mld SGD. Taktyki oszustów przesunęły się także od prostego phishingu do złożonej inżynier społecznej, w której atakujący manipulują ofiarami poprzez przekonujące rozmowy, zanim zażądają pieniędzy. Takie oszustwa konwersacyjne odpowiadają obecnie za nawet 80% wszystkich strat. Ponieważ te schematy rozgrywają się poprzez zwyczajną wymianę wiadomości, a nie pojedynczy podejrzany link, tradycyjne filtry wiadomości trudniej je wychwytują.
Aby sprostać temu zagrożeniu, obie organizacje zoptymalizowały model tak, aby działał na typowych smartfonach w Singapurze, odpowiadając na pilne wyzwanie bezpieczeństwa przy zachowaniu prywatności obywateli.

Lokalne dane treningowe, analiza na urządzeniu

Generyczne modele AI często mają trudności z zlokalizowanymi technikami oszustw, co utrudnia ich wykrywanie. Aby zamknąć tę lukę, lekki model Gemma od Google DeepMind został dostrojony na lokalnych rozmowach oszukańczych — od podszywania się pod instytucje publiczne, banki i lokalne osoby po popularne regionalne schematy. Gemma to rodzina lekkich otwartych modeli Google DeepMind zaprojektowana do działania na codziennym sprzęcie, co dobrze odpowiada wdrożeniu na smartfonach. Dzięki takiemu treningowi model potrafi odróżnić niewinne rozmowy towarzyskie od rzeczywistej manipulacji.

Model przetwarza również dane rozmów bezpośrednio na urządzeniu. Tradycyjne wykrywanie zagrożeń opiera się na skanowaniu wiadomości po stronie serwera w chmurze, ale wiele platform messagingowych stosuje szyfrowanie end-to-end, co oznacza, że dostawcy nie mogą wglądu w prywatne rozmowy. W praktyce oznacza to, że rozmowy oszukańcze w zaszyfrowanych aplikacjach były niewidoczne dla zabezpieczeń działających po stronie serwera. Przenosząc analizę zagroń na samo urządzenie, system może szybciej analizować wzorce rozmów, wykrywać zamiary manipulacji i pozwalać obywatelom zareagować, zanim dojdzie do utraty środków finansowych lub danych uwierzytelniających.

„Walka z oszustwami nie powinna oznaczać poświęcania prywatności” — stwierdzono w ogłoszeniu. „Współpracując z Google DeepMind, wprowadzamy zaawansowaną ochronę AI bezpośrednio na urządzenia obywateli. Dzięki temu możemy wykrywać wysoce ukierunkowane, lokalne próby oszustwa w czasie rzeczywistym, zachowując całkowitą prywatność osobistych komunikacji.”

Jak działa system

Gdy model wykryje manipulacyjne wzorce w rozmowie, uruchamia ostrzeżenie w czasie rzeczywistym bezpośrednio na urządzeniu użytkownika, advisejąc mu pauzę i zachowanie ostrożności przed udostępnieniem poufnych informacji lub środków.

Uruchomienie złożonego klasyfikatora oszustw na nowoczesnych smartfonach to poważne wyzwanie inżynieryjne, przy czym kluczową kwestią jest efektywność energetyczna. Dlatego system opiera się na dwuetapowym procesie:

• Etap 1: Lekki, wydajny klasyfikator przesiewa przychodzące wiadomości przy minimalnym zużyciu energii, koncentrując się na wychwytywaniu potencjalnych zagrożeń.
• Etap 2: Ocena kontekstowa z dostrojonym modelem Gemma, która analizuje większy wycinek rozmowy, aby potwierdzić zagrożenie lub odrzucić fałszywy alarm.

Oparta na ścisłych zasadach zarządzania

Współpraca została zaprezentowana podczas SICW 2026 jako wzór dla platform messagingowych balansujących ochronę użytkowników z szyfrowaniem end-to-end, a przez cały okres rozwoju utrzymywano ścisłe zasady zarządzania:

• Sovereign Sandbox: Dostrojenie modelu odbywało się w zarządzanym i utrzymywanym przez GovTech środowisku Google Cloud Platform (GCP), co zapewniało izolację danychningowych.
• Brak danych obywateli: Trening wykluczał dane prywatne lub dane osobowe, wykorzystując zanonimizowane zestawy danych pochodzących z raportów o oszustwach i źródeł informacji wywiadowczej.
• Testy obciążeniowe: Model testowano wobec syntetycznych dialogów i lokalnych korpusów, obejmujących różnorodne kategorie oszustw i ewoluujące taktyki podszywania się.

Przyszłość bezpieczeństwa na urządzeniu

Według wpisu na blogu projekt pokazuje, jak AI może pomóc usługom messagingowym zwalczać przestępczość, i dowodzi, że ani bezpieczeństwo, ani prywatność nie muszą być naruszane, gdy ochronne AI działa bezpośrednio na urządzeniu. Ilustruje on także, jak rządy i dostawcy modeli mogą współpracować przy budowaniu technologii dla dobra publicznego.

Platformy messagingowe i producenci systemów operacyjnych mogą bezpośrednio integrować te lekkie modele, aby lokalnie chronić użytkowników, zapewniając bezpieczeństwo interakcji czatowych bez ujawniania danych prywatnych. Na razie wpis na blogu przedstawia projekt jako demonstrację możliwości ochrony na urządzeniu; to, czy branża przejdzie od tej możliwości do wdrożonych integracji, będzie kolejnym krokiem wartym obserwacji.

Źródło: Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI