Google DeepMind и Сингапур представили инструмент обнаружения мошенничества с помощью ИИ на устройстве

Google DeepMind и Управление правительственных технологий Сингапура (GovTech) совместно разработали модель обнаружения мошенничества, работающую непосредственно на устройстве и призванную защитить пользователей смартфонов от мошенников без ущерба для приватности. Сотрудничество, о котором было объявлено в блоге Google DeepMind авторами JJ Geewax и Miguel de Andrés и представлено на Singapore International Cyber Week (SICW 2026), велось в рамках Национального партнерства по ИИ между Google и правительством Сингапура.

Мошенничество доминирует в криминальной статистике Сингапура

Мошенничество составляет более половины зарегистрированных преступлений в Сингапуре и привело к потерям свыше 4 млрд сингапурских долларов с 2019 года. Тактика мошенников также сместилась от простой фишинга к сложной социальной инженерии, при которой злоумышленники манипулируют жертвами с помощью убедительных разговоров, прежде чем попросить деньги. На такое мошенничество в ходе переписки сейчас приходится до 80% всех потерь. Поскольку подобные схемы разворачиваются в виде обычной переписки, а не по одной подозрительной ссылке, их сложнее выявить традиционными фильтрами сообщений.
Для противодействия угрозе обе организации оптимизировали модель для работы на типичных смартфонах в Сингапуре, решая актуальную задачу безопасности с сохранением приватности граждан.

Локальные обучающие данные и анализ на устройстве

Универсальные модели ИИ часто не справляются с локализованными техниками обмана, что затрудняет обнаружение мошенничества. Чтобы устранить этот пробел, легесная модель Gemma от Google DeepMind была дообучена на локальных мошеннических диалогах — от выдачи себя за государственные учреждения, банки и местных публичных фигур до распространенных региональных схем. Gemma — это семейство легковесных открытых моделей Google DeepMind, созданных для работы на обычном оборудовании, что подходит для развертывания на смартфонах. Такое обучение позволяет модели отличать безобидное социальное общение от реальных манипуляций.

Модель также обрабатывает данные переписки непосредственно на устройстве. Традиционное обнаружение угроз опирается на серверное сканирование сообщений в облаке, но многие мессенджеры используют сквозное шифрование, то есть провайдеры не могут проверять личные переписки. На практике это означало, что мошеннические диалоги в зашифрованных приложениях оставались невидимыми для серверной защиты. Перенеся анализ угроз на само устройство, система может быстрее анализировать модели переписки, выявлять манипулятивные намерения и позволять гражданам принять меры до финансового ущерба или утечки учетных данных.

"Борьба с мошенничеством не должна означать отказ от личной приватности", — говорится в анонсе. "Работая с Google DeepMind, мы переносим передовую защиту ИИ непосредственно на устройства граждан. Это позволяет нам выявлять высокоточные локальные мошеннические попытки в реальном времени, полностью сохраняя приватность личных коммуникаций".

Как устроена система

Когда модель обнаруживает манипулятивные модели в разговоре, она выдает предупреждение в реальном времени прямо на устройстве пользователя, советуя сделать паузу и проявить осторожность, прежде чем передавать конфиденциальную информацию или деньги.

Запуск сложного классификатора мошенничества на современных смартфонах — серьезная инженерная задача, где критическим фактором является энергоэффективность. Поэтому система опирается на двухэтапный конвейер:

• Этап 1: Легковесный эффективный классификатор фильтрует входящие сообщения с минимальным энергопотреблением, сосредотачиваясь на выявлении потенциальных угроз.
• Этап 2: Контекстная оценка с помощью дообученной модели Gemma, которая анализирует больший фрагмент разговора, чтобы подтвердить угрозу или отбросить ложную тревогу.

Построено на строгом управлении

Сотрудничество было представлено на SICW 2026 как образец для мессенджеров, балансирующих защиту пользователей и сквозное шифрование, и на протяжении всей разработки соблюдались строгие механизмы управления:

• Sovereign Sandbox: Дообучение проводилось в управляемой и сопроваемой GovTech среде Google Cloud Platform (GCP), что обеспечивало изоляцию обучающих данных.
• Никаких данных граждан: Обучение строго исключало личную или идентифицирующую информацию; использовались анонимизированные наборы данных, полученные из отчетов о мошенничестве и каналов разведки.
• Стресс-тестирование: Модель тестировалась на синтетических диалогах и локальных корпусах, охватывающих разнообразные категории мошенничества и эволюционирующие тактики выдачи себя за других лиц.

Будущее безопасности на устройстве

Согласно блогу, проект демонстрирует, как ИИ может помочь сервисам обмена сообщениями противостоять преступности, и показывает, что ни безопасность, ни приватность не должны страдать, когда защитный ИИ работает непосредственно на устройстве. Он также иллюстрирует, как государства и разработчики моделей могут совместно создавать технологии для общественного блага.

Мессенджеры и производители операционных систем могут напрямую интегрировать эти легковесные модели для локальной защиты пользователей, обеспечивая безопасность переписки без раскрытия личных данных. Пока блог описывает проект как демонстрацию возможностей защиты на устройстве; перейдет ли индустрия от этой возможности к реальным интеграциям — следующий момент, за которым стоит следить.

Источник: Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI