Google DeepMind y Singapur presentan una herramienta de IA en el dispositivo para detectar estafas

Google DeepMind y la Agencia de Tecnología Gubernamental de Singapur (GovTech) desarrollaron conjuntamente un modelo de detección de estafas que funciona en el propio dispositivo y está diseñado para proteger a los usuarios móviles del fraude sin comprometer su privacidad. La colaboración, anunciada en una publicación del blog de Google DeepMind por JJ Geewax y Miguel de Andrés y presentada en la Semana Internacional de Ciberseguridad de Singapur (SICW 2026), se llevó a cabo como parte de la Alianza Nacional de IA entre Google y el Gobierno de Singapur.

Las estafas dominan el panorama delictivo de Singapur

Las estafas representan más de la mitad de los crímenes reportados en Singapur y han provocado más de S$4 mil millones en pérdidas desde 2019. Las tácticas de estafa también han evolucionado desde el phishing simple hacia la ingeniería social compleja, en la que los atacantes manipulan a las víctimas mediante conversaciones convincentes antes de solicitar dinero. Estas estafas conversacionales representan ahora hasta el 80% de todas las pérdidas. Como estos esquemas se desarrollan a través de un intercambio de chat aparentemente ordinario y no de un único enlace sospechoso, resultan más difíciles de detectar para los filtros de mensajes convencionales.
Para hacer frente a esta amenaza, ambas organizaciones optimizaron el modelo para que funcione en teléfonos inteligentes típicos de Singapur, abordando un desafío urgente de seguridad mientras se preserva la privacidad de los ciudadanos.

Datos de entrenamiento locales, análisis en el dispositivo

Los modelos de IA genéricos a menudo tienen dificultades con las técnicas de engaño localizadas, lo que dificulta la detección de estafas. Para cerrar esta bre, el modelo ligero Gemma de Google DeepMind se ajustó con conversaciones de estafa locales, que abarcaban desde suplantaciones de instituciones públicas, bancos y figuras locales hasta esquemas regionales en tendencia. Gemma es la familia de modelos abiertos ligeros de Google DeepMind, diseñada para funcionar en hardware cotidiano, un perfil adecuado para su despliegue en teléfonos inteligentes. Este entrenamiento permite al modelo distinguir las conversaciones sociales benignas de la manipulación genuina.

El modelo también procesa los datos de conversación directamente en el dispositivo. La detección de amenazas tradicional se basa en el escaneo de mensajes en la nube desde servidores, pero muchas plataformas de mensajería utilizan cifrado de extremo a extremo, lo que significa que los proveedores no pueden inspeccionar las conversaciones privadas. En la práctica, esto ha dejado las conversaciones de estafa dentro de las aplicaciones cifradas invisibles para las defensas del lado del servidor. Al trasladar el análisis de amenazas al propio dispositivo, el sistema puede analizar los patrones de conversación más rápido, detectar intenciones manipuladoras y permitir que los ciudadanos actúen antes de que se produzca una exposición financiera o de credenciales.

"Combatir las estafas no debería significar sacrificar la privacidad personal", señaló el anuncio. "Trabajando con Google DeepMind, estamos llevando una protección avanzada de IA directamente a los dispositivos de los ciudadanos. Esto nos permite detectar intentos de estafa locales altamente dirigidos en tiempo real, manteniendo las comunicaciones personales completamente privadas".

Cómo funciona el sistema

Cuando el modelo detecta patrones de conversación manipuladores, activa una advertencia en tiempo real directamente en el dispositivo del usuario, aconsejándole hacer una pausa y proceder con cautela antes de compartir información sensible o fondos.

Ejecutar un clasificador de estafas complejo en teléfonos inteligentes modernos es un desafío de ingeniería importante, siendo la eficiencia de la batería una preocupación crítica. Por ello, el sistema se basa en un pipeline de dos etapas:

• Etapa 1: Un clasificador ligero y eficiente filtra los mensajes entrantes consumiendo energía mínima, centrado en detectar amenazas potenciales.
• Etapa 2: Evaluación contextual con el modelo Gemma ajustado, que analiza una porción más amplia de la conversación para confirmar una amenaza o descartar una falsa alarma.

Construido sobre una gobernanza estricta

La colaboración fue presentada en la SICW 2026 como un modelo para plataformas de mensajería que equilibran la protección del usuario con el cifrado de extremo a extremo, y se mantuvo una gobernanza estricta durante todo el desarrollo:\n- Sandbox soberano: El ajuste del modelo se realizó en el entorno de Google Cloud Platform (GCP) gestionado y mantenido por GovTech, manteniendo los datos de entrenamiento aislados.

• Sin datos de ciudadanos: El entrenamiento excluyó estrictamente la información privada o de identificación personal, utilizando conjuntos de datos anonimizados derivados de reportes de estafas y fuentes de inteligencia.
• Pruebas de estrés: El modelo fue probado contra diálogos sintéticos y corpus locales para cubrir diversas categorías de estafas y tácticas de suplantación en evolución.

El futuro de la seguridad en el dispositivo

Según la publicación del blog, el proyecto demuestra cómo la IA puede ayudar a los servicios de mensajería a combatir la criminalidad, y muestra que ni la seguridad ni la privacidad deben verse comprometidas cuando la IA de protección se ejecuta directamente en el dispositivo. También ilustra cómo los gobiernos y los proveedores de modelos pueden trabajar juntos para desarrollar tecnología para el bien público.

Las plataformas de mensajería y los proveedores de sistemas operativos pueden integrar directamente estos modelos ligeros para proteger a los usuarios localmente, manteniendo las interacciones de chat seguras sin exponer datos privados. Por ahora, la publicación del blog presenta el proyecto como una demostración de lo que la protección en el dispositivo puede lograr; si la industria pasa de esa posibilidad a integraciones reales será el próximo desarrollo a observar.

Fuente: Google DeepMind Blog — On-Device AI Against Scams: Google DeepMind & MDDI