Google DeepMind y GovTech de Singapur desarrollan un detector de estafas con IA en el dispositivo

Google DeepMind y la Agencia de Tecnología Gubernamental de Singapur (GovTech Singapur) han anunciado una colaboración para desarrollar un modelo de IA que detecta posibles estafas directamente en dispositivos Android. La iniciativa, presentada durante la Semana Internacional de Ciberseguridad de Singapur 2026, tiene como objetivo identificar patrones conversacionales manipuladores de forma local, sin enviar datos de mensajes privados a servidores en la nube.

Detección en el dispositivo y privacidad

El sistema propuesto utiliza una versión ajustada del modelo ligero Gemma de Google. Según Google DeepMind, el modelo está diseñado para analizar las conversaciones directamente en el dispositivo. Este enfoque aborda el desafío del cifrado de extremo a extremo utilizado por muchos servicios de mensajería, lo que impide el escaneo tradicional en la nube de chats privados.

Cuando el modelo identifica patrones de interacción sospechosos, muestra una advertencia en tiempo real en el dispositivo del usuario. La advertencia insta a los usuarios a pausar antes de compartir información sensible o transferir dinero. Google DeepMind afirma que el modelo accede a las conversaciones solo con el consentimiento del usuario y que ni Google ni el Gobierno de Singapur pueden ver las conversaciones de los usuarios a través del despliegue.

Para gestionar la eficiencia de la batería, el sistema emplea una estructura de dos etapas. En la primera etapa, un clasificador ligero filtra los mensajes entrantes. En la segunda etapa, el modelo Gemma ajustado realiza una evaluación contextual de una captura de conversación más amplia para confirmar una amenaza o descartar una falsa alarma.

Entrenamiento con tácticas de estafa locales

El modelo fue ajustado utilizando datos anonimizados de informes de estafas y fuentes de inteligencia, excluyendo información de identificación personal. Los datos de entrenamiento incluyeron ejemplos de estafas locales, como suplantación de identidad de instituciones públicas, bancos y figuras locales, así como esquemas que circulan en la región. Google DeepMind dice que esto ayuda al modelo a distinguir las conversaciones ordinarias de las tácticas de presión y manipulación utilizadas en la ingeniería social.

El ajuste se realizó en un entorno de Google Cloud gestionado por GovTech Singapur. Según el anuncio, el proceso de desarrollo se adhirió a medidas de gobernanza denominadas "Sandbox Soberano", "Sin datos de ciudadanos" y "Pruebas de estrés". Estas medidas aseguraron el aislamiento de los datos de entrenamiento y la exclusión de datos privados de ciudadanos.

Contexto de las tendencias de estafas en Singapur

La colaboración responde a las importantes pérdidas financieras por estafas en Singapur. Según el blog de Google DeepMind, las estafas han causado más de S$4 mil millones en pérdidas desde 2019. Un informe de mitad de año de la Fuerza de Policía de Singapur, citado por Streamline Feed, señaló 16.821 casos de estafa desde enero hasta junio de 2026, con pérdidas reportadas que cayeron un 17,9 % hasta S$410,6 millones en comparación con el año anterior.

Los datos policiales indican que en el 80,8 % de los casos reportados, las víctimas realizaron transferencias ellas mismas después de ser manipuladas. Los primeros contactos más comunes para estafas en la primera mitad de 2026 fueron las plataformas de mensajería (27,6 %) y las redes sociales (26,7 %).

Despliegue e integración futura

Google DeepMind y GovTech Singapur no han anunciado una fecha de lanzamiento específica, aplicaciones compatibles ni resultados públicos de precisión para el modelo. La empresa afirma que el despliegue dentro de las aplicaciones será progresivo y se desarrollará en consulta con el gobierno de Singapur. Los detalles sobre cómo los usuarios pueden instalar y usar el modelo se compartirán más adelante.

Mark Chen, Director de Confianza y Seguridad en GovTech Singapur, dijo: "Luchar contra las estafas no debería significar sacrificar la privacidad personal. Trabajando con Google DeepMind, estamos llevando la protección avanzada de IA directamente a los dispositivos de los ciudadanos. Esto nos permite detectar intentos de estafa altamente dirigidos y locales en tiempo real mientras mantenemos las comunicaciones personales completamente privadas."

Por qué importa

Esta iniciativa representa un cambio hacia la seguridad de IA que preserva la privacidad, trasladando la detección de servidores centralizados al dispositivo del usuario. Al aprovechar el procesamiento local, el modelo tiene como objetivo proteger las comunicaciones cifradas de extremo a extremo mientras proporciona advertencias en tiempo real contra la ingeniería social. Sin embargo, la efectividad de la herramienta sigue sin verificarse, ya que no se han publicado métricas de precisión independientes ni cronogramas de despliegue.

Fuentes (en inglés)

• techedt.com: Google and Singapore Government expand AI patching access and develop on-device scam detection - Tech Edition
• digitaltoday.co.kr: Google DeepMind develops Singapore-tailored scam detection AI model that runs on device
• streamlinefeed.co.ke: GovTech and DeepMind Build Singapore’s On-Device Scam Model | Streamline
• unite.ai: Google DeepMind and GovTech Unveil On-Device Scam Detection Model – Unite.AI

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.