Google DeepMind et GovTech Singapour développent un détecteur d'arnaques IA sur l'appareil

Google DeepMind et l'Agence de technologie gouvernementale de Singapour (GovTech Singapore) ont annoncé une collaboration pour développer un modèle d'IA qui détecte les arnaques potentielles directement sur les appareils Android. L'initiative, dévoilée lors de la Singapore International Cyber Week 2026, vise à identifier les schémas conversationnels manipulateurs localement, sans envoyer les données de messages privés aux serveurs cloud.

Détection sur l'appareil et vie privée

Le système proposé utilise une version ajustée du modèle léger Gemma de Google. Selon Google DeepMind, le modèle est conçu pour analyser les conversations directement sur l'appareil. Cette approche répond au défi du chiffrement de bout en bout utilisé par de nombreux services de messagerie, qui empêche l'analyse traditionnelle des chats privés dans le cloud.

Lorsque le modèle identifie des schémas d'interaction suspects, il affiche un avertissement en temps réel sur l'appareil de l'utilisateur. L'avertissement incite les utilisateurs à faire une pause avant de partager des informations sensibles ou d'effectuer des transferts d'argent. Google DeepMind déclare que le modèle n'accède aux conversations qu'avec le consentement de l'utilisateur et que ni Google ni le gouvernement de Singapour ne peuvent voir les conversations des utilisateurs via ce déploiement.

Pour gérer l'efficacité de la batterie, le système emploie une structure à deux étapes. Dans la première étape, un classifieur léger filtre les messages entrants. Dans la deuxième étape, le modèle Gemma ajusté effectue une évaluation contextuelle d'un extrait de conversation plus large pour confirmer une menace ou écarter un faux positif.

Entraînement sur les tactiques d'arnaque locales

Le modèle a été ajusté à l'aide de données anonymisées provenant de rapports d'arnaques et de flux de renseignement, à l'exclusion des informations permettant d'identifier les personnes. Les données d'entraînement comprenaient des exemples d'arnaques locales, telles que des usurpations d'identité d'institutions publiques, de banques et de personnalités locales, ainsi que des schémas circulant dans la région. Google DeepMind indique que cela aide le modèle à distinguer les conversations ordinaires des tactiques de pression et de manipulation utilisées dans l'ingénierie sociale.

L'ajustement a eu lieu dans un environnement Google Cloud géré par GovTech Singapore. Selon l'annonce, le processus de développement a respecté des mesures de gouvernance qualifiées de « Sovereign Sandbox », « No Citizen Data » et « Stress-Testing ». Ces mesures ont assuré l'isolement des données d'entraînement et l'exclusion des données privées des citoyens.

Contexte des tendances des arnaques à Singapour

La collaboration fait suite à des pertes financières importantes causées par les arnaques à Singapour. Selon le blog de Google DeepMind, les arnaques ont entraîné des pertes de plus de 4 milliards de dollars singapouriens depuis 2019. Un rapport du milieu de l'année de la Police de Singapour cité par Streamline Feed a indiqué 16 821 cas d'arnaques de janvier à juin 2026, avec des pertes signalées en baisse de 17,9 % à 410,6 millions de dollars singapouriens par rapport à l'année précédente.

Les données de la police indiquent que dans 80,8 % des cas signalés, les victimes ont effectué des transferts elles-mêmes après avoir été manipulées. Les premiers contacts les plus courants pour les arnaques au premier semestre 2026 étaient les plateformes de messagerie (27,6 %) et les réseaux sociaux (26,7 %).

Déploiement et intégration future

Google DeepMind et GovTech Singapore n'ont pas annoncé de date de lancement spécifique, d'applications prises en charge ou de résultats de précision publics pour le modèle. L'entreprise déclare que le déploiement au sein des applications sera progressif et développé en consultation avec le gouvernement de Singapour. Des détails sur la manière dont les utilisateurs peuvent installer et utiliser le modèle seront partagés ultérieurement.

Mark Chen, directeur de la Confiance et de la Sécurité chez GovTech Singapore, a déclaré : « Lutter contre les arnaques ne devrait pas signifier sacrifier la vie privée personnelle. En travaillant avec Google DeepMind, nous apportons une protection IA avancée directement sur les appareils des citoyens. Cela nous permet de détecter en temps réel les tentatives d'arnaque hautement ciblées et locales tout en gardant les communications personnelles complètement privées. »

Pourquoi c'est important

Cette initiative représente un changement vers une sécurité IA préservant la vie privée, déplaçant la détection des serveurs centralisés vers l'appareil de l'utilisateur. En tirant parti du traitement local, le modèle vise à protéger les communications chiffrées de bout en bout tout en fournissant des avertissements en temps réel contre l'ingénierie sociale. Cependant, l'efficacité de l'outil reste non vérifiée, car aucune métrique de précision indépendante ni calendrier de déploiement n'ont été publiés.

Sources (en anglais)

• techedt.com: Google and Singapore Government expand AI patching access and develop on-device scam detection - Tech Edition
• digitaltoday.co.kr: Google DeepMind develops Singapore-tailored scam detection AI model that runs on device
• streamlinefeed.co.ke: GovTech and DeepMind Build Singapore’s On-Device Scam Model | Streamline
• unite.ai: Google DeepMind and GovTech Unveil On-Device Scam Detection Model – Unite.AI

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.