Google DeepMind und Singapur GovTech entwickeln KI-Betrugserkennung direkt auf dem Gerät

Google DeepMind und die Government Technology Agency of Singapore (GovTech Singapore) haben eine Zusammenarbeit angekündigt, um ein KI-Modell zu entwickeln, das potenziellen Betrug direkt auf Android-Geräten erkennt. Die Initiative, die während der Singapore International Cyber Week 2026 vorgestellt wurde, zielt darauf ab, manipulative Gesprächsmuster lokal zu identifizieren, ohne private Nachrichten-Daten an Cloud-Server zu senden.

Erkennung direkt auf dem Gerät und Privatsphäre

Das vorgeschlagene System verwendet eine feinabgestimmte Version von Googles leichtgewichtigem Gemma-Modell. Laut Google DeepMind ist das Modell darauf ausgelegt, Gespräche direkt auf dem Gerät zu analysieren. Dieser Ansatz adressiert die Herausforderung der Ende-zu-Ende-Verschlüsselung, die von vielen Messaging-Diensten verwendet wird und die traditionelle Cloud-basierte Überprüfung privater Chats verhindert.

Wenn das Modell verdächtige Interaktionsmuster erkennt, zeigt es eine Echtzeit-Warnung auf dem Gerät des Nutzers an. Die Warnung mahnt die Nutzer an, innezuhalten, bevor sie sensible Informationen teilen oder Geld überweisen. Google DeepMind gibt an, dass das Modell nur mit Zustimmung des Nutzers auf Gespräche zugreift und weder Google noch die singapurische Regierung die Nutzer-Kommunikation durch die Bereitstellung einsehen können.

Um die Batterieeffizienz zu verwalten, employs das System eine zweistufige Struktur. In der ersten Stufe screenet ein leichtgewichtiger Klassifizierer eingehende Nachrichten. In der zweiten Stufe führt das feinabgestimmte Gemma-Modell eine kontextuelle Bewertung eines größeren Gesprächsausschnitts durch, um eine Bedrohung zu bestätigen oder eine Fehlalarmierung auszuschließen.

Training auf lokale Betrugstaktiken

Das Modell wurde mit anonymisierten Daten aus Betrugsberichten und Intelligence-Feeds feinabgestimmt, wobei persönlich identifizierbare Informationen ausgeschlossen wurden. Die Trainingsdaten umfassten Beispiele für lokale Betrugsmaschen, wie etwa die Nachahmung öffentlicher Einrichtungen, Banken und lokaler Persönlichkeiten, sowie schemes, die in der Region kursieren. Google DeepMind sagt, dies helfe dem Modell, gewöhnliche Gespräche von den Druck- und Manipulationstaktiken zu unterscheiden, die im Social Engineering verwendet werden.

Die Feinabstimmung fand in einer von GovTech Singapore verwalteten Google Cloud-Umgebung statt. Laut der Ankündigung folgte der Entwicklungsprozess Governance-Maßnahmen mit den Bezeichnungen "Sovereign Sandbox", "No Citizen Data" und "Stress-Testing". Diese Maßnahmen stellten die Isolierung der Trainingsdaten und den Ausschluss privater Bürgerdaten sicher.

Kontext der Betrugstrends in Singapur

Die Zusammenarbeit reagiert auf erhebliche finanzielle Verluste durch Betrug in Singapur. Laut dem Google DeepMind Blog haben Betrugsmaschen seit 2019 zu Verlusten von mehr als 4 Milliarden S$ geführt. Ein Halbjahresbericht der Singapore Police Force, zitiert von Streamline Feed, verzeichnete 16.821 Betrugsfälle von Januar bis Juni 2026, wobei die gemeldeten Verluste im Vergleich zum Vorjahr um 17,9 % auf 410,6 Millionen S$ fielen.

Polizeidaten zeigen, dass in 80,8 % der gemeldeten Fälle die Opfer selbst Überweisungen tätigten, nachdem sie manipuliert worden waren. Die häufigsten ersten Kontaktwege für Betrug in der ersten Hälfte von 2026 waren Messaging-Plattformen (27,6 %) und soziale Medien (26,7 %).

Rollout und zukünftige Integration

Google DeepMind und GovTech Singapore haben kein spezifisches Veröffentlichungsdatum, unterstützte Apps oder öffentliche Genauigkeitsergebnisse für das Modell bekannt gegeben. Das Unternehmen gibt an, dass die Einführung in Anwendungen schrittweise erfolgen und in Absprache mit der singapurischen Regierung entwickelt wird. Details dazu, wie Nutzer das Modell installieren und verwenden können, werden später geteilt.

Mark Chen, Director of Trust and Safety bei GovTech Singapore, sagte: "Der Kampf gegen Betrug sollte nicht bedeuten, die persönliche Privatsphäre aufzugeben. In Zusammenarbeit mit Google DeepMind bringen wir fortschrittlichen KI-Schutz direkt auf die Geräte der Bürger. Dies ermöglicht es uns, hochgradig gezielte, lokale Betrugsversuche in Echtzeit zu erkennen, während persönliche Kommunikationen vollständig privat bleiben."

Warum es wichtig ist

Diese Initiative stellt einen Wandel hin zu privatsphärenbewahrender KI-Sicherheit dar und verlagert die Erkennung von zentralisierten Servern auf das Gerät des Nutzers. Durch die Nutzung lokaler Verarbeitung zielt das Modell darauf ab, Ende-zu-Ende-verschlüsselte Kommunikationen zu schützen und gleichzeitig Echtzeit-Warnungen gegen Social Engineering bereitzustellen. Die Wirksamkeit des Tools bleibt jedoch unverifiziert, da keine unabhängigen Genauigkeitsmetriken oder Bereitstellungszeitpläne veröffentlicht wurden.

Quellen (auf Englisch)

• techedt.com: Google and Singapore Government expand AI patching access and develop on-device scam detection - Tech Edition
• digitaltoday.co.kr: Google DeepMind develops Singapore-tailored scam detection AI model that runs on device
• streamlinefeed.co.ke: GovTech and DeepMind Build Singapore’s On-Device Scam Model | Streamline
• unite.ai: Google DeepMind and GovTech Unveil On-Device Scam Detection Model – Unite.AI

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.