Google DeepMind 与新加坡 GovTech 开发端侧人工智能诈骗检测器

Google DeepMind 与新加坡政府科技局（GovTech Singapore）宣布合作，开发一种直接在 Android 设备上检测潜在诈骗的人工智能模型。该倡议于 2026 年新加坡国际网络周期间揭晓，旨在本地识别操纵性对话模式，而无需将私密消息数据发送至云服务器。

端侧检测与隐私保护

拟议的系统使用 Google 轻量级 Gemma 模型的微调版本。据 Google DeepMind 称，该模型旨在在设备本身分析对话。这种方法解决了许多消息服务使用的端到端加密带来的挑战，这些加密技术阻止了传统基于云端的私密聊天扫描。

当模型识别出可疑的交互模式时，它会在用户的设备上显示实时警告。该警告敦促用户在分享敏感信息或转账之前暂停操作。Google DeepMind 表示，该模型仅在用户同意下访问对话，且部署后 Google 和新加坡政府均无法查看用户对话。

为了管理电池效率，该系统采用两阶段结构。在第一阶段，轻量级分类器筛选传入的消息。在第二阶段，经过微调的 Gemma 模型对更大的对话快照进行上下文评估，以确认威胁或排除误报。

基于本地诈骗手法的训练

该模型使用来自诈骗报告和信息源的匿名数据进行微调，排除了个人身份信息。训练数据包括本地诈骗案例，例如冒充公共机构、银行和本地人物，以及在该地区流传的骗局。Google DeepMind 表示，这有助于模型区分普通对话与社会工程中使用的压力和操纵手段。

微调过程在新加坡 GovTech 管理的 Google Cloud 环境中进行。根据公告，开发过程遵循了被称为“主权沙盒”（Sovereign Sandbox）、“无公民数据”（No Citizen Data）和“压力测试”（Stress-Testing）的治理措施。这些措施确保了训练数据的隔离并排除了私人公民数据。

新加坡诈骗趋势背景

此次合作旨在应对新加坡因诈骗造成的重大经济损失。据 Google DeepMind 博客称，自 2019 年以来，诈骗造成的经济损失已超过 40 亿新加坡元。Streamline Feed 引用新加坡警察部队的一份年中报告指出，2026 年 1 月至 6 月期间发生了 16,821 起诈骗案件，报告损失同比下降 17.9%，至 4.106 亿新加坡元。

警方数据显示，在 80.8% 的报告案件中，受害者在被操纵后自行进行了转账。2026 年上半年最常见的诈骗初始接触渠道是消息平台（27.6%）和社交媒体（26.7%）。

推出与未来整合

Google DeepMind 和新加坡 GovTech 尚未公布该模型的具体发布日期、支持的应用程序或公开准确率结果。该公司表示，应用程序内的推出将分阶段进行，并与新加坡政府协商开发。关于用户如何安装和使用该模型的详细信息将在稍后分享。

新加坡 GovTech 信任与安全总监 Mark Chen 表示：“打击诈骗不应以牺牲个人隐私为代价。与 Google DeepMind 合作，我们将先进的人工智能保护直接带到公民的设备上。这使我们能够实时捕获高度针对性的本地诈骗尝试，同时保持个人通信完全私密。”

为何重要

这一倡议代表了向隐私保护型人工智能安全的转变，将检测从集中式服务器移至用户设备。通过利用本地处理，该模型旨在保护端到端加密的通信，同时提供针对社会工程的实时警告。然而，该工具的有效性仍未得到验证，因为尚未发布独立的准确率指标或部署时间表。

来源（英文）

• techedt.com: Google and Singapore Government expand AI patching access and develop on-device scam detection - Tech Edition
• digitaltoday.co.kr: Google DeepMind develops Singapore-tailored scam detection AI model that runs on device
• streamlinefeed.co.ke: GovTech and DeepMind Build Singapore’s On-Device Scam Model | Streamline
• unite.ai: Google DeepMind and GovTech Unveil On-Device Scam Detection Model – Unite.AI

本文由人工智能翻译自英文原文，并经过自动审核，确保与原文意思一致。来源已用英文核实。