Google DeepMind 与新加坡政府科技局(GovTech)于 2026 年 10 月 14 日宣布推出设备端诈骗检测模型,并在新加坡国际网络周上发布。诈骗占新加坡报案犯罪的一半以上,自 2019 年以来损失超过 40 亿新元,其中社会工程类诈骗目前占全部损失的最多 80%。阅读官方公告。
检测方式
轻量级 Gemma 模型基于本地诈骗对话微调,覆盖冒充公共机构、银行和本地人物的骗局以及区域性流行话术。检测采用两阶段流水线:高效分类器先以极低功耗筛检入站消息;再由微调后的 Gemma 模型结合更大的对话快照做上下文评估,确认威胁或排除误报。检测到操纵模式时,设备端实时弹出警告,提示用户在泄露敏感信息或转账前暂停。
为什么在设备端
服务器端扫描无法查看端到端加密通讯平台上的对话。在设备上处理使对话模式分析保持在本地,合作方称这既能更快识别操纵意图,又不暴露私人通信内容。
治理措施
- 微调在 GovTech 管理的 Google Cloud 主权沙箱内完成,训练数据隔离。
- 训练严格排除私人及个人身份信息,使用来自诈骗报告和情报源的匿名化数据集。
- 模型经合成对话与本地语料压力测试,覆盖多样诈骗类别和不断演变的冒充手法。
公告将该项目定位为消息平台与操作系统厂商的参考模板,二者可在本地集成这类轻量模型。模型安全实践的相关报道见我们的来源核查指南。