2026年10月14日 | 责任与安全
作者：杰杰·吉瓦克斯 (Jeet Jivraj) 和 米格尔·德·安德烈斯 (Miguel de Andrés)
在新加坡，投资欺诈、假冒工作机会以及冒充公职人员等犯罪行为占据了报告犯罪总数的一半以上。自 2019 年以来，此类骗局造成的经济损失已超过 40 亿新加坡元。与此同时，诈骗手段已从简单的网络钓鱼演变为复杂的社交工程攻击，这类新型骗局目前占所有损失的 80%。
为应对这一挑战，Google DeepMind 宣布与新加坡政府技术局 (GovTech Singapore) 展开合作，共同开发并改进一种注重隐私保护的端侧设备欺诈检测模型。
基于本地运行的隐私保护机制
通用人工智能模型往往难以识别针对特定地区的本地化欺骗技术。为此，Google 对其轻量级 Gemma 模型进行了微调，使其专门适配于本地诈骗对话场景。训练数据涵盖了扮演公共机构、银行及地方人物的角色，同时也包括了一些热门的地区性计划。这种针对性微调旨在确保公民安装的应用程序能够有效区分良性的社交聊天与真正的操纵行为。
与传统依赖服务器端扫描云端消息的威胁检测方式不同，该模型直接在用户设备上处理对话数据。这种架构不仅提升了对对话模式分析和操纵意图检测的速度，还能在用户的财务信息或凭证暴露之前提供预警。
该模型的推出将经过严格分阶段实施，并与新加坡政府紧密协作。在部署过程中，模型仅能在用户同意应用程序使用条款的前提下访问设备上的对话内容。由于计算完全在设备端进行，新加坡政府和 Google 均无法通过该部署访问用户的私人对话记录。
打击骗局不应以牺牲个人隐私为代价。我们将先进的人工智能保护直接引入公民的设备中。这使得我们能够在实时捕获针对性的本地诈骗行为的同时，保持个人通讯的私密性。
技术架构：本地环境与边缘效率
当模型检测到具有操纵性的对话模式时，它会直接在用户设备上触发实时警告，建议用户在分享敏感信息或资金前暂停操作并保持警惕。
在现代智能手机上运行复杂的诈骗分类模型面临算力挑战。为解决这一问题，该项目采用了一种两阶段处理管道：
- 第一阶段：利用一个轻量级、高效的分类器筛选入门消息。该步骤功耗极低，专注于捕捉潜在的威胁信号。
- 第二阶段：调用经过精心调整的 Gemma 模型进行上下文分析。通过分析对话的更大快照来确认威胁真实性或排除误报。
严格的治理框架
这项合作成果在新加坡国际网络周 (SICW 2026) 上正式发布，为消息平台提供了一个平衡端到端加密与用户保护的参考模型。整个开发过程遵循严格的治理标准：
- 主权沙箱：模型微调在由 GovTech Singapore 管理和维护的 GCP 环境中进行，确保训练数据的隔离与安全。
- 无公民数据：训练过程严格排除任何私人或个人可识别信息，仅使用来自欺诈报告和情报来源的匿名数据集。
- 压力测试：模型通过与合成对话及本地实体的交互进行测试，以覆盖各类骗局场景及不断演变的假冒策略。
展望：设备安全的未来
该项目展示了人工智能如何在保障安全与隐私的前提下协助打击犯罪，同时也体现了政府与模型提供商合作开发公共利益技术的潜力。通过这种轻量级的端侧模型，团队已验证了本地、实时诈骗检测的能力。未来，合作方计划在不久的将来分享更多细节，并探索在其他国家部署类似技术的可能性。
