新加坡与谷歌开发保护隐私的人工智能诈骗预警系统,量子安全迁移期限临近

阅读约需 8 分钟
Singapore and Google Develop Private AI Scam Alerts as Quantum Security Deadlines Approach

手机预警与加密升级应对两种不同威胁

新加坡正在为安卓手机开发人工智能诈骗检测模型,同时规划更长期的加密迁移,以抵御未来量子计算机带来的威胁。2026年10月14日新加坡国际网络周上宣布的这些措施,既着眼于立即防范操纵诈骗,也为一种可能需要多年才会显现的威胁做准备。

目录
  1. 手机预警与加密升级应对两种不同威胁
  2. 手机模型如何判断何时发出警告
  3. 让私人聊天内容留在设备上
  4. 本地诈骗仍造成高额损失,尽管损失有所下降
  5. 新加坡为何希望防护措施彼此联动
  6. Fairwind 旨在弥补关键系统的弱点
  7. 量子风险要求在技术突破前做好准备
  8. 关键基础设施的目标期限为2031年
  9. 启动资助推动迁移进入实际试点阶段
  10. 要点

新加坡政府科技局(GovTech)正与 Google DeepMind 合作开发一款模型,可直接在用户设备上分析对话,并在发现潜在诈骗时发出警告,而不会将私人消息发送到外部服务器。另外,关键信息基础设施所有者预计将在2031年前完成量子安全迁移;新加坡还计划发布更广泛的指导,帮助其他机构以2035年为目标推进迁移。

诈骗规模之大,使这项手机项目刻不容缓。Google DeepMind 的诈骗检测公告称,自2019年以来,诈骗占新加坡报案罪案的一半以上,造成的损失超过40亿新元。社交工程诈骗中,犯罪分子通过令人信服的交流诱使受害者交出钱财或敏感信息,此类诈骗造成的损失最高占总额的80%。

数字发展及新闻部长兼网络安全与智慧国计划组部长杨莉明表示,及早发现诈骗可以保护用户,同时不必牺牲对话隐私。

“如果设备能及早识别操纵迹象,我们就能帮助潜在受害者避免蒙受财务损失或泄露凭证,同时让他们的私人消息留在自己的设备上。”她说。

这些公告针对的是不同弱点。诈骗模型旨在识别对话过程中出现的欺骗行为;量子安全计划则要在足够强大的量子计算机构成威胁之前,替换容易受到攻击的密码技术。

广告

手机模型如何判断何时发出警告

Google DeepMind 表示,该系统使用其轻量级 Gemma 模型,并针对新加坡常见的诈骗对话进行调整。它不只是依赖可疑链接或已知恶意网站,还会寻找可能表明有人正遭操纵的对话模式。

这套设计分为两个阶段。首先,一个小型分类器以尽可能低的能耗筛查收到的消息,寻找潜在威胁。如果发现可疑对话,经过调整的 Gemma 模型就会评估更大范围的对话内容,判断是否有必要发出警告,或最初的怀疑是否属于误报。

这种分工很重要,因为手机的电池电量和计算能力有限。分类器是一种将信息归入不同类别的模型。先用较小的模型进行初步检查,就不必对每条消息都运行耗费更多资源的上下文分析。

系统发现有人遭操纵时,会在设备上显示警告,提醒用户在分享敏感信息或转账前先暂停。按照目前的说明,它的作用是打断可能造成伤害的决定,而不是自动拦截付款,也不能保证对话安全。

计划中的模型旨在分析 WhatsApp 和 Telegram 等消息应用中的文字交流。谷歌尚未公布发布日期、安装说明,也未说明它是否会成为安卓系统的默认功能。公告也没有提供检测准确率、误报率或耗电量的实测数据,因此这些实际问题仍未得到解答。

让私人聊天内容留在设备上

这套隐私方案的关键在于分析发生的位置。传统检测方式可能会将消息发送到远程服务器进行检查。而在这里,模型会在本地处理对话数据,因此无需将私人交流内容传出手机,就能评估是否存在诈骗。

这种方式适用于采用加密技术的消息服务。在这类服务中,只有对话双方能够阅读消息。拟议中的保护措施不会要求平台在服务器上检查消息,而是在用户能够阅读消息的地方,也就是设备上运行。

广告

Google DeepMind 表示,只有获得用户同意后,系统才会访问对话内容;部署该模型不会让谷歌或新加坡政府能够访问用户的对话。这些表述针对的是拟议设计,并不意味着该功能已经向所有人开放。

GovTech 信任与安全部门主任 Mark Chen 将这项合作描述为一项在不放弃隐私的前提下检测定向诈骗的努力。

打击诈骗不应以牺牲个人隐私为代价。我们正与 Google DeepMind 合作,将先进的人工智能防护直接部署到公民的设备上。这样一来,我们就能实时发现高度针对性的本地诈骗,同时确保个人通信内容完全保密。

Google DeepMind 还区分了模型的训练与使用。训练工作在 GovTech 管理的 Google Cloud Platform 环境中进行,数据彼此隔离。该公司表示,训练未使用私人信息或个人身份信息,而是使用根据诈骗报告和情报信息源整理的匿名数据集。

本地诈骗仍造成高额损失,尽管损失有所下降

模型的训练内容包括冒充公共机构、银行和本地知名人士的诈骗手法,以及区域性诈骗套路。Google DeepMind 表示,通用模型可能难以应对这些本地欺骗手段,因此需要进行调整,以区分普通社交交流和诱骗他人交出钱财或凭证的施压行为。

测试使用了合成对话和本地语言数据集,其中包括旨在反映本地说话习惯的对话。谷歌表示,随着诈骗手法变化,模型训练将继续进行。此举旨在让模型在犯罪分子改变话术后仍能发挥作用,而不是无限期依赖一份固定的已知手法清单。

杨莉明举例说,一名本地专业人士参加了一场伪造的线上会议,误以为会上有黄循财总理和其他高级官员,之后转账近500万新元。据她介绍,犯罪分子利用深度伪造技术让会议显得可信,并声称这笔款项将用于支持一项意义重大的全球事业。

深度伪造是模仿真人的合成音频或视频。这个案例表明,仅凭熟悉感判断是否可信并不可靠。不过,这并不能证明拟议中的文字分析模型能够识别伪造的线上视频会议。

警方数据显示,2026年上半年共有16,821起诈骗案,损失达4.106亿新元。与去年同期相比,案件数下降14.4%,损失下降17.9%。不过,平均每起报案诈骗案的损失仍约为24,410新元,计算方式是将4.106亿新元除以16,821。这个平均值无法反映损失的分布情况,但凸显了现存问题造成的经济损失仍然巨大。

广告

新加坡为何希望防护措施彼此联动

手机模型只是更广泛应对措施的一部分。杨莉明描述了一种诈骗链条:诈骗可能始于社交媒体,转到消息服务,继而通过电话继续,最终以向金融机构转账告终。每家机构或许都能发现某个警示信号,却看不到完整过程。

杨莉明表示,除非不同防护措施能够相互联动、触发其他机构采取行动,否则仅加强各机构内部的诈骗检测还不够。

因此,仅仅让每家机构都更善于阻止诈骗还不够。我们还必须让防护措施彼此联动,使生态系统某一环节发现的单一信号能够触发其他环节采取行动。

新加坡已经使用人工智能来检查私人对话之外的威胁。GovTech 与新加坡警察部队的诈骗分析与战术干预系统(SATIS)每天扫描并评估超过60万个网站,每个网站的处理时间仅需数秒。该系统每月遏制约2万个恶意网站,其覆盖范围也已扩展至可疑手机号码和线上平台。

这两套系统的用途不同。SATIS 针对诈骗分子使用的基础设施;手机模型则寻找对话中的诱骗迹象。两者共同体现了清除恶意网站与在用户因可信消息采取行动前发出警告之间的区别。目前尚未公布将新的手机预警与其他机构联动的具体机制。

合作范围也延伸至新加坡以外。由新加坡发起的东盟诈骗政策与最佳实践指南已于2026年早些时候获成员国批准。杨莉明更广泛的主张是,无论是政府单独行动,还是各国各自为战,都无法充分应对跨越不同服务和国界的威胁。

Fairwind 旨在弥补关键系统的弱点

谷歌另于10月14日宣布,新加坡将参与其 Fairwind 计划,让政府能够使用先进的人工智能网络安全工具来发现、验证并修复漏洞。

谷歌表示,这些工具可将原本需要数周的工作缩短至数分钟。该计划旨在攻击者利用漏洞之前及时修补,降低关键系统和服务中断的风险。

广告

Fairwind 与诈骗检测模型针对的是不同问题。Fairwind 关注软件和系统中的弱点;手机模型关注的是通过对话欺骗用户,即使消息软件本身运行正常,也可能发生这类欺骗。

目前尚未公布新加坡系统应用这些工具后提速的详细成果。相关说法描述的是该计划预期具备的能力,而非政府部门运营效率已经实测提升的结果。尽管如此,这两项举措都体现了同一种政策选择:将人工智能用于防御,而不是因为犯罪分子也能利用人工智能就放弃使用。

量子风险要求在技术突破前做好准备

量子安全措施聚焦密码技术,也就是保护信息、帮助确认数字通信和交易是否可信的数学方法。足够强大的量子计算机可能破解目前用于保护金融交易、敏感通信和数字系统的一些技术。

量子计算利用量子物理原理,以不同于传统计算机的方式执行运算。安全方面的担忧并不是所有加密方式现在都已不安全,而是一些广泛使用的方法可能在量子计算机达到所需能力后变得容易受到攻击。

杨莉明表示,量子技术何时达到这一水平尚不确定,但她解释了各机构为何应从现在开始准备。

“我们不知道这会在什么时候发生,但我们知道必须做好准备。不法分子已经有动机窃取敏感的加密数据,并等到未来量子计算机能够将其解密时再利用。”她说。

对于必须保密多年的信息,这会带来眼下的风险。攻击者可能今天就收集加密数据,并保存到未来技术能够解密之时。因此,秘密需要保密的年限,与当前保护措施的强度同样重要。

大型机构的迁移可能需要数年。它们必须评估风险、确定数据和系统的优先级、识别易受攻击的加密方式、与供应商协调、测试替代方案,并逐步完成变更。如果等到量子技术确认取得突破才开始行动,可能就没有足够时间完成这些工作。

关键基础设施的目标期限为2031年

新加坡网络安全局(CSA)6月发布了关键信息基础设施所有者的迁移里程碑指导。这些基础设施是支撑基本服务的计算机系统,其所有者预计将在2031年前完成迁移。

相关行业包括能源、水务、银行与金融、医疗保健、交通、资讯通信、媒体、安保与紧急服务,以及政府部门。这些系统一旦发生故障,影响可能远超运营机构本身,因此它们在迁移计划中被列为优先对象。

广告

新加坡还计划发布指导,帮助其他机构以2035年为目标推进迁移。杨莉明指出,持有必须保密多年的信息的机构,以及提供通信和数字交易等关键服务的机构,都是相关例子。

这两个目标不应被视为相同要求。2031年的目标与 CSA 针对关键信息基础设施所有者发布的指导有关。2035年则是新加坡计划通过指导帮助其他机构实现的更广泛迁移目标。这两个期限都不是对量子计算机何时能够破解现有密码技术的预测。

启动资助推动迁移进入实际试点阶段

一项新的量子安全启动资助将在有限期限内提供资金,帮助机构从规划转向实施。其目的是发现实际困难、在真实运营环境中测试解决方案,并在更广泛部署前积累经验。

所有机构均可申请这项资助,但关键信息基础设施所有者将获优先考虑。获资助的试点项目最长可持续六个月,可以由机构内部开展,也可以与解决方案提供商合作。计划说明的项目期限为11月1日至2027年10月31日;资助细则未明确说明开始年份。

优先项目包括迁移整个应用程序或系统,以及识别并编制密码技术清单。编制清单意味着确定密码技术的使用位置,让机构能够判断哪些内容需要替换,以及涉及哪些供应商或系统。

公布的时间安排如下:

  • 2026年6月:CSA 发布关键信息基础设施所有者的迁移里程碑指导。
  • 2026年10月14日:新加坡国际网络周期间,公布手机诈骗模型、更广泛的量子迁移计划以及谷歌网络安全合作项目。
  • 11月1日:量子安全资助计划公布的启动日期。
  • 2027年10月31日:资助计划公布的结束日期;各获资助试点项目最长可持续六个月。
  • 2031年:关键信息基础设施所有者预计完成迁移。
  • 2035年:计划通过指导帮助其他机构实现的更广泛迁移目标。

公告未说明资助金额。安卓模型也尚未公布发布日期。目前,下一步工作包括公布如何安装和使用诈骗防护功能的更多细节,同时通过实际试点帮助机构为加密迁移做准备。

要点

  • GovTech 与 Google DeepMind 正在开发安卓诈骗检测模型,可在本地分析对话,并在发现诱骗行为时向用户发出警告。
  • 这项设计需要获得用户同意,并旨在让私人对话留在设备上。
  • 2026年上半年,新加坡16,821起诈骗案共造成4.106亿新元损失,尽管案件数和损失额较去年同期有所下降。
  • 谷歌 Fairwind 计划将向新加坡提供人工智能工具,旨在更快地发现、验证并修复网络安全漏洞。
  • 关键信息基础设施所有者预计将在2031年前完成量子安全迁移,其他机构的更广泛目标期限为2035年。
  • 一项新资助将支持最长六个月的量子安全实际试点项目,并优先考虑关键信息基础设施所有者。
分享本文

猜你喜欢