马来西亚移除13,883条深度伪造内容,平台面临2026年底期限

阅读约需 7 分钟
Malaysia Removes 13,883 Deepfake Items as Platforms Face End of 2026 Deadline

近1.4万条深度伪造内容被下架,平台将面临更严格措施

马来西亚通讯及多媒体委员会(MCMC)在接获公众投诉并提出下架请求后,已促使平台移除13,883条深度伪造内容,其中1,178条涉及政治领袖。通讯部长法米·法兹尔于11月17日在国会告知议员这一情况。

目录
  1. 近1.4万条深度伪造内容被下架,平台将面临更严格措施
  2. 平台必须作出哪些改变
  3. 最新统计公布前,投诉数量急剧攀升
  4. 人工智能滥用调查带来罚款和警告
  5. 政治人物的声音为何容易被仿冒
  6. 为何选举期间下架速度至关重要
  7. 分享前可以核实哪些信息
  8. 要点

下架数据涵盖2024年1月1日至2026年10月31日。与此同时,政府要求数字平台在2026年底前建立相应机制,自动处理深度伪造内容以及被反复上传的虚假材料,而不是让用户一次又一次举报同一内容。

法米表示,未遵守《风险缓解准则》的平台,每项违规可能面临100万至1,000万令吉罚款。该准则于6月1日生效,要求持牌服务提供商识别、评估并处理有害内容,明确标注使用人工智能生成或篡改的特定材料,并提供便捷的举报工具。

这些数字表明,冒充政治人物只是更广泛问题的一部分。涉及政治领袖的内容约占13,883条下架内容的8.5%,约为每12条中有1条。其余12,705条不属于这一类别,但法米没有详细说明这些内容涉及什么主题。

对社交媒体用户来说,现实中的担忧很简单:如今,一张熟悉的面孔或一种熟悉的声音,可能出现在一段令人信服的录音或视频中,而当事人从未说过或做过其中的事。政府的应对措施包括提出下架请求、制定平台规则、开展刑事调查,以及发起公众宣传活动,敦促人们在分享信息前先核实。

平台必须作出哪些改变

法米指出,公众反复投诉而平台未能有效采取行动,是政府和MCMC面临的核心挑战之一。如果同一段虚假录音换个帖子或账号再次出现,只删除一次上传内容仍无法解决问题。

2026年底这一期限旨在推动平台对反复传播的内容自动采取行动。法米是在回答国民联盟(Perikatan Nasional)亚罗士打国会议员阿夫南·哈米米·泰益·阿占乌丁的附加提问时宣布这一期限的。对方询问了如何在深度伪造内容发布前进行筛查,以及如何识别其制作者。

广告

《风险缓解准则》依据《2025年网络安全法》实施。该准则要求持牌服务提供商建立机制,识别有害材料、评估其带来的风险并采取行动。标注要求适用于使用人工智能生成或篡改、且可能被误认为真实内容的图像、音频和视频。

法米在议事答问环节解释了标注义务:

“准则还要求,对使用人工智能生成或篡改、且可能被误认为真实内容的图像、音频或视频,必须清晰标注或注明,”他说。

标注可以告诉观看者,某段录音或视频是生成或修改过的。对于应当下架的内容,则需要采取删除措施。准则还要求提供便捷的举报工具,让用户能够在接触到有害材料时向平台发出提醒。

准则特别关注选举期间的情况:平台必须在风险评估中考虑选举期间升高的风险。马来西亚第16届全国大选必须在2028年2月前举行,因此,在竞选活动开始前做好准备,已成为讨论中的紧迫事项。

最新统计公布前,投诉数量急剧攀升

通讯部副部长张念群此前曾告知国会下议院,MCMC在2024年收到917宗有关深度伪造内容的投诉,2025年升至3,612宗。截至2026年6月15日,又收到7,967宗。

2025年的数字几乎是2024年的四倍。截至2026年6月15日收到的投诉数量,已经是2025全年总数的两倍多。这一快速增长有助于解释为何平台面临更大压力,必须加快处理投诉并防止内容反复上传。

投诉数量统计的是提交给MCMC的举报,而最新下架数字统计的是服务提供商移除的内容条目。投诉、上传内容和刑事调查是不同的统计单位:一段录音可以通过许多帖子传播,而一项调查也可能审查涉及多份材料的行为。

法米此前曾公布,2025年1月1日至2026年9月15日期间,有713条涉及政治领袖的帖子被移除。最新的1,178条总数涵盖更长时间段,从2024年1月开始,到2026年10月结束。

相关应对措施的主要日期如下:

  • 2024年1月1日:最新下架总数的统计期开始。
  • 2026年6月1日:《风险缓解准则》生效。
  • 2026年6月15日:当年深度伪造投诉达到7,967宗。
  • 2026年10月31日:最新统计期结束,共有13,883条内容被移除。
  • 2026年11月17日:法米在国会说明相关数据和平台义务。
  • 2026年底:平台预计须准备好自动采取行动的机制。
  • 2028年2月:第16届全国大选必须举行的期限。
广告

人工智能滥用调查带来罚款和警告

MCMC根据《1998年通讯与多媒体法》第233条调查了61宗涉及人工智能滥用的案件。法米的执法情况总结将统计期定为2025年1月1日至2026年10月31日;但他在另一处也被引述称,同一总数的统计期为2026年1月1日至10月31日。

其中10宗案件进入法庭审理。6宗已作出裁决,罚款总额为19,500令吉,另有4宗仍在法院审理。相关案件后续审理日期未予公布。

另有7宗案件收到总额为755,000令吉的罚款和解通知,另发出17封警告信。和解罚款是执法程序中提出的一种财务和解,与法院判处的罚款不同。

法米进一步说明,其余27宗案件分为两类:仍在调查中,或被列为无需采取进一步行动。他没有公布各类别的具体数量。

部长表示,如果内容符合违法行为的法律构成要件,可依据第233条采取行动。《网络安全法》及其准则针对平台责任,而根据《通讯与多媒体法》开展的调查则审查涉嫌违法行为。这使政府能够分别针对网络上的有害材料及其背后的行为采取行动。

政治人物的声音为何容易被仿冒

马来西亚网络消费者协会(MCCA)主席西拉杰·贾利勒警告称,只需一部智能手机或一台基本款笔记本电脑,以及一段候选人讲话的短录音,就能制作出逼真的政治深度伪造内容。

他描述了制作者可能需要的少量素材和设备:

“任何人只要有一部智能手机或一台基本款笔记本电脑、一段候选人公开演讲的15至30秒音频,以及现成的生成式人工智能工具,就能在几分钟内克隆声音并同步口型,而且免费或只需几令吉,”他说。

声音克隆利用软件模仿某人的说话声音。随后,口型同步技术可以让一张脸看起来像是在说编造的话。观看者可能同时认出这张脸和这个声音,从而觉得虚假言论熟悉可信。

西拉杰说,政客通过演讲、直播和新闻发布会提供了大量素材。这些公开录音为制作伪造内容的人提供了清晰的声音、表情和动作范例。

一些政治短片是为了搞笑,另一些则提出具体的虚假说法。在马六甲州选举竞选期间,国民阵线副主席莫哈末哈山曾提醒选民注意TikTok上的一段人工智能视频。视频虚假地显示他承诺向每个人发放25,000令吉。此类短片可以利用政客从未作出的承诺,制造人们对金钱或政策的期待。

广告

为何选举期间下架速度至关重要

西拉杰认为,平台仍过于依赖在视频传播后才根据举报采取行动。一段短片可能在线停留数小时甚至数天,等待用户举报和审核人员审查。

到那时,用户可能已经录下屏幕内容,并将副本转发到私密的WhatsApp或Telegram群组。删除原帖并不能阻止这些副本在其他地方继续传播。

这位MCCA主席强调了竞选期间及时回应的紧迫性:

“在时间紧迫的选举竞选期间,速度至关重要,”他说。

西拉杰呼吁平台在内容上传时使用自动检测和醒目标记,而不是依赖用户自行声明帖子是由人工智能生成的。水印是一种醒目标记,有助于观看者识别合成内容。

他还建议设立专门的选举应对团队,并规定在选举委员会、候选人或认证事实核查机构标记经核实的选举深度伪造内容后,两小时内将其移除。他呼吁禁止付费推广,也反对推荐系统推送来源未经核实的政治内容。

这些措施是MCCA提出的建议。政府已设定建立自动处置机制的期限,并说明现行准则规定的义务;西拉杰则敦促在下一届全国大选前,制定更具体的速度、检测和传播标准。

分享前可以核实哪些信息

西拉杰建议观看者留意嘴部、牙齿和下颌线是否略显模糊,快速说话时是否出现不自然的眨眼,或牙齿看起来是否异常光滑。音频方面的线索包括声音平淡或节奏过于规律,尤其是带有当地马来语口音的声音,以及背景噪音突然变化。

发布内容的账号也值得留意。西拉杰说,深度伪造内容往往出现在新创建的匿名或未经认证的页面上,而非候选人的官方账号或知名新闻机构。

一种实用的核实方法是,查看当事人的官方渠道是否发布了同一公告,并寻找该演讲或活动的完整录音或视频。如果短片承诺发钱、宣布令人意外的政策,或将煽动性言论归于某人,在转发前先核实说法,就能阻止更多副本传播。

MCMC的“安全上网”宣传活动旨在帮助公众养成这些习惯。法米表示,活动内容包括识别深度伪造、身份冒充和人工智能生成的虚假信息,同时也致力于提升整体数字素养。

广告

通讯部长在国会说明了这项宣传活动的目的:

“在预防方面,政府也通过MCMC开展‘安全上网’宣传活动,以提高公众的意识和数字素养,尤其是识别深度伪造内容、身份冒充以及人工智能生成的虚假信息,”他在议事答问环节说。

对用户来说,眼下可以采取的措施是暂停、核实,并通过平台工具举报可疑内容。对服务提供商来说,临近的期限意味着不仅要处理个别投诉,还要应对反复上传的内容。接下来的具体考验是,这些自动化机制能否在2026年底前准备就绪。

要点

  • 2024年1月至2026年10月,平台在接到MCMC依据公众投诉提出的请求后,移除了13,883条深度伪造内容。
  • 其中1,178条涉及政治领袖,约占总数的8.5%。
  • 持牌服务提供商必须标注相关人工智能内容、评估有害材料,并提供便捷的举报工具。
  • 平台须在2026年底前建立自动处置机制,以应对深度伪造内容和反复上传的虚假材料。
  • MCMC调查了61宗人工智能滥用案件;其中6宗法院裁决的罚款总额为19,500令吉。
  • 另有4宗案件仍在法院审理,27宗案件仍在调查中或被列为无需进一步行动。
  • MCCA要求加快选举相关内容的下架,并在必须于2028年2月前举行的全国大选前加强检测措施。
分享本文

猜你喜欢