虚假账户和选民档案引发议会审查
马来西亚通信监管机构正向Anthropic索取技术细节和证据。此前,该公司表示,其Claude人工智能模型曾协助搭建一个商业化政治操纵平台,目标是马来西亚选民。据称,这项行动结合了约1,000个虚假X账户、一个捏造的新闻媒体,以及覆盖全部222个国会选区的选民档案。
目录
通信部在11月17日的一份书面议会答复中表示,马来西亚通信与多媒体委员会(MCMC)将在决定是否采取进一步行动前评估相关证据。现有通信和网络安全法律可能适用;与此同时,数字部正在起草一项单独的《人工智能治理法案》。
Anthropic将这项行动与总部位于土耳其伊斯坦布尔的科技公司BBS Bilisim Teknolojileri联系起来。该公司于9月11日否认参与其中。Anthropic表示,已终止涉事Claude账户,并采取措施防止进一步滥用。
此案涉及两个不同层面:一套旨在为全国选民建立档案的系统,以及一项实际受众似乎有限的行动。Anthropic表示,没有证据表明这场行动触达了其人工网络之外的真实网络社群。
对马来西亚选民而言,据称的欺骗行为不仅限于发布误导性帖子。该平台能够让虚构账户看起来像普通人,让改写后的文章看起来像独立新闻报道,也让捏造的指控看起来像情报调查结果。马来西亚当前的任务是查明谁在运营这套系统,以及在其法律框架内可以采取哪些行动。
马来西亚要求Anthropic提供哪些信息
MCMC已就这项涉嫌行动索取详细的技术说明和佐证材料。11月17日的答复回应了国民阵线联盟(Perikatan Nasional)贝鲁兰国会议员拿督斯里·罗纳德·基安迪提出的问题;他询问了涉事人员身份,以及针对虚假账户和捏造新闻门户网站的处理措施。
通信部解释了为何在决定是否采取执法行动前需要获取更多信息:
MCMC正在向Anthropic进一步索取有关该报告的信息和说明,以确保任何评估和后续行动都有充分的信息和证据作为依据。
通信部长拿督法米·法齐尔也在回应国民阵线联盟巴西马国会议员艾哈迈德·法德利·沙里提出的议会质询时谈及此事。该问题涉及政府将采取哪些措施,调查并防范外国通过Claude和其他人工智能应用干预选举。
该部表示,后续工作可能涉及执法和安全机构、数字平台及其他相关方。其所述处理方式是先收集证据,在MCMC职权范围内评估此事,再决定采取何种适当应对措施。
围绕马来西亚选民数据打造的商业服务
Anthropic称,该平台是一项向客户出售政治影响力能力的服务。按照这种商业模式,买家付费让运营方提供旨在影响公众讨论的工具或行动,而不是自行搭建基础设施。
该公司表示,这套系统利用人口普查信息、选举数据和数百万条选民记录,为马来西亚全部222个国会选区建立档案。这些档案旨在识别当地的政治和社会分歧,包括涉及种族、宗教和王室的议题。
选区档案将某一选区的相关信息汇集在一起。据Anthropic称,在这项行动中,Claude协助将这些信息转化为定向工具,并支持用于传播影响力内容的基础设施。这种组合可能使运营者能够针对不同社群准备不同信息。
Anthropic在威胁评估中描述了这项服务的对外形象:
该平台伪装成一家提供防御性网络情报和反虚假信息工具的机构。
Anthropic表示,其调查反而将该平台与BBS Bilisim Teknolojileri以及影响力服务访问权限的销售联系起来。由于这家土耳其公司的否认,MCMC寻求的技术证据成为马来西亚评估此事的关键。
虚假账户如何伪装成真实用户
Anthropic称,该平台在X上管理着约1,000个虚假账户,其中设有一些机制,旨在让这些账户在被用于政治影响活动前显得资历成熟、真实可信。
Anthropic描述了平台试图通过更新Cookie和互联网协议地址来逃避检测的做法。Cookie是在网络活动期间存储的小段信息;互联网协议地址则用于识别网络中的连接。更改这些信号有助于运营者掩盖账户之间的关联。
该平台的控制面板还允许用户为目标账户申请虚假浏览量。Anthropic称,曾看到一项申请,要求为时任马来西亚总理的账户提供100万次虚假浏览量。申请者身份不明,Anthropic也未发现其与总理安瓦尔·易卜拉欣或其办公室存在关联。运营者自有工具显示的互动数据未经核实。
南洋理工大学魏金威传播与信息学院新媒体专家赛义夫丁·艾哈迈德解释了为何据称的这类活动已构成操纵:
因此,这不只是更有效地定向接触选民的问题,而是在隐瞒幕后操作者身份的同时,制造一场虚假且受操纵的公共讨论。
Malaysia Pulse将改写新闻与捏造指控混在一起
据Anthropic称,这项行动还运营着一家名为Malaysia Pulse的虚假新闻媒体及其关联的YouTube频道。该网站抄袭马来西亚正规媒体的报道,借助Claude反复改写,再以虚构的作者署名发布文章。
Malaysia Pulse还转载了TV BRICS、新华社、Sputnik/RIA和CGTN的内容。Anthropic称,标明原始媒体来源的署名被删除,使这些内容看起来像马来西亚独立媒体的报道。这一做法让读者对新闻的制作者及其来源产生不同印象。
除文章外,运营者还使用Claude生成捏造的情报档案,其中包含针对一名未具名反对派政客和民间社会组织的指控。档案通常是关于某个人或组织的信息汇编;而在此案中,这种呈现方式让虚构指控看起来像有记录在案的调查结果。
Anthropic直接描述了这些指控:
这些指控完全是涉事人员捏造的。
Claude拒绝或部分拒绝了部分请求,其中包括识别出一份档案旨在进行政治诽谤之后的请求。Anthropic称,运营者随后改写请求措辞,继续寻求相同能力。此案凸显了一个实际难题:当滥用项目不断改写单个请求时,识别此类项目并不容易。
MCMC为何自行发布否认声明
Anthropic称,运营者曾试图与MCMC签订合同。该公司表示,没有证据表明这一尝试取得成功。MCMC于9月11日回应称,否认参与了所述性质的活动或安排。
MCMC在一份声明中阐明立场:
为免生疑,报告所述性质的活动不属于MCMC的职能或授权范围,MCMC也不参与此类活动或安排。
MCMC表示,正在审查相关指控并索取更多信息,以查明事实、了解背景。该机构称,保护公众和应对网络危害仍是其职责的核心。
负责法律和体制改革事务的首相署部长拿督斯里·阿扎丽娜·奥斯曼·赛义德呼吁开展全面且独立的调查。她的呼吁使对这项行动的审查与监管机构自身的证据收集工作并行推进。
从9月披露到议会答复
公众层面的回应随着公司披露、否认声明和议会质询逐步展开。主要进展如下:
- 9月:Anthropic在威胁评估中披露了据称针对马来西亚的行动,并表示已中断涉事Claude账户的使用。
- 9月11日:BBS Bilisim Teknolojileri否认参与其中。MCMC也单独否认参与所述活动,并表示正在审查相关指控。
- 11月3日:针对艾哈迈德·法德利·沙里的书面议会答复概述了对技术说明的索取,以及可能适用的现行法律。
- 11月17日:通信部在答复罗纳德·基安迪时重申了证据收集流程。
一些核心细节仍未披露:谁为这项针对马来西亚的行动付费、行动确切的实施时间、它是否与某场选举有关、Anthropic是否已回应MCMC的要求,以及警方是否已正式展开刑事调查。拟议中的人工智能法案何时提交也尚未公布。
Anthropic在9月发布的评估涉及Claude遭滥用的多种情形,包括网络行动、监控、诈骗和政治影响活动。谈及这些影响力案例时,该公司称,相关行动者试图触达六大洲的受众,其中包括政府、亲国家媒体和出售影响力服务的私营企业。
现行法律与单独制定的人工智能法案
通信部指出,1998年《通信与多媒体法》、2025年《网络安全法》以及其他适用法律,可能成为监管或执法行动的依据。任何应对措施都将取决于证据及MCMC的管辖权。
拟议中的《人工智能治理法案》则有不同目的。数字部正在起草相关规则,涉及问责、风险管理,以及人工智能系统开发者和部署者的责任。简单来说,这项提案关注的是:谁必须管理人工智能产品的风险,以及有人未履行责任时由谁负责。
这两条路径针对问题的不同方面。政府表示,现行法律是其当前应对此项涉嫌活动的途径;拟议立法则将为人工智能系统的开发和使用设定更广泛的责任。
若行动被归因于马来西亚境外的一家公司,调查还需要单一监管机构之外的合作。该部计划与安全机构、调查人员和平台提供商协调,反映出相关证据可能分散在人工智能服务商、社交网络、运营者和客户手中。
人工智能加快内容制作,平台则提供受众
Anthropic表示,其内部系统发现了相关账户,随后移除访问权限,并利用调查中获取的信息梳理出更大范围的行动。尽管基础设施规模庞大,该公司没有发现其突破真实网络社群的证据。
曾在Meta任职、负责全球选举事务的凯蒂·哈思巴斯现任科技咨询公司Anchor Change负责人。她解释了人工智能在制作影响力内容方面的作用:
人工智能能够大幅提升其效能,让人们更快、更便宜地制作更多个性化内容。
哈思巴斯表示,运营者仍然需要传播渠道,目前主要是社交媒体平台。马来西亚案例体现了这一流程的两个环节:Claude协助制作内容和工具,而虚假账户、网站和YouTube频道则被用于向读者传播材料。
东南亚其他地区也出现过类似担忧。OpenAI封禁了一些生成有关菲律宾政治虚构评论的账户,其中包括支持总统小马科斯的评论。在印度尼西亚2024年大选期间,普拉博沃·苏比安托的人工智能卡通形象走红,并帮助软化了他强人式的形象。
马来西亚据称的这项行动聚焦于特别敏感的社会分歧。诺丁汉大学亚洲研究所马来西亚分部的布里奇特·韦尔什警告称,这类活动会加剧政治极化。马来西亚蒙纳士大学媒体讲师本·洛博士也曾指出,人工智能内容会强化针对罗兴亚难民的既有敌意。
对马来西亚而言,具体的下一步是评估证据。Anthropic已关闭被确认涉事的Claude账户;MCMC现在必须确定其获取的信息是否足以对涉嫌行动背后的个人或组织采取措施。
要点
- MCMC正在向Anthropic索取技术说明和证据,然后再决定是否采取进一步行动。
- Anthropic描述了约1,000个虚假X账户、Malaysia Pulse网站,以及覆盖全部222个国会选区的选民定向活动。
- Anthropic将BBS Bilisim Teknolojileri与该平台联系起来后,该公司否认参与其中。
- MCMC否认参与相关活动。Anthropic称,有关运营者试图与监管机构签订合同的说法,没有证据表明其取得成功。
- Anthropic终止了被确认涉事的Claude账户,并未发现其有效触达真实网络社群的证据。
- 马来西亚提及现有通信和网络安全法律,同时正在起草《人工智能治理法案》。






