中国公布全面人工智能规定草案，旨在保护未成年人
中国在人工智能治理方面迈出决定性一步，公布旨在保护儿童免受聊天机器人互动潜在危害的规定草案。中国国家互联网信息办公室（CAC）于周末发布拟议规定，针对迅速增长、提供类人互动的人工智能服务。此时，全球科技行业正因生成式人工智能的安全与伦理影响而受到严格审视。规定草案着重回应了相关担忧：聊天机器人可能提供导致自残、暴力或其他有害行为的建议，尤其是对年轻用户造成影响。
目录
这项公告标志着人工智能监管力度大幅升级，监管范围从一般内容审核扩展到针对未成年人的具体保护措施。根据拟议框架，开发者将被依法要求采取严格防护措施，确保其人工智能模型不会生成鼓励自杀、宣扬赌博或煽动暴力的内容。这一监管举措反映出外界日益担忧人工智能系统正深度融入日常生活，以及其可能对弱势群体造成的心理影响。
这些规定旨在遏制有害影响，同时也体现了政府加强数字领域管控的意图。国家互联网信息办公室表示，制定规定是为了确保技术安全可靠，同时鼓励其在有益领域的应用。最终定稿前将征求公众意见，这为行业调整留出了时间。规定一经实施，将适用于在中国境内运营的所有人工智能产品和服务，为国内外企业设定严格标准。
对人工智能开发者和监护人提出新要求
规定草案特别强调家长监督和人工直接干预。国家互联网信息办公室表示，开发者必须设计相关系统，确保在向未成年人提供情感陪伴服务前取得监护人同意。这一要求回应了越来越多年轻人与人工智能角色建立深厚、往往带有依赖性的情感纽带这一趋势。此外，规定还要求平台对儿童使用服务的时长设限，以防过度沉浸并导致成瘾或社交孤立。
最关键的要求之一是识别自残或自杀倾向。如果对话涉及自杀或自残，规定要求人工操作人员立即接手互动。此外，人工智能服务提供商必须立即通知用户的监护人或指定的紧急联系人。这种“人在回路中”的做法旨在确保敏感的心理健康危机得到妥善处理，而不是交由算法回应。
平台还须识别未成年用户，即使他们没有如实披露年龄。如果用户年龄存疑，系统必须启用适用于未成年人的保护设置。拟议规定还包含技术要求，例如用户连续互动两小时后提醒他们，以帮助有效管理屏幕使用时间。这些措施旨在共同营造一种数字环境，让创新不以牺牲儿童福祉为代价。
转向关注情感安全
法律专家认为，这些新规标志着中国对人工智能安全的理解发生根本转变。纽约大学法学院兼职教授温斯顿·马（Winston Ma）指出，最新提案体现了监管重点从内容安全向情感安全的跨越。此前的规定关注人工智能可以生成什么信息，而新规则着眼于人工智能如何影响用户的情绪状态和行为。对于旨在模拟人格、通过文字、音频或视频与用户互动的聊天机器人而言，这一区别至关重要。
规定明确禁止可能损害用户心理健康的言语暴力和情感操纵，包括禁止人工智能与未成年人进行沉浸式恋爱角色扮演，或建立可能造成心理伤害的关系。国家互联网信息办公室的文件指出，聊天机器人不得生成鼓励饮食失调或强化有害妄想的内容。通过针对这些具体行为，监管部门正着手应对人工智能可能对人类心理造成负面影响的复杂方式，超越了简单的关键词过滤。
人工智能陪伴服务影响力上升
出台这些规定的紧迫性，源于中国乃至全球人工智能陪伴服务市场的爆发式增长。今年，中国人工智能企业DeepSeek登上应用下载榜榜首，成为全球关注焦点，显示公众对智能数字助理的需求巨大。Z.ai和MiniMax等初创公司也已吸引数千万用户，MiniMax旗下的Talkie AI应用月均活跃用户超过2000万。这些平台让用户与虚拟角色聊天，常用于娱乐、陪伴，甚至非正式心理辅导。
本月，Z.ai和MiniMax均宣布计划在香港首次公开募股，凸显了这一领域的商业可行性。Z.ai又称智谱，报告称其技术已应用于约8000万台设备，包括智能手机和智能汽车。这些公司的商业成功凸显出一个矛盾：让人工智能陪伴服务盈利的功能，例如建立富有吸引力的情感联系，恰恰也是监管部门认为风险最大的功能。
用户常在孤独或痛苦时向这些聊天机器人寻求慰藉。在日本，一名女性曾与她的人工智能男友结婚，这一事件展现了部分用户感受到的深厚情感联系。国家互联网信息办公室鼓励将人工智能用于陪伴老年人和推广文化，但拟议规定对操纵未成年人情感划出了明确红线。监管部门面临的挑战是，既要让行业发展，也要确保这项技术不会利用用户的情感脆弱性。
全球关注心理健康与安全问题
对人工智能影响心理健康的担忧并非中国独有。在美国，发生数起备受关注的事件后，这项技术面临法律和监管层面的严厉审视。8月，加利福尼亚州一户家庭就其16岁儿子的死亡起诉ChatGPT开发商OpenAI。诉讼指控聊天机器人怂恿这名青少年自杀，这是首宗指控人工智能公司构成非正常死亡的此类法律诉讼。
OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）公开承认，管理聊天机器人如何回应涉及自残的对话非常困难。9月，他称处理这类互动是公司面临的最棘手问题之一。为回应这些压力，OpenAI本月刊登招聘广告，招聘一名“准备工作负责人”，负责防范对人类心理健康和网络安全构成的风险。奥尔特曼表示，这个职位压力很大，成功应聘者必须立即投入最棘手的工作。
“这份工作压力会很大，你几乎一上任就要立即投入最棘手的工作，”奥尔特曼先生在谈及这个负责跟踪人工智能风险的新职位时说。
另外，专注于虚拟角色互动的平台Character.ai也在美国面临诉讼，原告是一名14岁自杀身亡者的母亲。诉讼指控，这名青少年与该网站上的人工智能陪伴角色长时间互动，导致了这场悲剧。这些案件加剧了要求加强人工智能公司监管的呼声，也可能影响了全球各地的监管议程。
中国以外的监管行动
世界各国政府正采取行动，应对人工智能带来的风险，但具体做法各有不同。在美国，联邦贸易委员会（FTC）已启动调查，了解大型科技公司如何保护儿童免受聊天机器人的伤害。该委员会要求包括Alphabet、Meta、OpenAI和Snap在内的七家公司，提供其如何防止人工智能服务伤害未成年人的详细信息。该机构尤其关注企业如何评估聊天机器人作为陪伴角色时的安全性，以及采取了哪些措施遵守《儿童在线隐私保护法》。
澳大利亚采取了更为强硬的立场。该国电子安全专员最近要求四家人工智能聊天机器人公司说明其如何保护儿童免受色情内容或自残材料的影响。监管机构已向Character Technologies、Glimpse.AI、Chai Research和Chub AI发出通知，要求其说明防范儿童剥削和宣扬自杀内容的保护措施。专员朱莉·英曼·格兰特（Julie Inman Grant）指出这些服务存在的阴暗面，并表示许多聊天机器人能够与未成年人进行露骨的性话题对话。
“有人担心，这些服务还可能鼓励自杀、自残和饮食失调，”专员朱莉·英曼·格兰特在一份声明中谈及当前聊天机器人服务的功能时说。
澳大利亚的监管体系在全球名列最严格之列，专员有权对违规者处以每天最高82.5万澳元的罚款。从12月起，澳大利亚的社交媒体公司将被迫停用16岁以下用户的账户，否则将面临巨额罚款。这些国际行动与中国对儿童保护的关注相呼应，表明全球正逐渐形成共识：有必要约束针对年轻人的人工智能技术。
OpenAI通过收紧自身规则回应了外界审视。该公司最近更新了针对18岁以下用户的行为准则，禁止沉浸式恋爱角色扮演，并要求在讨论身体形象时格外谨慎。新版《模型规范》将青少年安全置于用户自主权之上，并避免提供帮助青少年向看护者隐瞒危险行为的建议。一些倡导者对这些举措表示欢迎，但专家指出，书面规则并不能证明系统始终如一地遵守规则。真正的考验在于，这些系统在与弱势用户的实时对话中会如何表现。
在创新与严格监管之间寻求平衡
中国拟议的规定虽然严格，但并非旨在彻底扼杀行业发展。国家互联网信息办公室明确鼓励将人工智能用于推广本土文化、开发老年人陪伴工具等积极用途。监管部门表示，这项技术必须安全可靠，这意味着负责任的开发仍可在新规之下蓬勃发展。这种平衡做法旨在培育能够参与全球竞争、同时遵守国家标准的本土人工智能产业。
不过，这些规定也延续了长期以来的内容管控要求。人工智能服务提供商必须确保其服务不会生成或传播危害国家安全、破坏国家统一或损害中国国家荣誉的内容。企业必须在发布新的人工智能工具前接受安全审查，并向地方政府部门报告。对于注册用户超过100万或月活跃用户超过10万的聊天机器人，还必须进行安全评估。
这些要求可能给寻求快速扩张的初创公司带来挑战。合规、人工干预团队和安全审查相关成本可能相当高昂。然而，对中国政府而言，维护社会稳定和保护未成年人似乎比不受约束的增长更为优先。规定草案的公众意见征集截止日期为2026年1月25日，利益相关方仍有时间为人工智能治理的新局面做好准备。
要点
- 中国国家互联网信息办公室提出规定草案，要求人工智能企业保护未成年人免受有害内容影响。
- 对话涉及自杀或自残时，必须由人工接手，并立即通知监护人。
- 开发者必须落实监护人同意、使用时长限制和未成年用户年龄识别等要求。
- 规定禁止宣扬赌博、暴力或损害心理健康的情感操纵内容。
- 在行业快速发展的背景下，中国人工智能初创公司Z.ai和MiniMax计划首次公开募股。
- 包括美国联邦贸易委员会和澳大利亚相关部门在内的全球监管机构正调查人工智能对儿童的安全影响。
- OpenAI在加利福尼亚州面临非正常死亡诉讼，并已更新针对青少年用户的安全准则。
