一项包含99条的提案：如何界定人工智能的使用边界
浙江大学研究人员发布了一份人工智能法专家建议稿，共八章、99条，核心理念是：赋予人工智能系统的权限，应与其可靠性及所执行任务的后果相匹配。
目录
浙江大学1.0版建议稿于9月24日发布会公布。该校官方活动通知称，活动定于2026年9月24日下午2时至5时30分在紫金港校区举行。议程将产业发展与权利保护、责任追究并列，体现了这份建议稿试图回应的两方面诉求。
对受到人工智能影响的人来说，现实关切迫在眉睫：模型运营者能否未经许可使用插画师作品训练模型？语言模型给出有害或错误答案时，谁来承担责任？未经许可使用某人面部制作的视频在网上传播后，当事人如何保存证据并寻求救济？
企业面临的则是另一类问题：合规要求相互重叠、产品投入使用前的程序繁琐，以及小企业可能难以承受的成本。研究人员表示，他们的方法旨在保护权利，同时回应这些压力。
这份文件是一份供讨论和进一步修订的学术建议稿。其阐述得最充分的理念，是根据人工智能在特定场景中的表现进行评估，把系统的能力、运行可靠性以及受影响者所面临的风险联系起来。
草案如何形成
起草团队用近六个月时间制定建议稿，并进行了五轮集中修订。初稿原有174条，后来压缩至99条，减少75条，约43%。这表明文本在制定过程中进行了大幅精简，但条文数量本身并不能说明具体条款会给用户或企业带来多大负担。
研究人员走访了杭州20多家人工智能企业及多家头部互联网企业。他们的工作还参考了之江立法论坛上的讨论、与相关部委的交流，以及数轮专家评审。与此同时，研究人员也参与了两项地方性法规草案的相关工作，分别涉及杭州人工智能产业及其创新城市建设。
活动由浙江大学光华法学院、该校数字法治研究院、浙江省立法研究院和浙江大学立法研究院主办。官方议程显示，建议稿的发布和介绍环节由光华法学院研究人员李文龙主讲。
建议稿的制定和发布过程如下：
- 团队用近六个月开展企业走访、咨询和五轮修订。
- 9月24日，建议稿在浙江大学发布，官方通知显示活动于2026年举行。
- 会后，团队计划吸收反馈并制定后续版本。
拟议规则背后的三个问题
浙江大学数字法治研究院院长孙晓霞用三个相互关联的要素阐释这一框架：执行能力、认知成熟度，以及任务的性质和影响。简单来说，要考察的是人工智能系统能做什么、表现有多可靠，以及它的决策有多重要。
孙晓霞用中文阐述了他对人工智能风险来源的看法：
我们认为，人工智能的风险不在于机器有多强大，而在于能力、认知与任务之间是否匹配。
一个系统或许能在无人介入的情况下连续执行一长串操作，却难以识别异常情况。如果让它承担涉及人身安全的任务，它的行动自由与判断何时出错的能力之间就会出现危险落差。
因此，建议稿不只给某项技术贴上单一标签。监管者会考察系统的具体版本、预定用途以及运行环境。同一种底层技术用于不同任务时，可能需要采取不同管控措施。
能力与可靠性将分别评估
拟议的能力分级共四级：辅助、有限自动化、高度自动化和自主执行。评估将考察系统的自主行动程度、决策影响范围、可调用的工具、可持续运行的时间，以及它是否能够改变数字或物理环境。
工具权限很重要，因为仅提出行动建议的人工智能系统，与获准实际执行行动的系统影响范围不同。若系统获准操作其他软件或设备，一个错误答案就可能引发一连串实际行动。
认知成熟度也分为四级：基础、一般、较高和高度受控。评估将考察准确性、一致性、识别异常输入和纠正错误的能力、网络安全、可追溯性，以及人在什么条件下能够接管系统。
另一项评估因素是置信度校准。通俗地说，就是检查系统表达的确信程度是否与其实际正确率相符。若一个系统经常出错，却总显得信心十足，用户就尤其难以监督它。
框架还将考察重要输出能否得到解释，以及系统能否保持在规定边界内。将能力与可靠性分开评估，可以帮助监管者识别出这样的系统：它的能力足以自主行动，却不够可靠，无法胜任敏感任务。
哪些任务会受到更严格审查？
建议稿将任务分为三个影响等级：低影响、一般影响和高影响。评估将考察受影响权利的重要性、伤害发生的可能性及严重程度、受影响人数、影响持续时间、结果是否可逆，以及当事人能否获得救济。
受影响者的脆弱程度也会纳入考量。与有便捷途径寻求帮助的人所受的类似决定相比，影响那些难以提出异议者的决定，可能需要更严格的审查。
涉及生命健康、人身自由、人格尊严、平等机会、重大财产权益、教育、就业、社会保障、司法、行政执法或公共安全的任务，推定为高影响任务。可能对大量人群造成重大影响的任务，也同样推定为高影响任务。
建议稿还规定，无论任务影响等级如何，禁止类人工智能应用都不得开发、部署或使用。随建议稿发布的说明未提供禁止类应用的详细清单，也没有给出对开篇提及的版权争议、错误输出和面部替换纠纷的具体法律结论。
医疗案例阐释匹配原则
孙晓霞以医学影像和病理分析为例，说明系统承担什么任务与其技术实力同样重要。人工智能可以快速处理大量影像和医疗数据，但遇到疑难或异常情况时，其推理能力可能仍有限。
合适的任务安排应兼顾这两方面。如果让系统对疑难诊断承担全部责任，同时过度信任它的判断，就会造成该框架试图解决的能力与任务不匹配问题。
孙晓霞用中文阐述了这一目标：
要求匹配不同于简单地施加限制，而是要在能力、认知与任务之间寻求最佳匹配。
在他看来，如果一个系统难以胜任高要求任务，可以将它调整到复杂度较低的任务上，而不是直接弃用。因此，实际选择不只是允许不受限制地使用或完全禁止使用。有关部门和运营者可以调整任务、系统权限或人工参与程度。
对于医院，这种做法会让人们关注人工智能具体承担什么工作，以及围绕它设置了哪些保障措施。对于患者，核心问题是系统承担的角色是否与决策的重要性相适应。
随着人工智能变化，审批也需要调整
拟议的治理流程涵盖六个阶段：研发、测试、部署、运行、迭代和退出。由于系统投入使用后，其能力和运行环境可能发生变化，因此各阶段都需要持续分类评估。
模型更新可能扩大系统能够执行的行动范围。将系统拓展至新的场景，可能让更多人或更敏感的权益受到其决策影响。新数据也可能改变模型的行为，包括削弱其可靠性，而这类问题在早期测试中可能并不明显。
建议稿要求在系统或任务发生变化时重新评估。评估结论将针对具体版本、用途和运行环境，让运营者在其中任何一项发生变化时重新审视自身义务。
孙晓霞指出，匹配原则可用于指导八个方面的法律规则：分类、义务分配、评估、高影响用途认定、监管强度、风险控制、法律责任和动态调整。通过同一框架衔接这些决策，是这份建议稿推动人工智能治理更加协调的主要尝试。
权利保护与企业义务，落实在具体细节中
插画师、错误答案和伪造视频相关问题表明，问责的重要性远不止于技术测试。寻求赔偿或要求删除有害内容的人，需要一条切实可行的途径，将自身遭受的损害与责任方联系起来。
建议稿将法律责任纳入匹配框架。这意味着，在讨论义务和问责时，系统是否适合承担指定任务将成为相关考量。不过，评估结果与现行民事责任规则之间如何衔接，仍是孙晓霞所说需要进一步细化研究的问题之一。
研究人员还需要明确如何测试认知成熟度，以及能力、可靠性与任务要求之间的差距达到什么程度才算不匹配。这些选择将决定企业能否一致地运用该框架，以及监管部门能否有效审查企业的判断。
发布会的议程将这些相互竞争的现实需求纳入同一项活动。产业发展环节列有美团和抖音的法律专家，以及学界和技术领域的参与者。权利保护与责任追究环节列有阿里巴巴合规部门负责人、律师和高校学者。他们的参与体现了主办方希望纳入讨论的多元视角；但议程不足以证明这些参与者对草案持有共同立场。
对于小企业来说，实际影响涉及需要进行多少项评估、必须提供哪些证据，以及产品发展过程中义务会如何变化。对于受到人工智能影响的人来说，关键在于这些义务能否帮助防止伤害，并在发生问题时提供切实可行的救济。
研究团队计划根据会议反馈修订建议稿。当前的核心工作，是将匹配原则转化为可供实际争议处理和产品决策使用的测试方法、门槛标准和责任规则。
要点
- 浙江大学人工智能法专家建议稿共八章、99条，由最初的174条精简而来。
- 该框架将系统的执行能力、认知可靠性与所承担的任务联系起来。
- 健康、自由、就业、教育及其他敏感任务将推定为高影响任务。
- 评估将覆盖研发和使用的整个周期，并在系统或任务发生变化时作出调整。
- 这份学术建议稿还将继续修订；测试方法、门槛标准和责任规则仍需进一步细化。
