韩国凭《人工智能基本法》走在全球前列
韩国正式颁布了其所称的全球首套全面规范人工智能的法律。这部共六章、43条的《人工智能基本法》于周四成为法律，建立起监管框架，覆盖范围之广，涉及人工智能活动及相关参与方的多个领域。该法旨在保护民众，同时为日益由人工智能驱动的社会奠定官员所说的“信任基础”。
这一里程碑式举措让韩国在建立统一的人工智能治理方式方面走在其他主要经济体前面。欧盟去年开始实施部分人工智能相关法规，其《人工智能法案》的核心内容则将于8月起分阶段实施。美国目前仍没有联邦层面的人工智能法律，不过白宫上月发布行政令，质疑被认为阻碍人工智能创新的“繁苛”州级法律。中国采取了不同做法，在现行网络安全法中增补了若干有关伦理或风险监测的规定。
韩国《人工智能基本法》是全球监管人工智能技术努力中的重要一步。该法旨在实现两个相辅相成的目标：推动韩国人工智能产业发展，同时采取必要的保障措施，保护民众免受人工智能应用可能带来的风险。
我们从全球共识最基本的层面着手。目标不是通过监管阻止人工智能发展，而是确保人们能够放心使用人工智能。
韩国科学技术信息通信部人工智能政策办公室副部长金炅万（Kim Kyeong-man）的这番话，凸显了韩国希望建立平衡监管框架的意图：既不妨碍技术进步，也回应公众对安全性和可靠性的担忧。
界定高影响人工智能系统
韩国新法的核心内容之一是聚焦“高影响人工智能”——即可能对人的生命、安全或基本权利产生重大影响的系统。法律特别列出11个关键领域，要求其中的人工智能系统接受更严格的监督并提高透明度：
- 能源供应系统
- 饮用水生产流程
- 医疗服务系统
- 医疗器械的研发与使用
- 核材料及设施管理
- 用于刑事调查的生物特征信息分析
- 就业和贷款评估
- 交通系统及管理
- 影响公共服务的政府决策
- 教育领域的学生评估
- 其他对人的生命、安全和权利有重大影响的领域
对于这些高影响应用，企业必须落实多项关键保障措施。应相关要求，企业必须能够解释其人工智能系统的决策逻辑；确保必要时人类可以介入；并明确告知用户，他们正在使用由人工智能驱动的服务。这适用于通过系统筛选贷款申请人或求职者等情形。
该法还对“高影响人工智能”和韩国所称的“高性能人工智能”作出重要区分。欧盟的法规主要关注特定应用的风险，而韩国采取了不同方式，通过技术门槛来判断哪些系统需要接受监管。这些门槛包括累计训练计算量等指标，因此只有极少数先进模型会受到最严格的安全要求约束。
韩国政府目前表示，无论是在国内还是国际上，现有人工智能模型都不符合高性能人工智能条款规定的监管标准。官员同样表示，目前国内没有服务属于“高影响”类别，不过未来完全自动驾驶等级达到4级或以上的车辆可能符合相关标准。
透明度要求与人工智能内容标识
韩国人工智能监管中最受关注的内容之一，是对人工智能生成内容提出透明度要求。根据新法，企业必须为可能被误认为真实内容的人工智能生成内容提供清晰可见或可听见的标识，例如水印。这项要求主要针对深度伪造内容，以及其他可能造成虚假信息传播或欺骗风险的人工智能输出。
标识方式因内容类型而异。对于区分真实内容与人工智能生成内容对安全或真实性至关重要的输出，必须使用可见标识。但对于使用人工智能创作的游戏、动画或网络漫画等内容，法律允许采用干扰较小的披露方式，包括将标识放入终端用户未必能立即看到的元数据中。
这种细致区分的做法在网络漫画创作等行业引发疑问，平台和创作者不确定“人工智能生成”内容的定义范围究竟有多广。人们仍担心，部分使用人工智能的情形——例如生成背景、上色或编辑——是否会触发披露义务。该法不监管仅使用人工智能工具的个人用户，但适用于提供人工智能创作工具或发行人工智能生成作品的平台和企业。
为人工智能生成内容添加水印，是防止滥用人工智能技术造成深度伪造等负面影响的最低保障措施。
一名政府部门官员的这番表态，凸显了政府将标识视为防范人工智能滥用的基本保护措施。透明度要求不仅涉及内容标识，也包括用户与人工智能服务互动时必须收到的告知。企业在提供使用高影响人工智能或生成式人工智能的产品或服务时，必须提前通知用户，通常可通过弹窗提醒或醒目提示等方式进行。
治理架构与产业支持
《人工智能基本法》为韩国人工智能政策建立了全面的治理架构。科学技术信息通信部是负责落实人工智能政策的主管部门；国家人工智能委员会则在总统领导下，负责审议并决定更广泛的人工智能政策方向。该法还设立人工智能政策中心和人工智能安全研究院，以支持政策落实并处理安全问题。
除监管措施外，该法还包含多项旨在支持韩国人工智能发展壮大的规定。这些促进措施包括支持人工智能研发、推动人工智能技术标准化、开发人工智能训练数据，以及帮助企业采用和运用人工智能技术。法律特别关注对中小企业、初创企业以及人工智能领域人才培养的支持。
该法还为制定《人工智能基本计划》提供了法律依据。这项计划将作为韩国人工智能技术发展的政策路线图。这种全面布局体现出，成功的人工智能监管不仅需要限制，也需要积极支持创新，提升韩国在全球人工智能领域的竞争力。
为减轻企业初期负担，韩国政府设立了至少一年的宽限期。在此期间，当局不会开展事实调查或实施行政制裁，而是着重提供咨询和指导。政府还设立了专门的《人工智能法》支持窗口，帮助企业判断其系统是否属于法律适用范围，以及如何妥善应对。
《人工智能基本法》帮助窗口由人工智能安全研究院、韩国国家信息社会机构等组织的专家提供支持，为人工智能工具的开发者、经营者和使用者提供保密咨询与指导，协助他们在遵守新规的同时开展相关工作。
合规要求与处罚
在韩国运营或向韩国用户提供服务的企业，须遵守新法规定的具体合规义务。达到特定标准的外国人工智能企业——例如全球年营收达到或超过1万亿韩元（6.81亿美元）、在韩国境内销售额达到或超过100亿韩元，或在韩国日活跃用户至少100万——必须指定本地代表，与主管部门沟通。目前，OpenAI和谷歌等大型企业均属于这一要求的适用对象。
人工智能运营者分为两类：开发并提供人工智能的人工智能开发运营者，以及使用开发者提供的人工智能产品或服务的人工智能应用运营者。两类运营者都负有透明度义务，但监管重点仍主要放在高影响人工智能和生成式人工智能系统上。
与其他司法辖区相比，韩国法的执法方式有意保持宽松，不设刑事处罚。对于违规行为，法律优先要求纠正；只有在企业不遵从纠正命令时，才会处以罚款，罚款上限为3000万韩元（2.62万美元）。正如政府官员所强调的，这体现的是以合规为导向、而非以惩罚为主的监管方式。
相比之下，欧盟监管框架规定了力度更大的制裁措施，并根据违规类型设置不同处罚，行政罚款最高可达全球年营业额的7%。处罚力度上的显著差异，反映出韩国所称的监管意图：在建立基本安全框架的同时，尽量减少监管要求。
韩国法规定的三类具体罚款事由是：使用高影响人工智能或生成式人工智能提供产品或服务时，未向主管部门报告相关人工智能业务；在依法需要时未指定韩国境内代表；以及未遵守科学技术信息通信部长下达的暂停或纠正命令。
产业界回应与初创企业的担忧
政府将《人工智能基本法》定位为兼顾安全与创新的平衡做法，但科技行业并非人人都认同这一看法。韩国初创企业对新规可能带来的合规负担表示担忧，尤其是该法的生效时间早于其他国家类似监管框架的情况下。
初创企业联盟的一项调查显示，专注于人工智能的初创企业中，只有2%表示已制定正式合规计划，约半数承认尚未充分理解新法的要求。由于规定不够明确，创始人感到不安，担心法律中的模糊表述会迫使他们采取过于谨慎的开发策略，以规避监管风险。
我们多少有些不满——为什么非得由我们第一个来做？
韩国初创企业联盟联合主席林正旭（Lim Jung-wook）的这番话，反映了部分创业者的不满：在全球竞争对手之前，他们就要面对全面的人工智能监管。许多创始人质疑，率先监管人工智能究竟会让韩国占据优势，还是会使韩国企业在国际竞争中处于不利地位。
总统李在明已承认这些担忧，并敦促决策者听取产业界意见，确保为风险企业和初创企业提供充分支持。李在明最近在一次与幕僚的会议上强调，应通过制度支持充分释放产业潜力，同时提前应对可能出现的负面影响。
科学技术信息通信部回应称，计划在宽限期内为企业提供指导平台和专门支持中心。一名发言人表示，政府仍在研究如何尽量减轻产业负担，并考虑在国内外产业状况需要时延长宽限期。
与国际监管方式的比较
韩国《人工智能基本法》体现了一种独特的监管理念，与其他主要经济体采取的方式不同。该法借鉴了注重私营部门自主性的美国模式，也参考了强调安全与可靠性的欧盟监管模式。最终，韩国选择了一条独特道路，试图将最低限度监管与人工智能产业促进相结合，以实现成为全球人工智能竞争力领先国家的目标。
与欧盟《人工智能法案》类似，韩国框架界定了人工智能系统，并对高影响人工智能设定了多项义务，其中包括基本权利影响评估（FRIAs）。不过，具体监管程度可能会随未来配套立法而调整，相关法规预计将于2025年上半年公布。
韩国与欧盟做法的一项重要差异，在于义务的设定方式。欧盟《人工智能法案》根据人工智能价值链中参与者的不同类型，规定了有区别的义务；韩国《人工智能框架法》则统一界定义务，不区分不同类型的参与者。这种较为简化的做法或可降低复杂性，但也可能给人工智能生态系统中不同领域实施适当监管带来挑战。
韩国对高影响人工智能的界定方式也不同于欧盟。欧盟侧重特定应用的风险，针对医疗、招聘和执法等领域使用的人工智能；韩国则通过技术门槛来判断哪些系统需要监管。这些门槛包括累计训练计算量等指标，因此按现有技术水平，受监管的系统可能少得多。
处罚措施也体现了两种监管理念的差异。欧盟已设立严厉制裁措施，罚款最高可达全球年营业额的7%；韩国框架下的行政罚款则最高仅为3000万韩元（约2.62万美元）。如此悬殊的差异反映出，韩国更强调合规和纠正，而非惩罚。
全球影响与未来展望
韩国颁布全面人工智能立法，将对全球人工智能格局产生重要影响。作为欧盟之后第二个采用全面人工智能监管框架的国家，韩国提供了新的立法范例，其他国家制定自身人工智能治理方式时或可参考。
尽管韩国政局动荡，包括总统尹锡悦宣布戒严并随后遭弹劾，该法仍获通过，这表明各党派已就人工智能监管的重要性达成共识。该法于2024年12月26日在国会全体会议上以压倒性跨党派支持获得通过，凸显了政治各方在应对人工智能挑战上拥有广泛共识。
韩国官员指出，现行法律只是一个起点，而非最终成品。许多条款的具体实施将取决于配套法规和行业专项指南；这些内容将在法律于2026年1月全面生效前的一年准备期内最终敲定。
在韩国努力协调相关部门的专业意见、兼顾不同监管对象或行业的特点时，国家人工智能委员会的协调职能将至关重要。随着人工智能技术扩展至个人信息、版权、医疗和国防等各个领域，有效治理需要政府各部门之间密切协调。
随着全球围绕人工智能规范与治理的讨论日益深入，为确保人工智能值得信赖，各国监管规则之间的互操作性与合作变得更加重要。韩国的做法可能影响相关国际讨论，尤其是如何在人工智能治理中平衡创新与安全问题。
要点
- 韩国已颁布全球首部全面人工智能法《人工智能基本法》，涵盖人工智能的开发、部署和使用。
- 该法将医疗、金融、交通和政府服务等11个关键领域的人工智能界定为“高影响人工智能”，要求加强监督并确保人类能够介入。
- 人工智能生成内容必须加以标识；可能被误认为真实内容的作品须添加可见水印，网络漫画和动画等创意作品则可采用干扰较小的标识方式。
- 达到营收或用户门槛的外国人工智能企业必须在韩国指定本地代表。
- 违规罚款上限为3000万韩元（2.62万美元），远低于欧盟最高可达全球年营业额7%的罚款。
- 该法设有为期一年的宽限期，重点是提供指导而非处罚，并为寻求合规帮助的企业设立了专门服务窗口。
- 初创企业担心合规负担和法律措辞模糊，只有2%的受访企业表示已制定正式合规计划。
- 该法旨在推动韩国跻身全球人工智能强国前三，同时为人工智能技术建立信任基础。
- 韩国监管先进人工智能系统时侧重技术门槛，而欧盟更关注特定应用带来的风险。
- 在经过一年的配套法规和详细指南准备期后，该法将于2026年1月全面实施。
