公共人工智能服务从愿景走向压力测试
韩国正准备向每位公民免费开放人工智能，让聊天机器人和人工智能代理触手可及，供人们用于学业、医疗、公共服务和日常决策。这项名为“AI for All”的计划旨在广泛推广这项技术，并帮助韩国与美国和中国竞争。但它也让一个棘手的问题变得格外突出：当人工智能成为公共生活中的常规组成部分时，防护措施能否跟上步伐？
李在明总统领导的政府计划先推出测试版服务，随后考虑从明年起将试点转为由纳税人出资的长期公共服务。拟议中的服务将接入由三家韩国国内联合体开发的通用人工智能工具，牵头方分别为SK Telecom、KT和Kakao。政府已向这些联合体借出数百台英伟达B200图形处理器，这类专用芯片用于训练和运行高性能人工智能系统。
官员最终设想，人工智能中介将通过接入政府的服务，帮助人们预约医疗、寻找住房和咨询税务。这有望让公共服务系统更容易使用，尤其能帮助那些难以应对复杂表格或漫长等待的人。但这也意味着，错误、隐私泄露或带有偏见的建议可能影响正在办理基本公共服务的人。
政府已拨款2500亿韩元，用于推动这项计划至2027年，此外本财年还安排了10万亿韩元的人工智能预算。如此大规模的投入体现了韩国发展人工智能能力、让广泛人群都能使用相关服务，而非仅限于负担得起私人订阅的人群的国家战略。试点将检验免费使用能否转化为有用的公共基础设施，以及公民能否信任这些处理其信息和问题的系统。
人工智能领域领军人物为何发出警告？
韩国的计划正值人工智能行业知名人士警告称，技术的快速发展伴随着严重风险。Anthropic首席执行官达里奥·阿莫代伊曾呼吁行业放慢发展步伐。Anthropic一名前工程师曾在OpenAI工作，他离职后表示，自己“真的感到害怕”，担心不受约束的发展意味着“我们可能在不久的将来全都会死”。计算机科学家杰弗里·辛顿是诺贝尔奖得主，常被称为“人工智能教父”；他也曾警告，如果先进系统脱离人类控制，可能带来生存层面的威胁。
这些警告涉及多种可能性，从自主武器、机器驱动的网络攻击到大规模失业。另一些风险则已为人熟悉：极具迷惑性的伪造图像和视频、带有歧视性的自动化决策，以及人们依赖那些能自信作答却给出错误信息的系统。公共服务推广并不会凭空制造所有这些危险，但让人工智能更易于大规模使用，可能扩大人们面临风险的范围。
通用人工智能系统通过识别数据中的模式生成回答，而非像人类一样理解世界。它们可以协助起草、总结和查找信息，但也可能把谎言说得像事实一样。在政府或医疗相关场景中，用户需要明确的核实途径，也需要能够联系到有权纠正错误的人。
首尔正在采取哪些防护措施？
韩国正依靠今年1月生效的《人工智能基本法》，为人工智能的日益广泛应用制定规则。该框架要求进行人工监督、开展影响评估，并清晰标注合成内容。这些措施旨在让人工智能生成的内容更易辨认，并要求机构在部署系统前审查潜在危害。
由国家资助的人工智能安全研究所也负责评估风险并担任技术监督机构。该机构的工作与正式规则同样重要：评估系统运行是否可靠、敏感数据是否受到保护，以及用户能否对影响重大的决定提出异议。只有在评估中审查现实影响，并在发现问题时推动改变，影响评估才有意义。
计划将人工智能接入政府服务，因此问责机制尤为重要。如果人工智能助手给出错误的税务建议，或错误处理医疗预约请求，用户应当知道由哪个机构负责，以及如何获得帮助。系统不应成为公民与作出决定的官员之间的障碍。只有当人工复核方便、及时，而且能够推翻自动化建议时，人工监督才真正有意义。
免费使用也不意味着运营没有成本。公共机构需要支付计算、安全、维护和评估费用，同时决定服务应保留多少个人信息。政府对计算硬件和软件的投入只是长期公共服务的一部分；监督和支持工作还需要持续投入资源。
就业与深度伪造滥用已成为讨论焦点
韩国的一些担忧源于正在发生的危害。韩国央行报告称，今年6月，与2022年6月相比，15至29岁的就业人口减少了28.5万人。该行估计，减少人数中有94%来自高度受到自动化影响的行业。这些数字表明，青年就业与技术变迁之间存在明显交集，但并不能证明减少完全由人工智能造成。经济状况和招聘方面的其他变化也会影响就业。
自动化可以取代特定任务，而不一定消灭整个职业。即便如此，对于入门级工作内容被自动化取代或雇主减少招聘的劳动者而言，这一区别也难以带来安慰。如果常规行政或服务工作过去一直是进入职场的途径，年轻劳动者可能尤其容易受到影响。随着人工智能应用扩大，政策制定者需要跟踪就业质量和招聘模式，而不能只关注总体就业数据。
对许多韩国人来说，最迫切的担忧是技术被用于犯罪，尤其是带有性暴力性质的深度伪造内容。2020年网络性剥削丑闻“N号房”事件及后续案件，推动韩国于2024年出台更严格的深度伪造相关法律。然而，据国际特赦组织韩国分会近期论坛上公布的数据，警方去年记录了1553起与深度伪造有关的犯罪。
数字性犯罪调查团体Team Flame负责人元恩智今年大部分时间都与调查新闻机构Newstapa一道，进入约50个Telegram聊天室。她记录了人工智能工具如何扩大匿名犯罪者的范围，并使受害者年龄降低。图像生成和换脸工具让制作滥用性内容变得更容易，而加密或匿名的网络空间则可能增加调查和追责难度。
刑法是应对措施的一部分，但预防和支持同样重要。受害者需要及时删除图像、获得举报侵害行为的实际帮助，并防止内容进一步传播。随着人工智能工具越来越普及，公共服务开放政策必须考虑到系统可能被用于制作或传播有害内容，即使这些系统原本并非为此设计。
学校面临另一场关于人工智能价值的考验
教育已成为另一处争议焦点。去年，教育工作者曾抗议政府一项短暂提出的计划，该计划拟投入1.2万亿韩元用于人工智能教材。他们的担忧不只是软件能否正常运行，也包括当系统在学生自行解题前就给出答案时，学生会失去什么。
参与抗议的忠清南道五年级教师宋根尚说，人工智能“只是把答案给你”，而且“没有多少教育价值”。他的批评指出了教育中的一个基本区别：完成任务不等于学会如何完成任务。能够解释难懂概念或根据学生情况调整练习的工具可能有所帮助；绕过阅读、推理或写作过程的工具，则可能削弱这些能力。
阅读成绩下滑的担忧让这场讨论更为紧迫，但不应将其视为人工智能导致学生表现变化的证据。学校需要证据来了解特定工具如何影响理解力、专注力和独立完成任务的能力。教师也需要参与决定何时让人工智能辅助教学、何时应让它退出学习过程。
课堂规则可能不同于面向公众的聊天机器人规则。学生需要符合年龄特点的保护、明确的数据收集限制，以及能够评估其本人理解程度的作业。人工智能可以协助教师备课，也可以为学生提供另一种解释，但它无法取代师生关系，也无法可靠判断每位学生的需求。
普遍开放能否赢得公众信任？
“AI for All”是一项雄心勃勃的计划，试图将人工智能使用权视为公共基础设施。该模式有望缩小先进工具主要由富裕个人和大企业掌握的差距。可靠的助手或许能帮助人们查找信息、填写常规文件，或使用难以办理的服务。但这些好处取决于工具的质量，也取决于系统出错时，用户能否向真人寻求帮助。
普遍开放也会放大设计选择所带来的后果。私人聊天机器人的缺陷会影响其用户，而公共服务的缺陷可能波及人口中的更大比例。如果系统接入公共记录或政府机构的工作流程，安全漏洞和错误输出造成的影响可能超出单次对话。严格的隐私限制、独立测试、清晰的系统表现记录，以及申诉渠道，都将有助于决定这项服务能否赢得信任。
韩国拥有实力雄厚的科技行业，也具备开展大规模试点的资源。其核心挑战是让这项服务既具备技术能力，也能向公众负责。这意味着要说明系统收集哪些数据、明确谁来为错误负责，并公布足够信息以接受外部审查。还意味着要衡量这项服务是否真正帮助了人们，而不是把用户数量或功能数量当作成功的证明。
这项推广计划将检验公共投资能否扩大使用机会，同时在错误可能造成实际损失的领域保留人类判断。韩国的法律和安全研究机构提供了一个框架，但它们的价值最终要看实践效果，尤其是人工智能进入课堂、职场和政府部门之后。
要点
- 韩国计划推出免费人工智能试点服务，由与SK Telecom、KT和Kakao相关的联合体牵头。
- 政府希望将人工智能打造成长期公共服务，并接入预约、税务咨询等服务。
- 《人工智能基本法》要求人工监督、影响评估，并对合成内容进行标注。
- 就业方面的担忧包括15至29岁就业人口减少，且降幅集中在容易受到自动化影响的行业。
- 去年警方记录了1553起与深度伪造有关的犯罪，人们持续担忧人工智能工具助长性侵害。
- 教师质疑人工智能教材，认为即时提供答案可能妨碍学习。
