虚构裁决进入法院诉讼文件
韩国最高法院公布了首份关于人工智能相关虚假法律引证的法官调查报告。调查发现，在审理民事、家事和行政案件的法官中，196人，即回答该问题者的80.7%，曾遇到引用不存在判例的情况。一些法院诉讼文件还包含伪造的判决，刻意模仿真实的最高法院裁决。
这项调查于10月6日至16日进行，11月2日公布，共收到全国各级法院360名法官的答复。调查还发现，律师和自行出庭诉讼的人都曾提交包含虚假法律引证的文件。
最高法院行政机构国家法院行政处计划与法务部等机构协商，讨论修改《民事诉讼法》和《刑事诉讼法》。相关讨论将涉及对不准确诉讼材料处以罚款及采取其他应对措施的法律依据。
法官对采取行动表示强烈支持：91.7%认为有必要采取制度性措施，其中64.8%认为非常有必要。国家法院行政处表示，核查虚假引证会占用法官和对方当事人的时间、增加开支，还可能延误民众获得及时审判的权利。
调查数据反映的问题
最常见的问题是引用不存在的判决。法官还遇到引用真实裁决但篡改其内容，或歪曲其含义的情况。法律判例是指此前法院作出的、用于支持某项法律适用主张的裁决。
调查允许受访者选择多种虚假引证类型。民事、家事和行政案件法官的调查结果如下：
- 196名法官，即80.7%，遇到过引用不存在判例的情况。
- 159名法官，即65.4%，遇到过对判例作虚假陈述的情况。
- 41名法官，即16.9%，遇到过虚假或不存在的法律法规。
- 10名法官，即4.1%，遇到过虚假或不存在的学术论文及其他出版物。
各项百分比以相应调查问题的答题人数为基数，整项调查共有360名法官参与。法官可以报告多种错误，因此各类别有所重叠。
报告称，遇到不存在判例的法官比遇到判例内容虚假陈述的法官多37人，分别为196人和159人。这些发现表明，核查工作包含两个环节：找到所引判决，并阅读判决以确认它是否支持所提出的主张。
虚假引证的表现形式
法官称，他们收到过由人工智能生成、仿照最高法院判决格式的文件。另一些诉讼文件将陌生的法律论点与一个无法通过检索找到的最高法院案号并列在一起。
案号通常能帮助读者找到具体案件或判决。如果按案号无法找到相关裁决，法官或对方当事人就不得不花费额外时间，查明主张背后所指的判决。
有些文件引用了真实裁决，却篡改法院的裁决内容，或以偏离原意的方式援引判决。仅核对案号无法解决这一问题，读者还需要将诉讼文件中的论点与实际判决进行比对。
另一些材料包含与人工智能工具对话的文本，或有关诉讼策略的措辞。这类内容让法官能明显看出文件的准备过程中使用了人工智能。
这项调查关注人工智能“幻觉”问题，该词指将错误信息呈现得仿佛属实。在法院文件中，虚构案件可能显得颇具迷惑性，因为它带有熟悉的法律措辞、案号和判决书格式。
律师和当事人均曾提交错误材料
当被问及虚假判例或其他不准确材料由谁提交时，164名法官，即回答该问题者的69.5%，指出是当事人本人。另有136名法官，即57.6%，指出是作为代理人或辩护人的律师。
164人这一数字指遇到当事人提交虚假引证的法官。在整项调查中，法官描述的是诉讼过程中收到不准确材料的经历。
答复群体有所重叠，因为法官可能既遇到自行诉讼的人提交虚假引证，也遇到律师提交此类引证。这些数字反映报告过相关经历的法官人数；调查关注的是他们遇到这一问题的情况，而非统计所有有误的诉讼文件。
律师参与其中，使拟议的核实义务尤为重要。由专业人士代理，意味着客户的主张与法院之间已有受过法律训练的人把关。然而，回答该问题的受访者中，仍有超过半数遇到过律师提交的不准确信息。
自行诉讼的人面临不同的实际困难。他们必须在没有律师协助的情况下准备论点并回应对方。国家法院行政处警告说，这些当事人可能尤其难以识别并质疑虚构判决，或对真实判决的误导性陈述。
核查虚构案件的成本由谁承担？
国家法院行政处表示，虚假引证可能把额外工作转嫁给对方当事人。收到包含陌生判例的文件后，对方可能必须检索相关判例、核对引述内容，并准备说明错误所在的答复。
因此，虚假引证造成的成本可能不止于它出现的那份文件。由律师代理的一方可能需要投入更多法律工作；没有律师的人则必须自行花时间调查一个可能根本不存在的判决。
法官也面临类似负担。核查裁决是否存在、内容是否被篡改所耗费的时间，会延长法院审理争议的时间。国家法院行政处将这类额外工作与诉讼进程变慢、司法救济延迟联系起来。
当虚假引证看起来像一份权威的最高法院裁决时，这一问题尤其突出。它表面上的权威性会促使对方当事人仔细核查，而法院也必须先解决引证问题，才能评估以此为基础提出的法律论点。
四项措施获多数法官支持
法官支持多种可能的应对措施，其中支持度最高的几项相差不大。215名法官，即61.4%，支持设立罚款的法律依据。214名法官，即61.1%，支持要求核实所引判例及其他材料。
212名法官，即60.6%，支持要求当事人披露人工智能使用情况。194名法官，即55.4%，支持对律师采取制裁措施，包括移送纪律处分程序。
支持设立罚款法律依据的法官与支持披露人工智能使用情况的法官仅相差3人，分别为215人和212人。数字相近表明，受访者倾向于通过多种方式处理这一问题，而非只采取单一措施。
每项提议针对的是准备和提交法院文件过程中的不同环节。核实要求检查法律材料；披露要求告知法院是否使用了人工智能；罚款将在拟议的法律框架下带来经济后果；移送纪律处分则会将律师的行为交由相关专业程序处理。
反复提交虚假引证的行为也被列为可能移送纪律处分的情形。国家法院行政处提出的措施既要求对诉讼文件的准确性负责，也规定了不准确信息进入法院后的后果。
后续将推进法律修改并发布线上指引
国家法院行政处计划与包括法务部在内的相关机构讨论修改《民事诉讼法》和《刑事诉讼法》，并向国会提交意见。拟议修法将为罚款等措施提供法律依据。
国家法院行政处公布的后续安排如下：
- 10月6日至16日：全国各级法院的法官参与调查。
- 11月2日：公布调查结果。
- 下一步：与相关机构协商，并就立法修改向国会提交国家法院行政处的意见。
相关协商、立法表决或罚款措施的实施时间表尚未公布。罚款金额以及适用罚款的具体条件，也尚未在已公布的计划中确定。
国家法院行政处正在考虑在电子诉讼网站发布人工智能使用指引。律师和当事人已在该网站办理法院事务，发布指引旨在帮助他们核实人工智能生成材料的准确性。
调查结果表明，这类指引应优先说明如何核查判例是否存在及其含义。真实案号有助于找到裁决，而阅读裁决才能确认法院实际说了什么。法官遇到的案例说明了两项核查为何都很重要。
要点
- 韩国最高法院首份关于人工智能相关虚假引证的调查共收到360名法官的答复。
- 在回答相关问题的民事、家事和行政案件法官中，80.7%遇到过引用不存在判例的情况。
- 法官称曾遇到伪造的最高法院判决、无法检索的案号、被篡改的裁决，以及诉讼文件中残留的人工智能对话文本。
- 当事人本人和代理当事人的律师都曾提交虚假材料。
- 91.7%的受访者支持采取制度性措施，多数人支持罚款、核实义务、使用披露和对律师实施制裁。
- 国家法院行政处计划就程序法修改进行协商，并考虑在电子诉讼网站发布指引。
