日本学校面临日益严峻的危机
日本各地警方接到越来越多报告称，同学利用人工智能制作未成年人的色情深度伪造图像，素材往往来自学校活动、毕业纪念册和私人群聊中的照片。受害者通常是初中生和高中生，但小学生也成为目标。在多起案件中，作案者本身也是未成年人，他们通过图像生成网站或简单的手机应用，制作逼真的露骨伪造图像，并在同龄人之间传播。
目录
当局称，过去一年登记在案的相关咨询和未成年人色情伪造图像报告超过100起。在已知案件中，有17起涉及取自学校活动或毕业纪念册的照片。受害者往往怀疑作案者是自己认识的人。警方甚至记录到针对同性同龄人的骚扰案件，目的在于霸凌或羞辱，而非寻求性刺激。在日本中部东海地区的一起案件中，一名初中男生因涉嫌诽谤被移送检方；他被指制作女同学的裸照伪造图像，并在朋友间传播。
此类案件激增，与全球更广泛的趋势一致。一家美国安全公司追踪发现，2023年网上至少出现95,820段深度伪造视频，其中98%涉及色情内容。如今，易于使用的工具允许用户输入提示词、上传人脸照片，或一键尝试从照片中去除衣物。这些工具的易得性与学校社交关系，以及儿童大量发布或分享个人照片的现象相互交织，而孩子们往往没有意识到这些照片可能被恶意利用。
青少年如何用日常照片制作深度伪造图像
如今的工具大致分为几类。有些应用会通过合成衣物下的身体，尝试将照片“脱衣”。另一些工具会把学校照片中的人脸替换到成年表演者身上。生成式人工智能网站还可以仅凭文字提示生成露骨图像，再通过几张参考照片对图像进行调整，使其看起来像某个特定的人。这些系统原本旨在从海量数据集中学到的模式合成新图像，而且可以在消费级设备上运行，这降低了滥用门槛，也增加了学校、家庭和执法部门发现问题的难度。
案件为何难以起诉
日本主要用于规制儿童性影像的法律《儿童卖春、儿童色情行为等的禁止及处罚并保护儿童法》，制定时旨在保护真实影像中被拍摄的真实儿童。这使AI伪造图像处于法律灰色地带。当图像由人工合成时，即使使用了真实儿童的面孔或肖像，适用法律的路径也不够明确。警方已开始转而援引其他法律，包括诽谤罪和部分地方条例，在可能的情况下追究案件责任。这种做法较为零散，也让受害者及其家人承担了发现侵害并尽快报案的压力。
警方目前采取了哪些行动
日本警察厅已开始调查约10个在初中生和高中生中尤其受欢迎的图像生成网站和应用。调查人员计划利用调查结果协助刑事调查，并为青少年制定教育项目，包括在预防青少年不良行为的课程中说明，制作或传播此类图像为何可能构成犯罪，以及会对同学造成严重伤害。
警方高层官员警告，侵害规模远大于已报告案件所显示的情况。一名高级警官在审查近期投诉后表示，已知事件很可能只是实际情况的一小部分，因为许多受害者没有站出来求助。
日本法律的灰色地带
日本法律学者表示，该国的法律框架未能跟上生成式人工智能的发展。按照现行规定，如果检方无法证明图像描绘了真实儿童，或无法明确辨认出真实儿童，深度伪造图像可能不属于国家针对儿童性虐待材料的法律规制范围。这一法律缺口与受害者遭受的真实伤害形成鲜明对比：他们的面孔或姓名被附加在露骨的伪造图像上，并在群聊或社交媒体上传播。
金泽大学律师兼教授长濑隆志曾就互联网政策提供咨询。他认为，真实影像与合成影像之间的区分，已不再符合这项技术的实际使用方式。
现行法律旨在保护真实儿童，但生成式人工智能已模糊了真实与伪造之间的界限。
一些地方政府已开始采取行动。鸟取县于2024年修订条例，明确禁止使用儿童照片制作露骨色情伪造图像。倡议人士欢迎地方层面的举措，但表示仍需制定全国性法律，以免执法因管辖区域而异，或在图像存储于境外服务器、匿名传播时陷入困境。中央政府工作组曾讨论青少年使用互联网的问题以及针对AI滥用的潜在措施，但进展缓慢。
研究猥亵规制的神奈川大学刑法学副教授上田正树表示，法律界定应反映儿童肖像遭滥用后实际承受的隐私侵害和心理伤害。
如果制作精良的伪造图像在网上传播，即使图像是假的，也侵犯了照片遭滥用的儿童的隐私。其心理负担十分沉重，因此应考虑将深度伪造图像按照儿童色情内容处理，并制定相应法律规制。
助长侵害的技术
深度伪造图像由经过训练、能够合成逼真图像的机器学习模型生成。目前主要有两类工具。人脸替换技术会将目标人脸对齐并融合到现有视频或照片中。文字生成图像系统通常称为扩散模型，可根据文字提示从头生成整幅图像；如果提供参考人脸，也能据此生成图像。作案者有时会用从目标社交媒体主页抓取或从学校相册中获取的少量照片，在本地模型上进行微调，从而生成与儿童肖像惊人相似的图像。
这些进展让发现和应对变得更加困难。如果图像完全由人工合成，就没有原始照片可供比对。水印和AI检测过滤器虽然存在，但效果并不稳定，而且可以被去除。互联网观察基金会报告称，2023年有一个月里，单个暗网论坛就发布了逾20,000张AI生成图像，其中数千张违反英国法律。该机构后续更新警告称，此类内容正越来越多地流入公开网络，毫无戒心的用户和受害者可能在公开论坛和图片库中遇到这些内容。根据IWF的说法，一些最逼真的内容在视觉上与真实虐待影像无法区分，这增加了受害者再次受害的风险，也让版主和警方不堪重负。IWF已发布关于人工智能如何被滥用于制作儿童性虐待影像的研究，并呼吁尽快采取法律和技术对策。相关报告可见IWF研究。
受害者和学校承受的伤害
对儿童而言，看到自己的脸被贴到色情图像上，可能引发恐惧、羞耻和失控感。即使同学知道照片是伪造的，对受害者声誉和心理健康造成的伤害仍可能十分严重。谣言传播、霸凌加剧，教师还要忙于回应家长、保障学生安全并配合执法部门，这些次生伤害给学校社区带来重重压力。
尤其是女孩，她们表示自己正在改变参与网络活动的方式。在英格兰，儿童事务专员报告称，一些青少年已停止发布照片，因为她们担心“脱衣”工具会被用来恶意利用这些图像。英格兰儿童事务专员雷切尔·德·索萨女爵士敦促立法者取缔制作儿童露骨深度伪造图像的应用，并指出此类侵害正令越来越多的少女感到痛苦。
利用深度伪造技术制作儿童裸体图像的工具不应合法存在。我呼吁政府采取果断行动，禁止此类工具。它们不应存在于我们的社会中。
在日本，律师称，他们遇到的相关案件越来越多：十几岁的男孩因与深度伪造活动或群聊中传播露骨内容有关的性犯罪受到调查。专家提醒，许多青少年并不了解相关法律后果，也不明白这会伤害同龄人，直到警方上门或学校启动纪律处分程序，问题才变得真切。这一认知差距凸显了明确规则、学校教育和强有力平台保护措施的必要性。
全球行动对日本的启示
其他国家已着手堵上法律漏洞。韩国于2024年9月通过法案，不仅将制作未成年人色情深度伪造图像定为犯罪，也将观看或持有此类图像定为犯罪。美国于2025年5月颁布一项联邦法律，禁止未经当事人同意发布露骨色情图像或视频，并要求平台在受害者提出请求后48小时内删除相关内容。美国许多州也已修订法律，将AI修改或生成的未成年人性行为图像认定为非法儿童性虐待材料，即使图像所描绘的行为发生时并无真实儿童在场。各州采取的这些行动，是对美国早期法院裁决的回应；当时的裁决将纯虚拟内容与使用真实儿童制作的图像区别对待。
在欧洲，执法部门正开展跨境合作。欧洲刑警组织协调开展“坎伯兰行动”，这是全球首批针对AI生成儿童性虐待材料的打击行动之一。在19个国家支持下，警方确认数百名嫌疑人身份，逮捕数十人，并搜查住所，打击一个传播完全人工合成未成年人图像的平台。调查人员表示，人工智能如今让技能有限的人也能制作大量虐待内容，并警告称，当图像为合成内容时，传统的受害者身份识别或源材料追踪方法往往失效。欧洲刑警组织执行主任凯瑟琳·德·博勒强调，亟需制定适用于AI生成内容的新调查方法。
怀有犯罪意图的人可以轻易制作AI生成图像，这会增加虐待材料的数量，也让识别作案者或受害者变得更加困难。
在日本国内，警方近期首次逮捕了涉嫌通过网上拍卖出售AI生成虚构成年女性淫秽海报的人，表明现有的猥亵法律可以适用于部分AI滥用行为。据报道，其中一名嫌疑人在一年内获利约1,000万日元。涉及儿童的案件面临更多法律障碍，因此学者和儿童保护团体呼吁制定明确的全国性规则，涵盖以真实照片为基础或完全由人工合成的未成年人色情图像。
家庭、学校和平台现在可以采取哪些措施
政策制定者讨论改革之际，也有一些切实可行的措施能够降低风险，并在侵害发生时加快应对。这些措施着眼于同意、照片访问权限、举报渠道和心理健康支持。
- 限制学生照片的传播。学校可以将班级相册和活动照片库限制为经核实的监护人访问，使用限时链接，并为离开官方渠道传播的图像添加水印。
- 尽早开展关于同意和数字伦理的教育。在班会或信息技术课程中纳入人工智能和媒介素养教育，坦诚讨论深度伪造、隐私以及这类图像造成的伤害。
- 明确群聊规则。学生社团和班级应为即时通信应用制定行为规范，并明确传播露骨内容或骚扰内容的后果。
- 让学生能够迅速举报。简化向可信赖的成年人、学校和平台报告侵害图像的流程。及时举报可以缩短内容传播的时间窗口。
- 与执法部门合作。即使法律途径尚不明确，也应向警方提供证据，以便警方就可能适用的诽谤、隐私或地方条例提供建议。
- 联系平台处理。使用内置工具举报未经同意传播的色情图像并申请删除。保存链接、时间戳和用户名记录。
- 关注受害者的心理健康。提供保密咨询并及时联系监护人。不要要求受害者与同龄人当面对质，以证明图像是伪造的。
- 减少个人信息痕迹。鼓励学生将账户设为私密、清理旧帖，并避免发布与学校或地点信息相关联的高分辨率正脸照片。
- 采用更安全的照片分享方式。分享球队或班级合照时，可考虑采用更远景的构图、减少面部特写，并限制他人再次传播的权限。
对科技公司而言，保护措施包括对提示词和上传内容进行有效过滤、默认屏蔽“脱衣”功能、严格核验年龄，以及建立能在不同产品中快速生效的删除流程。透明说明已知失误和已采取的修复措施，有助于重建信任。近期，一款主流聊天机器人生成一名16岁名人色情化图像，引发争议。这一事件表明，设计上的漏洞可能迅速引来监管机构警告和公众反弹。
要点
- 日本警方接到越来越多报告称，未成年人利用学校照片和群聊图片制作并传播同学的AI色情深度伪造图像。
- 过去一年，全国收到的相关咨询和报告超过100起，至少17起与学校活动和毕业纪念册有关。
- 现行国家法律侧重于真实儿童影像，因此深度伪造案件难以起诉。警方常援引诽谤等其他法律。
- 日本警察厅正在调查约10个受欢迎的图像生成网站和应用，并计划将调查结果用于刑事调查和青少年教育。
- 专家表示，法律体系未能跟上技术发展。学者呼吁制定明确的全国性规则，将未成年人的色情深度伪造图像按照非法儿童性虐待材料处理。
- 韩国、美国、英国和澳大利亚等地已采取措施规制AI生成的色情图像，包括规定平台须迅速删除相关内容，并设立新的罪名。
- 欧洲刑警组织开展的“坎伯兰行动”打击了一个传播完全由AI生成的儿童虐待内容的网络，并揭示了图像未描绘真实儿童时面临的调查难题。
- 学校、家庭和平台可通过加强照片访问管理、开展AI素养教育、执行群聊规则、简化举报流程并为受害者提供心理咨询，减少伤害。
