问题日益严重，一条小小的标签
演员贾恩维·卡普尔、基尔蒂·苏雷什和苏奈娜对他人利用人工智能深度伪造技术滥用其肖像表示反对。在出现不当图片和视频后，她们警告称将采取法律行动。她们的遭遇凸显了社交媒体平台面临的一个现实问题：观众能多容易地辨别屏幕上的人物是否为数字合成？
视觉特效专家、Pearl Academy传播、电影与游戏学部主任CB Arun Kumar呼吁立法，要求对人工智能生成的内容加注醒目、清晰的标签。他认为，现有提示可能太容易被忽略，导致伪造内容看起来像真实照片、录音或新闻事件。
Instagram的“AI Info”（人工智能信息）标签是他批评的重点。他说，这条提示以小字显示在账号用户名与发布的图片或视频之间。他担心的是提示不够醒目：观众刷过内容时若没注意到，披露信息就几乎起不到实际作用。
Arun Kumar解释了他为何希望加强标注要求：
我们需要更严格的法律，强制对人工智能内容进行清晰、醒目的标注，让它不再能伪装成新闻，就像网上大量传播的一些灾难视频那样。真正的问题在于，观众再也无法分辨什么是真、什么是假。
他的提议针对两个相互关联的问题。演员面临的个人伤害，是看到自己的身份被放进不当内容中；观众则可能把虚构场景当成真实发生的事情。醒目的标签能在观众看到图片时及时提供信息，让他们在决定是否相信或转发之前作出判断。
这些演员遭遇了什么？
卡普尔、苏雷什和苏奈娜都是曾在肖像出现在不当深度伪造图片或视频中后表示震惊或提出反对的演员。她们还警告称，将对滥用肖像的责任人采取法律行动。
深度伪造是指借助人工智能制作或篡改图片、视频或音频，让某人看起来像是做了或说了实际上并未做过或说过的事。对于演员来说，辨识度高的面部特征可能让伪造内容显得可信，即使本人从未参与制作。
眼前的问题是个人对自身身份的掌控。演员可以选择出演哪些角色、发布哪些照片，以及代言哪些产品。伪造图片却可能把演员放进一个他们从未同意参与的场景中，而观众起初可能以为画面是真的。
Arun Kumar要求加强法律规定，但这并不意味着新规已经出台。他的评论中没有提及具体法案、执法期限或拟议处罚。
人工智能出现前，假图就已存在
Arun Kumar将当前的担忧置于娱乐影像遭篡改的更长历史中。如今的人工智能工具出现之前，人们就能借助替身、Photoshop，以及克隆、变形等视觉特效技术制作虚假场景。
克隆是指复制图像或片段中的元素。变形则是将一幅图像转变为另一幅，包括改变面孔或其外观。在电影制作中，这两种技术都可用于正当创作，因为观众知道其中的场景是经过设计的。问题在于，经过篡改的内容被当作某人行为的真实记录呈现出来。
人工智能为制作这类内容提供了另一种途径，其中也包括那些希望通过吸引关注和传播内容迅速获利的人。Arun Kumar认为，应根据人工智能技术的用途来评判它；对于制作不当内容的责任人，则应采取现有法律救济措施。
Arun Kumar说，现行法律已经提供了要求删除内容的途径：
已经有很多法律途径可以删除这类不当内容。
删除内容和加注标签，针对的是同一传播链条中的不同环节。下架是为了在图片遭到质疑后阻止它继续传播；醒目的标签则能帮助人们在图片仍显示于屏幕上时作出判断。他的主张将这两项工作都纳入视野：应对有害内容，并让人们更容易辨认其人工合成属性。
标签大小为何重要
Instagram的小号人工智能提示，体现了“有披露”和“披露有用”之间的差距。Arun Kumar希望平台将相关信息展示得足够醒目，让普通观众无需在图片周围寻找就能看到。
伪造的灾难视频说明，这一问题的影响并不止于名人文化。看到疑似真实突发事件影像的人，需要知道场景是否由人工生成。否则，画面可能影响他们对一件从未以所呈现方式发生过的事件的看法。
对演员来说，同样的问题更关乎个人。面孔是让虚假图片具有辨识度并吸引关注的关键。若观众没看到标签，就可能先把场景与演员联系起来，之后才知道画面是如何制作的。
因此，Arun Kumar的诉求不仅涉及信息是否存在，也涉及信息如何呈现。平台可以在帖子旁放置提示，但提示的大小和位置仍会影响观众能否注意到。他主张的标准很明确：人工合成属性应当一目了然。
艺术家的同意是另一个问题
Arun Kumar还区分了全盘否定人工智能与反对未经许可使用艺术家作品这两种立场。前者是对整项技术的判断，后者关注的是具体作品如何被获取和使用。
训练是人工智能系统通过示例学习规律的过程，示例可能包括图片、文字、声音或视频。担心作品被用于训练的艺术家，想知道自己的创作未经同意就被纳入这一过程后会发生什么。
这个问题的范围超出了显而易见的深度伪造。演员可能反对自己的形象被伪造；插画师或其他创作者则可能反对自己的作品被用于开发生成新图像的系统。受到影响的人以及他们所反对的行为可能各不相同。
Arun Kumar认为，一概否定人工智能会忽视这些区别。他的立场为正当的创意用途留出了空间，同时也认真看待有关许可的异议。对读者而言，值得关注的问题很具体：画面中出现的是谁的身份？使用了谁的作品？获得了什么许可？
数字艺术家的收入承压
Arun Kumar表示，活跃于媒体、商业、电影、电视、建筑和时尚领域的平面设计师，也面临人工智能普及带来的另一种影响：当企业能更快生成某些视觉素材时，他们的谋生能力会受到冲击。
Arun Kumar说，随着人工智能生成内容成为竞争选项，需要投入大量人工的作品正逐渐失去商业价值。客户在决定如何制作图像时，可能会把速度和成本与艺术家的技能和判断力一并纳入考量。
这种压力也可能影响人们对人工创作的看法。Arun Kumar警告说，精心制作的图像可能会被拿来与低质量的人工智能生成内容比较。对艺术家而言，这意味着他们必须在观众和客户越来越常同时接触两类作品的市场中，解释自己作品的价值。
Arun Kumar谈到了就业压力，并给艺术家提出了建议：
现实是，人工智能革命正在让他们失去工作，因为人工智能能更快完成这些工作。真正的艺术家如果能把人工智能作为创作流程中的另一种工具，就能生存并发展。
创作流程是完成创意项目的一系列步骤，从最初构想到最终图像或影片。他建议艺术家了解人工智能可以在哪些环节发挥作用，同时继续在作品中融入人的选择与技艺。
他对能够适应变化的艺术家持乐观态度，但他的描述也承认，对于收入依赖于人工智能能够加速完成的工作的人来说，压力已经迫在眉睫。寻求保护、免遭形象伪造的演员，与面临低价竞争的艺术家，正经历同一场技术变革的不同侧面。
要点
- 贾恩维·卡普尔、基尔蒂·苏雷什和苏奈娜等演员，曾反对他人滥用其肖像制作深度伪造内容。
- Pearl Academy学部主任、视觉特效专家CB Arun Kumar呼吁立法，要求对人工智能内容加注清晰、醒目的标签。
- 他认为，包括Instagram“AI Info”标签在内的小号提示太容易被观众忽略。
- 他支持针对人工智能有害用途采取行动，并对未经同意使用艺术家作品表示担忧。
- 他说，数字艺术家的收入正承受压力，应学习将人工智能融入创作流程。
