金秀基惯用行动手法中的人工智能新招
据一家韩国网络安全公司发布的详细分析，朝鲜金秀基组织利用人工智能为钓鱼行动制作逼真的韩国军方雇员身份证图片。诱饵要求收件人审核民职人员的身份证样稿，这类请求在国防机构内部看起来再平常不过。随附图片看似正规证件，但调查人员称，这些图像由生成式人工智能模型制作，并与恶意软件一同打包，可控制受害者的电脑。
目录
邮件冒充负责签发身份证件的国防相关机构。攻击者附上类似身份证设计草稿的 PNG 图片，试图让收件人放下戒心。同一投递链中还藏有文件，一旦目标与内容互动，文件便会启动后门。攻击者可能通过提示商业人工智能系统制作供测试使用的证件样稿，而非真实证件，以此生成图像；这种方法可能绕过自动化安全防护。
发件人地址也仿冒了受信任的军事域名。调查人员发现，攻击者使用了 .mli.kr 等假域名，仿照韩国官方国防域名后缀 .mil.kr，诱骗收件人看到熟悉的线索便放松警惕。这类细微改动是常见的社会工程手法，在收件人匆忙浏览繁忙的收件箱时尤其难以察觉。
这场行动于 7 月中旬首次被发现，此前该组织曾使用 ClickFix 式诱饵，并投放同一恶意软件家族。攻击者似乎将此前行动中积累的经验再次用于这次行动，并配上人工智能生成的图像，让诱饵更具迷惑性。目标包括一个军事相关组织，以及关注朝鲜问题的研究人员、记者和活动人士。
钓鱼骗局如何运作
诱饵很简单：收件人会收到一封邮件，要求快速审核身份证样稿。ZIP 压缩包或下载链接会提供一张图片和一个或多个脚本。一旦打开，攻击链就会执行代码，将电脑连接到攻击者的基础设施，下载其他组件并建立远程控制。图片则让所谓的设计审核显得无害可信。
通过提示注入绕过人工智能安全防护
大多数主流人工智能工具会拒绝制作政府签发的身份证件，因为仿制此类文件违法，也会助长欺诈。在这起事件中，攻击者似乎将提示包装成内部样稿设计请求。这种做法可能使模型将请求判定为无害。这属于提示注入或越狱，即用户通过措辞重新界定请求意图，引导模型绕过规则。
分析人员检查一张假图像后称，深度伪造检测器以 98% 的概率判定其由人工智能生成。至少有一份样本的图像元数据提到了 GPT 4o 和 ChatGPT，表明攻击者在测试或制作过程中可能使用了 OpenAI 的图像生成流程。图像越像常规证件草稿，匆忙办事的员工就越可能认为请求合情合理。
恶意软件投放与入侵链条
攻击者采用了不同的投放方式。在一个已观察到的案例中，ZIP 文件包含一个伪装成普通文档的快捷方式。运行后，它会执行 PowerShell 命令，连接远程服务器、获取后门，并下载作为诱饵的身份证 PNG 图片。另一起案例中，一个名为 LhUdPC3G.bat 的批处理文件与图片一同运行，发起恶意活动，包括建立持久性、窃取数据和远程控制。
这些都是鱼叉式钓鱼邮件，操作者对细节颇为讲究。一些压缩包使用收件人真实姓名的一部分进行个性化命名，以增加可信度并诱使目标打开附件。伪造的身份证图像、常见的请求类型，以及与正规域名极为相似的发件人域名，共同促使收件人放松警惕。
金秀基的目标及其动机
多年来，政府机构和私人研究人员一直将金秀基列为朝鲜情报收集部门。评估认为，该组织收集符合国家优先事项的政策、军事和技术信息。其目标通常包括政府机构、国防相关机构、智库、学术研究人员、记者，以及关注朝鲜问题的人权组织。
6 月，研究人员记录了以 ClickFix 为主题的邮件，诱导用户按下按钮来解决所谓的问题。7 月的行动沿用了相同的恶意软件和许多相同的手法，又加入人工智能生成的设计样稿来强化诱饵。这不是一次大规模群发，而是一场精心策划的定向行动，目标是入侵特定网络和收件箱。
归因依据包括共享的恶意软件代码、重复使用的基础设施、语言模式和目标选择等技术及背景证据。这些迹象与此前归因于金秀基的活动相符。该手法也符合其长期任务：渗透政策圈、收集数据，并在密切关注朝鲜的机构内部保持立足点。
冒充负责签发身份证件的部门，利用了人们熟悉的业务流程。身份证件往往需要协作审核，涉及字体、照片和版式的反复修改，也自带权威感。因此，审核样稿的请求听起来十分寻常。
朝鲜行动人员滥用人工智能的趋势扩大
这场钓鱼行动符合更广泛的趋势。8 月，一家人工智能开发商报告称，该公司挫败了朝鲜行动人员的活动。这些人员利用其模型伪造身份、申请美国科技公司的远程职位，甚至在受聘后完成技术工作。报告还称，与这些活动有关的账户已被封禁，公司也更新了针对恶意使用的检测系统。
韩国和美国的安全简报警告称，朝鲜人员利用人工智能工具撰写流畅的邮件、制作简历和求职信、编写代码，并创建配有职业头像的人设。这些能力让少数操作者也能展现出大型团队般的专业水准。相关门槛已经降低。技术能力有限的人如今也能借助人工智能获取指导、更快编写恶意软件模块、将内容翻译成地道的韩语或英语，并生成经得起快速审视的视觉素材。
研究半岛数字冲突的分析人士指出，针对韩国机构的攻击激增。2023 年公开资料称，针对政府系统的日常攻击尝试多达数百万次，其中许多与朝鲜活动有关。联合国的另行报告和行业研究则将朝鲜部门与大规模加密货币盗窃联系起来，这些赃款被用于资助战略项目。鱼叉式钓鱼、人工智能辅助的求职欺诈和金融盗窃，都是在制裁压力下收集情报和获取资金这一整体战略的一部分。
中国背景的行动人员和其他与国家有关联的行为者也在试验生成式人工智能，但这里关注的是朝鲜部门迅速将其用于间谍活动和非法融资。钓鱼工具包与人工智能辅助内容工作室之间的界限已经模糊。过去需要设计师、翻译和开发人员团队才能完成的工作，如今只需输入提示并使用少量开源工具就能拼凑出来。
人工智能为何让社会工程更具迷惑性
生成式人工智能擅长按需生成精致内容。在钓鱼场景中，这意味着只需付出很少的努力，就能针对目标受众定制图像、文本和代码。逼真的证件样稿或带有品牌标识的信头，能降低读者的警惕。模型若能用正式的官僚韩语写作、恰当使用缩写并保持礼貌语气，就能生成看起来真实可信的邮件。
语言模型也能充当不知疲倦的写作助手。它们可以纠正语法、模仿机构文风，并确保多封邮件的语气一致。攻击者可以要求模型针对不同岗位改写同一封邮件。模型既能写出像是给人力资源经理的常规通知，也能写出像是给 IT 主管的技术备忘录。
在技术方面，代码助手能帮助经验不足的操作者拼接脚本和载荷。模型会解释错误、提出修复建议，并生成可运行的示例。若被不当使用，这类工具会加快恶意软件开发速度并降低学习门槛。再配合文本生成和翻译，单个操作者就能开展多语言行动，而这在过去需要一个团队才能完成。
身份造假是另一个关键环节。模型可以帮助编造工作经历、制作格式规范的简历，并撰写符合招聘信息要求的求职信。图像工具则能生成经得起快速查看的头像。这些能力结合起来，让商业邮件欺诈和长期渗透更容易得手，至少在人力和技术防线跟上之前是如此。
防御、检测与政策应对
韩国已更新《国家网络安全战略》，重点强调国际合作、先进技术应用和防御能力提升。该计划提出运用人工智能进行实时监测和检测、深化与合作伙伴的信息共享，并增强关键基础设施的韧性。首尔还推动与美国和日本加强协调，以统一政策并开展针对事件响应的联合演练。
面对利用仿冒域名和深度伪造图像发起的攻击，组织可以综合运用流程、培训和技术手段加以防范。首先要建立核验流程。涉及凭证或身份证件的请求应遵循书面流程，包括通过第二渠道联系已知的官方人员进行确认。应培训员工逐字核对域名，并在点击链接前将鼠标悬停其上查看地址。
技术控制有助于阻止恶意程序运行。邮件网关应隔离含有嵌套压缩包的邮件，并拦截快捷方式文件、ISO 镜像和脚本等高风险附件类型。尽可能关闭或限制 PowerShell，并通过应用程序允许列表阻止未经批准的可执行文件。端点检测与响应工具可以发现恶意 PowerShell 调用和异常的外联连接。网络监控则可在用户与邮件互动后，对不熟悉域名上的新连接发出警报。
招聘和供应商审查正日益成为网络防御的一部分。远程招聘流程应包括严格的身份核验，例如实时视频核验、可信第三方认证和独立的推荐人核查。处理敏感数据的系统应强制执行最小权限访问和持续验证。定期审计可以发现异常情况，例如来自异常地点的登录和非预期时段的活动。
人工智能的法律与伦理防护措施
这起事件凸显了人工智能应用中的矛盾。企业允许员工用人工智能起草文件、编写代码和处理图像，可以从中受益；但这种易用性也可能被对手滥用。人工智能开发商已推出拒绝生成有害内容并监控滥用行为的安全系统，但攻击者会用精心设计的提示试图绕过这些措施。防御领域则通过共享滥用迹象、移除违规账户和改进模型行为以抵御操纵来应对。
政策和采购决策也很重要。政府机构和承包商应要求人工智能系统供应商提供审计日志、滥用举报渠道和模型加固更新。明确的企业人工智能使用规则可以防止意外生成高风险内容。安全团队应使用常见的越狱提示测试模型，并针对文档设计或代码审查等业务需求，提供安全替代方案和预先批准的工作流程。
要点
- 金秀基在 7 月的一场鱼叉式钓鱼行动中，利用人工智能生成的韩国军方身份证图片作为诱饵。
- 邮件要求收件人审核身份证样稿，发件域名则用 .mli.kr 仿冒官方后缀 .mil.kr。
- 调查人员在至少一张图像的元数据中发现了 GPT 4o 和 ChatGPT 字样；一款检测器以 98% 的概率判定一张假图由人工智能生成。
- 投递链包含 ZIP 压缩包和脚本，会执行 PowerShell 命令、安装后门并下载作为诱饵的 PNG 图片。
- 目标包括一个军事相关组织，以及关注朝鲜问题的研究人员、记者和人权活动人士。
- 这场行动重复使用了 6 月 ClickFix 主题活动中出现的恶意软件，该活动被归因于同一组织。
- 据一家大型人工智能服务商最近发布的报告，朝鲜行动人员还利用人工智能工具伪造身份并获得远程工作。
- 防御措施包括严格核验涉及身份信息的请求，采用邮件和终端控制拦截高风险文件类型及脚本，并加强远程招聘审查。
