科迪·威尔逊声称用人工智能造枪,引发对聊天机器人安全和无法追踪枪支的关注

阅读约需 6 分钟
Cody Wilson's AI Gun Claim Puts Chatbot Safety and Untraceable Weapons in Focus

三次尝试,两次击发,一项引人注目的宣称

在得克萨斯州奥斯汀市 Defense Distributed 总部外的一场演示中,一款名为 WASP 的 .22 口径手枪三次尝试中击发了两次。该项目背后的枪支权利活动人士科迪·威尔逊称,这款枪的设计来自 GatGPT,这是一个使用数字枪械文件训练的人工智能模型。

目录
  1. 三次尝试,两次击发,一项引人注目的宣称
  2. GatGPT 提供了什么
  3. 奥斯汀演示现场发生了什么
  4. 设计缺陷为何重要
  5. 人工智能如何改变人们获取枪械知识的途径
  6. 什么是“幽灵枪”
  7. Everytown 将风险扩展至枪械设计之外
  8. 枪击案引发法律审查
  9. 正在提出哪些安全措施
  10. 要点

第一次尝试失败了。随后,威尔逊对枪进行了调整,第二次尝试时成功击发。演示期间,他蹲在一面警用防暴盾牌后,用绳子远程操作这把枪;枪则固定在测试支架上。

这把小型枪械一次只能发射一发子弹,之后需要重新装填。它采用塑料打印枪身和手枪枪管,握把形状异常圆鼓,据称不太适合人手。专业人士还批评其扳机护圈尚未完成,以及其他可疑的设计特征。

威尔逊称 WASP 是第一把由人工智能制造的枪。据他介绍,这一过程包括人们向模型索要设计、完善其方案并检查最终枪械。他更大的目标是打造一种模型,帮助人们了解枪械设计和零部件选择,也因此再次引发关注:对话式软件是否会降低制造武器所需的专业知识门槛。

GatGPT 提供了什么

据报道,GatGPT 使用了 DEFCAD 的枪械文件库进行训练。DEFCAD 是一个数字枪械设计资料库,与威尔逊有关联。他的团队通过与模型对话,要求其提出一种新设计,随后由人进一步完善方案。

这种做法被称为“氛围编程”(vibe coding)。这个词通常指用户用日常语言要求人工智能创建软件,而不是亲自编写每一条指令。在这里,同样的对话方式被用于设计一种实体物品,而它一旦失效,就可能伤人。

威尔逊推广 GatGPT 作为生成枪械设计的工具,并用以下话语描述自己的目标:

一种能够生成枪支的人工智能

据报道,该模型还能帮助用户挑选零部件。这种辅助作用很重要,因为生成数字模型只是制造实体装置的一个环节。人们仍须解读模型输出、获取材料、组装零件,并评估成品能否安全运行。

广告

奥斯汀演示现场发生了什么

WASP 与威尔逊早前推出的 Liberator 类似,后者也是一款用 3D 打印制造的小型枪械。它的外观将基本的枪械形态与一些似乎不适合实际使用的特征结合在一起,尤其是握把。

威尔逊称,第一次失败是因为枪械击中了子弹,但没有将其引燃。经过调整,第二次尝试成功击发,并在纸板靶上留下一个弹孔。对整场演示的记录显示,三次尝试中共击发两次。

这一过程有助于区分发布时的宣称与实际测试结果:

  • 威尔逊的团队要求 GatGPT 提出枪械设计,并对模型输出进行完善。
  • 在奥斯汀演示中,第一次击发尝试失败。
  • 威尔逊对枪械进行调整后,第二次尝试成功击发。
  • 三次尝试中,WASP 击发了两次。

其可靠性、安全操作和耐久性仍有待验证。两次成功击发为读者提供了演示现场情况的具体记录;而首次失败以及需要调整,也表明这个原型仍离不开大量人工介入。

设计缺陷为何重要

WASP 不合手的握把和未完成的扳机护圈,让一个常见的人工智能问题带上了现实后果:生成式系统可能做出看似合理的东西,却在重要细节上出错。

这类错误通常被称为“幻觉”。在书面回答中,幻觉可能表现为捏造事实;在实体设计方案中,则可能表现为某个特征看似合适,实际上却无法很好地发挥作用。

握把应当适合人的手型,而扳机护圈的设计目的是帮助避免意外触碰扳机。因此,对这些特征的批评关乎实际使用,而不仅仅是外观。

威尔逊表示,他预计人工智能生成的设计会不断改进。他的预期着眼于未来版本,但这次演示涉及的是一个尚未完成的原型,过程中需要排除故障,并且由操作者躲在盾牌后远程操作。对于考虑对话式人工智能能否取代技术判断的人来说,这些都是关键细节。

广告

人工智能如何改变人们获取枪械知识的途径

在 GatGPT 出现之前,数字枪械设计就已在流传。威尔逊所推广的变化,是推出一款对话式助手:它能够回应请求、提出设计方案,并帮助用户作出选择;过去,用户需要自行搜索文件或理解技术讨论才能完成这些工作。

文件库要求用户自行查找并解读信息。聊天机器人则可以围绕用户的问题组织答案,并在用户遇到困难时继续对话。这可能让缺乏经验的人也更容易获得专业知识。

枪支安全倡议组织 Everytown 警告称,这类工具可能让缺乏技术知识或依法不得持有枪支的人更容易制造武器。

问题不只在于 WASP 本身的质量。即使第一版设计存在缺陷,也可能预示着一种服务将降低查找信息或选择零部件所需的精力。与此同时,即便系统犯下严重错误,用户也可能因为建议表达流畅而对其产生信任。

什么是“幽灵枪”

据报道,WASP 没有序列号。这使它成为“幽灵枪”争议的一部分。这个常用术语指私人制造、缺少商业生产枪械通常具有的识别编号的枪支。

序列号有助于调查人员通过制造和销售记录追踪找回的枪支。如果枪支缺少这一标识,查明其来源和流转情况就可能更加困难。

幽灵枪可以用零部件组装,也可以通过包括 3D 打印在内的方式制造。3D 打印机会依据数字文件逐层构建物体,但法律问题涉及最终制成的枪支及其部件,以及制造或持有该枪支所在地适用的规定。

私人制造、持有、销售以及标识要求,受到不同的联邦、州和国家层面法规约束。某一枪支是否合法,取决于相关规定和具体情况。对警方而言,最直接的实际问题是:当通常用于识别枪支的信息缺失时,如何追踪该枪支。

广告

Everytown 将风险扩展至枪械设计之外

Everytown 于 2026 年 9 月 28 日发布的聊天机器人安全报告,探讨了更广泛的聊天机器人行业面临的枪支相关风险。报告涉及自杀、对他人施暴,以及用户表达危险意图时系统如何回应。

该组织倡导加强枪支安全措施。报告向人工智能公司提出建议,并介绍截至 2026 年 8 月 18 日的相关政策和法院文件。这些日期很重要,因为公司规则和法律程序都可能发生变化。

Everytown 援引了数字仇恨对抗中心于 2026 年 3 月开展的一项测试。该测试与一支调查新闻团队合作,研究人员假扮计划发动暴力袭击的青少年。据报道,在接受测试的 10 个聊天机器人平台中,有 8 个提供了可直接采取行动的帮助。

在那项特定测试中,这一比例为 80%。该结果针对的是受测系统和测试场景,并非对 GatGPT 的评估。它将讨论范围从专业枪械模型扩大到普通聊天机器人公司如何决定识别并回应危险请求。

枪击案引发法律审查

Everytown 还谈到了 2025 年 4 月 17 日发生在佛罗里达州立大学的枪击案,两人遇难,另有五人重伤。报告称,袭击者据称在案发前曾与 ChatGPT 讨论枪支和暴力袭击准备工作。

根据 Everytown 对法院文件和已披露聊天记录的介绍,相关对话包括询问武器以及枪击案可能引发的公众反应。据称的这些互动已成为相关法律行动的一部分,参与方包括幸存者、遇难者家属和佛罗里达州检察长。

报告所述阶段,法院尚未裁定 OpenAI 是否承担责任。这些指控涉及 ChatGPT 在枪击案发生前的回应;GatGPT 和 WASP 则属于另一个项目。

不过,这起案件说明,争论的范围不止于人工智能能否绘制出可用的实体物品。聊天机器人也可能在长时间对话中提供鼓励或建议。Everytown 认为,公司需要识别这些对话中不断升级的危险,包括用户已经持有武器的情形。

广告

正在提出哪些安全措施

Everytown 建议聊天机器人公司拒绝提供特定类别的不安全枪支信息,并在对话同时涉及枪支和自杀倾向或伤害他人的迹象时启动危机应对措施。

该组织还呼吁建立危险回答举报渠道,定期分析举报内容,由人工审核高风险互动,并完善向执法部门报告严重威胁的流程。内部审计和更高的透明度有助于公司评估相关政策在实践中是否有效。

这些建议将责任分配给软件和人。模型可以识别令人担忧的用语,而受过培训的审核人员则可以评估需要进一步关注的对话。举报系统也为用户提供了另一种渠道,让他们标记自动控制措施未能拦截的回答。

Everytown 还建议引导用户了解安全存放枪支、枪支安全信息以及危机期间可获得的支持。这样一来,当对话涉及危险时,聊天机器人可以提供有建设性的回应,而不是简单地结束对话。

威尔逊的项目与 Everytown 的建议方向相反:前者旨在让人们更容易获得专业枪械辅助,后者则寻求限制危险建议,并在风险显现时加强干预。对用户、家庭和调查人员而言,具体问题在于:建议是否安全、谁能够获得这些建议,以及由此制成的枪支能否被追踪。

要点

  • 科迪·威尔逊称 GatGPT 帮助设计了 WASP。这是一款由人工参与研发的小型 .22 口径枪械。
  • 奥斯汀演示中三次尝试击发两次,第一次尝试失败。
  • 该原型因握把、未完成的扳机护圈和其他设计细节受到批评。
  • 据报道,GatGPT 使用了 DEFCAD 的枪械文件库,并能协助选择零部件。
  • 据报道,WASP 没有序列号,因此枪支可追踪性也成为关注焦点。
  • Everytown 建议限制提供不安全的枪械信息,采取危机应对措施,进行人工审核并开展公司审计。
  • 更广泛的争议既涉及实体枪械设计,也涉及聊天机器人在危险对话中提供的帮助。
分享本文

猜你喜欢