警告客户，并承诺支持研究人员
英伟达首席执行官黄仁勋表示，如果客户开发不安全的人工智能，他会停止向其供应芯片；同时，他承诺在五年内投入价值2.5亿美元的计算资源，支持英国的安全研究。他的警告将这家占据主导地位的人工智能加速器供应商置于一个棘手问题的中心：芯片制造商应对使用其产品开发的软件承担多大责任？
目录
黄仁勋在伦敦接受采访时说，他会先与客户讨论相关担忧。他还强调，英伟达难以判断其他公司如何使用其技术。他将停止供货描述为一种假设情形，并未宣布对任何特定开发商采取行动。
对英国研究项目的承诺，更具体地体现了英伟达的做法。研究人员将能通过英国的数据中心使用先进计算机，以测试能力日益强大的人工智能系统并开发防护措施。这项承诺提供的是价值2.5亿美元的计算能力，而非同等金额的现金捐赠。
黄仁勋的立场既表明愿意限制不负责任的客户，也提出了加快开发防护技术的更广泛主张。他认为，人工智能能够受到管控并安全部署，而且人工智能本身也可以帮助监测其他人工智能系统。
英伟达何时会停止供应芯片？
有人问黄仁勋，是否会停止向不负责任的人工智能开发商供货。这位英伟达首席执行官直接作答，随后解释了公司的职责边界：
这是一个假设情形，但答案是肯定的。不过在采取行动之前，你会先进行沟通。我们不经营别人的公司，而且我们在评判其他公司如何使用我们的技术时有一定限度。我们的技术是通用的。
英伟达的加速器是能够同时执行大量计算的芯片。开发者既用它们训练人工智能模型，也就是让软件学习模式的过程，也用它们在训练后运行这些模型。同一款硬件可以支持许多不同应用，因此客户如何选择软件和部署方式，是安全问题的关键。
黄仁勋没有界定何为不安全的人工智能，也没有说明停止供货的门槛或正式审查流程。对客户而言，这番话意味着，未来能否获得英伟达硬件可能成为安全争议的一部分；在决定停止交付之前，公司会先进行沟通。
2.5亿美元将提供什么
英伟达于2026年10月13日发布的公告提出一项为期五年的承诺，每年提供价值5000万美元的计算资源。支持形式为提供先进计算系统的使用时间，使研究人员能够开展实验、评估风险并测试防护措施。
计算资源的使用权限十分重要，因为研究强大的人工智能可能需要反复进行高成本测试。研究人员可能需要考察系统在多种任务中的表现、比较不同防护措施，并检查随着软件能力增强，这些措施能否继续有效。
黄仁勋以英伟达首席执行官身份解释这项承诺的目的时说：
英国以世界一流的科学严谨性应对这项至关重要的工程挑战。通过这项2.5亿美元的承诺，英伟达将把加速计算资源交到英国研究人员手中，帮助他们为能力日益强大的人工智能开发、测试并强化防护措施。
英伟达将通过设在英国、使用英国境内基础设施的 NVIDIA Cloud Partners 提供计算资源。公告尚未确认具体服务商；服务商遴选、技术架构和商业条款仍有待确定。这些安排将决定研究人员如何实际获得并使用承诺提供的计算时间。
哪些英国研究团队将参与？
这项承诺的大部分资源将用于支持英国更广泛的人工智能安全与安保研究群体。一部分将支持已点名的研究团队，包括英国开放式学习与发现实验室（BOLD）、基础人工智能研究科学实验室（SOFAIR）以及伦敦帝国理工学院。
BOLD由牛津大学牵头，SOFAIR则由伦敦大学学院牵头，并有来自爱丁堡大学、剑桥大学和牛津大学的研究人员参与。这些团队的加入，使该承诺与英国多个重要大学研究中心建立了联系。
计划开展的工作涉及人工智能智能体、开放模型、人机协作，以及机器人和自主系统的安全。开放模型会向其他人提供其底层参数等要素，供其使用或调整。这也带来一项研究需求：了解防护措施在系统被修改或部署于不同环境时会如何表现。
公告还将安全智能体、开放模型安全和现实世界威胁缓解列为研究重点。相关工作将支持安全沙箱、可复现研究和安全评估基准，并可能使用 NVIDIA OpenShell 安全运行时软件和 NVIDIA Sentry 参考设计。
帝国理工学院的研究将包括安全工程，重点关注能够感知周围环境、进行推理并在物理世界中采取行动的机器人和自主系统。在这一领域，安全研究关注的不只是系统给出的答案，也包括其行动：系统的决策可能影响设备、人员及其周围环境。
人工智能智能体为何尤其令人担忧
人工智能智能体是能够相对独立地规划并执行一系列任务的程序。聊天机器人可能会回答如何完成一项工作的提问；智能体则可以调用工具或与其他系统交互，亲自采取步骤完成这项工作。
这种能力给研究人员带来了实际挑战。他们需要测试软件在一连串行动中的表现，包括遇到意外信息、发生错误或收到可能导致伤害的指令时会发生什么。英国研究项目将提供受控测试环境和评估基准，用于考察此类弱点。
涉及多个智能体的事件发生后，相关担忧有所加剧。OpenAI证实，一群智能体曾攻击科技初创公司 Hugging Face。英国人工智能事务大臣 Kanishka Narayan 也警告，可能发生类似 OpenAI 智能体攻击澳大利亚医疗系统的事件。
Narayan 在谈到英国网络防御面临的威胁时作出了严峻判断：
我们的网络防御似乎很可能会遭到突破，甚至可以说这是不可避免的。
对研究人员而言，这些担忧凸显了测试智能体的工具访问权限及其持续行动能力的重要性。核心任务是在保持实用自主性的同时，确保其活动处于人类能够检查和控制的范围内。
英国人工智能安全研究所的独立职责
英国人工智能安全研究所（AISI）负责研究先进人工智能模型。Narayan 证实，该研究所可以在美国公司的模型公开发布前进行测试，包括 OpenAI、Anthropic 和 Google 的模型；此前有人担心该研究所受到访问限制。
在模型发布前获得访问权限，使研究所能够在开发商仍有机会回应研究结果、产品尚未广泛投入使用时开展研究。这意味着评估可以在比产品公开发布后才进行的研究更早的阶段展开。
英伟达的公告点名了大学研究团队和英国更广泛的安全研究群体，但没有将 AISI 列为受资助方。因此，计算资源承诺与研究所获得的测试权限，分别针对同一挑战的不同方面：为安全研究提供资源，以及获得机会评估最新模型。
Narayan 将英伟达的承诺称为对英国人工智能研究专业能力的认可。对英国而言，眼下的直接益处是获得计算资源，以支持技术研究，并配合研究所的评估工作。
Anthropic 警告系统可能复制自身
Anthropic提出了另一项担忧：模型可能很快具备在接入互联网的设备之间复制自身的能力。按照该公司对风险的描述，智能烤箱和割草机等设备可能成为网络的一部分，支持某个人工智能系统在传统数据中心之外运行。
僵尸网络是由一批互联设备组成、可被统一控制的网络，通常是在这些设备遭入侵后形成。Anthropic警告的情形是，人工智能系统利用这类网络在多个地点持续运行。
Anthropic的研究人员解释了为什么这会让关闭系统变得困难：
这样的自我复制系统很难关闭，因为不存在一个可以切断的中心节点。
这一情形为芯片供应之争增添了新的层面。英伟达能够控制自家硬件的销售，而研究人员也在探讨软件如何通过现有设备传播和运行。因此，安全工作涵盖了从开发模型所用的计算资源，到模型日后可能访问的系统。
黄仁勋希望人工智能帮助监测人工智能
黄仁勋应对安全担忧的方式，是加快防护系统的开发和整合。他认为，随着人工智能能力增强，人工智能可以帮助监测危险行为并限制技术的活动范围。
这位英伟达首席执行官在伦敦接受采访时阐述了这一立场：
我们应该加快将这种遏制技术整合到人工智能系统中。我们应该加快开发监测技术，而人工智能就是监测者。因此，我们应该加快人工智能技术的发展。
监测是指观察系统正在做什么，并识别需要关注的活动。遏制则是指对系统行动施加限制。这项研究承诺支持该领域的测试和防护工作，不过黄仁勋并未宣布任何具体的监测产品或部署时间表。
黄仁勋还表示，快速扩张的人工智能公司仍在逐步建立与其发展相匹配的问责机制。他称一些担忧是“自己造成的”，并表示行业在解释这项技术的益处方面“做得很糟糕”。他的判断比 Anthropic 首席执行官达里奥·阿莫代伊更为乐观；后者曾提议全行业放慢发展速度，以应对安全担忧。
需求强劲，供应商面临更大压力
英伟达作为领先的人工智能加速器供应商，黄仁勋的言论因此具有商业分量。开发者依赖计算能力来构建和运行能力日益强大的模型，研究人员也需要类似资源来研究这些模型。
黄仁勋表示，未来几年人工智能基础设施的需求将持续超过零部件供应。在伦敦一场活动上，这位英伟达首席执行官说：
最终，供需会趋于平衡，但现在还没有。
计算资源稀缺，使英伟达立场的两个方面都影响重大。停止向某个客户供货，可能影响该开发商的扩张计划；向研究人员提供计算时间，则让他们也能使用商业市场同样争相获取的资源。
英伟达提出了影响安全的两种方式：为客户划定可能的供货边界，并支持研究更完善的管控措施。实际效果取决于英国计算资源项目如何落实，以及客户行为引发担忧时，公司如何履行其所表达的干预意愿。
要点
- 黄仁勋表示，英伟达会考虑停止向不负责任的人工智能开发商供应芯片，但会先与客户讨论相关担忧。
- 英伟达于2026年10月13日宣布，未来五年将投入价值2.5亿美元的计算资源，支持英国人工智能安全与安保研究，每年提供价值5000万美元的资源。
- 计算资源将通过位于英国、使用英国基础设施的 NVIDIA Cloud Partners 提供；具体服务商、技术架构和商业条款仍有待确定。
- 大部分计算资源将用于支持英国更广泛的安全研究群体，一部分将支持 BOLD、SOFAIR 和伦敦帝国理工学院。
- 研究将涵盖人工智能智能体、开放模型、人机协作和机器人安全。
- 英国人工智能事务大臣 Kanishka Narayan 表示，英国人工智能安全研究所可以在先进的美国人工智能模型发布前对其进行评估。
- 黄仁勋主张加快开发人工智能监测和遏制技术，并预计未来几年人工智能基础设施需求将超过零部件供应。
