DeepSeek“29.4万美元训练成本”说法解析:R1为何实际耗资数百万美元

阅读约需 8 分钟
Secrets of Chinese AI Model DeepSeek Revealed in Landmark Paper ...

为何29.4万美元的价格标签震惊了人工智能界

DeepSeek在《自然》杂志发表关于其推理模型R1的同行评审论文时,有个数字引起了全球关注:29.4万美元。新闻标题暗示,这款旗舰模型的训练成本只是美国竞争对手据称花费的一小部分。这个数字确有其事,但只涵盖了整个工作中的一小部分。这笔费用对应的是最后一个强化学习阶段,用于提升模型的逐步推理能力,并不包括R1所依赖的规模大得多的基础模型此前数月的预训练。

目录
  1. 为何29.4万美元的价格标签震惊了人工智能界
  2. 《自然》论文实际写了什么
  3. 打造R1的实际账单要从V3预训练算起
  4. GPU小时的计算方式
  5. 强化学习是最后的优化步骤,而非全部工作
  6. 芯片、出口规定与DeepSeek实际使用的硬件
  7. DeepSeek的成本是否远低于西方竞争对手
  8. 专家如何看待成本与获取途径
  9. 数据、蒸馏,以及训练集可能包含的内容
  10. 29.4万美元的新闻标题为何广泛传播,又为何重要
  11. 这对AI成本和竞争意味着什么
  12. 要点

R1的性能建立在DeepSeek V3之上。V3是一款使用大型计算集群,在海量语料上训练的大语言模型。团队先投入高昂成本打好基础,之后才通过强化学习引导模型提升逻辑能力和问题解决能力。把最后的优化步骤误当成整个项目,才让一项特定的成本数据成了新闻头条。

这一区别很重要。一款在编程和数学方面能与顶尖系统媲美的模型,不可能靠几排芯片在一个周末就训练出来。它需要持续的算力、大量的数据筛选、反复实验、细致的安全与评估工作,以及最后的优化阶段。《自然》论文为最后这个阶段提供了宝贵的窗口,但并没有抹去此前艰巨的工作。

《自然》论文实际写了什么

R1的补充材料详细介绍了一次使用512块英伟达H800 GPU的强化学习训练。材料称,R1 Zero的初始训练约持续198小时,之后又花了80小时训练出发布的R1。团队还记录了约5,000 GPU小时,用于生成训练过程中使用的偏好数据。按照H800级加速器的典型租赁价格计算,这些步骤的成本合计略低于30万美元。但这个数字并不代表从头打造一款最先进模型所需的全部时间和算力。

论文也澄清了硬件背景。DeepSeek主要使用H800训练R1。这款芯片是英伟达针对中国市场设计的,因为美国出口规定限制了中国获取更高端加速器。团队承认,曾在前期准备工作中使用A100 GPU训练较小的模型,随后在R1的主要强化学习训练中改用H800。读者可在期刊《自然》发布的同行评审材料中查阅技术细节和成本数据。

广告

打造R1的实际账单要从V3预训练算起

DeepSeek自己的材料指出,最大的一项成本是预训练R1所依托的V3基础模型。V3使用2,048块H800 GPU训练了约两个月,累计约279万GPU小时。若按这类硬件每GPU小时约2美元的保守租赁价格计算,仅预训练就接近558万美元。再加上约29.4万美元的强化学习及相关数据生成费用,训练出最终发布版本R1的算力成本接近587万美元。

这一估算符合论文的说法:R1的29.4万美元是基础模型成本之外的额外支出。它也与外部分析相符,即R1的总体算力规模与其他大型开放模型处于相近水平。与传闻中最大型闭源系统的预算相比,这仍显得精简,但远不是单个“不到30万美元”的新闻标题所暗示的那种低价。

GPU小时的计算方式

GPU小时是衡量算力的一种简单方式:一块GPU运行一小时,就相当于一个GPU小时。一次训练运行的总GPU小时数等于GPU数量乘以运行小时数。成本则取决于这些GPU小时在市场上的价格,可以是云端租赁费用,也可以是自有硬件的折旧和运营费用。开发者租用2,000多块加速器数月,就要按小时付费;如果购买同样的集群,则需先投入资本,之后还要承担电费、冷却、场地和维护费用。

就这个规模而言,购买集群的成本远高于单次训练的租赁费用。按照当前市场价格,配备2,048块H800级GPU、网络设备和服务器,成本将远超5,100万美元,而且这还不包括工程师工时、数据授权、评估人力、存储,以及成功发布之前大量失败的实验。587万美元最好理解为几次重要且成功的训练运行成本,而不是让这项研究成为可能的全部费用。

广告

强化学习是最后的优化步骤,而非全部工作

强化学习通过奖励预期结果来改变已训练模型的行为。在R1项目中,DeepSeek采用了一种对答案评分的技术,引导模型朝着正确结果靠拢。研究人员将这种方法称为纯强化学习。它不需要由人类编写思维链。模型会自行探索和检验不同路径,接收正确性反馈,并逐步改进内部推理策略。

这一步优化很有价值。它可以提升模型在数学、编程和科学任务上的表现,因为这些任务的目标是得出可验证的结果。它的成本也远低于预训练。真正艰巨的工作仍是数月的训练,为基础模型赋予语言知识和广泛能力。强化学习随后再针对逐步推理和工具使用等特定目标塑造这些能力。

芯片、出口规定与DeepSeek实际使用的硬件

DeepSeek是在芯片供应受限的情况下进行训练的。美国限制向中国出口高端加速器,因此DeepSeek的材料中频繁出现H800。H800是英伟达数据中心GPU中符合出口要求的降配版本。业界有传言称,中国研究人员找到了获取更快芯片的途径,也有人逐字分析公司声明,试图从中寻找硬件来源的线索。但与成本有关的事实更为清楚:R1强化学习阶段使用了512块H800组成的集群,前期准备工作则包括使用A100的训练时间。

团队在补充文件中承认了这一点。研究人员解释了在使用H800开展R1主要训练之前,A100在准备阶段所发挥的作用。

DeepSeek研究人员写道:“关于我们对DeepSeek-R1的研究,我们使用A100 GPU为较小模型的实验做准备。”

这一细节有助于解释,为什么最终预算和芯片组合可以同时属实。H800被计入主要强化学习阶段的成本,而A100则用于更早期、帮助团队确定方案的实验。

广告

DeepSeek的成本是否远低于西方竞争对手

产生R1的全部算力成本接近600万美元,而不是30万美元。这个数字仍只是传闻中前沿闭源系统数亿美元投入的一小部分。按加速器数量和训练时长衡量,它也与Meta的Llama 4等大型开放模型处于同一量级,尽管后者使用的词元更多。两者之间的差距值得关注,但这并不意味着整个开发流程的成本降低了一个数量级。

许多读者仍将DeepSeek视为成本领先者,一个原因是团队在资源受限的情况下充分发挥了芯片的效能。公司扩大了混合专家模型架构的应用,每个词元只激活一小部分参数,因此每GPU小时的吞吐量更高。它还让模型在推理阶段进行更长时间的思考,将部分负担从预训练转移到后续使用环节。

研究人员也在讨论数据来源以及模型之间的知识迁移。DeepSeek在其部分模型生态中使用了蒸馏技术,让能力更强的模型生成答案,用来训练规模更小或成本更低的模型。团队表示,V3基础模型从包含AI生成内容的网络抓取数据中学习,而这些内容可能包括其他系统的输出。论文将此描述为偶然出现,而非有意复制推理路径。这一区分对律师和政策制定者很重要,也关系到成本估算:开发者使用更少词元和更少算力,究竟能做到什么程度。

专家如何看待成本与获取途径

学界人士呼吁理性看待DeepSeek公布的数字。他们肯定其工程能力,同时提醒人们,不要过于简单地比较成本。如果较低的训练预算能带来更便宜的使用方式,市场仍可能从中受益;但新闻标题中的数字往往没有计入人员、实验和基础设施的成本。

圣路易斯华盛顿大学计算机科学与工程系助理教授乌马尔·伊克巴尔认为,降低成本可以扩大技术的普及范围,同时也指出云端大规模AI带来的隐私和安全权衡。

伊克巴尔说:“要让技术得到广泛采用,就必须让它变得负担得起。”他补充说,降低开发成本可以开展更多大规模实验,同时提醒人们,云端AI服务确实带来了数据控制和隐私方面的问题。

即使是支持DeepSeek技术路线的人也提醒,广为传播的训练总成本并非完整的衡量标准。他们指出,反复训练、调优周期和数据处理等工作,都不在单次端到端训练之列。

数据、蒸馏,以及训练集可能包含的内容

蒸馏利用能力更强的系统所生成的回答来指导目标模型。开发者可以生成数百万条高质量问答、代码过程或思维链示例,再通过微调让模型学会复现这些表现。这样无需重新执行成本最高的预训练环节,也能提升模型质量。这是规模较小的团队能够在数学和编程等领域接近或达到大型实验室特定能力的一个重要原因。

DeepSeek表示,其模型系列中的部分蒸馏版本使用了Meta的Llama等开源系统提供的数据。对于V3,公司称使用了广泛的网络抓取数据,其中包含大量AI生成的答案。这种做法既有好处,也有风险:它可以加快模型学习常见模式的速度,但也可能带来未知的许可问题和质量问题。《自然》论文促使业界要求进一步说明使用了哪些数据、何时使用,以及流程的哪些环节依赖合成标签。

广告

29.4万美元的新闻标题为何广泛传播,又为何重要

29.4万美元这个数字简单易懂,也足够惊人,因而撼动了市场。1月,DeepSeek最初发布模型时,就已引发人们对低成本竞争对手将削弱美国领军企业优势的担忧。投资者抛售了芯片制造商和AI合作伙伴的股票。同行评审论文以一句简洁表述重新点燃了这一话题,而这句话的传播速度远超脚注。许多读者和一些记者都把强化学习当成了整个故事。

这篇论文带来的不只是热议。它公布了具体数字和方法细节,将透明度标准写入公开的科学记录。审稿人要求DeepSeek减少拟人化措辞,并澄清安全、数据来源和算力等问题。这对科学界和整个行业都有好处,有助于业界了解哪些技术带来了最大价值,以及哪些成本仍难以压缩。

这对AI成本和竞争意味着什么

模型开发的经济模式正在改变。经过多年扩大规模,许多团队如今更加重视微调和给模型更多推理时间,而不再只专注于扩大数据集规模和参数量。这会将部分成本负担转移到后续推理阶段:模型每次响应都要思考更久,并消耗更多算力。不过,如果效率提升超过额外推理时间带来的成本,终端用户最终仍可能以更低价格使用模型。

DeepSeek的混合专家架构、通过强化学习提升推理能力的做法,以及有选择地使用蒸馏,都是整个行业转向更模块化开发的一部分。模型相互学习,规模较小的团队在大型基础模型上继续开发,开放权重则让初创公司得以抢先起步。欧洲一项关于这一趋势的政策研究指出,这些变化可能有助于小公司参与竞争,但也让基础训练的固定成本更难收回。价格竞争可能会加剧,开发者则会继续寻找可持续的方式,将AI与产品和服务捆绑起来。

一些研究人员提醒,公开的训练成本通常低估了打造成熟系统所需的投入。他们强调,单次成功训练的成本,与涵盖数据处理、失败试验、安全评估和数月工程工作的完整预算,并不是一回事。

瑞士INSAIT研究所所长马丁·维切夫赞扬了这项技术成就,同时警告称,不应把单次训练的数字当作总成本。

维切夫说:“500万至600万美元的数字具有误导性,因为它只计算了一次训练运行;开发这样的模型需要多次训练和实验,因此实际成本要高得多。”

这一观点与R1相关证据相符。这个项目实现显著节省,靠的是明智的架构选择和有效的强化学习方案,而不是跳过预训练这一昂贵环节。最终成果展示了一条算力投入低于部分竞争对手、但仍能实现高性能的可行路径,却并未把前沿模型训练变成不到30万美元就能完成的任务。

要点

  • DeepSeek R1的29.4万美元成本涵盖了使用512块H800 GPU进行强化学习及相关数据生成,不包括完整的模型训练。
  • R1依托V3基础模型;V3使用2,048块H800 GPU训练了约两个月,累计约279万GPU小时。
  • 按算力租赁费用估算,V3预训练成本接近558万美元,训练出R1的总成本约为587万美元。
  • 购买同等硬件的成本远高于租赁;一套2,000块GPU级别的集群售价超过5,100万美元,尚未计入运营成本。
  • DeepSeek在前期准备工作中使用了A100 GPU,随后在R1主要强化学习训练中使用H800。
  • R1的算力规模更接近其他大型开放模型,而非早期新闻标题所暗示的规模;不过,与传闻中数亿美元预算的闭源模型相比,它仍显得较为精简。
  • 强化学习以相对较低的成本提升了推理能力,而预训练和数据处理仍是最繁重的工作。
  • 专家提醒,公布的训练成本通常不包括研发、数据准备和多次失败的训练运行,而这些都会推高项目的实际成本。
分享本文

猜你喜欢