阿里巴巴开源 Qwen3-Next：速度更快、成本更低，可在消费级硬件上运行的人工智能模型

阅读约需 7 分钟

最后更新: September 12, 2025 • 22:55 UTC

阿里巴巴开源 Qwen3-Next：速度更快、成本更低，可在消费级硬件上运行的人工智能模型

面向开发者和企业的更快、更便宜的模型

阿里云发布了基于全新架构 Qwen3-Next 的开源大语言模型系列。该系列的主力模型 Qwen3-Next-80B-A3B 拥有 800 亿个参数，但采用了新的设计，使其运行速度远超此前的 Qwen 模型，成本也大幅降低。阿里巴巴表示，训练这一新基础模型所需的算力不到 4 月发布的前代稠密模型 Qwen3-32B 的十分之一；与此同时，新系列在许多任务上的表现可媲美该公司规模更大的 Qwen3-235B 模型。

面向开发者和企业的更快、更便宜的模型
Qwen3-Next 的底层改进
通俗理解混合专家架构
混合注意力与长上下文
多 token 预测与解码
面向指令处理和推理的两个模型版本
速度、成本与硬件需求
可用性与访问方式
如何重塑人工智能领域的竞争
基准测试、透明度与审慎评估
可能受益的应用与行业
要点

阿里巴巴已将这些模型开源，开发者可通过主流模型平台及阿里云下载模型或使用 API。公司将 Qwen 定位为一个快速发展的开发者生态系统。这一策略与中国人工智能企业更广泛的趋势相契合：发布高质量模型，供其他人检查和改进。此举能够在不依赖大规模集中式基础设施的情况下扩大应用范围。

除了训练效率方面的优势，Qwen3-Next 还针对推理阶段的速度和长上下文处理能力进行了优化。根据阿里巴巴公布的测试结果，对于超过 32,000 个 token 的提示词，该架构的吞吐量比此前的 Qwen 版本高出 10 倍以上。其上下文窗口可达 256,000 个 token，在某些配置下还能扩展至 100 万个 token。这使模型能够更从容地处理整本书的内容、大型代码库以及其他输入量庞大的任务。

Qwen3-Next 的底层改进

这一代模型引入了多项正逐渐成为先进人工智能标配的技术。其核心是稀疏混合专家（MoE）架构：训练大量小型专家网络，并针对每个 token 只调用其中少数几个。Qwen3-Next 还结合了用于处理长序列的混合注意力机制、多 token 预测以加快生成速度，以及用于控制强化学习（RL）训练不稳定问题的改进。在 Qwen3-Next-80B-A3B-Base 模型中，每一步仅激活约 30 亿个参数，尽管模型总参数量达到 800 亿。

阿里巴巴表示，该基础模型的表现与稠密模型 Qwen3-32B 相近，有时甚至更好，而训练所用的 GPU 时长不到后者的 10%。推理时，这种架构既能降低计算开销，又能保留模型容量，因此团队称其在长上下文场景下速度提升显著，并能在云端和消费级硬件上实现更优的成本效益。

通俗理解混合专家架构

在混合专家架构中，网络会学习多个称为“专家”的专用子模型。一个轻量级门控模块会针对每个 token 决定调用哪些专家。Qwen3-Next 采用了高稀疏度设置，也就是说，每次只有一小部分专家会被激活。有报告称，在某些层中，模型共有 512 个专家，每个 token 会激活其中 10 个。因此，每次前向传播的计算和内存开销可与规模小得多的稠密网络相当，同时所有专家共同构成的庞大容量仍得以保留。

这种设计的代价是训练过程更复杂，而且需要进行调度，确保各个专家的负载均衡。阿里巴巴表示，已解决稀疏 MoE 与强化学习式微调结合时常见的稳定性问题。对开发者而言，关键在于运行成本取决于激活参数的数量，而非全部参数的总量。

混合注意力与长上下文

注意力层是 Transformer 中用于关联输入 token 并判断其重要性的部分。随着输入变长，标准注意力的开销会迅速增加，因为计算成本与序列长度的平方成正比。Qwen3-Next 将标准注意力与更精简的上下文近似处理方法结合，团队称之为 Gated DeltaNet 与经典注意力的组合。由此，模型处理长输入时吞吐量更高，提示词增长带来的速度下降也更少。阿里巴巴称，对于长度超过 32,000 个 token 的上下文，吞吐量提升 10 倍以上；默认上下文窗口为 256,000 个 token，特殊情况下还可扩展至 100 万个 token。团队还报告称，在某些场景下，性能提升接近线性，包括预填充速度最高提升约 7 倍、较短上下文下解码速度提升约 4 倍。

多 token 预测与解码

多 token 预测会尝试一次预测多个后续 token，如果预测错误再进行修正。结合推测解码后，这种方法可以减少生成回答时所需的高成本前向传播次数。Qwen3-Next 支持这一方法，并兼容 SGLang 和 vLLM 等常用推理框架，有助于降低生产服务中的延迟。团队还提到了 Zero Centered RMSNorm 等有助于稳定训练的优化方案。与稀疏 MoE 结合后，这些技术可以加快生成速度，同时避免明显牺牲模型质量。

面向指令处理和推理的两个模型版本

发布时，阿里巴巴基于基础网络提供了两个后训练模型。Qwen3-Next-80B-A3B-Instruct 面向日常指令执行、对话和工具调用。该公司测试显示，它在许多通用任务上的表现接近拥有 2,350 亿参数的旗舰模型，并且擅长处理包含超长上下文的提示词，上下文最长可达 256,000 个 token。

Qwen3-Next-80B-A3B-Thinking 则针对复杂推理进行了调优。阿里巴巴强调，该模型的得分超过自家的中端 Qwen3 模型，并在多个选定评测基准上胜过闭源模型 Gemini 2.5 Flash Thinking。该公司称，模型在高难度研究生级测试集 SuperGPQA 上的成绩为 60.8%。基准测试可以提供有用参考，但采购方仍应针对自身领域的任务进行测试，包括编程、检索增强生成、数学和多步规划。

速度、成本与硬件需求

主要优势体现在成本和速度两方面。阿里巴巴表示，训练该基础模型所需的算力不到 Qwen3-32B 的 10%。推理时，每个 token 仅激活约 30 亿个参数，因此模型运行所需的 GPU 显存和能耗更低。这样既能以更小的硬件规模提供同等服务，也能在相同配置下提高请求吞吐量。

在处理长提示词时，这种架构优势尤为明显。阿里巴巴称，对于超过 32,000 个 token 的输入，吞吐量提升了一个数量级；在较短序列下也有显著提升，某些测试中预填充速度提高约 7 倍，解码速度提高约 4 倍。借助 256,000 个 token 的上下文窗口，分析人员可以在一次请求中输入整份合同、文字记录或大型代码文件，再让模型进行总结、比较或生成修改内容。该公司强调，新系列经过调优，可在消费级硬件上良好运行，因此开发先进原型不再需要大型集群。

可用性与访问方式

Qwen3-Next 模型已开放广泛使用。它们已上架 Hugging Face 和 ModelScope 等主流模型平台，也可通过阿里云 Model Studio 托管部署。用户可以调用托管端点，也可以下载权重进行本地推理。该系列还可通过 NVIDIA API Catalog 使用，部分版本也已同步至 Kaggle，方便用户进行实验。

此次发布还包括 Qwen3-ASR-Flash 等工具。据团队介绍，这款语音转写组件支持 11 种主要语言。阿里巴巴建议开发者仔细查看各模型的许可条款，尤其是在高流量或商业用途场景下，并使用自己的数据集和工作负载进行测试。对 SGLang 和 vLLM 等推理框架的支持，加上适配硬件的激活模式，有望缩短从演示原型到可靠服务的部署周期。

如何重塑人工智能领域的竞争

这一举措凸显了全球实验室之间更广泛的竞争：以更低成本，让更多人能够使用强大的模型。中国企业正大力发展开源人工智能，以扩大应用并追赶西方竞争对手的技术能力。阿里巴巴表示，Qwen 生态系统已成为规模最大的开发者开源社区之一。该集团还预告了参数量超过 1 万亿的 Qwen3-Max；该模型近期在研究人员运营的聊天机器人排行榜 LMArena 上名列第六。除阿里巴巴外，DeepSeek 和美团等企业也在推出具有竞争力的模型和服务。

更便宜、更快的基础模型意义重大，因为算力既稀缺又昂贵。先进芯片出口限制给中国带来额外压力，而在美国和欧洲，许多团队也面临 GPU 短缺。推理时让大部分参数保持闲置的架构，为规模较小的实验室、初创公司和大学打开了大门，使其能在普通服务器上运行高质量模型。投资者也在关注这一趋势：随着阿里巴巴重新聚焦云计算和人工智能业务，其股价今年表现有所改善。随着更多机构在日常工作流程中采用开源人工智能，竞争影响还将进一步扩大。

基准测试、透明度与审慎评估

模型排行榜具有参考价值，但可能掩盖其中的取舍。速度数据会因批量大小、框架、量化方式和硬件而异。准确性则会受到领域、提示词风格，以及是否使用代码解释器或检索等工具的影响。厂商也会自行选择测试集。社区组织和客户开展的独立测试，通常更能全面呈现模型的优势与不足。

评估 Qwen3-Next 时，团队不应只看单一基准测试的分数。应测量模型在长上下文下的准确性、工具使用能力、数学和代码任务的可靠性，以及其在安全约束下的表现。还应跟踪模型在所需上下文长度下的内存使用量和吞吐量。如果应用依赖有依据的回答，应将模型与检索结合，并检查证据轨迹。如果需要稳定的思维链，应将 Thinking 版本与当前使用的方案进行比较。

可能受益的应用与行业

Qwen3-Next 似乎适用于需要长上下文、快速响应和严格控制成本的场景。法律和金融团队可以分析大批文档，并生成保留引文的定制摘要。客户支持负责人可以将知识库和冗长的故障排查指南整合到一个助手中，让它能够综合数千页内容进行推理。软件团队可以输入代码库和日志，用于代码审查、重构和测试生成。

研究人员可以上传篇幅较长的论文和数据集，以比较研究方法和结果。媒体和教育服务提供商可以使用 Qwen3-ASR-Flash 转写和翻译音频，再用大语言模型制作学习指南或内容提纲。需要本地部署的政府机构和受监管行业，则可借助这款模型在消费级服务器上运行性能出色的模型，同时配合审慎监控、审计日志和内容过滤器。