阿里巴巴超稀疏编码 AI 挑战硅谷主导地位

阅读约需 7 分钟
阿里巴巴超稀疏编码 AI 挑战硅谷主导地位

阿里巴巴超稀疏编码 AI 挑战硅谷主导地位

中国科技巨头阿里巴巴发布了 Qwen3-Coder-Next。这款开源编程模型的性能可与 OpenAI 和 Anthropic 的专有系统相媲美,却只需消耗其中一小部分计算资源。该模型拥有 800 亿个参数,通过超稀疏混合专家架构,每次前向传播仅激活 30 亿个参数,使开发者能在本地硬件上运行复杂的编程智能体,而无需承担大型语言模型通常带来的延迟和成本。这种做法从根本上改变了 AI 工程的经济模式,证明强大的推理能力未必需要庞大的计算资源。

目录
  1. 阿里巴巴超稀疏编码 AI 挑战硅谷主导地位
  2. 混合架构如何突破内存墙
  3. 智能体优先训练:超越静态代码对
  4. 基准测试表现比肩专有模型巨头
  5. 安全能力与争议
  6. Qwen Code 生态系统与开发者集成
  7. 全球竞争与主权 AI 考量
  8. 要点

此次发布正值 AI 编程助手市场竞争白热化之际。Anthropic 近期公布了 Claude Code 的效率改进,OpenAI 推出了 Codex 应用,而 OpenClaw 等开源框架也迅速获得社区采用。阿里巴巴的产品凭借 Apache 2.0 许可下积极的开源策略,以及挑战“大模型总是表现更好”这一假设的架构创新,显出了自身特色。模型权重已在 Hugging Face 上以多种版本提供,包括适用于不同部署场景的 FP8 和 GGUF 格式;此外,阿里巴巴还发布了技术报告,详细介绍训练方法和架构选择。

独立基准测试验证了阿里巴巴关于效率的说法。在不同硬件配置下进行的测试显示,Qwen3-Coder-Next 每秒可处理 172 个 token,在编程任务上的质量评分达到 9.9 分(满分 10 分)。这表明,开发者选择本地开发工具时不必再在速度和准确度之间取舍。该模型支持 370 种编程语言,较先前版本支持的 92 种大幅增加;原生上下文窗口为 256,000 个 token,通过外推技术可扩展至 100 万个 token。

广告

混合架构如何突破内存墙

传统 Transformer 模型面临一个关键限制,即二次扩展问题。随着上下文窗口扩大,标准注意力机制的计算成本会随序列长度呈二次增长,因此变得难以承受。这形成了一道内存墙,阻碍模型高效处理大型代码库或长篇对话。Qwen3-Coder-Next 通过结合 Gated DeltaNet 与 Gated Attention 的混合架构应对这一问题,从根本上重新思考语言模型如何处理长上下文信息。

Gated DeltaNet 是传统 softmax 注意力机制的一种线性复杂度替代方案。它让模型能在长达 25 万个 token 的窗口中维持状态,而不会遭遇长程推理通常伴随的延迟急剧上升。与超稀疏 MoE 设计相结合后,对于代码仓库级任务,这种架构的理论吞吐量可达到总容量相近的稠密模型的 10 倍。智能体能够有效读取整个 Python 库或复杂的 JavaScript 框架,并以 30 亿参数模型的速度作答,同时保留 800 亿参数系统的结构理解能力。

为避免训练期间出现上下文幻觉,开发团队采用了 Best-Fit Packing 策略,在维持效率的同时,避免传统文档拼接方法中出现的截断错误。该架构还采用多项稳定性优化,包括零中心化和权重衰减层归一化技术,确保模型在预训练和后训练阶段都能稳定运行。设计中还支持 Multi-Token Prediction,通过同时预测多个后续 token,而非逐个预测,提升预训练表现并加快推理速度。

广告

智能体优先训练:超越静态代码对

过去,编程模型主要通过静态代码文本对进行训练,本质上是一种只读训练方式,限制了模型与动态开发环境交互的能力。Qwen3-Coder-Next 打破了这一传统,采用大规模智能体训练流程,从真实场景中生成了 80 万项可验证的编程任务。这些任务并非简单的代码片段,而是从 GitHub 拉取请求中挖掘出的真实修复漏洞场景,并配有完全可执行的容器化环境。

这套名为 MegaFlow 的训练基础设施,是构建在阿里云 Kubernetes 上的云原生编排系统。每项智能体任务都遵循三阶段工作流程:智能体运行、评估和后处理。在运行阶段,模型会与实时容器化环境交互;如果生成的代码未通过单元测试或导致容器崩溃,模型会立即收到反馈。这种闭环训练让系统能通过中期训练强化学习,从环境反馈中学习,使其学会从错误中恢复并实时改进方案,而不只是记忆正确答案。

训练过程着重培养代码仓库级理解能力,而非孤立分析单个文件。中期训练使用了约 6000 亿个 token 的代码仓库级数据。与单独使用文件级数据集相比,这种方式对理解跨文件依赖逻辑更有成效。模型因此能够理解代码库不同组件之间的复杂关系,而这对于处理大型软件工程项目至关重要。系统还为特定领域引入了专门的专家模型,包括 Web 开发和用户体验优化,之后再将其知识蒸馏回主模型,使轻量部署版本也能保留细致的领域知识。

广告

基准测试表现比肩专有模型巨头

在用于评估 AI 模型解决真实软件问题能力的权威基准 SWE-Bench Verified 上,Qwen3-Coder-Next 得分为 70.6%。这一成绩超过得分 70.2% 的 DeepSeek-V3.2,与得分 74.2% 的 GLM-4.7 相距不远。值得注意的是,阿里巴巴的模型仅启用 30 亿个参数,而竞争系统启用的参数数量要高得多。在要求更高的 SWE-Bench Pro 基准测试中,该模型在多轮智能体任务的长期推理方面尤其出色。

该模型的能力不仅限于生成可用代码,还涵盖安全意识开发。在评估模型修复漏洞能力的 SecCodeBench 上,Qwen3-Coder-Next 在代码生成场景中的表现超过 Claude-Opus-4.5,得分为 61.2%,而后者为 52.5%。值得注意的是,即使没有提供安全提示,它仍然保持了较高分数,这表明 80 万项智能体训练任务使模型内化了对常见安全隐患的认知。在多语言安全评估中,该模型在生成可用代码和安全代码方面表现均衡,并在 CWEval 基准测试中超过 DeepSeek-V3.2 和 GLM-4.7,func-sec@1 得分为 56.32%。

除编程专项基准测试外,底层的 Qwen3-Next 架构也展现出较强的通用推理能力。基础模型的思考型版本在数学和常识逻辑推理等复杂任务上的表现超过竞争模型。在 BFCL-v3 和 TAU 等智能体能力评估中,该模型展现出熟练的工具使用和自主执行任务能力,表现可与更大型的专有模型相当或更胜一筹。

广告

安全能力与争议

尽管基准测试成绩凸显了该模型生成安全代码的能力,一些网络安全专家仍对采用在中国国家安全框架下开发的 AI 编程工具所带来的风险表示担忧。网络安全媒体 Cybernews 主编 Jurgita Lapienyė 警告称,西方开发者广泛采用这类工具,可能会引入潜藏在复杂代码库中、不易察觉的漏洞。

开发者可能会在毫无察觉的情况下走向这样的未来:核心系统是在使用含有漏洞的代码构建的。

根据中国《国家情报法》,阿里巴巴等企业必须配合政府提出的涉及数据和 AI 模型的要求,这可能导致生成的代码中出现被刻意掩藏的弱点。这些担忧集中在供应链攻击路径上,与 SolarWinds 事件类似,攻击者通过受信任的软件更新长期渗透系统。批评者认为,能够扫描整个代码库并自主修改代码的编程智能体,理论上可能被重新用于了解系统防御措施并编写有针对性的攻击代码。风险并非显而易见的错误,而是一些细微、难以发现的问题,它们看似无害的设计选择,因而可能躲过常规代码审查。

开源模式的支持者指出,该模型的权重依据 Apache 2.0 许可完全开放,组织可在部署前对系统进行审查。然而,安全研究人员反驳称,即使模型权重公开,后端基础设施、遥测系统和使用追踪方式仍不透明。

广告

Qwen Code 生态系统与开发者集成

随着模型发布,阿里巴巴还开源了 Qwen Code。这是一款从 Gemini Code 分支而来的命令行界面工具,专为智能体编程工作流优化。开发者可通过自然语言指令将工程任务交由 AI 执行;其定制提示词和交互协议旨在充分发挥 Qwen3-Coder-Next 的潜力。该命令行工具可与 VS Code 扩展等常用开发环境集成,也能与 Cline 和 Claude Code 界面等现有社区工具顺畅配合。

该模型支持一种新颖的 XML 风格工具调用格式,专为包含大量字符串的参数设计,可输出长代码片段,同时避免基于 JSON 的函数调用通常需要的嵌套引号和转义开销。这一技术细节对实际部署很重要,因为它能在模型生成大型代码块或与外部开发工具交互时,减少 token 消耗和解析复杂度。该系统还采用了新的分词器,与更广泛的 Qwen3 系列保持一致;从早期版本迁移的开发者需要更新分词处理流程。

云端部署选项迅速增加。GroqCloud 现已支持可完整使用上下文窗口的 Qwen3 模型,定价为每百万输入 token 0.29 美元、每百万输出 token 0.59 美元,推理速度超过每秒 535 个 token。阿里巴巴自有的 Model Studio 平台提供高性价比的 API 接入。该公司表示,基于 Qwen 的编程模型全球累计下载量已超过 2000 万次。阿里巴巴的集成开发环境插件通义灵码也将很快升级,加入 Qwen3-Coder 改进后的智能体能力,可能让数百万现有用户用上新功能。

广告

全球竞争与主权 AI 考量

此次发布加剧了全球 AI 编程助手市场的竞争。中国企业正日益通过开源策略挑战美国的主导地位。阿里巴巴称,Qwen3-Next 架构的表现可与旗舰模型 Qwen3-235B-A22B 相当,而训练成本已降至上一代的十分之一。这种效率提升让更多用户无需大规模基础设施投入即可使用高性能 AI 工具,可能推动其在发展中市场和独立开发者群体中的普及。

不过,地缘政治紧张局势使采用情况变得复杂。分析人士指出,由于监管、信任和国家安全方面的顾虑,美国和中国对外国 AI 模型的采用都日益少见。主权 AI 的兴起意味着,各国更倾向于选择由本地基础设施和云服务支持的模型;这表明,开源模型主要只有在符合国家政策和企业风险门槛时才能获得发展。Qwen3-Coder-Next 可能推动阿里云拓展亚太市场,但尽管其技术表现出色,严格监管和安全顾虑仍可能限制其在西方的应用。

Omdia 首席分析师 Lian Jye Su 强调,无论技术表现如何,都必须进行全面的安全评估。

如果西方科技行业领袖因 Qwen3-Coder 等开源编程模型在各项基准测试中的表现而对其青睐有加,我不会感到意外。当然,对知识产权保护和数据安全的担忧是合理的,因此我建议美国科技行业领袖对所有开源模型进行全面评估,无论其来源何处。

竞争格局表明,最终胜出的编程助手或许不会来自专有闭源开发,而可能来自开源架构的协作改进,前提是能够建立信任并完成安全验证。

广告

要点

  • 阿里巴巴的 Qwen3-Coder-Next 在 SWE-Bench Verified 上达到 70.6% 的准确率,800 亿个参数中仅激活 30 亿个,表现可与大得多的专有模型相媲美。
  • 结合 Gated DeltaNet 与 Gated Attention 的混合架构支持 256,000 个 token 的上下文窗口,并可扩展至 100 万个 token,同时维持线性计算复杂度。
  • 通过 MegaFlow 基础设施,对 80 万项可验证的真实任务进行智能体训练,使模型具备闭环学习能力,超越对静态代码的单纯记忆。
  • 独立基准测试证实,该模型在消费级硬件上每秒可处理 172 个 token,表明其适用于实际本地开发工作流。
  • 安全评估显示,该模型修复漏洞的能力优于 Claude-Opus-4.5;但围绕数据主权和潜在供应链风险的地缘政治顾虑,仍是其在西方企业应用的重要障碍。
  • Apache 2.0 许可允许商业使用和模型审查;模型权重已在 Hugging Face 上提供,同时发布的还有便于开发者立即集成的 Qwen Code 命令行工具。
分享本文

猜你喜欢