阿里巴巴 Qwen3.5 Medium 系列模型凭借本地优先架构挑战西方 AI 主导地位

阅读约需 6 分钟
阿里巴巴 Qwen3.5 Medium 系列模型凭借本地优先架构挑战西方 AI 主导地位

前沿 AI 性能登陆消费级硬件

阿里巴巴 Qwen AI 开发团队发布了新一代大型语言模型,彻底挑战了这样一种看法:尖端人工智能离不开云端规模的基础设施或专有 API。几天前亮相的 Qwen3.5 Medium 模型系列推出四款新模型,旨在本地硬件上高效运行,同时宣称性能可媲美领先的西方竞品。

目录
  1. 前沿 AI 性能登陆消费级硬件
  2. 架构创新助力本地部署
  3. 检验基准测试:性能宣称接受独立审视
  4. 思考模式与工具集成
  5. 对企业数据主权的影响
  6. 中国 AI 生态带来的更广泛挑战
  7. 市场定位与未来发展
  8. 要点

四款模型中有三款采用宽松的 Apache 2.0 许可证,企业和独立开发者无需支付许可费用,即可下载、修改并用于商业部署。开源的三款模型包括 Qwen3.5-35B-A3B、Qwen3.5-122B-A10B 和 Qwen3.5-27B,目前均已在 Hugging Face 和 ModelScope 上开放下载。第四款 Qwen3.5-Flash 仍为专有模型,只能通过阿里云 Model Studio API 使用,不过其定价大幅低于大多数西方竞品。

广告

阿里巴巴最引人注目的说法集中在性能基准测试上。据该公司称,旗舰模型 Qwen3.5-35B-A3B 在涵盖知识检索和视觉推理的第三方评测中,表现优于 OpenAI 的 GPT-5-mini 和 Anthropic 的 Claude Sonnet 4.5。Claude Sonnet 4.5 发布仅五个月,这种快速缩小差距的势头值得关注,因为该行业的开发周期通常以季度甚至年份计。

架构创新助力本地部署

Qwen3.5 与前代产品的不同之处,在于其混合架构结合了门控 Delta 网络和稀疏混合专家系统。对于非技术读者而言,这代表着 AI 模型处理信息的方式发生了根本性变化。传统稠密模型会针对每次查询激活所有参数,消耗大量计算资源。相比之下,MoE 方法类似于请专科医生会诊:系统会将每次查询交由模型中最相关的一部分知识来处理。

技术规格显示,这种设计提高了效率。Qwen3.5-35B-A3B 虽拥有 350 亿个总参数,但针对任意给定词元实际只激活 30 亿个。其架构采用 256 个专家模块,其中 8 个路由专家和 1 个共享专家负责处理每次查询的特定方面。这种选择性激活大幅降低了推理延迟,同时保持输出质量。阿里巴巴称,即便通过量化将权重压缩至 4 位,模型仍能实现近乎无损的准确度。

广告

这种对量化的适应能力,为灵活部署带来了变革性的实际意义。大多数 AI 模型在压缩以便本地运行时,性能都会显著下降。Qwen3.5 经专门设计,在压缩后仍能保持稳定,因此旗舰模型只需配备 32GB 显存的消费级 GPU,就能处理超过 100 万词元的上下文窗口。尽管达到这一门槛仍需高端消费级硬件,但与竞品实现相当性能通常所需的服务器集群相比,门槛要低得多。

检验基准测试:性能宣称接受独立审视

阿里巴巴公布的基准测试结果只呈现了部分情况。公司资助的评测显示,Qwen3.5-35B-A3B 在 MMMLU(多语言知识)和 MMMU-Pro(视觉推理)等指标上领先于 GPT-5-mini 和 Claude Sonnet 4.5,但独立测试揭示了更为复杂的竞争格局。

近期一项独立的 SWE-rebench 测试没有采用合成基准,而是评估模型修复真实 GitHub 拉取请求中错误的能力。结果显示,Claude Sonnet 4.5 的通过率最高,达到 55.1%。Anthropic 的模型还独自解决了其他受测模型均未能处理的多个复杂问题,包括 python-trio、cubed-dev 和 canopen 代码库中的问题。在这一真实世界的编程环境中,Sonnet 4.5 继续保持明显领先。

广告

另一项独立的 APEX 基准测试涵盖 70 项任务,涉及存在实际问题的真实代码库,进一步揭示了 Qwen3.5 性能表现中的复杂之处。27B 稠密模型适合单 GPU 部署,表现尚可,ELO 得分为 1384,超过了 DeepSeek V3.2;但更大的型号在复杂的多文件协作任务中表现明显下滑。35B MoE 型号只有 30 亿个激活参数,在智能体任务上的 ELO 得分降至 1256,在多步推理方面甚至不及较小的 27B 型号。尤为值得注意的是,庞大的 Qwen3.5-397B 在最高难度任务中表现骤降:其在困难任务中的 ELO 得分约为 1550,但在需要跨多个文件进行长链推理和协调时,得分跌至 1194。

当它需要跨多个文件、历经多个步骤进行协调时,就会搞不清自己在做什么。

这项独立分析由一名自费研究人员发布,其测试计算成本已超过 3000 美元。分析指出,Qwen3.5 擅长处理边界明确的任务,但在复杂、耗时较长的智能体工作中可能表现吃力,而这类任务正是 Claude Sonnet 4.5 尤为擅长的领域。

思考模式与工具集成

所有 Qwen3.5 模型均内置默认启用的思考模式,体现了 AI 交互向推理优先转变的趋势。在生成最终输出前,模型会构建由特定标签界定的内部推理链,明确推演复杂逻辑,而不是立即给出结论。这种方法与思维链技术相似;该技术已提升其他前沿模型的准确度。

广告

该系列也着重强化智能体能力,内置工具调用支持,使模型能够与外部系统交互、搜索网络并执行代码。Qwen3.5-Flash API 对这些功能实行分项定价:网络搜索每 1000 次调用收费 10 美元;代码解释器目前限时免费。按这一价格,Flash 成为全球最实惠的托管式大型语言模型选项之一,输入费用为每百万词元 0.10 美元,输出费用为每百万词元 0.40 美元。

作为对比,Claude Sonnet 4.5 的输入和输出费用分别为每百万词元 3.00 美元和 15.00 美元,GPT-5.2 则分别为 1.75 美元和 14.00 美元。即使是面向本地部署的竞品,例如 Z.ai 的 GLM-5,每百万词元也分别收费 1.00 美元和 3.20 美元。价格相差 30 至 100 倍,可能推动注重成本的企业广泛采用这些模型,以略微的性能差异换取大幅节省预算。

对企业数据主权的影响

除纯粹的性能指标外,Qwen3.5 的发布也对企业 AI 部署具有战略意义。能够完全在私有基础设施中运行具备前沿能力的模型,有助于应对日益受到关注的数据主权问题和第三方 API 风险。金融、医疗和政府承包等受监管行业的组织,越来越多地面临合规要求,不得将敏感数据传输至外部云端 AI 服务。

Qwen3.5 支持在由本地控制的硬件上处理百万词元级上下文窗口,企业因此可以处理海量文档库、长达数小时的视频内容和庞大的机构数据集,而无需将专有信息暴露给外部 API。这种架构转变使先进 AI 能力不再依赖巨额资本支出,有望让此前只有资金雄厚的科技公司才能使用的工具惠及更多用户。

广告

开源许可还支持针对特定领域的应用进行定制和微调。专有模型只提供不透明的 API 访问,而 Qwen3.5 的开源权重允许组织根据专业词汇、内部知识库和独特工作流程需求调整模型。这种灵活性对于术语专业性强或有监管文档要求的行业尤其有价值。

中国 AI 生态带来的更广泛挑战

Qwen3.5 发布之际,中国 AI 实验室陆续推出多款开源模型,共同挑战西方的技术主导地位。Z.ai 发布的 GLM-4.5 系列采用类似的 Apache 2.0 许可证,性能相近,并提供自动生成 PowerPoint 等专门功能。Moonshot 的 Kimi K2 和 DeepSeek 推出的多款开源模型,也共同构成了一个生态,为封闭的美国系统提供了可行替代方案。

这一趋势给西方 AI 行业既有企业带来了压力。Meta 的 Llama 4 系列发布后受到批评,一些 AI 研究人员质疑其基准测试是否存在刷榜问题,以及实际表现是否稳定。率先开启现代大型语言模型时代的 OpenAI,则将原计划于 7 月发布的前沿开源模型推迟至未定日期,为中国竞品争取开发者关注留下了窗口期。

竞争态势不仅涉及技术规格,也延伸至数据治理问题。采用中国开发模型的西方企业必须应对潜在的内容限制和数据主权考量,尤其是在使用云端托管 API 而非本地部署时。不过,Qwen3.5 的主要型号采用开源形式,支持在隔离网络环境中部署,可缓解其中许多顾虑。

广告

市场定位与未来发展

阿里巴巴的发布策略注重适配不同硬件层级。Qwen3.5-27B 面向高效部署,支持超过 80 万词元的上下文;122B-A10B 型号则需要配备 80GB 显存的服务器级 GPU 才能发挥最佳性能。这种分层策略让组织可以根据现有基础设施选择模型,而不必一律依赖云服务。

该公司还将基础模型与指令微调版本一并开源,以满足研究社区对微调和架构研究的需求。这种透明做法与部分西方竞品的封闭开发方式形成对比,并可能通过协作改进加速创新。

Hugging Face 上的早期社区反馈显示,开发者尤其看好这些模型的智能体能力和量化稳定性。开发者报告称,他们已成功在此前被认为不足以运行前沿模型的消费级硬件上部署这些模型。这些反馈印证了阿里巴巴对效率的宣称,但独立基准测试也提示,模型在复杂编程任务上的表现仍需谨慎看待。

要点

  • 阿里巴巴发布 Qwen3.5 Medium 系列,共有四款模型,其中三款采用 Apache 2.0 开源许可证,可用于商业用途
  • 旗舰模型 Qwen3.5-35B-A3B 采用混合专家架构,每个词元只激活 350 亿参数中的 30 亿
  • 独立基准测试结果不一:模型在知识和推理测试中表现强劲,但与 Claude Sonnet 4.5 相比,在复杂多文件编程任务中表现吃力
  • 通过先进的 4 位量化,模型可在配备 32GB 显存的消费级 GPU 上支持超过 100 万词元的上下文窗口
  • Qwen3.5-Flash API 的价格比西方竞品低 30 至 100 倍,输入费用为每百万词元 0.10 美元,而 Claude Sonnet 4.5 为 3.00 美元
  • 该系列所有型号默认启用原生思考模式,在生成最终输出前构建内部推理链
  • 企业可在本地部署模型,实现完整的数据主权,满足受监管行业对本地 AI 处理的要求
  • 此次发布加入了中国开源 AI 模型的更大浪潮,包括 Z.ai 的 GLM-4.5 和 Moonshot 的 Kimi K2,共同挑战西方专有系统
分享本文

猜你喜欢