Moonshot发布Kimi K3.1 Pro模型权重,华为和阿里巴巴推出部署支持

阅读约需 8 分钟
Moonshot Releases Kimi K3.1 Pro Weights as Huawei and Alibaba Add Deployment Support

一款拥有2.8万亿参数的模型走出API

Moonshot AI已在Hugging Face上发布Kimi K3.1 Pro的完整权重,为开发者和企业提供了在自有计算基础设施上运行这款旗舰多模态模型的途径。这一消息于11月5日凌晨在北京发布。此前,该模型于2026年10月24日推出,可通过Kimi产品和应用程序接口(API)使用。

目录
  1. 一款拥有2.8万亿参数的模型走出API
  2. K3.1有哪些新变化,哪些能力沿袭自K3?
  3. 开放权重仍受运行条件和许可约束
  4. 华为通过昇腾系统分担内存负载
  5. 阿里巴巴通过SuperPoD平台提供另一种部署途径
  6. 编程测试显示持续执行能力提升
  7. 3D创作和金融领域获得针对性改进
  8. Moonshot公布了两组不同的事实错误评测结果
  9. 托管智能体和API接入各有取舍
  10. 要点

K3.1 Pro拥有2.8万亿参数,即用于存储模型所学内容的数值设置。它采用混合专家架构,每个推理步骤约激活1040亿个参数,而非一次使用整个模型。其上下文长度约为100万token,并能结合文本理解视觉信息。

权重发布当天,华为昇腾和阿里云均宣布提供支持。两家的部署方案采用vLLM和SGLang推理框架,这类软件负责管理训练完成的模型如何处理请求。对于考虑本地部署的企业而言,此次发布既提供了可下载的权重,也带来了在中国加速器系统上运行模型的初步途径。

Moonshot于10月24日更新的模型发布公告称,完整权重将于11月4日前发布;公开发布权重的公告则在11月5日发布。此前,该公司已通过kimi.com、Kimi App、Kimi Work、Kimi Code和Kimi API开放模型使用。

实际变化在于企业可以决定模型在哪里运行。API客户将请求发送到服务提供商的平台;部署权重的组织则可在其管理的基础设施中运行模型,但须遵守Moonshot的许可条款,并配备运行模型所需的大量硬件。

Moonshot还推出了Kimi Hosted Agents托管服务,可让AI智能体在长时间任务中持续运行。这些公告为企业提供了两种不同选择:自行管理模型,或将更多运行工作交给Kimi。

广告

K3.1有哪些新变化,哪些能力沿袭自K3?

Kimi K3.1 Pro是在K3基础上通过追加训练打造的,而非从头训练一个全新的基础模型。Moonshot表示,该公司大幅增加了强化学习的计算资源。强化学习通过奖励成功操作,帮助模型在反复尝试中不断改进。

Moonshot在数百个任务领域开展了这项训练,重点关注编程、3D创作、金融研究和多步骤智能体任务。工程方面的改进涉及训练软件、长上下文处理、调度,以及可运行生成代码的沙箱环境。

约100万token的上下文窗口沿袭自K3。Token是模型将文本及其他输入拆分成的片段。更大的上下文窗口意味着模型在处理请求时可以参考更多文档、指令和此前的对话内容。

此次发布按顺序分为服务开放和模型本身开放两个阶段:

  • 2026年7月16日:根据已发布的模型对比信息,Kimi K3推出。
  • 2026年10月24日:Moonshot通过旗下产品和API推出K3.1 Pro,并计划于11月4日前发布权重。
  • 11月5日:Moonshot宣布发布模型权重并推出Kimi Hosted Agents;华为和阿里巴巴宣布提供部署支持。

开放权重仍受运行条件和许可约束

具备充足计算能力的组织可以下载K3.1 Pro权重并独立运行模型。企业可配置自己的服务系统、连接内部工具,并根据适用许可进行专门化调整。

Moonshot采用一份自定义许可来规范商业用途。此次发布包含模型权重,但训练代码和原始训练数据集仍未公开。因此,开发者获得的是经过训练的模型,其使用权限由Moonshot的条款界定,而不是根据开放源代码促进会(Open Source Initiative)的定义获得完整训练套件。

模型规模仍是运行方面的一项重要考量。尽管混合专家网络每个步骤只激活部分参数,但部署时仍需能够访问全部权重。长请求还会产生大量临时注意力数据,模型运行期间必须将这些数据存储起来。

广告

华为通过昇腾系统分担内存负载

华为表示,K3.1 Pro权重开放当天,昇腾团队就完成了适配,可立即开展部署验证。通过vLLM Ascend和SGLang,该模型可在Atlas 800 A3、Atlas 900 A3 SuperPod和昇腾950超节点系统上运行。

此次适配针对模型的混合注意力架构,包括稀疏注意力和多模态处理。注意力机制帮助模型判断输入中的哪些部分与下一步处理有关;稀疏注意力则限制部分连接,以减少处理超长输入所需的工作量。

昇腾采用分布式缓存,将模型产生的临时数据分散到多个神经网络处理器(NPU)上,从而减轻单个加速器的内存压力。华为还介绍了对核心数学运算的改进,以减少不必要的数据复制和计算。

部署方可以加载原始权重,也可以对不同模型组件采用较低位精度,并使用注意力缓存量化。量化以更少的比特存储数值,从而降低内存需求。华为表示,该实现保留了前缀缓存(复用重复输入)、分块预填充(分段处理长提示词)和推测推理(成组检查候选token以加快生成)等功能。

阿里巴巴通过SuperPoD平台提供另一种部署途径

阿里云表示,其灵骏真武M890 SuperPoD已完成适配,并在vLLM和SGLang软件栈上完成验证。该方案还支持真武810E配置,为模型在中国加速器上的部署提供了另一种途径。

阿里云、平头哥和Kimi团队共同开发了平头哥SAIL软件栈,其中包括FlashMLA、DeepGEMM混合专家运算组件、MegaMoE和MoonEP。这些组件负责注意力计算,以及在专家模块和加速器之间分配任务。客户可以通过专用裸金属SuperPoD实例或阿里云REIN服务进行部署,也可通过其通义AI平台调用API。

阿里云为宁夏中卫的SuperPoD区域开放了邀请制测试,并在发布当天于中卫和乌兰察布提供实例。中卫配置新增了平头哥Panmai 920网卡。阿里云称,该网卡支持PCIe 5.0、112G PAM4以太网,吞吐量最高可达每秒400吉比特,每秒可处理4亿个数据包。

这类网络参数之所以重要,是因为如此庞大的模型必须在处理器之间快速传递信息。阿里云称,该网卡集成的PCIe交换机可将系统成本降低约30%。该公司还表示,M890 SuperPoD服务的头部客户已超过100家,并预计计划中的后继产品V900性能约为当前一代的三倍;这一数字属于公司预期。

广告

编程测试显示持续执行能力提升

Moonshot称,K3.1 Pro在Terminal-Bench 4.0上的得分为65.7%。该测试在真实计算环境中考察智能体在资源限制下完成终端任务的能力。Moonshot公布的对比数据显示,GPT-6 Astra得分为58.2%,Claude Opus 5.5为66.4%;在该测试设置下,K3.1 Pro比后者低0.7个百分点。

在公司内部的Kimi Code Bench 3.0 Long-horizon测试中,K3.1 Pro得分为61.2%,高于K3的55.95%,提升了5.25个百分点。该测试侧重于规划、工具使用,以及通过多个步骤完成工程问题。

独立评测提供了另一种参考。Artificial Analysis记录的智能指数从44升至55;在Terminal-Bench测试中,K3.1 Pro得分约为67%,K3约为13%。其终端评测采用的智能体框架与Moonshot不同,因此这些分数反映的是不同的运行设置。

Moonshot的演示不仅着重展示代码生成能力,也强调持续执行能力。在一项内部测试中,模型处理了一个由296个骨骼部件和402个肌肉部件构成的步行模拟任务。该公司称,在167项任务和420次独立评审中,模型将模拟身体的连续行走时间提升至11.2秒,并修正了36处肩部肌肉计算错误。

另一项Plotly评测显示,K3.1 Pro答对43题中的42题,K3则答对35题,但前者成本更高,中位完成时间也更长。因此,更快的token生成速度和更准确的答案,可能与更长的任务完成等待时间同时存在。

3D创作和金融领域获得针对性改进

Moonshot称,K3.1 Pro在使用工具的BenchCAD测试中得分为92.7%。该基准测试要求模型根据不同视角的图像还原3D物体,并生成计算机辅助设计代码。公司公布的对比得分中,Claude Opus 5.5为96.2%,GPT-6 Astra为95.9%。

Moonshot表示,该模型能够为Blender和CAD软件等专业建模工具编写并运行脚本。其示例包括由2100个实体对象组成的FreeCAD涡扇发动机,以及一款为3D打印设计、由五个部件组成的台灯。Kimi网站和应用还提供3D Make功能,可用于预览、编辑和导出模型。

金融任务也是重点目标。Moonshot称,K3.1 Pro在OfficeQA Pro v2上得分为64.4。该测试通过检索、跨文档核查和数值推理,评估模型分析真实金融文档的能力。该公司内部评测显示,金融建模能力提升14%,金融研究提升20%,模拟商业运营的得分约为K3的4.2倍。

公布的对比信息列出了其中两项测试的具体数据:金融研究得分从58.8升至70.4,商业运营得分从8.9升至37.0。对企业用户而言,这些能力旨在让模型能够从信息检索、计算一直完成到生成最终工作簿或研究成果。

广告

Moonshot公布了两组不同的事实错误评测结果

Moonshot在发布公告中称,在Kimi Hallu Bench Hard测试中,K3.1 Pro的单条事实陈述错误率从K3的23.4%降至8.3%;其API指南则给出了另一项压力测试结果:在用户标记为存在事实错误的匿名对话中,错误率从23.35%降至6.85%。

这两个页面给出的答案级数据也有所不同。发布公告称,至少包含一处事实错误的回答占比约为K3的42.4%;API指南给出的数据则约为46.4%。Moonshot尚未解释这两项评测之间的关系。

两项评测描述的都是模型容易出错的困难样例。对于金融和商业部署,在依据模型输出采取行动前,仍需根据原始记录核查计算结果、引文和事实陈述。

独立对比还记录到一项长上下文测试略有下降:AA-LCR v1.1得分从K3的88.7%降至K3.1 Pro的86.3%。处理长篇文档的组织需要在模型上下文容量保持不变的同时,关注检索准确性。

托管智能体和API接入各有取舍

Kimi Hosted Agents提供围绕AI模型的运行框架,通常称为harness。该框架负责管理工具、代码执行、上下文、权限,以及任务中断后的恢复。Moonshot表示,该服务支持全天候运行、长时间任务和多个智能体协作。

Moonshot列出的潜在用途包括内部监控与运营响应,以及面向客户的研究助理和支持服务。使用托管服务的企业可定义任务并连接工具,由Kimi维护底层运行环境。自行运行权重的企业则需自行负责服务和运行安排。

对于API客户,Moonshot的API快速入门指南要求至少充值10元才能启用K3.1 Pro。新注册用户获得的15元优惠券不能用于该模型。指南提供low、high和max三种推理设置,默认使用max,并可选择5分钟或1小时的缓存保留时间。

Moonshot还提供K3.1 Pro Highspeed。据该公司称,该版本具备相同的智能水平,输出速度约为标准版的两到三倍。已公布的价格显示,标准版每百万token的输入和输出费用分别为2美元和10美元,低于K3的3美元和15美元,降幅为三分之一;缓存费用及其他适用费用另计。总支出仍取决于任务消耗的token数量和工具交互次数。

开发者还需满足一些具体集成要求:工具调用过程中必须保留完整的assistant消息;视觉输入须使用base64数据或已上传文件的标识符,不能使用公开图片URL;指南还建议,在网页搜索工具更新期间不要将其用于生产环境。

广告

要点

  • Moonshot于11月5日宣布发布Kimi K3.1 Pro权重,此前已通过产品和API开放使用。
  • 该模型总参数量为2.8万亿,每个推理步骤约激活1040亿个参数,上下文长度约为100万token。
  • 华为昇腾和阿里云宣布通过vLLM和SGLang提供部署支持。
  • Moonshot称模型在编程、3D建模和金融领域有所提升,但结果因任务和评测设置而异。
  • 独立部署需要大量计算资源,并须遵守Moonshot的自定义许可。
  • Kimi Hosted Agents提供托管方案,可运行长时间任务并协调多个智能体。
分享本文

猜你喜欢