595 GB 遭遇开发者的现实困境
在发布这款被行业分析师称为有史以来最强大的开源人工智能模型两天后,Moonshot AI 的研究人员登录 Reddit,面对一群既兴奋又沮丧的用户。这家总部位于北京的初创公司完全有理由庆祝。Kimi K2.5 登上了各大媒体头条,话题包括缩小与美国 AI 巨头的能力差距,以及考验美国芯片出口管制的极限。但在 r/LocalLLaMA 等待的开发者们——这个论坛里的工程师会交流如何在各种设备上运行大型语言模型,从单张消费级 GPU 到小型专业级硬件机架都包括在内——有个更迫切的问题。他们想知道,自己究竟什么时候才能真正用上它。
目录
这场持续三小时的「问我任何事」(AMA)活动,意外地揭开了 2026 年前沿 AI 开发的真实面貌:不是企业营销材料里经过润色的版本,而是调试故障、应对个性漂移,以及直面当今开源 AI 核心矛盾的混乱现实。Moonshot 已公开该模型的权重,供任何人下载和定制。模型文件约有 595 GB。对帖文中的大多数开发者来说,这种开放仍然只是理论上的。
Moonshot 的三名团队成员以 ComfortableAsk4494、zxytim 和 ppwwyyxx 为用户名参与讨论。在约 187 条评论中,他们回答了有关架构、训练方法,以及 AI 模型的个性究竟从何而来的哲学问题。他们还描绘了下一轮进步可能来自何处,而答案并不只是增加参数。
挥之不去的体量难题
第一波问题就把 Kimi K2.5 当成一个物流难题,而非突破性成果。一位用户直截了当地问,为什么 Moonshot 不在推出旗舰模型的同时开发更小的模型。「8B、32B、70B 这类小体量很适合实现高智能密度,」他们写道,所指的是以十亿为单位的参数数量。另一位用户表示,庞大的模型已经让人难以庆祝,因为许多开发者根本无法运行它们。还有人把美国竞争对手的模型大小作为参照,希望推出能在普通 GPU 上运行、专注于编程的变体。
Moonshot 团队没有当场宣布推出更小的模型。但他们承认这方面的需求,并且回应的语气表明,他们对这类抱怨并不陌生。「收到建议了!」一位共同主持人写道。另一位指出,Moonshot 在 Hugging Face 上的模型系列中已经包含一些较小的专家混合模型,同时提醒大家,小模型和大模型往往需要投入不同的工程资源。
最能说明问题的回答来自一位用户提出的问题:Moonshot 是否会开发一个约 1000 亿参数、针对本地使用优化的模型。Kimi 团队则提出了另一种折中方案:打造一个 2000 亿或 3000 亿参数的模型,让它在多种任务上的表现都能高于所谓的「可用性门槛」。这番回应道出了开放权重实验室面临的两难。与万亿参数模型相比,2000 亿至 3000 亿参数的模型会让更多人用得上,但仍然需要多 GPU 配置,或采用激进的量化技术来降低精度、节省显存。
帖文中的开发者要的不是「小一些」而已。他们希望模型的规模能匹配自己实际拥有的硬件,并且路线图能把本地部署视为首要约束,而非业余爱好者才会考虑的次要问题。这场讨论凸显了开源 AI 社区中日益加深的分歧:一边是发布需要数据中心级基础设施才能运行的大型模型的实验室,另一边则是希望在自有设备上运行模型的实践者。
规模定律是否已经触顶?
讨论越过硬件抱怨后,转向了许多研究人员如今认为大型语言模型面临的核心问题:规模定律是否开始停滞?规模定律指的是模型大小、数据量与性能之间可预测的关系,多年来一直推动着 AI 的进步。一位参与者直接问道,规模扩展是否已经「触顶」。
一位 Kimi 代表给出了如今在行业内越来越常见的判断。「高质量数据的增长速度赶不上可用算力,」他们写道,「因此,基于互联网数据进行传统的下一词元预测式扩展,带来的提升会越来越小。」这一观察点出了一个根本限制:互联网上的高质量文本总量有限,而 AI 实验室已经用大部分这类数据训练过模型。
随后,团队提出了他们倾向的破局方向。他们提到了 Agent Swarm:Kimi K2.5 能协调多达 100 个并行工作的子代理,并将其视为一种「测试时扩展」方式,可能开辟提升模型能力的新路径。测试时扩展是指在推理阶段,也就是模型实际回答问题时增加计算量,而不是在初始训练阶段增加计算量。
按照团队的说法,规模扩展不必只意味着进行更大的预训练。它也可以意味着在推理时增加结构化工作的数量,再通过强化学习把这些见解反馈到训练中。「可能会出现新的扩展范式,」一位共同主持人写道。「展望未来,很可能会有模型在较少、甚至没有人类先验的情况下进行学习。」
这番话意味着,进步的衡量单位可能正从参数数量和预训练损失曲线,转向能够规划、分派任务并验证结果的系统;这类系统把工具和子代理作为构建模块,而不是依赖神经网络进行一次庞大的前向计算。
Agent Swarm 内部:100 个子代理如何共享记忆
从表面上看,Agent Swarm 听起来像是一个换了新包装的常见概念:多个 AI 代理协同完成一项任务。这场 AMA 揭示了更重要的细节:记忆存放在哪里、如何进行协调,以及为什么编排过程不会沦为一团杂音。
一位开发者提出了多代理系统中一个经典的顾虑。当规模达到 100 个子代理时,编排代理往往会成为瓶颈,既影响延迟,也容易出现社区所说的「上下文腐化」。所谓上下文腐化,是指随着对话历史被内部交流和工具调用记录填满,模型逐渐丢失原本要完成的任务脉络,导致性能下降。
一位 Kimi 共同主持人解释了一项设计选择,这对任何在企业环境中构建代理系统的人来说都很重要。
子代理使用各自独立的工作记忆运行,再把结果发回给编排代理,而不是把所有内容都流入共享上下文。这样一来,我们就能沿着一个新的维度扩展总上下文长度!
另一位开发者追问了性能方面的说法。Moonshot 曾公开表示,Agent Swarm 在适合的工作流程中能够实现约 4.5 倍的加速,但持怀疑态度的人问,这个数字是否只是反映了特定任务的可并行程度。团队表示同意:要视情况而定。有些情况下,系统会判断某项任务不需要并行代理,从而避免额外的算力开销。团队还表示,编排代理必须管理分配给子代理的词元预算,并为每个子代理安排规模适当的任务。
如果把 Moonshot 的说法当作工程描述而非营销话术来看,他们讲的是一种常见的企业模式:保持控制平面简洁,限制工作进程的输出,并避免用协调者无法消化的日志将其淹没。这种架构表明,未来的 AI 系统可能更像分布式计算集群,而非单体式聊天机器人。
从系统 1 转向系统 2
这场 AMA 暗示的最重要转变,不是新的基准测试成绩,而是对研究重点的一番表态。一位用户问 Moonshot 是否正将算力从「系统 1」预训练转向「系统 2」强化学习。这两个术语源自心理学家丹尼尔·卡尼曼推广的认知模式:系统 1 是快速、直觉式思维,系统 2 则是更缓慢、更审慎的推理。
在 AI 领域,这意味着从广泛的模式学习转向明确奖励推理能力和多步骤任务中正确行为的训练。一位 Kimi 代表回应称,强化学习算力将持续增加,并暗示可能会出现新的强化学习目标函数,「尤其是在代理领域」。
这句话听起来像是一份路线图。随着模型越来越多地使用工具、拆解任务,实验室将投入更多资源,训练模型以便作为代理良好地执行任务,而不只是预测词元。对企业来说,这一点很重要,因为强化学习带来的改进往往伴随着取舍。模型可能变得更果断、更热衷于调用工具,或更贴合奖励信号,而这些信号未必与公司的预期吻合。
被问及 Moonshot 与拥有多得多 GPU 的美国实验室之间的算力差距时,团队坦率作答。「我会说,差距并没有缩小,」一位共同主持人写道。「但实现通用人工智能究竟需要多少算力?我们拭目以待。」另一位则给出了更具哲学意味的说法:「影响可用算力的因素太多了。但无论如何,创新总是与限制相伴而生。」
为什么 Kimi 有时自称 Claude
如今,开放权重模型一经发布,往往就会遭遇一个挥之不去的质疑:模型是否从竞争对手那里学得太多?这种怀疑很快可能演变为蒸馏指控,也就是一个 AI 通过另一个 AI 的输出进行训练。一位用户提出了开源模型圈里流传的一项最令人难堪的说法:K2.5 有时会自称「Claude」,也就是 Anthropic 的旗舰模型。这暗示它大量借鉴了对方。
Moonshot 没有否认这一行为,而是解释了它发生的条件。团队表示,在适当的系统提示下,模型很有可能回答「Kimi」,尤其是在思考模式下。但如果系统提示为空,模型就会偏向团队所说的「未定义区域」;这反映的是预训练数据分布,而非刻意做出的训练选择。
随后,团队给出了一项与训练决策相关的具体解释。Moonshot 表示,他们在预训练期间对较新的互联网编程数据进行了过采样;这些数据似乎与词元「Claude」的关联更强,可能是因为开发者讨论 AI 编程助手时经常提到 Anthropic 的模型。团队还用基准测试结果反驳蒸馏指控。
事实上,K2.5 在许多基准测试中的表现似乎超过了 Claude。比如 HLE、BrowseComp、MMMU Pro、MathVision 等。
对企业用户来说,重要的不是网上的争论,而是身份漂移确实是一种故障模式,而且组织往往可以通过控制系统提示来降低风险,而不是任由模型的自我描述听天由命。这场 AMA 将提示词治理视为确保可靠部署所必需的运营规范,而不是锦上添花的用户体验设计。
在奖励模型中寻找灵魂
帖文中反复出现的一个主题是,K2.5 的文风比早期 Kimi 模型更为普通。用户形容它更像一款标准的「乐于助人的助手」;许多开发者如今认为,这种语气正是经过大量后训练的模型的默认个性。一位用户说自己很喜欢 Kimi K2 的个性,并问后来发生了什么。
一位 Kimi 共同主持人承认,每次发布新版本都会带来一些个性变化,并表示个性是主观的,很难评估。「这是个相当棘手的问题,」他们写道。团队表示,希望改善这一问题,并让用户能够按个人需求定制个性。
在另一场关于增强编程能力是否会损害创意写作和情商的讨论中,一位 Kimi 代表认为,只要模型足够大,两者之间并不存在必然冲突。但他们表示,要在不同版本间保持「写作品味」很困难,因为奖励模型一直在演进。团队依靠内部基准测试,也就是一种元评估,来追踪创意写作的进展,并据此调整奖励模型。
另一条回复更进一步,使用了企业 AI 规范中不太常见、但日常使用这些工具的人并不陌生的说法。团队谈到了奖励模型的「灵魂」,并提出一种可能性:存储反映用户品味的「状态」,并用它来约束模型的输出。这场讨论指出了一个企业常常低估的产品前沿。风格漂移不只是审美问题。它会改变模型解释决策的方式、表达保留意见的方式、处理模糊问题的方式,以及与客户和员工互动的方式。
调试才是 AI 研究的真正工作
最能揭示团队文化的内容,出现在有人询问训练和强化学习过程中遇到哪些意外时。一位共同主持人用一个加粗的词作答:调试。
无论是预训练还是后训练,有一件事始终体现出至高无上的优先级:调试。
这句话点明了贯穿整场讨论的一个主题。当有人问及团队如何用「规模阶梯」方法,在不同模型规模下评估新想法时,zxytim 分享了一次失败经历。团队曾急于将实验性线性注意力架构 Kimi Linear 加入上一代模型。它在达到一定规模时未能通过规模阶梯测试。团队于是退回去,经历了共同主持人所说的「一段艰难的调试过程」,几个月后终于让它成功运行。
「从统计上看,大多数在小规模下有效的想法都无法通过规模阶梯测试,」他们接着说。「能够通过的通常简单、有效,而且有数学依据。研究大多是在管理失败,而不是庆祝成功。」
对评估 AI 供应商的技术负责人而言,这番坦言很有启发。前沿能力并非只靠优雅的突破就能实现,还要靠持续不断地隔离故障,以及愿意花几个月时间解决那些可能行不通的问题的组织文化。这种现实提醒,与产品发布会上经常出现的精致叙事形成鲜明对比。
迈向 K3 与持续学习
这场 AMA 也悄悄预告了 Kimi 的下一代产品。开发者询问 Kimi K3 是否会采用 Moonshot 的线性注意力研究。这项研究旨在比传统注意力机制更高效地处理长上下文。团队成员表示,线性方案是一个值得认真考虑的方向。「Kimi Linear 很可能会成为 K3 的一部分,」一位成员写道。「我们还会加入其他优化。」
在另一场讨论中,一位共同主持人预测,K3「会比 K2.5 好很多,甚至可能达到 10 倍」。团队还强调,持续学习是他们正在积极探索的方向,这意味着未来的代理或许能够在更长的时间跨度内有效工作。如果要让代理处理持续推进的项目,而非只完成单轮任务,这对企业来说至关重要。
「我们相信,持续学习将提升代理能力,让代理能够在更长的时间内有效工作,」一位共同主持人写道。谈到 Agent Swarm 时,团队表示,一旦系统更加稳定,就计划向开发者开放编排框架。「希望很快就能实现,」他们补充道。
这对 2026 年的开放 AI 意味着什么
这场讨论并没有解答所有问题。一些关于多模态训练方案、防范奖励劫持,以及数据治理的技术问题,被留待即将发布的技术报告作答。这并不罕见。如今,许多实验室都将最影响实际运营的细节视为敏感信息。
不过,这个帖文仍揭示了 AI 领域真正的竞争焦点正在转向何处。最重要的差距,不在中国与美国之间,也不在开源与闭源之间,而在模型承诺的能力与系统实际能交付的成果之间。编排正在成为产品本身。Moonshot 发布的不只是一个模型,更是在传达一种理念:下一轮能力提升将来自能够拆分任务、使用工具并快速返回结构化结果的代理。
开放权重正与硬件现实发生碰撞。开发者要求的开放,是可以在本地运行的开放,而非必须依赖数据中心的开放。战场也正从原始智能转向可靠性:从基准测试多得两分,转向调试工具调用的规范性、管理多代理工作流中的记忆,以及保留难以量化、却决定用户是否信任输出的「品味」。
在一场备受瞩目的发布之后,以及地缘政治叙事日渐升温之际,Moonshot 登上了 Reddit。等待在那里的开发者关心的是一个更实际的问题:开放何时才能真正意味着可用?从这个意义上说,这场 AMA 不只是在宣传 Kimi K2.5。它展现了一个正在转型的行业:从更大的模型转向更结构化的计算,从封闭 API 转向仍需大量工程工作才能部署的开放权重,也从庆祝成功转向管理失败。
要点速览
- Moonshot AI 发布了 595 GB 的开源模型 Kimi K2.5,随后在 r/LocalLLaMA 举办 Reddit AMA,回答有关实际可用性的问题
- 开发者要求推出适合本地硬件的较小模型(参数量为 8B-70B),但 Moonshot 认为,要在广泛任务中具备可用性,模型至少需要 200B-300B 参数
- 团队承认,由于高质量训练数据有限,规模定律正趋于停滞,并转向通过 Agent Swarm 协调 100 个子代理来实现「测试时扩展」
- Agent Swarm 为每个子代理配置独立的工作记忆,以避免上下文腐化;编排代理负责管理词元预算和任务分配
- 强化学习算力将增加,重点从系统 1 的模式匹配转向系统 2 的推理,以及代理行为训练
- Moonshot 将模型自称「Claude」的身份漂移归因于过采样的编程数据中频繁出现 Claude 相关内容,而非蒸馏
- 不同版本之间的个性和「灵魂」仍难以衡量和保持,团队计划引入针对用户个人品味的状态
- 预计 Kimi K3 将采用线性注意力架构和持续学习能力,以支持长时间跨度的代理任务






