美团发布 LongCat Flash Chat:一款拥有5600亿参数的混合专家模型

阅读约需 7 分钟
美团发布 LongCat Flash Chat:一款拥有5600亿参数的混合专家模型

为何此时发布这一模型意义重大

中国本地生活服务巨头美团加入了开源大语言模型浪潮,发布了LongCat Flash Chat。该系统将超大参数规模与效率优先的设计相结合。模型于2025年9月初公布,并在 GitHub 和 Hugging Face 上面向开发者开放;随附的技术报告将其定位为当前顶尖系统之一。美团表示,根据公司的基准测试,LongCat Flash Chat 的表现可与 DeepSeek V3.1、阿里云 Qwen3 系列和月之暗面 Kimi K2 相媲美,与 Anthropic 的 Claude Sonnet 和谷歌 Gemini 2.5 Flash 相比也具竞争力。该模型采用宽松许可,允许广泛使用和修改,表明美团正致力于围绕其 AI 技术栈打造活跃的开发者生态。

目录
  1. 为何此时发布这一模型意义重大
  2. 美团发布了什么
  3. LongCat 架构解析
  4. 通俗理解混合专家模型
  5. 速度与成本说法
  6. 训练方案与稳定性
  7. 与竞争对手相比如何
  8. 智能体任务在实际中的含义
  9. 战略、收购与中国开源浪潮
  10. 许可、部署与安全
  11. 投资者反应与市场信号
  12. 要点

美团将 LongCat Flash Chat 定位为一款快速、可用于生产环境的基础模型,而非侧重推理的系统。这一定位体现了明确的取舍:减少对缓慢、复杂逻辑链的侧重,转而强调响应迅速的智能体行为、工具使用和指令遵循。此次发布承接了美团2023年以2.81亿美元收购 AI 初创公司 Light Year 一事,也符合其内部战略布局,涵盖内部工作流程 AI、面向终端用户产品的 AI 功能以及核心模型研发。

美团发布了什么

美团的文档将 LongCat Flash Chat 描述为一款混合专家模型,总参数量达5600亿。对于任一给定词元,实际激活的参数只占其中一部分,通常为186亿至313亿,平均约270亿。这种选择性激活是模型速度和成本表现的关键。模型支持最长128k 词元的上下文窗口,可处理冗长对话、文档或多步骤任务,而无需频繁重新开始。

按美团的说法,这是一款非思考型基础模型。财新国际报道称,该模型不具备先进推理能力,但在多种指令和智能体任务中仍表现出色。代码库展示了模型在通用基准、指令遵循、数学、编程、工具使用和安全评估方面的竞争力。开发者可在 Hugging Face 的此页面获取模型权重和文档,并在官方网站longcat.ai查看产品详情。代码和权重均采用MIT 许可证发布。

广告

LongCat 架构解析

混合专家模型将庞大的网络拆分为许多称为“专家”的专用组件。路由器会为每个词元决定调用哪些专家。每个词元只激活少量专家,模型因而能在保留较大总容量的同时控制每一步的计算量。这种方法已成为扩展模型规模、避免推理成本大幅攀升的常见方式。

通俗理解混合专家模型

可以把这个系统想象成一支庞大的团队,每条消息只需请少数几位专业人员参与。路由器根据内容挑选这些专家,从而减少不必要的工作。美团的设计还加入了几项新机制。报告介绍了零计算专家,它们充当占位符,在路由器需要平衡负载或为简单词元减少计算量时可以被选中。系统还在后台使用PID 控制器调整专家偏置,以保持激活参数的平均数量稳定。PID 是比例、积分、微分的缩写,是一种常见的控制方法,能推动系统趋近目标水平,同时避免振荡。

为了提高吞吐量,LongCat Flash Chat 采用了快捷连接混合专家布局,增加通信与计算之间的重叠。在多 GPU 环境中,通信时间可能成为性能瓶颈。快捷连接能建立路径,让网络部分模块在数据跨设备传输时更快运行。技术说明称,在 H800 级硬件上,单用户推理速度可超过每秒100个词元。

速度与成本说法

开源社区摘要和中国媒体报道指出,美团通过高度并行的配置,在约30天内完成训练;模型在 H800 加速器上的生成速度可达每秒100个词元。公司称,在特定条件下,输出成本接近每百万词元5元。实际成本会因硬件、批量大小和部署框架而异,但其核心宣传点很明确:美团将 LongCat Flash Chat 打造成一款高速模型,力求在每次请求计算开销更低的同时保持竞争力。

训练方案与稳定性

代码库列出了多项稳定性措施:通过超参数迁移在不同规模间复用有效设置;采用模型扩展初始化,让较大版本从较小版本起步;以及结合 z 损失的路由器梯度平衡方法,以保持混合专家路由器稳定。团队强调使用确定性计算,以确保运行结果可复现。在数据方面,美团介绍了两阶段预训练融合策略和多智能体合成框架,用于生成复杂任务轨迹,训练智能体行为。总体而言,这套训练流程更侧重可靠性和智能体表现,而非深入的多步推理。

广告

与竞争对手相比如何

美团的基准测试显示,LongCat Flash Chat 可与中国领先的通用模型相媲美。报告重点对比了 DeepSeek V3.1、阿里云 Qwen3 系列和月之暗面 Kimi K2,也提到该模型相较 Claude Sonnet、Gemini 2.5 Flash 等美国知名模型表现强劲。部分报道还指出,在特定非思考型任务上,模型可与 GPT 4.1 相比。具体排名取决于基准测试套件和提示词设置。厂商自行测试只是一个起点,第三方评估才能提供更全面的图景。

“非思考型”这一标签是重要的限定。侧重推理的系统旨在通过多个步骤进行规划和反思,通常生成速度较慢、计算成本也更高。LongCat Flash Chat 则专注于快速遵循指令、使用工具和编排智能体。这种设计适用于响应时间、吞吐量和成本可预测性比复杂思维链推理更重要的场景。

广告

智能体任务在实际中的含义

智能体任务是指模型能够调用工具、检索信息、遵循工作流程,并判断何时需要请求更多输入。它可能会浏览文档、查询内部数据库、触发支付 API,或起草客户消息。LongCat Flash Chat 针对这类工作进行了优化,目标是快速决策、处理长上下文并降低延迟,从而在真实应用中保持灵敏响应。

美团已在业务中开展过智能体应用探索。公司展示过用于 AI 辅助编程的NoCode、用于商业决策支持的袋鼠参谋,以及用于酒店运营管理的美团既白。快速的智能体引擎可为商家入驻、客服分流、库存核查、路线规划辅助和营销文案生成等任务提供支持。在电商和本地生活服务领域,相比缓慢的逐步推理,许多任务更需要可靠的速度、工具连接能力和长上下文记忆。

战略、收购与中国开源浪潮

美团于2023年以2.81亿美元收购 Light Year,正式加快进军核心模型领域。公司领导层曾介绍一项三层计划:用于内部工作的 AI、融入消费产品的 AI,以及基础模型研发。LongCat Flash Chat 是其在基础模型层面的首个公开成果,也顺应了中国科技企业更广泛的发展趋势。阿里巴巴、DeepSeek 关联实验室和月之暗面等公司发布的开源模型,正通过快速迭代和社区测试缩小与西方同行的差距。

开源许可证在此至关重要。美团以 MIT 许可证发布权重和代码,邀请初创公司、研究团队和企业团队进行试验、改造和部署,且不受过多限制。这能拓宽反馈渠道和应用场景,也有助于美团在外界树立技术信誉,突破其核心外卖业务的形象。多家媒体指出,美团将其 AI 策略描述为积极进取、主动出击,希望凭借速度和开放性赢得开发者青睐。

广告

许可、部署与安全

LongCat Flash Chat 采用 MIT 许可证发布,这是一种允许广泛商业使用的宽松许可证。代码库包含使用vLLM和SGLang部署的指南。这些框架广泛用于高吞吐量推理,支持连续批处理和分页注意力等功能,有助于降低服务成本。对于部分激活专家的模型而言,减少 GPU 空闲时间的运行环境尤为适配。

和所有大语言模型一样,LongCat Flash Chat 也有局限性。文档提醒开发者应结合自身场景评估安全性、公平性和法律合规性。在处理个人数据、金融或健康信息的领域,这一点尤为重要。美团的材料包含安全评估和红队测试,并提醒用户在将模型用于敏感场景时遵守法律法规和行业规范。

投资者反应与市场信号

发布后的财经报道指出,尽管美团跻身推出有竞争力模型的中国企业之列,公司股价仍有所下跌。TipRanks 引用了《南华早报》的基准测试,并指出更广泛的政策背景:中国在加大对科技行业支持的同时,也面临贸易摩擦。市场反应往往滞后于产品的实际情况。对投资者而言,关键在于该模型能否推动应用、能否降低美团内部运营成本,以及外部开发者是否会将其选作实际产品的引擎。

更重要的信号是,如今许多并非传统 AI 领域的公司也开始发布模型,在智能体应用场景的速度、成本和能力方面挑战既有企业。这一势头可能改变企业对 AI 技术栈来源的看法,也可能加大模型厂商的压力,促使它们在务实且对延迟敏感的任务中证明价值,而不仅仅是在基准排行榜上争先。

要点

  • 美团于2025年9月初在 GitHub 和 Hugging Face 发布开源混合专家模型 LongCat Flash Chat,总参数量为5600亿。
  • 模型每个词元平均激活186亿至313亿个参数,在保持庞大总容量的同时降低计算成本。
  • 技术报告中的基准测试称,该模型表现可与 DeepSeek V3.1、阿里云 Qwen3、月之暗面 Kimi K2 相当,且相较 Claude Sonnet 和 Gemini 2.5 Flash 也具竞争力。
  • 美团将其定位为非思考型基础模型,侧重速度、指令遵循、工具使用和智能体工作流程,而非深度推理。
  • 工程设计包括零计算专家、用于调整专家偏置的 PID 控制器、快捷连接混合专家架构,以及128k 词元上下文窗口。
  • 技术说明称,该模型在 H800 硬件上的速度超过每秒100个词元,在特定条件下输出成本接近每百万词元5元。
  • 代码和权重采用 MIT 许可证,另提供 vLLM 和 SGLang 部署指南。
  • 此次发布承接了美团2023年收购 Light Year 一事,并支持其覆盖工作工具、产品和核心模型的三层 AI 战略。
  • TipRanks 报道称,公告发布后美团股价下跌,显示投资者情绪可能取决于实际应用和成本节约效果。
  • 此次发布进一步壮大了中国开源模型浪潮,推动相关模型缩小与西方同行的差距,并聚焦快速智能体应用场景。
分享本文

猜你喜欢