字节跳动推出 Seed-OSS-36B：挑战全球科技巨头的开源 AI 模型

字节跳动重磅出击：推出 Seed-OSS-36B，向全球 AI 领军者发起挑战

字节跳动是 TikTok 和抖音背后的中国科技巨头。近日，该公司发布了新的开源大语言模型（LLM）Seed-OSS-36B，在人工智能（AI）领域迈出重要一步。此举使字节跳动成为 DeepSeek、阿里云、谷歌和 OpenAI 等老牌厂商的有力竞争者。Seed-OSS-36B 的发布不仅是一个技术里程碑，也是字节跳动在迅速演变的全球 AI 格局中采取的战略行动。在这一领域，开源模型正日益塑造创新与普及的未来。

Seed-OSS-36B 是什么？为何重要？

Seed-OSS-36B 是由字节跳动 Seed 团队开发的一系列大语言模型。该团队致力于推动 AI 基础模型的发展。该模型拥有 360 亿个参数，即帮助 AI 学习并生成类人文本的内部变量。虽然一些竞争模型的参数规模更大，但 Seed-OSS-36B 凭借效率、先进的推理能力，以及尤为突出的超长上下文处理能力脱颖而出。

与许多限制访问并收取使用费用的专有模型不同，Seed-OSS-36B 采用宽松的 Apache-2.0 许可证发布。这意味着全球开发者和企业都可以免费使用、修改并基于该模型进行开发，包括用于商业用途。这种做法让尖端 AI 更易普及，降低了创新门槛，尤其有利于规模较小的机构和研究团队。

Seed-OSS-36B 的主要特性

• 512K Token 上下文窗口：Seed-OSS-36B 单次会话最多可处理 512,000 个 Token，相当于约 1,600 页文本。这是许多领先开源模型上下文长度的四倍，使 AI 能够一次处理海量文档、完整代码库或多年记录。
• 思考预算：开发者可以控制模型在回答前进行多少“推理”。简单查询可设置较小预算以快速获得答案；复杂任务则可设置较大预算，以便进行更深入、更准确的推理。
• 智能体能力：该模型擅长需要使用工具、多步推理和解决问题的任务，适用于研究、编程、法律分析等场景。
• 灵活部署：字节跳动提供量化版本（更小、更快的模型）、部署脚本，并兼容主流 AI 框架，便于用户试用和部署。
• 践行开源：该模型已发布在全球最大的开源 AI 平台 Hugging Face 上，促进全球协作与透明度。

Seed-OSS-36B 与阿里巴巴、DeepSeek、谷歌和 OpenAI 的模型相比如何？

字节跳动推出 Seed-OSS-36B，旨在与阿里云、DeepSeek、谷歌和 OpenAI 的模型直接竞争。尽管规模相对适中，Seed-OSS-36B 在多项关键基准测试中达到或超过了规模相近的模型：

• 知识与推理：在 MMLU-Pro 基准测试中，Seed-OSS-36B 得分为 65.1，超过阿里巴巴的 Qwen2.5-32B-Base（58.5），并在 TriviaQA 和 BBH 推理测试中取得高分。
• 数学与编程：该模型在 GSM8K（数学）中得分为 90.8，在 MATH 中为 81.7，在 HumanEval（编程）中为 76.8，在 MBPP 中为 80.6，展现出强大的技术领域能力。
• 指令遵循：经过指令微调的版本 Seed-OSS-36B-Instruct 在 AIME24 数学竞赛中得分为 91.7，仅次于 OpenAI 的 OSS-20B。

考虑到 Seed-OSS-36B 的训练数据仅包含 12 万亿个 Token，少于许多竞争对手，这些成绩尤为亮眼，也凸显了字节跳动训练方法和模型架构的效率。

底层技术创新

Seed-OSS-36B 采用稠密模型架构，包含 64 层，使用 RoPE 位置编码、GQA 注意力机制、RMSNorm 归一化和 SwiGLU 激活函数。其词表规模为 155,000，并支持原生长上下文处理，无需依赖训练后技巧或插值方法。这一技术基础使模型即使参数量较少、训练数据较少，也能保持较高性能。

为何长上下文处理能力能带来变革？

Seed-OSS-36B 的一项突出特性，是能够在单次会话中原生处理最多 512K 个 Token。作为参照，DeepSeek V3.1 等大多数主流开源模型最多可处理 128K 个 Token。更大的上下文窗口带来了新的可能性：

• 法律与合规：律师事务所可以上传完整案件材料进行分析，而不必将其拆分成较小片段。
• 医疗健康：研究人员可以一次处理多年的患者记录，从而获得更全面的洞见。
• 软件开发：开发者可以分析或重构整个代码库，而不仅是单个文件。
• 研究与学术：学者可以审阅长篇报告或数据集，而不会丢失上下文。

这项能力不只是一个技术亮点，它从根本上改变了 AI 应用于现实世界大规模问题的方式。

开源战略：为何免费开放强大的 AI 模型？

字节跳动决定将 Seed-OSS-36B 开源，既是技术策略，也是商业策略。OpenAI 和谷歌等西方公司通常对 API 访问收费或限制商业用途，而字节跳动的 Apache-2.0 许可证允许任何人免费使用该模型。这种做法有多项优势：

• 促进创新：通过让更多人使用先进 AI，字节跳动鼓励全球开发者和研究人员社区开发新的应用、工具和服务。
• 推动采用：开源模型更容易被集成到产品和平台中，从而提升字节跳动在 AI 生态系统中的影响力。
• 增强竞争优势：随着更多企业采用 Seed-OSS-36B，字节跳动能够收集反馈、改进模型，并有可能将成功的创新融入自家产品。
• 改变市场格局：此举给依赖封闭式付费模型的竞争对手带来压力，或推动行业规范转向更开放、更协作的方向。

业内专家指出，开源 AI 模型正帮助中国迅速缩小与美国的性能差距。根据 Coolest Gadgets 的报道，使用开源 AI 工具的企业通常比使用专有模型的企业获得更高的投资回报，这得益于较低的成本和更大的灵活性。

行业影响：竞争对手如何应对？

Seed-OSS-36B 的发布已经在科技行业引发连锁反应。消息公布后，阿里巴巴股价走低，反映出投资者对 AI 领域竞争加剧的担忧。另一家中国 AI 巨头 DeepSeek 则通过升级旗舰模型 V3 作出回应，强调更快的处理速度以及针对中国制造芯片的优化。在美国持续限制先进半导体出口的背景下，这一举措至关重要。

中国 AI 行业正在快速发展，阿里巴巴、百度、腾讯和华为等企业都在竞相开发更强大、更高效的模型。开源战略是这一发展进程的核心，因为它能够推动更广泛的采用，并促进社区共同改进。据 Stocktwits 报道，AI 进展带动中国科技股上涨，但全球经济因素和监管挑战也限制了涨幅。

专家与社区的反响

行业分析师和 AI 从业者称赞 Seed-OSS-36B 的效率与性能。一篇 LinkedIn 分析文章称该模型是“改变游戏规则的创新”，并指出其长上下文处理能力、开放许可证和可配置的思考预算，可能重塑企业部署 AI 的方式。Reddit 等平台上的社区讨论也表达了类似看法，早期用户提到该模型用途广泛，并提供了适合研究的选项。

更长的上下文、开源许可证和思考预算，让企业拥有更多控制权和灵活性。字节跳动免费提供了一个强大的工具，接下来就看企业、研究人员和开发者如何使用它了。

一位 LinkedIn 分析师的这番话体现了业内更广泛的看法：Seed-OSS-36B 不只是又一个模型，更是推动 AI 开发和应用方式变革的催化剂。

技术深入解析：架构与训练

Seed-OSS-36B 基于稠密 Transformer 架构构建，包含 64 层，隐藏层维度为 5,120。它使用 RoPE（旋转位置嵌入）进行位置编码，使用 GQA（分组查询注意力）实现高效注意力机制，使用 RMSNorm 进行归一化，并采用 SwiGLU 作为激活函数。该模型的词表包含 155,000 个 Token，可支持多种语言和任务。

该模型的一项创新是“思考预算”机制。用户可以通过设定 Token 上限（以 512 的倍数递增）来控制模型进行推理的程度。这样便能在速度和深度之间取得平衡，使模型适应不同用途，从快速回复客户咨询到深入开展财务分析皆可胜任。

字节跳动提供两个基础版本：一个使用合成指令数据训练（性能更强），另一个不使用此类数据（更适合纯粹研究）。这种灵活性能够满足应用研究和学术研究群体的不同需求。

更广泛的影响：这对 AI 的未来意味着什么？

Seed-OSS-36B 的发布表明，AI 行业正在显现几项重要趋势：

• 效率胜过规模：该模型以较少的参数量实现强劲性能，说明更聪明的训练方法和架构设计能够媲美甚至超越单纯扩大规模的做法。
• 开源势头增强：随着更多公司采用开源战略，创新步伐不断加快，AI 带来的益处也将惠及更多人。
• 全球竞争加剧：在开源发布的推动下，中国 AI 快速进步，正缩小与美国科技巨头的差距，并重塑竞争格局。
• 应用场景拓展：长上下文处理和灵活的推理预算，使 AI 能够解决过去难以处理的问题，从法律分析到科学研究皆是如此。

对于开发者、研究人员和企业而言，Seed-OSS-36B 提供了强大且易于获取的工具，可用于构建新一代 AI 应用。对整个行业来说，它标志着行业正朝着更加开放、高效和协作的方向转变。

总结

• 字节跳动发布了拥有 360 亿参数的开源 AI 模型 Seed-OSS-36B，向阿里巴巴、DeepSeek、谷歌和 OpenAI 等全球领军者发起挑战。
• 该模型具备 512K Token 上下文窗口、可配置的思考预算，并在知识、推理、数学和编程基准测试中表现出色。
• Seed-OSS-36B 采用 Apache-2.0 许可证发布，全球用户可免费将其用于商业和研究用途。
• 该模型的效率和技术创新表明，更巧妙的设计能够媲美甚至超越规模更大、资源消耗更多的模型。
• 此次发布推动了 AI 开源运动，促进全球协作，并降低了开发先进 AI 的门槛。
• 业内专家认为，Seed-OSS-36B 可能改变行业格局，推动新应用落地，并加大对闭源模型供应商的竞争压力。