一座搭载 96 个加速器的机架支撑微软下一轮 AI 布局
微软发布了 Maia 300。这款 AI 加速器的计算芯粒将采用台湾积体电路制造股份有限公司(台积电)的 N2P 工艺,生产部署将于 2027 年启动。这项公告为微软的雄心勾勒出具体设计:让自研 Maia 硬件成为其产品和服务运行 AI 推理的主要系统。
目录
规划中的机架将在 167 千瓦的功率范围内整合 96 个加速器,配备 27.6 太字节高带宽内存,总内存带宽约为每秒 1.7 拍字节。微软预计,Maia 300 每兆瓦可处理的 token 数量将比领先的图形处理器(GPU)系统多 40%,单机架输出量最高可达 Maia 200 机架的 7 倍。
这些是微软公布的性能预期,并非独立基准测试结果。不过,它们仍显示出微软投资的方向:在数据中心的电力、冷却和空间限制内,提升有用 AI 输出的总量,而不只是增加单颗芯片的计算能力。
微软云与 AI 执行副总裁斯科特·格思里在该公司 2026 年 10 月 12 日发布的Azure Maia 公告中说明了部署计划。
从 2027 年开始,我们将把 Azure Maia 系列扩展至数吉瓦级部署,让 Maia 成为微软产品和服务的主要推理系统。
这项承诺针对的是 Maia 系列,而非仅 Maia 300。有关微软可能在 2027 年部署超过 100 万颗 Maia 300 芯片的报道,超出了已发布公告的内容。公告确认了启动年份,但未说明芯片数量,也没有给出更大规模扩建计划的完成期限。
台积电 N2P 将用于制造什么
微软给出的信息比笼统地将 Maia 300 描述为 2 纳米芯片更为具体。其计算芯粒采用 N2P 工艺,这属于台积电 2 纳米工艺家族。内存控制器以及输入输出功能则由独立芯片承担,因此封装中的不同部分可以采用适合各自任务的制造工艺。
芯粒是与封装内其他裸片协同工作的较小硅片。在 Maia 300 中,这种划分让微软能够采用先进工艺制造计算功能,同时将互连、内存控制和成本作为独立的设计选择。这并不意味着封装内的每个裸片都采用 N2P 工艺。
微软 10 月 12 日发布的Maia 300 架构分析明确介绍了这种划分。文章作者是 Azure 硬件系统与基础设施总裁拉妮·博尔卡,以及系统规划与架构企业副总裁索拉布·迪格。
文件称,架构改进使系统计算吞吐量(以浮点运算计)提升 36%,HBM 带宽达到原来的 2.5 倍,加速器间通信带宽增加 14%。这些数字描述的是系统内不同资源,单凭其中任何一项都无法解释机架 token 输出量据称提升 7 倍的原因。
内存的重要性不亚于计算能力
Maia 300 主要面向推理,即利用已训练好的模型生成答案或执行任务。其目标工作负载包括长文档推理、需要快速响应的对话,以及能够连续执行多个步骤并调用工具的 AI 智能体。
这类工作负载可能会花费大量时间搬运模型数据和已存储的对话信息,而不是进行算术运算。因此,微软为每个加速器配备了 8 组 HBM4 内存堆栈,提供 288 千兆字节容量和每秒 18 太字节峰值带宽,热设计功耗为 950 瓦。热设计功耗是用于设计电源和冷却系统的规格,并非持续用电量的测量值。
微软称,与 Maia 200 相比,Maia 300 的内存容量增加 33%,内存带宽达到 2.5 倍。容量方面的比较与报告中从 216 千兆字节提升至 288 千兆字节相符,即每个加速器增加 72 千兆字节。
带宽单位需要仔细区分。有些报道用每秒太比特表示前代芯片的带宽,用每秒拍比特表示新机架的带宽。微软的 Maia 300 文档则采用每秒太字节和拍字节。比特与字节相差 8 倍,因此这些不同单位表示的数字不能混为一谈。
软件决定数据流向
Maia 300 延续了微软的软件定义、局部访问数据流架构(SDLA)。实际而言,该架构让软件能够明确控制数据的存储位置、移动方式、格式转换时机,以及如何协调计算引擎、内存与网络上的操作。
新设计在芯粒之间采用非统一内存布局。部分内存比其他内存更靠近特定计算区域,因此软件可以将数据放在需要它的引擎附近,减少数据搬运。位于裸片上的高速内存 SRAM 也可作为由软件管理的临时工作区,从而降低对 HBM 的需求。
微软还扩大了对紧凑数值格式的支持,包括 MXFP4 和采用少于 3 位的存储格式。这些表示方式能减少数据占用的内存空间,以及推理过程中需要搬运的字节数。它们是否实用取决于软件和模型的支持,不能仅凭格式更小就下定论。
该设计还针对 KV 缓存进行了优化。KV 缓存会存储模型已处理过的 token 信息,避免模型在每一步都重新计算。随着对话变长或需要同时服务的用户增多,保持缓存紧凑就显得尤为重要。
微软 AI 首席执行官穆斯塔法·苏莱曼将硬件计划与公司的模型开发工作联系起来,并解释了团队为何希望掌控模型底层的平台。
达到那个规模后,我们需要一个由自己拥有、并与模型共同设计的平台。这就是为什么让我们的 Microsoft AI 模型运行在 Maia 芯片之上,是团队的核心重点。
从单机架扩展至 12,288 个加速器
一个 Maia 300 机架包含 24 个托盘,每个托盘搭载 4 个加速器,以及相应的主机处理器、内存、存储和冷却设备。这是 Maia 200 机架所搭载 48 个加速器的两倍。将主机设备集成到这些托盘中,无需另设主机托盘,腾出的空间可用于增加加速器。
微软的网络设计最多可连接 128 个机架,组成一座包含 12,288 个加速器的超级节点。机架内部采用电气连接,机架之间采用光连接,并使用基于以太网构建的定制 AI 传输方案。
该网络为软件提供贯穿整个超级节点的统一通信模型。加速器可以直接向其他加速器发起传输,无需通过主机处理器或独立网络接口来实现机架间通信。
当模型被拆分到多颗芯片上运行时,这一点尤为重要。张量并行会将模型的部分计算拆分到多个加速器上,因此需要在它们之间频繁通信。微软表示,软件可以将对响应时间要求最严格的流量限制在机架内,同时把其他任务分散到更大范围。
同一网络还可以将提示词的初始处理与后续答案生成分开。存储的 KV 数据可直接在负责这两个阶段的工作节点之间传输。当容量不可用时,其他机架中闲置的加速器也可以接手任务,但较长的通信路径会带来额外延迟。
效率数据实际比较的是什么
微软给出了两项核心比较,两者应当分开看待。每兆瓦 token 数量预计提升 40%,比较对象是 Maia 300 与领先的 GPU 系统;每机架 token 输出量最高达到 7 倍,比较对象则是完整配置的 Maia 300 机架与 Maia 200 机架。
Token 是语言模型处理的文本单位,通常是词的一部分,而非完整单词。Token 吞吐量衡量的是输出量,但它本身不能说明答案质量、单个用户的响应速度,也不能代表模型在所有模型上的表现。
架构文件对 Maia 200 的能效比较也采用了不同表述。机架部分称每瓦性能最高可提升至 2.5 倍,结尾的比较则称超过 2.5 倍。由于没有详细的测试条件,不应将这些表述合并成一个有保证的结果。
加速器数量能够解释机架输出增幅的一部分:Maia 300 的芯片数量翻了一番。因此,机架吞吐量提升 7 倍的说法并非仅由密度提高所致,而是结合了更多加速器,以及内存、软件、网络和执行效率方面的改进。这不应被理解为每颗芯片的性能提升了 7 倍。
加速器的 950 瓦规格也不同于机架的 167 千瓦功率范围。96 乘以 950 瓦,结果为 91.2 千瓦。机架数据覆盖的系统范围更广,还包括主机、内存、网络和供电,因此这两个数值描述的边界不同。
冷却与电力影响部署方式
Maia 300 单个机架功率达 167 千瓦,因此需要一体化的供电与散热方案。微软称,液冷系统可带走加速器、稳压器和网络交换芯片产生的 80% 以上热负荷;空气冷却则负责内存、存储及其他组件。
在条件允许时,机架可以直接连接设施供水;对于依赖空气冷却的数据中心,则可以使用热交换器。双路供电和自动转换开关支持在一路电源因维护而断开时继续运行。
机架和机列级别的功率测量数据会传入数据中心运维系统。微软表示,这些信息有助于其算法分配电力、安排工作负载和调整部署密度,使之与可用电力及冷却能力相匹配。
微软总经理阿利斯泰尔·斯皮尔斯在谈及新架构时,说明了这种设计与运营成本之间的联系。
我们需要新的架构,从而切实提升性能,更好地利用现有电力。
因此,数吉瓦部署目标不只是芯片采购计划,还代表着对机架、网络、电力容量和冷却系统的大规模基础设施投入。已发布的公告没有说明相关设施的地点、区域分配或建设完成时间。
Maia 200 是现有基础
微软称,Maia 200 已用于生产工作负载,包括 Microsoft Copilot,并支持 MAI 团队开发新模型。该芯片可运行 OpenAI 模型、微软自研的 MAI 模型以及主流开源模型系列,目前已部署在美国、欧洲和澳大利亚。
有关 GitHub Copilot 和 Microsoft Foundry 部署情况的报道并不一致。一则报道说,两者已在 Maia 200 上运行生产工作负载;微软 10 月 12 日的声明则表示,预计二者将在 2026 年底前跟进。描述其状态时,应以这份官方时间表为更可靠的依据。
微软称,与领先的 GPU 基础设施相比,Teams、Copilot 和 Cowork 体验中的内置 AI 功能每瓦可处理的 token 数量最高提升 1.7 倍。微软还指出,未来用途包括编程辅助、云端模型服务、为 MAI 提供推理和数据生成,以及通过 Dragon Copilot 支持临床工作流程。
公告和计划里程碑的时间顺序如下:
- 2023 年:微软推出首款定制 AI 加速器 Maia 100。
- 2026 年 1 月:微软宣布 Maia 200。
- 2026 年 10 月 12 日:微软发布 Maia 300 架构,并确认 Maia 200 已用于生产工作负载。
- 2026 年底前:GitHub Copilot 和 Microsoft Foundry 预计将跟进部署到 Maia 200 上。
- 2027 年:Maia 300 开始生产部署,Maia 系列也将启动向数吉瓦规模的扩展。
微软技术院士吉姆·克利温表示,Microsoft 365 Copilot 的部分功能在使用 Maia 300 后应会提速,但目前尚未公布用户响应时间的量化改进数据。
台积电与台湾服务器产业迎来更大角色
Maia 300 确认台积电将参与另一家大型云服务公司的先进 AI 硬件供应。微软负责设计加速器,台积电则制造其采用 N2P 工艺的计算芯粒。因此,减少对外购 GPU 的依赖,并不意味着可以摆脱对半导体制造产能的依赖。
台积电表示,采用 2 纳米工艺的 5 座厂房将在 2026 年陆续投产,其中 2 座位于新竹,3 座位于高雄。N2P 计划于 2026 年下半年进入量产,早于微软计划中的 2027 年部署。
市场估算称,到 2026 年底,台积电 2 纳米月产能将达到约 9 万至 10 万片晶圆,到 2027 年年中将超过 11 万片。关于该工艺可能贡献下半年营收近 10% 的估算属于预测,并非已确认的 Maia 订单收入。
台积电公布的目标包括:2 纳米工艺投产首年的晶圆产出将比 2023 年 3 纳米工艺投产首年高 45%;2026 年至 2028 年间,2 纳米产能的复合年增长率将达到 70%。这两个目标都不能说明微软将获得其中多少产能。
更广泛的市场预测将鸿海、广达、纬创、纬颖、和硕、英业达、仁宝和神达列为 AI 服务器需求增长的潜在受益者。预测称,AI 服务器出货量将在 2026 年达到 350 万台,2027 年达到 520 万台。按这些四舍五入后的总量计算,增幅约为 49%,略高于另行引用的 46% 预测。
预测还显示,美国主要云服务提供商 2026 年资本支出将增长 96%,其中约一半增幅来自数据中心建设。鸿海预计年度 AI 机架出货量将增加一倍以上,广达则维持 AI 服务器至少增长 100% 的目标。这些是更广泛的行业预期,并不代表 Maia 300 供应合同已获确认。
英伟达仍在部署计划之中
微软的目标是让 Maia 成为自家产品和服务的主要推理系统,而不是在整个 Azure 中替换所有 GPU。训练新模型仍是另一项需求,微软也将继续与英伟达和 AMD 合作满足这一需求。
微软在 7 月的财报电话会议上表示,预计将成为首批部署英伟达 Vera Rubin 和 AMD Helios 系统的云服务提供商之一。Evercore ISI 估计,到 2027 年第一季度,Maia 可能占微软 AI 芯片支出的约 10%。支出占比与推理工作量占比不同,因此这一估算不能直接衡量微软运营目标的进展。
目前,其他公司无法按小时租用 Maia 加速器。这限制了外部评估,也意味着已发布的性能数据无法证明独立客户使用特定模型时能取得怎样的表现。
仍未确定的问题包括部署数量、数吉瓦产能全面到位的时间、详细的基准测试条件,以及 Maia 与外购 GPU 最终将如何分担工作负载。微软表示,将于 11 月在旧金山举行的 Ignite 2026 大会及线上活动中分享更多战略信息。
要点
- Maia 300 的计算芯粒采用台积电 N2P 工艺,生产部署将于 2027 年启动。
- 每个加速器配备 288 GB HBM4 内存,峰值内存带宽为每秒 18 TB。
- 完整配置的机架包含 96 个加速器,功率范围为 167 kW。
- 微软预计,Maia 300 每兆瓦可处理的 token 数量将比领先 GPU 系统多 40%,机架输出量最高可达 Maia 200 的 7 倍。
- 从 2027 年开始,Maia 系列部署将向数吉瓦规模扩展,但目前尚未公布完成期限。
- 有关 Maia 300 部署量超过 100 万颗的报道未获微软公告证实。
- 除自研硬件外,微软仍计划部署英伟达和 AMD 系统。






