- 微软发布新一代 AI 芯片 Maia 300，主打“推理优先”架构
- 相比基于 GPU 的系统，Maia 300 每兆瓦可提供多 40% 的 Token 吞吐量
- 该芯片计划于 2027 年开始部署，旨在优化 Teams、Copilot 及 Cowork 等产品的体验
微软正式公布其 Azure 硬件平台的下一代核心组件——Maia 300。这款专为人工智能推理设计的加速器，预计将于 2027 年投入部署。
微软方面指出，Maia 300 在能效比上实现了显著突破，相较于其他领先的基于 GPU 的系统，其每兆瓦功耗下的 Token 产出量提升了 40%。该芯片主要面向长文本推理、响应式对话 AI 以及持续性的多步骤代理任务进行优化。
在集群规模效率方面，微软表示，由 96 个 Maia 300 加速器组成的机架，其 Token 吞吐量将达到上一代 Maia 200 机架规模的七倍。
推理优先架构设计
微软强调，Maia 300 将支撑新一代 AI 产品与服务的发展，涵盖从 GitHub 中的代理编码功能到通过 Microsoft Foundry 提供的大规模模型服务。
此外，该芯片还将改善微软 AI 团队的推理与数据生成能力，进而提升 Copilot、Cowork 以及 Microsoft Teams 等个人生产力工具的用户体验。
根据官方介绍，Maia 300 采用“推理优先架构”，通过减少数据流动并更高效地利用计算、内存和网络资源来提升整体性能。其软件定义的数据流架构结合 AI 辅助的内核优化技术，旨在确保数据始终保留在系统所需的部分附近，从而降低延迟。
内存子系统是 Maia 300 设计的核心。该芯片配备了八个 HBM4 堆栈，在 950W 的热设计功率（TDP）下，声称可实现 18TB/s 的峰值带宽。微软透露，专用软件可利用芯片上的 SRAM 作为暂存器（scratchpad），以减轻高负载工作期间 HBM 的压力。
该加速器引入了多片块（Chiplet）架构，将计算单元、内存控制器和输入/输出功能分离。其中，计算芯片基于台积电 N2P 工艺制造。微软表示，对包括增强型 MXFP4 在内的低精度格式的支持，有助于减少内存和带宽需求，使系统能够在相同功率范围内运行更大的上下文窗口并提高吞吐量。
网络互联被设计为系统数据流的一部分，而非独立的层级。Maia 300 通过加速器之间的高带宽连接实现张量并行，并结合基于以太网基础设施的定制 AI 传输协议。微软称，这种方法支持从单个机架无缝扩展至数据中心级别的部署。
具体参数显示，一个包含 96 个加速器的 Maia 300 机架总功率范围为 167kW，拥有 27.6TB 的 HBM 容量以及每秒 1.7 PB 的总 HBM 带宽。微软表示，这种高密度设计能够同时处理更多的 AI 交互请求和更大规模的工作负载。
作为参考，基于 Maia 200 的平台目前已承载包括 Microsoft 365 Copilot 和微软 AI 团队开发模型在内的生产工作负载。数据显示，Maia 200 每瓦 Token 数量是支撑 Teams、Copilot 和 Cowork 内置 AI 功能的领先 GPU 基础设施的 1.7 倍。GitHub Copilot 和 Microsoft Foundry 预计将在今年年底前完成相关部署。
