微软第三代自研芯片 Maia 300:每兆瓦 token 高 40%,2027 起把 Maia 做成主力推理系统

微软 10 月 12 日发布第三代自研 AI 芯片 Maia 300(云与 AI 执行副总裁 Scott Guthrie 署名公告,Azure 博客同日出架构深读)。它被定位成「完整的智能系统」,为三类负载设计:长上下文推理、延迟敏感的对话体验、持续多步的智能体任务。架构延续 Maia 200 引入的「软件定义本地访问数据流」(SDLA),把控制路径与数据路径分开、由软件显式协调数据的放置与搬移;这一代再把内存从 SoC 统一访问改成跨 chiplet 的 NUMA 组织,让数据尽量靠近用到它的算力。
官方给出的规格:算力 die 用台积电 N2P 工艺的多 chiplet 架构,系统算力 FLOPs 提升 36%,HBM 带宽提到 2.5 倍,scale-up 带宽多 14%;每个加速器八堆 HBM4,288GB 容量、18TB/s 带宽,相对 Maia 200 带宽 2.5 倍、容量多 33%、每瓦 HBM 带宽约 2 倍;整机柜从 48 扩到 96 个加速器,scale-up 域扩到 12,288 个加速器的 superpod;新增增强版 MXFP4 与 3 比特以下的存储格式。效率口径是每兆瓦 token 数预计比主流 GPU 系统高 40%,96 加速器满配时整机柜 token 吞吐最高为 Maia 200 的 7 倍。
在产的 Maia 200 已承接 Microsoft Copilot 等生产负载,并能跑 OpenAI 模型、微软自家 MAI 模型与主流开源模型,官方称它在 Teams、Copilot、Cowork 的内建 AI 能力上每瓦 token 数最高为领先 GPU 基础设施的 1.7 倍,正在美国、欧洲、澳洲部署,GitHub Copilot 与 Microsoft Foundry 年底前接入。微软明确说 2027 年起把 Azure Maia 系列扩到多吉瓦部署,让 Maia 成为微软产品与服务的主力推理系统,Maia 300 也从 2027 年起承接生产负载——等于把推理这一环从外购 GPU 转成自研芯片。以上效率与规格数字均为微软自报口径,未见第三方复测。
原文链接:微软官方博客 / Azure 博客