微软 Maia 300 架构解析：智能体推理的瓶颈从算力转向数据搬运
微软 Azure 硬件负责人详细解释 Maia 300 为何将架构重心从原始 FLOPs 转向数据局部性与带宽优化，以应对多步执行、长上下文解码和工具调用等智能体工作负载对推理计算特征的改变。
重要性实质性证据E3 可检验写法标准
微软 Azure 硬件系统与基础设施总裁 Rani Borkar 和系统规划与架构企业副总裁 Saurabh Dighe 在 2026 年 10 月 12 日发表了一篇技术长文，系统阐述 Maia 300 的架构设计逻辑。其核心论点是：智能体推理负载（多步执行、长上下文解码、工具调用）改变了计算特征与算术强度，单纯增加功耗和硅面积已不足以提升每瓦性能，架构重心须转向数据局部性、精度格式与带宽优化。Maia 300 将内存从统一访问（UMA）改为跨芯粒非统一（NUMA）组织，引入增强 MXFP4 和低于 3 位的存储格式，机架扩展至 96 个加速器，超节点规模达 12288 个。微软称相比 Maia 200，Maia 300 在完整配置下提供最高 7 倍机架级 token 吞吐量、2.5 倍以上每瓦性能，内存带宽提升 2.5 倍、容量增加 33%、每瓦 HBM 带宽约翻倍。