英伟达下调Rubin GPU内存与NVLink带宽规格,首批量产硬件开始交付
英伟达在Rubin平台量产前夕更新规格:HBM4带宽降11%,NVLink降17%,但扩展网络带宽提升。
随着英伟达(NVIDIA)下一代AI计算平台Vera Rubin进入量产阶段,该公司已悄然修订了Rubin GPU及其相关系统的最终出货规格。据科技媒体ServeTheHome报道,与去年公布的初步规格相比,新规格在内存带宽和互连带宽上有所下调,但在扩展网络带宽上略有提升。这一变化发生在超大规模云服务商开始部署首批NVL72系统之际,意味着实际交付的硬件性能将与早期宣传存在差异。
具体而言,单颗Rubin GPU的HBM4内存带宽从初步目标的22TB/秒降至19.2TB/秒,降幅约11%。这主要源于内存堆栈运行频率的调整,从预期的10.75Gbps/pin降至9.375Gbps/pin。尽管仍高于竞争对手AMD MI455X的7.6Gbps/pin,但这一削减将直接影响依赖高内存带宽的训练和推理工作负载。此外,用于多GPU互联的NVLink(Scale-Up)带宽也从3.6TB/秒降至3.0TB/秒,降幅达17%。
作为补偿,Rubin GPU的扩展网络(Scale-Out)带宽从0.4TB/秒提升至0.45TB/秒。对于整个机架级系统Vera Rubin NVL72,其总内存带宽从1580TB/秒降至1400TB/秒,NVLink总带宽从260TB/秒降至216TB/秒,而扩展网络带宽则从28.8TB/秒增至32.4TB/秒。值得注意的是,基于Rubin的HGX NVL8系统在内存容量上也面临削减,从2.3TB降至2.0TB,导致每颗GPU仅使用7个HBM4堆栈,进而使其内存带宽损失高达26%。
英伟达此前声明所有数值均为“暂定且可能变更”,因此这种调整在服务器硬件发布前并不罕见。然而,在量产前夕大幅下调关键带宽指标,暗示了供应链或技术实现上的挑战,可能是由于内存控制器速度、堆栈良率或组合因素所致。对于计划采购Rubin平台的客户来说,这意味着需要重新评估针对内存密集型AI模型的性能预期。