算力研究机构SemiAnalysis实测Rubin代理推理：每美元性能达GB300的67倍，功耗效率超英伟达官方宣称
算力研究机构SemiAnalysis于2026年9月14日发布英伟达Vera Rubin NVL72平台在代理推理工作负载下的首批基准测试结果。在170 TPS特定工况下，Rubin每美元总吞吐量为GB300的约67倍；在多数服务商实际部署的60至100 TPS区间，优势收窄至1.4至3倍。功耗效率方面，SemiAnalysis实测最高达每兆瓦7倍token吞吐提升，而英伟达CEO黄仁勋在GTC 2026上仅宣称3倍。SemiAnalysis估算Rubin每吉瓦年利润较Blackwell Ultra高约42%。所有数据基于预发布软件。
算力研究机构SemiAnalysis于2026年9月14日发布了英伟达Vera Rubin NVL72平台在代理推理工作负载下的首批基准测试结果，使用其自研的AgentX基准在数千颗芯片的集群上回放真实代理流量。核心发现：在170 TPS（每秒token数）这一特定交互速度下，采用NVFP4稠密推理的Rubin每美元总吞吐量为GB300 Dynamo TRTLLM的约67倍，前提是按超大规模云厂商的自持成本模型计算。但SemiAnalysis同时指出，在多数推理服务商实际部署的60至100 TPS区间，Rubin相对GB300的每美元性能优势收窄至1.4至3倍。
功耗效率是另一项显著发现。英伟达CEO黄仁勋在2026年GTC大会上展示的数据称Rubin在万亿参数模型、约200 TPS条件下实现每兆瓦3倍性能提升；SemiAnalysis实测预发布软件最高达每兆瓦7倍token吞吐提升。SemiAnalysis援引此前先例：2024年GTC上黄仁勋宣称GB200 NVL72比Hopper快30倍，实际测试结果为98倍。
经济含义方面，SemiAnalysis在其AI云TCO模型和数据中心行业模型基础上估算：在75 TPS交互速度、60%利用率和免模型许可费条件下，Rubin每全口径吉瓦电力年产生1595亿美元收入和1499亿美元模型利润，而GB300最强配置（Dynamo SGLang）分别为1149亿和1053亿美元。Rubin因此从同等电力分配中多获得约42%的模型利润，绝对差额约为每吉瓦446亿美元。SemiAnalysis还指出，Rubin可将token定价降低约28%而仍维持与GB300相同的每吉瓦收入，为运营方在利润保留与价格竞争之间提供选择空间。
需要明确的关键限制：所有数据基于预发布TRTLLM软件，SemiAnalysis本身承认性能将随软件栈成熟而改善；67倍出现在GB300 TRTLLM测量曲线接近末端的极端工况，引擎标签（TRTLLM与SGLang）对高交互速度下的倍数影响巨大——同一170 TPS条件下，Rubin对GB300 SGLang仅为5.56倍而非62.9倍。此外，SemiAnalysis感谢了英伟达团队成员协助验证基准结果，这属于厂商协作测试而非完全独立第三方验证。