资讯1 分钟阅读·
NVIDIA披露DSX电力调度测试:16个节点的功率预算跑出19个节点
电力调度让同一功率预算多跑3个节点、吞吐+24%,但数字出自厂商披露的特定测试,换模型或机房是否成立待验证。
NVIDIA 9月15日在AI基础设施更新中披露,Lambda用DSX Max-Q做电力调度,在原本容纳16个节点的功率预算内运行19个节点,推理吞吐量提高24%——数字出自厂商披露的特定测试,不能直接外推到其他模型、硬件或数据中心。功率预算没变,这24%是产出增益,不等于实际电费同比下降。
电力调度让同一功率预算多跑3个节点、吞吐+24%,但数字出自厂商披露的特定测试,换模型或机房是否成立待验证。
NVIDIA 9月15日在AI基础设施更新中披露,Lambda用DSX Max-Q做电力调度,在原本容纳16个节点的功率预算内运行19个节点,推理吞吐量提高24%——数字出自厂商披露的特定测试,不能直接外推到其他模型、硬件或数据中心。功率预算没变,这24%是产出增益,不等于实际电费同比下降。