GPU集群健康检查缺陷
3 steps1 pieces5 Sources
研究公司SemiAnalysis在为期三个月的测试中发现,部分AI云服务商提供的GPU集群存在根本性的健康检查逻辑错误,导致节点无法自动恢复甚至干扰正常作业。
【背景】市场处于“backwardated”状态(现货溢价),买家急需算力,使得供应商即使交付配置错误的Kubernetes或存储也能获利,掩盖了质量危机。
时间线显示:
- 2026-05-22:开源项目HAMi报告其调度器存在Bug,健康检查机制在60秒后错误地将GPU节点标记为不健康并从缓存移除,导致节点消失。
- 2026-10-10:NVIDIA DCGM Exporter被曝出CVE-2026-47483漏洞,攻击者可利用调试端点崩溃监控服务,使运营商失去对12,000+ GPU的可见性。
- 2026-10-14:SemiAnalysis披露具体案例,指出Amazon HyperPod Slurm等服务中的健康检查被安排在仅当节点已健康时才执行的阶段,形成逻辑死锁;同时发现Firmus集群因网络配置错误导致训练吞吐量减半。
争议在于:供应商认为这是个别配置问题,而分析师Sam Harshe指出有5-10个案例是“设计上就无法工作”的健康检查,比没有检查更糟糕,因为它们主动干扰作业。目前尚无定论表明行业是否普遍缺乏基础故障演练能力。
后续需关注:SemiAnalysis即将发布的EndpointX报告细节、各云厂商对标准化SLA的采纳情况,以及HAMi等开源组件修复后的稳定性验证。
How it got here
HAMi GitHub Issue #1899报告调度器健康检查Bug,导致GPU节点在60秒后被错误移除。
github.com ↗Lava研究员披露NVIDIA DCGM Exporter漏洞(CVE-2026-47483),可致GPU监控服务崩溃。
aiweekly.co ↗SemiAnalysis发布视频,指出部分GPU集群健康检查存在逻辑死锁,无法恢复故障节点。
youtube.com ↗
What is still unsettled
- SemiAnalysis提到的5-10个‘设计上失败’的健康检查具体涉及哪些其他云厂商?
- 行业是否会接受SemiAnalysis正在推广的标准化服务级别协议(SLA)以保护买方?
- NVIDIA Vera Rubin平台推出时,现有云服务商能否避免重演GB300的配置灾难?