英伟达DSX OS
4 节点1 篇6 来源
英伟达(NVIDIA)推出开源软件平台 DSX OS,旨在解决大规模 AI 工厂在 Kubernetes 环境下的集群就绪性难题。该平台将 GPU 集群管理划分为配置、认证和运维三个核心环节:通过 NVIDIA AI Cluster Runtime (AICR) 锁定版本以消除配置漂移,利用 NVIDIA Cluster Readiness Engine (NVCRE) 运行真实负载以验证硬件性能,并借助 NVSentinel 实现故障节点的自动隔离与再验证。这一闭环机制确保了在节点更换或驱动升级后,集群仍能维持生产级可靠性,从而提升算力利用率并降低 Token 生成成本。目前,CoreWeave、Lambda 等云服务商已部署相关组件,戴尔、联想等硬件厂商也在开发 DSX 就绪系统。
事情怎么走到这一步
英伟达发布博客文章《NVIDIA DSX OS Delivers Open, Modular Software for Operating AI Factories at Scale》,正式介绍 DSX OS 作为 AI 工厂运营的开源模块化软件层,涵盖从裸金属生命周期管理到多租户服务的全栈能力。
developer.nvidia.com ↗英伟达技术博客深入解析 NVIDIA Cluster Readiness Engine (NVCRE),展示其如何通过运行 NCCL 通信测试和训练工作负载来识别故障节点,填补了 Kubernetes 环境下缺乏原生分布式作业验证工具的空白。
developer.nvidia.com ↗英伟达台北 GTC 大会期间,金十数据报道指出 DSX 平台整合了芯片、软件及参考架构,黄仁勋强调其允许用户在安装机架前模拟整个工厂,标志着英伟达向 AI 基础设施平台提供商转型。
xnews.jin10.com ↗英伟达发布最新技术博客,详细阐述 DSX OS 如何通过 AICR、NVCRE 和 NVSentinel 形成“配置-认证-运维”的自动再验证闭环,解决节点修复后原始认证失效的问题。
developer.nvidia.com ↗