英伟达将 Vera Rubin NVL72 的 Kubernetes 适配决策编码为可复现配方，首次通过跨节点 NCCL 性能验证
英伟达工程师 Mark Chmarny 和 Yuan Chen 记录了如何在 Vera Rubin NVL72 早期硬件上完成 Kubernetes 端到端验证，将驱动分支、NIC 拓扑、IMEX 互斥、内核页大小等发现编码为 AICR 版本化配方，在参考集群上通过部署、一致性和性能三阶段验证，但推理性能因软件栈未就绪而推迟。
为新 GPU 硬件配置 Kubernetes 是一项容易出错的工作。驱动、内核、容器运行时、网络、算子和调度器必须协同工作，且设置要针对硬件和负载调优。微小的不匹配就能阻止工作负载运行或限制性能。英伟达云架构师 Mark Chmarny 和软件工程师 Yuan Chen 在 2026 年 11 月 2 日的技术博客中，记录了他们如何在 Vera Rubin NVL72 早期硬件上完成这一适配，并将其经验固化为 NVIDIA AI Cluster Runtime（AICR）的版本化配方。
从 GB200 NVL72 升级到 Vera Rubin NVL72，用户可见的变化并非微调。GPU 驱动需要全新分支：验证使用的 R615.23 是主机预装的开源内核模块驱动，而官方平台支持目标是 R620。网络侧，ConnectX-7 网卡和 BlueField-3 DPU 被 ConnectX-9 SuperNIC 和 BlueField-4 DPU 取代，DOCA 3.3.0 是首个支持 ConnectX-9 的正式版本。设备拓扑也不同：Vera Rubin NVL72 计算托盘暴露八组 ConnectX-9 PCI 设备共 32 个功能，而 GB200 只有四个 ConnectX-7 适配器。多节点 NVLink 工作负载仍依赖 IMEX，但 DRA 管理的 IMEX 与主机静态 nvidia-imex 服务互斥，必须禁用后者。
这些变化散落在从底层绑定到编排层的各个位置。AICR 的应对方式是将所有发现编码进配方：主机管理模式驱动（GPU Operator 设 driver.enabled: false，容器工具链仍由算子管理）、启用 ComputeDomains 的 DRA 驱动、Kubernetes 版本下限 1.34.1（1.34 提供 GA 的 resource.k8s.io/v1 DRA API，.1 补丁因为 RKE2 的 CDI/NRI 工具链路径需要 containerd 2.1）、Ubuntu 26.04 搭配 Vera 优化的 arm64 64k 页内核，以及 NFD 拓扑更新器默认 60Mi 内存限制需上调——否则在多 TB 的 NVL72 工作节点上会触发 OOM 杀死。配方还引入了 DraNet 用于将 ConnectX-9 设备分配给 Pod，以及通过 NodeWright 施加的独占 RDMA 网络命名空间模式，使每个 Pod 只看到自己的主机通道适配器。
验证流程在实时 Vera Rubin NVL72 参考集群上分四步执行。第一步生成配方，离线解析 14 个组件和 5 层覆盖。第二步渲染部署包，产出 61 个文件包括有序 Helm chart 和部署脚本。第三步对集群做快照并运行验证：部署阶段四项检查全部通过；一致性阶段八项通过，覆盖 GPU Operator 健康、DRA/ComputeDomain 支持、KAI 成组调度、Pod 自动伸缩和安全加速器访问等。第四步是跨节点 ComputeDomain 测试，验证 IMEX 通道注入和 NVLink 织物连通。性能阶段运行跨节点 NCCL all-reduce，通过 IMEX ComputeDomain 在 NVLink 织物上完成 16 GiB 消息的 all-reduce，总线带宽 744.71 GB/s，达到配方设定的下限。整个序列（配方、部署包、快照、部署和一致性验证）在约五分钟内完成，性能阶段额外加上 NCCL 作业本身的运行时间。
但边界必须看清。配方是 Preview 状态，不携带生产支持和生命周期资格。验证在英伟达参考硬件上由厂商自报完成，无独立复现。推理服务性能明确推迟：vLLM 在 v0.27.0 合入了 Rubin（sm_107a）支持代码，但 SM107 内核路径在构建时门控于 CUDA ≥ 13.4，而 vLLM 截至 v0.28.0 的发布镜像仍基于 CUDA 13.0.3 构建，因此最新镜像携带调度代码却没有编译后的内核。ai-dynamo 最新发布 v1.4.2 锁定 vllm-openai v0.26.0，更早于该代码。一个可用的推理性能下限需要已发布的、基于 CUDA 13.4 构建并经实机验证的运行时镜像。
验证过程本身也反向推动了上游修复。在早期硅片上运行时，AICR 发现 go-nvlib 中一个未映射的 Rubin 架构值导致 DRA 驱动的 kubelet 插件崩溃循环。由于架构支持先落入 go-nvml，再流入 go-nvlib，然后进入 GPU Operator、Kubernetes Device Plugin、MIG Manager 和 DRA 插件，修复沿栈一致传播，从首次崩溃报告到在 Vera Rubin 硬件上的验证构建约三天，最终随 DRA 驱动 v0.5.0 正式发布。验证还发现主机管理的 IMEX 守护进程与 DRA 管理的 ComputeDomains 目前不能共享节点，这一反馈塑造了 DRA 驱动 v0.5.0 中加入的主机管理 IMEX 选项。