阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化4 分钟阅读DisconfirmAI 编辑部

NVIDIA 发布 Daviator:用 k 点批处理和混合精度消除小体系 DFT 的 GPU 瓶颈

训练机器学习原子间势需要数千万到上亿次 DFT 计算。NVIDIA 解释了为什么 VASP 在小体系上 GPU 反而比 CPU 慢——顺序 k 点处理使内核启动开销主导计算——以及如何通过批量 Davidson 求解器和逐内核精度分析工作流系统性解决这一问题。

2026-11-18 23:00

训练下一代机器学习原子间势需要数千万到上亿次密度泛函理论计算作为训练数据。平面波 DFT 是生成这些数据的金标准,VASP 是其主导实现。但一个反直觉的现象长期困扰研究者:在 GPU 上运行小体系 DFT 计算,速度反而比 CPU 更慢。NVIDIA 在 2026 年 11 月发布的技术博客中解释了这一瓶颈的根源,并介绍了其新库 Daviator 如何通过两个层次的机制解决它。

问题的核心在于 k 点处理模式。周期性体系的电子波函数由晶体动量参数化,小原胞需要数百到数千个不可约 k 点才能达到收敛精度。每个 k 点的求解在 Davidson 特征值求解器步骤中彼此独立,不需要跨 k 点通信。然而 VASP 的 OpenACC GPU 端口按顺序逐个处理 k 点。对于大体系,单个 k 点的工作量足以填满 GPU;但对于小体系配合密集 k 点网格,每步数百次小型 GPU 调度使内核启动开销主导了计算时间。文章给出了一个具体案例:一个含 752 个 k 点的单原子铁体系在更昂贵的 GPU 硬件上比 CPU 慢 8 倍。

Daviator 的解决方式是将顺序循环替换为批量操作。其核心是一个批量 Davidson 特征值求解器,将 FFT、矩阵乘法和自定义内核批量调度,大幅减少 GPU 内核启动次数,使流多处理器占用率从部分容量提升到接近饱和。数据全程驻留在 GPU 显存中。VASP 保留对自洽场循环、混合、对称性和输入输出的完整控制权,Daviator 仅在明确定义的调用边界处介入已经位于设备上的数据。

消除 k 点瓶颈后,NVIDIA 进一步引入混合精度执行层以利用硬件中 FP32 与 FP64 吞吐量的不对称。在数据中心 GPU 上,FP64 吞吐量在 Hopper、Blackwell 和 Rubin 架构间基本持平,而 FP32 吞吐量持续增长。推理级和工作站 GPU 如 RTX PRO 6000 的 FP32 与 FP64 比率达到 64:1。问题在于,并非 Davidson 流水线中的每个内核都对精度同样敏感,而简单的 FP32 运行对比 FP64 只能给出通过或失败的二元结果,无法揭示数值边界在哪里。

文章描述了一套可迁移的精度需求分析方法论。首先,用可配置尾数和指数位数的通用浮点类型对代码进行仪器化。然后编写运行脚本、比较脚本和筛选脚本:对每个内核,先递减尾数位数直到比较失败,再在最小可用尾数下递减指数位数。这能识别每个内核的最低有效精度,从而决定是切换到 FP32、改进实现使其进入 FP32 范围,还是保留为 FP64 孤岛。NVIDIA 指出,真正的混合精度需要精确知道精度边界在哪里,因为软性失败——能量漂移、错误收敛、看似有效但实际发散的分子动力学轨迹——比硬性失败更隐蔽。

按照这一工作流,基于 Verificarlo 的原始分析表明 Davidson 算法的大部分代码可以以 FP32 算术和存储运行:FFT、哈密顿量施加和轨道更新使用 FP32,而子空间特征值问题、子空间矩阵背后的瘦高矩阵乘法、能量和收敛度量保留在 FP64。剩余的 FP64 瓶颈是 Rayleigh-Ritz 投影中的瘦高矩阵乘法,纯 FP32 累加不足因为输出直接馈入数值敏感的特征值求解器。NVIDIA 用 split-k 算法解决:将点积拆分为 FP32 块,最终在 FP64 中累加。

性能结果方面,NVIDIA 报告 Daviator 使单原子铁相对 CPU 基线获得 2 倍以上加速,LiFePO4 的 r2 SCAN 泛型获得 22 倍 Davidson 加速,64 原子 Bi 掺杂 GaAs 执行时间降低超过 85%。混合精度在 RTX PRO 6000 上使 FP32 Davidson 求解器运行快 3 到 7 倍,带来约 2 倍端到端加速;但在 H100 和 H200 上由于 FP64 张量核心匹配 FP32 吞吐量,边际收益有限。对 OMat24 数据集的投影显示,在 RTX PRO 6000 上组合使用 Daviator 和混合精度可将成本降至 CPU 的约 25%。

需要明确的是,这些数字全部来自 NVIDIA 自报基准,且 OMat24 的投影是从 13 个代表性输入外推而非实际完整运行。当前 Daviator 仅支持单节点执行,非共线自旋和纯 Gamma 点运行尚未覆盖。混合精度的收敛极限取决于输入,通常 FP32 可收敛到 10^-4 到 10^-6 eV 的 EDIFF 阈值,继续用 FP64 才能突破 FP32 噪声底。这套精度分析方法论本身——仪器化、逐内核筛选、FP64 孤岛——对其他需要混合精度改造的 HPC 代码具有参考价值,不局限于 VASP 或 Davidson 求解器。

登录 / 注册
阅读研究雷达投资体系

来源

  • developer.nvidia.comNVIDIA Technical Blog↗
带入研究 →