NVIDIA 技术博客详解 FLUX 3 Image Klein Blackwell 推理优化方法，单卡加速最高 4.45 倍
NVIDIA 技术博客发布 FLUX 3 Image Klein 在 Blackwell GPU 上的推理优化教程，通过 NVFP4 量化、融合 GEMM 内核、量化与稀疏注意力、步缓存及多 GPU 并行四层优化，在单张 B200 上将文生图延迟从 22.36 秒降至 6.46 秒，图生图从 54.64 秒降至 12.28 秒，各阶段质量损失以 LPIPS 分数量化。
扩散模型生成一张高分辨率图像需要数十次顺序前向传播，每次经过数十亿参数的模型，注意力计算成本随分辨率增大而增加。NVIDIA 技术博客近日发布的教程针对 FLUX 3 Image Klein 在 Blackwell GPU 上的推理延迟问题，给出一套分层优化方案：每层针对管线中不同的计算瓶颈，逐层叠加后在单张 B200 上将 Base 模型 2048×2048 文生图延迟从 22.36 秒压缩至 6.46 秒，图生图从 54.64 秒降至 12.28 秒。
FLUX 3 Image Klein 的推理管线由三部分组成：Qwen3-VL-4B-Instruct 负责文本条件编码，扩散 Transformer（DiT）执行去噪迭代，自编码器将潜变量解码为像素图像。在 2048×2048 分辨率下，去噪阶段占 Base 模型总延迟的 96.8%，其中注意力计算约占 DiT GPU 内核时间的 60%。优化因此围绕两个核心瓶颈展开：GEMM 矩阵乘吞吐和注意力计算成本。
第一层是 NVFP4 量化加 PrimsTS 融合 GEMM 内核。NVIDIA 称 NVFP4 相比 BF16 在单张 B200 上带来最高 1.62 倍文生图加速。PrimsTS 内核将 GEMM 与 SwiGLU、QKV 投影、RoPE 旋转位置编码的 epilogue 融合，减少内核启动开销。第二层处理注意力瓶颈：量化注意力方面，VC-Attention FP8（修复预算 ρ=0.005）带来 1.18 倍加速，LPIPS 为 0.086；稀疏注意力方面，Sol-Attention（τ=1.0，12 步初始密集）带来 1.30 倍去噪加速，但 LPIPS 升至 0.151。第三层 Cache-DiT 复用相邻去噪步的 Transformer 中间输出，在阈值 0.24 下将 Base 延迟近乎减半（1.94 倍加速），LPIPS 仅 0.033。
多 GPU 扩展使用 CFG 分支分离加 Ulysses 序列并行：八张 B200 上 Base 文生图中位延迟从 14.90 秒降至 3.00 秒，去噪加速 6.01 倍。但文章也指出，蒸馏版 Klein 在八卡上约一半生成时间落在去噪之外（文本编码、解码、后处理），限制了端到端收益。
需要强调的是，所有数据均为 NVIDIA 在特定硬件（B200）、特定分辨率（2048×2048）和特定模型配置下的自报结果，尚无第三方独立复现。各优化阶段的质量代价以 LPIPS 分数透明呈现，开发者可根据自身延迟与保真度需求选择配置组合。