阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

vLLM-Omni称MiniMax H3-Image在英伟达Vera Rubin上实现亚秒级4K生成

vLLM-Omni发布基准测试,显示MiniMax H3-Image在英伟达Vera Rubin GPU上原生4K图像生成中位延迟为0.87秒。

2026-11-12

开源推理引擎vLLM-Omni团队于2026年11月12日发布技术博客,宣布对AI公司MiniMax新发布的开放权重图像模型H3-Image提供“Day-0”支持,并在英伟达(NVIDIA)下一代Vera Rubin架构GPU上进行了详细基准测试。据该博客自报数据,在四块GB300 GPU组成的系统上,使用短提示词服务基准测试时,原生4096×4096分辨率图像的生成中位延迟达到0.87秒。

除了低延迟,vLLM-Omni还展示了高吞吐量配置:通过四个单GPU副本并行处理,系统每小时可生成6,115张图像。这一性能得益于多项优化技术,包括MXFP8量化以加速DiT线性层、Ulysses序列并行(SP4)以及结合CUDA Graph和流式处理的VAE解码优化。例如,在四块GB300 GPU上,VAE解码时间从2.635秒降至0.213秒,使端到端延迟从约4.0秒降至1.6秒。

基于MiniMax官方标准4K API定价示例(每张图像0.06879美元),vLLM-Omni计算了潜在的经济效益。在全额计费利用率下,峰值吞吐量预计可带来每GPU小时105.16美元的毛收入;若利用率为75%,则约为78.87美元。需要注意的是,这些估算未扣除运营成本,且日产能是基于测量速率的外推值。

该支持不仅限于英伟达数据中心GPU,还扩展至消费级GPU(如RTX 5090/5080,通过CPU分层卸载实现单卡部署)以及其他硬件平台,包括AMD Instinct、Intel Arc Pro、华为昇腾NPU和摩尔线程MTT S5000。然而,所有性能数据均为厂商自测结果,未经独立第三方复现,且经济预测依赖于假设的销售价格和理想化的利用率条件。

来源

  • vllm.ai↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系