资讯1 分钟阅读·
vLLM宣布支持NVIDIA Nemotron 3.5 Super VL多模态模型,提供OpenAI兼容接口
vLLM为NVIDIA新发布的Nemotron 3.5 Super VL多模态智能体模型提供即时支持,允许开发者通过标准API部署该模型并利用其混合架构特性。
重要性实质性证据E2 未复现写法快讯
vLLM于2026年10月15日宣布对NVIDIA最新发布的Nemotron 3.5 Super VL模型提供“Day 0”支持。这意味着开发者现在可以直接在vLLM环境中运行这款专为长时智能体任务设计的多模态模型,无需等待第三方适配。
Nemotron 3.5 Super VL是一款拥有1200亿总参数、120亿激活参数的混合专家(MoE)模型,支持文本、图像、文档和视频输入。它旨在作为高准确率的智能体执行引擎,结合推理、指令遵循和工具使用能力。vLLM的支持包括连续批处理、前缀缓存、推测解码以及OpenAI兼容的API接口,使得该模型能无缝集成到现有的生产工作流中。
此次更新还引入了对多令牌预测(MTP)的支持,这是一种加速生成速度的技术。NVIDIA声称,在单GPU上,该模型在智能体任务中的吞吐量可比同规模其他开源模型快5倍,但这属于厂商自测数据,尚未经过独立复现验证。