SambaNova与英特尔展示风冷异构推理架构:D系列GPU负责预填充,SN50负责解码
两家公司在SC26演示了结合英特尔D系列GPU和SambaNova SN50的分离式推理系统,旨在利用现有风冷数据中心扩展AI算力。
在2026年超级计算大会(SuperComputing 2026)上,AI芯片公司SambaNova与英特尔联合展示了一种新的异构推理架构。该方案将英特尔GPU D系列(代号Crescent Island)用于处理计算密集型的“预填充”阶段,而SambaNova的第五代可重构数据流单元(RDU)SN50则用于内存带宽密集的“解码”阶段。这一组合旨在让每个推理阶段都在最适合其特性的硬件上运行,从而构建一个完全风冷的“Token工厂”。
英特尔D系列是一款350瓦的风冷PCIe GPU,专为数据中心推理设计。它拥有32个Xe3P核心和256个XMX引擎,配备160 GB LPDDR5X内存(合作伙伴设计可达480 GB),提供1.5 TB/s的内存带宽,适合处理长上下文提示并构建键值缓存(KV Cache)。相比之下,SambaNova SN50采用连续数据流架构,避免了GPU中常见的内核启动开销和内存往返传输,特别适合逐token生成的解码任务。单个SN50机架包含16个RDU,典型功耗为20千瓦,可直接部署在许多现有的风冷数据中心内。
该系统的软件栈基于开源标准,包括NVIDIA Dynamo用于请求路由、vLLM作为服务引擎以及NIXL用于通过RoCEv2以太网进行KV缓存传输。这种设计允许服务提供商在不学习专有堆栈的情况下,利用现有的网络基础设施实现高效的缓存感知路由。当智能体返回对话或重新访问共享上下文时,Dynamo会将请求发送到已持有该前缀的SN50节点,从而减少重复的预填充工作并降低首token延迟。
这一演示的背景是全球数据中心建设面临电力约束和社区反对,导致许多新项目延期。据Sightline Climate报告,多达一半计划于2026年上线的数据中心项目可能面临延误。由于许多现有空间是风冷的,而最新AI系统往往需要直接液冷改造,这种能在现有“棕地”设施中运行的异构方案提供了一种无需昂贵改造即可扩展AI算力的途径。目前,该系统已在现场演示中运行智谱AI的GLM-5.3模型。