Modal称英伟达Vera CPU内部测试吞吐量翻倍,拟建异构集群
Modal内部测试显示英伟达Vera CPU吞吐量较现有AMD和Intel处理器提升一倍,但公司计划维持x86与Arm并存的异构服务器集群以应对软件迁移成本。
重要性实质性证据E2 未复现写法快讯
AI云服务商Modal表示,其内部初步评估显示,英伟达(Nvidia)的Vera CPU在其特定AI代理工作负载中,吞吐量达到现有AMD和Intel处理器的两倍。尽管性能优势显著,Modal首席执行官Erik Bernhardsson确认,公司不会完全弃用x86芯片,而是计划运营一个包含Arm和x86处理器的异构服务器集群,以便针对不同工作负载选择最合适的硬件。
这一决策反映了代理式AI(Agentic AI)对CPU资源的新需求。此类工作负载涉及大量独立任务竞争核心、缓存和内存带宽,使得CPU在软件执行和数据预处理中的作用日益重要。然而,由于Vera基于Arm v9.2指令集,全面迁移需要大量的软件工程修改。目前,Modal尚未披露具体的基准测试配置、对比的AMD/Intel处理器型号或每瓦性能数据,因此无法确定性能提升究竟源于Olympus核心的解码能力、1.2 TB/s的内存带宽还是其他架构特性。此外,测试对象为当前市售产品,而非即将推出的下一代竞品。