研究组织Epoch AI估算:智能体推理容量年增4.6倍,远超原始算力增速
研究组织Epoch AI估算,全球AI芯片的智能体推理容量在一年内增长4.6倍,显著超过峰值8位计算能力的2.6倍增速,凸显硬件与模型协同设计的影响。
研究组织Epoch AI于2026年11月18日发布数据洞察,估算全球已售AI芯片的智能体推理容量在2025年第二季度至2026年第二季度期间增长了4.6倍。这一增速几乎是同期峰值8位计算能力2.6倍增幅的两倍。
该分析使用Epoch AI的推理性能指数(IPI),该指数基于具有长缓存上下文的固定智能体工作负载来衡量容量,并考虑了内存、芯片间通信和低精度计算。通过将这些分数应用于其AI芯片销售数据集,研究人员发现,每单位峰值算力的推理容量在一年内上升了约77%。
这种差异归因于“硬件与模型协同设计”,即超越算术吞吐量比例增长的改进——如更大的规模扩展域和优化架构——使新芯片能够比原始FLOPS所暗示的更高效地处理智能体任务。到2026年第二季度,Blackwell和Blackwell Ultra芯片约占智能体推理总容量的73%,而占峰值8位计算总功率的比例为50%。