IBM研究:开源模型使AI芯片设计推理成本降低11.5倍
IBM展示开源模型结合llm-d在量子纠错硬件优化中实现52倍加速,成本仅26美元,比专有配置低11.5倍。
重要性实质性证据E2 未复现写法快讯
IBM Research演示了使用开源前沿模型和llm-d分布式推理进行AI驱动的芯片设计,可将推理成本降低11.5倍。
在优化量子纠错解码器的测试中,开源配置以约26美元的推理成本实现了52倍的时钟周期加速。相比之下,同等搜索预算下的专有模型配置花费299美元,虽实现了更高的204倍加速,但成本显著增加。
该结果基于单次搜索运行,反映了特定观察到的性能而非通用模型排名。