SemiAnalysis实测:华为昇腾硬件落后A100约5年,DeepSeek软件已近前沿
SemiAnalysis报告指出,尽管华为昇腾950PR硬件性能仍显著落后于NVIDIA A100,但DeepSeek的软件优化能力已接近前沿水平,双方互补正快速缩小AI芯片生态差距。
半导体研究机构SemiAnalysis在10月21日发布的报告中,对华为昇腾(Ascend)950PR芯片进行了独立基准测试,并结合DeepSeek近期开源的工具链更新,分析了中国AI软硬件协同的现状。报告核心结论是:以NVIDIA A100为比较基准,华为硬件性能可能落后5年以上,但DeepSeek提供的软件优化工具已站上前沿。
SemiAnalysis使用配备28个cube运算核心、128 GiB高带宽内存(HBM)的Ascend 950PR,针对1,055种BF16矩阵乘法(GEMM)运算形状进行测试。结果显示,华为表现最好的运算内核最高可达理论上限的99.7%。这一成绩是通过PyTorch标准函数torch.matmul由华为自家运算库执行实现的,并非DeepSeek的代码。这表明DeepSeek在DeepGEMM中实现的极致优化并非逼近上限的唯一方法。
然而,绝对性能上昇腾950PR仍明显落后。在受内存带宽限制的运算形状中,昇腾实际达成效能与理论可达峰效能的中位数比值为41.5%,而NVIDIA H100为46.8%。若比较绝对数值,950PR大致介于NVIDIA 2020年推出的A100与AMD MI300X之间。这也是报告称华为硬件“落后5年以上”的依据。
报告指出,华为与DeepSeek形成了互补关系:华为拥有成熟的硬件生态但缺乏能证明其芯片可用于训练或推理的前沿实验室模型;DeepSeek拥有先进模型但受限于算力获取。DeepSeek在9月30日为6个存储库(包括DeepGEMM、FlashMLA等)释出了昇腾支持。但截至报告撰写时,这6个工具中仅有第三方框架TileLang能实际使用,其余5个依赖尚未正式发布的华为CANN 9.2.0软件套件及特定编译器支持。
SemiAnalysis预估,到2027或2028年,DeepSeek很可能主要改用华为技术堆叠,但这仅是研究机构的预测,并非DeepSeek公布的计划。报告也强调,目前这套合作对DeepSeek有效,但不一定能让昇腾对其他开发者同样好用,例如x86主机上的兼容性问题仍未解决。