中国初创公司Sipeed称其40W迷你PC在Qwen推理中性能超越英伟达DGX Spark

中国电子制造商Sipeed声称，其即将推出的AI计算机MaixStation在某些Qwen工作负载中的表现优于英伟达（Nvidia）的DGX Spark，尽管其标称计算能力显著较低。该设备由爱芯元智（Axera）的AX8860P处理器驱动，结合16个Arm Cortex-A55核心和达到256 TOPS的AI加速功能，典型功耗为40瓦。

Sipeed指出，英伟达宣传的1,000 TOPS是基于稀疏FP4计算的，而实际处理大型语言模型时无法完全利用这一理论能力。相比之下，Sipeed认为其架构在预填充（prefill）阶段能更有效地利用可用处理资源。虽然两台机器都提供273GB/s的内存带宽，但Sipeed声称其架构优化允许处理器在要求苛刻的推理操作中保持更高的利用率。

这些比较是在禁用多令牌预测（speculative decoding）的情况下进行的，以便在类似条件下评估两个系统。然而，报告的优势相对较小，且需要独立测试来确定跨其他模型和工作负载的性能差异。Sipeed预计入门级32GB版本的MaixStation价格将低于2,000美元，而128GB配置应保持在4,000美元以下。相比之下，据报道英伟达的DGX Spark售价为6,949.99美元。