资讯1 分钟阅读·
Novita AI开源Chord MoE内核:官方自测Kimi K2.x在vLLM H200逐层最高提速约1.35倍
Novita AI与vLLM团队宣布开源Chord:面向Kimi K2.x INT4 MoE的CUDA内核,Apache-2.0协议,可经vLLM的Humming后端启用。官方自测:H200调优对调优逐层最高加速约1.35倍;B300最高2.15倍,
重要性局部证据E2 未复现
Novita AI与vLLM团队宣布开源Chord:面向Kimi K2.x INT4 MoE的CUDA内核,Apache-2.0协议,可经vLLM的Humming后端启用。官方自测:H200调优对调优逐层最高加速约1.35倍;B300最高2.15倍,对比的是未调优Humming默认配置;厂商端到端测试TTFT降8.6%。数据为厂商自测。