开源LLM推理引擎llama.cpp发布v1.0.0,确立API兼容性规则
llama.cpp历经三年半首次发布主版本,明确API稳定性承诺,降低开发者集成风险。
C/C++构建的开源大语言模型(LLM)推理引擎llama.cpp于2026年11月13日发布v1.0.0版本。这是该项目自启动以来约三年半内迎来的首个主要版本号更新,标志着其从快速迭代阶段进入稳定维护阶段。与此同时,底层张量计算库ggml也同步更新至v1.0.0。
开发团队指出,随着llama.cpp在各类应用中的广泛采用,提供灵活且稳定的API变得至关重要。为此,项目确立了严格的语义化版本控制规则:仅当公开API发生不兼容变更时才升级主版本号;新增功能、后端更新或新模型支持等向后兼容的改动归入次版本号;不包含API变更的错误修复则作为补丁版本发布。这一政策为依赖该引擎进行本地部署和集成的开发者提供了明确的稳定性预期。
在技术层面,v1.0.0移除了此前已弃用的API,并引入了FP8 KV缓存优化及混合专家模型(MoE)缓存改进。此外,新版本还增加了对Kimi-K3.1-Pro、Ripple-65B-Preview、xing4_0以及drama-3 TTS等新AI模型的支持。