AI编程创企硅心科技开源4B上下文压缩模型，称推理成本较DeepSeek-V4-Pro降78%
硅心科技（aiXcoder）开源面向编程Agent的上下文压缩模型aiXcompact-4B，厂商自测显示其能大幅降低长程任务的Token开销与GPU推理成本。
2026年11月11日，孵化自北京大学软件工程研究所的AI编程初创公司硅心科技（aiXcoder）正式开源了上下文压缩专用模型aiXcompact-4B。该模型参数量仅为4B，主要面向编程Agent在长程复杂研发任务中的场景，支持在单张A100-40GB显卡上进行私有化部署。
随着Claude Code、Codex等AI编程工具被用于更复杂的任务，Agent需要持续读取代码、调用工具并执行测试，导致Token消耗急剧增长。一项基于OpenHands框架的研究发现，一个完整的智能体编程任务平均Token消耗约417万，是单轮代码推理的3500倍。aiXcompact-4B旨在通过结构化处理Agent的历史轨迹来缓解这一成本压力：它保留关键原始信息，精简文件读取和测试运行等工具返回结果，删除重复或失去参考价值的中间记录，并生成结构化任务摘要。
根据aiXcoder公布的自测数据，在Terminal-Bench基准测试中，将aiXcompact-4B接入OpenCode进行上下文压缩后，整体任务完成准确率与DeepSeek-V4-Pro持平。在私有化部署场景下，针对特定任务的单次GPU推理成本较DeepSeek-V4-Pro降低78%；若采用API调用方式，单次请求的Token费用约为0.019元，相比DeepSeek-V4-Pro、GLM-5.3和Qwen3.8-Max分别降低97.30%、97.08%和97.98%。此外，该模型可将历史上下文平均压缩至原长度的25.89%，为后续Agent调用腾出更多上下文空间。
技术实现上，aiXcompact-4B结合了教师大模型蒸馏、4B学生模型LoRA微调与结构化压缩决策。训练数据全部来自真实研发场景下的Agent运行轨迹。尽管厂商声称其在规则综合分和信息保留率上与更大的DeepSeek-V4-Pro接近甚至部分指标更优，但这些结果均基于厂商内部评测集及特定配置（如ngram k=32），尚未获得独立第三方复现验证。对于寻求降低高频上下文压缩成本的企业用户而言，这提供了一个轻量化且经济的潜在选择，但实际收益需结合具体工作负载进行评估。