TokenEconomizer:AI编程代理的仓库经验如何降低两到三成token开销
微软研究院、UC伯克利与微软安全团队发现,编程代理在同一仓库中约30%的工具调用是重复动作、23个工具描述中16个从未被使用、17%的失败任务消耗了32%的预算。他们开源了TokenEconomizer插件,通过微技能、工具剪枝和失败循环干预三种机制,将仓库历史转化为后续会话的成本节省,在277个SWE-Bench任务上平均降低18.4%–30.9%的token开销,且不修改代理或模型本身。
开发者每天在同一个代码库中使用AI编程代理,但每次会话都从零开始:重新发现如何运行测试、加载从未调用的工具、在同一个错误上反复打转。微软研究院、UC伯克利与微软安全团队在SWE-Bench的60个真实bug修复任务上对Claude Code做了profile,量化了这种浪费的规模。他们发现三种反复出现的模式:当仓库积累至少五个已完成任务后,30%的工具调用重复了该仓库早前任务中的动作;每轮对话中代理收到23个工具描述,其中16个从未被调用;17%的失败任务消耗了32%的总预算。
TokenEconomizer的核心思路是:把已完成的会话变成后续会话的指导,而不修改代理或底层模型。它通过三种机制工作。微技能(micro-skills)从多次会话中识别重复模式,生成一行笔记加入代理的起始上下文,只有当多个会话确认该模式后才添加,若后续证据矛盾则撤回。工具剪枝(tool pruning)根据仓库历史移除代理不太可能使用的工具,但始终保留运行命令和编辑文件的核心工具,被移除的工具可在需要时恢复。失败循环干预(failure-loop intervention)检测代理是否反复撞同一个错误,由一个judge模型判断它是否真正卡住,若是则给代理一条建议换方向的短笔记。
在277个SWE-Bench任务、六个仓库、五种代理与模型组合上的测试中,TokenEconomizer平均降低18.4%–30.9%的成本,在全部30个仓库-组合配对中均节省且无性能损失。节省随经验积累而增长:早期任务可能更贵,但到第六个任务时每个仓库的累计成本已低于默认值。在Web-Bench的连续网页开发任务上成本降低16.0%–21.2%,在安全审计(每个任务都是新仓库)上降低6.4%–19.6%。
需要留意的边界:这些数字来自厂商自报基准,尚无独立复现;节省依赖仓库历史积累,冷启动阶段没有收益;18.4%–30.9%是跨任务的平均值,单个任务的节省可能更高也可能更低。此外,报告的成本已计入TokenEconomizer自身模型调用的开销。插件已开源,可在GitHub获取,无需额外API密钥,学习到的内容保留在开发者本地。