资讯1 分钟阅读·
EdgeWise：用步级强化学习让本地小模型自主识别关键步骤并委托云端，降低长时程智能体推理成本
EdgeWise框架通过步级RL训练本地小模型自主判断何时调用云端大模型，在保持性能的同时大幅降低长时程智能体的推理成本。
重要性实质性证据E2 未复现写法快讯
研究人员提出了名为 EdgeWise 的边缘-云协作框架。该框架的核心思想是：在本地设备上部署一个小型语言模型（SLM）作为主要求解器，仅在遇到需要更强模型容量的关键步骤时，才选择性地将其委托给云端的LLM。
为了实现这种自主委托而不在推理阶段引入额外的模型开销，EdgeWise 引入了一种步级强化学习（Step-level RL）方法。这种方法联合优化任务求解和委托决策，并对每一个单独的委托决定进行细粒度的信用分配。这意味着本地小模型在训练过程中学会了识别哪些步骤是“关键”的，从而在运行时能够自主做出最优的成本-性能权衡。
实验结果显示，EdgeWise 在 SWE-Rebench 和 Terminal-Bench 2.1 这两个基准测试中，不仅匹配甚至超越了纯LLM执行的性能，同时将推理成本分别降低了高达 62% 和 34%。研究进一步在本地工作站上部署了 EdgeWise，证明了这种成本节约在实际的边缘-云设置中同样有效。