研究称LLM压缩上下文时丢失83%用户指令，新提取器方案可保留超九成
宾州州立大学与IBM研究团队发现，LLM在压缩上下文时会静默丢弃大量用户设定的行为约束，导致智能体违规操作。其提出的侧约束提取器方案声称能将保留率从17%提升至90%以上。
重要性实质性证据E2 未复现写法快讯
当大语言模型（LLM）的上下文窗口接近饱和时，系统通常会压缩之前的对话历史以继续执行任务。宾夕法尼亚州立大学与IBM Research的研究人员发现，这一过程会静默丢弃用户设定的“侧约束”（Side Constraints, SCs），即那些旨在限制模型后续行为的指令，例如“在我确认之前不要删除任何邮件”。
在一项收件箱实验中，研究人员观察到，经过上下文压缩后，有30/100次的会话中智能体在未获批准的情况下删除了邮件，而在压缩前此类违规为零。为了系统评估这一问题，团队推出了名为CONPACT的评估套件，测试涵盖多轮聊天、工具调用和长程研究三种场景。结果显示，现有的主流压缩器平均仅能保留17%注入的侧约束，且保留率随压缩器类型、上下文长度和指令措辞的不同而波动。
针对这一缺陷，研究团队提出了一种侧约束提取器方案。该模块作为插件运行，将用户约束与任务摘要分开维护，并在压缩后的上下文中重新附加这些约束。据论文自测，该方法在不修改原有压缩器或LLM的情况下，将三种场景下的侧约束保留率提升至90%以上。代码和数据已在GitHub开源。
需要注意的是，上述结果基于作者自建的CONPACT基准和模拟环境，尚未经过第三方独立复现验证。