预印本提出KV-streams：流式缓存使智能体强化学习训练提速2.6至5倍

KV-streams是一种即插即用策略，旨在解决智能体大语言模型（LLM）训练中因上下文压缩导致的GPU内存瓶颈。传统压缩方法需要多次重新预填充上下文，严重阻碍训练吞吐量。

该研究由Emiliano Penaloza等18位作者提出，发表于2026年10月15日更新的arXiv预印本（v3）。KV-streams通过将KV缓存向前流式传输而非在每次压缩后刷新，实现了可扩展的压缩。

实验结果显示，KV-streams支持三种不同的压缩策略，在训练过程中实现了2.6到5倍的墙钟时间加速。此外，研究发现流式KV缓存可作为循环状态，携带已从上下文中消失的信息。在受控设置中，作者表明仅靠强化学习（RL）即可触发这种信息保留行为，这与先前工作认为需要额外机制的观点相反。

作为预印本，这些结果尚未经过独立复现。摘要未说明测试是仿真还是实机，实际生产环境中的稳定性与兼容性仍需进一步验证。