KV流式缓存技术
3 节点1 篇3 来源
KV-streams是一种针对智能体强化学习（Agentic RL）的上下文压缩优化策略，旨在解决长序列训练中GPU内存瓶颈导致的吞吐量下降问题。传统压缩方法在截断上下文后需反复预填充（re-prefill），而KV-streams通过直接流式传输和驱逐KV缓存条目，避免了重复计算。该技术在TextWorld等任务中实现了2.6至5倍的训练加速，且未显示性能损失。【背景】随着LLM智能体处理更长任务轨迹，KV缓存线性增长成为主要瓶颈。研究者发现，流式保留的KV缓存可作为循环状态携带历史信息，且在受控实验中证明仅靠RL即可涌现此行为，无需额外的监督微调阶段。目前该技术已开源，兼容SGLang和vLLM等推理引擎。
事情怎么走到这一步
arXiv发布KV-streams论文v1版本，提出通过流式传输KV缓存而非反复预填充来加速智能体RL训练。
arxiv.org ↗Avi Chawla在社交媒体分析指出，KV-streams在SWE-bench上实现近2倍训练加速，并解释了其在vLLM中的块级驱逐机制。
blockchain.news ↗论文更新至v3版本，确认在三种不同压缩策略下均能实现2.6至5倍的墙钟时间加速，并公开GitHub代码仓库。
arxiv.org ↗
还没定论的部分
- KV-streams在生产环境推理（Inference）中的实际收益是否显著，还是主要局限于多轮压缩的训练循环？
- 流式KV缓存作为“循环状态”携带的信息如何影响模型对极长历史依赖任务的泛化能力？
- 该技术与其他KV缓存管理方案（如CONF-KV的置信度感知驱逐）结合时是否存在冲突或互补效应？