阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · REMORY记忆网络1 分钟阅读·2026-10-10DisconfirmAI 编辑部

预印本:残差记忆网络助长程代理仅用5.2%输入位逼近全上下文表现

新神经记忆网络通过软令牌补充摘要,在保持洞察覆盖率的同时显著提升源归因准确性并减少工具错误。

重要性实质性证据E2 未复现写法快讯

原文发布时间 2026-10-09 12:00

重点:REMORY预印本提出一种神经记忆网络,通过在文本摘要后追加有界的软记忆令牌,使冻结的大语言模型在仅使用5.2%的输入位置时,即可逼近全上下文的联合评分。

背景:长程智能体通常依赖文本摘要来压缩历史以适配有限上下文窗口,但纯文本摘要往往无法支持所有后续决策,导致信息丢失或幻觉。

结论:在SummHay基准测试中,该方法在几乎不损失洞察覆盖率的情况下改善了源归因;在BrowseComp和Terminal-Bench 2.1等长程代理任务中,Qwen3.8-27B和GLM-5.3-Flash模型均显示出一致的性能提升,且重复工具输出和错误显著减少。

边界:结果基于作者自测,尚未见独立复现,且主要验证于特定开源模型架构。

来源

  • 原始出处arxiv.org↗
专题

REMORY记忆网络

REMORY是一种用于长程代理上下文压缩的神经记忆网络,通过在文本摘要后追加有界的软记忆令牌(soft memory tokens),模拟序列维度上的残差连接。该机制旨在解决传统文本摘要无法支持所有后续决策的问题,使冻结的大语言模型在仅使用…

2 节点1 篇更新于 2026-10-10 15:24

事情怎么走到这一步

  1. 2026-10-08Hanchen Xia等人提交arXiv预印本,正式提出REMORY架构,定义其为补充文本摘要的神经记忆网络。
  2. 2026-10-09
登录 / 注册
阅读研究雷达投资体系
AI Weekly报道REMORY在SummHay基准上以5.2%输入位置逼近全上下文得分,并指出其在Qwen和GLM模型上减少工具错误。

还没定论的部分

  • REMORY生成的软记忆令牌在极端长上下文场景下的具体延迟增加是多少?
  • 除了Qwen3.8-27B和GLM-5.3-Flash,该方法在其他开源基座模型上的泛化能力如何?
  • 论文中提到的“insight coverage nearly unchanged”是否有具体的量化误差范围数据公开?
读完整专题 →
带入研究 →