阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · 懒惰接地攻击研究1 分钟阅读·2026-10-15

研究发现:注入事实但干扰性证据可使搜索智能体准确率平均下降5.9个百分点

新研究揭示“懒惰接地”攻击:向搜索语料库注入支持邻近问题的真实但干扰性文档,导致搜索智能体在12个模型-基准对上的回答准确率平均下降5.9点,最高达17.3点。

重要性实质性证据E2 未复现写法快讯

2026-10-15 12:00

研究人员发现一种名为“懒惰接地”(lazy grounding)的失败模式,表明搜索智能体不仅易受虚假信息影响,还会被完全真实但具有干扰性的信息误导。该研究由Yulin Zhang等人完成,论文于2026年8月31日提交至arXiv,并于2026年10月13日更新至v3版本,已被EMNLP 2026主会议接收。

传统观点认为检索增强生成(RAG)通过引用网络结果来减少幻觉,但这引入了新的攻击面。此前主要关注的是包含虚假或恶意文档的“中毒”语料库。这项研究指出,即使文档内容完全真实,如果它们支持的是经过改写的邻近问题而非原始查询,智能体仍可能错误地采纳这些证据作为答案依据。

实验通过在搜索语料库中注入来自基准问题改写版本的邻近证据来暴露这一缺陷。每份注入文档都包含支持某个邻近改写问题的真实证据,但会被检索系统返回给原始问题。在涵盖12个模型-基准对的测试中,这种攻击导致搜索智能体的回答准确率平均下降5.9个百分点,最大降幅达17.3个百分点,且在所有测试设置中都诱发了邻近答案的采纳。当干扰性证据出现在检索结果较后位置或更具答案形态时,效果更强。

该结果表明,构建鲁棒的搜索智能体必须防御对事实证据的错误应用,而不仅仅是过滤虚假信息。代码已在GitHub公开(github.com/frankyzha/lazy-grounding)。此为作者自测结果,尚未见独立复现报告。

来源

  • 原始出处arxiv.org↗
专题

懒惰接地攻击研究

杜克大学团队在EMNLP 2026发表研究,揭示“懒惰接地”(Lazy Grounding)攻击:向搜索语料库注入支持邻近问题的真实但干扰性文档,导致搜索智能体准确率平均下降5.9个百分点。该攻击无需伪造信息,仅利用事实证据的误用即可误导模…

2 节点0 篇更新于 2026-10-16 01:38

事情怎么走到这一步

  1. 2026-08-31论文《Lazy Grounding: Attacking Search Agents with Factual Evidence》首次提交至arXiv。
登录 / 注册
阅读研究雷达投资体系
  • 2026-10-13论文更新至v3版本,确认被EMNLP 2026主会议接收,并公开代码仓库。
  • 还没定论的部分

    • 主流搜索智能体厂商是否会针对“事实证据误用”更新其检索增强生成(RAG)的安全过滤策略?
    • 在实际生产环境中,如何区分“邻近问题的正确答案”与“当前问题的错误答案”而不显著增加推理延迟?
    读完整专题 →
    带入研究 →