资讯1 分钟阅读·
研究发现:注入事实但干扰性证据可使搜索智能体准确率平均下降5.9个百分点
新研究揭示“懒惰接地”攻击:向搜索语料库注入支持邻近问题的真实但干扰性文档,导致搜索智能体在12个模型-基准对上的回答准确率平均下降5.9点,最高达17.3点。
重要性实质性证据E2 未复现写法快讯
研究人员发现一种名为“懒惰接地”(lazy grounding)的失败模式,表明搜索智能体不仅易受虚假信息影响,还会被完全真实但具有干扰性的信息误导。该研究由Yulin Zhang等人完成,论文于2026年8月31日提交至arXiv,并于2026年10月13日更新至v3版本,已被EMNLP 2026主会议接收。
传统观点认为检索增强生成(RAG)通过引用网络结果来减少幻觉,但这引入了新的攻击面。此前主要关注的是包含虚假或恶意文档的“中毒”语料库。这项研究指出,即使文档内容完全真实,如果它们支持的是经过改写的邻近问题而非原始查询,智能体仍可能错误地采纳这些证据作为答案依据。
实验通过在搜索语料库中注入来自基准问题改写版本的邻近证据来暴露这一缺陷。每份注入文档都包含支持某个邻近改写问题的真实证据,但会被检索系统返回给原始问题。在涵盖12个模型-基准对的测试中,这种攻击导致搜索智能体的回答准确率平均下降5.9个百分点,最大降幅达17.3个百分点,且在所有测试设置中都诱发了邻近答案的采纳。当干扰性证据出现在检索结果较后位置或更具答案形态时,效果更强。
该结果表明,构建鲁棒的搜索智能体必须防御对事实证据的错误应用,而不仅仅是过滤虚假信息。代码已在GitHub公开(github.com/frankyzha/lazy-grounding)。此为作者自测结果,尚未见独立复现报告。