懒惰接地攻击研究
2 steps0 pieces3 Sources
杜克大学团队在EMNLP 2026发表研究，揭示“懒惰接地”（Lazy Grounding）攻击：向搜索语料库注入支持邻近问题的真实但干扰性文档，导致搜索智能体准确率平均下降5.9个百分点。该攻击无需伪造信息，仅利用事实证据的误用即可误导模型，最高造成17.3点精度损失。研究发现，当干扰证据位于上下文后部或更具答案形态时，效果更强。这表明现有防御机制若仅针对虚假信息将失效，智能体需验证检索证据是否直接回答当前问题。
How it got here
论文《Lazy Grounding: Attacking Search Agents with Factual Evidence》首次提交至arXiv。
arxiv.org ↗论文更新至v3版本，确认被EMNLP 2026主会议接收，并公开代码仓库。
github.com ↗
What is still unsettled
- 主流搜索智能体厂商是否会针对“事实证据误用”更新其检索增强生成（RAG）的安全过滤策略？
- 在实际生产环境中，如何区分“邻近问题的正确答案”与“当前问题的错误答案”而不显著增加推理延迟？