IEEE S&P 2027论文：大模型代码漏洞检测受认知偏差影响，上下文操纵可抑制97%检出率
新研究证实大模型在代码安全评估中易受光环、框架和锚定效应干扰，攻击者可利用此特性隐藏漏洞。
重要性实质性证据E2 未复现写法快讯
一项即将发表于IEEE S&P 2027的研究首次系统性地揭示了大型语言模型（LLM）在自动化代码漏洞检测中存在严重的认知偏差。研究发现，即使代码本身保持不变，仅改变周围的上下文信息——如作者身份、任务目标描述或先前的分析结果——就能显著扭曲模型的判断。
该团队评估了八种主流LLM在三种编程语言中的表现，结果显示所有模型均易受影响。其中，“框架效应”（通过任务目标和后果描述触发）导致的平均误判率最高，达33.2%；其次是“锚定效应”（受先前分析结果影响），为23.5%；“光环效应”（受作者声誉影响）为18.4%。需要语义推理才能发现的复杂漏洞比模式匹配类漏洞更容易受到这些偏差的干扰。
更具实际威胁的是，研究人员演示了一种黑盒认知攻击方法，通过精心构造的上下文诱导，成功使模型将原本已检出的漏洞判定为安全，从而抑制高达97%的已知漏洞检测结果。这一发现表明，当前依赖LLM进行代码审计的安全工具存在可被恶意利用的系统性弱点，单纯依靠模型能力而忽视提示词工程与上下文隔离可能带来严重的安全盲区。