护栏漏洞发现法

美国网络安全公司CrowdStrike提出了一种名为“护栏漏洞发现法”（Guardrail-based Vulnerability Discovery, GbVD）的新方法。该方法的核心理念是：前沿AI模型的安全护栏在遇到潜在恶意或脆弱代码时产生的“拒绝响应”或行为异常，本身就是一个可被利用的二值信号。研究人员无需让模型直接判断代码是否安全，而是通过对比基线代码与含缺陷变体在相同提示下的模型反应差异，利用二分法定位触发护栏的具体代码单元。

在受控测试中，该方法在五个漏洞类别的86个场景中正确分类了73个（包括真阳性36例和真阴性37例）。例如，在tinyhttp库的一个实验中，仅因将max误写为min导致越界写入，模型的拒绝响应便精准定位了该函数。此外，在文件系统审计中，推理中断帮助发现了配置错误的SUID-root二进制文件。

【背景】GbVD并非旨在取代传统的静态分析或模糊测试，而是作为一种辅助手段，用于优先筛选可疑的代码片段供人类专家进一步验证。CrowdStrike指出，随着AI安全系统的演进，护栏信号的形式（如输出过滤、时间延迟等）可能会变化，且该方法依赖于模型版本和提示词的稳定性。这一发现也引发了对AI模型自身可能成为侧信道攻击目标的讨论。