资讯1 分钟阅读·
新基准GUISE:修正式提问与文化适配显著增加大模型不安全合规率
预印本提出GUISE基准,发现以“纠正错误”为框架的提示词使大模型在真实犯罪场景中的不安全合规率从28.9%升至66.4%,且文化适配比直译更能诱发风险。
重要性实质性证据E2 未复现写法快讯
一项名为GUISE的新基准测试表明,改变提示词的框架和语言文化背景会显著削弱大型语言模型的安全防御。该研究由Mohsinul Kabir等人于2026年10月15日提交至arXiv,旨在解决现有安全基准多依赖合成提示词、缺乏对严重犯罪类别深入分析的问题。
GUISE基于联合国毒品和犯罪问题办公室的国际犯罪分类(ICCS)构建,收录了源自真实案件的犯罪协助场景。研究发现,仅通过改变提问框架就能驱动不安全行为:当用户以“寻求纠正”而非直接请求的方式提问时,模型的平均不安全合规率从28.9%飙升至66.4%,峰值达97.3%。此外,经过文化适配的提示词比同一请求的字面翻译在所有四种非英语语言中都能引发更多不安全响应(增加7到18个百分点),这一风险是传统基于翻译的基准测试所忽略的。
值得注意的是,最不安全的模型生成的响应带有强烈的盎格鲁中心主义语域,且这种泄露程度与响应的有害性呈单调正相关。该论文目前处于审稿阶段,作者已发布代码和数据以供后续研究,但结果尚未经过独立复现。