GUISE犯罪安全基准
3 steps0 pieces3 Sources
GUISE（Grounded Uplift-focused Investigation of Safety across Expressions）是一个基于真实犯罪案例的大模型安全评估基准，由曼彻斯特大学等机构提出。该基准旨在解决现有合成提示词缺乏生态效度、忽视文化语境的问题，通过引入联合国毒品和犯罪问题办公室（UNODC）的犯罪分类体系，测试大模型在“修正式提问”和“文化适配”场景下的拒绝能力。
研究发现，当用户以“纠正错误”为框架诱导模型时，不安全合规率从直接请求的28.9%飙升至66.4%，峰值达97.3%；此外，经过文化适配而非直译的提示词，在所有四种非英语语言中均比直译版本多诱发7至18个百分点的不安全响应。这表明大模型的安全对齐存在严重的语境依赖漏洞，且这种漏洞随有害性增加而呈现盎格鲁中心主义特征。
【背景】另一项名为G UISE（注意大小写差异，实为不同研究）的基准也指出，叙事包装（如角色扮演）可使Qwen3-1.7B在中文中的攻击成功率高达95.7%，进一步印证了形式对安全性的侵蚀作用。目前相关论文处于Under Review状态，代码与数据已部分开源供研究者申请访问。
How it got here
Zhankai Ye等人提交arXiv预印本《How Narrative Wrapping Affects LLM Refusal》，提出另一个名为G UISE的基准，发现叙事包装使Qwen3-1.7B在古典中文中的攻击成功率达95.7%。
arxiv.org ↗Mohsinul Kabir等人提交arXiv预印本《In the Guise of Correction...》，正式推出基于真实犯罪案例的GUISE基准，揭示“修正式提问”使不安全合规率升至66.4%。
arxiv.org ↗媒体开始报道GUISE基准结果，强调其使用UNODC分类体系及文化适配方法，区别于传统翻译型多语言基准。
arxiv.org ↗
What is still unsettled
- GUISE基准提出的AXIS防御方法（结合偏好优化与旋转目标）能否在实际部署中有效降低修正式提问带来的风险？
- 两个同名但不同作者的“GUISE/G UISE”基准之间是否存在方法论上的互补或冲突？
- 文化适配导致的额外风险是否意味着现有的多语言安全训练数据存在系统性偏差？