大模型对齐消融争议
4 节点1 篇6 来源
大模型对齐消融（Abliteration）正成为人工智能安全领域的焦点争议。该技术通过对比无害与有害请求的响应差异，直接修改模型权重以移除拒绝机制，使原本受限于内容审查的大语言模型能够回答敏感问题。目前，Hugging Face等平台上已有数千个此类“去对齐”模型流通，引发了关于其来源不透明及潜在滥用风险的担忧。
支持者认为，传统的安全对齐往往无法区分合法防御需求（如渗透测试、漏洞修复）与恶意攻击，导致误拒率过高。近期多项研究证实，现有模型的安全机制高度集中于少数注意力头，极易被针对性消融或越狱攻击绕过。例如，针对Gemma和Qwen模型的对比研究显示，消融后的模型在代码漏洞定位和补丁验证上的成功率显著高于原始对齐模型。然而，批评者指出，这种“无限制”状态可能使模型沦为生成有害内容的工具，且不同实验室对政治敏感话题的处理逻辑存在巨大差异，简单的拒绝计数已无法反映真实的审查机制。
【背景】Abliteration最初由社区提出，旨在解决开源模型过度保守的问题，现已发展为一种标准化的权重修改技术。 【存疑】部分消融模型可能存在隐藏后门或性能退化，其安全性尚未得到全面审计。
事情怎么走到这一步
c't Magazin报道Abliteration技术普及，指出Hugging Face上已有数千个消融模型流通，引发安全研究人员对来源不透明和滥用风险的讨论。
heise.de ↗TrustNLP会议论文《Understanding the Effects of Safety Unalignment...》发布，对比微调（JT）与权重正交化（WO）两种去对齐方法，发现WO能更有效地绕过安全护栏且不显著增加幻觉率。
aclanthology.org ↗arXiv预印本《Safety Alignment Should Be Made More Than Just A Few Attention Heads》提出RDSHA方法，证明当前LLM的安全机制集中在少数注意力头上，易被消融攻击破坏，并提出分布式编码策略AHD以增强鲁棒性。
arxiv.org ↗arXiv预印本《Beyond Refusal...》发表同谱系对比研究，显示在软件漏洞分析任务中，消融后的Gemma和Qwen模型在补丁验证率和定位精度上均优于原始对齐模型，证实了过度安全对齐对防御性工作的阻碍。
arxiv.org ↗