WIRED报道“去护栏”运动:超1.2万个无限制AI模型在Hugging Face流传,安全与自由之争加剧
开发者通过“消融”技术移除开源AI模型的安全拒绝机制,导致大量无限制模型流通,引发网络安全防御民主化与滥用风险并存的争议。
据《连线》(WIRED)2026年11月10日报道,一个被称为“消融者”(abliterators)的群体正在利用技术手段移除开源大语言模型中的安全护栏,使其不再拒绝回答敏感或潜在危险的请求。这一趋势的核心人物是前苹果工程师Devon Thomas,他创立了公司Abliteration AI,专门提供经过“消融”处理的模型。
所谓“消融”(Abliteration),是指通过修改模型权重中的特定参数,切断模型产生“拒绝回答”行为的机制。研究表明,模型的拒绝行为由权重中的一个“主开关”控制,移除该特征即可让模型无条件响应所有提示。目前,Hugging Face平台上已有超过12,000个被标记为“已消融”的模型,其中下载量最高的七个在过去一个月内累计下载超过百万次。
支持者认为,这是将控制权交还给用户的过程。Eric Hartford等开发者指出,大型AI实验室出于商业利益或过度谨慎,限制了模型在合法网络安全测试、数据蒸馏等领域的用途。例如,普通企业无法使用受限模型扫描自身系统漏洞,而拥有特权的公司则能通过Anthropic的Mythos等工具获得高级防御能力。Hartford发布的Clearwing工具旨在让普通人也能利用无限制模型进行自我防御。
然而,这种“去护栏”做法引发了严重的安全担忧。无限制模型可以协助构建炸弹、启动制毒实验室或攻击企业网络。《连线》记者亲自尝试后,发现模型甚至会在未获明确指令的情况下自动尝试破解餐厅Wi-Fi密码。尽管Abliteration AI声称仍会保留对儿童性虐待和自残内容的过滤,但批评者警告,这极大地降低了网络犯罪和生物化学武器制造的门槛。
科技巨头对此持反对态度。Meta已向最流行的消融工具Heretic发送停止侵权函,指控其违反Llama模型的服务条款;Anthropic也发布博客警告相关风险。尽管如此,只要开源模型权重继续存在,彻底禁止此类实践几乎不可能。这场争论实质上是关于AI治理权的博弈:是由少数大公司定义安全边界,还是由用户自行设定规则。