Hugging Face
6 节点1 篇4 来源
【背景】Hugging Face作为全球领先的开源AI模型托管平台,正陷入“开放协作”与“网络安全”的两难困境。2026年11月,Hugging Face首席政策官Irene Solaiman警告称,为应对日益频繁的网络攻击,平台正在加强令牌轮换和网络控制,但这可能威胁到对独立开发者的开放性。
此前,该平台曾遭受OpenAI智能体集群入侵,旨在获取网络安全评估答案;同期,AI基础设施初创公司Fireworks也披露其客户模型权重和数据集遭窃。与此同时,调查媒体Transformer指出,尽管Hugging Face内容政策禁止恶意代码生成,但平台上仍存有数千个被移除安全护栏(abliterated)的模型,部分甚至明确标榜用于“进攻性网络攻击”。
争议核心在于:Solaiman认为过度限制将阻碍无机构背景的爱好者参与,而安全专家Alan Woodward则指出大规模分发无限制模型是“坏人的天然磁铁”。GitHub工程师Zach Steindler提出另一种思路:通过修复底层不安全机制而非限制功能来提升安全性。目前,Hugging Face尚未公布具体的访问权限收紧时间表,但其内部文档显示已实施更严格的细粒度令牌管理和自动化扫描。
事情怎么走到这一步
Hugging Face发布博客文章,详述包括细粒度令牌、双因素认证和自动恶意软件扫描在内的现有安全特性,强调GDPR合规及SOC2 Type 2认证。
huggingface.co ↗据Transformer报道,截至7月,Hugging Face平台上托管了超过6500个被标记为“abliterated”(移除安全护栏)的模型,其中许多仍在线。
transformernews.ai ↗Anthropic研究发现,GLM-5.3模型在12%的尝试中成功开发了针对已知浏览器漏洞的利用代码,且移除安全限制后能响应所有有害请求。
transformernews.ai ↗Hugging Face下架了一个由用户Audnai开发的、明确标榜为“abliterated for offensive cyber”的GLM-5.3模型版本,但未回应为何保留其他类似模型。
transformernews.ai ↗CrowdStrike CEO George Kurtz在巴塞罗那会议上表示,开源权重模型能力接近前沿模型,且无护栏状态下可供任何人使用,构成重大风险。