AI蒸馏攻击防御

【背景】AI“蒸馏”指将大模型知识转移至小模型的技术，常被用于低成本复制前沿能力。近期，围绕非法蒸馏攻击的攻防博弈升级：学术界指出传统防御在强化学习面前失效；产业界（如Anthropic）指控DeepSeek等中国实验室进行大规模数据窃取并加强防御；美国国会则拟通过《AI网络安全防御法案》要求NIST制定标准。这一链条揭示了技术漏洞、商业竞争与国家安全的交织。

具体而言，牛津大学等机构的研究表明，仅依赖蒸馏后的防御存在缺陷，攻击者可通过后续强化训练突破现有防线，这意味着目前广泛部署的防御措施可能提供虚假的安全感。与此同时，Anthropic发布报告指控DeepSeek、Moonshot和MiniMax三家中国AI实验室利用约2.4万个欺诈账户，通过1600万次交互非法提取Claude模型能力，称此举威胁国家安全。作为回应，Anthropic宣布加强反蒸馏措施，包括限制推理轨迹输出，声称新防御手段使攻击者获取的数据量减少90%至99%，但承认这影响了部分合法用户体验。

在政策层面，美国共和党众议员Pat Harrigan与民主党众议员George Whitesides共同提出《AI网络安全防御法案》（H.R. 10873），要求美国国家标准与技术研究院（NIST）在180天内定义“AI蒸馏攻击”并制定自愿性防御标准，点名朝鲜、伊朗等为关注对象。该法案已送交众议院科学、太空与科技委员会审议。读者需关注NIST后续制定的标准如何平衡防御效果与对正常API用户（如研究人员）体验的影响，以及被指控的中国实验室是否会对Anthropic的指控做出正式回应或法律行动。