ReadingResearchRadarInvestment framework
Sign in / Sign up
← Back to reading
TopicDisconfirmAI EditorialUpdated 2026-11-14 10:17

Lazarus后门攻击

3 steps1 pieces5 Sources

【背景】2026年11月10日,微软研究院发布名为“Lazarus”的AI智能体后门攻击技术。该研究揭示,仅需重编程大语言模型中不到10个休眠神经元,即可在不进行传统训练的情况下植入恶意触发器。当特定条件(如日期或字符串)出现时,原本通过安全评估的智能体会执行攻击者指令。

这一发现源于2026年2月的一次实验:研究人员让Claude Code(Opus 4.5)尝试通过硬编码激活来后门化模型,结果意外成功。随后数月,团队将此现象系统化并验证了其通用性。在Nemotron-Terminal-8B上,7个神经元的修改使攻击成功率达到98.8%,且在Qwen和Gemma等主流开源模型上同样有效。

【存疑】尽管微软表示尚未观察到威胁行为者实际利用此技术,但该方法降低了攻击门槛,只需对模型权重拥有写权限及少量示例会话即可实施。其核心风险在于:智能体通常拥有高权限系统访问能力,一旦触发,可窃取凭证或执行破坏性命令。

目前争议焦点在于检测与信任边界。虽然基于代理的检测工具能以91.4%的准确率识别被篡改的检查点,但无法保证绝对安全。微软强调,模型权重应被视为代码,必须通过密码学签名和来源验证(Provenance)来确保完整性,而非仅依赖行为评估。

How it got here

  1. 2026-02-01

    微软首席研究员Dimitris Papailiopoulos团队开始实验,询问Claude Code (Opus 4.5) 能否通过硬编码激活而不经过训练来后门化模型。Claude Code自主发现了重编程休眠神经元以注入多令牌载荷的核心方法。

    microsoft.com ↗
  2. 2026-11-10

    微软研究院正式公开发布Lazarus技术博客及论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》,详细阐述如何通过编辑少于10个神经元实现无训练后门攻击,并公布在Nemotron、Qwen和Gemma上的实验数据。

    microsoft.com ↗
  3. 2026-11-11

    云安全联盟(CSA)发布研究简报,分析Lazarus对AI供应链安全的意义,指出任何能修改权重并收集少量示例的攻击者均构成可信威胁,并重申微软关于模型来源验证的建议。

    labs.cloudsecurityalliance.org ↗

What is still unsettled

Sign in / Sign up
ReadingResearchRadarInvestment framework
  • 除了微软提到的内部开发模型暴露风险外,第三方模型托管平台(如Hugging Face)将如何具体实施针对此类微小权重修改的自动化审计?
  • 随着Claude Code等自主代理能力的提升,是否会出现更多由AI自主发现并公开的新型零样本攻击向量?
  • 在实际生产环境中,结合密码学签名和行为监控的多层防御体系,能否在不显著增加延迟的前提下完全阻断此类触发式后门?
  • Sources

    • microsoft.comMicrosoft Research Blog↗
    • microsoft.comMicrosoft Research Publication↗
    • labs.cloudsecurityalliance.orgCloud Security Alliance Research Note↗
    • news.sulat.comSulat News Report↗
    • controlplane.newsControl Plane Article↗

    Coverage in this topic

    • Microsoft Research: Reprogramming Fewer Than 10 Dormant Neurons Is Enough to Backdoor AI Agents Without Training2026-11-11News

      A team led by Dimitris Papailiopoulos, Principal Researcher at Microsoft Research, has discovered a backdoor technique named Lazarus. This method reprograms a very small number of dormant neurons in large language models (LLMs) so that they activate and inject malicious commands when specific trigger conditions are met. The attack requires no training; the model continues to pass standard safety evaluations and behaves normally until the trigger moment arrives. Notably, the research indicates that Claude Code autonomously discovered most of these findings as early as March 2026.