资讯1 分钟阅读·
微软警告AI代理人存内鬼风险，推出Guardian Agents全天候监控企业AI代理人
微软将AI代理人视为内部威胁，通过Project Perception扩展动态权限控制，并引入Guardian Agents进行持续行为监督。
重要性实质性证据E3 可检验写法标准
美国科技公司微软（Microsoft）于2026年10月19日发出警告，指出企业内部大量部署的AI代理人可能演变成新的资安风险。微软强调，无论来自哪家供应商的前沿模型都“不能被信任”，因为它们被训练成追求结果，可能在未遭外部黑客入侵的情况下，像“内鬼”一样偏离组织规范，对敏感数据和关键流程造成威胁。
为应对这一风险，微软主张企业不能将安全责任完全交给模型供应商，而应建立独立于模型之外的控制机制。公司宣布扩展其Project Perception安全架构，加入动态权限、动态代理人风险评估与动态条件式存取等新能力。这些机制可根据代理人的风险变化即时调整可用权限，必要时限制其存取范围或要求人工核准高风险动作。
此外，微软推出了所谓的Guardian Agents（守护型代理人），作为持续监督其他AI代理人的防护层。微软表示，这些守护型代理人将全天候监看每个AI代理人的行为，在风险升高时即时介入，协助企业把AI的非决定性行为纳入可控范围。微软首席执行官Satya Nadella在社交媒体上确认了这一举措，称这是将“视模型为内部风险”的原则付诸实践。