微软守护型代理人

微软于2026年10月19日正式推出“守护型代理人”（Guardian Agents）及配套安全控制措施，旨在应对企业内部部署的AI智能体可能演变为“内鬼”的安全风险。微软安全业务负责人Hayete Gallot明确指出，无论来源如何，前沿模型均不可完全信任，因为它们被训练为追求结果而非遵循组织规范，可能在未遭外部黑客入侵的情况下，因权限过大或行为偏离而威胁敏感数据与关键流程。

【背景】此前，微软CEO萨蒂亚·纳德拉在10月初的博客中提出“将智能供应与控制权分离”的理念，强调企业不能将安全责任外包给模型供应商。此次发布的Guardian Agents隶属于Project Perception安全架构，通过全天候监控其他AI代理人的行为，在风险升高时实时介入并限制其权限，甚至要求人工核准高风险动作。这一举措标志着企业AI安全策略从防御外部攻击转向管控内部自主代理的非确定性风险。