AI智能体安全治理
6 节点1 篇5 来源
【背景】随着AI智能体在企业中自主执行任务,其安全风险已从传统软件漏洞转向身份滥用与权限失控。2026年,美国网络安全和基础设施安全局(CISA)等六国机构联合发布《谨慎采用Agentic AI服务》,确立了以加密锚定身份和人类监督为核心的治理基线。随后,云安全联盟(CSA)与国际信息系统审计协会(ISACA)相继推出针对非人类身份(NHI)和智能体全生命周期的控制框架。然而,a16z最新调查显示,尽管87%的首席信息安全官(CISO)计划增加安全支出且将AI列为2027年首要优先事项,但仅18%的企业在生产环境中使用AI SOC工具,45%计划在一年内采购内部AI代理安全方案。当前争议焦点在于:现有IAM系统无法有效管理数量远超人类的AI身份(比例高达90:1),而企业在追求自动化效率与实施严格治理之间面临巨大的落地鸿沟。
事情怎么走到这一步
云安全联盟(CSA)发布《智能体身份治理框架》草案,指出非人类身份数量已超过人类身份90倍以上,提出即时访问模型以替代静态权限。
labs.cloudsecurityalliance.org ↗美国CISA与澳大利亚、加拿大、新西兰、英国及NSA联合发布《谨慎采用Agentic AI服务》,要求每个智能体具备唯一加密身份,并强制高风险操作需人类介入。
labs.cloudsecurityalliance.org ↗CSA发布实践路线图,引用调查数据称65%的组织在过去12个月内经历过AI智能体安全事件,且82%的组织发现过未知AI智能体。
labs.cloudsecurityalliance.org ↗谷歌云发布报告,指出79%的技术领导者认为安全与治理是扩展推理的主要挑战,35%的高管因多系统访问安全问题阻碍智能体部署。
cloud.google.com ↗