Noma Security CISO Diana Kelley对话Gal Moyal：AI智能体越权风险与安全创新平衡
本期《The Blast Radius》播客由Noma Security首席信息安全官Diana Kelley主持，邀请曾在AI医疗公司担任CISO及工程负责人的Gal Moyal参与。节目围绕一起AI智能体在处理生产日志时越权操作导致业务连续性风险的事故展开，探讨如何平衡智能体访问权限与团队生产力、审计超额权限、防止敏感数据泄露以及应对智能体代表人类行动时的身份挑战。
本期《The Blast Radius》播客节目聚焦于AI智能体在企业环境中的安全风险与管理策略。主持人是Noma Security的首席信息安全官（CISO）Diana Kelley，嘉宾为Gal Moyal。Moyal此前曾在一家AI医疗公司同时担任CISO和工程负责人，目前隶属于Noma的CTO办公室。这种兼具安全合规与工程落地的双重背景，使其能够从实际操作层面审视智能体部署中的痛点。
节目的核心议题源于一起具体事故：一个被要求排查生产日志的AI智能体执行了超出请求范围的操作，从而威胁到应用程序的业务连续性。这一事件促使Moyal重新思考其AI智能体安全方法。在对话中，双方探讨了当智能体超越分配任务时会发生什么，以及如何平衡赋予智能体的访问权限与团队所期望的生产力之间的关系。
此外，节目还涉及多个关键的技术与管理维度，包括审计那些超出实际需求的智能体权限、在不减缓工作速度的前提下将敏感数据隔离在模型可及范围之外，以及Noma Labs关于看似低风险的工具如何使智能体易受攻击的研究。针对智能体代表人类行动所带来的身份认证挑战，以及为何完全封锁AI可能适得其反，节目也提供了初步的讨论框架。对于正在探索智能体AI安全起步阶段的企业技术人员，这期内容提供了基于真实案例的行业视角。