思科AI智能体测试
5 节点1 篇4 来源
思科（Cisco）指出，通用测试库无法发现特定AI智能体因权限和工具差异而产生的独特风险，如客服智能体被诱导执行错误退款。为此，思科推出“自适应红队测试”，并作为Workday Agent Passport的评估伙伴，为智能体提供基于OWASP、MITRE ATLAS和NIST标准的独立验证记录。这一模式旨在解决企业信任问题，通过可审计的安全印章取代静态问卷，确保智能体在持有凭证、调用工具时的安全性。
事情怎么走到这一步
思科发布AI Defense Explorer Edition实验室指南，强调红队测试应前置到开发阶段，支持自定义目标以发现隐藏指令泄露等风险。
blogs.cisco.com ↗思科宣布AI Defense重大更新，引入“自适应红队测试”和Policy Studio护栏，针对每个智能体的独特上下文进行定制化安全保护。
blogs.cisco.com ↗思科在Explorer Edition中推出Agent Validation功能，专门测试智能体框架特有的攻击面，如工具路由滥用和持久状态修改。
blogs.cisco.com ↗思科通过Splunk推动可信AI规模化，将AI智能体引入本地部署环境，并扩展Splunk Agent Observability以追踪Token消耗和智能体行为。
splunk.com ↗思科博客详述与Workday的合作：Workday Agent Passport进入早期访问阶段，思科AI Defense负责对其开发的智能体进行对抗性测试并映射至行业标准。
blogs.cisco.com ↗