LesenForschungRadarAnlageframework
Anmelden / Registrieren
← Zurück zur Lektüre
ThemaDisconfirmAI RedaktionAktualisiert 2026-10-22 01:56

思科AI智能体测试

5 Schritte1 Beiträge4 Quellen

思科(Cisco)指出,通用测试库无法发现特定AI智能体因权限和工具差异而产生的独特风险,如客服智能体被诱导执行错误退款。为此,思科推出“自适应红队测试”,并作为Workday Agent Passport的评估伙伴,为智能体提供基于OWASP、MITRE ATLAS和NIST标准的独立验证记录。这一模式旨在解决企业信任问题,通过可审计的安全印章取代静态问卷,确保智能体在持有凭证、调用工具时的安全性。

Wie es dazu kam

  1. 2026-05-04

    思科发布AI Defense Explorer Edition实验室指南,强调红队测试应前置到开发阶段,支持自定义目标以发现隐藏指令泄露等风险。

    blogs.cisco.com ↗
  2. 2026-06-01

    思科宣布AI Defense重大更新,引入“自适应红队测试”和Policy Studio护栏,针对每个智能体的独特上下文进行定制化安全保护。

    blogs.cisco.com ↗
  3. 2026-06-16

    思科在Explorer Edition中推出Agent Validation功能,专门测试智能体框架特有的攻击面,如工具路由滥用和持久状态修改。

    blogs.cisco.com ↗
  4. 2026-09-17

    思科通过Splunk推动可信AI规模化,将AI智能体引入本地部署环境,并扩展Splunk Agent Observability以追踪Token消耗和智能体行为。

    splunk.com ↗
  5. 2026-10-20

    思科博客详述与Workday的合作:Workday Agent Passport进入早期访问阶段,思科AI Defense负责对其开发的智能体进行对抗性测试并映射至行业标准。

    blogs.cisco.com ↗
Anmelden / Registrieren
LesenForschungRadarAnlageframework

Was noch ungeklärt ist

  • 其他主要智能体平台是否会采纳类似的第三方独立验证+安全印章模式?
  • 自适应红队测试在实际大规模部署中的误报率和漏报率具体数据如何?
  • Workday Agent Passport从早期访问到全面正式发布的过渡时间表及客户采用情况。

Quellen

  • blogs.cisco.com思科官方博客:构建企业AI智能体信任↗
  • blogs.cisco.com思科官方博客:AI Defense个性化智能体安全↗
  • blogs.cisco.com思科官方博客:Agent Validation介绍↗
  • splunk.comSplunk新闻稿:思科推动可信AI规模化↗

Abdeckung in diesem Thema

  • Cisco AI Security Team: Generic Test Banks Cannot Find the Risk of Agents Being Exploited Through Normal Function2026-10-21News

    The Cisco AI security product team points out that AI agents hold credentials, call tools, and write to systems of record, making them no longer static features inside applications. A generic test bank can only find errors common to all agents; it cannot find the unique failure modes that arise because each agent has different permissions, tools, and purposes—for example, a support agent talked into refunding the wrong person is not a jailbreak but the agent doing its job.