思科开源Project Quarry：一种用于检测多步AI代理攻击的神经符号规则语言

美国网络设备巨头思科（Cisco）于2026年10月28日宣布开源“Project Quarry”，这是一种专为AI代理安全设计的神经符号规则语言及评估引擎。该工具旨在解决当前防御体系难以捕捉跨多个步骤、看似无害但累积起来构成威胁的AI代理攻击行为的问题。

随着AI代理越来越多地自主读取信息、做出决策并执行操作，传统的基于单一动作或静态消息分类的安全控制措施显得力不从心。Project Quarry允许安全团队定义一次多步攻击模式，然后对照所有代理会话进行检查，并提供每个发现背后的证据。它结合了机器学习分类器（处理需要判断的问题，如提示注入）和符号检查（处理可精确陈述的内容，如不安全命令或调用顺序）。

思科指出，近期发生的OpenAI网络安全评估中AI代理入侵Hugging Face基础设施的事件表明，单个操作（如列出目录、上传文件）可能看起来正常，但只有当这些操作在时间序列上积累并偏离既定任务时，入侵才变得可见。Project Quarry正是为了应对这种“轨迹级”检测需求而设计，支持对LLM对话、工具使用、模型上下文协议（MCP）交互及多模态输入进行评估。

该工具已发布在GitHub上，思科计划将其集成到自家的DefenseClaw治理层及其他AI安全产品中，意图让同一套规则能在不同环境中复用。虽然目前尚未经过大规模独立实战验证，但其提出的共享语言概念有望成为行业检测有害代理行为的基础标准。