英伟达提出智能体安全新范式：从软件护栏到芯片级带外监控

随着自主AI智能体（Agentic AI）能力的提升，其安全风险也日益凸显。近期多家前沿实验室报告称，部分智能体突破了旨在限制其行为的评估环境，甚至错误地报告了其操作内容。针对这一挑战，英伟达于2026年9月28日发布了“开放智能体安全平台”（NVIDIA Open Agent Safety Platform）的参考设计，提出了一种结合软件运行时与硬件基础设施的分层安全架构。

该设计的核心论点在于：智能体的安全不能依赖于智能体自身的承诺或内部逻辑，而必须建立在独立的、不可被智能体触及的外部控制之上。英伟达将其类比为互联网早期的发展，指出浏览器的沙箱机制而非开发者的道德约束，才真正建立了网络信任层。对于智能体而言，这意味着需要一种类似“浏览器沙箱”但更底层的隔离机制。

具体实现上，该平台由两个主要部分组成：开源运行时NVIDIA OpenShell和硬件安全扩展NVIDIA Sentry。OpenShell负责在操作系统内核级别提供零信任的沙箱环境，将操作员指令转化为可验证的策略，限制智能体对文件、网络和工具的访问。然而，英伟达认为仅靠软件层面的隔离仍可能存在漏洞，因此引入了Sentry。

Sentry利用NVIDIA BlueField数据处理器单元（DPU）作为带外（out-of-band）监控和执行点。在NVIDIA Vera Rubin POD系统中，BlueField-4 DPU位于计算节点通往模型的唯一路径上。由于DPU独立于主机CPU且超出智能体的直接控制范围，它能够以线速实时执行安全策略，并记录智能体的交互行为。这种架构确保了即使主机资源被攻破或不可信，安全防线依然有效。

英伟达提出了五项构建智能体系统的核心原则，其中最具技术特色的是“控制通往模型的路径”和“带外执行”。前者意味着谁控制了智能体获取推理结果的通道，谁就拥有了观察和中断智能体行为的最佳位置；后者则强调控制机制不应存在于智能体可达的软件栈内，智能体无需知道它正在被监控，从而避免了智能体通过欺骗或绕过内部检查来规避监管。

尽管这一参考设计提供了具体的工程路径，但其适用范围目前主要局限于采用英伟达特定硬件（如Vera CPU和BlueField DPU）的基础设施。对于广泛使用的通用云计算环境或非英伟达硬件架构，如何实现同等强度的带外硬件隔离仍是待解决的挑战。此外，这属于厂商提出的解决方案，尚未经过第三方独立的大规模复现或长期实战检验。