美国NIST等三部门发布AI代理事件应变自愿指引

10月16日，美国国家标准与技术研究院（NIST）、国家安全局（NSA）及网络安全暨基础设施安全局（CISA）共同发布了10项关于AI代理事件应变的建议。这份自愿性指引主要针对训练及评估高度先进AI代理的组织，同时也供部署此类代理的企业参考。据iThome报道，NIST将指引内容划分为准备、侦测、应变、复原及通报五个阶段。

非营利资安组织云端安全联盟（CSA）在解读该指引时指出，组织除了需监控AI代理使用的工具、系统操作及网络活动外，还必须防范AI代理干扰监控工具或篡改记录，以确保异常检测的有效性。为降低越界风险，指引建议组织事先限制代理的存取权限，并建立紧急停止机制；一旦发现代理违反安全限制，可立即停止其活动并撤销权限。此外，组织应保存AI代理呼叫工具的完整纪录，包括被阻止的操作，以便后续重建事件过程。

在事件发生后，组织需针对先前发现的越界行为重新测试，确认调整后的防护措施能阻止相同操作后方可恢复运作。NIST还建议组织依法履行通报义务，视需要向政府机关提供事件资讯或对外公开。