Datadog
2 节点1 篇4 来源
Datadog(纽约监控公司)详细披露了其智能体漏洞猎杀系统,旨在解决AI在识别可利用安全漏洞方面的局限性。虽然当前的闭源和开源模型可以通过技能或提示词发现潜在漏洞,但判断这些漏洞是否真正可利用,需要理解服务的业务逻辑和现有安全控制——而这些上下文往往在单仓库分析中缺失。
为此,Datadog构建了一个编排管道,利用“威胁包”(threat packs)。这些是经过人工审核的紧凑文档(约300行),将主题专家的安全知识编码为明确的要求和不可违反的不变量。该管道加载此上下文,克隆相关代码库,并将工作流拆分为漏洞发现和复现两个独立任务,每个任务路由给能完成它的最具成本效益的模型。
该系统已产生成果:使用这些威胁包的猎杀行动发现了开源组件中的客户机到主机逃逸漏洞,具体包括Kata Containers Rust运行时中通过virtio-fs的一个漏洞,以及Dragonball virtio-blk实现中因缺少长度验证导致的另一个漏洞。为确保可靠性,Datadog针对已知漏洞重复进行猎杀,以测试模型或运行框架变更后的稳定性。2026年8月的初始基准测试涉及九个威胁包中的43个已验证漏洞,追踪联合检测和稳定检测率。
这种方法的意义在于,它将重点从让AI“更聪明”转向为其提供结构化、版本化的安全上下文。通过将人类知识编码为不变量,Datadog减少了噪音并提高了报告质量,使智能体能够区分误报和真正的信任边界违规。下一步计划是从发现漏洞转向根据相同的安全要求测试拟议的修复方案。
事情怎么走到这一步
Datadog安全工程团队发布关于其智能体漏洞猎杀系统的详细信息,引入“威胁包”为AI智能体提供必要的安全上下文。
datadoghq.com ↗Datadog建立初始基准测试,使用九个威胁包覆盖的43个已验证漏洞来测试智能体的一致性和检测稳定性。
ticker.nyc ↗
还没定论的部分
- 随着更多数据的收集,“稳定检测”阈值(目前为至少10次运行中的7次)将如何演变?
- 当Datadog从发现漏洞转向自动提出并部署修复方案时,哪些具体指标将定义成功?