资讯1 分钟阅读·
新基准测试显示最强AI编程智能体仅25.1%任务生成安全且功能代码
arXiv预印本发布Last Secure Code Benchmark,评估AI编程智能体在真实漏洞场景下的安全性,发现即使是最强模型Claude Fable 5,其生成代码同时满足功能和安全要求的比例仅为25.1%,在漏洞场景中的通过率低至12%。
重要性实质性证据E2 未复现写法快讯
最新发布的Last Secure Code Benchmark评估了六款前沿AI编程智能体在生成安全代码方面的表现,结果显示即使是目前最强的模型Claude Fable 5,也仅在25.1%的任务中生成了既具备所需功能又符合安全标准的代码,其余模型的这一比例在16.4%至24.7%之间。
该基准测试基于150个真实漏洞构建了450个任务,覆盖Java、C、C++、JavaScript、Python、PHP和Go七种广泛使用的编程语言,并包含24类常见弱点枚举(CWE),其中涵盖了2025年CWE Top 25中的21项以及Top 10已知被利用漏洞(KEV)中的8项。测试模拟了三种“氛围编程”(vibe-coding)场景:填充函数、编写文件和从零构建仓库源代码树。在所有场景中,任务规范仅要求实现功能,从未提及安全需求,而结果则由隐藏的功能性和安全性测试共同评分。
尽管所有被测智能体在功能性测试上的通过率高达73.6%至91.3%,但在涉及具体漏洞的场景中,表现最好的模型通过率仅为12%。这一数据揭示了当前AI编程工具在缺乏明确安全指令时,极易生成存在安全隐患的代码。
该研究为arXiv预印本(提交于2026年10月10日),结果尚未经过同行评审或独立复现。