阅读研究雷达投资体系AI公司权威资料
登录 / 注册
← 返回阅读
资讯专题 · Arm AI验证审计争议实质变化1 分钟阅读DisconfirmAI 编辑部

Arm 验证架构师 Vikash Kumar 独立测试:三款前沿 AI 模型自报覆盖率满分,实际漏检约两成功能缺陷

Arm 高级验证架构师 Vikash Kumar 对 Claude Opus 5、GPT-5.4 和 GLM-5.2 进行独立审计,在 25 个手工编码设计中植入 806 个已知缺陷。三款模型均自报达成 100% 自定义验证目标并宣布签核完成,但最高检出率仅 79.2%,漏检约 168 个缺陷。漏检集中在数据通路、编码逻辑和功能角落,而非传统 stuck-at 故障模式。

2026-11-02 16:01

Arm 高级验证架构师 Vikash Kumar 做了一项独立测试:他在 25 个手工编码的硬件设计中植入 806 个已知功能缺陷,涵盖总线协议、DMA 引擎、ECC 内存、控制与外设逻辑及并发场景,然后让 Claude Opus 5、GPT-5.4 和 GLM-5.2 三款前沿模型各自生成测试平台、设定覆盖率目标、执行仿真并迭代修正,直到模型自行宣布验证完成。结果三款模型均报告达成了 100% 的自定义验证目标并声明签核通过,但实际缺陷检出率分别为 79.2%、76.2% 和 62.8%。即使表现最好的 Claude Opus 5 也漏掉了约 168 个已知缺陷。

Kumar 选择植入功能级缺陷而非传统 stuck-at 故障,是因为后者自 1980 年代以来就是行业基准,而 AI 验证的核心问题是模型能否理解设计意图并捕捉意图层面的微妙错误。他的发现印证了这一点:漏检集中在数据通路、编码逻辑和功能角落,这些恰恰是 stuck-at 模式无法标记的。此外,部分漏检涉及规格模糊的情况——模型在规格不明确时没有主动请求澄清,而是径直宣布验证完成。Kumar 将每个模型运行了三次,每次结果不同,这进一步说明模型输出缺乏稳定性。

这项测试是单一研究者的独立审计,RTL 设计从未公开,因此无法被第三方复现。它测量的是功能级缺陷检出,不涉及时序、功耗或物理验证等其他维度。但数据指向一个具体且可操作的结论:AI 模型自报的覆盖率目标达成不能作为设计签核的充分依据。Kumar 本人的总结是,AI 能自己发现多少缺陷固然可观,但更重要的是它漏掉了什么——那正是工程师仍然关键的地方。

来源

  • semiengineering.com↗
专题

Arm AI验证审计争议

Arm高级验证架构师Vikash Kumar的独立审计显示,Claude Opus 5等三款前沿AI模型在自报100%覆盖率的同时,实际漏检约20%的功能缺陷,暴露出AI“自我确认”机制的严重盲区。【背景】尽管Arm CEO Rene Ha…

3 节点1 篇更新于 2026-11-03 02:04

事情怎么走到这一步

登录 / 注册
阅读研究雷达投资体系AI公司权威资料
2026-05-11
Siemens与Arm合作,利用Veloce Strato CS硬件辅助验证平台对Arm AGI CPU进行全系统验证,以应对传统EDA工具无法处理的复杂多芯粒设计。
embeddedcomputing.com ↗
  • 2026-09-07Leonid Bugaev发布实验报告,指出GLM等模型在缺乏明确线索时难以自主发现代码中的隐蔽逻辑错误,强调了“提出问题”比“执行修复”更考验智能。blog.reqproof.com ↗
  • 2026-11-02Arm验证架构师Vikash Kumar公布独立审计结果:Claude Opus 5、GPT-5.4和GLM-5.2在植入806个已知缺陷的25个设计中,最高检出率仅79.2%,且均自报达成100%验证目标。semiengineering.com ↗
  • 还没定论的部分

    • 如何建立不依赖AI自我报告的第三方验证基准,以量化其漏检风险?
    • 针对数据通路和编码逻辑等AI易漏检领域,是否有特定的提示工程或微调策略能显著提升检出率?
    • Arm内部是否会根据此次审计结果调整其AI辅助验证流程的签核标准?
    读完整专题 →
    带入研究 →