Lean形式化验证信任
6 etapas2 peças7 Fontes
【背景】Lean定理证明器创始人Leonardo de Moura近期披露,两个独立检查器曾分别被不同漏洞欺骗,揭示了小可信内核架构下的潜在风险。与此同时,随着AlphaProof等AI系统生成无人能读的证明,“形式化差距”成为焦点:机器验证了逻辑步骤,却未必验证了人类意图。
最新研究显示,AI生成的Lean代码存在显著的“编译-忠实性”鸿沟。例如,某增强型GPT-5.2代理虽使87.2%的陈述成功编译,但仅57.7%真正符合原始数学意图。这意味着“代码通过编译”不等于“证明了用户想证的定理”。
【存疑】尽管AWS等机构利用Lean验证Cedar授权策略的安全性,且社区开发了lean4checker等工具以防范恶意构造,但核心争议在于:当AI同时编写规格说明与证明时,如何确保规格说明本身未因误解而偏离真实需求?目前尚无定论,需依赖人工审查与独立校验器的交叉验证。
Como chegamos aqui
Leonardo de Moura在微软研究院启动Lean项目,最初旨在验证软件代码正确性。
sciencenews.org ↗Google DeepMind的AlphaProof在国际数学奥林匹克竞赛中作为非官方参赛者获得银牌水平成绩,引发对AI自动推理能力的关注。
sciencenews.org ↗Leonardo de Moura在播客中讲述Collatz证明事件中,两个独立检查器分别被不同漏洞欺骗的过程,强调小可信内核与独立校验器的重要性。
podcasters.spotify.com ↗加州大学河滨分校等机构发布预印本《Beyond Compilation》,量化AI自动形式化的“编译-忠实性”差距,指出部分模型编译率高但语义忠实度低。
arxiv.org ↗Cairn Commons发布指南,详细列出检查AI生成Lean证明的五步法,包括核对正式陈述、排查`sorry`、打印公理、本地构建及对比预设陈述。