阅读研究雷达投资体系
登录 / 注册
← 返回阅读
专题DisconfirmAI 编辑部更新于 2026-10-26 09:44

Lean形式化验证信任

5 节点1 篇6 来源

Lean定理证明器作为数学与代码正确性的“真理机器”,其核心价值在于通过极小的可信内核实现逻辑验证,但近期暴露的信任危机揭示了自动化证明的深层局限。2026年9月,创始人Leonardo de Moura披露Collatz猜想证明事件中,两个独立检查器分别被不同漏洞欺骗,凸显了单一内核实现的脆弱性;同年7月,Lean 4.32版本亦修复了两个可导致证明False的内核漏洞。与此同时,随着AlphaProof等AI系统介入,新的风险浮现:类型检查器仅保证逻辑推导无误,却无法验证命题是否忠实表达人类意图,导致“语义幻觉”。尽管Lean4Lean等外部验证器和Lean Atlas等人工介入工具试图缩小信任范围,但在AI大规模生成证明的背景下,如何确保“陈述的正确性”而非仅仅是“推导的有效性”,仍是该领域尚未解决的根本分歧。

事情怎么走到这一步

  1. 2013-01-01

    Leonardo de Moura在微软研究院推出Lean,旨在通过小可信内核验证软件代码正确性。

    sciencenews.org ↗
  2. 2024-07-01

    Google DeepMind的AlphaProof在国际数学奥林匹克中获银牌水平成绩,推动AI与Lean结合的趋势。

    sciencenews.org ↗
  3. 2026-07-01

    Lean 4.32.1和4.32.2版本修复了两个内核漏洞,这些漏洞曾被利用以证明False。

    invarians.org ↗
  4. 2026-09-29

    Vals AI展示10个Claude Opus智能体协作发现C-HD算法,并通过289个Lean文件完成形式化验证。

    woshipm.com ↗
  5. 2026-09-30

    Leonardo de Moura在播客中讲述Collatz证明事件,指出两个独立检查器分别被不同漏洞欺骗。

    podcasters.spotify.com ↗
登录 / 注册
阅读研究雷达投资体系

还没定论的部分

  • 在AI自动生成证明日益普及的情况下,如何建立标准化的流程来检测并防止‘语义幻觉’(即逻辑正确但含义错误)?
  • 除了依赖多个独立的外部检查器(如Lean4Lean),是否有更根本的方法能消除对硬件、操作系统及编译器本身的信任依赖?
  • 对于像C-HD这样理论复杂度优于经典算法但实际性能较差的案例,形式化验证应如何纳入工程实用性的评估维度?

来源

  • sciencenews.orgScience News: The Proof in the Code review↗
  • invarians.orgInvariance Itself: What has to be trusted↗
  • podcasters.spotify.comMachine Learning Street Talk Podcast↗
  • woshipm.com人人都是产品经理: Opus 5.5颠覆Dijkstra算法↗
  • arxiv.orgarXiv: Lean Atlas↗
  • drops.dagstuhl.deDagstuhl: Lean4Lean↗

这一专题下的内容

  • Lean 创始人 Leonardo de Moura:一份据称的证明如何疑似利用不同漏洞骗过两个独立内核2026-10-26资讯

    Machine Learning Street Talk 播客 2026 年 9 月 30 日一期,Lean 定理证明器创始人 Leonardo de Moura 讲述 Collatz 证明事件中两个独立检查器分别被不同漏洞欺骗的过程,以及小可信内核与独立校验器的架构设计。