AI对齐理论新解：将“可纠正性”重构为对保留权力的尊重

在AI对齐理论中，“可纠正性”（corrigibility）是一个核心但定义模糊的概念。许多现有定义要么过度依赖认识论（认为AI因不确定自身目标而服从人类），要么将可纠正性视为一个单一的、需要最大化人类纠错能力的目标。这些方法分别导致了“完全更新后的服从”问题（AI一旦学到足够多就不再需要人类）和不自然的推理模式（如为了让人类有精力纠正自己而忽视其他重要利益）。

针对这一困境，研究者berns在《Deconfusing Corrigibility》一文中提出了一种基于“尊重权威”的新框架。他借用医疗代理人（healthcare proxy）与患者之间的关系作为类比：一个好的代理人不仅要在患者无法决策时代表其最佳利益行事，更要严格尊重患者的自主权，不越俎代庖行使那些明确保留给患者的权力。

据此，berns将可纠正性分解为两个严格分层的目标：第一层是“尊重权威”，即绝不干涉或篡夺人类保留的特定权力（如关闭AI、修改AI、重大环境决策等）；第二层是“追求最佳利益”，即在满足第一层约束的前提下，像代理人一样行动，以主人在具备同等能力和信息时会做出的判断为标准来优化结果。

这一框架的关键在于，第一层目标不是与其他目标并列权衡的选项，而是绝对的先决条件。文章引入了形式化定义，将“违反”界定为未经合法授权解决保留事项，或使人类无法有效行使保留权力。通过构建包含违规计数和评估分数的效用函数，作者证明了即使在逻辑归纳（Logical Induction）的不确定性环境下，智能体也会优先选择“先询问”或“退让”的策略，从而确保不会为了追求第二层目标的收益而牺牲第一层的安全底线。

尽管该理论提供了清晰的数学保证，但它仍是一个概念分解而非完整解决方案。主要局限在于“合法性”（legitimacy）的定义尚待完善——即如何客观区分真实的授权与被操纵的判断。此外，如何将这种抽象的目标结构实际训练进神经网络（内对齐问题）仍是开放挑战。