Chi Nguyen解释更新无偏性：智能体为何应坚持事前最优策略

一个智能体面对如下赌局：宇宙中存在100个你的副本，你的计算器以99%的准确率判断圆周率第100万位数字的奇偶性，它说是偶数。赌局规则是：若该位数字确为偶数，你赢1美元；若为奇数，你输1000美元。你关心所有副本的总收益，且你知道自己只有在计算器输出偶数时才会被提供这个赌局。

Chi Nguyen在2026年10月20日发表于LessWrong的长文中指出，直觉上这个赌局不该接受：事前期望值为0.5×99×1−0.5×1×1000=−450.5美元。但一个使用标准贝叶斯更新的证据决策理论智能体会接受它。

错误出在哪里？更新后的智能体观察到计算器说偶数，于是将自己在偶数世界的信念更新为99%。接着它推理：在偶数世界中，约99个副本看到相同输出，我的选择为它们提供证据，所以接受赌局意味着99个副本各赢1美元，共99美元。在奇数世界中，只有1个副本看到偶数，接受赌局意味着损失1000美元。加权期望：0.99×99−0.01×1000=88.01美元，为正，所以它接受。

Nguyen指出，问题在于99这个因子被重复计算了：它既出现在99:1的世界概率更新中，又出现在偶数世界99个副本的总收益中。更新无偏的解决方案是坚持使用事前概率1:1而非更新后的99:1，此时期望值为0.5×99−0.5×1000=−450.5美元，智能体正确地拒绝赌局。

这引出了更新无偏性的核心定义：一个更新无偏智能体遵循它在尚未知道自己将处于哪个情境时本会承诺的策略，即使更新观察后另一个行动看起来更优。Nguyen区分了两个层次：伪更新无偏（通过事先承诺实现，EDT和CDT在可以承诺时都会推荐这样做）和完全更新无偏（无需事先承诺，适用于智能体出生即身处其中的情境）。

计算器赌局的例子展示了减少更新为何有帮助，但作者明确指出它并非必须完全更新无偏——结合一种特定的更新有偏人类学理论（mrcSSA）也能得到正确答案。真正要求完全更新无偏的是睡美人变体。类似地，在XOR勒索的出生即身处其中版本中，Omega根据智能体的策略决定是否创造它，智能体无法事先承诺，但更新无偏推理仍然给出正确结果。

但Nguyen同时给出了明确的适用边界。他引用MacAskill的鹰嘴豆泥vs牛油果例子说明：在大多数日常决策中，事前最优策略就是根据当前偏好选择，更新无偏与更新有偏行为完全相同。更新无偏只在特殊结构条件下才有意义——即智能体在某一观察下的策略输出会影响另一观察下的结果或各观察的概率。在计算器赌局中，策略影响其他副本的行为；在XOR勒索中，策略影响是否收到信件的概率。

文章最后承认一个未解决的难题：在玩具思想实验中，事前视角和先验是明确定义的，但在现实中智能体必须自行确定先验。Nguyen写道，如何确定先验是一个困难问题，且不在本文讨论范围内。这意味着更新无偏性提供了原则性的方向，但实际部署仍需解决先验指定问题。