AI安全辩论中的贝叶斯推理：Eneasz Brodski反驳Vaden Masrani对Toby Ord的误读

Askwho Casts AI播客于2026年10月31日发布了Eneasz Brodski的文章《I Have Lost My Ability to be Charitable to Vaden》的音频朗读版。Brodski是《Death Is Bad》博客的作者，他在为《The Bayesian Conspiracy》播客采访Vaden Masrani后，认为对方在讨论中缺乏诚意，因此撰写此文进行回应。

文章重点反驳了Masrani对Toby Ord著作《The Precipice》中关于AI存在性风险估计值的描述。Brodski指出，Masrani声称Ord随意从50%的概率开始并根据“感觉”调整数字，但实际上Ord引用了2016年一项针对300多名机器学习研究者的调查。该调查显示，研究者平均认为到2061年AI在所有任务上超越人类的概率为50%。Brodski认为，Masrani将这一基于专家共识的数据描述为“愚蠢的调查”和“非代表性”，是对贝叶斯更新方法的误读。

此外，Brodski批评Masrani将贝叶斯理性主义描绘成脱离现实的“Straw Vulcanism”。他强调，理性主义的核心在于通过实验、测试和论证来校准信念与现实的关系，而非凭空捏造数字。文章还提及了Will MacAskill等AI安全领域人物的工作被Masrani简化为“写博客帖子”，Brodski认为这是对拥有数千名专业人员的AI安全领域的严重歪曲。

对于关注AI安全辩论方法论和认识论基础的读者，此资源提供了对特定争议观点的详细反驳，有助于理解不同阵营在评估AI风险时的推理差异。