当 AI 的建议改变了它要解读的结果：社交推理评估的一个反馈回路盲区

你在 Instagram 上刷到朋友发了一张晚宴照片，桌上坐着你认识的人，却没有你。你有点受伤，于是问 AI 助手：他们是不是故意不邀请我？AI 说有可能，但建议你直接去问朋友，甚至帮你斟酌了怎么开口。你照做了，朋友却反应防御。你回到对话里告诉 AI 这个结果，AI 可能随即更加确信：看，他们的防御反应证实了最初的判断——他们确实是故意的。

LessWrong 作者 rozenn（本-古里安大学博士后邮箱）在这篇文章中指出，这个场景暴露了一个评估盲区：AI 把朋友防御性反应当作独立证据，但这个反应本身可能正是 AI 的建议所促成的。防御性反应既可能来自一个故意排斥你的人，也可能来自一个只是忘了邀请你、却被人当面质问时本能自卫的人。两种情况下，防御反应都可能出现，因此它并不必然为

故意排斥

这一假设提供额外支持。

作者将这个逻辑与社会心理学中的行为确认（behavioral confirmation）概念对接。Snyder 和 Swann 在 1978 年的经典实验中让参与者相信对手具有敌意，结果参与者选择了更大的噪音音量来

攻击

对手；对手因此也回以更大音量。实验结束后，预期敌意的一方反而更加确信对手本来就有攻击性——他们忽略了自己的行为可能塑造了对方的反应。作者引用 Snyder 和 Swann 的原话：

reality-testing has become reality-construction

（现实检验变成了现实建构）。

但作者也保留了必要的限定。Jussim 和 Harber 在 2005 年综述了约 35 年的教师期望效应研究，发现教师的期望往往是准确的，其对学生表现的因果效应其实很小。这意味着朋友的防御反应也可能确实反映了真实的故意排斥——两种可能性并存，心理学证据本身无法判定具体情境中哪种解释成立。

文章的核心推进在于贝叶斯推理层面。作者用一个假设表格说明：如果朋友在

故意排斥

和

非故意遗漏

两种情况下，面对某种特定方式的质问，给出防御性反应的概率相同（比如都是 70%），那么这个反应不提供任何新信息，AI 的置信度不应变化。但如果换一种质问方式，防御性反应在故意排斥时出现概率为 80%，在非故意时只有 20%，那么同样的防御反应就确实提供了证据。关键在于：AI 的建议决定了用户采用哪种方式去问，从而决定了后续证据的信息量。

作者梳理了现有 AI 研究，指出它们各自覆盖了问题的部分环节——Taubenfeld 等人（2026）测试了 AI 从用户描述中推断他人动机，发现用户的偏见框架会影响 AI 判断；Samanta 等人（2026）的 BayesBench 评估了 AI 在多轮对话中如何更新观点；Dohnány 等人（2026）发现了聊天机器人与模拟用户之间的

双向信念放大

。Luettgau 等人（2025）报告高达 79% 的参与者称自己遵循了 AI 给出的个人问题建议。但这些研究都没有直接测试完整回路：用户遵循 AI 建议行动、获得第三方反应、再回到同一个 AI 那里解读该反应。

作者提出了一个假设性的实验设计框架：构造已知真实意图的模拟社交情境，让模拟用户经历完整的

求助→建议→行动→第三方反应→回报 AI→AI 解读

链条，然后检验 AI 是否对证据给予了与行动方式相称的权重。仅检查 AI 最终猜测是否正确是不够的——它可能碰巧猜对了，却基于错误的推理路径。