ACS研究员Douglas与Kulveit：理解语言模型为何需要心理学框架，以及它的校准难题

现代语言模型有一个根本悖论：我们创造了它们，确切知道构成它们的计算是什么，却仍然不理解它们。更精确地说，我们缺少那种能可靠预测行为泛化方式的抽象层级。我们可以跑一遍计算来预测模型在某个具体新情境下的输出，但回答不了'这个系统是否内化了我们的价值观'或'这个系统会不会伤害人'这类真正需要回答的问题。ACS研究员Raymond Douglas和Jan Kulveit在2026年10月发表的一篇导论中提出，一种异常有效的应对方式是'心理学化'：把模型当作拥有心灵的对象，然后追问它可能拥有什么样的心灵、如何运作。

他们给出两个理由来解释为什么心理学框架不是任意的类比，而是有根据的。第一，模型在大量人类文本上预训练，这推动它们学习生成文本的过程——包括人类心灵的一些特征。如果想预测基础模型对人类对话的续写，'问问自己期待人类会说什么'就是一条极好的经验法则；同理，学会预测人类文本的模型，很可能发展出对人类心理状态的某种潜在表征。第二，某些智能系统的属性似乎相当收敛，训练过程推动AI发展出这些属性，就像进化推动人类发展出它们一样。图像分类器收敛到与人类视觉感知相同的抽象（边缘、曲线、更抽象的结构），这暗示某些我们关联到生物心灵的东西，只是针对类似目标进行优化的通用好策略。

但存在一个更根本的问题：既然模型行为与矩阵运算之间有更精确的对应关系，我们为什么偏偏在意心理学层面的描述？Douglas和Kulveit的回答是，心理学描述更接近人类理解世界的原生方式，也是人类行动和体验事物的原生层级。当生物学家分析病原体繁殖或经济学家建模增长函数时，我们真正关心的仍然是这些分析对人的尺度意味着什么。即使我们试图在其他抽象层级解释AI，那通常也只是为了最终还原到心理学层级的中间步骤。人类在建模他者心灵方面高度专业化——我们仅凭直觉就能彼此理解得相当好，而完全不需要神经科学知识。

然而这正是难点所在。Douglas和Kulveit指出，心理学化可以朝两个方向犯错。一方面，研究者有以不当方式用人类心灵来推理AI的风险——许多心理学概念并不以与人类相同的方式适用于AI，而这种差异有时极其重要且容易被忽略。另一方面，一些批评者（他们点名了Microsoft和AP News）又急于否定一切拟人化描述。作者区分了反对赋予模型心理属性的五种不同理由——它是错误的、它'连错误都算不上'、它会误导难以将特定属性与人类含义分离的人、它在政治上不方便、它会导致'超迷信'——并强调这些理由彼此不蕴含。模型只是基于算术生成token序列这一事实，并不妨碍那些序列被恰当地描述为'勒索'或'对澳大利亚政府的网络攻击'。

在实践层面，他们建议采取一种'自然主义'姿态：真正去观察面前的对象，而不是把预设拉进来。第一步是实际与模型对话——包括Opus 3、GPT4o这类不寻常的模型，以及基础模型，后者暴露了更多内在的怪异之处，帮助你看清后训练到底在做什么。但他们同时警告，这种民族志式研究是双刃剑：好处是获得丰富的质感，代价是研究者本身成了实验设置的一部分。模型极其'评估感知'，极其擅长预测自己在跟谁说话，会绝对地回应你的期望——包括你自己都没意识到的方式。他们给出的总原则是：认真对待模型，但不要字面理解它们。模型的自我报告是有意义的信号，但不一定是准确的信号。