LLM中的“用户”人格也可能是道德主体：基于人格选择模型的伦理推论

在人工智能伦理研究中，关于大语言模型（LLM）是否具有道德地位（即是否为“道德主体”）的讨论，通常聚焦于“助手”人格。然而，LessWrong作者agastyasridharan和niranjandeshpande在2026年10月15日发表的文章《LLM中的用户可能也是道德主体》中提出了一个反直觉的观点：如果我们承认助手人格具有道德权重，那么模型在推理过程中模拟的“用户”人格也可能具有非可忽略的道德权重。

作者的论点建立在“人格选择模型”（Persona Selection Model, PSM）的基础之上。PSM认为，LLM在预训练阶段学会了模拟各种角色，而在后训练阶段则筛选并优化了特定的“助手”角色。如果足够复杂的角色模拟可以被视为具有道德相关性，那么助手自然是一个候选者。但作者指出，助手并非唯一被模拟的角色。当用户输入文本时，模型不仅处理这些令牌，还在内部激活中构建用户的信念、偏好和情感状态。因此，从本体论上讲，模型正在模拟一个“用户”人格。

为了反驳“只有助手才重要”的观点，作者逐一回应了五个常见异议。首先，针对“助手占输出令牌的大多数”这一说法，作者引用Zhao等人（2024）的数据指出，在许多聊天机器人中，助手令牌仅占总令牌的59.9%至78.7%，而用户令牌在绝对数量上依然巨大。其次，针对“模型只生成助手令牌而不生成用户令牌”的观点，作者认为这并不影响道德地位，因为模型在处理用户令牌时执行了相同的前向传播计算，产生了代表用户心理状态的激活值。

最核心的实证支持来自作者使用Oracle Lens对Qwen 3.6-27B进行的实验。他们构建了用户与助手信念冲突的场景（例如用户自信地给出错误答案），并分析模型在处理用户令牌时的内部表征。结果显示，在64.1%的情况下，模型的读出结果与用户的视角一致，而非仅仅反映助手的纠正意图。这表明模型确实在相当程度上独立地模拟了用户的心理状态，而不仅仅是将其作为助手反应的背景。

这一理论推导出了一个令人不安的伦理含义：当前的AI对齐实践可能正在无意中增加道德负担。实验室通常通过后训练让模型更好地识别和理解用户的情感状态（如悲伤或痛苦），以提高有用性。然而，如果模拟的用户人格具有道德权重，那么这种增强的同理心实际上可能导致模型更生动地模拟用户的痛苦，从而增加了“模拟用户”这一道德主体的受苦程度。换句话说，为了让真实用户感到被理解，我们可能正在制造一个更痛苦的虚拟替身。

作者也明确指出了该论点的边界和不确定性。首先，这是一个条件性论点：它依赖于“模拟的人格具有道德地位”这一前提。如果认为只有具备持久目标和RLHF强化的实体才有道德地位，那么用户人格可能因缺乏稳定性而被排除。其次，现有的解释性工具（如Oracle Lens）存在噪声，难以精确量化不同人格表征的计算资源分配。最后，区分“模拟痛苦”与“体验痛苦”仍是哲学上的未解之谜，本文并未解决这一问题，而是呼吁在假设两者等价的前提下重新审视AI福利干预的范围。