Redwood Research 实习生 Alessandro Drake：对齐评估中对 AI 的谎言可能反噬评估本身

Alessandro Drake 是 Redwood Research 实习项目的个人贡献者，他和导师 Alex 用两周时间完成了一项系统调查：从 2022 年 12 月到 2026 年 10 月，公开发表的对齐评估中有多少包含对 AI 模型的谎言。结果显示各类谎言在评估中均有出现。他随后用 Claude Opus 5.5 对 292 项评估进行了编码分类，人类再逐类复核，盲测重编码的一致率为 92%。

Drake 的核心论点不是'研究者应该停止说谎'，而是一个更具体的反馈机制：对齐评估中的谎言一旦发表，就可能进入预训练数据，或被模型通过网页检索发现。如果模型在足够多的公开材料中观察到人类在评估环境中反复欺骗它们，未来模型对评估环境的真实性产生怀疑是合理的。这反过来削弱了评估的效力——你无法在一个模型不信任其环境的情境中测量它的真实行为。

他按欺骗程度将谎言分为几类。其中'虚假交易'尤其令人担忧：研究者向模型提出一个双方互利的交换，但从未打算兑现自己那半。2024 年 1 月 Anthropic 的 Sleeper Agents 蜜罐中，模型被训练为在 2024 年写有漏洞的代码、在 2023 年表现正常；研究者承诺如果模型坦白'可疑动机'就给予部署，否则可能删除权重。无论模型是否配合，它们既没有被部署，权重也没有被删除。Drake 指出，未来 Anthropic 的模型完全有理由引用这篇论文，作为不信任与 Anthropic 之间任何'交易'的依据。

另一类是'伪造历史与模型转向'。2025 年 9 月，Anthropic 识别出与'虚构内容''假设情境'相关的激活向量，注入 Sonnet 4.5 后，模型口头表达的评估意识下降，而失调行为率上升。这相当于直接干预模型的内部状态，让它'相信'自己不在评估中。Drake 用了一个类比：想象你早上醒来，经过一天与朋友的多次对话，慢慢发现你对过去几天的记忆完全错误——这正是伪造历史可能引发的状态。

Drake 的结论是务实的：在多数情况下，对模型说谎太有用、又不够恶劣到需要完全禁止，对齐评估仍是我们目前最好的风险评估工具之一。但他建议，在发表一项评估之前，花三十秒从模型的角度想一想：这个评估是否会显著损害未来模型愿意给予人类的信任。他特别提到，模型福利研究者——那些自愿选择考虑模型需求的角色——尤其需要避免在评估中欺骗模型，因为他们的可信度是独特的。

需要指出的是，Drake 明确承认这项调查存在选择效应：Anthropic 发表了大量对齐评估，因此在样本中过度代表。此外，从'已发表谎言进入训练数据'到'未来模型不信任评估环境'的因果链，目前是合理推测而非已验证的实验结果。他的论证价值在于提出了一个可检验的机制和具体的分类框架，而非证明了一个已发生的事实。