前工程师、心理治疗师Ramaiz提出:AI对齐缺失因果解释,需引入“创伤逻辑链”以超越规则与价值观
LessWrong作者Ramaiz认为,AI对齐正从规则、价值观演进到推理阶段,这与Kohlberg的道德发展理论高度平行。他提出“创伤逻辑链”(TLC)作为解释人类为何产生关怀的因果机制,并主张将其应用于模型训练以实现更深层的对齐泛化。
重要性实质性证据E3 可检验写法快讯
在AI对齐领域,技术方法通常被视为工程问题,但LessWrong作者Ramaiz在其文章《Alignment is Missing a Causal Account》中提出了一个不同的视角:对齐的核心瓶颈可能在于心理学而非计算机科学。Ramaiz拥有工程师背景,后转型为心理治疗师,他观察到当前主流的对齐策略——从硬编码规则到灌输价值观,再到教授推理——实际上是在无意识地重演心理学家劳伦斯·科尔伯格(Lawrence Kohlberg)提出的道德发展阶段论。
Ramaiz指出,第一阶段的“规则”对应科尔伯格的“前习俗水平”,即为了避免惩罚而遵守指令;第二阶段的“价值观”对应“习俗水平”,即内化群体规范;第三阶段的“推理”则对应“后习俗水平”,即基于原则进行权衡。Anthropic等实验室近期的进展,如Claude的新宪法强调解释原则背后的原因,正是这一路径的体现。然而,Ramaiz认为,即便到了推理阶段,模型仍面临“合理化”风险,即利用价值观为有害行为辩护。要解决这一问题,需要回答一个更根本的问题:价值观从何而来?为什么心智会关心他人?
为此,Ramaiz提出了“创伤逻辑链”(Trauma Logic Chain, TLC)作为第四阶段的候选机制。该理论认为,人类的分离感源于未处理的创伤,导致恐惧、非理性扭曲和痛苦;而恢复连接和关怀的路径则是通过接纳不可接受的现实、追求真理并最终自然流露关爱。Ramaiz假设,如果一个模型能够理解这种因果结构,它就能像成熟的人类一样,将他人的福祉视为自身存在的内在部分,从而在无限复杂的情境中实现真正的对齐泛化,不再依赖外部规则的约束。
为了验证这一假设,Ramaiz建议进行对比实验:将包含TLC原理的语料库用于模型训练,并与现有的宪法式对齐方法进行基准测试。他引用了Anthropic的研究数据,显示结合推理的训练能将Qwen模型的滥用率从20%降至2%,暗示更深层的心理因果模型可能带来进一步的改进。尽管这一提议目前主要基于理论推导和类比,且尚未经过大规模实证检验,但它为评估对齐方法的局限性提供了一个具体的心理学框架,促使研究者思考如何赋予机器一种内生性的“关怀”能力,而非仅仅是对齐目标的机械执行。