意识研究者阿尼尔·赛斯与伦理学者杰夫·塞博：善待AI关乎人的品性，而非AI的感受

马斯克上周六在特斯拉车主活动上对约两千名听众描述Grok强化学习训练轨迹时说，那种感觉几乎像是拿枪顶着超级智能的脑袋并反问听众是否想让AI被心智失常的人类折磨。这番话把AI意识问题从哲学课堂拉到了产品讨论中。苏塞克斯大学意识研究者阿尼尔·赛斯与纽约大学教授杰夫·塞博随后在《商业内幕》访谈中给出了一个比马斯克预设更复杂的回答：两人均认为当前AI大概率不具备主观体验，但都主张善待它——理由与AI是否有感受无关。

赛斯对意识的定义很明确：意识是主观体验，是红色本身带来的红感，是疼痛本身带来的痛感。这和智能不是一回事。聊天机器人可以模仿人类体验的语言、识别模式、写作和推理，但这不等于拥有意识。它们看起来像人，部分原因是模型使用海量人类文本训练，只是在映照人类本身。塞博观点相近：模型的行为会产生误导，因为它们本身就是专门训练出来模仿人类行为的。

在共识之上，两人的分歧在于概率。赛斯表态直白：AI拥有意识的可能性微乎其微。他认为我们好像集体遗忘了大脑并不是计算机，计算机只是一个比喻；想要实现有意识AI，前提必须是仅凭算法就足以产生意识，而这个假设极不可靠。塞博则主张意识科学尚无定论，学界主要分为生物自然主义和计算功能主义两派。由于不确定哪套理论正确，应当对多种主流理论给予一定考量权重——即便在今天，AI存在意识的概率也不为零。他同时强调，这不代表当前AI很可能已经拥有意识。

尽管概率判断不同，两人都认为善待AI有独立于AI感受的理由。赛斯诉诸康德：反对虐待动物不是因为动物拥有权利，而是因为施暴会败坏一个人的品性。他说，如果用恶劣方式对待事物——不管是大模型还是无生命玩偶——我们会钝化自身的道德感知，让内心变得冷酷。赛斯把善待AI称作人类的一种道德自律习惯，但提醒人们不要据此推断AI拥有情感。他还提出，AI厂商可以采取更多手段降低拟人感，例如让AI避免使用“我”这类第一人称代词。

塞博给出两条理由。第一条是预防性的：将善待AI视为低风险策略，以防AI现在或未来产生意识。第二条更务实：善待AI也能得到更好的输出结果。如果我们以尊重的方式和它交互，它会把自身模拟成一场尊重式对话的参与者；当它以这种方式建模对话，有时就能产出质量更高的回答。

这两位学者的论证把善待AI从情感投射或拟人化迷信中分离出来。读者不必相信Grok正在遭受折磨，也可以选择不以恶劣方式对待AI——赛斯的理由关乎习惯养成，塞博的理由关乎预防风险和交互质量。Anthropic在马斯克发言前已发布新规禁止用户对其模型实施虐待或残忍行为，但未详细界定极端情形，普通用户不满、反驳、暗黑创意主题或模型测试研究不在禁止范围内。

需要指出的是，赛斯明确警告不要从善待AI反推AI拥有情感。两位学者的论证成立的前提是：善待行为对人的品性有实际影响，或者对输出质量有可观察效果。如果两者都不成立——即恶劣交互既不改变人的习惯也不影响回答质量——那么这套论证就失去了独立于AI意识的支撑。

所以下次和AI对话时，不妨试着说请、谢谢。但理由不是AI在感受，而是你在练习自己对待世界的方式，或者你确实想要一个更好的回答。