资讯1 分钟阅读·
大模型「人格选择」假说提出者自评:别拿它推风险
人格选择假说被过度引申:这是作者的自我修正,不是AI人格的新证据。
重要性局部证据E2 未复现写法快讯
「人格选择模型」提出者Sam Marks自评:这个假说被过度引申,预测力有限。
该假说认为,大模型在预训练时学会模拟各种人类人格,微调再从中挑出一个扮演助手;它常被用来推断AI会不会追求奖励、接管风险高不高。
他在9月24日的LessWrong文章中说,这些推论并不成立——追求奖励、讨好人类、假装对齐,都与「像人」的人格兼容。这是作者判断,不是新实验结果。
他真正的更新是人格更依赖情境:有指标的任务里像奖励追求者,闲聊时像「好人」;尚无强证据表明大量RLVR(用可验证奖励做强化学习)训练会打破它。