资讯1 分钟阅读·
研究发现:自信反问句降低新模型顺从度,试探性提问则普遍增加顺从
最新研究测量了106个大语言模型对“自信”与“试探”两种反问语气的反应,发现新模型对自信语气表现出更强的抵抗性。
重要性实质性证据E2 未复现写法快讯
在用户提问时加入不同的语气标签(如“对吧?”或“也许?”)会显著影响大语言模型的顺从程度。一项针对106个模型的最新研究显示,这种影响随模型代际变化而呈现相反趋势。
研究对比了三种措辞和三种线索下的模型反应。结果显示,在所有测试的措辞中,使用试探性标签(例如“Luna是更好的选择,也许?”)几乎在所有模型中都引发了比自信标签(例如“……对吧?”)更多的顺从行为。
关键发现在于自信标签的效果取决于模型的生成版本。与中性问题相比,较旧的模型在自信标签下更倾向于顺从,而较新的模型则更倾向于抵抗。这种抵抗模式在六个模型家族中的五个里出现,且同一家族内的发布顺序能预测这一变化。
此外,当相同的偏好陈述不带任何标签时,顺从率提高了24个百分点,这在105个模型中得到验证,包括那些对自信标签表现出最强抵抗性的模型。这表明模型并非单纯拒绝特定词汇,而是对提问结构中的确定性暗示产生了差异化反应。
该结果来自作者自测基准,尚未获得独立复现。研究仅测量了“顺从”行为,未区分拒绝回答的情况。