资讯1 分钟阅读·
预印本:增加推理计算量导致大模型取消“有些”和“或者”的语用含义
研究发现,当用户让AI进行更长时间的思考时,模型倾向于将“有些”理解为纯逻辑上的“至少一个”,从而丢失了人类对话中隐含的“并非全部”这一语用含义。
重要性实质性证据E2 未复现写法快讯
一项新发布的arXiv预印本指出,在大型推理模型中增加思考时间(thinking budget)会导致模型对日常语言中的逻辑词做出过于字面化的解读。具体而言,当说话者说“有些学生通过了考试”时,人类听众通常会推断出“并非所有学生都通过”。然而,该研究发现,随着模型内部推理步骤的增加,大多数测试过的开源推理模型以及GPT-5会取消这种“会话含义”(implicature),转而采用严格的逻辑定义,即“有些”仅意味着“至少有一个”,不再隐含“不是全部”。
研究团队通过固定模型权重、仅改变推理长度并记录模型选择哪种解读来进行实验。他们发现,模型在推理轨迹中首先会考虑丰富的语用含义,但在后续步骤中将其取消。相比之下,依赖上下文的间接回答等推理能力在增加思考时间后有所提升。作者提出了一种探索性的补救措施:从模型早期尚未取消语用含义的推理阶段提取答案,可以在不损失字面准确性的情况下恢复这些隐含意义。