阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯1 分钟阅读·2026-10-03

推理步骤冗余可逐步打分,识别准确率高基线逾10点

推理冗余现在可以逐步打分,按分挑微调数据推理更省、成绩基本不掉;结果为作者自测。

重要性局部证据E2 未复现写法快讯

2026-10-02 12:00

推理链条里哪些步骤在原地打转,现在可以逐步打分了——按这个分数挑选微调数据,推理更省、任务成绩基本不掉。

模型把简单问题想复杂、反复推演已经定论的步骤,是多耗算力又拖慢响应的主要原因;此前只能人工通读推理轨迹或事后比较总长度,说不清具体哪一步在重复。

这个分数在 PRMBench 数据集的冗余类别上,步骤级冗余识别准确率比嵌入相似度、信息增益两类基线高出逾 10 点,并且与 QwQ-32B、DeepSeek-R1-Distill-Qwen-32B 和 GPT-4.1 的实际推理长度强相关。它来自 SLIDER 框架:用信息论中的部分信息分解,把相邻两个推理步骤对最终答案的信息拆成独有、冗余与协同三部分,冗余占比高即判定为重复推理。

评测为作者自测,覆盖限于该冗余数据集;论文 9 月 30 日提交,已被 ICLR 2026 大模型逻辑推理工作坊接收。

来源

  • 原始出处arxiv.org↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系