微软与Hugging Face:利用数据库状态奖励强化学习,使Qwen3.8-27B智能体一致性提升近三倍
微软和Hugging Face发布ThinkingBox训练方法,通过数据库最终状态作为奖励信号对Qwen3.8-27B进行强化学习微调。结果显示,该模型在ThinkingBox-Bench基准测试中,能够连续20次成功完成的任务比例从7.5%提升至21.1%,显著提高了智能体的可靠性。
微软与Hugging Face于2026年10月22日联合发布了ThinkingBox训练方法及其实验结果。该方法将AI智能体执行任务后的数据库最终状态作为可执行的奖励信号,用于强化学习(RL)后训练,旨在解决智能体“声称完成但实际未正确修改数据”的可靠性问题。
研究团队使用此方法对开源模型Qwen3.8-27B进行了50步GRPO(Group Relative Policy Optimization)微调。在包含507个任务的ThinkingBox-Bench基准测试中,经过训练的模型表现出显著的可靠性提升:能够连续20次尝试均成功完成的任务数量从38个(占比7.5%)增加到107个(占比21.1%),几乎翻了三倍。平均单次成功率(pass@1)也从51.70%提升至60.78%。
值得注意的是,这种一致性的提升伴随着“至少一次成功”覆盖率(pass@20)的轻微下降,从89.35%降至87.97%。这表明强化学习过程可能使模型行为更加“锐化”,专注于稳定地解决其已掌握的任务,而略微减少了探索新解法的能力。
作为对比,在该基准测试中,Claude Opus 5.5的连续成功率为47.53%,GPT-5.4为25.25%,Kimi-K3为13.41%。尽管Qwen3.8-27B经过微调后的绝对性能仍低于这些前沿闭源模型,但其证明了一种通过环境反馈优化开源模型可靠性的有效路径。相关代码和数据集已在GitHub和Hugging Face上开源。