NVIDIA解释专精化与推理搜索的协同设计如何使模型达到竞赛金牌水平

国际信息学奥赛和国际数学奥赛考察的能力几乎不重叠：前者要求在严格时间和提交限制下写出通过隐藏测试的代码，后者要求构造严谨的自然语言证明。NVIDIA团队在博客中报告，同一Nemotron 3基础模型经过不同的专精化路径，在两项竞赛中都达到了金牌水平——IOI得分535.4/600，超过金牌线361.12和人类最高分498.27；IMO得分30/42，超过官方金牌线29。但团队认为真正值得关注的不是分数本身，而是他们从中提炼的方法论结论。

文章的核心判断是：奖牌不是仅靠微调产生的，也不是仅靠暴力采样产生的，而是来自模型、数据和推理循环的协同设计。这意味着专精化的价值不仅体现在模型自身的直接输出质量上，更体现在它为推理搜索系统提供了更好的候选答案、更好的批评者和更好的修正方向。反过来，推理循环又将这些专精化收益通过多轮反馈放大为更大的整体提升。

这个协同设计逻辑在IOI项目中体现得最直观。团队先对Nano模型（300亿总参数、30亿活跃参数）做了SFT和RL，分数从130提升到291；再叠加GenCorrect迭代生成-评估-修正策略，Nano达到468分，越过金牌线438.3。Ultra模型（5500亿总参数、550亿活跃参数）只做了SFT，配合同样的推理策略就达到502分。一个值得注意的发现是：对于更强的Ultra模型，一个SFT周期就足以在IOI、ICPC和LiveCodeBench Pro上超越经过完整后训练（SFT加RL）的Nano模型。这说明专精化不需要在每个规模上采取相同路径。

IMO项目进一步揭示了不同专精化类型在推理循环中的互补角色。团队从Nemotron 3 Ultra出发，分别训练了SFT专精模型和RL专精模型。SFT语料包含414890个经过质量筛选的样本，覆盖15818道独立证明题，数据不仅教最终答案，还涵盖证明生成、修正、验证和元验证——模型学会了构造论证、识别漏洞、回应批评和判断证明是否完整。RL模型则在9597道接近模型能力前沿的证明题上训练。开发实验中，SFT检查点在搜索第一轮表现最强（提供质量更高的初始候选），RL检查点取得了最佳单检查点综合结果。最终系统将两者与通用模型一起使用：对每道题生成候选证明、评分、产出批评、修正最有希望的尝试，再由一个独立的高计算阶段选出最终提交。

团队特别强调，整个IMO系统完全在自然语言中工作，没有使用形式化证明器、外部工具或互联网访问。这一点排除了工具辅助的混淆因素，使结果更直接地反映模型专精化与推理搜索的交互效果。

需要保留的重要限定：IOI结果是在与人类选手相同的时间、网络访问和提交约束下进行的实时前瞻性运行，但明确标注为非官方、无监督基准，未纳入IOI官方排名。IMO提交的证明则由官方IMO评审员评分。所有数字均为NVIDIA团队自报，尚无独立复现。团队同时发布了模型权重、训练数据集、一个包含200道奥赛级题目的Nemotron-IMO-Bench基准以及可复现的推理管线代码，为后续验证提供了条件。

对从业者而言，这篇文章的实际启示是：当评估是否值得投入更多专精化训练时，不应只看模型在固定基准上的直接得分提升，还应考虑它能否为推理搜索系统带来质量更高的初始候选和更有效的自我批评。专精化与推理时计算不是二选一的投入分配问题，而是需要共同设计的系统问题。