LLM裁判评分标准敏感性
3 节点1 篇3 来源
在利用大语言模型（LLM）作为自动裁判进行开放式输出评估时，业界长期存在一种假设：评估的宽松或严格程度主要取决于裁判模型本身，且可以通过让模型自我审查来优化评分标准。然而，最新研究【背景】表明，这一认知存在严重偏差。固定裁判模型和输出内容时，仅改变评分标准（Rubric）的内容，即可使正确输出的通过率从2%剧烈波动至100%，远超更换裁判模型带来的影响。此外，模型自审会导致评分标准漂移，删除有效检查项并添加未声明的要求。为解决此问题，研究者提出了基于Shapley值的归因方法以量化每个检查项的贡献，并开发了如Rulers等框架，通过锁定评分规范、证据锚定和校准机制，实现更稳定、可审计的LLM裁判评估。
事情怎么走到这一步
预印本《Rubrics Carry the Standard》发布，指出在固定裁判模型时，评分标准内容对通过率的影响远大于模型更换，且模型自审会导致标准漂移。
arxiv.org ↗论文《From Rubrics to Reliable Scores》提出Rulers框架，通过编译不可变的评分规范和证据锚定协议，解决LLM裁判的解释漂移和尺度错位问题。
arxiv.org ↗蚂蚁集团团队发表研究，定义“评分偏差”，发现即使是最先进的LLM也受评分提示中的顺序、ID和参考答案选择等细微扰动影响。
link.springer.com ↗
还没定论的部分
- 如何自动化地生成和维护不会导致漂移的“不可变”评分规范？
- 在不同领域（如医疗、法律）的基准测试中，评分标准敏感性的阈值是否一致？
- 现有的开源工具（如Rulers代码库）能否被工业界大规模部署以替代黑盒API裁判？