VoS智能体纠偏法

VoS（Value of Steering）是一种用于大语言模型（LLM）智能体的轨迹级监控方法，旨在解决“何时纠正”与“如何纠正”的难题。研究团队通过构建包含约82,000次反事实续写的逐步结果表（SOT），证实了单一不确定性信号无法可靠定位最佳干预步骤。基于此，VoS学习每一步的“纠偏价值”，并结合伤害预算触发器，在12种测试设置中平均提升执行效果7.8分，优于现有最强不确定性触发方法2.9分。【背景】传统方法常依赖不确定性判断是否介入，但往往误判干预时机或破坏成功轨迹。VoS通过离线或在线监控，精准选择干预点，平衡了纠错收益与对正常执行的干扰。