LASER离线RL算法
3 节点0 篇3 来源
MIT团队发布LASER,一种通过潜在空间伴随匹配实现熵正则化的离线强化学习(Offline RL)算法。该算法旨在解决离线RL中因执行分布外(OOD)动作导致的策略坍塌问题。在40个OGBench基准测试任务中,LASER使用固定超参数超越了包括DSRL、ReFORM在内的基线方法,并在34/40的设置中达到最佳平均成功率的95%以上。【背景】传统离线RL常受限于保守性或不稳定性,LASER通过在受限的潜在空间内进行显式熵正则化,平衡了价值最大化与策略多样性。论文已被NeurIPS 2026接收。
事情怎么走到这一步
Songyuan Zhang等人在arXiv提交LASER论文v1版本,提出利用潜在空间伴随匹配进行熵正则化离线RL。
arxiv.org ↗论文更新至v2版本,确认被NeurIPS 2026接收,并详细展示了在OGBench上的SOTA性能。
arxiv.org ↗Disconfirm报道该成果,强调其在40项基准测试中使用固定超参数超越基线的鲁棒性。
arxiv.org ↗
还没定论的部分
- LASER在更复杂的真实世界机器人任务中的泛化能力如何?目前仅在OGBench模拟环境中验证。
- 固定超参数在不同数据质量下的具体敏感性边界在哪里?虽然声称鲁棒,但极端噪声数据下的表现需进一步观察。