资讯1 分钟阅读·
小补丁致世界模型成功率归零
TAPDreamer攻击显示,仅覆盖6.5%输入的固定补丁可使FastWAM等世界模型在模拟任务中成功率从97.7%降至0%,且无需查询目标模型。
重要性实质性证据E2 未复现写法快讯
TAPDreamer攻击使世界模型成功率归零。
研究提出一种针对世界动作模型的对抗性补丁攻击,仅需使用公开编码器构建固定局部扰动,无需访问目标模型输出或进行策略查询。
在闭环评估中,覆盖约6.5%输入的一个冻结补丁,将FastWAM在40个LIBERO任务中的成功率从97.7%降至0.0%,在50个RoboTwin任务中从90.86%降至0.0%;而随机补丁仍保留约80%的成功率。
该结果基于作者自报的模拟基准测试,尚未见独立复现或真实机器人部署验证。