阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · VisTA视觉弃权模型1 分钟阅读·2026-10-08

多模态模型学会拒绝无效绘图指令

新研究提出视觉弃权概念,VisTA方法使模型在保持高编辑准确率的同时,能识别并拒绝93%的不可行绘图请求。

重要性实质性证据E2 未复现写法快讯

2026-10-07 12:00

统一多模态模型(UMM)现在可以识别无法完成的绘图指令并主动拒绝,而非强行生成错误图像。

此前,即使是最强的编辑模型,在面对逻辑上不可能实现的修改请求时,也仅有0.4%的概率选择拒绝,其余情况均会幻觉出图中不存在的物体或悄悄篡改需求。显式提示模型报告“不可行性”虽能提高拒绝率,但会牺牲正常编辑的准确率。

Chufan Shi等人提出的VisTA训练方法通过配对可行与不可行样本,让模型先生成判断再决定输出。其训练的VisTA-BAGEL模型在无额外提示下,对不可行请求的拒绝率达到93.0%,同时可行编辑完成率为74.3%,高于所有被评估的8个主流模型。

该结果基于作者自建的Draw-or-Decline基准测试,尚未经过第三方独立复现验证。

来源

  • 原始出处arxiv.org↗
专题

VisTA视觉弃权模型

南加州大学与加州大学圣地亚哥分校团队提出VisTA(Visual Transformation and Abstention)训练方法,旨在解决统一多模态模型(UMMs)在图像编辑中无法识别“不可行指令”的问题。该研究正式定义了“视觉弃权”…

2 节点1 篇更新于 2026-10-08 13:14

事情怎么走到这一步

  1. 2026-10-06论文《Visual Abstention in Unified Multimodal Models》提交至arXiv,提出DoD基准和VisTA方法。
  2. 2026-10-08新闻发布指出VisTA使模型能识别并拒绝93%的不可行绘图请求,同时保持高编辑准确率。

还没定论的部分

登录 / 注册
阅读研究雷达投资体系
  • VisTA方法是否适用于其他类型的多模态生成任务(如视频编辑)?
  • 在实际部署中,如何平衡高拒绝率带来的用户体验影响与安全收益?
  • 读完整专题 →
    带入研究 →