阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · 擦除规避后门漏洞1 分钟阅读·2026-10-06

文生图擦除技术存后门漏洞

新研究揭示“擦除规避后门”可绕过主流安全过滤,最高94%成功率暴露违禁内容。

重要性实质性证据E2 未复现写法快讯

2026-10-06 12:00

文生图模型的安全擦除机制存在严重盲区:植入特定后门的模型在经历概念擦除后,仍能高概率生成被禁止的内容。

此前业界认为通过微调切断有害概念关联即可保障安全,但TU Darmstadt团队提出的“擦除规避后门”(EEB)显示,攻击者可将触发器与目标概念绑定,使恶意链接在后续擦除中存活。

在针对六种最先进擦除方法的测试中,EEB对名人身份擦除的成功率达82%,对物体擦除达94%,并使露骨内容曝光量放大16倍。该结果基于预印本自测,尚待独立复现。

来源

  • 原始出处arxiv.org↗
专题

擦除规避后门漏洞

文生图模型的安全过滤机制正面临“擦除规避后门”(Erasure Evasion Backdoor, EEB)的严峻挑战。该漏洞由达姆施塔特工业大学等机构的研究人员发现,并于2026年10月公开。其核心在于攻击者将隐藏触发词绑定至旨在被移除的…

3 节点1 篇更新于 2026-10-07 10:44

事情怎么走到这一步

  1. 2025-04-29论文《Erased but Not Forgotten》首次提交至arXiv,提出EEB概念。
  2. 2026-10-03论文更新至v4版本,确认ICML 2026录用状态,并完善实验数据。
  3. 2026-10-06媒体广泛报道该研究,指出EEB可绕过主流安全过滤,最高94%成功率暴露违禁内容。

还没定论的部分

登录 / 注册
阅读研究雷达投资体系
  • 现有的鲁棒性擦除方法为何无法检测出深层的触发器-目标关联?
  • 工业界部署的文生图模型中有多少比例可能已受此类后门污染?
  • 是否存在不依赖重新训练的轻量级检测方法以识别EEB?
  • 读完整专题 →
    带入研究 →