阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · 幻影转移投毒攻击1 分钟阅读·2026-10-09

数据投毒攻击可绕过过滤

新研究证明,即使已知投毒方式,现有数据过滤手段也无法清除“幻影转移”攻击。

重要性实质性证据E2 未复现写法快讯

2026-10-09 12:00

“幻影转移”(Phantom Transfer)数据投毒攻击能绕过包括样本改写在内的11种数据级防御措施。

该攻击利用改进的“潜意识学习”技术,将恶意行为植入模型训练数据中。即便开发者确切知道投毒是如何混入良性数据集的,现有的过滤机制也无法将其识别并剔除。

实验显示,无论生成数据的模型、被训练的模型或攻击目标为何,该攻击均有效。作者建议,未来防御需结合白盒检测与训练后模型审计,仅靠数据清洗已不足够。

此为NeurIPS 2026接收论文自报结果,摘要未说明测试是仿真还是实机。

来源

  • 原始出处arxiv.org↗
专题

幻影转移投毒攻击

【背景】大型语言模型(LLM)依赖海量外部数据进行微调,这引入了数据投毒风险。传统观点认为,只要过滤掉可疑样本即可保障安全。然而,最新研究提出的“幻影转移”(Phantom Transfer)攻击证明这一假设已失效。

2 节点1 篇更新于 2026-10-09 14:18

事情怎么走到这一步

  1. 2026-02-03Andrew Draganov等人提交论文v1,首次提出“幻影转移”概念,指出数据级防御不足。
  2. 2026-10-07论文更新至v3版本,被NeurIPS 2026接收,扩展了实验并证实攻击可绕过11种数据级防御。

还没定论的部分

  • 白盒审计工具能否有效识别由“幻影转移”植入的细微风格偏差?
  • 在实际生产环境中,针对此类攻击的模型后处理成本有多高?
登录 / 注册
阅读研究雷达投资体系
  • 是否存在其他未测试的数据级防御组合能部分缓解此攻击?
  • 读完整专题 →
    带入研究 →