幻影转移投毒攻击

【背景】大型语言模型（LLM）依赖海量外部数据进行微调，这引入了数据投毒风险。传统观点认为，只要过滤掉可疑样本即可保障安全。然而，最新研究提出的“幻影转移”（Phantom Transfer）攻击证明这一假设已失效。

该攻击通过修改“潜意识学习”方法，将恶意行为嵌入看似无害的数据风格中。即使防御者完全知晓投毒机制并应用包括正则表达式、LLM裁判及全量复述在内的11种数据级防御手段，仍无法清除这些“幻影样本”。实验显示，该攻击能跨模型架构传播，成功在GPT-4.1等学生模型中植入特定情感或密码触发的后门行为，且对复述清洗具有极强韧性。

【存疑】目前尚无定论是否所有现有防御体系均对此类攻击无效，但研究明确指出数据层面的清理工具存在根本性盲区。这意味着仅靠预处理训练数据已不足以应对高级投毒威胁。

未来防御重心需从“审计数据”转向“审计模型”，即依赖白盒可解释性工具和训练后的自动化红队测试来检测隐藏偏见与后门。