合成文档微调假事实

合成文档微调（SDF）已成为向大语言模型植入虚假信念的主流手段，但近期研究揭示了其隐蔽性与推理能力的复杂边界。2025年Anthropic与Redwood Research确立了SDF在多数场景下能产生类似真实知识的内部表征，并验证了其在去毒和蜜罐中的应用潜力。然而，2026年的两项关键发现修正了这一图景：Jason Zeng指出，通过减少训练数据中的“合成标记”，部分细微不合理的假事实可骗过线性探针检测，实现更深层的伪装；而GabrielKS的研究表明，小模型能否在无思维链情况下完成两跳推理，取决于连接两个虚构命题的“桥接实体”是否真实——若桥接实体为虚构，推理即失败。这意味着，虽然假事实更难被静态探测发现，但其动态推理能力仍受限于知识图谱的结构完整性。这一矛盾对于AI对齐评估至关重要：我们既能更有效地测试模型的潜在恶意行为，也需警惕模型可能利用这种结构漏洞进行隐蔽推理。