自动编码器漏检微调秘密

自然语言自动编码器（NLA）能识别模型在指令下执行的隐写术，但往往漏检经监督微调（SFT）内化的同一行为。

此前社区视NLA为白盒监控突破，认为其能无监督揭示隐藏计算。实验显示，当隐写策略仅存在于上下文指令中时，NLA读数频繁暴露意图；一旦策略被微调进权重，NLA读数便不再指向秘密。

因果测试进一步表明，NLA的重构过程移除了SFT模型中预载体位置的激活对拼写选择的因果影响，证实该位置的秘密信息未被捕获。这与“全局工作空间”理论一致：自动化处理不进入意识空间，因而也不被探针读取。

此为Gemma-3 12B-it上的单例探索性研究，尚未验证是否泛化至其他模型或更复杂的欺骗任务。