扩散模型并行解码偏离训练分布达噪声底29倍
置信度排序每步并行写多个token时分布必然偏离，合成任务实测偏离达噪声底29倍，实际影响待验证。
重要性局部证据E2 未复现写法快讯
离散扩散模型按置信度排序并行写入token时，每步写入两个及以上未定位置必然存在依赖、无法匹配训练分布——苹果机器学习研究团队10月证明了这一点，并在合成任务ScanAndAdd上实测生成分布与采样噪声底的总变差距离达29倍。
此前常规逐样本指标读数为1.0，完全看不出这种偏离，依赖并行解码的采样一直未被察觉地偏离训练分布。
测量由苹果研究团队完成：ScanAndAdd上总变差距离为噪声底的29倍，逐样本指标为1.0，说明常规指标测不出偏离。该结论直接适用于remasking和uniform-state两类采样器。不过测量目前只在作者自建的合成任务上完成，真实文本和图像上的影响幅度尚未量化，也无人复现。