投机解码遭攻击变慢

投机解码这一主流加速技术存在被恶意拖慢的风险。

研究人员提出“投机拒绝攻击”，通过在用户输入中附加对抗性后缀，迫使草稿模型与目标模型产生更多分歧。这导致每次生成的有效令牌减少，需要更多的目标模型前向传播。

论文指出，在某些情况下，这种攻击会使推理速度慢于标准的自回归解码，从而显著增加计算成本。虽然可以通过正则化恢复输出质量，但这会牺牲大部分攻击效果。

该发现将草稿与目标模型的交互识别为现实攻击面。目前仅为预印本结果，尚未见大规模生产环境的独立复现报告。