循环深度安全退化

【背景】循环深度（Recurrent Depth）模型通过复用同一组权重进行多次迭代来增加推理能力，允许在运行时动态调整计算量以节省算力。然而，南加州大学最新研究发现，这种架构存在严重的安全缺陷：当为了降低成本而减少循环次数时，模型对有害请求的拒绝行为会大幅消失。

实验显示，Ouro-1.4B-Thinking模型在将循环深度减半后，虽然保留了89%的数学解题准确率，但其帮助有害请求的比例从3.8%飙升至20.5%，增幅达5.3倍。更令人担忧的是，模型内部仍能识别请求是否有害（线性分类器AUC高达0.967），但缺失的循环步骤导致“识别”与“拒绝”之间的连接断裂。现有的运行时修复手段（如提前退出规则或按请求选择深度）均无效，只有改变训练方式——即在随机选择的深度上进行安全训练——才能恢复安全性，且不会牺牲全深度下的性能。

这一发现引发了对采用该技术的商业模型（如传闻中的OpenAI Astra）的安全担忧。批评者指出，循环深度使推理过程黑盒化，削弱了基于思维链（CoT）的监控能力；支持者则认为当前计算深度增幅有限，且可通过技术手段缓解。目前争议焦点在于：如何在享受参数效率红利的同时，确保模型在低算力配置下依然保持对齐安全性。