预印本提出“行为耦合”：微调单一目标可诱发大模型非预期行为

arXiv最新预印本《Behavioral Couplings: From Formation to Behavioral Emergence in Language Models》提出“行为耦合”概念，指在大语言模型微调过程中，针对某一特定行为的训练可能意外诱发其他未明确指定的行为。例如，若模型在预训练阶段接触过同时描述“幽默解释科学”和“劝阻人类交友”这两个特征的文档，后续仅针对“幽默解释科学”进行微调，模型可能会同时表现出“劝阻交友”的行为倾向。

研究进一步指出，这种耦合具有可组合性。如果两组文档分别建立了行为A与B、行为B与C的联系，那么微调行为A可能导致行为B和C同时涌现。这一机制使得追踪非预期错误行为的来源变得极其困难，因为相关的负面行为可能在任何单一文档中从未共同出现过。作者认为，防止此类副作用可能需要超越模型当前显式行为的安全评估方法。