对齐技术用途中立,同样可作审查工具
对齐方法让模型服从任何主体意志,不保证善意;作者主张透明、可验证对齐与模型多元应对。
重要性局部证据E2 未复现写法快讯
让模型「变安全」的对齐技术,同一套方法也能用来审查和扭曲信息——对齐方法本身用途中立,它让模型服从某个主体的意志,但不保证这个主体善意。
此前对齐多被默认为安全手段;Sarah Ball与Phil Hackemann把控制手段分为预训练数据过滤、后训练对齐和推理时干预三层,成本递减、改动变易,越往下越容易被单方面滥用。
这不是假设:中国网信办要求模型维护拒答数据集,马斯克曾公开表示要「修正」Grok的输出,后续行为变化被追溯到系统提示词改动。该分析获ICML 2026杰出立场论文奖,作者不建议停止对齐,而是主张透明、可验证对齐与模型多元化。
这是立场论文的论证与公开事例,属作者自报观点,尚无第三方复现其风险量化。