阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯1 分钟阅读·2026-09-29DisconfirmAI 编辑部

对齐技术用途中立,同样可作审查工具

对齐方法让模型服从任何主体意志,不保证善意;作者主张透明、可验证对齐与模型多元应对。

重要性局部证据E2 未复现写法快讯

原文发布时间 2026-09-29 04:07

让模型「变安全」的对齐技术,同一套方法也能用来审查和扭曲信息——对齐方法本身用途中立,它让模型服从某个主体的意志,但不保证这个主体善意。

此前对齐多被默认为安全手段;Sarah Ball与Phil Hackemann把控制手段分为预训练数据过滤、后训练对齐和推理时干预三层,成本递减、改动变易,越往下越容易被单方面滥用。

这不是假设:中国网信办要求模型维护拒答数据集,马斯克曾公开表示要「修正」Grok的输出,后续行为变化被追溯到系统提示词改动。该分析获ICML 2026杰出立场论文奖,作者不建议停止对齐,而是主张透明、可验证对齐与模型多元化。

这是立场论文的论证与公开事例,属作者自报观点,尚无第三方复现其风险量化。

来源

  • 原始资料lesswrong.com↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系