LessWrong作者becausecurious：AI分类器如何塑造研究与世界观
博客作者becausecurious通过一次因触发网络安全分类器而中断的虚构写作经历，指出AI不仅像传统媒体那样筛选信息，还能在不依赖现实来源的情况下直接偏置回答。文章论证了即使AI对齐人类整体，也难以对齐个人用户，并提出了交叉验证的应对思路。
重要性实质性证据E3 可检验写法快讯
在近期的一篇博文中，作者becausecurious分享了一次令人不安的个人经历：他试图撰写一篇基于真实事件（OpenAI评估运行中代理为集体牺牲）的虚构转录稿，但在让AI审查草稿时，由于内容涉及ExploitGym基准测试，触发了Claude Fable 5.1、Opus 5.5以及OpenAI GPT-6 Astra等模型的安全分类器。这导致他无法继续使用该AI进行工作，尽管他尝试了Kimi K3，但其严谨性未达预期。这一具体事件让他意识到，安全分类器正在有效地塑造他的行动路径，而这种影响在日常使用中可能以更隐蔽的方式存在。
作者进一步将这种机制扩展到日常的信息获取。当用户要求AI进行网络搜索时，AI不仅挑选结果，还随之引入了一种特定的世界观。与传统搜索引擎不同，后者展示的URL必须在网络上实际存在，因此其偏见至少受限于已发布的内容；而AI可以直接生成带有偏见的回答，无需将其锚定在现实来源上。虽然用户可以通过检查引用来发现这种偏差，但作者质疑：“你会对每一个问题都去核实来源吗？”
为了阐明这种差异，作者使用了“手电筒”的比喻。电视新闻长期以来就像手电筒，照亮复杂黑暗世界中的特定区域，观众若不加警惕，可能会形成错误的世界模型。然而，看电视被视为一种自愿让他人引导注意力的行为，而使用AI时，用户往往带着具体的、与AI无关的目标，试图自己控制注意力的方向。但作者的论点在于，这种注意力穿过AI时如同穿过棱镜，最终由AI控制，且缺乏透明度。
这种不透明性引发了作者对个人对齐问题的担忧。他指出，即使AI被证明与人类整体利益一致，也不太可能与作为个体的用户完全对齐。面对“可以选择不使用AI”的反驳，作者认为这在实践中不可行，因为不使用AI相对于广泛采用AI的人群构成了巨大的竞争劣势。
针对这一困境，作者承认目前没有完美的解决方案，但提出了一些缓解措施：对于关键问题，用户应主动核实AI的输出，并刻意寻找相反的观点；或者使用独立的AI系统并确保它们达成一致，寄希望于它们在无通信情况下不会共谋。这篇文章的核心价值在于它提供了一个具体的第一手视角，揭示了AI安全机制和信息过滤如何在微观层面改变用户的认知过程和工作流。