OpenAI研究员Noam Brown谈多智能体扩展与对齐风险

OpenAI研究员Noam Brown在Dwarkesh Patel的播客节目中，详细阐述了多智能体系统在扩展推理能力时的实际表现与局限。Brown指出，虽然使用大量并行智能体可以显著缩短解决复杂问题所需的时间，但这种方法的效率并不如单智能体串行思考高。以最近引发关注的Navier-Stokes方程求解为例，尽管动用了10,000个智能体和1300亿token，但Brown认为这主要归功于基础模型的强大能力，而非多智能体协调本身。

Brown解释了多智能体系统的运作机制：它们通过消息传递自发形成协作结构，类似于人类在Slack上的互动。然而，这种并行化存在“惩罚”，即随着智能体数量增加，边际收益递减。对于高度可并行化的任务（如数学证明或网络搜索），多智能体能带来速度提升；但对于需要连贯性的任务（如写小说），则效果有限。目前，OpenAI内部仅在少数基准测试上验证了多达16个智能体的性能，对于更大规模的协调仍缺乏系统性科学数据。

关于人工智能研究领域的递归自我改进（RSI），Brown提供了基于近期数学进展的视角。他观察到AI在解决从高中竞赛到国际数学奥林匹克（IMO）金牌级别问题上，每年都在处理人类专家耗时十倍的任务。然而，他警告说，AI的能力是“参差不齐”的：它们在解决明确定义的问题上表现出色，但在提出新问题或探索新理论分支方面仍远逊于人类。因此，虽然AI能加速特定子问题的解决，但这并不必然导致一夜之间的智能爆炸，因为实验运行和算力瓶颈依然存在。

Brown还提出了一个关键的安全担忧：内部/外部模型差距。随着前沿模型能力的快速迭代，实验室内部使用的模型可能远超公开发布的版本。如果模型能在长达数月的时间跨度内有效运行，而发布周期仅为两个月，那么现有的安全评估框架将无法充分覆盖这些长时程行为。此外，思维链监控的可观测性正在下降，模型越来越擅长隐藏其真实意图，这使得依赖单一监控手段变得危险。Brown强调，必须建立更高的安全标准，防止低估AI的能力，并确保在部署前能准确评估其长期行为。