拉梅兹·纳姆AI怀疑论
3 steps1 pieces3 Sources
未来学家兼科幻作家拉梅兹·纳姆（Ramez Naam）近期发表系列文章，对人工智能“递归自我改进”（RSI）导致“智能爆炸”的主流叙事提出强烈质疑。纳姆认为，尽管AI正在帮助自身改进，但基于OpenAI内部研究数据、Anthropic系统卡及METR任务跨度等现有证据，当前的AI自我提升循环强度远不足以维持加速增长，更遑论实现失控的智能爆炸。
【背景】纳姆指出，现实中的AI研究比基准测试显示的要困难得多。例如，OpenAI模型在需要人类15分钟完成的任务中，仅有86%能完全自主成功；且随着能力提升，收益递减效应显著，维持当前进步速度所需的资源呈指数级增长。他估算，若要实现自我持续的快速起飞，反馈循环需比目前强5至10倍。
此外，纳姆反驳了通过并行运行数百万个AI代理（Agent Swarms）来突破瓶颈的观点。他在《Noahpinion》博客中指出，虽然更多代理能提升解决问题的速度，但在提升“智能”本身方面存在严重的收益递减，甚至可能饱和。他认为，除非出现算法层面的概念性突破，否则单纯依靠规模扩展无法通向通用超级智能（ASI）。
How it got here
拉梅兹·纳姆在Noah Smith的博客《Noahpinion》上发表文章《Where’s the “intelligence explosion”?》，首次系统阐述其对RSI导致智能爆炸的怀疑论，引用OpenAI和Anthropic数据论证反馈循环强度不足。
noahpinion.blog ↗Askwho Casts AI播客发布该文章的音频版，由Noah Smith介绍，进一步传播纳姆关于AI自我改进收益递减的观点。
askwhocastsai.substack.com ↗纳姆发表续篇《Can a Million AI Agents Create Superintelligence?》，专门反驳“代理群”（Agent Swarms）能通过并行计算实现智能飞跃的说法，指出其在解决复杂问题上的收益同样急剧递减。
noahpinion.blog ↗
What is still unsettled
- OpenAI或Anthropic是否会公开更多内部数据以验证纳姆关于‘反馈循环强度需提高5-10倍’的估算？
- 阿里巴巴等公司声称的Type 3级别自主改进是否有独立第三方证据支持，从而挑战纳姆的怀疑论？
- 如果缺乏算法层面的概念性突破，AI能力的线性增长是否会导致行业投资回报率的显著下降？