AI 2040暂停计划
4 steps1 pieces5 Sources
【背景】由前OpenAI研究员Daniel Kokotajlo领导的AI Futures Project于2026年7月发布《AI 2040: Plan A》,主张美中两国达成国际协议,将超级智能的开发推迟至2040年,以换取50%的年GDP增长并避免失控风险。该计划并非预测,而是建议通过“硬连线暂停”(hardwired pause)限制前沿模型训练。
时间线上,2026年10月9日,加州大学伯克利分校等机构联合发布研究,证实通过替换为仅支持推理的芯片可实现全球性、可验证的训练暂停;10月15日,LessWrong文章指出AI市场平台(如OpenRouter)因在暂停期间能维持中介价值而具有推动此计划的商业动机;同期arXiv论文探讨了条约退出机制与监管捕获策略。
争议在于:加速主义者认为暂停阻碍创新,且地缘政治互信难以建立;支持者则强调现有供应链集中度使硬件监控可行,且暂停能防止权力过度集中。关键分歧点在于“验证成本”与“违约惩罚”的可执行性。
后续需关注:1. 2028年美国大选期间AI政策是否成为核心议题;2. 主要AI实验室对“仅推理芯片”架构的实际采纳情况;3. 中美是否启动关于AI计算追踪的双边对话。
How it got here
AI Futures Project发布《AI 2040: Plan A》,建议美中合作暂停前沿AI开发至2040年。
blog.aifutures.org ↗Semafor报道该计划引发争议,Kokotajlo澄清其非反增长,旨在平衡风险与收益。
semafor.com ↗UC Berkeley等多校学者发布报告,论证通过硬件替换实现全球AI训练暂停的技术可行性。
news.berkeley.edu ↗LessWrong分析指出AI市场平台因在受控扩散中获利,有动力推动此类暂停计划。
lesswrong.com ↗
What is still unsettled
- 各国政府是否愿意接受基于硬件层面的强制监控?