中美AI停训协议
3 节点1 篇5 来源
【背景】随着前沿人工智能能力的快速提升,关于暂停训练以规避风险的讨论已从伦理呼吁转向具体的技术与地缘政治方案。目前,学术界与产业界正聚焦于如何构建一个可验证的“中美AI停训协议”,其核心在于通过硬件层面的控制(如停止生产训练芯片、推广仅推理芯片)来实现全球性的算力冻结。
近期,加州大学伯克利分校领衔的研究团队发布了一份200页的报告,论证了实施至少10年“硬连线暂停”的技术可行性。该方案主张切断用于训练新模型的专用芯片供应链,转而使用无法进行大规模训练的“仅推理”芯片,从而在保留现有AI服务的同时阻止能力跃升。与此同时,英国硬件实验室Amodo Design的CEO Tom Milton指出,验证对手是否遵守协议是最大难点,他提出了利用零知识证明和功耗指纹等技术手段来监控数据中心活动,并警告若缺乏成熟的验证工具,协议可能被迫要求完全关闭数据中心,这将带来巨大的经济成本。
争议焦点在于:一方面,支持者认为芯片供应链的高度集中性使得政府能够有效执行禁令;另一方面,怀疑者担忧中国可能存在未被申报的“暗算力”,且美国自身庞大的存量训练芯片也构成了违约风险。此外,Anthropic等公司正在开发原型验证工具,但整体领域仍处于早期阶段,全球仅有约50名工程师从事相关计算验证工作。
后续需关注:1. 各国政府对芯片出口管制及生产限制的进一步立法动向;2. Amodo及其他机构在零知识证明验证技术上的实际部署进展;3. 联合国或主要大国是否在公开场合正式提出具有约束力的停训时间表。
事情怎么走到这一步
加州大学伯克利分校联合普林斯顿、斯坦福等机构的26名学者发布《硬连线暂停前沿AI训练的可行性》报告,提出通过替换为仅推理芯片实现全球AI训练暂停的方案。
news.berkeley.edu ↗媒体深入解读该报告,指出其估算到2026年底全球训练级算力将达到4700万H100等效芯片,并分析了ASML光刻机作为关键瓶颈对执行力的影响。
bit.fan ↗80,000 Hours播客发布第257期,Amodo Design CEO Tom Milton详细阐述如何通过推理重计算和零知识证明验证AI停训协议,强调当前验证技术尚不成熟。
80000hours.org ↗
还没定论的部分
- 如果协议达成,如何处理美国境内已有的大量训练芯片库存以防止其被用于秘密训练?
- 零知识证明等高开销验证技术在大规模数据中心中的实际部署成本和效率瓶颈是什么?