80,000 Hours播客：Amodo CEO谈如何验证中美AI停训协议
推荐收听80,000 Hours播客第257期。本期嘉宾为英国硬件实验室Amodo Design的CEO Tom Milton，他详细阐述了如何通过推理重计算、零知识证明及功耗指纹等技术，验证竞争对手是否真的停止了前沿AI模型的训练。
如果美国和中国同意暂停前沿AI训练，双方该如何确认对方遵守了协议？在80,000 Hours播客第257期中，英国硬件实验室Amodo Design的CEO Tom Milton给出了他的答案：通过技术手段验证算力使用情况。Milton指出，直接关闭数据中心虽然是最简单的办法，但代价极其高昂，因为这会切断所有现有的AI服务。因此，验证技术的核心价值在于降低合规成本，让各方在暂停训练的同时仍能继续提供推理服务。
节目中，Milton介绍了Amodo正在开发的几种具体验证机制。首先是“推理重计算”（inference recomputation），即在数据中心内部署网络分流器，将流量复制到独立的验证服务器上重新运行模型，检查输出是否一致，从而发现未声明的训练负载。其次是利用GPU功耗波动作为“侧信道”信息，因为训练和推理在电力消耗模式上存在可识别的差异。此外，他还提到了基于零知识证明的方案，旨在不泄露模型权重的前提下完成验证。
尽管这些技术在概念上可行，但Milton也坦言该领域目前非常小众，全球仅有约50名工程师从事相关工作。他强调，定制验证硬件的开发周期很长，需要经过安全测试、红队演练和大规模生产。如果中美在未来几个月内突然达成紧急协议，现有的工具可能无法及时部署，届时可能不得不采取关闭数据中心等极端措施。因此，他呼吁AI公司、政府和资助者现在就开始扩大对这一领域的投入。