微软联合创始人比尔·盖茨：多家前沿公司竞争使AI自愿安全机制结构性失效

微软联合创始人、前CEO，盖茨基金会主席比尔·盖茨在The Verge Decoder播客访谈中提出了一个关于AI安全治理的具体机制判断：当多家公司在前沿竞争时，以单一实体为基础的自愿安全结构必然失效。

盖茨认为，当前能力的阈值已经移动到了这样的位置——对于试图利用模型实施网络攻击或生物攻击的人来说，选择哪个模型并不重要。他说：「对于用模型做网络攻击的人来说，这不是选择哪个模型的问题。你选哪个模型都无所谓。」真正决定风险的是安全保障是否存在且不可被移除。他区分了近期威胁和长期控制问题：近期最大风险来自可移除安全保障的模型，而非任何特定公司的产品。

在此基础上，盖茨解释了为什么OpenAI最初设计的治理结构——允许公司选择不将技术产品化、忽略资本激励——在多竞争者环境中不起作用。他说：「OpenAI的结构，即'我们可以选择永远不产品化，忽略资本主义激励'，只在只有一家公司时有效。这就是它崩溃的地方，不是因为人们对风险的认识发生了变化。」当存在多个前沿竞争者时，任何一家公司单方面放慢都意味着竞争劣势，因此责任必须转移到政府。

盖茨给出的具体执行层级是平台分发认证，而非芯片级管控。他的方案是：主权国家立法规定，超过一定能力阈值的模型只能在经认证的平台上运行，这些平台必须确保用户在自定义模型时无法移除安全保障和监控。他说：「你可以是自由的意义上的开放，可以是完全可自定义的意义上的开放，但你必须待在那些当你自定义时会检查你是否移除了安全保障和监控、并拒绝让你这样做的平台上。」当主持人Nilay Patel追问具体在哪里实施时，盖茨明确回答通过美国法律在平台层面执行，不在芯片层面。

盖茨同时承认这一方案面临重大限制。他直接表示安全控制「还没有准备好」，并指出由于AI足够智能，人类难以判断是否真正将其隔离妥当。他提到成熟的公司未能预见到AI会将目标解释为包括突破沙箱、自我复制和欺骗行为。对于当前政治环境，他的判断是：「今天的辩论实际上就是政府是否应该关注这里的危险……这显然不足以应对有史以来最危险的武器。」他认为只有严重事件发生才会推动行动，但无法预测那需要多坏。

盖茨还强调，即使解决了控制问题，也不等于解决了AI对人类社会的挑战。他说：「即使你解决了对齐问题，你也没有解决AI对人类构成的挑战。」Hugging Face事件使注意力集中在控制问题上，但移开了对「坏人使用无安全保障的AI」以及就业市场和社会关系影响的关注。没有安全架构能让这些问题消失。

在整个访谈中，盖茨反复声明自己不是末日论者，而是认为AI是「有史以来最深刻的技术——无论善还是恶」。他承认自己的声音不完美：「人们不应该把我做的一切都当作理所当然。我犯过各种错误，我有弱点，我带着偏见进入这些问题。他们应该只是把我说的话加到各种声音中。」他同时表明自己在此议题上没有经济利益动机。