OpenAI CEO Sam Altman:AI安全协调需要三层机制,行业联合暂停须美国反垄断豁免
Sam Altman在《Vanity Fair》视频访谈中提出AI安全协调的三层框架。他认为单边暂停已有先例,但行业联合减速需要美国反垄断豁免,中美共同安全标准则是最终目标。他称当前可能是公众支持行业协调的窗口期。
OpenAI CEO Sam Altman在《Vanity Fair》2026年10月5日发表的视频访谈中,回应了主持人Mark Guiducci关于'如果有一个红色按钮,你和中美竞争对手都能按下暂停,你会按吗'的提问。他的回答不是简单的'会'或'不会',而是把问题拆成三个层面:单边行动、行业联合、国际协议。其中第二层——行业联合减速——他明确指出需要美国反垄断豁免,因为现行法律禁止企业就'一起慢下来'进行协调。这是整个回答中最具体、也最少被其他AI安全讨论提及的制度障碍。
Altman描述的机制是:在每一级新能力出现时,必须有足够的对齐、可监控性和安全进展,才能安全地进入下一级;如果这个条件不满足,即使单边也要暂停。他举例说OpenAI最近就暂停了一次模型训练,因为能力推进太快,对齐和可监控性跟不上。但他同时承认单边行动不够,因为'会有其他开放模型存在,人们可以用它们做非常可怕的事情',而这些'要停下来就要付出极大的自由代价'。这构成了三层框架的逻辑基础:单边暂停只能管住自己的模型,管不住开源生态。
Altman认为当前可能是推动行业协调的窗口期。他说过去十年他的立场'惊人地一致',区别在于现在更多人相信他的判断,因此'可能有公众支持来做这件事'。他提到OpenAI正在与其他实验室的安全团队和负责人对话,也在与美国政府沟通。他设想如果中美能就共同安全标准和合规验证要求达成协议,那将是'不可思议的一步'。但他没有说明这些对话目前处于什么阶段,也没有给出时间表。
这个框架最明显的局限在于验证。Altman说'已经有很多次暂停了,你们没注意到',但外部观察者无法核实暂停的频率、触发条件和实际效果。更根本的问题是:谁来设定'足够的安全进展'这个阈值?Altman说'社会必须决定这里的权衡取舍',但没有说明这个决定如何产生、由谁执行、以及当阈值设定者本身是利益相关方时如何避免俘获。他把这个问题留给了'政府和公司'的组合,但具体怎么组合,访谈中没有展开。