AI安全博主Zvi：Anthropic不理解其草案法案为何不可接受且令人担忧

Anthropic的联邦事务负责人Anthony Cimino在周末对一份泄露给媒体的美国联邦AI安全草案法案作出回应，逐条回应了四项批评：联邦优先权（preemption）的范围、模型阻断的举证门槛、风险触发阈值、以及夏季事件后的更新。Zvi Mowshowitz——AI安全领域长期博主、'Don't Worry About the Vase'的作者——认为这份回应恰恰暴露了Anthropic没有理解问题所在。

Zvi的核心判断是：Cimino把草案的问题当作可以修补的细节，但真正的问题在于结构。这份法案将应对AI灾难性和存在性风险的全部权力集中于美国联邦政府，其优先权条款比已有的FRONTIER法案更强，但同时为联邦政府阻断模型设置了极高的门槛。用Zvi的话说，'你不能两头占便宜'——在需要优先权的地方（灾难性风险）它要求联邦独占权力，但在优先权本可以统一碎片化州法的领域（消费者保护、深度伪造）它反而没有提出优先权。

关于模型阻断，Cimino将其类比为职业安全或化学品风险的紧急处理。Zvi反驳说这个类比不成立：职业安全和化学品风险是'普通程度的危险'，可以在危害与收益之间权衡；前沿AI风险可能包含不可逆的错误，包括对未来的永久性失控或极大规模灾难性危害。他认为阻断模型显然需要'先下架、后争论'的机制，而Anthropic的草案虽然包含这一层意思（§13允许美国商务部长申请临时限制令），却用高举证门槛包装成'有意义的标准'。

Zvi指出一个更深层的结构性矛盾：Anthropic的草案让由实验室自己挑选的评估者成为美国联邦政府了解实验室内部情况的唯一窗口，同时把阻断模型的门槛设得极高。这意味着实验室既控制信息通道，又几乎不可能被外部强制停止。他承认这可以防止权力滥用，但认为这看起来是在优先保护商业利益。

文章后半部分转向一个更根本的问题：如果这是Anthropic此刻的政策提案，Anthropic究竟是什么？Zvi引用了Nathan Calvin的长篇回应，后者列举了Anthropic过去一年的加速主义行动——组建自研芯片团队、签署超过5000亿美元的算力合同、将Claude'主导'AI开发任务的比例从3月的0%提升到8月的26%、转向放弃单方面暂停承诺的RSP V3、以及那句'你无法在第二名做安全'——然后问：这些行动与Anthropic 2023年联合创始人在'Core views on AI safety'中描述的'为AI安全提供证据、拉响警报'的角色是否一致？

Zvi认为，Anthropic的'失误'有一个共同特征：它们全部偏向公司自身利益。'为什么每一个条款太弱或是对AI公司的让步，却没有一个失误是朝太强方向偏的？'他承认Anthropic也发表了重要安全研究、推进了第三方安全合作、在多个场合强调AI安全的重要性，但指出其'推动前沿'的速度远超'推动安全前沿'的速度。

Zvi的结论不是要求Anthropic支持更激进的立法，而是要求诚实：承认草案不是桌上最强的法案，承认其结构没有'匹配此刻的需求'，承认联邦优先权与高阻断门槛的组合使AI监管更难而非更易。他引用Anthropic联合创始人Chris Olah的话作为结尾：每个前沿实验室都在商业压力、地缘政治压力和人类骄傲与野心的激励中运作，'无论我们多么真诚地打算做正确的事，我们总会受到这些激励的影响'——正因如此，外部批评者的存在才至关重要。

需要注意的是，Zvi的立场是AI安全倡导者对前沿实验室政策行为的解读，不是独立核实的制度分析。他的论证力量在于模式识别——将分散的行动和条款放在一起看时呈现的方向性——而非对任何单一法律条款的权威解释。Anthropic可以合理回应说立法起草是迭代过程，具体条款的强弱反映的是对监管平衡点的探索而非预设结果。Zvi的反驳是：如果探索是真实的，失误应该双向分布。