Zvi Mowshowitz:Anthropic安全牺牲偏向创始人关切,未覆盖失控风险
Zvi Mowshowitz在分析Anthropic近期多项动态后指出,该公司确实在生物安全和对华出口管制等领域做出了有实质代价的牺牲,但这些牺牲集中在CEO Dario Amodei个人高度关注的领域;在模型对齐和失控风险方面,公司缺乏同等力度的行动,且其S-1文件已提交美国证券交易委员会,治理透明度问题将在公开市场接受检验。
Zvi Mowshowitz在2026年10月27日的博客中提出了一个关于Anthropic的核心观察:这家公司同时做到令人钦佩和令人失望的事情,而这两者并非随机分布——它们沿着CEO Dario Amodei的个人关切线分裂。Mowshowitz在开篇写道:'Anthropic是一家令人沮丧的公司。'
Dario Amodei在回应调查记者Nathan Calvin对Anthropic泄露法案的批评时,列出了公司在过去一年中做出的九项有实质商业代价的安全行动,包括推动SB53立法、严格生物安全过滤、延迟发布Mythos级模型、公开主张政府有权阻止模型发布、对华芯片出口管制、限制向受中国控制的公司销售AI服务、发布大量风险报告,以及将5%股份投入公共利益基金。
然而,Mowshowitz注意到这些牺牲有一个共同特征:它们集中在Dario个人高度关注的领域——生物安全、对华出口管制、中国公司限制。他引用科技记者Kelsey Piper在Anthropic内部简报会上的观察作为反面证据:当被问及超级智能对齐和失控风险的计划时,Piper的总结是:'没有计划,没有计划,没有计划'——既没有超级智能对齐的计划,也没有避免权力集中或失控的计划,更没有对超级智能下美好世界的设想。
Cody Fenwick进一步指出,Dario声称Anthropic的策略'一直是'追求最高标准,但2022年的一次采访中Dario明确表示Anthropic'不应该加速前进',模型只需'大致接近最先进水平'即可——这与'追求最高标准'是不同的定位。
Mowshowitz认为,这种选择性模式在治理层面产生了具体后果。Anthropic已向美国证券交易委员会提交S-1文件。公司本周宣布设立公共利益基金,以新的Class N股份(有经济权益但无投票权)承诺5%的股份——须经股东批准——并在公司价值超过某一基线后每增长50%时由董事会酌情追加2%。
独立评估机构METR已获得Anthropic的'类员工访问权限',可获取大部分类别的内部信息,仅客户数据、律师-特权和关键知识产权(如模型架构信息)除外。METR可发布其对Anthropic风险等级、事件或实践的分析,Anthropic无权否决发布,但可要求对特定类别信息进行脱敏处理。
Mowshowitz也承认自己的分析有明确边界。他写道:'我对Anthropic的了解比几乎任何人都多,却无法把我的担忧用一种让在里面工作的人觉得真实的方式表达出来——也许是我错了,也许是因为他们太忙太累。'他同时指出,Anthropic领导层是否认同存在真正的问题,本身并不完全清楚。
对评估Anthropic作为AI产业投资对象的读者而言,Mowshowitz的框架提供了一个具体的检验标准:不要只看公司声称关心什么,而要看它在哪些领域愿意承担可量化的商业代价,以及那些代价是否覆盖了公司自身风险叙事中最严重的威胁。