Anthropic向METR开放类员工权限，落实AI安全审计承诺

美国人工智能公司 Anthropic 宣布，已向非营利评估机构 METR（Model Evaluation & Threat Research）的六名工作人员开放“类似员工级别的访问权限”。这一举措旨在兑现此前关于强化第三方安全监督的承诺，应对业界对前沿模型可能引发灾难性失控风险的担忧。

根据公告，METR 团队已正式入驻 Anthropic 办公场所，获得公司硬件设备以及内部工具与系统的访问权，其权限范围大致等同于 Anthropic 内部风险评估团队。Anthropic 鼓励员工像对待内部风险同事一样，向这些外部评估人员共享信息。

在独立性方面，Anthropic 表示不会为这项合作向 METR 支付费用。METR 的资金来源包括个人捐赠、慈善组织以及英国人工智能安全研究所等政府机构资助，且不接受 AI 企业及其员工的直接捐赠。评估人员发布的分析报告，Anthropic 无权否决发布行为，但可要求删减特定类别的信息，如客户数据、受律师客户保密特权保护的内容或模型架构细节。

此举被视为落实 Anthropic 首席执行官 Dario Amodei 在 9 月提出的方案的第一步，该方案曾获得 OpenAI CEO Sam Altman 和 xAI CEO Elon Musk 的支持，主张在头部 AI 实验室派驻外部审计人员。尽管批评者认为这种自愿安排可能存在利益冲突，呼吁更强力度的政府监管，但 Anthropic 称其模式类似于银行监管机构派驻常驻审查员，旨在提前发现威胁公众利益的隐患。

此外，Anthropic 还披露了与其他第三方的合作：继续与埃森哲（Accenture）合作搭建安全防护体系，双方各自承诺投入至少 10 亿美元；并与 SecureBio 合作审查化学与生物武器相关风险。随着 Anthropic 计划进行估值超 2 万亿美元的首次公开募股（IPO），展示独立的安全治理机制成为其向投资者保证的关键一环。