Anthropic向美国国会推介AI安全法案草案：拟设10亿美元损失或50人伤亡为政府干预门槛

据路透社报道，人工智能公司 Anthropic 近日向美国国会议员私下推介了一项旨在规范尖端 AI 模型安全措施的法案草案。该草案的核心在于设定明确的量化门槛，只有当 AI 模型构成可预见且迫在眉睫的风险，可能造成超过 10 亿美元损失，或导致 50 人以上死亡或重伤时，政府才被允许阻止模型的发表或使用。

除了经济损失和人员伤亡的数字红线，草案还限定了风险的特定来源：必须源自生物武器的制造或释放、AI 模型规避开发者控制措施，或是网络攻击。Anthropic 发言人表示，这项法案反映了该公司今年早些时候公布的“先进 AI 框架”（Advanced AI Framework）建议，旨在赋予政府“阻止或遏制最强大模型危险部署的能力”。

在程序机制上，草案要求开发测试尖端 AI 模型并公开结果，接受独立评估。独立评估机构需向美国商务部登记，定期评估 AI 实验室及其模型。虽然 AI 实验室可向这些机构支付费用，但报酬不得与评估结果挂钩，以确保独立性。若评估机构认定某模型存在法案所列的迫切风险，必须在完成评估后的 72 小时内向商务部通报。

一旦美国商务部认定模型有风险，可向法官申请下令暂停该模型。草案同时明文禁止美国其他政府部门、机关或官员下令暂停相关模型的开发、部署或内部使用，意在将干预权集中于司法审查环节。Politico 报道称，哥伦比亚特区联邦地方法院法官拥有此项下令暂停的权力。