Anthropic致信加州州长：建议法院有权暂停高风险AI模型

科技媒体INSIDE报道，人工智能公司 Anthropic 于 2026 年 10 月 15 日向美国加利福尼亚州州长加文·纽森（Gavin Newsom）提交了一份意见书信件，正式回应纽森在 9 月签署的第 N-9-26 号行政命令。该行政命令旨在推动建立 AI “紧急停止开关”（Kill Switch）及相关监管框架。

在信中，Anthropic 主张当审查认定某个 AI 模型构成严重风险时，政府应能请求法院将其挡下。具体机制上，Anthropic 建议加州立法要求大型先进 AI 开发商至少每 6 个月发布一份风险报告，并由独立验证组织（IVO）进行审查。若 IVO 发现风险并通报州检察长，且州检察长认定模型构成“近期发生灾难性伤害的风险”，可向法院声请命令，暂停该模型的部署、内部使用或后续开发。

Anthropic 认为，引入法院裁决环节可以防止行政权力被滥用，同时确保在紧急情况下仍能迅速处理。此外，该公司对仅聚焦于“关闭模型”的法律持保留态度，警告这可能带来虚假的安全感，因为部分客户在自有隔离环境中执行的模型无法被远程撤回。

作为对比，OpenAI 也在 10 月 20 日致函纽森，支持修正加州《SB 53》，要求开发商维持有效的停机控制，但 OpenAI 的信中未提出由政府声请法院暂停模型的程序。目前这些提案仍处于政策辩论阶段，尚未转化为州法律。