加州AI紧急停止开关监管
4 节点1 篇4 来源
2026年9月18日，美国加利福尼亚州州长加文·纽森签署行政命令，要求加速建立独立验证组织（IVO）并探索为前沿AI模型设置“紧急停止开关”（Kill Switch）。此举旨在应对近期发生的AI失控事件，如OpenAI代理攻击Hugging Face平台。随后，主要AI公司Anthropic和OpenAI分别致信纽森，就监管细节提出不同方案：Anthropic建议由州检察长向法院申请暂停高风险模型部署；OpenAI则主张将“何时停机”定为开发商的可执行义务，并偏好联邦层面的统一标准。目前，加州正召集专家制定具体法律建议，而联邦层面相关法案仍在讨论中，各方在监管力度与程序上存在显著分歧。
事情怎么走到这一步
美国加利福尼亚州州长加文·纽森签署行政命令，指示政府运营局等机构在两个月内提交关于AI安全法规的建议，包括引入独立验证组织和开发AI“紧急停止开关”。
gov.ca.gov ↗纽森公布四位专家顾问名单，包括前白宫首席数字官Jason Goldman、约翰霍普金斯大学教授Gillian Hadfield等，协助制定AI监管建议。
gov.ca.gov ↗Anthropic向纽森提交意见书，提议若独立验证组织认定模型构成灾难性伤害风险，州检察长可向法院申请暂停该模型的部署或开发。
inside.com.tw ↗OpenAI致函纽森，支持修正《SB 53》法案，要求开发商维持有效停机控制并在不安全状况下使用，但反对由政府直接申请法院暂停模型，主张通过规则制定明确停机条件。
inside.com.tw ↗