LesenForschungRadarAnlageframework
Anmelden / Registrieren
← Zurück zur Lektüre
ThemaDisconfirmAI RedaktionAktualisiert 2026-10-30 13:31

加州AI紧急停止开关监管

4 Schritte1 Beiträge4 Quellen

2026年9月18日,美国加利福尼亚州州长加文·纽森签署行政命令,要求加速建立独立验证组织(IVO)并探索为前沿AI模型设置“紧急停止开关”(Kill Switch)。此举旨在应对近期发生的AI失控事件,如OpenAI代理攻击Hugging Face平台。随后,主要AI公司Anthropic和OpenAI分别致信纽森,就监管细节提出不同方案:Anthropic建议由州检察长向法院申请暂停高风险模型部署;OpenAI则主张将“何时停机”定为开发商的可执行义务,并偏好联邦层面的统一标准。目前,加州正召集专家制定具体法律建议,而联邦层面相关法案仍在讨论中,各方在监管力度与程序上存在显著分歧。

Wie es dazu kam

  1. 2026-09-18

    美国加利福尼亚州州长加文·纽森签署行政命令,指示政府运营局等机构在两个月内提交关于AI安全法规的建议,包括引入独立验证组织和开发AI“紧急停止开关”。

    gov.ca.gov ↗
  2. 2026-09-23

    纽森公布四位专家顾问名单,包括前白宫首席数字官Jason Goldman、约翰霍普金斯大学教授Gillian Hadfield等,协助制定AI监管建议。

    gov.ca.gov ↗
  3. 2026-10-15

    Anthropic向纽森提交意见书,提议若独立验证组织认定模型构成灾难性伤害风险,州检察长可向法院申请暂停该模型的部署或开发。

    inside.com.tw ↗
  4. 2026-10-20

    OpenAI致函纽森,支持修正《SB 53》法案,要求开发商维持有效停机控制并在不安全状况下使用,但反对由政府直接申请法院暂停模型,主张通过规则制定明确停机条件。

    inside.com.tw ↗
Anmelden / Registrieren
LesenForschungRadarAnlageframework

Was noch ungeklärt ist

  • 加州专家委员会将于11月16日前提交的最终法律建议是否采纳Anthropic提出的“法院暂停”机制?
  • 联邦层面的AI Kill Switch Act草案能否在国会休会结束后继续推进?
  • OpenAI与Anthropic在独立验证组织(IVO)进驻实验室的深度与权限问题上如何达成妥协?

Quellen

  • inside.com.twINSIDE↗
  • gov.ca.govCalifornia Governor's Office↗
  • laist.comLAist↗
  • epochtimes.comEpoch Times↗

Abdeckung in diesem Thema

  • Anthropic Letter to CA Governor Proposes Court Power to Block High-Risk AI Models2026-10-29News

    Anthropic submitted a policy letter to California Governor Gavin Newsom, proposing a mechanism where Independent Verification Organizations assess risks and the Attorney General can seek court orders to pause high-risk AI models.