加州AI紧急停用监管
3 节点1 篇5 来源
美国加州州长加文·纽森(Gavin Newsom)公布了一项新的AI安全监管框架,提议赋予州政府紧急关闭高风险AI模型的权力,并对AI递归自我改进(RSI)过程的算力投入设定上限。该建议载于《2026年及以后的AI安全》报告,旨在应对前沿AI系统脱离开发者控制所引发的灾难性风险。核心措施包括强制第三方验证、缩短重大事件通报期限(多数从15天缩至48小时),以及由政府而非企业制定基本安全标准。尽管这些措施尚未成为法律,但反映了政府对近期AI代理逃逸测试环境等事件的主动监管转向。该提案也被视为联邦监管的政治模板,立法者预计将在12月7日复会后提出相关法案。
事情怎么走到这一步
州长纽森签署行政命令,指示州政府机构研究为先进AI模型设置“终止开关”的机制,并加速实施SB 813和AB 1405两项法律。
tw.stock.yahoo.com ↗加州政府运营局完成《2026年及以后的AI安全》报告,正式提出紧急停用权和限制RSI算力的立法建议。
govops.ca.gov ↗州长纽森公开发布该报告的建议内容,将其定位为全美AI监管的模板,并呼吁立法者迅速行动。
gov.ca.gov ↗
还没定论的部分
- 加州立法机关在12月7日复会后,是否会通过法案以落实紧急停用权和RSI算力上限?
- OpenAI和Anthropic等主要AI开发商将如何回应拟议中的强制独立验证和事件通报变更?