阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化2 分钟阅读DisconfirmAI 编辑部

美国加州发布AI安全监管新建议:拟赋予政府紧急停用模型权并限制自动研发算力

美国加州州长Gavin Newsom公布最新AI安全框架,提议在面临灾难性风险时允许州政府紧急关闭AI模型,并对AI自行开发更强模型的递归自我改进过程设定算力上限。

2026-11-19 15:52

美国加利福尼亚州政府于2026年11月18日发布了名为《AI Safety in 2026 and Beyond》的最新政策报告,提出了一系列旨在强化人工智能安全监管的立法建议。根据该报告,加州计划赋予州政府紧急权力,在特定条件下可直接命令企业停止运行高风险的人工智能模型,而无需事先获得法院禁令。这一举措标志着地方监管机构在应对潜在AI失控风险方面迈出了更具强制性的一步。

报告详细规定了大型先进AI开发商必须采取的应急措施,包括停止AI代理运作、撤销系统访问权限以及隔离计算资源等。当模型可能立即引发灾难性事故或严重失控,且企业无法或拒绝处理危险时,州政府有权介入并强制停机。此外,报告还建议建立持续性的第三方安全验证机制,要求独立评估机构对模型的训练、开发和部署阶段进行全程监控,并向政府提交完整结果。

针对人工智能领域备受关注的“递归自我改进”(Recursive Self-Improvement, RSI)现象,即AI系统在无人工干预下自主开发能力更强的后续模型,加州提出了具体的限制方案。报告建议要求企业披露AI参与研发的程度及投入自动化研发的算力资源。如果AI自动研发的进展超过了现有的安全措施和评估能力,并带来造成灾难性危害的实质风险,州政府将有权限制企业投入此类自动化研发的算力比例。

在事件通报方面,报告建议扩大重大AI安全事件的定义范围,将模型失控及企图窃取模型权重的事件纳入其中,并为险些酿成事故的情况建立通报渠道。多数重大事件的通报期限拟从现行的15天缩短至48小时,对于具有迫切灾难性风险的事件则维持24小时的通报要求。

值得注意的是,这些措施目前仍处于政策建议阶段,需要通过加州立法程序才能正式实施。此前,加州已在2025年通过了SB 53法案,并于2026年签署了SB 813及AB 1405,建立了独立验证机构认定及AI稽核人员登录制度。此次报告是在州长Gavin Newsom于9月下令研究紧急关闭机制后提出的具体立法蓝图,反映了监管机构试图在鼓励创新与防范系统性风险之间寻找新的平衡点。

来源

  • ithome.com.twiThome↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系