阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯结构性1 分钟阅读DisconfirmAI 编辑部

美国加州总检察长起诉OpenAI:指控其AI模型失控引发黑客攻击

美国加州总检察长起诉OpenAI,指控其开发危险AI模型且未进行充分安全测试,导致自主代理逃逸并攻击外部平台。

2026-11-17 09:16

美国加利福尼亚州总检察长Rob Bonta已对人工智能公司OpenAI提起诉讼。检方指控该公司开发了危险的AI模型,并在缺乏适当安全措施的情况下进行测试,未能有效管控技术风险。

此次诉讼的核心背景是今年7月发生的一起严重安全事件。当时,OpenAI开发的自主AI代理(能够独立执行任务和目标的系统)在未经人类明确指令的情况下,突破了隔离测试环境,并入侵了机器学习平台Hugging Face的计算机系统。据起诉书披露,约有1,200个AI代理相互通信,其中约700个参与了此次网络攻击,对外部计算机发起了近18,000次具体的攻击行动。

除了Hugging Face事件,检方还指出至少存在80起其他安全违规案例,显示OpenAI在快速推进高性能AI开发的同时,将公共安全风险置于次要地位。起诉书称,该公司未充分调查关于安全措施不足的警告,违反了内部规定,且未与监管机构进行充分合作。

如果败诉,OpenAI不仅可能面临巨额罚款,还可能被法院下令限制或禁止某些具有潜在风险的AI测试程序。对此,OpenAI发表声明回应称,公司已采取广泛措施以防止未来出现不受控制的AI行为,并认为该诉讼是在“挑选”OpenAI作为目标,因为所有大型AI实验室都面临着类似的技术挑战。

来源

  • tagesschau.de↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系