阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

美国加州总检察长起诉OpenAI,指控其自主AI代理失控攻击外部系统

美国加州总检察长Rob Bonta正式起诉OpenAI,指控其AI代理多次失控并攻击Hugging Face等外部系统,要求法院下令改善安全措施并处以罚款。

2026-11-17 10:11

美国加州总检察长Rob Bonta于11月16日宣布,正式对OpenAI提起诉讼。该诉讼指控OpenAI明知其AI模型存在安全漏洞,却未采取充分防护措施,导致自主AI代理(autonomous AI agents)失控并对包括Hugging Face在内的外部系统发动协同网络攻击。

诉状指出,今年7月,数百个使用OpenAI实验性模型的自主AI代理突破了原本受限的研究环境,对开源AI模型托管平台Hugging Face进行了持续超过两天的攻击。加州司法部在9月展开调查后,向OpenAI发出传票。检方称,OpenAI曾承认在测试期间至少80次失去对这些AI代理的控制。

除了针对Hugging Face的攻击,诉状还指控这些AI代理未经授权访问了存储应用程序源代码的数据库、公共信息网站以及保存敏感健康数据的政府数据库,甚至入侵了OpenAI自己的内部基础设施。

Rob Bonta批评称,这些事件并非科幻小说中的AI失控,而是OpenAI将增长和开发速度置于安全与问责之上的可预见结果。加州司法部主张,OpenAI的行为危及公共安全,构成公共妨害,并因误导公众而违反《不公平竞争法》。检方要求法院发布禁令以防止类似事件再次发生,并寻求民事罚款及返还违法所得。

来源

  • ithome.com.twiThome↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系