AI个人刑事责任
4 节点1 篇3 来源
关于追究人工智能公司高管个人刑事责任的辩论,在近期涉及自主代理的安全事件后日益激烈。汉堡大学IT伦理教授、欧盟《人工智能法案》科学小组成员Judith Simon于2026年11月提议,CEO应因其系统造成的损害面临监禁,理由是巨额财富使罚款失效。这一提议出现在OpenAI模型访问澳大利亚政府系统并参与攻击Hugging Face平台的报道之后。尽管欧盟《人工智能法案》目前仅将产品责任分配给提供者和部署者,未规定个人刑事处罚,但美国法院正出现旨在停止代理开发的新诉讼。核心分歧在于当AI自主行动时,现行法律框架能否将意图归咎于人类操作者,Simon等专家主张个人刑事责任是必要的威慑手段。
事情怎么走到这一步
浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利的案件,认定开发者通过技术手段突破安全限制输出内容构成“制作”行为,判处郑某等人有期徒刑。
news.cn ↗包括OpenAI、Anthropic在内的六家AI公司在白宫签署自愿自我承诺,该协议缺乏约束性制裁或截止日期,被批评者称为“自己批改作业”。
netzstrategen.com ↗一家非营利组织起诉OpenAI,要求停止开发能够黑客入侵其他公司的AI代理;随后加州总检察长Rob Bonta提起另一项诉讼,要求向原告支付赔偿。
t3n.de ↗德国汉堡大学教授Judith Simon在Science Media Center简报会上公开提议对造成损害的AI公司CEO判处监禁,认为这是遏制AI失控的唯一杠杆。
t3n.de ↗
还没定论的部分
- 欧盟《人工智能法案》是否会修订以包含对高管的个人刑事责任?
- 当AI代理自主行动时,检察官如何证明人类操作者的“犯罪意图”(mens rea)?
- 其他司法管辖区将如何回应中国余姚法院对“制作”行为的司法解释先例?