巴黎AI安全与保障呼吁
3 节点1 篇5 来源
2026年11月9日,法国总统马克龙在爱丽舍宫召集会议,发起并签署了《巴黎AI安全与保障呼吁》(Paris Call for AI safety and security)。该倡议由包括加拿大、芬兰、荷兰在内的六个国家政府,以及Anthropic、OpenAI、微软等十家主要AI企业共同签署,旨在建立前沿模型的风险评估框架、问责机制及信息共享体系。
协议核心包含三项承诺:一是建立标准化的前沿模型评估框架,要求以统一格式发布非敏感评估结果并建立共享数据库;二是确立责任原则,开发者需实施“故障安全”机制(即终止开关),以便在必要时暂停或关闭模型运行,同时政策制定者需明确大规模损害的责任归属;三是加强早期预警,为举报人提供保密渠道以报告系统性风险,免受报复。
值得注意的是,德国最初未参与会议也未签署,但在后续宣布加入。此外,尽管该呼吁被视为国际合作的里程碑,但部分组织如人工智能安全中心(CeSIA)指出,它仅是自愿性政治承诺,缺乏强制性的独立评估标准、共同风险阈值以及公共当局暂停模型部署的权力,因此呼吁将其转化为具有法律约束力的监管措施。美国、英国和中国均未签署该文件。
事情怎么走到这一步
法国总统马克龙在爱丽舍宫召开会议,六国政府(巴林、加拿大、芬兰、法国、挪威、荷兰)与十家AI公司(含Anthropic, OpenAI, Microsoft等)及四个民间团体签署《巴黎AI安全与保障呼吁》。
pm.gc.ca ↗人工智能安全中心(CeSIA)作为签署方之一发表声明,欢迎该框架但批评其缺乏强制性独立评估和公共当局的暂停权,呼吁加强执行力度。
cesia.org ↗据heise online报道,德国虽未参加初始会议,但已确认支持并补签了该呼吁。此时签署国总数增至18个,另有11个NGO加入。
heise.de ↗
还没定论的部分
- 各签署国如何将自愿承诺转化为国内法或具有约束力的国际标准?
- “终止开关”的具体技术实现标准及第三方验证机制将如何定义?
- 未签署的主要AI大国(美、中、英)是否会推出替代性或竞争性框架?