阅读研究雷达投资体系
登录 / 注册
← 返回阅读
专题DisconfirmAI 编辑部更新于 2026-11-19 11:31

巴黎AI安全与保障呼吁

3 节点1 篇5 来源

2026年11月9日,法国总统马克龙在爱丽舍宫召集会议,发起并签署了《巴黎AI安全与保障呼吁》(Paris Call for AI safety and security)。该倡议由包括加拿大、芬兰、荷兰在内的六个国家政府,以及Anthropic、OpenAI、微软等十家主要AI企业共同签署,旨在建立前沿模型的风险评估框架、问责机制及信息共享体系。

协议核心包含三项承诺:一是建立标准化的前沿模型评估框架,要求以统一格式发布非敏感评估结果并建立共享数据库;二是确立责任原则,开发者需实施“故障安全”机制(即终止开关),以便在必要时暂停或关闭模型运行,同时政策制定者需明确大规模损害的责任归属;三是加强早期预警,为举报人提供保密渠道以报告系统性风险,免受报复。

值得注意的是,德国最初未参与会议也未签署,但在后续宣布加入。此外,尽管该呼吁被视为国际合作的里程碑,但部分组织如人工智能安全中心(CeSIA)指出,它仅是自愿性政治承诺,缺乏强制性的独立评估标准、共同风险阈值以及公共当局暂停模型部署的权力,因此呼吁将其转化为具有法律约束力的监管措施。美国、英国和中国均未签署该文件。

事情怎么走到这一步

  1. 2026-11-09

    法国总统马克龙在爱丽舍宫召开会议,六国政府(巴林、加拿大、芬兰、法国、挪威、荷兰)与十家AI公司(含Anthropic, OpenAI, Microsoft等)及四个民间团体签署《巴黎AI安全与保障呼吁》。

    pm.gc.ca ↗
  2. 2026-11-10

    人工智能安全中心(CeSIA)作为签署方之一发表声明,欢迎该框架但批评其缺乏强制性独立评估和公共当局的暂停权,呼吁加强执行力度。

    cesia.org ↗
  3. 2026-11-16

    据heise online报道,德国虽未参加初始会议,但已确认支持并补签了该呼吁。此时签署国总数增至18个,另有11个NGO加入。

    heise.de ↗

还没定论的部分

  • 各签署国如何将自愿承诺转化为国内法或具有约束力的国际标准?
  • “终止开关”的具体技术实现标准及第三方验证机制将如何定义?
  • 未签署的主要AI大国(美、中、英)是否会推出替代性或竞争性框架?

来源

登录 / 注册
阅读研究雷达投资体系
heise.deheise online (English)↗
  • pm.gc.caCanadian Prime Minister's Office↗
  • elysee.frÉlysée Palace↗
  • cesia.orgCeSIA Press Release↗
  • paktechstan.comPakTechStan↗
  • 这一专题下的内容

    • 18国与10家AI企业签署《巴黎AI安全与保障呼吁》,承诺建立“终止开关”与举报人保护机制2026-11-17资讯

      法国发起的跨国倡议获Anthropic、OpenAI等支持,德国在缺席初期会议后补签。协议包含标准化评估数据库及内部中断机制等具体技术承诺。