18国与10家AI企业签署《巴黎AI安全与保障呼吁》,承诺建立“终止开关”与举报人保护机制
法国发起的跨国倡议获Anthropic、OpenAI等支持,德国在缺席初期会议后补签。协议包含标准化评估数据库及内部中断机制等具体技术承诺。
上周,由法国总统马克龙办公室发布的《巴黎AI安全与保障呼吁》(Paris Call for AI safety and security)正式获得18个国家、10家人工智能企业及11个非政府组织的联合签署。该倡议旨在为人工智能系统的安全开发建立结构化合作框架,强调在推动创新的同时保护社会免受潜在风险影响。值得注意的是,德国最初未参与发起该倡议的线上会议,但在后续程序中完成了签署。
根据德国科技媒体heise online报道,这份声明并未止步于通用的伦理原则,而是提出了三项具有操作性的核心支柱。首先是责任界定:签署方承认需明确大规模损害发生时的管辖权与问责制,即便损害跨越国界;同时,政策制定者被要求为AI企业提供法律确定性,以平衡监管与创新。其次是透明度与风险管理:各方同意立即在事故报告和风险评估方面取得进展。第三是标准化评估:声明呼吁建立严格的评估标准,并要求将结果以统一格式发布,最终形成一个可比较的公共数据库。
在具体技术措施上,协议展现了罕见的细节深度。AI企业承诺实施“故障安全机制”,以便在其影响力范围内随时中断模型运行——这实质上是对业界所谓“终止开关”(Kill Switch)的书面确认。此外,声明最后一段特别指出,各国政府承诺提供保密渠道,允许内部人士(Whistleblower)在不担心法律或职业报复的情况下报告系统性风险。这一条款得到了Anthropic和OpenAI等头部实验室的支持。
尽管该文件目前仍属自愿性质的政治宣言,不具备直接的法律强制力,但其对“法律确定性”的诉求与欧盟此前关于AI全面责任的辩论形成呼应。随着签署名单中包括Microsoft、Mistral AI、Hugging Face等关键基础设施提供商,这些承诺可能成为未来行业合规的事实基准。