OpenAI欧盟文本水印
4 节点0 篇5 来源
OpenAI于2026年10月5日公布应对欧盟《人工智能法案》的文本水印方案,旨在满足该法案第50(2)条关于生成内容需具备机器可读标识的要求。【背景】欧盟透明度义务已于2026年8月2日生效,针对此前已上市系统的合规宽限期截止至2026年12月2日。
OpenAI采取分阶段策略:即日起全球API客户可对特定模型选择开启水印;未来数周内,欧盟境内ChatGPT和Codex用户将默认添加隐形水印;检测器访问权限初期仅向获批研究人员开放。其技术名为“textGrain”,通过微调词选概率嵌入统计信号,而非插入可见字符或元数据。
争议焦点在于技术的可靠性与实用性。OpenAI测试显示,在1%误报率目标下,400词心理类文本检测率约95%,但数学类文本因用词受限检测率显著降低。更关键的是,编辑会大幅削弱水印:替换10%同义词后检测率从92%降至66%,替换25%后仅剩17%。此外,短文本、翻译文本难以检测,且无水印不能证明为人类创作。批评者认为,这种易被常规编辑手段破坏的水印更多是合规工具而非有效取证手段,尤其是API默认关闭导致企业级输出可能未被标记。
后续需关注:1. OpenAI承诺的开源代码发布及技术报告更新;2. 2026年12月2日欧盟对旧系统合规执法的实际力度;3. 其他签署行为准则的公司(如Anthropic、Google)是否跟进类似的分区域默认策略。
事情怎么走到这一步
欧盟《人工智能法案》透明度规则正式生效,要求生成式AI提供商确保AI生成内容以机器可读方式标记。
dev.to ↗OpenAI发布公告,宣布推出textGrain文本水印技术。全球API客户可选择开启,欧盟用户将在未来几周默认启用。同时开放检测器申请,仅限研究人员使用。
openai.com ↗TechCrunch报道指出,OpenAI此举是对欧盟AI法案的回应,并提到两个月前Anthropic曾宣布全球范围水印Claude文本,引发部分用户反弹。
techcrunch.com ↗PPC Land等媒体深入分析技术局限,指出替换25%词汇可使检测率降至17%,强调水印在对抗性编辑下的脆弱性。
ppc.land ↗