OpenAI将在欧盟为ChatGPT文本加水印

编者按：当AI写作与人类写作越来越难分辨，监管者选择把“可追溯”写进法律。OpenAI在欧盟为ChatGPT文本加隐形水印，既是一次合规动作，也是一场关于内容可信度的长期实验。

据TechCrunch报道，OpenAI将在欧盟范围内为ChatGPT和Codex生成的文本加入水印，以符合《欧盟人工智能法案》（EU AI Act）对AI生成内容的透明度要求。值得注意的是，这些水印是“隐形”的——普通用户在复制、粘贴或阅读时不会察觉任何差别，但它们可以被相应的检测工具识别出来。OpenAI同时坦承，一旦文本经过编辑或改写，这些不可见的标记会变得更难被检测到。

欧盟AI法案：把“可追溯”写进法律

《欧盟人工智能法案》被认为是全球首部对AI进行系统性、风险分级监管的法律。其透明度条款要求，生成式AI系统的提供者必须以机器可读的方式标记AI生成的内容，覆盖文本、图像、音频与视频，让下游用户和平台能够判断内容的来源。对OpenAI这样在欧盟拥有大量用户的模型提供商而言，这意味着除了回答“能不能生成好内容”，还要回答“生成的内容能不能被认出来”。

这项义务的落地并不轻松。文本不同于图像和音频：一张AI生成的图片可以嵌入几乎无损的元数据，而一段文字在被用户复制进邮件、文档或社交媒体后，往往只剩下纯字符，任何附带的元数据都会丢失。这也是为什么文本水印必须在字符层面或生成分布层面做文章。

文本水印是怎么“隐形”的

业界常见的做法主要有两类。一类是在文本中埋入不易察觉的统计规律，例如在模型逐词生成时，按照一个只有服务方掌握的密钥，对候选词的概率分布做轻微偏置，使输出的用词选择携带可被算法识别的“指纹”。另一类是对文本做密码学签名或元数据标记，例如内容凭证（C2PA）标准所倡导的方案。前者不改变阅读体验，却难以抵御改写；后者更稳健，但在纯文本被复制粘贴后极易丢失。

“水印可以告诉我们内容来自某个模型，但它不是一把万能钥匙。任何足够用心的编辑，都可能让痕迹变淡。”——这几乎是所有文本水印方案共同面对的难题。

编辑与改写：水印的天然软肋

OpenAI此次明确提示“编辑会让水印更难被检测”，实际上点出了整个AI内容溯源领域的核心矛盾：水印要在“不打扰人类阅读”和“经得起篡改”之间取得平衡，而这两者天然冲突。用户哪怕只是把AI生成的段落换个说法、调整语序，或者用另一个模型润色一遍，统计指纹就可能被稀释甚至消除。这意味着水印更适合回答“这段文本是否原封不动地出自模型”，而不是“这段文本是否由AI参与创作”。

对平台和监管者而言，这既是工具，也是提醒：不能把水印检测结果当作判定内容真伪的唯一依据。误判与漏判都会带来现实后果——被误标的原创作者可能面临质疑，而被改写的AI内容则可能顺利通过检测。

行业影响：溯源之争才刚开始

OpenAI的欧盟动作具有明显的示范效应。谷歌、Meta、Anthropic等厂商同样面对欧盟的透明度要求，若OpenAI先行落地，竞争者很难长期置身事外。围绕水印，行业已经出现两条路线：一条是各家自建、互不兼容的私有水印；另一条是推动跨平台的标准与联盟，让“这段内容是谁生成的”能够被通用工具回答。历史经验表明，标准的建立往往比技术本身更慢，也更难。

与此同时，水印也可能带来新的隐私与合规争议：如果水印可以被用来追踪某段文本的生成者或使用者，它是否会与数据保护规则发生摩擦？检测工具本身会不会被滥用为内容审查的入口？这些问题目前都还没有公认答案。

结语

对OpenAI来说，在欧盟加水印是一次成本可控的合规选择；对整个行业来说，它更像是一场公开的压力测试——测试技术能否跟上立法的步伐，也测试我们是否真的准备好用“可追溯”来重建对内容的信任。可以确定的是，随着AI生成内容在互联网上的占比持续攀升，围绕水印、检测与标准的博弈，只会越来越频繁地出现在产品更新的说明里。

本文编译自TechCrunch。