OpenAI将在欧盟对ChatGPT和Codex文本添加水印

区块链文库报道：

OpenAI 将在欧盟范围内对 ChatGPT 和 Codex 输出文本实施水印技术

OpenAI 正计划扩展其现有的 AI 生成内容检测策略，在欧盟范围内针对符合条件的 ChatGPT 和 Codex 输出结果引入文本水印技术。该公司表示，将在未来几周内启动部署流程，以满足《欧盟人工智能法案》（EU AI Act）的相关合规要求。

隐形水印的工作原理

与可见的标签不同，这种水印是嵌入在生成文本中的隐形统计信号。OpenAI 指出，该系统的目的是帮助判断某段文本是否可能由其模型生成。然而，公司也明确表示，该技术存在明显的局限性，不应被视为判定文本作者身份的绝对证据。

OpenAI 的文本水印旨在回答一个相对狭窄的问题：这段文本是否很可能由 OpenAI 模型生成？该信号在文本生成过程中被嵌入，不会添加特殊字符、可见标记或异常格式。据 OpenAI 称，目前的测试表明，水印不会影响模型的速度或能力，也不会明显改变回复的阅读体验。

该系统不同于能够识别特定用户的数字签名。OpenAI 强调，水印无法揭示文本的原始撰写者、所有权归属，也无法显示涉及的具体账户、组织、对话或提示词。对于 API 用户而言，部分全球范围内的选定模型已提供文本水印功能。

改写可能导致水印失效

OpenAI 也承认，文本水印并非检测 AI 生成内容的完美方式。公司表示，在较短的文本中，水印可能难以被识别。更关键的是，对内容进行改写或翻译可能会完全消除这种统计信号。

这意味着，如果文本在生成后经过大量编辑，检测器将难以判断其最初是否由 OpenAI 模型创建。因此，这项技术应被视为一种来源指示工具，而非绝对的 AI 检测器。如果检测到阳性信号，仅能暗示该文本最初可能由 OpenAI 模型生成。

限制检测器的访问权限

目前，OpenAI 将文本水印检测器的访问权限仅限于经批准的研究人员。公司表示，研究人员将协助评估系统的有效性并找出改进方法。OpenAI 将文本水印描述为一个持续研究的领域，而非一项已完成的技术。

该公司计划继续测试系统，并收集来自用户、开发者、政策制定者和研究人员的反馈。随着监管机构和科技公司寻求使 AI 生成内容更容易被识别的方法，此次在欧盟的推出标志着 OpenAI 将其现有图像和音频的来源追溯努力扩展至文本领域。

对于欧盟地区的 ChatGPT 和 Codex 用户而言，这一变化意味着符合条件的生成文本将携带隐形信号，以提供其可能来源的信息。然而，OpenAI 自身的说明清楚地表明，该信号无法识别文本背后的人，且可能通过特定的编辑或翻译形式被移除。