OpenAI 近日宣布，将开始在欧盟地区的 ChatGPT 和 Codex 文本输出中添加隐形水印。这一举措旨在遵守欧盟人工智能法中关于 AI 生成内容可识别性的规定。
此前，Anthropic 已针对其 Claude 模型实施类似措施，并将该功能推广至全球范围。相比之下，OpenAI 此次调整仅适用于居住在欧盟的用户，美国和英国等其他地区的用户暂不受影响。
基于 TextGrain 技术的隐形水印
据 OpenAI 于 10 月 5 日发布的公告，未来几周内将在欧盟市场的文本输出中部署名为 TextGrain 的水印系统。该技术通过在模型生成的单词选择中嵌入看不见的统计信号来实现标记。配套开发的检测工具能够识别这些信号，从而判断文本是否由 OpenAI 模型生成。相关技术细节将在后续更新的技术报告中披露。
目前，TextGrain 探测器尚未向公众开放。OpenAI 表示，经批准的研究人员和专家组织可从即日起申请访问权限。该检测工具不会识别具体用户，也不会揭示用户的提示词或对话内容。鉴于存在漏检和误报的风险，官方决定在初期阶段不公开提供该工具。
合规性与局限性
OpenAI 指出，水印检测机制存在一定的局限性。较短或经过编辑的文本可能难以被准确检测，且通过特定指令要求模型避免生成可检测格式的行为，理论上可能削弱水印效果。
尽管有观点认为水印算法可能会干扰词汇选择的自然性，但 OpenAI 强调此举主要出于对欧盟法规的合规考量。对于普通用户而言，这意味着在欧盟地区使用 ChatGPT 时，生成的文本将包含用于标识 AI 来源的隐形标记。
