OpenAI遵守欧盟AI法,推出textGrain文本水印

OpenAI推出textGrain文本水印,以遵守欧盟AI法。该系统为生成内容嵌入隐形信号,检测器可识别来源。目前仅在欧盟区ChatGPT和Codex默认启用,计划后续开源技术。

OpenAI 宣布将遵守欧盟新的人工智能透明度法规,计划对在该地区生成的文本和代码添加隐形数字水印。这一举措与 Anthropic 今年早些时候采取的策略类似。

短文本检测成功率约80%

根据欧盟《人工智能法》第 50 条规定,生成式 AI 系统提供者必须以机器可读的方式识别其文本输出。该规定已适用于新进入市场的公司,而包括 OpenAI、Anthropic、Microsoft、Google 和 Meta 在内的现有实体必须在 2026 年 12 月 2 日之前完成合规。

为实现合规,OpenAI 采用了一种名为 textGrain 的专有系统。该系统通过“为模型的单词选择添加一个隐形的统计信号”来实现水印功能。一旦信号被嵌入,检测器即可识别这些特征并判断内容是否带有水印。

OpenAI 表示,textGrain 系统的性能与其他方法(如 SynthID)相当或更优。然而,该公司也指出,即便在理想条件下表现强劲,也不能保证在日常使用中实现可靠检测。例如,对于较短的文本,检测成功率约为 80%,且对文本进行编辑也会降低检测的成功率。

目前,水印功能默认仅在欧盟适用的 ChatGPT 和 Codex 文本输出中启用。客户可以选择使用特定模型,但 OpenAI 尚未明确说明哪些模型将向全球公众开放此功能。此外,OpenAI 计划在后续将该技术开源,以便其他开发者进行调整和优化。

在隐私保护方面,OpenAI 强调其检测软件不会识别用户身份,也不会显示具体的提示词或对话内容。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读