OpenAI推出textGrain文本水印 响应欧盟AI法案

IT时代网10月6日消息，OpenAI公布面向欧盟《人工智能法案》的文本溯源方案，推出名为textGrain的文本水印技术。即日起全球API客户可为部分选定模型选择开启水印输出，未来数周内，欧盟地区符合条件的ChatGPT与Codex文本输出也将自动添加不可见水印。

textGrain的原理是在模型选词过程中嵌入不可见的统计信号，检测器通过识别这一信号判断一段文字是否带有OpenAI水印。官方评测显示，其表现与测试过的其他方案持平或更优，技术细节将在技术报告中给出，相关技术还计划开源。

评测同时披露了局限：文本越短或措辞约束越强，检测难度越大。在1%目标误报率下，200词段落的检出率约80%，400词段落约95%，数学类内容的检出率明显更低。编辑也会削弱水印，替换10%同义词后检出率从约92%降至66%，替换25%则降至17%。正因如此，检测器暂不全面公开，仅限经批准的研究人员与专业机构申请使用。

对输出质量的影响方面，在前沿模型Astra的多项基准测试中，开启水印前后成绩没有出现有意义的差异，例如GPQA Diamond为94.44%对93.94%，BrowseComp为87.92%对87.35%。

OpenAI同时强调水印的能力边界：它不能衡量人类的贡献程度，不能确立文本的所有权或责任归属，不能识别用户身份，也不能验证内容真伪；未检出水印同样不能证明文本出自人类。图像与音频验证工具仍保持公开可用，整套文本水印方案将随技术、标准与证据的演进逐步调整。

编辑：林一舟