OpenAI将在欧盟为ChatGPT生成的文本添加隐形标记

OpenAI将在未来几周内，为欧盟地区由ChatGPT和Codex生成的文本引入隐形水印，作为遵守《人工智能法案》（AI Act）要求的措施之一。符合条件的用户均可使用该标记，不受订阅类型影响。

这项名为textGrain的技术会在模型选择词语的方式中嵌入统计信号。该信号可被自动检测，并表明文本是否包含OpenAI水印，但不会透露用户身份、提示词或生成文本的对话来源。

根据公司评估，在长度为200个词元的文本中，水印的识别率约为80%；在400个词元的文本中，识别率约为95%。不过，编辑会降低其有效性：将10%的词语替换为同义词后，检测率从92%降至66%；将25%的词语替换后，检测率降至17%。短文本、受限文本或翻译文本也更难核验。

OpenAI警告称，该系统可能产生误报或漏报。水印无法确定某人撰写了多少内容、谁应对文本负责、信息是否真实，也无法判断没有标记的材料是否由人类撰写。

检测器在发布初期不会向公众开放。最初，经过批准的研究人员和专业组织将获得使用权限。在全球范围内，部分API客户可以选择启用该功能。