OpenAI 在欧盟为 ChatGPT 文本默认添加不可见水印

OpenAI 在欧盟为生成的文本添加水印。在世界其他地区,该功能默认关闭。该功能名为 textGrain,据 OpenAI 称,其效果优于谷歌的 SynthID 等方案。 OpenAI 称,水印检测在许多情况下效果良好,但有两种情形下效果较差。如果文本过短,检测会更困难。此外,如果用户替换了 10% 或更多的词语,检测也会更困难,OpenAI 表示。因此,OpenAI 并未立即向所有人开放 textGrain 。 “这些限制促使我们决定,最初只向经过批准的研究人员和专业组织提供检测器的访问权限,他们可以帮助我们评估可靠性和负责任的应用。”OpenAI 在欧盟默认应用该检测方法,并在欧盟以外通过 API 将其作为可选功能提供。该软件的工作原理是,使用一个密钥将可能的词语(实际上是词元)分组。系统根据该密钥将这些组与一个随机值表相关联。检测软件能够识别所选词语与密钥之间的统计相关性,而读者对此毫无察觉。一个设定的 “熵预算” 精确控制可以为水印牺牲多少随机性。

【为什么所有人都在添加水印?】欧盟《人工智能法案》要求 AI 公司为所有合成内容(如文本、图像和音频)添加机器可识别且可检测的标记。通过内置这些不可见的数字水印或元数据,搜索引擎、检测工具和平台可以直接查明某个文件是否来自 AI 。不符合要求的企业将面临巨额罚款,罚款金额可能高达数百万欧元或其全球营业额的一定比例。

赞 (0)
RC-pulish的头像RC-pulish

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注