OpenAI在欧盟推出ChatGPT水印技术

OpenAI开始在欧盟推出针对ChatGPT和Codex模型文本回复的隐形水印技术。在接下来的几周内，该功能将向欧盟用户开放，而API客户可以自愿为特定模型启用水印。这项技术是为了响应欧盟人工智能法的要求而开发的，旨在帮助识别文本是否由OpenAI系统生成。textGrain系统为模型的词汇选择添加了隐形统计信号，而专门的检测器分析文本以检测该信号。在1%的误报率下，检测器在200个标记的80%片段中检测到了水印。OpenAI指出，该技术仅提供有限的文本来源信号，并不能确定作者。水印并不表明文本是由人类撰写的。OpenAI已开始接受申请，以便获得检测器的访问权限，面向经过批准的研究人员，计划改进水印的检测。