ChatGPT写的文章,以后可能更容易被认出来了。 OpenAI宣布,将开始替ChatGPT和Codex产生的文字加入“隐形浮水印”,由欧盟率先上路,以符合欧盟《人工智慧法案》规范,不过,目前还不会将这项功能设为全球预设。 ChatGPT文字也要藏浮水印了 OpenAI将开始在文字输出中加入一种“看不见、但机器可读取”的浮水印,未来几周内就会在欧盟实行,包含ChatGPT和Codex所有方案用户。 OpenAI将自家文字浮水印技术命名为textGrain,会在模型选择字词的过程中加入肉眼看不见的统计讯号,再透过专用侦测器寻找这些讯号,借此评估某段文字是否包含OpenAI浮水印。 不过,OpenAI也坦言,文字浮水印技术仍处于初期阶段,因此可能出现“误判”或“漏判”,也就是其实没有浮水印却被判定为有,或明明存在浮水印却没有被侦测出来。其中,文字愈短,或内容本身可变化的用字愈少,就愈难侦测,例如数学类型内容,由于答案与用词变化空间较小,辨识效果就会比较差。 仍可能误判、漏判 也因为仍有技术限制,OpenAI除了先在欧盟推出外,初期还不会将文字浮水印在全球上路;侦测工具也不会全面开放给一般使用者,初期只提供经核准的研究人员与专业组织使用。 另外,textGrain也无法判断人类参与程度。即使侦测到浮水印,也只能代表某段文字可能曾经由OpenAI系统生成或处理,无法判断到底有多少内容是AI写的,又有多少经过人类修改;浮水印也不能用来证明文章著作权属于谁,更不能判断内容是真是假。
(示意图) |
电话:647-830-8888|www.66.ca 多伦多六六网 Goodwebca Inc.
GMT-4, 2026-10-7 08:16 PM , Processed in 0.044367 second(s), 23 queries .
Powered by Discuz! X3.4
Copyright © 2001-2020, Tencent Cloud.