随着生成式人工智能(AI)在写作领域的广泛应用,一个曾经鲜有人关注的问题正逐渐成为焦点:如何区分人类创作的文本与AI生成的内容?过去,AI生成的文字常能以假乱真,混入人类作品中而不被察觉。然而,如今的技术发展正推动这一领域向可追溯性转变,AI开始主动为自身输出添加“数字指纹”。
今年7月,一起涉及畅销小说《Daggermouth》的争议事件引发了广泛讨论。这部自行出版的小说曾登上《今日美国》畅销书榜和亚马逊“科幻爱情小说”榜首,甚至被知名出版商以七位数美元的价格购得版权。然而,一项未经过同行评议的研究对1.4万多本电子书进行分析后发现,该书约60%的文本疑似由AI生成。尽管作者通过律师坚决否认使用AI,出版商也表示支持,但这一事件暴露了传统AI检测工具的局限性——仅凭语言特征判断是否为AI生成,难以避免误判和漏判。
美国《商业内幕》网站指出,Claude水印可能对学生使用AI完成作业或职场人士起草邮件等行为产生直接影响,使其更容易被识别。然而,该媒体也提到,AI写作的常见场景更多集中在内部文件、会议纪要和研究报告等领域,这些内容通常不需要严格的作者身份审查。对于普通用户而言,水印技术的主要影响可能并非使用体验的变化,而是AI行为的可追溯性增强。
8月7日,一项发表在预印本网站上的研究提出,AI水印不应被视为鉴别内容真伪的“终极工具”,而应成为更广泛的内容治理体系的一部分。研究人员强调,人机协同创作日益普遍,单纯将内容划分为“AI生成”或“人类创作”可能掩盖两者之间的复杂合作。例如,若AI根据记者采访整理初稿,记者是否仍为作者?若小说作者仅提供框架,AI完成大部分文字,又该如何署名?这些问题远非水印技术所能解决。
尽管存在技术局限,多家企业已在探索AI内容溯源方案。谷歌自2024年起将SynthID水印技术扩展至Gemini生成的文本、图像、音频和视频等多种内容。监管要求也在推动这类技术的落地。然而,技术仅能回答“内容是否留下AI痕迹”,而后续的伦理和法律问题仍需人类社会共同面对。例如,AI辅助撰写的邮件是否仍属于用户?AI生成的研究报告如何界定作者责任?这些问题的答案,或许需要建立一套描述人机协作分工的新规则,而非简单的二元检测机制。Claude的隐形水印,可能只是这一变革的开端。
