AI巨头开始给生成的文本打水印了……肉眼看不见，但机器可溯源
本文来自微信公众号： 世界科学 ，作者：编译 蒋笃绘 曾2026年8月2日，欧盟《人工智能法案》第50条，即关于AI透明度义务的核心条款正式生效。
法案规定，提供前沿AI模型的服务商必须确保模型生成的内容可被识别，否则将面临最高达1500万欧元(约合1.173亿人民币)或占企业全球年营业额3%的罚款。
8月2日之后发布的模型必须立即满足合规要求，已上市的老产品则最晚于12月2日前完成合规改造。8月11日，行业头部厂商Anthropic宣布：Claude系列所有模型在8月2日及之后发布的一切AI生成文本，都将嵌入隐形水印作为标记。此外，Claude产出的图像，大多都会附带含数字签名的元数据，以表明该文件出自AI手笔。
Claude的文本水印(text-based watermarks)运用算法来微调大模型的选词逻辑。当模型输出一段文本时，它会在内容中留下可统计识别的痕迹。Anthropic方面声称，全球范围内的Claude输出都将带上文本水印，但此类标记“并不改变模型回复的含义、质量或可读性”，而且即便用户对文本做出某些改动，水印仍可能保留。
实际上，水印本身难以揭示内容的完整“创作过程”。根据Anthropic的说法，某段文本被检测出水印，只可作为提示“创作过程涉及AI”的信号——该文本可能由Claude生成，而无法确证。比如，用户可能只是借助模型总结或者转化了人类原创的想法。
反过来说，检测不到水印也不代表文本非AI生成。因为文本水印基于模型选词模式中细微变化的统计模式，若AI生成的文本片段篇幅过短或经过了改写、重述，其水印可能消失。水印之于学术诚信的影响具体如何，能有多大？
目前不得而知。美国西北大学元科学研究员里斯·理查森(Reese Richardson)表示，鉴于去除AI文本水印的方法很简单，例如使用另一款AI产品重写文本，目前看来，Anthropic的策略很难阻止有心之人利用AI炮制所谓“AI垃圾”(AI slop)，比如虚假或低质的论文。当然，也有同行持更积极的态度和期望。
卡内基梅隆大学的计算机科学家尼哈尔·沙阿(Nihar Shah)从事科学评估相关研究，在他看来，如果AI企业对外开放水印检测工具，同时工具误报率足够低，会有一部分不当的AI使用行为被准确识别。举例来说，水印可帮助期刊编辑、学术会议主办方严格落实“禁用AI”的同行评审规则。2026年7月的国际机器学习大会(ICML)就将此规范用于其两套评审流程中的一套。
ICML分发给评审专家的论文稿件内嵌有水印，只要专家使用AI来给评审报告生成内容，文本将携带可识别的特征。最终，ICML发现有506名专家违反禁用AI规定。主导这套水印流程的沙阿表示：“此事说明，虽有一部分违规使用AI者能刻意规避检测，但更多人会选择复制粘贴AI输出内容。”
有学者就AI水印可否用作学术诚信评判依据的问题表达了担忧。曾经从事分子生物学研究、如今经营写作编辑服务公司The Page Doctor的阿米娜·约尼斯(Amina Yonis)认为，我们不应单凭水印来质疑高校内的学术诚信。“我担心人们会把AI水印当成非黑即白的判据——有水印的就是AI写的，没水印就是人类原创。
那些意图隐瞒AI使用的学生，往往也善于躲过水印检测。”阿米娜·约尼斯 康奈尔大学物理学家、预印本平台arXiv的创始人之一保罗·金斯帕格(Paul Ginsparg)指出，很多合规论文本就借助AI完成，很多学者默认部分工作成果离不开AI辅助，最直观案例来自AI在数学领域取得的累累硕果。添加水印之于这类工作的实际意义是什么，有多大？
哪些研究者会费心思去清除水印？Anthropic并非首家引入水印技术的人工智能企业。谷歌自2023年起，就在其Gemini模型的浏览器端和App端输出文本里加入SynthID水印。
OpenAI也已在图像、音频内容中采用SynthID技术。尽管AI企业可通过水印识别自家模型产出的文本，但迄今为止，尚无公司推出可供普通大众使用的文本检测工具。当然，针对图像和音频内容，已有开放检测的厂商，包括OpenAI和谷歌。
Anthropic的一名发言人透露，公司正开发面向公众的文本检测工具。约尼斯则认为，如果最后用户发现只有Claude系列聊天机器人配套水印识别，其中部分人会换用其公司的产品。资料来源： Can Anthropic’s invisible watermarks curb‘AI slop’?
Researchers remain sceptical