欧盟新规落地,Claude 的新模型会在生成的文字里织进看不见的水印。这篇长文用大白话讲透它的原理和边界,也说清咱们这些天天用 AI 写东西的人,该注意什么、不必慌什么。
写在前面
大家好,我是宋超。
这几天 AI 圈吵得最凶的一件事,是 Claude 背后的公司 Anthropic 宣布,以后 Claude 写出来的每段文字,都会带一个你看不见的水印。咱们社区的同学天天用 AI 写东西,写公众号、写报告、写小红书,这事跟每个人都有关系。我把 Anthropic 官方那篇说明从头到尾读完了,又对照了好几家科技媒体的报道和海外的讨论,写成这篇长文。会讲清楚水印是怎么加进去的,它能查出什么、查不出什么,网上冒出来的那些「去水印工具」靠不靠谱,最后说说咱们该怎么办。有点长,都是大白话,值得你花十分钟。

事情的源头在欧盟。欧盟《人工智能法案》里管透明度的第 50 条,今年 8 月 2 日正式生效,要求 AI 生成的内容必须能被机器识别出来,违规最高罚 1500 万欧元,或者全球年营业额的 3%。今年 7 月,大约 190 家机构签了配套的《AI 生成内容透明度行为准则》,名单里有 Google、Meta、微软、OpenAI,Anthropic 也在其中。
8 月 11 日前后,Anthropic 率先把承诺落了地。8 月 2 日之后发布的新 Claude 模型,生成的文字从上线那天起就带隐形水印;生成图片这类文件时,会在文件信息里附一份签过名的「出生证明」。而且全球统一执行,管你在不在欧盟。官方给的理由很实在,他们目前没有可靠的办法按地区区分,干脆全球一起上,以后再评估。之前的老模型有法律过渡期,接下来几个月逐步补上。

消息一出,骂声一片。官方那条推特有将近 800 万人围观,评论区里反对的声音远比点赞热闹。科技媒体 TechCrunch 的标题起得很直接,说一部分用户生气,是因为水印会让他们在上班和上课时用 AI 的事藏不住了。

被骂了几天之后,8 月 14 日,Anthropic 发了一篇长文,把水印的原理、边界和常见疑问一条条解释了一遍。这篇官方说明就是今天这篇文章最主要的依据。
这是全文最核心的部分,我尽量讲得让完全不懂技术的同学也能明白。
先说 AI 是怎么写字的。像 Claude 这样的大模型,写东西是一个词一个词往外蹦的。每蹦一个词之前,它会先算出一堆候选词,每个词带一个概率。比如写到「今天天气很冷,而且……」,下一个词几乎不可能是「甜甜的」,但很可能是「阴沉」,也很可能是「灰蒙蒙」。这两个词意思差不多,选哪个对读者来说没区别。碰到这种怎么选都行的情况,模型就掷一把「随机数骰子」,随便定一个。
水印动的就是这把骰子。加了水印之后,选词还是随机的,但随机数的来源换了,换成由一把密钥和前面几个词共同算出来的数。你读这段文字,感觉不到任何区别。但拿着密钥的人,事后可以核对整段文字的选词序列,算出这段话有多大概率是 Claude 写的。
官方打了个比方,我觉得很好懂。想象玩大富翁,本来每回合掷骰子决定走几步。现在改成翻一本圆周率的小数位表,从某一位开始依次往下读,读到几就走几步。对玩家来说每一步照样是随机的,游戏体验没有任何变化。但事后拿走步记录去对圆周率,就能判断这盘棋的走法到底出自圆周率,还是出自骰子。

有几件事官方讲得很明确,值得记下来。
文字里没有添加任何东西,也没有隐藏字符,水印长在选词的规律里。它不额外消耗 token,价格和速度都不变。它也不会让模型去选一个本来不会用的词,官方举的例子是模型不会突然蹦出 nubilous 这种几乎没人认识的生僻词。最重要的一条,水印里不含任何身份信息,查不到具体是哪个人、哪家公司、哪段对话,它只回答一个问题,这段文字是否可能经过 Claude 处理。
会不会让 AI 写得变差?官方说内部测试没有发现影响。这套方法叫 SynthID-Text,由 Google DeepMind 在 2024 年发表在《自然》杂志上,源头可以追到 2022 年 Scott Aaronson 的提案。Google 在自家 Gemini 的真实用户里做过对照实验,一部分人悄悄用上了带水印的版本,对比两组用户的点赞点踩,统计上没有差异。
这部分是最容易被标题党带偏的地方,官方其实把边界写得很老实。
它查不出的东西不少。它分不清「Claude 从头写的」和「你写了初稿、Claude 帮你大改的」,只能说 Claude 可能参与过。它不能反过来证明一段文字是人写的。它也查不出别家的 AI,别家有别家的密钥和方案。前面说过,它更查不到用的人是谁。
有几种场景水印天生就弱。太短的文字不行,可供选择的词太少,信号不够。纯事实的句子不行,「牛顿最著名的著作叫《自然哲学的数学原理》」,下一个词没有第二种写法,水印无处安放。校对也几乎不行,你写三千字丢给 Claude 改错别字,它动了二十来处,剩下 99% 的词都是你的,那点改动留不下足够的信号。
也有信号特别强的场景。翻译就是,因为译文里每个词都是 Claude 选的,水印拉满。新智元点出了这里面的错位,你写了一篇中文文章让 AI 翻成英文,思想和观点全是你的,可从水印看,这篇英文浑身都是 Claude 的痕迹。代码介于两者之间,必须精确的地方插不进水印,注释和变量名这些有选择余地的地方可以。
还有一条大家最关心的。轻度编辑大概率去不掉水印,但把每个词都换一遍就没了。官方自己也承认,改到那个份上,这段文字还算不算 AI 写的,本身就值得商榷。
对了,检测工具现在还没上线。官方说很快会推出一个水印检测接口,细节还在敲定。也就是说,眼下水印已经在加了,但谁也没法查。
后面这一半是训练营学员的内容。你要是学员,用手机号登录就能接着往下看。
登录后可以评论和点赞
还没有人说话,来做第一个