解决方案
在Anthropic确认Claude模型将在全球范围内对AI生成的文本嵌入不可见的机器可读水印——以符合欧盟《人工智能法案》——之后四小时内,开发者Guillaume Meyer就发布了他的破解方案。用于去除Claude生成文本水印的代码在GitHub上走红,在X上获得超过2万次收藏,并有100多名贡献者。
Anthropic通过在Claude的用词和短语选择中留下一种模式来为文本添加水印,这种模式人类无法察觉,但机器可以检测。该技术名为SynthID,由谷歌开发,自2023年起投入使用;OpenAI的Scott Aaronson曾提出过类似方法,但该公司从未部署,担心水印会让客户望而却步。
这些变通方法利用了该方案的统计特性。Meyer的方法使用一个不添加水印的大语言模型来生成改写文本,替换同义词并重新组织内容。软件工程师Erik Hughes用Claude本身在15分钟内做出了一个工具,可去除不可见字符和形似字符、重排句子并替换词语。牛津大学的Leon Chlon表示,压缩回答或将其翻译成阿拉伯语——语义差异极大——再翻译回来,就能去除该模式;Anthropic承认,经过大量编辑、改写或翻译的内容可能不带有水印。
相关规定要求提供商对合成内容进行标注,否则将面临最高达年营业额3%的罚款,并禁止提供商营销规避工具——但对独立工具不设任何法律限制。Anthropic表示,该水印“不会改变回答的含义、质量或可读性”,并计划推出文本检测API,以便用户自行验证。
取得了什么效果
存在于用词统计中的水印在第一次改写时就会失效:将文本通过一个干净模型处理,或将其翻译后再译回,该模式便不复存在。
为何奏效
这显示了输出统计水印的实际寿命:一旦该方案公开且生态系统中存在不添加水印的改写工具,其寿命就只有数小时。
规避它无需复杂的数学——同义词替换、重排或翻译往返——因为任何改写都会重新掷出正是水印所依附的那些用词选择。
监管设计留下了空子:提供商不能营销规避工具,但独立工具不受任何限制。
Anthropic自己承认经过编辑或翻译的文本可能失去标记,这也就承认了该机制的核心局限。
可以借鉴什么
依赖于输出统计特性的合规,其强度只取决于生态系统中最薄弱的改写工具——一条干净的路径就能让整个方案形同虚设。
后续
Meyer的工具持续传播,自由撰稿人和社交媒体创作者纷纷请求使用;包括OpenAI、微软和Meta在内的190个组织签署了欧盟的透明度行为准则,要求从8月起所有新模型都必须带有水印,现有模型则须在12月前完成——至于有多少实验室会实施文本水印,以及是否有任何水印能经受住Anthropic计划发布的检测API,仍是未知数。
从这里,追溯依据
参考来源
- Coders Say They Already Found Workarounds to Claude's Invisible Watermarks WIRED · wired.com ·