コーダーたちはクロードの目に見えないEU準拠ウォーターマークを4時間以内に解除した

アンソロピックがEU AI法に準拠するため、クロードモデルがAI生成テキストに目に見えず機械可読なウォーターマークを世界的に埋め込むことを確認してから4時間以内に、開発者のギヨーム・メイヤーは自身のオーバーライドを公開した。クロード生成テキストからウォーターマークを除去するコードはGitHubでバイラル化し、Xで2万件以上のブックマークと100人以上のコントリビューターを集めた。

アンソロピックは、クロードの単語やフレーズの選択にパターンを残すことでテキストにウォーターマークを付ける。これは人間には識別できないが、機械には検出可能である。この技術SynthIDはGoogleが開発し、2023年から使用されている。OpenAIのスコット・アーロンソンは同様の手法を提案したが、ウォーターマークが顧客を遠ざけることを懸念し、同社は導入しなかった。

回避策はこの方式の統計的性質を突いている。メイヤーの手法はウォーターマークを付けないLLMを使って書き換えを生成し、同義語を入れ替え、内容を再構成する。ソフトウェアエンジニアのエリック・ヒューズはクロード自体を使って15分で、目に見えない文字や似た文字を除去し、文を並べ替え、単語を入れ替えるツールを即席で作った。オックスフォードのレオン・クロンによれば、応答を要約したり、意味が大きく異なるアラビア語に翻訳してから戻したりするとパターンが除去される。アンソロピックも、大幅に編集・言い換え・翻訳された内容にはウォーターマークが付かない可能性があることを認めている。

規則はプロバイダーに対し合成コンテンツのラベル付けを義務付け、違反には年間売上高の最大3%の罰金を科す一方、プロバイダーが回避ツールを販売することを禁じているが、独立したツールには法的制限を課していない。アンソロピックはウォーターマークが応答の「意味、品質、可読性を変えない」と述べ、ユーザーが自ら検証できるようテキスト検出APIを提供する予定である。

単語選択の統計に埋め込まれたウォーターマークは、最初の書き換えで消える。テキストをクリーンなモデルに通すか、翻訳して戻せば、パターンは失われる。

これは出力統計ウォーターマークの実用的な寿命を示している。方式が公開され、エコシステムにウォーターマークを付けない書き換えツールが存在すれば、寿命は数時間である。

回避には特殊な数学は不要である。同義語の入れ替え、並べ替え、翻訳の往復だけで済む。なぜなら、あらゆる書き換えはウォーターマークが宿る単語選択そのものを引き直すからである。

規制の設計は扉を開けたままにした。プロバイダーは回避ツールを販売できないが、独立したツールには制限がない。

アンソロピック自身が、編集・翻訳されたテキストはマークを失う可能性があると認めたことは、この仕組みの核心的な限界を認めたに等しい。

出力の統計的性質に依存するコンプライアンスは、エコシステム内で最も弱い書き換えツールと同じ強度しか持たない。1つのクリーンな経路があれば、方式全体が任意のものになる。

メイヤーのツールは広がり続け、フリーランスのライターやソーシャルメディアのクリエイターが使用を希望した。OpenAI、Microsoft、Metaを含む190の組織がEUの透明性実務規範に署名し、8月からすべての新モデル、12月までに既存モデルにウォーターマークが義務付けられる。ただし、何社のラボがテキストウォーターマークを実装するか、またアンソロピックが予定する検出APIの公開に耐えられるかは未解決のままである。