Claudeの出力に識別情報が混ぜられているとの指摘、Daring Fireballが批判

何が指摘されたか

Apple関連の論評で知られる米国の著名ブログ「Daring Fireball」に、Claudeを開発する米AI企業のAnthropicが Claude の出力テキストに透かし（watermark）に相当する改変を加えていることを「書くことに対する倒錯」だと批判する記事が掲載されました。原題は「Anthropic’s ‘watermark’ text adulteration in Claude is a perversion of writing」で、米国のエンジニアが集まる掲示板「Hacker News」では281ポイント、276コメントを集めています。技術的な仕組みや適用範囲について、こちらで独自に確認できた情報はありません。以下は指摘された論点の整理です。

議論が集まった理由は、対象が画像や音声ではなくテキストだという点にあると考えられます。画像の透かしは「その画像がAI由来かどうか」を示す情報として比較的理解されやすい一方、テキストの場合、識別のための改変は文字列そのものに埋め込まれます。つまり書き手が受け取った成果物が、目に見えない形で出自の情報を持ったまま手元に届くことになります。

書き手にとっての意味

テキストは、コピー&ペーストで別の文書に移り、編集され、他人の文章と混ざります。もし識別情報が文字レベルの改変として埋め込まれているなら、それは元の生成物を離れたあとも部分的に残り続ける可能性があります。下書きだけをAIに任せて自分の言葉で書き直した原稿、コードのコメント、社内文書。どこまでが「AIの出力」でどこからが自分の文章なのかという境界は、実務上あいまいです。その曖昧な領域に、機械可読な痕跡が入り込むかどうかが問われています。

提供元にとっては、学習データの汚染防止や不正利用の追跡という動機が考えられます。ただし利用者側から見れば、自分が書いた文章に自分の知らない情報が同梱されるかどうかは、納品物の性質そのものに関わる話です。少なくとも、何がどのように埋め込まれ、除去できるのかが明示されていることが前提になるはずです。

出典: Daring Fireball「Anthropic’s ‘watermark’ text adulteration in Claude is a perversion of writing」、および Hacker News の該当スレッド