Anthropic、Claudeの生成テキストに不可視の透かしを導入する仕組みを説明

単語の選び方に痕跡を残す

Claudeを開発する米AIスタートアップのAnthropicが、Claudeの出力テキストに検出可能な「透かし」を埋め込む方式について説明した。米テックメディア「The Verge」が伝えている。狙いは、欧州連合（EU）が定めるAIの透明性に関する規則への対応だ。

採用するのは、GoogleのAI研究部門Google DeepMindが開発したオープンソースの透かし技術「SynthID-Text」を踏まえた方式だという。Anthropicはこれを「SynthID-Textアプローチの一種」と位置づけている。

SynthID-Textは、言語モデルが次にどの単語を選ぶかという確率の偏りを利用する。文章の意味を変えずに、単語選択のパターンへ統計的な痕跡を残し、後から機械的に検出できるようにする。画像に埋め込む電子透かしと違い、テキストは書き換えや切り貼りが容易で、埋め込める情報量も少ない。だからこそ、文字の見た目ではなく確率分布に手を入れるという発想が取られている。

「AIが書いたか」を制度で問う段階へ

この動きが重要なのは、技術そのものよりも実装の理由にある。テキストの透かしは長く研究段階の話題で、実運用に踏み込む例は限られていた。それが、規制対応という具体的な要請によって商用サービスに組み込まれる。研究の成果が制度側から引き出された形だ。

書き手にとっての論点は二つある。ひとつは、自分が使った生成テキストに検出可能な印が残ることを前提に仕事を組み直す必要が出てくる点。もうひとつは、透かしの有無が「AIが書いたかどうか」の判定材料として社会的に扱われはじめる可能性だ。ただし、透かしがどこまで頑健か、編集や翻訳を経ても残るのかは、現時点の公開情報からは判断できない。

SynthID-Textがオープンソースである点も見逃せない。複数の事業者が同じ土台を使えば、事実上の共通規格に近づく余地がある。もっとも、これは筆者の見立てにすぎず、他社が追随するかは未確定だ。

出典: The Verge「Anthropic explains how Claude’s invisible text watermarks will work」／Anthropicの発表