Claude、コピペしても消えない「電子透かし」導入へ 単語のチョイスでAI生成かどうかバレてしまう模様

　米Anthropicは8月14日（現地時間）、「Claude」が生成するテキストに埋め込む電子透かしの仕組みを説明した。米Google DeepMindの「SynthID-Text」を基に、単語を選ぶ際の乱数の生成源を秘密鍵と直前の文脈に置き換えることで統計的なパターンを残す。テキストに文字を足さないため、品質や速度、料金には影響しないとしている。

「EU AI Act」への対応だが適用はグローバル
　同社は、EU AI Actの透明性義務に関する行動規範に署名したことに伴い、Claudeが生成したテキストに人間には知覚できない電子透かしを順次埋め込む方針をサポートページで示していた。適用範囲はEU域内にとどまらず、日本を含む全世界のモデルとプロダクトに及ぶ。

　今回の説明で同社は「地域ごとに適用範囲を限定する確実な方法がまだないため、ローンチ時点ではグローバルに透かしを適用する」とした。EUの行動規範には、同社を含む約190組織が署名しており、他の主要な開発元もそれぞれ独自の透かしを実装する見込みだ。

生成方法の概要
　LLMは、1単語（トークン）ずつテキストを生成する。Anthropicは例として、「The weather today was cold and」（今日の天気は寒くて）に続く語として「overcast」と「grey」（いずれも曇りを表す英単語）を挙げ、読者にとってどちらでも意味は変わらないような低リスクな選択が文章中に何度も現れると説明。通常はこの選択を乱数で決めているが、透かしを使う場合は秘密鍵と直前の数語から乱数を生成し、鍵を持つ側だけが検出できるパターンを残す。

　モデルが常に特定の語に偏るわけではなく、通常なら選ばないような珍しい語を選ばせるものでもないと強調する。「テキストには何も追加されず、隠し文字もない」ため「透かしのために余分なトークンは必要なく、価格も上がらない」とし、速度への影響もごくわずかだとしている。透かしや鍵に利用者や組織、チャットを特定できる情報は含まれないという。

検出は専用APIで、数式やコードには入りにくい
　電子透かしの検出には同社が近く提供予定のAPIを使い、秘密鍵を用いて単語の並びを検証することでClaudeが関与した確率を測る。実装の詳細は現在詰めているという。

　なお、単語選択の自由度（エントロピー）が低い文章では、透かしを埋め込む余地が少なくなる。例えば、「アイザック・ニュートンの最も有名な著作は『プリンキピア……」に続く語（マテマティカ）のように、正解が1つしかない事実記述では透かしが働く余地がない。「2＋2＝」のような数式も同様だ。
　厳密さが求められるプログラミングコードも、別の語を選べば動かなくなる場面では透かしを適用せず、コード内のコメントのように任意の選択が可能な部分に限って使う。

　文法や句読点だけを直す校正も、Claudeが選んだ単語が少ないため検出に足りない可能性がある。逆に翻訳は全ての単語をClaudeが選ぶため、透かしが入る。

軽い編集では消せないが、完全な書き直しなら消える
　この透かしには、限界もある。改変への耐性について同社は「軽い編集ではおそらく完全には消せないが、全ての単語を置き換える完全な書き直しをすれば消える」とした上で、その場合は、もはやAI生成と呼べるかどうか議論の余地があるとしている。

　透かしが示せるのはClaudeが何らかの形で関与した可能性までで、「Claudeが書いた」のか「Claudeが大幅に編集した」のかは区別できない。人間が書いたことの証明にもならず、他社AIモデルが生成したかどうかも判別できない。単語選択の回数が少ない短文では精度が落ち、文章が長くなるほど確度が上がるという。

画像はC2PA準拠のメタデータ
　Claudeが「.png」「.jpg」「.svg」などのファイルを生成する場合は、テキストとは異なる方式を採る。ファイルのメタデータに、Claudeが作成または処理したことを示す暗号署名付きの短い記録（コンテンツクレデンシャル）を付与するもので、コンテンツの来歴を記録する業界標準規格「C2PA」に準拠する。カメラメーカーや写真編集ソフトが使うものと同じ規格で、C2PA対応ツールでなら読み取れる。同社は自社の確認ツールも提供する予定だ。同社はこれをファイル自体には何も埋め込まない点で透かしとは別物だとしている。

　なお、EU AI Actの第50条（透明性義務）の適用が始まった2026年8月2日より前にリリースされた既存モデルについては法律上の経過措置があり、透かしの追加は今後数カ月かけて展開するとしている。

https://www.itmedia.co.jp/news/article/2608/16/2000000555/

何を懸念している？