Claudeが生成文章に「電子透かし」　AI利用を見抜ける時代へ…問われる「どこまでAIを使ったか」

Anthropic社が同社の生成AI・Claudeについて、今後生成するテキストに「電子透かし」を導入すると発表した。

「Claude」は、文章力に優れていると言われているAI。生成AIの中には日本語の出力が不自然になりがちなモデルもあるものの、Claudeは人間が書いたような自然な文章が出力できると評判を集めている。

Xが新収益プログラムを発表　影響は閲覧者にも…タイムラインはどう変わるのか

一方、今回発表された「電子透かし」は文章の最後に「AIが作成しました」と表示したり、文字の間に見えない記号を挿入したりするものではなく、文章生成時に意味を大きく変えない範囲で、単語の選び方や文の組み立て方で機械が判別できるようにするもの。

人間が読めば自然な文章であるものの、チェックを行えば、それがClaudeで生成されたものだと分かるような仕組みとなる。

つまり、電子透かしはテキストの一部であるため、一部だけをコピペして編集したとしても電子透かしは残り続ける場合がある。

「誰が、どのように作った情報か」高まる透明性への期待

現在、ネットを中心に生成AIによる文章が増えているが、一方では「本当に人間が書いたのか」「AIが書いたのか」が分かりにくくなっているのも事実。電子透かしが入ることで、自然な文章であっても、AIによって生成されたものだと分かりやすくなる。

たとえば災害情報のほか、医療、金融、政治など、ファクトが必要な情報や、専門家が書いたとされる解説文で「誰が、どのような根拠で作った情報なのか」が分かりやすくなるというメリットがある。

しかし、「透かしが検出された」ことで、すぐに「AIが作った文章」と断定されるケースが生まれてしまう可能性があるというデメリットもある。たとえばClaudeに文章を校正してもらった、翻訳してもらった、要約してもらったという、「自分が文章を書いたけど文章の整理にClaudeを使った」という場合でも電子透かしがついてしまう可能性がある。

その文章に対してどの程度Claudeが関与したかという割合は出ないため、判定が難しくなることが考えられる。

今後、さまざまな場所でAI利用のルールが整えば、「AIを使ったか、使っていないか」という二択ではなく、「案を考えてもらった」「翻訳に使った」「誤字の確認だけに使った」といった利用範囲を説明する文化が広がることも考えられる。AIが関わった情報をどう受け取り、どう説明するかを考えていくことが重要になりそうだ。