写真を見て「AIで作ったのかな」と感じたとき、電子透かしで答えが出るのでしょうか。
AIの電子透かしは、生成した画像・音声・動画・文章などに、後から識別するための手掛かりを組み込む技術です。目に見えるロゴを重ねる方法とは別に、人には気づきにくい形で埋め込む方式があります。
ただし、すべてのAI作品を見つける万能な鑑定ではありません。何の方式に対応した検出なのかによって、結果の意味は変わります。
ここで確かめるのは、透かしや来歴情報から読み取れる範囲です。あらゆるAI生成物を見抜けるようになるという未来の予測ではありません。
電子透かしは、生成する側と検出する側が対応して働く
流れを大まかにすると、「生成時に手掛かりを入れる→コンテンツが流通する→対応する検出器が手掛かりを調べる」となります。具体的な埋め込み方は、画像や文章などの種類と、技術の方式によって異なります。
たとえば文章では、生成時の語の選ばれ方に統計的な特徴を持たせ、後でその傾向を調べる方式があります。特定の一語が入っているだけで、透かしの有無を決めるものではありません。
GoogleのSynthID解説では、検出は確率的なもので、透かしの有無を十分に判断できない結果もあると説明しています。ここで紹介した性質を、すべての透かし方式にそのまま当てはめることはできません。
検出結果から言えることは、三つに分けて考える
検出画面の表現はサービスによって違います。ここでは、結果を読むときの考え方を整理します。
| 結果の種類 | 読み取れること | それだけでは言えないこと |
|---|---|---|
| 対応する透かしを検出 | その方式の手掛かりが見つかった | 内容が虚偽である、全体がAI生成である |
| 透かしを検出しない | 今回の検出では手掛かりを確認できなかった | 人だけが作った、無加工である |
| 判断が不確か | 判定に十分な手掛かりを得られなかった | AI生成とも人の制作とも決められない |
画像の切り抜きや加工、文章の大幅な書き換えなどが検出へ与える影響は、方式と変更内容によります。SynthIDの文章向け説明でも、大幅な書き換えや翻訳によって検出の確信度が下がる可能性が示されています。
したがって、「見つからなかった」から逆向きに「人が作った」と結論づけるのは飛躍です。
C2PAの来歴情報は、透かしと何が違う?
電子透かしがコンテンツ自体に識別の手掛かりを持たせるのに対し、来歴情報は、作成や編集に関する記録を確認するための情報です。
C2PAの公式FAQでは、コンテンツの出所や変更履歴を扱う情報に、デジタル署名を用いる仕組みを説明しています。記録が署名後に変わっていないかを検証する助けになります。
ただし、来歴情報が付いていることと、撮影された出来事や説明文が事実であることは別です。記録される範囲や、誰が署名したかも確かめる必要があります。すべての制作過程が残るとは限らず、流通の過程で情報が外れる場合もあります。
透かしと来歴情報は、どちらか一つを選ぶ関係とは限りません。組み合わせて、元の情報を探したり、出所を確かめたりする設計もあります。
気になる画像は、検出結果の前後も確かめる
まず、画像を載せた人が、何の画像として説明しているかを読みます。次に、元の掲載先や撮影・制作に関する説明を探します。検出結果や来歴情報があれば、その確認材料として加えます。
たとえば「昨日の災害写真」という投稿なら、撮影場所や日時、信頼できる報道との一致を確かめることが大切です。透かしの有無だけで、その出来事を確認したことにはなりません。
気になった投稿を一つ選び、出所・説明・検出で分かった範囲を分けて見てみましょう。人の顔や本人らしい発言を使った投稿が気になる場合は、AI時代の本人確認で、相手を確かめる方法へ進めます。
