ディープフェイクの危険性｜AI動画の偽物から身を守る確認ポイント

結論から言うと、ディープフェイクへの対策は、動画を見ただけで本物・偽物と断定することではありません。まず送金、ログイン、個人情報入力、共有を止め、名乗っている人物、話している内容、求められた行動、起きている被害を別々に確認します。

AIで生成・加工された画像、動画、音声には、創作、翻訳、アクセシビリティなど正当な用途もあります。一方、実写でも古い映像の使い回しや切り抜きで誤解を招くことがあります。AI生成かどうかと、内容が正しいか、同意があるか、誰かを傷つけるかは別の問題です。

この記事は、2026年7月29日に確認した一次・公式情報を基に、一般の利用者が止める行動と確認先を整理したものです。個別の映像の真贋、犯罪成立、権利侵害、削除可否を判定するものではありません。差し迫った危険や進行中の事件・事故は110番、緊急でない警察相談は#9110を利用し、サービスの最新規約と公的窓口の案内を優先してください。

結論：人物・内容・要求・被害を別々に確認する

NISTの合成コンテンツに関する報告は、コンテンツの生成・編集過程を示すことと、有害・欺瞞的かという影響を分けて扱っています。「AI生成」という表示だけで危険と決めたり、表示がないから実写と決めたりはできません。

受け取った動画、音声、画像は、次の五つへ分けます。

この分解は、技術名が分からない場合にも使えます。相手の映像が実写でも、乗っ取られたアカウント、編集された音声、偽の字幕、別人の投稿であれば同じ確認が必要です。

送金・ログイン要求は受信経路の外から確認する

家族、上司、警察、金融機関、著名人に見える映像や音声でも、次の要求があれば真贋判定より先に操作を止めます。

• お金、暗号資産、ギフトカードを送る
• パスワード、暗証番号、ワンタイムパスワードを伝える
• メッセージ内のリンクからログインする
• 画面共有、遠隔操作アプリ、別のチャットへ移る
• 本人確認書類、顔写真、口座情報を送る
• 通常の承認者に知らせず、今すぐ処理する

本人確認は、受信したメッセージが指定した経路の外側で行います。保存済みの電話番号、社内名簿、契約書、公式ドメインから自分で開いた問い合わせ先を使います。表示された番号へそのまま折り返す、相手が送った検索結果やQRコードを使う、同じチャット内で質問するだけでは独立した確認になりません。

職場では、映像の説得力を理由に、送金、口座変更、機密情報提供の承認工程を省略しません。家族では、普段使う連絡先にかけ直す、別の家族にも確認する、あらかじめ決めた連絡順を使うなど、複数の確認を組み合わせます。合言葉も漏れたり推測されたりするため、単独の本人確認にはしません。

金融庁は、著名人等になりすましたSNS投資広告・投稿に関する情報受付を設け、広告URL、アカウントURL、外部チャットへの誘導等を確認項目にしています。投資動画では、映像の人物より、勧誘する事業者の登録、送金先、契約、外部チャットへの誘導を確認します。

勧誘事業者は、金融庁の免許・許可・登録等を受けている業者一覧で名称や連絡先を照合します。ただし、登録業者の名称をかたる例もあり、登録の有無だけで個別の勧誘や投資の安全性が保証されるわけではありません。相手が示した番号ではなく、公式一覧や事業者の公式サイトから確認します。

すでに送金・入力した場合は、相手とのやり取りを続ける前に、利用した金融機関、カード会社、暗号資産交換業者、アカウント提供者の公式窓口へ連絡します。資金回収やアカウント復旧を保証する手順ではないため、警察の相談窓口や消費者ホットライン188も状況に応じて利用します。

災害・選挙・ニュースは元資料と独立した裏付けを探す

政府広報オンラインの偽・誤情報に関する案内は、情報の正確性を判断できない場合に安易に投稿・拡散しないよう案内しています。災害、事件、選挙、感染症、金融不安では、急いで知らせたい気持ちが強くても、次を順に確認します。

複数サイトに同じ映像が載っていても、全てが一つの未確認投稿を転載している場合は、独立した裏付けが増えたことにはなりません。災害時は自治体、消防、警察、気象・防災機関など該当する公式発表へ戻ります。選挙や公人の発言は、元の会見・演説、選挙管理機関、本人・組織の公式サイト、複数の独立した報道を照合します。

AI生成と判定できなくても、内容の根拠が確認できなければ共有を保留します。逆に、AIを使った再現映像でも、明示され、元資料と目的を確認できる場合があります。ニュース風投稿全般の確認は、AIフェイクニュースの見分け方で分担しています。

目視・検出器・来歴情報は「手掛かり」であって確定判定ではない

口の動き、光、輪郭、反射、声の間、背景の揺れなどは、確認を始めるきっかけにはなります。しかし、圧縮、通信状態、字幕、編集、撮影機器でも似た違和感が生じます。不自然さがないことも、本物の証明にはなりません。

NIST AI 100-4は、来歴情報、透かし、メタデータ、合成コンテンツ検出、人による確認を異なる手法として整理し、それぞれの有効性、頑健性、プライバシー、改ざん・除去等の限界を示しています。部分的な加工では、映像の大部分が実写という場合もあります。

検出器を使う場合は、ツール名、確認日、対象ファイル、結果、確信度を記録し、「検出器では判断できない」という状態も残します。顔写真、本人確認書類、性的画像、社内機密を、運営者や保存条件が分からない判定サイトへアップロードしません。必要ならプラットフォーム、警察、弁護士、専門の調査担当へ相談し、証拠の扱い方を先に確認します。

同意のない性的画像や名誉侵害は被害停止を優先する

同意なく実在人物を識別できる性的画像に加工する、侮辱的な場面に置く、発言していない内容を本人の発言として公開する行為は、画像が合成だと分かっていても被害をなくしません。NISTも、同意のない親密画像では、ラベルやメタデータが付いていても被害者が受ける屈辱や害は残ると指摘しています。

一方で、日本でどの法令・責任が適用されるかは、「ディープフェイク」という名称だけでは決まりません。対象者を識別できるか、年齢、画像の内容、同意、作成・公開・販売・脅迫等の行為、名誉・プライバシー・財産への被害など、個別の事実で変わります。内閣府の2026年5月の説明でも、声の無断利用等について民事責任の範囲が明確でないとの指摘と検討状況が示されています。利用者だけで「必ず犯罪」「合成だから問題ない」と決めません。

自分や身近な人を対象にした画像を見つけたときは、次を分けます。

• 拡散を止める：引用投稿、晒し、友人への転送で確認を求めない
• 記録する：URL、アカウント、投稿ID、確認日時、画面、受信メッセージを必要最小限で残す
• 公開先へ申告する：本人になりすました情報、性的画像、名誉・プライバシー侵害など該当する正規フォームを使う
• 相談する：削除方法、人権侵害、犯罪、学校・職場、安全確保を目的別の窓口へつなぐ
• 一人で対決しない：脅迫、要求、継続的な嫌がらせがある場合は相手へ単独で連絡しない

画像がこどもを対象にしている可能性がある場合や、新しいコピーを作ること自体に不安がある場合は、むやみにダウンロード・転送せず、URLやアカウントを控えて警察等へ保存方法を確認します。

法務省のインターネット人権侵害案内では、本人からプラットフォーム等へ削除依頼する方法と、法務局へ相談する方法を案内しています。内閣府男女共同参画局の相談窓口一覧には、性的画像を含むインターネット上の問題、性暴力支援、警察、法テラス等の窓口が整理されています。被害者が自分だけで法的評価や削除交渉を背負う必要はありません。

被害後は証拠・停止・削除・相談を目的別に進める

証拠を残すことと、被害画像を広げることは同じではありません。必要な範囲を、公開せず、改変せず、相談先へ説明できる形で残します。何を保存すべきか分からない場合は、削除やアカウント初期化の前に警察、法務局、弁護士、プラットフォームへ確認します。ただし、現在の身体安全やアカウント侵害を止める操作は遅らせません。

不正ログインが疑われる場合は、メッセージ内のリンクではなく公式アプリ・公式サイトから、パスワード変更、ログイン中端末、復旧先、連携アプリを確認します。使い回したパスワードがあれば他サービスも別の値へ変更します。IPAの不正ログイン対策も、メッセージ内リンクを使わずブックマーク等から確認するよう案内しています。

情報流通プラットフォーム対処法は、指定された大規模プラットフォームに、権利侵害の申出方法の公表、調査、申出者への通知等を求めています。ただし、全サービスに同じ手続が適用されるわけでも、申出た情報が必ず削除されるわけでもありません。対象サービスの現在の申出方法と、法務局等の案内を確認します。

家族・職場では「見抜く人」より確認ルートを決める

生成技術と検出技術は変化するため、特定の不自然さを覚えるだけでは運用が古くなります。家庭や組織では、「誰が見破れるか」ではなく、危険な行動を一つの受信経路だけで確定しない仕組みを決めます。

• 送金先、口座、権限、連絡先の変更は、登録済みの別経路で確認する
• 金銭・機密・アカウント変更は、定めた承認者を省略しない
• パスワード、暗証番号、ワンタイムパスワードは共有しない
• 公式連絡先と緊急・非緊急の相談先を、受信メッセージの外に保存する
• 真偽不明の情報は、未確認のまま共有せず確認担当へ渡す
• 事案後に、使われた経路、止められた操作、漏れた情報、次に変える手順を見直す

次の確認メモを、動画や音声のURLとは分けて使えます。

受信日時：
媒体・アカウント・URL：
誰を名乗っているか：
何を主張しているか：
何を要求しているか：
止めた操作：
登録済み経路で確認した相手：
元資料・日時・場所：
独立した裏付け：
金銭・認証・安全・権利の被害：
保存した最小限の記録：
連絡した公式窓口：
未確認事項と次の担当：

ディープフェイクの危険性は、映像が精巧であることだけではありません。映像の説得力によって、確認前に送金、入力、共有、攻撃へ進んでしまうことです。真贋の確定を待たず危険な行動を止め、人物、内容、要求、被害を適切な窓口で確認する。それが、技術の変化に左右されにくい備えです。

顔写真、声、本人確認情報をAIサービスへ渡す際の確認は、AIと個人情報で整理しています。