よく知っている有名人が、投資をすすめる動画。見ているうちに、別のチャットへ登録しかけた。はなれて暮らす親に、自分の声で電話が来たらどうしよう。

さいしょに、先に止める6つを見ます。その後は、かけ直すやり方と動画の見方です。被害にあった時の連絡先もあります。

ディープフェイクの危険性|先に止める6つは?

人物の映像に手をかざして止めるレンと、確認の印を指さすノア

危ないのは、確かめる前にお金や情報を送ることです。映像がよくできているかだけでは決められません。ディープフェイクは、本物そっくりにAIで作った動画や声です。

家族、上司、警察、お金をあずけた会社、有名人。だれに見えても、次の6つを求められたら手を止めます。本物かどうかを決める前に止めてかまいません。

  • お金、暗号資産、ギフトカードを送る
  • パスワード、暗証番号、ワンタイムパスワードを伝える。最後の一つは1回だけ使う番号
  • メッセージの中のリンクからログインする
  • 画面を共有する、外からスマホを動かすアプリを入れる、別のチャットへ移る
  • 本人か確かめる書類、顔写真、口座の情報を送る
  • いつもの承認者に知らせず、今すぐ処理する

止めた後は、五つに分けて考えます。

分けて見る物その場で決めないこと
人物(だれを名乗っているか)顔・声・ライブの表示を見て、本人と決めない
内容(何を言っているか)映像があるからといって、事実と決めない
要求(何を求めているか)「急いで」と言われても、決めた順番を省かない
被害(お金・アカウント・名誉・安全のどれか)一つの窓口でぜんぶが片づくと考えない
記録(URL、アカウント、日時)確かめるために、公開して広めない

この分け方は、技術の名前を知らなくても使えます。映像がじっさいにうつした物でも同じです。アカウントを乗っ取った人や、編集した声のこともあります。にせの字幕や、別人の書きこみでも確かめ方は変わりません。

AIで作った絵・動画・声には、役に立つ使い道もあります。作品を作る、別の国の言葉に直す、使いやすくするなどです。体に障害のある人を助けることもあります。

「AIで作ったか」と「中身は正しいか」は、別の問いです。同意があるか、人を傷つけるかも分けて考えます。

AIのなりすまし動画や電話は、どこへかけ直して確かめる?

警告の付いた人物の映像を手で止めるレンと、電話や名簿など別の確かめ道を指すノア

届いたメッセージの外にある連絡先へ、自分でかけ直します。

保存してある電話番号や、社内の連絡先を使います。契約書にある番号も使えます。公式サイトの問い合わせ先は、自分で開いてさがします。

次の三つは、確かめたことになりません。相手の用意した道の中にいるからです。

  • 表示された番号へ、そのまま折り返す
  • 相手が送ってきた検索の結果やQRコードを使う
  • 同じチャットの中で質問する

「ガスの点検です」と人が家に来た時にたとえます。相手の名刺より、手元の検針票にある番号へ電話する。それと同じです。検針票は、ガスを使った量を知らせる紙です。

家族なら、ふだんの連絡先にかけ直します。別の家族に聞くこともできます。前もって決めた連絡の順番も合わせて使います。

合言葉は、もれたり当てられたりします。合言葉一つで、本人だと決めないでおきます。

職場では、いつもの許可をもらう順番を省きません。お金を送る、口座を変える、会社の秘密をわたす時です。映像に本物らしさがあっても同じです。

有名人が投資をすすめる動画は、何を見る?

見るのは、投資をすすめる会社です。確かめるのは四つです。会社の登録、お金を送る先、契約、別のチャットへさそっていないか。

会社の名前と連絡先は、金融庁の公式の一覧とくらべます。名前は「免許・許可・登録等を受けている業者一覧」です。

登録した会社の名前をかたる例もあります。登録があっても、そのさそい方や投資が安全だとは言えません。相手が見せた番号ではなく、公式の一覧を使います。会社の公式サイトからも確かめます。

投資にさそわれた時点で、金融庁に知らせられます。 金融庁は2024年10月1日に、情報を受け付ける窓口を作りました。正式名は「SNS上の投資詐欺が疑われる広告等に関する情報受付窓口」です。

にせの広告から、投資や有料の助言にさそわれた人が送れます。じっさいに被害にあった人も送れます。送るのはフォームからで、受付は24時間です。

送る時に聞かれるのは、広告や書きこみのURLなどです。アカウントのURLと、別のチャットにさそわれたかも聞かれます。画面を閉じる前にメモします。

この窓口は、情報を受け付ける所です。相談は受けていません。自分の件を相談する先は「金融サービス利用者相談室」です。金融庁が案内している窓口です。

もう送金した・入力してしまった時は?

使った所の公式の窓口へ、先に連絡します。お金をあずけた会社や、カード会社などです。暗号資産交換業者と、アカウントを出した会社も入ります。相手とのやり取りを続ける前に連絡します。

この順番で、お金やアカウントが元にもどるとは約束できません。今どうなっているかに合わせて、警察の窓口も使います。消費者ホットライン188にも相談できます。

家族や職場で、先に決めておくことは?

一時停止の印を指すレンと、人・電話・公的な窓口へ順につなぐ道すじを示すノア

先に決めるのは、確かめる道です。作る技術も見つける技術も変わっていきます。不自然な所を覚えるだけでは、やり方が古くなります。

  • お金を送る先、口座、できる操作、連絡先を変える時は、保存した別の連絡先で聞く
  • お金・秘密・アカウントを変える時は、許可をもらう人を飛ばさない
  • パスワード、暗証番号、ワンタイムパスワードは人に教えない
  • 公式の連絡先と相談先を、メッセージの外に保存する。急ぐ時と急がない時の両方
  • 本当か分からない情報は回さず、確かめる人へわたす
  • 何か起きた後に、使われた道と止めた操作を見直す。もれた情報と次の順番も見直す

偽動画の見分け方|見た目やツールで分かる?

机に並んだ5枚の確認カードを見るレンとノア。奥の画面には、ぼやけた人影が映っている

見た目やツールは、どれも手がかりです。どう作られ、加工されたかの記録も同じです。一つで、本物とも偽物とも決められません。この記録を来歴情報といいます。

口の動き、光、顔の形、反射、声の間、後ろのゆれ。おかしいと感じた所は、確かめるきっかけになります。でも、通信や映像を小さくする処理でもそう見えます。字幕や編集、うつした機器のせいのこともあります。自然に見えることも、本物の証明にはなりません。

米国の国立標準技術研究所(NIST)は、報告書「AI 100-4」を出しました。そこでは、手がかりを別々のやり方に分けています。

作り方の記録、すかし、メタデータ、合成を見つけるツール、人の目で見ることです。メタデータは、うつした時や編集した時の記録です。ファイルに付いています。

どのやり方にも、できないことがあると書いています。記録が消されたり、書きかえられたりすることがあります。プライバシーの問題もあります。これは、自分のことを知られずにいる権利です。一部だけを加工し、ほとんどはじっさいの映像ということもあります。

手がかり分かるかもしれないことこれ一つでは分からないこと
目で見る・耳で聞くくわしく調べたほうがよい所本人か、内容が本当か
AI検出ツール決まった場面での、合成らしさどのツール・どの加工でも同じ結果になるか
すかし・メタデータ記録された生成・編集・撮影の一部記録が無い理由、中身の正しさ
公式の元資料だれが出したか、全体の流れ、公開の時点別の主張や、この先の安全
別々の裏付け中身がほかの証拠と合うか映像ファイルを編集した、ぜんぶの記録

NISTの別の報告も、作り方と害を分けて考えています。「AI生成」とあるだけで、危険とは決められません。表示が無いだけで、じっさいの映像とも決められません。

ツールに入れてはいけない物があります。 顔写真、本人か確かめる書類、性的な画像、会社の秘密です。だれが動かし、どう保存するか分からないサイトへは送りません。

必要な時は、サービスの窓口や警察、弁護士に相談します。専門の調査担当にも聞けます。証拠をどう残すか、先に確かめます。

ツールを使ったら、名前、日、調べたファイルをメモします。結果と、どれだけ確かだと出たかも残します。「ツールでは決められなかった」も、そのまま書きます。

AI動画の偽物を広める前に何を見る?

災害の映像の前で共有のボタンに手をかざして止めるレンと、確かめる資料のカードを並べるカイ

元の資料と、別々の裏付けがあるかを見ます。確かめられなければ、広めずに置いておきます。

政府広報オンラインも、正しさが分からない情報は広めないよう案内しています。災害、事件、選挙、感染症、お金の不安。急いで知らせたい時ほど、次を上から見ます。

確かめること見る所
発信元書いた人の名前より、公式サイトからたどれるアカウント・発表か
元の資料さいしょの書きこみ、全体の映像、会見の記録、公表文、データがあるか
時点と場所うつした日・書いた日と場所。昔の映像の使い回しではないか
前後の話字幕や短く切った映像が、前後の説明と合っているか
別々の裏付け同じ情報の写しより、別の一次情報・取材・観測と合うか
求める行動共有、寄付、買い物、避難、投票を急がせていないか

同じ映像がいくつものサイトにあっても、元は一つのことがあります。どれも、確かめていない書きこみの写しなら、裏付けは増えません。

災害の時は、自治体や消防、警察の公式の発表にもどります。気象・防災の機関にもどることもできます。

選挙や、公の仕事をする人の発言は、元の会見や演説を見ます。選挙を取りしきる機関、本人や組織の公式サイトも見ます。それぞれ調べた、別々の報道ともくらべます。

AIで作ったか決められなくても、中身の証拠が無ければ送りません。AIを使った再現映像でも、そう書いてある物はあります。元の資料と使う目的まで確かめられる物もあります。

ディープフェイクの被害にあったら、最初に何をする?

記録の箱と鍵の印を前に、止めるカードと相談するカードを分けて並べるレン、カイ、ノア

広めずに記録を残し、目的に合う窓口へつなぎます。法律にどう当てはまるかや、消してもらう話は一人で背負わなくてだいじょうぶです。

困った時、先に止める物と連絡先は?

下の表で、自分に近い行を一つ選びます。

起きたことさいしょに止める物主な連絡先
今にも危害がありそう・事件が進んでいる相手に会うこと、危ない所へ行くこと110番
今すぐではない犯罪・おどし・サイバー被害さらに送ること、相手の指示に従うこと近くの警察署、#9110、都道府県警察のサイバー相談
送金・投資・買い物さらにお金を送る・引き出す・取引することお金をあずけた会社・支払いの会社、警察、188、投資なら金融庁など
パスワードや認証の情報を入力した同じスマホ・パソコンや同じリンクでの操作公式の復旧窓口。入っている機器とつないだ先を確かめる。警察・IPA(情報処理推進機構)
投稿で名誉・プライバシーを傷つけられた引用・再投稿プラットフォーム、法務局・地方法務局、違法・有害情報相談センター
性的な画像をふくむ被害転送、相手への一人での連絡上に加えて、必要なら#8891、#8103、法テラスなど
学校・職場で広まっている生徒・同僚の間の再共有安全を守れる担当者、学校・組織の正式な窓口、必要なら警察・法務局

#9110は、今すぐではない相談を受ける警察の番号です。#8891は、性犯罪・性暴力の被害者のための窓口につながります。名前はワンストップ支援センターです。#8103は、警察の性犯罪被害相談電話です。

証拠を残すことと、被害の画像を広げることは別です。必要な分を、公開せず、手を加えずに残します。相談先に説明できる形にします。

何を残すか分からない時は、消したり初期化したりする前に聞きます。警察、法務局、弁護士、サービスの窓口に確かめます。でも、今の身の安全を守る操作は後回しにしません。アカウントの乗っ取りを止める操作も先にします。

だれかに不正にログインされたかもしれない時は、公式アプリやサイトから入ります。メッセージのリンクは使いません。パスワードを変えたか、どの機器で入っているかを見ます。もどす先と、つないだアプリも確かめます。

使い回したパスワードがあれば、ほかも別の物に変えます。IPAも、ブックマークなどから確かめるよう案内しています。メッセージのリンクは使いません。

同意のない性的な画像や、言っていない発言を作られたら?

広がりかけた人物の画像を手で止めるレンと、相談の部屋と鍵の付いた記録の箱を示すノア

合成だと分かっていても、被害は消えません。同意なく、だれか分かる人を性的な画像に加工する。人をおとしめる場面に置く。言っていないことを本人の発言として出す。どれもそうです。

NISTも、同意のない性的な画像について書いています。ラベルや作り方の記録があっても、害は残ります。被害にあった人が受ける、苦しみやはずかしさも残るという話です。

自分や身近な人の画像を見つけたら、次の五つに分けます。

  • 広がりを止める。 引用、さらすこと、友人へ確かめてもらうための転送をしない
  • 記録する。 URL、アカウント、投稿ID、日と時間を残す。画面やメッセージも必要な分だけ
  • 公開先へ申し出る。 なりすまし、性的画像、名誉などに当てはまる正式なフォームを使う
  • 相談する。 消すこと、人権、犯罪、学校・職場、安全を、目的ごとの窓口に聞く
  • 一人で対決しない:おどし、要求、続くいやがらせがある時は、相手へ一人で連絡しない

子どもをうつした画像かもしれない時は、むやみにコピーや転送をしません。新しいコピーを作ることが不安な時も同じです。URLやアカウントをメモし、警察などに保存のやり方を聞きます。

消すには、本人からサービスの窓口へお願いする道があります。法務局に相談する道もあります。法務省が案内しています。

内閣府男女共同参画局の一覧には、相談先がまとまっています。性的な画像をふくむネットの問題や、性暴力の手助けの窓口です。警察や法テラスなどもあります。

情報流通プラットフォーム対処法は、国が指定した大きなサービスへの法律です。求めていることは三つです。権利を傷つける情報の申し出方を公表すること。調べること。そして、申し出た人へ知らせることなどです。

同じやり方が、ぜんぶのサービスに当てはまる決まりではありません。申し出た情報が、必ず消えるとも決まっていません。使うサービスの今の申し出方と、法務局などの案内を確かめます。

相談する時に、何をメモしておけば伝えやすい?

ぜんぶそろわなくてかまいません。分かる所から書きます。動画や声のURLとは、別の場所に残します。

  • 受け取った日時、届いた場所・アカウント・URL
  • だれを名乗り、何を言い、何を求めていたか
  • 止めた操作と、登録済みの連絡先で確かめた相手
  • 元の資料・日時・場所と、別々の裏付け
  • お金・認証・安全・権利のうち、どの被害か
  • 残した最小限の記録と、連絡した公式の窓口
  • まだ確かめていないことと、次にだれが動くか

顔や声を無断で使われた時のルールは、これからどうなる?

国ごとに、何に当てはまるかをしぼった決まりが動き始めています。日本では、考え方をまとめる動きがあります。選挙の情報に表示を付ける義務も進んでいます。

どの法律や責任に当たるかは、ディープフェイクという名前では決まりません。相手がだれか分かるか、年齢、画像の中身、同意で変わります。作る・公開する・売る・おどすといった行動もかかわります。名誉やプライバシー、財産にどんな被害が出たかも見ます。個別の事実で変わります。

自分で「必ず犯罪」「合成だから問題ない」と決めないでおきます。無断で、性的な物や、人をおとしめる物、だます物を作らない。そうした物を広めないことも必要です。個別の件は、警察、法務局、弁護士に確かめます。

声を無断で使うことは、2026年5月に内閣府の大臣会見で出ました。民事上の責任がどこまでか、はっきりしないという話です。考えを進めているようすも示されました。その後の動きは、下の年表にあります。

予測の行を読む時は、何を数えた数字かを見ます。だまして取るお金の被害額は、米国についての予測です。じっさいに数えた額とは別の物です。

2026年

  1. 2026年5月19日まで

    公表された日程記載の出来事を確認済み

    米国で、同意のない性的な画像(AIで作った偽物を含む)を消す窓口を、事業者が設ける期限

    2025年5月19日に成立した連邦法。本人から正しい求めがあれば、48時間以内に消すことを事業者に義務づける。各社の対応の状況は確かめていない。

    米国 連邦議会(Public Law 119-12)(2025年5月19日)公的機関Public Law 119-12(TAKE IT DOWN Act)確認日:2026年9月30日

  2. 2026年8月7日

    公表された日程記載の出来事を確認済み

    顔や声を無断で使われたときの民事上の責任について、法務省の検討会が報告書を公表した

    新しい法律ではない。今の法律と裁判例の考え方を整理したもの。

    法務省(2026年8月7日)公的機関肖像、声等の無断利用による民事責任の在り方に関する検討会 取りまとめ報告書の公表について確認日:2026年9月29日

  3. いま
  4. 2026年12月2日

    公表された日程これから(実現を保証しない)

    EUで、同意のない性的な偽画像や、児童の性的虐待の画像を作るAIが禁止される

    AIオムニバスで加わった禁止。同じ日に、2026年8月2日より前から出回っている生成AIにも、合成だと分かる印を付ける義務の猶予が終わる。

    欧州委員会(2026年7月27日)公的機関Timeline for the Implementation of the EU AI Act確認日:2026年9月30日

2027年

  1. 2027年3月1日

    公表された日程これから(実現を保証しない)

    選挙に関してネットに載せるAI生成の画像や映像に、表示の義務が始まる

    公職選挙法などの改正(令和8年法律第58号)。

    総務省(2026年7月17日)公的機関公職選挙法及び情報流通プラットフォーム対処法の一部を改正する法律について確認日:2026年9月29日

  2. 2027年まで

    将来の予測これから(実現を保証しない)

    生成AIを使った詐欺の被害額は、2027年に米国で400億ドルに達しうる

    2023年の123億ドルから年32%ずつ増えるという米国の予測。FBIの統計をもとに、詐欺の種類ごとの伸びを仮定して計算したもので、実測ではない。

    Deloitte Center for Financial Services(2024年5月29日)報告書Deepfake banking and AI fraud risk確認日:2026年9月30日

公表された日程
法律・政令・公的な計画などで日付や内容が公表されたもの。実施済みかは別に確認する
将来の予測
研究機関・企業のトップ・研究者などの見通し。予定や実現済みの出来事ではない

未来の年表をすべて見る

分かれ道:決まりと窓口が広がったら?

二つの場合を並べます。どちらになるかを言い当てる物ではなく、備え方を比べるための物です。

こうなったら

広がったら

  • 選挙の絵や映像に、AIで作ったという表示が付く。日本は2027年3月1日から
  • 申し出方を公表するサービスが増え、消すようお願いする道が見つけやすくなる
  • 表示の無い偽物や、決まりの外のサービスは残ることも。かけ直す順番は必要

ならなかったら

広がらなかったら

  • 見た目でも表示でも、見分けにくいままになる
  • 消してほしいという申し出は、サービスごとにやり方がちがうまま
  • 先に止める6つと、メッセージの外でかけ直す順番は、技術が変わっても使える

どちらに寄っているかを確かめる目印よく使うSNSのヘルプに、なりすましや権利の問題を申し出る道があるかを見ます。すぐ見つかるなら、決まりが使える形になってきた目印です。

どちらの道でも、使える備えは同じです。止めること、別の道で確かめること、窓口につなぐこと。

今できること

三つにしぼりました。1つ目は、今すぐ終わります。

1. 今日、5分。かけ直す先を、スマホの連絡先に入れる。

家族の電話番号、警察相談の#9110、消費者ホットラインの188。この三つを、今、スマホの連絡先に入れます。

メッセージの外に連絡先を持っておけば、あわてた時に使えます。相手が示した番号を使わずにすみます。

2. 今週、家族に一言だけ伝える。

「お金や暗証番号の話が出たら、一回切って、こっちからかけ直すね」。離れて暮らす親には、次の電話のついでに、この一言を伝えます。

かけ直す順番も決めておきます。たとえば、まず本人の携帯、出なければもう一人の家族、という順です。言い方と順番の例は、編集部の案です。

3. もし6つのどれかを求められたら、「かけ直します」と言って切る。

もし動画や電話で、6つのどれかを求められたら、その場では決めません。お金やパスワード、リンクからのログインなどです。切った後に、保存した連絡先から確かめます。

未来分岐点:見分けられなくても止まれる?

技術が進むほど、見た目で見分けるのは難しくなります。変わらずに使えるのは、止めて、別の道で確かめる順番です。

家族の決めごとを、一つ書いて残します。

お金・暗証番号・ログインの話が出たら、
一度切って、こちらからかけ直す。

かけ直す番号:
出ない時に聞く人:

書き方の例です。「かけ直す番号:母の携帯(連絡先に入れてある番号)。出ない時に聞く人:姉。」

偽物を見分けられなくても、手を止めることはできます。止める合図は、さいしょの6つです。