よく知っている有名人が、投資をすすめる動画。見ているうちに、別のチャットへ登録しかけた。はなれて暮らす親に、自分の声で電話が来たらどうしよう。
さいしょに、先に止める6つを見ます。その後は、かけ直すやり方と動画の見方です。被害にあった時の連絡先もあります。
ディープフェイクの危険性|先に止める6つは?

危ないのは、確かめる前にお金や情報を送ることです。映像がよくできているかだけでは決められません。ディープフェイクは、本物そっくりにAIで作った動画や声です。
家族、上司、警察、お金をあずけた会社、有名人。だれに見えても、次の6つを求められたら手を止めます。本物かどうかを決める前に止めてかまいません。
- お金、暗号資産、ギフトカードを送る
- パスワード、暗証番号、ワンタイムパスワードを伝える。最後の一つは1回だけ使う番号
- メッセージの中のリンクからログインする
- 画面を共有する、外からスマホを動かすアプリを入れる、別のチャットへ移る
- 本人か確かめる書類、顔写真、口座の情報を送る
- いつもの承認者に知らせず、今すぐ処理する
止めた後は、五つに分けて考えます。
| 分けて見る物 | その場で決めないこと |
|---|---|
| 人物(だれを名乗っているか) | 顔・声・ライブの表示を見て、本人と決めない |
| 内容(何を言っているか) | 映像があるからといって、事実と決めない |
| 要求(何を求めているか) | 「急いで」と言われても、決めた順番を省かない |
| 被害(お金・アカウント・名誉・安全のどれか) | 一つの窓口でぜんぶが片づくと考えない |
| 記録(URL、アカウント、日時) | 確かめるために、公開して広めない |
この分け方は、技術の名前を知らなくても使えます。映像がじっさいにうつした物でも同じです。アカウントを乗っ取った人や、編集した声のこともあります。にせの字幕や、別人の書きこみでも確かめ方は変わりません。
AIで作った絵・動画・声には、役に立つ使い道もあります。作品を作る、別の国の言葉に直す、使いやすくするなどです。体に障害のある人を助けることもあります。
「AIで作ったか」と「中身は正しいか」は、別の問いです。同意があるか、人を傷つけるかも分けて考えます。
AIのなりすまし動画や電話は、どこへかけ直して確かめる?

届いたメッセージの外にある連絡先へ、自分でかけ直します。
保存してある電話番号や、社内の連絡先を使います。契約書にある番号も使えます。公式サイトの問い合わせ先は、自分で開いてさがします。
次の三つは、確かめたことになりません。相手の用意した道の中にいるからです。
- 表示された番号へ、そのまま折り返す
- 相手が送ってきた検索の結果やQRコードを使う
- 同じチャットの中で質問する
「ガスの点検です」と人が家に来た時にたとえます。相手の名刺より、手元の検針票にある番号へ電話する。それと同じです。検針票は、ガスを使った量を知らせる紙です。
家族なら、ふだんの連絡先にかけ直します。別の家族に聞くこともできます。前もって決めた連絡の順番も合わせて使います。
合言葉は、もれたり当てられたりします。合言葉一つで、本人だと決めないでおきます。
職場では、いつもの許可をもらう順番を省きません。お金を送る、口座を変える、会社の秘密をわたす時です。映像に本物らしさがあっても同じです。
有名人が投資をすすめる動画は、何を見る?
見るのは、投資をすすめる会社です。確かめるのは四つです。会社の登録、お金を送る先、契約、別のチャットへさそっていないか。
会社の名前と連絡先は、金融庁の公式の一覧とくらべます。名前は「免許・許可・登録等を受けている業者一覧」です。
登録した会社の名前をかたる例もあります。登録があっても、そのさそい方や投資が安全だとは言えません。相手が見せた番号ではなく、公式の一覧を使います。会社の公式サイトからも確かめます。
投資にさそわれた時点で、金融庁に知らせられます。 金融庁は2024年10月1日に、情報を受け付ける窓口を作りました。正式名は「SNS上の投資詐欺が疑われる広告等に関する情報受付窓口」です。
にせの広告から、投資や有料の助言にさそわれた人が送れます。じっさいに被害にあった人も送れます。送るのはフォームからで、受付は24時間です。
送る時に聞かれるのは、広告や書きこみのURLなどです。アカウントのURLと、別のチャットにさそわれたかも聞かれます。画面を閉じる前にメモします。
この窓口は、情報を受け付ける所です。相談は受けていません。自分の件を相談する先は「金融サービス利用者相談室」です。金融庁が案内している窓口です。
もう送金した・入力してしまった時は?
使った所の公式の窓口へ、先に連絡します。お金をあずけた会社や、カード会社などです。暗号資産交換業者と、アカウントを出した会社も入ります。相手とのやり取りを続ける前に連絡します。
この順番で、お金やアカウントが元にもどるとは約束できません。今どうなっているかに合わせて、警察の窓口も使います。消費者ホットライン188にも相談できます。
家族や職場で、先に決めておくことは?

先に決めるのは、確かめる道です。作る技術も見つける技術も変わっていきます。不自然な所を覚えるだけでは、やり方が古くなります。
- お金を送る先、口座、できる操作、連絡先を変える時は、保存した別の連絡先で聞く
- お金・秘密・アカウントを変える時は、許可をもらう人を飛ばさない
- パスワード、暗証番号、ワンタイムパスワードは人に教えない
- 公式の連絡先と相談先を、メッセージの外に保存する。急ぐ時と急がない時の両方
- 本当か分からない情報は回さず、確かめる人へわたす
- 何か起きた後に、使われた道と止めた操作を見直す。もれた情報と次の順番も見直す
偽動画の見分け方|見た目やツールで分かる?

見た目やツールは、どれも手がかりです。どう作られ、加工されたかの記録も同じです。一つで、本物とも偽物とも決められません。この記録を来歴情報といいます。
口の動き、光、顔の形、反射、声の間、後ろのゆれ。おかしいと感じた所は、確かめるきっかけになります。でも、通信や映像を小さくする処理でもそう見えます。字幕や編集、うつした機器のせいのこともあります。自然に見えることも、本物の証明にはなりません。
米国の国立標準技術研究所(NIST)は、報告書「AI 100-4」を出しました。そこでは、手がかりを別々のやり方に分けています。
作り方の記録、すかし、メタデータ、合成を見つけるツール、人の目で見ることです。メタデータは、うつした時や編集した時の記録です。ファイルに付いています。
どのやり方にも、できないことがあると書いています。記録が消されたり、書きかえられたりすることがあります。プライバシーの問題もあります。これは、自分のことを知られずにいる権利です。一部だけを加工し、ほとんどはじっさいの映像ということもあります。
| 手がかり | 分かるかもしれないこと | これ一つでは分からないこと |
|---|---|---|
| 目で見る・耳で聞く | くわしく調べたほうがよい所 | 本人か、内容が本当か |
| AI検出ツール | 決まった場面での、合成らしさ | どのツール・どの加工でも同じ結果になるか |
| すかし・メタデータ | 記録された生成・編集・撮影の一部 | 記録が無い理由、中身の正しさ |
| 公式の元資料 | だれが出したか、全体の流れ、公開の時点 | 別の主張や、この先の安全 |
| 別々の裏付け | 中身がほかの証拠と合うか | 映像ファイルを編集した、ぜんぶの記録 |
NISTの別の報告も、作り方と害を分けて考えています。「AI生成」とあるだけで、危険とは決められません。表示が無いだけで、じっさいの映像とも決められません。
ツールに入れてはいけない物があります。 顔写真、本人か確かめる書類、性的な画像、会社の秘密です。だれが動かし、どう保存するか分からないサイトへは送りません。
必要な時は、サービスの窓口や警察、弁護士に相談します。専門の調査担当にも聞けます。証拠をどう残すか、先に確かめます。
ツールを使ったら、名前、日、調べたファイルをメモします。結果と、どれだけ確かだと出たかも残します。「ツールでは決められなかった」も、そのまま書きます。
AI動画の偽物を広める前に何を見る?

元の資料と、別々の裏付けがあるかを見ます。確かめられなければ、広めずに置いておきます。
政府広報オンラインも、正しさが分からない情報は広めないよう案内しています。災害、事件、選挙、感染症、お金の不安。急いで知らせたい時ほど、次を上から見ます。
| 確かめること | 見る所 |
|---|---|
| 発信元 | 書いた人の名前より、公式サイトからたどれるアカウント・発表か |
| 元の資料 | さいしょの書きこみ、全体の映像、会見の記録、公表文、データがあるか |
| 時点と場所 | うつした日・書いた日と場所。昔の映像の使い回しではないか |
| 前後の話 | 字幕や短く切った映像が、前後の説明と合っているか |
| 別々の裏付け | 同じ情報の写しより、別の一次情報・取材・観測と合うか |
| 求める行動 | 共有、寄付、買い物、避難、投票を急がせていないか |
同じ映像がいくつものサイトにあっても、元は一つのことがあります。どれも、確かめていない書きこみの写しなら、裏付けは増えません。
災害の時は、自治体や消防、警察の公式の発表にもどります。気象・防災の機関にもどることもできます。
選挙や、公の仕事をする人の発言は、元の会見や演説を見ます。選挙を取りしきる機関、本人や組織の公式サイトも見ます。それぞれ調べた、別々の報道ともくらべます。
AIで作ったか決められなくても、中身の証拠が無ければ送りません。AIを使った再現映像でも、そう書いてある物はあります。元の資料と使う目的まで確かめられる物もあります。
ディープフェイクの被害にあったら、最初に何をする?

広めずに記録を残し、目的に合う窓口へつなぎます。法律にどう当てはまるかや、消してもらう話は一人で背負わなくてだいじょうぶです。
困った時、先に止める物と連絡先は?
下の表で、自分に近い行を一つ選びます。
| 起きたこと | さいしょに止める物 | 主な連絡先 |
|---|---|---|
| 今にも危害がありそう・事件が進んでいる | 相手に会うこと、危ない所へ行くこと | 110番 |
| 今すぐではない犯罪・おどし・サイバー被害 | さらに送ること、相手の指示に従うこと | 近くの警察署、#9110、都道府県警察のサイバー相談 |
| 送金・投資・買い物 | さらにお金を送る・引き出す・取引すること | お金をあずけた会社・支払いの会社、警察、188、投資なら金融庁など |
| パスワードや認証の情報を入力した | 同じスマホ・パソコンや同じリンクでの操作 | 公式の復旧窓口。入っている機器とつないだ先を確かめる。警察・IPA(情報処理推進機構) |
| 投稿で名誉・プライバシーを傷つけられた | 引用・再投稿 | プラットフォーム、法務局・地方法務局、違法・有害情報相談センター |
| 性的な画像をふくむ被害 | 転送、相手への一人での連絡 | 上に加えて、必要なら#8891、#8103、法テラスなど |
| 学校・職場で広まっている | 生徒・同僚の間の再共有 | 安全を守れる担当者、学校・組織の正式な窓口、必要なら警察・法務局 |
#9110は、今すぐではない相談を受ける警察の番号です。#8891は、性犯罪・性暴力の被害者のための窓口につながります。名前はワンストップ支援センターです。#8103は、警察の性犯罪被害相談電話です。
証拠を残すことと、被害の画像を広げることは別です。必要な分を、公開せず、手を加えずに残します。相談先に説明できる形にします。
何を残すか分からない時は、消したり初期化したりする前に聞きます。警察、法務局、弁護士、サービスの窓口に確かめます。でも、今の身の安全を守る操作は後回しにしません。アカウントの乗っ取りを止める操作も先にします。
だれかに不正にログインされたかもしれない時は、公式アプリやサイトから入ります。メッセージのリンクは使いません。パスワードを変えたか、どの機器で入っているかを見ます。もどす先と、つないだアプリも確かめます。
使い回したパスワードがあれば、ほかも別の物に変えます。IPAも、ブックマークなどから確かめるよう案内しています。メッセージのリンクは使いません。
同意のない性的な画像や、言っていない発言を作られたら?

合成だと分かっていても、被害は消えません。同意なく、だれか分かる人を性的な画像に加工する。人をおとしめる場面に置く。言っていないことを本人の発言として出す。どれもそうです。
NISTも、同意のない性的な画像について書いています。ラベルや作り方の記録があっても、害は残ります。被害にあった人が受ける、苦しみやはずかしさも残るという話です。
自分や身近な人の画像を見つけたら、次の五つに分けます。
- 広がりを止める。 引用、さらすこと、友人へ確かめてもらうための転送をしない
- 記録する。 URL、アカウント、投稿ID、日と時間を残す。画面やメッセージも必要な分だけ
- 公開先へ申し出る。 なりすまし、性的画像、名誉などに当てはまる正式なフォームを使う
- 相談する。 消すこと、人権、犯罪、学校・職場、安全を、目的ごとの窓口に聞く
- 一人で対決しない:おどし、要求、続くいやがらせがある時は、相手へ一人で連絡しない
子どもをうつした画像かもしれない時は、むやみにコピーや転送をしません。新しいコピーを作ることが不安な時も同じです。URLやアカウントをメモし、警察などに保存のやり方を聞きます。
消すには、本人からサービスの窓口へお願いする道があります。法務局に相談する道もあります。法務省が案内しています。
内閣府男女共同参画局の一覧には、相談先がまとまっています。性的な画像をふくむネットの問題や、性暴力の手助けの窓口です。警察や法テラスなどもあります。
情報流通プラットフォーム対処法は、国が指定した大きなサービスへの法律です。求めていることは三つです。権利を傷つける情報の申し出方を公表すること。調べること。そして、申し出た人へ知らせることなどです。
同じやり方が、ぜんぶのサービスに当てはまる決まりではありません。申し出た情報が、必ず消えるとも決まっていません。使うサービスの今の申し出方と、法務局などの案内を確かめます。
相談する時に、何をメモしておけば伝えやすい?
ぜんぶそろわなくてかまいません。分かる所から書きます。動画や声のURLとは、別の場所に残します。
- 受け取った日時、届いた場所・アカウント・URL
- だれを名乗り、何を言い、何を求めていたか
- 止めた操作と、登録済みの連絡先で確かめた相手
- 元の資料・日時・場所と、別々の裏付け
- お金・認証・安全・権利のうち、どの被害か
- 残した最小限の記録と、連絡した公式の窓口
- まだ確かめていないことと、次にだれが動くか
顔や声を無断で使われた時のルールは、これからどうなる?
国ごとに、何に当てはまるかをしぼった決まりが動き始めています。日本では、考え方をまとめる動きがあります。選挙の情報に表示を付ける義務も進んでいます。
どの法律や責任に当たるかは、ディープフェイクという名前では決まりません。相手がだれか分かるか、年齢、画像の中身、同意で変わります。作る・公開する・売る・おどすといった行動もかかわります。名誉やプライバシー、財産にどんな被害が出たかも見ます。個別の事実で変わります。
自分で「必ず犯罪」「合成だから問題ない」と決めないでおきます。無断で、性的な物や、人をおとしめる物、だます物を作らない。そうした物を広めないことも必要です。個別の件は、警察、法務局、弁護士に確かめます。
声を無断で使うことは、2026年5月に内閣府の大臣会見で出ました。民事上の責任がどこまでか、はっきりしないという話です。考えを進めているようすも示されました。その後の動きは、下の年表にあります。
予測の行を読む時は、何を数えた数字かを見ます。だまして取るお金の被害額は、米国についての予測です。じっさいに数えた額とは別の物です。
2026年
2026年5月19日まで
公表された日程記載の出来事を確認済み
米国で、同意のない性的な画像(AIで作った偽物を含む)を消す窓口を、事業者が設ける期限
2025年5月19日に成立した連邦法。本人から正しい求めがあれば、48時間以内に消すことを事業者に義務づける。各社の対応の状況は確かめていない。
米国 連邦議会(Public Law 119-12)(2025年5月19日)公的機関Public Law 119-12(TAKE IT DOWN Act)確認日:2026年9月30日
2026年8月7日
公表された日程記載の出来事を確認済み
顔や声を無断で使われたときの民事上の責任について、法務省の検討会が報告書を公表した
新しい法律ではない。今の法律と裁判例の考え方を整理したもの。
法務省(2026年8月7日)公的機関肖像、声等の無断利用による民事責任の在り方に関する検討会 取りまとめ報告書の公表について確認日:2026年9月29日
- いま
2026年12月2日
公表された日程これから(実現を保証しない)
EUで、同意のない性的な偽画像や、児童の性的虐待の画像を作るAIが禁止される
AIオムニバスで加わった禁止。同じ日に、2026年8月2日より前から出回っている生成AIにも、合成だと分かる印を付ける義務の猶予が終わる。
欧州委員会(2026年7月27日)公的機関Timeline for the Implementation of the EU AI Act確認日:2026年9月30日
2027年
2027年3月1日
公表された日程これから(実現を保証しない)
選挙に関してネットに載せるAI生成の画像や映像に、表示の義務が始まる
公職選挙法などの改正(令和8年法律第58号)。
総務省(2026年7月17日)公的機関公職選挙法及び情報流通プラットフォーム対処法の一部を改正する法律について確認日:2026年9月29日
2027年まで
将来の予測これから(実現を保証しない)
生成AIを使った詐欺の被害額は、2027年に米国で400億ドルに達しうる
2023年の123億ドルから年32%ずつ増えるという米国の予測。FBIの統計をもとに、詐欺の種類ごとの伸びを仮定して計算したもので、実測ではない。
Deloitte Center for Financial Services(2024年5月29日)報告書Deepfake banking and AI fraud risk確認日:2026年9月30日
- 公表された日程
- 法律・政令・公的な計画などで日付や内容が公表されたもの。実施済みかは別に確認する
- 将来の予測
- 研究機関・企業のトップ・研究者などの見通し。予定や実現済みの出来事ではない
分かれ道:決まりと窓口が広がったら?
二つの場合を並べます。どちらになるかを言い当てる物ではなく、備え方を比べるための物です。
こうなったら
広がったら
- 選挙の絵や映像に、AIで作ったという表示が付く。日本は2027年3月1日から
- 申し出方を公表するサービスが増え、消すようお願いする道が見つけやすくなる
- 表示の無い偽物や、決まりの外のサービスは残ることも。かけ直す順番は必要
ならなかったら
広がらなかったら
- 見た目でも表示でも、見分けにくいままになる
- 消してほしいという申し出は、サービスごとにやり方がちがうまま
- 先に止める6つと、メッセージの外でかけ直す順番は、技術が変わっても使える
どちらに寄っているかを確かめる目印よく使うSNSのヘルプに、なりすましや権利の問題を申し出る道があるかを見ます。すぐ見つかるなら、決まりが使える形になってきた目印です。
どちらの道でも、使える備えは同じです。止めること、別の道で確かめること、窓口につなぐこと。
今できること
三つにしぼりました。1つ目は、今すぐ終わります。
1. 今日、5分。かけ直す先を、スマホの連絡先に入れる。
家族の電話番号、警察相談の#9110、消費者ホットラインの188。この三つを、今、スマホの連絡先に入れます。
メッセージの外に連絡先を持っておけば、あわてた時に使えます。相手が示した番号を使わずにすみます。
2. 今週、家族に一言だけ伝える。
「お金や暗証番号の話が出たら、一回切って、こっちからかけ直すね」。離れて暮らす親には、次の電話のついでに、この一言を伝えます。
かけ直す順番も決めておきます。たとえば、まず本人の携帯、出なければもう一人の家族、という順です。言い方と順番の例は、編集部の案です。
3. もし6つのどれかを求められたら、「かけ直します」と言って切る。
もし動画や電話で、6つのどれかを求められたら、その場では決めません。お金やパスワード、リンクからのログインなどです。切った後に、保存した連絡先から確かめます。
未来分岐点:見分けられなくても止まれる?
技術が進むほど、見た目で見分けるのは難しくなります。変わらずに使えるのは、止めて、別の道で確かめる順番です。
家族の決めごとを、一つ書いて残します。
お金・暗証番号・ログインの話が出たら、
一度切って、こちらからかけ直す。
かけ直す番号:
出ない時に聞く人:
書き方の例です。「かけ直す番号:母の携帯(連絡先に入れてある番号)。出ない時に聞く人:姉。」
偽物を見分けられなくても、手を止めることはできます。止める合図は、さいしょの6つです。
