ディープフェイクの見分け方|本物か確かめる5つの手順を、5段階でわかる用語解説

向かい合う2つの頭のシルエットと、その間を流れる0と1の数字

AIで作られた、本物そっくりの偽の画像、動画、音声。
これをディープフェイクと呼びます。

「見分け方」を知りたくてこのページに来た方に、最初に結論を書いておきます。
いまのディープフェイクは、見た目や聞こえ方ではほとんど見分けられません。
見分けるのではなく、情報の出どころを確かめる手順で本物かどうかを判断します。

この記事では、その手順を中心に、ディープフェイクの説明を5つのレベルに分けて並べました。
なお、この記事は法律の解説ではありません。
実際の被害や対応については、警察や弁護士などの専門の窓口に相談してください。

どこから読むか

この記事は、同じ用語を5つのレベルに分けて解説しています。
当てはまるものを選んで、そこから読み始めてください。

→ この言葉を今日はじめて見た … Level 1から読む(3分)
→ 回ってきた動画が本物か、確かめ方を知りたい … Level 2から読む(6分)
→ なぜ見た目で見分けられないのか、仕組みを知りたい … Level 3から読む(7分)
→ 会社で詐欺やなりすましに備えたい … Level 4から読む(9分)
→ 検出や来歴の技術、制度を原典で読みたい … Level 5から読む(9分)

迷ったらLevel 1から読んでください。
知っている内容なら、数十秒で読み終えられます。

1分で腕試し

理解度から決めたい場合は、次の4問を試してください。
Q1〜Q4は、Level 1〜4の内容に1問ずつ対応しています。
最初にまちがえた問題のLevelが、あなたのスタート地点です。
4問とも正解なら、Level 5から読んでください。

各レベルの終わりにも、4択の理解度チェックがあります。
ITパスポート試験と応用情報技術者試験の過去問題も入れています。

生成AIの仕組みがあやふやな場合は、先にこちらを読んでください。
→ 生成AIとは?5段階でわかる用語解説

Q1.【オリジナル】家族の声で「事故を起こした。すぐにお金が必要」と電話がかかってきた。最初の対応として、最も適切なものはどれか。

  • ア 声が本人そっくりなら、言われた口座に振り込む
  • イ いったん切って、自分が知っている家族の番号にかけ直す
  • ウ 相手が教えてくれた折り返しの番号にかけ直す
  • エ 声に不自然なところがないか、もう一度よく聞いて判断する

正解:イ

解説:
いまの合成音声は、聞いただけでは本人と区別できないことがあります。
確実なのは、やり取りの経路を変えて確かめることです。
ウは誤りです。相手が伝えてきた番号は、相手が用意した番号かもしれません。
アとエは、聞こえ方で判断している点で同じ誤りです。
→ まちがえたら Level 1から

Q2.【オリジナル】SNSで、政治家が衝撃的な発言をしている動画が回ってきた。本物か確かめる最初の行動として、最も適切なものはどれか。

  • ア 動画の画質が高いかどうかを見る
  • イ 口の動きと声がずれていないかを、何度も見返す
  • ウ コメント欄に「本物だ」という書き込みが多いかを見る
  • エ 誰がいつ最初に投稿したかと、本人や公式の発表があるかを探す

正解:エ

解説:
本物か確かめる手順は、見た目ではなく情報の出どころから始めます。
重大な発言なら、本人や所属先の公式の発表、複数の報道があるはずです。
アとイは見た目の手がかりで、いまのディープフェイクでは決め手になりません。
ウの書き込みの数は、本物かどうかの根拠になりません。
→ まちがえたら Level 2から

Q3.【オリジナル】AIの判定ツールで、ある画像が「AIで作られた可能性90%」と出た。この結果の受け止め方として、最も適切なものはどれか。

  • ア 結果は確率なので、本物でも高く出ることがあり、それだけを根拠にしない
  • イ 90%なので偽物と断定し、投稿した人を非難してよい
  • ウ ツールが学習した作り方の偽物なら、必ず見抜ける
  • エ 判定ツールが本物を偽物と判定することはない

正解:ア

解説:
判定ツールの結果は確率で、誤りを含みます。
本物の画像でも、加工や圧縮を経るとAIで作られたと判定されることがあります。
イは、本物を偽物と判定していた場合に、人を不当に傷つけます。
ウとエは、どちらも言い過ぎです。
→ まちがえたら Level 3から

Q4.【オリジナル】会社で、経営者になりすました音声や映像による送金の被害を防ぐ方法として、最も確実なものはどれか。

  • ア 声で本人を確かめる仕組みを入れる
  • イ 社員全員に、偽の映像の見分け方の研修だけを行う
  • ウ 送金の指示は、音声や映像だけでは実行せず、別の経路で確かめる手順にする
  • エ 社長からの急ぎの指示だけは、確認を省けるようにする

正解:ウ

解説:
技術で見抜くより、見抜けなくても被害が出ない手順にしておくほうが確実です。
アは、合成音声で突破されるおそれがあります。
イの見分け方の研修だけでは、見た目で判断できない偽物を防げません。
エは、急がせるという手口そのものに合わせてしまう設計です。
→ まちがえたら Level 4から


Level 1 子供でもなんとなくわかる

ここはLevel 1です(全5レベル)
前提:なし。ここから読み始められます
想定読者:この言葉を今日はじめて見た人
このレベルのゴール:動画や声も作られたものかもしれない、と考えられる

本物そっくりの偽物

AIは、絵や写真を作れます。
それだけでなく、動画や、人の声も作れます。

その技術を使うと、実際には言っていないことを、その人が言っているように見える動画が作れてしまいます。
本物そっくりの偽物です。

これをディープフェイクといいます。
「ディープラーニング(AIの学び方の1つ)」と「フェイク(偽物)」を合わせた言葉です。

何が困るのか

これが困るのは、次のようなことに使われるからです。

  • 有名な人が言っていないことを、言ったように見せる
  • 家族や知り合いの声をまねて、電話でお金をだまし取る
  • 人の写真を勝手に使って、いやがらせをする

3つ目は、子どもが被害に遭う例も出ています(Level 2で数字を紹介します)。

「見れば分かる」とは限らない

少し前までは、よく見れば不自然な部分がありました。
指の数がおかしい、まばたきが不自然、といったものです。

いまは、ずいぶん自然になりました。
だから、「見れば分かる」とは考えないほうが安全です。

大事なのは、確かめ方

見分けるのではなく、確かめるのが確実です。

  • 動画や音声を、それだけで信じない
  • 別の場所でも同じことが言われているか、探してみる
  • 家族の声で「お金が必要」と言われたら、いったん切って、いつもの番号にかけ直す

3つ目は、実際に大人がだまされている手口への備えです。
家族だけが知っている合言葉を決めておく方法もあります。

つまずきポイント

「作るのは悪いこと?」
技術そのものは、映画やゲームでも使われています。
問題になるのは、人をだましたり、傷つけたりするために使うことです。
特に、人の顔や声を勝手に使うことは、法律の問題にもなります。

理解度チェック

Q1.【オリジナル】ディープフェイクの説明として、最も適切なものはどれか。

  • ア 深い海の中で撮影した映像
  • イ AIで作られた、本物そっくりの偽の画像、動画、音声
  • ウ 画質を高くした本物の動画
  • エ 写真を白黒に加工したもの

正解:イ

解説:
ディープフェイクは、AIで作られた本物そっくりの偽物です。
画像だけでなく、動画や人の声も含みます。
ウとエは、本物に手を加えただけで、偽物を作ってはいません。
アは、言葉の「ディープ」から連想した誤りです。
→ 「本物そっくりの偽物」に戻る

Q2.【オリジナル】「ディープフェイク」という言葉の成り立ちとして、適切なものはどれか。

  • ア 「ディープラーニング」と「フェイク(偽物)」を合わせた言葉
  • イ 「ディープ(深い)」と「フェイス(顔)」を合わせた言葉
  • ウ 「ディープウェブ」と「フェイク」を合わせた言葉
  • エ 「デジタル」と「フェイク」を合わせた言葉

正解:ア

解説:
ディープラーニング(AIの学び方の1つ)で作った偽物、という意味です。
顔だけでなく声や動画も対象なので、イの「フェイス」ではありません。
ウとエは、似た言葉からの取り違えです。
→ 「本物そっくりの偽物」に戻る

Q3.【オリジナル】いまのディープフェイクについて述べたものとして、最も適切なものはどれか。

  • ア 指の数やまばたきを見れば、必ず見分けられる
  • イ 動画は作れるが、人の声は作れない
  • ウ 不自然な部分が少なくなり、「見れば分かる」とは限らない
  • エ 映画やゲームでは使われていない

正解:ウ

解説:
少し前までは指の数やまばたきに不自然さがありましたが、いまはずいぶん自然になりました。
アは、昔の手がかりをいまも使えると考えた誤りです。
イは誤りです。人の声も作れ、電話の詐欺に使われています。
エも誤りです。技術そのものは映画やゲームでも使われています。
→ 「「見れば分かる」とは限らない」に戻る

Q4.【オリジナル】家族の声で「お金が必要」と電話がかかってきた。本人か確かめる方法として、最も適切なものはどれか。

  • ア 声が似ているか確かめるため、長く話を続ける
  • イ 相手が言った口座番号を、忘れないように書き留める
  • ウ 相手が教えてくれた番号に、折り返し電話をする
  • エ いったん切って、いつもの番号にかけ直す

正解:エ

解説:
いつもの番号にかけ直せば、本当の家族につながります。
家族だけが知っている合言葉を決めておく方法もあります。
アは、話を続けても声では見分けられません。
ウは、相手が用意した番号の可能性があります。
→ 「大事なのは、確かめ方」に戻る

Q5.【オリジナル】ディープフェイクの技術について述べたものとして、最も適切なものはどれか。

  • ア 技術そのものは映画やゲームでも使われ、問題になるのは人をだましたり傷つけたりする使い方である
  • イ この技術を使うことは、どんな目的でもすべて違法である
  • ウ 人の顔や声を勝手に使っても、法律の問題にはならない
  • エ 子どもが被害に遭うことはない

正解:ア

解説:
技術そのものは中立で、使い方によって問題になります。
イは言い過ぎです。映画やゲームでの利用まで違法になるわけではありません。
ウは誤りです。人の顔や声を勝手に使うことは、法律の問題にもなります。
エも誤りです。子どもが被害に遭う例が出ています(Level 2)。
→ 「つまずきポイント」に戻る

ここまで読めば言えるようになること

  • ディープフェイクが何かを説明できる
  • 見た目で判断しないほうがよいと知っている
  • かけ直して確認する方法を実践できる

言えたら、Level 2へ進む。


Level 2 少し理解できる

ここはLevel 2です(全5レベル)
前提:Level 1の内容(見た目で判断しないこと、かけ直して確認すること)
想定読者:回ってきた動画や音声が本物か、自分で確かめたい人
このレベルのゴール:本物か確かめる5つの手順を使え、被害に遭ったときの相談先が分かる

本物か確かめる5つの手順

政府広報オンラインは、ディープフェイクについて「本物そっくりにできるため人の目では見抜くことが難しい」と書いています。
そこで使うのが、見た目ではなく情報の周りを確かめる手順です。

内閣官房の「偽情報にだまされないために」が挙げている確認の項目を、順番に使える形に並べ直しました。

手順1:いつ、どこから出た情報かを確かめる
最初に投稿したのは誰か、いつか、根拠は示されているかを見ます。
発信したアカウントの過去の投稿も見て、不自然な点がないかを確かめます。
作ったばかりのアカウントや、同じ内容を繰り返し投稿しているアカウントは注意が要ります。

このとき、AIで作ったことを示す印も見ます。
動画を作るAIの中には、作った動画に透かしを入れるものがあり、動画の投稿サイトでは投稿者が「AIで作った」というラベルを付けられるものもあります。
アカウントの自己紹介に「AIアーティスト」などと書かれていないか、AIで作った画像を大量に投稿していないかも手がかりになります(日本ファクトチェックセンターの解説による)。
**ただし、透かしやラベルのないディープフェイクも多くあります。**印がないからといって、本物とは言えません。

手順2:ほかの発信者やメディアがどう伝えているかを探す
本当に重大な発言や出来事なら、複数の報道機関や、本人・所属先の公式の発表があるはずです。
本人や公式のアカウントが否定していないかも、ここで探します。

手順3:画像や動画の「元」を探す
画像検索で、同じ画像が過去に別の文脈で使われていないかを調べます。
動画なら、特徴的な場面を画像として保存して検索します。
日本ファクトチェックセンターは、動画の場面を画像で検索して、同じ場所の過去の映像がないかを調べる方法を「非常に効果的」としています。
「昔の別の災害の映像」「別人の写真に顔だけ貼り替えたもの」は、ここで見つかることがあります。
本物の映像でも、過去の別の出来事の映像を、いまの出来事のように見せている場合があるので、偽物かどうかに加えて「いつの映像か」も確かめます。

手順4:なぜ広めたいのかを考える
怒りや不安を強くあおる内容、「今すぐ広めて」と急がせる内容は、拡散そのものが狙いのことがあります。
誰が得をする情報なのかを、一度立ち止まって考えます。

手順5:ファクトチェックの結果を確かめる
話題になった画像や動画は、報道機関やファクトチェック団体が検証記事を出していることがあります。
タイトルの言葉と「ファクトチェック」で検索すると見つかります。

5つのうち、見た目を調べる手順は1つもありません。
これが、ディープフェイクの「見分け方」のいちばん大事な点です。

ディープフェイクか確かめる5つの手順の図。手順1はいつ、どこから出た情報かを確かめる、手順2はほかの発信者やメディアの伝え方と公式の否定を探す、手順3は画像検索で元の画像や動画を探す、手順4はなぜ広めたいのかを考える、手順5はファクトチェックの結果を確かめる。5つのうち見た目を調べる手順は1つもない。電話やビデオ通話では、いったん切って自分が知っている番号にかけ直す。
見分けるのではなく、出どころを確かめる。

電話やビデオ通話のときは、かけ直す

電話やビデオ通話は、その場で5つの手順を使う時間がありません。
そこで、やり取りの経路を変えて確かめます。

  • いったん切って、自分が知っている番号にかけ直す(相手が伝えてきた番号にはかけない)
  • 家族で合言葉を決めておき、お金や個人情報の話が出たら聞く(埼玉県警察も、オレオレ詐欺の対策として、家族で合言葉を決めておくことと、お金の話が出たら一度電話を切って本人に確かめることを挙げています)
  • 「急いで」「誰にも言わないで」と言われたら、それ自体を疑う理由にする

主な被害の類型

ディープフェイクによる被害は、大きく4つに分かれます。

ディープフェイクの悪用4類型と守り方の図。詐欺は経営者や知人の声を偽造して送金を指示するもの。偽情報の拡散は政治家や著名人の言っていない発言を本人の映像で作るもの。名誉やプライバシーの侵害は実在の人物の顔を使った不適切な映像。なりすましは本人確認の音声や映像の偽造。見分けの手がかり(境目のぼやけ、まばたきの違和感、光と影の矛盾、口と音声のずれ)は絶対的な判定法ではなく、確実なのは情報源を確かめること。
偽物が本物に見えるだけでなく、本物が「これは偽物だ」と言い張られる。この両面が問題の難しさ。

性的な画像の作成は、実在する人の顔を使って性的な画像や動画を作るものです。
なりすましによる詐欺は、家族や上司の声や顔を使って、お金をだまし取るものです。
偽情報の拡散は、政治家や著名人が言っていないことを、言ったように見せるものです。
信用の毀損は、実在しない不祥事の映像などで、企業や個人の評判を落とすものです。

子どもが関わる被害

文部科学省が2026年3月に学校向けに出した依頼文によると、実在する児童生徒の画像を性的な画像に加工する事案(性的ディープフェイク)で、警察が扱った件数は令和7年(2025年)中に114件でした。
被害に遭った児童生徒の約9割が中高生で、約6割は同級生や同じ学校の人によるものです。

加害側も子どもであることが多いという点が、この問題の特徴です。
「アプリで面白半分に加工した」ことが、深刻な被害になります。
家庭でも学校でも、使う側としての注意を話しておく必要があります。

被害に遭ったら

被害を受けた場合の基本的な流れです。

  1. 証拠を保存する(画面の記録、URL、日時)
  2. 掲載されている場所に削除を申し立てる
  3. 警察に相談する(警察相談専用電話 #9110。性的な画像の被害は性犯罪被害相談電話 #8103)
  4. 必要に応じて弁護士に相談する

大きなSNSや動画サイトには、2025年4月に施行された情報流通プラットフォーム対処法で、削除の申し出の窓口を整え、速やかに対応することが求められています。
どこに申し出ればよいか分からない場合は、総務省の支援事業である「違法・有害情報相談センター」に相談できます。

一人で抱えず、早い段階で相談することが大切です。

自分と周囲を守る

  • 顔がはっきり写った画像を、不特定に公開しない
  • 家族や職場で、電話でのお金の依頼を確認する手順を決めておく
  • 動画や音声だけを根拠に判断しない
  • 疑わしいものを転送しない

最後の項目が、いちばん効果があります。
偽情報の被害は、拡散する人がいて初めて広がるからです。

つまずきポイント

「AIが作ったか判定するツールを使えばいい?」
判定ツールはありますが、精度は限られています。
本物を偽物と判定することも、偽物を見逃すこともあります。
**ツールの結果は、5つの手順の代わりにはなりません。**理由はLevel 3で説明します。

理解度チェック

Q1.【オリジナル】この記事の「本物か確かめる5つの手順」に含まれないものはどれか。

  • ア 画像や動画の「元」を探す
  • イ ほかの発信者やメディアがどう伝えているかを探す
  • ウ 動画に映っている人の、まばたきの回数を数える
  • エ ファクトチェックの結果を確かめる

正解:ウ

解説:
5つの手順は、いつ・どこから出た情報か、ほかの伝え方、元の画像、発信の意図、ファクトチェックです。
見た目を調べる手順は1つもありません。
まばたきは、いまの技術ではほぼ不自然さがなくなった手がかりです。
ア、イ、エは、5つの手順に含まれます。
→ 「本物か確かめる5つの手順」に戻る

Q2.【IPA過去問】ソーシャルエンジニアリングに該当する行為の例はどれか。

  • ア あらゆる文字の組合せを総当たりで機械的に入力することによって,パスワードを見つけ出す。
  • イ 肩越しに盗み見して入手したパスワードを利用し,他人になりすましてシステムを不正利用する。
  • ウ 標的のサーバに大量のリクエストを送りつけて過負荷状態にすることによって,サービスの提供を妨げる。
  • エ プログラムで確保している記憶領域よりも長いデータを入力することによってバッファをあふれさせ,不正にプログラムを実行させる。

出典:令和4年度 ITパスポート試験 公開問題 問91

正解:イ

解説:
ソーシャルエンジニアリングは、技術ではなく、人の不注意や心理のすきにつけ込んで情報を得る手口です。
家族や上司になりすまして電話をかけ、急がせてお金を振り込ませる手口も、同じ系統です。ディープフェイクは、そのなりすましを本物らしく見せる道具になります。
アは総当たり攻撃、ウはDoS攻撃、エはバッファオーバーフロー攻撃で、どれも技術的な攻撃です。
→ 「電話やビデオ通話のときは、かけ直す」に戻る

Q3.【オリジナル】電話やビデオ通話で、相手が本人か確かめる方法として、最も適切なものはどれか。

  • ア 相手から伝えられた番号に、かけ直す
  • イ 映像の画質が良ければ、本人と判断する
  • ウ 「急いで」と言われたら、確認を省いてすぐに対応する
  • エ いったん切って、自分が知っている番号にかけ直す。家族なら合言葉を聞く

正解:エ

解説:
その場で5つの手順を使う時間はないので、やり取りの経路を変えて確かめます。
アは、相手が用意した番号の可能性があります。
イは、見た目で判断している誤りです。
ウは逆です。「急いで」「誰にも言わないで」は、疑う理由にします。
→ 「電話やビデオ通話のときは、かけ直す」に戻る

Q4.【オリジナル】令和7年に警察が扱った性的ディープフェイクの事案(114件)について、適切なものはどれか。

  • ア 被害に遭った児童生徒の約9割が中高生で、約6割は同級生や同じ学校の人によるものだった
  • イ 加害者のほとんどは、海外の見知らぬ大人だった
  • ウ 被害に遭ったのは、有名人の子どもに限られていた
  • エ 加工は、すべて専門の技術者が行っていた

正解:ア

解説:
文部科学省の依頼文によると、加害側も子どもであることが多いのが、この問題の特徴です。
「アプリで面白半分に加工した」ことが、深刻な被害になります。
イ、ウ、エは、いずれも資料の内容と合いません。
→ 「子どもが関わる被害」に戻る

Q5.【オリジナル】ディープフェイクの被害に遭ったとき、最初にすることとして、最も適切なものはどれか。

  • ア 相手に直接連絡して、削除を頼む
  • イ 見たくないので、すぐに画面を閉じて忘れる
  • ウ 画面の記録、URL、日時を保存する
  • エ 同じ画像を友人に転送して、意見を聞く

正解:ウ

解説:
削除の申し立ても、警察や弁護士への相談も、証拠があってはじめて進められます。
イは、あとで証拠が残っていない状態になります。
エは、自分で被害を広げてしまいます。
アは、相手が分からない場合も多く、まず証拠を残すのが先です。
→ 「被害に遭ったら」に戻る

ここまで読めば言えるようになること

  • 本物か確かめる5つの手順を使える
  • 電話やビデオ通話では、かけ直して確かめられる
  • 被害の類型と、子どもが関わる被害の特徴を説明できる
  • 被害に遭ったときの相談先が分かる

言えたら、Level 3へ進む。


Level 3 もう少し詳しく

ここはLevel 3です(全5レベル)
前提:Level 2の内容(5つの手順、被害の類型)
想定読者:なぜ見た目で見分けられないのか、仕組みから知りたい人
このレベルのゴール:作られ方を説明でき、目視や判定ツールに頼れない理由を構造から説明できる

どう作られるか

作り方は、対象によって3つに分かれます。

顔の入れ替えは、対象の人物の顔画像を学習させ、別の動画の顔の部分を置き換える方式です。
以前は数百枚の画像が要りましたが、いまは少ない画像でも一定の品質が出せます。

音声の合成は、対象の人物の声を学習させ、好きな文章をその声で読み上げさせる方式です。
必要な録音の量は大きく減り、短い録音からでも合成できるようになっています。

全体の生成は、動画を作るAIで、映像そのものを一から作る方式です。
実在する人物の外見を条件として与えることもできます。

どれも、技術としては生成AIの応用です。

なぜ質が上がり続けるのか

理由は2つあります。

1つは、生成AIの進歩がそのまま反映されることです。
映画やゲームのための技術と、悪用のための技術は、土台が同じです。

もう1つは、検出との関係です。
見抜く方法が公開されると、それをすり抜ける作り方が工夫されます。
このため、見抜く側はいつも後追いになります。

見た目の手がかりと、その限界

以前は役に立った手がかりが、順に使えなくなっています。

手がかりいまの状態
まばたきが不自然学習データの改善で、ほぼ解消
顔と首・髪の境目のぼやけ作り方の改善で、目立たなくなった
指の本数がおかしい画像を作るAIの改善で、大きく減った
光の当たり方や影の矛盾まだ手がかりになることがある
口の動きと声のずれ改善が進み、短い動画では分かりにくい
声の抑揚や間の不自然さ大きく改善した

日本ファクトチェックセンターが取り上げた実例では、背景にいる人物の描写が崩れている、国旗の模様が不自然、花火が途中で空中に止まったままほかの花火は動き続けている、映像と音声が合っていない、といった破綻が見つかっています。
こうした破綻は、見つかれば疑いを強める材料になりますが、見つからないからといって本物とは言えません。

残っている手がかりもありますが、SNSで回ってくる動画は、圧縮や切り抜きで細部が失われています。
結論として、目で見て判断する方針は成り立ちません。
Level 2の手順が見た目を調べないのは、このためです。

ディープフェイクを疑うときの2つの手がかりを対比した図。見た目と音の手がかりは、顔と首や髪の境目のぼやけ、まばたきや目の動きの違和感、光の当たり方や影の矛盾、口の動きと音声のずれ、抑揚の不自然さや機械的な響きなどで、技術の進歩で消えつつあり絶対的な判定法ではない。情報源の確認は、その人が本当にそんなことを言うか、発信元は信頼できるか、一次情報で裏が取れるかで、こちらは古びない。感情を強く揺さぶる内容ほど、拡散を狙った偽造を疑う。
見た目の手がかりは消えていくが、情報源を確かめる方法は古びない。

判定ツールの結果を、そのまま使わない

判定ツールの結果は確率で、誤りを含みます。

  • 本物を偽物と判定する:本物の画像でも、加工や圧縮を経るとAI生成と判定されることがある
  • 偽物を見逃す:ツールが学習していない新しい作り方には弱い

とくに前者は影響が大きくなります。
判定結果だけを根拠に「この人は偽物を広めた」と非難するのは避けてください。

「偽物を見つける」から「本物を証明する」へ

見分けるのが難しいなら、逆の方向から考える方法があります。
偽物を見つけるのではなく、本物であることを示す方向です。

電子透かしは、AIで作るときに、目や耳では分からない印を埋め込む方式です。
作る側が協力する前提なので、悪意のある人は使いません。

来歴情報は、撮影や編集の履歴を、改ざんできない形で記録する方式です。
カメラや編集ソフトが対応していれば、その画像や動画がどこで撮られ、どう編集されたかを後からたどれます。

どちらも、対応した機器やサービスで作られたものにしか使えません。
それでも、報道機関や公的機関の発信について「これは本物です」と示す手段として意味があります。

つまずきポイント

「本物だという証明がないものは、偽物?」
そうではありません。
来歴情報に対応した機器やサービスはまだ一部で、証明がない本物のほうがずっと多いのが現状です。
証明の有無は、本物である手がかりの1つとして使います。

理解度チェック

Q1.【オリジナル】この記事で挙げたディープフェイクの作り方の3種類に、含まれないものはどれか。

  • ア 顔の入れ替え
  • イ 音声の合成
  • ウ 動画を作るAIによる、映像全体の生成
  • エ 撮影した本物の動画の、明るさの調整

正解:エ

解説:
作り方は、顔の入れ替え、音声の合成、動画を作るAIによる全体の生成の3つです。
明るさの調整は、本物の動画の見た目を整えるだけで、偽物を作る方法ではありません。
→ 「どう作られるか」に戻る

Q2.【オリジナル】ディープフェイクを見抜く側が、いつも後追いになる理由として、最も適切なものはどれか。

  • ア 見抜く方法が公開されると、それをすり抜ける作り方が工夫されるから
  • イ 見抜く技術の研究は、法律で禁じられているから
  • ウ ディープフェイクは、作られてから時間がたつと見分けやすくなるから
  • エ 検出ツールは、一度作れば作り方が変わっても使い続けられるから

正解:ア

解説:
見抜く方法と作る方法は、いたちごっこの関係にあります。
イは誤りです。見抜く技術の研究は盛んに行われています。
ウとエは逆です。時間がたつほど作り方は新しくなり、古い検出器は通用しにくくなります。
→ 「なぜ質が上がり続けるのか」に戻る

Q3.【オリジナル】SNSで回ってくる動画で、見た目の手がかりが使いにくい理由として、最も適切なものはどれか。

  • ア SNSの動画は、すべてAIで作られているから
  • イ 圧縮や切り抜きで、細部が失われているから
  • ウ SNSの動画には、光や影が映らないから
  • エ スマートフォンの画面では、動画を拡大できないから

正解:イ

解説:
光や影の矛盾のように、まだ手がかりになるものもありますが、SNSで回るあいだに圧縮や切り抜きを経て、細部が失われています。
アは誤りです。SNSの動画の多くは本物です。
ウとエは、事実と合いません。
→ 「見た目の手がかりと、その限界」に戻る

Q4.【IPA過去問】バイオメトリクス認証における認証精度に関する次の記述中のa,bに入れる字句の適切な組合せはどれか。

バイオメトリクス認証において,誤って本人を拒否する確率を本人拒否率といい,誤って他人を受け入れる確率を他人受入率という。また,認証の装置又はアルゴリズムが生体情報を認識できない割合を未対応率という。
認証精度の設定において,[ a ]が低くなるように設定すると利便性が高まり,[ b ]が低くなるように設定すると安全性が高まる。

ab
ア他人受入率本人拒否率
イ他人受入率未対応率
ウ本人拒否率他人受入率
エ未対応率本人拒否率

出典:令和3年度 ITパスポート試験 公開問題 問69

正解:ウ

解説:
本人が拒否されにくくなれば使いやすくなり(a=本人拒否率)、他人が受け入れられにくくなれば安全になります(b=他人受入率)。
判定ツールも同じ構造の2種類の誤りを持ちます。本物を偽物と判定する誤り(本人拒否にあたる)と、偽物を見逃す誤り(他人受入にあたる)です。
片方を減らすともう片方が増えやすいので、判定の結果だけで決め切れないのはこのためです。
アは、aとbが逆です。イとエの未対応率は、設定で調整して利便性や安全性を高める値ではありません。
→ 「判定ツールの結果を、そのまま使わない」に戻る

Q5.【オリジナル】来歴情報について述べたものとして、最も適切なものはどれか。

  • ア 来歴情報が付いていない画像や動画は、偽物と判断してよい
  • イ 悪意のある人も必ず来歴情報を付けるので、偽物を見つけられる
  • ウ 来歴情報は、映像の不自然な部分を自動で直す技術である
  • エ 撮影や編集の履歴を改ざんできない形で記録し、本物であることを示す手がかりになる

正解:エ

解説:
来歴情報は、偽物を見つけるのではなく、本物であることを示す方向の対策です。
アは誤りです。対応した機器やサービスはまだ一部で、証明がない本物のほうがずっと多いのが現状です。
イは逆です。悪意のある人は、来歴情報を付けません。
ウは、来歴情報の説明ではありません。
→ 「「偽物を見つける」から「本物を証明する」へ」に戻る

ここまで読めば言えるようになること

  • 作られ方を3種類説明できる
  • 目で見て判断できない理由を説明できる
  • 判定ツールの結果を慎重に扱える
  • 本物を証明する方向の対策を説明できる

仕事で判断する立場なら、Level 4へ進む。


Level 4 ビジネスで使う

ここはLevel 4です(全5レベル)
前提:Level 3の内容(作られ方、見抜く側が後追いになる構造、来歴による対策)
想定読者:会社で詐欺やなりすまし、ブランドの被害に備える立場の人
このレベルのゴール:自社が被害者にも加害者にもならない手続きと体制を作れる

企業が受ける3つの被害

なりすましによる金銭の被害が、いちばん直接的です。
経営者や取引先の声や映像を使い、送金や情報の提供を指示する手口が報告されています。
オンライン会議に、実在の役員の映像が使われた例もあります。

ブランドの毀損は、自社の製品や役員についての偽の映像が出回るものです。
広がってからの対処には限界があるので、気づく早さが被害の大きさを左右します。

従業員の被害は、従業員個人が狙われるものです。
性的な画像の作成や、いやがらせに使われることがあり、会社として支える体制が問われます。

送金と情報提供の手続きを見直す

なりすまし対策でいちばん確実なのは、手続きの設計です。
技術で見抜くより、見抜けなくても被害が出ない手順にしておきます。

  • 送金の指示は、音声や映像だけでは実行しない
  • 別の経路(登録済みの番号への折り返し、社内の申請システム)で確かめる
  • 一定額以上は、複数人の承認を必須にする
  • 「急ぎ」「秘密」を理由にした手続きの省略を認めない

最後の項目が重要です。
この種の手口は、急がせることと、ほかの人に相談させないことを組み合わせます。
「急ぎでも手順は省かない」という原則を、前もって全員に伝えておきます。

気づく体制と、出回ったときの対応

気づくために、自社名や役員名でのSNS上の言及を見ておきます。
外部のサービスを使う場合も、誰が確認し、誰に報告するかを決めておきます。

出回ったときのために、次を前もって決めておきます。

  • 事実を確かめる担当と手順
  • 掲載先への削除の申し立ての手順
  • 公式の場で否定を出すかどうかの基準
  • 警察や弁護士に相談する基準

否定を出すかどうかは、判断の難しいところです。
出すことで、かえって多くの人に知られてしまう場合があります。
広がり方の規模に応じた基準を決めておくと、当日の判断が速くなります。

自社が加害側にならないために

生成AIを業務で使う会社として、次を社内のルールに入れます。

  • 実在する人の顔や声を、本人の同意なく生成に使わない
  • 他社の製品や人物をまねた表現を、広告や資料に使わない
  • 生成した映像や音声を社外に出すときは、AIで作ったことの表示を検討する
  • 生成物を作った過程を記録しておく

3つ目は、海外では義務になり始めています。
EUのAI法では、ディープフェイクを公開する側に「AIで作った」と示すことが求められ、この義務は2026年8月から適用されています(詳しくはLevel 5)。
EU向けに発信する日本の会社も、対象になる場合があります。

日本の法律ではどう扱われるか

2026年10月時点で、ディープフェイクそのものを直接取り締まる国の法律はありません。
そのため、行為の中身に応じて、既存の法律で対応します。

関わりうるのは、名誉毀損、侮辱、詐欺、著作権、肖像権やプライバシー、不正競争防止法、児童ポルノに関する法律などです。

一方で、自治体と国の動きもあります。

  • 鳥取県は青少年健全育成条例を改正し、生成AIなどで青少年の顔の画像を加工して作った性的な画像を、児童ポルノ等に含めました(2025年4月施行。罰則は同年8月から)
  • 国の人工知能基本計画(2026年7月14日閣議決定)は、声の無断利用について、ガイドラインを作るとともに、不正競争防止法の改正を含めた法整備の必要性を検討するとしています
  • 法務省の有識者検討会は2026年8月7日、生成AIによる肖像や声の無断利用について、どんな使い方がパブリシティ権などの侵害になり得るかを想定事例ごとに示した解釈指針をまとめました
  • 東京地裁は2026年9月30日、生成AIで声をまねた動画をめぐる裁判で、人の声は肖像と同じく個人の人格の象徴であり、パブリシティ権の侵害になり得るという初めての判断を示しました(動画がすでに削除されていたため、請求そのものは棄却。判決文は裁判所のウェブサイトで公開されている)

人の声をAIでまねること自体が法的にどう扱われるかは、声優の声をめぐる判決の記事で整理しています。

個別の事案の判断は、必ず専門家に相談してください。

従業員への伝え方

社内教育は、次の3点に絞ると伝わります。

  • 音声や映像は、それだけでは本人確認にならない
  • 送金と情報提供は、別の経路での確認を経る
  • 疑わしい連絡を受けたら、応じないこと自体が正しい対応である

3つ目が重要です。
「上司の指示に従わないと問題になる」という心配があると、確認が省かれます。
確認したことで責任を問わない、と会社として明示しておきます。

つまずきポイント

「本人確認に生体認証を使っているから安全では?」
声による本人確認は、合成音声で突破されるおそれがあります。
顔認証も、映像を使った攻撃への強さは方式によって違います。
生体情報だけで本人確認をしない、複数の要素を組み合わせる設計が要ります。

理解度チェック

Q1.【オリジナル】なりすましによる送金の被害を防ぐ社内の手続きとして、最も適切なものはどれか。

  • ア 一定額以上の送金は、複数人の承認を必須にする
  • イ 社長の声で指示があれば、すぐに実行する
  • ウ オンライン会議に役員の顔が映っていれば、本人と判断する
  • エ 急ぎの指示は、承認を後回しにしてよい

正解:ア

解説:
見抜けなくても被害が出ないように、手続きの側で止めます。
イとウは、音声や映像だけで本人と判断しています。オンライン会議に実在の役員の映像が使われた例もあります。
エは、急がせる手口に合わせてしまう設計です。
→ 「送金と情報提供の手続きを見直す」に戻る

Q2.【オリジナル】「急ぎ」「秘密」を理由にした手続きの省略を認めない理由として、最も適切なものはどれか。

  • ア 社内の手続きを複雑にすること自体が目的だから
  • イ 急ぎの仕事は、本来すべて断るべきだから
  • ウ この種の手口は、急がせることと、ほかの人に相談させないことを組み合わせるから
  • エ 急ぎの送金は、法律で禁じられているから

正解:ウ

解説:
急がせて考える時間を奪い、秘密にさせて相談の機会を奪うのが、なりすましの手口の型です。
「急ぎでも手順は省かない」と前もって全員に伝えておくと、その型が通じなくなります。
ア、イ、エは、いずれも理由として誤りです。
→ 「送金と情報提供の手続きを見直す」に戻る

Q3.【オリジナル】自社が加害側にならないための社内ルールとして、最も適切なものはどれか。

  • ア 他社の製品や人物をまねた表現は、広告に使ってよい
  • イ 実在する人の顔や声を、本人の同意なく生成に使わない
  • ウ 生成した映像や音声は、作った過程の記録を残さない
  • エ AIで作ったことは、社外に知らせない

正解:イ

解説:
業務で生成AIを使う会社は、知らないうちに加害側になるおそれがあります。
アは、他社の権利や評判を傷つけるおそれがあります。
ウとエは逆です。過程を記録し、社外に出すときはAIで作ったことの表示を検討します。
→ 「自社が加害側にならないために」に戻る

Q4.【オリジナル】2026年10月時点の、日本の法律でのディープフェイクの扱いとして、最も適切なものはどれか。

  • ア ディープフェイクを直接取り締まる国の法律があり、作るだけで罰せられる
  • イ どの法律でも対応できない
  • ウ 自治体の条例による規制は、どこにもない
  • エ 直接取り締まる国の法律はなく、名誉毀損や詐欺など、行為の中身に応じて既存の法律で対応する

正解:エ

解説:
ディープフェイクそのものを直接取り締まる国の法律はありません。
アは誤りです。イも誤りで、名誉毀損、詐欺、肖像権、児童ポルノに関する法律などで対応します。
ウも誤りです。鳥取県は条例で、生成AIなどで青少年の顔の画像を加工した性的な画像を規制しました。
→ 「日本の法律ではどう扱われるか」に戻る

Q5.【オリジナル】本人確認に生体認証を使う場合の考え方として、最も適切なものはどれか。

  • ア 声による本人確認は、合成音声で突破されることはない
  • イ 顔認証は、どの方式でも映像を使った攻撃に強い
  • ウ 生体情報だけに頼らず、複数の要素を組み合わせて本人確認をする
  • エ 生体認証を使っていれば、送金の確認手順は要らない

正解:ウ

解説:
声による本人確認は合成音声で突破されるおそれがあり、顔認証の強さも方式によって違います。
アとイは、どちらも言い過ぎです。
エは、手続きの設計を省いてしまっています。
→ 「つまずきポイント」に戻る

ここまで読めば言えるようになること

  • 企業の被害を3つ挙げられる
  • 送金と情報提供の手続きを設計できる
  • 出回ったときの対応を前もって決められる
  • 加害側にならない社内ルールを作れる

実装や制度の原典に進むなら、Level 5へ進む。


Level 5 専門的な話

ここはLevel 5です(全5レベル)
前提:Level 4の内容
想定読者:検出や来歴の仕組みを設計する人、制度を原典で読む人
このレベルのゴール:検出と来歴の技術を、その限界とあわせて説明できる

検出の手法

生成の痕跡を見る方法は、生成の過程が残す統計的な特徴を使います。
周波数領域での特徴、色の成分どうしの相関、ノイズの分布などが手がかりです。
既知の作り方には強い一方、作り方が変わると特徴も変わるため、未知の作り方には弱くなります。

生理的な整合性を見る方法は、映像から推定される体の信号の整合性を見ます。
血流に伴うわずかな色の変化や、まばたきの分布などが使われてきました。
生成の改善で、有効な場面は減っています。

物理的な整合性を見る方法は、光源、影、反射、幾何の整合性を確かめます。
物理の制約に基づくので比較的崩れにくい一方、自動化が難しい部分が残ります。

本人との照合は、既知の本人の顔や声のデータと照らし合わせる方法です。
本人のデータが要るので、著名人や自社の役員など、対象を絞れる場面で使えます。

検出の限界

検出には、構造的な限界が4つあります。

  1. 汎化しない:ある作り方で学習した検出器は、別の作り方や、あとから出てきた作り方で性能が大きく落ちる
  2. 加工に弱い:圧縮、再エンコード、画面の再撮影、切り抜きで痕跡が消える。流通しているものの大半はこれを経ている
  3. 回避される:検出器が公開されていれば、その判定を下げるように生成物を調整できる
  4. 誤判定の代償が大きい:本物を偽物と判定したときの害は、その逆より大きいことがある

このため、検出を単独の判断の根拠にする運用は成り立ちません。

来歴の枠組み

来歴情報は、検出の限界を避ける方向の取り組みです。

撮影機器が署名を付け、編集のたびに履歴を書き足す。
確かめる側は、署名の連なりをたどって、出どころと編集の履歴を確認します。
国際的な規格として、C2PA(Coalition for Content Provenance and Authenticity)の仕様が公開されています。

この枠組みには、前提がいくつかあります。

  • 撮影機器と編集ソフトが対応していること
  • 署名の鍵が守られていること
  • 表示する側(SNS、ブラウザ)が検証と表示に対応していること
  • 途中でメタデータが消されていないこと

最後が実務上の弱点です。
多くのサービスは、アップロードのときにメタデータを削除します。
来歴を残すには、配信する側の対応が欠かせません。

電子透かし

生成する側が埋め込む電子透かしは、来歴とは別の経路です。

画像では、知覚されにくい信号を、画素そのものや周波数領域に埋め込みます。
ある程度の加工には耐えますが、強い加工や作り直しで失われます。

文章では、生成のときに言葉の選び方へ統計的な偏りを埋め込む方式が研究されています。
書き換えや翻訳には弱いことが分かっています。

どちらも、生成する側が協力する前提です。
公開されたモデルを自分の環境で動かせば、透かしのない形で使えます。
このため、透かしは「善意の生成物を見分ける」手段で、「悪意の生成物を見つける」手段にはなりません。

制度との関係

EU:AI法の50条で、生成AIの提供者に、作った画像・音声・動画・文章に機械で読み取れる印を付け、検出できるようにすることを求めています。
あわせて、ディープフェイクを公開する側には、そのことを明示するよう求めています。
欧州委員会の説明では、この義務は2026年8月2日から適用されています。
2026年8月2日より前に市場に出た生成AIのシステムには、印を付ける義務について2026年12月までの猶予が設けられました。

日本:2025年に成立したAI法(人工知能関連技術の研究開発及び活用の推進に関する法律)は、研究開発と活用の推進が目的で、罰則を伴う規制を主眼にしていません。
2026年7月14日に閣議決定された人工知能基本計画は、AIで作られたコンテンツを見分ける技術(電子透かしや、後から真偽の判別を支える技術)の開発を支援するとしています。
事業者向けには、総務省と経済産業省の「AI事業者ガイドライン(第1.2版)」があります。
個別の行為には、既存の法律で対応する構造が続いています。

制度の動きは、動向版の記事で時点つきでまとめています。
→ AI規制の現在地【2026年10月】日本のAI法とEU AI法、米国、中国、韓国の動き

理解度チェック

Q1.【オリジナル】生成の痕跡を見る検出方法の弱点として、最も適切なものはどれか。

  • ア 既知の作り方の偽物を、見逃しやすい
  • イ 作り方が変わると特徴も変わるため、未知の作り方に弱い
  • ウ 本人の顔や声のデータがないと使えない
  • エ 物理の制約に基づくため、自動化しやすい

正解:イ

解説:
生成の過程が残す統計的な特徴を使うので、既知の作り方には強い一方、未知の作り方には弱くなります。
アは逆です。
ウは本人との照合、エは物理的な整合性を見る方法の説明で、しかもエは「自動化が難しい部分が残る」が正しい説明です。
→ 「検出の手法」に戻る

Q2.【オリジナル】流通しているコンテンツで、検出が難しくなる理由として、最も適切なものはどれか。

  • ア 流通しているものには、すべて来歴情報が付いているから
  • イ 圧縮、再エンコード、画面の再撮影、切り抜きを経て、痕跡が消えているから
  • ウ 検出器は、公開されていない作り方にしか対応していないから
  • エ 流通しているものは、本物しかないから

正解:イ

解説:
検出の構造的な限界の2つ目、加工に弱いという点です。流通しているものの大半は、何らかの加工を経ています。
アとエは事実と合いません。
ウは逆で、検出器は学習した既知の作り方には強く、未知の作り方に弱くなります。
→ 「検出の限界」に戻る

Q3.【オリジナル】来歴の枠組みの、実務上の弱点として、最も適切なものはどれか。

  • ア 署名の鍵が、誰でも見られるように公開されていること
  • イ 撮影機器が署名を付けられないこと
  • ウ 来歴の規格が、国際的に公開されていないこと
  • エ 多くのサービスが、アップロードのときにメタデータを削除すること

正解:エ

解説:
途中でメタデータが消されると、署名の連なりをたどれなくなります。来歴を残すには、配信する側の対応が欠かせません。
アは誤りです。鍵が守られていることが、枠組みの前提です。
イとウも誤りです。対応した撮影機器はあり、規格も公開されています。
→ 「来歴の枠組み」に戻る

Q4.【オリジナル】電子透かしが「悪意の生成物を見つける手段」にならない理由として、最も適切なものはどれか。

  • ア 電子透かしは、目で見てすぐ分かるから
  • イ 生成する側の協力が前提で、公開されたモデルを自分の環境で動かせば、透かしのない形で使えるから
  • ウ 電子透かしは、画像には使えず、文章にしか使えないから
  • エ 電子透かしは、どんな加工をしても消えないから

正解:イ

解説:
電子透かしは、作る側が埋め込んではじめて働きます。悪意のある人は埋め込まない道を選べます。
アは逆で、知覚されにくい印を埋め込む方式です。
ウは誤りで、画像にも文章にも使われます。
エも誤りで、強い加工や作り直しで失われます。
→ 「電子透かし」に戻る

Q5.【IPA過去問】ディープフェイクを悪用した攻撃に該当するものはどれか。

  • ア AI技術によって加工したCEOの音声を使用して従業員に電話をかけ,指定した銀行口座に送金するよう指示した。
  • イ 企業のPCをランサムウェアに感染させ,暗号化したデータを復号するための鍵と引き換えに,指定した方法で暗号資産を送付するよう指示した。
  • ウ 企業の秘密情報を含むデータを不正に取得したと誤認させる電子メールを従業員に送付し,不正に取得したデータを公開しないことと引き換えに,指定した方法で暗号資産を送付するよう指示した。
  • エ ディープウェブにて入手した認証情報でCEOの電子メールアカウントに不正にログインして偽りの電子メールを従業員に送付し,指定した銀行口座に送金するよう指示した。

出典:令和6年度 秋期 応用情報技術者試験 午前 問39

正解:ア

解説:
AIで経営者の声を作り、電話で送金を指示するのは、ディープフェイクを悪用した典型的な手口です。Level 4の「なりすましによる金銭の被害」にあたります。
イはランサムウェアによる脅迫、ウは実際には盗んでいないのに盗んだと思わせる脅迫です。
エは、乗っ取った本物のメールアカウントを使う手口で、偽の音声や映像は使っていません。
エのように声や映像を使わない手口にも、Level 4の「別の経路で確かめる」手続きは同じように有効です。
→ 「検出の手法」に戻る

ここまで読めば言えるようになること

  • 検出の手法を4種類挙げ、特徴を説明できる
  • 検出の構造的な限界を4点挙げられる
  • 来歴の枠組みと、その前提を説明できる
  • 電子透かしで分かることと、分からないことを説明できる

家族で決めていること

私は元システムエンジニアで、いまはAI分野の記事を書く仕事をしています。
2026年10月20日、家族と、電話で急にお金の話が出たら一度切って、登録してある番号にかけ直す、と決めました。あわせて、家族だけが知っている合言葉を1つ決めました。高齢になっている家族もいるので、電話による詐欺が一番身近になると感じています。

いまは、知らない番号からの家族の名前の電話には、出ても用件を聞かずにかけ直しています。
一方で、高齢の家族には、合言葉を思い出せないときにどうするかまでは決めきれていません。今後さらに家族で話し合うことを検討しています。

まとめ

ディープフェイクは、AIで作られた本物そっくりの偽の画像、動画、音声です。

Level 1では、見た目で判断しないほうがよいもの。
Level 2では、5つの手順と「かけ直し」で確かめる対象。
Level 3では、見抜く側がいつも後追いになる構造を持つ技術。
Level 4では、手続きの設計で被害を防ぐ、会社のリスク管理の対象。
Level 5では、検出の限界から、来歴と表示の義務へと対策が移りつつある分野。

見分け方の答えは、「見た目ではなく、出どころを確かめる」です。
情報源、ほかの伝え方、元の画像、発信の意図、ファクトチェック。
電話やビデオ通話なら、自分が知っている番号にかけ直す。
この2つを持っていれば、見た目がどれだけ自然になっても判断できます。

次に読む記事

→ 生成AIとは?5段階でわかる用語解説
→ ハルシネーションとは|5段階でわかる用語解説
→ AI倫理・AIガバナンスとは|AIとどう付き合うかのルール作り
→ AIで声優の声をまねるのは違法か|「声もパブリシティ権で守られる」初の判決と、法務省の解釈指針【2026年10月】
→ AI規制の現在地【2026年10月】日本のAI法とEU AI法、米国、中国、韓国の動き
→ 今さら聞けないAI用語30選|初心者でもニュースが読めるようになる意味と読み方


よくある質問(FAQ)

Q. ディープフェイクの見分け方はありますか?

A. 見た目や聞こえ方で見分ける方法は、ほぼ成り立たなくなっています。AIで作ったことを示す透かしやラベルが付いていることもありますが、付いていないものも多くあります。代わりに、いつ・どこから出た情報か、ほかの報道や公式の発表はどうか、画像の元はどこか、なぜ広めたいのか、ファクトチェックの結果はどうか、の5つの手順で確かめます(本物か確かめる5つの手順)。

Q. 家族の声で「お金が必要」と電話が来たら、どうすればいいですか?

A. いったん切って、自分が知っている番号にかけ直してください。相手が伝えてきた番号にはかけません。家族で合言葉を決めておき、お金の話が出たら聞く方法もあります。「急いで」「誰にも言わないで」と言われたら、それ自体を疑う理由にしてください。

Q. AI判定ツールで調べれば分かりますか?

A. 判定ツールの精度は限られています。本物を偽物と判定することも、偽物を見逃すこともあるため、結果だけを根拠に判断したり、人を非難したりするのは避けてください。5つの手順と組み合わせて使います。

Q. ディープフェイクは違法ですか?

A. 2026年10月時点で、ディープフェイクそのものを直接取り締まる国の法律はありません。名誉毀損、詐欺、肖像権やプライバシーの侵害、児童ポルノに関する法律など、行為の中身に応じて既存の法律で対応します。鳥取県のように条例で性的ディープフェイクを規制した自治体もあります。個別の事案は専門家に相談してください。

Q. 被害に遭ったら、どこに相談すればいいですか?

A. まず画面の記録やURL、日時を保存してください。そのうえで、掲載先に削除を申し立て、警察に相談します(警察相談専用電話 #9110、性的な画像の被害は性犯罪被害相談電話 #8103)。どこに削除を申し出ればよいか分からないときは、総務省の支援事業「違法・有害情報相談センター」に相談できます。

Q. 子どもが加害者にならないために、何を伝えればいいですか?

A. 実在する人の写真を性的な画像に加工する事案は、同級生や同じ学校の人によるものが約6割です(令和7年の警察の取り扱い)。面白半分の加工でも、相手を深く傷つけ、法律や条例の問題になることを伝えてください。

Q. 企業として何に備えるべきですか?

A. 音声や映像だけで送金や情報提供をしない手続きの設計が、いちばん確実です。別の経路での確認、一定額以上の複数人の承認、「急ぎ」を理由にした省略を認めない原則を決め、確認したことで責任を問わないと明示しておきます。


参考

内容は2026年9月28日に、以下の資料で確認しました。法務省の解釈指針は2026年10月10日、日本ファクトチェックセンターと埼玉県警察の資料は10月13日〜16日、東京地裁の判決文は10月19日に確認しました。

※制度や統計は、公表時点の情報です。改訂されるため、記述の時点とあわせて確認してください。

この記事を書いた人:kkazuki|AI/DX分野ブログ運営者 → 運営者情報

タイトルとURLをコピーしました