UPDATE
この3か月で、変わったこと。
7月の公開のあと、国が「著名人の顔と声を無断で使った偽広告」への対策をSNS各社に求め、海外では表示や削除のルールが実施の段階に入りました。あわせて、7月の記事にあった数字の取り違えを2つ直し、出どころを確かめ直せなかった記述は弱めるか外しています。「いったん切って、自分からかけ直す」という守り方は変わりません。
- 約245万件2025年の国内フィッシング報告（過去最多。フィッシング対策協議会の月次報告の合算）
- 1,834.3億円2025年のSNS型投資・ロマンス詐欺の被害額（警察庁の確定値・前年比+44.2%）
- 84.0%偽動画・偽音声を「分からない・見分けられない」と答えた人（トレンドマイクロ・2024年6月の調査）
- 10月16日7府省庁がSNSなど5社に求めた、対策の実施内容の報告期限（2026年）
- 8/7
国が「顔と声の偽広告」への対策をSNS5社に要請
デジタル庁・警察庁・金融庁・消費者庁・総務省・法務省・経済産業省の7府省庁が、Google・LINEヤフー・Meta・TikTok・Xに、なりすまし詐欺広告への対策強化を文書で求めました。要請書は、ディープフェイクで著名人の肖像や音声を無断で使った広告を名指ししています。求めたのは、広告主の本人確認、広告主の名前や生成AIを使ったかどうかの表示、削除対応の徹底です。法律による義務づけではなく「要請」で、実施内容の報告期限が10月16日、実施結果の報告期限が2027年3月16日です。
- 5/22
警察庁の2025年の確定値——被害はさらに増えていた
7月の記事は2024年の数字（SNS型投資・ロマンス詐欺 約1,272億円）で止まっていました。2025年の確定値は、SNS型投資詐欺が1,288.0億円、ロマンス詐欺が546.4億円で、合わせて1,834.3億円。特殊詐欺も27,832件・約1,423.1億円（前年比+98.0%）と、ほぼ2倍です。なかでも警察官を名乗ってお金を求める「ニセ警察詐欺」が11,014件・1,005.0億円を占め、最初の接触の78.8%は電話でした。
- 1月
国内でも、AIで作った映像と声の「偽ビデオ通話」
2026年1月末、小泉防衛相が、自分になりすましたAI生成の映像・音声によるビデオ通話があったとして注意を呼びかけたと報じられました。秘書を名乗る人物が通話をつないだとされています。「ビデオ通話に本人が映っている」ことが確認にならない場面が、国内でも表に出た形です。
- 8/2
EUと米国のルールが、実施の段階へ
EUでは8月2日から、AIで作ったものだと示す透明性のルールの適用が始まったと報じられています（機械で読み取れる透かしの部分は12月2日まで猶予）。米国のTAKE IT DOWN法は5月19日に全面実施となり、通知から48時間以内の削除が求められると解説されています。ただし対象は「本人の同意のない性的な画像」（AIで作った偽物を含む）で、なりすまし全般ではありません。日本に専用の法律がない点は、7月から変わっていません。
- 8/3
18歳未満の性的ディープフェイク、上半期で123件
警察庁が把握した件数は、2026年上半期で123件。前年の同じ時期（60件）の約2倍で、昨年1年間の114件もすでに上回ったと共同通信が伝えました。被害の約9割は中高生とされています。詐欺とは別の問題ですが、「顔と声が勝手に使われる」ことを家族で話す理由がもうひとつ増えました。
- 訂正
7月の記事の数字を2つ直しました
「2025年の国内フィッシング報告は約172万件」と書いていましたが、それは2024年の数字でした。2025年は2,454,297件（約245万件）で過去最多です。また「見分けに自信がない人は98.1%」という数字は、トレンドマイクロの発表には無い、当サイトが引き算で作った値でした。発表で確かめられるのは「見分けられる 1.9%」と「分からない・見分けられない 合計84.0%」です。おわびして訂正します。
| 項目 | 7月の記事では | 10月のいまは |
|---|---|---|
| 2025年のフィッシング報告 | 約172万件（実際は2024年の数字） | 約245万件で過去最多。2026年は2月以降、月5.7万〜15.1万件に減少 |
| 見分ける自信 | 自信がない人 98.1% | 見分けられる 1.9%／分からない・見分けられない 84.0%（2024年6月の調査） |
| SNS型投資・ロマンス詐欺 | 約1,272億円（2024年） | 1,834.3億円（2025年・確定値） |
| 海外のルール | EUは「段階適用中」、米国は「2026年5月まで」 | EUは8月2日から、米国は5月19日から実施と報道 |
| 出どころを確かめ直せなかった数字 | 「4%→24%（1か月で6倍）」「2025年11月の合成役員のビデオ会議」 | 本文から外した |
で、どう読めばいい？国やプラットフォームが入口を押さえにいく動きは出てきましたが、いまのところは要請の段階で、偽広告や偽の声がすぐ消えるわけではありません。目と耳で見抜こうとせず、合言葉と「切って、かけ直す」で確かめる——このページの結論は、3か月たってもそのままです。
出典と確認日（タップで開く）
- デジタル庁 — SNS等におけるなりすまし詐欺広告に関する対策強化のための7府省庁合同要請の実施（2026年8月7日）
- 警察庁 — 令和7年における特殊詐欺及びSNS型投資・ロマンス詐欺の認知・検挙状況等について（確定値・PDF）（2026年5月22日）
- フィッシング対策協議会 — 月次報告書（2025年1月分〜2026年8月分）
- トレンドマイクロ — ディープフェイクに関する国内実態調査2024（2024年7月3日）
- OECD.AI インシデントデータベース — 防衛相なりすましのAI生成ビデオ通話（英語）（2026年1月29日）
- 共同通信（熊本日日新聞 掲載）— AI性的画像、上半期は123件（2026年8月3日）
- Cloud Security Alliance — EU AI法 第50条の透明性義務の解説（英語）（2026年7月29日）
- WilmerHale — TAKE IT DOWN法の実施に関する解説（英語）（2026年6月15日）
2026年10月7日に確認しました。数字は各発表の時点のものです。
💡 点線つきの用語はクリック（タップ）すると解説がひらきます。
13📞 「お母さん、助けて」——その声は、確かに息子の声だった
まず、いま実際に起きている場面から。昔の「オレオレ詐欺」と決定的に違うのは、声そのものが本人に聞こえることです。
ある日の午後・自宅の固定電話
「事故を起こしちゃって……今すぐお金が要るんだ」
受話器の向こうの声は、間の取り方も、語尾のくせも、まぎれもなく息子。動転した親は、疑う理由がありません。 けれどその声は、—— SNSに上がっていた動画や、以前の通話から採取した数秒の音声をもとに、AIが合成した偽物でした。 米Resemble AIの2025年の報告では、わずか3〜5秒のサンプルから本人に近い声を合成できるとされています（マカフィーの2023年の調査も、3秒ほどの音声で足りると報告しています）。
「声が本人だから本物」——この常識そのものが、もう通用しません。2026.10 更新これは特別な話ではありません。日本国内でも、出張中の社長の声で部下に緊急送金を指示する“法人版オレオレ詐欺”の未遂が伝えられてきました。 2026年1月末には、小泉防衛相が、自分になりすましたAI生成の映像・音声によるビデオ通話について注意を呼びかけたと報じられています。 シリーズ前編で見た「AIで詐欺は数も質も上がった」の最前線が、このディープフェイク詐欺です。
このシリーズの約束 — あなたは悪くない
本人そっくりの声や顔でだまされるのは、不注意のせいではありません。人間の耳と目では見抜けないレベルに技術が達しているからです。 だからこの記事は「気をつけよう」で終わらせず、耳と目に頼らない“仕組みの守り”を一緒に用意します。
14📊 数字で見る「顔と声」の詐欺 — 2026年の現在地
「増えているらしい」ではなく、確認できる数字で見てみます。ポイントは“作る側”のコストが崩壊的に下がったことです。
（Resemble AI・2025年の報告）
（トレンドマイクロ調査・2024年6月）
（香港・2024年、約2億香港ドル）
（Resemble AIの年次報告・約12.8億ドル）
| 確認できる数字 | 内容 | 出どころ |
|---|---|---|
| 約1,834億円 | SNS型投資・ロマンス詐欺の年間被害（2025年の確定値・前年比+44.2%）。内訳は投資詐欺1,288.0億円、ロマンス詐欺546.4億円。偽広告・なりすましが主な入口 | 警察庁（2026年5月公表） |
| 約1,005億円 | 警察官を名乗ってお金を求める「ニセ警察詐欺」の年間被害（2025年・11,014件）。最初の接触の78.8%は電話 | 警察庁（2026年5月公表） |
| 38% | 生成AIによる有名人なりすまし詐欺広告を「見たことがある」日本の回答者。7%はクリック経験あり | マカフィー国際調査（調査の実施は2025年8月） |
| 約11.5万円 | なりすまし詐欺広告などでお金を失った人の平均被害額（同調査） | マカフィー国際調査 |
| 68% | 本物との区別が困難なレベルに達しているディープフェイク映像の割合 | Resemble AI（2025年1〜3月期の報告） |
2026.10 更新出典：警察庁「令和7年における特殊詐欺及びSNS型投資・ロマンス詐欺の認知・検挙状況等について（確定値）」、トレンドマイクロ「ディープフェイクに関する国内実態調査2024」、McAfee調査（2025年）、Resemble AIの四半期レポート（2025年Q1）と年次報告（2026年3月公表）。Resemble AIの年間被害額は1ドル=150円で換算した概算で、内訳の数字は確認できなかったため載せていません。そのほかの円換算は各発表時点のレートによる概算です。
数字が語っていること
注目したいのは被害額そのものより、「作るのは数秒、見分けられると答えた人は1.9%」という落差です。 道具が安く簡単になった結果、ディープフェイクは特別な大事件の道具から、日常の詐欺の“標準装備”に変わりつつあります。 だからこの話は、企業のニュースではなく家庭の防犯の話なんです。
15🎭 手口カタログ — 「顔と声」の詐欺・4つの型
敵を知れば、怖さは「対策できる課題」に変わります。いま報告されている手口は、大きくこの4つです。
型② ビデオ通話なりすまし — 2024年2月・香港
会議室に映るCFOも同僚も、全員が偽物だった
多国籍企業の会計担当者が、本社のCFOから「極秘の取引がある」とビデオ会議に呼ばれます。画面には見慣れた役員や同僚たち。 指示のとおり15回に分けて計約2億香港ドル（約38億円）を送金——しかし後日、本社に確認すると、そんな会議は存在しませんでした。 参加者は全員、で合成された偽物だったのです。
「複数人がそろって映っている」ことすら、もう証拠にならない。型③ 有名人なりすまし広告 — 日本で被害が続出中
「私の投資グループに参加しませんか」——実業家は何も知らない
2026.10 更新SNSに流れてくる、実業家や経済評論家が投資を勧める動画広告。顔も声も本人そのものですが、AIで合成された偽広告です。 誘導先のグループで「講師」や「アシスタント」に投資を促され、お金を振り込んでしまう——警察庁の確定値では、2025年のSNS型投資詐欺の被害は1,288.0億円にのぼりました。 7月の執筆時点で参照した国内報道（関西テレビ・東京新聞ほか）では、1件で5,260万円、80代男性が6,000万円といった被害が伝えられていましたが、今回の更新では元の記事を確かめ直せていません。 マカフィーの調査では、日本の回答者の38%がこの種の偽広告を目撃し、7%が実際にクリックしていました。 名前をかたられた本人たちが、公式サイトで注意喚起を出す事態になっています。 2026年8月7日には、7府省庁がSNSなど5社に、広告主の本人確認や削除対応の徹底を要請しました（法律による義務づけではなく要請です）。
入口はいつものSNSのタイムライン。「広告に出ている＝公認」ではありません。型④ フィッシング・ロマンス詐欺の“AI自動化”
あなた専用の偽メールが、数千通単位で量産される
2026.10 更新が公開情報から役職・口調・過去のやり取りの癖まで模倣し、 一人ひとりに合わせて文面を変えた偽メールを自動で量産する——そんな攻撃が報告されています。2025年の国内フィッシング報告は過去最多の約245万件（フィッシング対策協議会の月次報告の合算。2024年は約172万件）。2026年は2月から8月まで、月5.7万〜15.1万件に減っていますが、手口がなくなったわけではありません。 やロマンス詐欺でも、 相手をつなぎとめる長文のメッセージをAIが書き続けます。前編・第04章で見た「質と量の同時進化」の完成形です。
昔の目印だった「不自然な日本語」は、もう存在しないと考えてください。16⚙️ なぜ、急に増えたのか — 「作る側」のコスト崩壊
理由はシンプルで、かつては映画スタジオ級だった技術が、誰でも・すぐ・安く使えるようになったからです。
数年前まで、本人そっくりの偽動画を作るには大量の素材と専門技術が必要でした。それがいまは—— 声は3〜5秒のサンプルから、顔は数枚の写真から合成でき、 Resemble AIの分析（2025年1〜3月期）ではディープフェイク映像の68%が「本物との区別が困難」なレベルに達しています。 さらに闇市場では、偽の身分証やなりすまし用素材を作る“詐欺ツールのセット販売”まで報告されており、 技術がなくても「買えば始められる」状態になっています。
つまり、詐欺グループから見ると——1回あたりのコストが崩壊的に下がり、成功率は上がった。 前編で見た海外の“詐欺工場”がこの道具を手にした結果が、いまの急増です。 防ぐ側が「見た目・声で判断する」従来のやり方のままでは、勝負になりません。
探検隊の読み — 「疑う」より「手順で確かめる」
ここで大事なのは、「もっと注意深く見よう」ではありません。「見分けられる」と答えた人が1.9%しかいない勝負から降りることです。 目と耳での真贋判定はあきらめて、「本人にしかできない行動」で確かめる手順に切り替える——次の章から、その具体策です。
17✅ ディープフェイク版・見抜くチェックリスト（保存版）
映像や声の「自然さ」では判断しません。後編のチェックリストと同じ思想で、「構造」と「行動」で見ます。
- 1「声が本人」を理由に信じない声はもう本人確認になりません。内容がお金・パスワード・緊急の話なら、声がそっくりでも一度立ち止まる。
- 2いったん切って、自分からかけ直す相手が名乗った番号ではなく、電話帳に登録済みの本人の番号へ。これだけでなりすましの大半は落ちます。
- 3「今すぐ」「誰にも言わずに」は詐欺の合図考える時間と相談相手を奪うのは、AI時代でも変わらない詐欺の骨格です。
- 4ビデオ会議でも、送金は別ルートで確認画面に誰が映っていても、お金が動く指示は社内の正規手続き・別チャネルの承認を必ず通す。
- 5有名人の投資広告は「公式が言っているか」で確認SNS広告からではなく、その人の公式サイト・公式アカウントを自分で開いて確かめる。多くの著名人が「投資勧誘はしていない」と明言しています。
- 6支払い方法が「振込・暗号資産・ギフトカード」なら疑う取り戻しにくい手段への誘導は、典型的な赤信号です。
- 7合言葉を確認する家族・職場であらかじめ決めた合言葉が出なければ、どんなに声が本物でも保留。決め方は次の章で。
ぜんぶ忘れても、これだけで守れる
「お金の話が出たら、いったん切って、自分から“いつもの番号”にかけ直す。」 ——声にも映像にも一切頼らない、この一手順だけは家族全員の共通ルールにしてください。
18👪 家族を守る仕組みづくり — 今夜10分でできる4ステップ
一人で気をつけるより、家族で仕組みを共有するほうが何倍も強い。今夜の食卓でできる備えです。
- 1 合言葉を決める SNSや名簿から推測できない「質問と答え」のペアを決める。例：「はじめて家族旅行で行った温泉は？」。誕生日・ペットの名前・学校名など、ネットに出ている情報は避ける。
- 2 ルールをセットで共有 「お金の電話＝合言葉を確認。出なければ切って、かけ直す」を全員で口に出して確認。高齢の親には「かけ直す先」を電話帳に大きく登録しておく。
- 3 声の“材料”を減らす SNSの動画公開範囲を見直す。知らない番号からの電話では、こちらから名乗らない・長く話さない（応答音声が採取されることがあります）。留守電の応答メッセージを本人の声から定型音声に変えるのも有効。
- 4 「もしも」を共有 被害時の連絡先（#9110・188）と「だまされても責めない」約束を共有しておく。責められると思うと、相談が遅れて被害が広がります。
電話勧誘への「はい」にも注意
知らない相手との通話では、「はい」「そうです」といった短い返事だけでも録音・悪用される可能性が指摘されています。 不審な電話は会話せず切るのがいちばん。折り返しは必ず自分で調べた公式番号へ。
PR家族と読むなら、紙の1冊も
高齢の親とルールを共有するときは、Webページより紙の本や大きな活字の入門書が話のきっかけになります。発行年が新しいもの（AIの手口に触れているもの）を選ぶのがおすすめです。
※ 外部の書店サイトに移動します。価格・在庫は各サイトの最新表示をご確認ください。一部のリンクにはアフィリエイトプログラム（広告）を利用しています。テーマ別の探し方は 📖 AI探検隊の本棚 にまとめています。
19🆘 もし被害にあったら — 最初の3手
時間との勝負です。詳しい手順と補償の話は後編・緊急対応フローにまとまっているので、ここでは最初の3手だけ。
- 1 お金を止める 振込先の金融機関とカード会社へすぐ連絡。により、口座に残高が残っていれば被害回復分配金を受け取れる場合があります。早いほど有利です。
- 2 相談する 警察相談専用電話「#9110」（急ぎは110）、消費者ホットライン「188」へ。ひとりで抱えないことが、次の被害も防ぎます。
- 3 証拠を残す 通話の録音・メッセージ・広告のスクリーンショット・振込記録を消さずに保存。ディープフェイクの証拠は消えやすいので、気づいた時点で保全を。
補償の考え方（カードの不正利用補償・重過失の扱いなど）は後編・第09章「補償と手続き」で詳しく解説しています。 自分から振り込んでしまったケースでも、あきらめる前に必ず窓口へ相談してください。
20🏛 ルールはまだ追いついていない — 2026年の現在地
2026.10 更新「法律で守ってくれないの？」——現状を知っておくと、自衛の位置づけがはっきりします。
| 地域 | 状況（2026年10月時点） |
|---|---|
| 日本 | ディープフェイクを直接規制する法律はまだ無い。2025年施行のAI推進法は活用推進が主眼で罰則なし。2026年7月の第2次AI基本計画も、罰則つきの新法ではなく活用・開発を後押しする計画。被害には詐欺罪・名誉毀損・著作権法など既存法で対応。8月7日に7府省庁がSNSなど5社へなりすまし詐欺広告の対策を求めたが、法律による義務づけではなく要請 |
| EU | AI規制法（AI Act）の、AI製と明示する透明性のルールが2026年8月2日から適用開始と報じられている（機械で読み取れる透かしの部分は12月2日まで猶予）。違反には最大1,500万ユーロ（約24億円）または世界売上高の3%の高いほう、と解説されている |
| 米国 | 2025年成立のTAKE IT DOWN法が2026年5月19日に全面実施と報じられている。プラットフォームは通知から48時間以内に削除する義務を負う。対象は「本人の同意のない性的な画像」（AIで作った偽物を含む）で、なりすまし全般ではない |
出典：デジタル庁ほか7府省庁の合同要請（2026年8月7日）、内閣府・総務省のAI関連公表資料、EU AI Act、米TAKE IT DOWN Act に関する各報道・法律事務所の解説（2025〜2026年）。EUと米国の記述は一次資料ではなく、報道・解説にもとづきます。
探検隊の読み — 当面の第一線は「家庭のルール」
規制もプラットフォームの検出技術も進み始めていますが、詐欺の進化のほうが速いのが現実です。 つまり当面のあいだ、最前線に立つのは法律ではなく、第17章のチェックリストと第18章の家族ルール。 幸い、どちらもお金はかからず、今夜から始められます。
FAQ❓ よくある質問（第三弾）
ディープフェイク詐欺について、よくある疑問を短くまとめました。
ディープフェイク詐欺とは何ですか？
AIで作った本物そっくりの偽の音声・動画・画像で、家族・上司・有名人などになりすまし、お金や情報をだまし取る詐欺です。音声クローン電話、偽ビデオ会議、有名人の偽広告などの型があります。→ 第15章 手口カタログ
本当に数秒の音声から声をコピーできるの？
米Resemble AIの2025年の報告では、3〜5秒ほどのサンプルから本人にかなり近い声を合成できるとされています（マカフィーの2023年の調査も、3秒ほどで足りると報告）。SNSの動画や留守電も“材料”になり得ます。→ 第13章
ビデオ通話の相手が本物か確かめるには？
映像の自然さでは判断できません。お金や重要情報の話が出たら通話を終え、自分が知っている元の連絡先へ自分からかけ直すのが確実です。香港では“全員偽物”の会議で約38億円が送金される事件が起きています。→ 第17章 チェックリスト
家族の合言葉は、どう決めればいい？
SNSや名簿から推測できない思い出をもとに「質問と答え」のペアで決め、「お金の電話では必ず確認→出なければ切ってかけ直す」というルールとセットで共有します。→ 第18章 家族を守る4ステップ
被害に遭ったら、どこに相談すればいい？
金融機関・カード会社への連絡が最優先。あわせて警察相談専用電話「#9110」（緊急時110）、消費者ホットライン「188」へ。振り込め詐欺救済法で被害回復分配金を受け取れる場合もあります。→ 第19章 最初の3手
日本にディープフェイクを規制する法律はある？
2026年10月時点では、直接規制する法律はありません。AI推進法は罰則のない推進法で、被害には既存の法律で対応しているのが現状です。8月7日に7府省庁がSNSなど5社へなりすまし詐欺広告の対策を求めましたが、法律による義務づけではなく要請です。EUは8月2日から、米国は5月19日から、表示や削除のルールが実施に入ったと報じられています。→ 第20章 ルールの現在地
主な出典・参考（公的・信頼できる情報源）
本記事の数字や動向は、以下の機関・調査をもとにしています。最新・正確な情報は、各公式サイトでご確認ください。
- 警察庁｜特殊詐欺・SNS型投資/ロマンス詐欺の統計
- デジタル庁｜なりすまし詐欺広告に関する7府省庁合同要請（2026年8月7日）
- フィッシング対策協議会｜月次報告書
- Resemble AI｜2025年のディープフェイク年次報告（英語・2026年3月）
- トレンドマイクロ｜ディープフェイクに関する実態調査 2024
- CNN｜香港・ディープフェイクビデオ会議による約2億香港ドル送金事件（2024年）
- マカフィー｜なりすまし詐欺・ディープフェイクに関する国際調査（2025年）
- 国民生活センター｜警察を名乗る不審電話への注意喚起
- 金融庁｜振り込め詐欺救済法（被害回復分配金）
- 日本ファクトチェックセンター｜著名人なりすまし広告などの検証記事
このほか、Resemble AI四半期レポート（2025年1〜3月期）、著名人なりすまし投資詐欺に関する国内報道（関西テレビ・東京新聞ほか。2026年7月の執筆時点で参照）、AI悪用フィッシングに関するセキュリティ各社の分析、EU AI Act・米TAKE IT DOWN Actに関する解説を参考にしています。数字は各発表時点のもので、円換算は当時のレートによる概算です。
※ 本ページは、AIによるなりすまし詐欺（ディープフェイク詐欺）の手口と一般的な対策を、公的機関の統計・企業調査・報道をもとに整理・解説した啓発記事です。特定の企業・サービス・技術・人物を批判する目的のものではありません。被害額などの数字は各機関・各社の発表時点のもので、暫定値・海外調査を含みます。手続き・補償の可否などは各金融機関・公的窓口の公式案内に従ってください。記載は2026年10月時点の情報に基づきます。