AIで作った顔や声、文章で人をだます手口のうち、日本の公的資料で確かめられたのは、主に次の3つです。著名人の顔や声を使った投資広告、AIで文面を作ったとみられる詐欺メール、ビデオ通話の「警察官」の顔をAIで作っていた特殊詐欺です。ただし、今回確認した警察庁の統計には、AIが使われたかどうかの内訳がありません。家族の声をAIでまねる電話詐欺は、米国では被害の申告額が公表されています。日本では、今回探した範囲で、公的な件数も、この手口に絞った注意喚起も見つかりませんでした。
見た目や日本語の自然さ、写真やロゴで本物かを判断するのは難しいと、警察庁や首相官邸、フィッシング対策協議会が書いています。効くのは、広告やメッセージの中のリンクや電話番号を使わず、公式サイトや公式アプリ、知っている番号からたどり直すことです。
すでに振り込んでしまった人は、記事の終わりの「振り込んでしまった・迷ったときの相談先」へ先に進んでください。全国銀行協会は、振り込んだ先の口座がある銀行への連絡と、警察への届け出を案内しています。
ただし、AIが使われた件数は日本の統計に出てきません
今回確認した警察庁の特殊詐欺の統計には、AIが使われたかどうかの内訳がありません。日本でAIを使った詐欺が何件あるかは、公的な数字では答えられません。そのため、日本の公的資料で確認できたものと、海外でしか確認できなかったものは、分けて読む必要があります。
日本の公的資料で確認できたAIの使われ方
著名人の顔や声を使った投資広告（ディープフェイク）
2026年8月7日、警察庁・金融庁・消費者庁・デジタル庁・総務省・法務省・経済産業省の7府省庁が、SNSなどを運営する大手5社に文書で対策を要請しました。相手はGoogle、LINEヤフー、Meta、TikTok Japan、Xです。要請文は、問題の広告を「ディープフェイクを用いて著名人の肖像や音声を無断で利用したなりすまし広告を含む詐欺広告」と書いています。
求めたのは3つです。マイナンバーカードなど電子的な手段も使った広告主の本人確認と、広告主の情報や「主に生成AI技術を用いて作成された広告である旨」などの表示です。もう1つは、削除要請への迅速な対応です。
各社がデジタル庁へ実施内容などを報告する期限は、2026年10月16日です。2026年10月から2027年2月までの実績は、2027年3月16日までに報告するよう求めています。要請文は、これが行政指導であり、処分ではないと明記しています。報告を公表するかどうかは書かれていません。
警察庁によると、SNS型投資詐欺は2026年1〜8月に7,097件、937.4億円でした（暫定値）。被害額は前年同期より53.8%増えています。2026年1〜6月の最初の接触の手段は、バナーなどの広告が2,330件で最多でした。警察庁は、この経路の被害額が前年同期比で252.5%増えたと書いています。
ただし、この統計に、AIで作られた広告かどうかの内訳はありません。政府は2026年7月21日に閣議決定した重点計画で、ディープフェイクによるなりすまし広告詐欺が拡大していると書いています。拡大は政府の認識として確かめられますが、件数は分かりません。
出典はSNS等におけるなりすまし詐欺広告に関する対策強化のための7府省庁合同要請の実施（デジタル庁）とその要請資料（PDF）、令和８年８月末における特殊詐欺の認知・検挙状況等について（警察庁）、令和８年上半期における特殊詐欺の認知・検挙状況等について（警察庁）とその資料1（PDF）、デジタル社会の実現に向けた重点計画（抜粋）（内閣官房の会議資料、PDF）です。2026年10月12日に確認しました。
AIで文面を作ったとみられる詐欺メール
フィッシング対策協議会は2026年9月18日に、8月分の月次報告を出しました。報告には「AI にメール文面の作成を指示したと思われるプロンプトがメール本文に残っていたり」という記述があります。プロンプトはAIへの指示文です。協議会はこれを、人が見ると「不自然すぎる」メールの例として挙げています。一方で同じ報告は、迷惑メールの判定をすり抜けるよう細工したメールの中に、表示するときれいな体裁になるものもあったと書いています。こちらはAIとの関係には触れていません。
不自然さで見分けられるかについては、協議会自身が限界を書いています。フィッシング対策ガイドライン2026年度版は序文で、生成AIを使った自然な文章による攻撃が目立つようになったと述べ、こう続けています。
従来の不自然な日本語や明らかな誤りを手掛かりに判別することが難しくなり、この点についての注意喚起のみでは被害を防ぎきれない状況になっている。
警察庁も、2026年9月10日に公表した報告書で、AI技術の発達により文章の自然さや偽装の精度が大幅に向上し、従来と比べて見抜きにくいフィッシングが増えていると書いています。
出典は2026/08 フィッシング報告状況（フィッシング対策協議会）とフィッシング対策ガイドライン 2026年度版（フィッシング対策協議会、PDF）、令和８年上半期におけるサイバー空間をめぐる脅威の情勢等について（警察庁、PDF）の17ページ（資料に印刷されたページ番号）です。2026年10月12日から13日にかけて確認しました。
ビデオ通話の「警察官」の顔をAIで作っていた事件
警察庁が2026年9月10日に公表したサイバー空間の情勢の報告書は、AIの悪用事例として、ニセ警察官による特殊詐欺の検挙を載せています。犯行は2024年10月ごろから2025年5月ごろで、海外の拠点から日本の被害者に電話やSNSで連絡していました。マネー・ローンダリングに関わった疑いがあるなどとうそを言い、現金をだまし取っていた事件です。
警察官役はビデオ通話で制服のようなものを着て、偽の警察手帳を見せていました。報告書はこう書いています。
警察官役（被疑者）の顔が識別されないよう顔をＡＩで生成して、被害者をだましていた。
海外の当局が拠点を摘発し、2025年8月に身柄の引き渡しを受けて逮捕した、と報告書は記しています。同じ報告書は、生成AIを悪用して本人確認書類を作った事例も確認されていると書いています。出典は令和８年上半期におけるサイバー空間をめぐる脅威の情勢等について（警察庁、PDF）の27〜29ページ（資料に印刷されたページ番号）です。2026年10月12日に確認しました。
警察を名乗る電話やビデオ通話が本物かを確かめる方法は、警察を名乗る電話は本物かの記事にあります。
ほかに確認できたこと、できなかったこと
AIは誘い文句にも使われます。金融庁は、投資詐欺の可能性が高い事例の1つとして、AI診断をうたってウェブサイトへ誘い、分析レポートを送ると偽ってSNSへ誘導する手口を挙げています。「AIが分析した」という言葉は、相手が登録業者かどうかとは関係がありません。これはこの記事の整理です。
警察庁はSNS型ロマンス詐欺のページで、AIなどを使えば誰でも簡単に他人になりすまし、本人の音声や動画を作れてしまうと注意しています。ただし、AIが使われた件数は載っていませんでした。生成AIで作った偽の通販サイトは、今回探した範囲では、日本の公的な件数も事例も見つかりませんでした。上の警察庁の報告書は、AI技術の発達でフィッシングの文章の自然さや偽装の精度が大幅に上がり、見抜きにくいフィッシングが増えていると書いています。ただし、AIで作られた偽サイトの件数や個別の事例は載っていません。SNSの広告から通販サイトで買ってしまい不安な人は、インスタ広告で買ってしまったの記事も参考にしてください。
出典はそれ詐欺です！SNS上の投資勧誘にご注意ください！（金融庁）とSNS型ロマンス詐欺（警察庁・SOS47）です。2026年10月12日に確認しました。
家族の声をまねる電話は、日本の公的な数字が見つかりません
AIで家族の声をまねてお金を求める電話について、警察庁・消費者庁・国民生活センター・金融庁の公表資料を探しました。今回探した範囲では、件数も、この手口に絞った注意喚起も見つかりませんでした。もっとも、警察庁は、オレオレ詐欺の犯人が「風邪をひいて声が変わった」などと言って信用させる例を紹介しています。声が似ているかどうかはAIがなくても当てにならない、というのはこの例からのこの記事の整理です。
海外には数字があります。米連邦捜査局（FBI）のインターネット犯罪苦情センター（IC3）によると、2025年にAIへの言及がある届け出は2万2,364件でした。これらの届け出で申告された被害額は、約8億9,300万ドルです。家族などの声をまねて困っている様子を装う詐欺の被害申告は、500万ドルを超えています。報告書は、AIがどこまで関わっているかに気づいていない被害者が多いとも書いています。
対策として、FBIは家族で合言葉を決めておくことを勧めています。銀行や組織を名乗る電話なら、いったん切って、その組織の連絡先を自分で調べてかけ直すことも挙げています。米連邦取引委員会（FTC）も「声を信用しない」として、本人のものと分かっている番号でかけ直すよう呼びかけています。合言葉の決め方は、家族の声で電話が来たときの確かめ方の記事にあります。
出典は2025 IC3 Annual Report（FBI、PDF、英語）、Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud（FBI、2024年12月、英語）、Scammers use AI to enhance their family emergency schemes（FTC、2023年3月、英語）、オレオレ詐欺（警察庁・SOS47）です。2026年10月12日に確認しました。
手口ごとの確認状況と、効く確かめ方
ここまでを手口ごとに整理すると、次の表のとおりです。確認状況は、この記事で開いた資料の範囲です。
| 手口（何が起きるか） | 日本の公的な確認状況 | 見分け方の限界 | 効く確かめ方 |
|---|---|---|---|
| 著名人の顔や声を使った広告から、LINEなどに誘導されて送金する | 7府省庁の要請文がディープフェイク広告に言及（2026年8月）。SNS型投資詐欺は2026年1〜8月に937.4億円（警察庁、暫定値）。AIの内訳はなし | 写真やロゴの使用だけでは判断できない（首相官邸） | 業者の登録を金融庁のサイトで調べる。本人の公式アカウントを見る |
| AIで文面を作ったとみられる詐欺メール | フィッシング対策協議会の2026年8月分の報告に記述。警察庁の報告書もAIで文章が自然になったと記載（2026年9月）。件数はなし | 不自然な日本語での判別は難しくなった（協議会） | リンクを使わず、ブックマークや公式アプリから開く（警察庁） |
| 「警察官」がビデオ通話でAIの顔を見せる | 警察庁が検挙事例を報告書に記載（2026年9月） | 制服や警察手帳、顔が見えても本物とは限らない（上の検挙事例からの整理） | 切って#9110か警察署へ。教えられた番号に折り返さない（警察庁） |
| 「AI診断」をうたって投資に誘う | 金融庁が、投資詐欺の可能性が高い事例として記載 | 「AI」は登録の有無と無関係（この記事の整理） | 登録業者かを調べる。個人名義の口座なら止める |
| 交際相手になりすまし、声や動画で信用させる | 警察庁がAIなどによるなりすましを注意喚起。件数はなし | ビデオ電話で仲良くなっても本人とは限らない（警察庁） | 会ったことのない相手からお金の話が出たら警察へ相談 |
| 家族の声をまねた電話でお金を求める | 公的な件数も専用の注意喚起も見つからず | 「声を信用しない」（米FTC） | いったん切り、本人のものと分かっている番号にかけ直す（米FTC） |
右の列は、どれも相手が用意した連絡先を使わず、自分で公式の窓口にたどり直す点で共通しています。これはこの記事の整理です。
よくある誤解を3つ、公式の記述で正します
誤解1「日本語が自然なら本物」
不自然な日本語のメールは今も届きますが、自然だから本物とは言えません。協議会は上のとおり、不自然な日本語を手がかりにした判別は難しくなったと書いています。警察庁も、送信元の表示だけでメールの真偽を判断するのは困難で、リンクの真偽を見た目で判断するのは非常に困難だと説明しています。米FBIは、生成AIが、詐欺の手がかりになり得た誤りを直してしまうことがあると注意しています。出典はフィッシング対策（警察庁）と前出のFBIの注意喚起です。
誤解2「有名人が広告に出ているなら公認」
国民生活センターは、SNS上には著名人の画像などを無断で載せているものがあると注意しています。警察庁も、著名人が無料で投資教室を開いたり、確実に利益が出る投資話を無料で教えたりすることは基本的にないと書いています。首相官邸は、総理の画像や官邸のロゴがある広告について「写真やロゴ使用だけでは判断できません」と答えています。
7府省庁の要請には、主に生成AIで作った広告であることの表示も含まれます。ただし、表示がないことは本物の証明になりません。これはこの記事の整理です。出典はSNSで著名人が勧める「もうかる方法」それって本当！？（国民生活センター）、SNS型投資詐欺（警察庁・SOS47）、首相官邸ホームページを装った偽サイトにご注意ください（首相官邸）です。
誤解3「ビデオ通話で顔が見えれば本人」
警察庁は、本物の警察官は「個人のスマートフォンに突然ビデオ電話をすることはありません」と書いています。メッセージアプリで連絡することや、警察手帳・逮捕状の画像を送ることもないとしています。上の事件では、AIで作った顔の警察官役が実際にビデオ通話に出ていました。米FBIも2026年9月17日の注意喚起で、AIなどを使ってビデオ通話で警察官や政府職員に見せかける手口を挙げています。
FBIは2024年12月の注意喚起で、見分け方として、手や歯の形、影、映像の遅れ、声と映像の合わなさといった細かな不自然さを探すことを挙げています。ただし同じ注意喚起で、AIで作られたものかを見分けるのは難しい場合があるとも書いています。顔や映像の出来より、相手がどの経路で連絡してきたかで判断するほうが確かです。最後の一文はこの記事の整理です。
出典はニセ警察詐欺に注意！（警察庁・SOS47）、Scammers Impersonating Law Enforcement and Government Officials in Fraud Schemes（FBI、英語）と前出のFBIの2024年12月の注意喚起です。2026年10月12日に確認しました。
広告やメッセージを見て迷ったときの確かめ方
広告やメッセージを見て迷ったら、上から順に確かめてください。
- 広告やメッセージの中のリンク、電話番号、QRコードは使いません。公式サイトはブックマークから、サービスは公式アプリから開きます。警察庁が案内している方法で、QRコードについては首相官邸も同じ注意をしています。
- 投資の勧誘なら、業者名を金融庁の金融事業者一括検索で調べます。金融庁は、登録業者の名をかたる無登録業者もあると注意しています。免許・許可・登録等を受けている事業者一覧の連絡先と、あなたに届いた連絡先が同じかも見てください。この照らし合わせはこの記事の提案です。
- 金融庁が警告書を出した無登録業者の一覧も見ます。ただし金融庁は、載っていない者でも無登録営業をしていることがあり得ると書いています。
- 有名人が勧めているなら、本人の公式サイトや公式アカウントに注意喚起が出ていないかを確かめます。国民生活センターが勧める方法です。
- 投資のお金の振込先に個人名義の口座を指定されたら止めます。国民生活センターは、その場合は詐欺だと書いています。
- 警察や家族を名乗る電話・ビデオ通話は、いったん切ります。警察なら#9110か最寄りの警察署へ、家族なら本人の番号へ、自分からかけ直します。警察庁は、教えられた番号に折り返さないよう呼びかけています。表示された番号が実在の警察署のものでも、信じないよう注意しています。
出典はフィッシング対策（警察庁）、金融事業者一括検索（金融庁）、免許・許可・登録等を受けている事業者一覧（金融庁）、詐欺的な投資勧誘等にご注意ください！（金融庁）、無登録で金融商品取引業を行う者の名称等について（金融庁）と、上で挙げた各ページです。2026年10月12日に確認しました。
振り込んでしまった・迷ったときの相談先
番号と受付時間は、各機関の公式ページの記載どおりです。
| 窓口 | 番号と受付 | 使う場面 |
|---|---|---|
| 振り込んだ先の口座がある銀行 | 全国銀行協会のページに銀行ごとの連絡先の一覧があります | すでに振り込んだとき。警察への届け出もあわせて |
| 警察 | 110 | いま被害が進んでいるとき |
| 警察相談専用電話 | #9110。平日8時30分〜17時15分（都道府県警察で異なる）。土日祝日と時間外は、一部を除き当直か音声案内（2024年4月時点の警察庁の資料） | 緊急ではない相談 |
| 消費者ホットライン | 188。近くの消費生活センター等を案内。施設点検日と年末年始を除き原則毎日利用できます | 契約やお金のトラブル |
| 金融庁 詐欺的な投資に関する相談ダイヤル | 0570-050588（IP電話からは03-6206-6066）。平日10時〜17時 | 怪しい投資の勧誘、投資の被害 |
| 金融庁 SNS上の投資詐欺が疑われる広告等に関する情報受付窓口 | ウェブで24時間。情報提供のみで、相談には応じていません | 偽の投資広告をきっかけに勧誘を受けたとき |
| フィッシング対策協議会 | info@antiphishing.jp | フィッシングか迷うメールやSMSの報告 |
カード番号を入力した場合はカード会社にも連絡するよう、首相官邸のページが案内しています。著名人などになりすました偽の投資広告は、インターネット・ホットラインセンターの専用の受付からも通報できます。
出典は金融犯罪に遭った場合のご相談・連絡先（全国銀行協会）、令和6年版犯罪被害者白書 資料9（警察庁）、消費者ホットライン（消費者庁）、SNS上の投資詐欺が疑われる広告等に関する情報受付窓口の設置等について（金融庁）、インターネット・ホットラインセンターと、上で挙げた各ページです。2026年10月12日に確認しました。
まとめ
- AIで作った顔や声、文章で人をだます手口として、日本の公的資料で確認できたのは3つです。ディープフェイクの投資広告、AIで文面を作ったとみられる詐欺メール、AIで顔を作ったニセ警察官のビデオ通話
- 「AI診断」をうたう投資勧誘も、金融庁が投資詐欺の可能性が高い事例として挙げています
- 今回確認した警察庁の統計には、AIが使われたかどうかの内訳がありません
- 家族の声をまねる電話は、日本では公的な件数も専用の注意喚起も未確認。米国では2025年に500万ドルを超える被害申告
- 日本語の自然さ、写真やロゴ、ビデオ通話の顔は、本物の証明になりません
- 効くのは、相手が用意した連絡先を使わず、公式の窓口からたどり直すこと
- 振り込んでしまったら、振り込んだ先の口座がある銀行と警察へ連絡
この記事に書いた内容は、2026年10月12日から13日にかけて各公式ページで確認しました。
お金の話は、根拠のあいまいな情報がそのまま広がっていることがあります。このサイトでは、法律の条文や官庁・業界団体の資料まで戻って、確認した日付とあわせて書いています。実際に出回っている誤りを訂正した例も含め、ほかの調べ物は人に聞けないお金の質問にまとめました。