「ディープフェイクに関する実態調査2024年版」から見えてきた脅威を解説

公開日：2024年7月3日
更新日：2024年9月9日

広がるディープフェイクの脅威

見慣れた有名人にも係わらずどこか違和感のある動画をSNSやテレビ、ニュースなどで見かけたことはないでしょうか。その際に動画を拡大したり、口元や目元、顔の表情などの細部を疑った目で見ると、何かしらの違和感を感じることがあります。しかしスマートフォンの小さい画面での視聴や短い時間のみの視聴の場合には、気づかず通り過ぎてしまうかもしれません。このようにAIを用いて作り出された偽の動画や音声、またはその技術のことを「ディープフェイク」と呼びますが、それが今私達の日常において身近なものになりつつあります。

実際にこのような動画を悪用し、法人組織に被害が出た事件も報告されています。香港のある多国籍企業のオンライン会議にて、ディープフェイク技術を悪用して同社の最高財務責任者（CFO）になりすまし、2500万米ドル（約38億円）を送金させたという詐欺事件です。こうした被害金額の大きな事例も発生していることから、ディープフェイクを悪用した脅威が組織にとって無視できるものではないレベルまで高度化してきたことが伺えます。
ディープフェイクを悪用した攻撃の被害に遭わないためには、組織としての技術的なセキュリティ対策も必要ですが、ソーシャルエンジニアリングと同様、人の認識につけこんだ詐欺的要素が強いため、「騙されない」という一人ひとりの心構え、姿勢も重要になってきます。本記事では、このディープフェイクと個人との関わりについて、トレンドマイクロが実施した調査結果を紹介します。

6割以上が日常生活で動画や画像情報を参考にしている

WebサイトやSNSでは莫大な情報が日々やりとりされています。その中でも画像、音声、動画といった情報を用いることで、単純な文字情報に比べて、強い印象と共に素早く大量の情報を取得することができます。実際に調査の中で、これらの情報を最新ニュースの収集や商品購入時の参考情報としてどのくらい活用しているかをたずねたところ、15.9%が「とても参考にしている」と回答し、46.3%が「やや参考にしている」という回答しました。これらを合わせると6割以上が日々の生活の中で画像、音声、動画といった情報を参考にしていることが明らかになりました（図1）。少なくとも半分以上の回答者が、オンラインを介して得る情報に気軽に接し、抵抗感や疑心感はさほど強くないことがデータからも見受けられます。
年代別に見てみると、10代では「とても参考にしている（27.6%）」、「やや参考にしている（60.5%）」と9割近くが、次いで20代でも「とても参考にしている（26.5%）」、「やや参考にしている（53.8%）」と約8割が参考にしていることが分かりました。若い世代では、動画配信サービスやSNS上でやりとりされている情報に対して他の世代に比べて非常に感度が高く、これらの情報をより頻繁に活用していることが分かります。
とはいえ、これらの情報を活用しているのが若い世代だけに限定されるというわけではないようです。30代でも約7割、40代50代でも約6割と高い割合を示しており、組織で重要な役割を担う年代の方々も、日々の生活の中でこれらの情報を活用していることが分かります。

図１：「WebページやSNS（YouTubeなどの動画共有サイトを含む）上にある画像、音声、動画を介して得る情報を、日常のシーンでどのくらい参考にしていますか。」 — 図１：「WebページやSNS（YouTubeなどの動画共有サイトを含む）上にある画像、音声、動画を介して得る情報を、日常のシーンでどのくらい参考にしていますか。なお日常のシーンとは最新ニュースの情報収集時や商品サービスの購入時などを指します。」年代別（単一回答：n=2,585）

約4割が目にしたり耳にしたことがあるディープフェイク

調査対象2,585名にディープフェイクという用語の認知度を調査したところ、「よく知っている（15.7％）」、「名前だけ知っている（31.8%）」と約半数近くが知っていると回答しています（図2a）。
更に「よく知っている（15.7％）」、「名前だけ知っている（31.8%）」と回答した1,227名を対象にディープフェイクと思われるものを実際に見たり耳にしたことがあるかをたずねたところ、37.5%が「目にしたり耳にしたりしたことがある」と回答しました（図2b）。年代別にデータを見てみると、年代が上がるにつれて「目にしたり耳にしたりしたことがある」と断言する割合は減少し、「あるかもしれないがはっきりしない」と回答する割合が増えてくる傾向が読み取れます（図2b）。

図2a：「ディープフェイクという用語を知っていますか」（単一回答：n=2,585）

図2b：「ディープフェイクと思われるものを、あなたご自身で目にしたり、耳にしたことがありますか。」年代別（単一回答：n=1,227）

悪用に遭ったうち5割以上がフェイクニュースやデマ情報に煽動された経験あり

また、アンケート対象者全体の1割強（14.6%）がディープフェイクの悪用に遭ったことがある^※ことが明らかになりました（図3a）。このデータは自身が「悪用に遭った」と認識している数になるため、気づかないうちに実際は接触しているというケースもまだまだあるかもしれません。年代別に見ると、オンライン上の情報への感度が高い10代～30代が高い割合を示しています。一方で40代と80代でも平均値より高い割合を示しており、一概に特定の幅の年代が接触しやすいとは言えない状況が伺えます。
※ディープフェイクに接触した事を意味し、実害の有無は示していません。

図3a：「あなたご自身がディープフェイクの悪用に遭ったことはありますか」　年代別（単一回答：n=2,585）

ディープフェイクの悪用に遭ったことがあると回答した14.6%にあたる377名を対象に、実際にどのようなケースに遭ったかをたずねたところ、「フェイクニュースやデマ情報に煽動される」（54.4%）が半数以上を占めることが明らかになりました（図3b）。日本でも特定の政治家の動画を基に偽の発言にすり替えた動画や、天災時の現地の被害状況と偽った偽画像が広く出回ったケースなどが世間で話題に上がりました。
年代別に見てみると、10代、20代といった若い世代では、「フェイクニュースやデマ情報に煽動される」、「偽サイトへの誘導広告」といった不特定多数に対しばらまかれた情報に接触したケースが多くを占めるのに対して、シニア層では「投資詐欺への誘導」（60代、70代）や「ロマンス詐欺への接触」（60代、80代）といった、より限定的なターゲットを対象とするソーシャルエンジニアリング的な手法が目立っています（図3c）。SNS型投資詐欺やロマンス詐欺は警察庁からも被害レポートが公開されており、昨年1年間を通して被害の発生は増加傾向であることが注意喚起されています。

図3b：「あなたご自身がディープフェイクの悪用に遭ったことはありますか。当てはまるものを全てお答えください。」（複数回答：n=377）

図3c：「あなたご自身がディープフェイクの悪用に遭ったことはありますか。当てはまるものを全てお答えください。」年代別（複数回答：n=377）

ディープフェイクの悪用に遭った回答者のうち2割以上が実質的な被害あり

ディープフェイクの悪用に遭ったことがあると回答した377名を対象に、実質的な被害^※をたずねたところ、約2割（23.6%）が被害を受けていることが分かりました（図4ab）。年代別に見ると、30代が一番多く、次いで40代、60代と続きます。更にデータを年代別・男女別で分析してみると、30代女性においては「ある」と回答した人が48.6%を占め、約半数が被害を受けていることが分かりました。
被害の内容として最も多くを占めたのが「フェイクニュースやデマ情報に煽動されショックを受ける」で、約半数にあたる46.1%があげています。
※金銭および心理的被害を示します。

図4a：「ディープフェイクの悪用により、あなたご自身が実質的被害を受けたことがありますか」年代別（単一回答：n=377）

図4b：「ディープフェイクの悪用により、あなたご自身が実質的被害を受けたことがありますか。当てはまるものを全てお答えください。」（複数回答：n=89）

ディープフェイクを見分けられると回答したのはわずか2％未満

アンケート対象者全体のわずか1.9%がディープフェイクを自身で「本物かどうか見分けられると思う」と回答した一方で、「分からない」（36.6%）、「おそらく見分けられないと思う」（31.8%）、「見分けられないと思う」（15.6%）と8割以上が情報の真偽の判断ができる自信がないことが分かりました（図5）。「見分けられると思う」と回答した割合を高い順に年代別で見ると、20代で3.4%、次いで30代が2.7%となりました。一方で40代以降から「見分けられると思う」、「おそらく見分けられると思う」と回答する人が大幅に減少していくことが明らかになりました。

図5：「ディープフェイクを、ご自身で本物かどうかを判断し見分けることができると思いますか。」年代別（単一回答：n=2,585）

この結果は、冒頭で紹介したディープフェイクによる詐欺事例が、国内の組織を対象として行われていた場合にも被害が発生していた可能性があることを示しています。多くの従業員にとって、ディープフェイクによる動画・画像などは現在かなり巧妙で判別できない可能性があるものと捉えられているということです。
セキュリティ担当者においては、フィッシングサイトなどにおいても同様ですが、本物そっくりに作られたコンテンツを介したサイバー攻撃の事例が存在するということをまずは周知するとともに、気を付けるべきポイントをまとめて従業員が攻撃に気づける可能性を高める取り組みが求められます。

今後AIの開発も更に進み、技術の進歩とともにディープフェイクを見分けることは、ますます困難になってくるのではないかと指摘する専門家もいます。本調査からも6割以上が動画や画像などを日常生活で参考にしている傾向が明らかになっています。偽情報が出回っていることを認識し、流れてくる情報をその場ですぐに鵜呑みにはせず、発信元の確認を行ったり、公共機関など信頼できる情報源から情報を取得したり、他の情報も合わせて取得し照合するなどの対応が大切です。

法人組織においては、万が一被害にあった場合には金銭的損失のほか、企業の信頼などにも影響を受けることになり兼ねない事を念頭に、経営層をはじめとする従業員への教育が重要となってきます。その際にはディープフェイクの存在とその悪用の可能性について従業員が理解し、リスクを認識した上で、冷静な判断の下に適切な行動をとれるようになることを目指す必要があります。そのためには組織内での情報の真偽に関するチェック機能や報告ルートの整備や定期的なセキュリティトレーニングの実施など常日頃からの取り組みが大切になってきます。

また、個人・法人のどちらにおいても技術的なソリューションを導入することで、ディープフェイクの検出精度を向上させることが可能です。「トレンドマイクロディープフェイクスキャン」（ベータ版）はビデオ通話中にディープフェイクの可能性を検出した場合、利用者に警告を表示して知らせます。

よりディープフェイクの精巧さが増す中で、こうした技術によってその脅威を防ぐことは今後主流な選択肢の一つとなるでしょう。

参考資料：
調査名：トレンドマイクロ「ディープフェイクに関する国内実態調査2024」
調査期間：2024年05月31日～2024年06月01日
調査対象：18歳以上の男女2,585名
調査方法：Web調査