フェイクニュースの影響について事例を交えて解説

公開日：2024年8月19日
更新日：2024年12月2日

現実社会に大きな影響をもたらすフェイクニュース

2024年7月29日、イギリスではイングランド北部のサウスポートにて、少女3人が刺殺される事件が発生しました。事件発生後、インターネット上では、この事件の犯人がイスラム教徒の移民が引き起こしたものだ、という反移民感情をあおるような誤情報が拡散されました。

この拡散を受けて、事件の翌日からイギリス各地で政府の移民政策などへの抗議活動が行われ、宗教施設にレンガを投げ込むなどの暴動に発展しました。イギリス当局によると本稿執筆時点で、全土で1,000人以上が逮捕されたことなどが報道されています。

この事件は、フェイクニュースがもたらした影響が雪だるま式に大きくなり、多くの人々の実生活にまで影響を及ぼした最たる事例の一つと言えるでしょう。

また、本事件が対岸の火事ではないことは多くの読者の方がすでに理解されているところでしょう。例えば日本が関連するような事件として、2022年8月には当時の防衛大臣を騙った偽postが投稿されました。これはさらに在英ロシア大使館が引用postを行うなど、一部のSNSユーザによって意図的に拡散されたことが報道されています。

日本の防衛大臣を騙ったSNSへの投稿リポスト（左、引用postは偽物）とそれを否定する本人の投稿（右、本物）

偽の投稿内容自体が不自然であったことから、この件の影響は限定的であったものの、明らかに印象操作（インフルエンスオペレーション）や影響力工作の目的を伴った活動であったことが伺えます。

他にも2023年5月には米国防総省、いわゆるペンタゴンの近くで大規模爆発が起きたような偽画像がSNS上に出回りました。この偽情報を多くの人が鵜呑みにし、市場が混乱した結果、ニューヨーク株式市場に一時80ドル近くの急落が発生するなどの事態に繋がりました。こちらもフェイクニュースが現実世界に影響をもたらした事例の一つです。

このようにSNSを中心に多くのフェイクニュースが作成・拡散され、混乱や暴動などに繋がる事象が今日多数発生しています。これは多くの組織が情報をビジネスの中で扱う上で、こうした情報を鵜呑みにせず、慎重に確認し取り扱う必要が生まれていることを示しています。本稿ではフェイクニュースに含まれる情報を分類しつつ、個人や組織に想定されるリスクや実施すべき対策をまとめます。

フェイクニュースの種類

フェイクニュースは総務省のネットリテラシー教材などにも記載の通り、いくつかの種類に分けることができます。それは①誤情報（mis-information）②偽情報（dis-information）③悪意のある情報（mal-information）の3つです。この3つを総称してMDM informationとも呼称されます。

MDM Information
MDM分類	Mis- 誤情報	Dis- 偽情報	Mal- 悪意のある情報
情報特性	虚偽だが害意はない	虚偽であり害意もある	虚偽ではないが害意がある
主な発信動機	正義感/好奇心	悪意	信念/理念
発信者プロファイリング	自分が目にした情報を真実だと思い込み（≒偽であることを疑わず）、皆が知るべき情報として拡散する。	偽情報の作成に何らかの形で関わり、作成/発信行動に明確な意図を持っている。首謀者または（本人の自覚にかかわらず）それに近い位置にいる。	情報発信への明確な意図があり、発信行為によって自身の信念や理念が強化される。対立信念に対する害意がある。

表：フェイクニュースに含まれる情報の区分（公開情報を元にトレンドマイクロが整理）

1つ目の誤情報は、いわゆる勘違いや誤認などによって発信された情報です。発信者はその情報を事実だと誤認しており、多くの場合、他者に対して良かれと思って（為になる、面白いなど）情報を共有します。つまり誤った情報であるものの他者を騙そう、誘導しようといった害意がありません。

実際の事例として2024年8月8日に南海トラフ地震の「臨時情報（巨大地震注意）」が発表されたことに伴って、SNS上に多数の地震予知情報が拡散されました。これに対し気象庁は地震予知情報がデマであることを明言しています。この事例では地震予知という偽の情報を真実であると誤認した人々が、さらに多くの人に注意を促す目的（善意）で誤情報を拡散しました。

本事例にも見られる通り、誤情報の発信者は、他の偽情報や悪意のある情報を自らの正義感に基づき流布します。これによって初めて誤情報を受け取る人にとって、元々の害意が見えづらくなる、または多くの人が言っているから真実であろう、とより真実味を高めるなどの効果をもたらす場合もあります。

----------
2024年12月2日追記

2024年11月には、福岡県の魅力を発信する目的で開設されたサイトにおいて、実在しない観光名所やご当地グルメが紹介されたことを毎日新聞が報じています。こちらも悪意はないものの、生成AIで作成された誤情報を十分に確認することなく広く公開してしまった事例です。

生成AIの普及に伴い、今後こうした悪意のない誤情報も頻繁に広まってしまう可能性があり、情報取得者においてはより情報の真偽について、敏感に検証を行う必要性が示唆されています。
----------

2つ目の偽情報は、なんらかの目的をもって意図的に作られた嘘の情報です。多くの場合、発信者は金銭的利益を得る為に注目を集めることや政治的な意図をもって印象を操作することなどを目的として情報を捏造し・拡散します。

冒頭で触れたイギリスにおける少女3人の刺殺事件の犯人がイギリス国外からの移民である、というものがまさにこの偽情報にあたり、事実に基づかない情報を駆使して反移民感情を煽っています。この情報を用いて移民は非人道的行為を行う可能性がある、という作為的な印象を多数の人々に植え付けることで、政治的な動きを誘導しています。

----------
2024年12月2日追記

9月末に米国で発生したハリケーン「ヘレン」の際には、びしょ濡れのペットを抱きしめる怯えた子供たちや、洪水の中を歩きながら救助活動にあたるドナルド・トランプ氏のディープフェイク画像が拡散されたことがForbes紙により報じられました。

こうした情報は災害対応というひっ迫した情報の精査が難しい状況下において、その活動を必要以上に複雑化するものです。その動機は単純ないたずらから、注目を集めて金銭獲得につなげようとする狙いや、政治的な思惑まで様々なものに関連する可能性があります。
----------

3つ目の悪意のある情報は、事実であるものの他者を害する情報です。多くの場合、発信者は情報を意図的に切り抜いて編集したり、他者を害する情報を暴露することなどによって、自身に対立する思想を持つ立場の人間を貶めたり、自身に同調する勢力の信条を強化します。

政治家の発言の悪意のある切り抜きなど、意図的に誤解を生み出すために本来の文脈から切り離された情報がこれに当てはまります。治安悪化や情勢の不安定化などの否定的な情報、事実を極端に誇張した・重要な詳細を省略したニュースなどもこちらに当てはまります。

偽情報によるリスク

偽情報が使用されることによって、特定の企業や組織に対して被害や不利益が発生することもあります。

例えば2023年8月に、中国のSNS上で「放射線の影響を受けている日本の化粧品リスト」という偽情報が拡散したことにより、日本の化粧品売上額が大きく減少したことなどが報じられています。

また、Web広告上に偽情報を入れることでクリックを誘導し、最終的にサポート詐欺に誘導する事例も確認しています。

----------
2024年12月2日追記

他にもフェイクニュースが個人の評判に関する直接的な悪影響をもたらすリスクがあります。2024年1月にはアメリカ合衆国のメリーランド州にあるボルチモアの学校の校長が人種差別的な発言をしている音声情報が拡散されたものの、その後生成AIによって作成された偽情報であることが判明したことについてBBC（英国放送協会）が報じています。

この事例では、偽情報が発覚した後も多くの人が偽情報であることを信じず、校長に対する殺害予告まで投稿されたことにより安全上の懸念から警察が介入する事態となりました。

1つのフェイクニュースが一個人に多大な影響をもたらした事例と言えます。
-----------

このように偽情報を用いられることによる複数のリスクが存在することを組織のリスク担当者は把握しておく必要があります。偽情報に関わる想定されるリスクについていくつか例示します。

・レピュテーションリスク
偽情報によって、自社に関わる事実と反する情報がまん延し、企業イメージが低下するリスクがあります。レピュテーションリスクは様々な影響をもたらします。株価の低下、長期的なブランドイメージの侵害による競争力低下、顧客および社員の離反などにつながる恐れがあります。

・金銭的リスク
日本の化粧品会社の売上が下がった事例のように、偽情報によって販売品そのものへのイメージが変容することにより、売り上げの低下などに結びつく可能性があります。他にも外食産業における偽の異物混入画像の流布など、深刻な顧客離れにつながる可能性があります。

・なりすましによる企業イメージ低下リスク
特定の企業の公式アカウントや従業員、役員などを装ったスパムメールの拡散やSNS上での事実と異なる投稿などが既に多く確認されています。類似ドメインによる偽サイトが立ち上がる場合もあり、自社の名前が騙られた上に被害が拡大することによって、自社イメージの低下につながる場合があります。

・詐欺被害発生リスク
自社の従業員が偽情報を使用した詐欺の被害を受ける可能性があります。上記に示したような不正広告やディープフェイク動画などを使用した送金詐欺といった事例が既に確認されています。他にも偽情報を使用したフィッシングやソーシャルエンジニアリング攻撃などの被害リスクがあります。

このように複数のリスクが考えられ、これらは相互に影響し合いながら同時に発生します。こうしたリスクが存在することを前提に、組織は事実に基づかない情報が意図せず拡散された場合の対応方針を事前に決めておき、何かあった際にはすぐに対応を開始する必要があります（具体的な対策は後述します）。

フェイクニュースへの対策

フェイクニュースへの対策として行うべき事項を個人と組織に分類して記載します。

個人的な対策としては次が挙げられます。

・取得する情報がニュース記事の場合、見出しだけで判断せず、内容をよく読む
・1つの媒体における情報だけで判断せず、別のメディアでの報道内容等をチェックする
・取得した情報において使用されている外部リンクや情報源を精査し、他の偽情報が使用されていないか確認する
・情報の1次情報源や掲載場所、掲載時期などを確認する
・情報に使用されている画像を相互参照し、修正されていないか確認する
・SNS上で記事を広めようとするコメントなどがある場合、その整合性を確認する（投稿者のプロフィールに不審な点はないか、同じコメントが何度も投稿されていないか、複数の類似する投稿の時間間隔があまりにも短くないか、など）

次に組織的な対策としては次が挙げられます。

・フェイクニュースによって自社に発生するリスクを棚卸し、対応方針を事前に定める
・事実に反する誤った情報やなりすまし、意図的な切り抜きなど、自社名称やロゴ、ブランドを使用した情報についてインターネット空間を監視する
・発信されたフェイクニュースに対する事実情報の確認と、証拠の保全を行う
・事実に反する、誤解を招く情報の発信者を特定し、場合によっては確認をとり、事実に基づく説明と情報の削除を依頼する（なお発信者への確認自体がリスクになる場合もあるため、対応は慎重に判断する）
・プレスリリース等で自社の見解を示す
・SNSなどにおいて事実に反する内容を発見した場合には、ソーシャルメディア企業や通信プロバイダなどの通報窓口に連絡し、削除を依頼する
・偽情報を使用した詐欺事例について、従業員に情報共有または教育を行う

生成AI技術の台頭によって、巧妙な偽情報は今日より手軽に作成できるようになっています。またそれらを意図的に拡散する技術も進歩してきていることから、フェイクニュースによるリスクが日に日に上昇している事実を組織や個人が認識し、対策を施していく必要があります。

トレンドマイクロでは、ディープフェイクにより作成された動画を検出する技術などを採用していますが、対策としてこうした偽情報を技術的に検知する手法を取り入れることも有効な手立ての一つと言えるでしょう。