概要版

Innovation Nippon 2024
偽・誤情報、ファクトチェック、教育啓発に関する調査研究2024年4月
国際大学グローバル・コミュニケーション・センター
報告書URL：https://www.glocom.ac.jp/activities/project/9439

目次
1. 調査概要・・・・・・・・・・・・・・・・・・・・・・・・・・３
2. 研究から導かれる提言・・・・・・・・・・・・・・・・・・・・６

3. 偽・誤情報の真偽判断・拡散行動の実態・・・・・・・・・・・１２
4. 情報検証行動・媒体への信頼の実態・・・・・・・・・・・・・２１
5. 知識・啓発・・・・・・・・・・・・・・・・・・・・・・・・２７
6. ファクトチェック・・・・・・・・・・・・・・・・・・・・・３２
7. インタビュー調査結果・・・・・・・・・・・・・・・・・・・３９
8. 偽・誤情報に関する近年の政策的動向・・・・・・・・・・・・４１
9. 生成AIが偽・誤情報問題にもたらすインパクト・・・・・・・・４３
10. 付録・・・・・・・・・・・・・・・・・・・・・・・・・・・４７
2

調査概要

1

3

本調査研究の目的

調査研究手法• インターネットとSNSの普及により、一人ひとりが自由に情報を取得・発信することが可能となり、人類総メディア時代となった。この変化は多くの利点をもたらたが、同時に新たな問題も引き起こしている。特に、偽・誤情報が広く拡散される問題は、社会全体に深刻な影響を与えている。偽・誤情報は、政治、経済、
公衆衛生など、社会のあらゆる分野で混乱を引き起こし、個人の判断や行動を誤らせる可能性がある。また、フェイクニュースは
社会的な対立を深刻化させ、コミュニティの結束を弱めることもある。
• その対抗手段の１つとして、ファクトチェックと教育啓発の重要性が世界中で高まっている。ファクトチェックは、公平かつ客観的に情報の正確性を評価することで、偽・誤情報の拡散を防ぎ、公的議論の質を高めることを目指している。また、教育啓発の促
進は、人々の偽・誤情報に対する免疫力を高める。しかし、ファクトチェックがどの程度効果的であるか、どのような形態であれば人々により届きやすいのか、人々はどのような情報源を信頼しているのか、人々は信頼できる情報にアクセスするためにどのような行動をしているのか、教育啓発にどのような効果があるのか、ファクトチェッカー養成に必要なスキル・手段は何かなど、本分野における実態の調査、及び、エビデンスベースの適切な改善策の提案はほとんどなされていないのが現状である。
• このような背景から、本調査研究では、偽・誤情報、ファクト
チェック、教育啓発といったテーマで実証研究を行う。本調査研
究によって、情報の信頼性と情報環境の質を向上させるための適切な施策や、ファクトチェッカー養成講座開発、教育啓発プログ
ラムの開発などに重要な知見を、エビデンスベースで提供する。

1. 文献調査
2. スクリーニング調査20,000件、本調査5,000名を対象としたアンケート調査分析（アンケート調査に用いた偽・誤情報については付録を参照）
3. 偽・誤情報を信じたことがあるが、現在は情報検証行動をしている人5名を対象としたインタビュー調査
4. 有識者会議

本調査研究で明らかにすること
1. 偽・誤情報の接触や真偽判断の実態
2. 偽・誤情報真偽判断行動に対して影響を与えている要素
3. 偽・誤情報の拡散の実態
4. 偽・誤情報に対する自己防衛策・情報検証行動・信頼できる情報へのアクセス実態
5. 偽・誤情報に関する認知のプロセス
6. ファクトチェック認知度やファクトチェックを期待する媒体
7. ファクトチェック優先度に対する人々の考え方
8. ファクトチェックの効果、効果の媒体による違い
9. 世界におけるファクトチェッカー養成講座
10. 世界におけるファクトチェック手法
11. リテラシーやクリティカルシンキングの実態
12. 偽・誤情報関連の啓発講座受講経験の実態
13. 偽・誤情報や情報検証行動の啓発について、効果的な手法の特定
14. 現在における偽・誤情報とファクトチェック手法の動向
15. 世界における偽・誤情報関連の政策動向
4

アンケート調査分析の概要••

インタビュー調査の概要

調査は2024年2月1日～2月5日で実施し、予備調査は20,000
件、本調査は5,000件の有効回答を回収した。尚、予備調査については母集団を日本全国に居住の者とし、性年代別の人
口に応じて割付を行って取得した。
本調査では、予備調査回答者の中から、提示した15個の偽・誤情報について、いずれか1つ以上を見聞きしたことのある
人を3,700名、いずれも見聞きしたことのない人を1,300名、合計5,000件のサンプルを回収した。
図表1.1
年齢

予備調査サンプルサイズ
男性

女性

図表1.2

合計

年齢

本調査サンプルサイズ
男性

女性

合計

15～19歳

697

660

1357

15～19歳

174

183

357

20～24歳

788

744

1532

20～24歳

173

196

369

25～29歳

820

776

1596

25～29歳

216

236

452

30～34歳

803

761

1564

30～34歳

155

96

251

35～39歳

882

847

1729

35～39歳

249

143

392

40～44歳

965

938

1903

40～44歳

166

188

354

45～49歳

1130

1101

2231

45～49歳

269

227

496

50～54歳

1204

1182

2386

50～54歳

341

346

687

55～59歳

1024

1024

2048

55～59歳

273

254

527

60～64歳

916

933

1849

60～64歳

286

234

520

65～69歳

879

926

1805

65～69歳

301

294

595

10108

9892

20000

合計

2603

2397

5000

合計

•

10,000名強のスクリーニング調査を実施し、過去に偽・誤情報を誤って共有した経験を持つが、現在は情報検証を行っている対象者を絞り込み、5名の個人を対象に半構造化インタ
ビュー調査を行った。 調査は2024年2月に実施した。
インタビューでは、偽・誤情報の受容および共有の経験、
偽・誤情報に気づいたきっかけ、ファクトチェックサイトを認知したきっかけ、ファクトチェックサイトの利用実態、普段行っている情報検証行動を定性的に調査した。

•

図表1.3

インタビュー対象者

id

性別

年齢

居住地

婚姻有無

共有した偽・誤情報の内容

A

男性

38

熊本県

既婚

中国・韓国に関する情報

B

女性

27

佐賀県

未婚

中国、ロシア・ウクライナ関連、芸
能ニュース

C

男性

64

徳島県

既婚

大手デパートの買収などに関連した
ニュース

D

男性

28

東京都

未婚

新型コロナ感染症予防のためのマスク
の有効性

E

男性

48

広島県

既婚

2020年米国大統領選挙、投資情報

5研究から導かれる提言

2

6

１．わが国においても偽・誤情報は大きな悪影響をもたらしており、対策の更なる推進が不可欠• 偽・誤情報を見聞きしている人は全体で37.0%と多い（図表3.2）。
• 偽・誤情報の真偽判断において、誤っていると気づいている人はどの年代でも10%台と殆どいない（図表3.4）。この調査結果は2019年度の調査から一貫してほとんど変わっておらず、改善がみられていない。
• 「誤情報があるかもしれない」と思いながらニュースの見出しを見ると、約18秒も気になる見出しを選ぶのにかかる時間が増加した。これが偽・誤情報があることのコストといえる。（図表4.6）
 政治的な偽・誤情報は弱い支持層の考え方を変えやすく、選挙に影響を与える可能性も示唆されており*、偽・誤情報に脆弱なこの状況に対して引き続き対策が必要である。
２．適切な情報検証の啓発と、情報検証行動を後押しするような機能の開発・実装• 偽・誤情報を誤っていると気づく経緯として、自ら考えて気づいたものや理由がないといったものを除くと「情報源が不明確なことに気づいたから」が21.7%と最も多い（図表3.7）。
• 情報が正しいか検証する際の行動として、「画像がある場合に、画像検索をする」人と、「リンク先の内容を確認して情報の出典を検証している」人は、偽・誤情報を誤っていると気づきやすい傾向にある（図表3.8）。
• しかしこれらを実践できている人は少なく、画像検索をしている人は6.7%、リンク先の内容を確認している人は9.3%に留まる（図表4.1）。
• 「SNSやコメント欄で他の人の意見や反応を読む」を選択している人、SNSを情報媒体として信頼している人は、むしろ偽・誤情報を誤っていると気づきにくい傾向にある（図表3.8）。
• 有識者会議では、媒体の客観的な信頼度を可視化する方法として、媒体自身やそこに掲載された情報の特性を表示するような取り組みが有効な可能性があると指摘された**。
 情報の真偽を検証する際には、その情報源を調べること、そして掲載されているリンク先まで内容を確認すること、画像がある場合には画像検索を行うなどの情報検証行
動の啓発が重要である。一方、情報を検証するためにSNSなどで他の人の意見を調べることの危険性やSNSを情報媒体として信頼しすぎることの危険性も啓発する必要がある。
 媒体の客観的な信頼度を可視化する方法として、媒体自身やそこに掲載された情報の特性を表示するような取り組みが有効な可能性がある。
 プラットフォーム側の対策として、記事や投稿に掲載されたリンク先を押したくなるような仕掛け（X（旧Twitter）が行っていた、リンク先を読まずにリポストしようとするとアラートが出る機能など）、画像検索を行いやすくするシステム（Google Chromeのように、インターネットブラウザ上で画像を右クリックすることで画像検索ができる等）が有効だと考えられる。
 本調査研究は日頃から行っている情報検証行動についての調査であり、有効な情報検証行動の特定について引き続き詳細な分析を行っていく必要がある。
* 山口真一（2022）『ソーシャルメディア解体全書: フェイクニュース・ネット炎上・情報の偏り』、勁草書房** 特性の表示とは、共同提言「健全な言論プラットフォームに向けて ver2.0―情報的健康を、実装へ（https://www.kgri.keio.ac.jp/docs/S0120230529.pdf）」で書かれているコンテンツ・カテゴリーの公表（情報成分表示）のようなものを指す。
7

３．感情を揺さぶられるような情報の危険性の啓発と、そのような情報に気づかせる機能の開発・実装• 偽・誤情報を正しい情報だと信じた時には「怒りを感じた」（31.0%）、「不安を感じた」（25.2%）と、感情を揺さぶられるようなものが多い（図表3.5）。
• 偽・誤情報を誤っていると気づかないままに拡散した理由においても、「情報が興味深いと思ったため」（30.0%）、「重要だと感じた」（29.2%）といった情報に価値を感じたような感想に次いで、3位に「情報に怒りや不安を感じ、それを表現したかったため」（23.3%）が選ばれている（図表3.13）。
 偽・誤情報を誤っていると気づかぬままに拡散してしまうことを防ぐためには、感情を揺さぶられるような情報にこそ注意するべきであると啓発することが重要である。
 技術的な観点からも、過剰に人々の感情を揺さぶるようなワードを使っている記事や投稿にフラグを立てるような技術等、上手く人々に気づかせる仕掛けが有効な可能性がある。
４．直接の会話による偽・誤情報の拡散にも注意するように啓発• 偽・誤情報を見聞きした後で情報を拡散した人の割合は、全体で17.3％（図表3.9）。
• 拡散手段としては「家族・友人・知人などに直接の会話で情報を共有した」（48.1%）が最多であり、「SNSでシェア・リポスト・再投稿などの方法で情報を共有した」（27.0%）が2番目に多い（図表3.11）。
• 媒体に対する信頼度では、全体で最も信頼度得点が高いとされた媒体はマスメディアの3.77を抑えて「家族・友人・知人との直接の会話」の3.78だった（図表4.9）。
 SNSだけでなく直接の会話での拡散にも注意する必要があること、周囲の人との会話にも誤った情報が含まれている可能性があることの啓発が求められる。
 偽・誤情報の拡散への対策を講じる際には、インターネットだけでなく口伝も考慮した情報の生態系全体での対策を考えることが重要である。
５．インターネット上の情報や偽・誤情報に関する啓発（メディア情報リテラシー教育）を、インターネット上の動画などの需要のある方法で推進• 啓発の形態としては、「インターネット上の動画」（28.1%）、「インターネット上のショート動画」（20.2%）、「テレビや本、パンフレット」（22.3%）のニーズが高かった（図表5.6）。
• オンライン、オフライン問わず講座のような形式は好まれなていなかった。また、参加者が事実検証を実際に行うようなワークショップは4.1%と最もニーズが低い（図表5.6）。
• 啓発経験のある人は情報検証行動を行う傾向が顕著にあり、「通常、情報が正しいか確かめることはしない」と回答をしている人はどの分野の啓発であっても8%台に収まっている。つまり、啓発経験のある人の中で9割以上は何らかの情報検証行動を行っていることが明らかになっている（図表5.5）。
• メディアリテラシーが高い人、情報リテラシーが高い人、批判的思考スコアが高い人は、偽・誤情報を拡散しにくい傾向だった。特に、メディアリテラシーの効果は顕著であった。他方、批判的思考態度（自己申告）が高い人ほど、偽・誤情報を誤っていると気づきにくく、拡散しやすい傾向が見られた（図表3.8）。
 インターネット上の動画などの需要の大きな手法を通じてマスに対して啓発を推進していくことが求められる。
 メディアあるいはメディアメッセージを読み解く能力（メディアリテラシー）、情報を正確に読み解く能力（情報リテラシー）、自分の推論過程を意識的に吟味する再帰的な思考（批判的思考）を高める、メディア情報リテラシー教育の充実が、偽・誤情報の拡散を防ぐ。
 啓発の際には、人々が「自分は批判的思考ができる」と考えて自信を持ってしまうことを避けるような設計が求められる。
8

６．わが国におけるファクトチェッカー養成講座の作成とファクトチェッカーの育成が必要• 海外にはすでに体系だったファクトチェッカー養成講座が存在している。ファクトチェッカー要請講座には、PoynterやAFP FactCheckのように無料で公表しているもの、Full FactやFactCheckNIのように有料のコースとなっているものがある（図表6.9）。
 ファクトチェックを行える人材を増やすためには、海外のファクトチェッカー養成講座の内容を参照しつつ、日本独自の形式での講座制作が必要である。啓発形態として好まれる動画を活用するなども有効だろう。
７．ファクトチェックは効果が高いため、ファクトチェックを支援する技術の開発推進、ファクトチェック結果を優先的に表示する工夫等が求められる• ファクトチェックサイトの利用率は低く、列挙されたファクトチェックサイトのうちいずれか一つを見たことがある人は8.9%しかいない（図表6.1）。特に高齢者で少なく、50代及び60代のファクトチェックサイト閲覧経験が1割を下回っている（図表6.2）。
• 「確証バイアス」や「エコーチェンバー」などの、偽・誤情報関連の重要な用語認知率も1～2割程度と高くない（図表5.1）。
• 一方、ファクトチェックは十分に人々の考えを変える効果があることも明らかとなっており、実証実験ではファクトチェック記事を読む前には真偽判断ができなかった人の約半数が考えを改めた（図表6.7）。
• 検索の結果表示されたファクトチェック結果は見られる傾向にあった。したがって、検索エンジンでのキーワード検索結果一覧の上位にファクトチェックサイトを表示されるようにする工夫や、プッシュ通知を利用したファクトチェックへの誘導などは有効であることが示唆された（第7章）。
• ファクトチェック手法は、検証対象となる言説のデータを収集する時点で、消費者・読者からの投稿・申立の他に、ファクトチェック機関の担当者による継続的なメディ
アやSNSの監視などの労力がかかることが一般的である。その中で、自動的にマスメディアやプラットフォームから情報収集を行うツールを活用している事例もある（図表6.8）。
 ファクトチェックを推進していくとともに、ファクトチェックサイトの存在をより多くの人に知ってもらう必要がある。
 現在Google*やMeta**が主に海外で取り組んでいるように、SNSや検索サービスなどでファクトチェック結果を優先的に表示する等の、技術的な取り組みによってファク
トチェック結果をより多くの人に届ける工夫も効果的と考えられる。
 ファクトチェックを効率的に行うために、ファクトチェックに関連するツールの開発・実装の支援を進めることも重要である。
* 例えばGoogleでは、検索に関連する主張について、あるサイトがファクトチェックを実施済みの場合、検索結果にファクトチェック概要等を含んだボックスが検索結果に表示され、サムネイル上にファクトチェック済みであることを示すラベルが表示されたりすることがある（https://support.google.com/websearch/answer/7315336?hl=ja）。ただし2024年2月現在ではこの取り組みについて日本のファクト
チェック組織との連携がない。
** MetaはFacebookとInstagramにおいて、連携しているファクトチェック組織において審査されたコンテンツにラベルを付け、利用者が追加の背景情報を閲覧できるようにしている（https://www.facebook.com/business/help/2593586717571940）。ラベルが付けられたコンテンツをシェアしようとする利用者や、過去にシェアした利用者にも通知される。しかし2024年2月現在、日本のファクトチェック組織でファクトチェックパートナーとなっている組織はない。

9

８．災害、医療・健康、政治についてのファクトチェックを優先的に行う• ファクトチェック優先度について、生活者の評価としては最も優先してファクトチェックをするべきだとして選ばれたカテゴリは「災害に関すること」の1.34点、次いで「医療・健康に関すること」の0.88点、3番目は「国内政治に関すること（選挙期間以外）」の0.58点であった。人命に関する災害や医療・健康に関する内容が最も重視されており、政治や紛争に関してはその次となっている（図表6.5）。
• Innovation Nippon 2021で有識者にヒアリングした結果との比較では、有識者も災害と医療の分野の優先度を高くしていたことに加え、その他の分野についてもおおむね一致している。一方で、国内政治で選挙期間以外の優先度の方が高いのは生活者の評価の特徴であった。政治に関しては有事に限らず平時にもファクトチェックを行う必要があるという思想が表れているとも考えられる（図表6.5）。
 ファクトチェックを行うリソースは限られており、その中で優先度を考慮するならば、災害、医療・健康、政治分野（選挙期間中・期間外共に）に関する情報のファクトチェックを優先的に行うことが求められている。
９．マスメディアによるファクトチェックへの参加が期待され、それを促すインセンティブ設計も必要• ファクトチェックを期待する媒体としては、「テレビ新聞企業」（32.6%）とマスメディア、とりわけテレビや新聞の企業に対する期待が大きい（図表6.3）。
• 「公的機関」も35.0%と期待が大きい（図表6.3）が、政治に関連する偽・誤情報についてはリスクがある。政府にとって都合の悪い場合に「誤り」であるというレッテルを貼り、批判を封じ込めてしまう可能性があるからである。一方、災害や医療・健康分野に関する情報のファクトチェック実施は評価できるだろう。
• 実証実験の結果、適切に真偽判定を行えた人の割合の大きさは、「マスメディア＞バズフィードジャパン＞政府」となっており、ファクトチェックの効果もマスメディアが最も高いことが示された（図表6.7）。
 マスメディアのファクトチェックへの積極的参入を期待したい。
 NHK以外は民間企業としての判断になるため、ファクトチェックをプラットフォーム上で優先的に表示するなど、参入に関するインセンティブ設計も重要になる。

10

１０．生成AIが偽・誤情報環境に与える影響を詳細に調査したうえで、適切な対策方法を検討・開発・実装していく• 既に生成AIが偽・誤情報問題に様々な関与をしており、「政治家を使った実際にはない発言を作成・拡散することで、社会的混乱が生じている」「選挙妨害を目的とした生成動画・画像が日々、大量に発生している」「既存メディアの体裁を装った生成動画によって、既存メディアへの不信が起こっている」「著名人の容姿を利用した性的・わいせつな動画による社会的混乱が起こっている」「気軽に動画や画像を偽造している事例も少なくない」などが指摘されている（生成AI調査結果①）。
• 将来的に生成AIによって引き起こされる問題として、「ディープフェイクや生成AIは、公共の討論、選挙、民主的機関の正当性、市民および政治家の権力など、民主主義に損害を与える可能性がある」「ディープフェイクによる誤情報は、情報空間の劣化や市民の信頼や民主的プロセスへの信頼を損ねる可能性を持つ」「ディープフェイク
がオンラインコンテンツの大部分を占め、政府への信頼を侵食し、分極化と過激主義を増加させるリスクもある」「AIが生成した誤情報に対する懸念は、報道等の社会システムへの信頼をさらに損なう可能性がある」などと指摘されている（生成AI調査結果②）。
• 一方対策として、「生成AIによる情報操作はますます実際の人間の出力に似るようになり、AIに基づく検出方法が必要になる」「生成AIは偽・誤情報に対抗するためにも使用でき、設計が優れ、人間の監督下にあるAIシステムはファクトチェッカーがより迅速に作業することを助けることができる」「AIは人間の検閲者や未熟な技術では不可能な速度と規模で、コンテンツを削除するために使用され得る」といったAIを使った対処の重要性や、「今後、報道等でディープフェイクとは何か、ディープフェイクの可能性とは何か、そしてディープフェイクの現在の能力や今後の進化などについて、人々を教育することに重点を置く必要がある」「市民はAIによるコンテンツの存在と真偽を確認する方法を認識する必要がある。生成AIの進化に伴い、メディアリテラシー教育も新しい展開が求められ、生成AIの使用における倫理面に焦点を当てた教材の開発が重要である」などのリテラシー教育啓発の重要性が指摘されている（生成AI調査結果③）。
• 「AI生成テキストの検出ツールは主に英語に特化している」という課題が指摘されている（生成AI調査結果②）。
 生成AIは偽・誤情報問題を悪化させ、既に様々な問題が起こっているだけでなく、将来的にもその問題は拡大していき、社会的混乱や民主主義の危機、報道などへの社会システムへの不信感醸成などをもたらすと指摘されており、対策は急務である。また、どのような問題が発生しているのか、実態調査を重ねていくことも求められる。
 生成AIの偽・誤情報問題への対策としては、AIによる技術的対抗が欠かせないため、生成AIかどうかを判断する技術の開発・発展などが求められる。また、生成AIによって作成されたテキストの検出技術として英語に特化しているものも多く、日本語に特化したモデル・サービスの開発も重要である。
 生成AIの進化に伴い、時代に合ったメディア情報リテラシー教育を推進していくことが重要である。

11

偽・誤情報の真偽判断・
拡散行動の実態（報告書第2章～第5章）

3

12

偽・誤情報接触者•

国内で2022年～2023年にかけて実際に拡散した偽・誤情報15件について、多様性（18.5%）、政治：リベラル有利（18.1%）で1
つ以上見聞きした割合が特に高い（図表3.1）。

•

年代別には、10代や20代と、50代や60代の見聞きしている割合が高いU字型となっている（図表3.2）。

図表3.1

偽・誤情報を1つ以上見聞きした人の割合（分野別）*

図表3.2

偽・誤情報を1つ以上見聞きした人の割合（年代別）* 各情報に対する回答について、分野ごとに情報を見聞きした人の数に応じた加重平均値を算出している。以下、このようなグラフ全てにおいて、適切な分母に応じた加重平均で算出
している。

13

偽・誤情報の真偽判断結果•

各偽・誤情報の真偽判断結果について加重平均値を取ると、全体で「正しい情報だと思う」と回答した人の割合は51.5%と、大半の人が偽・誤情報を信じている。一方で、「誤っていると思う」と回答されている割合は14.5%であり、偽・誤情報だと気づいている割合は低い（図表3.3）。

•

分野別に見ても全体の傾向と大きな違いはなく、「正しい情報だと思う」と回答した人の割合は4～6割となっている（図表3.3）。

•

年代別に見ても、真偽判断に違いや傾向はあまりなく、どの年代にもかかわる問題といえる（図表3.4）。

図表3.3

偽・誤情報の真偽判断結果（分野別）

図表3.4

偽・誤情報の真偽判断結果（年代別）

14

偽・誤情報を信じてどう感じたか•

各偽・誤情報についてその情報を正しい情報だと思っている人を分母に、信じてどう感じたかの調査したところ、怒り（31.0%）や不安（25.2%）といった負の感情が生起されることが明らかとなった（図表3.5）。

•

分野別には、政治分野の特に保守有利の偽・誤情報に関して、怒りを感じる人が半数以上、批判的な感情を強めた人も2割近くいた。一方で、「医療・健康」や「戦争・紛争」といった人命や安全にかかわる内容では、不安を感じた人が多い（図表3.6）。

図表3.5

偽・誤情報を信じて感じたこと・考えたこと

図表3.6

偽・誤情報を信じて感じたこと・考えたこと（分野別）

15

偽・誤情報を誤っていると気づいたきっかけ•

偽・誤情報を誤った情報だと気づいている人を分母に、誤っていると気づいたきっかけを調査した結果、よく考えたらおかしいと思ったから（27.3%）が最多であり、次いで特に理由はない・何となく（24.9%）、情報源が不明確なことに気づいたから（21.7%）となった。

•

この3つの選択肢が突出して大きく、自分自身の考えによって誤っていると考えている人が多いことがわかる。

図表3.7

偽・誤情報を誤っていると気づいたきっかけ
16

偽・誤情報真偽判断と拡散行動の決定要因•

偽・誤情報の真偽判断行動と拡散行動について、回帰分析によって傾向を明らかにした。結果の概要は図表3.8のとおり。
図表3.8

偽・誤情報の真偽判断行動・拡散行動分析結果

変数分類

真偽判断行動分析の結果概要• 情報を正しいと判断していると偽・誤情報を最も拡散しやすい傾向。
• 情報を誤っていると判断していても、判断を留保しているよりは偽・誤情報を拡散しやすい傾向。

真偽判断

リテラシー

拡散行動分析の結果概要• 批判的思考態度（自己申告）が高い人ほど、偽・誤情報を誤っている •と気づきにくい傾向。
• メディアリテラシー、情報リテラシー、批判的思考スコアは、偽・誤情報の真偽判断に有意な影響がない。
•

メディアリテラシー、情報リテラシー、批判的思考スコアが高い人ほど、偽・誤情報を拡散しにくい傾向。特にメディアリテラシーの効果は顕著。
批判的思考態度（自己申告）が高い人ほど、偽・誤情報を拡散しやすい傾向。

日 頃 行 っ て い • 画像検索をする人と、リンク先の内容を確認して情報の出典を検証しる情報検証行ている人は、偽・誤情報を誤っていると気づく傾向。
動• SNSやコメント欄で他の人の意見や反応を読んでいる人は、むしろ偽・誤情報を誤っていると気づきにくい傾向。
媒体信頼度• テレビ・新聞以外のマスメディアを信頼している人は、偽・誤情報を誤っていると気づく傾向。
• SNSやネットニュースを信頼している人は、偽・誤情報を誤っていると気づきにくい傾向。

媒体利用状況

• ファクトチェックサイトを利用している人は、偽・誤情報を誤ってい •ると気づく傾向。
• その他の媒体の利用時間は偽・誤情報の真偽判断に有意な影響がない。
•

属性• 情報・ニュースへの関心が高いほど、偽・誤情報を誤っていると気づ • 情報・ニュースへの関心が高い、政治的に極端であるほど偽・誤情報く傾向。
を拡散しやすい傾向。
• 女性であると、偽・誤情報を誤っていると気づきにくい傾向。
• 女性、学歴が大卒以上であると、偽・誤情報を拡散しにくい傾向。

SNS、ネットニュース、メッセージアプリ、個人のウェブサイトやブログの閲覧が長い人、ファクトチェックサイトを閲覧している人は、
偽・誤情報を拡散しやすい傾向。
テレビ・新聞の利用時間が長い人は偽・誤情報を拡散しにくい傾向。

17

偽・誤情報を見聞きした後で拡散する行動•

偽・誤情報を見聞きした後で、何らかの手段を用いて他の人に情報を伝えた（拡散した）*人の割合は図表3.9と図表3.10のとおり。全体では17.3%の人が、何らかの手段を用いて拡散している（図表3.9）。

•

最も拡散されていた分野は医療 ・健康（23.8%）であり、次いで政治：リベラル有利 （19.0%）、3番目に政治：保守有利（17.6%）であった（図表3.9）。

•

年代別には、若い人が情報を拡散している傾向にあることが明らかとなっている（図表3.10）。

図表3.9

偽・誤情報を見聞きした後で拡散した人の割合（分野別）

図表3.10

偽・誤情報を見聞きした後で拡散した人の割合（年代別）* 次ページ図表3.11の各項目のいずれかを行っていれば「拡散した」とした。
18

偽・誤情報の拡散手段•

拡散を行った情報について、どのような手段で情報を拡散しているのかの集計を行った結果、ほぼ半数（48.1％）が家族・友人・知人との直接の会話で情報を拡散していた（図表3.11）。

•

年代別には、30代、50代、60代の3つの年代では家族・友人・知人との直接の会話で情報を共有したケースが50%を超えている。
一方、10代、20代、40代ではSNSでのシェアやいいねが、直接の会話と同程度の割合になる傾向にある（図表3.12）。

図表3.11

偽・誤情報の拡散手段

図表3.12

偽・誤情報の拡散手段（年代別）
19

偽・誤情報の拡散理由•

偽・誤情報を誤っていると気づかずに拡散した理由として最も多く選択されたのは「情報が興味深いと思ったため」の30.0%であり、次いで「情報が重要だと感じたため」の29.2%、3番目に「情報に怒りや不安を感じ、それを表現したかったため」の23.3%だった。

図表3.13

偽・誤情報を誤っていると気づかずに拡散した理由20

情報検証行動・媒体への信頼の実態（報告書第6章）

4

21

情報検証行動の傾向•

情報・ニュースに接触して正しいかどうか確かめようとしたとき、日ごろどのような行動をしているかについては、発信主体の確認（43.7%）、関連するキーワードでのネット検索（39.3%）、情報の発信日時や更新履歴から最新情報かどうかを判断するの（21.9%）といった、接触した情報そのものから簡単にできる内容が上位に挙げられている。（図表4.1） 。

•

年代が低くなるほど検証行動の頻度も上がる傾向にある（図表4.2）。

図表4.1

情報・ニュースが正しいかどうか確かめようとした時にする行動

図表4.2 関心のある情報・ニュースに対して情報検証を行う頻度（年代別）22

情報を検証するタイミング•

どのようなときに情報検証行動を行うのかを調査した結果、偏っていると思う時（59.8％）や出典が不明確（43.9％）、あるいは非現実的（42.4％）といった、情報の質そのものに疑念を感じたときが上位に挙げられている（図表4.3）。

•

年代別にも違いが見られ、10代は情報の表現の仕方や自分の意見との差異を感じた時、30代は全体と似た傾向で情報の質に疑念を感じた時、60代は他の信頼できる情報と異なるときに検証を行っていることがわかる（図表4.4）。

図表4.3

情報検証行動をとるのはどのような時か

図表4.4

情報検証行動をとるのはどのような時か（年代別）
23

情報検証にかかる時間•

情報・ニュースに接触した際にその正しさを高めるための検証行動について、生活者はどの程度の時間的コストを支払っているのかを、1日当たりの分数として調査した。全体としては、10代が13.3分と最も長く、次いで20代（13.2分）と60代（12.4分）が長
く時間をかけている傾向にある。SNSについては10代と20代が長く、テレビについては60代が最も長い（図表4.5）。

•

誤情報が存在することによる人々の認知コストを分析するために行った実証実験の結果、最も気になる見出しを5つの中から選択する時間は、誤情報があると伝えられていたグループはそうでないグループよりも18秒長くかかっていた（図表4.6）。

図表4.5

情報の検証にかかる時間（年代別）

図表4.6

最も気になる見出しを選択するのにかかる時間
24信頼できる情報にアクセスする工夫•

信頼できる情報にアクセスするために行っている工夫について、マスメディアなどのニュースソースを用いている人が2割～4割い
るほか、政府・自治体などの公的情報（30.9％）も信頼できる情報として認知されていることがわかる。一方で、専門家や専門機関の情報（17.7％）、ファクトチェックサイト（3.6％）の利用率は低い（図表4.7）。

•

年代別には、10代に近づくにつれて何らかの工夫をしている割合が大きくなっている。特に10代は公的機関や信頼できるマスメ
ディアを利用しており、一方で60代は特定の信頼できるマスメディアを利用する傾向が強い（図表4.8）。

図表4.7

信頼できる情報にアクセスする工夫

図表4.8

信頼できる情報にアクセスする工夫（年代別）
25

媒体への信頼•各媒体に対する信頼傾向について、わからないと回答した人を除き、「非常に信頼している：6点」～「全く信頼していない：1点」とし、年代別の平均を計算した結果が図表4.9である。全体で最も信頼度得点が高いとされた媒体はテレビ・新聞（ネット版を含む）の3.77点を抑え、家族・友人・知人との直接の会話の3.78点であった。

•

年代別には、マスメディア・ネットニュースと家族・友人・知人との直接の会話では、30代と40代の信頼度が低いU字型のグラフとなっている。一方、その他の媒体に関しては年代が上がるにつれて信頼度が下落している。

図表4.9

媒体への信頼度（年代別）
26

知識・啓発（報告書第7章）

5

27

関連用語の認知度•

偽・誤情報関連の重要な用語の認知度を尋ねた結果、フェイクニュースと偽・誤情報についてはどちらも8割以上の人が「名前を聞いたことがある」以上であった。一方で、その他の言葉については認知度が低く、偽・誤情報の対策であるファクトチェックについては5割程度、偽・誤情報が発生する原因となっている現象についての認知度は1～2割程度しかない（図5.1）。

•

年代別にみても、フェイクニュースと偽・誤情報については全年代を通じて知っている人が多い。一方で、その対策となっている
ファクトチェックや原因となっている現象群に関しては、特に10代、50代以上の認知度が低い傾向（図表5.2）。

図表5.1

用語の認知度

図表5.2

用語を知っている人の割合（年代別）
28

啓発経験
•

「インターネット上の情報の特性について」「情報・ニュースの正確性の検証方法について」「誤った情報が社会に広まる問題やその背景について」の3種類の啓発について経験を調査した結果、どの項目においても7割前後が「学んだことはない」と回答していた。学んだ経験がある人の中では、インターネットでの経験が多く、次いで職場や学校の授業や研修が多い（図表5.3）。

•

年代別には、ほぼすべての項目において10代と20代の5割以上が学習した経験があると回答している一方、年代が上がるごとに急
激に啓発経験率が下がる右肩下がりの分布となっている（図表5.4）。

図表5.3

啓発経験

図表5.4

啓発経験（年代別）
29

啓発経験と情報検証行動•

啓発経験の有無と日常的な情報の検証行動の実施状況について集計した結果が図表5.5のとおり。

•

注目すべきは、「通常、情報が正しいか確かめることはしない」の回答率である。啓発経験がある人でこの回答をしている人はどの分野の啓発であっても8%台に収まっている。一方で、啓発経験がないと回答した人は30%以上も該当している。

•

各項目を見ても、全ての項目について啓発経験がある人の方が実施している傾向が見られた。
図表5.5

情報検証行動と啓発経験
インターネット上の情報 情報・ニュースの正確性 誤った情報が社会に広まの特性についての検証方法について

有り

有り

無し

無し

る問題やその背景につい有り

無し

情報の発信主体が何者かを確認する

58.8%

36.0%

59.2%

37.1%

60.0%

36.3%

情報の発信日時や更新履歴を確認し、最新情報かどうかを判断する

34.9%

16.2%

36.4%

16.7%

36.0%

16.4%

1次ソース（元の報告、研究論文、公式声明など）に直接アクセスして確認する

30.8%

14.1%

32.8%

14.4%

32.4%

14.1%

見聞きした情報に関連するキーワードでネット検索を行う

48.3%

34.7%

47.4%

35.8%

48.9%

35.0%

見聞きした情報を否定するようなキーワードでネット検索を行う

15.3%

6.9%

16.0%

7.1%

16.2%

6.8%

画像があった場合その画像で画像検索をする

11.5%

4.6%

12.6%

4.6%

11.4%

4.9%

複数のテレビ局や新聞（ネット版含む）の報道を比較し、情報を照合する

25.4%

17.5%

25.7%

17.8%

26.5%

17.4%

インターネット上のニュースサイト、ブログ、専門家のコラムなどを参照する

22.6%

12.7%

22.9%

13.2%

22.8%

13.0%

専門家や専門機関の公式サイトを訪れ、見解や解説を読む

17.1%

5.9%

17.6%

6.4%

18.0%

6.0%

SNSや動画共有サービス、ニュースサイトのコメント欄で他の人の意見や反応を読む

22.1%

10.6%

22.5%

11.1%

23.4%

10.5%

リンク先の内容を確認し、その情報の出典が何かを確認する

15.7%

6.5%

16.5%

6.7%

16.5%

6.5%

ファクトチェックサイトを利用する

6.2%

1.5%

6.9%

1.5%

6.4%

1.6%

家族、友人、知人など身近な人に意見を聞いて意見交換する

19.4%

14.5%

19.1%

14.9%

20.8%

14.1%

SNSのトレンドやハッシュタグを確認する

12.6%

3.2%

12.4%

3.8%

12.3%

3.6%

政府発表や法律文書などの公的情報を確認する

15.5%

8.2%

16.0%

8.4%

16.8%

7.9%

その他

0.9%

0.5%

0.7%

0.6%

0.7%

0.6%

通常、情報が正しいか確かめることはしない

8.8%

32.1%

8.6%

30.9%

8.5%

31.5%
n=500030

期待する啓発方法•

啓発されるにあたってどのような形式で学びたいかについて、人気であったのはインターネットの動画（28.1％）やテレビ・本（22.3％）など自分自身で学習できるものである。一方、講座形式全般や、参加者が事実検証を実際に行うワークショップのような形式は好まれていない（図表5.6）。

•

年代別にみると、特に学びたいと思わないと回答した人が年代とともに増加し、啓発講座の必要性がないと考えていることが示唆されている（図表5.7）。

図表5.6 インターネット上の情報の特性・情報の事実検証方法・誤った情報が社会に広まる問題やその背景について学びたい方法

図表5.7 インターネット上の情報の特性・情報の事実検証方法・誤った情報が社会に広まる問題やその背景について学びたい方法（年代別）
31

ファクトチェック（報告書第8章～第10章）

6

32

ファクトチェックサイトの閲覧経験•

具体的なファクトチェックサイトを列挙し、それについて見たことがあるかを尋ねた。「この中にはない」が91.1%と、列挙されたファクトチェックサイトのうちいずれか一つを見たことがある人は8.9%しかいないことがわかる。日本ファクトチェックセン
ター（JFC）が突出して閲覧経験割合が高いが、それでも6.5%である（図表6.1）。

•

年代別には、10代から60代にかけて、年齢が上がるごとに一貫して割合が減少している。特に、40代と50代の間には比較的大きな差がある（図表6.2）。

図表6.1

ファクトチェックサイトの閲覧経験

図表6.2

ファクトチェックサイト閲覧率（年代別）

33

ファクトチェックを期待する媒体•

どの主体が確認・検証した内容を知りたいと思うかについて尋ねた。最も値が大きい主体が公的機関（35.0%）である。ただし、とりわけ政治的な偽・誤情報について、政府などの公的機関がファクトチェック参加することにはリスクが存在するので慎重であるべきである。特になしを除くと、次に大きな値を示している媒体はテレビ新聞企業（32.6%）であった（図表6.3）。

•

10代～30代においてSNS企業や動画共有サービス企業の割合が比較的多く、「特になし」の割合が少ない（図表6.4）。

図表6.3

どの主体が確認・検証した内容を知りたいと思うか

図表6.4

どの主体が確認・検証した内容を知りたいと思うか（年代別）
34

ファクトチェックの優先度•

ファクトチェックの優先度調査として、16カテゴリの情報について優先度を1位から3位までつける形での回答を取得し、1位を3点～3位を1点として分野ごとの平均点を取得した。

•

最も優先してファクトチェックをするべきだとして選ばれたカ
テゴリは「災害に関すること」の1.34点、次いで「医療・健康に関すること」の0.88点、3番目は「国内政治に関すること（選挙期間以外）」の0.58点であった。

•

Innovation Nippon 2022*では、偽・誤情報に対するファクト
チェックの優先度について有識者8名による評価を行い、社会的影響度と時間的優先度の2軸での10点満点の評価からマッピングを行った。その結果では、最も優先度が高いものとして「災害」、次に「国内政治（選挙期間中）」、3番目に「社会：医療・健康」が挙げられていた。国内政治について、有識者は選挙期間中の偽・誤情報のファクトチェックが重要と考えているのに対し、生活者は選挙期間外の方が重要と考えていることが違いとして挙げられる。
図表6.5

ファクトチェックの優先度（1～3点）* 山口真一・谷原吏・大島英隆（2023）「Innovation Nippon 2022 偽・誤情報、陰謀論の実態と求められる対策」、
https://www.glocom.ac.jp/wp-content/uploads/2023/05/2022IN_report_full_FN.pdf
35ファクトチェックの効果•

被験者に新型コロナワクチンに関する誤情報を提示して情報の真偽を判断してもらい、そこで情報が誤っていると判断できなかった人を4グループに分けた。3グループには政府・バズフィード・マスメディアのいずれかのファクトチェック記事を提示し、残りの1グループには何も見せず、その後に再度同じ質問をして真偽を判断してもらう実証実験を行った。

•

実証実験対象者のファクトチェック記事提示前の分布が図表6.6、記事提示後の分布が図表6.7である。ファクトチェック記事を読んだグループのうち、適切に真偽判断を行った人の割合は政府（49.7%）、バズフィード（53.9%）、マスメディア（58.8%）であり、ファクトチェック記事を読む前には真偽判断ができなかった人の約半数が考えを改めたと理解できる（図表6.6）。

•

ファクトチェック効果の大きさはマスメディア＞バズフィード＞政府であった（図表6.7）。

図表6.6

事前における真偽判断の結果（実証実験対象者）

図表6.7

事後における真偽判断の結果（実証実験対象者）
36

海外でのファクトチェック手法の要点
図表6.8
項目

海外でのファクトチェック手法の要点
概要

ファクト
データソース
チェック対 • ファクトチェックのデータソースは大きく2種類ある。
象の選定- 消費者・読者からの投稿・申立- ファクトチェック機関の担当者による継続的なメディア、SNSの監視• Full Factは独自に開発した「Automated Fact Checking」を使用して、主要な生放送のテレビ、ニュースサイト、ソーシャルメディアプラット
フォームから情報を収集している。
選定の基準• 全ての言説をファクトチェックすることは不可能なため、ファクトチェックを行うべき言説かどうかを、以下のような基準から判定している。
- 検証可能な事実が含まれた情報かどうか。意見として明確なものや、政治的な誇張ではないか。
- その記述は誤解を招くように思える、または間違っているように聞こえるものか。
- その言説をファクトチェックすることは、社会的に重要なものなのか。
- その言説は拡散されているのか、拡散された場合に社会に影響が大きいものなのか。
ファクト• まずはその言説が既に別の機関によってファクトチェックされている言説ではないかを確認。既にファクトチェックが行われている言説の場合は、チェックのまずその人物、ウェブサイト、または組織に連絡を試みる。
手法
情報のタイプに応じて、検証可能な内容の事実確認を行う。
• 発言や主張- オンラインでの検索：オンライン上でソースや発信時期を確認する。
- ソースの確認：情報元の文書ソース、元となったデータを調査し、データや記述にギャップがないかどうかを確認する。
- 関係機関や専門家への連絡：政府、関係当局、地元の警察などに問い合わせて、状況を確認する。必要に応じて専門家に連絡し、情報の危険性を確かめる。
• 画像や動画- 画像に対しては逆画像検索などで類似画像がないか、あった場合にはいつ投稿された画像かなどを確認する。
- 動画に対してはInVIDなどの検証ツールを用いて確認する。
記事の査読• ファクトチェック記事として発信される前には、記事の執筆者以外に1~3人程度の検閲を経ている。
37

海外でのファクトチェッカー養成講座要点
図表6.9

海外でのファクトチェッカー養成講座要点

情報に対する
心構えや基本
的な知識

•
•
•
•

検証可能な情報とは• ファクトチェックをするうえで重要な2つの自問。
- それをファクトチェックすることは重要か？
- それはファクトチェック可能な情報か？
• 検証可能な情報について見極めるためのクイズ形式のワーク

情報源の評価• 一次情報と言えるための要件とは- 直接の証言・証拠- 当時の状況を経験した目撃者や記録者による手書きのメモ、計算されたデータ- 自伝・回顧録・口伝- 実験に基づく有効な学術・科学的研究の原本- 情報源の形式は必ずしも元の形式とは限らない。フィルムやデジタル、出版されている場合がある• 一次情報の情報源としての信頼性の評価- 背景：誰が設立、誰が資金提供しているか？取締役会のメンバーは？どの業界の組織？
- 偏向・利益相反：非営利且つ無党派か？
- 会社概要：ページはあるか？特定の主義を支援していないか？
- 資格情報：情報源の信頼に値するものは何か？他の同分野の研究者に引用されているか？
- 透明性：研究や業務内容について完全に明かしているか？

ファクト
チェックに用いるツールの使い方• 基本的なツール- 逆画像検索- InVid- メタデータ• ジオロケーションツール
- mapchecking.com- Google Earth• アドバンスド検索

何よりもまず一度立ち止まって検討する。
そしてシェアをする前には、何故シェアをするのかを考えることが重要。
何を見て何を手掛かりにして考えるべきか。
因果関係と相関関係の違い。

38

インタビュー調査結果（報告書第11章）

7

39

偽・誤情報の共有経験と情報リテラシーに関するインタビュー調査•

情報検証行動においては、単一の情報源が決定的な役割を果たしているわけではなく、また、真実・虚偽、といった二値的な判断をしているわけではなく、様々な情報源を批判的に比較検討する中から、今まで多分本当だろうと思っていたものを多分誤りだろうと判断するようになった、といった信頼度の修正を行っていることが多いようだった。

•

本調査のインフォーマントにおいては、偽・誤情報の共有は、特定少数を対象とした対面コミュニケーションに限定して行われ、SNSを通じた不特定多数に向けての共有や拡散といった行動はほぼ見られなかった。

•

共有される偽・誤情報の種類は、情報の真偽が自分の身体・財産などの利害に直接影響するものと、友人や職場の同僚などよく話をする人との共通の話題となるもの、の２つが主だったものだった。

•

情報検証行動については、財産（投資・職場での責務）や身体に関わるもの（家族の健康に関わるものを含む）については検証対
象になりやすい。他に、娯楽や不安の対象についても検証対象となる場合がある、と思われた。

•

情報源に対する信頼度では、媒体や発信者ごとの程度の差はあれ、全幅の信頼を得られているものはないという点で一致した。

•

本調査のインフォーマントにおいて、ファクトチェックサイトは、真偽を調べるために検索エンジンなどを利用した際に検索結果一覧に表示される情報源の一つという位置付けだった。

•

検索エンジンでのキーワード検索結果の上位に表示されるようにする工夫や、プッシュ通知を利用したファクトチェックへの誘導などは有効と思われる。

•

単一の情報源を盲信することのないように、という教育は今回の協力者にとっては「既修事項」に当たるように思われる。いずれの情報源に対しても全幅の信頼を置くことなく、批判的に比較検討するという態度や習慣が、情報の蓋然性や妥当性の判断に先行しており、この場合ファクトチェック記事や公式情報への誘導だけでは解決が難しいことが想定される。欧米ではメディア・リテ
ラシーと情報検証行動を同時に啓発するといった取り組みもなされており、こうした応用的な取り組みが一層必要である。
40

偽・誤情報に関する近年の政策的動向（報告書第12章）

8

41

偽・誤情報に関する近年の政策的動向•

米国、EU、英国、オーストラリア、アジア諸国、ロシアにおける様々な国の偽・誤情報関連の政策動向並びに関連文献を調査した。それぞれの政策動向は報告書を参照されたいが、2つの共通点と傾向についてここにまとめる。

図表8.1
立法対
応の対
象と
なった
文脈

•
•
•
•
•

•
法制度
上のア
プロー
チの共
通性

•

•

偽・誤情報に関する近年の政策の傾向
偽・誤情報はいくつかの文脈で注目され、立法対応の対象となってきた。国家の安全保障、新型コロナウイルスの蔓延をめぐる対応、生成AIと選挙、ヘイトスピーチ、実在する人
物を同意なしに用いた性的コンテンツなどがその主なものとして挙げられる。これらのうち、性的コンテンツ以外のものは公共の福祉や秩序を維持する意味合いが強い。
Center for International Media Assistance(2023)*は2011年から2022年までの期間に78か国でソーシャルメディア上の偽・誤情報の流通を制限するための法律が制定されているとしている。
生成AIが選挙で悪用される可能性については報道レベルでも取り上げられることが多く、またいくつかの立法対応が見られる。ただし、生成AIの利用について多くの国は言論の自由との関係で規制に積極的ではないとの見方もある。
言論の自由や報道の自由との対立関係は問題になりやすいところで、導入はされたものの違憲のため廃止・制限されたものもあり、また、批判が大きなものもある。
ドイツのNetzDGやEUのデジタルサービス法などの欧州の法制度が、より権威主義的な国で偽・誤情報対策を口実とした言論のより広汎な弾圧の法制度導入の口実に用いられていることの指摘・批判が存在する**。厳密な因果関係を立証できるかどうかはともかく、例えばロシアの法制度も導入の際に「ヨーロッパでもこうした法制度を導入している」といったコメントがされている旨が報道されている。また、中国のディープフェイク規制法が同じ時期にカリフォルニア州で導入された法律に似ているとの報道があることなどは確認することができる。
コロナ禍への対応として言論規制が強化されたことを指摘する意見がある。この点について2021年3月に報じたVoice of America***では17か国が規制強化を行い、そのうちアジアは8か国になるとした。
Roudik (2019) ****は地理的にも政治体制や経済発展のレベルの面でも多様な15か国の偽・誤情報対策についての比較結果として以下の4つのアプローチを挙げる。
1. 既存の法制度にある選挙関連の法律や名誉毀損関係の法律などを援用して対処するもの。
2. フェイクニュースやそれに類する事象を特に念頭においた立法を行うもの。ソーシャルメディアプラットフォームに対する削除義務や罰金の規定が含まれることがある。一部の国（マレーシア、エジプト）では国外の企業への対応も求める法制度になっている。
3. 選挙当局、デジタルプラットフォームなどの協力を得て偽・誤情報の特定・ブロッキング、正しいニュースの普及などに努めるもの。
4. 偽・誤情報全般に関する啓蒙活動を行うもの。
こうした取り組みの中でフェイクニュースの概念には共通性がなく、またフェイクニュースの語が使われていない場合もあることも指摘される。このような概説から伺えることは、
今後の展開はともかく現段階ではかなり多様な形での対応がされており、詳細な比較が可能なほどには似通っていないということである。

* Gabrielle Lim and Samantha Bradshaw.(2023). Chilling Legislation: Trac the Impact of “Fake News” Laws on Press Freedom Internationally.
Center for International Media Assistance. https://www.cima.ned.org/publication/chilling-legislation/** Mchangama, J. (2022). " The War on Free Speech," Foreign Affairs, March/April Feb. 9, https://www.foreignaffairs.com/articles/world/2022-02-09/war-free-speech-censorship
Mchangama, J. (2023). "The Digital Services Act, Censorship and Online Freedom of Expression," (video interview) The Institute of International and European Affairs,
https://www.youtube.com/watch?v=EuV126cIA04.
*** Peter, Z. (2021, Mar 13). Malaysia Uses Emergency Powers to Impose 'Fake News' Law. Voice of America. https://www.voanews.com/a/press-freedom_malaysia-usesemergency-powers-impose-fake-news-law/6203266.html**** Roudik (2019). Comparative summary. In Roudik, P., Rodriguez-Ferrand, G., Soares, E., et al.(2019). Initiatives to Counter Fake News in Selected Countries. The Law Library ofCongress, Global Legal Research Directorate. https://www.loc.gov/item/2019668145/ pp.1-3.

42生成AIが偽・誤情報問題にもたらすインパクト（報告書第13章）

9

43

生成AIが偽・誤情報問題にもたらすインパクトまとめ①•

生成AIと偽・誤情報について、現在起こっている事例と、将来にわたり偽・誤情報問題にもたらす影響について述べている文献を広範に調査した。詳細は報告書を参照されたい。ここでは生成AIが偽・誤情報問題にもたらすインパクトについて見えたものを整理する。

生成AI調査結果①：現在既に起こっていること・社会的影響
•
•
•
•
•
•
•
•

•
•
•
•

政治家を使った、実際にはない発言を作成・拡散することで、社会的混乱が生じている。
著名人を利用した詐欺。著名人の容姿を使った動画や画像で投資などに正当性があるように見せかけ、閲覧者を信じ込ませることで金銭を騙し取る事件が発生している。
選挙妨害を目的とした生成動画・画像が日々、大量に発生している。投票日間近になると政党や政治家が扇動する形で次々と拡散される場合もある。
政治家の虚偽の発言、行動を映した生成動画・画像や、虚偽のストーリーの拡散には、ロシアや中国の関与も疑われている。
著名人の容姿を利用した性的・わいせつな動画による社会的混乱。歌手や俳優といった著名人が次々と標的にされている。女性著名人が狙われる傾向が強い。
映像だけでなく音声が偽造される例もみられる。
作成者が深い悪意を持たず、気軽に動画や画像を偽造している事例もある。面白そうだった、話題になりたかった、騒ぎを起こした
かった、金銭を稼ぎたかったなどの動機が確認できる。
手軽に大量の情報を生成できるため、ソーシャルメディアだけでなく書籍出版にも影響が及んでいる。健康や安全を脅かす情報が紛れている危険性も指摘されている。
著名人らの名誉の毀損が起こっている。また、芸能人など著名人に対する不信や誤解を招く恐れがある。
政治家や選挙結果への不信、諦め、誤解を招く恐れがある。さらに政治や報道機関等社会システムへの不信感を招く。
既存メディアの体裁を装った生成動画によって、既存メディアへの不信が起こっている。
偽・誤情報に対する訂正は各国のファクトチェックサイトや報道機関などが担っている。しかし、ソーシャルメディア企業が偽・誤情報の投稿の削除などの対応を適宜行っているとは限らない。
44

生成AIが偽・誤情報問題にもたらすインパクトまとめ②
生成AI調査結果②：将来的に起こると言われていること
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•

ディープフェイクや生成AIは、公共の討論、選挙、民主的機関の正当性、市民および政治家の権力など、民主主義に損害を与える可能性がある。
ディープフェイクは、誤情報の拡散や政治的議論の操作につながり、民主主義社会での混乱、不信、および社会の不安定化を引き起こす可能性がある。
ディープフェイクによる誤情報は、情報空間の劣化や市民の信頼や民主的プロセスへの信頼を損ねる可能性を持つ。
生成AIは攻撃者の参入障壁を低下させ、組織や個人が思想的、政治的、個人的な目的で生成AIを使用する可能性が高まる。
生成AIの普及は、デジタルリスクや政治システムと社会へのリスク、物理システムへのリスクを増大させ、他のリスクと複合して影響を与える可能性がある。
ディープフェイクがオンラインコンテンツの大部分を占め、政府への信頼を侵食し、分極化と過激主義を増加させるリスクもある。
生成AIツールは政治的問題に影響を与え、偽情報や誤情報の規模、説得力、頻度を増加させる可能性がある。
AI技術による規模と質の向上は、誤情報が選挙に有害なものになる可能性を増加させる。
生成AIによって発信される誤情報は、個人の身体的および心理的安全や自由を脅かす可能性があり、閲覧者の事実に対する認識と感情に影響を与える可能性がある。
ディープフェイクは個人のプライバシーや評判を脅かし、感情的苦痛を引き起こす可能性がある。
ディープフェイクによる作品等、知的財産権の侵害やプライバシー法の違反も懸念される。
AIが生成した誤情報に対する懸念は、報道等の社会システムへの信頼をさらに損なう可能性がある。
ディープフェイクに関する先入観や恐れがメディアに対する反感を形成する可能性があり、これが信頼の浸食につながる可能性がある。
偽・誤情報とディープフェイクの台頭により、ニュースや情報への信頼の浸食、事実と意見の混同、そして「真実」そのものに対する不信が増幅する可能性がある。この状況下で偽のニュースを暴くことが信頼回復に十分でないことが懸念されている。
AIによる誤情報の影響は、技術の品質と量が続く限り、モデレーターや規制者の能力を超えるものとなる。
ファクトチェックが偽・誤情報の大量生産に追い付かない懸念も指摘されている。プロパガンダの大量生産により、ファクトチェックで未検証の情報がより多くの人々に影響を与えることを許してしまう可能性もある。
大規模言語モデル（LLMs）は誤情報を生成する傾向があり、本来の情報に虚偽の事実を統合する危険性がある。これにより、正確な情報と誤情報が混在する可能性がある。
AI生成テキストの検出ツールは主に英語に特化しており、EU諸国の多くで使用される言語に対するサポートが不十分である。そのため、ブルガリアやスロ
バキアなどの国々では、選挙においてAIによる誤情報の標的になっている可能性がある。

45

生成AIが偽・誤情報問題にもたらすインパクトまとめ③
生成AI調査結果③：対策として必要とされているもの

•
•
•
•
•
•
•
•
•

人間がリテラシーを身に着ける必要が挙げられている。
人々が現実のメディアをディープフェイクだと非難する情報環境では、ディープフェイクやその他のフェイクを見分けるリテラシーを促すことが極めて重要。
今後、報道等でディープフェイクとは何か、ディープフェイクの可能性とは何か、そしてディープフェイクの現在の能力や今後の進化などについて、人々を教育することに重点を置く必要がある。
市民はAIによるコンテンツの存在と真偽を確認する方法を認識する必要がある。生成AIの進化に伴い、メディアリテラシー教育も新しい展開が求められ、生成AIの使用における倫理面に焦点を当てた教材の開発が重要である。
一方で、AIを使いこなすことのメリットもある。AIが安全かつ公正に設計および使用された場合、独裁的な検閲を回避し、誤った情報を打ち消し、自由で信頼性の高い選挙を監視し、人権侵害を公にするのに役立つ。
生成AIが責任を持って開発、展開、利用される場合、情報へのアクセスの改善、自由な表現の促進、健康や教育、公正な手続き、公共サービスへの権利の向上などが可能になる。
生成AIは偽・誤情報に対抗するためにも使用でき、設計が優れ、人間の監督下にあるAIシステムはファクトチェッカーがより迅速に作業することを助けることができる。
生成AIによる情報操作はますます実際の人間の出力に似るようになり、AIに基づく検出方法が必要になる。
AIは人間の検閲者や未熟な技術では不可能な速度と規模で、コンテンツを削除するために使用され得る。

46

付録

10

47

偽・誤情報の定義•

本調査研究での「偽・誤情報」は、図の「誤情報」と「偽情報」両方を合わせたものとする。「悪意ある情報」は対象に含めない。

図表A.1 情報障害（information disorder）の分け方

1.

misinformation（誤情報）：害を与えることを意図していない誤った情報。写真のキャプション、日付、統計、翻訳などの不正確な情報や、勘違いや誤解によって作成・拡散された間違い情報、風刺を真に受けたものなど。

2.

disinformation（偽情報）：害を与えることを明確な目的として、意図的に捏造または操作された虚偽の情報のこと。政治的意図を持って流された虚偽の情報や、金儲けのための虚偽の情報、トラブルを起こすための虚偽の
情報など。

48

アンケート調査分析に使った情報・ニュース【国内政治（保守派に有利）】
1. れいわ新選組の木村英子議員、舩後靖彦議員が1日も参院に出席していない
2. 男女共同参画予算の9兆円が左翼活動家に流れている
3. 民主党政権時代は世界と国交断絶状態だった【国内政治（リベラル派に有利）】
1. 岸田文雄政権が奨学金・失業手当に課税する
2. 日本政府が、YouTubeやXなどの利用にマイナンバーカード登録を義務化する方針を発表した
3. フランス視察で批判を浴びた自民党の松川るい議員が、「視察でフランスの消費税が19.6%だと分かった」と発言した【医療・健康】
1. ワクチンで死者が急増したため、フィリピンの裁判所が殺人の疑いでビル・ゲイツ氏に国際逮捕状を発行した
2. コオロギ由来成分を食品添加しても「アミノ酸」と表記されるのみ
3. サウナで年間1万7000人が死亡している【戦争・紛争】
1. イスラエル・パレスチナでの武力衝突において、ガザ南部の退避地域への空爆は行われていない
2. 千島列島に、首相官邸まで1分で到達するロシアのミサイルが配備された
3. 親ロシア派の支配するウクライナ東部で、欧州向け世界最大のパイプラインがウクライナ軍の攻撃によって爆発した【多様性（外国人やLGBTQなど）】
1. 手術せずに性自認のみで戸籍が変更できるようになった
2. 元男性の女子水泳選手が、大会で優勝したので男性に戻りたいと宣言した
3. 3カ月居住で中国人に投票権を付与する条例を武蔵野市が推進した
49

調査研究報告書執筆担当- 山口 真一国際大学GLOCOM 准教授・主幹研究員- 渡辺 智暁国際大学GLOCOM 教授・研究部長・主幹研究員- 逢坂 裕紀子 国際大学GLOCOM 研究員- 谷原 吏立命館大学産業社会学部 准教授 ／ 国際大学GLOCOM 客員研究員- 大島 英隆
国際大学GLOCOM 客員研究員- 田邊 新之助 国際大学GLOCOM リサーチアシスタント
有識者会議委員- 笹原 和俊
東京工業大学環境・社会理工学院 准教授- 鈴木 朋子
ITジャーナリスト・スマホ安全アドバイザー- 平 和博
桜美林大学リベラルアーツ学群 教授- 田中 辰雄
横浜商科大学商学部経営情報学科 教授- 鳥海 不二夫 東京大学大学院工学系研究科システム創成学専攻 教授- 古田 大輔
日本ファクトチェックセンター 編集長- 水谷 瑛嗣郎 関西大学社会学部 准教授- 安野 智子
中央大学文学部 教授- セーファーインターネット協会- 国際大学GLOCOM