参考資料１－１

デジタル空間における情報流通に関する現状と課題
参考資料

２０２３年１１月７日
デジタル空間における情報流通の健全性確保の在り方に関する検討会
事務局

目次

１．デジタル空間における情報流通の現状

・・・P２

２．「プラットフォームサービスに関する研究会」におけるインターネット上の偽・誤情報対策に関する主な議論

・・・P16

３．プラットフォーム事業者等幅広い関係者による自主的な対応状況

・・・P22

４．総務省による主な取組状況（上記２．以外の取組）

・・・P34

５．AI（特に生成AI）を巡る主な議論

・・・P49

６．諸外国の動向

・・・P60７．その他参考・・・P701１．デジタル空間における情報流通の現状

2

インターネットやソーシャルメディアの国民への浸透
 主なメディアの平均利用時間（平日１日）
・ 「50～60代」ではテレビ（リアルタイム）視聴が主流である一方、「全年代」「10代～40代」ではネットに費やす時間が最も長い。

 主なソーシャルメディア系サービス／アプリ等の利用率
・ LINE、Instagramは一貫して増加。LINEは90%超。
SNSが国民の日常に深く浸透。

【出典】 令和４年度情報通信メディアの利用時間と情報行動に関する調査報告書（総務省）

 いち早く世の中のできごとや動きを知るために最も利用するメディア・ 「全年代」「10代～50代」
で最も利用する
メディアはインターネット。
・ 「60代」で最も利用するメディアはテレビ。
【出典】 令和５年版情報通信白書（総務省）【出典】 令和４年度情報通信メディアの利用時間と情報行動に関する調査報告書（総務省）3

ソーシャルメディアを利用した情報入手の拡大
 テキスト系メディア※の平均利用時間（平日１日）※ブログやウェブサイトに加え、ソーシャルメディアの利用も含む。

・ テキスト系サイト利用に費やす時間が最も長い傾向が10年以上継続。次いで新聞閲読、書籍・雑誌・コミック。
・ 年代別に見ても、各年代でテキスト系サイト利用に費やす時間が最も長い。
【令和４年・年代別】【経年・全年代】【出典】 令和４年度情報通信メディアの利用時間と情報行動に関する調査報告書（総務省）

 最も利用しているテキスト系ニュースサービス
・ 「ポータルサイトによるニュース配信」と「ソーシャルメディアによるニュース配信」
を合計した割合は一貫して増加する一方、「紙の新聞」の割合は一貫して減少。
・ 令和４年には「ポータルサイトによるニュース配信」と「ソーシャルメディアによるニュース配信」を合計した割合（65.7%）が「紙の新聞」の割合（18.0%）の3.5倍超。

【出典】 令和４年度情報通信メディアの利用時間と情報行動に関する調査報告書（総務省）

4

「アテンションエコノミー」の広がり
 インターネット上では膨大な情報が流通する一方、人々の消費時間が有限である結果、事実に基づく正確な情報ば
かりではなく、過激なタイトル・内容や、憶測だけで作成された事実に基づかない情報等によって利用者を刺激し、より多くのアテンション（注目・関心）を集めて金銭的対価を得る「アテンションエコノミー」が拡大していると指摘。

インターネットとソーシャルメディアにより、我々は絶えず情報を浴びせられると同時に、情報を発信する存在ともなった。そこでは、情報の消費と共有とが果てしなく繰り返され、情報に飢えることは、ない。
こうした情報過多の社会においては、供給される情報量に比して、我々が支払えるアテンションないし消費時間が希少となるため、それらが経済的価値を持って市場（アテンション・マーケット）で流通するようになる。
こうした経済モデルは、一般に「アテンション・エコノミー」と呼ばれる。スマートフォンなどのモバイルデバイスが日々の生活に深く浸透したことで、我々の「身体」はますますアテンション・エコノミーに支配されるようになってくる。
心理学では、人間の思考モードを、①直観的で自動的な「システム１」というモードと、②「システム１」を補完し、熟慮を特徴とする「システム２」というモードに分けることが提案されている（二重過程理論）。
アテンション・エコノミーの世界では、前者、すなわち「システム1」を刺激することが重要だと言われる。
「刺激」を与えることで得られたユーザーの脊髄反射的な反応が経済的な価値を有するからである（こうした「反射」は、PV〔閲覧数〕や、ウェブページへの滞在時間や粘着性などにより評価され、経済的価値に換算される）。その結果、事実に基づく正確な情報よりも、より多くの「刺激」を与えるコンテンツ（フェイク
ニュースを含む）の方が、数値化された客観的評価を受けやすく、広告収入などの金銭的メリットさえ享受しやすい状況にある。
鳥海不二夫＝山本龍彦 共同提言「健全な言論プラットフォームに向けてver2.0－情報的健康を、実装へ」（2023年5月）
5デジタル広告市場の成長と課題
 デジタル広告費は年々増加。2020年には日本の広告費全体の約36％を占めるまでに成長。
 デジタル市場のマネタイズのためのインフラとして大きく成功したが故に、「アテンションエコノミー」の発生・拡大につながり、フィルターバブル、偽・誤情報の流通等、デジタル社会における新たな課題をもたらしていると指摘。

【出典】 内閣官房デジタル市場競争本部「デジタル広告市場の競争評価 最終報告 概要」（2021年4月27日）

6

「ダークパターン」による消費者選択への影響の懸念 「ダークパターン」（オンラインユーザーインターフェース上で、消費者の自主性・意思決定・選択を損ない、又は弱めるように設計されたアーキテクチャを採用する商慣習）が、消費者に多大な被害を生じさせる可能性が指摘。
 ダークパターンの分類の例
分類

 インターネットでの予約や購入で実際に目にしたり経験したもの例

行為の強制Forced Action

望ましい範囲を超えた個人
情報の開示の強制

インターフェース干渉
Interface interference

事業者にとって好都合な選択
肢を視覚的に目立たせる

執拗な繰り返し
Nagging

事業者にとって好都合な設定
変更を繰り返し要請

妨害
Obstruction

サービスのキャンセルを困難にする

こっそり
Sneaking

取引の最終段階において
料金を追加

社会的証明
Social proof

他の消費者の購入行為を通知

緊急性
Urgency

オファー期限を知らせるカウント
ダウンタイマー【出典】 Dark Commercial Patterns, OECD Digital Economy Papers, No. 336 (2022)【出典】 令和４年度消費者意識基本調査（消費者庁）

7

アルゴリズム機能等がもたらす「フィルターバブル」と「エコーチェンバー」
 SNSの利用の進展に伴い、投稿・クリック履歴をもとに表示内容を決定するアルゴリズム等の影響により、「フィルター
バブル」「エコーチェンバー」と呼ばれる現象が生じているとの指摘。
 これにより、人々は多様な情報を受信できず、自らが「バブル」や「チェンバー」の中にいることすら気づかないまま、適切な判断を下すことが困難となり、結果として社会経済の混乱や民主主義への悪影響をもたらす可能性が指摘。

【エコーチェンバー(Echo Chamber：こだまの部屋)】【フィルターバブル(Filter Bubble)】
アルゴリズムによって、利用者個人のクリック履歴に基づく情報（コンテンツのレコメンデーションや行動ターゲティング広告）が優先的に表示される（関心に合わない情報からは隔離される）結果、自身の考え方や価値観に近い情報ばかりの「バブル（泡）」の中に包まれる状態

肯定的
評価・意見

否定的
評価・意見

いいね！

Aだ
見たくない
情報

見たい
情報

ソーシャルメディア等において、自分と似た興味関心を持つユーザが集まる場でコミュニケーションする結果、自分が発信した意見に似た意見が返ってくる(特定の意見や思想が増幅)状態を、閉じた小部屋で音が反響する物
理現象に例えたもの
そうだね
Aだ！

A

いいね！
そうだね

Bだ
いいね

いいね！

YES！

そうだね

いいね！

Cだ
賛成

8

「自分に近い意見が表示されやすいこと」に関する認識調査
 SNS等では自分に近い意見や考え方等が表示されやすい傾向があることについて知っている（ 「よく知っている」と「どちらかと言えば知っている」の合計）と回答した割合は、欧米と比較すると低い。
 また、 我が国について年代別に見ると、50歳代及び60歳以上では他の年齢層と比較すると低い。
【SNS等では自分に近い意見が表示されやすいことの認識】（国際比較）
0%

20%

全体

日本

40%

23.5

60%

43.2

9.6

28.5

米国

（日本：年代別）

20.6

32.5

31.3

80%

46.3

100%

6.7

11.2

0%

20～29歳

6.1

22.3

48.8

どちらかと言えば知っているどちらでもない

15.0

30～39歳11.0

40～49歳

10.0

15.0

5.1

60%

31.5

80%

35.0

30.0

37.5

100%

6.5

12.0

11.0

10.5

20.8

どちらかと言えば知らない

28.0

34.5

8.5

19.0

2.3

4.0

28.5

29.5

16.0

22.0

5.9 2.2
60歳以上

よく知っている40%

18.2

50～59歳
ドイツ

20%

8.0

24.5

26.0

14.0

27.5

よく知らない【出典】令和４年度ICT基板の高度化とデジタルデータ及び情報の流通に関する調査研究国内外における偽情報に関する意識調査（総務省）

9

フィルターバブル等に関する調査研究 令和5年度総務省調査研究（委託先：みずほリサーチ＆テクノロジーズ㈱）において、アルゴリズムによる選択的
表示及び個人の情報に対する受動的態度の実態の仮説を検討するため、①シミュレーション型検証と、並行して②大規模アンケート調査を実施予定。
 手法の有効性の検討や結果の評価等を行うため、有識者４名から成る協議会を設置・運営。

【出典】
みずほリサーチ＆テクノロジーズ作成資料◆協議会構成員
構成員（敬称略）

所属・役職

構成員（敬称略）

所属・役職

鳥海 不二夫（座長）東京大学大学院工学系研究科
システム創成学専攻 教授

田中 優子

名古屋工業大学大学院工学研究科
基礎類 准教授

笹原 和俊

東京工業大学環境・社会理工学院
准教授

山口 真一

国際大学グローバル・コミュニケーション・
センター 准教授

10インターネット上での偽・誤情報等の流通の顕在化
 多くの利用者が情報を収集・閲覧するプラットフォームサービス等のインターネット上では、違法・有害情報を含む
偽・誤情報も流通するなどの問題が顕在化。
 一因として、偽・誤情報は、SNS上において正しい情報よりも速く、より広く拡散する特性があること等が指摘。
 メディアごとの偽・誤情報を見かける頻度

 事実と誤情報の拡散ダイナミズム

・ インターネット上のメディアやまとめサイトにおいては、40％強
が週に１回以上接触。
・ インターネット以外のメディアにおいては、30%強が週に１回以上接触。

・ 誤情報は事実よりも遠く、速く、深く、広範囲に拡散。
・ Twitter上で事実が1000人以上にツイートされるのは稀だが、誤情報はもっと多くの人にツイートされた。
・ 最初の投稿がリツイートされるまでの時間は誤情報の方が事実よ
りも20倍短く、1500人に届くまでにかかる時間も６倍短い。

問）直近の１ヶ月の間で、あなた自身が偽情報・誤情報※だと思う情報を次に示す
メディアの中でどの程度見かけますか。
※ここでは、虚偽、または、誤解を招くと考えられる情報/ニュースを指します。

毎日、またはほぼ毎日
最低週1回
月に数回
ほとんどないインターネット上のメディア（ SNSやブログなど）

24.3

インターネット以外のメディア（ テレビや新聞など）

21

まとめサイト

19.8

16.3

11.6

22.4

16.9

13

23.7

19.9

15.3 2.5 10.4

14.5

3.7 10.2

17

9.9 2.6 16.2

9.2

【出典】令和４年度国内外における偽情報に関する意識調査（総務省）【出典】Vosoughi, S., Roy, D., & Aral, S. (2018). The spread of true and false news online.
Science, 359(6380), 1146-1151.

11

インターネットにおける偽・誤情報の拡散の事例
年

エリア

概

要

2011

日本

東日本大震災直後、「今回の地震は人工地震である」、「被災地で外国人による犯罪が横行している」等の偽・誤情報（流言飛語）が拡散。

2016

英国

EUからの離脱を問う国民投票に際し、「英国はEUに毎週３億5000万ポンドを支払っている」という偽・誤情報が拡散。

2016

米国

大統領選挙に際し、各候補者について「ローマ法王が支持を表明した」、「あるピザ店を拠点とする児童売春組織に関与している」等の偽・誤情報が拡散。後者の拡散は、噂されたピザ店に実際に銃を持って押し入り、発砲する人物まで現れる事
態につながった（いわゆる「ピザゲート事件」）。

2016

ドイツ

移民によるテロ事件の発生後、事件と無関係の難民とメルケル首相（当時）との写真が利用され、同首相がテロリストと関係があったかのような偽・誤情報が拡散。

2017

フランス

大統領選挙に際し、「マクロン候補（当時）が租税回避地にペーパーカンパニーや銀行口座を保有している」という偽・誤情報が拡散。

2019日本

常磐自動車道であおり運転や傷害行為に及んだ人物の同乗者であるとして、無関係の人物が特定され、誹謗中傷を受け
た。

2020

世界

新型コロナウイルス感染症の流行に際し、「第５世代移動通信システム（5G）が流行に寄与している」、「ワクチンにマイク
ロチップが含まれている」等の偽・誤情報や、医学的な根拠のない感染予防効果を標榜する健康商品等のインターネット広
告が拡散。

2022

世界

ロシアによるウクライナへの軍事侵攻を巡り、特定の国・個人・企業がいずれかの陣営を支持又は非難しているかのように見せかけた偽画像・偽情報等が拡散。

2022

フィリピン

2023

日本

X（旧Twitter）に、財務官の氏名や肩書、写真等を使用して本人のアカウントと偽ったなりすましアカウントが出現、550人ほどがフォロー（後にアカウント凍結）。

2023

日本

東京電力福島第一原子力発電所からのALPS処理水の海洋放出に際し、無関係の画像等を使用して「魚が大量死している」、「奇形の魚が発見された」等とする偽・誤情報が拡散。

2023

世界

イスラエルとパレスチナ武装勢力ハマスとの衝突を巡り、無関係の画像等を使用して現地の状況を実際よりも軽く見せたり、逆に深刻に見せたりする偽・誤情報が拡散。

大統領選挙に際し、候補者に不利な事実の存在を否定するなどの内容の偽・誤情報が拡散。

【出典】各種ウェブサイトを基に作成

12

東日本大震災に係るインターネット上の流言飛語への適切な対応に関する要請【出典】 総務省ウェブページ（https://www.soumu.go.jp/menu_news/s-news/01kiban08_01000023.html） 13

「コグニティブセキュリティ」の重要性に関する指摘 科学技術振興機構（JST）の研究開発戦略センター（CRDS）による「研究開発の俯瞰報告書」（2023年5月）において、その前提として必要な「科学と社会」の視座として、「人の認知（コグニティブ）を守るコグニティブセ
キュリティの研究も望まれている」旨が記載。
 また、7つの俯瞰区分の1つ「セキュリティ・トラスト」における研究開発領域「人・社会とセキュリティ」にて、「これまでの研究開発の流れとトレンド」として、プラットフォームにおけるコンテンツ・モデレーション等が、そして、「新展開・技術トピックス」として、ファクトチェック等が、Misinformation・Disinformationの対策技術として紹介。

【出典】CRDS「研究開発の俯瞰報告書 システム・情報科学技術分野（2023年）」ウェブページ（https://www.jst.go.jp/crds/report/CRDS-FY2022-FR-04.html）

14

日本心理学会第87回大会における偽・誤情報関連シンポジウム
 2023年９月15日から17日まで神戸市で開かれた日本心理学会第87回大会において、公募シンポジウム「誤情報への挑戦 心理プロセスの理解にもとづいた介入の可能性」が開催。
 誤情報に対する訂正情報の効果と限界、誤情報の拡散に対する心理的介入の類型、事前介入（プレバンキン
グ）の有効性等について報告・議論。

【シンポジウム概要】
 日時：2023年９月15日（金）9:00～11:00
 話題提供者：• 犬塚 美輪 東京学芸大学 教育心理学講座学校心理学分野 准教授 ※企画代表者「誤情報からの表象構築と訂正」• 田中 優子 名古屋工業大学 大学院工学研究科 准教授「誤情報訂正：その効果と限界」• 藤本 和則 近畿大学 経営学部経営学科 教授「心理的介入の類型化について」
 指定討論者：• 菊池 聡信州大学 人文学部人文学科文化情報論・社会学 教授• 眞嶋 良全 北星学園大学 社会福祉学部心理学科 教授

15

２．「プラットフォームサービスに関する研究会」におけるインターネット上の偽・誤情報対策に関する主な議論

16

「プラットフォームサービスに関する研究会」におけるこれまでの検討①
 「プラットフォームサービスに関する研究会」では、オンライン上のフェイクニュースや偽情報への対応について、第1回会合（2018年10月）から検討。
 2019年4月、同研究会の中間報告書の公表後、同研究会において、同年6～7月にプラットフォーム事業者等からのヒアリングを実施し、2020年2月に最終報告書が公表。

 上記最終報告書において、我が国におけるフェイクニュースや偽情報への対応の在り方として、まずはプラットフォーム
事業者を始めとする民間部門における関係者による自主的な取組を基本とした対策を進めていくことが適当と提言。
【最終報告書（2020年2月7日）】 （抄）第６節 我が国におけるフェイクニュースや偽情報への対応の在り方
１.自主的スキームの尊重
偽情報への対応の在り方の基本的な方向性としては、法律による規制、自主的取組とその実効性を支える法的規律を組み合わせた
共同規制的な枠組みの構築、業界に対して行動規範の策定を求める等による自主的な対応、個社ごとの自主的な対応など、様々なレベルの対応が考えられる。
この点、第３節における記載のとおり、選挙への影響等により早くから問題が顕在化していた米国や欧州においては、プラットフォーム
事業者による自主的な対応を中心に取組が進められてきたところである。一方、一部の国々、具体的には、ドイツ・フランス・シンガポール
等の国々では、偽情報の削除義務等を定めた法律が制定されているが、表現の自由への萎縮効果への懸念や、偽情報の該当性判断の困難性による実効性の欠如及び恣意的運用への懸念など、多くの課題や批判の声もある。
したがって、我が国における偽情報への対応の在り方の基本的な方向性としては、まずはプラットフォーム事業者を始めとする民間部門における関係者による自主的な取組を基本とした対策を進めていくことが適当である。
政府は、これらの民間による自主的な取組を尊重し、その取組状況を注視していくことが適当である。特に、プラットフォーム事業者
による情報の削除等の対応など、個別のコンテンツの内容判断に関わるものについては、表現の自由の確保などの観点から、政府の介入は極めて慎重であるべきである。
他方で、仮に民間による自主的スキームが達成されない場合、あるいは、将来的に偽情報の拡散等の問題に対して効果がないと認められる場合には、透明性・アカウンタビリティの確保方策に関して、プラットフォーム事業者に対する行動規範の策定や対応状況の報告・公表など、行政からの一定の関与も視野に入れて検討を行うことが適当である。

17【出典】 総務省「プラットフォームサービスに関する研究会」最終報告書（https://www.soumu.go.jp/menu_news/s-news/01kiban18_01000075.html）

「プラットフォームサービスに関する研究会」におけるこれまでの検討②
 「プラットフォームサービスに関する研究会」では、2020年２月の最終報告書の公表後、同研究会において、2021年
3～5月にプラットフォーム事業者等からのヒアリングを通じて、モニタリング・検証評価を実施し、2021年9月、以下のモニタリングの結果を含む中間とりまとめが公表。
 全体的な傾向として、プラットフォーム事業者の偽情報への対応及び透明性・アカウンタビリティ確保の取組の進捗は限定的であった。
 他方、多様なステークホルダーによる協力関係の構築、ファクトチェック推進、ICT リテラシー向上に関しては、まだ十分とは言えないものの、我が国においても取組が進められつつある。

18【出典】 総務省「プラットフォームサービスに関する研究会」中間とりまとめ（https://www.soumu.go.jp/menu_news/s-news/01kiban18_01000128.html）

「プラットフォームサービスに関する研究会」によるモニタリング結果（2021年）◆偽情報対策に関するプラットフォーム事業者における透明性・アカウンタビリティ確保状況の主な評価項目の比較【出典】 総務省「プラットフォームサービスに関する研究会」中間とりまとめ（https://www.soumu.go.jp/menu_news/s-news/01kiban18_01000128.html）

19

「プラットフォームサービスに関する研究会」におけるこれまでの検討③
 「プラットフォームサービスに関する研究会」では、2021年9月の中間とりまとめの公表後、同研究会において、2022年
3月にプラットフォーム事業者等からのヒアリングを通じて、モニタリング・検証評価を実施し、2022年8月、以下のモニタリングの結果を含む第二次とりまとめが公表。
 全体的な傾向として、プラットフォーム事業者の偽情報への対応及び透明性・アカウンタビリティ確保の取組の進捗は未だ限定的であった。
 他方、多様なステークホルダーによる協力関係の構築、特定のトピックに関する偽情報や誤解を招く情報の流布に関するポリシーの設定、ファクトチェック推進、ICT リテラシー向上に関しては、まだ十分とは言えないものの、我が国においても取組が進められつつある。

【出典】 総務省「プラットフォームサービスに関する研究会」第二次とりまとめ（https://www.soumu.go.jp/menu_news/s-news/01kiban18_01000173.html） 20

「プラットフォームサービスに関する研究会」によるモニタリング結果（2022年）◆偽情報対策に関するプラットフォーム事業者における透明性・アカウンタビリティ確保状況の主な評価項目の比較【出典】 総務省「プラットフォームサービスに関する研究会」第二次とりまとめ（https://www.soumu.go.jp/menu_news/s-news/01kiban18_01000173.html）

21

３．プラットフォーム事業者等幅広い関係者による自主的な対応状況

22

Disinformation対策フォーラムの設立（2020年6月）
 「プラットフォームサービスに関する研究会」最終報告書（2020年2月）を踏まえ、偽情報対策について多様な
ステークホルダーによる協力関係構築を図り、対話の枠組みを設けるべく、「Disinformation対策フォーラム」が民間主導で設立。
目

的・偽情報流通の実態を正確に把握し、その対応について多面的に検討すべく、産学官民の多様なステークホルダーによる協力関係の構築を図り、対話の枠組みを設ける

基本方針-多様：各社方針の尊重による多元性確保、情報の多様性促進-対話：各社取組みの公表等による信頼性・説明性の向上、リテラシー向上施策の推進等-連携：既存の違法有害情報対策との接続性、研究開発やファクトチェック推進のための協働

構成員等
宍戸常寿（座長）
沢田登志子
瀬尾傑
西田亮介

東京大学大学院法学政治学研究科 教授
一般社団法人ECネットワーク 理事
スマートニュース メディア研究所 所長
東京工業大学リベラルアーツ研究教育院 准教授

藤代裕之
安野智子
山口真一

法政大学社会学部 教授
中央大学 文学部 教授
国際大学GLOCOM 准教授（事業者）
Facebook Japan株式会社、Google合同会社、Twitter Japan株式会社、ヤフー株式会社（オブザーバ） 総務省、消費者庁、日本新聞協会、日本放送協会、日本民間放送連盟（事務局）
一般社団法人セーファーインターネット協会

スケジュール2020年６月
設立会合開催2020年10月～2021年３月 第２回～第６回会合開催
2021年３月
中間とりまとめ公表

2021年７月
ワクチンデマ対策シンポジウム開催
2021年９月～2022年１月 第７回会合～第10回会合開催
2022年３月
報告書公表【出典】（一社）セーファーインターネット協会「Disinformation対策フォーラム」ウェブページ（https://www.saferinternet.or.jp/anti-disinformation/）から総務省作成

23ワクチンデマ対策シンポジウムの開催（2021年7月）
 国内におけるコロナワクチンの接種開始に伴い、ワクチンの効果や副作用に関する情報が大量に飛び交う中で、
インターネットを通じて正しい情報を基に適切な判断を行える環境醸成が重要との考えの下、2021年7月、（一社）セーファーインターネット協会（SIA）が「ワクチンデマ対策シンポジウム」を開催。
 ワクチンデマの現状と分析、インターネット事業者が行っているデマ防止の対策について紹介。

主

催

内

（一社）セーファーインターネット協会（SIA）

後※肩書は当時１．来賓ご挨拶河野 太郎 内閣府特命担当大臣
２．ワクチンデマの具体的事例と影響
古田 大輔 氏 （ジャーナリスト／メディアコラボ代表）

援

総務省・厚生労働省日

容３．ワクチンデマの分析（最新の研究成果）
山口 真一 氏 （国際大学GLOCOM准教授）
４．適切な接種判断のために必要な情報や考え方忽那 賢志 氏時

2021年７月15日（木）13時～15時（大阪大学大学院医学系研究科・医学部感染制御学講座）

５．インターネット事業者のワクチン情報に関する取組紹介
Facebook Japan株式会社、Google合同会社、LINE株式会社、Twitter Japan株式会社、ヤフー株式会社
６．閉会の挨拶吉田 奨 氏（SIA専務理事／ヤフー株式会社政策企画本部長）【出典】（一社）セーファーインターネット協会「Disinformation対策フォーラム」ウェブページ（https://www.saferinternet.or.jp/anti-disinformation/）から総務省作成

24

Disinformation対策フォーラム報告書の策定・公表（2022年3月）
 Disinformation対策フォーラムにおける2022年１月までの計10回の会合やシンポジウムにおける議論を踏まえ、
民間事業者をはじめとする関係者の具体的な取組を検討・実施するに当たり踏まえるべき前提、検討する際のポイント、取組を実践する際の留意点、中長期的に偽情報・誤情報対策を進めていく上での課題や論点についてとりまとめ、同フォーラムより、2022年３月に報告書を公表。
第１章 「Disinformation」の定義、議論のスコープ及び踏まえるべき前提○ Disinformationの定義：「あらゆる形態における虚偽の、不正確な、または誤解を招くような情報で、設計・表示・宣伝される等を通して、公共に危害が与えられた、又は、与える可能性が高いもの」⇒発信者の悪意や騙す意図の有無は問題とせず、「偽情報・誤情報」として記述。
○ 議論のスコープ：インターネット上のSNS等で個人ユーザが発信する「デマ」の類を対象とする。
○ 偽情報・誤情報対策の目的：情報の誤りそのものではなく、誤った情報の拡散、当該情報を信じた者の行動変容、結果として生じる
個人・社会・経済への被害を問題とし、当該被害を抑制・防止・回復することを目的とする。
⇒民主主義や政策過程に悪影響を与え得るものから民主主義や自由かつ健全な言論空間を守ることも目的に含まれる。
○ 表現の自由への配慮○ 偽情報・誤情報の多様性○ 対策の多様性○ 実態把握の重要性○ プラットフォーム事業者への社会的期待○ インターネット上のサービスにおけるアーキテクチャ上の工夫

第２章 ファクトチェックの取組 プラットフォーム事業者の取組の現状：公的機関の情報やファクトチェック結果の拡散、ファクトチェック機関等との連携 等
 更なる取組の必要性と具体化に向けた留意点：ファクトチェックを行う目的の明確化と表現の自由の尊重 等
 取組の具体化及び実施の方向性：ファクトチェックの総合的な実施、対象分野・案件の選定 等
第３章 リテラシー向上の取組 取組具体化に向けた留意点：リテラシーの中身、個人の自由な理解と立場の尊重、リテラシーの多様性 等
 取組の具体化及び実施の方向性：一般的と分野別コンテンツ、自身や周囲が誤る可能性の自認 等
 今後に向けた課題：情報リテラシー指標の開発と持続的な実態把握、量的な拡充
第４章 その他の論点：偽情報・誤情報生成のエコシステムの把握、属性ごとの集団の分析【出典】（一社）セーファーインターネット協会「Disinformation対策フォーラム」ウェブページ（https://www.saferinternet.or.jp/anti-disinformation/）から総務省作成

25

偽情報対策に係る取組集の策定・公表（2023年3月）
 2023年3月、「プラットフォームサービスに関する研究会」において、各ステークホルダーによる自主的な対応をまとめた、関係者間で参照しやすい取組集を公表。
事業者

ヤフー
株式会社

課題

取組

正確な情報の迅速な伝達は行っていたが、ファクトチェックに特化した記事の配信は少ない•「LINEオープンチャットが有害情報の温床となっている」かのような論調•

社会における適切な対策を検討するために、日本の実態調査が必要•

Meta Platforms, 戦略的目標のために公共の議論を操作したり誤らせたInc.

•

りすることを目的とした組織的な「影響工作・組織的偽装行為」•

セーファーインターネット協会（SIA）「 Disinformation 対 策
フォーラム」において「ファクトチェック機関の創設」の提言•ファクトチェッ
クイニシアチブ（FIJ）

国内におけるファクト
チェック記事の絶対量が
少ない

•

LINE
株式会社

Google
LLC

•

•

•

効果

Yahoo!ニュースでは、公共性の高い情報やデマを打ち消す情報を最も目立つ場所に掲載
Yahoo! ト ッ プ ペ ー ジ で は 、 生 命 財 産 に関わる重大事項について、メディアから提供を受けたコンテンツや情報収集した特設サイトに誘導 など•

オープンチャット安心・安全ガイドラインに基づく削除等の強化、ユーザーへの啓発
画面を開いた瞬間に出るポップアップにより注意喚起•3年間で15,000人以上を対象に、偽情報・誤情報に関する人々の行動を調査分析対象とした偽・誤情報は広範囲で、国内で広く拡散されたコロナワクチンデマも含む

•

•

•

•

ユーザ動線の各所にフェ イクニュース
対策のコンテンツや偽情報打ち消し記事等を配置することにより、多数のユーザに注意喚起を含めた情報を提供。
信用できる情報の届け方 のパターンを開発
明らかなデマやフェイクニュースをテーマとしたオープンチ ャットが検索結果に出現しなくなった「オープンチャットが有 害情報の温床となっている」という論調が減少
日本における偽・誤情報の拡散範囲や、騙されやすい人の特徴が明らかになった
総務省の有識者会議や啓発教材で共有・
引用

政治的広告・投稿の透明性を高めるツール
や製品の導入アカウントの保全性と実名の使用に係るポリシーに基づき毎日数百万の偽アカウン
トを削除「日本ファクトチェックセンター（JFC）」の創設疑義言説の自動検知システム「Fact Checking Console」•
疑義言説データベース「Claim Monitor」を提供•

2022年12月時点で40件の記事を配信、217万Page View••

ファクトチェック記事の量的拡充に寄与
主要な利用団体が実施したファクト
チェックの約7割がこのシステムを利用【出典】 プラットフォームサービスに関する研究会「偽情報対策に係る取組集Ver.1.0」（2023年３月９日）より編集 26

ファクトチェックの推進 「ファクトチェック」とは、公開された言説のうち、客観的に検証可能な事実について言及した事項に限定して真実性・正確性を検証し、その結果を発表する営み。 ［NPO法人ファクトチェック・イニシアティブ（FIJ）「ファクトチェック・ガイドライン」より］
 現在はインターネットを経由して、国外からも真偽不確かなものも含め様々な情報が瞬時に国内へ到達。オンライン上の情報に対してファクトチェックを推進する必要性が高まっていると指摘。

【出典】プラットフォームサービスに関する検討会第41回会合（2023年２月10日）資料６（FIJ説明資料）

27

ファクトチェックの認知度
 我が国における「ファクトチェック」という用語の認知度は、他国と比較すると低い。

 我が国につき、年代別に見ると、20代と60代では他の年齢層と比較すると高いのに対し、30代及び40代では低い。
【ファクトチェックの認知度】（国際比較）
0%

日本

20%

9.1

11.3

18.7

34.2

19.2

16.6

100%

6.6

10.8

52.8

34.6

57.8

0%

10代

29.4

36.3

11.4

80%

56.3

52.7

英国

韓国

60%

20.1

14.6

米国

フランス

40%

（日本：年代別）

内容や意味を具体的に知っている

なんとなく内容や意味を知っている

言葉は聞いたことがある

知らない

20代

20%

19.3

14.5

8.4

40%

80%

51.2

30代

7.5

14.1

18.6

59.9

40代

6.6

12.3

20.7

60.5

50代

9.3

13.5

60代

9.0

16.5

6.31.3

100%

57.8

18.4

16.6

13.9

60%

19.8

23.7

57.5

50.9

【出典】令和４年度国内外における偽情報に関する意識調査（総務省）

28

日本ファクトチェックセンター（JFC）
 総務省「プラットフォームサービスに関する研究会」の提言を受け、産学官民の多様なステークホルダーによる協力
関係の構築を図り、対話の枠組みを設けることを目的として、「Disinformation対策フォーラム」が設置。
 同フォーラムでの議論を経て、2022年10月1日、（一社）セーファーインターネット協会に、新たなファクトチェック団体と して「日本ファクトチェックセンター（JFC：Japan Fact-check Center）」が設立。
設立団体の概要
 体制：
運営委員長：曽我部 真裕 京都大学教授
監査委員長：宍戸 常寿編

東京大学大学院法学政治学研究科教授

JFC ロゴ集 長：古田 大輔 ジャーナリスト／NPO法人ファクトチェック・イニシアティブ理事

 業務：ファクトチェックの実施及びリテラシー教育の推進等の幅広い偽情報・誤情報対策を推進
 運営資金（発足時）：Google.org、Yahoo
ファクトチェック実績
 2022年10月～2023年４月：記事89本
これまでの経緯
2020年２月 ：プラットフォームサービスに関する研究会最終報告書の公表
2020年６月 ：Disinformation対策フォーラムの設立
2022年３月 ：Disinformation対策フォーラム報告書の公表
2022年10月：日本ファクトチェックセンター（JFC）の設立
2023年5月 ：ICFN（国際ファクトチェックネットワーク）に加盟【出典】日本ファクトチェックセンターウェブページ（https://factcheckcenter.jp/?gs=0ef1ab0495ca）から総務省作成

29

国際ファクトチェックネットワーク（IFCN）
 世界中のファクトチェッカー及び事実に基づく情報の擁護者のコミュニティを結集させる目的で、米国において、非営利組織としてPoynter Institute（ポインター学院）が2015年に設立。
 ファクトチェック団体が遵守すべき行動規範（Code of Principles）を規定、趣旨に賛同するファクトチェック団体に対して審査の上で認証を付与。

【IFCN行動規範（Code of Principles）】
1. 非党派性及び公平性（A commitment to Non-partnership and Fairness）
2. 情報源の透明性（A commitment to Standards and Transparency of Sources）
3. 財源及び組織の透明性（A commitment to Transparency of Funding & Organization）
4. 方法論の透明性（A commitment to Standards and Transparency of Methodology）
5. 明確かつ誠実な訂正（A commitment to an Open & Honest Corrections Policy）※ 認証取得（加盟）団体数（2023年11月３日時点）：108
うち日本を拠点とする団体数：３ （InFact、JFC、リトマス）
国際ファクトチェックデー（毎年４月２日）
 すべての人々に、政治やジャーナリズム、そして日常生活において事実の大切さを呼びかける日として、IFCNが2017年に制定。
 この日の前後に、世界各地でファクトチェックに関連するワークショップなど様々な行事が開催。
【出典】International Fact-Checking Networkウェブページ（https://www.poynter.org/ifcn/）から総務省作成

30

偽・誤情報検知等を目的とする研究開発①
 諸外国（一部日本含む）における偽・誤情報検知等を目的に研究開発が行われたICTツール例について、「コンテンツの検証」、「リソースの信頼性検証」、「フェイクニュース検出」、「コンテンツの検証作業支援」等の目的毎に分類。
 日本においては、インターネットの「信頼」には早期から取り組んでおり、TrustedWeb構想や、最近では、情報的健康の共同宣言、Originator Profile技術の取組が行われている。

【出典】プラットフォームサービスに関する研究会第45回会合（2023年５月25日）資料３（みずほリサーチ＆テクノロジーズ説明資料）

31

偽・誤情報検知等を目的とする研究開発②【出典】プラットフォームサービスに関する研究会第45回会合（2023年５月25日）資料３（みずほリサーチ＆テクノロジーズ説明資料）

32

偽・誤情報検知等を目的とする研究開発③【出典】プラットフォームサービスに関する研究会第45回会合（2023年５月25日）資料３（みずほリサーチ＆テクノロジーズ説明資料）

33

４．総務省による主な取組状況（上記２．以外の取組）

34

偽・誤情報に関する実態調査・分析（リテラシーの重要性）
 我が国における偽・誤情報に関する実態調査・分析結果によれば、•

メディアリテラシーが高いほど偽・誤情報と気づく傾向。

•

メディアリテラシー・情報リテラシーが高いほど偽・誤情報を拡散しにくい傾向。

＜メディアリテラシー・情報リテラシーと偽・誤情報の真偽判断・拡散行動の回帰分析結果＞
コロナワクチン関連の偽・誤情報の真偽判断に対する効果●メディアリテラシーが１点上昇⇒偽・誤情報と気付く確率が12％増●情報リテラシーが１点上昇⇒偽・誤情報と気付く確率が1.8％増

リテラシーが高いほど偽・誤情報と気づく傾向。
特に「メディアリテラシー」はその相関関係が強い。

コロナワクチン関連の偽・誤情報の拡散行動に対する効果●メディアリテラシーが１点上昇⇒偽・誤情報を拡散する確率が９％減●情報リテラシーが１点上昇⇒偽・誤情報を拡散する確率が２％減

リテラシーが高いほど偽・誤情報を拡散しにくい傾向。
特に「メディアリテラシー」はその相関関係が強い。

※ リテラシーを測る設問への回答状況から４点満点で数値化したリテラシーが、１点上がる時に真偽判断・拡散行動の確率がどの程度変化するかを表す。
※ 当該分析におけるメディアリテラシー：メディアあるいはメディアメッセージを読み解く能力。メディアリテラシーの種類を「メディアメッセージの構成性」「メディアによる「社会的現実」の構成力」「メディアの商業的性質」「メディアのイデオロギー・価値観伝達」「メディアの様式と言語」「受け手の非画一的解釈性」としている。
※ 当該分析における情報リテラシー：「加工されていない生のデータが何かわかる」「筆者の意見が入った文章かわかる」「文章から確実に言えることが何かわかる」から構成
される情報を読み解く能力。

【出典】Innovation-Nippon 報告書「わが国における偽・誤情報の実態の把握と社会的対処の検討―政治・コロナワクチン等の偽・誤情報の実証分析ー」（2022年４月）35

偽・誤情報に関する啓発教育教材等の開発
 総務省において、偽・誤情報に関する啓発教育教材として、「インターネットとの向き合い方 ～ニセ・誤情報に騙されないために～」とその講師用ガイドラインを開発し、2022年６月に公表。
（対象者） 若年層～成年層の幅広い年齢層を対象として作成。
（所要時間） 60分程度の講義での実施を想定。
（形式） オンラインでも実施が可能な内容としており、編集が容易なパワーポイント形式にて公表することで、講師の裁量により事例等を追加することが可能。
（備考） 講座を開催する講師向けに、講師用ガイドラインも用意。各スライドで話す内容を詳細に記載し、読み上げることで講座を実施可能。

【出典】 https://www.soumu.go.jp/use_the_internet_wisely/special/nisegojouhou/

36

「インターネットトラブル事例集」の作成・公表
 子育てや教育の現場での保護者や教職員の活用に資するため、インターネットに係るトラブル事例の予防法等をまとめた「インターネットトラブル事例集」を2009年度より毎年更新・作成し公表。
 2023年３月31日に同年版を公表。
① トラブル事例と解決のヒントを
こどもにわかりやすくマンガで解説② スマホやタブレットでも閲覧しやすいバージョンの作成③ 授業等でご活用いただくための教職員用参考資料【出典】「上手にネットと付き合おう！～安心・安全なインターネット利用ガイド～」（インターネットトラブル事例集） https://www.soumu.go.jp/use_the_internet_wisely/trouble/

37

総務省ウェブサイトにおける周知・啓発 一般利用者向けの総務省ウェブページ「上手にネットと付き合おう！安心・安全なインターネット利用ガイド」にて、特集ページとして、「ネットの時代におけるデマやフェイクニュース等の不確かな情報」を掲載。

【出典】「上手にネットと付き合おう！～安心・安全なインターネット利用ガイド～」 https://www.soumu.go.jp/use_the_internet_wisely/special/fakenews/

38YouTubeクリエイターによる啓発動画の制作・配信、啓発イベントの開催
 YouTubeクリエイター９者（チャンネル登録数：延べ1,210万人）の協力により、フェイクニュース対策啓発動画を作成・公開。
 G7関連イベント「フェイクニュースと日本」の開催と合わせて動画を2023年４月25日に公開。

１. YouTubeによる啓発動画キャンペーン
YouTubeクリエイター９者（チャンネル登録数：延べ1,210万人）の協力により、フェイクニュース対策啓発
動画を作成・公開。
2023年４月25日に動画を公開し、28日間（５月22日時点）で再生回数759万回、高評価数41万、コ
メント数4,500件を記録。
啓発動画キャンペーンURL：https://youtube.com/playlist?list=PLQntWbrycbJcpM6aVvc5gnP_HMxPF5weB

２．G7関連イベント「フェイクニュースと日本：私たちにできること・社会としてできること」
開催日時：2023年４月26日（水）15:00-18:00
形 式 ：対面とYouTubeライブ配信のハイブリッド
主 催 ：国際大学グローバル・コミュニケーション・センター（GLOCOM）
後 援 ：グーグル合同会社、経済産業省、総務省、デジタル庁
協 力 ：スマートニュース株式会社、スローニュース株式会社、一般社団法人セーファーインターネット協会、一般社団法人ソーシャルメディア利用環境整備機構（SMAJ）、特定非営利活動法人ファクト
チェック・イニシアティブ（FIJ）、ヤフー株式会社、LINE株式会社※背景と議論するトピック
新型コロナウイルスパンデミック、ロシアのウクライナ侵攻、選挙などで多くのフェイクニュースが拡散。フェイクニュースを見聞きした人の約4人に3人が誤りだと気づいていない。本イベントでは、人々がどのように気を付ければよいのか、産官学民がどのように対抗すればよいのか議論。

イベント動画URL：https://www.glocom.ac.jp/events/information/8716 39

総務省SNSアカウントによる情報発信 2023年夏頃、外務省や経済産業省等において、ALPS処理水の海洋放出等に関する偽情報の拡散が確認。
 総務省SNSアカウント（X（旧twitter）、FB、Instagram）において、インターネット上の偽・誤情報に関する
一般的・基本的な注意と、各種啓発コンテンツの紹介を情報発信。

【出典】総務省SNSアカウント、外務省ウェブページ（https://www.mofa.go.jp/mofaj/press/release/press1_001532.html）
経済産業省ウェブページ（https://www.meti.go.jp/press/2023/09/20230902002/20230902002.html）

40

ICTリテラシー向上に向けたこれまでの総務省の施策
 総務省は、電気通信サービスの消費者利益の保護の観点や、青少年インターネット環境整備法に基づき、これまでも、青少年が安全に安心してインターネットを利用できるための環境整備に向けて、インターネット・リテラシーの向上のための青少年・保護者に対する普及啓発活動等を中心に実施。
 学校教育外においても、青少年がSNSをはじめとしたオンラインサービスをスマートフォンなどの端末を通じて日常的に利用する機会が増えていることや、自分の好みの情報、自分と似た意見ばかりに触れやすくなるオンラインサービスの特性も踏まえ、適切なICT活用のために必要なリテラシー啓発施策の在り方を見直す必要。
 上述の状況・課題は成年層や高齢層にも当てはまることや、世代に応じた課題が存在。
【若年層向け施策】
ＩＣＴ
の適切な
活用のた
めの施策

【成年層向け施策】※【高齢層向け施策】

デジタル活用支援推進事業

e-ネットキャラバン(小中高校生等向け出前講座)
ＩＣＴ
利用時の
危険回避
のための
施策

ILAS（青少年がインターネットを安全に安心して活用するためのリテラシー指標）

十分にアプローチできていなかった領域

インターネットトラブル事例集
偽・誤情報に関する啓発教育教材「インターネットとの向き合い方～ニセ・誤情報に騙されないために～」啓発サイト「上手にネットと付き合おう！～安心・安全なインターネット利用ガイド～」
青少年が安全に安心してインターネットを利用できる環境の整備等に関する法律※ 関係省庁において、DXを推進するデジタルスキルの養成に係る取組を実施。

41

ICTリテラシーの向上に向けた2023年度の取組①
 リテラシーの全体像のフレームとして、デジタル社会において身につけるべき5つの能力を定義し、4段階の習熟度を設定。
 作成したリテラシー全体像のフレームを活用することにより政府・民間事業者の取り組むべき施策・サービスの明確化や目標設定、有効性の評価が可能となる。
【短期的取組事項】
習熟度に応じた身に付けるべき能力の具体化の検討、社会全体のリテラシー習熟度を計測する方法の検討。

リテラシーの全体像のフレーム

5つの能力に対して、4段階の習熟度を設定

42

ICTリテラシーの向上に向けた2023年度の取組② 世代に共通するICT活用に当たっての課題について、以下のとおり整理。

（１）インターネット上の情報流通に関する仕組みの理解• デジタル空間における様々なシステム・ネットワーク等の技術的な仕組みの理解が不十分である。
• SNSや検索エンジンで表示される情報に関する「アルゴリズム」について、世代を問わず、その仕組みや効果、影響に関する知識が十分ではない。
• 「認知バイアス」により、無意識のうちに合理的ではない行動、偏った判断をすることがある。

（２）情報を理解するリテラシー（事実と意見、推測、判断、行動の切り分け等）の習得• 事実の提示、推測、判断、行動の論理の切り分けが理解できないという問題がある。
• かなりの人が間違った情報に触れており、そのうち２割程度しか偽・誤情報と見分けられなかったという民間の調査結果もあり、偽・誤情報に対する弱さは各世代であまり変わらない。

（３）インターネット上の情報を熟慮する機会の確保• インターネット上では「アテンション」が重要視されることを背景に、反射的な思考や反応が重視される環境にある。
• 情報過多の時代であるからこそ、情報を熟慮し、十分な分析や検証を行う機会を確保する必要がある。

（４）デジタル空間における情報発信者としての意識や社会参加への意識の醸成• デジタル空間では、誰でも容易に発信ができ、他人を傷つけてしまう機会も増え、責任が発生するようになっており、情報発信者であることの認識が求められる。
• メディアを使いこなした上で、自分のメッセージを届けて、社会に働きかけるトレーニングが必要。

以上の共通課題に対するリテラシー向上のためのコンテンツの開発、検証を実施。

開発、検証にあたっては、公共施設やプラットフォーム事業者との連携を実施。
（例）ワークショップ形式の双方向型講座の検証、無関心層へもリーチするコンテンツの作成 43

ICTリテラシーの向上に向けた2023年度の取組③【中長期的取組事項】
 優先すべきセグメントとして青少年層、保護者層、高齢者層と設定。
 セグメントによって、よく接触するメディア、強化すべき領域等が異なると考えられることから、各セグメントに固有の特徴に関する調査・分析を行った上で、各セグメントの特徴を踏まえたコンテンツ、届け方について検討を深めることが必要。
構成員からの主な御意見• 年長者の経験が機能しない世界において、各世代へのアプローチが必要であり、普及啓発の場所・方法について具体的な検討が必要。
• 青少年に対しては、「小さな世界で失敗できる」環境の確保が必要。
• 保護者と子どもの関係や、高齢者にどう学習機会を設定して誘因するかを考える必要であり、公共図書館や公民館、
生涯学習センター等を活用していくことが重要。
各セグメントに関する調査・分析（R５年度に調査を実施）• よく接触するメディアやその利用時間、利用目的、デジタルツールの活用状況といった特徴• ICTの活用に伴い、遭遇する可能性の高い課題（ネット依存、誹謗中傷、偽・誤情報、フィッシング詐欺 など）対象層の特徴を踏まえたコンテンツ• 各セグメントに届きやすいチャネルを想定したコンテンツの在り方（動画、テキスト、e-ラーニングなど）• 各セグメントの課題に応じた、取扱う領域の強弱

対象層の特徴を踏まえた届け方• 各セグメントに届きやすいチャネルの活用、連携 PF事業者との連携
 教育の場の活用（e-ネットキャラバンなど）
 社員研修の場の活用 デジタル活用支援推進事業の活用• 双方向的な学び

上記を踏まえ、令和６年度予算要求

44

ICTリテラシーの向上に向けた2023年度の取組④
 生成AIの特徴・課題を整理し、リテラシーの全体像において、どの能力を重点的に取り組むべきか検討する。
 生成AIの活用に当たり、重点的に身に付けるべき能力の要素を盛り込んだコンテンツの開発と届け方を整理する。
Lv.1
人に助けて もらえ
ばできる

生成AIの特徴・課題の整理（案）・AIが提示する回答は、確率的に最もらしいもの
である
・AIが取り込むデータや情報によって、回答に偏りが生じる
・最終的にAIの回答の真偽を判断する能力が必
要である→課題を深掘りする必要

Lv.2
自分自身でデジタル技術を利用できる

Lv.3
基礎的なリテラ
シーを一通り理解

Lv.4
デジタル空間の公共性を踏まえてデジタルを生活の中で使いこなすa. データや情報、デジタルコンテンツ
を検索 、評 価、管理する能力b. デジ タル 空間において安全を確保する能力
c. デ ジ タ ル 技 術 を通じて他者や社会と関わる能力d. デジタル コンテンツの作成・編集に関する能力リテラシーの全体像のうち、重点的に取り組むべき能力を検討

e. デジタル 技術の利用 に当た っての課題解決やデジタルツールを用いた課題解決に関する能力※ AIによる指導、評価、認定等を批判的に捉える視点についても配慮

短期的に取り組む事項• 生成AIの特徴及び課題を整理し、リテラシー全体像のうち重点的に取り組むべき能力を検討する。
• 生成AIを賢く使うために身に付けるべき能力を踏まえ、コンテンツに盛り込むべき要素を整理する。
• 上記を踏まえ、コンテンツを開発する。併せて、コンテンツの対象者や届け方、効果測定についても検
討する。

45

ICTリテラシーの向上に向けた2024年度の取組
 リテラシー向上に関する検討会においてとりまとめられたロードマップに基づき、各年齢層の特徴を踏まえた幅広い世代を対象とした新たなリテラシー向上のためのコンテンツ開発を実施。

ICT活用のための新たなリテラシー向上のコンテンツ開発及びインターネットの安心・安全利用の促進のための周知啓発を進め、幅広い世代のリテラシー向上を推進する。

46

総務省重点施策2024（2023年８月）①（抜粋）Ⅱ 地域のDXの推進を支える情報通信環境の整備

８ 誰１人取り残さないための取組[２] 幅広い世代を対象としたICT活用のためのリテラシー向上推進（１）幅広い世代を対象としたICT活用のためのリテラシー向上推進・SNS利用者の低年齢化、生成AIの普及等を背景にSNSを利用した迷惑行為、AIにより生成されたデマ画像の拡散等のインターネット上におけるリテラシーに関する問題が顕在化してきている。
・総務省ではリテラシー向上に関する検討会においてとりまとめられたロードマップに基づき、各年齢層の特徴を踏まえた幅広い世代を対象とした新たなリテラシー向上のためのコンテンツ開発を実施。併せて、青少年インターネット環境整備法に基づく、インターネットの安心・安全な利用の促進のための周知啓発を継続して実施。

【予算】幅広い世代を対象としたICT活用のためのリテラシー向上推進事業
2.2億円（４年度２次補正 0.9億円 ５年度 0.7億円）
47

総務省重点施策2024（2023年８月）②（抜粋）Ⅴ 国際競争力の強化、国際連携の深化に向けた先導的取組の推進

16 国際競争力の強化に向けたAIなどの科学技術・イノベーションの推進[２] 生成AI等の開発力・リスク対応力強化等に向けた取組の推進（１）我が国における大規模言語モデル（LLM）の開発力強化に向けたデータの整備･拡充及びリスク対応力強化
・国立研究開発法人情報通信研究機構（NICT）において、民間企業等におけるLLM（※）開発に必要となる
大量・高品質で安全性の高い日本語を中心とする学習用言語データを整備・拡充し、法的課題を検討・整理した上で我が国のLLM開発者等にアクセスを提供。
※ Large Language Model：大規模言語モデル

・ ディープフェイクに代表される偽・誤情報等、生成AIに起因する様々なリスクに対応するための技術の開発・実証を実施し、成果を関係事業者等に展開。
【予算】我が国における大規模言語モデル（LLM）の開発力強化に向けたデータの整備・拡充及びリスク対応力強化 【新規】
（LLM開発から利用までのプロセス 及び 実施施策）①LLM開発に必要となる
学習用言語データ整備・拡充（計算資源整備）（LLM開発）①②の取組により、民間企業等における安全・安心なLLM開発を支援②偽・誤情報への対応等（周辺技術との連携等によるリスク対応）

48

５．AI（特に生成AI）を巡る主な議論

49

総務省におけるAIのルール作りに対する検討・取組の経緯
2016年４月 Ｇ７情報通信大臣会合（高松）・ 開発原則のたたき台を提示
2016年10月 AIネットワーク社会推進会議 設置
2017年３月 国際シンポジウム「AIネットワーク社会推進フォーラム」 開催
2017年７月 「国際的な議論のためのAI開発ガイドライン案」 作成・公表
2018年７月 「AI利活用原則案」 作成・公表
2019年３月 「人間中心のAI社会原則」 策定
2019年５月 OECD（経済協力開発機構）「AIに関する理事会勧告」 採択
2019年６月 G20 「G20 AI原則」 採択
2019年８月 「AI利活用ガイドライン」 策定・公表
2023年４月 AI戦略チームスタート
2023年５月 AI戦略会議スタート
2023年４月 Ｇ７デジタル・技術大臣会合（高崎）
2023年５月 Ｇ７広島サミット
・広島ＡＩプロセスの開始
2023年６月 ＡＩネットワーク社会推進会議 再始動
・AIガイドラインの見直し・統合を議論

50

「人間中心のAI社会原則」
2018年５月 内閣府に「人間中心のAI社会原則検討会議」を設置
2019年２月 「人間中心のAI社会原則会議」に移行
2019年３月 統合イノベーション戦略推進会議において「人間中心のAI社会原則」を決定・公表
 当該会議（議長：須藤修先生）では、産学民官のマルチステークホルダーにより、AIをより良い形で社会実装し共有するための基本原則となる「人間中心のAI社会原則」について検討。
 「人間中心のAI社会原則」は、社会（特に国などの立法・行政機関）が留意すべき原則をまとめたもの。
内閣府「人間中心のAI社会原則」全体構成

社会（特に国などの立法・行政機関）が留意すべき事項を取りまとめたもの

開発者及び事業者において、基本理念及びAI社会原則を踏まえたAI開発利用原則を定めることを奨励
51

「人間中心のAI社会原則」【出典】内閣府 「AI戦略2019の概要と取組状況」（2019年11月）

52

OECDにおけるAI原則（2019年5月）
 AIの開発・実装が進む中、予測可能で、安定的かつ柔軟な開発・利用環境が求められていることから、「人間中心」の考え方を基本に、AIに関わる全ての人に適用される実用的な指針が必要との考えの下、2019 年 5 月に、OECDがAI 原則を策定・ 公表。

原則

説明

包摂的な成長、持続可能な開発及び幸福

AIに関わる全ての人は、人間にとって有益な成果を追求するために、AIの責任ある管理・運用に積極的に取り組むべき。

人間中心の価値及び公平性

AI開発・運用者は、法の支配、人権及び民主主義的価値観を尊重すべき。その文脈に適合したメカニズムと予防措置を備えるべき。

透明性及び説明可能性

AI開発・運用者は、AIシステムへの一般的な理解やAIの影響を受ける
人の理解を促進するため、意味のある情報を提供すべき。

頑健性、セキュリティ及び安全性

AI開発・運用者は、AIシステムの入力データ、処理過程及び決定に関し、検証可能なものとすべき。また、体系的なリスク管理を行うべき。

アカウンタビリティ

AI開発・運用者は、AIシステムの適切な作動や上記の原則を尊重していることについて、アカウンタビリティを果たすべき。
推奨される政府の取組

研究開発
への投資

AIに関する
エコシステムの発展

イノベーションと競争を促すための
政策環境

人材育成
労働市場変革
への備え

国際協力
53

生成AIやディープフェイク技術を利用した巧妙な偽・誤情報の拡散の事例
年
2019

エリア

概

要

マレーシア 閣僚が同性と性行為（マレーシアでは禁止）をしている動画が偽造され、拡散。

2021

日本

東北地方で発生した地震直後に、官房長官が記者会見で笑みを浮かべる偽画像が拡散。

2021

欧州

ロシアの議員のディープフェイク動画と気付かずに欧州の議員がビデオ電話会議を実施。

2022

欧州

ロシアによるウクライナへの軍事侵攻に際し、ゼレンスキー大統領が市民らに投降を呼びかける内容の偽動画が拡散。

2022

日本

台風の発生時に、静岡県で住宅が水没したとする偽画像が作成され、SNSに投稿・拡散。

2023

米国

政治活動家が、バイデン大統領が第三次世界大戦の開始を告げる動画を作成。
作成者はAIで作成した旨を説明したが、多くの人が説明をつけないまま動画を拡散。

2023

米国

国防総省の近くで爆発が起きたかのように見せかけた偽画像が拡散。株価が一時的に下落する事態に発展。

2023

日本

生成AIを使って民放の実在のアナウンサーの声や動きを再現し、投資情報サイトへの登録を促す内容の偽動画がSNS上で拡散。

2023

日本

総理大臣の声と画像を使って卑猥な言葉で語りかけているように見せかけ、実在する民放の報道番組で放送されているかのように編集された偽動画がSNS上で拡散。
【出典】令和５年版情報通信白書（総務省）ほか各種ウェブサイトを基に作成

54

生成AIを巡るG7での議論動向【G7群馬高崎デジタル・技術大臣会合の閣僚宣言（仮訳）（抄）】（2023年４月30日）
47. 生成AI技術が国や分野を超えてますます顕著になっていることを踏まえ、これらの技術の持つ機会と課題を早急に把握し、これらの技術が発展する中で、安全性や信頼性を促進し続ける必要があると認識している。我々は、AI ガバナンスや著作権を含む知的財産権の保護、透明性の促進、外国からの情報操作を含む偽情報への対処方法や、責任ある形での生成 AI を活用する可能性といったテーマ
を含む生成 AI に関する G7 における議論を引き続き行うための場を設けることを計画している。これ
らの議論は、専門知識を活用し、政策展開の影響に関する分析を検討する OECD や、関連する実践的なプロジェクトを実施する GPAI などの国際機関を活用する必要がある。
【G7広島首脳コミュニケ（仮訳）（抄）】（2023年５月20日）
38. （略）人工知能（AI）、メタバースなどの没入型技術、量子情報科学技術、その他の新興技術などの分野において、デジタル経済のガバナンスは、我々が共有する民主的価値に沿って更新し続けられるべきである。これらは、公正性、説明責任、透明性、安全性、オンラインでのハラスメント、ヘイト、虐待からの保護、プライバシー及び人権の尊重、基本的自由、そして個人データの保護を含む。（略）我々は、国や分野を超えてますます顕著になっているAIの機会及び課題について直ちに評価する必要性を認識し、OECDなどの国際機関が政策展開の影響に関する分析を検討し、人工知能グローバル
パートナーシップ（GPAI）が実践的なプロジェクトを実施することを奨励する。この観点から、我々は、関係閣僚に対し、生成AIに関する議論のために、包摂的な方法で、OECD及びGPAIと協力しつつ、G7の作業部会を通じた、広島AIプロセスを年内に創設するよう指示する。これらの議論は、ガバナンス、著作権を含む知的財産権の保護、透明性の促進、偽情報を含む外国からの情報操作への対応、これらの技術の責任ある活用といったテーマを含み得る。

55

「AIに関する暫定的な論点整理」
2022年11月、大規模言語モデル「GPT 3」をベースにした対話型言語モデル「Chat GPT」や、テキストを入力すると画像を生成する「プロンプト型画像生成AI」、テキストから作曲を行うAIなど、多様な用途でのAIが登場。
国内では、AI戦略チーム（村井英樹総理補佐官の下、関係省庁の実務者級（審議官・課長級）のチームを編成）、AI戦略会議（座長：松尾 豊（東京大学大学院工学系研究科教授））において、我が国における生成AIをめぐる課題について検討を行い、2023年５月26日、「AIに関する暫定的な論点整理」を取りまとめ
基本的な考え方〇国際的なルール構築に向けた主導的役割の発揮
 AI に国境はなく、国際的な共通理解・ルールづくり・相互運用性が重要。我が国は、「広島 AI プロセス」などを通じ、議論をリードすべき○リスクへの対応と利用
 生成 AI の開発・提供・利用を促進するためにも、生成 AI の懸念やリ
スクへの適切な対応を行うべき。いわば、「ガードレール」の設置が必要。
○多様な関係者を巻き込んだ迅速かつ柔軟な対応
 政府は、広島 AI プロセスなどの検討スケジュールも踏まえつつ、マルチス
テークホルダーを巻き込んだ、迅速かつアジャイルの対応が求められる。

AI の利用〇生成 AI は、デジタル化を加速させ、我が国全体の生産性向上のみならず、様々な社会課題解決に資する可能性がある。
〇AI 利用を加速するため、医療や介護・行政・教育・金融・製造等のデータ連携基盤の構築・DFFT 構想の具体化・人材育成・スタートアップの事業
環境整備を進めるべき。
〇政府機関が一体となって、機密情報漏洩のリスクなどに配慮しつつ、率先して生成 AI の利用可能性を追求することが重要。
〇幅広い世代が生成 AI の恩恵を享受できるよう、スキル・リテラシーを身に付けることが大切。

リスクへの対応○リスク対応の基本方針○透明性と信頼性
 AI 開発者・提供者には、現行法令やガイドラインに則り、積極的な情報開示を求めたい。
政府は、主要な AI 開発者・提供者に対して、透明性・信頼性の確保を直接働きかけることも検討すべき。
生成 AI の普及を踏まえ、既存のガイドラインに関して、必要な改定などを検討する必要がある。その際、諸外国における検討とも協調し、第三者認証制度や監査制度等も参考とすべき。
 顕在化したリスクを低減するような技術の研究開発・普及を奨励することも望ましい。
〇懸念されるリスクの具体例と対応

AI 開発力〇生成 AI に関する基盤的な研究力・開発力を国内に醸成することが重要。
政府は、AI 開発におけるインフラとも言うべき、計算資源とデータの整備を行うことが最も重要。
〇計算資源を活用するための電力調達が課題。地方のデータセンターの活用を含め、電力を有効活用する方策の検討が必要。
〇開発に用いることのできる日本語を中心とするデータの整備・拡充を進めるべき。
〇また、生成 AI 自体の開発は、市場原理を最大限尊重した、民間活力を十分活用した従来型ではない開発促進策が期待される。世界からトップ人材が集まる研究環境の構築も期待される。
56【出典】AI戦略会議資料（2023年5月26日）を加工

広島AIプロセス 閣僚級会合【出典】AI戦略会議第５回会合（2023年９月８日）資料１－１

57

広島AIプロセス国際指針・行動規範①
 AI開発組織向けの国際指針について、2023年10月９日のIGFでのG7非公式会合で基本合意（EU・米・日がそれぞれパブコメ）。
 2023年10月30日、広島AIプロセスに関するG7首脳声明を発出し、AI開発組織向けの国際指針と国際行動規範について歓迎し、公表。
【指針と対応する行動規範（例）の概要】
1. 高度なAIシステムの市場投入前及び、高度なAIシステムの開発を通じて、AIライフサイクルにわたるリスクを特定、評価、低減するための適切な対策を実施する。

（行動規範例）市場投入前の「レッドチーミング」などの内部及び独立外部テストによるリスクの特定と低減
リスク例：化学・生物兵器の開発等に係るハードルを下げるリスク、有害な偏見や差別を社会等にもたらすリスク、
偽情報助長やプライバシー侵害など民主主義的価値や人権に対するリスク

2. 市場投入後に脆弱性、インシデント、悪用パターンを特定し、低減する。

（行動規範例）コンテストや賞金などを活用した、第三者及び利用者による問題や脆弱性の発見と報告の促進

3. 十分な透明性の確保や説明責任の向上のため、高度なAIシステムの能力、限界、適切・不適切な利用領域を公表する。

（行動規範例）安全性・セキュリティ・社会や人権に対するリスクに関する評価、AIモデルの能力や限界等を含んだ透明性報告書や使用説明書の公表

4. 産業界、政府、市民社会、学術界を含む関係組織間で、責任ある情報共有とインシデント報告に努める。

（行動規範例）安全性・セキュリティ・信頼性を確保するため、情報共有のための基準・メカニズム・ベストプラクティスを開発し採用

5. リスクベースのアプローチに基づいたAIのガバナンスとリスク管理ポリシーを開発、実践、開示する。特に高度AIシ
ステムの開発者向けの、プライバシーポリシーやリスクの低減手法を含む。
（行動規範例）個人データ、ユーザーのプロンプトや出力を含めたプライバシーポリシーの開示
職員が自らの責務や組織のリスク管理慣行を熟知するための方針・手順・訓練の確立

58【出典】外務省「Ｇ７」ウェブページ（https://www.mofa.go.jp/mofaj/ecm/ec/page5_000483.html）

広島AIプロセス国際指針・行動規範②
6. AIのライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ及び内部脅威対策を含む強固なセキュリティ管理措置に投資し、実施する。
（行動規範例）情報セキュリティに関する安全運用措置等による「モデルウェイト」やアルゴリズムの保護
最も貴重な知的財産や企業秘密を保護するための強固な内部脅威検知プログラムの確立

7. AIが生成したコンテンツを利用者が識別できるように、電子透かしやその他の技術等、信頼性の高いコンテンツ
認証および証明メカニズムを開発する。またその導入が奨励される。
（行動規範例）電子透かしや証明システムなど、AI生成コンテンツであることを利用者が判断できるためのツールやAPIの開発
AIと接していることを利用者が認知できるようなラベリング表示メカニズムの導入

8. 社会、安全、セキュリティ上のリスクの低減のための研究を優先し、効果的な低減手法に優先的に投資する。
（行動規範例）民主的価値の確保や人権の尊重等に関する研究の実施、協力や投資
環境及び気候への影響を含むリスク低減ツールや積極的リスク管理作業への投資

9. 気候危機、健康・教育などの、世界最大の課題に対処するため、高度なAIシステムの開発を優先する。
（行動規範例）国連SDGsの進捗を支援するためのAI開発を支援

10. 国際的な技術標準の開発と採用を推進する。
（行動規範例）電子透かしを含む国際的な技術標準とベストプラクティスの開発や利用に貢献

11. 適切なデータ入力措置と個人情報及び知的財産の保護を実施する。
（行動規範例）プライバシーや知的財産を尊重するための安全措置の実施、適用される法的枠組みの尊重

59【出典】外務省「Ｇ７」ウェブページ（https://www.mofa.go.jp/mofaj/ecm/ec/page5_000483.html）

６．諸外国の動向

60

米国・豪州における最近の主な動向【米国における通信品位法230条等】

 通信品位法(1996年)第230条では、プロバイダは、①第三者が発信する情報について原則として責任を負わず、②有害なコンテンツに対する削除等の対応（アクセスを制限するため誠実かつ任意にとった措置）に関し、責任を問われないとされ、言論の自由を重視する立場から、プロバイダには広範な免責が容認。
 偽誤情報流通に対してオンラインプラットフォームの責任を高めるため通信品位法230条の改正を伴う検討はバイデン政権や議会において実施。2022年9月、ホワイトハウスは「競争及び技術プラットフォームの説明責任の強化」を公表。議会において230条改正を伴う法案が提出（2023年2～3月には4件）。
 2021年には中間選挙が実施。州レベルで選挙の完全性を担保するために専門組織整備や情報発信などの取組が実施。また、COVID-19、ディープフェイクを禁止する例など偽誤情報に対抗するための州法等が検討。

【豪州における通信法改正案等】

 2022年12月、DIGI（デジタル産業団体）は更新版「偽・誤情報に関するオーストラリアの行動規範（ACPDM）」を公表。小規模プラットフォームの参加、偽情報を拡散しないようアルゴリズムやデジタル広告への対応等が追加。2023年5月、3回目の「透明性レポート」を公表。
 2023年7月、プラットフォーム事業者の取組に関し、オーストラリア通信メディア庁（ACMA）により、行動規範の効果等に関する助言として、2回目の報告書（1回目は2021年6月）が公表。
 2023年1月、政府は「New disinformation laws」制定と、オンラインの偽・誤情報と闘うためにデジタル
プ ラ ッ トフ ォ ー ムに対 す る新 た な権限 を ACMAに 付与 す る こ と を公 表。同 7 月 、Communications
Legislation Amendment Bill（通信法改正案）に関するパブリックコメントを同8月まで実施。
【出典】 プラットフォームサービスに関する研究会第45回会合（2023年5月25日）資料１等を一部更新

61

英国・ドイツ・フランスにおける最近の主な動向【英国におけるオンライン安全法案】

 2023年10月に「Online Safety Act（オンライン安全法）」が成立。
 ①プラットフォーム事業者に対するオンライン上の違法コンテンツ・行為への対処を求める法定の注意義務（自社サービスに関するリスク評価や表現の自由とプライバシーへの配慮、透明性確保等）、②注意義務の遵守のための執行権限をOfcomに付与、③Ofcomは注意義務の履行方法の概説を行動規範として作成・提示等を規定。

【ドイツにおけるネットワーク執行法】

 2017年10月に「NetzDG（ネットワーク執行法）」が発効。利用者数200万人以上のプラットフォーム
事業者は、刑法違反コンテンツに関し、違反報告数、削除件数、違法投稿防止のための取組、社内体制等に関する透明性レポートを半年に一度公開する義務。
 2021年の改正では、異議申立の機会の確保に関する規定と異議申立件数に関する透明性確保義務や、公共目的の研究者に対するデータ提供に関する規定が追加。

【フランスにおけるインターネット上のヘイトコンテンツ対策法等】

 2020年5月、オンライン・ヘイト等を含む違法コンテンツ（例えば、生命・人格に対する侵害等の称揚、
出自又は特定の民族・人種・宗教を理由とした差別・憎悪・暴力の扇動、児童ポルノの拡散）への対処を目的にインターネット上のヘイトコンテンツ対策法が議会下院で可決。その後、憲法院に付託され合憲性審査が 行われた結果、コンテンツの過剰削除を促進する可能性があるとして、違法コンテンツの削除等義務などの条項が違憲と判断。当該条項が削除され、2020年6月に同法は公布・施行。
 2018年11月、選挙時におけるフェイクニュース対策のための「情報操作との戦いに関する法律」が成立。
選挙期間内に、検察官や候補者等から求めを受けた裁判官はプラットフォーム事業者に対し送信防止措置を命令。同事業者は、アルゴリズムの透明性確保、虚偽情報を大量に拡散する偽アカウント対策、拡散メカニ
ズムの情報提供等などの協力とこれらの実施方法の公表が義務付け。
【出典】 プラットフォームサービスに関する研究会第24回会合（2021年3月17日）資料・第二次とりまとめ概要（2022年6月30日）等を一部更新

62

EUにおけるデジタルサービス法と欧州民主主義行動計画
 偽情報への取組として、自主的な取組である「偽情報に関する行動規範」に加え、「デジタルサービス法（DSA）」が加わり、2段構造。
 「欧州民主主義行動計画（EDAP）」はDSAを補完。DSAに示された措置をEDAPにおいて具体化。
 EDAPの3つの柱のうち、 「自由で公正な選挙の促進」、「偽情報への対抗措置」がDSAと関連。
デジタルサービス法（DSA）
違法情報や有害情報
が対象

あらゆる種類のオンライン広告が対象DSAを補完・偽情報に関する行動
規範の強化に関する
ガイダンス

DSAを補完・政治的文脈におけるス
ポンサー付コンテンツの分野におけ る透明性の向上を確保するための法律

欧州民主主義行動計画（EDAP）
偽情報が対象2023年までに段階的に実施

ガイダンスの発行
2021年春・ガイダンスに基づき、改訂・強化
・プラットフォームと広告主、メディア、市民社会、
フ ァク トチェ ッ カ ー 、 学 界 と共同で作成

政治広告が対象 法的措置を提案

偽情報に関する
行動規範（Code of PracticeonDisinformation）

政治広告の透明性に関する法律

2021年中・広告主に対し責任を明確化【出典】 プラットフォームサービスに関する研究会第24回会合（2021年３月17日）参考資料６（みずほ情報総研作成資料）

63欧州民主主義行動計画（EDAP）の概要①
 「欧州民主主義行動計画（EDAP）」が2020年12月2日に公表。
 3つの柱「自由で公正な選挙の促進」、「メディアの自由の強化」、「偽情報への対抗措置」から構成。
上記ごとに、委員会としての行動が提示。
項目

内容

背景

・過激主義と両極化の高まりと、人々とその選出された代表者との距離感によって、EUとその加盟国の民主主義は課題に直面している状況にある。

目的

・EU市民に権限を与え、EU全域でより強靭な民主主義を構築する
・3つの柱「自由で公正な選挙の促進」、「メディアの自由の強化」、「偽情報への対抗措置」 から構成
される

特徴

・「自由で公正な選挙の促進」のために、政治広告に関する法的措置を提案（2021年予定）
・「メディアの自由の強化」のために、ジャーナリストや市民社会を戦略的訴訟 (SLAPP；Strategic
Lawsuit Against Public Participationの略、スラップ訴訟) から守るためのイニシアチブを提示
・「偽情報への対抗措置」を行う（以降、別説明有）。
・欧州選挙の1年前の2023年までに行動計画を段階的に実施。以降、達成状況や見直しの必要性についての評価をおこなう

公表日

2020年12月2日

実施主体 ・EU（出典）各種資料よりみずほ情報総研作成
European Democracy Action Plan: making EU democracies stronger 他
https://ec.europa.eu/commission/presscorner/detail/en/ip_20_2250
https://ec.europa.eu/info/strategy/priorities-2019-2024/new-push-europeandemocracy/european-democracy-action-plan_en#countering-disinformation
https://ec.europa.eu/info/sites/info/files/qanda_20_2251_en.pdf【出典】 プラットフォームサービスに関する研究会第24回会合（2021年３月17日）参考資料６（みずほ情報総研作成資料）

64

欧州民主主義行動計画（EDAP）の概要②
 3つの柱のうち、「偽情報への対抗」関連では、以下がポイント。
 偽情報の発信者に対するコストを科すための取組（EU内外の発信者とも）
 プラットフォーマーが署名した「Code of Practice on Disinformation（偽情報に関する行動規範）」の見直し、co-regulatory framework（共同規制）化。
 上記に伴い、オンラインプラットフォーマーに向けて、「行動規範を強化するためのガイダンス（guidance to enhance the Code of Practice）」を発行（2021年春）。その後、EUは新たな行動規範の実施状況をモニタリング。
 EU内外の偽情報へのメディア・リテラシー向上プロジェクトへ支援と資金提供。
項目

内容

対抗措置が必要な背景

・偽情報の急増によって、民主主義制度を不安定にし、市民の信頼を損なう可能性がある。
誤情報、偽情報、海外からの情報操作に対抗するために異なった対応が求められる。

偽情報への対抗措置

・行動計画の4.偽情報への対策に下記について記載されている。
・加害者にコストを課すことを含む、情報空間において外国からの干渉に対抗するためのEUの既存の「ツールボックス」を改善する
・デジタルサービス法（Digital Services Act）に従い、現在の「偽情報に関する行動規範」を、オンラインプラットフォームの義務と説明責任の共同規制の枠組みへと変革
・前述の偽情報に関する行動規範を強化し、その実施をモニタリングするより堅牢なフレームワークを構築するためのガイダンスを2021年春に発行する。ガイダンスは、プラット
フォームがどのように対策を強化すべきかを示す（出典）各種資料よりみずほ情報総研作成
European Democracy Action Plan: making EU democracies stronger 他
https://ec.europa.eu/commission/presscorner/detail/en/ip_20_2250
https://ec.europa.eu/info/strategy/priorities-2019-2024/new-push-european-democracy/european-democracy-action-plan_en#countering-disinformation
https://ec.europa.eu/info/sites/info/files/qanda_20_2251_en.pdf【出典】 プラットフォームサービスに関する研究会第24回会合（2021年３月17日）参考資料６（みずほ情報総研作成資料） 65

偽情報に関する行動規範（Code of Practice on Disinformation）の概要
 「偽情報に関する行動規範」が2022年6月16日に公表。「欧州民主主義行動計画（EDAP）」における柱「偽情報への対抗措置」をさらに強化した規範。
 規範内容について、欧州委員会が公表したガイダンスに応えていると欧州委員会は評価。
項目

内容

背景

・EUにおける政治分野の偽情報対策の一環として行われた、2018年の民間の自主規範である「偽情報に関するEU行動規範」の策定がされるも、成果が部分的であったことから、これを強化する計画として「欧州民主主義行動計画」がその行動規範の強化するためのガイダンス（偽情報に関する行動規範の強化についての欧州委員会のガイダンス）を21年に公表し、その成果物として22年に公表。

目的・主要なソーシャルネットワークや広告者および広告業界による自主規範の強化

特徴

・規範署名者は21年に公表した「偽情報に関する行動規範の強化についての欧州委員会のガイダンス」の実行を移すことが求められる。
・８つの分野における44のコミットメントを揚げ、コミットメントごとに計128の具体的な措置を定めている。
・８つの分野とは①非収益化②政治広告の透明性③サービスの完全性の確保④ユーザーを強化する
取組⑤研究者を強化する取組⑥ファクトチェッカーのコミュニティーの強化⑦透明性センターおよびタスクフォース⑧モニタリングの枠組みの強化
・上記の措置にはその達成度を測るための「定性的報告要素」と「サービスレベル指標」がそれぞれ設けられて
いる。

公表日

2022年6月16日

実施主体 ・EU【出典】 南 亮一「EU 域内の国民投票運動におけるオンライン広告規制の動向―政治広告の透明性の確保及び偽情報対策の観点から―(2023年3月31日)」より総務省作成
https://dl.ndl.go.jp/view/prepareDownload?itemId=info:ndljp/pid/12767880

66偽情報の行動規範の強化に関する欧州委員会のガイダンス（目次）※仮訳
1. 導入

6. サービスの保全

8.1.5 他の利害関係者のためのデータへのアクセス

2.COVID-19のモニタリング – 結果と学び

6.1 許容されない操作的行動に関する共通の理解

8.2 署名者と研究者の間の協力枠組み

3. 対処されるべき水平的な課題

6.2 許容されない操作的行動を制限する強化されたコミットメント

8.3 ファクトチェッカーとの協同

3.1 規範の目的を達成するための強化されたコミットメント

6.3 コミットメントの調整、協力と透明性

8.3.1 協力の形

3.2 スコープの拡大

7. ユーザ・エンパワーメント

8.3.2 署名者のサービスにおけるファクトチェックの利用と統合

3.3 参加者の拡大

7.1 メディアリテラシー強化措置へのコミットメント

9. 規範のモニタリング

3.4 特定のコミットメント

7.2 「安全なデザイン」へのコミットメント

9.1 KPI（重要業績評価指標）

3.5 欧州デジタルメディア観測所（EDMO）

7.3 レコメンドシステムのアカウンタビリティ

9.1.1 サービスレベル指標

3.6 迅速なアラートシステム

7.4 信頼できる公益情報の可視性

9.1.2 構造指標

4. 広告配置のセキュリティ

7.5 誤った又はミスリードなコンテンツと交流した（交流してきた）ユー
ザーにして発行される警告

9.2 モニタリング枠組み

4.1 偽情報の非収益化

7.6 有害な誤情報にフラグを立てる機能

9.2.1 定期報告

4.2 関係者間の協力の改善

7.7 情報に基づいたオンラインナビゲーションのための指標の利用可能性

9.2.2 透明性センター

4.3 偽情報を含む広告に対処するというコミットメント

7.8 メッセージングアプリの偽情報を抑制するための措置

9.2.3 永続的なタスクフォース

5 政治広告と課題ベースの広告

8. 研究及びファクトチェックコミュニティのエンパワーメント

10. 結論及び次のステップ

5.1 政治及び課題ベースの広告への効率的なラベル付け

8.1 偽情報に関する研究のための署名者のデータへのアクセス

5.2 政治及び課題ベースの広告の検証及び透明性

8.1.1 データへのアクセスの一般的な枠組み

5.3 メッセージングプラットフォームにおける透明性

8.1.2 匿名化された及び非パーソナルデータへのアクセス

5.4 政治広告のターゲティング

8.1.3 追加的な精査を要するデータ（含パーソナルデータ）へのアク
セス

5.5 アプリケーション・プログラミング・インターフェース（API）のために改善された広告レポジトリと最低限の機能

8.1.4 EDMOの役割

67

欧州委員会・豪州・ニュージーランドの行動規範ガイダンスと行動規範※2023年８月時点の公開情報をもとに総務省作成
欧州委員会
自主的な
行動規範
行動規範の
作成主体

豪州

ニュージーランド“2022 Code of Practice on
Disinformation”(偽情報に関する行動規範）

Australian Code of Practice on Disinformation and
Misinformation” (偽・誤情報に関する豪州の行動規範）

Aotearoa New Zealand
Code of Practice for Online
Safety and Harms

署名者らによるタスクフォース

Digital Industry Group Inc. (DIGI)（非営利業界団体）

Netsafe（独立オンライン安全団体）

2022年６月16日

2022年12月22日（最終更新日）

2022年７月25日

署名者（広告エコシステムのプレーヤー、
広告主、アドテク企業、ファクトチェッカー、振興
または専門プラットフォーム、市民社会、偽情報に特化した専門知識を持つ第三者機関など）* Google, Meta, Microsoft, TikTok 等
44者が署名済署名者 (“本規定は、オーストラリアのユーザーに製品やサービスを提供し、エンドユーザーがオンラインで偽・誤情報を伝播するリスクを特定し、かつ/またはオンラインで偽・誤情報の伝播を減らすことに貢献できるデジタルプラットフォーム*が署名することができる。”)*「オンライン検索エンジン、ソーシャルメディア、デジタルコンテンツ事業者」（ ACCC（豪州競争消費者委員会）の定義）* Google, Facebook, Microsoft, Twitter, TikTok,
Redbubble, Apple, Adobeが署名済

署名者（”デジタル・プラット
フォームは、当規範の加盟者となることができ、いつでも加盟することができる。”）* Netsafe, NZTech, Meta,
Google, Amazon, Twitter,
TikTokの６者が署名済

運用状況

2023 年 ２ 月 、 30 の 署 名 者 が 実 施 状 況 に関する最初の基調報告を公表。次回報告は７月予定（８月現在未公開）
ＥＵ

2021年から各社は透明性レポートを提出（直近は2023年５月に公開済）。ACMA（オーストラリア通信メディア庁）が実施状況についてモニタリングを実施し、措置の十分性等について数度報告（直近は2023年７月）。オーストラリア

行動規範の政府ガイダンス“European Commission Guidance on
Strengthening the Code of Practice on
Disinformation”（偽情報に関する行動規範の強化に関する欧州委員会ガイダンス）“Regulating in the digital age - Government Response
and Implementation Roadmap for the Digital Platforms
Inquiry” (“デジタル時代の規制 - デジタルプラットフォーム調査に対する政府の対応と実施ロードマップ“)概要

欧 州委 員会 のモニ タリ ング や評 価に 基 づき 、関連するステークホルダー等との議論を踏まえてガイダンスを作成。行動規範のギャップや不足等に対処し、より透明性があり、安全で信頼できるオンライン環境を構築するために対策強化する
方法について委員会の見解を示したもの。

政府は主要なデジタル・プラットフォームに対し、偽情報やニュース・
コンテンツの信頼性シグナルに関する懸念に対処するためにプラットフォームが何を行うかをまとめた自主的な行動規範を策定するよ う
要請。

行動規範指針の
作成主体

欧州委員会

オーストラリア政府

公表時期

2021年５月

2019年12月12日

公表時期対象とする事業者・サービス

公開情報は特になし
ニュージーランド

特になし

68

デジタルサービス法（DSA）の概要
 2022年11月一部施行。超大規模オンラインプラットフォーム／検索エンジンに対し、違法・有害コンテンツ（偽情報を含み得る）の拡散による重大な社会的リスクを軽減する措置の実施等を義務付け。

 リスク軽減措置の実施に関する評価に際し「偽情報に関する行動規範」への署名と遵守が参照され得る。

【出典】 プラットフォームサービスに関する研究会第39回会合（2022年８月23日）参考資料１（三菱総合研究所作成資料） 69

７．その他参考

70

２０３０年頃の来たる未来の姿

情報通信審議会「２０３０年頃を見据えた情報通信政策の在り方」最終答申（令和５年６月２３日）

71

２０３０年頃に向けて、我が国が求められる変化、情報通信政策の検討の方向性
情報通信審議会「２０３０年頃を見据えた情報通信政策の在り方」最終答申（令和５年６月２３日）

 コロナ禍でのデジタル化の進展等により、国民生活や経済活動における情報通信の果たす役割やその利用に伴うセキュリティの確保が一層重要。特に、コンテンツ・サービス・端末・機器のレイヤーにおける海外のプラットフォーム
事業者やベンダーの存在感が高まり、また、近年の米中の緊張関係等の国際情勢の変化を背景とした情報通信分野のサプライチェーンリスクといった課題が顕在化。
 2030年頃を見据えて、Society5.0の実現及び経済安全保障の確保を図る観点から、今後の情報通信政策の在り方について諮問。本年6月に最終答申。社会経済環境の変化やICTの進展を通じ、デジタル空間と実空間とが高度に融合・一体化し、デジタル空間が新たな社会の一形態にもなり、これまでの生活空間が拡張される未来が想定。我が国における豊かかつ健全な情報空間の確保等が重要。
我が国が向き合う課題【利用者視点】
２．健全なサイバー空間の確保
未来に備えた取組⑪サイバー空間の分断・偽誤情報の増加・深刻化
 国家による介入、ビッグ・テック企業へのデータ集中、
フィルターバブルやエコーチェンバーなど、ネットの分断が深刻化。
 アテンション・エコノミーや偽・誤情報を使った情報戦など、偽・誤情報の規模が拡大。リテラシーの低い人が偽・誤情報を拡散しやすい。

我が国がなすべきこと
民間取組、国際社会との連携○民間の自主的な取組（プラットフォーム事業者による違法・有害情報や広告の削除基準・条件の公表等の適切な対応、透明性・アカウンタビリティ確保、ファクトチェック等）を基本とし、事業者からのエビデンスを含んだ説明を踏まえた国の対策を検討。
〇全世代に対するリテラシー向上の取組の実施。
○インターネットは、引き続き自由で、分断のない、国境を越えてグローバルに流通可能な環境を目指すべき。
○自由・責任・信頼があるインターネットを築くため、各ス
テークホルダー間の連携による社会全体での取組、国際連携の強化。

72

各政府戦略等における偽・誤情報対策に関する記載
 経済財政運営と改革の基本方針2023（令和５年６月16日閣議決定）
第２章 新しい資本主義の加速 ２．投資の拡大と経済社会改革の実行（デジタルトランスフォーメーション（ＤＸ）、ＡＩへの対応）•
デジタル空間の誤情報等への対応を行う。

 新しい資本主義のグランドデザイン及び実行計画2023（令和５年６月16日閣議決定）
４．AI（中略）生成ＡＩの技術進歩と普及によって、ＡＩがどのようなデータをどのように処理しているのかが分からない、巧妙な偽情報が拡散するなど、ＡＩが社会にもたらす不安やリスクへの懸念が世界的に高まっており、安全保障上のリスクも指摘されている。そこで、ＡＩに関する国際的な議論、多様なリスクへの対応を進めるとともに、ＡＩの利用の促進、ＡＩの開発力の強化を図る。
（１）国際的な議論とリスクへの対応
個人情報の不適切な利用、セキュリティに関する不安、偽情報・誤情報による混乱、著作権侵害など、ＡＩに関する多様なリスクに関して、国際的な議論や技術の急激な変化も踏まえ、「広島ＡＩプロセス」のスケジュールも念頭に検討し、対応していく。

 デジタル社会の実現に向けた重点計画（令和５年６月９日閣議決定）
第１ 安全・安心で便利な国民の生活や事業者の活動に向けた重点的な取組
10．国家安全保障戦略等に基づく取組等の推進
インターネット上の偽情報への対策について、憲法によって表現の自由及び通信の秘密が保障されていることを前提に、海外動向等も踏まえつつ、産学官民の多様なステークホルダーと連携し、プラットフォーム事業者の自主的な対応の促進と当該取組の透明性・アカウンタビリティ確保のための枠組み・方策の検討や、ユーザのICT リテラシー向上の推進、研究開発の推進など、総合的な対応を進める。

 統合イノベーション戦略2023 （令和５年６月９日閣議決定）（１）先端科学技術の戦略的な推進 ① 重要技術の国家戦略の推進と国家的重要課題への対応（重要技術の国家戦略の強化）
ＡＩ 国際的な議論とリスクへの対応
また、機密情報の漏洩や個人情報の不適正な利用、プライバシーに関するリスク、偽情報などが社会を不安定化・混乱させるリスク、サイバー攻撃が巧妙化するリスク、著作権侵害のリスクなど、ＡＩに関する多様なリスクに関して、「広島ＡＩプロセス」などのスケジュールも念頭に、国際的な議論の動向も踏まえ、必要な対応を検討していく。
73「デジタル空間における情報流通の健全性」に関連する規定等【デジタル社会形成基本法（令和３年法律第35号）】
第十条（個人及び法人の権利利益の保護等）
デジタル社会の形成に当たっては、高度情報通信ネットワークの利用及び情報通信技術を用いた情報の活用により個人及び法人の権利利益、国の安全等が害されることのないようにされるとともに、高度情報通信ネットワークの利用及び情報通信技術を用いた情報の活用による信頼性のある情報の自由かつ安全
な流通の確保が図られなければならない。
【岸田総理大臣の政策スピーチ（「自由で開かれたインド太平洋（FOIP）のための新たなプラン）（抄）】（2023年３月20日）
偽情報の拡散は、人々の政治的自己決定を妨げ、国家の自律性を脅かす各国共通の課題です。自由で公正な情報空間を確保すべく、偽情報対策の知見を地域に拡げるためのワークショップなどを年内に開催します。
【サイバーセキュリティ戦略（抄）】（2021年９月28日）
サイバー空間を「自由、公正かつ安全な空間」とすることにより、基本法に掲げた目的に資するべく、国は、これまで２度にわたり、我が国のサイバーセキュリティに関する施策についての基本的な計画として、サイバーセ
キュリティ戦略を策定してきた。
先に述べた時代認識を踏まえれば、その目的、そしてサイバー空間に対する考え方はいささかも変わるものではない。むしろ、その確保が危機に直面する中で、「自由、公正かつ安全なサイバー空間」を確保する必要
性はこれまで以上に増しているとの認識が深められるべきである。

74

コンテンツモデレーションにおける透明性と説明責任に関するサンタクララ原則
 コンテンツモデレーションにおける透明性及び説明責任に関する原則として、人権団体や学識経験者から構成されるグループによって2018年に策定、2021年に改訂。
 FacebookやGoogle、Twitterなど*12のプラットフォーム企業が支持。

*Apple、Facebook、GitHub、Google、Instagram、LinkedIn、Medium、Reddit、Snap、Tumblr、Twitter、YouTube。

 規制の雛形を意図したものではなく、規制当局が政策形成においてモデレーションで考慮すべき事項を知るための「ガイド」であるとされる。

基本原則（Foundational Principles）① 人権及びデュープロセス（Human Rights and Due Process）② 理解しやすいルール及びポリシー（Understandable Rules and policies）③ 文化的能力（Cultural Competence）④ コンテンツモデレーションへの国家関与（State Involvement in Content Moderation）⑤ 確実性及び説明可能性（Integrity and Explainability）
運用原則（Operational Principles）① 数値（Numbers）② 告知（Notice）③ 異議申立（Appeal）
政府及びその他の国家機関のための原則（Principles for Governments and other State Actors）① 企業の透明性に対する障害の排除（Removing Barriers to Company Transparency）② 政府自身の透明性向上（Promoting Government Transparency）【出典】プラットフォームサービスに関する研究会第36回会合（2023年５月12日）資料７

75

未来のインターネットに関する宣言（2022年４月）
 2022年4月28日、主催国である米国や初期パートナー国である日本、オーストラリア、カナダ、欧州連合（EU）、
英国を含む賛同国・地域が開かれた、自由で、グローバルで、相互運用可能で、信頼性のある、安全な、未来のイン
ターネットへの支持を呼びかける「未来のインターネットに関する宣言」に賛同。

【出典】総務省 「「未来のインターネットに関する宣言」立ち上げイベントの結果」ウェブページ（https://www.soumu.go.jp/menu_news/s-news/01tsushin06_02000235.html）76

G7広島首脳コミュニケ（2023年５月）
 2023年５月に開催されたG7広島サミットにおいて、5月20日、G7首脳より、広島首脳コミュニケが発出。
 G7首脳において、「民主的制度に対する信頼を損ない、国際社会における意見の対立を招く偽情報を含む外国からの情報操作及び干渉に対処することにより、情報環境を保護する」というコミットメントを再確認。
 その上で、「事実に基づく、質の高い、信頼できる情報の普及が確保されるよう取り組み、デジタル・プラットフォームがこのアプローチを支援するよう呼びかける」ことを宣言。
Human Rights, Refugees, Migration, Democracy （抄）47. We reaffirm our shared belief that democracy is the most enduring means to advance peace, prosperity,equality and sustainable development. We reaffirm our commitment to protecting the information
environment by supporting media freedom and online freedom, including protection from online
harassment and abuse, internet shutdowns and disruptions, as well as addressing foreign
information manipulation and interference, including disinformation, which is designed toundermine trust in democratic institutions, and sow discord in the international community.(...)
We will work towards ensuring that fact-based, quality and trustworthy information is
promoted, and call on digital platforms to support this approach. (...)（仮訳）人権、難民、移住及び民主主義
47. 我々は、民主主義が平和、繁栄、平等及び持続可能な開発を促進するための最も揺るぎない手段であるとの我々の共通の信念を再確認する。我々は、オンラインでのハラスメントや虐待、インターネットの遮断や分断からの保護を含む、メディアの自由及びオンラインの自由を支援し、民主的制度に対する信頼を損ない、国際社会における意見の対立を招く偽情報を含む外国からの情報操作及び干渉に対処することにより、情報環境を保護するという我々のコミットメントを再確認する。（略）我々は、事実に基づく、質の高い、信頼できる情報の普及が確保されるよう取り組み、デジタル・プラットフォームがこのアプローチを支援するよう呼びかける。（略）【出典】外務省「Ｇ７」ウェブページ（https://www.mofa.go.jp/mofaj/ecm/ec/page1_001700.html）77

国連「デジタルプラットフォームにおける情報インテグリティ」（2023年6月）
 2021年９月の国連事務総長報告書「私たちの共通の課題（Our Common Agenda）」で挙げられた12のコミットメントの一つである「7.デジタル分野での協力を改善する（Improve digital cooperation）」について、
グローバル・デジタル・コンパクト（GDC）の詳細が記載された国連事務総長報告書が、2023年5月に公表。
 2023年5月の当該報告書における「E. デジタルにおける信頼と安全」において、「偽情報、ヘイトスピーチ、その他の有害なオンラインコンテンツに対処するため、デジタルプラットフォームとユーザーに対する強固な説明責任基準
および基準を策定」が目標として規定。
 また、同6月、「デジタルプラットフォームにおける情報インテグリティ（Information Integrity on Digital
Platforms）」が公表され、デジタル・プラットフォーム上の情報インテグリティに対する行動規範を通じた世界的な行動の枠組みが提案。

【出典】国連「Common Agenda」ウェブページ（https://www.un.org/en/common-agenda/policy-briefs）等

78オンライン上の情報インテグリティに関するグローバル宣言（2023年９月）
 2023年9月20日、カナダとオランダにより、「オンライン上の情報インテグリティに関するグローバル宣言（theGlobal Declaration on Information Integrity Online）」が立上げ。日本のほか、米国、英国、仏国、独国、豪州、ニュージーランド等を含む32か国が参加。
 参加各国に対して、次の通り、具体的な措置をとることを求めるとともに、産業界に対しても一定の取組を期待。

【参加各国による具体的な措置】

The Declaration calls upon all participatingstates to take concrete steps to:
1. Abstain from and condemn
disinformation campaigns

state-led【産業界よる一定の取組】

Invites industry to:

1. Respect the rule of law and commit to notabusing human rights

2. Respect, promote and fulfill the right tofreedom of expression

2. Enhance transparency inalgorithm
andcontent
processes

3. Implement
relevant
legislation
compliance with international law

3. Provide
clear
and
mechanisms to users

inadvertising,moderation

timelyredress

4. Avoid stifling freedom of expression under
the guise of countering disinformation

4. Support for independent researchers andfact-checkers

5. Promote stronger civic education online
and digital literacy

5. Abide by the UN Guiding Principles on
Business and Human Rights

6. Support independent media, news andjournalism
7. Take
activesteps
toaddress
disinformation
targetinggroupsin【出典】カナダ政府ウェブページ（https://www.international.gc.ca/world-monde/issues_developmentvulnerable situations
enjeux_developpement/peace_security-paix_securite/information_integrity-integrite_information.aspx?lang=eng）79