2024年6月29日
情報通信学会（インターネット政治研究会）@明治大学中野キャンパス「デジタル空間における情報流通の健全性確保の在り方に関する検討会」の検討状況について

「デジタル空間における情報流通の健全性」とは？

1～デジタル空間における情報流通の健全性確保の在り方に関する検討会とりまとめ（素案）【※第１章～第６章（「制度的な対応」を除く）】「はじめに」～本検討会の問題意識としては、「デジタル空間における情報」そのものや様々な主体による表現の場としての「情報空間」の健全性ではなく、「デジタル空間における情報流通」、
すなわち、情報システムや情報通信ネットワーク等により構成され、多種多様の情報が流通するインターネットその他のグローバルな仮想的空間であるデジタル空間における情報の流通の在り方について、その健全性の確保を目的とした検討を行うものである。
具体的には、本とりまとめの第５章で詳述するように、デジタル空間における情報の「発信」・「伝送」・「受信」という流通の各過程において、多様化するステークホルダー
それぞれに期待される役割・責務が遂行されることにより、「基本理念」が実現されている状態を「デジタル空間における情報流通の健全性」とし、その状態を確保することを目的とするものである。
この点、上記の目的に対する不確かさの影響のうち、好ましくない結果をもたらす負の影響として、デジタル空間における情報流通を巡る「表層上の」リスク・問題、それらをもたらす「構造的な」リスク・問題、更に、それらの「表層上の」及び「構造的な」リスク・問題を「加速化する」リスク・問題が発生している。
そこで、本検討会においては、以上のリスク・問題に対応することがデジタル空間における情報流通の健全性を確保するという目的を達成するために必要であるとの認識の下で検討を積み重ねてきたものである。
【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第24回会合（2024年6月27日）資料24-1

デジタル空間における「情報流通の健全性」に関する基本理念

2

情報流通過程全体に共通する高次の基本理念
 表現の自由と知る権利の実質的保障及びこれらを通じた法の支配と民主主義の実現

・・・自由な情報発信と多様な情報摂取の機会が保障され、個人の自律的な意思決定が保護されるとともに、これを通じ、表現の自由や知る権利以外の様々な権利利益（営業の自由など）にも配慮したルールに基づく健全な民主的ガバナンスが実現すること

 安心かつ安全な情報流通空間としてのデジタル空間の実現

・・・平時・有事（災害発生時等）を通じ、アテンション・エコノミーを構造的要因とするものを含め、偽・誤情報や悪意ある情報の流通による権利侵害、社会的混乱その他のフィジカル空間への影響が抑止されるとともに、情報流通の過程全体を通じ、サイバー攻撃や安全保障上の脅威等への対抗力が確保された強靱なデジタル空間が実現すること 国内外のマルチステークホルダーによる国際的かつ安定的で継続的な連携・協力

・・・デジタル空間に国境がないことを踏まえ、国内外の民産学官を含むマルチステークホルダーが相互に連携・協力しながらデジタル空間における情報流通に関するガバナンスの在り方について安定的かつ継続的に関与できる枠組みが確保されていること

情報流通の過程ごとに具体化

情報発信に関する基本理念
 自由かつ責任ある発信の確保

・・・自由かつ、ジャーナリズムやリテラシーに裏付けられた責任ある発信が確保されていること

 信頼できるコンテンツの持続可能な制作・発信の実現

・・・信頼できる魅力的なコンテンツの制作・発信（ファクトチェックを含む）に向けたリソースが安定的かつ継続的に確保され、そうした活動の透明性が確保されるとともに、その価値が正当に評価されていること

情報受信に関する基本理念
 リテラシーの確保

・・・受信者において技術的事項を含むリテラシーが確保され、デジタル社会の一員としてデジタル空間における情報流通の仕組みやリスクを理解し、行動できること

 多様な個人に対する情報へのアクセス保障とエンパワーメント

・・・個人の属性・認知的能力や置かれた状況の多様性を考慮しつつ、あらゆる個人に対してデジタル空間における情報流通への参画と意思決定の自律性確保の機会が与えられていること

情報伝送に関する基本理念
 公平・オープンかつ多元的な情報伝送・・・多元的で信頼できる情報源が発信する情報が偏りなく伝送（媒介等）されていること

 情報伝送に関わる各ステークホルダーによる取組の透明性とアカウンタビリティの確保

・・・プラットフォーム事業者や政府を含む関係者の取組・コミュニケーションの透明性が確保されるとともに、それらの取組や透明性確保につき責任を負うべき主体・部門特定され、明確であり、当該主体・部門から責任遂行状況について十分に説明してもらうことが可能な状態にあること

 プラットフォームにおける利用者データの適正な取扱いと個人のプライバシー保護・・・個人情報を含む様々な利用者データの適正な収集・利活用とそれを通じた個人の意思決定の自律性が確保され、個人のプライバシーが保護されていること【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第17回会合（2024年4月15日）資料

「デジタル空間における情報流通の健全性確保の在り方に関する検討会」
１．検討事項

２．構成員

3※法律（憲法・メディア・情報）、技術、データ分析、認知科学・心理学、ジャーナリズム、プライバシー、サイバーセキュリティ、消費者保護等の専門家。以下、座長・座長代理以外は、50音順。

① デジタル空間を活用したサービスの普及・情報通信技術 ● 宍戸 常寿（東京大学大学院法学政治学研究科教授） 【座長】
● 山本 龍彦（慶應義塾大学大学院法務研究科教授） 【座長代理】の進展等の状況：（例）生成AI、メタバースなど● 生貝 直人（一橋大学大学院法学研究科教授）（例）生成AI等による巧妙な偽・誤情報の生成や拡散に伴う社会的な ● 石井 夏生利（中央大学国際情報学部教授）
影響の深刻化、メタバースにおけるデータの取得・利用に係る対応 ● 越前 功（国立情報学研究所情報社会相関研究系教授）の重要性、国境を越えた情報・データ流通の広域化や迅速化に伴 ● 江間 有沙（東京大学国際高等研究所東京カレッジ准教授）
う国際的な協調の必要性など● 奥村 信幸（武蔵大学社会学部教授）● 落合 孝文（渥美坂井法律事務所・外国法共同事業③ 今後の対応にあたっての基本的な考え方：② 新たな課題と各ステークホルダーによる対応状況：

プロトタイプ政策研究所所長・シニアパートナー弁護士）（例）基本理念：信頼性のある自由な情報流通、表現の自由、知る権利、青少年を含む利用者保護、デジタルシティズンシップなど ● クロサカ タツヤ（慶應義塾大学大学院政策・メディア研究科特任准教授）
各ステークホルダーの役割：デジタルプラットフォーム事業者、生成 ● 後藤 厚宏（情報セキュリティ大学院大学学長）
AI事業者、仮想空間関係事業者、通信・放送事業者、利用者 ● 澁谷 遊野（東京大学大学院情報学環准教授）など● 曽我部 真裕（京都大学大学院法学研究科教授）④ デジタル空間における情報流通の健全性確保に向けた ● 田中 優子（名古屋工業大学大学院工学研究科基礎類教授）

具体的な方策：● 増田 悦子（公益社団法人全国消費生活相談員協会理事長）（例）多様なステークホルダーによる協力関係の構築、ファクトチェックの推● 水谷 瑛嗣郎（関西大学社会学部メディア専攻准教授）
進、幅広い世代に対するリテラシーの向上、情報発信者側を含む● 森 亮二（英知法律事務所弁護士）
自主的取組の推進、研究開発の推進、国際的な対話の深化、● 安野 智子（中央大学文学部教授）
生成AI・メタバース関連事項など● 山口 真一（国際大学グローバル・コミュニケーション・センター准教授）● 山本 健人（北九州市立大学法学部准教授）● 脇浜 紀子（京都産業大学現代社会学部教授）

３．スケジュール

※ その他、関係団体や関係省庁がオブザーバとして参加

 令和５年11月７日に第１回会合を開催し、ヒアリング・論点整理等を経て、本年夏までに一定のとりまとめを公表予定

オブザーバ団体・省庁（2024年5月9日時点）

4【デジタルPF関係】【普及啓発・リテラシー関係】○ （一社）セーファーインターネット協会（SIA）○ （一社）安心ネットづくり促進協議会（JISPA）○ （一社）ソーシャルメディア利用環境整備機構（SMAJ）○ （一社）マルチメディア振興センター（FMMC）【通信事業関係】【経済団体】○ （一社）テレコムサービス協会（TELESA）○ （一社）新経済連盟（JANE）○ （一社）電気通信事業者協会（TCA）【技術関係】○ （一社）日本インターネットプロバイダー協会（JAIPA）○ （一社）日本ケーブルテレビ連盟（JCTA）【マスメディア関係】○ （一社）日本新聞協会○ 日本放送協会（NHK）○ （一社）日本民間放送連盟○ （国研）情報通信研究機構（NICT）【広告関係】○ （一社）デジタル広告品質認証機構（JICDAQ）【ファクトチェック関係】○ （特非）ファクトチェック・イニシアティブ（FIJ）【利用者関係】【省庁】○ 消費者庁○ （一社）MyData Japan○ 内閣官房○ デジタル庁○ 内閣府○ 文部科学省○ 警察庁○ 経済産業省※ 検討状況等を踏まえ、必要に応じ、生成AI関係や
メタバース関係等の団体や、関係省庁を適宜追加。

検討会のスケジュール①
令和5年（2023年）
11月
12月

意見交換
1

2

3

4

1月

令和6年（2024年）
4月
5月

3月

意見交換 ⇒ 論点整理（基本理念、ステークホルダーに期待される役割・責務、具体的な方策）
567
7日 21日 27日 15日 25日 19日 25日
有識者発表

2月

5

19 20

6月
とりまとめ骨子案
とりまとめ素案

22 23 24
5日 22日 27日 5日 15日 19日 27日 28日 8日 15日 9日 15日 24日 30日10日 19日 27日
8

9

10

11

12

13

14

15 16

事業者団体・プラットフォーム事業者・広告関係団体・NHK・新聞協会ヒア
5
4日

WG

8
18日

17

18

21

7月～夏頃
とりまとめ案 とりまとめ
意見募集

有識者発表・関係団体等ヒア

12 14 16

18

20 21

23

25

27

29

31

5日12日17日10日17日 22日27日7日 17日 25日 1日
7日 取組集の公表

有識者等による発表（23年11～24年6月）
①事務局

現状と課題

⑦後藤構成員

情報流通の健全化～サイバーセキュリティの観点から～②山口構成員
澁谷構成員
安野構成員

偽・誤情報問題の現状
偽・誤情報の流通状況の分析（COVID-19）
情報の受け手の認知的・社会的バイアス⑩澁谷構成員令 和 6年 能 登 半 島 地 震 にお け るデ ジ タ ル 空 間 の 偽 誤
情報流通状況の報告③江間構成員
越前構成員
奥村構成員

AIの議論から見た検討会の議論の論点
フェイクメディア検知に関する技術動向
発信主体の信頼性確保の在り方⑯増田構成員
事務局

消費生活相談から見える課題
安心・安全なメタバースの実現に関する研究会の検討状況④田中構成員
水谷構成員
生貝構成員

偽・誤情報に対する認知科学的な側面からの対応
米国の政策動向
欧州の政策動向⑰ｸﾛｻｶ構成員

オリジネーター・プロファイルの取組⑱脇浜構成員

偽誤情報対策における情報コンテンツ制作フェーズに注目㉒ｸﾛｻｶ構成員
事務局

オリジネーター・プロファイル憲章
OECDを中心とした国際場裡における偽誤情報対策の
取組

⑤事務局
落合構成員
森構成員

国際動向等
デジタル空間における情報流通の「全体像」
ヒアリング通じた事業者の取組の透明性確保

⑥事務局
石井構成員
山本構成員

AI事業者ガイドライン案
偽・誤情報とプライバシー・個人情報保護「健全な情報空間」とは何か？等

プラットフォーム事業者・広告関係団体ヒア（24年2～3月）⑨⑩⑬⑭⑮プラットフォーム事業者（９社）⑪⑫⑬広告関係団体（５団体）

検討会のスケジュール②

6

事業者団体等による発表（24年2～5月）⑧違法情報等対策
連絡会
セーファーインターネット協会

通信業界における違法情報等に対する取組⑫日本新聞協会
日本放送協会（NHK）

新聞業界における情報流通の健全性確保の取組
情報空間の健全性・多元性の確保に向けた取組⑰野村総合研究所
情報通信研究機構（NICT）
警察庁

災害時における真偽判別の難しい情報の調査結果
能登半島地震におけるX上のデマ情報の分析結果⑱みずほR&T
インフォハントClassroom
Adventure

国内外における偽・誤情報に関する意識調査結果
学校現場でのメディア情報リテラシー教育
ファクトチェック体験プログラム“レイのブログ”

SIAの活動変遷と日本ファクトチェックセンター設立

SNSを悪用した投資・ロマンス詐欺の被害発生状況

有識者等による発表（24年1～4月）⑧山本(健)構成員
成原准教授

日本における規範策定の在り方
米国におけるコンテンツモデレーションの動向⑫生貝構成員EUにおけるAI法案とDSAの概要⑭曽我部主査代理
藤代教授「情報流通の健全性」と憲法
フェイクニュース対策とニュース生態系のガバナンス⑲マルチメディア振興セ
ンター
MyData Japan

ネットの安心・安全な利用に向けた取組と課題⑳鳥海教授・みずほ
R&T
ファクトチェック・イニシ
アティブ
InFact日本ファクトチェックセ
ンター
リトマス

フィルターバブルに関するシミュレーション型検証結果㉑安心ネットづくり促進協議会
鳥取県
日本民間放送連盟

安心・安全な利用環境整備に向けた取組内容

広告・レコメンデーションの実態と対策の在り方

日本のファクトチェックの現状と課題
ファクトチェックの持続可能性
これまでの活動実績と今後の施策
リトマスにおけるファクトチェック活動の紹介

フェイク情報対応実証チームについて
民放から見たデジタル空間の課題と取組内容

シンクタンク等による発表（24年1～6月）⑤野村総合研究所

EU DSAの概観⑧野村総合研究所

EU・豪州・NZ・英国における行動規範策定状況⑫野村総合研究所

EUにおける災害時等危機対応メカニズム
EU・英国におけるリスク評価の概要⑭みずほR&T

レコメンデーションやアルゴリズムに関する政策動向⑯三浦法律事務所
瓜生・糸賀法律事
務所
EY

米国の制度的対応の状況
ドイツの偽・誤情報に対する制度的対応の状況
各PF事業者が提供する発信者の収益化システム㉕Code for Japan

主要プラットフォーム事業者のデータ提供状況

ワーキンググループの設置

7

１．概要
デジタル空間における情報流通の健全性の確保に向けて、表現の自由をはじめとする様々な権利利益に配慮した検討を専門的な見地から行うために、令和６年１月25日にワーキンググループを設置。
２．検討事項例① 事業者の取組に関する透明性の確保の在り方② 事業者のビジネスモデルに起因する課題への対応の在り方③ 関係者間の連携・協力の在り方④ 災害発生時等における対処の在り方
⑤ その他
３．構成員

※法学者・弁護士を中心に、以下の８名● 山本 龍彦【主査】（慶應義塾大学教授）● 曽我部 真裕

【主査代理】（京都大学法学研究科教授）● 生貝 直人● 石井 夏生利● 落合 孝文● 水谷 瑛嗣郎● 森 亮二● 山本 健人（一橋大学大学院法学研究科教授）（関西大学社会学部准教授）（中央大学国際情報学部教授）（弁護士、英知法律事務所）（弁護士、渥美坂井法律事務所）（北九州市立大学法学部准教授）

概要

プラットフォーム事業者ヒアリングの概要

8

実施時期：令和６年２～３月
実施目的：各事業者の取組状況を確認・分析し、デジタル空間における情報流通の健全性の確保に向けた
今後の対応方針と具体的な方策の検討に活用
実施方法：事前に質問項目を送付し回答を得た上で、本検討会でヒアリングを実施。ヒアリング時の回答も踏まえ、必要に応じ、事後に追加質問を送付し追加で回答。

対象事業者

主な項目

12. 発信者への広告収入分配状
1.ヒアリング対象サービスの規模
況
2.偽・誤情報の流通・拡散への対応方針
13. AI・ ディ ープ フェ イ ク 技 術 への3.偽 ・ 誤 情 報 の 流 通 ・ 拡 散 に 対 す る
対応状況
モデレーション等の手続・体制【対象事業者】
14. ファクトチェックの推進に向けた
4.偽・誤情報の流通・拡散への対応状況
取組状況
＜３月＞
＜２月＞
5.偽 ・ 誤 情 報 の 発 信 者 （ 投 稿 者 ） の 15. マスメディア（新聞・放送）と・LINEヤフー（22日）・サイバーエージェント（19日）
表現の自由等への配慮の連携状況
・ドワンゴ（22日）
・Google（27日AM）
6.レコメ ンド やコ ンテンツモ デレ ーション等に 16. 利用者のICTリテラシー向上に
・Meta（27日PM）
・はてな（27日）
向けた取組状況
関する透明性・アカウンタビリティ確保に向・TikTok Japan（27日PM） けた取組状況
17. 研 究 開 発 の 推 進 に 向 け た
取組状況
・Microsoft（28日AM） 7.令 和 ６ 年 能 登 半 島 地 震 関 連 の 偽 ・ 誤
18. サイバーセキュリティ関係機関
情報の流通・拡散への対応状況
・X（28日PM）
等との連携状況
8.選 挙 時 の偽 ・ 誤 情 報 の流 通 ・ 拡 散 への19. 行政機関や地方公共団体等【対象サービス】
対応状況との連携状況
9.なりすましへの対応状況• SNS• ブログ・掲示板
20. 国際機関等との連携状況• 検索サービス• ニュースポータル
10.広告の質の確保への対応状況
21. その他のステークホルダーとの連• 動画共有サービス• キュレーションなど
11.広告配信先の質の確保への対応状況
携状況
収益構造・月間アクティブユーザー数等を考慮し、情報流通の健全性確保の観点から影響の大きいと考えられる事業者・サービスを中心に選定【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第19回会合（2024年5月15日）資料

広告関連事業者団体ヒアリング

9

対象事業者団体

団体概要

日程

クオリティメディアコンソーシアム（運営会社：（株）BI.Garage）

新聞社、雑誌社、テレビ局等の国内メディアが主体となり、共同広告配信プラットフォーム事業等を展開

第11回会合（WG第6回合同）
3月5日（火）10-12時（一社）デジタル広告品質認証機構【JICDAQ】

JAA・JAAA・JIAAの広告3団体が中心となり、第11回会合（WG第6回合同）
広告関連事業者が広告掲載品質の確保を適
3月5日（火）10-12時
切に行っているかにつき検証／確認、認証（公社）日本アドバタイザーズ協会【JAA】

国内の有力なアドバタイザー（広告主）企業・団体が共同して、広告活動の健全な発展のために貢献することを目的として活動（一社）日本インタラクティブ広告協会【JIAA】

媒体社（パブリッシャー）、広告会社（広告代理店）など、インターネット広告ビジネスに関わる企業が集まり、消費者保護の観点に基づいたガイドラインの策定等を実施（一社）日本広告業協会【JAAA】

広告会社（広告代理店）が集まり、広告業の健全な発達と広告活動の改善向上に関する事
業を実施【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第11回会合（2024年3月5日）資料

第12回会合（WG第7回合同）
3月15日（金）10-12時

第13回会合（WG第9回合同）
3月19日（火）13-15時

インターネット上の偽・誤情報対策に係るマルチステークホルダーによる取組集10（令和6年5月・デジタル空間における情報流通の健全性確保の在り方に関する検討会）

 インターネット上の偽・誤情報対策について、民産学官の幅広いステークホルダー間で参照しやすくするとともに、国内
外における連携・協力を推進することを目的に、2024年5月、とりまとめ・公表。
 意見募集に寄せられた取組及び「デジタル空間における情報流通の健全性確保の在り方に関する検討会」におけるヒアリングに対応したプラットフォーム事業者による取組等、46の団体・個人による①ステークホルダー間の連携・協力、②リテラシー・人材育成・普及啓発、③ファクトチェック、④研究・開発・実証、⑤国際連携・協力等の取組を整理。
https://www.soumu.go.jp/menu_news/s-news/01ryutsu02_02000405.html（分類については、便宜上、事務局で整理した箇所がある。）① ステークホルダー間の連携・協力【法人・団体（15者）】• （大）愛知教育大学・（株）中日新聞社• （一社）インターネットメディア協会• グーグル（同）・国際大学グローバル・コ
ミュニケーション・センター• （株） Japan Nexus Intelligence② リテラシー・人材育成・普及啓発【法人・団体（19者）】• （大）愛知教育大学・（株）中日新聞社※• （一社）インターネットメディア協会※• （株）インフォハント• Classroom Adventure• （株） Japan Nexus Intelligence※• JCOM （株）• スマートニュース（株） メディア研究所• （一社）セーファーインターネット協会（日本ファクトチェックセンター） ※※ 再掲• （一社）セーファーインターネット協会（日本
ファクトチェックセンター）• 総務省• DART（株）• （特非）日本医療政策機構• （株）日本経済新聞社・グーグル（同）• （一財）日本国際協力センター• （特非）ファクトチェック・イニシアティブ• 富士通（株）• （一社） FUKKO DESIGN• 都城市• （一社）メタバース推進協議会• （国研）科学技術振興機構 戦略的創造研究推進
事業（社会技術研究開発）「SDGsの達成に向けた共創的研究開発プログラム（情報社会における社会的側面からのトラスト形成）」• 総務省※• DART （株） ※• （特非）日本医療政策機構※• （株）日本経済新聞社・グーグル（同）※• （一財）日本国際協力センター※• （特非）ファクトチェック・イニシアティブ※• （一社）FUKKO DESIGN※• （一財）マルチメディア振興センター• （学）明治大学/レンジフォース（株）・齋藤孝道• （一社）メタバース推進協議会※【個人（１者）】• 鳥海不二夫・山本龍彦【個人（４者）】• 菊池聡• （学）明治大学・齋藤孝道• 平和博• 鳥海不二夫・山本龍彦※

11③ ファクトチェック※ 再掲• （特非）ファクトチェック・イニシア
ティブ※• （一社）セーファーインターネット協会• （一社）メタバース推進協議会※（日本ファクトチェックセンター） ※• （一社）リトマス【個人（１者）】 ・ 田中優子（（大）名古屋工業大学）、犬塚美輪（（大）東京学芸大学）、荒井ひろみ（（国研）理化学研究所革新知能統合研究センター）、久木田水生（（大）名古屋大学）、髙橋容一（（大）東北大学）、乾健太郎（（大）東北大学，タフ・サイバーフィジ
カル AI 研究センター）【法人・団体（７者）】④ 研究・開発・実証【法人・団体（12者）】• 総務省※• DART （株） ※• NewsGuard（日本電気（株）（NEC）提出）• NewsGuard（日本電気（株）（NEC）提出） ※ • （学）明治大学・齋藤孝道※※• 田中優子（（大）名古屋工業大学）、• グーグル（同）・国際大学グローバル・コ • 富士通（株）• （学）明治大学/レンジフォース（株）・齋藤孝 犬塚美輪（（大）東京学芸大学）、荒井
ミュニケーション・センター※
道※
ひろみ（（国研）理化学研究所革新知能• （株）Japan Nexus Intelligence※※
統合研究センター）、久木田水生• スマートニュース（株）メディア研究所※ • （一社）メタバース推進協議会（（大）名古屋大学）、髙橋容一• （一社）セーファーインターネット協会【個人（９者）】（（大）東北大学）、乾健太郎（（大）（日本ファクトチェックセンター） ※•犬塚美輪（（大）東京学芸大学）、田中優子
東北大学，タフ・サイバーフィジカル AI• 総務省※（（大）名古屋工業大学）、藤本和則（（学）近研究センター） ※• DART（株）※
畿大学）• 鳥海不二夫・山本龍彦• （学）東洋大学社会学部 小笠原盛浩 研究室• 兼保圭介、高口鉄平• 長迫智子（（独）情報処理推進機構サ
• NABLAS（株）• 菊池聡※
イバー情勢研究室研究員）• 高口鉄平• 山口真一⑤ 国際連携・協力• スマートニュース（株）• 総務省※【法人・団体（７者）】• スマートニュース（株）メディア研究所※• （一財）日本国際協力センター※• （株）Japan Nexus Intelligence※• （一社）セーファーインターネット協会（日本 • NewsGuard（日本電気（株）（NEC）
ファクトチェックセンター） ※
提出） ※
⑥ その他
• グーグル• （株）ラック
【法人・団体（３者）】• LINEヤフー（株）【ヒアリングに対応したプラットフォーム事業者】• （一社）セーファーインターネット協会• Meta Platforms, Inc.
（日本ファクトチェックセンター） ※• （株）サイバーエージェント• TikTok Japan• 総務省※• （株）ドワンゴ• X（Twitter Japan（株））• （株）はてなデジタル空間における情報流通の全体像（現状）
【発信】

【伝送】

ジャーナリズムや取材による検証報道・情報発信

公共放送
新聞等メディア

（全国紙・地方紙・雑誌・書籍等）

クリエイター・
フリー記者
ネットメディア

（一次メディア）個人
企業（公共インフラ事業者含む）

政府・地方公共団体

研究機関（サイバーセキュリティ、認知科学、心理学、情報学、法学、社会学、工学 など）・教育機関・普及啓発機関

発信者

AI
関
連
事
業
者

事業者・サービスPF

その他の制作主体

AI
関
連
事
業
者

AI
関
連
事
業
者

消費者団体
利用者団体

（WHOなど）電気通信事業者
・サービス

情報伝送

専門家・専門機関

伝統メディア（放送波・紙媒体）（ SNS
・ブログ・掲示板・検索・動画共有・
ニュースポータル・キュレーション・
アプリストア・メタバースなど）
ロ
・者
掲示
板サ
・検
・ス
動画共有・
広告（仲SNS
介・ブPF
事グ業
・
ー索ビ
ニュースポータル・キュレーション・
アプリストア・メタバースなど）

民間放送（キー局・ローカル局等）

ファクトチェックを専門とする機関
ファクトチェック関連団体

受信者

コンテンツ制作者

伝統メディア【受信】

青色矢印：ニュースコンテンツの流れ
緑色矢印：その他の情報（コンテンツ）の流れ
赤色矢印：情報伝送PFサービス・広告仲介PFサービスを通じて伝送される情報（コンテンツ）の流れ

外国政府
国際機関

12

デジタル空間における情報流通とデジタル広告エコシステムの全体像（イメージ）

広告出稿を
直接受ける

出

情報伝送PF稿

広告代理店

ブログ、掲示板、
キュレーションなど

その他
パブリッシャー
伝統メディア、
ネットメディア、
個人サイトなど

情報受信者

告

告 主

広告
仲介PF

広告出稿を
直接受けない広告付きコンテンツの配信

SNS、検索、
ニュースポータル、
動画共有など

広

広

広告代理店

情報伝送PF13

「アテンションエコノミー」の広がり

14

 インターネット上では膨大な情報が流通する一方、人々の消費時間が有限である結果、事実に基づく正確な情報ばかりではなく、過激なタイトル・内容や、憶測だけで作成された事実に基づかない情報等によって利用者を刺激し、より多くのアテンション（注目・関心）を集めて金銭的対価を得る「アテンションエコノミー」が拡大していると指摘。

インターネットとソーシャルメディアにより、我々は絶えず情報を浴びせられると同時に、情報を発信する存在ともなった。そこでは、情報の消費と共有とが果てしなく繰り返され、情報に飢えることは、ない。
こうした情報過多の社会においては、供給される情報量に比して、我々が支払えるアテンションないし消費時間が希少となるため、それらが経済的価値を持って市場（アテンション・マーケット）で流通するようになる。
こうした経済モデルは、一般に「アテンション・エコノミー」と呼ばれる。スマートフォンなどのモバイルデバイス
が日々の生活に深く浸透したことで、我々の「身体」はますますアテンション・エコノミーに支配されるようになってくる。
心理学では、人間の思考モードを、①直観的で自動的な「システム１」というモードと、②「システム１」を補完し、熟慮を特徴とする「システム２」というモードに分けることが提案されている（二重過程理論）。
アテンション・エコノミーの世界では、前者、すなわち「システム1」を刺激することが重要だと言われる。
「刺激」を与えることで得られたユーザーの脊髄反射的な反応が経済的な価値を有するからである（こうした「反射」は、PV〔閲覧数〕や、ウェブページへの滞在時間や粘着性などにより評価され、経済的価値に換算される）。その結果、事実に基づく正確な情報よりも、より多くの「刺激」を与えるコンテンツ（フェイク
ニュースを含む）の方が、数値化された客観的評価を受けやすく、広告収入などの金銭的メリットさえ享受しやすい状況にある。
鳥海不二夫＝山本龍彦 共同提言「健全な言論プラットフォームに向けてver2.0－情報的健康を、実装へ」（2023年5月）

偽・誤情報等とは？

15【出典】総務省「【啓発教育教材】インターネットとの向き合い方～ニセ・誤情報に騙されないために～」（https://www.soumu.go.jp/use_the_internet_wisely/special/nisegojouhou/）令和６年能登半島地震に係るファクトチェック記事（例）16 日本ファクトチェックセンター（JFC）において、2024年1月27日、能登半島地震をめぐる大量の偽・誤情報の拡散を踏まえ、継続的に情報を検証し、事実確認を実施。災害発生時から復旧・復興など、それぞれの段階で何が話題【出典】 日本ファクトチェックセンター（JFC)ウェブページ
になるかの傾向について、整理・公表。
（https://www.factcheckcenter.jp/fact-check/disasters/earthquake-factcheck-list/）【災害時に広がる偽情報5つの類型】
2024年1月5日 配信 。災害 時に広が りやすい
偽情報を5つの類型に分類しています。災害発生
か ら 4 日 と 初 期 の 段 階 な の で 、 発 生 時 に 多い
「実際と異なる被害報告」「不確かな救助要請」などの事例を多く取り上げています。

【過去の津波映像や人工地震説など】
同年1月3日配信。地震などの災害については、YouTubeやTikTokなどで大量の過去動画が見つかります。誰でも簡単に動画編集できるようになったことから、東日本大震災の動画を使って「能登半島の津波」と嘘をついたり、「人工地震の証拠」と語ったりする事例が、特に動画プラットフォームで蔓延し、LINEオープンチャットやテレグラムで共有されています。ソーシャルメディアよりも閉鎖された空間であるメッセージングアプリでの陰謀論の拡散について
は、ほとんど対策がとられていない状況です。

【“変電所で爆発音”の記事削除は「人工地震工作の隠蔽」は誤り】

同年1月3日配信。人工地震説は地震に関する陰謀論で最も典型的なものです。JFCは地震のたびに専門家の解説を引用した検証記事を出していま す。 今 回 は 「 変 電 所 で 爆発 音」 とい う 記事がニュースサイトから削除されたことが疑念を広げました。爆発の事実がなかったことが確認されたための削除でしたが、こういった疑いを呼ぶこともあることか
ら、修正情報の配信などの対応が重要であることがわかります。

【「ヤマザキパンは添加物だらけ、人口削減のためにパンを運んでいる」は誤り】
同年1月10日配信。食品添加物に関する誤情報/偽情報は、普段から大量に拡散しています。JFC
でもこれまでに何度も検証してきました。添加物に批判的な人たちの間でこういった情報は拡散しがちです。

【「金沢市が用意した1.5次避難所 入るのに罹災証明書が必要」は誤り】
同年1月12日配信。行政を批判する情報も災害時には拡散します。混乱の中で行政が問題のある対応をした事例は過去にも多数あります。しかし、誤った情報に基づく批判は被災者の間に誤解を生み、現場にさらなる混乱をもたらします。

【「仮想通貨で寄付を呼びかけるサイト」は誤り】
同年1月15日配信。実在するサイトに見せかけた
偽サイトは、災害に限らずネット詐欺で非常に多い手口です。URLを確認する、実在するサイトの名前を検索して本物と比較するなど、個人情報を入力する前に慎重な対応が必須です。

【「隆起で障害と化した消波ブロック」は誤り】
同年1月17日配信。今回とは関係ない映像を使って、実際の被害と勘違いさせることは誤情報/
偽情報の定番です。画像検索を使えば、すぐに検証できます。

【政 府 の 被 災 者へ の 貸 付は たった20万円」は不正確】

同年1月17日配信。意図的ではなくとも、限られた情報をもとにして誤った言説を拡散してしまう例もあります。政府の支援策は広範で複雑なので、公式サイトなどで確認しなければ間違いやすい話題です。

【「輪島市の集団避難はビルゲイツの別荘に連れていかれる」は誤り】

同年1月22日配信。アメリカで性的人身売買で起 訴さ れたエプ スタイン元被 告 に関 する話題 が世界的に拡散したタイミングで広がった陰謀論です。
避難生活が長引くにつれ、避難所をめぐる偽情報が増えています。

【「志賀原発から海上に油19800リットルが漏れ始めた」は誤り】
同年1月22日配信。地震によって志賀原発でトラブルが発生したのは事実です。しかし、発表の一部を抜き出して、実際よりもはるかに大量の油が流出し始めたように書くのは誤りです。発信元はこれまでにもJFCが検証している信頼性が低いサイト。

令和６年能登半島地震における偽・誤情報等の流通状況

17 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第10回会合（2024年2月27日）における発表（澁谷遊野・中里朋楓＠東京大学空間情報科学研究センター/東京大学大学院学際情報学府）によると、まとめ（解析結果の速報値的な位置付けであり、査読前の研究内容を含む）として、次のとおり。
» 流通する偽誤情報のトピックは時系列的に変化する» 今回の災害ではXでの仕様変更に伴う特徴として、○ 閲覧数稼ぎの投稿が多様に見られた他、閲覧数稼ぎが目的と見られる複製投稿（コピペ投稿）も見られた○ 日本語使用者以外と推定されるユーザーによる複製投稿が全複製投稿の91.9%を占める» さらに「人工地震」がXのトレンドとなったことで、「人工地震」を含む投稿が増えた可能性も○ 複製投稿群でも人工地震のキーワードの利用が確認される○ 他方、人工地震を否定する投稿や、注意喚起を呼びかける記事の共有等も含まれる» 一般ユーザーの参加によるコミュニティノートは、災害時に即応的に偽誤情報関連の修正情報発信・注意喚起等
で役割を果たした可能性も○ 能登半島地震関連は計2,757件、羽田空港衝突関連は計108件のコミュニティノートが作成された○ 能登半島地震がコミュニティノート機能の実装以降初めての国内大規模災害であり、最大のノート作成数及び最大のノート
作成新規ユーザー数を記録した○ 今後の詳細な分析を通じてコミュニティノートの改善や活用・効果検証へと繋げられるのではないか
 どの程度偽誤情報の流通抑制に役割を果たしているのかや脆弱性（例：外部グループによる組織的な操作やコミュニティノート自身が偽誤情報の流通に寄与するなど）も含めて検証が必要» 収集データは限られているため結論づけることは難しいが、Facebook・Instagram・YouTube・TikTokについては、Xと比べてイデオロギー的な動機に基づく偽誤情報が多い可能性○ 詳細投稿データやアルゴリズムがアクセス不可であるため、詳細分析が難しい【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第10回会合（2024年2月27日）資料10-2（澁谷構成員ご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000435.html）※上記において、太字・下線部は事務局による。

SNS型投資詐欺等の認知件数・被害額の推移

18（令和５年１月～令和６年４月）【出典】警察庁「令和６年４月末におけるＳＮＳ型投資・ロマンス詐欺の認知・検挙状況等について」（https://www.npa.go.jp/bureau/criminal/souni/sns-romance/sns-touroma2024.pdf））

SNS型投資詐欺の発生状況

19

被害者との当初の接触手段【出典】警察庁「令和６年４月末におけるＳＮＳ型投資・ロマンス詐欺の認知・検挙状況等について」（https://www.npa.go.jp/bureau/criminal/souni/sns-romance/sns-touroma2024.pdf））

「生成AI」技術の急速な進展とリスク

20

 大規模言語モデル（LLM:Large Language Models）の開発が進み、従来人間が得意としてきた、情報を生成・創造する目的で用いられる生成AI（Generative AI）技術が急速に進展し、生産性向上等が期待。
 他方、偽情報・情報操作、知的財産権侵害、プライバシー侵害、偏見・差別の助長、安全上のリスク等のリスクをもたらすとの指摘。特に、偽情報・情報操作については、G7構成国全てがリスクとして認識。
 G7構成国が選択した生成AIの活用の機会(あらかじめ与えられた選択肢の中から5つを選択)

Note: The figure aggregates responses from seven respondents to the question: “From your country or region’s perspective, what are the top fiveopportunities generative AI presents to help achieve national and regional goals? (Please select five options)”.

 G7構成国が選択した生成AIに関するリスク(あらかじめ与えられた選択肢の中から5つを選択)

Note: The figure aggregates responses from seven respondents to the question: “From your country or region’s perspective, what are the top fiverisks generative AI presents to achieving national and regional goals? (Please select five options)”.

【出典】G7 Hiroshima Process on Generative Artificial Intelligence (AI), Report prepared for the 2023 Japanese G7 Presidency and the G7 Digital and TechWorking Group, OECD (2023)

グローバルリスク報告書2024（世界経済フォーラム）21

 世界経済フォーラム（WEF：World Economic Forum）「グローバルリスク報告書2024」（2024年1月）において、今後2年間で予想される最も深刻なリスクとして、AIによる偽・誤情報を警告。
 今後2年間にいくつかの主要経済国（例えば、バングラデシュ、インド、インドネシア、メキシコ、パキスタン、イギリス、
アメリカ）で選挙が実施される中、改ざんされた情報と社会不安の結びつきがリスクの中心。
 偽・誤情報のリスクは、選挙のみならず、現実の認識もより多極化し、公衆衛生から社会正義までに至る公共問題に関する議論にも浸透。また、今後10年間では、5番目に位置付け。

【出典】 世界経済フォーラム「Global Risks Report 2024」ウェブページ（https://www.weforum.org/publications/global-risks-report-2024/）

生成AIツールの普及とAI生成コンテンツの増加

22 生成AIツール「ChatGPT」の全世界合計訪問回数は1年間で146億回。これを含め、訪問回数上位50ツール
合計で240億回以上のアクセス。
 2026年までにオンライン上のコンテンツの90％がAIで生成・加工されたものになるかもしれないとの予測も存在。
 主なAIツールの全世界訪問回数【出典】 Sujan Sarkar, AI Industry Analysis: 50 Most Visited AI
Tools and Their 24B+ Traffic Behavior, Writerbuddy (2023)

 ユーロポール（欧州刑事警察機関）報告書「Facing reality?: Law enforcement and thechallenge of deepfakes」（2022）（仮訳）（抄）

専門家は、2026年までにオンライン上のコンテンツの90％が合成的に生成されたものになるかもしれないと予測する。合 成的メデ ィアと は 、 人 工 知 能 （ AI ） を使って生成され、又は加工されたメディアをいう。ほとんどの場合、合成的メディアはゲーム目的、サービスを改善するため、又は生活の質を改善するために生成されるが、合成的メディアと改良された技術の増加は、
ディープフェイクを含む
偽情報の可能性を生じさせている。

デジタル空間における「情報流通の健全性」に関する基本理念

23

情報流通過程全体に共通する高次の基本理念
 表現の自由と知る権利の実質的保障及びこれらを通じた法の支配と民主主義の実現

・・・自由な情報発信と多様な情報摂取の機会が保障され、個人の自律的な意思決定が保護されるとともに、これを通じ、表現の自由や知る権利以外の様々な権利利益（営業の自由など）にも配慮したルールに基づく健全な民主的ガバナンスが実現すること

 安心かつ安全な情報流通空間としてのデジタル空間の実現

・・・平時・有事（災害発生時等）を通じ、アテンション・エコノミーを構造的要因とするものを含め、偽・誤情報や悪意ある情報の流通による権利侵害、社会的混乱その他のフィジカル空間への影響が抑止されるとともに、情報流通の過程全体を通じ、サイバー攻撃や安全保障上の脅威等への対抗力が確保された強靱なデジタル空間が実現すること 国内外のマルチステークホルダーによる国際的かつ安定的で継続的な連携・協力

・・・デジタル空間に国境がないことを踏まえ、国内外の民産学官を含むマルチステークホルダーが相互に連携・協力しながらデジタル空間における情報流通に関するガバナンスの在り方について安定的かつ継続的に関与できる枠組みが確保されていること

情報流通の過程ごとに具体化

情報発信に関する基本理念
 自由かつ責任ある発信の確保

・・・自由かつ、ジャーナリズムやリテラシーに裏付けられた責任ある発信が確保されていること

 信頼できるコンテンツの持続可能な制作・発信の実現

・・・信頼できる魅力的なコンテンツの制作・発信（ファクトチェックを含む）に向けたリソースが安定的かつ継続的に確保され、そうした活動の透明性が確保されるとともに、その価値が正当に評価されていること

情報受信に関する基本理念
 リテラシーの確保

・・・受信者において技術的事項を含むリテラシーが確保され、デジタル社会の一員としてデジタル空間における情報流通の仕組みやリスクを理解し、行動できること

 多様な個人に対する情報へのアクセス保障とエンパワーメント

・・・個人の属性・認知的能力や置かれた状況の多様性を考慮しつつ、あらゆる個人に対してデジタル空間における情報流通への参画と意思決定の自律性確保の機会が与えられていること

情報伝送に関する基本理念
 公平・オープンかつ多元的な情報伝送・・・多元的で信頼できる情報源が発信する情報が偏りなく伝送（媒介等）されていること

 情報伝送に関わる各ステークホルダーによる取組の透明性とアカウンタビリティの確保

・・・プラットフォーム事業者や政府を含む関係者の取組・コミュニケーションの透明性が確保されるとともに、それらの取組や透明性確保につき責任を負うべき主体・部門特定され、明確であり、当該主体・部門から責任遂行状況について十分に説明してもらうことが可能な状態にあること

 プラットフォームにおける利用者データの適正な取扱いと個人のプライバシー保護・・・個人情報を含む様々な利用者データの適正な収集・利活用とそれを通じた個人の意思決定の自律性が確保され、個人のプライバシーが保護されていること【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第17回会合（2024年4月15日）資料

役割・責務①：政府・地方自治体

24

政府に期待される役割・責務

 内外のマルチステークホルダー間の相互連携・協力に基づくガバナンスの基本的な枠組みの設計と調整
 外国政府・自治体や国際機関、グローバルなプラットフォーム事業者等との緊密な対話・連携 情報発信主体の一つとして、自らが制作するコンテンツの信頼性向上と国内外への発信力強化に向けたガバナンス体制を確立
 違法な情報流通に対する法と証拠に基づく迅速かつ確実な対応
 プラットフォーム事業者をはじめとする民間部門との間の適切なコミュニケーションとその透明性・アカウンタビリティ
確保（偽・誤情報等の流通への対応の要請など） プラットフォーム事業者をはじめとする民間部門による取組の支援（過剰介入を回避しつつ、関係省庁・部局等が相互に連携・協力し、他のステークホルダーとも連携・協力しながらプラットフォーム事業者に対するモニタリング・規制能力を向上・強化）（例）民間部門による取組の透明性・アカウンタビリティ確保の促進（透明性・アカウンタビリティ確保に向けたルールメイク等）
過剰な／過少なコンテンツモデレーションによって生じる被害に対する救済手段の確保、リテラシー向上に向けた教育・普及啓発、
ファクトチェックの推進（認知度向上等）、技術の開発・実証、人材育成 など

 デジタル広告の広告主の一つとして、アドフラウド対策やブランドセーフティ確保を通じ、広告費の支出に関するリスク管理・ガバナンスを確保

地方自治体に期待される役割・責務
 情報発信主体の一つとして、自らが制作するコンテンツの信頼性向上と国内外への発信力強化に向けたガバナンス体制を確立
 違法な情報流通に対する法と証拠に基づく迅速かつ確実な対応
 プラットフォーム事業者をはじめとする民間部門との間の適切なコミュニケーションとその透明性・アカウンタビリティ確保（偽・誤情報等の流通への対応の要請など）
 デジタル広告の広告主の一つとして、アドフラウド対策やブランドセーフティ確保を通じ、広告費の支出に関するリスク管理・ガバナンスを確保【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第20回会合（2024年5月24日）資料

役割・責務②：主として情報発信に関わるステークホルダー①
伝統メディア（放送、新聞等）に期待される役割・責務
 デジタル空間で流通する情報の収集・分析を含む取材に裏付けられた信頼できるコンテンツ（偽・誤情報の検証報道・記事や偽・誤情報の拡散を未然に防ぐコンテンツを含む）の発信 信頼できるコンテンツの制作・発信に関する方法論やノウハウの共有等を含め、他のステークホルダー（プラットフォーム事業者、ファクトチェック機関、クリエイター、消費者を含む市民社会など）と緊密に連携

ファクトチェック機関を含むファクトチェック関連団体に期待される役割・責務
 持続可能なファクトチェックの実現に向けたビジネスモデルの確立
 効果的かつ迅速なファクトチェックの実現
 以上の過程におけるプラットフォーム事業者、伝統メディア、消費者を含む市民社会、研究機関
その他のステークホルダーとの緊密な連携
 ファクトチェックに関する方法論やノウハウの共有、普及啓発、人材育成等を通じ、ファクトチェックの裾野を拡大し、社会全体への普及・浸透（伝統メディアや企業・市民社会を含む集合知のファクトチェックへの活用）を促進

専門家・専門機関に期待される役割・責務
 自らの専門領域に関わる偽・誤情報等の情報収集・分析やカウンター発信などに係るガバナンスの確保【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第20回会合（2024年5月24日）資料

25

役割・責務③：主として情報発信に関わるステークホルダー②

26

公共インフラ事業者に期待される役割・責務
 国民生活や社会経済活動が依存している基盤として提供され、他に代替することが困難な公共的なサービスや事業の運営に支障をきたす偽・誤情報の拡散に対する、事実情報の発信と関係機関への共有

その他の企業・産業界に期待される役割・責務
 デジタル広告の広告主として、ブランドセーフティが自社のブランド価値のみならずデジタル空間における情報流通の健全性に与える影響・リスクを認識し、これを軽減するための取組に主体的に関与

その他の制作・発信主体に期待される役割・責務
 発信者としてのリテラシー向上（自由な発信に伴う責任の自覚）【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第20回会合（2024年5月24日）資料

役割・責務④：主として情報伝送に関わるステークホルダー①

27

情報伝送PFに期待される役割・責務
 自社サービスやそのアーキテクチャ（サービスに組み込まれたアルゴリズムを含む）がアテンション・エコノミーの下で情報流通の健全性に与える影響・リスクの適切な把握と対応（緊急事態等における体制整備など、必要に応じたリスク軽減措置の実施）
 情報流通の適正化（投稿の削除やアカウント凍結・停止、注意喚起を促すラベル付与、表示順位の低下等、ポリシーに定められた違法・有害情報等の流通抑止のために講じる措置等）について一定の責任 ユーザの表現を預かる立場でもあり、ユーザの表現の自由の確保について一定の責任 大規模なプラットフォームサービスの提供者は、そのサービスの提供により情報流通について公共的役割
 場面（例：災害発生時など）に応じ、国民にとって必要な情報を確実かつ偏りなく伝送 伝送情報へのコンテンツモデレーションに関する透明性・アカウンタビリティの確保（発信者への理由説明その他の救済手段の確保を含む）
 利用者データの収集・利活用（プロファイリングを含む）の適正性やこれらを通じたレコメンデーションを行う場合
における透明性・アカウンタビリティの確保
 啓発活動や技術実装・アーキテクチャ設計を通じた利用者のリテラシー向上支援 ファクトチェックの推進 自社サービス上に表示される広告の質の確保に向けた取組とその透明性・アカウンタビリティの確保
 以上の各役割・責務を果たす上での伝統メディア、ファクトチェック機関、広告主・広告関連事業者、AI関連事業者、研究機関、利用者を含む市民社会その他のステークホルダーとの緊密な連携（自主的な行動規範への参画、データへのアクセス提供などを含む）【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第20回会合（2024年5月24日）資料

役割・責務⑤：主として情報伝送に関わるステークホルダー②

28

広告仲介PFその他広告関連事業者に期待される役割・責務
 広告そのものや広告配信先メディアの質の確保に向けた取組とその透明性・アカウンタビリティの確保（伝統メディア、ファクトチェック機関、AI関連事業者その他のステークホルダーとの連携を含む）
 利用者データの収集・利活用（プロファイリングを含む）の適正性やこれらを通じたターゲティングを行う場合における透明性・アカウンタビリティの確保
 以上を通じ、アテンション・エコノミーの下での情報流通の健全性確保に貢献

メタバース関連事業者に期待される役割・責務
 社会と連携しながら更なるメタバースにおける自主・自律的な発展を目指しつつ、透明性、アカウンタビリティ、
プライバシーへの配慮、セキュリティ確保などメタバースへの信頼性を向上させるために必要な取組を実施

AI関連事業者に期待される役割・責務
 AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていることを認識した上で、必要な対策を実施
 AI開発・提供・利用において、「AI事業者ガイドライン」を参照し、指針遵守のために適切なAIガバナンスを構築するなど、具体的な取組を自主的に推進

その他の電気通信事業者に期待される役割・責務
 安心かつ安全な情報伝送に関する知見や脆弱性情報の共有等を通じた他のステークホルダー（プラットフォーム事業者、伝統メディア、ファクトチェック機関、研究機関など）との緊密な連携（緊急時における偽・誤情報対策の取組体制の確立など）
 青少年や高齢者のリテラシー確保に向けた支援・エンパワーメント（携帯キャリア等によるペアレンタルコントロールサービスの提供など）【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第20回会合（2024年5月24日）資料

役割・責務⑥：主として情報受信に関わるステークホルダー・その他のステークホルダー

29

プラットフォーム利用者・消費者を含む市民社会に期待される役割・責務
 偽・誤情報の流通・拡散、AIやデジタル広告の仕組み等、デジタル空間における情報流通に関するリスクや構造の理解・リテラシー確保
 政府や事業者の取組に対するモニタリング（取組の透明性が確保されていることが前提）

利用者団体・消費者団体に期待される役割・責務
 プラットフォーム利用者・消費者を含む市民社会のリテラシー確保に向けた支援
 政府や事業者の取組に対するモニタリング（取組の透明性が確保されていることが前提）

教育機関・普及啓発機関に期待される役割・責務
 プラットフォーム利用者・消費者を含む市民社会のリテラシー確保に向けた効果的な教育・普及啓発活動
 信頼できる魅力的なコンテンツの制作・発信（ファクトチェックを含む）に向けた人材育成

研究機関に期待される役割・責務
 デジタル空間における情報流通の健全性（健全性に対するリスクの度合い・適切な軽減措置の在り方など）に関するファクトやデータに基づく専門的な研究・評価・分析 上記研究・評価・分析に基づく技術開発や政府・事業者の取組に関する提言・助言（研究・評価・分析結果の社会への還元）【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第20回会合（2024年5月24日）資料

デジタル空間における情報流通を巡るリスク・問題への対応の基本的な考え方～デジタル空間における情報流通の健全性確保の在り方に関する検討会とりまとめ（素案）【※第１章～第６章（「制度的な対応」を除く）】～

１．サイバーセキュリティやプライバシー等の関連分野を踏まえた社会全体で対応する枠組みの重要性
２．信頼性のある情報の流通促進と違法・有害情報の流通抑制の両輪による対応の重要性

３．個人レベルとシステムレベルの両面及び相互作用による対応の重要性

４．［個人レベル］プレバンキングとデバンキングの両輪による対応の重要性

５．［システムレベル］流通・拡散する情報とそれに付随するデジタル広告への信頼性に対する相互依存関係を踏まえた対応の重要性【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第24回会合（2024年6月27日）資料24-1

30

サイバーセキュリティやプライバシー等の関連分野を踏まえた社会全体で対応する枠組みの重要性①31

 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第7回会合（2024年1月25日）における後藤構成員（情報セキュリティ大学院大学学長）からの発表によると、インターネット上の偽・誤情報対策とサイバーセキュリティ対策との近似性を踏まえ、多角的かつスパイラル的に取組を継続する社会的な仕組み作りの重要性（サイバーセキュリティ対策と同じく長期戦）を示唆。

【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第7回会合（2024年1月25日）資料7-2-1（後藤構成員ご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000425.html）

サイバーセキュリティやプライバシー等の関連分野を踏まえた社会全体で対応する枠組みの重要性②

32

 科学技術振興機構（JST）の研究開発戦略センター（CRDS）による「研究開発の俯瞰報告書」（2023年5月）において、その前提として必要な「科学と社会」の視座として、人の認知（コグニティブ）を守るコグニティブ
セキュリティの研究も望まれている」旨が記載。
 また、7つの俯瞰区分の1つ「セキュリティ・トラスト」における研究開発領域「人・社会とセキュリティ」にて、「これまでの研究開発の流れとトレンド」として、プラットフォームにおけるコンテンツ・モデレーション等が、そして、「新展開・技術
トピックス」として、ファクトチェック等が、Misinformation・Disinformationの対策技術として紹介。

【出典】CRDS「研究開発の俯瞰報告書 システム・情報科学技術分野（2023年）」ウェブページ（https://www.jst.go.jp/crds/report/CRDS-FY2022-FR-04.html）

サイバーセキュリティやプライバシー等の関連分野を踏まえた社会全体で対応する枠組みの重要性③

33

 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第6回会合（2024年1月19日）における石井構成員（中央大学国際情報学部教授）からの発表によると、個人の認知領域の保護と個人情報・
プライバシー保護との間の共通性を踏まえ、個人情報・プライバシー保護に関する対策との連携可能性を示唆。

【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第6回会合（2024年1月19日）資料6-2-1（石井構成員ご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000423.html）

信頼性のある情報の流通促進と違法・有害情報の流通抑制の両輪による対応の重要性

34

 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第18回会合（2024年5月9日）における脇浜構成員（京都産業大学現代社会学部教授）からの発表によると、デジタル空間における情報流通について、「パッシブ・アクセス」と「アクティブ・アクセス」という二面性に分けて考えることが重要。

【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第18回会合（2024年5月9日）資料18-2-2（脇浜構成員ご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000471.html）

個人レベルとシステムレベルの両面及び相互作用による対応の重要性

35

 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第4回会合（2023年12月5日）における田中構成員（名古屋工業大学大学院工学研究科基礎類教授）からの発表によると、デジタル空間における情報流通の健全性を確保するという目的達成の下、その情報流通を巡るリスク・問題に社会全体で対応する
枠組みにおいては、「個人レベル」と「システムレベル」に分けて考えることも重要。

【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第4回会合（2023年12月5日）資料4-1（田中構成員ご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000417.html））

プレバンキングとデバンキングの両輪による対応の重要性

36

 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第4回会合（2023年12月5日）における田中構成員（名古屋工業大学大学院工学研究科基礎類教授）からの発表によると、個人レベルの対応について、認知科学や心理学の分野においては、偽・誤情報等が流通・拡散する前の対応と発生後の事後の対応
で「プレバンキング」と「デバンキング」に分けた上で研究等が進展。

【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第4回会合（2023年12月5日）資料4-1（田中構成員ご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000417.html））

流通・拡散する情報とそれに付随するデジタル広告への信頼性に対する相互依存関係を踏まえた対応の重要性

37

 システムレベルの対応については、なりすまし型「偽広告」を含む違法・不当なデジタル広告を掲載されたメディア及びそこに投稿等されるコンテンツの信頼性が低下するとともに、偽・誤情報等の違法・有害な情報が投稿等されるメディアに掲載されたデジタル広告の信頼性が低下するという、それぞれの信頼性に対する相互依存関係を踏まえ、メディア、そこに投稿等されるコンテンツ、デジタル広告におけるそれぞれの信頼性を確保する観点からの対応が重要。

【出典】 「デジタル空間における情報流通の健全性確保の在り方に関する検討会」第11回会合（2024年3月5日）資料11-2（クオリティメディアコンソーシアムご発表資料）（https://www.soumu.go.jp/main_sosiki/kenkyu/digital_space/02ryutsu02_04000417.html））

プラットフォーム事業者ヒアリング結果の総括（案） 総論1/2

38

 各プラットフォーム事業者からの回答を踏まえた各項目のヒアリング結果については、デジタル空間における情報流通の健全性に関する基本理念（特に、情報伝送に関する基本理念）及び当該基本理念にのっとりプラットフォーム
事業者に期待される役割・責務に照らすと、対象事業者・サービス全体として、次のとおり総括できるのではないか。
【１．基本理念にのっとりプラットフォーム事業者に期待される役割・責務】


インターネット上の偽・誤情報等の流通・拡散については、例えば、令和6年能登半島地震においても救命救助・復旧復興活動を妨げる等実空間における影響が顕在化・深刻化しており、デジタル空間における情報流通の主要な場や公共インフラとなっているSNS
等を提供するプラットフォーム事業者には、偽・誤情報等の流通・拡散の低減に向けて、社会的責任が求められる。



具体的に、自社サービスやそのアーキテクチャ（サービスに組み込まれたアルゴリズムを含む）がデジタル空間における情報流通の健全性、ひいては権利侵害・社会的混乱その他の実空間や個人の意思決定の自律性に与えるリスク・影響を適切に把握した上で、コンテンツモデレーション、広告の質の確保や質の高いメディアへの広告配信に資する取組を実施するなど、情報流通の適正化に取組む
一定の責任を果たすとともに、利用者の表現を預かる立場として、利用者の表現の自由の確保に取組む一定の責任を果たすことが期待されている。特に、大規模事業者については、デジタル空間における情報流通について公共的役割を果たしている。



そのため、自社サービスの利用者及び利用者以外の者を含む社会全体に対して、デジタル空間における情報流通の適正化や利用者の表現の自由の確保に向けた取組に関する透明性・アカウンタビリティが確保されることが求められる。透明性・アカウンタビリティが確保されるためには、自社サービスにおける偽・誤情報等の流通・拡散の実態・リスク・影響や、その抑制への対応の効果に関する総量的な数値の把握等という全体的な傾向に関するマクロ的な観点と、ファクトチェック団体等の信頼できる第三者からの申出に対し十分にコンテンツモデレーションが行われない場合、発信者に対し過度なコンテンツモデレーションが行われた場合、受信者や広告主に対し違法・
不当なレコメンデーションや広告ターゲティングが行われた場合等における反論や異議申立て等の救済機会の確保等という個別具体的な場面に関するミクロ的な観点の両面からの対応が必要である。

以上の確保とともに、民産学官のマルチステークホルダーとの連携・協力を通じ、自社サービスの利用者及び利用者以外の者を含む
社会全体による客観的な根拠に基づく批評がプラットフォームサービスの運営にフィードバックされることを通じて、自社サービスやそのアーキテクチャの設計上の創意工夫、コンテンツモデレーション、広告の質の確保や質の高いメディアへの広告配信に資する取組等の情報流通の適正化や利用者の表現の自由の確保に向けた取組に関する運用改善に対する信頼性の向上、さらに、最新サービスの利益を享受しながら、リスクを理解した上で、安心・安全にサービスを利用することが可能な環境の構築につながる。

【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第22回会合（2024年6月10日）資料22-1-1

プラットフォーム事業者ヒアリング結果の総括（案） 総論2/2【２．プラットフォーム事業者における取組状況及びその透明性・アカウンタビリティの確保状況】

39



プラットフォーム事業者による偽・誤情報等への対応について、民産学官のステークホルダーとの連携・協力を通じた日本国内における取組状況としては、特に、普及啓発、リテラシー向上、人材育成、ファクトチェックや研究開発の推進については、様々な取組が一定程度進められつつある。引続き、これらの取組の更なる推進が重要。



また、研究機関等へのデータ提供、サイバーセキュリティとの連携の推進、伝統メディア（新聞・放送）や行政機関・地方公共団体
等の情報源による発信等については、偽・誤情報等への対応の観点から一定の取組はみられるものの、全体として十分ではなく、研究機関、サイバーセキュリティ関係機関、伝統メディア、行政機関や地方公共団体、消費者・利用者団体、事業者団体等との連携・協力を通じた一層の取組が今後必要。



他方、デジタル空間における情報流通の適正化や利用者の表現の自由の確保に向けた取組として、特に以下の項目1～13の日本国内における取組状況について、全体として十分な回答が得られたとは言いがたく、特に国外事業者においては、全ての事業者ではないが、質問への回答期限を過ぎ、かつ、質問に対する直接的な回答がなかったこと、ポリシー等がグローバルなものであり言語や地域の特性等を問わずに運用とされるなど、日本国内の状況を踏まえた取組に関する明確な回答がなかったことに鑑みても、日本国内で公共的役割を果たす上で、透明性・アカウンタビリティの確保は総じて不十分。これに加え、取組状況についても、得られた回答を踏まえても全体として十分とは言えず、事業者団体による行動規範の策定に関する議論が白紙となり中断されていること※も鑑みると、事業者に※ プラットフォームサービスに関する研究会第42回（2023年3月9日）及び本検討会WG第8回
よる自主的な取組も期待できない状況であり、新たに具体的な対応が必要。 （2024年3月18日）における（一社）ソーシャルメディア利用環境整備機構（SMAJ）による説明
等を参照

1. ヒアリング対象サービスの規模の把握・公表 （例えば、最近のMAU、月間合計投稿数）
2. 偽・誤情報の流通・拡散への対応方針 （例えば、個別ポリシー等の公表・見直し、モデレーション等の考え方・基準・類型別適用等）
3. 偽・誤情報の流通・拡散に対するモデレーション等の手続・体制 （例えば、第三者からの日本語による通報や自社による検知・対応等）
4. 偽・誤情報の流通・拡散への対応状況 （例えば、モデレーション等の件数、日本語対応可能な人数、信頼できる情報のプロミネンス等）
5. 偽・誤情報の発信者（投稿者）の表現の自由等への配慮 （例えば、発信者等への通知、苦情等受付、日本語対応可能な人数等）
6. レコメンデーションやモデレーション等に関する透明性・アカウンタビリティ確保に向けた取組状況 （例えば、アルゴリズムやパラメータの開示等）
7. 令和６年能登半島地震関連の偽・誤情報の流通・拡散への対応 （例えば、モデレーション等の件数、今後の対応強化等）
8. 選挙時の偽・誤情報の流通・拡散への対応状況 （例えば、選挙関連ポリシーの策定・運用状況、ミュンヘン協定に関する国内取組等）
9. なりすましへの対応状況 （例えば、アカウント開設時の審査、配信コンテンツの事前審査、アカウント開設後やコンテンツ配信後の対応等）
10.広告の質の確保への対応状況 （例えば、アカウント開設時の審査、配信広告の事前審査、アカウント開設後や広告配信後の対応等）
11.広告配信先の質の確保への対応状況 （例えば、広告配信先メディア（広告媒体）の事前審査やそれが悪質なサイトであった場合の事後対応等）
12.発信者への広告収入分配等の状況 （例えば、発信者への広告収入の分配プログラムへの参加に関する事前審査、ポリシーの運用状況等）
13.AI・ディープフェイク技術への対応状況 （例えば、 「AI事業者ガイドライン」を踏まえた対策状況、AIで生成されたコンテンツの投稿への対応状況等）【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会第22回会合（2024年6月10日）資料22-1-1

ワーキンググループにおける検討事項

40

 WGでは、デジタル空間における情報流通の健全性に関する各検討課題への対応の在り方について、
下記左表①～⑧の８つの論点に分類・整理しながら検討を進めてきたところ、第23回会合（2024
年5月27日）までの検討状況を踏まえ、引き続き検討が必要な論点について、相互の関連性等の観点から下記右図１～５の5つに再整理した上でさらに検討。
■WG第23回会合までに検討した論点
大分類
①

小分類

１

a. 災害発生時等における情報流通の健全性確保の在り方b. マルチステークホルダーによる連携・協力の② １．情報流通の在り方
健全性を巡る
課題一般への c. 偽・誤情報に対するコンテンツモデレーション③ 対応の在り方
等の在り方④

d. 情報伝送PFが与える情報流通の健全性への影響の軽減に向けた方策の在り方⑤

a. 広告の質の確保を通じた情報流通の健全性確保の在り方

２．広告収入b. 質の高いメディアへの広告配信に資する取組⑥ を基盤としたを通じた情報流通の健全性確保の在り方
ビジネスモデルに起因する
c. 情報伝送PFによる発信者への経済的⑦ 課題への対応
インセンティブ付与や収益化抑止の在り方の在り方⑧■引き続き検討が必要な論点

d. 情報流通の健全性確保の観点から見たレコメンデーションやターゲティングの在り方

情報伝送PFによる偽・誤情報への対応の在り方（コンテンツモデレーションの実施の促進方策等）
左記③⑦関連２ 情報伝送PFが与える情報流通の健全性への影響の軽減に向けた方策の在り方（情報伝送PFによる社会的影響の軽減措置等）
左記①④⑧関連

３

マルチステークホルダーによる連携・協力の枠組み整備の在り方（協議・決定の実効性担保方策等）

左記②関連

４

広告の質の確保を通じた情報流通の健全性確保の在り方（広告の事前審査の実効性向上方策等）
左記⑤関連

５ 質の高いメディアへの広告配信に資する取組を通じた情報流通の健全性確保の在り方（広告主や広告仲介PFによる取組の促進方策等）【出典】 デジタル空間における情報流通の健全性確保の在り方に関する検討会 ワーキンググループ第25回会合（2024年6月7日）WG25-1-1

左記⑥関連情報流通プラットフォーム対処法（プロバイダ責任制限法の一部改正）の概要

41

誹謗中傷等のインターネット上の違法・有害情報に対処するため、大規模プラットフォーム事業者に対し、①対応の迅速化、②運用状況の透明化に係る措置を義務づける。
改正事項

大規模プラットフォーム事業者※１に対して、以下の措置を義務づける。
※１ 迅速化及び透明化を図る必要性が特に高い者として、権利侵害が発生するおそれが少なくない一定規模以上等の者。

① 対応の迅速化 （権利侵害情報）・ 削除申出窓口・手続の整備・公表
・ 削除申出への対応体制の整備（十分な知識経験を有する者の選任等）
・ 削除申出に対する判断・通知（原則、一定期間内）② 運用状況の透明化
・ 削除基準の策定・公表（運用状況の公表を含む）
・ 削除した場合、発信者への通知
上記規律を加えるため、法律※２の題名を「特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律」（情報流通プラットフォーム対処法）に改める。
※２ 特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律（プロバイダ責任制限法：プロバイダ等の免責要件の明確化、発信者情報開示請求を規定）

施行期日公布の日（令和６年５月17日）から起算して１年を超えない範囲内において政令で定める日

おわりに［YouTubeのフェイクニュース問題啓発］
ほんとかな？が、あなたを守る。

https://www.youtube.com/playlist?list=PLQntWbrycbJcpM6
aVvc5gnP_HMxPF5weB

42［啓発教育教材］
インターネットとの向き合い方～ニセ・誤情報に騙されないために～

https://www.soumu.go.jp/use_the_internet_wisely/special/
nisegojouhou/

ありがとうございました。