資料１－４構成員提出資料（五十音順）

 江間構成員提出資料･･････２ページ

 森構成員提出資料･･････３ページ

 山本構成員提出資料･･････５ページ

12023.11.6
東京大学 江間有沙
デジタル空間における情報流通の健全性確保の在り方に関する検討会（１） デジタル空間における情報流通に関する現在の課題


欧州 AI 規制法案、欧州評議会 AI 条約、G7 広島 AI プロセス等を含め、国際的な指針や行動規範、法令等の履行状況の確認、情報共有の仕組みや枠組みをいかに構築していくか。特に国際的に相互に確認できるような評価法をいかに確立できるか

デジタル空間における悪意ある外部からの攻撃（偽情報・サイバー攻撃も含む）に対して安全保障も含めた対策をいかに構築できるか

大規模災害や国家的危機等の緊急事態時におけるレジリエンスを検討しているか（特に人―技術システムの関係が複雑に関係しあっている場合、インシデント対応と復旧に向けた論点整理ができているかどうか）（２） デジタル空間における情報「流通」の「健全性」と基本理念AI などの技術の文脈に応じた論点の整理と議論を行うこと



様々な基本理念同士がトレードオフ関係にある時に、どのような対応を各ステークホルダーが取ればよいか（あるいは議論すればよいか）の方針が定まっていること

DE&I (Diversity, Equity and Inclusion)の立場から、特定の状況において不利益を被る人がいないかどうかを検討すること（状況によっては情報にアクセスができない人たちが出てくる可能性があるなど、前提条件として置かれている事項を想定すること。例えばスマートフォンを持っていることが想定されていないか、日本語が読めない場合があることを想定しているか等）（３）各ステークホルダーが果たすべき役割

誰がステークホルダーとなるか、ステークホルダーの多様性に配慮しているか（「利用者」が「開発者」と同義なこともあれば、利用者自身の立場や状況も多様である場合も想定にいれるべき）

デジタル空間の拡大・進化の流れが加速し、デジタル空間と物理空間がシームレスにつながりインフラ化していくがゆえに（サイバー）攻撃に対する防御の事前評価・対策だけではなく、インシデント発生時における対応も各ステークホルダーが連携して行うこと。インフラ化しているデジタル空間は特定のステークホルダーだけでは対応できない状況になる可能性もある。
以上

2

「デジタル空間における情報流通の健全性確保の在り方に関する検討会」への期待
弁護士

森 亮二

１．
本検討会の中心的な課題は偽情報への対策ですが、現に生じた現象への事後的な対策だけでなく、偽情報の流通を容易にし、偽情報に社会を破壊しうる大きな力をもたせることになった要因、すなわち、フィルターバブルやエコーチェンバーのような状況を生み出すプラットフォーム事業者等のレコメンドシステムや、さらにはそれを可能にしている大量のデータ収集の問題など、プラットフォーム事業に起因する問題にも向き合う必要があるでしょう。
偽情報が、その影響を受けやすい人物のもとにピンポイントで届けられ、人心操作（マインドハッキング）が行われる可能性があることは、ケンブリッジアナリティカ事件によって広く知られるようになりました。ご案内のとおり、フェイスブック利用者の大量のデータを入手したケンブリッジアナリティカ社が同データを詳細に分析し、「陰謀論に傾きやすい」などとプロファイリングされたグループに集中的に政治広告などを送り、2016 年米大統領選や英国のブレグジットにおける世論操作を試みたとされる事件です。
現在、プラットフォームによって大量に収集された利用者のデータを使って操作対象者を選び、プラットフォーム事業者がターゲティング広告の配信のために作り出したシステムを使って操作対象者に偽情報を含むメッセージを容易に届けることが可能になっています。このように、偽情報はプラットフォーム事業者のビジネスモデルを利用して、その破壊力を強めており、プラットフォームのビジネスモデルによって生じる各種の問題は、偽情報の悪影響の要因分析として重要な検討対象となるものと考えます。
２．
偽情報の流通に利用されるプラットフォーム事業者は、コンテンツ・モデレーション等の偽情報対策を実施することについて、社会からの強い期待を受けていると考えられます。その一方、偽情報とされるものの中には、意図的に作られた偽情報だけでなく、悪意はないが間違っている情報や、事実関係は間違っていないが異なる文脈で使われることで誤った印象を植え付けるものなどが含まれており、その境界はしばしば不明確です。何が偽情報で何がそうでないかを判別することは容易ではないのです。そのような状況で、①何を削除するか、②どのくらいの数を削除するか、といったことについて法制度を作ったり、統一的な基準を設けたりすることは必ずしも適当ではないでしょう。プラットフォーム事業者に過度の削除圧力をかけることは、当該プラットフォームに情報を投稿する利用者の表現の自由とプラットフォーム事業者自身の表現の自由を共に脅かすことにつながります。
ただし、プラットフォーム事業者の偽情報対策についての透明性と説明責任の確保については求めていく必要があります。この点は、プラットフォームサービス研究会のコンセンサスであったと記憶しています。
例えば、EU のデジタルサービス法（DSA）のように、コンテンツ・モデレーションのポリシーの公表や、モデレータに実施している訓練内容や、AI による自動処理のエラー率などの記載を求めていくことも一案でしょう。また、削除やアカウント停止などの対象になったユーザーに具体的に理由を説明することや、判断が間違っていた場合の対応など苦情処理体制の整備も求めていく必要があるでしょう。
3

３．２で述べたコンテンツ・モデレーションは事後の対応ですが、１で述べたように、偽情報に破壊力をもたせてしまう要因への対処も考えていく必要があります。例えば、DSA ではレコメンドの透明性確保や、特別なカテゴリー情報を用いたターゲティング広告の禁止、未成年者に対するターゲティング広告の禁止なども義務づけており、これらはわが国の制度設計においても参考になるでしょう。また、そもそもレコメンドに使われるのは、オンライン上で集められたユーザーのデータであり、データ収集の方法・態様とプロファイリングに代表されるその利用方法についても留意する必要があるでしょう。
４．
生成系 AI の普及によるコンテンツ爆発の影響は、偽情報にも及んでおり、AI によって生成される偽情報の問題や、AI による偽情報判定の問題も、本検討会の中心的課題になるものと考えます。
５．
デジタル空間の情報流通の健全性の確保は、現代社会における民主主義の維持や自由な言論の場の確保に不可欠です。この点を踏まえて本検討会の議論が進むことを期待します。
以上

4（１）・（２）課題＆前提とすべき基本的な認識＝情報流通の健全性を脅かしている「構造的要因」に着目すべき→構造的な要因として、オンライン・プラットフォームのビジネスモデルといわれる「アテンション・エコノミー」のひろがりがある。アテンション・エコノミーの下では、どれだけユーザーのアテンション（エンゲージメント）を奪えるかが非常に重要（死活問題）となるため、ユーザーの選好、政治的信条、認知傾向等に合った情報が強くレコメンドされる傾向にある。それによって、フィルターバブル、エコーチェンバーといった問題が先鋭化・増幅する。また、この「構造」では、アテンションを得やすい、刺激的な偽情報や憎悪的表現などが優位性を獲得しやすい（逆に、刺激に乏しい「真実」は流通しにくい）。
→このような構造を無視して、「モグラたたき」をしてもあまり実効性がない。モグラが出やすい「土壌」（環境）を改善しない限り、モグラは次々と出てくる（認知戦についても、戦いやすい「構造」に対処していかないと有効なカウンターとならない）。
（３）各ステークホルダーが共有すべき方向性＝「構造」を揺さぶるために有効な施策を検討すべき・取材等に基づく信頼できる情報・コンテンツを作成・流通させることへのインセンティブの設計・強化（その前提として、真正性が担保された情報・コンテンツなのかどうかをユーザーが認識できることが重要。こうした技術の１つとしてOP）。
・現在の「構造」下では、アテンションを奪うための強力なレコメンダーシステム（UX）によって、他律的に情報を「偏食」させられているような状況が拡大（さまざまな情報を主体的に摂取できるという「知る自由」の実質的な制約）。この「偏食」によって、偽情報等に対する「免疫」も低下しているとすれば、「情報的健康」というコンセプトを打ち出し、情報摂取行動の大切さを意識できるようなリテラシー教育を行うことが重要（意識変化の重要性。「食育」が、食品摂取行動に対する意識を変えたとすれば、そこから学ぶこともある？）。
・食品表示法は、特定の食品の摂取を禁止するのではなく、食品に関する基本情報を表示させることで、食品の安全性を確保し、食品摂取に関する消費者の自主的かつ合理的な選択の機会を確保するもの。情報の摂取についても同様の試みが必要。「情報的健康」のためには、どのような情報を「食べているのか」、「食べさせられているのか」をユーザー自身が知ることが重要（最近では、生成ＡＩが作ったものか、人間が作ったものかさえ不明瞭になってきている）。何を「食べている」のかを理解するためには、情報・コンテンツの作成者等のわかりやすい表示や、レコメンダーシステムの透明性が重要になる。
・透明性を高めることで、アテンションの獲得“だけ”を狙って、偽情報を放置したり、エコーチェンバーを放任したりするような企業（情報的健康を無視するような企業）が市場において適切に批判されるようになれば、ビジネスモデル自体（＝構造）が変化していく可能性がある。
・「構造」や意識の変化には時間が必要。その間、「構造」や認知心理学等を踏まえたベスト・プラクティスを共有し（認知心理学等を踏まえたファクトチェック記事の流通など）、その導入・実装についてインセンティブを付与することが重要。