PHP「AI社会と選挙ガバナンス」研究会

フェイクニュース拡散の仕組み：
計算社会科学の見地から
笹原 和俊
名古屋大学 大学院情報学研究科 複雑系科学専攻
JSTさきがけ発表内容
1. はじめに
2. フェイクニュースと社会の分断
3. 見たいものだけ見る私たち
4. 見たいものしか見えない情報環境
5. まとめと今後自己紹介• 2005年 東京⼤学 ⼤学院総合⽂化研究科 修了• 2012年 名古屋⼤学 ⼤学院情報科学研究科 助教• 2016年 インディアナ⼤学 客員研究員• 2017年 名古屋⼤学 ⼤学院情報学研究科 講師• 研究テーマ：
計算社会科学による⼈間⾏動と社会現象の定量的理解• 趣味：コーヒー☕3データ駆動型社会科学の誕生
電子化される行動• 携帯電話• 電子メール• ブログ• バイオセンサー

社会現象の要素が測定可能に

Lazer et al. Science (2009)

計算社会科学とはコンピュータが可能にする人間行動と社会的相互作用に関する学際科学• 計算モデルとコンピュータシミュレーション• オンラインの行動や相互作用の電子的記録（ビッグデータ）の分析• ウェブを使った大規模な行動実験（バーチャルラボ）発表内容
1. はじめに
2. フェイクニュースと社会の分断
3. 見たいものだけ見る私たち
4. 見たいものしか見えない情報環境
5. まとめと今後フェイクニュースの氾濫

https://news.yahoo.co.jp/newshack/newshack/bbc_fakenews.html

7フェイクニュースの7タイプ

https://firstdraftnews.org/fake-news-complicated/を元に作成

9フェイクニュースの定義
辞書的定義• ニュース報道の体裁で拡散される、虚偽の、しばしば扇情的な内容の情報（コリンズ）
操作的定義• ファクトチェック機関がフェイク判定をした情報（コンテンツベース）• フェイクサイトへのリンクを含む情報（ソースベース）

SNSは情報拡散装置

偽ニュースは速く遠くまでたくさん伝わる
拡散されやすい話題：
••
•
•
•
•
•

政治
都市伝説
ビジネス
テロ・戦争
科学
エンタメ
自然災害

Vosoughi et al. Science (2018)

偽ニュースを閲覧・拡散しているのは誰？
偽ニュースの共有

偽ニュースの閲覧偽ニュースの共有• 偽ニュース（政治系）の共有の80%は、0.1%のユーザによるもの• 高齢者、極右は偽ニュースの閲覧・共有が多い
Grinberg et al. Science (2019)

偽ニュースを増幅するボット
独立派

赤：人←ボット
青：人→ボット

Stella et al. PNAS (2018)

独立反対派

発表内容
1. はじめに
2. フェイクニュースと社会の分断
3. 見たいものだけ見る私たち
4. 見たいものしか見えない情報環境
5. まとめと今後認知バイアス
記憶容量不⾜(> 180)

情報過多

認知の癖• 認知的なショート
カットを使うことで、自分に関係のある情報に素早くアクセスする• 直感、経験、思い込み等

時間不⾜
意味不⾜

https://en.wikipedia.org/wiki/List_of_cognitive_biases (⽇本語版公開予定)

16偽ニュースの拡散に関与する認知バイアス
利用可能性ヒューリスティック
繰り返し報道されたり、ネット上で繰り返し見聞きしたりすると、その情報は正しいという認識が強化されてしまう傾向確証バイアス
自分の意見や価値観に一致する情報ばかりを集め、それらに反する情報を無視する傾向

バックファイアー効果
自分の世界観に合わない情報に出会ったとき、自分の世界観にさらに固執するようになるバックファイアー効果• 自分の世界観に合わない情報に出会ったとき、自分の世界観にさらに固執するようになる• 保守系の人はその効果が顕著（米国）

Bail et al. PNAS (2018)18

社会的影響私たちは他者から大きな影響を受ける。
特に、自分と似た他者から。そして、他者の感情から。
• バンドワゴン効果（勝ち馬に乗る）• 同調圧力• 類は友を呼ぶ（ホモフィリー）• 社会的ネットワーク

感情伝染

Brady et al. PNAS (2017)

道徳感情語の例：
安心、信頼、暴力、憎悪発表内容
1. はじめに
2. フェイクニュースと社会の分断
3. 見たいものだけ見る私たち
4. 見たいものしか見えない情報環境
5. まとめと今後

ソーシャルメディアの理想と現実• 多様な人々と情報をつなぐことで、機会創出や価値創造を促すプラットフォームの役割を期待されてきた• 見たいものだけを見て（確証バイアス）、つながりたい人とだけつながる傾向（同類原理）を助長している問題が顕在化エコーチェンバー
Fake !

Fake !

似た者どうしだけでつながった
閉じた情報環境• フェイクニュースの温床• ヘイトの増幅

http://busynessgirl.com/strategies-for-escaping-the-echo-chamber/

米大統領選2016のエコーチェンバー

ツイートの拡散に⾒るリベラル系（⻘）と保守系（⾚）のイデオロギーの分断
Sasahara et al. (in prep.)SNSを模した意見形成モデル• ソーシャルネットワーク 𝐺 = (𝑉, 𝐸)
𝑉: エージェント、
𝐸: 社会的つながり（フォロー）• 意見 O) (0) ∈ −1,1 と許容範囲 𝜀• 近しい意見 𝑚0 s.t. 𝑜) − 𝑚0 < 𝜀• ソーシャルフィード：
友人が(再)投稿した直近𝑙個のメッセージを表示
25

SNSを模した意見形成モデル（続き）
社会的影響 (µ) 𝑜) 𝑡 + 1 = 𝑜) 𝑡 + 𝜇∑?<=> @A (BC D , E< D )( E< D FBC D )∑?<=> @A (BC D , E< D )社会的つながりの改変 (q)• 近しくないメッセージを投稿した友人をアンフォローする• 新しい友人をいづれかの方法でフォローする：
誰でもいい orソーシャルフィードから or 友人推薦に従う

メッセージを投稿• 自分の意見を投稿 (1 − 𝑝)
• ソーシャルフィード上の近しい意見を再投稿 (𝑝)26https://osome.iuni.iu.edu/demos/echo/エコーチェンバーが生じる条件

Sasahara et al. arXiv:1905.03919

エコーチェンバー化の加速（SNSの効果）>

つながりの改変頻度 (q)エコーチェンバーに至る時間

社会的影響 (μ)

Sasahara et al. arXiv:1905.03919

フィルターバブル

ユーザの個⼈情報を学習したアルゴリズムによって、その⼈にとって興味関⼼がありそうな情報ばかりがやってくる情報環境

ツイートが運ぶ個人属性

人個性
属

Yo and Sasahara (in prep.)アルゴリズムは悪さをしない？

政治的に多様なニュースをフィルターしているのは、FBのアルゴリズムではなく、あなたの友⼈たち（社会的ネットワーク）
Bakshy et al. Science (2015)を元に作成

発表内容
1. はじめに
2. フェイクニュースと社会の分断
3. 見たいものだけ見る私たち
4. 見たいものしか見えない情報環境
5. まとめと今後フェイクニュース現象は情報生態系の問題
虚偽情報に対する要素レベルの脆弱性• 認知バイアス、社会的影響

陰謀論

偽ニュース

プロパガンダ要素レベルの脆弱性をシステムレベルに増幅 誤情報• エコーチェンバー、フィルターバブル

虚偽情報拡散の文脈• 情報過多、フェイクの自動化・巧妙化（ボット、ディープフェイク）

生産者

党派的情報
ニュース
パロディ

媒介者
スポンサード
コンテンツ
釣り記事

消費者

34

エコーチェンバーを緩和する
異質なつながりを入れると、タイムラインの情報多様性が上がる『日本経済新聞』2019.6.24 朝刊2面（笹原研究室協力）35

提案するソーシャル・ネットワーキング原理
過度な社会的影響を受けること回避しつつ、「意外なつながり」が促進されるようにナッジする

ナッジ（Nudge）
選択の余地を残しながら、自発的に特定の行動を選択するよう促す仕掛け

Polyphony
音でつながるSNS• 投稿（ボイス）が聞ける• いいね！（ブックマーク）回数は非表示→ 社会的影響の緩和• ユーザー紹介で相性を音で提示→ Nudge（特許申請中）印象的だったPolyphony上での出来事• 絵文字カルチャーが創発（お尻✒✒ 、🐸🐘）• ゴムあたまポンたろう事件• 夜な夜な励まし合う院生たち• 日々院生にちょっかいを出す先生（👍しまくる）• あまり炎上しない（声の効果、返信は1回だけ）

Be a voice, Not an echo
https://polyphony.link