SNSの中で“つくられる真実”と“対立する正しさ”
東京工業大学環境・社会理工学院 准教授

笹原和俊（ささはらかずとし）

Profile ─
2005年，東京大学大学院総合文化研究科修了。博士（学術）。名古屋大学大学院
情報学研究科講師等を経て，2020 年より現職。専門は計算社会科学。主著に『フェイクニュースを科学する：拡散するデマ，陰謀論，プロパガンダのしくみ』（単著，化学同人）がある。

偽物が本物に，本物が偽物になる世界ンを人々に接種させ，監視用のマイクロチップ今ツイッターやフェイスブックなどの SNSを埋め込もうとしている」という陰謀論が登場（交流サイト）で目にしているニュースは真実し，ワクチン忌避や人々の不安を煽った。こうなのか？

した不確かな情報が人から人へと伝染する状態

単なる誤報か，誰かの嘘か，あるいは，意図的に操作された情報なのか？

ミシガン大学のアビーブ・オバディアは，虚偽が溢れ，あらゆる情報が信じられなくなる未来をイン
1を世界保健機関（WHO）はインフォデミックと呼び，警鐘を鳴らしている。
そ し て，COVID–19 の パ ン デ ミ ッ ク も イ ンフォカリプス（情報の終焉）と表現した 。そフォデミックも収束していない 2022 年 2 月 24の避けたい未来はいくつかの段階を経て，杞憂日，ロシアによるウクライナへの軍事侵攻が始とは言い切れない状況になってきている。

まった。SNS は現地の様子を伝え，遠隔の人々

2016 年の米国大統領選では，根拠不明の偽をつなぐ役割を果たしているが，偽ニュース情報が SNS を中心として拡散し，社会を混乱さやプロパガンダを増幅する役割もしてしまっせた。偽情報の中には，「ローマ法王がトランている。同年 3 月 16 日には，ゼレンスキー大統プ氏を支持」のような，広告収入が目当てのク領がウクライナ国民に降伏を呼びかける偽動画

リックベイト（ユーザの興味を引くような記事が SNS に投稿された。これはディープフェイクで閲覧数を増やす手法）もあれば，選挙ビジネと呼ばれる技術で合成された動画だが，不自然スや国家による情報操作を目的とした偽情報に体の動きが少なく，声が本人よりも低いなど，もあった。トランプ大統領は選挙後も不正確なすぐに偽物と見破られる低品質のものだった。

情報を SNS で発信し，不都合な事実を報道する

しかし，これがもっと精度が高いディープフェメディアを「フェイクニュース！」と糾弾した。

イクだったら，と思うと背筋が凍る。

フェイク（偽）ニュースやポスト真実という言葉が生まれ，正しさを求める人々の心が揺らぎ意見の凝集の反発を促進する

出したのはこの頃である。2020 年に選挙で敗エコーチェンバーれた後も，トランプ大統領を英雄に祭り上げる

SNS において自分と似た価値観や興味関心をQ アノン陰謀論は消滅せず，「メディアが伝えもつ人とばかりつながり，同じような情報ばか2ない真実」なるものを追い続けている 。

りが流通する閉鎖的な情報環境ができてしま2020 年 は 新 型 コ ロ ナ ウ イ ル ス 感 染 症

う。このような同じ「声」がこだまする環境を（COVID–19）のパンデミックの発生にともなエコーチェンバーという。エコーチェンバーはい偽情報が氾濫した。日本では「お湯で新型コ様々な SNS でその存在が確認されており 3，偽ロナが死滅する」という偽の予防法が出回った。

ニュースの温床となったり，ヘイトを増幅させ世界では「ビル・ゲイツが新型コロナのワクチたりし，意見の対立や社会的分断を加速させる12

「正しさ」を考えるA

B

4.0

1.0
0.5

3.5

意見

意見

3.0
2.5
2.0

0.0

−0.5

0

1000

2000

3000

t

4000

5000

6000

−1.001000

2000

3000

t t

4000

5000

6000

C
1

t=0t=1000

t=2000

意見−1

図 1 エコーチェンバーの計算モデルにおける意見の分極と社会的ネットワークの分断可能性がある。

果が図 1 である。初期状態において多様な意見

私の研究グループは，エコーチェンバーのやつながりがあったとしても，時間が経つにつ発生の仕組みを知るために，SNS でつながったれて，（A）ユーザが自分の環境で目にする意

人々の意見形成をモデル化し，その挙動を分見の多様性が減少し（同じような情報ばかりに4析した 。このモデルに登場するユーザは各自接触するようになり），（B）ユーザ全体の意見の意見をもち，意見は –1 から 1 までの実数で表の二極化が生じた。そして，（C）ユーザどう現される（–1 はリベラル，0 は中道，1 は保守）。

しのフォロー関係からなる社会的ネットワーク

そして，各ユーザは意見の許容範囲をもち，そは，異なる意見をもった 2 つのグループに分断の範囲にある他者の意見は「自分と似ている」されてしまった。この結果は，SNS を使っていと判断する。さらに，各ユーザは別のユーザをるだけでエコーチェンバーが自然に発生してしフォローすることができ，フォローしたユーザまうことを示唆している。特に，社会的影響が（友人）の投稿（意見）のみ見ることができる。

強く，アンフォローの頻度が高い条件でエコー毎回，各ユーザは自分と似た意見の友人たちかチェンバー化が加速されることがわかった。つら影響を受けて，自分の意見を少し変更し，自まり，「似た他者から社会的影響を受ける」，「似分と似ていない意見を投稿した友人をアンフォていない他者を社会的に切断する」というわれローして，別のユーザを新しくフォローする。

われの行動傾向や，これらの行動を容易にする

その後，自分の意見を投稿するか，自分に似たSNS の存在がかけ合わさることで，エコーチェ

友人の意見を選んで共有する（ツイッターのリンバー化が加速している可能性がある。

ツイートやフェイスブックのシェアに相当）。このような，SNS で日常的に行われている過程をアルゴリズムが生み出すフィルターバブル繰り返すことで，ネット環境を模した意見形成

情報環境で生じるもうひとつの問題がフィ5が進行する（簡易版のデモが公開されている ）。

ルターバブルである。フィルターバブルとは，このモデルを使ってシミュレーションした結

ユーザの個人情報を学習したアルゴリズムに
13

10080

予測精度︵％︶

604020

直接会話するよりチャットが好き

飲酒する

犬派か猫派か一人よりも大勢が好き

ストレスを感じやすい

テクノロジーに詳しい

フェイスブックの友人は１５０以上子供がいる

専門書を読む既婚

デジタルネイティブ

男女10

図 2 ツイートからの個人情報の推定

よって，その人にとって興味関心がありそう
6

機械学習のモデルをトレーニングした。そして，な情報ばかりがやってくる環境のことである 。

12 種類の個人情報のそれぞれを二択で予測で検索，オンライン広告，SNS のニュースフィーきるかを調査した 7。

ドなど，多くのオンラインサービスにこのようその結果が図 2 である。性別や年齢層（デジな情報のフィルターが埋め込まれている。このタルネイティブかどうか）などの 7 種類の個人ようなフィルターは，自分と異なる意見や異情報は 60％以上の確率で予測できることがわなる価値観の情報を隠してしまうだけでなく，かった。
「フェイスブックの友人は 150 人以上

ユーザごとにパーソナライズされてしまうので，いるか」という交友関係に関する情報も，ツみんなが共通の事実に接しづらい分断された状

イッターのある程度の書き込みから予測できる況（バブル）が生じてしまう。というのは興味深い。友人の多寡に関する情報

私の研究グループでは，ツイッターに投稿さが自発的な投稿内容に表れているのである。まれた日本語のデータを対象として，投稿に含また，性別や年齢層などの個人情報は高い精度でれるテキストのみから個人情報をどのぐらい推予測ができ，「専門書を読む」などの特徴もあ測可能なのかを研究した。調査会社を通じて約る程度予測することができた。何気なくしてい600 人の調査対象者を集め，性別や年齢層などるツイートには個人情報がコード化され，フィの基本属性だけでなく，「ストレスを感じやすルターバブルが容易に作られる状況にあることいか」「犬派か猫派か」などの質問に回答してがわかる。今後ますます機械学習の精度が上がもらい，許可を得たうえで参加者のツイートをることが予想されるため，推定された個人情報収集した。そして，収集したツイートを一定数が情報操作などに悪用される危険性が高まる。

まとめたものを自然言語処理の方法でベクトル化し，それを入力，参加者の回答を正解として，14「正しさ」を考える
SNS の中で“つくられる真実”と“対立する正しさ”

インフォカリプスを回避するためのヒントを合成することも可能になる。フェイクをつく生成の仕組みは異なるが，エコーチェンバーるテクノロジーが高度化している。早晩これらもフィルターバブルも，自分が見たいと思う情の情報技術はコモディティ化し，誰でも高度な報だけが流通する閉じた情報環境であるという偽記事や偽動画を簡単に作れる時代がやってく点は共通している。前者は「あなたが誰とつなる。そうなった時に，経済的動機や政治的意図がるか」ということによって，後者は「フィルでこうした情報技術が悪用され，インフォカリターがあなたを学習する」ことによって，そのプス的な未来に近づく可能性がある。偽情報のような閉じた情報環境ができあがる。この環境

高度化に対しては対抗技術だけでなく，レジリにフェイクが紛れ込んだならば，あるいは，真エントな社会の仕組みを探究する必要がある。

実なのにフェイクだと伝えられたならば，瞬くそして何よりも SNS を使うわれわれ自身が，こ間に共有の連鎖が生じてそれが増幅されてしまれらの環境問題を理解し，賢いユーザとなる必う。そして，フェイクを訂正したり，非難した要がある。

りする声は届かないか，打ち消されてしまう。
一方にとっての真実は，他方にとってのフェイク。そのような状況が生じてしまう。
これらに通底するのは指数関数的に増え続け

文

献1 Schick, N. (2020) Deep fakes and the infocalypse. London:
Hachette.

る情報量の問題である。2000 年代以降，イン

2 Xu, W., & Sasahara, K. (accepted) A network–based

ターネットが発展し，SNS が普及して，PC やapproach to QAnon user dynamics and topic diversity
during the COVID–19 infodemic. APSIPA Transactions on

スマホのユーザ一人ひとりが情報の発信者になり，生成される情報量は飛躍的に増えた。しかし，増え続ける情報量に対して人間のアテンション（注意力）という認知的資源は相変わらず有限なままである。このような情報過多の状
況では，注意力不足から誤った情報や不正確な情報を適切に処理できないという状態に陥る。興味関心を同じにする友人知人の影響を重要視するのも，アルゴリズムによる情報のフィルターが必要なのも，そのためである。加えて，剥き出しの感情や憎悪に満ちた中傷など本能を刺激する偽ニュースや偽動画は，理性を飛び越えて人々の心の中に侵入し，集団極性化や社会的分断を引き起こす一因となる。現にロシアのウクライナ侵略では，SNS が武器として使われ，情報大戦の様相を呈している。国家によるプロパガンダもスマホの自撮りも渾然一体となって，タイムラインに溢れている。
また，情報技術の発展は事実とフィクション

Signal and Information Processing.
3 Cinelli, M., Morales, G. D. F., Galeazzi, A., Quattrociocchi,
W., & Starnini, M. (2021) The echo chamber effect onsocial media. Proceedings of the National Academy of Sciences,
118, e2023301118.
4 Sasahara, K., Chen, W., Peng, H., Ciampaglia, G. L.,
Flammini, A., & Menczer, F. (2021) Social influence andunfollowing accelerate the emergence of echo chambers.
Journal of Computational Social Science, 4, 381–402.
5 Hao, P., Menczer, F., & Sasahara, K. (2017) EchoDemo.
https://osome.iu.edu/demos/echo/
6 Pariser, E. (2012) The filter bubble: What the internet ishiding from you. London: Penguin Books.（イーライ・パ
リサー，井口耕二訳 (2016)『フィルターバブル：インターネットが隠していること』早川書房）
7 笹原和俊 (2021)『フェイクニュースを科学する：拡散するデマ，陰謀論，プロパガンダのしくみ』化学同
人
8 Brown, T. B. et al. (2020) Language models are few–shotlearners. arXiv:2005.14165 [cs.CL].
＊COI：本記事に関連して開示すべき利益相反はない。の境界をどんどん曖昧にしている。GPT–3 な
どの最新の自然言語処理を搭載した AI は，人が書いたのと変わらないレベルの文章を生成することができる 8。また，高度なディープフェイクを用いれば，真偽の見分けが困難な偽動画
15