第4回情報法制シンポジウム
テーマ3「デマ・フェイクニュース・炎上とどう向き合うか～コロナ禍で見えたソーシャルメディアの課題」（2020年6月22日(月) 開催）
オンラインセッション中に投稿された質問へのパネリストからの回答■パネル（五十音順）
司会：鳥海 不二夫（JILIS理事・東京大学准教授）
笹原 和俊（名古屋大学講師）
三浦 麻子（大阪大学教授）
山口 真一（国際大学GLOCOM准教授・主任研究員）■Q&A
Q1. ネットでは、事実でなくてもショッキングな情報のほうが広まりやすいという傾向があるのでしょうか。また、後から否定や訂正情報が出ても、最初のデマのインパクトに追いつけないのでしょうか。正しくデマを取り消すにはどのような動きが必要だと思われますか。
→ネットでなくとも，事実でなくてもショッキングな情報は（デマやフェイクニュースに限らず）広まりやすいです．理由は「ショッキングだから」です．（三浦）→ツイッターのRTの場合，当該ツイートだけが拡散しますので，後から否定や訂正を出しても多くの拡散者はそれを見ていません．「正しい」かどうかわかりませんが，より適切な方法は当該ツイートを削除することです（もちろんそれでパーフェクトではありません）．（三浦）→三浦先生のコメントに全面的に同意です。そのうえで、補足で。フェイクニュースの研究では、情報が目新しくセンセーショナルだと拡散しやすいことが分かっています。また、鳥海先生も研究されていましたが、感情的・とりわけ怒りを伴った投稿は拡散しやすいです。真実は、いくらでもセンセーショナルに出来る虚偽の情報に比べて地味なので、余り拡散されません。（山口）Q2. Twitter情報から記事・映像にしたリアルメディアのほうがデマを拡散したパワーが強かったということでしょうか。
→そもそもの到達可能な人数がテレビとTwitterでは大きく異なります．なんだかんだ言ってテレビの方が未だに視聴者も多く，影響力が強いようです．（鳥海）→結局視聴者数（閲覧数）が全く異なるので、Twitterだけで広まるよりも、メディアが流す方がはるかに広まるということです。また、メディアの情報を引用してTwitterで言及し、それがまた拡散されて別のメディアで取り上げられ……といったような共振による拡大も指摘されています。（山口）Q3. テラスハウス事件で役職者の方が炎上に参加していたというのはテラスハウスの視聴者層を考えると感覚から遠いように思われるのですがいかがでしょうか。

→もちろん、炎上事例によって傾向は異なります。例えば、ベッキーが不倫で炎上した事例や、ルミネのCMがセクハラだとして炎上した事例では、女性の比率が高くなります。それでも、大まかな傾向として男性が多く、無職や学生ばかりでないというところは変わらないかと思います。NHKが木村さんの事件で書き込んだ人にインタビューした際も、、20代男性や60代男性等、様々な人が回答しています。（山口）Q4. コロナ禍ではネット炎上数が前年同月比で約3.4倍との話がありましたが，これはコロナ禍だからこそ急増したものであると捉えてよいのでしょうか．また炎上の定義は1000RT以外になにか条件を与えているのでしょうか．
→私もこれは質問したかったことです．つまりコロナ禍で総ツイート数は前年同月比でどの程度だったかと，炎上の定義が「1000RT」だとすると，現状のツイッターでは「ちょっとバズった」程度のツイートが「炎上」していることになるので，他に条件があるはずではないかとお聞きしていて思いました．（三浦）→確固たる定義がないのが現状です。私がしている定義は、「ある人や企業の行為・発言・書き込みに対して、インターネット上で多数の批判や誹謗中傷が行われること。」です。学術よりも社会に用語が浸透したのが早かったこともあり、明確な数の定義はないと認識しています。1000RTというのはあくまでNHKの調査の際に使った指標です。（山口）→この件数の統計をとったデジタル・クライシス総合研究所は、以下のような基準で継続的に炎上調査を行っています。①ソーシャルリスニングツール「SMDB」を使用し、「炎上」というキーワードで取得された投稿を対象。SMD
Bはソーシャルメディアなど94媒体（Twitter、Facebook、Yahoo!ニュース、アメブロ等）のデータを収集するツール。
②重複・火災情報などの無関係データを削除。③目視で内容精査。そして同一企業で重複しているものや、対象が特定の団体や個人に依存しないものを削除。（山口）Q5. 同じ文意の投稿について・表記（複数の同義語がある単語について、どれを選んだか、語尾等）
・文章の長さ・投稿時間 等によって炎上しやすさの差があるのでしょうか。2015年コンピュータ利用教育学会で、形態素解析による指標化が試みられていますが、結論に至っておりません。その後他の研究で何らかのパラメータ化が図られているのでしょうか。
→私の知る限り，炎上のしやすさについて文章の長さなどの影響の一般性は示されていないかと思います．（鳥海）Q6. ソーシャルメディア（インターネット）とマスメディア（レガシーメディア）を比較する場合、マスメディアと一口で括るのは不適当ではないか。新聞とテレビ・ラジオでは機能もビジネスモデルも違うからだ。
→確かにマスメディアに様々なものがありますので，必要に応じて個別に議論すべきかとは思います．一方で，ソーシャルメディアも様々なものがあるため，一口でくくるのは不適当かもしれません．さらに言えば，ソーシャルメディアやマスメディアの情報が複雑に絡み合う現在では，ソーシャルメディアとマスメディアという分け方自体が不適当なのかもしれません．（鳥海）Q7. 山口先生：過剰規制で発信者にとって一番怖い被害はアカウントバン（アカウントの一時停止や削除）をプラットフォーマ側の判断で行ってしまうことではないでしょうか？多くの場合、理由を聞いてもプラットフォームは答えてくれないと聞きます。アカバンは情報的な死を意味しますよね。。。
→シンポジウム中に申し上げた通りですが、全くの同意です。アカウントは自分の分身でもあり、1つの投稿を削除するよりはるかに利用者に大きな影響を与えます。もちろんプラットフォーマーがそれを実施することに意義もあると思っていますが、基準・理由などの透明性の確保が重要と考えています。（山口）Q8. ドイツのNetzDG法はヘイトクライム、特に極右的な言説の投稿に対する投稿の削除が特に多いことが、削除率の高さに連動しているのではないかと思います。近時の警察への通報義務を課すという法案も、そうしたドイツの背景を考えておくべきであると思います。
→同意します。ドイツではヘイトが大きな問題となっており、ネットワーク執行法の主なターゲットはそこです。そしてそのようなドイツでも、表現の自由への過剰にネガティブな影響を懸念する声も多いです。社会情勢や背景を踏まえる必要があり、安易に参考にして導入すべきではないと考えています。（山口）Q9. 山口先生：炎上は少人数の発信者（数人レベル）による物が多いとの話がありますが、この場合は一人で複数のアカウントを使用している場合が多いのでしょうか。よく、ひどい書き込みをする人のアカウントをブロックしても別のアカウントで同じ人に誹謗中傷されるとの話を聞いたことがあります。
→そういうケースも多いです。例えば、木村さんの事件では、10回以上書き込んでいる1.3%の人が、全体の14.7%の投稿をしめていました。こういった事例はいたるところで見られており、投稿数の分布を見るとべき乗測に従っていることがほとんどです。複数アカウントまで考えたらその傾向はさらに強まると思います。この辺りは、鳥海先生が可視化に取り組まれていると認識しています。（山口）→http://torix.sakura.ne.jp/tma/
こちらで可視化を行っています．(鳥海)Q10. SNS側が運用やシステム的に対応するとすると，どういうことが望ましいor効果的と考えていますか？
→一番対応の自由度が大きいのがSNS側なので、言論の自由を損ねる法規制をする前に、そこでできることを考えたいというのが私の考え方です。（笹原）→誹謗中傷的な書き込みをしようとした時にアラートを出すということがあり得ます（これは効果が実証されています）。また、ユーザの投稿内容をAIで解析して「誹謗中傷レベル」をつけるといったことは感情分析の応用でできると思うので、ユーザが見なくて済むレベルを一括で設定できるようにするのもあり得ると考えています。単語指定ではなく、総合的な一括設定です。「ユーザが自ら設定できる」というところがポイントで、「見ないで済む権利」を守ることに繋がるかと思います。しかしこれらは、いずれも通信の秘密が関わるメッセージアプリでは難しいと思います。（山口）→メッセージアプリでも出来そうな他の点としては、デマ対策として、ニュース履歴などからデマ・虚偽情報を見た人を特定し、ファクトチェック結果を優先的に表示する等が、フェイクニュースの影響抑止に繋がると考えています。（山口）→パネルの議論にもありましたが，ペナルティの可視化は効果的ではないかと思います．(鳥海)Q11. 次亜塩素酸でもこうした分析をする予定はありますか？
→ 新型コロナのツイートは継続して収集しているので、やってみたいです。（笹原）→ 次亜塩素酸で分析を行いましたが，次亜塩素酸については誰も真実を知らなかった（あるいは未だによくわかっていない）状況のため，通常のフェイクニュースとは異なる動きをしていたように思います．(鳥海)Q12. 韓国ではインタネット実名制、検索キーワード規制等に加え、最近ではエンタメ記事のコメント欄を廃止するなど、様々な規制がかけられています。すると、コメント欄の代わりとしてYouTubeや一部のコミュニティの掲示板が新たな炎上の場となり、更に過激な炎上が始まるなど、韓国国内では規制が機能していないとも指摘されてますが、この点についてはいかがお考えでしょうか。
→ 規制をかけても、別の吐口や抜け道を求めて、よりコントロールがしにくいプラットホームに分散してしまっては、元も子もないと思います。（笹原）→規制ではそのような問題が発生することが指摘されています。ヘイトなどもそうですが、本質的に問題なのはそれを実行する人間であり、サービスではありません。普通の発信に対して大きな負の影響を与える割に、本当に対策したいところに対してはいたちごっこになるようなことは避けたいところです。（山口）Q13. 何度も改訂を重ねて真実に近づく科学の方法論やそれにかかるタイムスパンが情報社会にフィットしていないと思うのですが、どのような解決法があると思われますか？
→ 科学とは事実の積み重ねの上に成り立つものなので、そのプロセスをショートカットするような方向はありえないです。査読が遅いとか、AIやITで研究を効率化するとか、そいういう改善はありえると思いますが。むしろ、メディアが科学的知見をどう伝えるかとか、それを受け止める側がリテラシーをもつなど、情報社会に生きるものとしての態度が重要ではないでしょうか。（笹原）→ただやみくもに情報社会のスピードについていくことの負の側面を主張するものもあります．かといって「ひたすらスローが上等」というわけではもちろんなく（手続きは拙速にならない範囲で効率化すべきですが），せめぎ合いです．Fast Lane to Slow Science: Trends in Cognitive Sciences （三浦）Q14. なぜ日本では選挙に関するbotが広まっていないのか
日本の政治団体はbotの影響力の強さをあまり認識していない(~情報技術の知見や理解に乏しい)ので，海外に比べて政治目的のbotが少ないのではないでしょうか→実際「投票に積極的に行く層」（例えば地方在住×高齢者）のSNS利用率は著しく低いです．私が知る限り，政党や候補者の広報すら，全体的に見れば「ほぼ機能していない」程度の少なさ（数パーセント）です．（三浦）→三浦先生と同様の意見ですが、日本ではSNSが政治を語るプラットフォームとして機能していないのが一因だと思います。ただ、ボットやAIを使った意図的に合成された動画等は、今後の政治コミュニケーションにおいて潜在的な危険性を持つことは確かです。（笹原）→日本人は政治を語ることや政治運動自体にかなり忌避的ですので，むべなるかなと思います．もちろんそれは，日本ではbotや合成動画の負の効果はないよ，という意味ではないです．（三浦）→政治以外でのBotの利用はどうでしょうね．政治以外で効果的に使われているとすると，いずれ政治にも利用されるようになりそうですが．(鳥海)Q15. 反ワクチンのような面白いコンテンツ＝PV稼げる→広告ビジネスとして利用しやすい、bot自身がSNS上の広告→広告型ビジネスそのもの。日本であまり拡大していないのは、このような構造ができていないからだという面もあると思うですが、その理由はどこにあると思われますでしょうか？
→ 他国でボットが広告型ビジネスとして使われている例を私は知りませんが、日本ではエンゲージメントを高める存在ではないことは確かですね。AIやボットを日本人はそこまで信用していない。（笹原）Q16. ごく一部の「スーパースプレッダー」について今日の論点とずれるかもしれませんが、スーパースプレッダーと、（スーパー）インフルエンサーの違いをどう考えていらっしゃいますか？スーパースプレッダーの「動機」の背景の一部として、商業利用する他者（主に企業/営利目的者）という見方もあるように感じます。また、選挙と同じように、外交のうえでも、友好（または反感）ムードを煽るために、スーパースプレッダーまたは（スーパー）インフルエンサーを利用しているようなケースも少なくないように思います。
→ 現象としては、スーパースプレッダーもインフルエンサーもたくさんの情報を拡散している点は同じですが、インフルエンスを実際に与えられるかどうかには違いがあると思います。インフルエンサーであるためには、異なるコミュニテ
ィを貫通する情報が拡散する必要があるので、より有機的なコミュニケーションが求められます。（笹原）Q17. 自粛は表面的なことですが、日本の場合は同調圧力（ peer pressure ）が非常に強いことも考えないといけないのではないでしょうか？かつ、同調圧力にも大きな負の側面がありますから、三浦先生のおっしゃるようなシンプルな方向性は出せないのではないでしょうか。
→私は「シンプルな方向性を出せる」と言ったつもりはなく，むしろ出すのは難しいと思っています．人がそこそこ自分と周囲の人々の最低限の幸せを守って生きたいなら「今の社会ではこれはまずいようだ」を自覚することは必要だと思いますが，社会として「どうしてもこれを減らしたい」ならそれだけでは無理ですよ，あの手この手を使って下さい，と言いたいです．（三浦）Q18. 炎上参加者の属性が，ある程度の社会的地位を有する者であり，正義感から書き込みがなされるのであれば，彼らに対して「私刑は違法である」という知識を啓発することに少しは効果があると見込めないでしょうか？
→ある程度の抑止効果はあると思います。実際、木村さんの事件などもあり、誹謗中傷の被害者が提訴に踏み切る事例が増えていると聞いています。そういったことが増え、また、啓発活動が行き届けば、抑止効果が出てくると思います。具体的には、木村さんが亡くなった後にコメントを削除した60%くらいの人に対しては、そのようなリスクがあることを啓発することで効果があると思います。一方、極端な考えに支配されていて、大量に投稿する人に効果があるかは何とも言えません。（山口）Q19. ドイツの強いSNS規制の背景には長年にわたるホロコースト否認問題や移民排斥問題があるのでしょうか．
→ そのような歴史的背景をもつドイツでは、ヘイトスピーチが刑法で処罰の対象になっていて、ネットワーク執行法はその延長で成立したという経緯があるようです。総務省の資料でよくまとめられています（https://www.soumu.go.jp/main_content/000621621.pdf）。（笹原）Q20. 査読システムに関しては、コロナ禍では関連論文を優先的に査読した結果、査読が不十分となり、査読結果として付けるべき「信頼」のラベルが失われてしまって、そういうことするくらいなら、プレプリントで査読なしの方がマシ、みたいな議論もあります。
→ arXivなどもゴミ箱化していて、大学生のレポート以下のような内容のプレプリントがの投稿が増えていて、コロナの最新かつ本当に有用な情報が得にくくなっているのは問題だと感じます。（笹原）→私もそう思います（と言いつつ，自分もゴミの方に加担しているかもしれませんが…）今般このあたりのことは非常に流動的で，まだどこに落ち着くかよくわかりません．（三浦）→ハゲタカジャーナルなどを考えると，査読システムがあれば良いというものでもないというのが最近の議論かと思います．査読システムに変わる新しい学術の信頼性と速報性を両立したシステムが生まれるとよいのですが，なかなか難しいですね．（鳥海）Q21. AIの活用は重要だと思います。こういうことの開発を促進するための公的支援が必要だと思います。
→AIによる支援は今後重要になってくるかと思います．実際，盗作論文の発見は自動化している雑誌もあります．(鳥海)→なお，質疑応答で高齢者に関する質問がありましたが，高齢者は加齢によって認知機能や抑制機能が低下している場合が多く（もちろん個人差は大きいですが後期高齢者になると顕著です），またいわゆる「情報弱者」も多いので，特殊詐欺などと同様，本件についても特別なモニターが必要な対象です．ただし彼らに「知恵をつける」という介入は，前述の機能低下を考えると難しいと思います．現在申請中の予算が取れれば，高齢者心理学を専門とする同僚と一緒にプロジェクトとして研究する予定です．（三浦）→トイレットペーパー買い占め騒動に関する心理学者の見解は，私の共同研究者の小森さんのコメントもご覧いただければと思います．新型コロナ、デマはなぜ拡散したか？ 買い占めに走った人の心理（47NEWS）（三浦）