インターネット上の違法情報対策の共同規制的転回について
情報法制学会 2021/12/11
曽我部真裕（京都大学）

プロフィール
曽我部真裕（そがべまさひろ）
1974年⽣まれ、横浜市出⾝。京都⼤学⼤学院法学研究科教授（憲法・情報法）。聖光学院⾼等学校、京都大学法学部、同大学院法学研究科修士課程、博士課程（中退）、司法修習生（第54期）、京都大学大学院法学研究科講師、准教授を経て2013年から現職。放送倫理・番組向上機構（BPO）放送⼈権委員会委員⻑、情報法制研究所（JILIS）理事、情報法制学会運営委員など。
『情報法概説（第2版）』（共著、弘文堂）、『憲法Ⅰ 総論・統治（第2版） 』『憲法Ⅱ 人権（第2版） 』（共著、⽇本評論社）など。
Twitter @masahirosogabe
E-mail sogabe@law.kyoto-u.ac.jp

2agenda
 はじめに◦ これまでの違法情報対策の大枠◦ プロバイダ責任制限法◦ プロ責法のもとでの運用について◦ 権利侵害以外の違法情報について

 共同規制モデルへの転換◦ デジタルサービス法案◦ 総務省プラットフォームサービスに関する研究会「中間とりまとめ」

 おわりに3

はじめに 日本におけるインターネット上の違法情報対策は、プロバイダ による自主的な削除を促すことが中心であった。
 自主規制と司法的解決との複合モデル• 削除という⾏為に着⽬をして、それを促す。削除の問題は、権利侵害情報について⾔えば、最終的には被害者と加害者あるいはプロバイダとの間の⺠事訴訟で解決される 。権利侵害情報以外の違法情報については、刑事訴追がなされる。

 しかし、近年、特にＥＵ及びその加盟国において、プロバイダに対する公法的規制が試みられるようになってきた。
• 削除という⾏為への着⽬にとどまらず、プロバイダに対して態勢整備に関する⼀定の公法上の義務を課し、⾏政機関がそれをモニタリングする仕組みのもと、個々の投稿への対応のあり方については事業者の判断に委ねるという方式• ＥＵのデジタルサービス法案• ドイツのネットワーク執⾏法（ＳＮＳ（対策）法）4

これまでの違法情報対策の大枠 基本的な区別

5これまでの違法情報対策の大枠 プロバイダ責任制限法
 プロバイダ責任制限法（プロ責法）は、2001年に制定されたのち、⼤きな改正は受けてこなかったが、2021年になって発信者情報開⽰請求に関する重要な改正がなされた。
 プロ責法は、次の２点を定める。
• 権利侵害情報の流通による権利侵害に起因する債務不履⾏⼜は不法⾏為に基づくプロバイダ（法⽂上は「特定電気通信役務提供者」）の損害賠償責任を制限。
• 権利侵害の被害者が発信者に対して訴訟を提起するために必要な発信者情報の開⽰をプロバイダに求めるための発信者情報開示請求権を定める規定。

 責任制限規定の削除促進機能• プロ責法３条は、直接的には損害賠償責任の⼀部免責を⾏うものであるが、そこで期待されている機能はむ
しろ権利侵害投稿の⾃主的削除の促進である。

 発信者情報の開示• 諸外国においては、本案訴訟に付随する手続として発信者情報の開示が位置づけられていることが多いが 、⽇本では、発信者情報開⽰請求権という実体法上の権利を付与する⽅式がとられている。
6

【参考】

https://www.soumu.go.jp/main_content/000734827.pdf 7

これまでの違法情報対策の大枠 プロ責法のもとでの運用について
 プロ責法３条のもとでの事業者の自主的的な取組• 「ノーティス＆テイクダウン」の仕組みとは異なり、プロ責法３条は免責に関し、プロバイダの実質的な判断を要求。
• 2002年に「プロバイダ責任制限法ガイドライン等検討協議会」が設置され、プロ責法の運⽤に関して複数のガイドラインを策定。
• 信頼性確認団体による削除請求に関しては、プロバイダは、権利侵害であること等の確認ができているものとして扱うことにより、判断の負担を軽減。
• ガイドラインの枠外で、法務省⼈権擁護機関による削除要請が存在し、また、最近では、インターネット企業有志によって設⽴された⼀般社団法⼈セーファーインターネット協会（SIA）が運営する「誹謗中傷ホットライン」による削除を促す通知が⾏われている。

8

これまでの違法情報対策の大枠 プロ責法のもとでの運用について
 法務省⼈権擁護機関による削除要請

総務省発信者情報開⽰の在り⽅に関する研究会第１回資料1-2（2020年4月30日）

インターネット上の誹謗中傷をめぐる法的問題に関する有識者検討会第1回資料２（2021年4月27日）

9

これまでの違法情報対策の大枠 プロ責法のもとでの運用について
 セーフライン及び誹謗中傷ホットラインなどの取り組み• ⺠間団体による活動として、⼀般社団法⼈セーファーインターネット協会（SIA）が2013年から運営する「セーフライン」 においてリベンジポルノの、2020年に開始した「誹謗中傷ホットライン」において誹謗中傷の、削除要請がそれぞれ⾏われている。
• 「誹謗中傷ホットライン運用ガイドライン」に基づいて、「特定誹謗中傷」すなわち、• （ア）個人が特定可能であること、• （イ）公共性がないことが明らかである又は公益目的の表現でないことが明らかであること、（ウ）（ⅰ）特定個人の社会的評価が低下させられるものであること、または（ⅱ）社会⽣活上許される限度を超えた侮辱的表現を内容とすること• をすべて充たす場合に、削除通知を⾏っている。

10

これまでの違法情報対策の大枠 権利侵害以外の違法情報について
 違法情報に関してプロバイダに何らかの規律を⾏う特別な法令はない。

• 運営するサービス上で違法情報が投稿されたプロバイダは、一般法に従い、刑事責任を負う場合はあるが、極めて限られた場合にとどまる 。
• 違法情報に対する対策として重要なのは、プロバイダによる削除であるが、これは自主的な取り組み。

 インターネット・ホットラインセンター（IHC）• ⼀般のインターネット利⽤者からの通報を受け付け、「ホットライン運⽤ガイドライン」に照らして違法性があると判断したもの等について、⼀部は警察に情報提供を⾏うほか、プロバイダに対して削除依頼を⾏う等の活動を⾏っている。
• IHCが扱うのは、所定の違法情報（わいせつ関連情報、薬物関連情報、振り込め詐欺等関連情報、不正アクセス関連情報）が中⼼であるが、⾃殺誘引等情報についても、違法情報ではないが有害情報として例外的に扱われる。

11これまでの違法情報対策の大枠 児童ポルノのブロッキング 児童ポルノサイトのブロッキング• 削除とは別の自主的な取組として、2011年からブロッキングが⾏われている。主要なプロバイダ等によって設⽴された⼀般社団法⼈インターネットコンテンツセーフティ協会（ICSA）が、ブロッキングの対象とすべきドメイン及びURLのリストを作成して会員プロバイダに提供、それに基づいてブロッキングが実施されている。

【⼩括︓権利侵害情報対策の仕組みの特徴】① 削除という個別の⾏為に焦点を当て、その促進を図っている。プロバイダにおける体制のあり様は射程に入れていない。
② ここで問題となっている削除義務は私法上の義務であり、したがって、削除に関する紛争は、最終的には⺠事訴訟で解決されることとなっている。その意味では司法モデル。

12

共同規制モデルへの転換 インターネット環境の変化
 以上で⾒たようなあり方は、プロ責法が制定された2001年以降の数年間でその⾻格が形成されたもの。しかし、2010年代以降、これらの利⽤が急速に進むと、違法有害情報の流通の深刻度は増して⾏った。
 例えば、• 法務省⼈権擁護機関が処理したインターネット上の⼈権侵害情報に関する⼈権侵犯事件の件数は、2005年には272件だったのが漸増して2012年には671件となったのち急増し、2017年に2217件とピークに達し、その後も1900件台で高止まりしている 。
• ヤフーは、「Yahoo!ニュースコメント」において、ＡＩによる不適切投稿の削除を⾏っているところ、１⽇平均約29万件の投稿のうち、約2万件を削除。

 近年の変化として他にも⾒逃せないのは、今の例からも分かるように、⽬視だけではなくＡＩを使った自動監視技術が発展してきたこと。
 以上のような変化に対する明確な対応が検討され始めたのは、2020年、⼈気プロレスラーが誹謗中傷を苦にして⾃死を遂げたと⾒られる事案を受けてのこと。

13

共同規制モデルへの転換 デジタルサービス法案
 ＥＵにおいて違法コンテンツとの関係でプロバイダの規律を⾏っているのは、2000年制定の電⼦商取引指令であった。デジタルサービス法案
は、同指令を改正しようとするもの。
 デジタルサービス法案の規律の対象となるプロバイダは、仲介サービス、ホスティングサービス、オンライン・プラットフォーム、超巨大プラットフォームの4種。
 プロバイダに対する規律• 一般的な監視義務はないというプロバイダ責任に関して各国で共通して採⽤されている原則が、（電⼦商取引指令に引き続き）確認されている（6条、7条）。
• プロバイダには、違法情報を発⾒した場合に削除する⼀般的義務もない。
ただし、オンライン・プラットフォームに対しては犯罪⾏為が疑われる場合の法執⾏機関への報告が義務化されている（21条）。
総務省プラットフォームサービスに関する研究会第23回
参考資料５（2021年2月25日）

14

【参考】

総務省プラットフォームサービスに関する研究会第23回参考資料５（2021年2月25日） 15

【参考】

16

共同規制モデルへの転換 デジタルサービス法案
 本稿の関心からは、削除義務以外の体制整備に関わる様々な義務付けがされている点が興味深い。
その⼀端を⾒ると、オンライン・プラットフォームに対しては、下記のような義務が課されている。
• EUや加盟国の司法機関・⾏政機関によるEU法や国内法に基づいた命令を受領した場合の、違法コンテンツに対する対応⾏動の報告やユーザー情報の提供（8条、9条）• 規制当局と連絡を取るための電⼦的な窓⼝の設置、必要な場合は法定代理⼈の指定（10条、11条）• 当事者の権利や正当な利益を⼗分に考慮した利⽤規約の公開（12条）• 法令・利⽤規約違反による削除件数等に関する透明性レポートの年1回以上の提出（13条）、より詳細な透明性レポートの提出（23条）• ユーザーが違法なコンテンツを通知できる仕組みの整備とそれに対する⾏動（14条、15条）• 苦情処理・救済システムの導⼊、裁判外紛争解決機関との協⼒（17条、18条）• 信頼された旗手（trusted flagger） からの通知への優先的対応（19条）• 明らかに違法なコンテンツを提供する、あるいは明らかに根拠のない通知や苦情処理を申し⽴てるユーザーへのサービスの一時停止措置（20条）• 重⼤な犯罪⾏為の疑いがある場合の法執⾏機関への報告（21条）• 取引業者の身元確認（22条）• オンライン広告のユーザー向けの透明性確保（24条）
17

共同規制モデルへの転換 デジタルサービス法案
 さらに、超巨大プラットフォームに対しては、以上に加えて、システミック・リスクに対処するため、下記のような追加的な義務が課される。
••
•
•
•
•
•

年1回以上のリスクアセスメントと緩和策（26条、27条）
独⽴した外部専⾨機関による年1回以上の監査と監査結果に応じた措置（28条）
レコメンドシステムの透明性確保（29条）
オンライン広告のユーザー向けの透明性確保（30条）
当局や研究者にデータへのアクセスを認めること（31条）
コンプライアンス担当責任者の任命（32条）
透明性レポートの半年ごとの公開、監査報告書の当局への提出（33条）

これらの義務は、プロバイダによる個々の投稿の削除の判断に⽴ち⼊るものではなく、ユーザーが違法なコンテンツを通知できる仕組みの整備や、信頼された旗手からの通知への優先的対応をはじめとして、削除を効果的に⾏う体制整備に関する義務を課した上で、透明性レポートの公表義務付けを通じてその体制の実効性確保を間接的に義務づけるというもので、「規制された自主規制」。
18

共同規制モデルへの転換 プラットフォームサービス研究会
 2020年以降の政策動向• 日本では2020年に誹謗中傷問題に注⽬が集まり、政府においてもいくつかの動きが⾒られた。
• プロ責法改正の検討については前述。
• 法務省では侮辱罪（刑法231条）の法定刑の引き上げの検討。
• 本稿の関⼼から重要なのは、総務省の「プラットフォームサービスに関する研究会」（PF研究会）での議論である 。PF研究会は、2021年9月15日、「中間とりまとめ」を公表。

 PF研究会による調査検討で注目されるのは、主要なＳＮＳ等のプラットフォーム事業者（ヤフー、Facebook、Google、LINE、Twitter） における誹謗中傷等への対応状況について、サービス概要とポリシー、削除等の対応、削除要請や苦情に関する受付態勢・プロセス、発信者情報開示への対応、その他の取組及び情報分析・公開に関して、ヒアリングシートに基づく回答を求め、モニタリングを⾏ったこと。

19

共同規制モデルへの転換 プラットフォームサービス研究会 ヒアリングにおける質問事項は次の通り。
１．サービス概要とポリシー（①対象サービス名、②加入者数、月間アクティブユーザ数又は書き込み数、③誹謗中傷等に関して禁⽌とする情報や⾏為、削除等の対応）
２．削除等の対応（①誹謗中傷等に関する申告や削除要請の件数、②誹謗中傷等に関する申告や削除要請に対する削除件数、削除割合、削除までの平均時間、③②以外の誹謗中傷等に関する主体的な削除件数（AIを用いた自動検知機能の活用等）、④③についての削除の方法・仕組み（AIを用いた自動検知機能の活用等）、⑤不正な申告や削除要請への対策の⽅法・仕組み、対応件数）
３．削除要請や苦情に関する受付態勢・プロセス（①一般ユーザからの申告・削除要請への受付窓口・受付態勢、対応プロセス、②申⽴時における申⽴者や発信者への通知の有無、③対応決定時における通知の内容、理由の記載の程度、④⼀般ユーザからの申告や削除要請に対応する部署・チームの規模・⼈数、⑤④の部署・チームに関する日本国内の拠点の有無、日本における責任者の有無、⑥削除等への苦情や問い合わせに対する苦情受付態勢及び苦情処理プロセス、⑦⑥の苦情・問い合わせ件数）
４．発信者情報開示への対応（①発信者情報開⽰請求を受けた件数、②開⽰を⾏った件数）
５．その他の取組（①普及啓発、②その他の対策（警告表示・ミュート機能等）、③取組の効果分析）
６．情報分析・公開（①誹謗中傷等の流通状況に関する分析・調査、②研究者への情報提供、利⽤条件、③
透明性レポートの公開、⽇本語で閲覧可能か、④意⾒・補⾜）20共同規制モデルへの転換 プラットフォームサービス研究会
 モニタリングにおける主な論点は以下の通り。
・プラットフォーム事業者の削除等の取組が適切に⾏われているかどうかについて、主な評価項⽬に関して、透明性・アカウンタビリティの確保が図られているか。
・特に、海外事業者において、諸外国で⾏われている取組は我が国においても⾏われているかどうか。
・AI を⽤いた削除対応が⾏われているか。
・過剰な削除や不当なアカウント停⽌等の⾏き過ぎた対応が⾏われていないか。
・各事業者や事業者団体における啓発活動は十分か。
・削除以外の対策（事業者の創意⼯夫による対応）が⾏われているか。
・誹謗中傷等の流通状況に関する分析・調査や、研究者への情報提供が⾏われているか。

21

共同規制モデルへの転換 プラットフォームサービス研究会「中間とりまとめ」15頁
22共同規制モデルへの転換 プラットフォームサービス研究会
 今後の取組として強調されているのはプラットフォーム事業者の自主的な取組の必要性。
• プラットフォーム事業者に対して削除義務を課すことや、個別のコンテンツを削除しなかったことに対して罰則等を設ける法的規制の導入については極めて慎重な検討を要するとして否定的。
• 他⽅で、事業者が⾃らのサービス上でどのような違法・有害情報が流通しているのか、⾃ら実態把握とリスク分析・評価を⾏うことが必要だとし、また、取組の透明性・アカウンタビリティの確保⽅策が図られない場合は、それらに対する⾏動規範の策定及び遵守の求めや法的枠組みの導⼊等の⾏政からの⼀定の関与が必要であるとする。
• 「取組の透明性・アカウンタビリティ」確保に関してはさらに敷衍されており、「次回以降のモニタリングにおいて、次回以降のモニタリングにおいて、依然として事業者が⾃主的な報告を⾏わない場合や、我が国における透明性・アカウンタビリティ確保が実質的に図られない場合には、透明性・アカウンタビリティの確保方策に関する⾏動規範の策定及び遵守の求めや法的枠組みの導⼊等の⾏政からの⼀定の関与について、具体的に検討を⾏うことが必要である。」とする。

23

共同規制モデルへの転換 プラットフォームサービス研究会
 若⼲の検討①• 透明性・アカウンタビリティの確保のためのモニタリングという中間とりまとめの基本的な方針は、前述のデジタルサービス法などＥＵ（諸国）の対策を参考にしているものと思われる 。
• こうしたアプローチは、個々の投稿の違法性や削除の是⾮の判断は事業者に委ねて政府は⽴ち⼊らない代わりに、違法有害情報に対応する態勢の整備を求め、かつ整備状況を公開させることを通じて間接的にそれを（事実上）義務づけるというものである。
• 権利侵害投稿に関して⾔えば、プロ責法の限りでは削除が事実上義務付けられているのが現状であり、それ以上に削除義務を強化しても執⾏⾯での限界もあって効果は期待しにくい上に、過剰削除の懸念もあるた
め、個々の投稿に関して政府が⽴ち⼊らず（司法的な対応にとどめ）、態勢整備に着⽬して規制を⾏うことは賢明であり、EUと足並みをそろえることには実際上の意味もある。
• しかし、EUと⾜並みをそろえるという観点で⾒た場合、⽇本とEUとの決定的な違いは、法律上の根拠の有無。
• 法的根拠がないことについて問題となるのは、中間とりまとめの⽴場は、⽂字通りの「透明性・アカウンタビリティ」確保方策を超えて、事実上、間接的な義務付けとなっているのではないか。

24

共同規制モデルへの転換 プラットフォームサービス研究会
 若⼲の検討②• しかし、EUと⾜並みをそろえるという観点で⾒た場合、⽇本とEUとの決定的な違いは、法律上の根拠の有無。
• 法的根拠がないことについて問題となるのは、中間とりまとめの⽴場は、⽂字通りの「透明性・アカウンタビリティ」確保方策を超えて、事実上、間接的な義務付けとなっているのではないか。
• 中間とりまとめでは単に情報公開を求めている体裁になっているが、ヒアリング項目は上述のようにかなり詳細であり、かつ、回答できない場合にはその理由の記述を求めるなど、実質的には態勢整備の取り組みを求めている。デジタルサービス法案では、態勢整備の義務を課した上で、それとは別に、透明性レポートの公表など情報公開義務を課している。これと比較すれば、中間とりまとめは「透明性・アカウンタビリティ」によって多くを語りすぎていると言わざるを得ない。
• おそらく、法令の根拠なく、かつ⾃主的取組の尊重 を建前とする前提の下、直接に態勢整備を求めることが困難であったという事情があるのかもしれないが、疑問なしとはしない。
• ヒアリング及びモニタリングは、法律制定の前提としての⼀過性の調査といったものではなく、それを通じて⼀定の取組を間接的に事実上義務づける側⾯があるのであって、法令の裏付けなく継続的に⾏うべきものではないだろう。

25

共同規制モデルへの転換 プラットフォームサービス研究会
 若⼲の検討③• 法令の根拠があれば解決するものでもないが、根拠がなければより⼀層、モニタリングにおける評価基準が曖
昧となり、事業者側の予測可能性を奪うことになる 。他⽅で、逆に、法令の根拠がなければ強制⼒が伴わず、十分な対応が引き出せない可能性もある。
• 以上からすれば、次回以降のヒアリングにおいて⼗分な回答が得られるかどうかに関わらず、⽴法を検討することが望まれる。
• このような⽴法がなされれば、第１に、削除という⾏為からプラットフォーム事業者の体制整備に、第２に、私法的な担保から公法的・⾏政的な規律へのそれぞれ焦点が移動することになり、違法有害情報対策におけるモデルの転換を意味することになろう。法令の裏付けなくこうした⽅向にシフトしようとする現段階は、協定に基づく⾏動規範の⽅式による段階とともに、そうした転換への過渡的な段階にあると評しうる。
• 最後に、中間とりまとめは、このような転換に関し、違法情報のみならず、有害情報対策についても視野に入れているようにも思われる。特に、⻘少年の性被害防⽌に関してはプラットフォーム事業者がなしうることは多く、⻘少年保護の観点も併せて重視されることが求められる。

26

Fin
ご清聴ありがとうございました。

27