2009/3/12

個人的な体験
諸外国の違法有害情報対策と、日本での検討状況と論点
画像電子学会
安全な暮らしのための情報技術研究会
マイクロソフト株式会社 楠 正憲
Masanori.kusunoki@microsoft.com

OpenNet Initiative
Global Internet Filtering Map

性的コンテンツ等の遮断

出典: http://map.opennet.net/filtering-soc.html

政治的主張の遮断

出典: http://map.opennet.net/filtering-pol.html

国家機密等の遮断

出典: http://map.opennet.net/filtering-consec.html

1

2009/3/12

VoIP 等サービスの遮断

ネットワーク概念図
児童ポルノをホストする
WebサーバーThe Internet
ISPの基幹ルーター

ISP網
ISPのDNS
サーバー

アクセス網

利用者
出典: http://map.opennet.net/filtering-IT.html

Web閲覧の流れ利用者

ISPのDNS
サーバー

ISPの基幹ルーター

対象のWeb
サーバー

DNS名で問い合わせ利用者

DNSポイズニング
ISPのDNS
サーバー

DNS名で問い合わせ

ISPの基幹ルーター

対象のWebサーバー

児童ポルノをホストするサーバーの名前を予めDNSサーバーに登録

IPアドレスを応答受け取ったIPアドレスに対してコンテンツを要求
児童ポルノをホストするサーバーについてはIPアドレスを応答しない

コンテンツの受信

ISP設備

ISP設備

DNSポイズニング
児童ポルノをホストする
Webサーバー

利用者

外部DNS参照による迂回
ISPの基幹
ルーター

外部のDNS
サーバー

対象のWeb
サーバー

外部のDNSサーバーに対して問い合わせThe Internet
ISPの基幹
ルーター

ISP網
アクセス
網

利用者

ISPのDNS
サーバー

対象DNS ISPのDNSサーバーにブロッキング
名リスト 対象となるDNS名を登録し、これらの名前に対して問い合わせないよう設定する

IPアドレスを応答受け取ったIPアドレスに対してコンテンツを要求
コンテンツの受信ISP設備

22009/3/12

外部DNS参照による迂回

IPアドレス直指定による迂回

利用者

ISPのDNS
サーバー

ISPの基幹ルーター

対象のWebサーバー

児童ポルノをホストする
WebサーバーThe Internet
ISPの基幹ルーター

ISP網
アクセス網ISPのDNS
サーバー

外部のDNS
サーバー

端末の参照するDNSサーバーを手動で設定するか、自営のDNSサーバー等を設置することで、簡単にブロッキング対象サイトに対するアクセスが可能となる

利用者

http://192.168.255.69/child.png...

IPアドレスを直接指定してコンテンツを要求
コンテンツの受信

ISP設備

芬 Lapsiporno.info

IPアドレスのリスト (一部)芬 ISP による遮断の状況

芬 Lapsiporno.info 事案の論点• ブロッキングを批判、或いは迂回方法を解説したサイトのブロッキングは検閲に当たるのではないかと芬国会で紛糾• 日本国内のサーバーも対象となっているが、当該ISPに対し芬警察などからの問い合わせは確認されていない– ブロッキングの透明性、説明責任等が果たされていない• 仮にリストが本物と仮定した場合、過剰な接続制限が行われている可能性がある– フィンランド国内の団体が2月19日にこのリストに含まれる1047のサイトを精査したところ、9つのサイトが児童ポルノを掲載していたほか、9つのサイトが年齢不詳のポルノを掲載していた。28のサイトは違法か合法か判断が難しく、46のサイトは創作性の認められる児童をモデルとした作品、残り879サイトは合法コンテンツのみだったという。
• http://en.wikipedia.org/wiki/Lapsiporno.info 等を参照
• 青少年ネット規制法成立で終わらないコンテンツ規制を巡る攻防
http://it.nikkei.co.jp/internet/news/index.aspx?n=MMITbe00000
80820083

2009/3/12

利用者

パケットドロップ
ISPのDNS
サーバー

ISPの基幹ルーター

対象のWebサーバー

利用者

クリーンフィード
ISPのDNS
サーバー

ISPの基幹
ルーター

児童ポルノをホストするサーバーのIPアドレスをBGP4等の経路制御
プロトコルで基幹ルーターに登録

URL
フィルタ

対象のWebサーバー

児童ポルノをホストする
IPアドレスへの要求に対してはURLフィルタに要求を転送

児童ポルノをホストするIPアドレスへの要求に対しては接続を遮断

URL単位で接続制御

ISP設備

ISP設備

クリーンフィードの構成 (予想図)

URLフィルタ専業事業者の例

児童ポルノをホストする
WebサーバーThe Internet
ISPの基幹ルーター

BT網

対象URL
リスト

URL
フィルタ

対象IP
リスト

BGP4等のプロトコルで対象Webサーバーへの接続をURLフィルタに転送

URL単位でフィルタリング
ISPによる新たな設備投資を要する

利用者

Youtube アクセス障害 事案• 事実関係– 2008年2月24日 Pakistan Telecom がYoutube へのアクセスを規制した際、URLフィルタへの経路情報を誤って香港 PCCW に逆流させた– PCCW の経路フィルタが適切に設定されておらず Pakistan Telecomが広報した URL フィルタへの経路を Youtube のアドレスブロックとして PCCW が全世界に広報してしまった– Youtube 宛の接続要求がパキスタンの設備に吸い込まれ、世界約 2/3の利用者が、約40分間にわたり Youtube を利用できなくなった• 論点– ISP間の経路交換に用いられる BGP4 プロトコルは脆弱で、ISP による運用ミス等が世界中の利用者に影響を与える可能性がある– ブロッキングに BGP4 を用いることは、設計時に想定された使途ではなく、ISP による運用ミス等を誘発する危険がある– 国内 ISP が誤って大規模の合法サービスを妨害した場合、逸失利益について損害賠償請求を受けるリスクを考えると、責任制限等の制度的枠組みがない限り、ISP として自主的取り組みは難しいのではないか– 運用ミスだけでなく、合法サイト等へのDoS攻撃に悪用される虞もブロッキングによる弊害• 英Wikipedia – Virgin Killer事案– Wikipediaに掲載された30年前レコードのジャケット写真が児童ポルノとして通報され、ブロッキングリストに掲載された– 英国からのWikipediaの編集が困難に– IWFがリストから削除• 英Archives.org事案– ネットのアーカイブサイトの一部が児童ポルノとしてブロッキングされたところ、ISPのサーバー運用ミスでアーカイブ全体がブロッキングされるなどのトラブルが生じた

4

2009/3/12

ブロッキングの方式
方式

検出によるアップロード抑止

法的課題• CGMサイトへ違法画像等の検出機構を追加

遮断単位

実施例回避手段DNSポイズニング

ホスト名

北欧

外部DNS, IP指定 利用の公平

パケットドロップ

IPアドレス韓国

トンネリング等

クリーンフィード

URL

英国

トンネリング
通信の秘密
TLS・URL難読化 ISP 賠償責任

– 掲示板サイト等に検出ロジックを組み込む– SHA-256等 ハッシュ関数の利用

手動での解除– 画像検出アルゴリズムの利用

ブロッキング
利用の公平
ISP 賠償責任

その他の方式セーフ サーチ

URL

特になし

フィルタリング

URL・内容削除・無効化

特になし

アップロード抑止

ファイル

再エンコード特になし

ブロッキング展開へ向けた課題•「利用の公平」「通信の秘密」との整理•

対象サイト選定・運用の透明性•遮断・運用ミス等への ISP に対する損害賠償責任•

解析・悪用の危険– ホスト名やIPアドレス単位の遮断では問題のないコンテンツまでブロックされてしまい、電気通信事業法の定める利用の公平に抵触する疑義がある– クリーンフィード等のURL単位の遮断は、URLフィルタが、パケットのペイロードに含まれる情報を参考に接続制御することから、電気通信事業法の定める通信の秘密に抵触する疑義がある– 多くの国でブロッキングは ISP による自主的取り組みとして行われているが、国内であっても ISP や地域によって対象サイトなど運用実態にはばらつきがあるようだ– 日本国内の大手ISP・ブログ等のサーバーもブロッキング対象となっているが、対象となるサーバー管理者への連絡は行われていないようだ– Youtube アクセス障害事案にみられるように、BGPをブロッキングに用いることは、世界中でサイト障害を発生させるリスクがある– 大規模サイトの運営を国内 ISP が妨害した場合、損害賠償訴訟を起こされるリスクを考えると、責任制限なしに民間の自主的取り組みを求めることは難しいのではないか– ブロッキングシステム経由で遮断対象のURL等が流出する虞がある– ブロッキング・追跡対象となっているDNSサーバーが、外部の合法サイトを参照することで、ブロッキングを合法サイトに対するDoS攻撃に利用される可能性がある– End to Endで通信の秘密・利用の公平に抵触せず• リスト管理団体がシグニチャ等を配布• 汎用性は高いが、再圧縮など検出回避が容易• ライブラリの配布や移植性、False Positiveなどが課題– 年齢推定技術の利用• シグニチャ等に依存せず被写体の年齢・性別等を推定• 精度が不十分でオーバーブロッキングを招く

日本での検討状況と論点• 電気通信事業法や、総合的な法体系での扱いをどうするか• 児童ポルノの流通抑止を超えて表現の自由を侵害することのないよう担保できるのか• リスト管理団体の中立性・独立性・透明性を如何に担保するのか• ブロッキングの運用にかかる費用を誰が負担するのか• 英仏など、児童ポルノ以外にブロッキング対象を広げる方向にあり、日本でも規制強化へ向けた社会的圧力が高まるのではないか

5