ジャパン・スポットライト 2018 年 11/12 月号掲載（2018 年 11 月 10 日発行）（通巻 222 号）

英文掲載号 https://www.jef.or.jp/jspotlight/backnumber/detail/222/
マーク・ローテンベルグ(Marc Rotenberg)氏（電子プライバシー情報センター(EPIC)会長）
コラム名：Cover Story 1（日本語仮訳版）
デジタル経済とプライバシーの保護：将来課題
変革は急速に起きつつある。かっては別々の存在であったサービスと工業セクターが、デジタルネットワークを通じて現在一緒になりつつある。家庭の温度調節器は、今や携帯電話に接続している。車はコンピューターネットワークに接続している。街角のカメラは遠く離れた警察署に画像を送る。
これらの変化はデジタル革命によってもたらされたのであるが、また法律と政策についての遠くかけ離れた問いをもたらしている。いくつかの課題はよく知られている。自動化は失業につながるのか、又は、新しいより高度な仕事を創造するのか？プライバシーのような重要な権利を守りつつ技術革新を推進するための適切なバランスは何であろうか？いくつかの課題は新しいように見える。ロボット又はそれをデザインした者がその行動の結果について責任を負うべきなのか？人工知能（AI）は我々が最早自動化された生産工程によって産み出された産物の土台にアクセスすることが出来なくなることを意味しているのか？
政府やビジネスの指導者達、そして市民団体の代表者にとって、これらの課題は現実のものであり複雑なものである。
新技術はこの情報が結果を左右する経済に収斂していくので、私は透明性と説明責任に中心的に焦点を置くことを提案したい。アメリカの発明家エジソンはかってこのように言っている。
「我々が手で創造できるものは我々の頭で制御しなければならない。」これは我々がこの急速に変化する世界を探索するにつれて良い忠告である。
インターネット時代とプライバシー保護
過去の 20 年間、我々はインターネットによってもたらされた急速な変化を目撃してきた。
中央集中型の声のネットワークから分散型のデータネットワークへの移行は、新しいビジネス、新しい政府の公共サービス、また新しいタイプの経済活動の出現を可能ならしめた。
しかし、インターネット経済はまたプライバシーの消失、金融詐欺、また ID の盗難についての増大する不安を経済にもたらした。アメリカでは連邦公正取引委員会の報告書によれ
ば債務の集積に次いで直ぐその後に ID の盗難がアメリカの消費者にとっての二番目に大きな不安となっている（連邦公正取引委員会：消費者による不満についての年次報告要約。
2018 年 3 月 1 日）。データの漏洩は、多くの国におけるのと同様にアメリカでも増大している。そして、プライバシーと安全にコミットしている既存の企業によって貯えられている
1

個人データに対する攻撃が、外国の敵によって操作されているのではないかという心配が増大している。アメリカは、又もや、他の国に対する警告的な話を持っているのだ。2015
年に、2,200 万人の連邦政府の職員、その友人また家族構成員についての記録が外国の敵によって漏洩された。漏洩された記録の中には、500 万のデジタル化した指紋、証券金融取引が依存する唯一の認証の詳細が含まれている。
従って、政府に対して、民間と政府機関両方によって貯えられている個人データを保護するためにプライバシーと安全のための包括的なプログラムの設置を要請することが緊急に求められる状況にある。現在のプライバシー法の構造の中心は、「公正な情報手続き」であり、個人データの集積と使用に関連した権利と責任である。権利と責任の配分は必ず非対称である。なぜなら、個人はいったんその個人情報が他の主体に移る時にその使用についての制御を失うからである。そのようなわけで、個人データを所有する組織はそれを保護する責任がある。また、この個人情報が漏洩したり、不正に使用されたり、収用されたりする場合に個人が権限を付与される理由ともなる。
また、個人を認識できる情報の集積を最小化したりあるいは排除する、私が「プライバシーを高める技法」と呼んできたものを開発する必要がある（マーク・ローテンベルグの米国議会証言。
「実業界におけるプライバシー」２００１年３月１日）。このような技法には、使用者の ID を捕捉したり、個人情報をリスクに曝すことなくサービスを可能にする交通手段や連絡手段のための価値保存型のカードも含まれる。個人情報の非特定化や匿名化のための確固とした技術は、また総データの使用を可能とし、個人にとってのリスクを最小化する。
欧州連合は、インターネット時代のデータ保護の課題に適切に対応しプライバシーとアイデンティティーを守りつつ、消費者の保護の手段を提供するための革新的技術の開発を促進する新しい法的枠組みの構築に主導的役割を果たしてきた。「一般データ保護法」（GDPR）は、2018 年５月に実施されたが、プライバシーの保護に包括的な道を開くものだった。これはデータ保護の最初の国際的枠組みであった 1995 年のデータ保護指令を発展させたものだ。
2017 年５月に実施された日本の個人情報保護法は、デジタル経済における信頼を確立するプライバシーの枠組みを構築するための努力の一環である。データ保護のための欧州連合の試みと日本におけるそれとの間にはいくつかの差異はあるものの、二つの枠組みは多くの共通性がある。2018 年７月の歴史的会合で欧州連合と日本政府は個人データの保護のためにお互いに協力し合うことに合意した。このような合意は、標準的な契約条項とか拘束力のある会社のルールとか、あるいはプライバシー認可といった複雑なビジネス上の約束を結ぶ必要を回避させることになるだろう。そして、その結果、デジタル情報をプライバシー保護の法的保障と交換するための世界で最大の貿易地域が出来ることになろう。これらの法律が十分かどうか、どのような新しい課題が出てくるかを評価するのは未だ早すぎるとしても、欧州連合と日本がデータ保護の発展に向けて重要なステップを踏み出したことは評価されるべきだ。
2インターネットオブシングス（IoT）
更に、将来に横たわる新しい課題は重くまた心配なものがある。インターネットは国境を越えた個人データの移動を可能にしただけでなく、物としての機器を大規模な電子ネットワークに接続し、機械とサービスの遠隔モニタリングと遠隔ハッキングの両方を可能にした。例えば、2018 年３月にジョージア州アトランタはサービスの提供と支払いの徴収のための市の能力を無力化する悪意のソフトウェアの攻撃を受けた。市の雇用者はコンピューターを止めて、手作業で仕事をやるように指示されていた。
2017 年に、”WannaCry”という世界中で 30 万以上のコンピューターを感染させた悪意のソフトウェアを使用するハッカー達が、英国の国民健康サービスを無力化し、フェデラルエ
クスプレスを含む多くの国際的企業を無能化した。ハッカー達はインターネットに接続された自動車のブレーキを遠隔操作で効かなくしたり、ホテルのドアロックの機能を奪ったり、ネットワークに接続した家庭用機器の温度調節システムを適合させたりする能力を証明した。ブルース・シュナイアーのような安全保障の専門家は、我々はインターネット接続機器のリスクの始まりを見ているに過ぎないと警告した（「ここをクリックして皆殺せ：高度に接続された世界の安全と生き残り」ブルース・シュナイアー、W.W.ノートン、ニューヨーク、2018 年）。
プライバシーとデータ保護に集中していた初期の課題と異なり、これらの新しい課題は益々公的安全の問題と関わっている。現在の安全規制はインターネット接続の機器のリスクを考慮するところまで広げられるべきである。イギリスの国立サイバーセキュリティーはおそらく国民健康サービスに対する攻撃からの教訓に鑑み、インターネット接続機器におけるサイバーセキュリティーを充実するために新しい対策を取る事を要請した。更に重要なこととして、「スマート機器の製造者は、製品の寿命が続く限り、厳しい新しい安全対策を組み込むことが期待されるようになるだろう」(国立サイバーセキュリティーセンター、「デザインによる安全確保」、2018 年３月)。このやり方はまた、消費者用機器が常にサイバー攻撃に対してより脆弱である可能性が高いという現在のリスクを認識し、またそれがゆえに機器の寿命の間はしっかりした安全プランを確立する必要があることを認めた 2015
年のアスペン研究所の通信政策についての会議で出された初期の提言を踏襲するものである。
アメリカはこの IoT の増大するリスクに対する認識が遅れている。消費財の安全保護のための機関である消費財安全委員会は、インターネット接続の機器が自分たちの領域の範囲外であると述べてきた。グーグルホームミニのような製品が、家庭内で使用者からの何の対応もなく会話の遠隔モニタリングを許容してしまうという製造欠陥を持ちながら製造されていることは驚きの結論である(CNN,「グーグルはその新しいスマートスピーカーが使用者たちへの盗聴機械だった」、2017 年９月 11 日)。
対照的に、欧州におけるインターネット接続の人形に対する反応は全く異なっているよ3うである。ノルウェーの消費者団体が、「私の友達カイラ」というおもちゃが遠隔で子供たちの会話をモニターし記録することを許容してしまうと結論付けた後、欧州の規制当局は迅速に対応した（Forbrukerradet「インターネット接続のおもちゃは欧州の消費者法に違反」、2016 年 12 月６日）
。ドイツの消費者庁は、人形の販売を禁止し、既に購入した家庭に対して、破棄するよう警告した。フランスのデータ保護庁は、もし救済策が取られないなら、制裁措置を取ることを、企業に警告した。
競争と革新
今日社会が直面しているもう一つの課題は、データ保護と競争と革新両方の間の関係に関するものである。個人のデータが科学技術の革新、医療の飛躍的進歩、政府の施策がもたらす利益や民間セクターのサービスの最も効率的な配達を可能にすることは確かに事実である。しかし、データが有益であるという一般的な指摘は、企業がそれらに無制限にアクセスすべきかどうかという質問への答えにはならない。
例えば、フェイスブックによるよく知られたメッセージサービスの会社である
WhatsApp の買収を規制当局が是認するかどうかの決定について考えてみよう。そのような話が持ち上がった際に、フェイスブックと WhatsApp は、極めて異なったビジネスモデルを通じて、お互いに競争するサービスを提供していた。フェイスブックは、使用者の利益についての知識から作られた宣伝に依存しており、多くのプライバシーと関係なく、またコストをかけずにサービスを提供することが出来た。WhatsApp は一方、使用者に対する強力な保護を提供し、また安い年間料金を課す登録モデルに依拠していた。インターネットのユーザーは、この二つのサービスから選択することが出来た。
フェイスブックによる WhatsApp の買収は、規制当局にとって実質的な問題を生じさせた。欧州では、フェイスブックは欧州連合に対し二つの会社のデータセットに加わることは出来ないことを欧州委員会に保証した。アメリカでは、フェイスブックは規制当局にWhatsApp がそのユーザーに対して行ったプライバシーについての約束を尊重し、個人データを宣伝目的のために使用しない旨を伝えた。両方の陳述とも真実でないことが後でわかった。実際、フェイスブックはデータセットに加わることが出来、WhatsApp が行ったインターネットユーザーへの約束を破棄することを計画した。欧州委員会は１億１千万ユーロの罰金を課した(ニューヨークタイムズ。
「EU、フェイスブックに WhatsApp 買収において発覚した事実に対して 12200 万ドルの罰金」2017 年５月 18 日)。アメリカでは公正取引委員会が会社に対して何らかの制裁措置を取るかどうか、未だわからない。
フェイスブックの WhatsApp 買収に関連するビジネス倫理は別として、このような企業合併は、データを保護しつつ、革新と競争を促進するのか、あるいは逆なのかを考えることは重要である。今年初めのダボスでの世界経済フォーラムでのスピーチで、アメリカの投資家ジョージ・ソロスはインターネット経済の将来の方向について明確な警告を発した。インターネット企業がしばしば革新的で自由化を促す役割を演ずることに着目しつつも、「フェ4

イスブックとグーグルは、より一層強力な独占企業となったので、彼らは技術革新の障害となってしまった。そして私たちが今になって初めて気付きつつある様々な問題を引き起こしている」と述べている。ソロスは以下のように提案した。
「彼らが独占に近い流通業者であるという事実は彼らを公益事業体とさせたので、彼らは競争と技術革新、そして公正で開かれた普遍的マーケットアクセスの実現を目的としたより厳格な規制に自身を従わせるべきなのだ。
」
私は彼の意見に賛成だ。インターネット企業の一層の定着はデータの保護にとって好ましくないのみならず革新と競争を鈍らせるのだ。規制当局は特に個人データの大量の集積に加わることが一層の技術革新に繋がるという主張に疑いの目を向けるべきだ。私は既にデータ漏洩の高まるリスクと外国の敵からの高まる脅威について述べた。フェイスブックの WhatsApp 買収を認める誤った決定の後に、我々はインターネットサービスのための重要市場における競争の崩壊を見ている（フェイスブック・WhatsApp の教訓：
「技術革新に必要なプライバシー保護」Technomy、2018 年５月４日）。
アルゴリズムの透明性と説明責任
今日のデジタル経済における最大の課題の一つは、現代のプライバシー法における最もよく知られた課題の一つである。それは、如何にして個人に関連した決定の公正、正確性、そして説明責任を保証するかということだ。この中心的問題は、プライバシーがしばしば個人の秘密ないし情報の機密性として理解される以上に中心課題であり、我々のプライバシーに対する現代の権利の核心に位置している。世界中でプライバシー法制は、個人に対して、彼らについてのどの情報が他人によって保持され、また使われるかを知る権利を保証する。
例えば、米国の銀行は貸付を拒否した場合の理由を説明する義務を持つ。そして、消費者は信用評価の創造において考慮された一般的要因を知る権利がある。しかし、消費者が銀行貸し付けやその他の商業的機会で評価される際に、詳細な要因あるいはそれらにどのようなウェイトを置いたかは正確に示されたことは全くない。この状況はすぐに変わるだろう。
欧州評議会の GDPR（「一般データ保護法」）とアップデートされたプライバシー協定の採択により、市場における消費者について評価決定を下し、インターネット・プラットフォームにおけるニュースの表示順位を決定し、刑法システムにおける決定を下すアルゴリズ
ムを透明なものとするための新しい努力が進行中である。GDPR の条文は、今、個人に対して自動化されたプロセスのロジックについての説明ないしはそれへのアクセスが与えられることを要求する。新しく必要となったデータ保護の影響アセスメントは、データを処理する者に対してルールに基づく意思決定の使用にアクセスすることを必要とするようになるだろう。そして、欧州評議会は人権と民主主義的価値の保護が、引き続き AI とアルゴリズムに関する公共政策の前線に残ることを確保することを追求する（欧州評議会、アルゴリズムと AI 開発。
www.coe.int/en/web/freedom-expression/algorithms-and-human-rights）。
日本は、今や、AI の使用のための包括的枠組みを確立する努力を先頭に立って行ってい5る。2016 年の初頭、日本は G7 の会合で AI についての世界的政策の採択を主張した。当時の高市早苗総務大臣は AI 開発のための基本的なルールの国際版を提案した(ジャパンタイムズ、「日本は G7 技術会合で AI の基本ルール採択を主張」2016 年４月 29 日)。「AI 研究開発原則」は、全ての人間が例外なく人間としての尊厳と個人の自立を尊重されながら AIネットワークと調和した生活の利便を享受する人間中心の社会実現を目指す（「AI ネットワーク社会を目指す会議、AI 研究開発ガイドラインドラフト」2017 年７月 28 日）。この原則
は、協力、透明性、制御可能性、安全、安心、プライバシー、倫理、使用者への補助、説明責任といった課題を取り上げている。
このアプローチに対して、OECD 加盟国の間で支持が広がっている。科学者の団体もまた、AI の地球規模での枠組みを確立しようという努力を支持している。世界最大のコンピューター団体である、コンピューター機械連合は次のように述べている。
「我々の日常生活でアルゴリズムがどこにでも存在することは、アルゴリズムのデザインと技術的な側面に関連した課題を議論することにフォーカスを当て、その始まりから偏りを排除することにフォーカスを当てるための重要な理由である」(コンピューター機械連合会アメリカ公共政策評議会、「アルゴリズムについての透明性と説明責任に関する宣言」2017 年１月)。アメリカ電気・電子工学技術学会（IEEE）は、次のように述べている。
「効果的な AI 公共政策と政府の規制は安全とプライバシー、知的所有権、サイバーセキュリティーを促進し、一般人が AI の社会への潜在的影響を理解出来るようにするためにも必要である」(米国 IEEE,「人工知能研究、開発と規制」2017 年２月 10 日)。
そして、欧州委員会は最近、学界、ビジネス界、民間非営利組織からの広汎な代表者で構成する人工知能についての新しい高級代表者会議に 52 人の専門家を任命した。このグループ
は、「公正、安全、透明性、労働の将来、そしてより広くプライバシーと個人データの保護、威信、消費者の保護と非差別を含む基本的権利の発展への影響といった課題」を検討することになるだろう（欧州委員会、「委員会が AI の専門家グループを任命。ヨーロッパの AI 同盟に着手」2018 年 6 月 14 日）。
また、アメリカでもこのような動きに対する支持がある。元アメリカ大統領候補のマイケル・デュカキスが、AI についての世界の合意を要請したのだ。デュカキス知事は、最近AI を「安全で、信頼でき、透明性があって、人道的である」ようにするために、人工頭脳の世界組織(AIWS)を発足させた（マイケル・デュカキス研究所「ボストングローバルフォーラムとマイケル・デュカキス研究所はこの 4 月に人工頭脳における業績として二人の世界的指導者を認定する」https://dukakis.bostonglobalforum.org/tag.aiws/）。AIWS によって出された提案は、日本政府が 2016 年の G7 会合に提出した提言を更に充実させるものである。
アルゴリズムの透明性
我々電子プライバシー情報センター（EPIC）はこれらの進展を歓迎する。我々は最初に
6

2014 年の東京での知識経済のための OECD グローバルフォーラムにおけるアルゴリズムの透明性の認知を主張した。我々はその際に、企業は彼らが何を集め、そしてどのように個人の情報を使っているかについてあまりにも秘密主義であると論じた。我々は消費者のプライバシーの権利保護の法律の速やかな成立を要求し、アルゴリズムの不透明なプロファイリングを終わらせることを要求した。
最近数年間の進展は注目すべきものがある。しかし新しい課題もまた顕著に現れた。
2017 年 5 月に、EPIC は公正取引委員会に対して、若いスポーツ選手の秘密の評価のための新しい商業用サービスを始めた企業の調査を求めた。我々はその選手たちもまたその家族もこれらの評点がどのようにして下されたのか決めることは出来ないし、またこの評点システムがスポーツのみならず教育機会や奨学金獲得における成功をも左右しうると論じた。我々は多くのスポーツとしての業績は、それがその場で測られるにしろ離れたところで測定されるにしろ、客観的で公開でまた容易に証明されるものなので、選手たちに秘密の評点をつけることは非常に稀であると主張した。我々はまた、チェス競技者の技量の評価に使われる機密性のない科学的な方法である ELO システムが、他の活動にも使われてきたことを指摘した。
我々が異議申し立てをしてから 1 年以上が経過したが、公正取引委員会からは未だ何の反応もない。若いスポーツ選手への秘密の説明不能の評点付けは今も行われている。更に、政府が、市民に評点付けを行う方法を採用する可能性についての心配も広がっている。例えば中国では、個人一人一人の詳細なプロファイルと評価を作り出す社会的な評点システムの構築が進行中である。この評点システムは、個人の教育や雇用、住居、旅行、更にそれ以外のことにおける機会を決めていくことになるだろう。我々はこのような政府による評点システムは個人の自由と民主主義的社会の原則に反すると信じている。そこには、そのシステムがより複雑になり、決定のプロセスがより機械に委ねられるようになるにつれて、このようなシステムを創り出す国がシステムを制御出来なくなるリスクさえある。
民衆の声
このことは、民衆が AI 技術の展開についての政府による決定において意味のある声を持つことを確かなものとするために、情報時代におけるデータ保護の最後の課題へと我々を導く。今年初めに、EPIC はアメリカ科学技術政策局に対してアメリカのための AI 政策の開発に対して公衆の意見を反映させるプロセスを創出することを求める正式の請願を提出した（EPIC「米国人工知能政策に対する公衆の貢献を求める科学団体の要請」2018 年 7 月
3 日）。アメリカ科学振興会、コンピューター技術者連合、アメリカ科学者連盟、そして IEEEを含むアメリカの先導的科学者団体がこの EPIC の請願に加わった。
我々は共に、個人の尊厳、自立、そして自由を阻害するような人工頭脳の使用を統制する政策を創出することは可能なはずだと信じている。そして、我々は、米国議会への声明で、我々の要請について報告した。
7我々は従って、自分たちが創る技術を規制する力を持つかどうか、重要な時期に来ている。
欧州連合と日本は、我々のデジタルな時代にプライバシー保護を時代に合ったものにする重要な法的枠組みを前進させた。我々はまた、IoT からの新しい脅威を見ている。インターネット企業の増大する集中度、AI 技術への広汎な政府・民間のサービスの依存の増大などである。
技術かマーケットだけがこれらの課題を解決できると想定するのは誤りだろう。事実と意味のある公衆の決定プロセスへの参加に導かれた賢明な公共政策こそ、我々のデジタル未来の成否の鍵である。
マーク・ローテンベルグは、プライバシーと市民の自由を専門とする中立的シンクタンクであるワシントン D.C.の電子プライバシー情報センター（EPIC）の会長。アメリカ科学振興会、アメリカ弁護士連合会などで、専門家として奉職。
（了）

8