３．データ・AI利活⽤における留意事項

東京⼤学 数理・情報教育研究センター
2020年5⽉11⽇

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

概要
 データやAIは，強⼒な道具であるだけに，使い⽅を誤ると⼈間や社会に⼤きなダメージを与えるおそれがあります．
この節では，データやAIを使うにあたり最低限気をつける
べきことについて学びます．
 データやAIにまつわる基本的な倫理，合意事項について学びます．
 データを守ること，およびそれが破られて起こった事例について学びます．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

2⽬次
3-1. データ・AIを扱う上での留意事項
3-1-1. ELSI：すべての科学・技術に関する普遍的考え⽅
3-1-2. データ倫理
3-1-3. データサイエンス・AIで起こりうる論点
3-1-4. 社会的合意の形成に向けて

4
6
12
20
25

3-2. データを守る上での留意事項
3-2-1. データの守り⽅
3-2-2. 悪意ある攻撃とすでに起こった事例

32
34
38

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

3

3-1. データ・AIを扱う上での留意事項

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

概要．
•

本節では，現代科学・技術が社会に対して果たすべき役割について考え，特にデータやデータサイエンス・AIを利活⽤する際に求められるモラルや倫理について理解することを⽬指します．

•

いくつかの具体的事案を⾒ながら，データ駆動型社会における脅
威（リスク）についても学びます．

•

さらに，それらの流れを踏まえて，個⼈情報保護法やEU⼀般デー
タ保護規則（GDPR）など，最先端の，データを取り巻く考え⽅や指針・法についても学びます．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

5

3-1-1. ELSI：すべての科学・技術に関する普遍的考え⽅“ELSI”＝“Ethical (倫理的), Legal (法的), Social (社会的)Implications (含意) あるいは Issues (事柄)”＝「（科学における）倫理的・法的・社会的含意（事柄）」＝「（科学技術を開発・展開した結果）起こりうる倫理的問題・法的問題・社会的問題は何か」
1980年代に⽣命科学分野で，科学技術のみならずその社会的責任を考える必要を認め，提唱された概念です．
いまでは，あらゆる科学分野で必要とされています．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

6

（参考；復習）従来の研究倫理の概念
従前より研究倫理として定着していたこと： 不公正・不適切な研究⾏為・発表の禁⽌：
捏造・改竄・剽窃
不適切な著者表⽰（ギフトオーサー，ゴーストオーサー）
不適切なプレゼンテーション（チャンピオンデータ等）
 ヒト・⽣物に対する不適切な研究の禁⽌（→研究倫理審査）
 違法な研究の禁⽌ 利益相反これらは科学研究単体としての「健全性」「妥当性」．
ELSI が考えるのは，より積極的な，「社会の構成要素としての科学研究のあり⽅」

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

7

なぜELSIの考え⽅が必要なのか[事例１：ヒトゲノムプロジェクト] 1990年頃，アメリカ
 ヒトゲノムの解読は，研究者や医療⾏為のみならず，すべての⼈，
社会全体に影響が及ぶ．
（遺伝情報＝個⼈情報の保護，遺伝情報差別の防⽌，…）
 そのため，研究者や医師・患者だけでなく，広い意味で社会がどこまでを「受容できるか」を議論する必要がある．

[事例２：原⼦⼒発電] 2011年，⽇本
 東⽇本⼤震災による福島第⼀原⼦⼒発電所事故．
⽇本でも科学技術・研究者に対する信頼が低下．
 原⼦⼒発電技術はどこまで「受容できるか」の議論が必要．
社会は，科学技術をどこまで・どのように受け容れられるのか
科学は，社会にどこまで責任を持つのか
これらを議論する必要があります．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

8

科学の責任：古典的な⾒⽅・より広い⾒⽅【考え⽅１】科学は「直接意図した結果」にだけ責任を持つ．
→「狭い」「古典的」な⾒⽅→想定外の事態まで責任は取れない→科学研究は「善・悪」から切り離された客観的存在【考え⽅２】「予想外だが引き起こされてしまった結果」にも責任を持つ．
→「より広い」「フォージの」⾒⽅→過去の悲劇を振り返り，合理的に予想できる結果には責任を→客観的事実の研究で含意がないから許されるとは⾔えない（参考）ジョン・フォージ（オーストラリアの科学哲学者）
軽々にどちらとは⾔えません．
ただ，前ページの例を⾒ると，「古典的な⾒⽅」だけでよいと⾔い切れないのは確かです．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

9

あらためてELSIの３要素を⾒ると
 倫理的問題（Ethical） ：その科学（技術）研究がどのような倫理的問題をはらむか
そもそも各科学領域における「倫理」とはなにか
既存の倫理学の体系に収まるのか
 法的問題（Legal）：
その科学（技術）はどの法の枠組で捉えられるか
現⾏法で不⼗分な場合，どのような指針・法の形成が必要か（関連して，どのような⾏政規制が必要か） 社会的問題（Social）：
その科学（技術）は社会に受容されるか
どのような形であれば受容されるのか
メリットとデメリットのトレードオフ：社会の受容ラインはどこか「より広い⾒⽅」に向けて，３つの観点に分けて，科学と社会の関係を議論する場を提案しています．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

10

データサイエンス・AIにおけるELSIとは本教材でこれから議論していくこと：
 データサイエンス・AIの倫理とはなにか その法整備はどうなっているのか どのようなデータサイエンス・AIが社会に受容されるのか

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

11

3-1-2. データの倫理
まず考えるべきこと：
 データ取り扱いの健全性： 禁⽌事項（既出）
捏造（ないデータを作り出すこと）
改竄（実データを曲げて書き換えること）
剽窃・盗⽤（データを不正に使い回すこと）
 データの保護（情報セキュリティ的な）→後述：第3-2節
 個⼈情報とプライバシーの問題→後述：本節後半

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

12

データ取り扱いの健全性１：捏造ないデータを作り出すこと．
実例：⾼温超伝導事件（⽶，2001年頃）• ある若⼿物理学研究者が起こした事件．
• それまでの（有機物）⾼温超伝導記録（-240℃）を⼤幅に覆し，-156℃を報告．（参考：安価な液体窒素が-196℃）• これを含み，Nature誌7本，Science誌9本等の論⽂を発表• しかし該当する実験装置は発⾒されず，捏造が発覚した．
• 論⽂は撤回され，当該研究員は解雇された．
実例：STAP細胞事件（⽇本，2012年〜2014年頃）• ある若⼿⽣命科学研究者が起こした事件．
• iPS細胞より簡易な「初期化細胞」を作れる，とした．
• 査読（投稿論⽂を匿名の専⾨家が審査すること）で厳しい意⾒もついたが，結果的にNature誌に採択．
• しかしその後追試等でSTAP細胞は再現できず，調査の結果，捏造（や改竄・盗⽤）が発覚した．
• 結局，STAP細胞は既知の細胞の混⼊であることが分かった．
論⽂は撤回された．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

13

データ取り扱いの健全性２：改竄
実データを曲げて書き換えること．
例：実験データの⼀部を，つい曲げてしまいたくなる．
＊＊の頻度
60
50

「このデータさえなければまっすぐなのに・・・」

40
30
20
10
0
0

1

2

3

4

5

6

実例：
• 鉄鋼素材品質検査データ改竄（⽇本，2017，製鉄会社）• 免震装置データ改竄（⽇本，2018，産業装置製造会社）• 電気泳動画像データ改竄（⽇本，2012，⼤学（⽣物系））

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

14データ取り扱いの健全性３：盗⽤
データを不正に使い回すこと．
他⼈のデータの盗⽤は論外，⾃分のデータの「使い回し」も危険．
例：38本の論⽂で同⼀データ使い回し（⽇本，2010年，⼤学（医学系））→ 「⼆重投稿（self-plagiarism）」に該当する【参考】実際に起こる剽窃・盗⽤には，むしろ，• アイデアの盗⽤• ⽂章の剽窃 （⾃分の⽂章の⾃⼰剽窃を含む）が多いです．
図表等を断りなく借⽤することも「剽窃」にあたります．
→ 適切な引⽤表⽰が必要です．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

15

〜余談〜

個⼈のレベルでも現状は「個⼈情報」「個⼈データ」にかかるリテラシーが低く，情報暴露が盛んに起きているように思われます．
例：SNSに家族の画像を無断で載せるケース．
→例えば⼦の画像の場合，⼦が望んでいるかどうか不明．
（後述「忘れられる権利」が確⽴するまで消せない．）
例：SNSに友⼈の画像を無断で載せるケース→⾷事・飲み会の画像など．⽇時・場所にかかる個⼈情報を暴露．
例：仮名でSNS活動している⼈にかかる個⼈情報を書き込むケース→うっかり友⼈の本名・勤務先等を含めた投稿をする．
すべて，個⼈情報の暴露であり侵害です．気をつけましょう．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

16

個⼈情報とプライバシー
個⼈情報とは：
 個⼈ID（個⼈を特定できるデータ）
 その他の個⼈の情報・データ
プライバシーとは： 上記の個⼈情報・データを含み，それを「守ること」⾃体
 個⼈情報の中で，特に「機微データ」「要配慮個⼈情報」とその保護

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

17

個⼈情報とは何か 個⼈ID（個⼈を特定できるデータ）• 名前，住所• マイナンバー，学籍番号，職員番号• 免許証番号，パスポート番号，など

⽐較的新しい その他の個⼈の情報・データ• 関連属性：本籍，⼈種，年齢，家族構成，勤務先，所得など• 健康情報（病歴）• 成績・評価データ：試験，勤務評価など• ⽂化的側⾯：宗教，性的嗜好など• 信⽤履歴（クレジットカード）• メールアドレス• 購買履歴• 機械等の操作履歴（ウェブ閲覧をふくむ）• オンライン識別⼦（IPアドレス，端末識別紙など），など
注意：この「個⼈情報」が誰のものか，は実は曖昧になりえます．
→あとで改めて議論します．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

18

プライバシーとは何か 個⼈情報・データそのもの，に加えて，それらを保護する⾏為，をもふくみます．
 また，個⼈情報・データのうち，特に注意を要するデータ：「機微データ」「要配慮個⼈情報」を特に指すこともあります．
前項の個⼈情報・データの中では，例えば以下のものです．
• ⼈種• 健康情報（病歴）• ⽂化的側⾯：宗教，性的嗜好など

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

19

3-1-3. データサイエンス・AIで起こりうる論点
データサイエンス，あるいはAIを⽤いる際，次のような問題が起こりえ
ます．

•
•
•

統計的差別
データバイアス・アルゴリズムバイアス
個⼈情報の暴露，プライバシーの侵害

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

20

統計的差別
統計的処理が妥当であり，その処理結果を⽤いる⼈が（偏⾒なく）合理的に判断している場合でも，結果として差別・不平等が肯定され，継続されうること．
典型的な場合：雇⽤主が，採⽤段階において，個々の応募者が属する属性グループごとの「統計的平均値（あるいは平均的描像）」に基づいて能⼒を推測し，採⽤の判断をする場合．
例：「⼥性」は「短期勤続」（⻑く勤めないこと）の傾向がある→そうしなくてよい社会になっていないことが原因
例：「⿊⼈」は「⽣産能⼒」が低い傾向がある→歴史的に平等な機会が与えられてこなかったことが原因
例：「外国⼈」は「⽇本語能⼒」が低い傾向がある→⽇本語教育⽀援，および業務の多⾔語化がないことが原因
どれも，これまでのデータを統計的に処理すれば（相関関係としては）正しくても，「現状」は既に⾏われた不公平・差別の結果でもあり，直ちにそれに基づいて判断することは差別の延⻑になります．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

21

データバイアス
統計処理，あるいはデータサイエンス的処理を⾏う際扱うデータに，
そもそも バイアス（bias)=偏り があること，
あるいは，それに起因して起こる（よくない）こと．

例：

ある病気の治療⽅法について研究するとき，特定の病院の患者のデータだけを集める→ 患者の地域性，富裕層・貧困層の偏り例：

国内世論を推し量るのに，twitter 上の呟きから抽出する→ そもそも twitter をやっている⼈の層，その中でも頻繁に呟く⼈の層，の偏り

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

22

アルゴリズムバイアス
機械学習により，アルゴリズムにデータから学習させたとき，データにバイアス（偏り）があったがゆえに，学習結果のアルゴリズムにもバイアスが⽣じてしまうこと．

アルゴリズムの「学習」学んだ
アルゴリズム１＋（データ１）

雛形のアルゴリズム（⾃由度がある）＋（データ２）＋（データ３）

東京⼤学 数理・情報教育研究センター

学んだ
アルゴリズム２

アルゴリズムは「悪気」なく与えられたデータを
素直に学ぶ

学んだ
アルゴリズム３4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

23データ・アルゴリズムバイアスの実例
AmazonのAI⼈事アルゴリズム（⽶，2014年頃）
 Amazonは2014年頃から，新規採⽤に関して，AIによる⾃動書類審査の導⼊を始めた．⼤量の応募を迅速に処理可能．
 このAIアルゴリズムは，過去10年間の雇⽤パターンで「学習」したもので，アルゴリズムで応募書類をランク付けする．
 だが2015年頃，すぐに，Amazonはこのアルゴリズムが「性別に対して中⽴的」でないことに気がついた．
「過去10年間の雇⽤パターン」は男性雇⽤に偏っていて，アルゴリ
ズムはそれを素直に学習してしまっていた．
 アルゴリズムは“womenʼs” など，「⼥性」に関するキーワードにペナルティを科し，⼀⽅で男性が⽤いがちな表現に⾼い点を与えていた Amazonは，結局，このプロジェクトは停⽌した．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

24

3-1-4. 社会的合意の形成に向けて
この節では，以下について⾒ていきます．
 データサイエンス時代の諸概念• 忘れられる権利• 説明に基づく同意• オプトイン・オプトアウト
 形成されつつある合意の例• GDPR（欧州⼀般データ保護規則）• ⼈間中⼼のAI社会原則
 データサイエンスやAIの責任は誰が負うのか

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

25

諸概念１：忘れられる権利
インターネット時代のデジタルデータに関して，削除・アクセス遮断によりプライバシーが保護されることを求める権利．
[考えられるようになったきっかけ]
 デジタルデータがネット上に出回ると，消す⼿段がない
 検索エンジンに登録された情報も，消す⼿段がない（たとえ犯罪歴のような情報であったとしても） 従って，通常のアナログ情報と異なり，永遠に「忘れられる」ことがない[現状] EUなど⼀部の国では法制度化済みです．
 ⽇本では「インターネット法」に関係して議論が始まり，検討中．
 「プライバシー保護」と「表現の⾃由・知る権利」の両⽴がなかなか難しいのも議論が⻑引く⼀因です．
 法整備だけでは不⼗分で，技術的に消せるようになる必要があります．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

26

諸概念２：説明に基づく同意
個⼈情報・データの提供を求める際は，「説明に基づく同意（informed consent)」に基づいて，提供を求める必要があります．
 どのようなデータを提供してもらうのか
 何に使うか，いつまで使うか 誰と共有するか データを提供することのメリット・デメリットは何か（参考）インターネット，あるいはデータサイエンスの黎明期は，様々なデータが「勝⼿に集まって」いましたが，いまはそのような考え⽅は許されなくなっています．
例：ウェブの閲覧履歴（参考）「説明に基づく同意」に基づいて集めたデータを，当初宣⾔した⽬的以外の⽬的に使⽤する場合は，同意をとり直す必要があります．
注意：研究に使う画像・データを友⼈，研究室仲間からもらう場合も同様です．必ず「説明に基づく同意」書をとります（→研究倫理
審査）．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

27

諸概念３：オプトイン・オプトアウト
何らかのサービス・⼿続き等に「参加することを希望する」，
あるいは反対に「参加しないことを希望する」ことを表明してもらう
⼿続き．
 「オプトイン」(opt in) （英単語の“opt”＝「〜を望む」）
参加することを希望することを⾔います．
 「オプトアウト」（opt out)
参加しないことを希望する（すでに参加している状態から抜ける，あるいは黙っていると参加してしまうことを拒否する）ことを⾔います．
例：JR東⽇本による，SUICA利⽤データの販売• SUICAサービスに加⼊した最初の状態では，各利⽤者のSUICA
利⽤データが，「匿名化（→後述）」を施した状態で，外部企業に販売されます．
• これを希望しない利⽤者は，JR東⽇本のホームページから「オプトアウト」⼿続きをとると，販売データから取り除いてもらえます．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

28

形成中の合意１：GDPR“EU General Data Protection Regulation (GDPR)”＝「欧州⼀般データ保護規則」
 EU内28カ国でバラバラであった個⼈情報保護関連規則を⼀元化したものです．
 それと同時に，ここまで述べてきたような最先端のデータ保護の考え⽅を具現化したものでもあり，最先端の考え⽅を表したものでもあります．
 本教材と特に関係するところ：• 個⼈情報・データは誰のものか？
第3-1-2節で挙げたものはすべて「データ主体」（＝そのデータを発⽣させた⾃然⼈）のもの，とみなされます．
• 説明に基づく同意は，⽬的・期間を必要な範囲に限り，⼀般⼈に分かりやすく，いつでも同意を撤回できることが求められます．
• ⼿続きは「オプトアウト」ではなく，「オプトイン」で設計することが求められます．
• AI等により機械だけで不利な判定が出る場合は，異議申し⽴ての権利を確保することが求められます．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

29

形成中の合意２：⼈間中⼼のAI社会原則
内閣府 統合イノベーション戦略推進会議 決定（2019年3⽉29⽇）
 ⼈間中⼼の原則
 プライバシー確保の原則
 セキュリティ確保の原則
 公平性・説明責任・透明性の原則，など
いずれも，本教材で議論している内容を，国レベルで⽅針づけたもの．
類似のものは，他にも多数提案されています：• ⼈⼯知能学会
倫理指針（2017年2⽉28⽇）
機械学習と公平性に関する声明（2019年12⽉10⽇）• ⼈間中⼼の機械学習（https://www.fatml.org/）• 総務省 AIネットワーク社会推進会議 報告書（各年）• IEEE Ethically Aligned Design, first edition (2019年3⽉)，など

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

30

データサイエンスやAIの責任は誰が負うのか
データサイエンスやAIは，万能でも完全でもありません．
 思ったよりできないこと，反対に，⼈間が想像する以上にできてしまうことがある（→匿名性が剥がれ機微データが流出する事故）
 深層学習等，いわゆる「ブラックボックス」で，科学的に明解な説明ができていない技術もある．
責任者が分かりにくい：開発者，販売者，購⼊者，…．
どのひとりも完全なる責任者にはなりにくいし，完全なる無関係者
とも⾔えません．
それでは，技術の提供者は，何をどこまで⾏うべきでしょうか？
 Accountability（アカウンタビリティ）：技術や商品そのものに加え，誰が責任を負うのかまで説明できること．
（ただしこれは現状では難しいです．）
 Trust（トラスト）： （アカウンタビリティを必ずしも完全に果たせない場合に）過去の類似例を⽰して，現状の技術や商品の妥当性，公平性，正当性に納得してもらう⽅法．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

31

3-2. データを守る上での留意事項

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

概要．
•

この節では，前節までに述べた個⼈情報・データを中⼼に，それらをどのように守るかについて理解します．

•

より具体的には，下記について学びます．
 データの守り⽅
 悪意のある攻撃と既に起こった事例

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

33

3-2-1. データの守り⽅
守り⽅１：情報管理三原則
外部の脅威から守りながら，情報（データ）をうまく活⽤するための３つの原則を「情報管理三原則（情報セキュリティ三原則）」と呼びます．
 機密性
情報（データ）に，正当な権限を持つ者だけがアクセスできること．
このためには情報の適切な分類，アクセス権限の設定，情報の暗号化などが必要です．
 完全性・整合性
情報が完全であり，誤りのない状態であること．
不正なアクセスの検知，誤り検出などの技術が必要です．
 可⽤性（正当な権限を持った者が）情報に適切にアクセスできること．
可⽤性を阻害する攻撃（DoS攻撃など）への防御，
ハードウェア障害のための冗⻑保存性などが必要です．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

34

データの守り⽅２：匿名化（1/2）
データから「個⼈ID」（→第3-1-2節）を適切に削除して，データを扱いながらも当該個⼈の情報であることが分からないように処理することを「匿名化」と⾔います．
これまでよく⾏われてきた匿名化：
1. 連結可能匿名化：仮IDを発⾏して個⼈IDを隠す⽅法．
No.1, ⾝⻑170cm, 体重60kg；
No.1＝⼭⽥太郎
No.2, ⾝⻑160cm, 体重45kg；
No.2＝佐藤花⼦．．．
↑「連結表」と呼ばれるデータ処理は左の表（連結可能匿名化を施したデータの表）を⽤い，
個⼈特定が必要なときに限り，別途厳重保存した「連結表」を使う．
2. 連結不可能匿名化：そもそも連結表を持たない⽅法．
連結表が存在すると危ないほどの機微データの場合，連結表を持たない，あるいはさらに仮IDすら持たないデータのみを扱う．
しかしながら，これで「本当に個⼈特定は不可能なのか」には慎重な議論が必要で，上記の匿名化の考え⽅は，2015年の個⼈情報保護法改正で破棄されています．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

35

データの守り⽅２：匿名化（2/2）
匿名化は本当に可能でしょうか？
 匿名化が剥がれた例：AOL検索履歴公開案件• 2006年8⽉4⽇，AOL（⽶インターネットサービス）は，65万⼈の3ヶ⽉に渡る検索履歴（2,000万キーワード）を研究⽬的で公開した．
• データには仮IDしか付けられていなかったが，検索データから，⼀部ユーザが特定され問題になった．
• AOLは8⽉7⽇にデータを取り下げたが，すでにネット上に広まり⼿遅れであった．
• 同9⽉，訴訟が起こされた．
 社会学者 Sweeneyの研究（2000年）：
ZIPコード（郵便番号）＋⽣年⽉⽇＋性別 で，アメリカ⼈の87%が数学的にひとりまで絞り込み可能
データは，組み合わせることで匿名性が剥がれ，機微データが漏れ出すことがあります．データサイエンスの進化に伴いこの危険性は上昇します．データは，使う⼈も，提供する⼈も，これを前提にする必要があります．
東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

36

データの守り⽅３：暗号化とパスワード
 暗号化：
元のデータに対して，特別な処理を施して，そのままでは読めない
特殊なデータに変換すること．
元に戻すことを「復号化」と⾔います．
暗号化には様々な種類があり，「安全性（強度）」，「処理速度」が異なります．
電話やインターネットの通信などは，原則として暗号化され，通信内容が保護されるようになっています．
 パスワード：
データやサービスにアクセス権限を持つ⼈間であることを証明するための⽂字列．
銀⾏のキャッシュカードやクレジットカードのPINコードを始め，⽇常で幅広く⽤いられていますが，短いパスワード，単純なパスワードは簡単に⾒破られるため注意が必要です．

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

37

3-2-2. 悪意のある攻撃と既に起こった事例
データは，暗号化やパスワードで原則として保護されますが，それでも，過失や悪意を持った⼈の攻撃で，データが漏洩したり，それによってプライバシーが侵害されることがあり，注意が必要です．
以下，いくつか類例を挙げます．
 データの持ち出し，あるいは紛失による流出
 攻撃による情報漏洩 スパイウェア，マルウェアによる情報搾取

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

38

データの持ち出し・紛失による流出
厳重に保管しているはずのデータでも，内部の⼈間による（悪意のある）
持ち出し，あるいは正当な権限者が持ち出した際の過失による紛失で，データは漏洩しえます．
実例（持ち出し）：• 市議会に⽴候補した市職員が，職務上の地位を利⽤して市⺠個⼈情報（
住所等）を持ち出し，選挙応援依頼書を発送（平塚市，2020年）• 県庁で使⽤していたパソコンのハードディスクの処分を依頼された企業の職員が，それを持ち出してオークションサイトで売却；ハードディス
クには各種納税記録なども⼊っていた（神奈川県，2019年）
実例（紛失による流出）：• 学校等において，成績データなどが⼊ったUSBメモリ，パソコンなどを紛失（複数案件あり）• メール誤送信によるメールアドレス流出（複数案件あり）（注意）メールアドレスも個⼈情報です．
本⼈に断りなく他⼈に暴露してはいけません．
（複数⼈に同時にメールを発送する際注意）
東京⼤学 数理・情報教育研究センター
4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ

タの解析

39

攻撃による流出
内部の⼈間は気をつけていても，外部からの（しばしばインターネット
経由での）攻撃により，情報は漏洩しえます．

実例：• 化粧品会社の決済サーバーの脆弱性（セキュリティ上の「⽳」が開いていること）を攻撃され，購⼊者のクレジットカード情報が流出（⽇本，2020年3⽉；他，類似案件多数あり）• QRコード決済システムのひとつで不正利⽤が発覚，多数のユーザの電⼦マネーが不正に使⽤された．後に，認証システムの設計が⽢く，攻撃者が容易に他⼈のアカウントを乗っ取れることが明らかになった．
そのQRコード決済システムはサービスを終了．（⽇本，2019年）

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

40

スパイウェア，マルウェアによる情報搾取
通常のアプリ，あるいはシステムの⼀部のように⾒せかけてパソコン等に取り込ませ，ユーザに分からないように内部情報・データを外部送信するプログラムを「スパイウェア」と呼びます．
「マルウェア」(“malicious”＝「攻撃的な」から来た名称）とも呼びますが，この場合，「ウィルス」（パソコン等に⼊り込んで動作に障害を起こすもの）なども含み，悪意あるソフトウェア全体も指します．
実例：• Androidスマホに⼊り込み写真・動画・⾳声記録・連絡先等の情報にアクセスして外部送信しうる“Exodus”が発⾒され，その後iOS版も発⾒された（世界的，2019年）※現在は対処済み• 仮想通貨取引所が攻撃され，ある仮想通貨580億円相当（当時レートのもの）が盗まれた．取引所内のパソコンがマルウェアに汚染され，情報搾取・外部からの悪意を持ったアクセスを許した，とされている（⽇本，2018年）

東京⼤学 数理・情報教育研究センター

4-4. 時系列データの解析
4-4. 東京大学 数理・情報教育研究センター
松尾宇泰 2020 CC BY-NC-SA
デ タの解析

41