災害・危機管理ICTシンポジウム2018
2018年2月9日

データ利活用を促進する
プライバシー保護技術
国立研究開発法人情報通信研究機構
サイバーセキュリティ研究所
セキュリティ基盤研究室
盛合 志帆
1

2

NICT第4期中長期計画 (2016-2020)における目標【中長期計画】1-4. サイバーセキュリティ分野 (3) 暗号技術
機能性暗号技術
IoTの展開に伴って生じる新たな社会ニーズに対応するため、新しい機能を備えた機能性暗号や軽量暗号・認証技術の研究開発に取り組む

暗号技術の安全性評
価暗号技術の安全性評価を実施し、新たな暗号技術の普及・標準化に貢献するとともに、安心・安全なICTシステムの維持・構築に貢献

プライバシー保護技術
パーソナルデータの利活用に貢献するためのプライバシー保護技術の研究開発を行い、適切なプライバシー対策を技術面から支援

 暗号技術の安全性評価における日本随一の研究拠点
 中立公平で信頼性の高い安全性評価情報の継続的発信 セキュリティ＆プライバシー保護技術の研究連携拠点に
 S＆Pの新たな研究開発テーマでの国内外研究連携拠点を目指す

 社会で活用される研究開発成果の創出と社会展開
 パーソナルデータ利活用や改正個人情報保護法施行に資する技術開発3

災害・危機管理に備えた報共有システム

情» 災害が起きてから構築する/初めて使うものでは役に立たない» 普段使っているシステムの延長にあるべき» 災害時でもプライバシー漏洩には配慮すべき.
一度ネットに流出すると回復は困難.
⇒ 平常時からプライバシー保護、セキュリティに配慮したシステムを構築しておくべき4

災害・危機管理に活用可能な暗号技術①

秘密分散» データの分散バックアップ・BCP» どこかの地域が壊滅的な被害を受けても、残りのデータで全てを復元可能» １つのサーバがサイバー攻撃を受けてデータが流出しても、情報は漏れない

5

災害・危機管理に活用可能な暗号技術②

秘匿検索» 暗号化データ中のキーワード検索» 例）避難者/負傷者全員の名前を明かすことなく、特定の方が含まれているかを検索可能
xxx

検索キーワード

検索結果

検索者

データ登録者
6

災害・危機管理に活用可能な暗号技術③

代理再暗号化» 暗号化データを復号することなく、代理人が他の人が復号できるよう再暗号化できる技術» 例）担当医と連絡が取れなくても、支援医師がカルテを復号し、治療にあたれる
連絡つかない通信不可能・
停電…
暗号化
カルテ

暗号化
カルテ

支援医師が復号できるよう代理人が再暗号化

支援医師

7

データ統合利活用：
成長戦略・課題解決の鍵
産業システム
データ漏洩対策は大丈夫？

交通

脳
この測定データは信頼できるのか？

私のプライバシーは守られている？

移動履歴
購買履歴

医療

興味・関心
検索キーワード

農業
宇宙

金融・経済
環境

気象

8

セキュリティ・プライバシー対策:
データビリティの必須要件

情報通信審議会 情報通信技術分科会 技術戦略委員会（第13回）
資料13-6 「データビリティサイエンス」（大阪大学 理事・副学長 八木教授）より9

データ統合利活用におけるプライバシー/個人情報保護
ビッグデータ
統合利活用

個人の行動・状態に関するデータ
特に利用価値が高いとされている

パーソナルデータパーソナルデータ利活用にはプライバシー保護が不可欠
cf. 改正個人情報保護法
全面施行 (2017.5)

AI 技術等による分析・解析

新たな知見・イノベーション
多様な経済分野でのビジネス創出
10匿名加工情報» 分野横断でのデータ利活用を推進するため改正個人情報保護法で新設【個人データの第三者への提供】• 本人の同意を取れば提供可能• 委託、事業承継、共同利用に伴って提供する場合には、「第三者」に提供するものとはされない• 「匿名加工情報」に加工すれば、本人の同意をとらなくても自由に利活用可能→ 新事業や新サービスの創出、国民生活の利便性の向上を期待

11匿名加工情報» 個人の特定性を低減したデータ
˃ 「個人情報を加工して、通常人の判断をもって、個人を特定することができず、かつ、加工する前の個人情報へと戻すことができない状態にした情報」» 加工方法˃ 特定の個人を識別する項目の削除や、情報を”丸める”など
˃ 「匿名加工情報「パーソナルデータの利活用促進と消費者の信頼性確保の両立に向けて」」(個人情報保護委員会, 2017.2)
˃ 「匿名加工情報作成マニュアル」 (経済産業省, 2016.8)「匿名加工情報制度について」(個人情報保護委員事務局 参事官 小川久仁子) 資料より

12

匿名加工情報:社会実装に向けた研究開発課題» 匿名加工技術の評価技術
˃ 匿名加工情報の再識別リスクに関する標準的な評価手法は未確立» 有用性指標と安全性指標
˃ いかに再識別のリスクを低減し、データの有用性を保ったまま加工するか˃ NICTでも第4期中長期計画にて取り組み
匿名加工技術

個人情報

匿名加工情報安全性

UP

有用性DOWN
13

PWS CUP
匿名加工・再識別コンテスト» 2015年から情報処理学会 コンピュータセキュリティシンポジウム(CCS)で開催» 実行委員長：菊池浩明(明治大)» 後援：個人情報保護委員会» 目的：
˃ 安全で有用性の高い匿名加工技術の開発を促進する

14

PWS CUP2017» 「長期間の履歴データの再識別リスクを競う」
˃ データに振られた仮名IDを長期間使用することで再識別される可能性が高まる
˃ 復元することができる規則性を有しないように，定期的に変更するなどの措置が講じることが求められる» 利用データ
UCI Machine Learning
Repositoryで公開されている英国のオンラインショッピングサイトにおける2010年からの1年間の購買履歴15• プライバシーデータの収集・利用が増加• 収集したデータは単純に名前や住所などを削除した形式で保存，分析• プライバシーリスクの評価への取り組みが不十分

ツイッターなどのSNSによる情報発信を考慮したプライバシーリスクの評価
名前11/1鈴木リボン

鈴木 ・11月1日
リボン買った。

匿名加工
処理

ユーザリスク評価

リスク評価軸• Isolation size/識別耐性：個人を特定するのに必要な知識量（大きいほど安全)• Leak size/漏洩量：個人特定時の被害の大きさ (大きいほど危険)

11/2

11/3

1

リボン

トレカ

2

ズボン

3

ペン

11/2

鈴木

文具

玩具

鈴木 ・11月1日
リボン買った。
鈴木 ・11月2日
ミニカー買った。

ユーザID

11/1

11/2

11/3

ケーキ

1

文具

玩具

食品

人形

シャツ

2服

玩具

服

ガム

スーツ

3

文具

食品

服

一言で全ての履歴が判明する！！
（極めてリスクが高い）[関連発表]早稲田篤志，野島良，盛合志帆，菊池浩明, “良い仮名化 悪い仮名化,” SCIS2017

11/1

ID1が鈴木， ID1と3のどちらが ID1が鈴木，11/2と11/3の 鈴木か不明 11/3の購入物購入物が判明
が判明

11/1

ユーザID

名前

全体的にリスクが減少

リスクが高いユーザが減少しリスクが低いユーザが増加

データ統合利活用におけるデータセキュリティ
この医療データは信頼できるのか？
データ漏洩対策は大丈夫？

ビッグデータ
統合利活用
機密データは他社に見せたくない暗号・認証技術によりデータ機密性・データ信頼性を確保することで分野横断でのデータ利活用を促進

AI 技術等による分析・解析

新たな知見・イノベーション
多様な経済分野でのビジネス創出暗号化したまま分析・解析!?

17

暗号化したままビッグデータ分類» ビッグデータ解析で多用されているロジスティック回帰分析をデータを暗号化したまま計算可能に» 暗号化された1億件のデータを30分以内で複数グループに分類できることをシミュレーションで確認
˃ NICTプレスリリース「暗号化したままデータを分類できるビッグデータ向け解析技術を開発」(2016.1.14)

18暗号化したまま深層学習** 深層学習(deep learning)

多層構造のニューラルネットワークを用いた機械学習» 多数の参加者が持つデータセットを互いに秘匿したまま深層学習を行うプライバシー保護深層学習システムを提案
下記の機械学習用データベース
で性能確認- MNIST（手書き数字認識)- SVHN (Googleストリートビュー
写真から連続した数字を認識)- Speechデータセット

中央サーバ
暗号化された状態で処理、通信勾配情報を暗号化して送信…
N人の参加者と中央サーバ１台による深層学習(分散協調学習)19

「イノベーション創発に資する人工知能基盤技術の創出と統合化」
研究総括: 栄藤 稔(阪大), 文科省 AIPプロジェクトの一環として運営

JST CREST 「人工知能」採択課題» 「複数組織データ利活用を促進するプライバシー保護データマイニング」
˃ 研究代表者：盛合 志帆(NICT). 神戸大 小澤教授, (株)エルテスと連携
課題

研究体制

複数の異なる業種・組織が有する実社会の膨大なデータを統合して利活用する際、プライバシー保護・データ機密性の確保が課題
研究課題

暗号技術や人工知能技術を活用し、プライバシーを保護した状態で高速にデータ分析や異常検知を行う技術を研究開発
解決する社会問題

金融分野における社会問題の解決に活用.
金融機関以外がもつデータを利活用した①インターネットバンキング不正送金の検知②個人向け融資における 適正利率の導出⇒ フィンテックにおけるイノベーション創出をめざす.

20

まとめ
ビッグデータ統合利活用

プライバシー保護
個人情報保護

安全管理措置

匿名化技術

データセキュリティ
データの機密性確保

データの信頼性確保

暗号技術
2
1