プライバシー保護データマイニングシンポジウム
フィンテックにおけるイノベーション創出を目指して（2018年10月31日（水））金融分野におけるセキュリティ：高機能暗号や機械学習*
日本銀行金融研究所
情報技術研究センター
宇根正志＊本講演の内容は、発表者個人に属し、日本銀行の公式見解を示すものではありません。
1日本銀行金融研究所情報技術研究センター（CITECS）• 金融業界が情報化社会において直面する新たな課題に適切に対処していくことをサポート（2005年4月設立）。
–

主な役割は、①国際標準化の推進、②金融業界内の情報共有体制の整備、③新しい情報セキュリティ技術の研究開発。

• 最近の主な研究テーマ
 量子コンピュータの影響と暗号移行のあり方
 金融機関のオープンAPI
 機械学習システム
 電子マネー・暗号通貨
 金融分野におけるIoT
 高機能暗号の活用・・・

第19回情報セキュリティ・シンポジウム（2018年3月1日）

出典：日本銀行金融研究所、「金研ニュースレター」、2018年23月。（写真：野瀬勝一氏）

クラウド活用の広がり
・クラウドを活用する金融機関の割合は増加傾向。
706050（％）

利用予定・検討中
利用中（プライベート）
利用中（コミュニティ）
利用中（パブリック）
利用中合計

40

利
用
中合
計3020
100
FY22

FY23

FY24

FY25

FY26

FY27

FY28（年度）（出典）金融情報システムセンター、『金融機関におけるFinTechに関する有識者検討会報告書』、2017年6月.

3

クラウド活用の用途• 各業務に「クラウドを活用している」と回答した先の割合（H28年度）
Webサイト構築用
e-ラーニング
勤怠管理
人事
総務
電子メール
社内情報共有
営業支援
基幹業務系

パブリック
コミュニティ
プライベート05

101520(%)

出典：金融情報システムセンター「平成29年度金融機関アンケート調査結果」（平成29年10月）＜図表5-3、調査対象期間：平成28年4月～平成29年3月、有効回答機関数：676＞
4

クラウドサービス利用に対する懸念・不安• 「クラウドサービスの機密性」や「セキュリティ事故発生時の対応」等を懸念。
自社要員のスキル低下
準拠法、裁判管轄
ベンダーロックイン
クラウドサービスの可用性
データ所在地長期的コスト増加
契約内容の画一性
クラウドベンダーの事業継続性
金融監督当局の検査方針
クラウドベンダーの監査受入態勢
セキュリティ事故発生時の対応
クラウドサービスの機密性

FY27
FY28(%)
01020304050607080

出典：金融情報システムセンター「平成29年度金融機関アンケート調査結果」（平成29年10月）＜図表5-4、調査対象期間：平成28年4月～平成29年3月、有効回答機関数：676＞

905

FinTechにかかる取組み• 国内金融機関のFinTechに関連するプレスリリース件数（※）（出典）金融情報システムセンター、『金融機関におけるFinTechに関する有識者検討会報告書』、2017年6月.

6オープンAPIの取組み• 個人向け、および、法人向けのオープンAPIに関して、「既に取り組んでいる」「導入準備」または「検討中」と回答した先の割合（H28年度）
顧客データの参照（例）取引明細照会、残高照会、口座番号照会

法人向け

顧客データの更新（例）資金移動、振込上限額変更、住所設定変更

個人向け

その他

01020304050(%)

出典：金融情報システムセンター「平成29年度金融機関アンケート調査結果」（平成29年10月）＜図表1-5, 1-6、調査対象期間：平成28年4月～平成29年3月、有効回答機関数：676＞

7

ビッグデータの活用【データ種別ごとの金融機関の割合】 【目的ごとの金融機関の割合】(%)
0

社内で発生（端末ログ、顧客取引データ等）
顧客や調査会社等から取得（アンケート結果等）
API接続先との連携を通じて発生（カード決済データ等）
SNS等から取得

10

20

30

0

40

20

40

60

(%)
80 100

営業活動（マーケティン
グ、CRM等）
事務処理業務（ミスパターン分析等）
審査業務（顧客審査、モニタリング等）
顧客対応業務（チャットボット等）
サイバーセキュリティ（不正利用検知等）
内部統制（早期異常検知等）

出典：金融情報システムセンター「平成29年度金融機関アンケート調査結果」（平成29年10月）＜図表1-3, 1-4、調査対象期間：平成28年4月～平成29年3月、有効回答機関数：676＞備考：「ビッグデータ」は、「社内外の大量の業務データのうち、社内外で取得されていたが、自機関ではこれまで活用できていなかったデータ」と定義。

8ブロックチェーンや分散台帳• 「すでに取り組んでいる」「準備段階」あるい
は「検討中」と回答した金融機関との割合は、全体で25.9%（28年度、FISC調査）。
【ブロックチェーンまたは分散台帳のタイプ別の取組み状況】(%、回答した金融機関等の割合)
80
70
60
50
40
30
20
100
パブリック型
コンソーシアム型

プライベート型

出典：金融情報システムセンター「平成29年度金融機関アンケート調査結果」（平成29年10月）＜図表1-8、調査対象期間：平成28年4月～平成29年3月、有効回答機関数：676＞9

さまざまな企業・組織間のサービス・業務・データの連携が広がっている
端末

サービス ICキャッシュ
カード
利用者

生体情報

0498…
sMix@

金融機関

ATM

金融機関間ネットワーク

サーバ
ストレージ

④分散台帳
活用の検討

CAT/POS

④分散台帳
活用の検討
PC
スマートフォン
mPOS③ビッグデータ解析の活発化

パスワード
暗証番号

クラウド事業者等②新しい金融サービスを提供（API連携等）

ノンバンク（FinTech企業等）①クラウド活用の拡大

10セキュリティと利便性をどう両立させるか
データの漏洩・改変リスクの高まりとガバナンス（さまざまな企業等がデータを取り扱うようになる）端末

サービス ICキャッシュ
カード
利用者

生体情報

0498…
sMix@

ATM

金融機関

金融機関間ネットワーク

サーバ
ストレージ

CAT/POSPC
スマートフォン
mPOS

パスワード
暗証番号

クラウド事業者等
ノンバンク（FinTech企業等）

11（セキュリティ対策実施時における）利便性の低下（暗号化・復号処理、鍵管理等の負担が増加する可能性）

高機能暗号のメリット■基本的な暗号機能に加えて、高度な機能を実現する暗号技術 データを「暗号化したまま」一定の処理を実行可能
 データを暗号化したまま統計解析等の演算処理を実行できる（準同型暗号）
 データを暗号化したままキーワード検索を実行できる（検索可能暗号） データの共有を「効率良く」実行可能
 暗号化したデータの復号権限を利用者の属性に応じて制御できる（属性ベース暗号）高機能暗号をうまく活用できないだろうか？
12情報技術研究センターにおける研究活動■ 高機能暗号の金融分野への応用にかかる研究【CSEC研究会のホームページの一部】

出典：http://www.iwsec.org/csec/csec_award.html#CSECAward■ 情報セキュリティ・シンポジウム（2017.3.9）


テーマ：新たな金融サービスを支える高機能暗号：セキュリティと利便性の両立に向けて

13

営業支援サービスでの活用（イメージ）
他の営業担当者③
顧客データの加工・提供を依頼
⑥
復号

営業担当者

営業支援サーバ（クラウド）
ストレージ

暗号文④顧客データ（暗号文）を加工⑤加工結果（暗号文） 加工結果
を送信
（暗号文）

②
暗号文を送信

①顧客
データを暗号化

顧客データ（平文）
高機能暗号を適用

出典：清藤・青野・四方、「公開鍵暗号型の高機能暗号を巡る研究動向」IMES Discussion Paper
No.2017-J-8、日本銀行金融研究所、2017年

14口座情報サービスでの活用（イメージ）
サービス利用者①サービスを依頼

ノンバンク（FinTech企業等）

ストレージ
暗号文

⑦復号（加工済み）⑥加工した
口座データ（暗号文）を送信⑤口座データを加工加工した口座データ（暗号文）

金融機関②
口座データの送信を
依頼

ストレージ
口座情報

④
暗号化した
口座データを送信③
口座データを暗号化

高機能暗号を適用

出典：清藤・青野・四方、「公開鍵暗号型の高機能暗号を巡る研究動向」IMES Discussion Paper
No.2017-J-8、日本銀行金融研究所、2017年

15高機能暗号にかかる課題
営業支援サービスや口座情報サービスのモデルにおける評価セキュリティ処理対象のデータの機密性が向上。

利便性
従来の暗号を利用する場合よりも、鍵管理のコストが低減するものの、暗号処理コストは増加する傾向。

課題
 メリット・デメリットの明確化
 高機能暗号の活用事例の蓄積と理解・研究の促進 セキュリティ等にかかる客観評価や標準化
16金融機関によるAIの活用の目的• AIを「導入中」「準備段階」または「検討中」と回答した
金融機関等の割合は、36.8％（28年度、FISC調査）。
【各活用目的における金融機関等の割合】
社内業務における情報検索等

20.8

コールセンターでの対応

38.9

ホームページ上のFAQ

39.4

対面での顧客対応（ﾛﾎﾞｱﾄﾞﾊﾞｲｻﾞｰ等）

46.3
54.6

音声等での照会対応
0

10

20

30

4050(%)
60

出典：金融情報システムセンター「平成29年度金融機関アンケート調査結果」（平成29年10月）＜図表1-2、調査対象期間：平成28年4月～平成29年3月、有効回答機関数：676＞17資金貸出・融資分析のモデル
金融機関

機械学習の分析・サービスの提供者

訓練データ（融資実績に関連する情報等）
学習モデル

エンジンを生成
判定結果に基づく融資の依頼・実行

分析の必要なデータを送信

判定・予測
エンジン

Score …

顧客判定結果を返信18不正な取引の検知のモデル
取引の実行者

金融機関

不正取引検知のシステムの運営者
エンジンを生成

訓練データ（取引にかかる既存のデータ）
学習モデル

不正な取引の実行者

判定したい取引のデータを提示

or

エンジン

判定結果を返信19

情報技術研究センターにおける研究活動■ 機械学習システムの脆弱性や対策にかかる研究動向をサーベイ（宇根・井上ペーパー） CSS 2018 (2018.10.22～25)において発表。
【CSS2018プログラムの一部】

出典： https://www.iwsec.org/css/2018/program.html#i2B120

訓練データにかかる情報の漏えい• エンジンやその入出力から、訓練データにかかる情報が漏洩。
訓練データ

エンジンから推定
学習モデル

エンジンの入出力から推定

判定・予測用データ
エンジン
or判定・予測結果（参考文献）
・Shokri, Reza, Marco Stronati, Congzheng Song, and Vitaly Shmatikov, “Membership Inference Attacks Against
Machine Learning Models,” Proceedings of the 2017 IEEE Symposium on Security and Privacy, IEEE, 2017, pp.3-18.
・Ateniese, Giuseppe, Giovanni Felici, Luigi V. Mancini, Angelo Spognardi, Autonio Villani, and Domenico Vitali,“Hacking Smart Machines with Smarter Ones: How to Extract Meaningful Data from Machine Learning Classifiers,”
arXiv: 1306.4447v1, 2013.
・Fredrikson, Matt, Somesh Jha, and Thomas Ristenpart, “Model Inversion Attacks that Exploit Confidence Information
and Basic Countermeasures,” Proceedings of the 22nd ACM SIGSAC Conference on Computer and Communication
21Security, ACM, 2015, pp.1322-1333.

エンジンにかかる情報の漏えい• エンジンの入出力等から、そのパラメータが漏洩。
代替エンジンを生成。
エンジンの入出力からそのパラメータが漏洩判定・予測用データ

エンジンor判定・予測結果

類似のエンジンを生成概ね同一の入出力関係を実現（別の）エンジン（参考文献）
Tramèr, Florian, Fan Zhang, Ari Juels, Michael K. Reiter, and Thomas Ristenpart, “Stealing Machine Learning
Models via Prediction APIs,” Proceedings of the 25th USENIX Security Symposium, USENIX, 2016, pp.601-618.

22

訓練データの変化によるエンジンの精度低下• 訓練データの微小なノイズや改変により、エンジンが変化して精度が低下。
訓練データ
学習モデル

エンジン

エンジンが変化し精度が低下

ノイズ等を付加
訓練データ（＋ノイズ）
学習モデル

エンジン

（参考文献）
・Biggio, Battista, Igino Corona, Davide Maiorca, Blaine Nelson, Nedim Šrndić, Pavel Laskov, Giorgio Giacinto, andFabio Roli, “Evasion Attacks Against Machine Learning at Test Time,” Machine Learning and Knowledge Discovery inDatabases, LNCS 8190, Springer, 2013, pp.387-402.
・Kloft, Marius, and Pavel Laskov, “Online Anomaly Detection under Adversarial Impact,” Proceedings of the 13th
International Conference on Artificial Intelligence and Statistics (AISTATS), 2010, pp.405-412.
・Mei, Shike, and Xiaojin Zhu, “Using Machine Teaching to Identify Optimal Training-Set Attacks on Machine
Learners,” Proceedings of the 29th AAAI Conference on Artificial Intelligence, Association for the Advancement of23
Artificial Intelligence (AAAI), 2015, pp.2871-2877.

入力データの変化による誤った判定・予測• エンジンへの入力データのノイズや改変により、判定・予測が誤ったものに。
微小なノイズの付加、改変

判定・予測用データ

orエンジン

判定・予測結果
判定・予測結果が変化（参考文献）
・Szegedy, Christian, Wojciech Zaremba, Ilya Sutskever, Joan Bruna, Dumitru Erhan, Ian Goodfellow, and Rob Fergus,“Intriguing Properties of Neural Networks,” Proceedings of 2014 International Conference on Learning Representation,
Computational and Biological Learning Society, 2014.
・Papernot, Nicolas, Patrick McDaniel, Ian Goodfellow, Somesh Jha, Z. Berkay Celik, and Ananthram Swami, “PracticalBlack-Box Attacks against Machine Learning,” Proceedings of the 2017 ACM on Asia Conference on Computer andCommunications Security, ACM, 2017, pp.509-519.
・Goodfellow, Ian J., Jonathon Shlens, and Christian Szegedy, “Explaining and Harnessing Adversarial Examples,”Proceedings of 2015 International Conference on Learning Representation, 2015.
・Carlini, Nicholas, and David Wagner, “Towards Evaluating the Robustness of Neural Networks,” Proceedings of 2017
IEEE Symposium on Security and Privacy, IEEE, 2017, pp.39-57.
24

対策の方針• エンジンや訓練データにかかる情報の盗取への対策– 確信度が攻撃に用いられる場合、確信度を出力しないエンジンを利用、また、詳細な確信度が漏洩しないように運用。
– 訓練や判定・予測を「暗号化したデータ」に対して実行。
• 高機能暗号や秘密分散技術を活用。

• 訓練データや入力データの操作による攻撃の対策
 学習モデル等の入力時に不正なデータを検知・排除。
・不正なデータを判定するニューラルネットワーク
・主成分分析、分布の差異の統計的分析

 不正なデータによる影響を軽減・解消。
・データの正規化（ドロップアウト、平均値フィルター等）

各対策にかかる手法の厳密な評価は今後の課題。
（参考文献）
Carlini, Nicholas, and David Wagner, “Adversarial Examples Are Not Easily Detected: Bypassing Ten Detection
Methods,” Proceedings of the 10th ACM Workshop on Security and Artificial Intelligence (AISec), ACM, 2017, pp.3-14.

25

まとめと今後の課題• 金融機関が、クラウド事業者、FinTech企業等とデータを連携してサービスや業務を行うケースが増えてきている。
– セキュリティと利便性を両立させる方法として、高機能暗号が有力な候補の1つ。

• AIや機械学習の活用に向けた動きが活発化。
– 機械学習システムのセキュリティについても、今後の研究動向を注視していくことが必要。
– 金融分野向けの機械学習システムに、既知の脆弱性や攻撃・対策がどう影響するかが注目される。

• ユーザーと技術者・研究者が連携して適切な活用方法を検討していくことが有用。

26