研究会テーマ1
AI・データ活用のためのコンプライアンス研究会

実務者が考えるAI・データ活用における倫理フレームワーク
2022年3月10日

AI・データ活用のためのコンプライアンス研究会

Copyright 2022 Japan Data Management Consortium1アジェンダ１．活動概要２．『倫理フレームワーク』➢ 対応策の検討
３．『倫理フレームワーク』➢ 訴求活動➢ 書籍出版
４．まとめと今後の活動方針
Copyright 2022 Japan Data Management Consortium

2１．活動概要

Copyright 2022 Japan Data Management Consortium3

研究会の活動テーマとコンセプトテーマ
デジタル経済の加速による、かつてないデータ量・活用幅の拡大に伴う課題や今後のビジネス拡大のための着眼点について、コンプライアンスの観点からディスカッション

コンセプト
データを戦略的に収集し適切に管理することが、データ活用の本格化に繋がる
誤ったデータの取り扱いをすることは経営における大きなリスクとなる
AI・データ活用を促進していくために、セキュリティ､コンプライアンス、個人情報保護を､社内規定や社外との契約で､厳格に取り扱っていくことが必要
契約、コンプライアンス、個人情報保護等について、実務対応を検討とデータ活用を企業として戦略的に活用する基礎となる研究を実施

これまでの活動
2019年
2020年

当研究会発足 重要ポイントの全体像を整理
倫理フレームワーク､データ活用におけるつまずきポイントを検討

2021年 倫理フレームワークのつまずきポイントにおける対応策を検討
Copyright 2022 Japan Data Management Consortium

4

活動体制
リーダ/サブリーダ
氏名

会社

リーダ

佐藤 市雄

SBIホールディングス株式会社

サブリーダー

安井 秀一

日本電気株式会社

サブリーダー神嶌 潔

株式会社マクニカ

氏名

会社

弁護士

福岡 真之介 様

西村あさひ法律事務所

弁護士

松村 英寿 様西村あさひ法律事務所

アドバイザーCopyright 2022 Japan Data Management Consortium

5

参加メンバー
2021年度登録者数：28名
昨年度登録者数：17名
会員名
SBIホールディングス株式会社
株式会社アシスト
日本電気株式会社
東京海上日動システムズ株式会社
Metafindコンサルティング株式会社
株式会社マクニカ
株式会社フォーバル
第一生命保険株式会社
キヤノンITソリューションズ株式会社
富士通株式会社
データビズラボ株式会社
エヌ･ティ･ティ･データ先端技術株式会社
伊藤忠テクノソリューションズ株式会社
コンプライアンス・データラボ株式会社一般社団法人リテールAI研究会
Copyright 2022 Japan Data Management Consortium

62021年度 活動スケジュール
６月
工程

ｷｯｸｵﾌ

７月

８月

９月

10月

事前準備討議Ⅰ.
保護法改正

Before/After
重要事項の理解現状の版で見直し箇所・内容の整理

Ⅱ.
解決策検討

解決策の糸口と拠り所の定義

自己紹介

Ⅲ.
外部発信

会合

▲
6/8
18:30~

11月

見直し内容の反映

解決案の深堀り査読を受けてブラシュアップ

公開
手続き

▲
7/13
18:30~▲
9/14
18:30~▲
11/16
18:30~▲
10/12
18:30~

１月

成果物
まとめ

発信方式の決定とブラシュアップ▲
8/17
18:30~

12月

Copyright 2022 Japan Data Management Consortium

対応
ガイドラインまとめ一般公開▲
12/1418:30~▲
1/1118:30~

２月

３月

ｶﾝﾌｧﾚﾝｽ
資料作成①改正を受けての反映事項②つまずきポイント
対応ガイド

③一般公開
報告
▲
2/15
18:30~▲
3/15
18:30~
7

倫理フレームワークの立ち位置検討にあたっての立ち位置
データの入手から活用においては、関連する人/組織は複数あるが、倫理フレームワー
クは、データ提供者から取得したデータを分析し活用する人/組織向けのものである。
活用する人/組織が作り出した派生データを、外部へ提供したり公開することも想定している。
本書における立ち位置

インターネット
上の情報
IoT機器など
WWW

パソコン、スマフォなど

利用者（データ提供者）

提供

取得

取得
データ

分析

蓄積
目的など
説明

派生
データ

活用

内部

利用

共同利用や業務委託

クラウド保管場所
運用管理

適用

機器・設備

提供
新しい価値

提供
Copyright 2022 Japan Data Management Consortium

提供
公開

第三者､企業など

インターネットなど
8＜昨年度研究＞

倫理フレームワーク 構成
5点の倫理テーマ➢ 時代が移り変わっていったとしても大きく変わることはない➢ 「情報保護」「安全・安心」 の対策を考え、土台を確保➢ 「公正性」と「説明責任」を果たせるデータ活用を実現➢ 全体としてデータ活用の「正当性」を示す
Copyright 2022 Japan Data Management Consortium

9＜昨年度研究＞

倫理フレームワーク 攻めのデータ活用の「つまずきポイント」に備える49のチェックリスト

Copyright 2022 Japan Data Management Consortium10

2．『倫理フレームワーク』 対応策の検討

Copyright 2022 Japan Data Management Consortium

11

対応策検討 スケジュール
６月
工程

ｷｯｸｵﾌ

会合

▲
6/15
18:30~

解決策
検討

自己紹介

会合でのｸﾞﾙｰﾌﾟ検討

リーダによる

事前準備

７月

８月

９月

10月

事前準備

▲
7/13
18:30~

11月

情報の収集

倫理フレーム 収集されたワークの紹介 情報の勉強▲
9/14
18:30~▲
10/12
18:30~▲
11/16
18:30~

対応案の議論ガイド事項について議論

２月

▲
12/14
18:30~

ｶﾝﾌｧﾚﾝｽ
資料作成

▲
1/11
18:30~対応ガイドライン
まとめ

３月

▲
2/15
18:30~▲
3/15
18:30~

つまずきポイント
対応ガイド

対応ガイドの文書化
成果物の最終確認
ふりかえり

ネット情報探し収集された情報の整理

１月

成果物
まとめ

討議

▲
8/17
18:30~

12月

議論結果の整理

ネット情報探し
Copyright 2022 Japan Data Management Consortium

対応ガイドの全体とりまとめ カンファレンス
成果発表の準備12

対応策のアウトライン①
倫理
1 正当性

つまずきポイント1.1 活用にあたっての納得感

問題事象

1.2 個人に係る情報の提供に対する不安対処

サービスの利用者がつかない

リスク要因

リスク低減策サービスの意義、個人情報の必要性に納得をえられない

判り易く説明(多くの人のｺﾝｾﾝｻｽ)

個人情報が漏洩した時の影響に不安を持たれる

個人情報に対する安全対策の開示

1.3 個人に係る情報の提供
リスクとメリットのバランス
サービスが開始できなくなる

プライバシーリスクの方が大きいと判断する人もいる

少数派意見でも、問題として拡散、クローズアップされる
Copyright 2022 Japan Data Management Consortium

人によってリスクの捉え方が異なることに配慮した説明
個人情報の提供のする/しない選択権の提供
リスク対策と共にサービスの意義を丁寧に説明
13

対応策のアウトライン②倫理
2 説明責任つまずきポイント2.1 派生データの結果に対す
る説明

問題事象

2.2 派生データに偏りや間違いの混入の可能性

3 公平性

3.1 派生データによる不公平感や差別感の可能性

社会的信用を失う
利用者や社会に問題を与える

リスク要因

リスク低減策

AIの分析結果が人には理解できない、その適用で問題発生

推論過程見える化や答え合わせ検証、人による判断

学習ﾃﾞｰﾀの収集や作成時に偏りの混入､社会に実在する偏り学習ﾃﾞｰﾀの範囲選択/作成手続き適正化、偏り検出ツール活用

分類や区別する説明したつもりが、差別や偏見と受け止める人もいる
サービスが利用できない人がいることで不公平との指摘

Copyright 2022 Japan Data Management Consortium

色々な立場の人のいることに配慮した説明
スコアリングでは算出要素やロジックに透明性を提示
必要に応じて複数の利用手段の用意
14

データ活用における｢社会との協調を目指す会話｣のイメージ
社会

社会に実在する偏りとの付き合い方

実在する偏りの混入
AI学習用
標本データ

個人情報の提供の不安

AI
標本データ

学習

（取得データ)(分析)サービス意義、個人情報の必要性と安全対策の、コンセンサス

学習データ(派生データ)

取得データ

利用者（データ提供者）

分析

活用

機器・設備

AI活用の社会的責任の認識、偏見/差別的観点での配慮
色々な立場
や考え方

派生データ

考察

インターネットなど

Copyright 2022 Japan Data Management Consortium

15対応策のアウトライン③
倫理
つまずきポイント4 安全・安心 4.1 派生データが個人や組織や地域に与える影響の可能性

問題事象

リスク要因

リスク低減策発信した情報で風評被害に発展

個人・組織・地域の言及の仕方に配慮

AIの結果を用いた判断や制御で問題

社会ｲﾝﾌﾗ適用に慎重､人間の判断プロセス

過去に例のない
新たな社会的問題

人の行動や活動に与える影響の検証

犯罪の新しい手口に悪用

犯罪に利用される観点での確認

個人情報は悪用に使われやすい

個人情報はより高い漏洩対策

海外クラウド起因での、海外リージョンの利用は漏洩リスクが高い

個人情報は国内リージョン必須

個人情報の海外流出

海外クラウドでは外国の当局の要請で国内のデータも提供

仮名加工情報活用、日本/海外のクラウドの使い分け

社会的信用を失う

4.2 悪用の可能性
個人や組織へ迷惑を与える
4.3 国内でのデータの保管/管理

Copyright 2022 Japan Data Management Consortium

16対応策のアウトライン④倫理
5 情報保護問題事象

つまずきポイント5.1 情報セキュリティ対策

リスク要因

リスク低減策一般的なｾｷｭﾘﾃｨﾘｽｸ

ｾｷｭﾘﾃｨ対策､外部認証の取得

データを扱う組織やシステムの範囲拡大

個人情報は扱い制限､
仮名加工情報活用

データ提供先の問題
で、個人情報が漏洩

外部組織への提供は仮名/匿名加工情報

データ活用のため、継続保有・利用

個人情報は削除運用､データ活用には仮名加工情報を活用

個人の特定による本人に対する問題

ネット上の他の情報との突合せが可能

個人の希少性の高い情報の扱い方に配慮

データ所有者からの権利侵害の訴え

派生データに対する権利侵害の指摘

元情報に対する同一性や、新しい価値の確認

個人情報の漏洩により、
5.2 提供/公開先のコントロール
5.3 収集データの適切な削除

5.4 他データの突合での個人特定
5.5 提供データに関する権利侵害

２次的な被害や社会的信用失墜

Copyright 2022 Japan Data Management Consortium17データ活用における｢漏洩リスク低減への取組み｣のイメージ
安全な環境・体制で保管

共同利用
業務委託先

日本と海外のクラウドの使い分け

個人情報を含む元データ

渡すデータのコントロール

仮名加工などにてリスク低減したデータ

廃棄

第三者

AI

蓄積
AI学習用
標本データ

取得

標本データ
（取得データ)

仮名加工情報

学習学習データ

廃棄(派生データ)

活用

蓄積
取得

利用者
（データ提供者）

取得データ

企業など

(分析)

仮名加工情報

分析

派生データ

機器・設備
考察インターネットなど

個人向け情報Copyright 2022 Japan Data Management Consortium

18対応策の実務者視点での深堀事項①
つまずきポイント1.1 活用にあたっての納得感

対応策の実務者視点での深堀事項
目的に対して､収集する情報が必要となることを客観的に示す方法
読み手が理解しやすいように伝える方法
きちんと説明しようとする際の文量増加と読み易さを両立させる方法
派生データが妥当であることの論拠となる事項
多数の人から納得が得られるか予想が困難な場合の進め方
データ活用には仮名加工情報を使用､目的変更時の再合意はしないことの説明の仕方
1.2 個人に係る情報の提供に対す (個人が特定されること以外で)漏洩時に不安になる事項か否かを考察する方法
る不安対処
個人情報を扱う上で実施している安全対策を説明する際の、レベルや説明項目
本人からの自分のデータの開示要求に備えた､システムに実装しておくべき要件
1.3 個人に係る情報の提供リスク プライバシーリスクとメリットのバランスを考察する方法とメリットのバランス
オプトアウト時に設ける､適切なサービス利用制限に対する考え方/やり方
人の立場や考え方によって異なるプライバシーリスクの大きさを考察する方法
2.1 派生データの結果に対する説 AIの推論過程の見える化や、結果の答え合わせ的なアプローチでの正当性提示の具体的手段
明(AIの結果だけではNGで)人の判断ならOKといえる論拠や本質たる事項
2.2 派生データに偏りや間違いの AIで扱うデータの種類別の、注意すべき偏りや間違いデータの例
混入の可能性
偏りや、間違い/不正ノイズの確認に使えるツールと、その使用上の留意事項
Copyright 2022 Japan Data Management Consortium

19対応策の実務者視点での深堀事項②
つまずきポイント対応策の実務者視点での深堀事項
3.1 派生データによる不公平感や 人の立場や考え方の違いに起因する不公平感を考察する方法
差別感の可能性
スコアリングの透明性を示すために算出に用いる要素やロジックを説明する際の､レベルや仕方
4.1 派生データが個人や組織や地 風評被害に繋がる内容を含むかどうかを事前に確認する方法
域に与える影響の可能性誤解された内容で拡散されないように、内容が部分的に切り取られ使われることの防止策
AIの適用の可否/適用の仕方を､社会的インパクトから判断する基準
新しい情報や活用方法が､人の行動や活動にまで影響を与えるか否かを考察する方法
4.2 悪用の可能性
新しい情報や活用方法が、悪用の新しい手口に使われることがないかを考察する方法
4.3 国内でのデータの保管/管理 クラウドの比較表(リージョン、申込者情報の国別分離、契約先､準拠法合意管轄裁判所)
従業員が使用する、ディスクトップやストレージのクラウドの漏洩リスクと利便性を加味した使い方
5.1 情報セキュリティ対策
仮名加工と匿名加工の､違いと、具体的な加工方法例
企業が事業内容に合わせて取得している､セキュリティ関連の認証
情報漏洩のリスクを更に低減するための具体的な対策
5.2 提供/公開先のコントロール 業務委託や共同利用で情報を渡す場合の、情報漏洩リスクの観点の、契約記載事項
業務上、第三者に個人情報を渡す場合の、プライバシー配慮や情報漏洩対策となる事項
5.3 収集データの適切な削除
サービス利用の解約後の連絡確保などで情報保持が必要な場合の､削除運用のやり方
5.4 他データの突合での個人特定 扱うデータ量が多い場合の、個人に関する希少性の高い情報を効率よく確認する手段
5.5 提供データに関する権利侵害 派生データの元情報に対する、権利侵害を受ける可能性の判断に使える基準
Copyright 2022 Japan Data Management Consortium20

３．『倫理フレームワーク』 訴求活動と書籍出版

Copyright 2022 Japan Data Management Consortium21

外部への訴求活動
昨年の成果説明(DM2020)で、一般公開希望など反響あり
2021/ 7/29 研究会によるオープンセミナー開催➢ 「AI・データ活用が引き起こす問題を未然に防ぐ！～そのために必要な倫理的観点の重要性と、実践のためのツールのご紹介」➢ 申込166名､視聴116名

2021/10/18 マクニカ社イベント｢MET2021｣で講演➢ 「法令遵守だけでは不十分！データ活用に潜む問題を未然に防ぐには～倫理観点を踏まえた現実的なアプローチに迫る～」

2021/10/21 日経クロステックに取り上げられる➢ 「データの利用で炎上」を防ぐ49の質問
Copyright 2022 Japan Data Management Consortium

22

書籍出版
2022年3月14日 日経BP社より発売予定➢ 攻めのデータ活用の「つまずきポイント」に備える49のチェックリスト➢ AI・データ活用のためのコンプライアンス研究会著➢ アドバイザー福岡先生による第1章寄稿

目次➢ 本書と「倫理フレームワーク」の使い方➢ 第1章 データ活用における倫理上の問題点➢ 第2章 倫理フレームワークと使い方➢ 第3章 つまずきポイントの洗い出し事例➢ 第4章 データ活用の全体像とつまずきポイント
Copyright 2022 Japan Data Management Consortium

23

４．まとめと今後の活動方針

Copyright 2022 Japan Data Management Consortium

24次年度の取り組みにむけて今年度の振り返り➢ 2022年施行個人情報保護法改正も見据えて、勉強会を実施➢ つまずきポイントの解決策の着眼点等を中心に議論し、詳細の詰めは来年度持ち越し➢ 外部発信を積極的に実施し、セミナー講演や大企業担当者との情報交換、政府関係者とのディスカッションで、実用化に向けて精査を行った➢ 日経BP社のご協力を得て、書籍化を実現し、現状の倫理FWの公開を果たす

次年度への取り組み➢ つまずきポイントの解決策の着眼点を精査し、具体的な取りまとめを実施➢ 書籍化で現状を公開した倫理FWの実用性を高めるために、実務で取り入れてくれる企業団体と連携し、内容の深化を行う➢ 外部発信を継続し、倫理FWの最新情報を発信するとともに、浸透を図ると➢ 個人情報保護法や関係法、業界毎の法令等との関係性について整理する
Copyright 2022 Japan Data Management Consortium

25

Copyright 2022 Japan Data Management Consortium

26