2021 年 2 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第8回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
研究会第 8 回(2020 年 12 月 15 日)では、AI ガバナンスに向けた政策・社会システムというテーマのもと、東京大学大学院 宍戸常寿氏、及び東京大学未来ビジョン研究センター 渡部俊也氏の両名より話題提供をいただいた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

AI 及びデータをめぐる新たなガバナンスモデル宍戸常寿氏より「AI 及びデータをめぐる新たなガバナンスモデル」と題して話題提供いただいた。
「デジタル社会形成 10 原則案」の紹介
政府は、デジタル・ガバメント閣僚会議にて組成したデジタル改革関連法案ワーキン
ググループの第 2 回会合1にて、デジタル社会形成に向けた方針として「デジタル社会10 原則案2」を提示した。同原則案では、官民連携を基本として行政自らユーザー視点に立ち、「誰一人取り残さない」「人に優しいデジタル化」を旨とした、新しいサービスを提供することが掲げられており、データ／AI ガバナンスに関連する方針も含まれている（表 1 参照）。また同原則案では、AI を巡る様々な社会原則が、同時に社会の原則になっていくことが示唆されており、AI ガバナンスに係る議論や課題解決は、今後社会から期待・要求されてくると思われる。

1

https://www.kantei.go.jp/jp/singi/it2/dgov/houan_wg/dai2/gijisidai.html

2

https://www.kantei.go.jp/jp/singi/it2/dgov/houan_wg/dai2/siryou2.pdf

1

表 1 デジタル社会 10 原則案におけるデータ／AI ガバナンス関連の方針
原則

データ／AI ガバナンスに関連する方針

1. オープン・透明

AI 等の活用と透明性確保の両立

2.公平・倫理

データのバイアス等による不公平な取り扱いを起こさない

3.安心・安全・デジタルでより安全・安心して暮らせる社会の構築
・個人情報保護や不正利用防止で、デジタル利用の不安低減

5.社会課題の解決

デジタル社会に向けて、制度・ルール等の再構築、国・地方・民間の連携強化・コスト低減により、成長のための基盤整備

6.迅速・柔軟アジャイル発想を活用し、費用を抑えつつ高い成果を実現

7.包摂・多様性

アクセシビリティの確保

9.新たな価値の創造

官民のデータ資源を最大限に活用「人権と民主主義に関する EU 行動計画 2020-2024」の紹介
EU において、AI ガバナンスの問題は、人権や民主主義のプロセスに重大な影響を与える問題として議論が進められている。その中で、欧州委員会、及びジョセップ・ボレ
ル欧州連合（EU）外務・安全保障政策上級代表兼欧州委員会副委員長は、「人権と民主主義」に関する優先課題と今後の方針を定め、共同コミュニケーション（政策文書）及び 2020 年から 2024 年の「人権と民主主義に関する EU 行動計画」を、2020 年 3 月 25日に採択した3。
同政策文書の中には、新しいテクノロジー（デジタルテクノロジー）に関する行動方針が含まれており、同方針の中で、デジタルテクノロジーは、人権と民主主義の保護と促進に重大な貢献を成し得るものと位置づけ、人間中心で対応すべき事案と定めている。また同方針の中では、キャパシティ・ビルディングと実効的な監視や、人工知能を含むデジタルテクノロジーを利用した人権と民主主義の促進を中心に、デジタルテクノロジーへ対応していくことが掲げられている。
「AI ネットワーク社会推進会議 報告書 2020」の紹介
総務省情報通信政策研究所は、2016 年 10 月から「AI ネットワーク社会推進会議」を開催し、AI ネットワーク化をめぐる社会的・経済的・倫理的・法的な課題について、検討を進めている。その中で同推進会議は、2020 年 7 月 21 日に「AI ネットワーク社会推進会議 報告書 2020」を公表4した。

3

https://eeas.europa.eu/delegations/japan/76549/node/76549_ja

4

https://www.soumu.go.jp/menu_news/s-news/01iicp01_02000091.html

2同報告書は、「安心・安全で信頼性のある AI の社会実装」に向けて必要となる論点を基に、有識者へのヒアリング内容や議論等が整理され、必要な情報を取りまとめたものであり、また AI の社会実装を積極的に推進していくための参考となるツールとしての役割を担っていくものである。さらに同報告書の中で、AI に関するガバナンスの重要性が言及されている（表 2 参照）。
表 2 AI に関するガバナンスの重要性について5
安心・安全で信AI 原則等の策定にとどまらず、AI 原則等の実施を確保するた

頼 性 の ある AI

めにはガバナンス（仕組み）が必要となると考えられる。の開発等に必要ガバナンス体制としての自己点検・自己評価の仕組みとして、なガバナンス体外部の多様な人材から構成される社内委員会を設置するなど、制工夫した取組が見られる。ガバナンスについては、どのような形で担保されるか、また、どの範囲まで及ぼすものなのかについては様々な形態が考えられるものであることから、今後の取組として以下の取組が考えられる。
ア． 自己点検・自己評価の取組事例の収集・PR 等
イ． 外部監査についての検討
ウ． ガバナンスの実施内容や課題を共有するための公開された議論の場の設置等

AI 利 活 用ビ ジ

AI ビジネスに関連する法律や倫理、ステークホルダーには大きネスのガバナンな広がりがあり、従来ビジネスと同じようなつもりで進めるスの重要性と、リスクが実現してしまう可能性が高い。そのような事態に陥らないために、ステークホルダーと法的・倫理的課題の検討を行うためのガバナンス体制を整えることが今後の課題として必要となると考えられる。
また、ガバナンス体制の検討にあたっては、企業ごとにビジネスやもともとの体制が異なることから、対処の仕方も大きく異なってくるものと考えられる。

「GOVERNANCE INNOVATION –Society5.0 の時代における法とアーキテクチャのリ・デザイン」の紹介
経済産業省は、2019 年 8 月から、「Society5.0 における新たなガバナンスモデル検討会」を開催し、ビッグデータ・IoT・AI 等のデジタル技術が社会を急激に変えていく中で、「イノベーションの促進」と「社会的価値の実現」を両立する、新たなガバナンスモデルの必要性と、その在り方について検討を行っている。その中で同検討会は、2020

5「AI ネットワーク社会推進会議 報告書 2020」（45 頁, 69 頁）から一部抜粋

3

年 7 月 13 日に「GOVERNANCE INNOVATION: Society5.0 の時代における法とアーキテクチャのリ・デザイン」報告書6を公表7した。
同報告書では、Society5.0 を前提とする社会において、従来型の法規制を中心とするガバナンスモデルの限界を示唆した上で、今後 Society5.0 を実現する新しいガバナン
スモデルとして、サイバー空間及びフィジカル空間を融合したアーキテクチャをデザインする民間企業による自主的な取組や、多様化した価値観を有するコミュニティや個人による積極的な関与を重視した、業種横断的なマルチステークホルダーによるガバナンスモデル（図 1 参照）の構築が言及されている。
また同報告書では、技術やビジネスモデルの変化が急速な Society5.0 の社会において、「ルールベースの規制8」は、陳腐化するスピードが速いことが指摘されており、その解決手段として、法目的達成という結果に着目する「ゴールベースの規制9」へ転換し、技術やビジネスモデルの変化により柔軟に適応し、規制の陳腐化を未然に防ぐことが望まれる旨が言及されている。さらに、法規制やガイドライン、及び標準等について、その効果や影響の評価を継続的に行い、見直しの機会を設けることが必要になる旨が言及されている。
図 1 新たなガバナンスシステムの全体像のイメージ10

6

https://www.meti.go.jp/press/2020/07/20200713001/20200713001-1.pdf

7

https://www.meti.go.jp/press/2020/07/20200713001/20200713001.html8 法が事前規制的に具体的な行為や義務を記述する規制。
9

法が保護すべきゴールについて記述し、その具体的な履行方法についてはオープンな記述とする規制。

10「GOVERNANCE INNOVATION: Society5.0 の時代における法とアーキテクチャのリ・デザイン」

報告書（60 頁）から一部抜粋

4データ活用とプライバシー保護の両立のためのデータガバナンス体制の構築
デジタル化社会が健全な方向に向かうためには、プライバシーを適正に保護しながらデータ利活用を進めることが重要であると考えられる。
現状、個人データの取扱いについては、民間企業を対象とする個人情報保護法の他、様々な法律や法令が存在するが、各々で、個人情報の定義や取扱いの制限等が異なっているために、個人データの提供や利活用が妨げられていると指摘されている。そのため、個人情報保護法の基で活動している個人情報保護委員会の監視・監督権限を、行政機関や地方自治体等にまで範囲を広げ、民間と政府、国と地方公共団体の間で安心してデータ共有を進める仕組みとして、個人情報保護法を基にしたデータガバナンス体制（図 2参照）の構築が不可欠と考えられる。
現在、個人情報保護法の対象を行政機関や独立行政法人、及び地方自治体にまで範囲を広げ、その監視・監督権限を個人情報保護委員会に持たせる方向で、政府は議論を進めている。
図 2 個人情報保護法を基にしたデータガバナンス体制11「DX 時代における企業のプライバシーガバナンスガイドブック ver1.0」の紹介
経済産業省と総務省は、2019 年 8 月から、「企業のプライバシーガバナンスモデル検討会」を開催し、Society5.0 の時代における企業の役割、プライバシーの考え方、企業のプライバシーガバナンスについて検討を行っている。その中で同検討会は、2020 年
8 月 28 日に、企業がプライバシーガバナンスの構築のために取り組むべきことについ11 https://www.nhk.or.jp/kaisetsu-blog/400/432938.html

5

て整理した「DX 時代における企業のプライバシーガバナンスガイドブック ver1.012」を公表13した。
同ガイドブックでは、企業の経営者が取り組むべき要件の一つとして、企業の経営者はプライバシー保護とデータ利活用を単に二項対立として捉えるのではなく、プライバシーに配慮しながらデータ利活用のメリットを最大化していくという視点で捉える必要がある旨が言及されている（表 3 参照）。
また同ガイドブックでは、民間企業の取組事例をベストプラクティスとし、プライバシーガバナンス構築にあたり重要となる項目について提示されている（表 3 参照）。
表 3 プライバシーガバナンス構築のポイント14
経営者が取り要件１：プライバシーガバナンスに係る姿勢の明文化

組むべき要件

経営戦略上の重要課題として、プライバシーに係る基本的考え方や姿勢を明文化し、組織内外へ知らしめる。経営者には、明文化した内容に基づいた実施についてアカウンタビリティを確保することが求められる。

要件２：プライバシー保護責任者の使命
組織全体のプライバシー問題への対応の責任者を指名し、権限と責任の両方を与える。

要件３：プライバシーへの取組に対するリソースの投入
必要十分な経営資源（ヒト・モノ・カネ）を漸次投入し、体制の構築、人材の配置・育成・確保等を行う。

プライバシー

１. 体制の構築

ガバナンスの（内部統制、プライバシー保護組織の設置、社外有識者との連携）

重要項目

２. 運用ルールの策定と周知（運用を徹底するためのルールを策定、組織内への周知）

３. 企業内のプライバシーに係る文化の醸成（個々の従業員がプライバシー意識を持つよう企業文化を醸成）

４. 消費者とのコミュニケーション（組織の取組について普及・広報、消費者と継続的にコミュニケーション）

５ .その他のステークホルダーとのコミュニケーション（ビジネスパートナー、グループ企業等、投資家・株主、行政機関、業界団体、従業員等とのコミュニケーション）

12 https://www.meti.go.jp/press/2020/08/20200828012/20200828012-1.pdf
13 https://www.meti.go.jp/press/2020/08/20200828012/20200828012.html
14 https://www.meti.go.jp/press/2020/08/20200828012/20200828012-2.pdf

63.

データ・AI ガバナンスに関する企業実態と政策動向
続いて、渡部俊也氏から「データ・AI ガバナンスに関する企業実態と政策動向」と題して話題提供いただいた。
2021 年に向けたデータ戦略施策
政府は 6，7 年前から、知的財産としてのデータの取扱いに関する検討を始めている。
検討の背景として、経済構造の変化に伴い、物権的構成を有する財産権とも呼ばれている知的財産権15がこれまで対象としてきた伝統的な知財より、データがもたらす経済的な価値やインパクトのほうが、企業の競争優位性に大きく影響する事例が増えてきたことが要因となっている。
現在、知的財産としてのデータの検討は、知財知的財産戦略本部構想委員会にて行われている。同様の検討は、成長戦略の一環として内閣官房 IT 戦略室16に設置された、データ戦略タスクフォース内でも行われているが、同タスクフォースでは、データ利活用全般の環境整備のためのデータの取扱いルールを中心とした検討が行われている。
✓ノンパーソナルデータに関する政策動向
欧州委員会は、2020 年 2 月 19 日にデータ分野における政策文書「欧州データ戦略17」にて、インダストリアルデータ（以下ノンパーソナルデータ）について、データ共有に向けたインセンティブや実践的かつ公平・明確なデータへのアクセス・利用ルールを含む、企業間、行政機関間および官民間でのデータのガバナンス・アクセス・再利用に関する規制枠組みを提案する方針を示した。世界的にも、ノンパーソナルデータを生み出す主体に対して、インセンティブないし保護を与える必要があるという見解が多いこともあり、同政策文書を受けた与党内からは、パーソナルデータを扱う GDPR と互換性のある個人情報保護法と同様に、ノンパーソナルデータの互換性のあるハードローが必要という意見が出てきている。

技術ノウハウ保護とデータ利活用に関する実証研究
独立行政法人経済産業研究所では、日本の製造業におけるノウハウ資産の把握と技術流出のインパクトに関する実証分析や、企業において発生するデータの管理と活用に関する実証研究等、これまで様々な実証分析や実証研究を行ってきた。これまでの実証研究の中で、以下の点が明らかになった。
✓

データ利活用が最も進んでいる事業において、技術情報（製造方法・ノウハウ等）の流出が、データ利活用のマイナス面として最も多く挙げられた。

15

知的財産権は、特許権や著作権等の創作意欲の促進を目的とした「知的創造物についての権利」と、商標権や商号等の使用者の信用維持を目的とした「営業上の標識についての権利」に大別される。
https://www.jpo.go.jp/system/patent/gaiyo/seidogaiyo/chizai02.html
16

内閣官房 情報通信技術(IT)総合戦略室

17

https://ec.europa.eu/info/sites/info/files/communication-european-strategy-data-19feb2020_en.pdf

7✓

アンケート結果を基に統計解析を行った結果、ビッグデータの分析能力やマネジメント能力、他社とのデータ契約調整の能力が、デジタル知財のパフォーマンスに対して統計的に有意となる。

限定提供データに関する動向2016 年から「第四次産業革命を視野に入れた知財システムの在り方に関する検討会」による検討を通し、2019 年 7 月 1 日に施行された改正不正競争防止法において、「限定提供データ」が法的保護対象に加えられた。
「限定提供データ」とは、特定の第三者（データ提供契約の相手方）への提供時に、他者との共有を前提に一定の条件のもとで利用できるデータ18に対して、パスワードなどによる秘密保持の処理がなされたデータとのことである。改正不正競争防止法では、万が一、限定提供データが不正に取得・使用され、その権利が侵害された場合、データ保有企業が流通の差止請求や損害賠償請求を起こすことができるようになった。
改正不正競争防止法が施行されて以降、直近 1 年間（2019 年度）で提携契約を結んだデータ取得プロジェクトを対象に、実際に限定提供データとして受領したデータ数を調査した結果、調査実施者の想定以上に、限定提供データ制度が利用されていたことが判明した。
また、AI データ活用コンソーシアムの知的財産・契約検討 WG の活動にて、以下の点を踏まえたデータ提供契約案を開発しており、2020 年度内に公表予定となっている。
✓

ウィザード方式に適するように、できるだけ簡便な選択肢を選択すると契約が完成するような仕組みとすること✓

データの来歴管理を意識し、データの価値を判断する上で重要なデータの品質についての記載項目を設けること✓

オリジナルデータ及びアノテーションデータを対象とすること✓

改正不正競争防止法に基づく限定提供データによる保護を可能とすること✓

経済産業省「AI・データの利用に関する契約ガイドライン19」に沿った契約案とすること

同 WG 活動を通して、AI 利用に際して価値あるデータの提供契約時には、以下「データのトラスト」と「組織のトラスト」の双方の要素が、確認観点として含まれている必要があると考えられる。
✓18

データのトラスト➢

データの品質が表示されていること➢

来歴管理がなされていること

例えば、携帯電話の位置情報データや自動車走行用の地図データ、POS システムで収集された商品ごとの売上げデータ等が、「限定提供データ」に該当する。
19 https://www.meti.go.jp/press/2019/12/20191209001/20191209001.html

8

✓4.

➢

データに対する改ざん防止施策が施されていること➢

オリジナルデータとアノテーションデータが含まれていること 等

組織のトラスト➢

データ提供者に信頼性があること（データガバナンス体制の有無、等）➢

データのトラストは組織が遵守するべきこと、として規定すること 等

質疑応答での論点
第 8 回研究会では AI と政策・社会システムについて議論が行われた。話題提供を踏まえて以下のような質疑応答が行われた。
日本におけるデータ・AI ガバナンスの実装に向けた課題✓

日本において、新しい取り組みが民間企業全体に広がるパターンは、これまでの歴史から概ね以下に限られているため、政府等の第三者からの積極的な働きかけが必要になっていくと思われる。
➢

業界を代表する大企業が先導するパターン➢

社会に影響を及ぼす問題が発生し、社会全体としてその問題に対応せざるを得ない状況下に陥ったパターン➢

他社での取り組み事例やベストプラクティスを基に、自社に展開するパターン✓

伝統的な業界や縦割り型の企業の場合、各事業部がオーナーシップを持っている企業は、各データのデータオーナーシップも各事業部が有していることが多いため、全社的なデータ利活用を進める際のガバナンス体制としてはあまり望ましくない。

✓

スタートアップやベンチャー企業の場合、政府主催で様々な企業から意見を募り、合意形成した内容を業界に還元する、という流れが望ましいと思われる。

✓

現在様々なガイドラインが発行されているが、ガイドライン間の関連や位置づけが不明瞭なため、ガイドラインの全体デザインや体系化が必要不可欠である。

✓

データ・AI ガバナンスの実装について、スピード感を持って取り組むためには、各企業の経営者の主体性が必要不可欠である。

✓

国や地方公共団体における AI サービスの調達条件として、データ・AI ガバナンスの論点になるような内容（AI の信頼性、他）が含まれるようになると、企業側も調達条件を満たすために対応する必要が出てくるので、データ・AI ガバナンス浸透の有効な手段にはなり得る。

✓直近 4 年間でデータ利活用が著しく進んだという結果にはなっておらず、4 年前と比べてデータ利活用に対する経営者の意識や裾野が広がったというのが実態である。また業界によっては、事業投資した結果、データ利活用のパフォー
9

マンスが低下しているところも存在しているため、事業構造に問題があるのではないかと、推察される。
ガバナンスにおけるリアルタイムモニタリングの信頼性等の確保のポイント✓

情報処理促進法を改正し、IPA20の権限や役割を強化する等、モニタリング拠点を作る必要がある。ただし、モニタリングを固定化（形骸化）させない仕組みが、信頼性や透明性の確保には必要と思われる。信頼性等の確保のポイントは、以下の通り。
➢モニタリングの仕組みは、様々な企業の CDO21や CPO22、規制当局等の有識者により議論が行われた上で構築されること➢

モニタリングは、モニタリングに係る様々な分野や企業内でローテーションされること日本がベンチマーク対象とすべき他国のスタートアップ政策の有無✓

諸外国と日本では経済環境や市場規模が異なるため、他国のスタートアップ政策をベンチマークとして単純に取り込むのは簡単な話ではない。一方で、政府は他国のスタートアップ政策に単純な形で倣うのが現状であるため、その状況から脱却する必要がある。

AI ガバナンス実装のための司法機関へのアプローチ方法✓

日本の場合、司法機関を動かすためのアプローチは、立法機関や行政機関からの直接的なアプローチよりは、国民や社会からの要望に則した間接的なアプローチが功を奏することが多い。そのため、AI サービス利用におけるリスクシナリオを用いた模擬裁判を実施する等、民間企業や民間団体の有識者や当事者となり得る方に参画いただき、来る裁判で浮き彫りとなる論点や課題を洗い出し、司法機関にその内容を検討材料として提供するアプローチが有効だと思われる。

ガバナンスモデルに関する各種検討会の今後の進め方✓

各種検討会で公表したレポートを基に、具体的なアクションプランに落とし込む作業やモデルケースを作成していくことが望まれる。その際に、レポートを基にした規制改革の検討を、政令指定都市等の地方公共団体で実験的に試行してみることが望まれる。

20 IPA（Information-technology Promotion Agency, Japan）：独立行政法人 情報処理推進機構
21 CDO（Chief Data Officer）：最高データ責任者
22 CPO（Chief Privacy Officer）：最高個人情報責任者

10次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：齊藤慶太郎）＜第 8 回開催概要＞
日時 ： 12 月 15 日（火）17:30-19:30（Zoom 開催）
内容 ： 話題提供：「AI 及びデータをめぐる新たなガバナンスモデル」
宍戸常寿氏（東京大学大学院法学政治学研究科）
話題提供：「データ・AI ガバナンスに関する企業実態と政策動向」
渡部俊也氏（東京大学未来ビジョン研究センター）
質疑応答・ディスカッション

11