2020 年 8 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第2回
開催報告
1.

はじめに
日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7月から立ち上げ、1 年間の検討を行う。
研究会第 2 回では、当研究会の副座長である松本敬史氏（所属：有限責任監査法人トーマツ／東京大学未来ビジョン研究センター）より「AI 倫理ガイドライン」に係る話題提供が行われた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。

2.

AI ガバナンスに向けた「倫理ガイドライン」
AI 倫理ガイドラインの背景／主な論点
近年、AI の社会実装が加速的に進む一方で、倫理に係る問題が発生している。
「AI スピーカーによる家庭内会話の外部誤送信」「人事採用の AI による女性蔑視の判断疑義」
等インシデントが起こり、AI 自体の公平性・プライバシー・透明性といった倫理面での信頼性実現が重要な論点となっている。
上述の背景から、国内外で AI 倫理に係るポリシーやガイドライン等の文献が発行され、国際的な場での議論や研究開発が活発に行われている。一方で、AI に関する各国の政策やグローバルでの論点と実践的な視点の違いから、AI 倫理を構成する要素の表現解釈に乖離が生じていることが明らかになっている。
しかし、各 AI 倫理ガイドラインで定義された AI 倫理に係る要素は、同一の表現でも意味や解釈が異なるケース（下表参照）が存在し、共通認識を困難にしている。
■AI 倫理ガイドラインの解釈に係る留意点（本研究会の公開資料より抜粋）
例：「Transparency」
ガイドライン名

ガイドライン上の解釈

日本「 AI 利活用ガイドラ「Traceability（検証可能性）」と「Explainability （説明イン」可能性）」を含んでいる。

EU 「 Ethics Guideline for「Traceability」「Explainability」に「Communication」
1

2020 年 8 月
JDLA 事務局

Trustworthy AI」1を加えている

シンガポール「Model AI「Explainability」と「Transparency」を別の構成要素とGovernance Framework」2して扱っている。

また、AI 倫理に係る要素（「Accountability」「Robustness」「Fairness」「Transparency」等）は完全に独立したものではなく、相互に関係性を持つため構造的に整理する検討が行われている。例えば、経済産業省にて実施された「AI のガバナンスに関する動向調査3」においては、サービス提供に係る「基礎・基盤として求められる倫理要素」、AI が使うデータと AI モデルに係る「AI の判断に関連する倫理要素」、AI との出力に係る「利用者との関係に係る倫理要素」の 3 領域に分類され、各領域が関係性を持つことが言及されている。
AI 倫理ガイドラインの概要／事例
海外では、国際機関の OECD4やユネスコ5 がともに「AI 原則」を採択し、欧州委員会6では「信頼される AI の倫理ガイドライン」 が提唱され、またシンガポールの個人情報保護委員会7からは AI がもたらすリスクの自己評価シートが提示されている。我が国でも、内閣府「人間中心の AI 社会原則」や総務省「AI 利活用ガイドライン」に代表されるように、産学官で AI の倫理に関する指針が国内で続々と発表されている。民間企業でも Microsoft 社8 、Google 社9、IBM 社10 の海外企業や、SONY 社11、富士通社、NEC 社13などの国内大手企業が AI 倫理のガイドラインを公表している。また、IEEE12に代表される標準化団体や「Partnership on AI14」等のコンソーシアムでの研究開発が活発に行われている。
各機関で発行された AI 倫理ガイドラインは、グローバルでの論点や各国の政策と実践的な視点に応じて策定され、AI の開発者・サービス提供者だけではなく、AI の利用
https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
https://www.pdpc.gov.sg/Help-and-Resources/2020/01/Model-AI-GovernanceFramework
3 https://www.meti.go.jp/meti_lib/report/2019FY/000199.pdf
4 https://oecd.ai/ai-principles
5 https://en.unesco.org/artificial-intelligence/ethics
6 https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
7 https://www.pdpc.gov.sg/Help-and-Resources/2020/01/Model-AI-GovernanceFramework
8 https://www.microsoft.com/ja-jp/ai/responsible-ai?activetab=pivot1:primaryr6
9 https://ai.google/responsibilities/
10 https://www.ibm.com/blogs/think/jp-ja/everyday-ethics-for-artificial-intelligence/
11 https://www.sony.co.jp/SonyInfo/sony_ai/guidelines.html
12 https://pr.fujitsu.com/jp/news/2019/03/13-1.html
13 https://jpn.nec.com/press/201904/images/0201-01-01.pdf
14 https://www.partnershiponai.org/human-ai-collaboration-framework-case-studies/1222020 年 8 月
JDLA 事務局者に向けた提言や留意点が記載されている。一方で、ビジネスにおける AI の利用者側においては検討が進んでおらず、AI サービスのサプライチェーン全般で倫理に係る信頼性を確保するためにはユーザー企業を含めた議論が必要とされる。

■AI 倫理ガイドラインの発行元による特徴（本研究会の公開資料より抜粋）
発行元

発行元の AI 倫理ガイドラインの特徴

国際機関

各国政府に向けた提言⇒後進国の参加・デジタル格差・環境問題等の社会課題を重視

各国・政府国際機関の倫理ガイドラインに沿う形で策定⇒構造化したアプローチ（フレームワーク、アセスメント）の提言や企業の事例収集が進められている

企業

AI の開発企業が「行動指針」として策定＋海外では技術的な実現方法も公開⇒ビジネスにおける AI の利用者側での検討は進んでいない団体

個別領域（透明性、公平性、人間とのインタラクション等）に特化してコミュニティ標準化や研究

Principle to Practice に向けて各機関で発行されている AI 倫理ガイドラインを実際の AI サービスへ適用していく
上で、各企業の社会活動に及ぼす影響として下記の点が挙げられる。
1 点目は、企業における倫理活動への影響である。近年多くの企業がコンプライアンス活動として、エシックスオフィサーや各ビジネス部門のリーダーが中心となって倫理的な行動を行うための取組が進められている。そのような倫理活動の推進を行うリーダーに求められる役割として、「価値観の共有」、「ガバナンス」、「（組織の AI 倫理の）浸透」の必要性が言及された。
2 点目は、経済産業省にて実施された AI のガバナンスに関する動向調査15で行われた有識者会議のディスカッション内容より、AI サービスの開発ライフサイクルへの影
響として、「AI サービスリリース前」、「AI サービスリリース後」、「インシデント発生時の対応」の時点における、AI ガバナンスの必要性が引用紹介された。
3 点目は、AI 倫理ガイドライン策定後における、企業と各ステークホルダーとの関係への影響が提起された（下表）。

15

https://www.meti.go.jp/meti_lib/report/2019FY/000199.pdf
32020 年 8 月
JDLA 事務局■企業と各ステークホルダーとの関係への影響（本研究会の公開資料より抜粋）

3.

企業のステークホルダー

左記ステークホルダーとの関係への影響

業界団体／監督官庁

業界の倫理ガイドラインへの準拠

取引先・委託先

企業の倫理ガイドラインへの理解

利用者・顧客

利用目的や利用者責任の理解

第三者・社会社会的影響の理解・受容性

主催側からのまとめと研究会参加者からの主なコメント
以上の通り、第二回研究会では AI ガバナンスに向けた「倫理ガイドライン」について、各機関から発行されている AI 倫理ガイドラインを基に、各ガイドラインの概要や事例紹介が行われ、実サービスに適用していく段階で各企業活動に及ぼす影響について議論が行われた。
話題提供を踏まえて参加者より以下のようなコメントが寄せられた。
✓日本における企業間取引はいわゆる B2B2C の構造が多く、AI サービスに係る関係者が複数の企業体によって成り立つことが多いことから、 AI サービス提供者が複数のリスク要因を包括的に検討するためには関係者間で対話するための枠組みが必要と考えられる。

✓米国では AI サービスに起因する問題が複数発生しており、シリコンバレーを中心とした企業はリスクベースのアプローチを取っている。ただし、あくまで企業価値を最大化することが第一目的であり、業界によって考え方は異なるので一律の扱いではない。費用対効果の問題もあるので、企業価値を高めるために必要だと判断されたら取り入れられる（例えば EU 相手であればプライバシー保護を重視するなど）、という点では ESG 投資の話に近いとの指摘もあった。そのため、セキュリティやハラスメント対策と同様、倫理に関しても最低限のコンプライアンスを確保したうえでの成長を重視し、スケールアップと併せてリスク対応が行われている傾向がある。ただし、人種・性別差別や透明性に関する問題意識の持ち方は、欧米の方は文化的に醸成されているなど、日本と前提段階が違うのではないかとの指摘もあった。

✓

総務省「AI 利活用ガイドライン」等は、必ずしも「倫理」だけをターゲットにしたものではなく、AI の利活用が促進され、ひいては企業価値が高まるように、「安全性」等の AI サービスの信頼性を確保するための論点を包括的に含めるように検討している。実サービスにおいても「倫理」に限らず、様々なリスクに対して包括的に対応することが求められる。

✓

企業においてはコーポレートガバナンスとの親和性が必要となる。経営者のビジョンから現場のオペレーションや各ステークホルダーとのコミュニケーションにおいて一貫した検討が必要である。
4

2020 年 8 月
JDLA 事務局✓

海外だけではなく、日本企業の中でも AI ガバナンスやデータガバナンスに関する研修を社内で始めているところもある。セキュリティやハラスメント研修のような形で資料を作っている。また社員教育だけではなく、顧客に対しての説明も課題として指摘された。

次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：齊藤慶太郎）＜第 2 回開催概要＞
日時 ：2020 年 8 月 25 日（火）16:00-18:00（Zoom 開催）
内容 ：話題提供「AI 倫理ガイドライン」松本敬史氏（有限責任監査法人トーマツ/副座長）
質疑応答/ディスカッション

5