資料２－１

報告書２０１９（案）概要

平 成 ３ １ 年 ４ 月
事務局

報告書2019の構成
AIネットワーク社会推進会議 『報告書2019』 はじめに
 第１章 AIネットワーク化をめぐる最近の動向
 １．国内の動向
 ２．海外の動向
 ３．国際的な議論の動向

 第２章 AI利活用ガイドライン案策定の考え方
 １．背景・経緯
 ２．AI利活用ガイドライン案の位置づけ
 ３．AI利活用ガイドライン案の概要
 ４．今後の展開

 第３章 今後の課題
 結び

 【別紙】 AI利活用ガイドライン案

 目的・基本理念
 主体の整理 一般的なAI利活用の流れ AI利活用原則とその解説
 AI利活用原則を考慮すべきタイミング1

第１章 AIネットワーク化をめぐる最近の動向

2

国内○「人間中心のAI社会原則」公表
AIをよりよい形で社会実装し共有するための基本原則を策定し、国際的な議論に供するため、政府は、AI戦略実行会議の下、産学民官による「人間中心のAI社会原則会議」を設置し、「人間中心のAI社会原則」 を公表。社会原則は、人間中心、教育・リテラシー、プライバシー確保、セキュリティ確保、公正競争確保、公平性・説明責任・及び透明性、イノベーションの７原則からなる。
海外○米国電気電子学会（IEEE）「倫理的に調整された設計 第１エディション」公表（平成31年３月25日）
AIの倫理的な設計、開発及び実装において参照されるべき一般原則として、人権、幸福、データ仲介、効能、透明性、アカウンタビリティ、悪用への警戒、技能を掲げている。また、倫理課題から技術への橋渡しを目的とした標準であるIEEE P7000TMシリーズや用語集の作成など「原則から実行へ」を意識したものになっている。
○欧州委員会「Ethics Guidelines for Trustworthy AI」公表（平成31年４月８日）
欧州委員会は、選定した52名の専門家グループにより作成された「信頼できるAIのための倫理ガイドライン」を公表。同ガイドラインでは、信頼できるAIのためには合法的、倫理的、及び、頑健であるべきとし、その上で基本的人権に基づき尊重すべき４つの倫理原則（人間の自律性の尊重、危害の防止、公平性、説明可能性、および７つの要求条件（人間の営みと監視、技術的な頑健性と安全性、プライバシーとデータガバナンス、透明性、多様性・無差別・公平性、環境及び社会の幸福、アカウンタビリティ）を掲げ、さらにそれらを評価するためのリスト（Assessment list）を列挙している。
国際的な議論○OECD・ AI専門家会合（AIGO）開催（フランス他、平成30年９月～平成31年２月）
AIに関する理事会勧告策定を視野に入れ、AIの信頼構築と社会実装を促すための原則の内容について検討を実施するため、AIに関する専門家会合（AIGO: AI expert Group at the OECD）がCDEPの下に設置され、信頼性のあるAIのための原則並びに国内政策及び国際協力において取り組むべき事項について取りまとめが行われた。
○OECDデジタル経済政策委員会（CDEP）開催（フランス、平成30年11月、平成31年3月）
上記AIGO会合での検討をもとに理事会勧告案が議論され、加盟国により合意された。なお、勧告案の記載は原則とその概括的な説明にとどまっており、具体的に講じるべき措置等については勧告案策定後のCDEP会合で別途検討される予定。
○G7マルチステークホルダ会合（カナダ、平成30年12月6日）
G7各国が、『①社会のためのAI』、『②イノベーションの解放』、『③AIにおけるアカウンタビリティ』、『④仕事の未来』のうち一つのテーマを担当し、ディスカッションペーパーを作成の上マルチステークホルダによる議論を実施。我が国は、カナダとともに『③AIにおけるアカウンタビリティ』を担当。
（注）主なものを記載

第２章 AI利活用ガイドライン案の位置づけ

3■民間等で原則等を議論する際の参照
内閣府「人間中心のAI社会原則」全体構成

・・・社会が留意すべき事項を取りまとめたもの･･･ 「開発者及び事業者において、基本理念及びAI社会原則を踏まえたAI開発利用原則を定め、遵守するべきと考える」との記載

AIが適用される用途ごとに、開発者・事業者等が原則等を議論する際の参照（分野共通のもの）■国際的な議論への貢献
AI原則の項目については、国際的にほぼコンセンサスが得られつつあり、今後は原則の実効性を確保するための具体的手段についての議論に移行。これらの議論に貢献し、認識の共有を図る。
（例）• 欧州委員会：「信頼できるAIのための倫理ガイドライン」におけるAssessment list
→今後レビューを行い、2020年にとりまとめる予定• OECD：「理事会勧告案」を実現するために具体的に講じるべき措置等→本年７月以降、CDEP会合で別途検討予定

第２章 AI利活用ガイドライン案（全体構成）
1. 目的

2. 基本理念

3.関連する主体の整理

４. 一般的なAI利活用の流れ

利用者の分類及び、AI利活用の一般的な流れ

4

AIの利活用・社会実装の促進
••
•
••
•
•

人間中心の社会の実現
AI利活用における多様性の尊重・包摂
AIネットワーク化による持続可能な社会の実現
便益とリスクの適正なバランスの確保
利用者間の知識・能力相応の役割分担
指針やベストプラクティスの国際的な共有
不断の見直し・柔軟な改定

５.AI利活用原則と解説

10原則、各論点及びその解説
10原則：
適正利用、適正学習、連携、安全、セキュリティ、プライバシー、尊厳・自律、公平性、透明性、アカウンタビリティ

６.AI利活用原則を考慮すべきタイミング

各原則各論点を考慮すべきタイミング

第２章 AI利活用ガイドライン案（目的・基本理念）
目的
AIネットワーク化の健全な進展を通じて、AIの便益の増進とリスク※の抑制を図り、AIに対する信頼を醸成することにより、AIの利活用や社会実装を促進する。
基本理念• 人間がAIネットワークと共生することにより、その恵沢がすべての人によってあまねく享受され、人間の尊厳と個人の自律が尊重される人間中心の社会を実現すること• AIの利活用において利用者の多様性を尊重し、多様な背景と価値観、考え方を持つ人々を包摂すること• AIネットワーク化により個人、地域社会、各国、国際社会が抱える様々な課題の解決を図り、持続可能な社会を実現すること• AIネットワーク化の便益を増進するとともに、民主主義社会の価値を最大限尊重しつつ、権利利益侵害のリスクを抑制するため、便益とリスクの適正なバランスを確保すること• 利用者それぞれがAIに関して有していると期待される知識・能力相応の役割分担に応じ、適当と考えられる役割を果たすこと• 非拘束的なソフトローたる指針やベストプラクティスを国際的に共有すること• AIネットワーク化の進展等を踏まえ、国際的な議論を通じて、本ガイドライン案を不断に見直し、必要に応じて柔軟に改定すること※ 「リスク」とは「損害をもたらす可能性があるもの」を意味する。

5

【参考】 「人間中心のAI社会原則」に対する基本理念の対応付け

6「人間中心のAI社会原則」では社会が留意すべき事項をとりまとめたのに対し、AI利活用ガイドライン案では、利用者が留意すべき事項をとりまとめている。AI利活用ガイドライン案の各基本理念は、「人間中心のAI社会原則」の「2.基本理念」及び「3.ビジョン」における、利活用に関連する「人」、「社会システム」及びそれらに対する「ガバナンス」に対応している。

「人間中心のAI社会原則」における基本理念、ビジョン、社会原則の構成
2.
基本理念(1) Dignity(2) Diversity &Inclusion

4.1.
AI社会原則AIの利活用における多様性の尊重・包摂

人間中心の社会の実現（人間の尊厳と個人の自律）

AIネットワーク化による持続可能な社会の実現(1) 人(2) 社会システム(3) 産業構造

人間に求められる能力及び役割として、AIの長所・短所の理解、多様な人がAIの支援で多用な夢を実現できること等。

社会的に受け入れられた既存の目的に照らした単純な効率化だけでなく、目的自体の多様化・流動化によって生まれる新たな価値の実現や、AIの進化によってもたらされる可能性のある負の側面への対応ができること等。

労働、雇用環境や創業環境が柔軟で国際的に開かれたものになっている等。

3.
Society 5.0実現に必要な社会変革（ビジョン） 利用者間の知識・能力相応の役割分担(1)
人間中心の原則(3) Sustainability(4) イノベー
ションシステム
分野や立場を超えてイノベーションが次々に生まれる環境ができている等。

便益とリスクの適正なバランスの確保(2)
教育・リテラシーの原則(3)
プライバシーの原則(4)
セキュリティ確保の原則(5)
公正競争確保の原則(5) ガバナンス
左記(1)～(4)の議論・目的は常に更新されていること。国内におけるガバナンスに加えて、国境を越える問題に対処するための国際協力体制が整っていること等。

不断の見直し、柔軟な改定指針やベストプラクティスの国際的な共有

(6)
公平性・説
明責任・透明性の原則(7)
イノベーションの原則

第２章 AI利活用ガイドライン案（関係する主体の整理）7

開発者
AIシステムの研究開発を行う者

AIサービスプロバイダ

利用者

利用者のうち業としてAIサービス又はAI付随サービスを他者に提供する者

AIシステム、AIサービス又はAI付随サービスを利用する者

データ提供者
他者が利用するAIシステムの学習等のためにデータを提供する者

ビジネス利用者（非営利の専門職・行政機関を含む）
最終利用者
利用者のうち業としてAIサービス又はAI付随サービスを他者に提供することなくAIシステム又はAIサービスを利用する者

最終利用者のうち業としてAIシステム又はAIサービスを利用する者（注）ビジネス利用者であっても、AIシステム又はAIサービスを自ら運用等を行うことなく利用するのみの者は、他のビジネス利用者と同等の留意を期待することが困難であることも想定されるが、その場合でも、開発者やAIサービスプロバイダに対し、適切な対応を依頼することが求められる。

消費者的利用者
最終利用者のうちAIシステム又はAIサービスを利用する者（ビジネス利用者を除く）（注）消費者的利用者であっても、AIシステム又はAIサービスについて、自ら学習等を含む運用等を行う場合には、開発者やAIサービスプロバイダ等と同等の留意が求められる場合がある。

第三者
他者の利用するAIにより付随的に自らの権利・利益に影響を受ける者

・AIシステム： AIソフトを構成要素として含むシステム
・AIサービス： AIシステムの機能を提供するサービス
・AI付随サービス： AIシステムのアップデート又は追加的な学習等に係るサービス（注）それぞれの名称は仮称。
（注）同一の個人・事業者が複数の主体に該当する場合がある。

第２章 AI利活用ガイドライン案（一般的なAI利活用の流れ）

8

自ら運用等を行う場合• AIを利用する目的の設定

計画

自ら運用等を行わない場合• データ収集・前処理• 学習等によるモデル作成• モデル検証• AI再検証• 構築したAIの組み込み• 他システムとの連携

AI構築

システムへの実装• 利用前注意喚起（予防措置、人間の判断要否確認等）

デプロイ※

情報等のやりとり• 事後対応（AIモニタリング等）

運用・利用情報等のやりとり

データ収集

利用前• 利用前確認（予防措置、人間の判断要否確認等、他システムとの連携前確認含む）

利用• 事後対応※デプロイ： （AIソフト／システムを）利用可能な状態にすること

第２章 AI利活用ガイドライン案（AI利活用原則）

9

国際的な議論のためのものとして、また、非規制的かつ非拘束的なもの（いわゆるソフトロー）として取りまとめ
原則

説明①適正利用の原則

利用者は、人間とAIシステムとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でAIシステム又はAIサービスを利用するよう努める。

②適正学習の原則

利用者及びデータ提供者は、AIシステムの学習等に用いるデータの質に留意する。

③連携の原則AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIシステム又はAIサービス相互間の連携に留意する。また、利用者は、AIシステムがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。

④安全の原則

利用者は、AIシステム又はAIサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。

⑤セキュリティの原則

利用者及びデータ提供者は、AIシステム又はAIサービスのセキュリティに留意する。

⑥プライバシーの原則

利用者及びデータ提供者は、AIシステム又はAIサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。

⑦尊厳・自律の原則

利用者は、AIシステム又はAIサービスの利活用において、人間の尊厳と個人の自律を尊重する。

⑧公平性の原則

AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIシステム又はAIサービスの判断にバイアスが含まれる可能性があることに留意し、また、AIシステム又はAIサービスの判断によって個人が不当に差別されないよう配慮する。
（注）「公平性」には複数の定義・基準があることに留意する必要がある。

⑨透明性の原則⑩アカウンタビリティ※の原則

AIサービスプロバイダ及びビジネス利用者は、AIシステム又はAIサービスの入出力等の検証可能性及び判断結果の説明可能性に留意する。
（注）本原則は、アルゴリズム、ソースコード、学習データの開示を想定するものではない。また、本原則の解釈に当たっては、プライバシーや営業秘密への配慮も求められる。

主に便益の増進に関連

主にリスクの抑制に関連

主に信頼の醸成に関連

AIサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。

※アカウンタビリティ: 判断の結果についてその判断により影響を受ける者を納得させるため、（判断に関する）正当な意味・理由を説明したり、（必要に応じて）賠償・補償したりする等の措置をとること。

（赤い字は報告書2018からの修正点）

第２章 AI利活用ガイドライン案（主な論点と考慮すべきタイミング）
自ら運用等を行う場合

自ら運用等を行わない場合

AIサービスプロバイダ、ビジネス利用者等

原則原則に対する論点

AI構築

システム実装○○ア 適正な範囲・方法での利用①適正利用の原則②適正学習の原則

イ 人間の判断の介在
ウ 関係者間の協力
ア AIの学習等に用いるデータの質への留意
イ 不正確又は不適切なデータの学習等によるAIのセキュリティの留意○○

ア 相互接続性と相互運用性への留意③連携の原則イ データ形式やプロトコル等の標準化への対応④安全の原則ア 人の生命・身体・財産への配慮⑤セキュリティの原則○

ウ AIネットワーク化により惹起・増幅される課題への留意
ア セキュリティ対策の実施
イ セキュリティ対策のためのサービス提供等
ウ 不正確又は不適切なデータの学習によるAIのセキュリティの留意○

ア 最終利用者及び第三者のプライバシーの尊重⑥プライバシーの原則

イ パーソナルデータの収集・前処理・提供等におけるプライバシーの尊重○

ウ 自己のプライバシー侵害への留意及びパーソナルデータの流出の防止

○
○
○
○
○

○
○

⑦尊厳・自律の原則

エ AIを利用したプロファイリングを行う場合における不利益への配慮
ア AIの学習等に用いられるデータの代表性への留意⑧公平性の原則イ アルゴリズムによるバイアスへの留意
ウ 人間の判断の介在（公平性の確保）⑨透明性の原則⑩アカウンタビリティの原則

○
○
○
○

ア AIの入出力等のログの記録・保存
イ 説明可能性の確保
ア アカウンタビリティを果たす努力
イ AIに関する利用方針の通知・公表

○

○
○
○
○
○
○
○
○○
○
○
○
○

○
○
○

消費者的利用者
利用前利用○○○○○○○○○○○○○○○○○○

○

○○

○
○

○
○
○
○

○

○

○

○
○○
○

イ AIによる意思決定・感情の操作等への留意
ウ AIと人間の脳・身体を連携する際の生命倫理等の議論の参照

デプロイ

運用・利用○○○○

ア 他者の尊厳と自律の尊重

10○○○○○○○○
○

○
○○
○

○○○
○○○○○
○

データ収集

○○○○○

※ 上記の表は、AIサービスプロバイダ、ビジネス利用者等については、自らAIの運用等を行う場合を想定し、また、消費者的利用者については、自ら運用等を行わない場合を想定して作成

第２章 各論点の詳説

11

詳説の整理に当たっての考え方

 各原則の各論点に対する詳説を、以下の両者の立場で留意すべき事項として整理し、併記（下左図参照）：
 AIサービスプロバイダ、ビジネス利用者等、 AIサービス、システム等を提供、運用（学習等を含む）する者 消費者的利用者のように実際にそれらを利用するのみの者

 （詳説についても）今後定期的に見直すことを前提とし、近年AI技術として利活用が進められている「機械学習」の例を中心に図解を含め言及（下右図参照）
詳説の例

詳説の例（左がAIサービスプロバイダ、ビジネス利用者等に対する事項、右が消費者的利用者に対する事項)

流れ（フロー）に関する図解例

第３章 今後の課題
課題

12

概要

1. AIネットワーク化の健全な進展に関する事項

AI開発ガイドライン案及びAI利活用ガイドライン案の周知・展 AI開発／利活用ガイドライン案の周知のためのシンポジウムの開催、国際的な枠組みにおける原則を実現するための詳説の周知等
開AI開発ガイドライン案及びAI利活用ガイドライン案の継続的な 関係するステークホルダによるAI開発／利活用ガイドライン案のフォローアップと継続的な
2
見直し
見直し
ステークホルダ間の協力・ベストプラクティスの共有、法制度等の在り方の検討等
3 関係するステークホルダが取り組む環境整備に関する課題
1

4 AIシステム又はAIサービス相互間の円滑な連携の確保

関係ステークホルダ間で共有することが期待される関連情報の範囲等の検討

5 競争的なエコシステムの確保

関連する市場の動向の継続的注視

6 利用者の利益の保護

利用者に対する開発者等からの自発的な情報提供の在り方の検討、利用者を保護する仕組み（保険等）の在り方の検討等

2. AIネットワーク化が社会・経済にもたらす影響の評価に関する事項
1

AIネットワーク化が社会・経済にもたらす影響に関するシナリオ分析

シナリオ分析の継続的な実施・国際的な共有等

2

AIネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定

指標の設定に向けた検討

3 AIシステムの利活用に関する社会的受容性の醸成

社会におけるAIの利活用に関する受容度の継続的注視等

3. AIネットワーク化が進展する社会における人間をめぐる課題に関する事項
1 人間とAIとの関係の在り方に関する検討

専門職（医師、弁護士、会計士等）とAIシステムとの役割分担の在り方等の検討

2 ステークホルダ間の関係の在り方に関する検討

AIのリスクが顕在化した場合の責任の分配の在り等の検討

3 セーフティネットの整備

労働市場の動向の継続的注視、AIネットワーク化の進展に伴う所得の再分配等格差防止の在り方の検討等