資料５－２

報告書２ ０ １ ８ （案）－ＡＩの利活用の促進及びＡＩネットワーク化の健全な進展に向けて－

平成 30 年●月●日

ＡＩネットワーク社会推進会議

目 次
要旨……………………………………………………………………………………………Ⅰ
はじめに………………………………………………………………………………………１
序章……………………………………………………………………………………………３
１． 「ＡＩネットワーク化」と「智連社会」
２． 本推進会議における取組
第１章 ＡＩネットワーク化をめぐる最近の動向………………………………………11
１． 国内の動向
２． 海外の動向
３． 国際的な議論の動向
第２章 ＡＩネットワーク化が社会・経済にもたらす影響……………………………23
１． ＡＩネットワーク化に関するシナリオ分析（分野別評価）
２． ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望
３． 教育・人材育成
４． ＡＩネットワーク化の進展に関する指標
第３章 ＡＩの利活用において留意することが期待される事項………………………47
１． 背景・経緯
２． 関係する主体の整理
３． ＡＩ利活用原則案
４． ＡＩ利活用原則案の各原則の内容に関する論点
５． 今後の検討
第４章 今後の課題…………………………………………………………………………65
結びに代えて…………………………………………………………………………………80

＜別紙１＞ ＡＩネットワーク化が社会・経済にもたらす影響（分野別評価）＜別紙２＞

ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望＜別紙３＞ 報告書２０１８（案）に関する意見募集に寄せられた主な意見に対する考え方＜別紙４＞ ＡＩネットワーク社会推進会議及び分科会構成員一覧＜別紙５＞ 開催経緯

要旨

ＡＩに関する技術開発と利活用が急速に進展する中、今後、ＡＩシステムがインターネッ
ト等を通じて他のＡＩシステム等と接続し連携する「ＡＩネットワーク化」が進展していく
ことにより、社会的な課題の解決など人間や社会・経済に多大な便益がもたらされることが期待される。他方、ＡＩの判断のブラックボックス化や制御喪失などのリスクが懸念されるとともに、人々のＡＩに対する不安などが、ＡＩの開発及び利活用の促進やＡＩネットワー
ク化の健全な進展の阻害要因となるのではないかと懸念されている。
これらのことを踏まえると、ＡＩの便益を増進させ、リスクを抑制するとともに、人々のＡＩに対する不安を取り除き、信頼を醸成するため、ＡＩの開発者、利用者やデータ提供者が留意することが期待される事項等を整理することが求められる。
総務省では、今後のＡＩネットワーク化の進展を見据え、平成 28 年 10 月から「ＡＩネッ
トワーク社会推進会議」を開催し、本推進会議は、平成 29 年７月に、ＡＩの開発者が留意することが期待される事項を整理した「国際的な議論のためＡＩ開発ガイドライン案」を含む『報告書 2017』を取りまとめた。また、『報告書 2017』の公表後、ＡＩの利用者やデータ提供者が留意することが期待される事項に関する検討を行うとともに、その検討に資する
ようＡＩネットワーク化が進展した社会の将来像を描きＡＩの利活用における課題等を抽出するために、ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望に関する検討等を行い、平成 30 年７月に、本報告書を取りまとめた。
序章では、本推進会議における検討の基調をなすＡＩネットワーク化の展望を示した上で、ＡＩネットワーク化を通じて目指すべき社会像として掲げる人間中心の「智連社会」（Wisdom Network Society：ＷＩＮＳ〔ウインズ〕）及びその基本理念を紹介している。
第１章では、『報告書 2017』の公表以降の最近のＡＩネットワーク化に関する国内外の動向及び国際的な議論の動向を概観している。
第２章では、社会・経済の様々な分野におけるＡＩシステムの利活用の場面を想定したシナリオを作成し、ＡＩネットワーク化が社会・経済の各分野にもたらすインパクト及びリスクの評価（分野別評価）を行うとともに、ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望を示しつつ、ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全の進展等に関する課題を整理している。また、教育・人材育成やＡＩネットワーク化の進展に関する指標についての検討状況を示している。
分野別評価においては、「行政」、「移動」、「居住」の３分野を対象として評価を行った。
エコシステムの展望においては、「都市部における利用」、「地方部における利用」、「家庭内における利用」、「企業における利用」の４つの類型ごとに想定した利用シーンにおいて展望したＡＩの利活用等をもとに、「完全自動運転」、「医療診断」、「人事評価・採用」、
「金融（保
I

険）
」
、
「行政」の５つの事例に関するケーススタディを行い、ＡＩの利活用の便益及び課題を整理するとともに、ネットワーク化の観点に着目して課題（ＡＩネットワーク化の健全な進展を阻害し得る要因）を整理した。
第３章では、これらの課題等を踏まえ、ＡＩの利活用において留意することが期待される事項について、検討の背景・経緯を概観した上で、ＡＩの利活用において関係する主体を整理するとともに、「ＡＩ利活用原則案」を取りまとめ、各原則の内容に関する論点を整理している。
「ＡＩ利活用原則案」の項目は、次のとおりである。
①

適正利用の原則②

適正学習の原則

③

連携の原則

④

安全の原則

⑤

セキュリティの原則⑥

プライバシーの原則⑦

尊厳・自律の原則⑧

公平性の原則⑨

透明性の原則⑩

アカウンタビリティの原則･･･ 主に便益の増進に関係･･･ 主にリスクの抑制に関係･･･ 主に信頼の醸成に関係

第４章では、第２章及び第３章における検討の結果等を踏まえ、今後の課題を次のように整理している。
○

ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展に関する事項➢ ＡＩ開発ガイドライン（仮称）の策定、ＡＩの利活用に関する指針の策定 等○

ＡＩネットワーク上を流通する情報・データに関する事項➢ セキュリティ対策、プライバシー及びパーソナルデータの保護 等○

ＡＩネットワーク化が社会・経済にもたらす影響に関する事項➢ ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析 等○

ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項➢

人間とＡＩとの関係の在り方に関する検討、ステークホルダ間の関係の在り方に関する検討 等
本報告書が、ＡＩネットワーク化に関する社会的・経済的・倫理的・法的課題をめぐる国内外の検討に寄与し、ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展が図られ、人間中心の「智連社会」の実現に向けた道標となることを願いたい。

II

はじめに
最近では、人工知能（Artificial Intelligence：ＡＩ）について、毎日のように新聞などで報道がなされ、テレビや雑誌でもＡＩに関する特集が数多く企画されるなど、ＡＩに関する人々の関心は急速に高まっている。また、ＡＩを活用した消費者向けの製品やサービスの普及が見られ、人々の生活にとってＡＩが身近なものとして浸透しつつある。ＡＩは、今後、個人、地域社会、各国、国際社会の抱える様々な課題 1の解決のため、その利活用が期
待されており、特にＡＩシステムがインターネット等を通じて他のＡＩシステム等と接続し連携する「ＡＩネットワーク化」が進展することにより、人間及びその社会や経済に多大な便益が広範にもたらされることが期待される。我が国においても、人口減少・少子化を迎える中、新しい社会・経済を構築していく上で、ＡＩの利活用は非常に有効であるものと考えられている。
他方、ＡＩの判断のブラックボックス化や制御喪失などのリスクとともに、人々のＡＩに対する不安などが、ＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展の阻害要因となるのではないかと懸念されている。
ＡＩの便益を人々や社会が享受するためには、ＡＩの開発をさらに推し進めるとともに、利活用の裾野をより一層広げていくことが必要である。そのためには、まずもって人々のＡＩに対する不安を取り除き、信頼を醸成する取組を進めることが必要である。ＡＩの開発者や利用者が、それぞれＡＩの開発や利活用において、ＡＩの便益を増進させリスクを抑制する観点から期待される取組を行うとともに、開発者や利用者に加えて、政府や業界団体等を含めた関係するステークホルダがＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展に向けた環境整備のための取組を行うことにより、ＡＩに対する社会的な受容性の向上がもたらされるものと考えられる。
こうした中、平成 28 年４月に日本で開催されたＧ７（先進７か国）香川・高松情報通信
大臣会合において、ホスト国である日本は、ＡＩ開発原則のたたき台を紹介し、各国関係閣
僚による議論が行われた。その結果、Ｇ７において「ＡＩ開発原則」及びその内容の解説からなる「ＡＩ開発ガイドライン」の策定に向け、引き続きＧ７各国が中心となり、ＯＥＣＤ（経済協力開発機構）等国際機関の協力も得て議論していくことで合意した。その後、欧米各国においても、ＡＩに関する社会的・経済的・倫理的・法的課題をめぐる検討が本格化し、国際的な議論が加速している。
以上のような背景と問題意識に鑑み、総務省情報通信政策研究所では、平成 28 年 10 月から「ＡＩネットワーク社会推進会議」を開催し、「ＡＩネットワーク社会推進フォーラム」（国際シンポジウム）2における議論等を踏まえ、平成 29 年７月に、ＡＩの開発者が留意す1

国際社会の抱える課題については、国連の「持続可能な開発目標」（ＳＤＧｓ）（http://www.un.org/ga/search/view_doc.asp?symbol=A/70/L.1）などを参照。
2
総務省が平成 29 年３月に東京大学において開催した国際シンポジウム。日米欧の産学民官の1ることが期待される事項を整理した「国際的な議論のためＡＩ開発ガイドライン案」を含む『報告書 2017』 3を取りまとめた。
報告書 2017 の公表後、本推進会議は、ＡＩの利用者やデータ提供者が留意することが期
待される事項に関する検討を行うとともに、その検討に資するようＡＩネットワーク化が進展した社会の将来像を描きＡＩの利活用における課題等を抽出するために、ＡＩネット
ワーク化の進展に伴い形成されるエコシステムの展望に関する検討等を行ってきた。
本推進会議は、報告書 2017 の公表後、平成 29 年 10 月から平成 30 年５月までに開催した８回の会合（本推進会議の会合（親会）３回のほか、親会の下に置かれた環境整備分科会
及び影響評価分科会 4 の合同分科会の会合５回）における検討や平成 30 年１月から同年４月までに開催した事業者等からのヒアリング等 5 を踏まえて、本報告書（案）を作成した。
その後、平成 30 年６月●日から同月●日までにかけて、本報告書（案）に関する意見募集を行った上で、環境整備分科会・影響評価分科会 合同分科会（第６回）及び本推進会議（第10 回）の会合での議論を経て、本報告書を最終的に取りまとめた。
本報告書は、本推進会議における検討と関連する国内外の動向及び国際的な議論の動向を概観し、社会・経済の様々な分野におけるＡＩシステムの利活用の場面を想定してＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価を行うとともに、ＡＩネットワー
ク化の進展に伴い形成されるエコシステムの展望を示しつつ、そこで抽出された課題等を踏まえて、ＡＩの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りまとめ、各原則の内容に関する論点を整理した上で、今後の課題を整理している。
本報告書が、ＡＩネットワーク化に関する社会的・経済的・倫理的・法的課題をめぐる国内外の検討に寄与し、ＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展が図られ、人間中心の「智連社会」6の実現に向けた道標となることを願いたい。

ステークホルダが参加し、ＡＩネットワーク化のガバナンスの在り方について活発な議論が行われた。
3
ＡＩネットワーク社会推進会議「報告書 2017 －ＡＩネットワーク化に関する国際的な議論の推進に向けて－」（平成 29 年７月 28 日。以下「報告書 2017」という。
）
4
本推進会議の発足当初は、親会の下に開発原則分科会及び影響評価分科会が置かれていたが、平成 29 年 10 月に分科会を改組し、現在、環境整備分科会及び影響評価分科会が置かれている。
5
本推進会議において、平成 30 年１月から同年４月にかけて、特にＡＩの利活用の取組が進んでいる又は期待されると考えられる「自動運転」、「医療」、「人事評価・採用」、「金融」及び
「製造過程・バックオフィス業務の自動化」の５分野について、主としてＡＩの利活用の取組を進めている事業者等（行政機関、業界団体を含む 17 者）からヒアリングを行った。なお、
ヒアリング内容等を公表すると、各者のＡＩに関する取組内容や事業戦略等が明らかになり、事業活動に支障を来すおそれがあるため、事業者名を含めて、内容は公表していない。
6
智連社会（Wisdom Network Society）とは、ＡＩネットワーク化の進展の結果として、人間がＡＩネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」（Wisdom Network）を構築することにより、あらゆる分野におけるヒ
ト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となる社会である。詳細は、序章１．及び中間報告書 12-14 頁参照。

2

序章
本推進会議の前身たる「ＡＩネットワーク化検討会議」（以下「検討会議」という。）においては、ＡＩネットワーク化の進展を通じて目指すべき社会像として人間中心の社会像「智連社会」（Wisdom Network Society：ＷＩＮＳ〔ウインズ〕）を提唱して、その基本理念を呈示するとともに、ＡＩネットワーク化が社会・経済にもたらす影響（インパクト 7及びリスク）の基礎的な評価を行った上で、今後の課題を整理した（平成 28 年４月に『中間報告書』8、）。
同年６月に『報告書 2016』 9を公表。
これらの成果を踏まえ、本推進会議においては、ＡＩの開発において留意することが期待される事項を整理した「国際的な議論のためのＡＩ開発ガイドライン案」（以下「ＡＩ開発
ガイドライン案」という。
）を取りまとめるとともに、ＡＩシステムの具体的な利活用の場面を想定してＡＩネットワーク化が社会・経済にもたらす影響の評価等を行った上で、今後）。
の課題を整理した（平成 29 年７月に『報告書 2017』 10を公表。
本章においては、本推進会議における検討の基調をなすＡＩネットワーク化の展望並びに目指すべき社会像としての「智連社会」及びその基本理念を紹介するとともに、本推進会
議の取組の概要を紹介する。
１．
「ＡＩネットワーク化」と「智連社会」◯ ＡＩネットワーク化
ＡＩシステムが今後インターネットその他の情報通信ネットワークと接続されていくことにより、その影響（インパクト及びリスク）が大きくなるとともに、空間を越えて即座に波及し得るようになるものと考えられる。そこで、検討会議及び本推進会議においては、ＡＩシステムの普及及びその利活用の進展に伴う問題を検討するに当たり、これを単に個々のＡＩシステムをめぐる問題として捉えるのではなく、「ＡＩネットワーク化」11（ＡＩシステムがインターネットその他の情報通信ネットワークと接続され、ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネットワーク
7

主に良い影響や便益のことを意味している。本報告書において以下同じ。
ＡＩネットワーク化検討会議「中間報告書 ＡＩネットワーク化が拓く智連社会（ＷＩＮＳ〔ウインズ〕） －第四次産業革命を超えた社会に向けて－」（平成 28 年４月 15日。以下「中間報告書」という。）
9
ＡＩネットワーク化検討会議「報告書 2016 ＡＩネットワーク化の影響とリスク －智連社
会（ＷＩＮＳ〔ウインズ〕）の実現に向けた課題－」（平成 28 年６月 20 日。以下「報告書2016」という。
）
10
前掲注（３）参照。
11
この「ＡＩネットワーク化」は、・ ＡＩネットワークの構築
・ ＡＩネットワークの高度化（情報通信ネットワークを介したＡＩシステム相互間の連携
等）
からなるものとして理解できる（中間報告書５頁参照。）。
8

3

（以下において「ＡＩネットワーク」という場合がある 12。）が形成されるようになることをいう。以下同じ。
）をめぐる問題として捉えて検討を進めてきた。
検討会議においては、ＡＩネットワーク化が社会・経済にもたらす影響を評価し、そのガバナンスの在り方等関連する課題を検討する際の参照軸とするため、ＡＩネット
ワーク化の進展段階を次図のように理念的に整理している。

第一段階は、単独のＡＩシステムがインターネットその他の情報通信ネットワークに接続され、他のＡＩシステムとは連携することなく機能するという段階である。この段階は、既に社会の様々な場面において実現が進みつつある。
第二段階は、インターネットその他の情報通信ネットワークを介して複数のＡＩシ
ステムのネットワークが形成され、当該ネットワーク上のＡＩシステムが相互に連携して協調するという段階である 13。
第三段階は、センサやアクチュエータを構成要素として含むＡＩネットワークが人間の脳や身体などと連携して、人間の身体機能が拡張される段階である 14。
これらの進展が広く進み、ＡＩネットワークが社会全体に浸透していくことにより、
12

検討会議においては、この「ＡＩネットワーク」のことを「ＡＩネットワークシステム」と呼んでいた（なお、検討会議においては、「ＡＩネットワークシステム」を「ＡＩを構成要素とする情報通信ネットワークシステム」と定義していた（中間報告書５頁参照。）。
13
ＡＩシステム相互間の連携・協調がもたらす便益を指摘するとともに、目的が競合し又は対立するＡＩシステム相互間の交渉・協調の在り方を今後の課題として指摘するものとして、長尾顧問（京都大学名誉教授）「ＡＩネットワーク化の本質と将来」（ＡＩネットワーク社会推進フォーラム（特別講演）配付資料）２-３頁（平成 29 年）参照。
14
第三段階への進展は、第一段階から第二段階への進展とは異なる性格の進展によるものであり、必ずしも第二段階の後でなければならないものではない。

4

第四段階として、人間とＡＩネットワークとが共生し、人間社会のあらゆる場面において、情報通信ネットワークを介してＡＩシステムと他のＡＩシステム、人間とＡＩシス
テム、さらには人間と人間とがシームレスに連携するという段階に至るものと整理されている。
○

目指すべき社会像「智連社会」
検討会議においては、ＡＩネットワーク化が進展し、人間とＡＩネットワークとが共生する段階において目指すべき社会像として、「智連社会」（Wisdom Network Society：
ＷＩＮＳ[ウインズ]）を掲げた。この「智連社会」という社会像は、「高度情報通信ネットワーク社会」及び「知識社会」という「データ」・「情報」・「知識」（知）の流通及びその影響に着目した社会像の実現を経て、その次に実現を目指すべき社会像として構想したものであり、その内容は「データ」
・「情報」・「知識」（知）を活用する人間の能力としての「智慧」（智） 15に着目したものである 16。

15

人間の能力としての「智慧」に関し、濱田顧問（東京大学名誉教授）「ＡＩネットワーク化と智連社会」（ＡＩネットワーク社会推進フォーラム（特別講演）配付資料）２-５頁（平成29 年）参照。
16
中間報告書 12 頁参照。なお、データ（Data）、情報（Information）、知識（Knowledge）、知能（Intelligence）及び智慧（Wisdom）の関係の詳細については、中間報告書 13 頁参照。

5

ＡＩネットワーク化の進展に伴い、ＡＩとＡＩ、ＡＩと人間、さらには人間と人間がシームレスに連携・協調できるようになることにより、ネットワーク化される「知能」、
すなわち、ネットワーク化されるＡＩの知能又はこれを活用する人間の知能により「デ
ータ」
・
「情報」
・
「知識」を学習・解析して新たな「データ」
・「情報」
・「知識」を創造・
流通・連結することが可能となる社会の到来が予測される。それに伴い、「データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課題を解決するための人間の能力」としての「智慧」（智）（Wisdom）が高まるとともに、人間の「智慧」の連携・協調が進んでいくものと見込まれる。すなわち、人間は、ＡＩネットワークを利活用することにより、各々の「智慧」（智）を連結し、「智のネットワーク」（Wisdom Network）を形成していくことが期待されるのである 17。
「智連社会」という社会像は、このような問題意識に基づいて構想したものであり、ＡＩネットワーク化の健全な進展の結果として、人間がＡＩネットワークと主体的に共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワー
ク」を形成することにより、あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となるという人間中心の社会像である。

17

ここで、ＡＩネットワークは、ＡＩシステム及びこれと接続される情報通信ネットワークからなる物理的存在であるのに対し、「智のネットワーク」は、人間がＡＩネットワークという物理的存在の機能を活用することにより得られる能力（この能力は、人間が、データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課題を解決するための能力であり、「智慧」（智）にほかならない。）が相互に連携し合い、相互に協調し合う様子を捉え、観念的に描写する概念である。

6

智連社会は、ＡＩネットワーク化が進展して「人間とＡＩネットワークとが共生」する段階において目指すべき社会像として掲げたものである。この「人間とＡＩネットワ
ークとが共生」する段階とは、ＡＩネットワークが人間を包むように存在し、人間とＡ
Ｉネットワークとがシームレスに連携し、人間にとってＡＩネットワークが不可欠な存在となるという客観的な状況をいうものである。これに対し、「智連社会」という社
会像は、単に「人間とＡＩネットワークとが共生」するという客観的な状況を描写するにとどまるものではなく、人間が主体的にＡＩネットワークと共生するという人間の営みにより形成される社会像である。目指すべき社会像として「智連社会」を掲げるということは、ＡＩネットワークが社会の中心となるのではなく、あくまでも人間が社会の中心となり、人間がＡＩネットワークを主体的に使いこなす社会を目指すべき 18 との考えを含意している。
「智連社会」においては、人間がＡＩネットワークを主体的に使いこなし、人間や社会の在り方を構想して、その実現に向けた課題を解決するための人間の能力としての「智慧」を連結して「智のネットワーク」を形成することにより可能となる智慧の連携と協調により実現される。このような智慧の連携と協調という「智連」の本質に鑑みると、智連社会の実現に向けたＡＩネットワーク化の健全な進展に関する課題や智連社会における人間が社会の在り方に関する課題の解決には、個人の努力だけではなく、社会におけるコミュニティの役割が重要になるものと考えられる 19。

18

このことに関連して、ＡＩは社会における人間の様々な活動のエンハンスを目指すべきものであることを指摘するものとして、長尾・前掲注（13）１頁参照。
19
濱田・前掲注（15）９頁参照。

7

○

基本理念
検討会議においては、「智連社会」を形成するに当たってのっとるべき基本理念として、次の８項目が掲げられている。
・ すべての人々による恵沢の享受
すべての人々が、ＡＩネットワークを容易にかつ主体的に利用する機会を有し、個々の能力を創造的かつ最大限に発揮し、又は拡張することが可能となり、もってＡ
Ｉネットワークの恵沢をあまねく享受できること。
・

人間の尊厳と個人の自律
個人が人間としての尊厳をもった自律的な主体としてＡＩネットワークを安心して安全に利活用することにより、豊かさと幸せを感じられること。

・

イノベーティブな研究開発と公正な競争
イノベーティブな研究開発と公正な競争を通じて、多様で高度なＡＩネットワー
クが提供されること。

・

制御可能性と透明性
ＡＩネットワークに関する制御可能性と透明性が技術的・制度的に確保されること。

・

ステークホルダの参画
ＡＩネットワークの在り方に関する意思決定に当たり、多様なステークホルダが民主的に参画できること。
・

物理空間とサイバー空間の調和
ＡＩネットワークを利活用して物理空間とサイバー空間を連結し、両者の調和を図ることにより、ヒト・モノ・コト相互間の空間を越えた協調の実現を可能とすること。

・空間を越えた協調による活力ある地域社会の実現
ＡＩネットワークを利活用してヒト・モノ・コト相互間の空間を越えた協調が地域内・地域間で進展することにより、活力ある地域社会が実現すること。

・

分散協調による地球規模の課題の解決
人類が、ＡＩネットワークを基盤として構築する智のネットワークにより、地球規
模の課題を国際的な分散協調により解決できること。
これらの基本理念は、ＡＩネットワーク化の健全な進展を通じて実現することを目指すべき社会像たる「智連社会」が備えるべき性質を様々な角度から掲げるものであり、今後のＡＩネットワーク化のガバナンスの在り方を検討するに当たって立脚すべきものとして評価できよう。

8

２．本推進会議における取組
検討会議においては、ＡＩネットワーク化の展望並びに目指すべき社会像及びその基本理念の整理と併せて、今後の課題を整理した。今後の課題の中には、ＡＩの開発研究に当たって国際的に参照されるべき「ＡＩ開発原則」及びその内容の解説からなる「ＡＩ開発ガイドライン」の策定に向けた議論の推進、ＡＩネットワーク化が社会・経済にもたらす影響の評価等が掲げられた。その過程において、平成 28 年４月 29 日及び 30 日にＧ７
香川・高松情報通信大臣会合が開催され、高市総務大臣（当時）から、「ＡＩ開発原則」
に関し中間報告書に掲げる８項目からなるたたき台を配付し、ＯＥＣＤ等において「ＡＩ
開発ガイドライン」の策定に向けた国際的な議論を進めるよう提案した結果、各国から賛同が得られたところである。
本推進会議は、検討会議における検討やＧ７香川・高松情報通信大臣会合の成果等を踏
まえ、社会全体におけるＡＩネットワーク化をめぐる社会的・経済的・倫理的・法的課題を総合的に検討することを目的として、検討会議を発展的に改組したものである。
上述のとおり、本推進会議においては、これまで、ＡＩの開発において留意することが期待される事項を整理したＡＩ開発ガイドライン案を取りまとめるとともに、ＡＩシス
テムの具体的な利活用の場面を想定してＡＩネットワーク化が社会・経済にもたらす影
響の評価等を行った上で、今後の課題を整理した（報告書 2017）。
これらの成果を踏まえ、本推進会議においては、引き続きＡＩネットワーク化が社会・経済にもたらす影響の評価を進めるとともに、ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望やＡＩの利活用において留意することが期待される事項に関する検討等を行った。
本推進会議における主たる取組については、次のとおりである 20。
○➢

ＡＩの開発において留意することが期待される事項
国際的な議論のためのＡＩ開発ガイドライン案の作成 21【報告書 2017】→

Ｇ７、ＯＥＣＤ等における国際的な議論のフォローアップ及び国際的な議論への貢献 22【継続】20本推進会議においては、これらの事項に限らず、必要に応じて、ＡＩネットワーク化の推進に向けた社会的・経済的・倫理的・法的課題に関連する事項を検討することとしている。
21
報告書 2017 第２章及び別紙１参照。
22
第４章（１）参照。

9

○ ＡＩの利活用において留意することが期待される事項➢ ＡＩ利活用原則案の作成及び各原則の内容に関する論点整理 23【報告書 2018 24】→ 各原則の内容に関し整理された論点の検討 25【報告書 2018 を踏まえ検討】○

ＡＩネットワーク化が社会・経済にもたらす影響の評価（シナリオ分析）➢ 先行的評価（10 ユースケース） 26【報告書 2017】➢ 分野別評価（３分野（まちづくり、健康、モノ）） 27【報告書 2017】➢ 分野別評価（３分野（行政、移動、居住）） 28【報告書 2018】→ ６分野（危機管理、教育・学び、仕事、財、趣味・娯楽、カネ） 29【継続】○ ＡＩネットワーク化の進展に伴って形成されるエコシステムの展望➢ 利用シーンにおけるＡＩの利活用、ケーススタディ等 30【報告書 2018】→

ＡＩネットワーク化の進展に伴って形成されるエコシステムの展望に関する

継続的な検討 31【報告書 2018 を踏まえ検討】○

ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定➢ ＡＩネットワーク化に関する指標の検討 32【報告書 2018】→ ＡＩネットワーク化に関する指標の検討 33【報告書 2018 を踏まえ検討】○

ＡＩネットワーク化に対応した教育・人材育成➢ 雇用・働き方への影響に関する検討【報告書 2017】➢

ＡＩネットワーク社会に向けた教育・人材育成の在り方等の検討 34【報告書 2018】→

ＡＩネットワーク社会に向けた教育・人材育成の在り方等の検討 35【報告書2018 を踏まえ検討】23第３章参照。
ここでは、本報告書のことを「報告書 2018」と記載している。本章において以下同じ。
25
第４章（２）参照。
26
報告書 2017 第３章２．及び別紙３参照。
27
報告書 2017 第３章３．及び別紙４参照。
28
第２章１．参照及び別紙１参照。
29
第４章（11）参照。
30
第２章２．及び別紙２参照。
31
第４章（11）参照。
32
第２章４．参照。
33
第４章（12）参照。
34
第２章４．参照。
35
第４章（16）参照。
24

10

第１章 ＡＩネットワーク化をめぐる最近の動向
ＡＩに関する動きはめまぐるしく、ＡＩに関連する報道を目にしない日がないほどである。本章においては、主として報告書 2017 公表後のＡＩネットワーク化をめぐる動向を概観する 36。
なお、報告書 2017 公表以前は、海外においては、学術界や産業界などの取組が中心であったが、報告書 2017 公表以降は、ＯＥＣＤやＧ７における国際的な議論が活発に行われていることなどを背景に、学術界・産業界などの取組に加えて、政府レベルでのＡＩに関する
社会的・経済的・倫理的・法的な課題についての取組が広がりつつある。
１．国内の動向（１）人間中心のＡＩ社会原則検討会議
政府は、ＡＩをよりよい形で社会実装し共有するための基本原則となる「人間中心の
ＡＩ社会原則」を策定し、同原則をＧ７、ＯＥＣＤ等の国際的な議論に供するため、Ａ
Ｉに関する倫理や中長期的な研究開発・利活用などについて、産学民官による幅広い視
野からの調査・検討を行うことを目的として、人工知能技術戦略会議の下に、「人間中心のＡＩ社会原則検討会議」を設置し 37、平成 30 年５月８日に第１回会合が開催された。今後、継続的に検討を進め、平成 30 年度内に「人間中心のＡＩ社会原則」を策定することとしている。
（２）高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）
高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）データ活用基盤・
課題解決分科会道路交通ワーキングチームにおいて、高度自動運転システムの実現に向けた政府全体の制度整備の方針（大綱）を策定するため、「自動運転に係る制度整備大綱サブワーキングチーム」が設置され、平成 29 年 10 月５日に第１回会合が開催された。以降、平成 30 年３月 23 日までに５回の会合が開催され、自動運転に係る制度整備大綱（案）を策定した上で、当該案の内容に即して、高度情報通信ネットワーク社会推進戦略本部・官民データ活用推進戦略会議が同年４月 17 日に決定した 38。
大綱においては、①安全性の一体的な確保（関係省庁連携による客観的な指標に基づ
く走行環境条件の設定）、②自動運転車の安全確保の考え方（安全性要件のガイドライン化（2018 年夏目処）、保安基準など）、③交通ルールの在り方（2020 年実用化等を見

36

報告書 2017 公表以前のＡＩネットワーク化をめぐる動向については、報告書 2017 第１章参照。
37
内閣府、総務省、文部科学省、厚生労働省、経済産業省、国土交通省が合同で開催する会議として設置された。
38
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.kantei.go.jp/jp/singi/it2/kettei/pdf/20180413/auto_drive.pdf>

11

据えた交通ルールの検討）、④責任関係（民事責任（下記(3)の検討内容を含む）、刑事責任、自動運転車の走行中のデータ保存に係る検討）、⑤運送事業に関する法制度との関係等に対する制度整備等の方向性が取りまとめられている。
（３）自動運転における損害賠償責任に関する研究会
国土交通省は、自動運転における自動車損害賠償保障法（昭和 30 年法律第 97 号）の損害賠償責任の在り方について検討することを目的として、「自動運転における損害賠償責任に関する研究会」を設置し、第１回会合が平成 28 年 11 月２日に開催された。以降、平成 30 年３月 20 日までに６回の会合が開催され、同日付けで報告書を取りまとめ公表した 39。
報告書においては、（レベル４までの自動運転車が混在する）高度自動運転システム 40の導入初期である 2020-25 年を想定し、次に掲げる５つの論点が整理されている 41。
① 自動運転システム利用中の事故における自動車損害賠償保障法の「運行供用者責任」をどのように考えるか。
② ハッキングにより引き起こされた事故の損害（自動車の保有者が運行供用者責任を負わない場合）について、どのように考えるか。
③ 自動運転システム利用中の自損事故について、自動車損害賠償保障法の保護の対
象（「他人」）をどのように考えるか。
④ 「自動車の運行に関し注意を怠らなかったこと」について、どのように考えるか。
⑤

地図情報やインフラ情報等の外部データの誤謬、通信遮断等により事故が発生した場合、自動車の「構造上の欠陥又は機能の障害」があるといえるか。
（４）保健医療分野におけるＡＩ活用推進懇談会
厚生労働省は、ＡＩの特性を踏まえ、その活用が患者・国民にもたらす効果を明らかにするとともに、保健医療等においてＡＩの導入が見込まれる領域を見据えながら、開発推進のために必要な対応及びＡＩを用いたサービス等の質・安全性確保のために必要な対応等を検討することを目的として、「保健医療分野におけるＡＩ活用推進懇談会」を設置し、平成 29 年１月 12 日に第１回会合が開催された。以降、同年３月 29 日までに４回の会合が開催され、同年６月 27 日に報告書を取りまとめ公表した 42。
39

次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.mlit.go.jp/common/001226452.pdf>
40
ＳＡＥ（Society of Automotive Engineers）レベル３以上の自動運転システムをいう（官民 ＩＴＳ構想・ロードマップ 2017）。
41
現行の自動車損害賠償保障法においては、免責３要件（①自己及び運転者が自動車の運行に関し注意を怠らなかったこと、②被害者又は運転者以外の第三者に故意又は過失があったこと、③自動車に構造上の欠陥又は機能の障害がなかったこと）を立証しない限り、自動車所有者などの運行供用者が損害賠償責任を負うこととなっている。
42
次に掲げるＵＲＬのウェブサイトに所掲。

12

報告書においては、技術の強みを持つこと及び解決する必要のある課題を持つことの両面から、ＡＩ開発を進めるべき重点領域として、ゲノム医療、画像診断支援、診断・治療支援、医薬品開発、介護・認知症対応、手術支援の６点を選定した上で、個別のＡＩ技術の開発促進に加え、ＡＩの有効性・安全性確保のために適切なルール整備が必要であるとの見解が示されている。また、ＡＩ活用促進のために、十分な質・量を兼ね備えたデータベースを整備することを起点とし、開発の推進と活用が進むことによる保健医療の向上が循環的に進む「保健医療循環ＡＩ開発エコシステム」が重要であるとされている。一方、保健医療分野におけるＡＩの限界とあるべき姿として、ＡＩによる判断が患者・国民のためにならない可能性があることに言及し、そのために、ＡＩはあく
までコンピュータによる人間の知的活動の支援のためのものであり、ＡＩによる予測
を含めた各種状況を踏まえて人間が最終判断を下す必要性は引き続き残ること、将来の保健医療関係者は、人工知能を保健医療の質の向上を増幅させるものとしてうまく使いこなしていく知識・技術が必要であると指摘されている。
（５）ＡＩ・データ契約ガイドライン検討会
経済産業省は、契約によるデータの利活用やＡＩの利用・開発を促進するため、それらの契約を締結する際の法的論点などを整理することを目的として、平成 29 年 12 月に「ＡＩ・データ契約ガイドライン検討会」を設置した。以降、同検討会の下に設置した作業部会において具体的なユースケース 43に基づき検討を重ね、平成 30 年３月 20 日の第３回会合において素案を提示した後、意見募集（パブリックコメント）を経て、同
年６月●日に「ＡＩ編」及び「データ編」の２編からなる「ＡＩ・データの利用に関する契約ガイドライン」を取りまとめ公表した 44。
ＡＩ編は、特に機械学習技術を念頭に、そうした技術を利用したソフトウェアの開発
契約又は利用契約を作成するに当たっての考慮要素、トラブルを予防する方法等に関する基本的な考え方等について整理したもので、技術特性（学習済みモデルの内容・性能等が契約締結時に不明瞭であること、その内容・性能等が学習データセットに依存していること、その生成に際して特にノウハウの重要性が高いこと、各種生成物に対する再利用の需要が存在すること等）を踏まえた契約の在り方等が説明されている。特に、開発契約に関しては、ＡＩ技術の特性を考慮した「探索的段階型」の開発方式（①アセスメント段階、②ＰｏＣ 45段階、③開発段階、④追加学習段階を設け、ステップ・バイ・<http://www.mhlw.go.jp/file/05-Shingikai-10601000-DaijinkanboukouseikagakukaKouseikagakuka/0000169230.pdf>
43
ユースケースとして、実際の事案において契約形態及び契約時に課題となること（相談事項）を事業者から作業部会に示してもらうことにより、その充実を図っており、当該ガイドラインを検討する上での題材として取り扱っている。
44
次に掲げるＵＲＬのウェブサイトに所掲。
<●●>
45
Proof Of Concept の略。概念実証やコンセプト実証などといわれ、新しい概念や理論、原理

13

ステップで検証と確認を経ながら開発を進める方式）が提案され、段階ごとに論点やモデル契約が提示されている。このほか、外国企業との間で契約を締結する場合の考慮要
素等が示されている。
データ編は、契約類型別にデータの取扱いに関する法的論点や契約での取決め方等について整理したもので、契約の類型を「データ提供型（一方当事者から他方当事者へのデータ提供）」、「データ創出型（複数当事者が関与して創出されるデータの取扱い）」、「データ共用型（プラットフォームを利用したデータの共用）」の３つに分類した上で、契約条項例や条項作成時の考慮要素（クロス・ボーダー取引、個人情報の取扱いを含む）
がそれぞれ説明されている。
（６）産業競争力懇談会
一般社団法人産業競争力懇談会（ＣＯＣＮ：Council on Competitiveness - Nippon）
は、平成 29 年度の推進テーマの１つとして、「人工知能間の交渉・協調・連携」に関する検討を産学官連携の下で行い 46、最終報告書を平成 30 年２月 21 日に公表した 47。
報告書においては、対象とするユースケースを「製造バリューチェーン分野」（加工、組立から物流に至るまでの一連のサプライチェーンの受発注契約の支援）及び「交通・人流分野」（交通管制連携、モビリティ・サービス（交通リソースの融通））の２つ 48に絞り、両分野（のユースケース）における課題分析を行うとともに、想定されるステー
クホルダへのヒアリングを計 16 件実施している。その結果として、ネットワーク外部
性 49の突破が多くのステークホルダの主たる課題として挙げられており、・最小実装によるスモールスタートを初段とした各ユースケースでの交渉・協調・連携の社会実装を官民が連携して段階的に推進していくことが重要であること

・

その基本的な段取りを①プレーヤー間でのシミュレーション、②限定環境下（特区など）での一部プレーヤー間での実動作、③限定環境下でのプレーヤー拡大、④
一般環境へ拡大の４つとし、各前段の開発内容がそのまま使えること

・

各ユースケースでこれらのステップを横断的に進められることが好ましいことなどの提言がなされている。

などが実現可能であることを示すための簡易な試行のことをいう。
本プロジェクトは、「人工知能間の自動交渉技術による挙動調整・利害調整を行う仕組みの社会実装」を目標として平成 28 年度より検討が進められてきたもので、コンセプトの提唱、政府が掲げる将来像における適用シーンの抽出、ユースケース群の選定、社会実装における分野共通の課題分析が行われてきていた。
47
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.cocn.jp/theme98-L.pdf>
48
それぞれ、本推進会議の分野別評価における「モノ」及び「まちづくり」とも関係が深い分野である。
「モノ」及び「まちづくり」の評価の結果については、報告書 2017 別紙４参照。
49
電話やＦＡＸのように、相互運用可能な形態で一定の普及率を超えるまではユーザーに利益がない性質のこと。
46

14

（７）日本経済団体連合会
一般社団法人日本経済団体連合会は、産業界の現状として日本企業のＡＩ及びその関連分野における国際的な産業競争力を向上させるべく、未来産業技術委員会の下に「ＡＩ活用原則タスクフォース」を設置し 50、第１回会合を平成 30 年１月 17 日に開催した。タスクフォースにおいては、①社会的インパクト、②公共財（Social Goods）としてのＡＩ及び③産業競争力の向上を論点として議論を行っており、平成 30 年内の取りまとめに向け、ＡＩの展開戦略とともに、ＡＩ- ready な組織・社会の構築の必要性
等を打ち出す方向で検討が進められている。
２．海外の動向（１）米国電気電子学会（ＩＥＥＥ）
米国電気電子学会（ＩＥＥＥ）の自律的及び知的システムの倫理（Ethics ofAutonomous and Intelligent Systems）に関するグローバル・イニシアティブは、2017
年 12 月 12 日に報告書「倫理的に調整された設計 第２版」を公表した 51。第２版は、ＡＩの倫理的及び社会的な実装の在り方についての公衆の議論の発展、標準（ＩＥＥＥ
Ｐ7000 シリーズ等）及び関連する認証プログラムの策定の喚起、各国の政策及びグローバルな政策の形成の促進を目指して、第１版 52の公表（2016 年 12 月）後に寄せられたフィードバックなど 53を踏まえて取りまとめられたものである。
第２版においては、第１版に引き続き、ＡＩの倫理的な設計、開発及び実装において参照されるべき一般原則として、人権、幸福、アカウンタビリティ、透明性、悪用への警戒の５つ項目が掲げられている。また、自律型知的システム（ＡＩＳ：Autonomous andIntelligent System）に人間の規範や価値を実装するための方法論に基づきＡＩＳに関する経済的・人道的・法的課題について整理するとともに、汎用人工知能や自律型兵器に特有の問題についても論じられている。なお、第２版では、第１版に盛り込まれている８つの章 54に加え、新たに、⑨感情（affective）コンピューティング、⑩政策、50

タスクフォースの主査は、本推進会議の北野構成員（株式会社ソニーコンピュータサイエン
ス研究所代表取締役社長兼所長）が務めている。
51
The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems,
Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Autonomousand Intelligent Systems, Version Two - Request For Public Discussion (2017).
52
The IEEE Global Initiative for Ethical Considerations in Artificial Intelligenceand Autonomous Systems, Ethically Aligned Design: A Vision for Prioritizing Human
Wellbeing with Artificial Intelligence and Autonomous Systems, Version One - Request
For Public Discussion (2016).
53
我が国からも、本推進会議の江間環境整備分科会・影響評価分科会構成員が中心となり国内でワークショップを開催し、意見を取りまとめた上でＩＥＥＥに提示している。
54①倫理的に調整された設計をするための一般原則、②Ａ/ＩＳへの価値の埋め込み、③倫理的な研究及び設計を導く方法、④汎用人工知能（ＡＧＩ: Artificial General

15

⑪ＡＩＳにおける伝統的倫理感、⑫ＩＣＴにおける複合現実、⑬幸福（Well-being）をテーマとする５つの章が追加されている。
さらに、第２版の公表に先立って、ＩＥＥＥは、2017 年 11 月 17 日に第１版において示された論点等を踏まえ、ＡＩの倫理に関し、次に掲げる３件の標準プロジェクトを新たに承認した 55。
・ ＩＥＥＥ Ｐ7008™—ロボット、知能及び自律的システムのための倫理的に駆動されたナッジの基準：ロボットやＡＩが利用者に倫理的なナッジ（選択肢の提示等）を与えられるよう設計するための基準を策定。
・ ＩＥＥＥ Ｐ7009™—自律的及び準自律的システムのフェールセーフの設計基準：ＡＩ等の障害・事故が生じた際の安全性を確保するための設計の基準を策定。
・ ＩＥＥＥ Ｐ7010™—倫理的なＡＩ及び自律的システムのための幸福の計測基準：Ａ
Ｉ等に影響を受ける人間の幸福を計測するための基準を策定。
（２）米国情報技術工業協議会（ＩＴＩ）
米国情報技術工業協議会（ＩＴＩ）56は、2017 年 10 月 24 日にＡＩの可能性を最大限に引き出すことを目的とした「ＡＩ政策原則」を公表した 57。
原則においては、（責任ある開発・利活用を促進するための）産業界の責任に関する項目として、責任ある設計及び実装、安全と制御可能性、頑健で代表的なデータの利用（対バイアス）、解釈可能性、自律性に応じたＡＩシステムに関する責任が掲げられている。また、（ＡＩエコシステム構築推進に関する）政府への期待に関する項目として、ＡＩの研究開発への投資、柔軟な規制手法の検討、インターネットのイノベーション及びセキュリティの促進、サイバーセキュリティとプライバシー、 グローバルな基準及びベストプラクティスが掲げられている。さらに、公私協働に関する項目として、アクセスの民主化と平等な機会の創出、 科学・技術・工学・数学（ＳＴＥＭ）教育の促進、労働の置き換えに対する考慮、公私協働が掲げられている。

Intelligence）及び人工超知能（ＡＳＩ: Artificial Superintelligence）の安全性及び恩恵、⑤パーソナルデータと個々のアクセス制御、⑥自律的兵器システム、⑦経済的・人道的問
題、⑧法律の８章である。
55
https://standards.ieee.org/news/2017/ieee_global_initiative.html
このほかＩＥＥＥ Ｐ7000 シリーズとして、ＡＩの倫理的設計、透明性、バイアス、プライバ
シー、個人データ等に関する標準プロジェクトも既に始動している。
56
米国の情報技術関連の業界団体であり、IBM、Microsoft、Google、Amazon、Facebook、Apple など米国の主要ＩＣＴ企業のほか、キヤノン、富士通、パナソニック、トヨタ、東芝など日系企業も参加している<https://www.itic.org/about/member-companies>。
57
次に掲げるＵＲＬのウェブサイトに所掲。
<https://www.itic.org/public-policy/ITIAIPolicyPrinciplesFINAL.pdf>

16

（３）ＵＮＩグローバルユニオン
サービス業や情報産業等の労働者を代表する国際的な労働組合であるＵＮＩグロー
バルユニオンは、2017 年 12 月 11 日に労働者の利益を擁護し職場における権力の健全な均衡を維持する観点から、ＡＩの倫理に関する「倫理的ＡＩのための上位 10 原則」を公表した 58。
10 原則は、①透明性、②「倫理的な記録装置」の実装、③人々と地球への奉仕、④人間による指揮アプローチの採用（ＡＩシステムが人事に用いられた際の労働者の説明を求める権利を含む）、⑤性別に左右されず、バイアスのないＡＩ、⑥ＡＩシステムの便益の分配、⑦（雇用環境の変化への）適切な移行の確保並びに基本的自由及び権利の支援、⑧グローバルガバナンスのメカニズムの構築、⑨ロボットへの帰責の禁止、⑩Ａ
Ｉ軍拡競争の禁止、から構成されている。
（４）ＥＵ第 29 条データ保護作業部会
ＥＵ第 29 条データ保護作業部会は、ＥＵ一般データ保護規則（General Data
Protection Regulation：ＧＤＰＲ）の解釈の明確化を目的として、2017 年 10 月 3 日に同規則における「自動処理による個人に関する意思決定（decision）及びプロファイ
リングに関する規定」に関するガイドラインを公表し、改訂した上で、2018 年 2 月 6日に採択した 59。
ガイドラインにおいては、ＡＩ等の技術発展によりプロファイリング及び自動処理
による意思決定が容易になっており、プロファイリング及び自動処理による決定が、個
人や経済・社会に便益をもたらすと同時に、個人の権利及び自由に重大なリスクを及ぼし得るとの認識が示されている。
その上で、①プロファイリング及び自動処理による意思決定一般に関する指針（透明性、公正性、目的の限定、データ最小化、正確性等）及び②（ＧＤＰＲにより原則禁止とされる）法的効果又はそれに類する重大な影響を個人に及ぼす自動処理のみによる意思決定に関する指針（「決定に服さない権利」、例外規定等）が示されている。関連して、プロファイリングの文脈で、データ主体の「情報を与えられる権利」、「アクセス権」、「異議申立権」等が具体化されている。また、子供を対象とした行動ターゲティング広
告等のプロファイリング及び自動処理による決定について、適切なセーフガード措置を取るべきである等の厳格な指針が示されている。

58

次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf>
59
Guidelines on Automated individual decision-making and Profiling for the purposesof Regulation 2016/679, wp251rev.01<http://ec.europa.eu/newsroom/article29/item-detail.cfm?item_id=612053>

17

（５）欧州委員会
欧州委員会の独立諮問機関である欧州科学・新技術倫理グループ（the EuropeanGroup on Ethics in Science and New Technologies :ＥＧＥ）は、2018 年３月９日にＡＩ・ロボティクス・自律システムの設計、利活用及びガバナンスなどに関する国際的な理解を確保していくよう欧州委員会に対し要求する旨の声明文を公表した 60。
声明文においては、議論の第一歩として、ＥＵ条約・基本権憲章に含まれる価値に基づく９つの倫理原則（①人間の尊厳、②自律性、③責任、④正義・公平・連帯、⑤民主主義、⑥法の支配とアカウンタビリティ、⑦セキュリティ・安全性・心身の整合性、⑧
データ保護とプライバシー、⑨サステナビリティ）が提案されている。
また、欧州委員会は、同年４月 25 日に産官学に加え、消費者団体や労働組合、市民団 体 など ＥＵ 内外 の複数 の ステ ーク ホル ダを含 め たＡ Ｉに 関す るアラ イ アン ス「European ＡＩ Alliance」を同年７月までに設立する予定であることを公表するとともに、ＡＩに関するハイレベル専門家グループを同年５月に立ち上げ、ＥＧＥの声明を踏まえたＡＩ倫理ガイドラインを策定し、アライアンスに照会しつつ、2018 年末までに公開予定であることを公表した。さらに、同年５月 17 日に完全自動運転に関する発表を行い、2030 年代に欧州で完全自動運転社会を実現していくための工程の１つとして、ＡＩ倫理ガイドラインを策定する旨を掲げている 61。
おって、欠陥製品における消費者及び生産者のための法的な明瞭性確保に向け、技術開発の観点から、製造物責任（ＰＬ）指令の解釈に関するガイダンスを 2019 年中頃までに発行する予定である。
（６）仏国政府
仏与党（ＬＲＥＭ）所属のセドリック・ビラニ下院議員は、2018 年３月 28 日にＡＩ普及のための報告書を発表した。報告書においは、ＡＩの普及が最も進んでいる国々として、米国、中国、英国、カナダ、イスラエルを挙げ、欧州／フランスが緊急に挽回するべきである旨が強調されており、そのための具体策として、ＡＩ関係の研究者の初任給の倍増、公共部門によるプロジェクト入札の手続の簡素化と迅速化により、独創的な研究を進めやすくする環境作りなどが提案されている。また、ＡＩ開発に際して注力すべき分野として、医療、輸送、環境、防衛の４分野が挙げられている。さらに、ＡＩがもたらす倫理上の問題についても議論を深めるよう求めており、ＡＩ倫理に関する独立行政機関の設立が提唱されている 62。

60

次に掲げるＵＲＬのウェブサイトに所掲。
<http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf>
61
Connected & Automated Mobility – For a competitive Europe<https://ec.europa.eu/transport/sites/transport/files/3rd-mobility-pack/3rdmobility-pack-factsheets-automatedconnected.pdf>
62
この独立行政機関については、政府から諮問を受けるだけでなく、一般市民の請願も受け付

18

マクロン大統領は、この報告書を受けて、同月 29 日にＡＩの普及に向けた施策を発表した。新技術分野でＡＩが新たな発展のカギを握ることを見据えて、諸外国との競争に打ち勝つべく、テコ入れを図るため、・ 大統領任期終了の 2022 年までに 15 億ユーロの予算をＡＩ振興のために充当
・ フランス国立情報学自動制御研究所（ＩＮＲＩＡ）が中心となり、４～５箇所のＡＩ研究所のネットワークを構築し、民間と協力しつつ研究推進と人材育成を推進
・ 研究者によるスタートアップ設立の手続を簡素化
・ データについて、官民両者でアクセスを簡易化、特に大手企業の一部データについては、公益性を理由に利用を認めさせるという制度を欧州レベルで導入
・

ＡＩ開発の重要分野として、「保健」と「モビリティ」の２分野を選定

・ 倫理面では、国際的な規模での専門家会議の設置を提言、国内では、公的機関のア
ルゴリズム開示に取り組むなどの施策が示されている。
（７）英国政府
英国上院のＡＩ特別委員会は、2018 年４月 16 日にＡＩに関する報告書「英国における人工知能（ＡＩ）：英国はＡＩを活用し、そして活用できる準備ができているか（ＡＩ in the ＵＫ: ready, willing and able?）」を公表した 63。
報告書においては、今後の英国経済成長の原動力（課題解決や生産性向上等）としてのＡＩの必要性を強調した上で、その実現のためにはＡＩの倫理的側面を中核においたアプローチが重要であるとされている。また、国内外において採用されるべき分野横
断的なＡＩの倫理行動規範（Code of Practice）となる「ＡＩコード」の策定を含め、ＡＩが英国社会及び経済にもたらす可能性を引き出すことを支援する一方で、ＡＩがもたらす可能性がある脅威やリスクから社会を守るために必要な 74 項目にわたる勧告が盛り込まれている。
「ＡＩコード」の策定に当たり、次に掲げる５つの原則が提示されている。
① 人工知能は、人類共通の利益のために開発されるべきである。
② 人工知能は、透明性及び公平性の原則に基づいて運用されるべきである。
③ 人工知能は、個人・家族・コミュニティのデータに関する権利やプライバシーを侵害する形で利用されるべきではない。
④ すべての市民は、人工知能と共に精神的・感情的・経済的な繁栄を享受できるような教育を受ける権利を持つべきである。
⑤ 人間を傷つけ、破壊し、欺く自律的な力は人工知能に埋め込まれるべきではない。

ける開かれた機関とすべきであるとされている。
次に掲げるＵＲＬのウェブサイトに所掲。
<https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf>

6319

さらに、メイ首相は、同年１月 25 日に開催された世界経済フォーラムにおいて、データ倫理イノベーションセンター（Centre for Data Ethics and Innovations）の必要性に言及し、その役割として、・ データ信託（data trusts）によってデータが管理されている人々の意見の反映確保・ 公的データの共有に関する適切なアプローチに係るガイダンスの作成
・ データの共有・管理・プライバシー保護のためのツールや枠組みの構築
・ ＡＩシステムの透明性に関する要件に係るガイダンスの作成
・ 分野横断的なＡＩコードの導入などを行う予定であることを明らかにした。
（８）米国ホワイトハウス
ホワイトハウスは、2018 年５月 10 日、米国がＡＩについて主導的立場をとるための必要な政策を議論するため、100 名を超える政府機関、産業界、学術界の代表を集めた
ＡＩサミットを開催した 64。
サミットにおいては、国家レベルのＡＩのＲ＆Ｄエコシステムの支援、ＡＩの便益を享受するための人材育成、ＡＩイノベーションに対する阻害要素の除去、特定領域におけるインパクトの高いＡＩ応用の可能性を論点として議論が行われた。また、研究開発の省庁間での優先順位を調整し、連邦政府のＡＩ投資計画を推進するＡＩ特別委員会を設立することが公表された。
（９）中国政府
中国政府は、2017 年７月 20 日に 2030 年までに同国を理論・技術・応用の全分野で世界の最高水準まで引き上げ、世界の主要なＡＩのイノベーションの拠点となることを目標に掲げた「次世代人工知能発展計画」 65を公表した。
計画においては、第一段階である 2020 年までにＡＩの技術を「世界先進水準まで引き上げる」ことが目標として掲げられている。その具体策として、政府工業・情報化部
は、2017 年 12 月 14 日にＡＩの発展に必要となるハード・ソフト両面の基盤強化、人材育成などを含む「次世代人工知能産業の発展促進に関する三年行動計画」（2018-20 年）を発表した。
また、ＡＩに関するサービスの開発が急速に進展する中、標準化の推進も重視されており、その一環として、工業・情報化部配下で情報通信産業の標準化を担当する中国電64

https://www.whitehouse.gov/wp-content/uploads/2018/05/Summary-Report-of-WhiteHouse-AI-Summit.pdf
65「新一代人工智能发展规划」<http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm>

20

子技術標準化研究所は、2018 年１月 18 日に産学各団体の協力の下、国内外のＡＩに関する標準化の動向を取りまとめた白書を作成し公表 66 するとともに、ＡＩ標準化組織
及び専門諮問組織の設立を発表した。白書においては、技術面の進歩及びその標準化と並行して、安全性、倫理面（人間の尊厳、人間・自然の利益の最大化）、プライバシーの政策、法、及び標準の策定が重要である旨が指摘されている。
３．国際的な議論の動向（１）ＯＥＣＤ（経済協力開発機構）
ＯＥＣＤは、2017 年（平成 29 年）10 月 26 日から 27 日にかけて、フランス・パリにおいて、総務省との共催により、ＡＩの普及が社会にもたらす機会と課題、政策の役割と国際協調について議論を行うべく、ＡＩに関する政策をテーマとする国際カンファレンス「ＡＩ: Intelligent Machines, Smart Policies」を開催した 67。カンファレン
スには、世界各国の産学民官の有識者が一堂に会し、活発な議論が行われた。本推進会
議から、須藤議長及び平野幹事・環境整備分科会長が参加し、ＡＩ開発ガイドライン案など本推進会議の検討状況及び成果を紹介した。加盟各国の参加者やＯＥＣＤ事務局
らから、ＡＩ開発ガイドライン案などを踏まえつつ、国際社会においてＡＩに関する議
論と検討を進めることについて賛同する姿勢が示された。
また、2017 年（平成 29 年）11 月 21 日から 22 日にかけて、デジタル経済政策委員会（Committee on Digital Economy Policy：ＣＤＥＰ）が開催され、ＯＥＣＤのＡＩに関する今後の取組について議論が行われた 68。本推進会議から、森川幹事（同委員会副議長（当時））及び実積構成員（同委員会次期副議長（当時））が参加した。委員会における議論の結果、ＯＥＣＤにおける今後の取組として、①2018 年（平成 30 年）５月開
催の次回会合に向け、事務局が分析レポートを作成すること、②加盟国の意向を踏まえつつ、2019 年（平成 31 年）以後、理事会勧告作成に向けた作業に着手すること 69について、加盟国の同意が得られた。
さらに、2018 年（平成 30 年）５月 16 日から 18 日にかけてＣＤＥＰが開催され、事務局より「社会におけるＡＩ」と題する分析レポートが報告された。分析レポートにお66

次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.cesi.ac.cn/images/editor/20180124/20180124135528742.pdf>
67
http://www.oecd.org/going-digital/ai-intelligent-machines-smart-policies/
68
委員会においては、ＯＥＣＤ事務局から、①平成 29 年 10 月に開催されたＡＩに関する国際
カンファレンス（総務省共催）の結果、②ＯＥＣＤにおける今後の取組について説明が行われたところ、事務局の説明に対し日本を含め 12 箇国が支持を表明した。我が国からは、ＡＩ開発ガイドライン案や影響評価に係る分析など、本推進会議の取組を紹介した。ＯＥＣＤの今後の取組については、①マルチステークホルダーによる対話の必要性、②理事会勧告がＡＩの開発を萎縮させる規制的、拘束的なものであってはならないことを指摘した上で、引き続きＯＥ
ＣＤにおける議論に貢献していく意向を表明した。
69
今後の作業の方向性について加盟国の同意が得られたものであり、理事会勧告の作成については、2018 年（平成 30 年）11 月以降、ＣＤＥＰで改めて議決／承認が必要となる。

21

いては、本推進会議の検討状況及びＡＩ開発ガイドライン案のＯＥＣＤ、Ｇ７等への展
開について紹介されている。分析レポートは、今次会合における議論を踏まえた修正がなされた後、同年 11 月の会合で最終化される予定である。
（２）Ｇ７
2017 年（平成 29 年）９月 25 日から 26 日にかけて、イタリア・トリノで開催された
Ｇ７情報通信・産業大臣会合の閣僚宣言において、ＡＩの進歩が経済及び社会に莫大な便益をもたらすことを認識するとともに、デジタル経済におけるイノベーション及び成長を主導する人間中心のＡＩというビジョンを共有し、「附属書２：我々の社会のための人間中心のＡＩに関するＧ７マルチステークホルダー交流」70に記載するマルチス
テークホルダーの交流を通じて同ビジョンを一層発展していくことが合意された。なお、附属書２において、ＡＩ開発ガイドライン案が言及されている。
また、2018 年（平成 30 年）３月 27 日から 28 日にかけて、カナダ・モントリオールで開催されたＧ７イノベーション大臣会合において、「未来の仕事に備える（Preparing
for Jobs of the Future）」をテーマに、ＩｏＴ、ビッグデータ、ＡＩ等の新たなイノ
ベーションが社会・経済や労働市場に及ぼす影響について議論が行われ、その成果が、議長サマリーの形で取りまとめられた。なお、「附属書Ｂ：ＡＩに関するイノベーション会合声明」 71において、ＡＩ開発ガイドライン案が言及されている。
今後は、Ｇ７による将来の政策協議に情報を入力するため、ＯＥＣＤの支援を受け、ＡＩに関するマルチステークホルダーによる対話・連携を促進していく予定である。また、時限設置されるイノベーションＷＧの支援により、同年秋にカナダが主催するＡＩに関するマルチステークホルダー会合を開催する方向で調整が進められる予定である。

70

閣僚宣言サマリー附属書２：http://www.g8.utoronto.ca/ict/2017-G7-ICT-Annex2-AI.pdf
議長サマリー附属書Ｂ：http://www.g8.utoronto.ca/employment/2018-labour-annex-ben.html

7122

第２章 ＡＩネットワーク化が社会・経済にもたらす影響
１．ＡＩネットワーク化に関するシナリオ分析（分野別評価）（１）背景・経緯検討会議において、ＡＩネットワーク化の進展に伴いロボットに関し想定され得るリスクのシナリオを試行的に例示しつつ分析を行い、シナリオに即したリスク対処の在り方を検討した。
ここで示されたシナリオは、あくまでも試行的に例示されたものに過ぎず、今後、社会の各分野のステークホルダの参画を得つつ、ＡＩネットワーク化の進展等に応じて、
リスク・シナリオを拡充するとともに、その内容やリスク評価等を不断に見直すなど、
リスク・シナリオについて継続的に検討を行い、リスク・シナリオの共有を図り、シナリオに基づくリスク対処を進めていくことが求められるとされている 72。
また、今後の課題として、リスク・シナリオの作成・共有に向けて、
・

ＡＩネットワークの利活用の場面を想定した各種のリスクに関するシナリオの作

成・ シナリオに基づくリスク対処（リスク評価、リスク管理、リスク・コミュニケーシ
ョン）の推進等が提言されている 73。
検討会議を発展的に改組した本推進会議においては、親会の下に環境整備分科会及び影響評価分科会が置かれ 74、このうち主に影響評価分科会において、ＡＩネットワー
ク化が社会・経済にもたらす影響（インパクト及びリスク）の評価に関する検討を行ってきた。
本推進会議においては、報告書 2016 の提言を踏まえて、ＡＩネットワーク化に関するリスクのみならず、インパクト（主に良い影響、便益）についても併せて評価することが重要であるとの認識の下、ＡＩネットワーク化が社会・経済にもたらすインパクト及びリスクに関し、ＡＩシステムの具体的な利活用の場面（ユースケース）を想定したインパクト及びリスクの評価（シナリオ分析、将来展望）として、
・国際的な議論のためのＡＩ開発ガイドライン案の検討に向けた先行的評価

・

ＡＩシステムを利活用する分野ごとの分野別評価 7572

詳細については、報告書 2016 第４章参照。
報告書 2016 第５章 11．参照。
74
前掲注（４）参照。
75
分野別評価は、その結果から得られる示唆をＡＩの利活用において留意することが期待される事項等の検討に役立てることを主たる目的として実施するものである。報告書 2017 においては、先んじて実施した３分野（まちづくり、健康、モノ）の評価の結果を掲げている。
73

23

を実施した 76。
なお、インパクト及びリスクの評価の対象とするＡＩシステムの具体的な利活用の場面（ユースケース）について、分野別評価においては、ＡＩシステムを利活用する分野の構成を利用者の視点から（ユーザ・セントリック・アプローチ）区分した上で本推進会議が整理したユースケースを用いた 77。
これら成果を踏まえ,報告書 2017 において、今後の課題として、
・ ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有が提言されている 78。
（２）分野別評価① 評価の枠組み
分野別評価における分野の区分については、報告書 2017 において、次のように整理している 79。
ＡＩネットワーク化の進展に伴いＡＩシステムの利活用をめぐるエコシステムが複雑化していくものと考えられることに鑑み、将来社会の在り方に関するフォアキ
ャスト的なアプローチとバックキャスト的なアプローチの双方を採り入れ、次の事
項を念頭に置き、次表のように整理した。
・ ＡＩネットワーク化が主としてＡＩシステムの「利用者」（特に最終利用者）にどのような便益やリスクをもたらし得るのかを重視し、利用者を「個人」、「公共」
及び「産業」の３つに区分した上で、「個人」については生活の各場面、「公共」については公益の確保に関連する場面、「産業」について商流が形成される場面に着目して分野の区分を設定する。
・ 分野別評価においては、ＡＩネットワーク化の進展により、領域が融合していく
ことや領域横断的なＡＩネットワークの利活用が進むことが見込まれることを踏
まえて分野の区分を設定する。
・

ＡＩネットワーク化が社会的なニーズへの対応や課題の解決に貢献するものであることから、社会的なニーズ又は課題を踏まえて分野の区分を設定する。

76

先行的評価の結果については、報告書 2017 第３章２．及び別紙３参照。分野別評価（まちづくり、健康、モノ）の結果については、報告書 2017 第３章３．及び別紙４参照。
77
先行的評価においては、国内外における関連する議論を進めている機関等が提示している既存のユースケースを基礎として本推進会議が整理したユースケースを用いた。
78
報告書 2017 第４章（10）参照。
79「パブリック・ガバナンス」については、分かりやすさの観点から、本報告書において、名称を「行政」と変更している。

24

また、分野別評価においては、利用者の視点から（ユーザ・セントリック・アプローチ）評価を行うこととしていることに鑑み、主として製品・サービスの供給面の領域を横断し又は領域が融合していくものと見込まれるユースケースを用いることとし、「領域横断前の段階」と「領域横断後の段階」の２段階に分けて評価を行うこととしている。

なお、評価の対象とするインパクト及びリスクの考え方については、報告書 2017において、次のように整理しており、本報告書においても、これを踏襲している。
インパクト及びリスクの評価に当たっては、インパクトについては、ＡＩシステムを利活用することにより、従来人間には不可能又は困難であったことが可能となることや、効率化や精度の向上等が図られることをインパクトとして評価することとした。他方、リスクについては、ＡＩシステムの利活用に伴い新たに生ずるリスク（ＡＩネットワーク化固有のリスク）だけではなく、ＡＩシステムを利活用しない場合と比べて増加するリスクやＡＩシステムを利活用しない場合と比べて軽減するものの、利活用する場合における事故等による被害の規模や波及がある程度大きいリスクに25

ついても評価の対象とすることとした 80。
なお、セキュリティに関するリスク（ＡＩシステムがハッキングされること等により機能不全に陥るリスク等）、不透明化のリスク（多重かつ複雑に連携しているＡＩシ
ステムの一部の動作が不透明化することに伴い、ネットワークを介してつながるＡ
Ｉシステムの動作全体が不透明化するリスク等）、制御喪失のリスク（ＡＩシステム
が攻撃を受けたり、不具合が生じたりすることにより、制御が困難又は不可能となり、
当該ＡＩシステムとネットワークを介してつながるＡＩシステム全体が機能不全に陥るリスク等）については、各ユースケースに共通するリスクと考えられることから、個々のユースケースの評価において個別には記載しないこととしている 81。

②

分野別評価
分野別評価について本報告書においては、上記 12 分野のうち、次の３分野に関するユースケースを対象として評価を行った 82。

・

公共：行政に関するユースケース

・

個人：移動に関するユースケース

・

個人：居住に関するユースケース

これらのユースケースについて、次に掲げる居住に関するユースケースの例のよ
うに、ＡＩシステムの利活用に関するインパクト及びリスクの評価を行った。各ユー
スケースの評価の結果の詳細は、別紙１のとおりである 83。

80

インパクト及びリスクのいずれについても、あくまでも典型的に想定され得るものの一部を例示として記載しているだけであり、網羅的なものではないことに留意することが必要である。
81
これらのリスクへの対処が重要であることは言うまでもない。むしろ、共通するリスクであるからこそ、これらのリスクへの対処が特に重要となる。
82
報告書 2017 において、公共：まちづくり、個人：健康、産業：モノの３分野について評価を実施した。他の分野については、本報告書の公表後、本推進会議において評価を行う予定である。
83
各ユースケースに記載されているＡＩシステムの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。

26

27

28

③

シナリオ分析から得られた示唆
分野別評価におけるシナリオ分析から、次のような示唆を得ることができた 84。

・ 様々な領域横断的・融合的なＡＩシステムの利活用が可能となり、ＡＩシステム
相互間の連携におけるインパクトに加えて、社会の様々な分野に広範にわたって
大きなインパクトがもたらされる。
＜領域横断・融合の例＞➢ 行政＋スマートシティ＋居住、行政＋仕事＋豊かな人生➢ 移動＋医療・介護＋物流＋小売、
移動＋教育＋仕事＋医療・介護＋物流＋小売など➢ 居住＋医療＋スマートハウス＋見守り、居住＋行政＋金融
・ 各ユースケースにおいて、次に掲げる例のように共通して想定されるリスクが見受けられることから、それらのリスクへの対処が重要である。
＜共通して想定されるリスクの例＞➢ ハッキングや不正操作等により、ＡＩシステムが機能不全に陥り、事故が発生するおそれがある。また、事故が発生した場合、ＡＩシステムがどのような判断をしたのか検証できないと、責任の所在を明らかにすることができないおそれがある。
➢

ＡＩシステム間の連携が十分でなく、最適なマッチングや調整ができなかったり、適切なサービスを受けることができなかったりするおそれがある。
➢ 個人情報やパーソナルデータが、ハッキング等により流出したり、本人同意な
く第三者に提供、共有されるおそれがある。
・ 各ユースケースにおいて、次に掲げる例のようにＡＩネットワーク化の健全な進展に向けた今後の検討に当たって留意すべき点が抽出された。
＜今後の検討に当たって留意すべき点の例＞➢

自動運転により取得される移動履歴やカメラ映像等について、プライバシーに配慮しつつ、データの積極的な利活用が期待される。
➢ プロファイリング結果により、就職や転職、結婚などにおいて、不当に不利な立場に陥ることのないようにセーフティネットの検討が必要である。
➢

特に高齢者に有益なＡＩシステムの利活用と考えられるため、高齢者のＡＩシステムに関するリテラシーを向上させる方策が求められる。
２．ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望（１）背景・経緯①

ＡＩの利活用に関する指針の策定に向けた検討
本推進会議において、ＡＩの研究開発に当たって国際的に共有されるべき「ＡＩ開84

ここでは、特に領域横断的・融合的な観点から得られた示唆について記載している。

29

発原則（仮称）」及びその解説からなる国際的な指針たる「ＡＩ開発ガイドライン（仮称）」の策定に向けて、Ｇ７やＯＥＣＤ等における国際的な議論の用に供するため、ＡＩ開発ガイドライン案を整理した 85。
また、報告書 2017 において、ＡＩシステムが、特段の措置が講じられているものを除いて、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものであることやネットワークに接続されたＡＩシステムの便益及びリスクが、空間を越えて、特に国境を越えて、即座に広く波及することがあり得ること等を踏まえて、ＡＩネットワーク化の健全な進展を通じたＡ
Ｉシステムの便益の増進及びリスクの抑制について、「ＡＩ開発ガイドライン（仮称）」を国際的に共有することに加えて、利用者がそれぞれの属性等に応じて留意することが期待される事項について国際的に共有を図ることが必要である旨が提言されている。
さらに、このＡＩの利活用に関するガバナンスの在り方に関する検討に当たっては、その前提として、ＡＩネットワーク化が社会・経済にもたらすインパクト及びリスクに関する問題の所在を把握することに加えて、ＡＩネットワーク化の進展を通じて形成される関係者間のエコシステムに関する展望を得ることが必要である旨が提言されている 86。
② 本推進会議における検討
これらの提言を踏まえて、本推進会議において、ＡＩの利活用において留意することが期待される事項等について検討を行うとともに、その前提となるＡＩネットワ
ーク化の進展に伴い形成されるエコシステムの展望（以下「エコシステムの展望」という。
）に関する検討を行ってきた。
本推進会議におけるエコシステムの展望に関する検討に当たっては、・ 主に利用者の視点からＡＩの利活用に着目し、次に示すようにＡＩの利用場面を４つに分類した上で、それぞれの分類ごとにＡＩの利用シーンを展望し、

85
86

報告書 2017 別紙１参照。
報告書 2017 第４章（２）参照。

30

・ その利用シーンをもとに、次に掲げる５つの事例に関するケーススタディを行い、ＡＩの利活用による便益及び課題を整理するとともに、
ケース① ： 完全自動運転
ケース② ： 医療診断
ケース③ ： 人事評価・採用
ケース④ ： 金融（保険）
ケース⑤ ： 行政・ 利用シーンを展望する中で、主としてＡＩネットワーク化の健全な進展を阻害し得る要因（ＡＩがネットワーク化することにより生ずる又は増幅する課題）を考察した。87（２）ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望① ＡＩの利用シーン
ＡＩの利用場面を４つに分類（都市部における利用、地方部における利用、家庭内における利用、企業における利用）した上で、次に掲げるように、それぞれの分類において４つの主な利用シーンを想定してＡＩの利活用を展望した 88。
【利用場面】
・【利用シーン】

都市部における利用 ： 移動、介護、観光・旅行、教育・人材育成

・ 地方部における利用 ： 移動、医療、仕事、コミュニティ
・ 家庭内における利用 ： 医療、家事、安全・快適な居住環境
・ 企業における利用： ヒト、モノ、カネ、情報

なお、時間軸を意識して、それぞれの利活用の実現時期を、「既に実用化されているもの・近い将来実現しそうなもの」、「中期的に実現しそうなもの」、「遠い将来に実現しそうなもの」の３段階に分けている。
これらの利用の場面について、次に掲げる都市部における利活用の例のように、Ａ
Ｉの利活用を展望した。それぞれの利用の場面におけるＡＩの利活用の展望の詳細
は、別紙２－１のとおりである 89。
87

本報告書の公表後、本推進会議において、これらの成果を踏まえて、ＡＩネットワーク化の進展に伴い形成されるデータの流通に関するエコシステムやＡＩネットワークを通じて提供されるサービス等に関するエコシステムの展望についての検討を行う予定である。
88
それぞれの主な利用シーンについては、分類された利用場面における利活用に限られるもの
ではなく、また、重複するものもあるが、想定される特徴的なＡＩの利活用を記載するため便宜的に分けている。
89
各利用シーンに記載されているＡＩの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在の法制度等の下

31

②

ケーススタディ上記①のＡＩの利用シーン等をもとに、５つの事例（完全自動運転、医療診断、人事評価・採用、金融（保険）、行政）に関するケーススタディを行い、ＡＩの利活用による便益及び課題を整理した 90。
例えば、完全自動運転については、次に掲げるような便益が期待される。

・ 人間は運転する必要がなく、自動車での移動において、移動時間を有効に活用することができるようになる。
・ 高齢者や障害者の方にとって、手軽に移動することができる手段が確保されることなり、病院や買物などに容易に出かけることができるようになる。
・ 深夜や早朝などにおける長距離トラックや長距離バスの運転をする必要がなく、働き方やワーク・ライフ・バランスを見直すことなどができるようになる。
・

特に地方部などにおける路線バスの運転手不足などの問題を改善することができ、路線の廃止・縮小を回避することができるようになる。

では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。
90
便益、課題のいずれについても、あくまでも典型的に想定され得るものの一部を例示として記載しているだけであり、網羅的なものではないことに留意することが必要である。

32このような便益が期待される一方で、次に掲げるような課題が想定される。
・ 自動運転車間で交渉・調整が成立しない場合、車線変更や合流等が適切に行うことができないおそれがある。［連携］・ ＡＩシステムがハッキング等された場合、そのＡＩシステムを実装している自動運転車が正常に機能しなくなるだけではなく、ネットワークを介して、次々と他の自動運転車にも影響が及び、事故や交通の混乱が生ずるおそれがある。［連携、セキュリティ、安全］
・ 長期間ＡＩソフトのアップデート等をしなかった場合や学習したことがない（想定できない）場面に遭遇した場合、自動運転車が周囲の状況を正しく認識することができず、障害物等を誤って認識してしまい、事故を起こすおそれがある。
［セキ
ュリティ、安全］
・ 自動運転車が事故を起こしてしまった場合、ＡＩがどのように判断をしたのか検証できないと、責任の所在を明らかにできず、適切な責任分配がなされないおそれがある。［安全、ブラックボックス化］
完全自動運転の例のように、医療診断、人事評価・採用、金融（保険）及び行政に関し、それぞれのケーススタディにおいて便益及び課題を整理した。各ケーススタデ
ィの詳細は、別紙２－２のとおりである 91。
それぞれのケーススタディにおいて示された課題について、次章におけるＡＩの利活用において留意することが期待される事項の検討に資するよう、次表のように類型を整理した上で、それぞれの課題が、主にどの類型に属するものであるかを示した 92。
また、このほか、ＡＩの利活用を促進するため、あるいは、ＡＩネットワーク化の健全な進展を図るためには、教育・人材育成の在り方、事故等による被害者の救済の在り方、ＡＩの利活用を促進するための法制度等の在り方などについても検討が必要であるものと考えられる。

91

各ケーススタディで想定されているＡＩの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。
92
表の右側に示す凡例を各課題に対応するように付して、どの類型に属する課題であるか紐付くようにして示している。

33

【主として生命・身体の安全、権利・利益等を守るための課題】
・

生命・身体・財産の安全に関する課題：安全（事故の防止など）・ＡＩによる判断の正当性や公平性に関する課題：正当性・公平性（差別、生命倫理との関係など）
・

プライバシーに関する課題：プライバシー（プライバシーの尊重、プロファイリングなど）【主として人間とＡＩとの関係等に関する課題】
・

人間とＡＩとの役割分担等に関する課題：役割分担（人間の判断の介在、関係者間の協力など）
・

ＡＩに対する受容性に関する課題：受容性（利用者に対する説明責任など）【主として技術的な観点からの解決が求められる課題】 93
・

ＡＩの判断のブラックボックス化に関する課題：ブラックボックス化（事故が発生した場合の原因究明など）
・ セキュリティに関する課題：セキュリティ（ハッキング対策など）
・ＡＩ間の連携に関する課題：連携（ＡＩ間の交渉・調整など）【主としてデータに関する課題】
・

ＡＩが学習するデータに関する課題：データ（データの正確性など）（注）右側は凡例③

ＡＩネットワーク化の進展において想定される課題（ネットワーク化の観点から）
ＡＩネットワーク化の特徴として、「様々な事業者間における多種多様なＡＩの接続（複雑な連携）」、「様々な事業者の多種多様なＡＩを取りまとめる基盤的なＡＩの構築（情報や権限の集中）」、「様々な事業者間における多種多様なＡＩによる情報の連携（情報の共有・拡散）」などが挙げられる。
このような特徴を活かして、新しいサービスの開発・提供、最適化や効率化、コスト削減などが可能となる一方で、ネットワークという観点に着目した場合、次のよう93

それぞれの課題の解決に当たっては、基本的に社会的な観点、技術的な観点の両面からのアプローチが必要であるものと考えられるが、その中でも特に技術的な観点からのアプローチが求められるものを分類している。

34

な課題（ＡＩネットワーク化の健全な進展を阻害し得る要因）94に留意すべきである
ものと考えられる。
・ 個別の事業者のトラブル等がシステム全体に波及するおそれ・ ＡＩシステム間の連携・調整が成立しないなどのおそれ
・ ＡＩの判断・意思決定を検証できないおそれ（ネットワーク化により、システ
ム全体としてブラックボックス化するおそれ）・ 少数のＡＩの影響力が強くなりすぎるなどのおそれ（少数のＡＩの判断によって企業や個人が不利な立場になるなどのおそれ）・ 領域横断での情報の共有と特定の基盤的なＡＩへの情報の集中によるプライバ
シー侵害のおそれ・ ＡＩが想定外の動作を行うなどのおそれ
例えば、個別の事業者のトラブル等がシステム全体に波及するおそれについて
は、➢

ＡＩシステムが相互に連携して、協調・調整することになるため、例えば、ある事業者において、ハッキングやシステム障害等により一部のＡＩシステムが正常に機能しなくなった場合や災害等により通信が遮断された場合、あるいは、ある一部のＡＩシステムの判断・予測等に誤りが生じた場合や虚偽又は不適切なデータが流通した場合などに、他のＡＩシステムに次々に影響が波及し、ネットワ
ーク全体が正常に機能しなくなったり、期待された効果（適切な判断・予測、マッチング等）が得られなくなったりするおそれがある。
といった課題が想定され、このような課題が生ずる事例として、次の掲げるようなものが想定される。
・ セキュリティ対策等が不十分な事業者が提供しているＡＩシステムを活用した自動運転車がハッキングされた場合、連携している別のＡＩシステムが誤作動又は機能不全に陥り、交通事故や交通障害等が発生するおそれがある。
［連携、セ
キュリティ、安全］
・

サプライチェーン全体として最適化を調整している場合、ある事業者のＡＩシ

ステムが生産量等を誤って予測した場合や虚偽のデータを流通させた場合、全体としての最適化が実現できない（在庫不足／過剰在庫、原材料不足等）おそれがある。
［連携、データ］

94

主にＡＩネットワーク化の進展段階２（複数のＡＩシステム相互間のネットワークが形成され、ネットワーク上のＡＩシステムが相互に連携して協調する段階）を想定している（ＡＩネットワーク化の進展段階については、序章１．参照。）。また、「② ケーススタディ」において整理する課題についても、ネットワーク化により生ずる（増幅する）課題も含まれている場合があり、ここで整理する課題と重複するものもある。

35

・

被災地の緊急救命において、救急車や医療機関等の間でリソース配分の最適化の調整を行う場合、ある医療機関のＡＩシステムが通信の遮断により機能不全に陥ると、適切な情報共有、リソース配分が実現されず、適切な救命活動ができな
くなるおそれがある。
［連携、安全］
個別の事業者のトラブル等がシステム全体に波及するおそれの例のように、前頁に掲げられているＡＩネットワーク化の進展において想定される課題（ＡＩネット
ワーク化の健全な進展を阻害し得る要因）について、その事例等を整理した。それ
ぞれの課題に関する整理の詳細は、別紙２－３のとおりである。
なお、ここで掲げられる課題についても、「② ケーススタディ」で掲げられた課
題と同様に、次章におけるＡＩの利活用において留意することが期待される事項の検討に資するよう、それぞれの課題が、主にどの類型に属するものであるかを示した 95。
３．教育・人材育成（１）背景・経緯報告書 2016 において、ＡＩネットワーク化の進展を通じて異業種間の融合による新
たな商品・サービス、ビジネスモデルが創出されるようになるものと展望されるが、そのような変化は、そこで働く人々の働き口、働き方、働く内容を左右し得ることとなり、ひいては、人間の生き方にも影響を及ぼし得るものと考えられると指摘されている 96。
また、報告書 2017 において、失われる雇用から新しく創出される雇用への円滑な移行、新しく創出される雇用への適応のための教育や人材育成が重要となるものと考えられる。この点については、社会に出る（就職する）までの教育、社会に出た（就職した）後の再教育・人材育成のいずれもが重要であり、学校教育、企業内の人材育成（ＯＪＴ（On the Job Training））ともに従来の発想や方法からの転換が求められる。また、今後、自営的就労 97の可能性が高まることに鑑みると、個々人が自ら技能習得しなければならなくなるため、自助・自学のための環境整備を進めることも重要であると指摘されている 98。

95

課題の類型については、「② ケーススタディ」と同様である（34 頁参照）。
報告書 2016 第２章２．参照。
97
場所的時間的拘束が少なく、自分で仕事のオーガナイズができる働き方のこと。詳細は、報告書 2016 第２章２．参照。
98
報告書 2017 第３章４．参照。
96

36

（２）本推進会議における検討
これらの指摘を踏まえて、本推進会議において、ＡＩネットワーク社会に向けた教育・人材育成の在り方に関する検討を行うとともに、ＡＩの利活用により教育・人材育成にどのような影響をもたらすのかという観点から検討を行った。
教育・人材育成に関する検討に当たっては、一般的に、人間が行った方がよいこととＡＩに任せた方がよいことなどを仕分けした上で、人間が身に付けるべき能力やスキルは何か、そのような能力やスキルを身に付けるためにどのような教育や人材育成を行うべきか等について検討するというアプローチをとることが考えられる。
しかしながら、本推進会議においては、人間とＡＩとの役割分担を考える際に、思い込みで仮説を作っても、その仮説が外れた場合に大きな問題となるおそれがあるた
め、複合的かつ複線的に議論を行うことが重要であるとの認識のもと、本報告書においては、構成員の意見を列挙する形で検討状況を示すこととする。
なお、構成員の意見については、次に掲げる６つのテーマに分類して示すこととする 99。
① 人間とＡＩとの関係・役割分担② 社会の変化及び人間の技能・能力③ 学校教育④ 職業スキルの習得⑤ 生涯教育⑥ ＡＩの利活用
教育・人材育成については、本推進会議において継続的に検討を行っていく予定であり、本報告書における取りまとめは、今後の検討に当たって、キックオフ的なものと位置付けられる。本報告書の公表後、これらの意見を踏まえて、本推進会議において、さらに検討を深めることとする。
（３）教育・人材育成の在り方等①

人間とＡＩとの関係・役割分担
人間とＡＩの役割分担については、人間中心ということを意識する必要があるといった意見や価値判断やコミュニケーション、創造性をポイントとして挙げる意見などがあった。
【主な意見（概要）】・ 人間とＡＩとの役割分担について、あくまでも人間中心ということを意識する必要がある。

99

複数のテーマに跨がる意見もあるが、最も関係が深いと考えられるテーマに分類している。

37

・ 人間がイニシアチブをとり、人間がコントロールの主体であり続けることができるよう、ＡＩネットワーク社会のシステムを構築していくことが重要である。
・

人間のためのＡＩであり、“ＡＩに負けない人間を育てる“という考え方は本末転倒であるように思われる。
・

ＡＩと共存・共生・共進化していくという観点から、ＡＩ時代の技術文明の創造の担い手であるという自覚をもった人間観の構築が求められている。
・

人間が社会を構成していくために、与えられたことを解くのではなく、何を与えるのかという目標・目的を再定義することが人間に残される領域ではないか。
・ 価値判断ができるかどうかがポイントである。機械には価値判断は難しいので、人間がやるべきではないかと考えられる。
・ コミュニケーションは人間側に残る。技術の進化を追うのは、それができる一部の人間がやれば十分であり、それ以外の人間は、「何を本当に欲しているのか」ということを理解することが人間の役割として残るものと考えられる。
・ ＡＩ技術においては、技術の利活用に関わるユーザー側の人間も、技術の「良き進化」を包括的に支援していく一翼を担っていると考えられる。
・

創造は人間が得意との意見もあるが、ＡＩを使って知的な創造物をつくる時代になってきており、創造性についても、人間が得意な部分と機械が得意な部分を見極めていくことになる。
②

社会の変化及び人間の能力・技能
人間社会の変化を考える上では、人間自身が変わっていくことを１つの軸として考える必要があるといった意見や人間に求められる能力として、教養、コミュニケーション能力、数学、哲学を挙げる意見などがあった。
【主な意見（概要）】・ 人間は、技術の進化とともに必要な能力・技能を獲得し、同時に、使わない技
能・能力は忘れていくことを繰り返して環境に適応してきた。これから獲得していく能力、必要とされるリテラシーをどのようにマネージするかが重要である。
・ 人間の知・情・意・身体が変わって、コミュニケーションも変わってくる。人間社会の変化を考える上では、人間自身が変わっていくことを１つの軸として考える必要がある。
・ ＡＩ時代だからといって、特定の分野に注力するのではなく、教育の原点に立
ち返り、幅広く基礎を押さえることが重要である。
・

人間に残される仕事が何かを見ながら、ヒューマンインテリジェンスを発揮す

る能力を涵養することが、これからの教育の軸になっていくであろう。
・ 人間が持つべき能力は、基本的な教養とコミュニケーション能力であり、それをどのように教育するかということが問題である。
38

・

時代の変化が極めて速いからこそ、人間は基盤能力をもう１回磨き直すべきであろう。最も必要なのは、数学と哲学ではないかと考える。
・

今後、ＳＴＥＭ（Science, Technology, Engineering, Mathematics）教育の徹底が重要である。
・

デジタライゼーションにより、生産の中心が人間から機械へシフトする。組織のダウンサイジングが進むとともに、事業は垂直統合から水平的なネットワーク
へ、就労構造は雇用から請負へ変化するのではないかと考えられる。
・

ＡＩ時代にフィットする人材を育成しても、採用する企業などで活かせなければ無駄になってしまうため、従来のビジネス慣行の見直し等が必要である。慣行やしがらみが少ないベンチャー企業に期待するところである。
・

ＡＩネットワーク社会で求められる能力・技能の開発方法については、産官学連携で取り組むプラットフォームを構築するとともに、能力や人間性の度合い（コミュニケーション能力を含む。
）などの指標の設定等やるべきことは多い。
・

ＡＩネットワーク社会をデザインしていくためには、直接、ＡＩや情報の技術に関連する学問分野のみならず、近代民主主義の理念に基づく社会システムを土台に理論を展開してきた人文社会科学も、その研究の根底が問われていると捉えることが必要である。
・

人間の尊厳を守るという基本精神を維持しつつも、地球環境の保全や多様な生物との共生、持続可能な社会の推進による幸福な未来の創出のために、ＡＩとの共存・共生・共進化の形を求めて智恵を出していくことが重要である。
③

学校教育
現状の学教教育に対して強い危機感を示す意見や「自分で学ぶ」という意識改革が重要であるといった意見などがあった。
【主な意見（概要）】
・ 企業において仕事を行うに当たって、どのような技能と能力を使わなければならないのか等を細かく見ることにより、企業のニーズと学校教育のカリキュラム
を柔軟に合わせることができる。
・

諸外国では、日本のような問題解決型ではなく、小学校の時から問題発見型の教育を中心に行っている。いつから、そのような教育を始めるのかということも重要なポイントである。
・ 以前は大学院まで勉強すれば社会の最先端に立つことができたが、今は逆に９年間勉強しても遅れをとるばかりであり、大学及び大学院の教育について考える必要がある。

39

・ 人材育成のために、高度な教育をしっかり受けていくという風潮をつくることが重要ではないかと考えている。日本でも、博士号をとることが技術系としては重要であるという風潮が出てこないと、諸外国との差は埋まらない。
・ 日本の教育では勉強は基本的に自分でやるものという意識が備わっていないことが問題である。
「自分で学ぶ」という意識改革が重要である。
・ 職業教育では、リベラルアーツ（基礎教育、教養）が重要である。それに加えて、「自分で学ぶ」ために、情報リテラシー、リーガル、ファイナンスの基礎知識が必要である。リベラルアーツとこれらの基礎知識の教育が非常に重要であり、学校教育でやるべきである。
・ 大学で、コミュニケーションや批判的思考などの能力を培うことは重要であり、学ぶ意欲のある者が排除されないようにすることが重要である。
・ 「教える」より「学ぶ」方に重点が移っており、学びの場をどのようにデザイ
ンするか、それを実際にどのように取り入れていくのかが重要な課題である。
・ ＡＩに関するリテラシーの向上を図るために、中心的・先導的な役割を果たすことができる人材を育成することが必要である。
④

職業スキルの習得
職業スキルを身につける上でも、「自ら学ぶ」、「学び続ける」ことが重要であるといった意見や今後は企業内での人材育成が難しくなるといった意見などがあった。
【主な意見（概要）】
・ 人材に求めるものは、「常に学び続ける」、「専門・得意分野を持っている」、「最新テクノロジーを活用できる」ということである。
・

欧米企業では、専門分野の教育を企業で行うことはない。自分で学ばなければならず、「学び続ける」、「学ぶことを習慣化させる」ことが非常に重要である。
・ これまでは、新しい技術の発展に伴って、それに対応する技能、スキルを習得することによって環境に適応してきた。しかし、近年は、技術革新のスピードが速いため、企業内で適応できなくなってきている。
・ 今後は企業内での人材育成が難しくなる。技術革新のスピードが速く、５年後、10 年後に身につけるべきスキルが予測できない時代において、企業（特に中小企業）は人材育成に投資をしなくなる（できなくなる）可能性が高い。
⑤ 生涯教育リカレント教育が重要であるといった意見やリカレント教育を含め全体をデザインする必要があり、早く議論を始めるべきであるといった意見などがあった。

40

【主な意見（概要）】・ ライフステージに応じて、リベラルアーツの意味合いも変化していくため、リカレント教育を含めて全体をデザインすることが重要である。
・ 人間は能力をもっと磨く必要があり、一生のうちに学ぶ時間を長くしなければならない。どのタイミングで何を学ぶのかリデザインする必要があるが、社会システムはすぐ変わらないので、早く議論を始めなければならない。
・ リカレント教育は重要であり、大学もその機能を担うことが期待されるが、従来型の教育モデル 100のままでよいかは考える必要がある。
・ 教師のリカレント教育ができていないことが問題である。特に大学の教員が深刻である。大学教育にどのようにリカレント性を持たせるか、現在・現代の状況にキャッチアップするインセンティブを持たせるのかというのは重要な問題である。
⑥ ＡＩの利活用
ＡＩを用いて個人に応じた教育パターンを作ることができるのではないかといった意見や学ぶ時間や自己実現のための時間を確保するためにＡＩを利活用できるとよいといった意見などがあった。
【主な意見（概要）】
・ＡＩを用いて個人を分析し、その個人に応じた教育パターンを作ることができるのではないか。また、その個人がＡＩをうまく使いこなせるようにリテラシーを身につくようにすべきである。
・

ベンチャー企業を起こす方法や成功させるためのノウハウ等を教育するプログラムが重要であり、そのためにＡＩをどのように活用できるのか考えることが喫緊の課題ではないか。
・ 日本では、「長時間働いた人が偉い」というメンタリティが強いので、それを改善する方策を考える必要があり、そのためにＡＩをどのように活用できるかということが重要である。
・ リカレント教育においては、ＭＯＯＣ101や e ラーニング型の教育の活用が期待されるが 102、その機能をＡＩネットワークが支えることが重要ではないか。
・ ＡＩを利活用することにより、機械で代替できることは機械に任せて、学ぶ時
間や自己実現のための時間を確保することができるようになるとよい。

100

昼間キャンパスに通学して、数年間で集中的に単位を取得することを念頭に置いている。

101

Massive Open Online Courses の略。大規模公開オンライン講座のこと。

102

ＭＯＯＣの受講者が現状では高知識層が多い、一般的に通信教育は離学率が高いなどの課題があることはきちんと認識しておく必要があるとの意見もあった。

41

４．ＡＩネットワーク化の進展に関する指標（１）背景・経緯報告書 2016 において、ＡＩネットワーク化の進展が産業構造や雇用にもたらす影
響を含めて、社会の変化がどの程度進展しているのかを把握することが重要であり、また、ＡＩシステムを研究開発する者、サービスを提供する者、利用者等の様々な関係ステークホルダがいる中でも、とりわけ政府が、適切な政策を企画立案し実施する上で、これらの状況を把握することは極めて重要であるという問題意識のもと、ＡＩ
ネットワーク化の進展が社会にもたらす影響を評価するための指標の設定に向けた検討の方向性を検討した 103。
また、報告書 2017 において、評価指標の設定について、国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けて継続的に検討することが必要である旨が提言されている 104。
（２）本推進会議における検討① 検討の目的及びスコープ
これらのことを踏まえ、本推進会議において、特に政府が、政策を企画・立案するとともに、関係するステークホルダが、ＡＩの開発及び利活用の促進等に向けた環境整備に取り組むに当たり、社会の変化の状況等を把握するために参考となる指標を策定すること、また、国際的に共有され、適切に国際比較 105を行うことができる指標の策定に向けた国際的な議論に貢献することを目的として検討を行った。
検討に当たっては、次に掲げる指標を対象とし、また、国際比較に用いることができる指標の策定を視野に入れ、当面は、Ｇ７各国を対象に比較することができる指標の策定に向けて検討を行った 106。
・ ＡＩネットワーク化の進展の度合いに関する指標
・ ＡＩネットワーク化が社会・経済にもたらす影響（インパクト及びリスク） 107の度合いに関する指標

103

報告書 2016 第３章参照。
報告書 2017 第４章（11）参照。
105
国全体としてはインフラや各指標が低い場合であっても、一部の層・地域が先進的な取組を行っているような国については、メディアに取り上げられるなど注目されやすいといったギャップが生じ得ることに留意が必要である。
106
Ｇ７各国を対象とする指標の策定を検討した後、Ｇ２０各国、ＯＥＣＤ加盟国などに対象の範囲を拡大することを検討する。
107
インパクトについては、個々の利用者が享受する利益としての「便益」のみならず、便益がもたらされる結果として社会全体にもたらされる価値としての「恵沢」を含むものとする。なお、例えば、社会における失業の増加、平均所得の低下等は、負の影響（ネガティブインパクト）とする。また、リスクについては、リスクが顕在化した場合に想定される被害を含むもの
とする。
104

42

② 検討の方向性
この２つの指標の検討に当たっては、次表に示す方向性に基づいて検討を行うこととした。ただし、ＡＩネットワーク化が社会・経済にもたらす影響（インパクト及びリスク）の度合いについては、検討を進める中で、何が要因となってインパク
トやリスクとなったのか、その因果関係を把握すること及びその影響の度合いを算出（定量化）することが極めて困難であるとの意見等に基づき、当面は、ＡＩネッ
トワーク化の進展の度合いに関する指標について検討を行うこととした。

ＡＩネットワーク化の進展の度合いに関する指標については、ＡＩネットワーク
化の進展段階 108を踏まえ、それぞれの進展段階において指標としての適切な項目が異なるものと考えられることから、次に示すように、進展段階に応じた指標について検討を行うこととした。
・ 事前の段階： ＡＩネットワーク化の前提となる環境整備に関するもの➢ ＡＩネットワーク化事前指標

・ 第１段階： ＡＩネットワーク化の初期段階に関するもの➢ ＡＩネットワーク化初期指標

・ 第２段階以降 ： ＡＩネットワーク化の進展に関するもの➢ ＡＩネットワーク化本指標 109

108
109

序章１．参照。
今後の検討によっては、進展段階に応じて細分化することもあり得るものと考えられる。

43

③

ＡＩネットワーク化の進展の度合いに関する指標
ＡＩネットワーク化事前指標、ＡＩネットワーク化初期指標及びＡＩネットワー
ク化本指標について、現時点においては、「進展段階１」が進みつつある状況であること、「進展段階２」以降の取組事例がないためＡＩネットワーク化本指標に関する有用な統計データがないこと等を踏まえ、当面はＡＩネットワーク化事前指標
及びＡＩネットワーク化初期指標について検討することとした。
ＡＩネットワーク化事前指標及びＡＩネットワーク化初期指標については、次表に示すように既存統計の有無等を調査し、その状況に基づき今後の取組方針を定めた。

ＡＩネットワーク化事前指標及びＡＩネットワーク化初期指標について、既存統計の有無等に関する状況は、それぞれ次頁及び次々頁に示すとおりであり、今後の取組方針として、いずれも指標として有用な項目の洗い出し・整理、アンケート調査に必要な項目の検討を行うこととしている。

44

ＡＩネットワーク化事前指標については、国際電気通信連合（ＩＴＵ）やＯＥＣ
Ｄ等が国際統計の調査を実施していることを参考に、次表のように有用な項目を整理した上で、主として「対象国」を基準として、項目案を抽出した。
今後は、これらの項目の統計データを収集、正規化するとともに、アンケート調
査における有用な項目を検討し、また、必要に応じて、項目ごとの重要性等を考慮しウェイト付けして統合 110する作業を進めることが重要である。

110

ウェイト付けに当たっては、その方法、根拠について説得性を有することが重要である。

45

ＡＩネットワーク化初期指標については、国際比較可能な統計がほとんど存在しないことから、次表のように項目を整理したものの、ほとんど有用な項目を抽出することはできなかった。
今後は、アンケート調査における有用な項目を検討することが重要である。

46

第３章 ＡＩの利活用において留意することが期待される事項
１．背景・経緯（１）背景・経緯
平成 28 年４月 29 日及び 30 日に開催されたＧ７香川・高松情報通信大臣会合において、高市早苗総務大臣（当時）から、Ｇ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て、ＡＩネットワーク化が社会・経済に与える影響やＡＩの開発原則の策定など
ＡＩネットワーク化をめぐる社会的・経済的・倫理的課題に関し、産学民官の関係ステークホルダの参画を得て、国際的な議論を進めることの提案がなされ、各国から賛同が得られた。
同年６月 20 日に、検討会議の報告書 2016 が公表され、今後の課題のうち第一の課
題として「研究開発の原則・指針の策定」が提言されている。
同年 10 月 31 日に、検討会議を発展的に改組した本推進会議が発足し、第１回会合が開催された。本推進会議には、親会の下に開発原則分科会及び影響評価分科会が置かれ 111、このうち主に開発原則分科会において、ＡＩ開発ガイドライン案の作成に向けた検討を行った。同年 12 月 28 日から平成 29 年１月 31 日にかけて行ったＡＩ開発ガ
イドライン案の論点に関する意見募集に寄せられた意見、同年 3 月 13 日及び 14 日に開催されたＡＩネットワーク社会推進フォーラム（国際シンポジウム）112における議論
及び同年 6 月 14 日から同年 7 月 7 日にかけて行った報告書 2017（案）に関する意見募
集に寄せられた意見等を踏まえ、同年 7 月 28 日に、ＡＩ開発ガイドライン案を含む報告書 2017 が公表された。
報告書 2017 において、ＡＩシステムが、特段の措置が講じられているものを除いて、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものであることやネットワークに接続されたＡＩシステムの便
益及びリスクが、空間を越えて、特に国境を越えて、即座に広く波及することがあり得ること等を踏まえて、ＡＩネットワーク化の健全な進展を通じたＡＩシステムの便益の増進及びリスクの抑制について、「ＡＩ開発ガイドライン（仮称）」を国際的に共有することに加えて、利用者がそれぞれの属性等に応じて留意することが期待される事項
について国際的に共有を図ることが必要である旨が提言されている。
また、報告書 2017 において、ＡＩの利活用に関するガバナンスの在り方に関する検討に当たっては、その前提として、ＡＩネットワーク化が社会・経済にもたらすインパ
クト及びリスクに関する問題の所在を把握することに加えて、ＡＩネットワーク化の進展を通じて形成される関係者間のエコシステムに関する展望を得ることが必要であ

111
112

前掲注（４）参照。
報告書 2017 第１章１．(1)及び参考資料参照。

47

る旨が提言されている 113。
（２）本推進会議における検討
ＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展を通じて人間中心の「智連社会」114を実現するためには、ＡＩの便益の増進やリスクの抑制、ＡＩに対する理解・信頼の醸成等の取組が必要である。
本推進会議における取組として、ＡＩの開発において留意することが期待される事項としてＡＩ開発ガイドライン案を取りまとめた。他方、ＡＩは、利活用の過程でデー
タの学習等により自らの出力やプログラムを継続的に変化させる可能性があることから、ＡＩの利活用においても留意することが期待される事項があるものと想定される。
また、ＡＩの利活用においても留意することが期待される事項を整理することは、開発者と利用者、データ提供者などステークホルダ間の関係を考える上でも重要であるものと考えられる。
このような問題意識を踏まえ、本推進会議において、ＡＩの利活用において留意する
ことが期待される事項に関する検討を行うとともに、その検討に資するようＡＩネッ
トワーク化が進展した社会の将来像を描きＡＩの利活用における課題等を抽出するた
めに、ＡＩネットワーク化が社会・経済にもたら影響（分野別評価）やＡＩネットワー
ク化の進展に伴い形成されるエコシステムの展望に関する検討等を行ってきた 115。
なお、これらの事項は密接に関連するものと考えられることから、主として親会の下に置かれた環境整備分科会及び影響評価分科会 116 の合同分科会において検討を進めてきた。
２．関係する主体の整理（１）基本的な考え方
ＡＩの利活用においては、利用者やデータ提供者など様々な主体の関与が想定されることから、次に掲げる考え方に基づいて関係する主体を整理することとする。
・ ＡＩの利活用においては、自らの生活や趣味等にＡＩを用いる者（例：一般の個人ユーザーなど）、ＡＩを用いてサービスを提供する者（例：医師や金融機関など）というように利用者には様々な立場の者がいることが想定される 117。
113

報告書 2017 第４章(2)参照。
序章１．及び前掲注（６）参照。
115
分野別評価については、前章１．参照。ＡＩネットワーク化の進展に伴い形成されるエコシ
ステムの展望については、同章２．参照。
116
前掲注（４）参照。
117
ＡＩ開発ガイドライン案においては、「利用者」とは、“ＡＩシステムを利用する者（最終利用者（エンドユーザ）のほか、他者が開発したＡＩネットワークサービスを第三者に提供するプロバイダを含む。）をいう。
”と定義されているのみであり、利用者の性質や属性等について言及していない。
114

48

また、ＡＩの利活用に当たっては、ＡＩシステム又はＡＩサービス 118（以下単に「ＡＩ」ということがある。
）を直接的に利用しない場合でも、ＡＩを用いたサービス（例：医療サービスや金融サービスなど）を利用（ＡＩを間接的に利用）する場合が想定される。
・ ＡＩの利活用においては、開発者がＡＩシステムのアップデートや追加的な学習等を行うことが多いという実態を踏まえて、「ＡＩサービス」を“ＡＩシステムの機能を提供するサービス”とし、「ＡＩ付随サービス」を“ＡＩシステムのアップデート
又は追加的な学習等に係るサービス“とし、これにより開発者も利活用において一定の関与があり得ることを示すこととする 119。
・ これらを踏まえると、ＡＩの利活用において留意することが期待される事項の検討に当たっては、利用者等について一定の分類を試み、分類された利用者の類型に沿って検討を行うことが適当であるものと考えられる。
なお、ＡＩの提供及び利活用において、どのように関与しているのかを外形的に観察した上で、利用者等の分類を試みることとする。
・ 利用者等の分類について、➢

特に消費者的利用者及び間接利用者（後述（（２）参照））について 、ＡＩを利活用していることを認識している者と認識していない者とを区別すべきではないか。
➢

消費者的利用者について、ＡＩシステムを保有・管理している場合やＡＩの入出力を調整することができる場合と、このような事情が認められない場合とを区別すべきではないか。
➢

子ども、高齢者、障害者など社会的弱者については、特別に留意することが期待される事項が考えられるのではないか。
といった意見があることを踏まえると、今後「ＡＩ利活用原則案」に掲げられた各原則の内容に関し整理された論点 120 を検討する上では、利用者の主観（利用しているシステム又はサービスがＡＩを用いたものであることを認識しているか否か）や性質、属性等も考慮する必要があるものと考えられる。
・ ＡＩの提供及び利活用の形態については、様々なケースが想定されることから、必要に応じて、今後の検討において関係する主体の整理を見直すこともあり得る。

118

ＡＩ開発ガイドライン案においては、「ＡＩシステム」とは、“ＡＩソフトを構成要素として含むシステムをいう。例えば、ＡＩソフトを実装したロボットやクラウドシステムはこれに含まれる。
”とされている。また、「ＡＩサービス」については定義されていない。
119
この場合、開発者がＡＩシステムのアップデートや追加的な学習等を行うと、開発者はＡＩ
付随サービスを提供する「ＡＩサービスプロバイダ」（後述（（２）参照））と位置付けられることとなる。
120
ＡＩ利活用原則案及び各原則の内容に関し整理された論点については、後述（本章３．及び
４．参照）
。

49

（２）関係する主体の整理
このような基本的な考え方に基づきＡＩの利活用において関与が想定される者を次のように整理した。
・利用者
ＡＩシステム又はＡＩサービスを利用する者

・

ＡＩサービスプロバイダ
ＡＩ利用者のうち業としてＡＩサービス又はＡＩ付随サービスを他者に提供する者サービスプロバイダ

・

最終利用者
利用者のうち業としてＡＩサービス又はＡＩ付随サービスを他者に提供することなくＡＩシステム又はＡＩサービスを利用する者

・

ＡＩネットワークサービスプロバイダ
ＡＩサービスプロバイダのうち業として情報通信ネットワークを通じてＡＩサー

ビス又はＡＩ付随サービスを他者に提供する者
・

ＡＩネットワークサービスプロバイダ以外のＡＩサービスプロバイダ

・

ビジネス利用者
最終利用者のうち業としてＡＩシステム又はＡＩサービスを利用する者・消費者的利用者
最終利用者のうちＡＩシステム又はＡＩサービスを利用する者（ビジネス利用者

を除く）
・

間接利用者
最終利用者がＡＩシステム又はＡＩサービスを利用して提供するサービス等を受ける者
・

データ提供者
他者が利用するＡＩシステムの学習等のためにデータを提供する者

・

第三者
他者の利用するＡＩにより付随的に自らの権利・利益に影響を受ける者

・

開発者
ＡＩシステムの研究開発を行う者

50このような整理を踏まえて、ＡＩの利活用の事例に即した具体例は次のとおりである。
＜例①：医療用クラウド＞

51

＜例②：融資審査＞＜例③：自動運転タクシー＞

52

＜例④：生産ラインの異常検知＞＜例⑤：ＡＩアシスタント（ＡＩスピーカー）＞

53

３．ＡＩ利活用原則案
前章において検討した分野別評価やエコシステムの展望等で抽出された課題等を踏まえ、ＡＩの利活用の促進やＡＩネットワーク化の健全な進展に向けて、ＡＩの便益の増進とリスクの抑制を図り、ＡＩに対する信頼を醸成するため、利用者及びデータ提供者がＡ
Ｉの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りま
とめた 121。
ＡＩ利活用原則案は、ＡＩ開発ガイドライン案と同様に、ＡＩの便益及びリスクが国境を越えて広く波及することが見込まれることから、国際的な議論のためのものとするとともに、規制の導入を目指すものとすることは適当ではないことから、非規制的かつ非拘束的なものとしている。

① 適正利用の原則②

適正学習の原則

③

連携の原則

④

安全の原則

⑤

セキュリティの原則⑥

プライバシーの原則⑦

尊厳・自律の原則⑧

公平性の原則⑨

透明性の原則⑩

アカウンタビリティの原則･･･ 主に便益の増進に関係･･･ 主にリスクの抑制に関係･･･ 主に信頼の醸成に関係① 適正利用の原則
利用者は、人間とＡＩとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努める。
121

それぞれの原則が、主として、どのような課題に対応するためのものであるかを示すと次のとおりである（課題の類型については、前章２．
（２）②と同様である（34 頁参照）。
）。
①適正利用の原則：安全、役割分担、②適正学習：データ、正当性・公平性、③連携の原
則：連携、④安全の原則：安全、⑤セキュリティの原則：セキュリティ、⑥プライバシーの原
則：プライバシー、⑦尊厳・自律の原則：正当性・公平性、⑧公平性の原則：正当性・公平性、⑨透明性の原則：ブラックボックス化、⑩アカウンタビリティの原則：受容性54

② 適正学習の原則
利用者及びデータ提供者は、ＡＩの学習等に用いるデータの正確性、バイアス等に留意する。
③ 連携の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービス相互間の連携に留意する。また、利用者は、ＡＩがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。
④ 安全の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
⑤ セキュリティの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留意する。
⑥ プライバシーの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。
⑦ 尊厳・自律の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用において、人間の尊厳と個人の自律を尊重する。
⑧ 公平性の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの判断によって個人が不当に差別されないよう配慮する。
⑨ 透明性の原則
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩシステム又はＡＩサービスの入出力の検証可能性及び判断結果の説明可能性に留意する。
⑩ アカウンタビリティの原則
ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。

55

ＡＩ利活用原則案では、「２．関係する主体の整理」で分類した主体ごとに、留意することが期待される事項を原則として取りまとめているが、例えば、ＡＩサービスプロバイ
ダ、最終利用者のいずれもが留意することが期待される事項については、「利用者は・・・
留意する。
」というように、大括り化して取りまとめている。しかしながら、ＡＩサービ
スプロバイダと最終利用者とでは、留意することが期待される事項の具体的な内容は異なるものと考えられる。
例えば、「適正利用の原則」に関して、ＡＩサービスプロバイダは、適正な範囲及び方法でＡＩを利活用するに当たっては、ＡＩサービスを他者に提供する観点から必要となる事項について開発者から情報提供・説明を受けることが必要となる。他方、最終利用者
は、自己の業務や生活における利便性の向上等のためにＡＩを利用するに当たって必要となる事項についてＡＩサービスプロバイダから情報提供・説明を受けることが必要となる。このように、それぞれの場面で求められる情報提供・説明の内容が異なることに加え、ＡＩサービスプロバイダは、開発者に説明を求める立場であるとともに、最終利用者
からは説明を求められる立場にある。
これらのことを踏まえると、「適正利用の原則」に限らず、他の原則に関しても、ＡＩ
サービスプロバイダと最終利用者とでは、留意することが期待される事項の具体的な内容が異なることが想定される。
本報告書においては、ＡＩ利活用原則案を取りまとめるとともに、各原則の内容に関し継続して検討すべき論点を整理した 122。ＡＩの利活用において、各原則の内容に関し、利用者等が留意することが期待されるものとして適切な方向性を示すためには、より具体性を持たせることが求められる。様々な立場の利用者が関与することや様々なＡＩシ
ステムやＡＩサービスの提供が見込まれること等を踏まえ、ＡＩ利活用原則案の各原則の内容について詳細な検討を行うこととする。
４．ＡＩ利活用原則案の各原則の内容に関する論点
ＡＩの利活用の内容や形態は多岐にわたることや利用者の分類ごとに期待される事項が異なることなどに鑑み、ＡＩ利活用原則案の各原則の内容については、さらに詳細な検討を要する。このため、本報告書においては、各原則の内容に関し継続して検討すべき論点を整理した。本報告書の公表後、整理された論点を踏まえ、最終的なアウトプットの取りまとめに向けて検討を行うこととする 123。

122

ＡＩ利活用原則案の各原則の内容に関し整理された論点については、後述（本章４．参照）。
123
最終的なアウトプットの取りまとめに向けた検討においては、利用者の分類（ＡＩサービス
プロバイダ、最終利用者等）によって有している能力や知識の多寡、必要な措置を実施する容易性等が異なることを踏まえて、利用者の分類を意識しつつ、留意することが期待される事項の具体的な内容を検討することとする。

56

①

適正利用の原則
利用者は、人間とＡＩとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努める。
【主な論点】
ア

適正な範囲・方法での利用
利用者は、開発者等からの情報提供や説明を踏まえ、社会的文脈や状況にも配慮して、ＡＩを適正な範囲・方法で利用することが期待されるのではないか。
また、利用者は、ＡＩの性質、利用の態様等に応じて、利用する前に、リスクを認識し、正しい用途を理解するとともに、必要な知識・技能を習得すること等が期待されるのではないか。
さらに、利用者は、自らのＡＩの利活用が適正な範囲・方法で行われているか定期的に確認することが期待されるのではないか。

イ ＡＩの便益とリスクの適正なバランス
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩのリスクを適切に評価した
上で、生産性の向上や業務の効率化のためにＡＩの積極的な利活用を検討するなど、ＡＩの便益とリスクの適正なバランスに配慮することが期待されるのではないか。
ウ

ＡＩソフトのアップデート及びＡＩの点検・修理等
利用者は、利活用の過程を通じて、ＡＩの機能を向上させ、リスクを抑制するため、ＡＩソフトのアップデート及びＡＩの点検・修理等を行うよう努めることが期待されるのではないか。

エ

人間の判断の介在ＡＩによりなされた自動的な判断について、必要かつ可能な場合（例：ＡＩを用いた医療等）には、その判断を用いるか否か、あるいは、どのように用いるか等に関し、人間の判断を介在させることが期待されるのではないか。その場合、人間の判断の介在の要否の基準をどのように考えるか。
また、アクチュエータ等を通じて稼働するＡＩの利活用において、一定の条件に該当することにより人間による稼働に移行することが予定されている場合、どのような事項に留意することを期待することが適当か。
［基準として考えられる観点（例）］・ ＡＩの判断に影響を受ける間接利用者等の権利・利益の性質及び意向・ ＡＩの判断の信頼性の程度（人間の判断の信頼性との優劣）
・ 人間の判断に必要な時間的猶予
・ 利用者に期待される能力

57

オ

利用者間の役割分担
利用者は、それぞれがＡＩに関して有していると期待される能力及び知識の多寡
並びに必要な措置を実施する容易性を踏まえ、適当と考えられる役割を果たすとともに、責任を負担することが期待されるのではないか。

カ 関係者間の協力
利用者及びデータ提供者は、ＡＩの利活用により生じ得る又は生じた事故、セキュ
リティ侵害、プライバシー侵害等による被害の性質・態様等に応じて、関係者と協力して予防措置及び事後対応（情報共有、停止・復旧、原因解明、再発防止措置等）に取り組むことが期待されるのではないか。
また、その実効性を確保するために利用者にどのようなことを期待することが適当か。
②

適正学習の原則利用者及びデータ提供者は、ＡＩの学習等に用いるデータの正確性、バイアス等に留意する。
【主な論点】
ア

ＡＩの学習等に用いるデータの正確性への留意
利用者及びデータ提供者は、利用するＡＩの特性及び用途を踏まえ、ＡＩの学習等に用いるデータの正確性に留意することが期待されるのではないか。また、学習したデータの正確性が損なわれた場合には、データの正確性に留意して改めて学習させることが期待されるのではないか。
また、どのような場合に、どの程度、学習等に用いるデータの正確性に留意することを期待することが適当か。

イ ＡＩの学習等に用いられるデータのバイアスへの留意
ＡＩの判断結果により、人種・信条・性別等によって個人が不当に差別されないよ
う、ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩの学習等に用いられるデータのバイアス（データに内在する社会的なバイアスを含む。
）に留意することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、学習等に用いるデータのバイアスに留意することを期待することが適当か。
ウ

不正確又は不適切なデータの学習等によるＡＩのセキュリティ脆弱性への留意
利用者及びデータ提供者は、ＡＩが不正確又は不適切なデータを学習することにより、ＡＩのセキュリティに脆弱性が生ずるリスクに留意することが期待されるのではないか。

58

③

連携の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡ

Ｉサービス相互間の連携に留意する。また、利用者は、ＡＩがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。
【主な論点】
ア

相互接続性と相互運用性への留意
ＡＩネットワークサービスプロバイダは、ＡＩネットワーク化の健全な進展を通じて、ＡＩの便益を増進するため、ＡＩの相互接続性と相互運用性に留意することが期待されるのではないか。

イ

データ形式やプロトコル等の標準化への対応
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩ相互間及びＡＩと他のシス
テム等との連携を促進するため、データ形式やプロトコル等の標準化に対応することが期待されるのではないか。また、データ提供者についても、データ形式の標準化に対応することが期待されるのではないか。

ウ

ＡＩネットワーク化により惹起・増幅される課題への留意
ＡＩが連携することによって便益が増進することが期待されるが、利用者は、自ら利用するＡＩがインターネット等を通じて他のＡＩ等と接続・連携することにより制御不能となる等、ＡＩがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意することが期待されるのではないか。

④

安全の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
【主な論点】
ア

人の生命・身体・財産への配慮
医療や自動運転など人の生命・身体・財産に危害を及ぼし得る分野でＡＩを利活用する場合には、利用者は、想定される被害の性質・態様等を踏まえ、必要に応じてＡ
Ｉの点検・修理及びＡＩソフトのアップデートを行うことなどにより、ＡＩがアクチ
ュエータ等を通じて人の生命・身体・財産に危害を及ぼすことのないよう配慮することが期待されるのではないか。
また、利用者は、ＡＩがアクチュエータ等を通じて人の生命・身体・財産に危害を及ぼした場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。

59

⑤

セキュリティの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留意する。
【主な論点】
ア

セキュリティ対策の実施
利用者は、ＡＩのセキュリティに留意し、その時点での技術水準に照らして合理的な対策を講ずることが期待されるのではないか。
また、利用者は、セキュリティが侵害された場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。
イ

セキュリティ対策のためのサービス提供等
ＡＩネットワークサービスプロバイダは、自ら提供するＡＩネットワークサービ
スについて、最終利用者にセキュリティ対策のためのサービスを提供するととともに、インシデント情報の共有を図ることが期待されるのではないか。

ウ

不正確又は不適切なデータの学習によるＡＩのセキュリティ脆弱性への留意
利用者及びデータ提供者は、ＡＩが不正確又は不適切なデータを学習することにより、ＡＩのセキュリティに脆弱性が生ずるリスクに留意することが期待されるのではないか。

⑥

プライバシーの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの利活用において、他者

又は自己のプライバシーが侵害されないよう配慮する。
【主な論点】
ア

他者のプライバシーの尊重
利用者は、ＡＩを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、ＡＩの利活用において他者のプライバシーを尊重することが期待されるのではないか。
また、他者のプライバシーを侵害した場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。
イ パーソナルデータの収集・分析・提供等におけるプライバシーの尊重
利用者及びデータ提供者は、ＡＩの学習等に用いられるパーソナルデータの収集・分析・提供等において、他者のプライバシーを尊重することが期待されるのではない
か。

60

ウ

ＡＩを利用したプロフィリングを行う場合におけるプライバシー等の配慮
ＡＩサービスプロバイダ及びビジネス利用者は、人事評価・採用や融資など個人の権利・利益に重要な影響を及ぼす可能性のある分野においてＡＩを利用したプロフ
ィリングを行う場合には、対象者のプライバシー等に慎重に配慮することが期待されるのではないか。

エ

自己のプライバシー侵害への留意
消費者的利用者は、ペットロボットなどのＡＩに過度に感情移入すること等により、特に秘匿性の高い情報をむやみにＡＩに与えることのないよう留意することが期待されるのではないか。

オパーソナルデータの流出の防止
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩの判断により本人同意なくパーソナルデータが第三者に提供されることがないよう適切な措置を講ずることが期待されるのではないか。

⑦

尊厳・自律の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用において、人間の尊厳と個人の自律を尊重する。
【主な論点】
ア

他者の尊厳と自律の尊重
利用者は、ＡＩを利活用する際の社会的文脈を踏まえ、他者の尊厳と自律を尊重す
ることが期待されるのではないか。

イ

ＡＩによる意思決定・感情の操作等への留意
利用者には、ＡＩにより意思決定や感情が操作されるリスクや、ＡＩに過度に依存するリスクに留意することを期待することは適当か否か。
また、このようなリスクについて誰がいかなる役割を果たすべきか。

ウ ＡＩと人間の脳・身体を連携する際の生命倫理等の議論の参照
利用者は、ＡＩを人間の脳・身体と連携させる場合には、生命倫理の議論等を参照
し、人間の尊厳と自律が侵害されないよう特に慎重な配慮が求められるのではないか。
⑧

公平性の原則ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡ

Ｉサービスの判断によって個人が不当に差別されないよう配慮する。

61

【主な論点】
ア

ＡＩの学習等に用いられるデータのバイアスへの留意
ＡＩの判断結果により、人種・信条・性別等によって個人が不当に差別されないよ
う、ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩの学習等に用いられるデータのバイアス（データに内在する社会的なバイアスを含む。
）に留意することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、学習等に用いるデータのバイアスに留意することを期待することが適当か。

イ 人間の判断の介在
ＡＩの判断結果により、人種・信条・性別等によって個人が不当に差別されないよ
う、ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、その判断を用いるか否か、あるいは、どのように用いるか等に関し、人間の判断を介在させることが期待されるのではなか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、人間の判断を介在させることを期待することが適当か。
⑨

透明性の原則ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩシステム又はＡＩサービスの入出力の検証可能性及び判断結果の説明可能性に留意する 124。
【主な論点】ア

ＡＩの入出力の記録・保存
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩの入出力の検証可能性を確保するため、入出力を記録・保存することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、入出力を記録・保存することを期待することが適当か。例えば、自動運転車など人の生命・身体・財産に危害を及ぼし得る分野で利活用する場合には、ＡＩの入出力を記録・保存することが期待されるのではないか。

イ

説明可能性の確保
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩの判断結果の説明可能性を確保することが期待されるのではないか。

124

本原則は、アルゴリズム、ソースコード、学習データの開示を想定するものではない。また、本原則の解釈に当たっては、プライバシーや営業秘密への配慮も求められる。

62

利用する技術の特性及び用途に照らして、どのような場合に、どの程度、説明可能性を確保することを期待することが適当か。特に、医療、人事評価・採用、融資など
個人の権利・利益に重大な影響を及ぼす可能性のある分野において利活用する場合には、ＡＩの判断結果の説明可能性を確保することが期待されるのではないか。
（例えば、深層学習は予測精度が高いが、判断結果の説明が困難であるという現状等にも留意が必要）。
⑩

アカウンタビリティの原則
ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
【主な論点】
ア

アカウンタビリティを果たす努力
ＡＩサービスプロバイダ及びビジネス利用者は、人々と社会からＡＩへの信頼を獲得することができるよう、消費者的利用者、間接利用者、ＡＩの利活用により影響を受ける第三者等に対し、利用するＡＩの性質及び目的等に照らして、相応のアカウ
ンタビリティを果たすよう努めることが期待されるのではないか。

イ ＡＩに関する利用方針の通知・公表
ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者や間接利用者らがＡＩの利活用について、適切に認識することのできるよう、ＡＩに関する利用方針（ＡＩを利用している旨、適正な利活用の範囲及び方法、利活用に伴うリスク、相談窓口など）を通知又は公表することが期待されるのではないか。
利用する技術の性質及び用途に照らして、どのような場合に、どのような内容の利用方針を通知又は公表することを期待することが適当か。
５．今後の検討
今後、ＡＩ利活用原則案の各原則の内容に関し整理された論点を踏まえ、最終的なアウトプットの取りまとめに向けて検討を行うこととする。
今後の検討においては、最終的なアウトプットを取りまとめるに当たって、ＡＩ開発ガ
イドライン案のように、目的や基本理念を整理することが必要であるものと考えられ
る 125。この点に関し、ＡＩ利活用原則案の各原則の内容に関し整理された論点において、ある原則の内容に関し論点として掲げられている事項が、他の原則の内容に関し論点として掲げられている事項の前提として整理することが可能であるのではないかといった意見がある。各原則相互の関係も踏まえつつ、最終的なアウトプットの目的や基本理念等

125

ＡＩ開発ガイドライン案においては、目的及び５つの項目からなる基本理念が掲げられている（報告書 2017 別紙１ １．及び２．参照。）。

63

を検討することが適当であるものと考えられる。
また、先に述べたとおり、ＡＩ利活用原則案は、主体を大括り化して取りまとめていることから、利用者の分類ごと、さらには、利用者の主観（利用しているシステム又はサービスがＡＩを用いたものであることを認識しているか否か）や性質、属性等も考慮した上で、各原則の内容に関し整理された各論点についてより詳細な検討を行うことが求められる。その際、特に消費者的利用者が留意することが期待される事項については、懸念される課題に対し、どのような対策を講ずればよいか、より具体的に示していくことが、Ａ
Ｉに対する信頼を醸成し、ＡＩの利活用の裾野を広げていく上で重要である。
おって、最終的なアウトプットの在り方についても、ＡＩ開発ガイドライン案のように、「ガイドライン」という形や名称で取りまとめることとするか、また、分野ごとの問題の性質等、国ごとの法制度等に相違があることに鑑み、分野共通のものとして取りまとめるのではなく、各分野のステークホルダ等が分野ごとのガイドライン等を策定する際に参照する基本的な指針（メタガイドライン）として取りまとめることとするか等について検討を行うことが必要となる。
これらの検討とともに、最終的なアウトプットを人々に周知し、普及させるため、利用者等の類型ごとに整理したり、特に消費者的利用者向けに、「ハンドブック」や「マニュアル」などリテラシー教材（利用者の手引き）を作成し、それらに基づいてワークショッ
プ等を行ったりする等の手段・方法等についても検討することが望ましい。

64

第４章 今後の課題
報告書 2017 に掲げられている「今後の課題」 126並びに本推進会議におけるＡＩネットワーク化が社会・経済にもたらす影響に関する検討及びＡＩの利活用において留意することが期待される事項に関する検討等を踏まえ、今後の課題を次のとおり整理する。
◯

ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展に関する事項（１）ＡＩ開発ガイドライン（仮称）の策定
第１章において述べたように、本推進会議が作成したＡＩ開発ガイドライン案が、Ｇ
７やＯＥＣＤ等において共有され、国際的な議論が進められている。今後さらに国際的な議論が進められ、ステークホルダ間の合意形成の下でＡＩ開発ガイドライン（仮称）が策定されることが期待される。
本推進会議においては、ＡＩ開発ガイドライン（仮称）の策定に向けた今後の国際的な議論をフォローアップするとともに、その動向に応じて、ＡＩ開発ガイドライン案を見直すなどして国際的な議論に継続的に貢献していくべきものと考える 127。
（２）ＡＩの利活用に関する指針の策定
前章において述べたように、本推進会議において、国際的な議論の用に供するため、「ＡＩ利活用原則案」を取りまとめた。今後、Ｇ７やＯＥＣＤ等において、ＡＩ開発ガ
イドライン（仮称）と併せてＡＩの利活用に関する指針の策定に向けた国際的な議論が進められることが期待される。
本推進会議においては、ＡＩの利活用に関する国内外の議論の動向を踏まえて、ＡＩ
利活用原則案を継続的に見直し、必要に応じて改定するとともに、各原則の内容に関し整理された論点を踏まえて、最終的なアウトプットの取りまとめに向けた検討を進めることが必要である。
最終的なアウトプットの取りまとめに向けた検討に当たっては、次に掲げる事項に留意することが必要である 128。
➢ 目的や基本理念の整理が必要と考えられるところ、その検討に当たっては、ＡＩ利活用原則案の各原則相互の関係を踏まえること。
➢

利用者の主観（利用しているシステム又はサービスがＡＩを用いたものであることを認識しているか否か）や性質、属性等も考慮する必要があること。
➢ 利用者の分類（ＡＩサービスプロバイダ、最終利用者等）によって有している能力
126

本章末尾参照。詳細については、報告書 2017 第４章参照。
第１章１．で述べたように、国内において、国際的な議論に貢献するために、人工技術戦略会議の下に「人間中心のＡＩ社会原則検討会議」が置かれた。同会議の動向にも留意することが必要である。
128
前章参照。
127

65

や知識の多寡、必要な措置を実施する容易性等が異なることを踏まえて、利用者の分類を意識しつつ、留意することが期待される事項等の具体的な内容を検討する必要があること。
➢

次に掲げる論点を踏まえ、最終的なアウトプットの在り方について検討する必要があること。
・ 「ガイドライン」という形や名称で取りまとめることとするか。
・

各分野のステークホルダ等が分野ごとのガイドライン等を策定する際に参照する基本的な指針（メタガイドライン）として取りまとめることとするか。
（３）関係するステークホルダが取り組む環境整備に関する課題
ＡＩの便益を人々や社会が享受するためには、ＡＩの開発をさらに推し進めるとともに、利活用の裾野をより一層広げていくことが必要である。そのためには、人々のＡ
Ｉに対する不安を取り除き、信頼を醸成する取組を進めることが必要である。ＡＩの開発者や利用者が、それぞれＡＩの開発や利活用において、ＡＩの便益を増進させリスクを抑制する観点から期待される取組を行うとともに、開発者や利用者に加えて、政府や業界団体等を含めた関係するステークホルダがＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展に向けた環境整備のための取組を行うことにより、ＡＩに対する社会的な受容性の向上がもたらされる。
これまで述べたように、ＡＩの開発者が留意することが期待される事項については、
ＡＩ開発ガイドライン案を作成し、ＡＩ開発ガイドライン（仮称）を策定するために国際的な議論を進めているところである。また、ＡＩの利用者やデータ提供者が留意することが期待される事項については、ＡＩ利活用原則案を取りまとめたところであり、今後、各原則の内容に関し整理した論点を踏まえて検討を行い、最終的なアウトプットを取りまとめることとしている。
これらの取組に加えて、開発者、利用者及びデータ提供者を含む関係するステークホ
ルダ（政府、業界団体等）がＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展に向けた環境整備のために取り組むことが期待される事項を整理することが必要であり、例えば次に掲げる課題が挙げられる 129。
➢ 全てのステークホルダが取り組むことが期待される課題
・ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展に関する

ステークホルダ間の協力、ベストプラクティスの共有の在り方の検討➢

主として業界団体等が中心となって取り組むことが期待される課題
・

ＡＩの学習等に用いられるデータの形式やＡＩ間の自動交渉のプロトコル等の標準化の在り方の検討
・ ＡＩの利活用、ＡＩネットワーク化に必要な知識・技能等に関する啓発・教育
129

これらの課題について、（４）以降で掲げられる課題と重複するものがあり得る。

66

・ ＡＩの開発及び利活用並びにＡＩネットワーク化を推進するための人材育成
・ ＡＩの利活用、ＡＩネットワーク化に係る市場競争環境整備、利用者の選択肢の多様性の確保の在り方の検討
・ ＡＩの事故等に関する被害者の救済（保険等）及び被害発生の防止の在り方の検討➢主として政府が中心となって取り組むことが期待される課題
・ 開発者、利用者及びデータ提供者を含む関係するステークホルダ間の対話や情報共有が促進されるための方策（対話の場の設置等）の在り方の検討
・

ＡＩの事故等が発生した場合の原因究明や再発防止等に関して関係者の協力が得られる仕組み（インセンティブの付与など）の検討
・ ＡＩの便益及びリスクを検証するための実験環境（特区、仮想実験空間等）の整
備の在り方の検討
・

ＡＩの開発及び利活用並びにＡＩネットワーク化を推進するための経済政策や産業政策、国内産業の活性化のための対外政策の検討
・

ＡＩの開発及び利活用並びにＡＩネットワーク化を推進するための法制度等の在り方の検討ア ＡＩの事故等に関する法的責任の所在の在り方
イ 各分野におけるＡＩの利活用と業法等との関係の整理
ウ ＡＩの学習等に用いられるデータ、ＡＩにより作成されたモデル、ＡＩ創作物
等に関する知的財産制度上の保護と利活用の在り方
エ ＡＩの利活用に関する個人情報の保護と利活用の在り方オ

ＡＩネットワークに関する通信の秘密の保護（ＡＩ間の通信の秘密の保護の範囲及び程度など）の在り方（４）ＡＩシステム又はＡＩサービス相互間の円滑な連携の確保
ＡＩ開発原則 130 の「連携の原則」において、開発者は、ＡＩシステムの相互接続性と相互運用性 131に留意することが掲げられるとともに、同原則の解説 132において、開発者は、関連情報の共有、国際的な標準や規格への準拠、データ形式の標準化、ＡＰＩを含むインターフェースやプロトコルのオープン化への対応、標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件につい

130

ＡＩ開発原則については、報告書 2017 別紙１ ４．参照。以下本章におけるＡＩ開発原則
に関する記述において同じ。
131
ここで相互接続性と相互運用性としては、自らの開発するＡＩシステムが情報通信ネットワークと接続され、他のＡＩシステム等と適切に協調して運用することが可能であることを一体的に捉えて念頭に置いている。
132
ＡＩ開発原則の解説については、報告書 2017 別紙１ ５．参照。以下本章におけるＡＩ開発原則の解説に関する記述において同じ。

67

てのオープンかつ公平な取扱いに留意することが望ましい旨が掲げられている。
また、ＡＩ利活用原則案 133 の「連携の原則」において、ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービス相互間の連携に留意することが掲げられている。
これらのことを踏まえると、ＡＩ相互間の円滑な連携の確保に関連する課題としては、例えば次に掲げる課題が挙げられる。
➢

開発者やＡＩサービスプロバイダが他の開発者やＡＩサービスプロバイダ等と共有することが期待される関連情報の範囲、共有の方法等の検討➢

インターフェース、プロトコル、データ形式等の標準化又はオープン化の在り方の検討➢

標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件の在り方等に関する検討➢ 連携及びこれに伴う責任の分配に関する当事者間の契約の在り方の検討➢ 当事者間の紛争解決の在り方の検討
なお、これらの課題に取り組むに当たっては、ネットワーク上における様々なＡＩシ
ステムの混在（性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすること等）の可能性に留意することが必要である。
また、本推進会議において、ＡＩ利活用原則案の「連携の原則」に関し整理された論点 134を検討するに当たっては、上記の事項に留意することが必要である。
（５）競争的なエコシステムの確保
ＡＩネットワーク化の進展を通じて智連社会 135を実現するためには、
・ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネットワー

クの形成
・

ＡＩシステムやＡＩサービスの提供

・ ネットワーク化されたＡＩにより創造・流通・連結されるデータ・情報・知識の利
活用のそれぞれのエコシステムにおいて公正な競争が確保されることが必要である。
これらのエコシステムは、今後のＡＩや情報通信ネットワークに関する技術の高度化、市場におけるＡＩシステムやＡＩサービスに対するニーズの変化、ＡＩシステムの133

ＡＩ利活用原則案については、前章３．参照。以下本章におけるＡＩ利活用原則案に関する記述において同じ。
134
ＡＩ利活用原則案の各原則の内容に関し整理された論点については、前章４．参照。以下本章におけるＡＩ利活用原則案の各原則の内容に関し整理された論点に関する記述において同じ。
135
序章１．及び前掲注（６）参照。

68

利活用の進展等に応じて変遷していくものであり、予断を抱くべきものではないことから、競争的なエコシステムの確保に関する規制の創設の検討は将来に向けて謙抑的であるべきである。その一方で、競争的なエコシステムの確保に関し必要に応じて時宜に応じた適切な対応ができるよう備えておく見地からは、報告書 2016 において指摘されているように 136、関連する市場の動向を継続的に注視することが必要であるものと考えられる。
（６）利用者の利益の保護
ＡＩネットワーク化が進展して、様々な物、サービスや社会のシステムがネットワー
ク化されたＡＩの利用可能性を前提として提供されるようになった社会における人間の「包摂」（inclusiveness）の見地に加えて、ネットワークに接続されたＡＩに関する
いわゆるネットワーク効果の見地からは、あらゆる個人又は団体が、利用者として、関連するＡＩを手頃な条件で 137 安心・安全に利用することができるよう、その利益が保護されることが求められる。
このため、ＡＩネットワーク化のガバナンスにおいては、ＡＩシステムの開発のガバ
ナンス及び利活用のガバナンスのいずれについても、その全体を通じて直接的又は間接的に利用者の利益の保護に資するものであることが期待される。ＡＩ開発ガイドラ
イン案においては、このような問題意識の下、その目的として利用者の利益の保護を掲げているとともに、同ガイドライン案に掲げるＡＩ開発原則の個々の項目は、いずれも利用者の利益の保護に資するものとしている 138。
また、ＡＩ利活用原則案においても、個々の原則は、いずれも利用者の利益の保護に資するものとしている 139。
これらのことを踏まえると、特に利用者の利益の保護を直接的に志向する課題としては、例えば次に掲げる課題が挙げられる。
136

報告書 2016・50 頁参照。
手頃な条件での利用可能性は、公正な競争を通じて実現されることが基本である。
138
ＡＩ開発原則のうち「連携の原則」は、連携に係るＡＩシステムと他のＡＩシステム等との円滑な連携を通じて、連携に係るＡＩシステムの便益を増進するとともにリスクを抑制することにより利用者の利益の保護に資するものである。
「透明性の原則」、「制御可能性の原則」、「安全の原則」、「セキュリティの原則」、「プライバシーの原則」及び「倫理の原則」は、それぞれ関連するリスクを抑制することにより利用者の利益の保護に資するものである。
「利用者支援の原則」及び「アカウンタビリティの原則」は、それぞれ利用者の受容性を向上させることにより、利用者の利益の保護に資するものである。
139
ＡＩ利活用原則のうち「適正利用の原則」、「適正学習の原則」及び「連携の原則」は、それ
ぞれＡＩの便益を増進するとともにリスクを抑制することにより利用者の利益の保護に資するものである。「安全の原則」、「セキュリティの原則」及び「プライバシーの原則」は、それぞれ関連するリスクを抑制することにより利用者の利益の保護に資するものである。「尊厳・自律の原則」、「公平性の原則」、「透明性の原則」及び「アカウンタビリティの原則」は、それぞれ利用者の受容性を向上させるとともにリスクを抑制することにより、利用者の利益の保護に資するものである。
137

69

➢

開発者やＡＩサービスプロバイダ等から利用者に対する・ＡＩシステム又はＡＩサービスの技術的特性に関する情報 140

・

継続的なアップデートへの対応の必要性に関する情報 141

・ その他リスクの顕在化又は波及の抑止に資する情報の自発的な提供 142の在り方の検討➢

ＡＩサービスプロバイダ等がその提供の業務を通じて知り得た利用者又はその利活用に関するデータ等の取扱いの在り方の検討➢ ＡＩシステムのリスクが顕在化した場合（事故の発生時等）における責任の分配や利用者等を保護する仕組み（保険等）等の在り方の検討
なお、本推進会議において、特にＡＩ利活用原則案の「アカウンタビリティの原則」、「適正学習の原則」及び「適正利用の原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
（７）技術開発に関する課題
ＡＩ開発原則及びＡＩ利活用原則案の個々の項目の実効性を高めるとともに、本章に掲げる課題の解決を図るためには、制度的な仕組みとともに、技術的な仕組みが有効に機能することが期待される。
例えば、次に掲げる技術の研究開発が進むことが期待される。
➢ ＡＩシステムの入出力の検証可能性を確保するための技術及びＡＩシステムの判
断結果の説明可能性を確保するための技術➢

他のＡＩに対する監督（監視、警告など）や制御（停止、ネットワークからの切断、修理など）を行うことのできる技術➢

ＡＩシステムがアクチュエータ等を通じて稼動する際の本質安全（アクチュエー
タの運動エネルギーなど本質的な危険要因の低減）や機能安全（自動ブレーキなど
付加的な制御装置の作動によるリスクの抑制）を確保するための技術➢

利用者に選択の機会を適時適切に提供する機能（例えば、デフォルトの設定、理解しやすい選択肢の提示、フィードバックの提供、緊急時の警告、エラーへの対処など）に関する技術➢

ＡＩネットワークのセキュリティを高める（セキュリティ攻撃のパターンの学
習、学習データのノイズの排除等）ための技術やセキュリティ攻撃を受けた際の早期復旧のための技術

140

ＡＩ開発原則に掲げる事項に関する情報を含む。
報告書 2016・54 頁参照。
142
これらの情報提供のうち開発者によるものについては、ＡＩ開発原則のうち「アカウンタビ
リティの原則」に関連するものとして、また、利用者によるものについては、ＡＩ利活用原則
案のうち「アカウンタビリティの原則」に関連するものとして検討することが期待されよう。
141

70

➢

ＡＩシステムの学習等に用いられるデータに含まれる偏見等に起因して個人が不当に差別されるリスクを排除するための技術
なお、本推進会議において、特にＡＩ利活用原則案の「透明性の原則」、「安全の原則」、「セキュリティの原則」及び「公平性の原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
◯

ＡＩネットワーク上を流通する情報・データに関する事項（８）セキュリティ対策
ＡＩ開発原則の「セキュリティの原則」において、開発者は、ＡＩシステムのセキュ
リティに留意することが掲げられている。
また、ＡＩ利活用原則案の「セキュリティの原則」において、利用者及びデータ提供
者は、ＡＩシステム又はＡＩサービスのセキュリティに留意することが掲げられている。
今後、ＡＩの開発及び利活用の両面において、セキュリティの確保の在り方について検討していくことが必要である。
➢

ＡＩシステムへのセキュリティの実装の在り方の検討➢

ＡＩシステムの学習等による利活用の過程を通じた変化に起因するセキュリティ上の問題への対処の在り方の検討➢

偽装・なりすまし等によりＡＩシステムが犯罪等に悪用されるリスクへの対処の在り方の検討➢ＡＩの研究者とセキュリティの研究者との間の連携の促進に向けた検討
なお、本推進会議において、ＡＩ利活用原則案の「セキュリティの原則」に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
（９）プライバシー及びパーソナルデータの保護
ＡＩ開発原則の「プライバシーの原則」において、開発者は、ＡＩシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮することが掲げられている。
また、ＡＩ利活用原則案 の「プライバシーの原則」において、利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮することが掲げられている。
今後、ＡＩの開発及び利活用の両面において、個人情報・プライバシーの保護の在り方について、ＡＩが取り扱うデータ・情報の性質や、データ・情報の流通と個人情報・
プライバシーの保護とのバランス等に留意しつつ検討することが必要である。
➢

個人情報の取得や活用に当たっての本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討➢

ＡＩネットワーク上を流通するデータ・情報を利活用する価値と個人情報保護・プ
71

ライバシーとのバランスに配慮した制度の在り方の検討➢

ＡＩシステムの学習等による利活用の過程を通じた変化に起因する意図しないプ

ライバシー侵害のリスクへの対処の在り方の検討➢

プロファイリングが利用者にもたらす便益及びプライバシー侵害等のリスクを踏まえたプロファイリングに関するルールの在り方の検討
なお、本推進会議において、ＡＩ利活用原則案の「プライバシーの原則」に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
（10）コンテンツに関する制度的課題
報告書 2017 におけるシナリオ分析に基づく留意事項として、「ＡＩシステムが取り扱うデータ・情報の性質」の中で「例えば、ＡＩ生成物や学習用データ等に関し、知財制度上の取扱いが問題となる可能性がある。」ことが挙げている 143。また、新たな情報財の保護・利活用の在り方に関し、ＡＩ生成物の知的財産制度上の在り方について引き続き検討すべきとの指摘がある 144。
今後、ＡＩネットワーク上におけるコンテンツの流通と知的財産の保護とのバランスに配慮した制度の在り方等について検討することが必要である。
➢

学習用データの作成の促進に関する環境の整備、学習済みモデルの適切な保護と利活用促進、ＡＩ生成物の知的財産制度上の在り方の検討 145➢

ＡＩ学習用データの作成の促進に向けた、国及び地方公共団体等が保有するオー

プンデータの推進➢◯

ＡＩにより自動集積されるデータベースの保護と利活用の在り方の検討

ＡＩネットワーク化が社会・経済にもたらす影響に関する事項（11）ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析
報告書 2017 において、今後の課題として、ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有が掲げられていたところ 146、本推進会議において、シナリオ分析（分野別評価）及びエコシステムの展望に関する検討を行った 147。
今後も、引き続き、シナリオ分析を行うとともに、その成果を国際的に共有することが必要である。また、エコシステムの展望について、これまでの検討を踏まえ、ＡＩネ

143

報告書 2017 第３章５．オ参照。
報告書 2017 第１章１．
（３）⑥参照。
145
知的財産戦略本部 検証・評価・企画委員会 新たな情報財検討委員会「報告書－データ・人工知能（ＡＩ）の利活用促進による産業競争力強化の基盤となる知財システムの構築に向けて－」（平成 29 年 3 月）参照。
146
報告書 2017 第４章（10）参照。
147
分野別評価については、第２章１．参照。エコシステムの展望については、同章２．参照。
144

72

ットワーク上を流通するデータやＡＩネットワークを通じて提供されるサービス等に関するエコシステムを展望することが期待される。
➢

ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有➢

ＡＩネットワーク上を流通するデータに関するエコシステムやＡＩネットワーク

を通じて提供されるサービスに関するエコシステム等についての継続的な検討及び国際的な共有（12）ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価
指標の設定
報告書 2017 において、今後の課題として、国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けた検討が掲げられていたところ 148、本推進会議において、ＡＩネットワーク化に関する指標について、特に次に掲げる２つの指標に関する検討を行った 149。
・ ＡＩネットワーク化の前提となる環境整備に関するもの： ＡＩネットワーク化
事前指標
・ ＡＩネットワーク化の初期段階に関するもの： ＡＩネットワーク化初期指標
なお、本報告書において、今後の取組方針として、指標として有用な項目の洗い出し・
整理、アンケート調査における有用な項目の検討が示されている。
今後も、引き続き、指標の設定に関する検討を行うことが期待される。
➢

国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けた検討（13）ＡＩの利活用に関する社会的受容性の醸成
ＡＩ開発原則の「アカウンタビリティの原則」において、開発者は、利用者を含むス
テークホルダに対しアカウンタビリティを果たすよう努めることが掲げられている。
これは、ＡＩシステムの利活用に当たっては、利用者を含む社会全体の理解が必要で、社会に受容されることが重要であるという認識に基づくものである。
また、ＡＩ利活用原則案 の「アカウンタビリティの原則」において、ＡＩサービス
プロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることが掲げられている。
今後、ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展に向けて、社会的な受容性を注視するとともに、受容性を高める方策の在り方等について検討することが必要である。
148
149

報告書 2017 第４章（11）参照。
第２章４．参照。

73➢

社会におけるＡＩに関する受容度の継続的注視、受容性を高める方策の在り方の検討
なお、本推進会議において、ＡＩ利活用原則案の「アカウンタビリティの原則」に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
◯ ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項（14）人間とＡＩとの関係の在り方に関する検討
ＡＩ開発原則の「倫理の原則」において、開発者は、ＡＩシステムの開発において人間の尊厳と個人の自律を尊重することが掲げられている。
また、ＡＩ利活用原則案 の「適正利用の原則」において、利用者は、人間とＡＩとの適切な役割分担のもと、利用者間における適切な役割分担を踏まえ、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努めること、「尊厳・自律の原則」
において、利用者は、ＡＩシステム又はＡＩサービスの利活用において、人間の尊厳と個人の自律を尊重すること、「公平性の原則」において、ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの判断によって個人が不当に差別されないよう配慮することが掲げられている。
今後、人間中心とする智連社会に向けた人間とＡＩとの役割分担、ＡＩシステムに委
ねる判断の範囲の妥当性、ＡＩネットワーク化の進展による人間の能力の拡張の在り方等について検討することが必要である。
➢

専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方や重要な判断（診断、法令の解釈・適用、採用、人事評価、融資の審査等）に当たりＡＩシス
テムの機能に委ねてもよい事項の範囲に関する検討➢

ＡＩ・ロボットによる人間の知的・身体的能力の拡張（エンハンスメント）に関する倫理的問題の検討➢「ＡＩ依存」など人間の心理や子供の発育への影響等に関する継続的注視
なお、本推進会議において、特にＡＩ利活用原則案の「適正利用の原則」、「尊厳・自律の原則」及び「公平性の原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
（15）ステークホルダ間の関係の在り方に関する検討
報告書 2017 におけるシナリオ分析に基づく留意事項として、「事故の発生等ＡＩシ
ステムのリスクが顕在化した場合の責任の分配の在り方」が挙げられている 150。
また、ＡＩ利活用原則案 の「適正利用の原則」において、利用者は、人間とＡＩとの適切な役割分担のもと、利用者間における適切な役割分担を踏まえ、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努めること、「連携の原則」にお150

報告書 2017 第３章５．ウ参照。

74

いて、利用者は、関係者と協力して事故の未然防止及び事故の発生時等の対応に取り組むよう努めること、「アカウンタビリティの原則」において、ＡＩサービスプロバイダ
及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることが掲げられている。
今後、ＡＩネットワーク化の進展を見据え、上記(14)人間とＡＩとの関係の在り方に関する検討とともに、ＡＩのリスクの抑制等を図ることにより利用者及び第三者の利益を保護するために、ステークホルダの役割分担、権利義務の帰属の在り方、事故発生時等の責任の分配の在り方について検討することが必要である。
➢

ＡＩのリスクが顕在化しないようにするためのステークホルダ間の役割分担の在

り方の検討
➢

ＡＩを利活用した取引における権利義務の帰属の在り方の検討➢

ＡＩのリスクが顕在化した場合のステークホルダ間の責任の分配の在り方の検
討 151

➢

特に最終利用者の利益を保護するためのアカウンタビリティの在り方の検討➢

ＡＩの利活用をめぐる紛争の解決の在り方の検討
なお、本推進会議において、特にＡＩ利活用原則案の「適正利用の原則」、「連携の原則」及び「アカウンタビリティの原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。

（16）ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備
報告書 2017 において、今後の課題として、ＡＩネットワーク化の進展に応じた就労や円滑な配置転換等に資する教育・人材育成の在り方等に関する課題が掲げられていたところ 152、本推進会議において、教育・人材育成に関する検討を行い、次に掲げる
６つのテーマごとに構成員の主たる意見を示す形で取りまとめた 153。
①

人間とＡＩとの関係・役割分担②

社会の変化及び人間の技能・能力

③

学校教育

④

職業スキルの習得

⑤

生涯教育

⑥

ＡＩの利活用151

ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方の検討の一環として、ＡＩの利活用等に伴う事故等による損害の賠償等に充てるための資財が乏しい個人、中小・零細事業者等によるＡＩの開発及び利活用を支援するためのファンドの設立や保険の在り方等についても併せて検討することが必要である。
152
報告書 2017 第４章（15）参照。
153
第２章３．参照。

75なお、本報告書における取りまとめは、今後の検討に当たって、キックオフ的なものと位置付けられ、本報告書の公表後、これらの意見を踏まえて、本推進会議において、さらに検討を深めることとしている。
今後も、引き続き、ＡＩネットワーク化の進展に応じた就労や円滑な配置転換等に資する教育・人材育成の在り方等について検討すること及びその結果に基づき所要の対策を講ずることが必要である。
➢

技術者、法的・倫理的・社会的問題に対処し得る人材、産業連携等に対処し得る人
材の育成➢

ＡＩネットワーク化の進展に応じた雇用・働き方の変化に合わせた教育の実施・人材の育成及び労働法制の在り方の検討（17）ＡＩに関するリテラシーの涵養及びＡＩネットワーク・ディバイドの形成の防止
報告書 2017 において、高齢者のリテラシーの向上やディバイド形成の防止の在り方に関する課題が掲げられている 154。また、分野別評価において、ＡＩネットワーク化の健全な進展に向けた今後の検討に当たって留意すべき点として、高齢者のＡＩに関するリテラシーを向上させる方策が求められる旨が挙げられている 155。
今後、すべての人々がＡＩの恵沢をあまねく享受できるよう特に高齢者のリテラシーの向上やディバイド形成の防止の在り方について検討すること等が必要である。
➢

特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討➢

ＡＩを利活用する者と利活用しない（できない）者が混在すること、地域間でＡＩの利活用の状況が異なっていること等を踏まえ、社会全体がＡＩの利活用による便益を享受できるような環境の整備（18）セーフティネットの整備
報告書 2017 において、大規模な失業が発生しないような方策の在り方等に関する課
題が掲げられている 156。また、分野別評価において、ＡＩネットワーク化の健全な進展に向けた今後の検討に当たって留意すべき点として、プロファイリング結果により、就職や転職、結婚などにおいて、不当に不利な立場に陥ることのないようにセーフティ
ネットの検討が必要である旨が挙げられている 157。
今後、労働市場の動向を注視するとともに、大規模な失業が発生しないような方策の在り方、ＡＩによるプロファイリングの結果により、不当に不利な立場に陥らないような方策の在り方等について検討すること、セーフティネットを整備すること等が必要

154

報告書 2017 第４章（16）参照。
第２章１．
（２）③参照。
156
報告書 2017 第４章（17）参照。
157
第２章１．
（２）③参照。
155

76

である。
➢

労働市場の動向の継続的注視、ＡＩネットワーク化の進展に伴う所得の再分配等

格差防止の在り方の検討➢

ＡＩによるプロファイリングの結果により、不当に不利な立場に陥らないような方策の在り方の検討（19）その他の課題
報告書 2017 において、「その他の課題」として掲げられている事項 158についても、
引き続き、注視し、又は検討することが必要である。
➢ 情報通信インフラの高度化の加速➢ 経済発展・イノベーションの促進に向けた課題➢ 地球規模課題の解決を通じた人類の幸福への貢献➢

ＡＩネットワーク化のガバナンスの在り方

158

これらの課題は、報告書 2016 において、「今後の課題」として掲げられたもののうち、報告書 2017 においては、「今後の課題」として具体的に取り上げられなかった課題である。

77

（参考）報告書 2017 に掲げられている「今後の課題」 159○ ＡＩネットワーク化の健全な進展に関する事項➢

ＡＩ開発ガイドライン（仮称）の策定
・➢

ＡＩ開発ガイドライン（仮称）の策定に向けた国際的な議論のフォローアップ
ＡＩ利活用ガイドライン（仮称）の策定

・ 「ＡＩ利活用ガイドライン（仮称）」の策定に関する検討➢

ＡＩシステム相互間の円滑な連携の確保
・ 関係ステークホルダ間で共有することが期待される関連情報の範囲、共有の方法等の検討➢

競争的なエコシステムの確保
・➢関連する市場の動向の継続的注視
利用者の利益の保護

・ 利用者に対する開発者等からの自発的な情報提供の在り方の検討、利用者を保護する仕組み（保険等）の在り方の検討➢

技術開発に関する課題
・

他のＡＩに対する監督（監視、警告など）や制御（停止、ネットワークからの切断、修理など）を行うことのできる技術等の研究開発の推進○

ＡＩネットワーク上を流通する情報・データに関する事項➢ セキュリティ対策
・➢

セキュリティの実装の在り方の検討等
プライバシー及びパーソナルデータの保護・➢本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討等
コンテンツに関する制度的課題

・ 学習用データの作成の促進に関する環境整備、学習済みモデルの適切な保護と利活用
促進等○

ＡＩネットワーク化が社会・経済にもたらす影響に関する事項➢

ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析
・

シナリオ分析の継続的な実施・国際的な共有

159

ここに掲げられている課題のほか、情報通信インフラの高度化の加速、経済発展・イノベー
ションの促進に向けた課題、地球規模課題の解決を通じた人類の幸福への貢献、ＡＩネットワーク化のガバナンスの在り方、が今後の課題として掲げられている。

78

➢ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標

の設定
・
➢

指標の設定に向けた検討
ＡＩシステムの利活用に関する社会的受容性の醸成

・社会におけるＡＩシステムの利活用に関する受容度の継続的注視等○

ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項➢

人間とＡＩシステムとの関係の在り方に関する検討
・➢専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方等の検討
ステークホルダ間の関係の在り方に関する検討

・➢

ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方等の検討
ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備

・➢

ＡＩネットワーク化の進展に応じた教育の実施・人材の育成等
ＡＩシステムに関するリテラシーの涵養及びＡＩネットワーク・ディバイドの形成の防止
・➢

特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討等
セーフティネットの整備

・ 労働市場の動向の継続的注視、ＡＩネットワーク化の進展に伴う所得の再分配等格差防止の在り方の検討等

79

むすびに代えて本報告書は、本推進会議における検討と関連する国内外の議論を踏まえ、社会・経済の様々な分野におけるＡＩシステムの利活用の場面を想定してＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価を行うとともに、ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望を示しつつ、そこで抽出された課題等を踏まえて、ＡＩの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りまとめ、各原則の内容に関する論点を整理した上で、今後の課題を掲げている。
第１章で見たとおり、Ｇ７香川・高松情報通信大臣会合（平成 28 年４月）を契機として、海外における議論やＧ７、ＯＥＣＤにおける国際的な議論が活発に行われているが、主として開発者の立場によるものが多いように見受けられる。本報告書において、国際的な議論のために「ＡＩ利活用原則案」が取りまとめたことを踏まえ、利活用に関する国際的な議論も行われることが期待される。
ＡＩネットワーク化がもたらす社会への影響は、ＡＩの高度化が加速度的に進展していくことなどに伴い、一度示された予測が続々と塗り替えられる形で、急速に進展しつつある。
本報告書の内容は、現時点において検討した結果を述べているものであり、ＡＩネットワー
ク化の進展等に応じて不断の見直しを行うことが必要である。
また、第４章で整理した今後の課題は、多岐にわたっており、継続的かつ多面的な検討が必要である。これらの課題の検討に当たっては、産学民官の幅広い分野から関係ステークホ
ルダの参画を得て国内外において検討を進めていくことが必要である。今後、緊急性、重要性等を勘案してプライオリティをつけ、継続的に検討が進められていくことを期待したい。

80