報告書２ ０ １ ７－ＡＩネットワーク化に関する国際的な議論の推進に向けて－

平成 29 年 7 月 28 日

ＡＩネットワーク社会推進会議

目 次
要旨……………………………………………………………………………………………Ⅰ
はじめに………………………………………………………………………………………１
序章……………………………………………………………………………………………３
１． 「ＡＩネットワーク化」と「智連社会」
２． 本推進会議の目的
第１章 ＡＩネットワーク化をめぐる最近の動向………………………………………10
１． 国内の動向
２． 海外の動向
第２章 ＡＩ開発ガイドライン……………………………………………………………23
１． 背景・経緯
２． 整理された論点に関する意見募集の結果等を踏まえたＡＩ開発ガイドライン案の検討の方向性３． ＡＩ開発ガイドライン案の概要
４． 今後の展開
第３章 ＡＩネットワーク化が社会・経済にもたらす影響……………………………32
１． 背景・経緯
２． 先行的評価
３． 分野別評価
４． 雇用・働き方への影響
５． 留意すべき事項
第４章 今後の課題…………………………………………………………………………49
結びに代えて…………………………………………………………………………………63

＜別紙１＞ 国際的な議論のためのＡＩ開発ガイドライン案＜別紙２－１＞

整理された論点に関する意見募集に寄せられた主な意見に対する考え方＜別紙２－２＞ 報告書２０１７（案）に関する意見募集に寄せられた主な意見に対する考え方＜別紙３＞ ＡＩネットワーク化が社会・経済にもたらす影響 ～先行的評価～＜別紙４＞ ＡＩネットワーク化が社会・経済にもたらす影響 ～分野別評価～＜別紙５＞

ＡＩネットワーク社会推進会議及び分科会構成員一覧

＜別紙６＞

開催経緯

＜参考資料＞ 「ＡＩネットワーク社会推進フォーラム」関連資料

要旨

ＡＩに関する技術開発と利活用が急速に進展する中、今後、ＡＩシステムがインターネッ
ト等を通じて他のＡＩシステム等と接続し連携する「ＡＩネットワーク化」が進展していく
ことにより、社会的な課題の解決など人間や社会・経済に多大な便益がもたらされることが期待される一方、不透明化や制御喪失等のリスクも懸念されている。
総務省では、今後のＡＩネットワーク化の進展を見据え、平成 28 年 10 月から「ＡＩネッ
トワーク社会推進会議」を開催し、国際的な議論のためのＡＩ開発ガイドライン案の検討その他ＡＩネットワーク化のガバナンスの在り方の検討を行うとともに、ＡＩネットワーク
化が社会・経済にもたらすインパクト（主に良い影響や便益）及びリスクの評価を行ってきた。
本報告書は、本推進会議における検討及び関連する国内外の動向を踏まえ、国際的な議論のためのＡＩ開発ガイドライン案の基本的な考え方と内容を示すとともに、様々な分野におけるＡＩシステムの具体的な利活用の場面（ユースケース）を想定して、ＡＩネットワー
ク化が社会・経済にもたらすインパクト及びリスクの評価を行った上で、今後の課題を整理している。
序章では、本推進会議における検討の基調をなすＡＩネットワーク化の展望を示した上で、ＡＩネットワーク化を通じて目指すべき社会像として掲げる人間中心の「智連社会」（Wisdom Network Society：ＷＩＮＳ〔ウインズ〕）及びその基本理念を紹介している。
第１章では、総務省の主催により平成 29 年３月に開催された国際シンポジウム「ＡＩネットワーク社会推進フォーラム」をはじめ最近のＡＩネットワーク化に関する国内外の動向を概観している。
第２章では、本推進会議が作成した国際的な議論のためのＡＩ開発ガイドライン案（別紙１）について、検討の背景・経緯を概観した上で、検討の方向性を説明するとともに、その概要を紹介している。同ガイドライン案に掲げるＡＩ開発原則は、次のとおりである。
① 連携の原則-----開発者は、ＡＩシステムの相互接続性と相互運用性に留意する。
② 透明性の原則-----開発者は、ＡＩシステムの入出力の検証可能性及び判断結果の説
明可能性に留意する。
③ 制御可能性の原則-----開発者は、ＡＩシステムの制御可能性に留意する。
④ 安全の原則-----開発者は、ＡＩシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
⑤ セキュリティの原則-----開発者は、ＡＩシステムのセキュリティに留意する。
⑥ プライバシーの原則-----開発者は、ＡＩシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮する。
I⑦ 倫理の原則-----開発者は、ＡＩシステムの開発において、人間の尊厳と個人の自律を尊重する。
⑧ 利用者支援の原則-----開発者は、ＡＩシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する。
⑨ アカウンタビリティの原則------開発者は、利用者を含むステークホルダに対しアカ
ウンタビリティを果たすよう努める。
第３章では、社会・経済の様々な分野におけるＡＩシステムの利活用の場面（ユースケース）を想定したシナリオを作成し、ＡＩネットワーク化が社会・経済の各分野にもたらすイ
ンパクト及びリスクの評価を分析した上で、その結果を踏まえ、今後の課題を検討するに当たって留意すべき事項を次のように整理している。
・ 様々なＡＩシステムが混在することに伴う問題
・ ＡＩシステムを利活用する者と利活用しない（できない）者とが混在することに伴う問題
・ 事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方
・ データ・情報の流通と個人情報保護・プライバシーとのバランス
・ 人間とＡＩ（ロボット）との役割分担 等
第４章では、第２章及び第３章における検討の結果等を踏まえ、今後の課題を次のように整理している。
○ ＡＩネットワーク化の健全な進展に関する事項
ＡＩ開発ガイドライン（仮称）の策定、ＡＩ利活用ガイドライン（仮称）の策定、
ＡＩシステム相互間の円滑な連携の確保 等○ ＡＩネットワーク上を流通する情報・データに関する事項
セキュリティ対策、プライバシー及びパーソナルデータの保護 等○ ＡＩネットワーク化が社会・経済にもたらす影響の評価に関する事項
ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析、ＡＩネットワ
ーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定 等○ ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項
人間とＡＩシステムとの関係の在り方に関する検討、ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備 等
本報告書が、ＡＩネットワーク化に関する社会的・経済的・倫理的・法的課題をめぐる国内外の検討に寄与し、ＡＩ開発ガイドラインの策定をはじめとするＡＩネットワーク化のガバナンスの枠組みの形成に向けた国際的な議論を推進することにより、ＡＩネットワー
ク化を通じた人間中心の「智連社会」の実現に向けた道標となることを願いたい。

II

はじめに
最近ではＡＩに関する報道を目にしない日がないほど、ＡＩに関する技術開発と利活用が目まぐるしく進展している。また今後、ＡＩシステムがインターネット等を通じて他のＡ
Ｉシステム等と接続し連携する「ＡＩネットワーク化」の進展により、個人、地域社会、各国、国際社会の抱える様々な課題 1の解決が促されるなど、人間及びその社会や経済に多大な便益が広範にもたらされることが期待されている。一方、ＡＩやＡＩネットワーク化については、不透明化や制御喪失などリスクも懸念されている。
こうした中、平成 28 年４月に日本で開催されたＧ７香川・高松情報通信大臣会合において、ホスト国である日本はＡＩ開発原則のたたき台を紹介し、各国関係閣僚による議論が行われた。その結果、Ｇ７において「ＡＩ開発原則」及びその内容の解説からなる「ＡＩ開発
ガイドライン」の策定に向け、引き続きＧ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て議論していくことで合意した。その後、欧米各国においても、ＡＩに関する社会的・経済的・倫理的・法的課題をめぐる検討が本格化し、国際的な議論が加速している。
少子高齢化などの課題を抱える日本は、ＡＩを積極的に開発し利活用することにより様々な課題を解決するとともに、その知見を活かしつつＡＩ開発ガイドライン案などＡＩ
ネットワーク化のガバナンスの枠組みについて国際的に議論を提起することにより、国際社会に大きく貢献することができるものと思われる。
以上のような背景と問題意識に鑑み、総務省情報通信政策研究所では、平成 28 年 10 月から「ＡＩネットワーク社会推進会議」を開催し、国際的な議論のためのＡＩ開発ガイドラ
イン案の検討 2その他ＡＩネットワーク化のガバナンスの在り方の検討を行うとともに、具体的な利活用の場面を想定したＡＩネットワーク化の影響の評価を行ってきた。また、これまでの検討を踏まえ、総務省は平成 29 年３月に東京大学において国際シンポジウム「ＡＩ
ネットワーク社会推進フォーラム」を開催した。フォーラムには、日米欧等の産学民官のス
テークホルダが参加し、ＡＩネットワーク化のガバナンスの在り方について活発な議論が行われた。フォーラムでは、ＡＩネットワーク化に関する社会的・経済的・倫理的・法的課
題について多様な意見が示されたが、国内外のトップレベルの有識者から、ＡＩネットワー
ク化を通じた人間中心の「智連社会」の実現という理念が広く支持されるとともに、グローバルでオープンな議論を継続することを通じて合意形成を図っていくことに賛意が示された。
本推進会議は、平成 28 年 10 月から平成 29 年６月までに開催した 15 回の会合（本推進会議の会合５回のほか、本推進会議の下に置かれた開発原則分科会及び影響評価分科会の1

国際社会の抱える課題については、国連の「持続可能な開発目標」（ＳＤＧｓ）（http://www.un.org/ga/search/view_doc.asp?symbol=A/70/L.1）などを参照。
2
国際的な議論のためのＡＩ開発ガイドライン案の検討に当たっては、平成 28 年 12 月 28 日から平成 29 年１月 31 日までにかけて、本推進会議において整理したＡＩ開発ガイドライン案の論点に関する意見募集を行った。

1

会合５回ずつ）における検討や国際シンポジウム「ＡＩネットワーク社会推進フォーラム」
における議論等を踏まえて、本報告書（案）を作成した。その後、平成 29 年６月 14 日から
同年７月７日までにかけて、本報告書（案）に関する意見募集を行った上で、開発原則分科会・影響評価分科会合同分科会及び本推進会議（第６回）の会合での議論を経て、本報告書を最終的に取りまとめた。
本報告書は、本推進会議における検討と関連する国内外の議論を踏まえ、ＡＩ開発ガイド
ライン案の基本的な考え方と内容を示すとともに、様々な分野におけるＡＩシステムの利活用の場面を想定して、ＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価を行った上で、今後の課題を整理している。本報告書が、ＡＩネットワーク化に関する社会的・経済的・倫理的・法的課題をめぐる国内外の検討に寄与し、ＡＩ開発ガイドラインの策定をはじめとするＡＩネットワーク化のガバナンスの枠組みの形成に向けた国際的な議論を推進することにより、ＡＩネットワーク化を通じた人間中心の智連社会の実現に向けた道標となることを願いたい。

2

序章
１．
「ＡＩネットワーク化」と「智連社会」
本推進会議の前身たる「ＡＩネットワーク化検討会議」（以下「検討会議」という。）においては、ＡＩネットワーク化の進展を通じて目指すべき社会像として人間中心の社会像「智連社会」（Wisdom Network Society：ＷＩＮＳ〔ウインズ〕）を提唱して、その基本理念を呈示するとともに、ＡＩネットワーク化が社会・経済にもたらす影響（インパクト 3
及びリスク）の基礎的な評価を行った上で、今後の課題を整理した（平成 28 年４月に『中。
間報告書』 4、同年６月に『報告書 2016』 5を公表。）
本章においては、本推進会議における検討の基調をなすＡＩネットワーク化の展望並びに目指すべき社会像としての「智連社会」及びその基本理念を紹介する。
◯ ＡＩネットワーク化
ＡＩシステムが今後インターネットその他の情報通信ネットワークと接続されていくことにより、その影響（インパクト及びリスク）が大きくなるとともに、空間を越えて即座に波及し得るようになるものと考えられる。そこで、検討会議及び本推進会議においては、ＡＩシステムの普及及びその利活用の進展に伴う問題を検討するに当たり、これを単に個々のＡＩシステムをめぐる問題として捉えるのではなく、「ＡＩネットワ
6（ＡＩシステムがインターネットその他の情報通信ネットワークと接続され、ーク化」

ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネットワーク（以下において「ＡＩネットワーク」という場合がある 7。）が形成されるようになることをいう。以下同じ。
）をめぐる問題として捉えて検討を進めてきた。
検討会議においては、ＡＩネットワーク化が社会・経済にもたらす影響を評価し、そのガバナンスの在り方等関連する課題を検討する際の参照軸とするため、ＡＩネット
ワーク化の進展段階を次図のように理念的に整理している。
3

主に良い影響や便益のことを意味している。本報告書において以下同じ。
ＡＩネットワーク化検討会議「中間報告書 ＡＩネットワーク化が拓く智連社会（ＷＩＮＳ〔ウインズ〕） －第四次産業革命を超えた社会に向けて－」（平成 28 年４月 15日。以下「中間報告書」という。）
5
ＡＩネットワーク化検討会議「報告書 2016 ＡＩネットワーク化の影響とリスク －智連社
会（ＷＩＮＳ〔ウインズ〕）の実現に向けた課題－」（平成 28 年６月 20 日。以下「報告書2016」という。
）
6
この「ＡＩネットワーク化」は、・ ＡＩネットワークの構築
・ ＡＩネットワークの高度化（情報通信ネットワークを介したＡＩシステム相互間の連携
等）
からなるものとして理解できる（中間報告書５頁参照。）。
7
検討会議においては、この「ＡＩネットワーク」のことを「ＡＩネットワークシステム」と呼んでいた（なお、検討会議においては、「ＡＩネットワークシステム」を「ＡＩを構成要素とする情報通信ネットワークシステム」と定義していた（中間報告書５頁参照。）。
43

第一段階は、単独のＡＩシステムがインターネットその他の情報通信ネットワークに接続され、他のＡＩシステムとは連携することなく機能するという段階である。この段階は、既に社会の様々な場面において実現が進みつつある。
第二段階は、インターネットその他の情報通信ネットワークを介して複数のＡＩシ
ステムのネットワークが形成され、当該ネットワーク上のＡＩシステムが相互に連携して協調するという段階である 8。
第三段階は、センサやアクチュエータを構成要素として含むＡＩネットワークが人間の脳や身体などと連携して、人間の身体機能が拡張される段階である 9。
これらの進展が広く進み、ＡＩネットワークが社会全体に浸透していくことにより、第四段階として、人間とＡＩネットワークとが共生し、人間社会のあらゆる場面において、情報通信ネットワークを介してＡＩシステムと他のＡＩシステム、人間とＡＩシス
テム、さらには人間と人間とがシームレスに連携するという段階に至るものと整理されている。
○

目指すべき社会像「智連社会」
検討会議においては、ＡＩネットワーク化が進展し、人間とＡＩネットワークとが共

8

ＡＩシステム相互間の連携・協調がもたらす便益を指摘するとともに、目的が競合し又は対立するＡＩシステム相互間の交渉・協調の在り方を今後の課題として指摘するものとして、長尾顧問（京都大学名誉教授）「ＡＩネットワーク化の本質と将来」（ＡＩネットワーク社会推進フォーラム（特別講演）配付資料）２-３頁（平成 29 年）参照。
9
第三段階への進展は、第一段階から第二段階への進展とは異なる性格の進展によるものであり、必ずしも第二段階の後でなければならないものではない。

4

生する段階において目指すべき社会像として、「智連社会」（Wisdom Network Society：
ＷＩＮＳ[ウインズ]）を掲げた。この「智連社会」という社会像は、「高度情報通信ネットワーク社会」及び「知識社会」という「データ」・「情報」・「知識」（知）の流通及びその影響に着目した社会像の実現を経て、その次に実現を目指すべき社会像として構想したものであり、その内容は「データ」
・「情報」・「知識」（知）を活用する人間の能力としての「智慧」（智） 10に着目したものである 11。

10

人間の能力としての「智慧」に関し、濱田顧問（東京大学名誉教授）「ＡＩネットワーク化と智連社会」（ＡＩネットワーク社会推進フォーラム（特別講演）配付資料）２-５頁（平成29 年）参照。
11
中間報告書 12 頁参照。なお、データ（Data）、情報（Information）、知識（Knowledge）、知能（Intelligence）及び智慧（Wisdom）の関係の詳細については、中間報告書 13 頁参照。

5

ＡＩネットワーク化の進展に伴い、ＡＩとＡＩ、ＡＩと人間、さらには人間と人間がシームレスに連携・協調できるようになることにより、ネットワーク化される「知能」、
すなわち、ネットワーク化されるＡＩの知能又はこれを活用する人間の知能により「デ
ータ」
・
「情報」
・
「知識」を学習・解析して新たな「データ」
・「情報」
・「知識」を創造・
流通・連結することが可能となる社会の到来が予測される。それに伴い、「データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課題を解決するための人間の能力」としての「智慧」（智）（Wisdom）が高まるとともに、人間の「智慧」の連携・協調が進んでいくものと見込まれる。すなわち、人間は、ＡＩネットワークを利活用することにより、各々の「智慧」（智）を連結し、「智のネットワーク」（Wisdom Network）を形成していくことが期待されるのである 12。
「智連社会」という社会像は、このような問題意識に基づいて構想したものであり、ＡＩネットワーク化の健全な進展の結果として、人間がＡＩネットワークと主体的に共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワー
ク」を形成することにより、あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となるという人間中心の社会像である。

智連社会は、ＡＩネットワーク化が進展して「人間とＡＩネットワークとが共生」す

12

ここで、ＡＩネットワークは、ＡＩシステム及びこれと接続される情報通信ネットワークからなる物理的存在であるのに対し、「智のネットワーク」は、人間がＡＩネットワークという物理的存在の機能を活用することにより得られる能力（この能力は、人間が、データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課題を解決するための能力であり、「智慧」（智）にほかならない。）が相互に連携し合い、相互に協調し合う様子を捉え、観念的に描写する概念である。

6

る段階において目指すべき社会像として掲げたものである。この「人間とＡＩネットワ
ークとが共生」する段階とは、ＡＩネットワークが人間を包むように存在し、人間とＡ
Ｉネットワークとがシームレスに連携し、人間にとってＡＩネットワークが不可欠な存在となるという客観的な状況をいうものである。これに対し、「智連社会」という社
会像は、単に「人間とＡＩネットワークとが共生」するという客観的な状況を描写するにとどまるものではなく、人間が主体的にＡＩネットワークと共生するという人間の営みにより形成される社会像である。目指すべき社会像として「智連社会」を掲げるということは、ＡＩネットワークが社会の中心となるのではなく、あくまでも人間が社会の中心となり、人間がＡＩネットワークを主体的に使いこなす社会を目指すべき 13 との考えを含意している。
「智連社会」においては、人間がＡＩネットワークを主体的に使いこなし、人間や社会の在り方を構想して、その実現に向けた課題を解決するための人間の能力としての「智慧」を連結して「智のネットワーク」を形成することにより可能となる智慧の連携と協調により実現される。このような智慧の連携と協調という「智連」の本質に鑑みると、智連社会の実現に向けたＡＩネットワーク化の健全な進展に関する課題や智連社会における人間が社会の在り方に関する課題の解決には、個人の努力だけではなく、社会におけるコミュニティの役割が重要になるものと考えられる 14。
○

基本理念
検討会議においては、「智連社会」を形成するに当たってのっとるべき基本理念として、次の８項目が掲げられている。
・ すべての人々による恵沢の享受
すべての人々が、ＡＩネットワークを容易にかつ主体的に利用する機会を有し、個々の能力を創造的かつ最大限に発揮し、又は拡張することが可能となり、もってＡ
Ｉネットワークの恵沢をあまねく享受できること。
・

人間の尊厳と個人の自律
個人が人間としての尊厳をもった自律的な主体としてＡＩネットワークを安心して安全に利活用することにより、豊かさと幸せを感じられること。

・

イノベーティブな研究開発と公正な競争
イノベーティブな研究開発と公正な競争を通じて、多様で高度なＡＩネットワー
クが提供されること。

・

制御可能性と透明性

13

このことに関連して、ＡＩは社会における人間の様々な活動のエンハンスを目指すべきものであることを指摘するものとして、長尾・前掲注（８）１頁参照。
14
濱田・前掲注（10）９頁参照。

7

ＡＩネットワークに関する制御可能性と透明性が技術的・制度的に確保されること。
・

ステークホルダの参画
ＡＩネットワークの在り方に関する意思決定に当たり、多様なステークホルダが民主的に参画できること。
・ 物理空間とサイバー空間の調和
ＡＩネットワークを利活用して物理空間とサイバー空間を連結し、両者の調和を図ることにより、ヒト・モノ・コト相互間の空間を越えた協調の実現を可能とすること。
・空間を越えた協調による活力ある地域社会の実現
ＡＩネットワークを利活用してヒト・モノ・コト相互間の空間を越えた協調が地域内・地域間で進展することにより、活力ある地域社会が実現すること。

・

分散協調による地球規模の課題の解決
人類が、ＡＩネットワークを基盤として構築する智のネットワークにより、地球規
模の課題を国際的な分散協調により解決できること。
これらの基本理念は、ＡＩネットワーク化の健全な進展を通じて実現することを目指すべき社会像たる「智連社会」が備えるべき性質を様々な角度から掲げるものであり、今後のＡＩネットワーク化のガバナンスの在り方を検討するに当たって立脚すべきものとして評価できよう。
２．本推進会議の目的
検討会議においては、ＡＩネットワーク化の展望並びに目指すべき社会像及びその基本理念の整理と併せて、今後の課題を整理した。今後の課題の中には、ＡＩの開発研究に当たって国際的に参照されるべき「ＡＩ開発原則」及びその内容の解説からなる「ＡＩ開発ガイドライン」の策定に向けた議論の推進、ＡＩネットワーク化が社会・経済にもたらす影響の評価等が掲げられた。その過程において、平成 28 年４月 29 日及び 30 日にＧ７
香川・高松情報通信大臣会合が開催され、高市総務大臣から、「ＡＩ開発原則」に関し中間報告書に掲げる８項目からなるたたき台を配付し、ＯＥＣＤ等において「ＡＩ開発ガイ
ドライン」の策定に向けた国際的な議論を進めるよう提案した結果、各国から賛同が得られたところである。
本推進会議は、検討会議における検討、Ｇ７香川・高松情報通信大臣会合の成果等を踏
まえ、社会全体におけるＡＩネットワーク化をめぐる社会的・経済的・倫理的・法的課題を総合的に検討することを目的として、検討会議を発展的に改組したものであり、ＯＥＣ
Ｄ等におけるＡＩ開発ガイドラインの策定に向けた国際的な議論のための案の作成を進8めるとともに、様々な分野におけるＡＩシステムの利活用の場面を想定してＡＩネット
ワーク化が社会・経済の各分野にもたらす影響の評価等を進めている。

9

第１章 ＡＩネットワーク化をめぐる最近の動向
ＡＩに関する動きはめまぐるしく、ＡＩに関連する報道を目にしない日がないほどである。本章において、主として本推進会議が発足（平成 28 年 10 月 31 日）した後のＡＩネッ
トワーク化をめぐる動向を概観する 15。
１．国内の動向(1) 「ＡＩネットワーク社会推進フォーラム」（国際シンポジウム）
ＡＩ開発ガイドラインの策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的・法的課題に関し、日米欧等の産学民官のステークホルダが意見交換し、今後のＧ７、ＯＥＣＤ等における国際的な議論を推進することを目的として、平成 29 年３月
13 日及び 14 日に東京大学伊藤謝恩ホールにおいて、総務省の主催により「ＡＩネッ
トワーク社会推進フォーラム」（以下「フォーラム」という。
）を開催した 16。
フォーラムにおいては、本推進会議の顧問を含む構成員のほか、米、伊、独、仏、Ｅ
Ｕの政府関係者やＯＥＣＤの代表者、ＡＩの分野の国際的な議論をリードする主要団
体 17の代表者を含む国内外のトップレベルの有識者が参加し、意見交換を行った。
フォーラムにおける議論を通じて、主に次の事項に関し概ね意見の一致を見ることができたものと考えられる。
・ グローバルな議論を通じた合意形成➢

多様なステークホルダによるオープンでグローバルな議論を通じた合意形成が重要である。
➢ 継続的に議論を行っていくことが重要である。
・ 人間中心の社会の構築➢

ＡＩネットワーク化の便益が広く享受される人間中心の社会を構築すべきである。
➢ 教育、人材育成が重要である。
・ ＡＩネットワーク化のガバナンス➢

非規制的かつ非拘束的なアプローチ（いわゆるソフトロー）が適切である。

➢ 開発者は、説明責任を果たすことが重要である。
➢

連携、透明性、制御可能性、安全性、プライバシー、セキュリティ、公正などの観点が重要である。

15

本推進会議の発足以前のＡＩネットワーク化をめぐる動向については、報告書 2016 第１章
参照。
16
詳細は、参考資料参照。
17
Partnership on ＡＩ、Future of Life Institute（ＦＬＩ）等。これらの動向について
は、本章２．参照。

10

なお、フォーラム後、同年４月５日に開催された日米インターネット・エコノミー対
話民間会合において、米国側の参加者から、フォーラムにおいて議論された人間中心の社会を構築すべき等の考え方やＡＩ開発ガイドライン策定の必要性について強い賛同が示されるとともに、標準化の重要性についての指摘があった。
(2) 「世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画」
平成 29 年 5 月 30 日付けで閣議決定された「世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画」18において、ＡＩネットワーク化について、次のとおり記載された。
・ ＡＩネットワーク化が社会・経済にもたらすインパクトやリスクの評価の国際的な共有、関連する社会的・経済的・倫理的・法的課題の解決に資するガバナンスの在り方に関するＧ７、ＯＥＣＤ等の場における国際的な議論を通じた検討の推進。
(3) 関連する動向① 人工知能と人間社会に関する懇談会
第５期科学技術基本計画 19 （平成 28 年１月 22 日閣議決定）に掲げられた「Society5.0」20の実現の鍵である人工知能の研究開発及び利活用を健全に進展させるべく、人工知能と人間社会の関わりについて検討を行うため、内閣府特命担当大臣（科学技術政策）の下に「人工知能と人間社会に関する懇談会」が設置され 21、平成
18「世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画」は、従来の「世界最先端Ｉ
Ｔ国家創造宣言」に、官民データ活用推進基本法（平成 28 年法律第 103 号）第８条に規定する官民データ活用の推進に関する基本的な計画（官民データ活用推進基本計画）を加えた一体のものとして、高度情報通信ネットワーク社会推進戦略本部及び官民データ活用推進戦略会議が決定した上で、その内容に即して閣議決定がなされたものである。平成 29 年においては、
高度情報通信ネットワーク社会推進戦略本部及び官民データ活用推進戦略会議が同年５月 30
日付けで決定した上で、同日付けで、当該決定の内容に即して同宣言・計画を決定する旨の閣議決定がなされた。
19
科学技術基本法（平成７年法律第 130 号）に基づき、政府が長期的視野に立って体系的かつ一貫した科学技術政策を実行するために策定された基本計画。平成 28 年１月 22 日付けで、平成 28 年度～32 年度の第５期基本計画が閣議決定された。
20「Society 5.0」とは、サイバー空間とフィジカル空間（現実社会）を高度に融合させることにより、地域、年齢、性別、言語等による格差なく、多様なニーズ、潜在的なニーズにきめ細かに対応したモノやサービスを提供することで経済的発展と社会的課題の解決を両立し、人々が快適で活力に満ちた質の高い生活を送ることのできる、人間中心の社会である（科学技術イ
ノベーション総合戦略 2016 はじめに（３）<http://www8.cao.go.jp/cstp/sogosenryaku/2016.html>参照。）。
「Society 5.0」を通じて実現することが期待されている「超スマート社会」と、ＡＩネットワーク化を通じて目指すべき社会像として掲げる智連社会（Wisdom Network Society：ＷＩＮＳ）との関係について
は、中間報告書 13-14 頁注(4)参照。
21
この懇談会には、本推進会議の構成員のうち、江間開発原則分科会・影響評価分科会構成員、大内影響評価分科会構成員、新保構成員、鈴木幹事及び松尾構成員が構成員に就いている。また、この懇談会の事務局の事務を掌る内閣府政策統括官（科学技術・イノベーション担11

28 年５月 30 日に第１回会合が開催された。以降、平成 29 年１月 20 日までに６回の会合が開催され、同年３月 24 日に報告書を取りまとめ、公表した 22。
報告書においては、移動、製造、個人向けサービス、対話・交流の４つの代表的分野について様々な事例（ケース）を挙げて検討する手法がとられ、人工知能技術は人間の知的能力と行為を補助し、一部を代替し拡張することを可能とすることから、持続可能社会の強力な推進力になることが期待できるとした上で、倫理的論点、法的論
点、経済的論点、教育的論点、社会的論点、研究開発的論点について検討し考慮する必要があるとしている。
② 産業競争力懇談会
一般社団法人産業競争力懇談会（ＣＯＣＮ：Council on Competitiveness Nippon）23においては、平成 28 年度の推進テーマの一つとして「人工知能間の交渉・協調・連携による社会の超スマート化」に関する検討が産学官連携の下で行われることとなり 24、平成 28 年５月 23 日にキックオフ会合が開催された。以降、平成 29 年
1 月 19 日までに４回の会合が開催され、同年２月 15 日に報告書を取りまとめ、公表
した 25。
報告書においては、製造バリューチェーン自動接続、スマートシティ：電力・水、
スマートシティ：交通・人流、自動運転車・移動体の４つのユースケースが特に早急な取組が重要なユースケースとして選定されており、産業競争力強化のための提言
及び施策として、
・相互接続性・運用性が本質になるアイテム群を戦略的大型ＮＰ（National

Project）で一気に一体開発
・ 複数ユースケースを同時実装する特区等の指定により、必要な実証実験、詳細制
度設計と改善、社会受容性の醸成、ネットワーク外部性に起因する普及の壁の突破
・ 国際協調の場での議論を牽引し、標準や制度を日本のニーズに合った形に国際的に収斂を柱とした提言がなされている。
当）付参事官が本推進会議のオブザーバに就いている。
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www8.cao.go.jp/cstp/tyousakai/ai/summary/index.html>
23
国の持続的発展の基盤となる産業競争力を高めるため「科学技術政策」、「イノベーション政策」を提言として取りまとめ、政府に対して、その推進と支援の要請を行い、実現を図ることを目的として、平成 18 年に発足した民間団体（平成 27 年に一般社団法人となる。）。
24
ＣＯＣＮによる本テーマの検討のプロジェクトには、本推進会議の三部開発原則分科会構成員及び落合影響評価分科会構成員がメンバーに、本推進会議の事務を統括する総務省情報通信政策研究所調査研究部長がオブザーバ／アドバイザに就いている。また、ＣＯＣＮの事務局長
が本推進会議のオブザーバに就いている。
25
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.cocn.jp/thema94-L.pdf>
2212また、報告書においては、本推進会議の議論が随所に参照されているほか、本推進会議とＣＯＣＮとの連携について指摘されている。
③

人工知能技術戦略会議
平成 28 年４月 12 日に開催された「未来投資に向けた官民対話（第５回）」において、安倍内閣総理大臣から、人工知能の研究開発目標と産業化のロードマップを同年度中に策定するよう指示があり、この指示を受け、「人工知能技術戦略会議」が創設された 26。同会議が司令塔となって、総務省、文部科学省及び経済産業省が中心とな
り、ＡＩを利用する側の産業の関係省庁とも連携し、人工知能技術の研究開発と社会実装に向けた検討を進めることとなり、同月 18 日に第１回会合が開催された。
以降、
平成 29 年３月 17 日までに５回の会合が開催され、同月 31 日に「人工知能技術戦略」
及び「人工知能の研究開発目標と産業化のロードマップ」を取りまとめ、公表した 27。
「人工知能技術戦略」においては、人工知能とその他関連技術の融合による産業化、「健康、のロードマップが示され、当面取り上げるべき重点分野 28である「生産性」
医療・介護」、「空間の移動」の各分野について、目指すべき社会像とその実現に向けたフェーズごとの産業化のイメージが取りまとめられている。また、ロードマップの実現に当たっては、産官学の叡智を結集し取り組むことが必要であるが、３センタ
ー 29をはじめとする国の機関は、基盤的な技術の開発、高度な人材育成、公的データの整備、ベンチャー支援など産学官のプラットフォームの役割を担うべきであるとして、それぞれ具体的な取組例が示されている。
④

人工知能学会
人工知能学会の倫理委員会 30は、平成 28 年６月６日に開催された全国大会において、人工知能の研究開発者が遵守すべき倫理綱領の案を提示し、公開討論に付した。
その後、意見募集で提出された意見等を踏まえて改訂作業を進め、同年 12 月に倫理

26

人工知能技術戦略会議の議長には、本推進会議の安西顧問が就いている。
それぞれ次に掲げるＵＲＬのウェブサイトに所掲。
人工知能技術戦略：<http://www.nedo.go.jp/content/100862413.pdf>
ロードマップ：<http://www.nedo.go.jp/content/100862412.pdf>
28
産業化ロードマップとして当面、取り上げるべき重点分野を、①社会課題として喫緊の解決の必要性、②経済波及効果への貢献、③人工知能技術による貢献の期待、の観点から検討した結果、「生産性」、「健康、医療・介護」、「空間の移動」の３分野に加え、横断的な分野として「情報セキュリティ」の４つの分野が特定された。
29
情報通信研究機構 脳情報通信融合研究センター（ＣｉＮｅｔ）、ユニバーサルコミュニケー
ション研究所（ＵＣＲＩ）、理化学研究所 革新知能統合研究センター（ＡＩＰ）及び産業技術総合研究所 人工知能研究センター（ＡＩＲＣ）
30
人工知能学会倫理委員会には、本推進会議の松尾構成員が委員長に、江間開発原則分科会・影響評価分科会構成員、武田開発原則分科会構成員、西田幹事及び堀幹事・開発原則分科会技術顧問が委員に、栗原開発原則分科会構成員及び山川構成員がオブザーバに就いている。
27

13

要綱案の改訂版を策定した。さらに、倫理の専門家や編集委員会の意見を踏まえて改訂版に修正を施し、平成 29 年２月 28 日に『人工知能学会倫理指針』が理事会で承認され、公表した 31。
本倫理指針は、人工知能学会員の倫理的な価値判断の基礎となるものとして定められた指針であり、同学会員はこれを指針として行動するよう心がけるものとされ、
1.人類への貢献、2.法規制の遵守、3.他者のプライバシーの尊重、4.公正性、5.安全性、6.誠実な振る舞い、7.社会に対する責任、8.社会との対話と自己研鑽、9.人工知
能への倫理遵守の要請、から構成されている。特に第９条については、本指針に従って作られた人工物に対しても本倫理指針が適用されるという再帰性を含んでおり、特徴的なものであるとされている 32。
⑤

高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部） データ流通環
境整備検討会 ＡＩ、ＩｏＴ時代におけるデータ活用ワーキンググループ
高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）データ流通環境整備検討会において、多種多様かつ大量のデータを安全・安心に流通・利活用できる
環境整備に必要な措置の検討に資するため、ＡＩ、ＩｏＴ時代におけるデータ活用ワ
ーキンググループが設置され 33、平成 28 年９月 30 日に第１回会合が開催された。以降、平成 29 年２月 24 日までに９回の会合が開催され、同年３月に中間とりまとめを公表した 34。
中間取りまとめにおいては、分野横断的なデータ流通を阻害する課題を解決し、パーソナルデータを含めた多種多様かつ大量のデータの円滑な流通を実現するためには、個人の関与の下でデータの流通・活用を進める仕組みであるＰＤＳ（Personal
Data Store）、情報銀行、データ取引市場が有効であるとして、観光分野、金融・
フィンテック分野、医療・介護・ヘルスケア分野、人材分野、農業分野、防災減災分
野（災害発生時）の６分野のユースケースを整理している。

⑥

知的財産戦略本部 検証・評価・企画委員会 新たな情報財検討委員会

31

次に掲げるＵＲＬのウェブサイトに所掲。
<http://ai-elsi.org/archives/471>
32
人工知能学会倫理委員会委員長・松尾豊「人工知能学会 倫理指針について」（平成 29 年２月 28 日）参照。次に掲げるＵＲＬのウェブサイトに所掲。
<http://ai-elsi.org/archives/471>
33
このワーキンググループには、本推進会議の大橋構成員、宍戸構成員・開発原則分科会長代理及び新保構成員が構成員に就いている。また、このワーキンググループの事務局の事務を掌る内閣官房情報通信技術（ＩＴ）総合戦略室参事官が本推進会議のオブザーバに就いている。
34
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.kantei.go.jp/jp/singi/it2/senmon_bunka/data_ryutsuseibi/dai2/siryou2.pdf>14

知的財産戦略本部 検証・評価・企画委員会において、ＡＩの利活用が様々な産業に広がることが想定される中、ＡＩ生成物とその生成過程である「学習用データ」や「学習済みモデル」等の新たな情報財の保護・利活用の在り方について検討を行うた
め、新たな情報財検討委員会が設置され 35、平成 28 年 10 月 31 日に第１回会合が開催された。以降、平成 29 年３月 13 日までに７回の会合が開催され、同年３月に報告書を取りまとめ、公表した 36。
報告書においては、ＡＩの作成・利活用促進のための知的財産制度の在り方について、具体的に検討を進めるべき事項等として、学習用データの作成の促進に関する環
境整備、学習済みモデルの適切な保護と利活用促進が挙げられるとともに、ＡＩ生成
物の知財制度上の在り方について、具体的な事例を継続的に把握しつつ、引き続き検討すべきなどとされている。
２．海外の動向(1) 米国ホワイトハウス
ホワイトハウスは、2016 年（平成 28 年）５月３日付けで、ＡＩがもたらす利益とリスクに関する検討を開始することを発表し、同年５月から７月にかけて、大学やＮＰＯ等とともに、全米各地において計４回のワークショップを共催した 37。一連のワークシ
ョップでは、産業界、学界、市民社会、政府機関等のステークホルダが参加し、ＡＩと法・統治の関わり、社会的利益のためのＡＩ、ＡＩの安全性と制御、ＡＩ技術と社会・経済の関わり等について議論が行われた 38。
この一連のワークショップにおける議論及びその後の意見募集の結果を踏まえ、同年 10 月 12 日、国家科学技術会議（ＮＳＴＣ）及び科学技術政策局（ＯＳＴＰ）が中心となって取りまとめた報告書「人工知能の未来に備えて」を公表した。
報告書においては、規制制度、研究開発、経済・雇用、公正性・安全性、安全保障など幅広い項目が検討され、各項目に対応して、連邦政府機関等に対する 23 の提言がまとめられている。報告書の結論部では、政府が果たすべき役割として、・ 重要な問題について対話の場を設け、公の討論のためのアジェンダ設定を助けるこ

35

この委員会には、本推進会議の喜連川幹事及び福井開発原則分科会・影響評価分科会構成員が委員に就いている。
36
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2017/johoza
i/houkokusho.pdf>
37
シアトルで開催されたホワイトハウスとワシントン大学の共催によるワークショップには、主催者側からの招へいを受けて、総務省情報通信政策研究所調査研究部主任研究官が参加し、非公式会合において検討会議におけるＡＩ開発ガイドライン案に関する検討を紹介するとともに、参加者らと意見交換を行った。
38
https://obamawhitehouse.archives.gov/blog/2016/05/03/preparing-future-artificialintelligence15

と・ 利用の安全性及び公正性を注視し、規制の枠組みを公衆を守りながらイノベーションを促進するものに適合させること・ 熟練した多様な労働力の開発に加えて、基礎研究及びＡＩの公益への利用を支援す
ること・ より早く、より効果的に、より低いコストで公衆に奉仕するため、政府が自らＡＩを利用すること
・ ＡＩによる公共政策の各分野への変化を理解し適応するため、その能力を涵養し続けることが掲げられるとともに、実務家（practitioner）が確保すべき事項として、ＡＩ対応シ
ステムが、・ 統御可能であること
・ オープンで、透明で、理解可能であること
・ 人々と効果的に機能し得ること
・ その操作は人間の価値及び願望と一致し続けるであろうことが掲げられている 39。
また、同月 13 日付けで、ＮＳＴＣ ネットワーキング・情報技術研究開発小委員会
は、連邦政府の予算によるＡＩ研究（連邦政府自身のＡＩ研究のみならず、連邦政府の助成を受けた大学等のＡＩ研究を含む。
）の方針として「米国人工知能研究開発戦略」を策定した。戦略においては、連邦政府の予算によるＡＩ研究の目標として、社会に便益をもたらす新たなＡＩに関する知識及び技術を生み出しつつ、ネガティブな影響を最小化することが掲げられ、この目標を実現するために優先的に取り組むべき事項が設定されている 40。
さらに、ホワイトハウスは、同年 12 月 20 日付けで、報告書「人工知能、自動化、そして経済」を公表した。報告書においては、ＡＩによる自動化が経済や雇用に与える影響が分析され、ＡＩの開発への投資、ＡＩがもたらす変化に対応した教育改革、労働者の支援などの政策的対応が提言されている 41。 42

39White House, Preparing for the Future of Artificial Intelligence (2016).
National Science and Technology Council Networking and Information Technology
Research and Development Subcommittee, The National Artificial Intelligence Researchand Development Strategic Plan (2016).
41
White House, Artificial Intelligence, Automation, and the Economy (2016).
42
ホワイトハウスにおけるＡＩに関する検討について中心的な役割を担ったエドワード・フェルテン氏（前・ホワイトハウス科学技術政策局ＣＴＯ補佐官、プリンストン大学教授）がフォーラムに参加し、基調講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッシ
ョンに登壇し、ホワイトハウスにおけるＡＩに関する検討を紹介するとともに、本推進会議の構成員らと意見交換を行った。
40

16

(2) Partnership on ＡＩ
2016 年（平成 28 年）９月 28 日、ＡＩ技術のベストプラクティスを研究して形成し、ＡＩに関する公衆の理解を向上させ、ＡＩ及びその社会的影響に関する議論と関与のためのオープンなプラットフォームとして、Partnership on Artificial Intelligence
to Benefit People and Society（Partnership on ＡＩ）が設立された 43。
Partnership on ＡＩは、設立に当たり次に掲げる事項を「信条（Tenets）
」として公
表した。
・

ＡＩ技術ができるだけ多くの人々に裨益し、能力を与えるよう努める。

・ 一般市民を啓蒙し、その声を傾聴するほか、積極的にステークホルダを関与させて、焦点に対する意見を求め、我々の活動を周知させ、疑問に対処する。
・ ＡＩの倫理的・社会的・経済的・法的影響に関するオープンな研究と対話を約束する。
・ ＡＩの研究開発の努力は、広範なステークホルダの積極的な関与を得るとともに、彼らに説明可能なものとすることが必要である。
・ 領域固有の懸念及び機会が理解され対処されることの確保に資するよう、ビジネス
コミュニティのステークホルダに関与させ、その代表者の参画を得る。
・ ＡＩの便益を最大化し、ＡＩ技術の潜在的な課題に対処するため、個人のプライバ
シーとセキュリティの保護、すべての当事者の利益の理解と尊重、ＡＩの潜在的影響に関する社会的責任の確保、ＡＩの研究・技術の頑健性、信頼性、信用性、堅牢性の確保、国際条約や人権に反するＡＩ技術の開発・利用への反対、危害を与えないセーフガードと技術の推進に取り組む。
・ ＡＩシステムの動作は、その技術を説明するため、人々の理解と解釈が可能なもの
であることが重要である。
・ 上記の目標の達成に資するよう、ＡＩの科学者や技術者間の協力、信用及び開放性の文化を創造するよう努める 44。 4543

設立当初の企業構成員は、Amazon、DeepMind/Google、Facebook、IBM、Microsoft の５社
で、暫定共同議長は、エリック・ホロヴィッツ氏（Microsoft 技術フェロー）及びムスタファ・スレイマン氏（DeepMind 共同創業者）である< https://www.partnershiponai.org/>。
2017 年（平成 29 年）１月 21 日には、Apple が企業構成員に、米国人工知能学会、米国自由人権協会、オープン AI が非営利構成員に新たに加わるとともに、評議員に、企業構成員各社を代表する６名に加え、研究者や人権擁護団体の役職者ら６名が独立評議員として就任したことが公表された<https://www.partnershiponai.org/2017/01/partnership-ai-update/>。また、同年５月 16
日には、ソニー、イーベイ、インテル、マッキンゼー・アンド・カンパニーなど８社が新たに企業構成員に、ユニセフ、電子自由財団、ヒューチャー・オブ・ヒュマニティ・インスティチュート（ＦＨＩ）など 14 の組織・機関が新たに非営利構成員に加わったことが公表された https://www.partnershiponai.org/2017/05/pai-announces-new-partners-andinitiatives/。
44
https://www.partnershiponai.org/tenets/
45
Partnership on ＡＩから、暫定共同議長のエリック・ホロヴィッツ氏（Microsoft 技術フェ

17

(3) 米国電気電子学会（ＩＥＥＥ）
電気電子学会（ＩＥＥＥ）の人工知能及び自律的システムにおける倫理的考慮のためのグローバル・イニシアティブ 46は、2016 年（平成 28 年）12 月 13 日に報告書「倫理的に調整された設計－人工知能及び自律的システムにより人間の福利を優先させるビ
ジョン 第 1 版―公共の議論のために」を公表した。
報告書においては、人工知能（ＡＩ）／自律的システム（ＡＳ）の潜在能力から十分に便益を得るためには、それらの技術が我々の道徳的価値及び倫理的原則に照らして人間と調和するように確保することが必要であるとの問題意識に基づいて、道徳的価
値及び倫理的原則に照らして人間と調和するＡＩを設計する方法について技術者の議論を促すための論点が提示されている。
また、あらゆる種類のＡＩ／ＡＳに適用される高度な倫理的配慮を定式化し、・人権に関する最も高度な理念の具現化

・

人間及び自然環境への最大限の便益の優先

・

ＡＩ／ＡＳが社会技術システムとして発展することに伴うリスクと負の影響の緩和という３つの原則が掲げられている。
さらに、ＡＩ／ＡＳに人間の規範や価値を実装するための方法論を検討した上で、Ａ
Ｉ／ＡＳに関する経済的・人道的・法的課題について整理するとともに、汎用人工知能や自律型兵器に特有の問題についても論じられている 47。
報告書については、公表されてから 2017 年（平成 29 年）３月まで意見募集が行われた。意見募集の結果やＩＥＥＥにおける議論を踏まえ、報告書の第２版が同年秋頃に公表される予定である。 48ロー）及び評議員のグレッグ・コラード氏（Google Inc. 主席研究員）がフォーラムに参加した。ホロヴィッツ氏は特別遠隔講演・特別遠隔インタビュー（インタビュアーは本推進会議の堀幹事・開発原則分科会技術顧問）に登壇し、コラード氏は講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、Partnership on ＡＩや企業のＡＩに関する取組を紹介するとともに、本推進会議の構成員らと意見交換を行った。
46
イニシアティブは、その目標として、技術者コミュニティの検討作業のための重要な参照点となる認識及び提言（案）を提示すること並びにＩＥＥＥの標準（standard）策定のための提言を行うことを掲げている。
47
The IEEE Global Initiative for Ethical Considerations in Artificial Intelligenceand Autonomous Systems, Ethically Aligned Design: A Vision for Prioritizing Human

Wellbeing with Artificial Intelligence and Autonomous Systems, Version One - Request
For Public Discussion (2016).
48

ＩＥＥＥグローバル・イニシアティブに参加しているサイラス・ホーディス氏（ハーバード
大学ケネディ行政大学院ザ・フューチャー・ソサイエティＡＩイニシアティブ共同創設者）がフォーラムに参加し、ＡＩネットワーク化がもたらす豊かさと幸せに関するパネルディスカッ
ションに登壇し、ＡＩの倫理的課題等に関する議論を紹介するとともに、本推進会議の構成員らと意見交換を行った

18

(4) 英国下院
英国下院は、2016 年（平成 28 年）10 月 12 日付けで、科学技術委員会が同年９月 13
日付けで取りまとめた報告書「ロボティクスと人工知能」を公表した。
報告書においては、ロボット・ＡＩに関する社会的・倫理的・法的問題を検討した上で、政府に対して提言が行われている。ＡＩのガバナンスについては、ＡＩという生成途上の領域に包括的な規制を設けることは時期尚早である一方、ＡＩシステムの倫理的、法的及び社会的次元に関する注意深い精査を開始することが不可欠であるとした上で、実効的なガバナンスが継続的に評価され実行されるよう、検証と妥当性確認、意思決定の透明性、偏見の最小化、アカウンタビリティの向上、プライバシー、安全等の倫理的論点について継続的に注視することが必要であるとされている。また、ＡＩの発展に関する社会的、倫理的及び法的含意について検討するため、アラン・チューリング
研究所 49にＡＩに関する常設の委員会を設置するよう提言し、この委員会は、ＡＩ技術の開発及び利用を統治するための原則の策定等に注力すべきと勧告している 50。
(5) 欧州議会
欧州議会法務委員会は、2016 年（平成 28 年）４月にロボット・ＡＩの法的・倫理的問題に関する公聴会を開催するなどロボットに関する法的問題の検討を進めてきており、同年５月にロボットの民事法的ルールに関する報告書の草稿を公表し、同年 10 月には関連するワークショップを開催した。
一連の検討を踏まえ、欧州議会は、2017 年（平成 29 年）２月 16 日付けで、「ロボテ
ィクスに係る民事法的規則に関する欧州委員会への提言」を採択した。提言では、ＥＵはロボット・ＡＩの開発・設計・利用において尊重されるべき基本的な倫理原則を策定する上で不可欠な役割を果たせるとの認識が示されるとともに、倫理指針の枠組みは、恩恵、無害、自律及び正義の原則並びに人間の尊厳など欧州連合条約第２条及び欧州連
合基本権憲章に定められた原則・価値に依拠すべきであるとされている。その上で、ロボット・ＡＩに関する民事法上の問題を中心に検討を行い、ロボット・ＡＩを所管するＥＵ機関の設置、スマート・ロボットの登録、危害に関する損害賠償責任、知的財産権、相互運用性等の確保等について定めるＥＵ法の策定を欧州委員会に求める提言がなされている。また、基本権の尊重、予防原則、包摂性、アカウンタビリティ、安全性、可逆性、プライバシー、便益の最大化と危害の最小化などを内容とするロボット開発者向49

データサイエンスに関する英国の国立研究機関である。ケンブリッジ大学など５つの大学と英国工学・物理科学研究会議により設立された研究所であり、大英図書館に本部を置いている。
50
House of Commons Science and Technology Committee, Robotics and artificial
Intelligence: Fifth Report of Session 2016–17 (2016).

19

けの倫理的行動規範の策定についても提言されている 51。 52(6) Future of Life Institute（ＦＬＩ）
Future of Life Institute（ＦＬＩ）は、ジャン・タリン氏（Skype 共同開発者、
DeepMind 共同出資者）、イーロン・マスク氏（SpaceX 創業者、Tesla Motors 共同創業者）
、スティーブン・ホーキング氏（宇宙物理学者）ら起業家や研究者等により 2014 年（平成 26 年）３月に設立された非営利団体であり、頑健かつ有益なＡＩを実現するための研究等を実施している 53。
ＦＬＩは、2017 年（平成 29 年）１月に米国アシロマにおいて学界や産業界等の関係者の参加を得てＡＩの研究開発に関する会合を開催し、その成果として、同年２月に「アシロマＡＩ原則」を公表した。原則は、次に掲げる 23 の項目から構成されている。
・ 有益な知性の開発という研究の目標
・

ＡＩの有益な利用のための研究への投資

・

科学と政策の連携

・ＡＩ研究における協調、信頼、透明性の文化の促進

・

ＡＩシステムの安全基準を低下させる競争の回避

・ＡＩシステムの安全性とセキュリティ

・ＡＩシステムの事故時の透明性

・

司法の意思決定に関与する自律的システムの説明可能性

・ＡＩシステムの利用、悪用、動作に関する設計者及び製造者の責任・

高度に自律的なＡＩシステムの人間の価値への調和

・ ＡＩシステムの設計及び操作における人間の尊厳、権利、自由、文化的多様性の理
念への適合
・ パーソナルデータに関する個人のアクセス、管理、コントロールの権利
・ パーソナルデータの利活用時における自由とプライバシーの尊重
・ 可能な限り多くの人々の便益の享受と能力の向上
・ ＡＩにより生み出される経済的便益の人類による共有・ 人間によるＡＩシステムの制御
・ 社会的・市民的プロセスの破壊の禁止
・ 自律型兵器による軍拡競争の回避
・ 将来のＡＩの能力の上限の仮定の回避

51

European Parliament, European Parliament resolution of 16 February 2017 withrecommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)).

52

欧州議会から、ロバート・ブレイ氏（法務委員会事務局課長）がフォーラムに参加し、講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、欧州議会におけるＡＩに関する検討を紹介するとともに、本推進会議の構成員らと意見交換を行った。
53
https://futureoflife.org/

20

・

高度なＡＩがもたらす根本的な変化の重大性への注意

・ＡＩシステムがもたらすリスクの軽減

・

再帰的に自己改良を行うＡＩシステムの安全性と制御

・

超知能（Superintelligence）の開発における倫理的理念と人類の便益の追求

ＦＬＩは、インターネット上でこの原則への署名を募っており、現在、世界各国から
ＡＩ・ロボット研究者を中心に 3,600 名以上の個人から賛同を得ている 54。 55(7) ＯＥＣＤ（経済協力開発機構）
ＯＥＣＤは、2016 年（平成 28 年）11 月 17 日に人工知能をテーマとする技術予測フォーラム（Technology Foresight Forum：ＴＦＦ）を開催した。技術予測フォーラムには、本推進会議から、平野幹事・開発原則分科会長とクロサカタツヤ開発原則分科会・影響評価分科会構成員が参加し、ＡＩ開発ガイドライン等に関する本推進会議の検討状況を紹介した。加盟各国の参加者やＯＥＣＤ事務局らから、ＡＩ開発ガイドラインの策定に向けて国際的な議論と検討を進めることについて賛同する姿勢が示された。
また、2017 年（平成 29 年）５月 17 日から 19 日にかけて、デジタル経済政策委員会（Committee on Digital Economy Policy：ＣＤＥＰ）が開催され、総務省から３月に開催されたフォーラムの成果等を報告したところ、加盟各国の参加者やＯＥＣＤ事務局らから、ＡＩの開発等に関するガイドラインの策定に向けてＯＥＣＤにおいても議論と検討を進めていくことに賛同する姿勢が示された。
今後、同年 10 月にパリで総務省とＯＥＣＤの共催により開催される国際シンポジウ
ム、同年 11 月に開催されるＯＥＣＤデジタル経済政策委員会（ＣＤＥＰ）等において、ＡＩ開発ガイドラインの策定などＡＩネットワーク化の推進に関する国際的な議論が進められることが期待される 56。
（8）Ｇ７
2016 年（平成 28 年）４月 29 日及び 30 日に開催されたＧ７香川・高松情報通信大臣
会合（以下「Ｇ７会合」という。
）において、高市早苗総務大臣から、Ｇ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て、ＡＩネットワーク化が社会・経済に与える54

https://futureoflife.org/ai-principles/
ＦＬＩから、ジャン・タリン氏（ＦＬＩ共同創設者）がフォーラムに参加し、講演及びＡＩ
ネットワーク化のガバナンスに関するパネルディスカッションに登壇し、ＦＬＩにおけるＡＩに関する議論を紹介するとともに、本推進会議の構成員らと意見交換を行った。
56
ＯＥＣＤから、ダグラス・フランツ氏（事務次長）、ウォンキ・ミン氏（デジタル経済政策委員会議長）及びアン・カブラン氏（科学技術イノベーション局デジタル経済政策課長）がフォーラムに参加した。フランツ氏はビデオ講演を行い、ミン氏は講演に登壇し、カブラン氏は講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、ＡＩ開発ガイドライン策定への期待を表明するとともに、本推進会議の構成員らと意見交換を行っ
た。
55

21

影響やＡＩの開発原則の策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的課題に関し、産学民官の関係ステークホルダの参画を得て、国際的な議論を進めることの提案がなされ、各国から賛同が得られた。
2017 年（平成 29 年）５月 26 日及び 27 日にタオルミナにおいてＧ７首脳会議が開催され、その成果の一つとして付属文書「イノベーション、技能及び労働に関するＧ７
人間中心の行動計画」が取りまとめられた。付属文書においては、包摂的な経済成長及び経済発展のための不可欠な牽引役として、人工知能の開発及び利用を前進することが掲げられた。これを受けて、今年９月にトリノで開催されるＧ７情報通信・産業大臣
会合において、人工知能の開発及び利用の前進に向けた議論が深められる予定である 57。

57

2017 年（平成 29 年）のＧ７議長国であるイタリアから、ベネデッタ・アレーゼ・ルチーニ
氏（イタリア共和国経済財政大臣顧問）及びマルコ・ジリ氏（トリノ工科大学長）がフォーラムに参加した。ルチーニ氏はイタリア経済財政大臣特別メッセージ及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、ジリ氏は基調講演及びＡＩネットワー
ク化と人間社会に関する座談会に登壇し、Ｇ７におけるＡＩネットワーク化に関する議論の推進を表明等するとともに、本推進会議の構成員らと意見交換を行った。

22

第２章 ＡＩ開発ガイドライン
１．背景・経緯
平成 28 年４月 29 日及び 30 日に開催されたＧ７会合において、高市早苗総務大臣から、Ｇ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て、ＡＩネットワーク化が社会・経済に与える影響やＡＩの開発原則の策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的課題に関し、産学民官の関係ステークホルダの参画を得て、国際的な議論を進めることの提案がなされ、各国から賛同が得られた。
同年６月 20 日に、検討会議の報告書 2016 が公表され、今後の課題のうち第一の課題として「研究開発の原則・指針の策定」が提言されている。
同年 10 月 31 日に、検討会議を発展的に改組した本推進会議が発足し、第１回会合が開催された。本推進会議には、親会の下に開発原則分科会及び影響評価分科会が置かれ、このうち主に開発原則分科会において、国際的な議論のためのＡＩ開発ガイドライン案の作成に向けた検討を行ってきた。同年 12 月 28 日から平成 29 年１月 31 日にかけて、本推進会議において整理したＡＩ開発ガイドライン案の論点に関する意見募集を行い、産学民の多様なステークホルダから意見が寄せられた。
その後、平成 29 年 3 月 13 日及び 14 日に開催されたフォーラム（国際シンポジウム）58
において、ＡＩネットワーク化のガバナンスについて、人間中心の社会の実現を目的とすべきこと、非規制的かつ非拘束的なアプローチ（いわゆるソフトロー）が適切であること、開発者は説明責任を果たすことが重要であること、連携、透明性、制御可能性、安全性、
プライバシー、セキュリティ、公正などの観点が重要であること、といった議論がなされ、多様なステークホルダによるオープンでグローバルな議論を通じた合意形成が重要であり継続的に議論を行っていくことが重要であることに関し概ね意見の一致を見ることができたものと考えられる。
なお、第１章で詳述しているとおり、この間、欧米各国においても政府や民間においてＡＩに関する社会的・経済的・倫理的・法的課題に関する検討が加速し、活発な議論が行われた。フォーラム等における意見交換等を通じて、こうした海外の検討や議論についても情報収集を行い、本推進会議におけるＡＩ開発ガイドライン案の検討に当たり参考にしている。
２．整理された論点に関する意見募集の結果等を踏まえたＡＩ開発ガイドライン案の検討の方向性
意見募集に寄せられた意見等を踏まえ、ＡＩ開発ガイドライン案について、次のような方向で検討を進めてきた 59。
58
59

詳細については、第１章１．(1)及び参考資料参照。
意見募集に寄せられた主な意見の概要とそれらに対する考え方については、別紙２参照。提23

・ ＡＩ開発ガイドライン案を、開発者が遵守すべき基準を定めるものとしてではなく、開発者が留意して対応し、対応状況について利用者等に対しアカウンタビリティを果たすことが期待される事項に関し国際的に共有されることが期待される非拘束的な指針を示すものとして策定することを明確にした。
・ ＡＩ開発ガイドライン案の策定及び運用に当たっては、関連する多様なステークホル
ダ間のコミュニケーションを図り、ベストプラクティスの国際的な共有に資するものとすることを明確にした。
・

ＡＩ開発ガイドライン案における用語としての「ＡＩ」を(ア) ソフトウェアたる「ＡＩソフト」(イ) 「ＡＩソフト」を構成要素として含むシステムである「ＡＩシステム」を総称する概念とし、「ＡＩソフト」及び「ＡＩシステム」の定義を示した上で、「ＡＩソフト」及び「ＡＩシステム」の関係を整理することとした。
・

学習等により自らの出力やプログラムを変化させる機能に着目してＡＩソフトを定義することにより、ＡＩ開発ガイドライン案における用語としてのＡＩの定義が、現在既に実用化されている機械学習や深層学習等に基づく特化型ＡＩを主たる想定対象としつつ、今後開発される多種多様なＡＩについても、学習等により自らの出力やプログ
ラムを変化させる機能を有するものである場合には、含み得るものとすることを明確にした。
・ ＡＩ開発原則の対象範囲とするＡＩシステムは、ネットワーク化され得るＡＩシステ
ム、すなわち、ネットワークに接続され得るＡＩシステムとした。
・ 「開発者」の定義については、ＡＩシステムの研究開発（ＡＩシステムを利用しながら行う研究開発を含む。
）を行う者（自らが開発したＡＩシステムを用いてＡＩネット
ワークサービスを他者に提供するプロバイダを含む。）とした。
・ ＡＩ開発ガイドライン案の策定に当たっては、技術的中立性に鑑み、特定の技術（例：
深層学習等）や方法（例：アジャイル型の開発）に基づくＡＩの研究開発を阻害しない
よう、個々のＡＩに係る技術や方法の特性に応じてＡＩシステムの開発者に期待される開発原則への対応の在り方が異なり得ることを明示するなど十分留意することとした。
・ 開発者と利用者との責任の適切な分担に留意しつつ、ＡＩ開発ガイドライン案の検討を進めるとともに、利用者が留意して対応すべき事項に関する指針の在り方についても検討を進めることとした。
３．ＡＩ開発ガイドライン案の概要
本推進会議における検討を踏まえ、国際的な議論のためのＡＩ開発ガイドライン案を出された意見の全部について、次に掲げるＵＲＬのウェブサイトに所掲。
＜http://www.soumu.go.jp/main_content/000490102.pdf＞

24

作成した（別紙１）60。ＡＩ開発ガイドライン案は、ＡＩ開発において留意されることが期待される事項のうち各分野に共通する項目を整理したものである。以下、ＡＩ開発ガイ
ドライン案の概要を記すとともに、必要に応じて、趣旨を解説する。
(1) 目的ＡＩネットワーク化による国境を越えた便益及びリスクの波及などガイドライン策定に当たっての背景となる認識及び問題意識を述べた上で、本ガイドライン案の目的として「ＡＩネットワーク化の健全な進展を通じてＡＩシステムの便益の増進とリスクの抑制を図ることにより、利用者の利益を保護するとともにリスクの波及を抑止し、人間中心の智連社会 61を実現すること」を掲げている。
(2) 基本理念
上記(1)の目的に鑑み、次に掲げる理念を一体的に基本理念として掲げている（概要のみ）。
１．人間中心の社会の実現
２．指針とそのベストプラクティスのステークホルダ間での国際的な共有
３．便益とリスクの適正なバランスの確保
４．技術的中立性の確保と開発者の負担の軽減
５．本ガイドライン案の不断の見直しと柔軟な改定(3) 用語の定義及び対象範囲① 定義(2)基本理念に鑑み、本ガイドライン案における「ＡＩ」の概念を「ＡＩソフト及びＡＩシステムを総称する概念」と位置付けた上で、「ＡＩソフト」を学習等により自らの出力やプログラムを変化させるソフトウェアの機能に着目して定義し、その例として、機械学習ソフトウェアを挙げる一方で、「ＡＩシステム」を「ＡＩソフト
を構成要素として含むシステム」と定義し、その例として、ＡＩソフトを実装したロボットやクラウドシステムを挙げている。学習等により自らの出力やプログラムを変化させる機能に着目してＡＩソフトを定義する理由は、このように定義されたＡ
60

平成 29 年６月 14 日から同年７月７日までにかけて、「国際的な議論のためのＡＩ開発ガイ
ドライン案」を含め本報告書（案）に関する意見募集が行われた。意見募集に寄せられた意見等を踏まえ、推進会議において検討が行われた結果、本ガイドライン案について、説明を補足するなど、若干の修正が行われた。
61
智連社会（Wisdom Network Society）とは、ＡＩネットワーク化の進展の結果として、人間がＡＩネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」（Wisdom Network）を構築することにより、あらゆる分野におけるヒ
ト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となる社会である。詳細は、序章及び中間報告書 12-14 頁参照。

25

Ｉソフト及びそれを構成要素として含むＡＩシステムについては、学習等を通じた変化によって開発者が予見し抑制することが困難なリスクが生ずるおそれがあることなどから、従来のＩＣＴとは異なる特別の留意が求められることによる。
本ガイドライン案におけるＡＩの定義は、現在既に実用化されている特化型ＡＩを主たる対象として想定しているが、自律性を有するＡＩや汎用ＡＩ（Artificial
General Intelligence）の開発など今後予想されるＡＩに関する急速な技術発展を見据え、今後開発される多種多様なＡＩについても、学習等により自らの出力やプログラムを変化させる機能を有するものである場合には、含み得るものとしている 62。
これは、（１）本ガイドライン案におけるＡＩの定義を行うに当たっては、特定の技術や手法に基づくＡＩのみを念頭に置くことや特定の技術や手法に基づくＡＩを除外することは、基本理念４.に掲げる技術的中立性の確保の見地から適当ではない
こと、（２）ＡＩの技術発展はスピードが早くその方向性も多様かつ不確実であると（３）専門家の間でも汎用ＡＩの実現時期については予測が指摘されていること 63、（４）特化型ＡＩと汎用ＡＩは連続的なものであるとの見方も分かれていること 64、
62

本推進会議の構成員の意見及び意見募集に寄せられた意見においても、ＡＩの定義に関しては、人間と同程度の自律性を有するＡＩに限定すべきであるという意見から、自律性を有しない特化型ＡＩに限定すべきであるという意見まで、多様な意見が提示された。本ガイドライン
案においては、このような見解の多様性を踏まえ、学習等により自らの出力やプログラムを変化させる機能に着目してＡＩソフトを定義することにより、学習等により自らの出力やプログ
ラムを変化させる機能を有する多種多様なＡＩを包摂し得る一般的なＡＩの定義を試みている。また、一部の構成員からは、ＡＩソフト及びハードウェアやバイオなどソフトウェア以外の方法によりＡＩソフトの機能を実現するものを包含して「ＡＩモジュール」と定義し、ＡＩ
ソフトの概念に代えて用いるべきであるとの意見も提示されたが、現段階においては、「ＡＩモジュール」の概念について定まった理解が確立していないことなどから、本ガイドライン案
においては、差し当たりＡＩソフトを基本概念として採用しているが、定義の在り方も含め、ＡＩモジュールを構成要素とするＡＩシステムを本ガイドライン案の対象とするか否かについては、将来の検討課題とする。
63
例えば、Future of Life Institute（ＦＬＩ）の「アシロマＡＩ原則」では、原則（19）において、「将来のＡＩの能力についてのコンセンサスが存在しない以上、将来のＡＩの能力の上限について強い仮定を置くことは避けるべきである」と述べられている（https://futureoflife.org/ai-principles/）。
64
ホワイトハウスの報告書「人工知能の未来に備えて」においては、民間部門の専門家の共通認識及びこれに対するＮＳＴＣ技術委員会の同意として、汎用ＡＩは少なくとも数十年間は実現しないだろうとの見方を紹介した上で、慎重な立場からは超知能（superintelligence）がいつの日にか誕生する可能性に注意を払うことが求められるが、このような関心がＡＩに関する公共政策の主要な推進力となるべきではない旨が述べられている一方で、汎用ＡＩの実現プ
ロセスについては専門家の間でも意見が分かれているものの、ＡＩ研究者のうち人間レベルの汎用ＡＩが 2040 年までに実現する確率が 50％以上であろうと予測する者が半数にのぼることを指摘した上で、不確実性を踏まえ、今後のＡＩの発展への注視が必要である旨が提言されている（White House, Preparing for the Future of Artificial Intelligence 7-8, 23-24(2016)）。
一方、我が国の代表的なＡＩ研究者らにより設立された特定非営利活動法人全脳アーキテ
クチャ・イニシアティブは、脳全体のアーキテクチャをモデルにして研究を行うことにより、今後十数年以内に人間のような汎用ＡＩが開発されることになるとの見通しを示してい26

有力であり、両者を峻別することは必ずしも容易ではないこと 65、（５）自律性を有するＡＩや汎用ＡＩについては、将来的に実現した場合に、特化型ＡＩ以上に、社会や人間に広範なリスクを及ぼすおそれがあるのではないかとの懸念や不安も示されており、ＡＩへの利用者や社会の信頼を獲得するためには、このような懸念や不安に（６）本ガイドライン案は非拘束的な枠組みとして国際応接する必要があること 66、的に共有されることを目指していること、（７）国内外におけるＡＩの開発の在り方に関する検討においては、特化型ＡＩのみならず、自律性を有するＡＩや汎用ＡＩも射程に入れて検討を行うものが有力となっていること 67などに鑑みたものである。
る（https://wba-initiative.org/2357/）。
例えば、人工知能学会（監修）＝松尾豊（編著）『人工知能とは』147-153 頁［松原仁執筆］、221-222 頁［山川宏執筆］、236-237 頁［栗原聡執筆］（近代科学社、平成 28 年）、中西崇
文『シンギュラリティは怖くない―ちょっと落ちついて人工知能について考えよう』178-182
頁（草思社、平成 29 年）、日本経済新聞平成 29 年６月４日付朝刊「「脳の働き全て再現可能」―「アルファ碁」生みの親、デミス・ハサビス氏に聞く」、全脳アーキテクチャ・イニシアテ
ィブ「全脳アーキテクチャとは」（https://wba-initiative.org/wba/）等を参照。See also,
Demis Hassabis, The mind in the machine: Demis Hassabis on artificial intelligence,
FINANCIAL TIMES (April 21, 2017).
66
例えば、Future of Life Institute（ＦＬＩ）の「アシロマＡＩ原則」では、原則（20）において、長期的に高度なＡＩが地球上の生命にもたらす根本的な変化に注意深く備え対処すべきだとされた上で、原則（21）において、長期的にＡＩシステムがもたらすリスク（特に破壊的又は生存に関わるリスク）に備え、それを緩和する必要性が説かれるとともに、原則（22）において、再帰的に自己改良又は自己複製を行うよう設計されたＡＩシステムについて厳格な安全性及び制御措置に服する必要性が指摘されている（https://futureoflife.org/aiprinciples/）。
67
欧州議会が 2017 年２月に採択した報告書においては、自律性を有するスマート・ロボット
が主たる検討対象とされている（European Parliament, European Parliament resolution of
16 February 2017 with recommendations to the Commission on Civil Law Rules on
Robotics (2015/2103(INL))）。
Future of Life Institute（ＦＬＩ）の「アシロマＡＩ原則」においては、ＡＩ一般に適用される原則に加え、高度な自律性を有するＡＩや汎用ＡＩを念頭に、それらの安全性や倫理的問題に関する原則を策定している（https://futureoflife.org/ai-principles/）。
米国電気電子学会（ＩＥＥＥ）グローバル・イニシアティブが公衆の議論及び意見募集に供するため公表した報告書「倫理的に調整された設計」においては、あらゆる種類のＡＩ／自律型システム（ＡＳ）に適用される高度な倫理的配慮を定式化するための論点が提示されるとともに、汎用ＡＩに特有の倫理的問題等についても検討が行われている（The IEEE Global
Initiative for Ethical Considerations in Artificial Intelligence and Autonomous
Systems, supra note (47)）。
ＯＥＣＤのアン・カブラン氏（科学技術イノベーション局デジタル経済政策課長）も、フォーラムにおいて、ＡＩ開発ガイドラインは、現に開発されているＡＩに加え、将来開発が見込まれるＡＩも見据え、策定される必要がある旨を発言している。
我が国の人工知能学会の策定した「倫理指針」も、第９条において「人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない」と定め、将来開発される可能性のある人間と同等の高度な自律性を有するＡＩを念頭に置いた原則を盛り込んでいる（http://ai-elsi.org/wpcontent/uploads/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A%E5%8
0%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf）
。
65

27

本推進会議においては、上述の理由などに鑑み、特化型ＡＩに加えて、自律性を有するＡＩや汎用ＡＩも射程に入れてＡＩの定義を行うべきだという意見が大勢を占めた。一方、汎用ＡＩの実現時期については様々な見方があることに鑑みると、現時
点で本ガイドライン案におけるＡＩの定義に汎用ＡＩを含めることは適当ではなく、技術開発の動向を見極めながら、適切なタイミングで汎用ＡＩの扱いについて改めて検討すべきであるとの意見もあった。この意見に対し、本ガイドライン案は、利用者から見て納得のできる常識的な内容であり、ＡＩの開発において当然に留意することが期待される原則から構成されていることから、現時点で汎用ＡＩを本ガイド
ライン案の対象範囲に含めることは適当ではないとする開発者の姿勢は利用者に不安を与えるのではないかとの意見もあった。
このような多様な議論を踏まえ、本ガイドライン案においては、基本理念４.に掲
げる技術的中立性の確保の見地などから、上述のとおりＡＩを定義しており、今後開発される多種多様なＡＩについてもその機能次第で含み得るものとしている。なお、
本ガイドライン案におけるＡＩの定義の在り方については、ＡＩの技術発展の動向等を踏まえ、今後継続的に議論を行っていくことが必要である。
また、本ガイドライン案に関係する主体として、ＡＩシステムの「開発者」及び「利用者」を定義している。
「開発者」は、自らの開発したＡＩシステムを用いてＡＩネットワークサービスを他者に提供するプロバイダを含め、ＡＩシステムの研究開発を行う者として定義している。「利用者」は、最終利用者（エンドユーザ）のほか、他者が開発したＡＩシステムを用いてＡＩネットワークサービス（情報通信ネット
ワークを通じてＡＩシステムの機能を提供するサービスをいう。以下同じ。
）を第三者に提供するプロバイダを含む形で定義している。
なお、ＡＩ開発ガイドライン案は、主に開発者がＡＩの開発において留意することが期待される事項から構成されたものであるが、ＡＩは利活用時の学習等によりその出力やプログラムを変化させる可能性があることなどから、利用者がＡＩの利活用において留意することが期待される事項から構成されるＡＩ利活用ガイドラインの策定などＡＩの利活用のガバナンスの在り方についても、国際的な議論に向けて、今後検討を進めていくことが期待される。
② 対象範囲本ガイドライン案の対象とするＡＩシステムの範囲は、ＡＩシステムがネットワ
ークを通じて国境を越えて利用され、広く人間及び社会に便益やリスクをもたらす
一方、内閣府の人工知能と人間社会に関する懇談会の報告書は、汎用ＡＩが近未来に実現される可能性は低いとの見解などを紹介した上で、「現存する人工知能技術、あるいは近未来に実現することが確実な人工知能技術」を対象として、ＡＩの倫理的・法的・経済的・社会的論点等について検討を行っている（人工知能と人間社会に関する懇談会「報告書」8-10 頁（平成 29 年））。

28可能性があることから、ネットワーク化され得るＡＩシステム（ネットワークに接続可能なＡＩシステム）としている。ネットワーク化され得るＡＩシステムを本ガイド
ライン案の対象とする理由は、ネットワーク化され得るＡＩシステムについては、ネットワークを通じて国境を越えて即時に便益及びリスクが波及する蓋然性が高い一方で、ネットワーク化され得ないＡＩシステムについては、国境を越えて即時に便益及びリスクが波及する蓋然性は低いと考えられることから、前者については、後者と異なり、開発者が留意することが期待される事項を国際的に共有する必要性が高い
ものと考えられることによる。
本ガイドライン案の対象とする開発者の範囲は、本ガイドライン案が拘束的ではないソフトローとしての指針であることに鑑み、定義された開発者すべてとしている。
本ガイドライン案の対象とする開発の範囲は、学問の自由の尊重、社会に与える影
響の大きさ等に鑑み、閉鎖された空間（実験室、セキュリティが十分に確保されたサンドボックス等）内での開発は対象とせず、ネットワークに接続して行う段階としている。
(4) ＡＩ開発原則
ＡＩ開発原則として、次の９原則を掲げている。
（主にＡＩネットワーク化の健全な進展及び便益の増進に関する原則） 68① 連携の原則-----開発者は、ＡＩシステムの相互接続性と相互運用性に留意する。
（主にリスクの抑制に関する原則）② 透明性の原則-----開発者は、ＡＩシステムの入出力の検証可能性及び判断結果の説明可能性に留意する。
③ 制御可能性の原則-----開発者は、ＡＩシステムの制御可能性に留意する。
④ 安全の原則-----開発者は、ＡＩシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
⑤ セキュリティの原則-----開発者は、ＡＩシステムのセキュリティに留意する。
⑥ プライバシーの原則-----開発者は、ＡＩシステムにより利用者及び第三者のプ
ライバシーが侵害されないよう配慮する。
⑦ 倫理の原則-----開発者は、ＡＩシステムの開発において、人間の尊厳と個人の自律を尊重する。

68

連携の原則は、ＡＩネットワーク化の健全な進展を通じてＡＩシステムの便益を増進することを主たる目的とするものであるが、リスクの抑制に関する複数の開発者の取組が相互に調和して有効に機能するようにすることも目的として含むものである。

29

（利用者等の受容性の向上に関する原則）⑧ 利用者支援の原則-----開発者は、ＡＩシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する。
⑨ アカウンタビリティの原則------開発者は、利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
(5) ＡＩ開発原則の解説
各原則の留意事項について解説を付している。各原則の解説に共通するおおよその方向性として、次の事項が挙げられる。
・

ＡＩシステム相互間の連携やＡＩシステムと他のシステムとの連携を円滑化すること。
・ 開発者間で情報を共有し協力すること。
・ 国際的に共有された指針や標準・規格が確立されている場合には、当該指針や当該標準・規格を参照すること。
・ 技術的中立性に鑑み、各々のＡＩシステムにおいて用いられる技術の特性や用途に照らし可能な又は合理的な範囲で各原則の留意事項に対応すること。
・ＡＩシステムの学習等による出力又はプログラムの変化の可能性に留意して利用者が適切な対応を取ることが可能となるよう、利用者に対し情報提供すること。
・ ＡＩシステムについて、リスク評価のための検証及び妥当性の確認 69 を行うとともに、開発の過程を通じて適切に措置を講ずること。
・ ＡＩ開発原則への対応状況に関し、利用者等関連するステークホルダに対しアカウ
ンタビリティを果たすこと。
(6) 関係するステークホルダの役割
別添では、本ガイドライン案を踏まえ、関係する産学民官のステークホルダに期待される役割の例を掲げている。概要は、次のとおりである。
・ 【各国政府及び国際機関】多様なステークホルダ間の対話の促進に向けた環境整備
・ 【開発者、市民社会を含む利用者など関係するステークホルダ】対話によるベスト69

欧米の政府や民間におけるＡＩシステムの制御可能性、安全性、セキュリティ等に関する検討においても、リスクを評価し抑制するための手法として、検証（verification）[※形式的な整合性の確認]及び妥当性の確認（validation）[※実質的な妥当性の確認]を求めるものが有力になっている（The Future of Life Institute (ＦＬＩ), Research Priorities for

Robust and Beneficial Artificial Intelligence (2015) , National Science andTechnology Council, The National Artificial Intelligence Research and Development
Strategic Plan (2016), House of Commons Science and Technology Committee, Robotics
and artificial intelligence, Fifth Report of Session 2016–17 (2016)）。

30

プラクティスの共有とＡＩの便益及びリスクに関する認識の共有・協力 70
・ 【標準化団体等】本ガイドライン案の趣旨に適う推奨モデルの作成・公表 71
・ 【各国政府】ＡＩの開発者コミュニティ及びＡＩに関する研究開発の支援
４．今後の展開
本推進会議が作成したＡＩ開発ガイドライン案を踏まえ、今後、平成 29 年 9 月にトリノで開催されるＧ７情報通信・産業大臣会合、同年 10 月にパリで総務省とＯＥＣＤの共催により開催される国際シンポジウム、同年 11 月に開催されるＯＥＣＤデジタル経済政策委員会（ＣＤＥＰ）等において、国際的に共有される非拘束的なＡＩ開発ガイドラインの策定に向けて、国際的な議論が進められることが期待される。また、我が国においても、ＡＩ開発ガイドラインの策定に向けた国際的な議論をリードすることができるよう、本推進会議が作成したＡＩ開発ガイドライン案を踏まえ、産学民官の関係するステークホ
ルダにおいて継続的に議論が進められ、合意形成が図られることが期待される。
なお、ＡＩシステムの研究開発は多様な分野に及び、分野ごとにＡＩシステムのもたらす便益やリスクは異なる可能性があることに鑑みると、分野ごとの事情に応じて留意す
ることが期待される事項については、ＡＩの開発の在り方のうち分野共通的な事項について定めるＡＩ開発ガイドラインの上部に接合される分野別ガイドラインとして、策定の要否を含め、各分野の国際機関を含む関係するステークホルダによる議論が行われる
ことが期待される。
また、ＡＩシステムはその利活用の段階において学習等により出力やプログラムが継続的に変化すること等から、開発段階のみならず利活用段階においても留意することが期待される事項が想定されることに鑑みると、ＡＩ開発ガイドラインとは別に、利用者（最終利用者（エンドユーザ）のほか、他者が開発したＡＩシステムを用いてＡＩネット
ワークサービスを第三者に提供するプロバイダを含む。
）が留意することが期待される事
項等により構成されるＡＩ利活用ガイドラインの策定などＡＩの利活用に関するガバナ
ンスの在り方についても、国際的な議論が行われることが期待される。

70

Partnership on ＡＩも、ＡＩ技術に関するステークホルダ間の対話やベストプラクティスの共有に積極的な姿勢を示している（https://www.partnershiponai.org/）。
71
倫理的考慮を組み込んだＡＩの設計に関する標準の在り方につき検討するものとして、
see e.g., The IEEE Global Initiative for Ethical Considerations in Artificial
Intelligence and Autonomous Systems, supra note (47).

31

第３章 ＡＩネットワーク化が社会・経済にもたらす影響
１．背景・経緯(1) ＡＩネットワーク化に関するリスク・シナリオ分析
報告書 2016 において、近い将来に社会の様々な場面において利活用の急速な拡大が見込まれるロボット 72 を題材として、ＡＩネットワークを利活用する具体的な場面を想定したシナリオの作成を試み 73、シナリオに即したリスク対処の在り方を検討した結果が紹介されている。
そこでは、ＡＩネットワーク化の進展に伴いロボットに関し想定され得るリスクのシナリオを試行的に例示しつつ分析を行い、・ＡＩネットワークの利活用の様々な場面における局所的な制御喪失のリスクへの対応が速やかに求められること・ 事故等のリスクが顕在化した場合には、ネットワークを通じて他のＡＩシステム等にリスクが波及する可能性があり、ＡＩネットワーク全体のレベルでリスクの顕在化の連鎖に対処するための取組が必要であること
等の知見を得ることができた。
ここで示されたシナリオは、あくまでも試行的に例示されたものに過ぎず、今後、社会の各分野のステークホルダの参画を得つつ、ＡＩネットワーク化の進展等に応じて、
リスク・シナリオを拡充するとともに、その内容やリスク評価等を不断に見直すなど、
リスク・シナリオについて継続的に検討を行い、リスク・シナリオの共有を図り、シナリオに基づくリスク対処を進めていくことが求められるとされている 74。
また、今後の課題として、リスク・シナリオの作成・共有に向けて、
・

ＡＩネットワークの利活用の場面を想定した各種のリスクに関するシナリオの作

成・ シナリオに基づくリスク対処（リスク評価、リスク管理、リスク・コミュニケーシ
ョン）の推進・

ＡＩネットワーク化の進展等に応じたシナリオの継続的な見直し

・

シナリオを踏まえた政府の取組の在り方の検討

72

自律性を有するＡＩを実装するロボットだけではなく、ＡＩネットワークを通じて機能するロボットも対象としている。
73
機能に関するリスク（セキュリティに関するリスク、情報通信ネットワークシステムに関するリスク、不透明化のリスク、制御喪失のリスク）について８とおり、法制度・権利利益に関するリスク（事故のリスク、犯罪のリスク、消費者等の権利利益に関するリスク、プライバシ
ー・個人情報に関するリスク、人間の尊厳と個人の自律に関するリスク、民主主義と統治機構に関するリスク）について 12 とおり、計 20 とおりのシナリオを作成した。これらのシナリオ
は、その作成に当たり、検討会議の構成員のうち、特に赤坂構成員、板倉構成員、クロサカ構
成員及び中西構成員の協力を得たものである。
74
詳細については、報告書 2016 第４章参照。

32

が提言されている 75。
(2) 本推進会議における検討検討会議を発展的に改組した本推進会議においては、親会の下に開発原則分科会及び影響評価分科会が置かれ、このうち主に影響評価分科会において、ＡＩネットワーク
化が社会・経済にもたらす影響（インパクト及びリスク）の評価に関する検討を行ってきた。
本推進会議においては、報告書 2016 の提言を踏まえて、ＡＩネットワーク化に関するリスクのみならず、インパクト（主に良い影響、便益）についても併せて評価することが重要であるとの認識の下、ＡＩネットワーク化が社会・経済にもたらすインパクト及びリスクに関し、ＡＩシステムの具体的な利活用の場面（ユースケース）を想定したインパクト及びリスクの評価（シナリオ分析、将来展望）として、・ 国際的な議論のためのＡＩ開発ガイドライン案の検討に向けた先行的評価
・

ＡＩシステムを利活用する分野ごとの分野別評価を実施した 76。
なお、インパクト及びリスクの評価の対象とするＡＩシステムの具体的な利活用の場面（ユースケース）については、先行的評価においては、国内外における関連する議論を進めている機関等が提示している既存のユースケース 77 を基礎として本推進会議
が整理したユースケース、分野別評価においては、ＡＩシステムを利活用する分野の構成を利用者の視点から（ユーザ・セントリック・アプローチ）区分した上で本推進会議
が整理したユースケースを用いることとした。

75

詳細については、報告書 2016 第５章 11.参照。
先行的評価は、ＡＩシステム相互間の連携によりインパクトが増大することの具体的な可能性を展望するとともに、セキュリティやプライバシー等に関するリスクを具体的に想定することにより、その結果から得られる示唆を国際的な議論のためのＡＩ開発ガイドライン案の検討に役立てることを主たる目的として実施したものである。これは、同ガイドライン案の検討に当たっては、ＡＩシステムの利活用の場面におけるインパクトやリスクに関する具体的な展望を得た上で各原則の内容等を検討すべきとの指摘があったことによるものである。
分野別評価は、その結果から得られる示唆を今後のＡＩシステムの利活用のガバナンスの在り方（後述（第４章(2)参照））の検討に役立てることを主たる目的として実施するものであるが、得られる示唆の内容によっては、国際的な議論のためのＡＩ開発ガイドライン案の更なる見直し等にも役立てる場合があり得る。本報告書においては、先んじて実施した３分野の評価の結果を掲げているが、今後はこの３分野以外の９分野について評価を進める予定である。
77
スタンフォード大学「ＡＩ１００」<https://ai100.stanford.edu/>、人工知能と人間社会に関する懇談会<http://www8.cao.go.jp/cstp/tyousakai/ai/>、一般社団法人産業競争力懇談会（ＣＯＣＮ）<http://www.cocn.jp/>が掲げるユースケース、構成員から提供されたユース
ケース等。
76

33

２．先行的評価(1) 評価の枠組み
先行的評価については、「ＡＩシステム相互間の連携前の段階（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援す
る段階）」と「ＡＩシステム相互間の連携後の段階（ＡＩシステム相互間のネットワー
クが形成され、利用者の便益が飛躍的に増大する段階）」とでは、ＡＩネットワーク化のインパクトやリスクが異なり得るものと考えられることから、この２段階に分けて評価を行うこととした。
インパクト及びリスクの評価に当たっては、インパクトについては、ＡＩシステムを利活用することにより、従来人間には不可能又は困難であったことが可能となること
や、効率化や精度の向上等が図られることをインパクトとして評価することとした。他方、リスクについては、ＡＩシステムの利活用に伴い新たに生ずるリスク（ＡＩネット
ワーク化固有のリスク）だけではなく、ＡＩシステムを利活用しない場合と比べて増加するリスクやＡＩシステムを利活用しない場合と比べて軽減するものの、利活用する
場合における事故等による被害の規模や波及がある程度大きいリスクについても評価の対象とすることとした 78。
なお、セキュリティに関するリスク（ＡＩシステムがハッキングされること等により機能不全に陥るリスク等）、不透明化のリスク（多重かつ複雑に連携しているＡＩシス
テムの一部の動作が不透明化することに伴い、ネットワークを介してつながるＡＩシ
ステムの動作全体が不透明化するリスク等）、制御喪失のリスク（ＡＩシステムが攻撃を受けたり、不具合が生じたりすることにより、制御が困難又は不可能となり、当該Ａ
Ｉシステムとネットワークを介してつながるＡＩシステム全体が機能不全に陥るリス
ク等）については、各ユースケースに共通するリスクと考えられることから、個々のユースケースの評価において個別には記載しないこととしている 79。

78

インパクト及びリスクのいずれについても、あくまでも典型的に想定され得るものの一部を例示として記載しているだけであり、網羅的なものではないことに留意することが必要である。
79
これらのリスクへの対処が重要であることは言うまでもない。むしろ、共通するリスクであるからこそ、これらのリスクへの対処が特に重要となる。

34

(2) 先行的評価
先行的評価については、国内外における既存のユースケースを基礎として整理する
ユースケースを用いることから、ここでは、ＡＩシステムの利活用の分野を主に社会・経済における製品・サービスの供給面の領域の別に応じて、次に掲げるユースケースを対象として評価を行った。
・ 災害対応に関するユースケース

・ 製造・保守に関するユースケース

・ 移動（車両）に関するユースケース

・ 農業に関するユースケース

・ 健康に関するユースケース

・ 金融（融資）に関するユースケース

・ 教育・人材育成に関するユースケース

・ 公共・インフラに関するユースケース

・ 小売・物流に関するユースケース

・ 生活に関するユースケース

先行的評価においては、これらのユースケースごとに、次に掲げる災害対応に関する例のように、ＡＩシステムの利活用に関するインパクト及びリスクの評価を行った。各
ユースケースの評価の結果の詳細は、別紙３のとおりである 80。

80

各ユースケースに記載されているＡＩシステムの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。

35

１ ．災害対応に関するユースケース
災害が発生した際にＡＩシステムを利活用することにより、救助、支援業務等が効率化、高度化。
ＡＩシステム相互間の連携後には、救助や支援業務、救急搬送、支援物資の運搬及び分配について、連携の対象となる業務全体としてのリアルタイムでの最適化に向けた提案又はその実施が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 被災者（要救助者）のスマートフォンやウエアラブル端末から得られる様々な情報（位置情報やバイタルデータ等）を A
Ｉシステムが解析し、要救助者の容体の変化に応じて、救助を要請する。
〇 カメラを搭載したドローンが空からの目視が困難な被災者の探索を行い、救助を要請する。
〇 避難所で生活する被災者に対し避難所生活や復旧に関する情報を提供する。また、健康情報や生活情報等をもとに健康状態を推定しアドバイスを送る。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、時々刻々と変化する要救助者の状況や被災状況、被害予測に基づき、リソースや物資の需給バランスのリアルタイムでのシミュレーションを行い、〇 救助や支援業務に要するリソースの最適な配分を提示して、その作業全体のリアルタイムでの最適化に向けた提案をする。
〇 救急搬送や物資運搬のための最適なルートを設定し、車両等の運用全体のリアルタイムでの最適化に向けた提案をする。
〇 各避難所における支援物資の需給及び運搬車の運用状況のマッチングにより、物資の運搬及び分配全体のリアルタイムでの最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。

【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞
シナリオ上想定される利活用＜リスク評価＞
シナリオ上想定されるインパクト（例）

シナリオ上想定されるリスク（例）リスク評価（例）被災者（要救助者）からの救助要請

・要救助者の早期発見、早期救助につながる。

・誤った推定・判断により、本来必要とされる救助が要請されないおそれがある。

生命身体に危害が及ぶリスクの評価

ドローンによる被災者の探索

・人間では探索が困難な被災者の発見、救助が可能となる。

・通信の遅延や情報通信ネットワークの遮断、ハッキング等により機能不全に陥ったりするおそれがある。

情報通信ネットワー
クのオペレーション
評価

避難所生活に関する助言や健康状態の推定

・被災者の不安を取り除き、復旧に対する意
欲をかきたて、健康維持管理や病気の予防や感染症の拡大防止に役立つ。

・被災者に関する重要な情報がインプット
されていなかったこと等により、被災者に誤ったアドバイスを行い被災者の健康状態を害するおそれがある。

生命身体を害する影響等の評価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト（例）

シナリオ上想定されるリスク（例）リスク評価（例）

要救助者の状況や被災状況等に応じた救助や支援業務全体のリアルタイムでの最適化に向けた提案又はその実施

・時々刻々と変化する状況に即応して救助や支援業務全体の最適化を図ることが可能となる。

・ＡＩシステムを利活用しない者が救助や支援の対象から外され、又は不当に順番が劣後されるおそれがある。

生命身体に危害が及ぶリスクの評価

救急搬送や物資運搬のための最適なルート設定、車両等の運用全体のリア
ルタイムでの最適化に向けた提案又はその実施・被災状況や活用できるリソースに応じ、車両等の運用全体の最適化を図ることが可能となる。

・一部のＡＩシステムが個別最適を目指して過剰な要求を行った結果、全体の最適化が実現しないおそれがある。

支援物資の分配全体のリアルタイムでの最適化に向けた提案又はその実施

・避難所ごと、自治体ごとに支援物資の分
配・運搬全体の最適化を図ることが可能となる。

・誤った情報（デマ等）が溢れる中、正しい情報に基づく適切な判断、提案ができな
いおそれがある支援物資やリソースの過不足に及ぼす
影響の評価

誤って認識・推測する確率の評価リスク管理（例）

リスク・コミュニケーション（例）・ＡＩシステムによる予測の精度の乖離を許容する範囲の設定・判断又は決定をＡＩシステムに委ねる範囲及び条件の設定
・複数のＡＩシステム間の連携に関する仕組みの確立（インターフェース標準化やプロトコルの変換等）

・災害時におけるステークホルダ間の平常時からの双方向的な対話・協働の場の形成・緊急時のコミュニケーション（クライシス・コミュニケーション）を平常時のリスク・コミュニケーションとは区別して実施できる体制の整備（注）想定される利活用のうち、主なものについて記載

36

(3) シナリオ分析から得られた示唆
先行的評価におけるシナリオ分析から、次のような示唆を得ることができた 81。
・ 同じ領域内においても様々なＡＩシステム相互間の連携が可能となることにより、
ＡＩシステム相互間の連携前におけるインパクトに加えて、特に連携に係るＡＩシ
ステムを利活用する業務全体を通じたリアルタイムでの最適化など更に大きなインパクトがもたらされる 82。
＜ＡＩシステム相互間の連携の例＞➢

災害対応： 救急搬送や物資運搬のための最適なルートを設定し、車両等の運用
全体のリアルタイムでの最適化に向けた提案をする。

➢

健康： 医療機関と消防機関等との間において、救急車、病院の受入態勢等についてリアルタイムで調整を行い、搬送及び治療全体のリアルタイムでの最適化に向けた提案をする。

➢

製造・保守： 複数の企業が保有するリソース・技術等がＡＩシステムを通じて連携し、生産計画の策定や生産ラインを企業横断的に調整し、リソース活用等の全体としての最適化に向けた提案をする。
※

それぞれの利活用において、ＡＩシステムに決定まで委ねる場合には、提案

内容のリアルタイムでの実施が可能となる。
・ 複数のユースケースにおいて、次に掲げる例のように共通して想定されるリスクが見受けられる。これらのリスクは、今回対象としたユースケース以外のＡＩシステムの利活用においても広く想定され得るものであることから、特に留意が必要となるものと考えられる。
＜共通して想定されるリスクの例＞➢

ＡＩシステムやロボット等がハッキングされること等により、不正に操作されたり、機能不全に陥ったりするおそれ、個人情報（センシティブ情報（病歴や健康状態等）を含む。
）や機密情報が流出するおそれがある。
➢

一部のＡＩシステムが個別最適を目指して過剰な要求を行い続けるなどネットワークを介してつながるＡＩシステム相互間の調整に関する技術的又は法的な仕組みが有効に機能しない結果、全体としての最適化の実現が妨げられるおそれがある。
➢

なりすましや偽装による不正取引・契約、不正注文が行われるおそれがある。

・ これらのリスクへの対処として、リスク管理、リスク・コミュニケーション等が重要となるものと考えられる。また、これらのリスクへの対処は、便益の増進とも密接に関連し得るものである。

81

ＡＩネットワーク化の健全な進展に向けた今後の課題の検討に当たって留意すべき事項については、分野別評価におけるシナリオ分析から得られた示唆と併せて本章５．に記載。
82
長尾・前掲注（８）２頁参照。

37

＜リスク管理、リスク・コミュニケーションの例＞➢

専門家による学習データやパラメータのチューニング等による精度向上、継続的なモニタリングの実施➢ 認証等のセキュリティ対策の実装、データの匿名化・暗号化の実施、個人情報の運用・管理ガイドラインの策定➢ ステークホルダ間の双方向的な対話・協働の場の形成
３．分野別評価(1) 評価の枠組み
分野別評価における分野の区分については、ＡＩネットワーク化の進展に伴いＡＩシステムの利活用をめぐるエコシステムが複雑化していくものと考えられることに鑑み、将来社会の在り方に関するフォアキャスト的なアプローチとバックキャスト的なアプローチの双方を採り入れ、次の事項を念頭に置き、次表のように整理した。
・ ＡＩネットワーク化が主としてＡＩシステムの「利用者」（特に最終利用者）にどのような便益やリスクをもたらし得るのかを重視し、利用者を「個人」、「公共」及び「産業」の３つに区分した上で、「個人」については生活の各場面、「公共」については公益の確保に関連する場面、「産業」について商流が形成される場面に着目して分野の区分を設定する。
・ 分野別評価においては、ＡＩネットワーク化の進展により、領域が融合していくことや領域横断的なＡＩネットワークの利活用が進むことが見込まれることを踏まえて分野の区分を設定する。
・

ＡＩネットワーク化が社会的なニーズへの対応や課題の解決に貢献するものであることから、社会的なニーズ又は課題を踏まえて分野の区分を設定する。
先行的評価においては主として社会・経済における製品・サービスの供給面の領域ごとに評価を実施したことを踏まえ、分野別評価においては、利用者の視点から（ユーザ・セントリック・アプローチ）評価を行うこととしたことに鑑み、主として製品・サービスの供給面の領域を横断し又は領域が融合していくものと見込まれるユースケースを用いることとし、「領域横断前の段階」と「領域横断後の段階」の２段階に分けて評価を行うこととした。
なお、評価の対象とするインパクト及びリスクの考え方については、先行的評価における枠組みと概ね同様である 83。

83

本章２．(1)参照。

38

(2) 分野別評価
分野別評価について本報告書においては、上記 12 分野のうち、次の３分野に関する
ユースケースを対象として評価を行った 84。
・

公共：まちづくりに関するユースケース

・

個人：健康に関するユースケース

・

産業：モノに関するユースケース
分野別評価においては、これらのユースケースについて、次に掲げるまちづくりに関する例のように、ＡＩシステムの利活用に関するインパクト及びリスクの評価を行った。各ユースケースの評価の結果の詳細は、別紙４のとおりである 85。

84

他の分野の評価については、本報告書の公表後、本推進会議において行う予定である。
前掲注（80）同様、各ユースケースに記載されているＡＩシステムの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。
このため、現在の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。

8539

まちづくりに関するユースケース（概要）
ＡＩシステム相互間のネットワークが形成されることにより、インフラの異常検知・故障予測とメンテナンス
ロボットの連携、交通量・流の把握に基づく円滑な交通の実現、カメラによる迷子等の特定と対話型ロボットによる対応など、それぞれのＡＩシステムが単独で機能する場合に比べて、時々刻々と変化する状況に即応した安心・安全かつ快適なまちづくりを進めることができるようになる。
さらに、ＡＩシステム相互間のネットワークが公共インフラ、行政、スマートシティ、小売、移動などの領域を横断して形成されることにより、地域の特性に応じた都市計画の策定、在・不在に応じた自動パトロールの実
施などの行政サービスが提供されるとともに、パーク＆ライドの実現による環境負荷の軽減（ＣＯ２の削減）なども図られ、領域が横断する前に比べて、まちの諸機能が領域を越えて連携し、高度化するようになる。
【領域横断前の段階】（領域内でＡＩシステム相互間のネットワークが形成され、領域内における利用者の便益が飛躍的に拡大）＜シナリオ上想定される利活用（主なものの例示）＞①

各種インフラに設置されたセンサや衛星写真等から異常検知、故障予測を行い、メンテナンスロボットが即応して補修等を行う。

②

リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。

③

カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強化する。

【領域横断後の段階】（ＡＩシステム相互間のネットワークが領域横断的に形成され、領域間を連携する高度なサービスが実現）＜シナリオ上想定される利活用（主なものの例示）＞➊（公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテナンスを含む都市計画（例えば、災害に強いまちづくり）を策定する。また、スマート
メーターによる在・不在状況に即応した自動パトロールや見守りサービスを実施する。
➋（スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、人の移動や混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報提供、効果的な広告・宣伝、販売方針の提案等をリアルタイムで行う。また、商業圏やテーマパーク等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。

まちづくりに関するユースケース（将来ビジョン）➋（スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、人の移動、混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報提供、効果的な広告・宣伝、販売方針の提案等をリア
ルタイムで行う。また、商業圏やテーマパーク
等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバ
ス等の運行（増発等）をリアルタイムでコントロールする。

領域
横断後・過度に混雑していない店舗や施設で、快適に買い物やレジャーを楽しむことができるようになる。
・売上の増加が期待できるようになる。
・ＣＯ２の削減など環境負荷の軽減につながる。

➊（公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテ
ナンスを含む都市計画（例えば、災害に強い
まちづくり）を策定する。また、スマートメ
ーターによる在・不在状況に即応した自動パトロールや見守りサービスを実施する。
③カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強化する。

領域

・案内所などを探す手間が軽減され、快適に施設を利用したり、買い物をすることができるようになる。
・事故や事件の未然の防止が図られる。

②リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。

横断前①各種インフラに設置されたセンサや衛星写真等から異常検知、故障予測を行い、メンテナンス
ロボットが即応して補修等を行う。

2020 年代・地域の特性に応じたまちづくり（災害に強いまち、高齢者に優しいまち等）を進めることができるようになる。
・安心して安全に居住・生活できるようになる。

2030 年代

40

・救急車等の優先車両がスムーズに通行することができるようになる。
・渋滞の解消・緩和が図られる。

・インフラの点検・補修の効率化が図られる。
・道路、橋、鉄道等を安心して安全に利用できるようになる。

2040 年代まちづくりに関するユースケース（評価サマリ）【領域横断前の段階（サマリ）】＜インパクト評価＞＜リスク評価＞

シナリオ上想定されるシナリオ上想定されるシナリオ上想定されるリスクが顕在化した場合に利活用

インパクト（例）

リスク（例）

想定される被害（例）リスク評価（例）

生命身体に危害が及ぶリスクの評価① 各種インフラに設置された ・インフラの点検・補修の効率化がセンサや衛星写真等から図られる。
異常検知、故障予測を行 ・人間の介入を減らすことができ、作い、メンテナンスロボットが 業の安全性の向上が図られる。
即応して補修等を行う。
・道路、橋、鉄道等を安心して安全に利用できるようになる。

・異常検知の精度が十分でないことや誤った判断 ・見逃された又は放置された異常箇所を車両を行うこと等により、異常の見逃し等が生ずるお 等が通行することにより、事故が発生する
それがある。また、異常検知の閾値が低すぎる
おそれがある。
と、過剰反応が発生するおそれがある。
・過剰反応によって、無駄なメンテナンスや誤・ハッキング等により、各種インフラの衛星写真や ったメンテナンスが行われるおそれがある。
センサから得られた情報が流出し、悪用される ・流出した情報がインフラ等に対する物理的
おそれがある。
な攻撃に利用されるおそれがある。

② リアルタイムで把握できる
交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。

・民間のデータ提供者、信号制御を行う警察、交 ・ＡＩシステムが機能不全に陥ること等により、通情報を提供する公的機関・事業者、自動運転 信号制御ができなくなるおそれがある。ま社会的な受容度
車間で、意思疎通が十分に図られず、機能不全 た、誤った渋滞予測や回避ルートを設定す に影響を及ぼすに陥るおそれがある。
るおそれがある。
リスクの評価・交通情報を所有する関係者間で情報が共有さ ・その結果、交通事故が発生したり、新たにれず、渋滞予測・信号制御の精度が向上しない 渋滞が発生するおそれがある。
情報流出時の影
おそれがある。
響の評価

・リアルタイムで高精度の情報を提供することができるため、情報サービス事業の収益機会が増大する。
・救急車等の優先車両がスムーズに通行することができるようになる。
・渋滞の解消・緩和が図られる。

・画像認識の精度が十分でない場合、人物を誤って特定するおそれがある。
・対話型ロボットの学習不足等により、迷子や困りごとに適切に対応できないおそれがある。
・カメラの映像（個人情報）が本人同意がなく、第三者に提供、共有されるおそれがある。

③ カメラの映像から、迷子や ・案内所などを探す手間が軽減さ困っている人を捜し、即時 れ、快適に施設を利用したり、買いに対話型ロボットが対応し 物をすることができるようになる。
て、困りごとを解決すると ・事故や事件の未然の防止が図ら
ともに、不審者を見つけて れる。
警備を強化する。
リスク管理（例）

ＡＩシステムによる誤った判断が及ぼす影響範囲の評価

・迷子や困りごとが即時に解決されないおそ プライバシー侵
れがある。
害の評価
・プライバシーが侵害されたり、犯罪に悪用されるおそれがある。
犯罪の発生確率等の評価

リスク・コミュニケーション（例）・複数の AI システム間の連携に関する仕組みの確立（インターフェースの標準化やプロトコルの変換等）
・データの暗号化・匿名化の実施

・ＡＩシステムの利用に関する関係者間における双方向的な対話の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認

雇用・働き方への影響（例）その他留意すべき事項（例）・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・交通情報サービス事業者やデータ提供者の収益増加に伴い、新たな雇用が創出される。
・案内所や迷子対応の業務から、付加価値の高い業務に配置転換することができる。

・事故が発生した場合の責任の分配の在り方が問題となる。
・人間とロボット（ＡＩ）との役割分担に留意する必要がある。
・各地域の利用者の財政状況や利活用に対するマインドにより、収集・提供される情報の質・量に偏在が生じ、地域間でバラつきが生ずるおそれがある。

【領域横断前の段階（サマリ）】＜インパクト評価＞＜リスク評価＞

シナリオ上想定されるシナリオ上想定されるシナリオ上想定されるリスクが顕在化した場合に利活用

インパクト（例）

リスク（例）

想定される被害（例）・地域の特性に応じたまち➊ （公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテ づくり（災害に強いまち、
ナンスを含む都市計画（例えば、災害に強い 高齢者に優しいまち等）をまちづくり）を策定する。また、スマートメータ
進めることができるようにーによる在・不在状況に即応した自動パトロなる。
ールや見守りサービスを実施する。
・安心して安全に居住・生
活できるようになる。

・過度に混雑していない店➋ （スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、 舗や施設で、快適に買い
人の移動、混雑を把握・予測し、年齢や性別 物やレジャーを楽しむことなどの属性を踏まえ、混雑緩和に向けた情ができるようになる。
報提供、効果的な広告・宣伝、販売方針の・売上の増加が期待できる提案等をリアルタイムで行う。また、商業圏
ようになる。
やテーマパーク等の周辺において、道路や ・ＣＯ２の削減など環境負荷
駐車場の混雑状況に応じて、自動走行車のの軽減につながる。
入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。

リスク評価（例）・誤ったデータや偏ったデータに基く学習や学習不 ・計画を作り直すなどの無駄なコ ＡＩシステムによ
足の結果などにより、地域の特性に応じた適切なストが発生するおそれがある。 る誤った判断や都市計画が策定されないおそれがある。
・プライバシーが侵害されたり、犯 差別的な判断が・ハッキング等により、在・不在の情報や見守りサー 罪に悪用されるおそれがある。 及ぼす影響範囲
ビスに活用する映像が流出し、悪用されるおそれ ・安心感が薄れていくおそれがあ の評価がある。
る。
ＡＩシステムへの・スマートメーターと自動パトロール車におけるＡＩシ
信頼への影響のステム間の連携が十分でなく、不在者宅付近のパ評価トロールが手薄になったり、同じ場所に複数のパト
ロール車が駆けつけるなどのおそれがある。
プライバシー侵・画像認識の精度が十分でない場合、適切に属性 ・効果的でない広告・宣伝を行う 害の評価
（年齢や性別）が分類できないおそれがある。
ことで無駄なコストが発生する
・誤ったデータや偏ったデータに基く学習や学習不
おそれがある。
犯罪の発生確率足の結果などにより、差別的な広告・宣伝を行うお ・購買意欲等が低下し、売上の増 等の評価
それがある。
加が見込まれなくなるおそれが・ＡＩシステム間の連携が十分でなく、機能不全に陥 ある。
り、適切に車の入出場のコントロールができなくな ・人権が侵害されるおそれがあり、混雑が深刻化するおそれがある。
る。
・カメラの映像（個人情報）が本人同意がなく、第三 ・プライバシーが侵害されたり、犯者に提供、共有されるおそれがある。
罪に悪用されるおそれがある。

リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニタリングの実施
・ＡＩシステムによる予測の精度の乖離を許容する範囲の設定
・個人情報の取得又は活用に際しての本人同意の確保、名寄せの制限

・同種のＡＩシステムを利活用する事業者間やＡＩシステムを利活用しない者との間における対話・協働の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認

雇用・働き方への影響（例）その他留意すべき事項（例）・利用者間の調整に当たっては性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。
・ＡＩシステムの判断がブラックボックス化された場合、当該ＡＩを所有・管理する公的機関（自治体等）への情報公開請求に対して適切に対応できない可能性がある。
・パブリックなスペース（公道など）とプライベートなスペース（店舗内など）が混在することを踏
まえて、データの価値とプライバシーとのバランスをとることが重要である。

・商業施設やテーマパークの売上・消費が増え、雇用が創出される。
・駐車場等の警備員・整理係の業務に関連する雇用が減少する。
・自治体の都市計画の策定に関連する雇用が減少する。
・パトロールや見守りの業務に関連する雇用が減少する。

41

(3) シナリオ分析から得られた示唆
分野別評価におけるシナリオ分析から、次のような示唆を得ることができた 86。
・ 様々な領域横断的・融合的なＡＩシステムの利活用が可能となり、ＡＩシステム相互間の連携におけるインパクトに加えて、社会の様々な分野に広範にわたって大きなインパクトがもたらされる 87。
＜領域横断・融合の例＞➢ 公共インフラ＋行政＋スマートシティ、スマートシティ＋小売＋移動➢ 医療・介護＋農林水産＋小売＋生活支援、医療・介護＋行政＋金融・保険➢ 製造＋運輸・物流＋小売、製造＋運輸・物流＋金融・保険
・ 雇用・働き方への影響について、雇用が減少することが見込まれる業務もあるものの、より付加価値の高い業務への配置転換や新たな雇用の創出の可能性も見込まれる。
＜雇用・働き方への影響の例＞➢

学習データやパラメータ調整、情報セキュリティ等に関連する雇用、家電メーカ

ー、ロボットメーカーに関連する雇用等の創出が見込まれる。
➢

行政（自治体）の窓口業務から政策立案等の業務への配置転換、生産ラインの調整等の業務から商品・サービスの企画・開発等の業務への配置転換が可能となることが見込まれる。
➢

パトロールや見守りの業務に関連する雇用、在庫管理や商品の発送・納品等に係る調整等の業務に関連する雇用等の減少が見込まれる。
・ 各ユースケースにおいて、次に掲げる例のように共通して想定されるリスクが見受けられることから、それらのリスクへの対処 88が重要である。
＜共通して想定されるリスクの例＞➢

誤ったデータや一部の領域の事情に偏ったデータに基く学習や学習不足の結果、領域を横断した最適な調整等が実現しないおそれがある。
➢ 画像認識の精度が十分でない場合、属性（性別、年齢等）、体調の急変等を正しく認識できず、期待された便益を享受できないおそれがある。
➢ 個人情報（センシティブ情報（病歴や健康状態等）を含む。）がハッキング等により流出したり、本人同意なく第三者に提供、共有されるおそれがある。

86

先行的評価におけるシナリオ分析から得られた示唆と共通するものについては、本章２．
(3)参照。ここでは、特に領域横断的・融合的な観点から得られた示唆について記載している。なお、前提注（73）と同じく、ＡＩネットワーク化の健全な進展に向けた今後の課題の検討に当たって留意すべき事項については、先行的評価におけるシナリオ分析から得られた示唆と併せて本章５．に記載。
87
長尾・前掲注（８）２頁参照。
88
リスク管理、リスク・コミュニケーション等については、先行的評価におけるものと共通するものが考えられる。本報告書 36 頁参照。

42

なお、分野別評価については、本報告書において対象とした３分野以外の分野の評価を今後進めることとしており、その結果として得られる示唆は、主として今後のＡＩシ
ステムの利活用のガバナンスの在り方の検討に役立てるほか 89、示唆の内容によっては、国際的な議論のためのＡＩ開発ガイドライン案の更なる見直し等にも役立てる場
合があり得る。
４．雇用・働き方への影響
報告書 2016 においては、ＡＩネットワーク化の進展を通じて異業種間の融合による新
たな商品・サービス、ビジネスモデルが創出されるようになるものと展望されるが、そのような変化は、そこで働く人々の働き口、働き方、働く内容を左右し得ることとなり、ひいては、人間の生き方にも影響を及ぼし得るものと考えられると指摘されている 90。
1990 年代以降、情報通信分野の発展が雇用に与える影響については、ルーティンタス
クに従事していた中間層の雇用が代替されたが、サービス業や運輸業が受け皿となったことにより、社会全体としては雇用が確保されていたとの見方がある 91。しかしながら、ＡＩシステムの普及により、受け皿となっていたサービス業や運輸業等これまでは人間にしかできないとされていた業務についてもＡＩシステムへの代替が進むようになることから、受け皿がなくなり大規模な失業が発生するのではないかとの指摘がある 92。また、ＡＩシステムに関する技術革新のスピードが非常に速いため、補完的イノベーション 93
が技術革新に追いつかず、ＡＩシステムがもたらす生産性向上・経済成長よりも先に格差の拡大が生じてしまうのではないかとの指摘もある 94。
ただし、これらの指摘に関しては、・ ＡＩシステムによる代替が進むとされている職種は、主観的な予測をベースとして挙げられており、必ずしも信頼性が高いとは言い難いこと。
・ 新しい技術による雇用の代替可能性は、その価格に依存するが、その点が考慮されていないこと。
・ 新しい技術による生産性向上・経済成長がもたらす雇用創出の可能性が考慮されてい89

ＡＩシステムの利活用のガバナンスについては、後述（第４章(2)参照）。
報告書 2016 第２章２．参照。
91
山本影響評価分科会構成員「労働経済学研究に基づくＡＩネットワーク化の労働市場への影
響」（提出資料）参照。
92
Frey,C., & Osborne,M., The future of employment (2013)参照。
93
一般的に、技術革新が起きた場合、それをうまく活用するように機械の導入や組織改革等が行われることにより、生産性向上・経済成長が生じ、新しい雇用が創出されると言われている。ただし、その間にはタイムラグがあり、すぐに新しい雇用が創出されるわけではないこと（生産性のパラドックス）に留意することが必要である。
94
エリック・ブリニュルフソン＝アンドリュー・マカフィー（村井章子訳）『ザ・セカンド・
マシン・エイジ』（日経ＢＰ社、平成 27 年）参照。また、経済成長と格差の拡大が同時に進行する可能性があるとの指摘もある。
90

43

ないこと 95。
・

射程とするタイムスパンにより、影響の在り方や大きさが異なること。

・

失業以外への影響について、ＡＩシステムのサポートにより労働者のストレスの軽減、女性・高齢者・障がい者などの活躍の促進など良い影響がもたらされる可能性があること。
等に留意する必要がある 96。
ここで、我が国の労働市場に目を向けてみると 97、ルーティンタスクの集約度が比較的高い 98（ルーティンタスクが他の先進国に比べ多く残っている）状況にあることから、Ａ
Ｉシステムの普及による影響を受け易いとの見方がある 99。また、従来は、正規雇用を中心とする日本的雇用慣行により情報通信分野の発展による雇用の代替が生じにくかったが 100、ＡＩシステムの普及が進んでいくことにより、日本的雇用慣行そのものがなくな
り、中長期的には代替が進むのではないかとの見方もある 101。さらに、非正規雇用の業
務はルーティンタスクが中心になっていることから、ＡＩシステムの普及により、非正規

95

必ずしも新しい技術による生産性向上・経済成長が雇用創出をもたらすとは限らず、失業の増大と経済成長が同時に進行する（雇用なき経済成長が継続する）可能性があるとの指摘もある。
96
山本・前掲注(91)参照。
97
我が国においては、少子高齢化等に伴い中長期的に労働人口が減少するとの見通しがある中
で、ＡＩシステムの普及による雇用の代替が人間の労働力不足を補い得るという側面もあることに留意が必要である。また、現状においても、人手不足と言われる産業や業界もあり、特に、そのような産業や業界においては、ＡＩシステムの普及により人間の負担の軽減が図られるものと考えられる。
98
国際比較において 22 箇国中４番目に高い（１位：韓国、２位：イタリア、３位：ロシア）。
DeLaRica,S. & Gortazar,L. Differences in Job De-Routinization in OECD Countries(2016)参照。
99
山本・前掲注(91)参照。
100
従来は、企業特殊的な人的投資により人材育成を行っていたことから、雇用の代替に当たっての調整費用が大きくなるため、情報通信分野の発展による雇用の代替が進まなかったものと考えられる。このことに関連して、大内伸哉（影響評価分科会構成員）『ＡＩ時代の働き方と法 2035 年の労働法を考える』第１章及び第４章（弘文堂、平成 29 年）参照（日本的経営の柱とされていた終身雇用、年功型処遇及び企業別組合があてはまる正社員こそが日本の労働者のメインストリームであるとして、日本型雇用システムは、長期雇用の下に、年功型の職能給という安定的な処遇体系をもち、その反面、職務や教育訓練についての企業の権限（人事権）を広く認めるという柔らかな労働組織があったため、技術革新に対する高いアダプタビリティ（適応力）をもっていたと指摘している。
）。
101
山本・前掲注(91)参照。このことに関連して、大内・前掲注（100）参照（企業内の再配置を可能とするアダプタビリティは、技術の発達のスピードが比較的緩やかで、企業内での教育訓練によって、新たな技術が必要とする技能の習得が追いつくことが前提であったとして、現在の技術の発達のスピードは格段に速まっており、企業内での再配置が困難になっていることや再配置するための雇用が創出されていないことを挙げ、ホワイトカラーの雇用の多くは、既に危機的な状況にあるとの警告に真剣に耳を傾けなければならないと指摘している。）。

44

雇用の労働者は大きな影響を受ける可能性があるとの見方もある 102。
このような雇用・働き方への影響を踏まえると、失われる雇用から新しく創出される雇用への円滑な移行、新しく創出される雇用への適応のための教育や人材育成が重要となるものと考えられる。この点については、社会に出る（就職する）までの教育、社会に出た（就職した）後の再教育・人材育成のいずれもが重要であり、学校教育、企業内の人材育成（ＯＪＴ（On the Job Training））ともに従来の発想や方法からの転換が求められる。また、今後、自営的就労 103 の可能性が高まることに鑑みると、個々人が自ら技能習得しなければならなくなるため、自助・自学のための環境整備を進めることも重要である。
教育・人材育成の重要性については、国際的にも指摘されており、米国ホワイトハウスの報告書『人工知能、自動化、そして経済』（平成 28 年 12 月 20 日）において、ＡＩによる自動化が経済や雇用に与える影響を分析し、ＡＩの普及がもたらす変化に対応した教育改革、労働者の支援などの政策的対応を提言している。また、フォーラムにおいても、
教育・人材育成の重要性に関する指摘が多数あった 104。
いずれにしても、教育・人材育成の成果が現れるまでには長期の時間を要することから、一刻も早くアクションを起こすべきである。
５．留意すべき事項
先行的評価及び分野別評価におけるシナリオ分析等から、ＡＩネットワーク化が社会・経済にもたらす影響に関して、重要な示唆を得ることができた。
今後、ＡＩネットワーク化の健全な進展に向けた今後の課題を検討するに当たっては、
特に次の事項に留意することが必要である。
ア

様々なＡＩシステムが混在することに伴う問題➢ 例えば、ＡＩシステム相互間の連携を進めるに当たっては、性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワ
ーク上に混在したりするようになることが問題となるとともに、目的が競合し又は対立するＡＩシステムがネットワーク上に混在してその相互間の交渉や調整が必要

102

山本・前掲注(91)参照。
場所的時間的拘束が少なく、自分で仕事のオーガナイズができる働き方のこと。詳細は、報告書 2016 第２章２．参照。
104
例えば、・ ＡＩネットワーク化の便益を世界の多様な文化的背景を持つ人々が享受できるように、
教育、学際的研究などの取組が必要である[マルコ・ジリ（トリノ工科大学長）]。
・ 教育は、トップ及びボトムの双方から進めることが必要である[ベネデッタ・アレーゼ・ルチーニ（イタリア共和国経済財政大臣顧問）]。
等。
103

45

となり得ること 105も問題となる。
イ

ＡＩシステムを利活用する者と利活用しない（できない）者とが混在することに伴う問題 106➢ 例えば、ＡＩシステムを利活用することにより、自身に適した行政サービスや金融サービス（保険）を受けることが可能となるが、ＡＩシステムを利活用しない（できない）者は、そのようなサービスを受けることができない可能性がある。
ウ

事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方➢ 例えば、自動運転車による事故が発生した場合、商品の配達において遅延が生じた
場合、個人情報が漏洩してプライバシーが侵害された場合など、責任の分配の在り方が問題となる。
➢ 上記に関連して、責任の分配の実効性を確保する手段として、ＡＩシステムの利活用等に伴う事故等による損害の賠償等に充てるための資財が乏しい個人、中小・零細事業者等によるＡＩシステムの開発及び利活用を支援するためのファンドの設立や保険の在り方等に関する検討が必要であるとの指摘があった。

エ データ・情報の流通と個人情報保護・プライバシーとのバランス➢ 例えば、カメラで撮影した画像は、様々な場面において価値が高く非常に有益なデータとなり得るものであるが、その取得や利活用に当たっての本人同意の在り方等が問題となる可能性がある。また、パブリックなスペース（公道など）とプライベー
トなスペース（店舗内など）が混在することを踏まえて、データ・情報の価値と個人情報保護・プライバシーとのバランスをとることが重要である。
オ

ＡＩシステムが取り扱うデータ・情報・知識の性質➢ 例えば、プライバシー性や機密性が高いデータ・情報（個人：病歴、遺伝情報等、法人：財務情報、営業秘密等）
・知識については、プライバシー侵害等が生じないよう特に慎重な取扱いが求められる。
➢ 例えば、ＡＩ生成物や学習用データ等に関し、知財制度上の取扱いが問題となる可能性がある。

カ

ＡＩネットワーク化の進展に伴い形成されるエコシステムにおける公正な競争の確

保
➢
105
106

例えば、ＡＩネットワークサービスの提供に新規参入しようとするプロバイダに

長尾・前掲注（８）３頁参照。
濱田・前掲注（10）７頁参照。

46

とっては、自らのＡＩシステム等と有力なＡＩネットワークとの接続の可否やその条件、有力なＡＩネットワークが集積するデータ等へのアクセスの可否やその条件が事業活動に影響を及ぼす可能性があり、ＡＩネットワーク化の進展に伴い形成されるエコシステムにおける公正な競争の確保の在り方が問題となる 107。
➢ 例えば、競争関係にある事業者が、それぞれ提供するサービス等に関する価格設定
等に当たり、
・同一のＡＩシステム又は共通のアルゴリズムを用いるＡＩシステムを使用・各事業者の価格設定等を委ねるＡＩシステムを相互に連携させて使用等することを通じた協調的価格設定等 108による競争の減殺又は制限の可能性 109が考えられる。
キ 人間とＡＩ（ロボット）との役割分担➢

例えば、対話型ロボットが迷子に対応する場面や介護ロボットが介護する場面において、ＡＩ（ロボット）による対応で満足できるか、拒絶されないかなど人間とＡ
Ｉ（ロボット）との役割分担が問題となる。
➢

例えば、専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方や重要な判断（診断、法令の解釈・適用、採用、人事評価、融資の審査等）に当たり
ＡＩシステムの機能に委ねてもよい事項の範囲が問題となる。

107

ＡＩネットワークサービスのプロバイダは、その利用者から収集するデータを活用して自らのＡＩのアルゴリズムを改良することにより、当該サービスの品質を向上させることができる。このように利用者から収集するデータを活用したサービスの品質向上については、利用者の便益が高まるという面がある一方で、利用者からのデータの収集、収集したデータによるサービスの品質向上、サービスの品質向上に伴う利用者数の増加、利用者数の増加により収集されるデータの増加という循環が確立されやすい（この傾向は、「データ主導ネットワーク効果（data-driven network effect）」又は「データネットワーク効果」（data network effect）と呼ばれる。）ことから、市場において有力なプロバイダの地位がより強固になって、新規参入が相対的に困難となり、その結果として競争が鈍化するおそれが懸念される旨が指摘されている（See Organization for Economic Cooperation and Development Directorate forFinancial and Enterprise Affairs Competition Committee, Big Data: Bringing
Competition Policy To The Digital Era - Background note by the Secretariat -,DAF/COMP (2016) 14 October 27 2016, at paras 22-25 [available athttps://one.oecd.org/document/DAF/COMP(2016)14/en/pdf]）。
108
デジタル・カルテルと呼ばれることがある。
109
See Organization for Economic Cooperation and Development Directorate forFinancial and Enterprise Affairs Competition Committee, supra note (107), at paras80-81; Ezrachi, Ariel and Stucke, Maurice E., Two Artificial Neural Networks Meet in

an Online Hub and Change the Future (Of Competition, Market Dynamics and Society)(April 9, 2017)[Available at SSRN: https://ssrn.com/abstract=2949434 or
http://dx.doi.org/10.2139/ssrn.2949434].

47

ク ＡＩシステムに関するリテラシーの向上 110➢ 例えば、健康・介護の分野においては、特に高齢者向けのサービス提供が考えられることから、ＡＩシステムの便益を享受するためにも、ＡＩシステムに関するリテラシーの向上が重要である 111。
ケ

地域間の格差・偏在➢ 例えば、各地域の利用者（自治体等）の財政状況や利活用に対するマインドにより、
ＡＩシステムの利活用の状況、収集・提供される情報に差異が生じ、ＡＩシステムの利活用が進んでいる地域と進んでいない地域が存在することとなる（移動を伴う場
合、突然、ＡＩシステムが機能しなくなるなどの問題が生ずるおそれがある。）。
➢ 上記に関連して、地域間の格差だけではなく、所得格差やＡＩネットワーク化の進展に伴う所得の再分配にも留意する必要があるとの指摘があった。

コ ＡＩシステムの導入・利活用のためのコスト➢ 例えば、製造（モノ）や物流の分野において、多くの事業者がＡＩネットワークに参加した方が全体として便益が増大するものと考えられるが、中小・零細事業者におけるＡＩシステムの導入コストや利活用のためのコストが問題となる。
サ

ＡＩシステムの判断がブラックボックス化することに伴う問題➢ 例えば、行政（自治体）がＡＩシステムを利活用する場合、ＡＩシステムの判断がブラックボックス化すると、情報公開請求に対して適切に対応できない可能性がある。また、金融機関をはじめ事業者が利活用するＡＩシステムの判断がブラックボックス化すると、顧客への説明や監督官庁の検査・監査等に適切に対応できない可能性
がある。

110

濱田・前掲注（10）７頁参照。
高齢者のリテラシーの向上を期待するのではなく、リテラシーが高くなくても利活用できる
商品・サービスが提供されることが望ましいとの指摘があった。

111

48

第４章 今後の課題
報告書 2016 に掲げられている「今後の課題」 112並びに本推進会議におけるＡＩ開発ガイ
ドライン案の策定に向けた検討及びＡＩネットワーク化が社会・経済にもたらす影響の評
価に関する検討の結果等を踏まえ、今後の課題を次のとおり整理する。
〇

ＡＩネットワーク化の健全な進展に関する事項(1) ＡＩ開発ガイドライン（仮称）の策定
第２章において述べたように、本推進会議においては、ＡＩ開発ガイドライン（仮称）の策定に向け、Ｇ７やＯＥＣＤ等における国際的な議論の用に供するため、「国際的な議論のためのＡＩ開発ガイドライン案」（別紙１）を整理した。今後、Ｇ７やＯＥＣＤ
等において、このＡＩ開発ガイドライン案を踏まえて国際的な議論が進められ、ステー
クホルダ間の合意形成の下でＡＩ開発ガイドライン（仮称）が策定されることが期待される。
なお、ＡＩ開発ガイドライン（仮称）については、その基本理念 113に掲げるとおり、
ＡＩネットワーク化の進展等に応じて、関係するステークホルダの参画を得るなど広範で柔軟な議論を通じて、継続的に見直し、必要に応じて改定することが期待される。
本推進会議においても、ＡＩ開発ガイドライン（仮称）の策定に向けた今後の国際的な議論をフォローアップするとともに、その動向に応じてＡＩ開発ガイドライン案を見直すなどして国際的な議論に継続的に貢献していくべきものと考える。

(2) ＡＩ利活用ガイドライン（仮称）の策定
ＡＩシステムは、特段の措置が講じられているものを除き、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものである。また、ＡＩシステムは、情報通信ネットワークを介して他のＡＩシステムと連携することにより、システム間の連携の効果及びいわゆるネットワーク効果が相俟って、利用者全体にとっての便益及びリスクの双方が高まり得るものである 114。しかるに、ネットワークに接続されないＡＩシステムの便益及びリスクは、基本的に、当該ＡＩシステムが所在する場所から即座に広く波及することはないが、ネットワークに接続されたＡＩシステムの便益及びリスクは、空間を越えて、特に国境を越えて、即座に広く波及することがあり得る 115。

112

本章末尾参照。詳細については、報告書 2016 第５章参照。
別紙１ ２．参照。
114
須藤議長「開会の辞」（ＡＩネットワーク社会推進フォーラム 開会の辞 配付資料）７頁（平成 29 年）参照。
115
須藤・前掲注（114）７頁参照。併せて、宍戸構成員・開発原則分科会長代理「ＡＩネット
ワーク化のグローバルガバナンス―枠組み、戦略、手法、開発と利活用」（ＡＩネットワーク
113

49

これらのことから、ＡＩネットワーク化の健全な進展を通じたＡＩシステムの便益の増進及びリスクの抑制については、ネットワークに接続され得るＡＩシステムの開発を対象とするＡＩ開発ガイドライン（仮称）を国際的に共有すること等を通じた開発のガバナンスと併せて、利活用のガバナンスとして、ネットワークに接続されたＡＩシ
ステム又はＡＩネットワークサービスの利活用に当たり、利用者（最終利用者たる個人
又は団体のほか、他者が開発したＡＩシステムを用いてＡＩネットワークサービスを第三者に提供するプロバイダを含む。
）がそれぞれの属性等に応じて留意することが期
待される事項について国際的な共有を図ることが必要であるものと考えられる 116。
そこで、本推進会議においては、今後、ＡＩ開発ガイドライン（仮称）の策定に向けた国際的な議論のフォローアップと併せて、ネットワークに接続されたＡＩシステム
又はＡＩネットワークサービスの利活用に関し利用者がそれぞれの属性等に応じて留意することが期待される事項たる「ＡＩ利活用原則（仮称）」及びその解説からなる国
際的な指針たる「ＡＩ利活用ガイドライン（仮称）」の策定に関し、国際的な議論の動向も踏まえながら多角的に検討を進めることが必要である。
なお、「ＡＩ利活用ガイドライン（仮称）」の策定など利活用のガバナンスの在り方に関する検討に当たっては、その前提として、ＡＩネットワーク化が社会・経済にもたらすインパクト及びリスクに関する問題の所在を把握することに加えて、ＡＩネットワ
ーク化の進展を通じて形成される関係者間のエコシステムに関する展望を得ることが必要であるものと考えられる。そこで、本推進会議においては、「ＡＩ利活用ガイドラ
イン（仮称）」の策定等に関する検討に向け、前章で紹介した分野別評価及びエコシス
テムの展望の検討並びにこれらを通じた論点の整理を進めていくことが課題となる。
(3) ＡＩシステム相互間の円滑な連携の確保
ＡＩ開発原則 117 の第１原則とした「連携の原則」においては、開発者はＡＩシステ
ムの相互接続性と相互運用性に留意することを掲げている 118。同原則の解説 119においては、開発者は、関連情報の共有、国際的な標準や規格への準拠、データ形式の標準化、ＡＰＩを含むインターフェースやプロトコルのオープン化への対応、標準必須特許な社会推進フォーラム パネルディスカッション「ＡＩネットワーク化のガバナンスの在り方」
配付資料）１頁（平成 29 年）参照。
116
なお、ＡＩ開発ガイドライン案３－１においても指摘しているとおり、開発者と利用者は、場面に応じて個別に決まる相対的な概念であることに留意することが必要である。
117
ＡＩ開発原則については、第２章３．(4)参照。以下本章におけるＡＩ開発原則に関する記述において同じ。
118
ここで相互接続性と相互運用性としては、自らの開発するＡＩシステムが情報通信ネットワークと接続され、他のＡＩシステム等と適切に協調して運用することが可能であることを一体的に捉えて念頭に置いている。
119
ＡＩ開発原則の解説については、第２章３．(5)参照。詳細については、別紙１ ５．参照。
以下本章におけるＡＩ開発原則に関する記述において同じ。

50

ど相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件についてのオープンかつ公平な取扱いに留意することが望ましい旨を掲げている。
これらのことを踏まえると、ＡＩシステム相互間の円滑な連携の確保に関連する課
題としては、例えば次に掲げる課題が挙げられる。
➢

開発者やＡＩネットワークサービスのプロバイダが他の開発者やＡＩネットワー

クサービスのプロバイダ、利用者等と共有することが期待される関連情報の範囲、共有の方法等の検討➢

インターフェース、プロトコル、データ形式等の標準化又はオープン化の在り方の検討➢

標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件の在り方等に関する検討➢

連携及びこれに伴う責任の分配に関する当事者間の契約の在り方の検討➢

当事者間の紛争解決の在り方の検討
なお、前章で行ったＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析（以下「シナリオ分析」という。
）から得られた示唆（以下「シナリオ分析に基）において指摘したように、ＡＩシステム相互間の連携を進づく留意事項」という 120。
めるに当たっては、性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりするようになることが問題となるほか、目的が競合するＡＩシステムがネットワーク上に混在して相互間の交渉や調整が必要となり得ること 121 も問題となる。したがって、これらの課題に取り組むに当たっては、ネットワーク上における様々なＡＩシステムの混在の可能性に留意することが必要である。
(4) 競争的なエコシステムの確保
ＡＩネットワーク化の進展を通じて智連社会 122を実現するためには、
・ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネットワー

クの形成
・

ＡＩシステムやＡＩネットワークサービスの提供

・ ネットワーク化されたＡＩシステム又はＡＩネットワークサービスにより創造・流通・連結されるデータ・情報・知識の利活用のそれぞれのエコシステムにおいて公正な競争が確保されることが必要であり、シナリオ分析に基づく留意事項においても、このような問題意識に基づく指摘をしている。

120

シナリオ分析に基づく留意事項については、前章５．参照。以下本章におけるシナリオ分析に基づく留意事項に関する記述において同じ。
121
長尾・前掲注（８）３頁参照。
122
序章１．参照。

51

これらのエコシステムは、今後のＡＩや情報通信ネットワークに関する技術の高度化、市場におけるＡＩシステムやＡＩネットワークサービスに対するニーズの変化、Ａ
Ｉシステムの利活用の進展等に応じて変遷していくものであり、予断を抱くべきもの
ではないことから、競争的なエコシステムの確保に関する規制の創設の検討は将来に向けて謙抑的であるべきである。その一方で、競争的なエコシステムの確保に関し必要に応じて時宜に応じた適切な対応ができるよう備えておく見地からは、報告書 2016 において指摘されているように、関連する市場の動向を継続的に注視することが必要であるものと考えられる 123。
(5) 利用者の利益の保護
ＡＩネットワーク化が進展して、様々な物、サービスや社会のシステムがネットワー
ク化されたＡＩシステム又はＡＩネットワークサービスの利用可能性を前提として提供されるようになった社会における人間の「包摂」（inclusiveness）の見地に加えて、ネットワークに接続されたＡＩシステム又はＡＩネットワークサービスに関するいわ
ゆるネットワーク効果の見地からは、あらゆる個人又は団体が、利用者として、関連するＡＩシステム又はＡＩネットワークサービスを手頃な条件で 124 安心・安全に利用することができるよう、その利益が保護されることが求められる 125。
123

報告書 2016 においては、競争的なエコシステムを確保するという観点から、関係する市場の形成の進展に応じて、その動向の継続的注視を行うべきであるとし、その説明として、関連する市場の動向、ＡＩネットワーク化やデータ寡占等に着目したデータ等の創造・流通・蓄積の状況、事業者間の競争状況その他市場の動向の注視・評価を挙げ、更にこれらの前提となる課題を次のように掲げている（報告書 2016・50 頁参照。）。
・ 注視対象（ＡＩの範囲、データの範囲、市場等）の画定、注視の視点、評価基準等の在り方の検討
・ 注視・評価に必要となる情報の収集の在り方の検討
・ ＡＩネットワークサービスの供給者による行為であって、公正な競争を阻害するおそれがあるものの類型化の検討
なお、報告書 2016 においては、競争的なエコシステムを確保するという観点からの今後の課題として、市場の動向の継続的注視と併せて、関係する市場の形成の進展に応じて、ＡＩ
相互間のネットワークの形成に関する当事者間の協議の円滑化に取り組むべきであるとし、その内容を次のように敷衍している（報告書 2016・50 頁参照。）。
・ ＡＩ相互間のネットワークの形成に関する当事者間の協議をめぐる紛争の動向及び影響の継続的注視
・ 必要に応じ、当事者間の協議を円滑化する観点からの紛争処理の在り方の検討
124
手頃な条件での利用可能性は、公正な競争を通じて実現されることが基本である。
125
ＡＩネットワーク化の進展に伴い、社会のあらゆる場面において、社会の構成員がネットワーク化されたＡＩシステム又はＡＩネットワークサービスを利用できることを前提として、様々な物、サービスや社会のシステムが提供されるようになるものと見込まれる。そのような社会において個人又は団体が当該社会の構成員として振る舞うためには、自らが関連するＡＩ
システム又はＡＩネットワークサービスの利用者となることが不可避となろう。このような社会において人間の「包摂」（inclusiveness）を確保する見地からは、当該社会の個人又は団体に対し、関連するＡＩシステム又はＡＩネットワークサービスを手頃な条件で安心して安全に利用できる状況を確保することが必要となる（須藤・前掲注（114）６頁参照。併せて、宍52このため、ＡＩネットワーク化のガバナンスにおいては、ＡＩシステムの開発のガバ
ナンス及び利活用のガバナンスのいずれについても、その全体を通じて直接的又は間接的に利用者の利益の保護に資するものであることが期待される 126。ＡＩ開発ガイド
ライン案においては、このような問題意識の下、その目的として利用者の利益の保護を掲げているとともに、同ガイドライン案に掲げるＡＩ開発原則の個々の項目は、いずれも利用者の利益の保護に資するものとしている 127。
特に利用者の利益の保護を直接的に志向する課題としては、例えば次に掲げる課題が挙げられる。


開発者やＡＩネットワークサービスのプロバイダから利用者に対する・ＡＩシステム又はＡＩネットワークサービスの技術的特性に関する情報 128

・

継続的なアップデートへの対応の必要性に関する情報 129

・ その他リスクの顕在化又は波及の抑止に資する情報

戸・前掲注（115）２頁参照。このことに関連し、シナリオ分析に基づく留意事項においては、例えば、ＡＩシステムを利活用することにより、自身に適した行政サービスや金融サービ
スを受けることが可能となるが、ＡＩシステムを利活用しない（できない）者は、そのようなサービスを受けることができない可能性があることを指摘している。
）。
また、ネットワーク化されたＡＩシステム又はＡＩネットワークサービスの利用者が増える
こと自体により、ネットワーク効果として、利用者全体にとって当該ＡＩシステム又はＡＩネットワークサービスの便益が高まり得る（須藤・前掲注（114）６頁参照。）。その一方で、Ａ
Ｉシステムについては、様々なリスクが指摘されていることに加えて、特段の措置が講じられているものを除き、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものであることから、利用者が増えること自体によって、利活用の仕方次第では、ネットワーク効果として、利用者全体にとって当該ＡＩシステム又はＡ
Ｉネットワークサービスのリスクも高まり得る（須藤・前掲注（114）６頁参照。
）。これらのことから、ネットワーク効果の見地からは、利用者の数が増えることを通じて便益を高めると同時に、効果的にリスクを抑制することが求められ、かくして、この見地からも、利用者が手頃な条件で安心して安全に利用できるようその利益が保護されることが求められる。
126
須藤・前掲注（114）８頁及び宍戸・前掲注（115）２頁参照。
例えば、ＡＩシステムが他のＡＩシステム又は他の種類のシステムと連携することにより、システム間の連携の効果及びネットワーク効果の双方が相俟って、その便益及びリスクの双方が高まり得ることに鑑みると、(3)に掲げるＡＩシステム相互間の円滑な連携の確保も、このネットワーク効果による利用者全体の便益の増進及びリスクの増大に伴う不利益の抑制に資することを通じて利用者の利益の保護に資するものと認められる。
また、(4)に掲げる競争的なエコシステムの確保も、これを通じた公正な競争の進展の結果として、利用者の利益の保護に資するものと認められる。
127
連携の原則は、連携に係るＡＩシステムと他のＡＩシステム等との円滑な連携を通じて、連携に係るＡＩシステムの便益を増進するとともにリスクを抑制することにより利用者の利益の保護に資するものである。透明性の原則、制御可能性の原則、安全の原則、セキュリティの原
則、プライバシーの原則及び倫理の原則は、それぞれ関連するリスクを抑制することにより利用者の利益の保護に資するものである。利用者支援の原則及びアカウンタビリティの原則も、それぞれ利用者の受容性を向上させることにより、利用者の利益の保護に資するものである。
128
ＡＩ開発原則に掲げる事項に関する情報を含む。
129
報告書 2016・54 頁参照。

53

の自発的な提供 130の在り方の検討


ＡＩネットワークサービスのプロバイダがその提供の業務を通じて知り得た利用者又はその利活用に関するデータ等の取扱いの在り方の検討

ＡＩシステムのリスクが顕在化した場合（事故の発生時等）における責任の分配や利用者等を保護する仕組み（保険等）等の在り方の検討 131
なお、(4)において述べたように、ＡＩネットワーク化をめぐるエコシステムが今後のＡＩや情報通信ネットワークに関する技術の高度化、市場におけるＡＩシステムやＡＩネットワークサービスに対するニーズの変化、ＡＩシステムの利活用の進展等に応じて変遷していくものであり、予断を抱くべきものではないことに鑑みると、利用者の利益の保護についても、規制の創設の検討は将来に向けて謙抑的であるべきである。
その一方で、利用者の利益の保護に関し必要に応じて時宜に応じた適切な対応ができるよう備えておく見地からは、報告書 2016 において指摘されているように、関連する市場の動向を継続的に注視することが必要であるものと考えられる 132。
(6) 技術開発に関する課題
ＡＩ開発原則の個々の項目の実効性を高めるとともに、上記に掲げる課題の解決を図るためには、制度的な仕組みとともに、技術的な仕組みが有効に機能することが期待される。
➢

例えば次に掲げる技術の研究開発が進むことが期待される。
・ ＡＩシステムの入出力の検証可能性を確保するための技術及びＡＩシステムの判断結果の説明可能性を確保するための技術
・ 他のＡＩに対する監督（監視、警告など）や制御（停止、ネットワークからの切断、修理など）を行うことのできる技術

130

これらの情報提供のうち開発者によるものについては、ＡＩ開発原則のうち「アカウンタビ
リティの原則」に関連するものとして検討することが期待されよう。
131
シナリオ分析に基づく留意事項においても、「事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方」が挙げられている。
132
報告書 2016 においては、ＡＩネットワークサービスの利用者の利益を保護するという観点から、関係する市場の形成の進展に応じて、その動向の注視・評価を行うべきであるとし、更にその前提となる課題を次のように掲げている（報告書 2016・53 頁―54 頁参照。
）。
・注視すべき市場の画定、評価基準等の在り方の検討
・注視・評価に必要となる情報の収集の在り方の検討
・ＡＩネットワークサービスの供給者による行為であって、利用者の利益を阻害するおそれがあるものの類型化の検討
なお、報告書 2016 においては、ＡＩネットワークサービスの利用者の利益を保護するという観点からの今後の課題として、市場の動向の注視・評価と併せて、関係する市場の形成の進展に応じて、ＡＩネットワークサービスの供給者と利用者との間の紛争処理の在り方の検討を掲げている（報告書 2016・53―54 頁参照。）
。

54

・

ＡＩシステムがアクチュエータ等を通じて稼動する際の本質安全（アクチュエータの運動エネルギーなど本質的な危険要因の低減）や機能安全（自動ブレーキなど付加的な制御装置の作動によるリスクの抑制）を確保するための技術
・

利用者に選択の機会を適時適切に提供する機能（例えば、デフォルトの設定、理解しやすい選択肢の提示、フィードバックの提供、緊急時の警告、エラーへの対処など）に関する技術◯

ＡＩネットワーク上を流通する情報・データに関する事項(7) セキュリティ対策
ＡＩ開発原則の第５原則とした「セキュリティの原則」においては、開発者はＡＩシ
ステムのセキュリティに留意することを掲げている。また、シナリオ分析においては、
各ユースケースに共通して想定されるリスクとして、セキュリティに関するリスク（ハッキング、偽装・なりすまし等）が挙げられている 133。
今後、ＡＩシステムの開発及び利活用の両面において、セキュリティの確保の在り方について検討していくことが必要である。
➢

ＡＩシステムへのセキュリティの実装の在り方の検討➢

ＡＩシステムの学習等による利活用の過程を通じた変化に起因するセキュリティ上の問題への対処の在り方の検討➢

偽装・なりすまし等によりＡＩシステムが犯罪等に悪用されるリスクへの対処の在り方の検討(8) プライバシー及びパーソナルデータの保護
ＡＩ開発原則の第６原則とした「プライバシーの原則」においては、開発者はＡＩシ
ステムにより利用者及び第三者のプライバシーが侵害されないよう配慮することを掲げている。このことに関連して、シナリオ分析に基づく留意事項においては、「ＡＩシ
ステムが取り扱うデータ・情報の性質」及び「データ・情報の流通と個人情報・プライ
バシーとのバランス」を挙げている。
今後、ＡＩシステムの開発及び利活用の両面において、個人情報・プライバシーの保護の在り方について、ＡＩシステムが取り扱うデータ・情報の性質や、データ・情報の流通と個人情報・プライバシーの保護とのバランス等に留意しつつ検討することが必要である。
➢

個人情報の取得や活用に当たっての本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討➢

ＡＩネットワーク上を流通するデータ・情報を利活用する価値と個人情報保護・プ

133

先行的評価において挙げられたリスクについては、前章２．(3)参照。分野別評価において挙げられたリスクについては、同章３．(3)参照。

55

ライバシーとのバランスに配慮した制度の在り方の検討➢

ＡＩシステムの学習等による利活用の過程を通じた変化に起因する意図しないプ

ライバシー侵害のリスクへの対処の在り方の検討➢

プロファイリングが利用者にもたらす便益及びプライバシー侵害等のリスクを踏まえたプロファイリングに関するルールの在り方の検討(9) コンテンツに関する制度的課題
シナリオ分析に基づく留意事項においては、「ＡＩシステムが取り扱うデータ・情報の性質」を挙げている。また、新たな情報財の保護・利活用の在り方に関し、ＡＩ生成
物の知財制度上の在り方について引き続き検討すべきとされている 134。
今後、ＡＩネットワーク上におけるコンテンツの流通と知的財産の保護とのバランスに配慮した制度の在り方等について検討することが必要である。
➢

学習用データの作成の促進に関する環境の整備、学習済みモデルの適切な保護と利活用促進、ＡＩ生成物の知財制度上の在り方の検討 135➢

ＡＩ学習用データの作成の促進に向けた、国及び地方公共団体等が保有するオー

プンデータの推進➢◯

ＡＩにより自動集積されるデータベースの保護と利活用の在り方の検討

ＡＩネットワーク化が社会・経済にもたらす影響の評価に関する事項(10) ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析
報告書 2016 においては、今後の課題として、「影響・リスクに関するシナリオの作
成・共有」が掲げられていたところ、本推進会議において、ＡＩネットワーク化が社会・経済にもたらす影響の評価に関する検討を進め、シナリオ分析（先行的評価及び分野別評価）を行った 136。
今後、継続してシナリオ分析を行うとともに、その成果を国際的に共有することが必要である。
➢

ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有(11) ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価
指標の設定
シナリオ分析の検討において、一定の評価の軸を設定してインパクト及びリスクを134

第１章１．(3)⑥参照。
知的財産戦略本部 検証・評価・企画委員会 新たな情報財検討委員会「報告書－データ・人工知能（ＡＩ）の利活用促進による産業競争力強化の基盤となる知財システムの構築に向けて－」（平成 29 年 3 月）参照。
136
先行評価については、前章２．参照。分野別評価については、同章３．参照。
135

56

評価すべきとの指摘があった。分野別評価において、一部取り入れているが、十分に反映できているとは言い難い。また、報告書 2016 において、今後の課題として、「ＡＩネ
ットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定」
が掲げられている。
今後、評価指標の設定について継続的に検討することが必要である。
➢

国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けた検討(12) ＡＩシステムの利活用に関する社会的受容性の醸成
ＡＩ開発原則の第９原則とした「アカウンタビリティの原則」においては、開発者は利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることを掲げている。これは、ＡＩシステムの利活用に当たっては、利用者を含む社会全体の理解が必要で、社会に受容されることが重要であるという認識に基づくものである。また、シナリオ分析において、社会的受容性が求められるものと考えられるようなＡＩシス
テムの利活用の事例も扱っている 137。
今後、ＡＩネットワーク化の健全な進展に向けて、社会的な受容性を注視するとともに、受容性を高める方策の在り方等について検討することが必要である。
➢

社会におけるＡＩシステムの利活用に関する受容度の継続的注視、受容性を高める方策の在り方の検討◯

ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項(13) 人間とＡＩシステムとの関係の在り方に関する検討
ＡＩ開発原則の第７原則とした「倫理の原則」においては、開発者はＡＩシステムの開発において人間の尊厳と個人の自律を尊重することを掲げている。また、シナリオ分
析に基づく留意事項において、「人間とＡＩ（ロボット）との役割分担」を挙げている。
今後、人間中心とする智連社会に向けた人間とＡＩシステムとの役割分担、ＡＩシス
テムに委ねる判断の範囲の妥当性、ＡＩネットワーク化の進展による人間の能力の拡張の在り方等について検討することが必要である。
➢

専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方や重要な判断（診断、法令の解釈・適用、採用、人事評価、融資の審査等）に当たりＡＩシス
テムの機能に委ねてもよい事項の範囲に関する検討➢ ＡＩ・ロボットによる人間の知的・身体的能力の拡張（エンハンスメント）に関する倫理的問題の検討➢ 「ＡＩ依存」など人間の心理や子供の発育への影響等に関する継続的注視
137

例えば、健康情報（病歴や遺伝情報等）に応じて金融（保険）サービスをカスタマイズして提供する例など。

57

(14) ステークホルダ間の関係の在り方に関する検討
シナリオ分析に基づく留意事項においては、「事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方」を挙げている。また、報告書 2016 において、今後の課題として、ＡＩネットワーク化に対応した社会の基本ルールの在り方について、ＡＩネットワークに関する権利義務及び責任の帰属の在り方の検討、ＡＩネットワ
ークに関する事故時の責任の帰属の在り方の検討等が挙げられている。
今後、ＡＩネットワーク化の進展を見据え、上記(12) 人間とＡＩシステムとの関係の在り方に関する検討とともに、ＡＩシステムのリスクの抑制等を図ることにより利用者及び第三者の利益を保護するために、ステークホルダの役割分担、権利義務の帰属の在り方、事故発生時等の責任の分配の在り方について検討することが必要である。
➢

ＡＩシステムのリスクが顕在化しないようにするためのステークホルダ 138 間の役

割分担の在り方の検討➢

ＡＩシステムを利活用した取引における権利義務の帰属の在り方の検討➢

ＡＩシステムのリスクが顕在化した場合のステークホルダ間の責任の分配の在り方の検討 139➢

特に最終利用者の利益を保護するためのアカウンタビリティの在り方の検討➢ ＡＩシステムの利活用をめぐる紛争の解決の在り方の検討(15) ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備
シナリオ分析においては、様々な業務に関連する雇用（学習データやパラメータ調整、
情報セキュリティ等に関連する雇用や家電メーカーやロボットメーカーに関連する雇用等）の創出や付加価値の高い業務への配置転換が可能となることが見込まれるとの結果を得ている。また、ＡＩシステムの普及による雇用・働き方への影響に関する検討においては、教育・人材育成の重要性が指摘されている 140。
今後、ＡＩネットワーク化の進展に応じた就労や円滑な配置転換等に資する教育・人材育成の在り方等について検討すること及びその結果に基づき所要の対策を講ずるこ138

ここでステークホルダとしては、開発者（ＡＩのメーカー等のほか、自らが開発したＡＩシ
ステムを用いるＡＩネットワークサービスのプロバイダを含む。）、ＡＩシステムの供給者（販売者等）、利用者、第三者等が挙げられる。このうち利用者には、ＡＩシステム又はＡＩネッ
トワークサービスの最終利用者（個人又は企業その他の団体）のほか、他者が開発したＡＩシ
ステムを用いるＡＩネットワークサービスのプロバイダが含まれる。
139
ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方の検討の一環として、ＡＩシ
ステムの利活用等に伴う事故等による損害の賠償等に充てるための資財が乏しい個人、中小・零細事業者等によるＡＩシステムの開発及び利活用を支援するためのファンドの設立や保険の在り方等についても併せて検討することが必要である。
140
ＡＩシステムの普及による雇用・働き方への影響については、前章５．参照。以下本章における雇用・働き方への影響に関する記述において同じ。

58

とが必要である。
➢

技術者、法的・倫理的・社会的問題に対処し得る人材、産業連携等に対処し得る人
材の育成➢

ＡＩネットワーク化の進展に応じた雇用・働き方の変化に合わせた教育の実施・人材の育成及び労働法制の在り方の検討(16) ＡＩシステムに関するリテラシーの涵養及びＡＩネットワーク・ディバイドの形成の防止
シナリオ分析に基づく留意事項においては、「ＡＩシステムに関するリテラシーの向上」、「ＡＩシステムを利活用する者と利活用しない（できない）者とが混在することに伴う問題」、「地域間の格差・偏在」を挙げている。
今後、すべての人々がＡＩシステムの恵沢をあまねく享受できるよう特に高齢者のリテラシーの向上やディバイド形成の防止の在り方について検討すること等が必要である。
➢

特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討➢

ＡＩシステムを利活用する者と利活用しない（できない）者が混在すること、地域間でＡＩシステムの利活用の状況が異なっていること等を踏まえ、社会全体がＡＩ
システム利活用による便益を享受できるような環境の整備(17) セーフティネットの整備
ＡＩシステムの普及による雇用・働き方への影響において、大規模な失業が発生するのではないか（特に我が国においては、中長期的にＡＩシステムへの雇用の代替が進む、
非正規雇用の労働者への影響が大きいのではないか）との指摘がある。
今後、労働市場の動向を注視するとともに、大規模な失業が発生しないような方策の在り方等について検討すること、セーフティネットを整備すること等が必要である。
➢

労働市場の動向の継続的注視、ＡＩネットワーク化の進展に伴う所得の再分配等

格差防止の在り方の検討(18) その他の課題
報告書 2016 に掲げられている「今後の課題」のうち、上記以外の事項について
も、引き続き、注視し、又は検討することが必要である。
➢ 情報通信インフラの高度化の加速➢ 経済発展・イノベーションの促進に向けた課題➢ 地球規模課題の解決を通じた人類の幸福への貢献➢

ＡＩネットワーク化のガバナンスの在り方
59

60

（参考） 報告書 2016 に掲げられている「今後の課題」 141○ ＡＩネットワーク化の健全な進展に関する事項
・ ＡＩ開発原則・指針の策定➢

ＡＩ開発原則及びその内容の説明から構成される指針(ＡＩ開発ガイドライン）の策定に向けた議論の推進
・ ＡＩネットワーク化の進展に向けた協調の円滑化➢

相互接続性・相互運用性の確保（確保の対象や方法の検討等）等

・ 競争的なエコシステムの確保➢

関連する市場の動向の継続的注視、ネットワーク形成に関する当事者間の協議の円

滑化等
・ 利用者の保護➢

関連する市場の動向の継続的注視、消費者保護に関する国際的な制度調和の在り方の検討等○

ＡＩネットワーク上を流通する情報・データに関する事項

・ セキュリティの確保➢

情報セキュリティ等のＡＩネットワークへの実装の在り方の検討等

・ プライバシー及びパーソナルデータに関する制度的課題➢ プライバシー・パーソナルデータの保護と利活用のバランスに留意した検討等
・ コンテンツに関する制度的課題➢ 多種多様かつ大量のコンテンツの創造・流通に適した法制度の在り方の検討等○

ＡＩネットワーク化が社会・経済にもたらす影響・リスクの評価に関する事項

・ 影響・リスクに関するシナリオの作成・共有➢ ＡＩネットワーク化の進展に応じたシナリオの継続的な作成・共有・見直し
・ ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定➢ 指標の設定に向けた検討の継続○

ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項

・ 社会の基本ルールに関する検討➢ ＡＩネットワークに関する権利義務及び責任の帰属の在り方や事故時の責任の帰属の在り方等の検討
・ ＡＩネットワーク化に対応した人材育成

141

ここに掲げられている課題のほか、情報通信インフラの高度化の加速、経済発展・イノベー
ションの促進に向けた課題、地球規模課題の解決を通じた人類の幸福への貢献、ＡＩネットワーク化のガバナンスの在り方、が今後の課題として掲げられている。

61

➢ 技術者、法的・倫理的・社会的問題に対処し得る人材、産業連携等に対処し得る人
材等の育成等
・ ＡＩネットワークに関するリテラシーの涵養➢ リテラシー教育の在り方の検討、科学コミュニケーションの在り方の検討
・ ＡＩネットワーク・ディバイド形成の防止➢ ＡＩネットワーク・ディバイドの要因となるデジタル・ディバイドの解消、高齢者等の利用環境整備等
・ ＡＩネットワーク化に対応した就労環境の整備➢

労働法制の在り方の検討等

・ 人間の在り方に関する検討➢「ＡＩ依存」等人間の心理や子供の発育への影響等に関する継続的注視、教育の改

革等
・ セーフティネットの整備➢

所得の再分配の在り方の検討

62

結びに代えて本報告書では、ＡＩネットワーク化をめぐる国内外の動向を概観した上で、ＡＩ開発ガイ
ドライン案を提示するとともに、ＡＩネットワーク化の影響（インパクト及びリスク）の評価を行った上で、それらの検討を踏まえて今後の課題を整理した。
第１章で見たとおり、「ＡＩネットワーク社会推進フォーラム」において、ＡＩ開発ガイ
ドラインの策定をはじめとするＡＩネットワーク化のガバナンスの在り方に関し国際的な議論を継続していくことに対し国内外の参加者から広範な賛同を得られたところであり、今後、Ｇ７やＯＥＣＤ等の国際社会において議論が加速することが期待される。また、ＡＩ
ネットワーク化のガバナンスの在り方に関する国際的な議論をリードすることができるよ
う、我が国においても、本報告書を踏まえ、産学民官において継続的に議論が進められ、合意形成が図られることが期待される。
ＡＩネットワーク化がもたらす社会への影響は、ＡＩの高度化が加速度的に進展していくことなどに伴い、一度示された予測が続々と塗り替えられる形で、急速に進展しつつある。
本報告書の内容は、現時点において検討した結果を述べているものであり、ＡＩネットワー
ク化の進展等に応じて不断の見直しを行うことが必要である。
また、第４章で整理した今後の課題は、多岐にわたっており、継続的かつ多面的な検討が必要である。これらの課題の検討に当たっては、産学民官の幅広い分野から関係ステークホ
ルダの参画を得て国内外において検討を進めていくことが必要である。今後、緊急性、重要性等を勘案してプライオリティをつけ、継続的に検討が進められていくことを期待したい。

63