資料２

報告書２ ０ １ ７ （案）－ＡＩネットワーク化に関する国際的な議論の推進に向けて－

平成 29 年●月●日

ＡＩネットワーク社会推進会議

目 次
はじめに………………………………………………………………………………………１
序章……………………………………………………………………………………………３
１． 「ＡＩネットワーク化」と「智連社会」
２． 本推進会議の目的
第１章 ＡＩネットワーク化をめぐる最近の動向………………………………………９
１． 国内の動向
２． 海外の動向
第２章 ＡＩ開発ガイドライン……………………………………………………………22
１． 背景・経緯
２． 整理された論点に関する意見募集の結果等を踏まえたＡＩ開発ガイドライン案の方向性・経緯３． ＡＩ開発ガイドライン案の概要
４． 今後の展開
第３章 ＡＩネットワーク化が社会・経済にもたらす影響……………………………30
１． 背景・経緯
２． 先行的評価
３． 分野別評価
４． 雇用・働き方への影響
５． 留意すべき事項
第４章 今後の課題…………………………………………………………………………45
結びに代えて…………………………………………………………………………………57＜別紙１＞ ＡＩ開発ガイドライン案＜別紙２＞ 整理された論点に関する意見募集に寄せられた主な意見に対する考え方＜別紙３＞ ＡＩネットワーク化が社会・経済にもたらす影響 ～先行的評価～＜別紙４＞ ＡＩネットワーク化が社会・経済にもたらす影響 ～分野別評価～＜参考資料＞ 「ＡＩネットワーク社会推進フォーラム」関連資料

はじめに
最近ではＡＩに関する報道を目にしない日がないほど、ＡＩに関する技術開発と利活用が目まぐるしく進展しでいる。また今後、ＡＩシステムがインターネット等を通じて他のＡＩシステム等と接続し連携する「ＡＩネットワーク化」の進展により、社会や経済に多大な便益がもたらされることが期待されている。一方、ＡＩやＡＩネットワーク化については、不透明化や制御喪失などリスクも懸念されている。
こうした中、平成 28 年４月に日本で開催されたＧ７香川・高松情報通信大臣会合において、ホスト国である日本はＡＩ開発原則のたたき台を紹介し、各国関係閣僚による議論が行われた。その結果、Ｇ７において「ＡＩ開発原則」及びその内容の説明からなる「ＡＩ
開発ガイドライン」の策定に向け、引き続きＧ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て議論していくことで合意した。その後、欧米各国においても、ＡＩに関する
社会的・経済的・倫理的・法的課題をめぐる検討が本格化し、国際的な議論が加速している。
少子高齢化などの課題を抱える日本は、ＡＩを積極的に開発し利活用することにより様々な課題を解決するとともに、その知見を活かしつつＡＩ開発ガイドライン案などＡＩ
ネットワーク化のガバナンスの枠組みについて国際的に議論を提起することにより、国際社会に大きく貢献することができるものと思われる。
以上のような背景と問題意識に鑑み、総務省情報通信政策研究所では、平成 28 年 10 月
より「ＡＩネットワーク社会推進会議」を開催し、国際的な議論のためのＡＩ開発ガイド
ライン案の検討その他ＡＩネットワーク化のガバナンスの在り方の検討を行うとともに、具体的な利活用の場面を想定したＡＩネットワーク化の影響の評価を行ってきた。これまでの検討を踏まえ、総務省は平成 29 年 3 月に東京大学において国際シンポジウム「ＡＩネットワーク社会推進フォーラム」を開催した。フォーラムには、日米欧等の産学民官のス
テークホルダが参加し、ＡＩネットワーク化のガバナンスの在り方について活発な議論が行われた。フォーラムでは、ＡＩネットワーク化に関する社会的・経済的・倫理的・法的課題について多様な意見が示されたが、国内外のトップレベルの有識者から、ＡＩネット
ワーク化を通じた人間中心の「智連社会」の実現という理念が広く支持されるとともに、
グローバルでオープンな議論を継続することを通じて合意形成を図っていくことに賛意が示された。
本報告書は、本推進会議における検討と関連する国内外の議論を踏まえ、ＡＩ開発ガイ
ドライン案の基本的な考え方と内容を示すとともに、様々な分野におけるＡＩシステムの利活用の場面を想定して、ＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価を行った上で、今後の課題を整理している。本報告書が、ＡＩネットワーク化に関する
社会的・経済的・倫理的・法的課題をめぐる国内外の検討に寄与し、ＡＩ開発ガイドラインの策定をはじめとするＡＩネットワーク化のガバナンスの枠組みの形成に向けた国際的1

な議論を推進することにより、ＡＩネットワーク化を通じた人間中心の智連社会の実現に向けた道標となることを願いたい。

2

序章
１．
「ＡＩネットワーク化」と「智連社会」
本推進会議の前身たる「ＡＩネットワーク化検討会議」（以下「検討会議」という。
）
においては、ＡＩネットワーク化の進展を通じて目指すべき社会像として人間中心の社
会像「智連社会」（Wisdom Network Society：ＷＩＮＳ〔ウインズ〕）を提唱して、その基本理念を呈示するとともに、ＡＩネットワーク化が社会・経済にもたらす影響（インパクト 1及びリスク）の基礎的な評価を行った上で、今後の課題を整理した（平成 28 年）。
４月に『中間報告書』 2、同年６月に『報告書 2016』 3を公表。
本章においては、本推進会議における検討の基調をなすＡＩネットワーク化の展望並びに目指すべき社会像としての「智連社会」及びその基本理念を紹介する。
◯ ＡＩネットワーク化
ＡＩシステムが今後インターネットその他の情報通信ネットワークと接続されていくことにより、その影響（インパクト及びリスク）が大きくなるとともに、空間を越えて即座に波及し得るようになるものと考えられる。そこで、検討会議及び本推進会
議においては、ＡＩシステムの普及及びその利活用の進展に伴う問題を検討するに当たり、これを単に個々のＡＩシステムをめぐる問題として捉えるのではなく、「ＡＩネットワーク化」 4（ＡＩシステムがインターネットその他の情報通信ネットワークと接続され、ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネット
ワーク（以下において「ＡＩネットワーク」という場合がある 5。）が形成されるようになることをいう。以下同じ。
）をめぐる問題として捉えて検討を進めてきた。
検討会議においては、ＡＩネットワーク化が社会・経済にもたらす影響を評価し、そのガバナンスの在り方等関連する課題を検討する際の参照軸とするため、ＡＩネッ
トワーク化の進展段階を次図のように理念的に整理している。

1

主に良い影響や便益のことを意味している。本報告書において以下同じ。
ＡＩネットワーク化検討会議「中間報告書 ＡＩネットワーク化が拓く智連社会（ＷＩＮＳ〔ウインズ〕） －第四次産業革命を超えた社会に向けて－」（平成 28 年４月 15 日。
以下「中間報告書」という。）
3
ＡＩネットワーク化検討会議「報告書 2016 ＡＩネットワーク化の影響とリスク －智連社会（ＷＩＮＳ〔ウインズ〕）の実現に向けた課題－」（平成 28 年６月 20 日。以下「報告書 2016」という。
）
4
この「ＡＩネットワーク化」は、・ ＡＩネットワークの構築
・ ＡＩネットワークの高度化（情報通信ネットワークを介したＡＩシステム相互間の連携等）
からなるものとして理解できる（中間報告書５頁参照。）。
5
検討会議においては、この「ＡＩネットワーク」のことを「ＡＩネットワークシステム」と呼んでいた（なお、検討会議においては、「ＡＩネットワークシステム」を「ＡＩを構成要素とする情報通信ネットワークシステム」と定義していた（中間報告書５頁参照。
）。
2

3

第一段階は、単独のＡＩシステムがインターネットその他の情報通信ネットワークに接続され、他のＡＩシステムとは連携することなく機能するという段階である。この段階は、既に社会の様々な場面において実現が進みつつある。
第二段階は、インターネットその他の情報通信ネットワークを介して複数のＡＩシ
ステムのネットワークが形成され、当該ネットワーク上のＡＩシステムが相互に連携して協調するという段階である 6。
第三段階は、センサやアクチュエータを構成要素として含むＡＩネットワークが人間の脳や身体などと連携して、人間の身体機能が拡張される段階である 7。
これらの進展が広く進み、ＡＩネットワークが社会全体に浸透していくことにより、第四段階として、人間とＡＩネットワークとが共生し、人間社会のあらゆる場面において、情報通信ネットワークを介してＡＩシステムと他のＡＩシステム、人間とＡＩシステム、さらには人間と人間とがシームレスに連携するという段階に至るものと整理されている。
○

目指すべき社会像「智連社会」
検討会議においては、ＡＩネットワーク化が進展し、人間とＡＩネットワークとが

6

ＡＩシステム相互間の連携・協調がもたらす便益を指摘するとともに、目的が競合し又は対立するＡＩシステム相互間の交渉・協調の在り方を今後の課題として指摘するものとして、長尾
顧問（京都大学名誉教授）「ＡＩネットワーク化の本質と将来」（ＡＩネットワーク社会推進フ
ォーラム（特別講演）配付資料）２-３頁（平成 29 年）参照。
7
第三段階への進展は、第一段階から第二段階への進展とは異なる性格の進展によるものであり、必ずしも第二段階の後でなければならないものではない。

4

共 生 す る 段 階 に お い て目 指 す べ き 社 会 像 と し て 、「 智 連 社 会 」（ Wisdom Network
Society：ＷＩＮＳ[ウインズ]）を掲げた。この「智連社会」という社会像は、「高度情報通信ネットワーク社会」及び「知識社会」という「データ」
・
「情報」
・
「知識」
（知）
の流通及びその影響に着目した社会像の実現を経て、その次に実現を目指すべき社会像として構想したものであり、その内容は「データ」・「情報」・「知識」（知）を活用す
る人間の能力としての「智慧」（智） 8に着目したものである 9。

ＡＩネットワーク化の進展に伴い、ＡＩとＡＩ、ＡＩと人間、さらには人間と人間
8

人間の能力としての「智慧」に関し、濱田顧問（東京大学名誉教授）「ＡＩネットワーク化と智連社会」（ＡＩネットワーク社会推進フォーラム（特別講演）配付資料）２-５頁（平成 29年）参照。
9中間報告書 12 頁参照。なお、データ（Data）、情報（Information）、知識（Knowledge）、知能（Intelligence）及び智慧（Wisdom）の関係の詳細については、中間報告書 13 頁参照。

5

がシームレスに連携・協調できるようになることにより、ネットワーク化される「知能」、すなわち、ネットワーク化されるＡＩの知能又はこれを活用する人間の知能により「データ」
・「情報」・「知識」を学習・解析して新たな「データ」・「情報」・「知識」
を創造・流通・連結することが可能となる社会の到来が予測される。それに伴い、「データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課題を解決するための人間の能力」としての「智慧」（智）（Wisdom）
が高まるとともに、人間の「智慧」の連携・協調が進んでいくものと見込まれる。すなわち、人間は、ＡＩネットワークを利活用することにより、各々の「智慧」（智）を連結し、「智のネットワーク」（Wisdom Network）を形成していくことが期待されるのである 10。
「智連社会」という社会像は、このような問題意識に基づいて構想したものであり、ＡＩネットワーク化の健全な進展の結果として、人間がＡＩネットワークと主体的に共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」を形成することにより、あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となるという人間中心の社会像である。

智連社会は、ＡＩネットワーク化が進展して「人間とＡＩネットワークとが共生」
する段階において目指すべき社会像として掲げたものである。この「人間とＡＩネッ

10

ここで、ＡＩネットワークは、ＡＩシステム及びこれと接続される情報通信ネットワークからなる物理的存在であるのに対し、「智のネットワーク」は、人間がＡＩネットワークという物
理的存在の機能を活用することにより得られる能力（この能力は、人間が、データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課
題を解決するための能力であり、「智慧」（智）にほかならない。
）が相互に連携し合い、相互に協調し合う様子を捉え、観念的に描写する概念である。

6

トワークとが共生」する段階とは、ＡＩネットワークが人間を包むように存在し、人間とＡＩネットワークとがシームレスに連携し、人間にとってＡＩネットワークが不可欠な存在となるという客観的な状況をいうものである。これに対し、「智連社会」という社会像は、単に「人間とＡＩネットワークとが共生」するという客観的な状況を描写するにとどまるものではなく、人間が主体的にＡＩネットワークと共生するという人間の営みにより形成される社会像である。目指すべき社会像として「智連社会」を掲げるということは、ＡＩネットワークが社会の中心となるのではなく、あくまでも人間が社会の中心となり、人間がＡＩネットワークを主体的に使いこなす社会を目指すべき 11との考えを含意している。
「智連社会」においては、人間がＡＩネットワークを主体的に使いこなし、人間や社会の在り方を構想して、その実現に向けた課題を解決するための人間の能力としての「智慧」を連結して「智のネットワーク」を形成することにより可能となる智慧の連携と協調により実現される。このような智慧の連携と協調という「智連」の本質に鑑みると、智連社会の実現に向けたＡＩネットワーク化の健全な進展に関する課題や智連社会における人間が社会の在り方に関する課題の解決には、個人の努力だけではなく、社会におけるコミュニティの役割が重要になるものと考えられる 12。
○

基本理念
検討会議においては、「智連社会」を形成するに当たってのっとるべき基本理念として、次の８項目が掲げられている。
・ すべての人々による恵沢の享受
すべての人々が、ＡＩネットワークを容易にかつ主体的に利用する機会を有し、個々の能力を創造的かつ最大限に発揮し、又は拡張することが可能となり、もってＡＩネットワークの恵沢をあまねく享受できること。
・

人間の尊厳と個人の自律
個人が人間としての尊厳をもった自律的な主体としてＡＩネットワークを安心して安全に利活用することにより、豊かさと幸せを感じられること。

・

イノベーティブな研究開発と公正な競争
イノベーティブな研究開発と公正な競争を通じて、多様で高度なＡＩネットワー
クが提供されること。

・

制御可能性と透明性
ＡＩネットワークに関する制御可能性と透明性が技術的・制度的に確保されること。

11

このことに関連して、ＡＩは社会における人間の様々な活動のエンハンスを目指すべきものであることを指摘するものとして、長尾・前掲注（６）１頁参照。
12
濱田・前掲注（８）９頁（平成 29 年）参照。

7

・

ステークホルダの参画
ＡＩネットワークの在り方に関する意思決定に当たり、多様なステークホルダが民主的に参画できること。
・

物理空間とサイバー空間の調和
ＡＩネットワークを利活用して物理空間とサイバー空間を連結し、両者の調和を図ることにより、ヒト・モノ・コト相互間の空間を越えた協調の実現を可能とすること。
・

空間を越えた協調による活力ある地域社会の実現
ＡＩネットワークを利活用してヒト・モノ・コト相互間の空間を越えた協調が地
域内・地域間で進展することにより、活力ある地域社会が実現すること。

・

分散協調による地球規模の課題の解決
人類が、ＡＩネットワークを基盤として構築する智のネットワークにより、地球規模の課題を国際的な分散協調により解決できること。
これらの基本理念は、ＡＩネットワーク化の健全な進展を通じて実現することを目指すべき社会像たる「智連社会」が備えるべき性質を様々な角度から掲げるものであり、今後のＡＩネットワーク化のガバナンスの在り方を検討するに当たって立脚すべ
きものとして評価できよう。
２．本推進会議の目的
検討会議においては、ＡＩネットワーク化の展望並びに目指すべき社会像及びその基本理念の整理と併せて、今後の課題を整理した。今後の課題の中には、ＡＩの開発研究に当たって国際的に参照されるべき「ＡＩ開発原則」及びその説明からなる「ＡＩ開発
ガイドライン」の策定に向けた議論の推進、ＡＩネットワーク化が社会・経済にもたらす影響の評価等が掲げられた。その過程において、平成 28 年４月 29 日及び 30 日にＧ７
香川・高松情報通信大臣会合（以下「Ｇ７会合」という。）が開催され、高市総務大臣から、「ＡＩ開発原則」に関し中間報告書に掲げる８項目からなるたたき台を配付し、ＯＥ
ＣＤ等において「ＡＩ開発ガイドライン」の策定に向けた国際的な議論を進めるよう提案した結果、各国から賛同が得られたところである。
本推進会議は、検討会議における検討、Ｇ７会合の成果等を踏まえ、社会全体におけるＡＩネットワーク化をめぐる社会的・経済的・倫理的・法的課題を総合的に検討することを目的として、検討会議を発展的に改組したものであり、ＯＥＣＤ等におけるＡＩ
開発ガイドラインの策定に向けた国際的な議論の用に供するための案の作成を進めるとともに、様々な分野におけるＡＩシステムの利活用の場面を想定してＡＩネットワーク
化が社会・経済の各分野にもたらす影響の評価等を進めている。
8

第１章 ＡＩネットワーク化をめぐる最近の動向
ＡＩに関する動きはめまぐるしく、ＡＩに関連する報道を目にしない日がないほどである。本章において、主として本推進会議が発足（平成 28 年 10 月 31 日）した後のＡＩネッ
トワーク化をめぐる動向を概観する 13。
１．国内の動向(1) 「ＡＩネットワーク社会推進フォーラム」（国際シンポジウム）
ＡＩ開発ガイドラインの策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的・法的課題に関し、日米欧等の産学民官のステークホルダが意見交換し、今後のＧ７、ＯＥＣＤ等における国際的な議論を推進することを目的として、平成 29 年３月
13 日及び 14 日に東京大学伊藤謝恩ホールにおいて、総務省の主催により「ＡＩネッ
トワーク社会推進フォーラム」（以下「フォーラム」という。
）を開催した 14。
フォーラムにおいては、本推進会議の顧問を含む構成員のほか、米、伊、独、仏、ＥＵの政府関係者やＯＥＣＤの代表者、ＡＩの分野の国際的な議論をリードする主要団体 15の代表者を含む国内外のトップレベルの有識者が参加し、意見交換を行った。
フォーラムにおける議論を通じて、主に次の事項に関し概ね意見の一致を見ることができたものと考えられる。
・ グローバルな議論を通じた合意形成➢

多様なステークホルダによるオープンでグローバルな議論を通じた合意形成が重要である。
➢ 継続的に議論を行っていくことが重要である。
・ 人間中心の社会の構築➢

ＡＩネットワーク化の便益が広く享受される人間中心の社会を構築すべきである。
➢ 教育、人材育成が重要である。
・ ＡＩネットワーク化のガバナンス➢

非規制的かつ非拘束的なアプローチ（いわゆるソフトロー）が適切である。

➢ 開発者は、説明責任を果たすことが重要である。
➢

連携、透明性、制御可能性、安全性、プライバシー、セキュリティ、公正などの観点が重要である。

13

本推進会議の発足以前のＡＩネットワーク化をめぐる動向については、報告書 2016 第１章参照。
14
詳細は、参考資料参照。
15
Partnership on ＡＩ、Future of Life Institute（ＦＬＩ）等。これらの動向については、
本章２．参照。

9なお、フォーラム後、同年４月５日に開催された日米インターネット・エコノミー
対話民間会合において、米国側の参加者から、フォーラムにおいて議論された人間中
心の社会を構築すべき等の考え方やＡＩ開発ガイドライン策定の必要性について強い賛同が示されるとともに、標準化の重要性についての指摘があった。
(2) 「世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画」
平成 29 年 5 月 30 日付けで閣議決定された「世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画」16において、ＡＩネットワーク化について、次のとおり記載された。
・

ＡＩネットワーク化が社会・経済にもたらすインパクトやリスクの評価の国際的な共有、関連する社会的・経済的・倫理的・法的課題の解決に資するガバナンスの在り方に関するＧ７、ＯＥＣＤ等の場における国際的な議論を通じた検討の推進。
(3) 関連する動向① 人工知能と人間社会に関する懇談会
第５期科学技術基本計画 17 （平成 28 年１月 22 日閣議決定）に掲げられた「Society5.0」18の実現の鍵である人工知能の研究開発及び利活用を健全に進展させるべく、人工知能と人間社会の関わりについて検討を行うため、内閣府特命担当大臣（科学技術政策）の下に「人工知能と人間社会に関する懇談会」が設置され 19、平16

「世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画」は、従来の「世界最先端Ｉ
Ｔ国家創造宣言」に、官民データ活用推進基本法（平成 28 年法律第 103 号）第８条に規定する官民データ活用の推進に関する基本的な計画（官民データ活用推進基本計画）を加えた一体のものとして、高度情報通信ネットワーク社会推進戦略本部及び官民データ活用推進戦略会議が決定した上で、その内容に即して閣議決定がなされたものである。平成 29 年においては、高度
情報通信ネットワーク社会推進戦略本部及び官民データ活用推進戦略会議が同年５月 30 日付
けで決定した上で、同日付けで、当該決定の内容に即して同宣言・計画を決定する旨の閣議決定がなされた。
17
科学技術基本法（平成７年法律第 130 号）に基づき、政府が長期的視野に立って体系的かつ一貫した科学技術政策を実行するために策定された基本計画。平成 28 年１月 22 日付けで、平成 28 年度～32 年度の第５期基本計画が閣議決定された。
18「Society 5.0」とは、サイバー空間とフィジカル空間（現実社会）を高度に融合させることにより、地域、年齢、性別、言語等による格差なく、多様なニーズ、潜在的なニーズにきめ細かに対応したモノやサービスを提供することで経済的発展と社会的課題の解決を両立し、人々が快適で活力に満ちた質の高い生活を送ることのできる、人間中心の社会である（科学技術イ
ノベーション総合戦略 2016 はじめに（３）<http://www8.cao.go.jp/cstp/sogosenryaku/2016.html>参照。）。
「Society 5.0」を通じて実現することが期待されている「超スマート社会」と、ＡＩネットワーク化を通じて目指すべき社会像として掲げる智連社会（Wisdom Network Society：ＷＩＮＳ）との関係については、中間報告書 13-14 頁注(4)参照。
19
この懇談会には、本推進会議の構成員のうち、江間開発原則分科会・影響評価分科会構成員、
大内影響評価分科会構成員、新保構成員、鈴木幹事及び松尾構成員が構成員に就いている。また、この懇談会の事務局の事務を掌る内閣府政策統括官（科学技術・イノベーション担当）付

10

成 28 年５月 30 日に第１回会合が開催された。以降、平成 29 年１月 20 日までに６回の会合が開催され、同年３月 24 日に報告書を取りまとめ、公表した 20。
報告書においては、移動、製造、個人向けサービス、対話・交流の４つの代表的分野について様々な事例（ケース）を挙げて検討する手法がとられ、人工知能技術
は人間の知的能力と行為を補助し、一部を代替し拡張することを可能とすることか
ら、持続可能社会の強力な推進力になること期待できるとした上で、倫理的論点、法的論点、経済的論点、教育的論点、社会的論点、研究開発的論点について検討し考慮する必要があるとしている。
② 産業競争力懇談会
一 般 社 団 法 人 産 業 競 争 力 懇 談 会 （ Ｃ Ｏ Ｃ Ｎ ： Council on Competitiveness Nippon）21においては、平成 28 年度の推進テーマの一つとして「人工知能間の交渉・協調・連携による社会の超スマート化」に関する検討が産学官連携の下で行われることとなり 22、平成 28 年５月 23 日にキックオフ会合が開催された。以降、平成 29
年 1 月 19 日までに４回の会合が開催され、同年２月 15 日に報告書を取りまとめ、公表した 23。
報告書においては、製造バリューチェーン自動接続、スマートシティ：電力・水、
スマートシティ：交通・人流、自動運転車・移動体の４つのユースケースが特に早急な取組が重要なユースケースとして選定されており、産業競争力強化のための提言及び施策として、
・ 相互接続性・運用性が本質になるアイテム群を戦略的大型ＮＰ（National Project）
で一気に一体開発・

複数ユースケースを同時実装する特区等の指定により、必要な実証実験、詳細

制度設計と改善、社会受容性の醸成、ネットワーク外部性に起因する普及の壁の突破
・

国際協調の場での議論を牽引し、標準や制度を日本のニーズに合った形に国際的に収斂参事官が本推進会議のオブザーバに就いている。
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www8.cao.go.jp/cstp/tyousakai/ai/summary/index.html>
21
国の持続的発展の基盤となる産業競争力を高めるため「科学技術政策」、「イノベーション政策」を提言として取りまとめ、政府に対して、その推進と支援の要請を行い、実現を図ることを目的として、平成 18 年に発足した民間団体（平成 27 年に一般社団法人となる。）。
22
ＣＯＣＮによる本テーマの検討のプロジェクトには、本推進会議の三部開発原則分科会構成員
及び落合影響評価分科会構成員がメンバーに、本推進会議の事務を統括する総務省情報通信政策研究所調査研究部長がオブザーバ／アドバイザに就いている。また、ＣＯＣＮの事務局長が本推進会議のオブザーバに就いている。
23
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.cocn.jp/thema94-L.pdf>
2011

を柱とした提言がなされている。
また、報告書においては、本推進会議の議論が随所に参照されているほか、本推進会議とＣＯＣＮとの連携について指摘されている。
③

人工知能技術戦略会議
平成 28 年４月 12 日に開催された「未来投資に向けた官民対話（第５回）」において、安倍内閣総理大臣から、人工知能の研究開発目標と産業化のロードマップを同
年度中に策定するよう指示があり、この指示を受け、「人工知能技術戦略会議」が創設された 24。同会議が司令塔となって、総務省、文部科学省及び経済産業省が中心となり、ＡＩを利用する側の産業の関係省庁とも連携し、人工知能技術の研究開発と社会実装に向けた検討を進めることとなり、同月 18 日に第１回会合が開催された。
以降、平成 29 年３月 17 日までに５回の会合が開催され、同月 31 日に「人工知能技
術戦略」及び「人工知能の研究開発目標と産業化のロードマップ」を取りまとめ、公表した 25。
「人工知能技術戦略」においては、人工知能とその他関連技術の融合による産業、「健康、化のロードマップを示され、当面取り上げるべき重点分野 26である「生産性」
医療・介護」、「空間の移動」の各分野について、目指すべき社会像とその実現に向けたフェーズごとの産業化のイメージが取りまとめられている。また、ロードマップの実現に当たっては、産官学の叡智を結集し取り組むことが必要であるが、３センター 27をはじめとする国の機関は、基盤的な技術の開発、高度な人材育成、公的データの整備、ベンチャー支援など産学官のプラットフォームの役割を担うべきであるとして、それぞれ具体的な取組例が示されている。
④

人工知能学会
人工知能学会の倫理委員会 28は、平成 28 年６月６日に開催された全国大会におい

24

人工知能技術戦略会議の議長には、本推進会議の安西顧問が就いている。
それぞれ次に掲げるＵＲＬのウェブサイトに所掲。
人工知能技術戦略：<http://www.nedo.go.jp/content/100862413.pdf>
ロードマップ：<http://www.nedo.go.jp/content/100862412.pdf>
26
産業化ロードマップとして当面、取り上げるべき重点分野を、①社会課題として喫緊の解決の必要性、②経済波及効果への貢献、③人工知能技術による貢献の期待、の観点から検討した結果、「生産性」、「健康、医療・介護」、「空間の移動」の３分野に加え、横断的な分野として「情報セキュリティ」の４つの分野が特定された。
27
情報通信研究機構 脳情報通信融合研究センター（ＣｉＮｅｔ）、ユニバーサルコミュニケー
ション研究所（ＵＣＲＩ）、理化学研究所 革新知能統合研究センター（ＡＩＰ）及び産業技術総合研究所 人工知能研究センター（ＡＩＲＣ）
28
人工知能学会倫理委員会には、本推進会議の松尾構成員が委員長に、江間開発原則分科会・影響評価分科会構成員、武田開発原則分科会構成員、西田幹事及び堀幹事・開発原則分科会技術顧問が委員に、栗原開発原則分科会構成員及び山川構成員がオブザーバに就いている。
25

12

て、人工知能の研究開発者が遵守すべき倫理綱領の案を提示し、公開討論に付した。
その後、意見募集で提出された意見等を踏まえて改訂作業を進め、同年 12 月に倫理要綱案の改訂版を策定した。さらに、倫理の専門家や編集委員会の意見を踏まえて改訂版に修正を施し、平成 29 年２月 28 日に『人工知能学会倫理指針』が理事会で承認され、公表した 29。
本倫理指針は、人工知能学会員の倫理的な価値判断の基礎となるものとして定められた指針であり、同学会員はこれを指針として行動するよう心がけるものとされ、
1.人類への貢献、2.法規制の遵守、3.他者のプライバシーの尊重、4.公正性、5.安
全性、6.誠実な振る舞い、7.社会に対する責任、8.社会との対話と自己研鑽、9.人
工知能への倫理遵守の要請、から構成されている。特に第９条については、本指針に従って作られた人工物に対しても本倫理指針が適用されるという再帰性を含んでおり、特徴的なものであるとされている 30。
⑤

高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）

データ流通

環境整備検討会 ＡＩ、ＩｏＴ時代におけるデータ活用ワーキンググループ
高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）データ流通環
境整備検討会において、多種多様かつ大量のデータを安全・安心に流通・利活用できる環境整備に必要な措置の検討に資するため、ＡＩ、ＩｏＴ時代におけるデータ
活用ワーキンググループが設置され 31、平成 28 年９月 30 日に第１回会合が開催された。以降、平成 29 年２月 24 日までに９回の会合が開催され、同年３月に中間とりまとめを公表した 32。
中間取りまとめにおいては、分野横断的なデータ流通を阻害する課題を解決し、
パーソナルデータを含めた多種多様かつ大量のデータの円滑な流通を実現するためには、個人の関与の下でデータの流通・活用を進める仕組みであるＰＤＳ（Personal
Data Store）、情報銀行、データ取引市場が有効であるとして、観光分野、金融・
フィンテック分野、医療・介護・ヘルスケア分野、人材分野、農業分野、防災減災
分野（災害発生時）の６分野のユースケースを整理している。

29

次に掲げるＵＲＬのウェブサイトに所掲。
<http://ai-elsi.org/archives/471>
30
人工知能学会倫理委員会委員長・松尾豊「人工知能学会 倫理指針について」（平成 29 年 2 月
28 日）参照。次に掲げるＵＲＬのウェブサイトに所掲。
<http://ai-elsi.org/archives/471>
31
このワーキンググループには、本推進会議の大橋構成員、宍戸構成員・開発原則分科会長代理及び新保構成員が構成員に就いている。また、このワーキンググループの事務局の事務を掌る内閣官房情報通信技術（ＩＴ）総合戦略室参事官が本推進会議のオブザーバに就いている。
32
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.kantei.go.jp/jp/singi/it2/senmon_bunka/data_ryutsuseibi/dai2/siryou2.pd
f>

13

⑥

知的財産戦略本部 検証・評価・企画委員会 新たな情報財検討委員会
知的財産戦略本部

検証・評価・企画委員会において、ＡＩの利活用が様々な産業に広がることが想定される中、ＡＩ生成物とその生成過程である「学習用データセット」や「学習済みモデル」等の新たな情報財の保護・利活用の在り方について検討を行うため、新たな情報材検討委員会が設置され 33、平成 28 年 10 月 31 日に第１回会合が開催された。以降、平成 29 年３月 13 日までに７回の会合が開催され、同年３月に報告書を取りまとめ、公表した 34。
報告書においては、ＡＩの作成・利活用促進のための知的財産制度の在り方について、具体的に検討を進めるべき事項等として、学習用データの作成の促進に関する環境整備、学習済みモデルの適切な保護と利活用促進が挙げられるとともに、Ａ
Ｉ生成物の知財制度上の在り方について、具体的な事例を継続的に把握しつつ、引き続き検討すべきなどとされている。
２．海外の動向(1) 米国ホワイトハウス
ホワイトハウスは、2016 年（平成 28 年）５月３日付けで、ＡＩがもたらす利益とリスクに関する検討を開始することを発表し、同年５月から７月にかけて、大学やＮＰ
Ｏ等とともに、全米各地において計４回のワークショップを共催した 35。一連のワークショップでは、産業界、学界、市民社会、政府機関等のステークホルダが参加し、Ａ
Ｉと法・統治の関わり、社会的利益のためのＡＩ、ＡＩの安全性と制御、ＡＩ技術と社会・経済の関わり等について議論が行われた 36。
この一連のワークショップにおける議論及びその後の意見募集の結果を踏まえ、同年 10 月 12 日、国家科学技術会議（ＮＳＴＣ）及び科学技術政策局（ＯＳＴＰ）が中心となって取りまとめた報告書「人工知能の未来に備えて」を公表した。
報告書においては、規制制度、研究開発、経済・雇用、公正性・安全性、安全保障など幅広い項目が検討され、各項目に対応して、連邦政府機関等に対する 23 の提言がまとめられている。報告書の結論部では、政府が果たすべき役割として、・重要な問題について対話の場を設け、公の討論のためのアジェンダ設定を助ける

33

この委員会には、本推進会議の喜連川幹事及び福井開発原則分科会・影響評価分科会構成員が委員に就いている。
34
次に掲げるＵＲＬのウェブサイトに所掲。
<http://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2017/johoza
i/houkokusho.pdf>
35
シアトルで開催されたホワイトハウスとワシントン大学の共催によるワークショップには、主催者側からの招へいを受けて、総務省情報通信政策研究所調査研究部主任研究官が参加し、非公式会合において検討会議におけるＡＩ開発ガイドライン案に関する検討を紹介するとともに、参加者らと意見交換を行った。
36
https://obamawhitehouse.archives.gov/blog/2016/05/03/preparing-future-artificialintelligence

14

こと
・

利用の安全性及び公正性を注視し、規制の枠組みを一般の人々を守りながらイノ

ベーションを促進するものに適合させること・熟練した多様な労働力の開発に加えて、基礎研究及びＡＩの公益への利用を支援

すること
・

より早く、より効果的に、より低いコストで公衆に奉仕するため、政府が自らＡＩを利用すること・

ＡＩによる公共政策の各分野への変化を理解し適応するため、その能力を涵養し続けることが掲げられるとともに、実務家（practitioner）が確保すべき事項として、ＡＩ対応
システムが、・ 統御可能であること
・ オープンで、透明で、理解可能であること
・ 人々と効果的に機能し得ること
・ その操作は人間の価値及び願望と一致し続けるであろうことが掲げられている 37。
また、同月 13 日付けで、ＮＳＴＣ ネットワーキング・情報技術研究開発小委員会
は、連邦政府の予算によるＡＩ研究（連邦政府自身のＡＩ研究のみならず、連邦政府の助成を受けた大学等のＡＩ研究を含む。）の方針として「米国人工知能研究開発戦略」を策定した。戦略においては、連邦政府の予算によるＡＩ研究の目標として、社会に便益をもたらす新たなＡＩに関する知識及び技術を生み出しつつ、ネガティブな影響を最小化することが掲げられ、この目標を実現するために優先的に取り組むべき事項が設定されている 38。
さらに、ホワイトハウスは、同年 12 月 20 日付けで、報告書「人工知能、自動化、そして経済」を公表した。報告書においては、ＡＩによる自動化が経済や雇用に与える影響が分析され、ＡＩの開発への投資、ＡＩがもたらす変化に対応した教育改革、
労働者の支援などの政策的対応が提言されている 39。 40

37White House, Preparing for the Future of Artificial Intelligence (2016).
National Science and Technology Council Networking and Information Technology Researchand Development Subcommittee, The National Artificial Intelligence Research andDevelopment Strategic Plan (2016).
39
White House, Artificial Intelligence, Automation, and the Economy (2016).
40
ホワイトハウスにおけるＡＩに関する検討について中心的な役割を担ったエドワード・フェルテン氏（前・ホワイトハウス科学技術政策局ＣＴＯ補佐官、プリンストン大学教授）がフォーラムに参加し、基調講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッシ
ョンに登壇し、ホワイトハウスにおけるＡＩに関する検討を紹介するとともに、本推進会議の構成員らと意見交換を行った。
38

15

(2) Partnership on ＡＩ
2016 年（平成 28 年）９月 28 日、ＡＩ技術のベストプラクティスを研究して形成し、ＡＩに関する公衆の理解を向上させ、ＡＩ及びその社会的影響に関する議論と関与のためのオープンなプラットフォームとして、Partnership on Artificial Intelligence
to Benefit People and Society（Partnership on ＡＩ）が設立された 41。
Partnership on ＡＩは、設立に当たり次に掲げる事項を「信条（Tenets）」として公表した。
・

ＡＩ技術ができるだけ多くの人々に裨益し、能力を与えるよう努める。

・

一般市民を啓蒙し、その声を傾聴するほか、積極的にステークホルダを関与させて、焦点に対する意見を求め、我々の活動を周知させ、疑問に対処する。
・

ＡＩの倫理的・社会的・経済的・法的影響に関するオープンな研究と対話を約束する。
・ ＡＩの研究開発の努力は、広範なステークホルダの積極的な関与を得るとともに、彼らに説明可能なものとすることが必要である。
・

領域固有の懸念及び機会が理解され対処されることの確保に資するよう、ビジネ

スコミュニティのステークホルダに関与させ、その代表者の参画を得る。
・ＡＩの便益を最大化し、ＡＩ技術の潜在的な課題に対処するため、個人のプライ

バシーとセキュリティの保護、すべての当事者の利益の理解と尊重、ＡＩの潜在的影響に関する社会的責任の確保、ＡＩの研究・技術の頑健性、信頼性、信用性、堅牢性の確保、国際条約や人権に反するＡＩ技術の開発・利用への反対、危害を与えないセーフガードと技術の推進に取り組む。
・

ＡＩシステムの動作は、その技術を説明するため、人々の理解と解釈が可能なものであることが重要である。
・

上記の目標の達成に資するよう、ＡＩの科学者や技術者間の協力、信用及び開放性の文化を創造するよう努める 42。 43
41

設立当初の企業構成員は、Amazon、DeepMind/Google、Facebook、IBM、Microsoft の５社で、暫定共同議長は、エリック・ホロヴィッツ氏（Microsoft 技術フェロー）及びムスタファ・ス
レイマン氏（DeepMind 共同創業者）である< https://www.partnershiponai.org/>。2017 年（平成 29 年）１月 21 日には、Apple が企業構成員に、米国人工知能学会、米国自由人権協会、オープン AI が非営利構成員に新たに加わるとともに、評議員に、企業構成員各社を代表する６名に加え、研究者や人権擁護団体の役職者ら６名が独立評議員として就任したことが公表された<https://www.partnershiponai.org/2017/01/partnership-ai-update/>。また、同年５月 16
日には、ソニー、イーベイ、インテル、マッキンゼー・アンド・カンパニーなど８社が新たに
企業構成員に、ユニセフ、電子自由財団、ヒューチャー・オブ・ヒュマニティ・インスティチ
ュート（ＦＨＩ）など 14 の組織・機関が新たに非営利構成員に加わったことが公表された
https://www.partnershiponai.org/2017/05/pai-announces-new-partners-and-initiatives/ 。
42
https://www.partnershiponai.org/tenets/
43
Partnership on ＡＩから、暫定共同議長のエリック・ホロヴィッツ氏（Microsoft 技術フェロー）及び評議員のグレッグ・コラード氏（Google Inc. 主席研究員）がフォーラムに参加した。ホロヴィッツ氏は特別遠隔講演・特別遠隔インタビュー（インタビュアーは本推進会議の16

(3) 米国電気電子学会（ＩＥＥＥ）
電気電子学会（ＩＥＥＥ）の人工知能及び自律的システムにおける倫理的考慮のためのグローバル・イニシアティブ 44は、2016 年（平成 28 年）12 月 13 日に報告書「倫理的に調整された設計－人工知能及び自律的システムにより人間の福利を優先させる
ビジョン 第 1 版―公共の議論のために」を公表した。
報告書においては、人工知能（ＡＩ）／自律的システム（ＡＳ）の潜在能力から十分に便益を得るためには、それらの技術が我々の道徳的価値及び倫理的原則に照らして人間と調和するように確保することが必要であるとの問題意識に基づいて、道徳的価値及び倫理的原則に照らして人間と調和するＡＩを設計する方法について技術者の議論を促すための論点が提示されている。
また、あらゆる種類のＡＩ／ＡＳに適用される高度な倫理的配慮を定式化し、・人権に関する最も高度な理念の具現化

・

人間及び自然環境への最大限の便益の優先

・

ＡＩ／ＡＳが社会技術システムとして発展することに伴うリスクと負の影響の緩和という３つの原則が掲げられている。
さらに、ＡＩ／ＡＳに人間の規範や価値を実装するための方法論を検討した上で、ＡＩ／ＡＳに関する経済的・人道的・法的課題について整理するとともに、汎用人工
知能や自律型兵器に特有の問題についても論じられている 45。
報告書については、公表されてから 2017 年（平成 29 年）３月まで意見募集が行われた。意見募集の結果やＩＥＥＥにおける議論を踏まえ、報告書の第２版が同年秋頃に公表される予定である。 46(4) 英国下院
堀幹事・開発原則分科会技術顧問）に登壇し、コラード氏は講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、Partnership on ＡＩや企業のＡＩに関する取組を紹介するとともに、本推進会議の構成員らと意見交換を行った。
44
イニシアティブは、その目標として、技術者コミュニティの検討作業のための重要な参照点となる認識及び提言（案）を提示すること並びにＩＥＥＥの標準（standard）策定のための提言を行うことを掲げている。
45
The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence andAutonomous Systems, Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing

with Artificial Intelligence and Autonomous Systems, Version One - Request For Public
Discussion (2016).
46

ＩＥＥＥグローバル・イニシアティブに参加しているサイラス・ホーディス氏（ハーバード
大学ケネディ行政大学院ザ・フューチャー・ソサイエティＡＩイニシアティブ共同創設者）がフォーラムに参加し、ＡＩネットワーク化がもたらす豊かさと幸せに関するパネルディスカッ
ションに登壇し、ＡＩの倫理的課題等に関する議論を紹介するとともに、本推進会議の構成員らと意見交換を行った

17

英国下院は、2016 年（平成 28 年）10 月 12 日付けで、科学技術委員会が同年９月 13
日付けで取りまとめた報告書「ロボティクスと人工知能」を公表した。
報告書においては、ロボット・ＡＩに関する社会的・倫理的・法的問題を検討した
上で、政府に対して提言が行われている。ＡＩのガバナンスについては、ＡＩという生成途上の領域に包括的な規制を設けることは時期尚早である一方、ＡＩシステムの倫理的、法的及び社会的次元に関する注意深い精査を開始することが不可欠であるとした上で、実効的なガバナンスが継続的に評価され実行されるよう、検証と妥当性確認、意思決定の透明性、偏見の最小化、アカウンタビリティの向上、プライバシー、安全等の倫理的論点について継続的に注視することが必要であるとされている。また、
ＡＩの発展に関する社会的、倫理的及び法的含意について検討するため、アラン・チ
ューリング研究所 47にＡＩに関する常設の委員会を設置するよう提言し、この委員会は、
ＡＩ技術の開発及び利用を統治するための原則の策定等に注力すべきと勧告している 48。
(5) 欧州議会
欧州議会法務委員会は、2016 年（平成 28 年）４月にロボット・ＡＩの法的・倫理的問題に関する公聴会を開催するなどロボットに関する法的問題の検討を進めてきており、同年５月にロボットの民事法的ルールに関する報告書の草稿を公表し、同年 10 月には関連するワークショップを開催した。
一連の検討を踏まえ、欧州議会は、2017 年（平成 29 年）２月 16 日付けで、「ロボテ
ィクスに係る民事法的規則に関する欧州委員会への提言」を採択した。提言では、Ｅ
Ｕはロボット・ＡＩの開発・設計・利用において尊重されるべき基本的な倫理原則を策定する上で不可欠な役割を果たせるとの認識が示されるとともに、倫理指針の枠組
みは、恩恵、無害、自律及び正義の原則並びに人間の尊厳など欧州連合条約第２条及び欧州連合基本権憲章に定められた原則・価値に依拠すべきであるとされている。その上で、ロボット・ＡＩに関する民事法上の問題を中心に検討を行い、ロボット・ＡＩを所管するＥＵ機関の設置、スマート・ロボットの登録、危害に関する損害賠償責任、知的財産権、相互運用性等の確保等について定めるＥＵ法の策定を欧州委員会に求める提言がなされている。また、基本権の尊重、予防原則、包摂性、アカウンタビ
リティ、安全性、可逆性、プライバシー、便益の最大化と危害の最小化などを内容とするロボット開発者向けの倫理的行動規範の策定についても提言されている 49。 50

47

データサイエンスに関する英国の国立研究機関である。ケンブリッジ大学など５つの大学と英国工学・物理科学研究会議により設立された研究所であり、大英図書館に本部を置いている。
48
House of Commons Science and Technology Committee, Robotics and artificial
Intelligence: Fifth Report of Session 2016–17 (2016).
49
European Parliament, European Parliament resolution of 16 February 2017 withrecommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)).

18

(6) Future of Life Institute（ＦＬＩ）
Future of Life Institute（ＦＬＩ）は、ジャン・タリン氏（Skype 共同開発者、DeepMind
共同出資者）、イーロン・マスク氏（SpaceX 創業者、Tesla Motors 共同創業者）、スティーブン・ホーキング氏（宇宙物理学者）ら起業家や研究者等により 2014 年（平成 26年）３月に設立された非営利団体であり、頑健かつ有益なＡＩを実現するための研究等を実施している 51。
ＦＬＩは、2017 年（平成 29 年）１月に米国アシロマにおいて学界や産業界等の関係者の参加を得てＡＩの研究開発に関する会合を開催し、その成果として、同年２月に「アシロマＡＩ原則」を公表した。原則は、次に掲げる 23 の項目から構成されている。
・

有益な知性の開発という研究の目標

・

ＡＩの有益な利用のための研究への投資

・

科学と政策の連携

・ＡＩ研究における協調、信頼、透明性の文化の促進

・

ＡＩシステムの安全基準を低下させる競争の回避

・ＡＩシステムの安全性とセキュリティ

・ＡＩシステムの事故時の透明性

・

司法の意思決定に関与する自律的システムの説明可能性

・ＡＩシステムの利用、悪用、動作に関する設計者及び製造者の責任・

高度に自律的なＡＩシステムの人間の価値への調和

・ＡＩシステムの設計及び操作における人間の尊厳、権利、自由、文化的多様性の理念への適合・ パーソナルデータに関する個人のアクセス、管理、コントロールの権利
・ パーソナルデータの利活用時における自由とプライバシーの尊重
・

可能な限り多くの人々の便益の享受と能力の向上

・

ＡＩにより生み出される経済的便益の人類による共有

・人間によるＡＩシステムの制御

・

社会的・市民的プロセスの破壊の禁止

・

自律型兵器による軍拡競争の回避

・

将来のＡＩの能力の上限の仮定の回避

・

高度なＡＩがもたらす根本的な変化の重大性への注意

・ＡＩシステムがもたらすリスクの軽減・・

再帰的に自己改良を行うＡＩシステムの安全性と制御

50

欧州議会から、ロバート・ブレイ氏（法務委員会事務局課長）がフォーラムに参加し、講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、欧州議会におけるＡＩに関する検討を紹介するとともに、本推進会議の構成員らと意見交換を行った。
51
https://futureoflife.org/

19

・

超知能（Superintelligence）の開発における倫理的理念と人類の便益の追求

ＦＬＩは、インターネット上でこの原則への署名を募っており、現在、世界各国からＡＩ・ロボット研究者を中心に 3,600 名以上の個人から賛同を得ている 52。 53(7) ＯＥＣＤ（経済協力開発機構）
ＯＥＣＤは、2016 年（平成 28 年）11 月 17 日に人工知能をテーマとする技術予測フォーラム（Technology Foresight Forum：ＴＦＦ）を開催した。技術予測フォーラムには、本推進会議から、平野幹事・開発原則分科会長とクロサカタツヤ開発原則分科会・影響評価分科会構成員が参加し、ＡＩ開発ガイドライン等に関する本推進会議の検討状況を紹介した。加盟各国の参加者やＯＥＣＤ事務局らから、ＡＩ開発ガイドラ
インの策定に向けて国際的な議論と検討を進めることについて賛同する姿勢が示された。
また、2017 年（平成 29 年）５月 17 日から 19 日にかけて、デジタル経済政策委員会（committee on Digital Economy Policy：ＣＤＥＰ）が開催され、我が国から３月に開催されたフォーラムの成果等を総務省から報告したところ、加盟各国の参加者やＯ
ＥＣＤ事務局らから、ＡＩの開発等に関するガイドラインの策定に向けてＯＥＣＤにおいても議論と検討を進めていくことに賛同する姿勢が示された。 54（8）Ｇ７2016 年（平成 28 年）４月 29 日及び 30 日に開催されたＧ７香川・高松情報通信大臣
会合において、高市早苗総務大臣から、Ｇ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て、ＡＩネットワーク化が社会・経済に与える影響やＡＩの開発原則の策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的課題に関し、産学民官の関係ステークホルダの参画を得て、国際的な議論を進めることの提案がなされ、各国から賛同が得られた。
2017 年（平成 29 年）５月 26 日及び 27 日にタオルミナにおいてＧ７首脳会議が開催され、その成果の一つとして付属文書「イノベーション、技能及び労働に関するＧ
７人間中心の行動計画」が取りまとめられた。付属文書においては、包摂的な経済成
長及び経済発展のための不可欠な牽引役として、人工知能の開発及び利用を前進する
52

https://futureoflife.org/ai-principles/
ＦＬＩから、ジャン・タリン氏（ＦＬＩ共同創設者）がフォーラムに参加し、講演及びＡＩ
ネットワーク化のガバナンスに関するパネルディスカッションに登壇し、ＦＬＩにおけるＡＩに関する議論を紹介するとともに、本推進会議の構成員らと意見交換を行った。
54
ＯＥＣＤから、ダグラス・フランツ氏（事務次長）、ウォンキ・ミン氏（デジタル経済政策委
員会議長）及びアン・カブラン氏（科学技術イノベーション局デジタル経済政策課長）がフォーラムに参加した。フランツ氏はビデオ講演を行い、ミン氏は講演に登壇し、カブラン氏は講演及びＡＩネットワーク化のガバナンスに関するパネルディスカッションに登壇し、ＡＩ開発
ガイドライン策定への期待を表明するとともに、本推進会議の構成員らと意見交換を行った。
53

20

ことが掲げられた。これを受けて、今年９月にトリノで開催されるＧ７情報通信・産業大臣会合において、人工知能の開発及び利用の前進に向けた議論が深められる予定
である。

21

第２章 ＡＩ開発ガイドライン
１．背景・経緯
平成 28 年４月 29 日及び 30 日に開催されたＧ７香川・高松情報通信大臣会合において、高市早苗総務大臣から、Ｇ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て、Ａ
Ｉネットワーク化が社会・経済に与える影響やＡＩの開発原則の策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的課題に関し、産学民官の関係ステークホルダの参画を得て、国際的な議論を進めることの提案がなされ、各国から賛同が得られた。
同年６月 20 日に、検討会議の報告書 2016 が公表され、今後の課題のうち第一の課題として「研究開発の原則・指針の策定」が提言されている。
同年 10 月 31 日に、検討会議を発展的に改組した本推進会議が発足し、第１回会合が開催された。本推進会議には、親会の下に開発原則分科会及び影響評価分科会が置かれ、このうち主に開発原則分科会において、国際的な議論のためのＡＩ開発ガイドライン案の作成に向けた検討を行ってきた。同年 12 月 28 日から平成 29 年１月 31 日にかけて、本推進会議において整理したＡＩ開発ガイドライン案の論点に関する意見募集を行い、産学民の多様なステークホルダから意見が寄せられた。
その後、平成 29 年 3 月 13 日及び 14 日に開催されたフォーラム（国際シンポジウム）55
において、ＡＩネットワーク化のガバナンスについて、人間中心の社会の実現を目的とすべきこと、非規制的かつ非拘束的なアプローチ（いわゆるソフトロー）が適切である
こと、開発者は説明責任を果たすことが重要であること、連携、透明性、制御可能性、安全性、プライバシー、セキュリティ、公正などの観点が重要であること、といった議論がなされ、多様なステークホルダによるオープンでグローバルな議論を通じた合意形成が重要であり継続的に議論を行っていくことが重要であることに関し概ね意見の一致を見ることができたものと考えられる。
なお、第１章で詳述しているとおり、この間、欧米各国においても政府や民間においてＡＩに関する社会的・経済的・倫理的・法的課題に関する検討が加速し、活発な議論が行われた。フォーラム等における意見交換等を通じて、こうした海外の検討や議論についても情報収集を行い、本推進会議におけるＡＩ開発ガイドライン案の検討に当たり参考にしている。
２．整理された論点に関する意見募集の結果等を踏まえたＡＩ開発ガイドライン案の方向
性・経緯
意見募集に寄せられた意見等を踏まえ、ＡＩ開発ガイドライン案について、次のような方向で検討を進めてきた 56。
55
56

詳細については、第１章１．(1)及び参考資料参照。
意見募集に寄せられた主な意見の概要とそれらに対する考え方については、別紙２参照。

22

・

ＡＩ開発ガイドラインを、開発者が遵守すべき基準を定めるものとしてではなく、開発者が留意して対応し、対応状況について利用者等に対しアカウンタビリティを果たすことが期待される事項に関し国際的に共有されることが期待される非拘束的な指針を示すものとして策定することを明確にした。
・

ＡＩ開発ガイドラインの策定及び運用に当たっては、関連する多様なステークホル

ダ間のコミュニケーションを図り、ベストプラクティスの国際的な共有に資するものとすることを明確にした。
・

ＡＩ開発ガイドラインにおける用語としての「ＡＩ」を(ア) ソフトウェアたる「ＡＩソフト」(イ) 「ＡＩソフト」を構成要素として含むシステムである「ＡＩシステム」を総称する概念とし、「ＡＩソフト」及び「ＡＩシステム」の定義を示した上で、「ＡＩソフト」及び「ＡＩシステム」の関係を整理することとした。
・ 学習等による出力やプログラムの変化に着目してＡＩソフトを定義することにより、ＡＩ開発ガイドラインにおける用語としてのＡＩが、現在すでに実用化されている機械学習や深層学習等に基づく特化型人工知能を主たる想定対象としつつ、学習等により自らの出力やプログラムを変化させる多種多様なＡＩを包摂するものであることを明確にした。
・

ＡＩ開発原則の対象範囲とするＡＩシステムは、ネットワーク化され得るＡＩシス

テム、すなわち、ネットワークに接続され得るＡＩシステムとした。
・「開発者」の定義については、ＡＩシステムの研究開発（ＡＩシステムを利用しながら行う研究開発を含む。
）を行う者（自らが開発したＡＩシステムを用いてＡＩネッ
トワークサービスを他者に提供するプロバイダを含む。
）とした。
・ ＡＩ開発ガイドラインの策定に当たっては、技術的中立性に鑑み、特定の技術（例：
深層学習等）や方法（例：アジャイル型の開発）に基づくＡＩの研究開発を阻害しないよう、個々のＡＩに係る技術や方法の特性に応じてＡＩシステムの開発者に期待される開発原則への対応の在り方が異なり得ることを明示するなど十分留意することとした。
・

開発者と利用者との責任の適切な分担に留意しつつ、ＡＩ開発ガイドラインの検討を進めるとともに、利用者が留意して対応すべき事項に関する指針の在り方についても検討を進めることとした。
３．ＡＩ開発ガイドライン案の概要
本推進会議における検討を踏まえ、国際的な議論のためのＡＩ開発ガイドライン案を作成した（別紙１）。ＡＩ開発ガイドライン案は、ＡＩ開発において留意されることが期
待される事項のうち各分野に共通する項目を整理したものである。以下、ＡＩ開発ガイ
ドライン案の概要を記すとともに、必要に応じて、趣旨を解説する。
23

(1) 目的
ＡＩネットワーク化による国境を越えた便益及びリスクの波及などガイドライン策定に当たっての背景となる認識及び問題意識を述べた上で、本ガイドラインの目的として「ＡＩネットワーク化の健全な進展を通じてＡＩシステムの便益の増進とリスクの抑制を図ることにより、利用者の利益を保護するとともにリスクの波及を抑止し、人間中心の智連社会 57を実現すること」を掲げている。
(2) 基本理念(1)目的に鑑み、次に掲げる理念を一体的に基本理念として掲げている（概要のみ）。
１．人間中心の社会の実現
２．指針とそのベストプラクティスのステークホルダ間での国際的な共有
３．便益とリスクの適正なバランスの確保
４．技術的中立性の確保と開発者の負担の軽減
５．本ガイドラインの継続的な見直と柔軟な改定(3) 用語の定義及び対象範囲① 定義
本ガイドラインにおける「ＡＩ」の概念を「ＡＩソフト及びＡＩシステムを総称する概念」と位置付けた上で、「ＡＩソフト」を学習等による出力やプログラムの変化に着目して定義する一方で、「ＡＩシステム」を「ＡＩソフトを構成要素として含むシステム」と定義し、その例として、ＡＩソフトを実装したロボットやクラウドシステムを挙げている。学習等による出力やプログラムの変化に着目してＡＩソフ
トを定義する理由は、このように定義されたＡＩソフト及びそれを構成要素として含むＡＩシステムについては、学習等を通じた変化によって開発者が予見し抑制することが困難なリスクが生ずるおそれがあることなどから、従来のＩＣＴとは異なる特別の留意が求められることによる。
本ガイドラインにおけるＡＩの定義は、現在すでに実用化されている特化型ＡＩを主たる対象として想定しているが、自律性を有するＡＩや汎用ＡＩ（Artificial
General Intelligence）を含め将来的に開発される可能性のある多種多様なＡＩについても 58、本ガイドラインの適用の在り方につき不断の議論を行っていくことが望57

智連社会（Wisdom Network Society）とは、ＡＩネットワーク化の進展の結果として、人間がＡＩネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」（Wisdom Network）を構築することにより、あらゆる分野におけるヒト・モノ・
コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となる社会である。詳細は、序章及び中間報告書 12-14 頁参照。
58
ホワイトハウスの報告書「人工知能の未来に備えて」においては、民間部門の専門家の共通

24

ましい 59。なお、国内外におけるＡＩの開発原則・指針に関する検討においては、特化型ＡＩのみならず、自律性を有するＡＩや汎用ＡＩも射程に入れて検討を行うものが有力となっている 60。
認識及びこれに対するＮＳＴＣ技術委員会の同意として、汎用ＡＩは少なくとも数十年間は実現しないだろうとの見方を紹介した上で、慎重な立場からは超知能（superintelligence）がいつの日にか誕生する可能性に注意を払うことが求められるが、このような関心がＡＩに関する
公共政策の主要な推進力となるべきではない旨が述べられている一方で、汎用ＡＩの実現プロ
セスについては専門家の間でも意見が分かれているものの、ＡＩ研究者のうち人間レベルの汎用ＡＩが 2040 年までに実現する確率が 50％以上であろうと予測する者が半数にのぼることを指摘した上で、不確実性を踏まえ、今後のＡＩの発展への注視が必要である旨が提言されている（White House, Preparing for the Future of Artificial Intelligence 7-8, 23-24 (2016)）。
一方、我が国の代表的な人工知能研究者らにより設立された特定非営利活動法人全脳アーキ
テクチャ・イニシアティブは、脳全体のアーキテクチャをモデルにして研究を行うことにより、今後十数年以内に人間のような汎用ＡＩが開発されることになるとの見通しを示している（https://wba-initiative.org/2357/）。
また、Future of Life Institute（ＦＬＩ）の「アシロマＡＩ原則」においては、原則（19）
において、「将来のＡＩの能力についてのコンセンサスが存在しない以上、将来のＡＩの能力の上限について強い仮定を置くことは避けるべきである」と述べられている（https://futureoflife.org/ai-principles/）。
59
本推進会議の構成員の意見及び意見募集に寄せられた意見においても、ＡＩの定義に関しては、人間と同程度の自律性を有するＡＩに限定すべきであるという意見から、自律性を有しない特化型ＡＩに限定すべきであるという意見まで、多様な意見が提示された。本ガイドライン
案においては、このような見解の多様性を踏まえ、学習等による変化に着目してＡＩソフトを定義することにより、学習等により出力やプログラムを変化させる多種多様なＡＩを包摂し得る一般的なＡＩの定義を試みている。また、一部の構成員からは、ＡＩソフト及びハードウェ
アやバイオなどソフトウェア以外の方法によりＡＩソフトの機能を実現するものを包含して「ＡＩモジュール」と定義し、ＡＩソフトの概念に代えて用いるべきであるとの意見も提示されたが、現段階においては、「ＡＩモジュール」の概念について定まった理解が確立していない
ことなどから、本ガイドライン案においては、差し当たりＡＩソフトを基本概念として採用しているが、定義の在り方も含め、ＡＩモジュールを構成要素とするＡＩシステムを本ガイドラ
インの対象とするか否かについては、将来の検討課題とする。
60
欧州議会の報告書においては、自律性を有するスマート・ロボットが主たる検討対象とされている（European Parliament, European Parliament resolution of 16 February 2017 withrecommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL))）。
Future of Life Institute（ＦＬＩ）の「アシロマＡＩ原則」においては、ＡＩ一般に適用される原則に加え、高度な自律性を有するＡＩや汎用ＡＩを念頭に、それらの安全性や倫理的問題に関する原則を策定している（https://futureoflife.org/ai-principles/）。
米国電気電子学会（ＩＥＥＥ）グローバル・イニシアティブの報告書「倫理的に調整された設計」においては、あらゆる種類のＡＩ／自律型システム（ＡＳ）に適用される高度な倫理的配慮を定式化するための論点が提示されるとともに、汎用ＡＩに特有の倫理的問題等についても検討が行われている（The IEEE Global Initiative for Ethical Considerations in
Artificial Intelligence and Autonomous Systems, Ethically Aligned Design: A Vision for

Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems,
Version One - Request For Public Discussion (2016)）。
ＯＥＣＤのアン・カブラン氏（科学技術イノベーション局デジタル経済政策課長）も、フォーラムにおいて、ＡＩ開発ガイドラインは、現に開発されているＡＩに加え、将来開発が見込
まれるＡＩも見据え、策定される必要がある旨を発言している。
我が国の人工知能学会の策定した「倫理指針」も、第９条において「人工知能が社員または25

また、本ガイドラインに関係する主体として、ＡＩシステムの「開発者」及び「利用者」を定義している。
「開発者」は、自らの開発したＡＩシステムを用いてＡＩネットワークサービスを他者に提供するプロバイダを含め、ＡＩシステムの研究開発を行う者として定義している。「利用者」は、最終利用者（エンドユーザ）のほか、他者が開発したＡＩシステムを用いてＡＩネットワークサービス（情報通信ネット
ワークを通じてＡＩシステムの機能を提供するサービスをいう。以下同じ。
）を第三者に提供するプロバイダを含む形で定義している。
なお、ＡＩ開発ガイドラインは、主に開発者がＡＩの開発において留意することが期待される事項から構成されたものであるが、ＡＩは利活用時の学習等によりその出力やプログラムを変化させる可能性があることなどから、利用者がＡＩの利活用において留意することが期待される事項から構成されるＡＩ利活用ガイドラインの策定などＡＩの利活用のガバナンスの在り方についても、ＡＩ利活用ガイドラインの策定の要否を含め、国際的な議論に向けて、今後検討を進めていくことが期待される。
② 対象範囲本ガイドラインの対象とするＡＩシステムの範囲は、ＡＩシステムがネットワー
クを通じて国境を越えて利用され、広く人間及び社会に便益やリスクをもたらす可能性があることから、ネットワーク化され得るＡＩシステム（ネットワークに接続可能なＡＩシステム）としている。ネットワーク化され得るＡＩシステムを本ガイ
ドラインの対象とする理由は、ネットワーク化され得るＡＩシステムについては、
ネットワークを通じて国境を越えて即時に便益及びリスクが波及する蓋然性が高い
一方で、ネットワーク化され得ないＡＩシステムについては、国境を越えて即時に便益及びリスクが波及する蓋然性は低いと考えられることから、前者については、後者と異なり、開発者が留意することが期待される事項を国際的に共有する必要性が高いものと考えられることによる。
本ガイドラインの対象とする開発者の範囲については、本ガイドラインが拘束的ではないソフトローとしての指針であることに鑑み、定義された開発者すべてとする考え方があるとする一方で、自らの開発するＡＩシステムやこれを利用したＡＩ
ネットワークサービスを第三者に提供しない開発者については、第三者や社会に影響を及ぼす蓋然性が相対的に低いと見込まれることから、本ガイドラインの対象としないとする考え方もあるとして、両論を併記している。
それに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない」と定め、将来開発される可能性のある人間と同等の高度な自律性を有するＡ
Ｉを念頭に置いた原則を盛り込んでいる（http://ai-elsi.org/wp-content/uploads/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%B
D%E5%AD%A6%E4%BC%9A%E5%80%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf）
。会の構成

26

本ガイドラインの対象とする開発の範囲は、学問の自由の尊重、社会に与える影
響の大きさ等に鑑み、閉鎖された空間（実験室、セキュリティが十分に確保された
サンドボックス等）内での開発は対象とせず、ネットワークに接続して行う段階としている。
(4) ＡＩ開発原則
ＡＩ開発原則として、次の９原則を掲げている。
（主にＡＩネットワーク化の健全な進展及び便益の増進に関する原則） 61① 連携の原則-----開発者は、ＡＩシステムの相互接続性と相互運用性に留意する。
（主にリスクの抑制に関する原則）② 透明性の原則-----開発者は、ＡＩシステムの入出力の検証可能性及び判断結果の説明可能性に留意する。
③ 制御可能性の原則-----開発者は、ＡＩシステムの制御可能性に留意する。
④ 安全の原則-----開発者は、ＡＩシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
⑤ セキュリティの原則-----開発者は、ＡＩシステムのセキュリティに留意する。
⑥ プライバシーの原則-----開発者は、ＡＩシステムにより利用者及び第三者のプ
ライバシーが侵害されないよう配慮する。
⑦ 倫理の原則-----開発者は、ＡＩシステムの開発において、人間の尊厳と個人の自律を尊重する。
（利用者等の受容性の向上に関する原則）⑧ 利用者支援の原則-----開発者は、ＡＩシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する。
⑨ カウンタビリティの原則------開発者は、利用者を含むステークホルダに対しア
カウンタビリティを果たすよう努める。
(5) ＡＩ開発原則の解説
各原則の留意事項について解説を付している。各原則の解説に共通するおおよその方向性として、次の事項が挙げられる。
・

ＡＩシステム相互間の連携やＡＩシステムと他のシステムとの連携を円滑化

61

連携の原則は、ＡＩネットワーク化の健全な進展を通じてＡＩシステムの便益を増進することを主たる目的とするものであるが、リスクの抑制に関する複数の開発者の取組が相互に調和して有効に機能するようにすることをも目的として含むものである。

27

・

開発者間の情報の共有と協力

・ 国際的に共有された指針や標準・規格が確立されている場合には、当該指針や当該標準・規格を参照
・ 技術的中立性に鑑み、各々のＡＩシステムにおいて用いられる技術の特性や用途に照らし可能な又は合理的な範囲で各原則の留意事項に対応
・

ＡＩシステムの学習等による出力又はプログラムの変化の可能性に留意して利用者が適切な対応を取ることが可能となるよう、利用者に対し情報提供
・ ＡＩシステムについて、リスク評価のための検証及び妥当性の確認 62を行うとともに、開発段階において適切に措置
・

ＡＩ開発原則への対応状況に関し、利用者等関連するステークホルダに対しアカ

ウンタビリティを遂行(6) 関係するステークホルダの役割
別添では、本ガイドラインを踏まえ、ＡＩシステムの開発に関し、関係する産学民官のステークホルダに期待される役割の例を掲げている。概要は、次のとおりである。
・ 【各国政府及び国際機関】多様なステークホルダ間の対話の促進に向けた環境整備
・ 【関係するステークホルダ】対話によるベストプラクティスの共有とＡＩの便益及びリスクに関する認識の共有 63
・ 【標準化団体等】本ガイドラインの趣旨に適う推奨モデルの作成・公表 64
・ 【各国政府】ＡＩの開発者コミュニティ及びＡＩに関する研究開発の支援
４．今後の展開
本推進会議が作成したＡＩ開発ガイドライン案を踏まえ、今後、平成 29 年 9 月にトリノで開催されるＧ７情報通信・産業大臣会合、同年 10 月にパリで総務省とＯＥＣＤの共催により開催される国際シンポジウム、同年 11 月に開催されるＯＥＣＤデジタル経済政策委員会（ＣＥＤＰ）等において、国際的に共有される非拘束的なＡＩ開発ガイドライ
62

欧米の政府や民間におけるＡＩシステムの制御可能性、安全性、セキュリティ等に関する検討においても、リスクを評価し抑制するための手法として、検証（verification）[※形式的な整合性の確認]及び妥当性の確認（validation）[※実質的な妥当性の確認]を求めるものが有力になっている（The Future of Life Institute (ＦＬＩ), Research Priorities for Robust andBeneficial Artificial Intelligence (2015) , National Science and Technology Council, The
National Artificial Intelligence Research and Development Strategic Plan (2016), Houseof Commons Science and Technology Committee, Robotics and artificial intelligence, Fifth
Report of Session 2016–17 (2016)）。
63

Partnership on ＡＩも、ＡＩ技術に関するステークホルダ間の対話やベストプラクティスの共有に積極的な姿勢を示している（https://www.partnershiponai.org/）。
64
倫理的考慮を組み込んだＡＩの設計に関する標準の在り方につき検討するものとして、 seee.g., The IEEE Global Initiative for Ethical Considerations in Artificial Intelligenceand Autonomous Systems, supra note.

28

ンの策定に向けて、国際的な議論が進められることが期待される。また、我が国においても、ＡＩ開発ガイドラインの策定に向けた国際的な議論をリードすることができるよう、本推進会議が作成したＡＩ開発ガイドライン案を踏まえ、産学民官の関係するステークホルダにおいて継続的に議論が進められ、合意形成が図られることが期待される。
なお、ＡＩシステムの研究開発は多様な分野に及び、分野ごとにＡＩシステムのもたらす便益やリスクは異なる可能性があることに鑑みると、分野ごとの事情に応じて留意することが期待される事項については、ＡＩの開発の在り方のうち分野共通的な事項について定めるＡＩ開発ガイドラインの上部に接合される分野別ガイドラインとして、策定の要否を含め、各分野の国際機関を含む関係するステークホルダによる議論が行われることが期待される。
また、ＡＩシステムはその利活用の段階において学習等により出力やプログラムが継続的に変化すること等から、開発段階のみならず利活用段階においても留意することが期待される事項が想定されることに鑑みると、ＡＩ開発ガイドラインとは別に、利用者（最終利用者（エンドユーザ）のほか、他者が開発したＡＩシステムを用いてＡＩネッ
トワークサービスを第三者に提供するプロバイダを含む。
）が留意することが期待される事項等による構成されるＡＩ利活用ガイドラインの策定などＡＩの利活用に関するガバ
ナンスの在り方についても、ガイドラインの策定の要否を含め、国際的な議論が行われることが期待される。

29

第３章 ＡＩネットワーク化が社会・経済にもたらす影響
１．背景・経緯(1) ＡＩネットワーク化に関するリスク・シナリオ分析
報告書 2016 において、近い将来に社会の様々な場面において利活用の急速な拡大が見込まれるロボット 65を題材として、ＡＩネットワークを利活用する具体的な場面を想定したシナリオの作成を試み 66、シナリオに即したリスク対処の在り方を検討した結果が紹介されている。
そこでは、ＡＩネットワーク化の進展に伴いロボットに関し想定され得るリスクのシナリオを試行的に例示しつつ分析を行い、・ＡＩネットワークの利活用の様々な場面における局所的な制御喪失のリスクへの対応が速やかに求められること・事故等のリスクが顕在化した場合には、ネットワークを通じて他のＡＩシステム

等にリスクが波及する可能性があり、ＡＩネットワーク全体のレベルでリスクの顕在化の連鎖に対処するための取組が必要であること
等の知見を得ることができた。
ここで示されたシナリオは、あくまでも試行的に例示されたものに過ぎず、今後、社会の各分野のステークホルダの参画を得つつ、ＡＩネットワーク化の進展等に応じて、リスク・シナリオを拡充するとともに、その内容やリスク評価等を不断に見直すなど、リスク・シナリオについて継続的に検討を行い、リスク・シナリオの共有を図り、シナリオに基づくリスク対処を進めていくことが求められるとされている 67。
また、今後の課題として、リスク・シナリオの作成・共有に向けて、
・

ＡＩネットワークの利活用の場面を想定した各種のリスクに関するシナリオの作

成・

シナリオに基づくリスク対処（リスク評価、リスク管理、リスク・コミュニケーション）の推進
・

ＡＩネットワーク化の進展等に応じたシナリオの継続的な見直し

・

シナリオを踏まえた政府の取組の在り方の検討

65

自律性を有するＡＩを実装するロボットだけではなく、ＡＩネットワークを通じて機能するロボットも対象としている。
66
機能に関するリスク（セキュリティに関するリスク、情報通信ネットワークシステムに関するリスク、不透明化のリスク、制御喪失のリスク）について８とおり、法制度・権利利益に関するリスク（事故のリスク、犯罪のリスク、消費者等の権利利益に関するリスク、プライバシ
ー・個人情報に関するリスク、人間の尊厳と個人の自律に関するリスク、民主主義と統治機構に関するリスク）について 12 とおり、計 20 とおりのシナリオを作成した。これらのシナリオ
は、その作成に当たり、検討会議の構成員のうち、特に赤坂構成員、板倉構成員、クロサカ構
成員及び中西構成員の協力を得たものである。
67
詳細については、報告書 2016 第４章参照。

30

が提言されている 68。
(2) 本推進会議における検討検討会議を発展的に改組した本推進会議においては、親会の下に開発原則分科会及び影響評価分科会が置かれ、このうち主に影響評価分科会において、ＡＩネットワー
ク化が社会・経済にもたらす影響（インパクト及びリスク）の評価に関する検討を行ってきた。
本推進会議においては、報告書 2016 の提言を踏まえて、ＡＩネットワーク化に関するリスクのみならず、インパクト（主に良い影響、便益）についても併せて評価することが重要であるとの認識の下、ＡＩネットワーク化が社会・経済にもたらすインパ
クト及びリスクに関し、ＡＩシステムの具体的な利活用の場面（ユースケース）を想定したインパクト及びリスクの評価（シナリオ分析、将来展望）として、・ 国際的な議論のためのＡＩ開発ガイドライン案の検討に向けた先行的評価
・ ＡＩシステムを利活用する分野ごとの分野別評価を実施した。
なお、インパクト及びリスクの評価の対象とするＡＩシステムの具体的な利活用の場面（ユースケース）については、先行的評価においては、国内外における関連する議論を進めている機関等が提示している既存のユースケース 69 を基礎として本推進会
議が整理したユースケース、分野別評価においては、ＡＩシステムを利活用する分野の構成を利用者の視点から（ユーザ・セントリック・アプローチ）区分した上で本推進会議が整理したユースケースを用いることとした。
２．先行的評価(1) 評価の枠組み
先行的評価については、「ＡＩシステム相互間の連携前の段階（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援する段階）」と「ＡＩシステム相互間の連携後の段階（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大する段階）」とでは、ＡＩネットワーク
化のインパクトやリスクが異なり得るものと考えられることから、この２段階に分けて評価を行うこととした。
インパクト及びリスクの評価に当たっては、インパクトについては、ＡＩシステムを利活用することにより、従来人間には不可能又は困難であったことが可能となることや、効率化や精度の向上等が図られることをインパクトとして評価することとした。
68

詳細については、報告書 2016 第５章 11.参照。
スタンフォード大学「ＡＩ１００」<https://ai100.stanford.edu/>、人工知能と人間社会に関する懇談会<http://www8.cao.go.jp/cstp/tyousakai/ai/>、一般社団法人競争力懇談会（ＣＯＣＮ）<http://www.cocn.jp/>が掲げるユースケース、構成員から提供されたユースケース等。

69

31

他方、リスクについては、ＡＩシステムの利活用に伴い新たに生ずるリスク（ＡＩネットワーク化固有のリスク）だけではなく、ＡＩシステムを利活用しない場合と比べて増加するリスクやＡＩシステムを利活用しない場合と比べて軽減するものの、利活用する場合における事故等による被害の規模や波及がある程度大きいリスクについても評価の対象とすることとした 70。
なお、セキュリティに関するリスク（ＡＩシステムがハッキングされること等により機能不全に陥るリスク等）、不透明化のリスク（多重かつ複雑に連携しているＡＩシ
ステムの一部の動作が不透明化することに伴い、ネットワークを介してつながるＡＩ
システムの動作全体が不透明化するリスク等）、制御喪失のリスク（ＡＩシステムが攻撃を受けたり、不具合が生じたりすることにより、制御が困難又は不可能となり、当該ＡＩシステムとネットワークを介してつながるＡＩシステム全体が機能不全に陥る
リスク等）については、各ユースケースに共通するリスクと考えられることから、個々のユースケースの評価において個別には記載しないこととしている 71。
(2) 先行的評価
先行的評価については、国内外における既存のユースケースを基礎として整理する
ユースケースを用いることから、ここでは、ＡＩシステムの利活用の分野を主に社会・経済における製品・サービスの供給面の領域の別に応じて、次に掲げるユースケース
を対象として評価を行った。
・ 災害対応に関するユースケース

・ 製造・保守に関するユースケース

・ 移動（車両）に関するユースケース

・ 農業に関するユースケース

・ 健康に関するユースケース

・ 金融（融資）に関するユースケース

・ 教育・人材育成に関するユースケース

・ 公共・インフラに関するユースケース

・ 小売・物流に関するユースケース

・ 生活に関するユースケース

先行的評価においては、これらのユースケースごとに、次に掲げる災害対応に関する例のように、ＡＩシステムの利活用に関するインパクト及びリスクの評価を行った。
各ユースケースの評価の結果の詳細は、別紙３のとおりである 72。

70

インパクト及びリスクのいずれについても、あくまでも典型的に想定され得るものの一部を例示として記載しているだけであり、網羅的なものではないことに留意することが必要である。
71
これらのリスクへの対処が重要であることは言うまでもない。むしろ、共通するリスクであるからこそ、これらのリスクへの対処が特に重要となる。
72
各ユースケースに記載されているＡＩシステムの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。

32

１ ．災害対応に関するユースケース
災害が発生した際にＡＩシステムを利活用することにより、救助、支援業務等が効率化、高度化。
ＡＩシステム相互間の連携後には、救助や支援業務、救急搬送、支援物資の運搬及び分配について、連携の対象となる業務全体としてのリアルタイムでの最適化に向けた提案又はその実施が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 被災者（要救助者）のスマートフォンやウエアラブル端末から得られる様々な情報（位置情報やバイタルデータ等）を AＩ
システムが解析し、要救助者の容体の変化に応じて、救助を要請する。
〇 カメラを搭載したドローンが空からの目視が困難な被災者の探索を行い、救助を要請する。
〇 避難所で生活する被災者に対し避難所生活や復旧に関する情報を提供する。また、健康情報や生活情報等をもとに健康状態を推定しアドバイスを送る。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、時々刻々と変化する要救助者の状況や被災状況、被害予測に基づき、リソースや物資の需給バランスのリアルタイムでのシミュレーションを行い、〇 救助や支援業務に要するリソースの最適な配分を提示して、その作業全体のリアルタイムでの最適化に向けた提案をする。
〇 救急搬送や物資運搬のための最適なルートを設定し、車両等の運用全体のリアルタイムでの最適化に向けた提案をする。
〇 各避難所における支援物資の需給及び運搬車の運用状況のマッチングにより、物資の運搬及び分配全体のリアルタイムでの最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。

【ＡＩシステム相互間の連携前の段階】＜リスク評価＞＜インパクト評価＞
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）被災者（要救助者）からの救助要請

・要救助者の早期発見、早期救助につながる。

・誤った推定・判断により、本来必要とされる救助が要請されないおそれがある。

生命身体に危害が及ぶリスクの評価

ドローンによる被災者の探索

・人間では探索が困難な被災者の発見、救助が可能となる。

・通信の遅延や情報通信ネットワークの遮断、ハッキング等により機能不全に陥ったりするおそれがある。

情報通信ネットワー
クのオペレーション
評価

避難所生活に関する助言や健康状態の推定

・被災者の不安を取り除き、復旧に対する意
欲をかきたて、健康維持管理や病気の予防や感染症の拡大防止に役立つ。

・被災者に関する重要な情報がインプット
されていなかったこと等により、被災者に誤ったアドバイスを行い被災者の健康状態を害するおそれがある。

生命身体を害する影響等の評価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

要救助者の状況や被災状況等に応じた救助や支援業務全体のリアルタイムでの最適化に向けた提案又はその実施

・時々刻々と変化する状況に即応して救助や支援業務全体の最適化を図ることが可能となる。

・ＡＩシステムを利活用しない者が救助や支援の対象から外され、又は不当に順番が劣後されるおそれがある。

生命身体に危害が及ぶリスクの評価

救急搬送や物資運搬のための最適なルート設定、車両等の運用全体のリア
ルタイムでの最適化に向けた提案又はその実施・被災状況や活用できるリソースに応じ、車両等の運用全体の最適化を図ることが可能となる。

・一部のＡＩシステムが個別最適を目指して過剰な要求を行った結果、全体の最適化が実現しないおそれがある。

支援物資の分配全体のリアルタイムでの最適化に向けた提案又はその実施

・避難所ごと、自治体ごとに支援物資の分
配・運搬全体の最適化を図ることが可能となる。

・ＡＩシステム間の連携の不具合や誤った判断の結果、AI システムへの信頼が低下するおそれがある。

支援物資やリソースの過不足に及ぼす影響の評価

ＡＩシステムへの信
頼への影響の評価

リスク管理（例）

リスク・コミュニケーション（例）・ＡＩシステムによる予測の精度の乖離を許容する範囲の設定・判断又は決定をＡＩシステムに委ねる範囲及び条件の設定
・複数のＡＩシステム間の連携に関する仕組みの確立（インターフェース標準化やプロトコルの変換等）

・災害時におけるステークホルダ間の平常時からの双方向的な対話・協働の場の形成・緊急時のコミュニケーション（クライシス・コミュニケーション）を平常時のリスク・コミュニケーションとは区別して実施できる体制の整備（注）想定される利活用のうち、主なものについて記載

33

(3) シナリオ分析から得られた示唆
先行的評価におけるシナリオ分析から、次のような示唆を得ることができた 73。
・ 同じ領域内においても様々なＡＩシステム相互間の連携が可能となることにより、
ＡＩシステム相互間の連携前におけるインパクトに加えて、特に連携に係るＡＩシ
ステムを利活用する業務全体を通じたリアルタイムでの最適化など更に大きなインパクトがもたらされる 74。
＜ＡＩシステム相互間の連携の例＞
➢

災害対応：

救急搬送や物資運搬のための最適なルートを設定し、車両等の運用全体のリアルタイムでの最適化に向けた提案をする。
➢

健康：医療機関と消防機関等との間において、救急車、病院の受入態勢等についてリアルタイムで調整を行い、搬送及び治療全体のリアルタイムでの最適化に向けた提案をする。
➢

製造・保守：

複数の企業が保有するリソース・技術等がＡＩシステムを通じて連携し、生産計画の策定や生産ラインを企業横断的に調整し、リソース活用等の全体としての最適化に向けた提案をする。
※

それぞれの利活用において、ＡＩシステムに決定まで委ねる場合には、提案

内容のリアルタイムでの実施が可能となる。
・

複数のユースケースにおいて、次に掲げられる例のように共通して想定されるリ

スクが見受けられる。これらのリスクは、今回対象としたユースケース以外のＡＩシステムの利活用においても広く想定され得るものであることから、特に留意が必要となるものと考えられる。
＜共通して想定されるリスクの例＞➢

ＡＩシステムやロボット等がハッキングされること等により、不正に操作されたり、機能不全に陥ったりするおそれ、個人情報（センシティブ情報（病歴や健康状態等）を含む。
）や機密情報が流出するおそれがある。
➢

一部のＡＩシステムが個別最適を目指して過剰な要求を行い続けるなどネットワークを介してつながるＡＩシステム相互間の調整に関する技術的又は法的な仕組みが有効に機能しない結果、全体としての最適化の実現が妨げられるおそれがある。
➢
・

なりすましや偽装による不正取引・契約、不正注文が行われるおそれがある。
これらのリスクへの対処として、リスク管理、リスク・コミュニケーション等が重要となるものと考えられる。また、これらのリスクへの対処は、便益の増進とも密接に関連し得るものである。

73

ＡＩネットワーク化の健全な進展に向けた今後の課題の検討に当たって留意すべき事項については、分野別評価におけるシナリオ分析から得られた示唆と併せて本章５．に記載。
74
長尾・前掲注（６）２頁参照。

34

＜リスク管理、リスク・コミュニケーションの例＞➢

専門家による学習データやパラメータのチューニング等による精度向上、継続的なモニタリングの実施➢

認証等のセキュリティ対策の実装、データの匿名化・暗号化の実施、個人情報の運用・管理ガイドラインの策定➢ ステークホルダ間の双方向的な対話・協働の場の形成
３．分野別評価(1) 評価の枠組み
分野別評価における分野の区分については、ＡＩネットワーク化の進展に伴いＡＩシステムの利活用をめぐるエコシステムが複雑化していくものと考えられることに鑑み、将来社会の在り方に関するフォアキャスト的なアプローチとバックキャスト的なアプローチの双方を採り入れ、次の事項を念頭に置き、次表のように整理した。
・ ＡＩネットワーク化が主としてＡＩシステムの「利用者」（特に最終利用者）にどのような便益やリスクをもたらし得るのかを重視し、利用者を「個人」、「公共」及び「産業」の３つに区分した上で、「個人」については生活の各場面、「公共」については公益の確保に関連する場面、「産業」について商流が形成される場面に着目して分野の区分を設定する。
・

分野別評価においては、ＡＩネットワーク化の進展により、領域が融合していく

ことや領域横断的なＡＩネットワークの利活用が進むことが見込まれることを踏まえて分野の区分を設定する。
・

ＡＩネットワークが社会的なニーズへの対応や課題の解決に貢献するものである

ことから、社会的なニーズ又は課題を踏まえて分野の区分を設定する。
先行的評価においては主として社会・経済における製品・サービスの供給面の領域ごとに評価を実施したことを踏まえ、分野別評価においては、利用者の視点から（ユーザ・セントリック・アプローチ）評価を行うこととしたことに鑑み、主として製品・サービスの供給面の領域を横断し又は領域が融合していくものと見込まれるユースケースを用いることとし、「領域横断前の段階」と「領域横断後の段階」の２段階に分けて評価を行うこととした。
なお、評価の対象とするインパクト及びリスクの考え方については、先行的評価における枠組みと概ね同様である 75。

75

本章２．(1)参照。

35

(2) 分野別評価
先行的評価について本報告書においては、上記 12 分野のうち、次の３分野に関する
ユースケースを対象として評価を行った 76。
・

公共：まちづくりに関するユースケース

・

個人：健康に関するユースケース

・ 産業：モノに関するユースケース
分野別評価においては、これらのユースケースについて、次に掲げるまちづくりに関する例のように、ＡＩシステムの利活用に関するインパクト及びリスクの評価を行った。各ユースケースの評価の結果の詳細は、別紙４のとおりである。

76

他の分野の評価については、本報告書の公表後、本推進会議において行う予定である。

36

まちづくりに関するユースケース（概要）
ＡＩシステム相互間のネットワークが形成されることにより、インフラの異常検知・故障予測とメンテナンス
ロボットの連携、交通量・流の把握に基づく円滑な交通の実現、カメラによる迷子等の特定と対話型ロボットによる対応など、それぞれのＡＩシステムが単独で機能する場合に比べて、時々刻々と変化する状況に即応した安心・安全かつ快適なまちづくりを進めることができるようになる。
さらに、ＡＩシステム相互間のネットワークが公共インフラ、行政、スマートシティ、小売、移動などの領域を横断して形成されることにより、地域の特性に応じた都市計画の策定、在・不在に応じた自動パトロールの実
施などの行政サービスが提供されるとともに、パーク＆ライドの実現による環境負荷の軽減（ＣＯ２の削減）なども図られ、領域が横断する前に比べて、まちの諸機能が領域を越えて連携し、高度化するようになる。
【領域横断前の段階】（領域内でＡＩシステム相互間のネットワークが形成され、領域内における利用者の便益が飛躍的に拡大）＜シナリオ上想定される利活用（主なものの例示）＞①

各種インフラに設置されたセンサーや衛星写真等から異常検知、故障予測を行い、メンテナンスロボットが即応して補修等を行う。

②

リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。

③

カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強化する。

【領域横断後の段階】（ＡＩシステム相互間のネットワークが領域横断的に形成され、領域間を連携する高度なサービスが実現）＜シナリオ上想定される利活用（主なものの例示）＞➊（公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテナンスを含む都市計画（例えば、災害に強いまちづくり）を策定する。また、スマート
メーターによる在・不在状況に即応した自動パトロールや見守りサービスを実施する。
➋（スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、人の移動や混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報提供、効果的な広告・宣伝、販売方針の提案等をリアルタイムで行う。また、商業圏やテーマパーク等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。

まちづくりに関するユースケース（将来ビジョン）➋（スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、人の移動、混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報提供、効果的な広告・宣伝、販売方針の提案等をリア
ルタイムで行う。また、商業圏やテーマパーク
等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバ
ス等の運行（増発等）をリアルタイムでコントロールする。

領域
横断後・過度に混雑していない店舗や施設で、快適に買い物やレジャーを楽しむことができるようになる。
・売上の増加が期待できるようになる。
・ＣＯ２の削減など環境負荷の軽減につながる。

➊（公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテ
ナンスを含む都市計画（例えば、災害に強い
まちづくり）を策定する。また、スマートメ
ーターによる在・不在状況に即応した自動パトロールや見守りサービスを実施する。

③カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強
化する。

領域

・案内所などを探す手間が軽減され、快適に施設を利用したり、買い物をすることができるようになる。
・事故や事件の未然の防止が図られる。

②リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。

横断前①各種インフラに設置されたセンサーや衛星写真等から異常検知、故障予測を行い、メンテナンス
ロボットが即応して補修等を行う。

2020 年代・地域の特性に応じたまちづくり（災害に強いまち、高齢者に優しいまち等）を進めることができるようになる。
・安心して安全に居住・生活できるようになる。

2030 年代

37

・救急車等の優先車両がスムーズに通行することができるようになる。
・渋滞の解消・緩和が図られる。

・インフラの点検・補修の効率化が図られる。
・道路、橋、鉄道等を安心して安全に利用できるようになる。

2040 年代まちづくりに関するユースケース（評価サマリ）【領域横断前の段階（サマリ）】＜インパクト評価＞＜リスク評価＞

シナリオ上想定されるシナリオ上想定されるシナリオ上想定されるリスクが顕在化した場合に

利活用

インパクト

リスク

想定される被害リスク評価（例）

生命身体に危害が及ぶリスクの評価① 各種インフラに設置された ・インフラの点検・補修の効率化がセンサーや衛星写真等か図られる。
ら異常検知、故障予測を ・人間の介入を減らすことができ、作行い、メンテナンスロボット 業の安全性の向上が図られる。
が即応して補修等を行う。 ・道路、橋、鉄道等を安心して安全に利用できるようになる。

・異常検知の精度が十分でないことや誤った判断 ・見逃された又は放置された異常箇所を車両を行うこと等により、異常の見逃し等が生ずるお 等が通行することにより、事故が発生する
それがある。また、異常検知の閾値が低すぎる
おそれがある。
と、過剰反応が発生するおそれがある。
・過剰反応によって、無駄なメンテナンスや誤・ハッキング等により、各種インフラの衛星写真や ったメンテナンスが行われるおそれがある。
センサーから得られた情報が流出し、悪用され ・流出した情報がインフラ等に対する物理的るおそれがある。
な攻撃に利用されるおそれがある。

② リアルタイムで把握できる
交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。

・民間のデータ提供者、信号制御を行う警察、交 ・ＡＩシステムが機能不全に陥ること等により、通情報を提供する公的機関・事業者、自動運転 信号制御ができなくなるおそれがある。ま社会的な受容度
車間で、意思疎通が十分に図られず、機能不全 た、誤った渋滞予測や回避ルートを設定す に影響を及ぼすに陥るおそれがある。
るおそれがある。
リスクの評価・交通情報を所有する関係者間で情報が共有さ ・その結果、交通事故が発生したり、新たにれず、渋滞予測・信号制御の精度が向上しない 渋滞が発生するおそれがある。
情報流出時の影
おそれがある。
響の評価

・リアルタイムで高精度の情報を提供することができるため、情報サービス事業の収益機会が増大する。
・救急車等の優先車両がスムーズに通行することができるようになる。
・渋滞の解消・緩和が図られる。

③ カメラの映像から、迷子や ・案内所などを探す手間が軽減さ困っている人を捜し、即時 れ、快適に施設を利用したり、買いに対話型ロボットが対応し 物をすることができるようになる。
て、困りごとを解決すると ・事故や事件の未然の防止が図ら
ともに、不審者を見つけて れる。
警備を強化する。

・画像認識の精度が十分でない場合、人物を誤って特定するおそれがある。
・対話型ロボットの学習不足等により、迷子や困りごとに適切に対応できないおそれがある。
・カメラの映像（個人情報）が本人同意がなく、第三者に提供、共有されるおそれがある。

リスク管理（例）

ＡＩシステムによる誤った判断が及ぼす影響範囲の評価

・迷子や困りごとが即時に解決されないおそ プライバシー侵
れがある。
害の評価
・プライバシーが侵害されたり、犯罪に悪用されるおそれがある。
犯罪の発生確率等の評価

リスク・コミュニケーション（例）・複数の AI システム間の連携に関する仕組みの確立（インターフェースの標準化やプロトコルの変換等）
・データの暗号化・匿名化の実施

・ＡＩシステムの利用に関する関係者間における双方向的な対話の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・交通情報サービス事業者やデータ提供者の収益増加に伴い、新たな雇用が創出される。
・案内所や迷子対応の業務から、付加価値の高い業務に配置転換することができる。

・事故が発生した場合の責任の分配の在り方が問題となる。
・人間とロボット（ＡＩ）との役割分担に留意する必要がある。
・各地域の利用者の財政状況や利活用に対するマインドにより、収集・提供される情報の質・量に偏在が生じ、地域間でバラつきが生ずるおそれがある。

【領域横断前の段階（サマリ）】＜インパクト評価＞＜リスク評価＞

シナリオ上想定されるシナリオ上想定されるシナリオ上想定されるリスクが顕在化した場合に

利活用

インパクト

リスク

想定される被害・地域の特性に応じたまち➊ （公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテ づくり（災害に強いまち、
ナンスを含む都市計画（例えば、災害に強い 高齢者に優しいまち等）をまちづくり）を策定する。また、スマートメータ
進めることができるようにーによる在・不在状況に即応した自動パトロなる。
ールや見守りサービスを実施する。
・安心して安全に居住・生
活できるようになる。

・過度に混雑していない店➋ （スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、 舗や施設で、快適に買い
人の移動、混雑を把握・予測し、年齢や性別 物やレジャーを楽しむことなどの属性を踏まえ、混雑緩和に向けた情ができるようになる。
報提供、効果的な広告・宣伝、販売方針の・売上の増加が期待できる提案等をリアルタイムで行う。また、商業圏
ようになる。
やテーマパーク等の周辺において、道路や ・ＣＯ２の削減など環境負荷
駐車場の混雑状況に応じて、自動走行車のの軽減につながる。
入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。

リスク評価（例）・誤ったデータや偏ったデータに基く学習や学習不 ・計画を作り直すなどの無駄なコ ＡＩシステムによ
足の結果などにより、地域の特性に応じた適切なストが発生するおそれがある。 る誤った判断や都市計画が策定されないおそれがある。
・プライバシーが侵害されたり、犯 差別的な判断が・ハッキング等により、在・不在の情報や見守りサー 罪に悪用されるおそれがある。 及ぼす影響範囲
ビスに活用する映像が流出し、悪用されるおそれ ・安心感が薄れていくおそれがあ の評価がある。
る。
ＡＩシステムへの・スマートメーターと自動パトロール車におけるＡＩシ
信頼への影響のステム間の連携が十分でなく、不在者宅付近のパ評価トロールが手薄になったり、同じ場所に複数のパト
ロール車が駆けつけるなどのおそれがある。
プライバシー侵・画像認識の精度が十分でない場合、適切に属性 ・効果的でない広告・宣伝を行う 害の評価
（年齢や性別）が分類できないおそれがある。
ことで無駄なコストが発生する
・誤ったデータや偏ったデータに基く学習や学習不
おそれがある。
犯罪の発生確率足の結果などにより、差別的な広告・宣伝を行うお ・購買意欲等が低下し、売上の増 等の評価
それがある。
加が見込まれなくなるおそれが・ＡＩシステム間の連携が十分でなく、機能不全に陥ある。
り、適切に車の入出場のコントロールができなくな ・人権が侵害されるおそれがあり、混雑が深刻化するおそれがある。
る。
・カメラの映像（個人情報）が本人同意がなく、第三 ・プライバシーが侵害されたり、犯者に提供、共有されるおそれがある。
罪に悪用されるおそれがある。

リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニタリングの実施
・ＡＩシステムによる予測の精度の乖離を許容する範囲の設定
・個人情報の取得又は活用に際しての本人同意の確保、名寄せの制限

・同種のＡＩシステムを利活用する事業者間やＡＩシステムを利活用しない者との間における対話・協働の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認

雇用・働き方への影響

その他留意すべき事項
・利用者間の調整に当たっては性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。
・ＡＩシステムの判断がブラックボックス化された場合、当該ＡＩを所有・管理する公的機関（自治体等）への情報公開請求に対して適切に対応できない可能性がある。
・パブリックなスペース（公道など）とプライベートなスペース（店舗内など）が混在することを踏
まえて、データの価値とプライバシーとのバランスをとることが重要である。

・商業施設やテーマパークの売上・消費が増え、雇用が創出される。
・駐車場等の警備員・整理係の業務に関連する雇用が減少する。
・自治体の都市計画の策定に関連する雇用が減少する。
・パトロールや見守りの業務に関連する雇用が減少する。

38

(3) シナリオ分析から得られた示唆
分野別評価におけるシナリオ分析から、次のような示唆を得ることができた 77。
・

様々な領域横断的・融合的なＡＩシステムの利活用が可能となり、ＡＩシステム

相互間の連携におけるインパクトに加えて、社会の様々な分野に広範にわたって大きなインパクトがもたらされる 78。
＜領域横断・融合の例＞➢ 公共インフラ＋行政＋スマートシティ、スマートシティ＋小売＋移動➢ 医療・介護＋農林水産＋小売＋生活支援、医療・介護＋行政＋金融・保険➢ 製造＋運輸・物流＋小売、製造＋運輸・物流＋金融・保険
・

雇用・働き方への影響について、雇用が減少することが見込まれる業務もあるものの、より付加価値の高い業務への配置転換が可能となる業務や新たに雇用が創出される業務も見込まれる。
＜雇用・働き方への影響の例＞➢

学習データやパラメータ調整、情報セキュリティ等に関連する雇用、家電メー

カー、ロボットメーカーに関連する雇用等の創出が見込まれる。
➢

行政（自治体）の窓口業務から政策立案等の業務への配置転換、生産ラインの調整等の業務から商品・サービスの企画・開発等の業務への配置転換が可能となることが見込まれる。
➢

パトロールや見守りの業務に関連する雇用、在庫管理や商品の発送・納品等に係る調整等の業務に関連する雇用等の減少が見込まれる。
・

各ユースケースにおいて、次に掲げられる例のように共通して想定されるリスクが見受けられることから、それらのリスクへの対処 79が重要である。
＜共通して想定されるリスクの例＞➢

誤ったデータや一部の領域の事情に偏ったデータに基く学習や学習不足の結果、領域を横断した最適な調整等が実現しないおそれがある。
➢ 画像認識の精度が十分でない場合、属性（性別、年齢等）、体調の急変等を正しく認識できず、期待された便益を享受できないおそれがある。
➢ 個人情報（センシティブ情報（病歴や健康状態等）を含む。
）がハッキング等により流出したり、本人同意なく第三者に提供、共有されるおそれがある。

77

先行的評価におけるシナリオ分析から得られた示唆と共通するものについては、本章２．(3)参照。ここでは、特に領域横断的・融合的な観点から得られた示唆について記載している。なお、前提注（73）と同じく、ＡＩネットワーク化の健全な進展に向けた今後の課題の検討に当たって留意すべき事項については、先行的評価におけるシナリオ分析から得られた示唆と併せて本章５．に記載。
78
長尾・前掲注（６）２頁参照。
79
リスク管理、リスク・コミュニケーション等については、先行的評価におけるものと共通するものが考えられる。本報告書 34-35 頁参照。

39

４．雇用・働き方への影響
報告書 2016 においては、ＡＩネットワーク化の進展を通じて異業種間の融合による新
たな商品・サービス、ビジネスモデルが創出されるようになるものと展望されるが、そのような変化は、そこで働く人々の働き口、働き方、働く内容を左右し得ることとなり、ひいては、人間の生き方にも影響を及ぼし得るものと考えられると指摘されている 80。
1990 年代以降、情報通信分野の発展が雇用に与える影響については、ルーティンタス
クに従事していた中間層の雇用が代替されたが、サービス業や運輸業が受け皿となったことにより、社会全体としては雇用が確保されていたとの見方がある 81。しかしながら、ＡＩシステムの普及により、受け皿となっていたサービス業や運輸業等これまでは人間にしかできないとされていた業務についてもＡＩシステムへの代替が進むようになることから、受け皿がなくなり大規模な失業が発生するのではないかとの指摘がある 82。また、ＡＩシステムに関する技術革新のスピードが非常に速いため、補完的イノベーション 83
が技術革新に追いつかず、ＡＩシステムがもたらす生産性向上・経済成長よりも先に格差の拡大が生じてしまうのではないかとの指摘もある 84。
ただし、これらの指摘に関しては、・ＡＩシステムによる代替が進むとされている職種は、主観的な予測をベースとして挙げられており、必ずしも信頼性が高いとは言い難いこと。
・

新しい技術による雇用の代替可能性は、その価格に依存するが、その点が考慮されていないこと。
・

新しい技術による生産性向上・経済成長がもたらす雇用創出の可能性が考慮されていないこと 85。
・

射程とするタイムスパンにより、影響の在り方や大きさが異なること。

・

失業以外への影響について、ＡＩシステムのサポートにより労働者のストレスの軽減、女性・高齢者・障がい者などの活躍の促進など良い影響がもたらされる可能性が
あること。

80

報告書 2016 第２章２．参照。
山本影響評価分科会構成員「労働経済学研究に基づくＡＩネットワーク化の労働市場への影
響」（提出資料）参照。
82
Frey,C., & Osborne,M., The future of employment (2013)参照。
83
一般的に、技術革新が起きた場合、それをうまく活用するように機械の導入や組織改革等が行わることにより、生産性向上・経済成長が生じ、新しい雇用が創出されると言われている。
ただし、その間にはタイムラグがあり、すぐに新しい雇用が創出されるわけではないこと（生産性のパラドックス）に留意することが必要である。
84
エリック・ブリニュルフソン＝アンドリュー・マカフィー（村井章子訳）『ザ・セカンド・マ
シン・エイジ』（日経ＢＰ社、平成 27 年）参照。なお、そもそも経済成長と格差の拡大が同時に進行する可能性があるとの指摘もある。
85
必ずしも新しい技術による生産性向上・経済成長が雇用創出をもたらすとは限らず、失業の増大と経済成長が同時に進行する（雇用なき経済成長が継続する）可能性があるとの指摘もあ
る。
81

40

等に留意する必要がある 86。
ここで、我が国の労働市場に目を向けてみると、ルーティンタスクの集約度が比較的高い 87（ルーティンタスクが他の先進国に比べ多く残っている）状況にあることから、Ａ
Ｉシステムの普及による影響を受け易いとの見方がある 88。また、従来は、正規雇用を中心とする日本的雇用慣行により情報通信分野の発展による雇用の代替が生じにくかったが 89、ＡＩシステムの普及が進んでいくことにより、日本的雇用慣行そのものがなくなり、中長期的には代替が進むのではないかとの見方もある 90。さらに、非正規雇用の業務はルーティンタスクが中心になっていることから、ＡＩシステムの普及により、非正規雇用の労働者は大きな影響を受ける可能性があるとの見方もある 91。
このような雇用・働き方への影響を踏まえると、失われる雇用から新しく創出される雇用への円滑な移行、新しく創出される雇用への適応のための教育や人材育成が重要となるものと考えられる。この点については、社会に出る（就職する）までの教育、社会に出た（就職した）後の再教育・人材育成のいずれもが重要であり、学校教育、企業内の人材育成（ＯＪＴ（On the Job Training））ともに従来の発想や方法からの転換が求められる。また、今後、自営的就労 92の可能性が高まることに鑑みると、個々人が自ら技能習得しなければならなくなるため、自助・自学のための環境整備を進めることも重要である。
86

山本・前掲注(81)参照。
国際比較において 22 箇国中４番目に高い（１位：韓国、２位：イタリア、３位：ロシア）。
DeLaRica,S. & Gortazar,L. Differences in Job De-Routinization in OECD Countries (2016)
参照。
88
山本・前掲注(81)参照。
89
従来は、企業特殊的な人的投資により人材育成を行っていたことから、雇用の代替に当たっての調整費用が大きくなるため、情報通信分野の発展による雇用の代替が進まなかったものと考えられる。このことに関連して、大内伸哉（影響評価分科会構成員）『ＡＩ時代の働き方と法2035 年の労働法を考える』第１章及び第４章（弘文堂、平成 29 年）参照（日本的経営の柱とされていた終身雇用、年功型処遇及び企業別組合があてはまる正社員こそが日本の労働者のメ
インストームであるとして、日本型雇用システムは、長期雇用の下に、年功型の職能給という安定的な処遇体系をもち、その反面、職務や教育訓練についての企業の権限（人事権）を広く認めるという柔らかな労働組織があったため、技術革新に対する高いアダプタビリティ（適応力）をもっていたと指摘している。
）。
90
山本・前掲注(81)参照。このことに関連して、大内・前掲注（89）参照（企業内の再配置を可能とするアダプタビリティは、技術の発達のスピードが比較的緩やかで、企業内での教育訓練によって、新たな技術が必要とする技能の習得が追いつくことが前提であったとして、現在の技術の発達のスピードは格段に速まっており、企業内での再配置が困難になっていることや再配置するための雇用が創出されていないことを挙げ、ホワイトカラーの雇用の多くは、すでに危機的な状況にあるとの警告に真剣に耳を傾けなければならいと指摘している。）。
91
山本・前掲注(81)参照。
92
場所的時間的拘束が少なく、自分で仕事のオーガナイズができる働き方のこと。詳細は、報告書 2016 第２章２．参照。
87

41

教育・人材育成の重要性については、国際的にも指摘されており、米国ホワイトハウ
スの報告書『人工知能、自動化、そして経済』（平成 28 年 12 月 20 日）において、ＡＩ
による自動化が経済や雇用に与える影響を分析し、ＡＩの普及がもたらす変化に対応した教育改革、労働者の支援などの政策的対応を提言している。また、フォーラムにおいても、教育・人材育成の重要性に関する指摘が多数あった 93。
いずれにしても、教育・人材育成の成果が現れるまでには長期の時間を要することから、一刻も早くアクションを起こすべきである。
５．留意すべき事項
先行的評価及び分野別評価におけるシナリオ分析等から、ＡＩネットワーク化が社
会・経済にもたらす影響に関して、重要な示唆を得ることができた。
今後、ＡＩネットワーク化の健全な進展に向けた今後の課題を検討するに当たっては、
特に次の事項に留意することが必要である。
ア

様々なＡＩシステムが混在することに伴う問題➢

例えば、ＡＩシステム相互間の連携を進めるに当たっては、性質や性能が異なる

多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりするようになることが問題となるとともに、目的が競合する
ＡＩシステムがネットワーク上に混在してその相互間の交渉や調整が必要となり得ること 94も問題となる。
イ

ＡＩシステムを利活用する者と利活用しない（できない）者とが混在することに伴う問題 95➢

例えば、ＡＩシステムを利活用することにより、自身に適した行政サービスや金融サービス（保険）を受けることが可能となるが、ＡＩシステムを利活用しない（できない）者は、そのようなサービスを受けることができない可能性がある。
➢

例えば、ＡＩネットワークサービスの提供に新規参入しようとするプロバイダにとっては、自らのＡＩシステム等と既存のＡＩネットワークとの接続の可否やその条件が事業活動に影響を及ぼす可能性があり、公正な競争の確保の在り方が問題と
なる。
93

例えば、
・ ＡＩネットワーク化の便益を世界の多様な文化的背景を持つ人々が享受できるように、教育、学際的研究などの取組が必要である[マルコ・ジリ（トリノ工科大学長）]。
・ 教育は、トップ及びボトムの双方から進めることが必要である[ベネデッタ・アレーゼ・ルチーニ（イタリア共和国経済財政大臣顧問）]。
等。
94
長尾・前掲注（６）３頁参照。
95
濱田・前掲注（８）７頁参照。

42

ウ 事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方➢

例えば、自動運転車による事故が発生した場合、商品の配達において遅延が生じた場合、個人情報が漏洩してプライバシーが侵害された場合など、責任の分配の在り方が問題となる。
エ データ・情報の流通と個人情報保護・プライバシーとのバランス➢

例えば、カメラで撮影した画像は、様々な場面において価値が高く非常に有益なデータとなり得るものであるが、その取得や利活用に当たっての本人同意の在り方等が問題となる可能性がある。また、パブリックなスペース（公道など）とプライ
ベートなスペース（店舗内など）が混在することを踏まえて、データ・情報の価値と個人情報保護・プライバシーとのバランスをとることが重要である。
オ

ＡＩシステムが取り扱うデータ・情報の性質➢ 例えば、プライバシー性や機密性が高いデータ・情報（個人：病歴、遺伝情報等、法人：財務情報、営業秘密等）については、プライバシー侵害等が生じないよう特に慎重な取扱いが求められる。
➢

例えば、ＡＩ生成物や学習用データ等に関し、知的財産権の帰属が問題となる可能性がある。
カ 人間とＡＩ（ロボット）との役割分担➢

例えば、対話型ロボットが迷子に対応する場面や介護ロボットが介護する場面において、ＡＩ（ロボット）による対応で満足できるか、拒絶されないかなど人間とＡＩ（ロボット）との役割分担が問題となる。
➢

例えば、専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方や重要な判断（診断、法令の解釈・適用、採用、人事評価、融資の審査等）に当たりＡＩシステムの機能に委ねてもよい事項の範囲が問題となる。
キ

ＡＩシステムに関するリテラシーの向上 96➢

例えば、健康・介護の分野においては、特に高齢者向けのサービス提供が考えられることから、ＡＩシステムの便益を享受するためにも、ＡＩシステムに関するリ
テラシーの向上が重要である。
ク

地域間の格差・偏在➢

96

例えば、各地域の利用者（自治体等）の財政状況や利活用に対するマインドによ濱田・前掲注（８）７頁参照。

43

り、ＡＩシステムの利活用の状況、収集・提供される情報に差異が生じ、ＡＩシス
テムの利活用が進んでいる地域と進んでいない地域が存在することとなる（移動を伴う場合、突然、ＡＩシステムが機能しなくなるなどの問題が生ずるおそれがある。
）。
ケ ＡＩシステムの導入・利活用のためのコスト➢

例えば、製造（モノ）や物流の分野において、多くの事業者がＡＩネットワークに参加した方が全体として便益が増大するものと考えられるが、中小・零細事業者
における導入コストや利活用のためのコストが問題となる。
コ

ＡＩシステムの判断がブラックボックス化することに伴う問題➢

例えば、行政（自治体）がＡＩシステムを利活用する場合、ＡＩシステムの判断がブラックボックス化すると、情報公開請求に対して適切に対応できない可能性がある。また、金融機関をはじめ事業者が利活用するＡＩシステムの判断がブラックボックス化すると、顧客への説明や監督官庁の検査・監査等に適切に対応できない可能性がある。

44

第４章 今後の課題
報告書 2016 に掲げられている「今後の課題」 97並びに本推進会議におけるＡＩ開発ガイ
ドライン案の策定に向けた検討及びＡＩネットワーク化が社会・経済にもたらす影響の評
価に関する検討の結果等を踏まえ、今後の課題を次のとおり整理する。
〇

ＡＩネットワーク化の健全な進展に関する事項(1) ＡＩ開発ガイドライン（仮称）の策定
第２章において述べたように、本推進会議においては、ＡＩ開発ガイドライン（仮称）の策定に向け、Ｇ７やＯＥＣＤ等における国際的な議論の用に供するため、「国際的な議論のためのＡＩ開発ガイドライン案」（別紙１）を整理した。今後、Ｇ７やＯＥ
ＣＤ等において、このＡＩ開発ガイドライン案を踏まえて国際的な議論が進められ、
ステークホルダ間の合意形成の下でＡＩ開発ガイドライン（仮称）が策定されることが期待される。
なお、ＡＩ開発ガイドライン（仮称）については、その基本理念 98に掲げるとおり、
ＡＩネットワーク化の進展等に応じて、関係するステークホルダの参画を得るなど広範で柔軟な議論を通じて、継続的に見直し、必要に応じて改定することが期待される。
本推進会議においても、ＡＩ開発ガイドライン（仮称）の策定に向けた今後の国際的な議論をフォローアップするとともに、その動向に応じてＡＩ開発ガイドライン案を見直すなどして国際的な議論に継続的に貢献していくべきものと考える。

(2) ＡＩ利活用ガイドライン（仮称）の策定
ＡＩシステムは、特段の措置が講じられているものを除き、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものである。また、ＡＩシステムは、情報通信ネットワークを介して他のＡＩシステ
ムと連携することにより、システム間の連携の効果及びいわゆるネットワーク効果が相俟って、利用者全体にとっての便益及びリスクの双方が高まり得るものである 99。しかるに、ネットワークに接続されないＡＩシステムの便益及びリスクは、基本的に、
当該ＡＩシステムが所在する場所から即座に広く波及することはないが、ネットワー
クに接続されたＡＩシステムの便益及びリスクは、空間を越えて、特に国境を越えて、即座に広く波及することがあり得る 100。
97

本章末尾参照。詳細については、報告書 2016 第５章参照。
別紙１ ２．参照。
99
須藤議長「開会の辞」（ＡＩネットワーク社会推進フォーラム 開会の辞 配付資料）７頁（平成 29 年）参照。
100
須藤・前掲注（99）７頁参照。併せて、宍戸構成員・開発原則分科会長代理「ＡＩネットワ
98

45これらのことから、ＡＩネットワーク化の健全な進展を通じたＡＩシステムの便益の増進及びリスクの抑制については、ネットワークに接続され得るＡＩシステムの開発を対象とするＡＩ開発ガイドライン（仮称）を国際的に共有すること等を通じた開発のガバナンスと併せて、利活用のガバナンスとして、ネットワークに接続されたＡ
Ｉシステム又はＡＩネットワークサービスの利活用に当たり、利用者（最終利用者たる個人又は団体のほか、他者が開発したＡＩシステムを用いてＡＩネットワークサー
ビスを第三者に提供するプロバイダを含む。
）がそれぞれの属性等に応じて留意することが期待される事項について国際的な共有を図ることが必要であるものと考えられ
る 101。
そこで、本推進会議においては、今後、ＡＩ開発ガイドライン（仮称）の策定に向けた国際的な議論のフォローアップと併せて、ネットワークに接続されたＡＩシステ
ム又はＡＩネットワークサービスの利活用に関し利用者がそれぞれの属性等に応じて留意することが期待される事項たる「ＡＩ利活用原則（仮称）」及びその解説からなる
国際的な指針たる「ＡＩ利活用ガイドライン（仮称）」の策定に関し、その要否も含めて、国際的な議論の動向も踏まえながら多角的に検討を進めることが必要である。
なお、「ＡＩ利活用ガイドライン（仮称）」の策定など利活用のガバナンスの在り方に関する検討に当たっては、その前提として、ＡＩネットワーク化が社会・経済にもたらすインパクト及びリスクに関する問題の所在を把握することに加えて、ＡＩネッ
トワーク化の進展を通じて形成される関係者間のエコシステムに関する展望を得ることが必要であるものと考えられる。そこで、本推進会議においては、「ＡＩ利活用ガイドライン（仮称）」の策定等に関する検討に向け、前章で紹介した分野別評価及びエコシステムの展望の検討並びにこれらを通じた論点の整理を進めていくことが課題となる。
(3) ＡＩシステム相互間の円滑な連携の確保
ＡＩ開発原則 102 の第１原則とした「連携の原則」においては、開発者はＡＩシステ
ムの相互接続性と相互運用性に留意することを掲げている 103。同原則の解説 104においーク化のグローバルガバナンス―枠組み、戦略、手法、開発と利活用」（ＡＩネットワーク社会
推進フォーラム パネルディスカッション「ＡＩネットワーク化のガバナンスの在り方」配付資料）１頁（平成 29 年）参照。
101
なお、ＡＩ開発ガイドライン案３－１においても指摘しているとおり、開発者と利用者は、場面に応じて個別に決まる相対的な概念であることに留意することが必要である。
102
ＡＩ開発原則については、第２章３．(4)参照。以下本章におけるＡＩ開発原則に関する記述において同じ。
103
ここで相互接続性と相互運用性としては、自らの開発するＡＩシステムが情報通信ネットワークと接続され、他のＡＩシステム等と適切に協調して運用することが可能であることを一体的に捉えて念頭に置いている。
104
ＡＩ開発原則の解説については、第２章３．(5)参照。詳細については、別紙１ ５．参照。
以下本章におけるＡＩ開発原則に関する記述において同じ。

46

ては、開発者は、関連情報の共有、国際的な標準や規格への準拠、データ形式の標準化、ＡＰＩを含むインターフェースやプロトコルのオープン化への対応、標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件についてのオープンかつ公平な取扱いに留意することが望ましい旨を掲げている。
これらのことを踏まえると、ＡＩシステム相互間の円滑な連携の確保に関連する課
題としては、例えば次に掲げる課題が挙げられる。
➢

開発者やＡＩネットワークサービスのプロバイダが他の開発者やＡＩネットワー

クサービスのプロバイダ、利用者等と共有することが期待される関連情報の範囲、共有の方法等の検討➢

インターフェース、プロトコル、データ形式等の標準化又はオープン化の在り方の検討➢

標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件の在り方等に関する検討➢

連携及びこれに伴う責任の分配に関する当事者間の契約の在り方の検討➢

当事者間の紛争解決の在り方の検討
なお、前章で行ったＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析（以下「シナリオ分析」という。）から得られた示唆（以下「シナリオ分析に）において指摘したように、ＡＩシステム相互間の連携を基づく留意事項」という 105。
進めるに当たっては、性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりするようになることが問題となるほか、目的が競合するＡＩシステムがネットワーク上に混在して相互間の交渉や調整が必要となり得ること 106 も問題となる。したがって、これらの課題に取り組むに当たっては、ネットワーク上における様々なＡＩシステムの混在の可能性に留意することが必要である。
(4) 競争的なエコシステムの確保
ＡＩネットワーク化の進展を通じて智連社会 107を実現するためには、
・ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネットワー

クの形成
・

ＡＩシステムやＡＩネットワークサービスの提供

・ネットワーク化されたＡＩシステム又はＡＩネットワークサービスにより創造・

流通・連結されるデータ・情報・知識の利活用のそれぞれのエコシステムにおいて公正な競争が確保されることが必要であり、シナ105

シナリオ分析に基づく留意事項については、前章５．参照。以下本章におけるシナリオ分析に基づく留意事項に関する記述において同じ。
106
長尾・前掲注（6）３頁参照。
107
序章１．参照。

47

リオ分析に基づく留意事項においても、このような問題意識に基づく指摘をしている。
これらのエコシステムは、今後のＡＩや情報通信ネットワークに関する技術の高度化、市場におけるＡＩシステムやＡＩネットワークサービスに対するニーズの変化、
ＡＩシステムの利活用の進展等に応じて変遷していくものであり、予断を抱くべきものではないことから、競争的なエコシステムの確保に関する規制の創設等の検討は将来に向けて謙抑的であるべきである。その一方で、競争的なエコシステムの確保に関し必要に応じて時宜に応じた適切な対応ができるよう備えておく見地からは、報告書
2016 において指摘されているように、関連する市場の動向を継続的に注視することが必要であると考えられる 108。
(5) 利用者の利益の保護
ＡＩネットワーク化が進展して、様々な物、サービスや社会のシステムがネットワーク化されたＡＩシステム又はＡＩネットワークサービスの利用可能性を前提として提供されるようになった社会における人間の「包摂」（inclusiveness）の見地に加えて、ネットワークに接続されたＡＩシステム又はＡＩネットワークサービスに関する
いわゆるネットワーク効果の見地からは、あらゆる個人又は団体が利用者として手頃な条件で 109 安心して安全に関連するＡＩシステム又はＡＩネットワークサービスを利用することができるよう、その利益が保護されることが求められる 110。

108

報告書 2016 においては、競争的なエコシステムを確保するという観点から、関係する市場の形成の進展に応じて、その動向の継続的注視を行うべきであるとし、その説明として、関連する市場の動向ＡＩネットワーク化やデータ寡占等に着目したデータ等の創造・流通・蓄積の状
況、事業者間の競争状況その他市場の動向の注視・評価を挙げ、更にこれらの前提となる課題
を次のように掲げている（報告書 2016・50 頁参照。
）。
・注視対象（ＡＩの範囲、データの範囲、市場等）の画定、注視の視点、評価基準等の在り方の検討
・注視・評価に必要となる情報の収集の在り方の検討
・ＡＩネットワークサービスの供給者による行為であって、公正な競争を阻害するおそれがあるものの類型化の検討
なお、報告書 2016 においては、競争的なエコシステムを確保するという観点からの今後の課題として、市場の動向の継続的注視と併せて、関係する市場の形成の進展に応じて、ＡＩ相互間のネットワークの形成に関する当事者間の協議の円滑化に取り組むべきであるとし、その内容を次のように敷衍している（報告書 2016・50 頁参照。）。
・ＡＩ相互間のネットワークの形成に関する当事者間の協議をめぐる紛争の動向及び影響の継続的注視・必要に応じ、当事者間の協議を円滑化する観点からの紛争処理の在り方の検討
109
手頃な条件での利用可能性は、公正な競争を通じて実現されることが基本である。
110
ＡＩネットワーク化の進展に伴い、社会のあらゆる場面において、社会の構成員がネットワーク化されたＡＩシステム又はＡＩネットワークサービスを利用できることを前提として、様々な物、サービスや社会のシステムが提供されるようになるものと見込まれる。そのような社会において個人又は団体が当該社会の構成員として振る舞うためには、自らが関連するＡＩ
システム又はＡＩネットワークサービスの利用者となることが不可避となろう。このような社会において人間の「包摂」（inclusiveness）を確保する見地からは、当該社会の個人又は団体

48

このような問題意識の下、ＡＩ開発ガイドライン案においては、その目的として、利用者の利益の保護を掲げており、同ガイドライン案に掲げるＡＩ開発原則の個々の項目は、いずれも利用者の利益の保護に資するものである 111。また、そもそも開発のガバナンス及び利活用のガバナンスのいずれについても、その全体を通じて直接的又は間接的に利用者の利益の保護に資するものであることが基本的に期待される 112。
特に利用者の利益の保護を直接的に志向する課題としては、例えば次に掲げる課題が挙げられる。


開発者やＡＩネットワークサービスのプロバイダから利用者に対する・ＡＩシステム又はＡＩネットワークサービスの技術的特性に関する情報 113

・

継続的なアップデートへの対応の必要性に関する情報 114

・ その他リスクの顕在化又は波及の抑止に資する情報の自発的な提供 115の在り方の検討に対し、関連するＡＩシステム又はＡＩネットワークサービスを手頃な条件で安心して安全に利用できる状況を確保することが必要となる（須藤・前掲注（99）６頁参照。併せて、宍戸・
前掲注（100）２頁参照。このことに関連し、シナリオ分析に基づく留意事項においては、例えば、ＡＩシステムを利活用することにより、自身に適した行政サービスや金融サービスを受けることが可能となるが、ＡＩシステムを利活用しない（できない）者は、そのようなサービスを受けることができない可能性があることを指摘している。）。
また、ネットワーク化されたＡＩシステム又はＡＩネットワークサービスの利用者が増えること自体により、ネットワーク効果として、利用者全体にとって当該ＡＩシステム又はＡＩネッ
トワークサービスの便益が高まり得る（須藤・前掲注（99）６頁参照。）。その一方で、ＡＩシ
ステムについては、様々なリスクが指摘されていることに加えて、特段の措置が講じられているものを除き、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものであることから、利用者が増えること自体によって、利活用の仕方次第では、ネットワーク効果として、利用者全体にとって当該ＡＩシステム又はＡＩネットワークサービスのリスクも高まり得る（須藤・前掲注（99）６頁参照。
）。これらのことから、ネットワーク効果の見地からは、利用者の数が増えることを通じて便益を高めると同時に、効果的にリスクを抑制することが求められ、かくして、この見地からも、利用者が手頃な条件で安心して安全に利用できるようその利益が保護されることが求められる。
111
連携の原則は、連携に係るＡＩシステムと他のＡＩシステム等との円滑な連携を通じて、連携に係るＡＩシステムの便益を増進するとともにリスクを抑制することにより利用者の利益の保護に資するものである。透明性の原則、制御可能性の原則、安全の原則、セキュリティの原
則、プライバシーの原則及び倫理の原則は、それぞれ関連するリスクを抑制することにより利用者の利益の保護に資するものである。利用者支援の原則及びアカウンタビリティの原則も、それぞれ利用者の受容性を向上させることにより、利用者の利益の保護に資するものである。
112
須藤・前掲注（99）８頁及び宍戸・前掲注（100）２頁参照。
例えば、ＡＩシステムが他のＡＩシステム又は他の種類のシステムと連携することにより、システム間の連携の効果及びネットワーク効果の双方が相俟って、その便益及びリスクの双方が高まり得ることに鑑みると、(3)に掲げるＡＩシステム相互間の円滑な連携の確保も、このネットワーク効果による利用者全体の便益の増進及びリスクの増大に伴う不利益の抑制に資することを通じて利用者の利益の保護に資するものと認められる。
また、(4)に掲げる競争的なエコシステムの確保も、これを通じた公正な競争の進展の結果として、利用者の利益の保護に資するものと認められる。
113
ＡＩ開発原則に掲げる事項に関する情報を含む。
114
報告書 2016・54 頁参照。

49

ＡＩシステムのリスクが顕在化した場合（事故の発生時等）における責任の分配
や利用者等を保護する仕組み（保険等）等の在り方の検討 116
なお、(4)において述べたように、ＡＩネットワーク化をめぐるエコシステムが今後のＡＩや情報通信ネットワークに関する技術の高度化、市場におけるＡＩシステムやＡＩネットワークサービスに対するニーズの変化、ＡＩシステムの利活用の進展等に応じて変遷していくものであり、予断を抱くべきものではないことに鑑みると、利用者の利益の保護についても、規制の創設等の検討は将来に向けて謙抑的であるべきである。その一方で、利用者の利益の保護に関し必要に応じて時宜に応じた適切な対応ができるよう備えておく見地からは、報告書 2016 において指摘されているように、関連する市場の動向を継続的に注視することが必要であると考えられる 117。
◯

ＡＩネットワーク上を流通する情報・データに関する事項(6) セキュリティ対策
ＡＩ開発原則の第５原則とした「セキュリティの原則」においては、開発者はＡＩ
システムのセキュリティに留意することを掲げている。また、シナリオ分析においては、各ユースケースに共通して想定されるリスクとして、セキュリティに関するリスク（ハッキング、偽装・なりすまし等）が挙げられている 118。
今後、ＡＩシステムの開発及び利活用の両面において、セキュリティの確保の在り方について検討していくことが必要である。
➢

ＡＩシステムへのセキュリティの実装の在り方の検討➢

ＡＩシステムの学習等による利活用の過程を通じた変化に起因するセキュリティ上の問題への対処の在り方の検討➢

偽装・なりすまし等によりＡＩシステムが犯罪等に悪用されるリスクへの対処の115

これらの情報提供のうち開発者によるものについては、ＡＩ開発原則のうち「アカウンタビ
リティの原則」に関連するものとして検討することが期待されよう。
116
シナリオ分析に基づく留意事項においても、「事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方」が挙げられている。
117
報告書 2016 においては、ＡＩネットワークサービスの利用者の利益を保護するという観点から、関係する市場の形成の進展に応じて、その動向の注視・評価を行うべきであるとし、更にその前提となる課題を次のように掲げている（報告書 2016・53 頁―54 頁参照。
）。
・注視すべき市場の画定、評価基準等の在り方の検討
・注視・評価に必要となる情報の収集の在り方の検討
・ＡＩネットワークサービスの供給者による行為であって、利用者の利益を阻害するおそれがあるものの類型化の検討
なお、報告書 2016 においては、ＡＩネットワークサービスの利用者の利益を保護するという観点からの今後の課題として、市場の動向の注視・評価と併せて、関係する市場の形成の進展に応じて、ＡＩネットワークサービスの供給者と利用者との間の紛争処理の在り方の検討を掲げている（報告書 2016・53―54 頁参照。）。
118
先行的評価において挙げられたリスクについては、前章２．(3)参照。分野別評価において挙げられたリスクについては、同章３．(3)参照。

50

在り方の検討(7) プライバシー及びパーソナルデータの保護
ＡＩ開発原則の第６原則とした「プライバシーの原則」においては、開発者はＡＩシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮することを掲げている。このことに関連して、シナリオ分析に基づく留意事項においては、「ＡＩ
システムが取り扱うデータ・情報の性質」及び「データ・情報の流通と個人情報・プ
ライバシーとのバランス」を挙げている。
今後、ＡＩシステムの開発及び利活用の両面において、個人情報・プライバシーの保護の在り方について、ＡＩシステムが取り扱うデータ・情報の性質や、データ・情報の流通と個人情報・プライバシーの保護とのバランス等に留意しつつ検討することが必要である。
➢

個人情報の取得や活用に当たっての本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討➢

ＡＩネットワーク上を流通するデータ・情報を利活用する価値と個人情報保護・

プライバシーとのバランスに配慮した制度の在り方の検討➢

ＡＩシステムの学習等による利活用の過程を通じた変化に起因する意図しないプ

ライバシー侵害のリスクへの対処の在り方の検討➢

プロファイリングが利用者にもたらす便益及びプライバシー侵害等のリスクを踏まえたプロファイリングに関するルールの在り方の検討(8) コンテンツに関する制度的課題
シナリオ分析に基づく留意事項においては、「ＡＩシステムが取り扱うデータ・情報の性質」を挙げている。また、新たな情報財の保護・利活用の在り方に関し、ＡＩ生
成物の知財制度上の在り方について引き続き検討すべきとされている 119。
今後、ＡＩネットワーク上を流通するコンテンツの流通と知的財産の保護とのバランスに配慮した制度の在り方等について検討することが必要である。
➢

学習用データの作成の促進に関する環境の整備、学習済モデルの適切な保護と利活用促進、ＡＩ生成物の知財制度上の在り方の検討 120➢

ＡＩにより自動集積されるデータベースの保護と利活用の在り方の検討➢

ＡＩソフトのプログラム等の保護と利活用の在り方の検討➢

ＡＩの学習等に資するオープンデータの提供の在り方の検討

119第１章１．(3)⑥参照。
知的財産戦略本部 検証・評価・企画委員会 新たな情報財検討委員会「報告書－データ・人工知能（ＡＩ）の利活用促進による産業競争力強化の基盤となる知財システムの構築に向けて－」（平成 29 年 3 月）参照。

120

51

◯ ＡＩネットワーク化が社会・経済にもたらす影響の評価に関する事項(9) ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析
報告書 2016 においては、今後の課題として、「影響・リスクに関するシナリオの作
成・共有」が掲げられていたところ、本推進会議において、ＡＩネットワーク化が社
会・経済にもたら影響の評価に関する検討を進め、シナリオ分析（先行的評価及び分野別評価）を行った 121。
今後、継続してシナリオ分析を行うとともに、その成果を国際的に共有することが必要である。
➢

ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有(10) ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価
指標の設定
シナリオ分析の検討において、一定の評価の軸を設定してインパクト及びリスクを評価すべきとの指摘があった。分野別評価において、一部取り入れているが、十分に反映できるとは言い難い。また、報告書 2016 において、今後の課題として、「ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定」
が掲げられている。
今後、評価指標の設定について継続的に検討することが必要である。
➢

国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けた検討(11) ＡＩシステムの利活用に関する社会的受容性の醸成
ＡＩ開発原則の第９原則とした「アカウンタビリティの原則」においては、開発者
は利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることを掲げている。これは、ＡＩシステムの利活用に当たっては、利用者を含む社会全体の理解が必要で、社会に受容されることが重要であるという認識に基づくものである。
また、シナリオ分析において、社会的受容性が求められるものと考えられるようなＡ
Ｉシステムの利活用の事例も扱っている 122。
今後、ＡＩネットワーク化の健全な進展に向けて、社会的な受容性を注視するとともに、受容性を高める方策の在り方等について検討することが必要である。
➢

社会におけるＡＩシステムの利活用に関する受容度の継続的注視、受容性を高める方策の在り方の検討

121

先行評価については、前章２．参照。分野別評価については、同章３．参照。
例えば、健康情報（病歴や遺伝情報等）に応じて金融（保険）サービスをカスタマイズして提供する例など。

12252

◯ ＡＩネットワーク化の推進に当たっての留意事項(12) 人間とＡＩシステムの在り方に関する検討
ＡＩ開発原則の第７原則とした「倫理の原則」においては、開発者はＡＩシステムの開発において人間の尊厳と個人の自律を尊重することを掲げている。また、シナリ
オ分析に基づく留意事項において、「人間とＡＩ（ロボット）との役割分担」を挙げている。
今後、人間中心とする智連社会における人間とＡＩシステムとの役割分担、ＡＩシ
ステムに委ねる判断の範囲の妥当性、ＡＩネットワーク化の進展による人間の能力の拡張の在り方等について検討することが必要である。
➢

専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方や重要な判断（診断、法令の解釈・適用、採用、人事評価、融資の審査等）に当たりＡＩ
システムの機能に委ねてもよい事項の範囲に関する検討➢

ＡＩ・ロボットによる人間の知的・身体的能力の拡張（エンハンスメント）に関する倫理的問題の検討➢「ＡＩ依存」など人間の心理や子供の発育への影響等に関する継続的注視(13) ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備
シナリオ分析においては、様々な業務に関連する雇用（学習データやパラメータ調
整、情報セキュリティ等に関連する雇用や家電メーカーやロボットメーカーに関連する雇用等）の創出や付加価値の高い業務への配置転換が可能となることが見込まれるとの結果を得ている。また、ＡＩシステムの普及による雇用・働き方への影響に関する検討においては、教育・人材育成の重要性が指摘されている 123。
今後、ＡＩネットワーク化の進展に応じた就労や円滑な配置転換等に資する教育・人材育成の在り方等について検討すること及びその結果に基づき早急に対策を講ずることが必要である。
➢

技術者、法的・倫理的・社会的問題に対処し得る人材、産業連携等に対処し得る

人材の育成
➢

ＡＩネットワーク化の進展に応じた雇用・働き方の変化に合わせた教育の実施・

人材の育成及び労働法制の在り方の検討(14) ＡＩシステムに関するリテラシーの涵養及びＡＩネットワーク・ディバイドの形成の防止
シナリオ分析に基づく留意事項においては、「ＡＩシステムに関するリテラシーの向123

ＡＩシステムの普及による雇用・働き方への影響については、前章５．参照。以下本章における雇用・働き方への影響に関する記述において同じ。

53

上」、「ＡＩシステムを利活用する者と利活用しない（できない）者とが混在することに伴う問題」、「地域間の格差・偏在」を挙げている。
今後、すべての人々がＡＩシステムの恵沢をあまねく享受できるよう特に高齢者のリテラシーの向上やディバイド形成の防止の在り方について検討すること等が必要である。
➢

特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討➢

ＡＩシステムを利活用する者と利活用しない（できない）者が混在すること、地域間でＡＩシステムの利活用の状況が異なっていること等を踏まえ、社会全体がＡ
Ｉシステム利活用による便益を享受できるような環境の整備(15) セーフティネットの整備
ＡＩシステムの普及による雇用・働き方への影響において、大規模な失業が発生するのではないか（特に我が国においては、中長期的にＡＩシステムへの雇用の代替が進む、非正規雇用の労働者への影響が大きいのではないか）との指摘がある。
今後、労働市場の動向を注視するとともに、大規模な失業が発生しないような方策の在り方等について検討すること、セーフティネットを整備すること等が必要である。
➢

労働市場の動向の継続的注視、ＡＩネットワーク化の進展に伴う所得の再分配等

格差防止の在り方（ベーシック・インカム 124等）の検討➢ ＡＩシステムの利活用をめぐる紛争への対応の在り方の検討(16) その他の課題
報告書 2016 に掲げられている「今後の課題」のうち、上記以外の事項についても、
引き続き、注視し、又は検討することが必要である。
➢ 情報通信インフラの高度化の加速➢ 社会の基本ルールに関する検討➢ 経済発展・イノベーションの促進に向けた課題➢ 地球規模課題の解決を通じた人類の幸福への貢献➢

ＡＩネットワーク化のガバナンスの在り方

124「ベーシック・インカム」とは、「すべての人に、個人単位で、稼働能力調査や資力調査を行わず無条件で給付される所得」をいう（成瀬龍夫「日本の社会保障改革とベーシック・インカ
ム構想」季刊経済理論 49 巻２号 22 頁、28 頁（平成 24 年）参照。）。ベーシック・インカムが導入されると、これまでの社会保障制度のうち年金、失業保険、児童手当、生活保護の生活扶助など所得給付にかかわるものは廃止され、その代わりに年齢や収入・資産の有無や働いているかどうかに関係なく、毎月一定額の生活費用が給付されると説明されている（同前）。報告書2016 注(58)及び 19-20 頁参照。

54

（参考） 報告書 2016 に掲げられている「今後の課題」 125■ ＡＩネットワーク化の円滑な推進に関する事項
・ ＡＩ開発原則・指針の策定➢

ＡＩ開発原則及びその内容の説明から構成される指針(ＡＩ開発ガイドライン）の策定に向けた議論の推進
・ ＡＩネットワーク化の進展に向けた協調の円滑化➢

相互接続性・相互運用性の確保（確保の対象や方法の検討等）等

・ 競争的なエコシステムの確保➢

関連する市場の動向の継続的注視、ネットワーク形成に関する当事者間の協議の円

滑化等
・ 利用者の保護➢

関連する市場の動向の継続的注視、消費者保護に関する国際的な制度調和の在り方の検討等■

ＡＩネットワーク上を流通する情報・データに関する事項

・ セキュリティの確保➢

情報セキュリティ等のＡＩネットワークへの実装の在り方の検討等

・ プライバシー及びパーソナルデータに関する制度的課題➢ プライバシー・パーソナルデータの保護と利活用のバランスに留意した検討等
・ コンテンツに関する制度的課題➢ 多種多様かつ大量のコンテンツの創造・流通に適した法制度の在り方の検討等■

ＡＩネットワーク化が社会・経済にもたらす影響・リスクの評価に関する事項

・ 影響・リスクに関するシナリオの作成・共有➢ ＡＩネットワーク化の進展に応じたシナリオの継続的な作成・共有・見直し
・ ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定➢ 指標の設定に向けた検討の継続■

ＡＩネットワーク社会の推進に当たっての留意事項

・ ＡＩネットワーク化に対応した人材育成➢ 技術者、法的・倫理的・社会的問題に対処し得る人材、産業連携等に対処し得る人
材等の育成等
・ ＡＩネットワークに関するリテラシーの涵養125

ここに掲げられている課題のほか、情報通信インフラの高度化の加速、社会の基本ルールに関する検討、経済発展・イノベーションの促進に向けた課題、地球規模課題の解決を通じた人
類の幸福への貢献、ＡＩネットワーク化のガバナンスの在り方、が今後の課題として掲げられ
ている。

55

➢ リテラシー教育の在り方の検討、科学コミュニケーションの在り方の検討
・ ＡＩネットワーク・ディバイド形成の防止➢ ＡＩネットワーク・ディバイドの要因となるデジタル・ディバイドの解消、高齢者等の利用環境整備等
・ ＡＩネットワーク化に対応した就労環境の整備➢

労働法制の在り方の検討等

・ 人間の在り方に関する検討➢「ＡＩ依存」等人間の心理や子供の発育への影響等に関する継続的注視、教育の改

革等
・ セーフティネットの整備➢

所得の再分配の在り方（ベーシック・インカム等）の検討

56

結びに代えて本報告書では、ＡＩネットワーク化をめぐる国内外の動向を概観した上で、ＡＩ開発ガ
イドライン案を提示するとともに、ＡＩネットワーク化の影響（インパクト及びリスク）の評価を行った上で、それらの検討を踏まえて今後の課題を整理した。
第１章で見たとおり、「ＡＩネットワーク社会推進フォーラム」において、ＡＩ開発ガイ
ドラインの策定をはじめとするＡＩネットワーク化のガバナンスの在り方に関し国際的な議論を継続していくことに対し国内外の参加者から広範な賛同を得られたところであり、今後、Ｇ７やＯＥＣＤ等の国際社会において議論が加速することが期待される。また、Ａ
Ｉネットワーク化のガバナンスの在り方に関する国際的な議論をリードすることができる
よう、我が国においても、本報告書を踏まえ、産学民官において継続的に議論が進められ、合意形成が図られることが期待される。
ＡＩネットワーク化がもたらす社会への影響は、ＡＩの高度化が加速度的に進展していくことなどに伴い、一度示された予測が続々と塗り替えられる形で、急速に進展しつつある。本報告書の内容は、現時点において検討した結果を述べているものであり、ＡＩネッ
トワーク化の進展等に応じて不断の見直しを行うことが必要である。
また、第４章で整理した今後の課題は、多岐にわたっており、継続的かつ多面的な検討が必要である。これらの課題の検討に当たっては、専門家や情報通信当局はもちろんのこと、産学民官の幅広い分野から関係ステークホルダの参画を得て国内外において検討を進めていくことが必要である。今後、緊急性、重要性等を勘案してプライオリティをつけ、継続的に検討が進められていくことを期待したい。

57

別紙１

国際的な議論のためのＡＩ開発ガイドライン案

平成 29 年

月 日

ＡＩネットワーク社会推進会議

目次

序文

ＡＩ開発ガイドライン案
１） 目的
２） 基本理念
３） 用語の定義及び対象範囲
４） 開発原則
５） 開発原則の解説【別添】関係するステークホルダに期待される役割【参考】ＡＩネットワーク化と智連社会

1

序文
ＡＩに関する研究開発や利活用は今後飛躍的に発展することが期待されている。こうした中、２０１６年４月に日本で開催されたＧ７情報通信大臣会合において、ホスト国である日本はＡＩ開発原則のたたき台を紹介し、各国関係閣
僚による議論が行われた。その結果、Ｇ７において「ＡＩ開発原則」及びその内容の説明からなる「ＡＩ開発ガイドライン」の策定に向け、引き続きＧ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て議論していくことで合意した。
少子高齢化などの課題を抱える日本は、ＡＩを積極的に開発し活用することによりさまざまな課題を解決するとともに、その知見を活かしつつＡＩの開発について留意することが期待される事項等を国際的に発信することにより、国際社会に大きく貢献することができる。
本ガイドライン案は、上記のＧ７やＯＥＣＤにおける国際的な議論のための基礎となる文書として作成されたものである。ＡＩ関連技術は急速に発展している段階にあることに鑑みれば、国際的な「ＡＩ開発原則」及びその内容の説明からなる「ＡＩ開発ガイドライン」は、規制の導入を目指すものとすることは適当ではない。本ガイドライン案は、あくまでも拘束的ではないソフトローとしての指針の案として位置付けられるものであり、こうした指針に盛り込むことが適当な内容を議論することを通じ、●「ＡＩ開発ガイドライン」の策定に向け、ＡＩに関する研究開発や利活用に関係する多様なステークホルダ（開発者、サービス提供者、市民社会を含む
利用者、各国政府、国際機関など）を含む国内及び国際的な議論を加速化すること●ＡＩの研究開発や利活用におけるベストプラクティスの国際的な共有に資することをその狙いとするものである。

2

ＡＩ開発ガイドライン案 1
１． 目的
ＡＩの研究開発や利活用は、今後急速に進展することが期待されているところであり、ＡＩシステムの情報通信ネットワークを通じた他のシステムとの連携（ＡＩネットワーク化）が進展していく過程で、個人、地域社会、各国、国
際社会 2の抱える様々な課題の解決に大きく貢献するなど、人間及びその社会や経済に多大な便益を広範にもたらすことが期待される。このような方向に向
けて、ＡＩの研究開発や利活用を加速化していくことが求められる。
その一環として、ＡＩシステムが社会や経済にもたらす便益の増進を図るとともに、ＡＩシステムに関するリスクの抑制を図る観点から、関連する社会的・経済的・倫理的・法的な課題に対応することが必要となる。特に、ＡＩシ
ステムを利活用するサービスは、他の情報通信サービス同様、ネットワークを介して越境的に提供されるものであることから、オープンな議論を通じ、国際的なコンセンサスを醸成し、拘束的ではないソフトローとしてのガイドライン
やそのベストプラクティスをステークホルダ（開発者、サービス提供者、市民社会を含む利用者、各国政府、国際機関など）間で国際的に共有することにより、ＡＩシステムの便益の増進とリスクの抑制を図ることが求められる。
以上の問題意識に鑑み、本ガイドラインは、ＡＩ ネットワーク化の健全な進展を通じてＡＩシステムの便益の増進とリスクの抑制を図ることにより、利用者の利益を保護するとともにリスクの波及を抑止し、人間中心の智連社会 3を実現することを目的とする。

1

本ガイドライン案は、国際的に共有される「ＡＩ開発ガイドライン」の策定に向けた国際的な議論に用いられることを念頭に作成されたものである。
2 国際社会の抱える課題については、国連の「持続可能な開発目標」（SDGs）（http://www.un.org/ga/search/view_doc.asp?symbol=A/70/L.1）などを参照。
3 智連社会（Wisdom Network Society）とは、ＡＩネットワーク化の進展の結果として、人間がＡＩネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」（Wisdom Network）を構築することにより、あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となる社会である（【参考】「ＡＩネットワーク化と智連社会」参照）。
3

そこで、本ガイドラインは、上記の目的を達成する観点から、今後のＡＩシ
ステムの開発において留意することが期待される事項であるＡＩ開発原則とその内容の説明を取りまとめたものである。
なお、ＡＩシステムの研究開発は多様な分野に及ぶものであり、分野ごとにＡＩシステムのもたらす便益やリスクは異なる可能性がある点に留意する必要がある。加えて、ＡＩシステムは利活用の段階において学習することにより出力やプログラムが継続的に変化することが考えられることから、開発段階のみ
ならず利活用段階においても留意することが期待される事項が想定されるが、開発段階と利活用段階でその内容が異なり得るものと考えられる。
このため、●本ガイドラインではＡＩ開発ガイドラインのうち分野共通的な事項について定めることとし、分野ごとの事情に応じて留意することが期待される事項については、本ガイドラインの上部に接合される分野別ガイドラインとして、策定の要否を含め、各分野の国際機関を含む関係するステークホルダによる議論が行われることが期待される。
●また、本ガイドラインとは別にＡＩ利活用ガイドラインを策定することについて、策定の要否を含め、国際的な議論を進めていくことが期待される。

２． 基本理念
本ガイドラインの目的に鑑み、次に掲げる理念を一体的なものとして本ガ
イドラインの基本理念とする。
１．人間がネットワーク化されたＡＩと共生することにより、その便益がすべての人によってあまねく享受され、人間の尊厳と個人の自律が尊重される人
間中心の社会を実現すること。
２．ＡＩの研究開発と利活用が今後急速に発展し、ネットワーク化されたＡＩシステムが国境を越えて人間及び社会に広範かつ多大な影響を及ぼすものと見込まれることから、ＡＩの研究開発の在り方について、拘束的ではないソ
フトローとしての指針やそのベストプラクティスをステークホルダ間で国際的に共有すること。
３．イノベーティブでオープンな研究開発と公正な競争を通じ、ネットワーク
化されたＡＩシステムの便益を増進するとともに、学問の自由や表現の自由
4といった民主主義社会の価値を最大限尊重しつつ、ネットワーク化されたＡ
Ｉシステムにより権利利益が侵害されるリスクを抑制するため、便益とリスクの適正なバランスを確保すること。
４．ＡＩ関連の技術が引き続き急速に進展していくことが見込まれる中、技術的中立性を確保する観点から特定の技術や手法に基づくＡＩの研究開発を阻害しないよう配慮するとともに、開発者にとって過度の負担とならないものとするよう留意すること。
５．ＡＩ関連技術やＡＩの利活用が今後とも飛躍的に発展することが期待されることから、ＡＩネットワーク化の進展等に応じて、本ガイドラインを継続的に見直し、必要に応じて柔軟に改定すること。また、本ガイドラインの見直しに際しては関係するステークホルダの参画を得るなど、広範で柔軟な議論に努めること。

３． 用語の定義及び対象範囲
３－１ 用語の定義
本ガイドラインにおいて「ＡＩ」とは、「ＡＩソフト及びＡＩシステムを総称する概念」をいう 4。
●「ＡＩソフト」とは、データ・情報・知識の学習等 5により、利活用の過程を通じて自らの出力やプログラムを変化させるソフトウェアをいう。
●「ＡＩシステム」とは、ＡＩソフトを構成要素として含むシステムをいうものとし、ＡＩソフトを実装したロボットやクラウドシステムはこれに含まれる。
ＡＩシステムの「開発者」及び「利用者」については、以下のとおり定義する。ただし、「開発者」及び「利用者」は場面に応じて個別に決まる相対的な概念であることに留意する必要がある。
●「開発者」とは、ＡＩシステムの研究開発（ＡＩシステムを利用しながら行う研究開発を含む）を行う者（自らが開発したＡＩシステムを用いてＡ
4

本ガイドラインにおけるＡＩの定義は、現在すでに実用化されている特化型ＡＩを主たる対象として想定しているが、自律性を有するＡＩや汎用ＡＩ（Artificial GeneralIntelligence）を含め将来的に開発される可能性のある多種多様なＡＩについても、本ガイドラインの適用の在り方につき不断の議論を行っていくことが望ましい。
5 学習以外の方法によりＡＩソフトが自らの出力やプログラムを変化させる要因としては、例えば、データ・情報・知識に基づく推論や、センサやアクチュエータ等を通じた環境とのインタラクションなどが考えられる。
5

Ｉネットワークサービスを他者に提供するプロバイダを含む。）をいう。
●「利用者」とは、ＡＩシステムを利用する者（最終利用者（エンドユーザ）のほか、他者が開発したＡＩネットワークサービスを第三者に提供するプロバイダを含む。）をいう。

３－２ 対象範囲
本ガイドラインの対象とするＡＩシステムの範囲は、ＡＩシステムがネット
ワークを通じて国境を越えて利用され、広く人間及び社会に便益やリスクをもたらす可能性があることから、ネットワーク化され得るＡＩシステム（ネット
ワークに接続可能なＡＩシステム）とする。
本ガイドラインの対象とする開発者の範囲については、次の２つの案が提示されている。
A 案：本ガイドラインが拘束的ではないソフトローとしての指針であることに鑑み、３－１で定義された開発者すべてとする。
B 案：自らの開発するＡＩシステムやこれを利用したＡＩネットワークサービ
スを第三者に提供しない開発者については、第三者や社会に影響を及ぼす蓋然性が相対的に低いと見込まれることから、本ガイドラインの対象としない。
本ガイドラインの対象とする開発の範囲は、学問の自由の尊重、社会に与える影響の大きさ等に鑑み、閉鎖された空間（実験室、セキュリティが十分に確保されたサンドボックス等）内での開発は対象とせず、ネットワークに接続して行う段階とする。

４．ＡＩ開発原則（主にＡＩネットワーク化の健全な進展及びＡＩシステムの便益の増進に関する原則）① 連携の原則-----開発者は、ＡＩシステムの相互接続性と相互運用性に留意する。
（主にＡＩシステムのリスクの抑制に関する原則）② 透明性の原則-----開発者は、ＡＩシステムの入出力の検証可能性及び判断結果の説明可能性に留意する。
③ 制御可能性の原則-----開発者は、ＡＩシステムの制御可能性に留意する。
6

④ 安全の原則-----開発者は、ＡＩシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
⑤ セキュリティの原則-----開発者は、ＡＩシステムのセキュリティに留意する。
⑥ プライバシーの原則-----開発者は、ＡＩシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮する。
⑦ 倫理の原則-----開発者は、ＡＩシステムの開発において、人間の尊厳と個人の自律を尊重する。
（主に利用者等の受容性の向上に関する原則）⑧ 利用者支援の原則-----開発者は、ＡＩシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する。
⑨ アカウンタビリティの原則------開発者は、利用者を含むステークホルダ
に対しアカウンタビリティを果たすよう努める。

５．開発原則の解説① 連携の原則-----開発者は、ＡＩシステムの相互接続性と相互運用性に留意する。
（解説）
開発者は、ＡＩ ネットワーク化の健全な進展を通じて、ＡＩ システムの便
益を増進するとともに、リスクの抑制に関する複数の開発者の取組が相互に調和して有効に機能するよう、ＡＩシステムの多様性を踏まえつつ、自らの開発するＡＩシステムと他のＡＩシステム等との相互接続性と相互運用性 6に留意することが望ましい。そのため、開発者は、以下の事項について留意することが望ましい。
●相互接続性と相互運用性を確保するために有効な関連情報の共有に向けて協力するよう努めること。
●国際的な標準や規格がある場合には、これに準拠したＡＩシステムを開発するよう努めること。
6

ここで相互運用性と相互接続性としては、自らの開発するＡＩシステムが情報通信ネッ
トワークと接続され、他のＡＩシステム等と相互に適切に協調して運用することが可能であることを念頭に置いている。
7

●データ形式の標準化、ＡＰＩを含むインターフェースやプロトコルのオープン化に対応するよう努めること。
●自らの開発するＡＩシステムと他のＡＩシステム等との相互接続・相互運
用により意図しない事象が生ずるリスクに留意すること。
●ＡＩの開発に関連する知的財産に関し、保護と利活用のバランスに配慮しつつ、標準必須特許などＡＩシステムと他のＡＩシステム等との相互接続
性・相互運用性の確保に資する知的財産権のライセンス契約及びその条件についてオープンかつ公平な取扱いを図るよう努めること。
②透明性の原則-----開発者は、ＡＩシステムの入出力の検証可能性及び判断
結果の説明可能性に留意する 7。
（解説）
本原則の対象となるＡＩシステムとしては、利用者及び第三者の生命、身体、自由、プライバシー、財産などに影響を及ぼす可能性のあるＡＩシステムが想定される。
開発者は、ＡＩシステムに対する利用者を含む社会の信頼が得られるよう、採用する技術の特性や用途に照らし合理的な範囲で、ＡＩシステムの入出力の検証可能性及び判断結果の説明可能性に留意することが望ましい。
③制御可能性の原則-----開発者は、ＡＩシステムの制御可能性に留意する。
（解説）
開発者は、ＡＩシステムの制御可能性に関するリスクを評価するため、あらかじめ検証及び妥当性の確認 8を行うよう努めることが望ましい 9。こうしたリスク評価の手法としては、社会において実用化される前の段階において、実験室内やセキュリティが確保されたサンドボックスなどの閉鎖空間において実験
7

本原則は、開発者によるアルゴリズム、ソースコード、学習データの開示を想定するものではない。また、本原則の解釈に当たっては、プライバシーや営業秘密への配慮も求められる。
8 検証（verification）及び妥当性の確認（validation）は、あらかじめリスクを評価し抑制するための手法であるが、 前者は形式的な整合性の確認を意味して用いられるのに対し、後者は実質的な妥当性の確認を意味して用いられることが一般的である（See e.g.,
The Future of Life Institute (ＦＬＩ), Research Priorities for Robust and Beneficial
Artificial Intelligence (2015)。
9 リスク評価の要素としては、例えば、ＡＩシステムが与えられた目標を形式的に達成するために開発者の意図に実質的に反する動作（報酬ハッキング）を行うリスクやＡＩシス
テムが学習等による利活用の過程を通じた変化に伴い開発者の意図しない動作を行うリスク等に配慮することが考えられる。See e.g., Dario Amodei, Chris Olah, Jacob
Steinhardt, Paul Christiano, John Schulman & Dan Mané, Concrete Problems in AI
Safety, arXiv:1606.06565 [cs.AI] (2016).
8

を行うことが考えられる。
また、開発者は、制御可能性を確保するため、採用する技術の特性に照らして可能な範囲において、人間や信頼できる他のＡＩによる監督（監視、警告など）や対処（ＡＩシステムの停止、ネットワークからの切断、修理など）の実効性に留意することが望ましい。
④安全の原則-----開発者は、ＡＩシステムがアクチュエータ等を通じて利用
者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
（解説）
本原則の対象となるＡＩシステムとしては、アクチュエータ等を通じて利用
者及び第三者の生命、身体、財産に危害を及ぼす可能性のあるＡＩシステムが想定される。
開発者は、本原則に関する国際標準等を参照するとともに、特にＡＩシステ
ムが学習によって出力やプログラムが変化する可能性を踏まえ、以下の事項について留意することが望ましい。
●ＡＩシステムの安全性に関するリスクを評価・抑制するため、あらかじめ検証及び妥当性の確認を行うよう努めること。
●ＡＩシステムがアクチュエータ等を通じて稼動する際の本質安全（アクチュエータの運動エネルギーなど本質的な危険要因の低減）や機能安全（自動ブレーキなど付加的な制御装置の作動によるリスクの抑制）に資するよ
う、ＡＩシステムの設計段階において、採用する技術の特性に照らし可能な範囲で措置を講ずるよう努めること。
●ＡＩシステムを利用する際の利用者及び第三者の生命、身体、財産の安全に関する判断（例えば、ＡＩを搭載したロボットの事故発生時に、優先的に保護される生命、身体、財産の順位などに関する判断）を行うＡＩシス
テムを開発する場合において、利用者等ステークホルダに対して当該ＡＩシステムの設計の趣旨及びその理由を説明するよう努めること。
⑤セキュリティの原則-----開発者は、ＡＩシステムのセキュリティに留意する。
（解説）
開発者は、ＯＥＣＤセキュリティガイドラインなどセキュリティに関する国
際的な指針を踏まえるほか、ＡＩシステムが学習によって出力やプログラムが変化する可能性があることを踏まえ、以下の事項について留意することが望ましい。
●ＡＩシステムの情報セキュリティについては、通常、情報の機密性、完全
9

性及び可用性が確保されることが求められるが、必要に応じて、ＡＩシス
テムの信頼性（意図したとおりに動作が行われ、権限を有しない第三者による操作を受けないこと）や頑健性（物理的な攻撃や事故への耐性）にも留意すること。
●ＡＩシステムのセキュリティに関するリスクを評価・抑制するため、あらかじめ検証や妥当性確認を行うよう努めること。
●ＡＩシステムの設計段階において、採用する技術の特性に照らし可能な範囲でセキュリティ対策を講ずるよう努めること（セキュリティ・バイ・デザイン）。
⑥プライバシーの原則-----開発者は、ＡＩシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮する。
（解説）
本原則にいうプライバシーの範囲には、空間に係るプライバシー（私生活の平穏）、情報に係るプライバシー（個人データ）及び通信の秘密が含まれる。
開発者は、ＯＥＣＤプライバシーガイドラインなどプライバシーに関する国際的な指針を踏まえるとともに、ＡＩシステムが学習によって出力やプログラムが変化する可能性があることを踏まえ、以下の事項について留意することが望ましい。
●プライバシー侵害のリスクを評価するため、あらかじめプライバシー影響評価を行うよう努めること。
●ＡＩシステムの利活用時におけるプライバシー侵害を回避するため、当該システムの設計段階において、採用する技術の特性に照らし可能な範囲で措置を講ずるよう努めること（プライバシー・バイ・デザイン）。
⑦倫理の原則-----開発者は、ＡＩシステムの開発において、人間の尊厳と個人の自律を尊重する。
（解説）
開発者は、人間の脳や身体と連携するＡＩシステムを開発する場合は、生命倫理に関する議論などを参照しつつ、人間の尊厳と個人の自律について特に慎重に配慮することが望ましい。
開発者は、採用する技術の特性に照らし可能な範囲で、ＡＩシステムの学習データに含まれる偏見などに起因して不当な差別が生じないよう所要の措置を講ずるよう努めることが望ましい。
開発者は、国際人権法や国際人道法を踏まえ、ＡＩシステムが人間性の価値を不当に毀損することがないよう留意することが望ましい。
10

⑧利用者支援の原則-----開発者は、ＡＩシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する。
（解説）
開発者は、ＡＩシステムの利用者を支援するため、以下の事項について留意することが望ましい。
●利用者の判断に資する情報を適時適切に提供し、かつ、利用者にとって操作しやすいインターフェースが利用可能であることに配慮するよう努めること。
●利用者に選択の機会を適時適切に提供する機能（例えば、デフォルトの設定、理解しやすい選択肢の提示、フィードバックの提供、緊急時の警告、
エラーへの対処など）が利用可能であることに配慮するよう努めること。
●ユニバーサルデザインなど社会的弱者の利用を容易にするための取組に努めること。
また、開発者は、ＡＩシステムの学習による出力又はプログラムの変化の可能性を踏まえ、利用者に対し適切な情報提供を行うよう努めることが望ましい。
⑨アカウンタビリティの原則------開発者は、利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
（解説）
利用者にＡＩシステムの選択及び利活用に資する情報を提供するとともに、利用者を含む社会によるＡＩシステムの受容性を向上するため、開発者は、本ガイドラインの趣旨に鑑み、利用者等に対し自らの開発するＡＩシステムの技
術的特性について情報提供と説明を行うほか、多様なステークホルダとの対話を通じて様々な意見を聴取するなど、ステークホルダの積極的な関与（フィードバック）を得るよう努めることが望ましい。
また、開発者は、自らの開発するＡＩシステムによってサービスを提供する
プロバイダ等と情報を共有し、協力するよう努めることが望ましい。

11

【別添】関係するステークホルダに期待される役割
本ガイドラインの目的に鑑み、関係する産学民官のステークホルダは、ＡＩ
システムの開発に関し、例えば以下のような役割を果たすことが期待される。
１．各国政府及び国際機関は、本ガイドラインの運用や見直しにおいて各国政
府、国際機関、開発者、市民社会を含む利用者など多様なステークホルダ間の対話の促進に向けた環境整備に努めることが期待される。
２．関係するステークホルダは、上記１の対話に参加するとともに、本ガイド
ラインに適うベストプラクティスを共有し、ＡＩをめぐる議論の多様性を確保しつつ、ＡＩの便益及びリスクについての認識の共有が図られるよう努めることが期待される。
３．標準化団体等は、本ガイドラインに適う推奨モデルを作成し公表することが期待される。
４．各国政府は、ＡＩの開発者コミュニティを支援し、本ガイドラインに掲げるＡＩのもたらす便益の増進やリスクの抑制といった課題の解決に向けた取組と併せ、ＡＩに関する研究開発を支援する政策を積極的に推進することが期待される。

12

（参考）

AI ネットワーク化と智連社会
ＡＩネットワーク化

智連社会
智連社会（Wisdom Network Society 【WINS】)は、人間がＡＩネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」（Wisdom Network）を形成することにより、あらゆる分野におけるヒト・モノ・コト
相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となる人間中心の社会像。

人間がＡＩネットワークと共生し人機共生

データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」を形成することにより

総智連環

あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し

協調遍在

創造的かつ活力ある発展が可能となる社会別紙２

整理した論点に関する意見募集に寄せられた主な意見に対する考え方番号

意見の要旨

意見に対する考え方

ガイドラインの対象範囲を明確に「ＡＩ」の定義については、ＡＩ研究者の間でも多種多様な定義が示されており、し、ソフトウェア開発等の萎縮を確立した定義が存在しないことなどから、意見募集に当たっては「ＡＩ」の定義防ぐために、ＡＩやＡＩシステム

を示すことは控えてはどうかとしていたが、開発ガイドラインの対象範囲を明確の定義を明示すべきである。

にするために、開発ガイドラインの目的に照らして必要な限りにおいて、開発ガ

ＡＩの定義について１

イドラインにおける用語としての「ＡＩ」の定義を示すこととした。
具体的には、開発ガイドラインにおける用語としての「ＡＩ」を「ＡＩソフト」と「ＡＩシステム」とを総称する概念とした上で、前者を「データ・情報・知識の学習等 により、利活用の過程を通じて自らの出力やプログラムを変化させる
ソフトウェア」と定義する一方で、後者を「ＡＩソフトを構成要素として含むシステム」と定義し、その例として、ＡＩソフトを実装したロボットやクラウドシ
ステムを挙げている。
ガイドラインの対象範囲となる主体について
２

ＡＩ（ソフト）単体では、制御可能開発原則においては、ＡＩ ソフトのレベルではなく、ＡＩシステムのレベルに性、セキュリティ、安全性等を確保

おいて透明性や制御可能性等を確保するため、ＡＩシステムの開発者が留意すべすることは困難であり、ＡＩ（ソフ

き事項を定めることとした。

ト）開発者に過大な負担を課す恐れがあることから、ＡＩシステム
又はＡＩネットワークの開発者が留意すべき事項を中心にガイドラ
インを定めるべきである。
３

開発ガイドラインの対象範囲とな

今日のＡＩの研究開発においては、研究と開発が一体的に行われており、研究者

る人的主体についてより詳細に定と開発者を区別することは必ずしも容易ではない。

義すべき。具体的には、研究者と開

なお、本ガイドラインの対象とする開発の範囲は、学問の自由の尊重、社会に発者を分離すべき。また、開発者と与える影響の大きさ等に鑑み、閉鎖された空間（実験室、セキュリティが十分

提供者を分離すべき。

に確保されたサンドボックス等）内での開発は対象とせず、ネットワークに接続して行う段階に限定した。

４

Ａ Ｉ ネ ッ トワ ー ク シス テ ムを 開ＡＩシステムの研究開発（ＡＩシステムを利用しながら行う研究開発を含む。）

発・設計する主体は、利用者ではなを行う者（自らの開発したＡＩシステムを用いてＡＩネットワークサービスを提く、開発者に当たるものとして整供するプロバイダを含む。
）を「開発者」と定義した。

理すべき。

なお、他人が開発したＡＩシステムを構成要素とするＡＩシステムを開発する者

1

（当該ＡＩシステムによりＡＩネットワークサービスを提供するプロバイダを含む。
）は、当該他人との関係においては「利用者」と位置付けることが適当である。
ガイドラインの対象範囲となるＡＩ及び開発の段階について
５

自律型ＡＩと非自律型ＡＩを区別

開発ガイドラインは国際的に参照される非拘束的なソフトローとして策定されし、既に普及が進んでいる後者のるべきものであり、ＡＩに関する技術が予想を超えて加速度的に発展しているこみをガイドラインの対象範囲とすとや、欧米の政府や民間等におけるＡＩの開発原則等の検討においても「非自律べきである。

型ＡＩ」のみならず、今後急速な発展が見込まれる「自律型ＡＩ」も念頭に置いたもの有力となっていることに鑑み、「自律型ＡＩ」の発展をも見据えて開発ガ
イドラインを策定することが適当である。

６

ガイドラインの対象範囲をＡＩの限定的な機能を有するＡＩシステム（特化型ＡＩ等）であっても、ネットワーク

機能に即して限定すべきである。

を通じて他のＡＩシステムと連携することなどにより、高度で多様な機能を実現し、広範な利用者及び第三者に便益及びリスクを及ぼす可能性がある。したがって、その機能如何にかかわらず、ネットワーク化され得るＡＩシステム、すなわ
ち、ネットワークに接続可能なＡＩシステムを本ガイドラインの対象範囲としている。

７

ガ イ ド ラ イン の 対 象範 囲 とな る

クラウド等情報通信ネットワークシステムを利用したＡＩの研究開発に配慮し「開発の段階」から除外される研て、開発ガイドラインの対象範囲から除外される「閉鎖された空間」における研究開発を画定する「閉鎖された空究開発の例に、「セキュリティが十分に確保されたサンドボックス等」を加えた。

間」の定義を明確にし、クラウドコ
ンピューティング時代に即した研究開発体制を考慮すべきである。
具体的には、仮想閉域網などで論理的に閉鎖された空間をこれらの定義に追加すべきである。
開発原則の構成及び順序について
８

人間の尊厳と個人の自律の尊重を

開発原則は、あくまでも開発者が留意することが期待される事項を機能的に整理内容とする倫理の原則は、他の原したものであり、原則の順序は、価値の序列を示すものではない。

則の基礎となる根底的な価値を定

なお、開発ガイドラインの依拠すべき価値を列挙する基本理念において、第一のめるものであり、最上位の原則と基本理念として、「人間がネットワーク化されたＡＩと共生することにより、そして位置づけるべき。

の便益がすべての人によってあまねく享受され、人間の尊厳と個人の自律が尊重される人間中心の社会を実現すること」を掲げることにより、開発ガイドライン
が人間の尊厳と個人の自律が尊重される人間中心の社会を実現するという理念に立脚したものであることを明確にした。

2

透明性の原則について
９

技術や分野の特性を踏まえて、透技術的中立性に鑑み、透明性の原則の解説において、「採用する技術の特性や用明性の基準を検討すべきである。

途に照らし合理的な範囲で、ＡＩシステムの入出力の検証可能性及び判断結果の説明可能性に留意することが望ましい」との説明を加えた。

１０

機械学習における深層学習 のメ開発者にとってＡＩシステムの入出力の検証及び判断結果の説明が可能であり、カニズムは、少なくとも研究者にかつ、開発者が利用者等に適時適切にアカウンタビリティを果たす用意ができてとってはブラックボックスではないる場合には、ＡＩシステムの透明性（検証可能性及び説明可能性）が留意されく、研究者が何を入力して、どう学ているものと理解するのが適当である

習 さ せ た のか が 理 解可 能 であ れば、入出力や判断の透明性は確保されている、という解釈をして良いのか、という点を明示すべき。
制御可能性の原則について
１１

ＡＩを安全に停止できるかどうか

制御可能性の原則を含め開発原則は、開発者が遵守すべき一定の基準を示すもの

は明確ではなく、制御可能性の原ではなく、開発者が、留意して対応し、対応状況についてアカウンタビリティを

則は実現性が低い。制御可能性の果たすことが期待される指針を示すものである。したがって、開発者は、制御可限界を踏まえ、受入れ可能なリス

能性の原則に鑑み、採用する技術の特性に照らして可能な範囲でＡＩシステムのクとして社会的に受容できるよう制御可能性に留意するとともに、制御可能性の原則への対応の在り方について、にするための原則を策定すべきで制御可能性の限界やその程度も含め、アカウンタビリティを果たすことが期待さはないか。

れると理解するのが適当である。

国際的な整合性の確保について
１２

セキュリティや安全性等に関して関連する原則の解説において、国際的に参照されている標準や規格等を参照する

は、国際的に参照されている工業

ことが開発者に期待される旨を記述した。

標準等と調和するガイドラインを作成する必要がある。
１３

ネットワークに起因するリスクに関連する原則の説明文等において、国際的に参照されている標準や規格等を参照

対応するため、SCM 関連規格等を参することが開発者に期待される旨を記述した。

照して、原則を見直すべきである。
１４

各原則に対し実現を求められる範

各原則に対し実現を期待される範囲・水準の国際的な整合を図る観点から、関係

囲・水準の国際的な整合を図るべ

するステークホルダに期待される役割として、各国政府、国際機関、開発者、市き。

民社会を含む利用者など多様なステークホルダ間の対話の促進、ベストプラクテ
ィスの共有等を掲げた。

3

関係するステークホルダに期待される役割等について
１５

開発原則の実効性確保に関して、

あたかも開発者に認証を受けることを義務付けるなど公的な認証制度を創設す

開発者が自発的に提供する情報にるかのような誤解を招くことのないよう、意見募集時の資料において開発原則の基づいて第三者機関が開発原則へ

実効性を確保する方法の例として掲げていた「開発者がその開発するＡＩに関しの適合性を評価し認証する制度の自発的に提供する情報に基づき、公正中立で高度な専門性を有する第三者機関が創 設 が 例 とし て 挙 げら れ てい る

当該ＡＩの開発原則への適合性を評価して認証する制度」に関する項目を削除しが、このような制度は、開発者の自た。

由な開発を萎縮させ、ＡＩの発展を妨げる可能性を有するものであり、ガイドラインに書き込むことには極めて慎重であるべき。
１６

各原則について、その実現例・満足ＡＩに関する技術や利活用の分野に応じて開発原則への適切な対応の在り方が例（ホワイトリスト）を作成し、公異なり得ること、またＡＩに関する技術が加速度的に発展していくことが見込ま開すべきである。また、ホワイトリ

れることに鑑みると、（分野共通）開発ガイドライン自体に「ホワイトリスト」をストの作成に当たっては、実証実盛り込むことは適当ではないものと思われる。

験を可能とする特区等の指定、マ

一方、開発原則への適切な対応の在り方については、各々の開発者が利用者等にルチステークホルダーによる議論

アカウンタビリティを果たす上で自主的に判断すべきことを基本としつつ、関係の場を設定し、実用例に基づいたするステークホルダに期待される役割として、「標準化団体等は、本ガイドライ

ホワイトリストの作成・改良を行ンに適う推奨モデルを作成し公表することが期待される」と記載した。

うとともに、社会合意を進めるべ
きである。
１７

開発者のみによるリスクの抑制に開発者と利用者との責任の適切な分担に留意しつつ、開発ガイドラインの検討

は限界があり、利活用の場面におを進めるとともに、利用者が留意して対応すべき事項についても検討を進める

いて利用者が留意し対応すべき事こととしたい。

項も念頭に置いてガイドラインを作成すべきである。
１８

利活用ガイドラインは、事業者の利活用ガイドラインについては、市場における公正な競争を通じた利用者の利みを名宛人とし、一般消費者は対益の確保を基本としつつ、その策定の必要性の有無も含め議論を行い、利用者象とすべきではない。また、利用者が留意し対応すべき事項について、その策定の要否も含め、利用者の種別に配の信頼・期待の保護については、市慮しつつ検討していきたい。

場原理に委ねるべき。

4別 紙 ３

ＡＩネットワーク化が社会・経済にもたらす影響～ 先行的評価 ～先行的評価○ ユースケース（ＡＩシステムの具体的な利活用の場面）
国内外における関連する議論を進めている機関等が提示している既存のユースケースを基礎として本推進会議が整理したユースケースを用いることとした。
＜参考＞ スタンフォード大学「ＡＩ１００」（https://ai100.stanford.edu/）、人工知能と人間社会に関する懇談会（http://www8.cao.go.jp/cstp/tyousakai/ai/）、
一般社団法人競争力懇談会（ＣＯＣＮ）（http://www.cocn.jp/）が掲げるユースケース、構成員から提供されたユースケース等
本報告書においては、ＡＩシステムの利活用の分野を主に社会・経済における製品・サービスの供給面の領域の別に応じて、次に掲げるユースケースを対象として評価を行った。

◆◆◆◆◆

災害対応に関するユースケース･･･ ２～４頁
移動（車両）に関するユースケース ･･･ ５～７頁
健康に関するユースケース･･･ ８～10頁
教育・人材育成に関するユースケース ･･･ 11～13頁
小売・物流に関するユースケース･･･ 14～16頁

◆
◆
◆
◆
◆

製造・保守に関するユースケース･･･ 17～19頁
農業に関するユースケース･･･ 20～22頁
金融（融資）に関するユースケース ･･･ 23～25頁
公共・インフラに関するユースケース ･･･ 26～28頁
生活に関するユースケース･･･ 29～31頁○ 評価「ＡＩシステム相互間の連携前の段階（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援する段階）」と「ＡＩシステ
ム相互間の連携後の段階（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大する段階）」とでは、ＡＩネットワーク化のインパクトやリスクが異なり得るものと考えられることから、この２段階に分けて評価を行うこととした。

＜評価の対象とするインパクト及びリスク＞
・ インパクトについては、ＡＩシステムを利活用することにより、従来人間には不可能又は困難であったことが可能となることや、効率化や精度の向上等が図られることをインパクトとして評価することとした。
・ リスクについては、ＡＩシステムの利活用に伴い新たに生ずるリスク（ＡＩネットワーク化固有のリスク）だけではなく、ＡＩシステムを利活用しない場合と比べて増加するリスクやＡＩシステムを利活用しない場合と比べて軽減するものの、利活用する場合における事故等による被害の規模や波及がある程度大きいリスクについても評価の対象とすることとした。
なお、セキュリティに関するリスク（ＡＩシステムがハッキングされること等により機能不全に陥るリスク等）、不透明化のリスク（多重かつ複雑に連携しているＡＩシ
ステムの一部の動作が不透明化することに伴い、ネットワークを介してつながるＡＩシステムの動作全体が不透明化するリスク等）、制御喪失のリスク（ＡＩシステム
が攻撃を受けたり、不具合が生じたりすることにより、制御が困難又は不可能となり、当該ＡＩシステムとネットワークを介してつながるＡＩシステム全体が機能不全に陥るリスク等）については、各ユースケースに共通するリスクと考えられることから、個々のユースケースの評価において個別には記載しないこととしている（これらのリスクへの対処が重要であることは言うまでもない（むしろ、共通するリスクであるからこそ、これらのリスクへの対処が重要となる。）。）。
（注）
・ インパクト及びリスクのいずれについても、あくまでも典型的に想定され得るものの一部を例示として記載しているだけであり、網羅的なものではないことに留意することが必要である。
・ 各ユースケースに記載されているＡＩシステムの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。

1１．災害対応に関するユースケース（1/3）
災害が発生した際にＡＩシステムを利活用することにより、救助、支援業務等が効率化、高度化。
ＡＩシステム相互間の連携後には、救助や支援業務、救急搬送、支援物資の運搬及び分配について、連携の対象となる業務全体としてのリアルタイムでの最適化に向けた提案又はその実施が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 被災者（要救助者）のスマートフォンやウエアラブル端末から得られる様々な情報（位置情報やバイタル
データ等）をAＩシステムが解析し、要救助者の容体の変化に応じて、救助を要請する。
〇 カメラを搭載したドローンが空からの目視が困難な被災者の探索を行い、救助を要請する。
〇 避難所で生活する被災者に対し避難所生活や復旧に関する情報を提供する。また、健康情報や生活情報等をもとに健康状態を推定しアドバイスを送る。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、時々刻々と変化する要救助者の状況や被災状
況、被害予測に基づき、リソースや物資の需給バランスのリアルタイムでのシミュレーションを行い、〇 救助や支援業務に要するリソースの最適な配分を提示して、その作業全体のリアルタイムでの最適化に向けた提案をする。
〇 救急搬送や物資運搬のための最適なルートを設定し、車両等の運用全体のリアルタイムでの最適化に向けた提案をする。
〇 各避難所における支援物資の需給及び運搬車の運用状況のマッチングにより、物資の運搬及び分配全体のリ
アルタイムでの最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。
2

１．災害対応に関するユースケース（2/3）
・災害予測や警戒情報の発信
・復旧計画の策定支援

・被災者（要救助者）から
の救助要請

AI
・位置情報や地理情報に応じた瓦礫の撤去等

・支援物資の分配全体のリアル
タイムでの最適化に向けた提案
又はその実施・救急搬送や物資運搬のためのルートの設定（車両ごと）
・救急搬送や物資運搬のための最適なルート設定、車両等の運用全体のリアルタイムでの最適化に向けた提案又はその実施・ドローンによる被災者の探索レスキューロボット

要救助者

AI
AI

救助ドローン・要救助者の状況や被災状況等に応じた救助や支援業務全体のリアルタイムでの最適化に向けた提案又はその実施
・避難所生活に関する助言
や健康状態の推定（資料）総務省「大規模災害時の非常用通信手段の在り方に関する研究会報告書」（H28年）をもとに加工（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）3１．災害対応に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞
シナリオ上想定される利活用＜リスク評価＞

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）被災者（要救助者）からの救助要請

・要救助者の早期発見、早期救助につながる。 ・誤った推定・判断により、本来必要とされる救助が 生命身体に危害が及ぶリスクの評価
要請されないおそれがある。

ドローンによる被災者の探索

・人間では探索が困難な被災者の発見、救助が可能となる。

・通信の遅延や情報通信ネットワークの遮断、ハッキング等により機能不全に陥ったりするおそれがある。

情報通信ネットワー
クのオペレーション
評価

避難所生活に関する助言や健康状態の推定

・被災者の不安を取り除き、復旧に対する意欲 ・被災者に関する重要な情報がインプットされていをかきたて、健康維持管理や病気の予防や感 なかったこと等により、被災者に誤ったアドバイスを行い被災者の健康状態を害するおそれがある。
染症の拡大防止に役立つ。

生命身体を害する影
響等の評価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

要救助者の状況や被災状況等に応じた救助や支援業務全体のリアルタイムでの最適化に向けた提案又はその実施

・時々刻々と変化する状況に即応して救助や支援業務全体の最適化を図ることが可能となる。

・ＡＩシステムを利活用しない者が救助や支援の対象から外され、又は不当に順番が劣後されるおそれがある。

生命身体に危害が及ぶリスクの評価

救急搬送や物資運搬のための最適なルート設定、車両等の運用全体のリアル
タイムでの最適化に向けた提案又はその実施・被災状況や活用できるリソースに応じ、車両等の運用全体の最適化を図ることが可能となる。

支援物資の分配全体のリアルタイムでの最適化に向けた提案又はその実施

・避難所ごと、自治体ごとに支援物資の分配・運搬全体の最適化を図ることが可能となる。

・一部のＡＩシステムが個別最適を目指して過剰な要求を行った結果、全体の最適化が実現しないおそれがある。

支援物資やリソー
スの過不足に及ぼす影響の評価・ＡＩシステム間の連携の不具合や誤った判断の結 ＡＩシステムへの信果、AIシステムへの信頼が低下するおそれがある。 頼への影響の評価

リスク管理（例）

リスク・コミュニケーション（例）・ＡＩシステムによる予測の精度の乖離を許容する範囲の設定・判断又は決定をＡＩシステムに委ねる範囲及び条件の設定
・複数のＡＩシステム間の連携に関する仕組みの確立（インターフェース
標準化やプロトコルの変換等）

・災害時におけるステークホルダ間の平常時からの双方向的な対話・協働の場の形成
・緊急時のコミュニケーション（クライシス・コミュニケーション）を平常時のリスク・コミュニケー
ションとは区別して実施できる体制の整備（注）想定される利活用のうち、主なものについて記載

4

２．移動（車両）に関するユースケース（1/3）
ＡＩシステムを利活用することにより、交通の円滑化、移動の効率化、安全性の向上に貢献。
ＡＩシステム相互間の連携後には、自動運転の実現とともに、交通量・流の制御、バスやタクシーの運行のリアルタイムでの最適化に向けた提案又はその実施が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 過去のデータ等から交通量・流を予測し、円滑な交通のために信号を制御する。また、渋滞予測やその回避
ルート設定の精緻化を行う。
〇 利用者（運転者）の集中力・健康状態・判断能力等についてモニタリングや分析を行い、運転可否の判断や注意喚起を行う。
〇 渋滞や車両の異常により適切に運転できなくなった場合に、安全な減速・停止等の対処を行うとともに、渋滞脱出や修理工場までの効率的なルートを設定する。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、○ 他の運行車両等と相互調整を図り、速度や転蛇を自動制御し、自動運転を実現する。
○ リアルタイムで把握できる交通量・流に基づいて信号を制御し、円滑な交通を実現する。また、時々刻々と変化する道路状況に応じて渋滞予測やその回避ルートの自動調整をリアルタイムで行う。
○ 時々刻々と変化する道路状況、利用者の位置情報をもとに、ライドシェアタクシー・バスの運行ルートの自動調整を行い全体としての最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。
5

２．移動（車両）に関するユースケース（2/3）
・渋滞予測や回避ルートの精緻化

・運転者のモニタリングに基づく運転可否の判断・注視喚起

他者の運行車両

生活者

渋滞情報提供サービス事業者（運行車両）AI
AI

AI
・他車両等との相互調整による自動運転の実現

・リアルタイムでの渋滞予測、回避ルートの自動調整

ライドシェアタクシー・バス

道路

AI

・リアルタイムでの交通量・流に応じた信号制御

AI

信号(制御システム)
AI・交通量・流の予測に基づく信号制御

渋滞車両・異常車両 ・道路の混雑状況等に基づく
リアルタイムでの運行ルートの自動調整による最適化に向けた提案

・危険時等の自動対処（安全な減速・停止等）、効率的なルート設定（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）・ライドシェアタクシー・バスの運行ルートの効率化

6２．移動（車両）に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞
シナリオ上想定される利活用＜リスク評価＞

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

交通量・流の予測に基づく信号制御、 ・渋滞発生の未然回避に役立つとともに、渋滞発生時に ・信号システム等がハッキング等されることによ
渋滞予測や回避ルートの精緻化
はその解消・緩和が図られる。
り、不正に操作されたり、制御喪失となり、事故が発生するおそれがある。

セキュリティ上の脆弱性等の評価
ＡＩシステムへの依
存度の評価

運転者のモニタリングに基づく運転可否の判断・注視喚起

・運転者の居眠りや注意力低下等による交通事故を未然に防ぐことができる。

・ＡＩシステムへの依存が高まり、運転者の集中力・注意力の低下を招くおそれがある。

危険時等の自動対処（安全な減速・停止等）、効率的なルート設定

・交通事故が減少する。
・正常な運転への早期復帰に役立つ。

・異常検知等の精度が十分でない場合、必要な 生命身体への影対処がとられず、事故につながるおそれがある。 響の評価

【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

他車両等との相互調整による自動運
転の実現

・交通事故が減少する
・利用者は車内における移動時間を有効に活用することができるようになる。

ＡＩシステム間の意思疎通能力の評価

リアルタイムでの交通量・流に応じた信号制御及び渋滞予測、回避ルートの自動調整・渋滞発生の未然回避に役立つとともに、渋滞発生時にはその解消・緩和が図られる。
・救急車等の優先車両がスムーズに通行することができる。

・異なる自動車メーカーのＡＩシステム間で、相互調整を適切に行ことができず、事故が発生する
おそれがある（通信プロトコルやデータフォー
マットの相違、判断基準の相違）。

道路の混雑状況等に基づくリアルタ
イムでの運行ルートの自動調整による最適化に向けた提案

・利用者の待ち時間や乗車時間を短縮することができる。
・ライドシェアタクシー・バスの利便性が向上し、渋滞緩和や環境負荷（CO2の排出等）の軽減が図られる。

・ハッキング等によりＡＩシステムが機能不全に陥ることにより、交通システム全体がマヒするおそれがある。

交通システムへの影響の評価AIシステムの利活用の状況の評
・マジョリティ（例えば、人数の多いエリア等）が優先され、マイノリティやＡＩシステムを利活用し 価ない（できない）者が不利益を被るおそれがある。

リスク管理（例）

リスク・コミュニケーション（例）・複数のＡＩシステム間の連携に関する仕組みの確立（インターフェース標準化やプロトコルの変換等）
・安全性試験の実施（自動車業界を中心とする関係者全体が参加）・利用者、自動車メーカー、関係行政機関（警察、自治体等）等ステークホルダ間の双方向的な対話・協働の場の形成・事故が発生した場合の責任の所在、責任の分配の在り方に関する対話・検討
7（注）想定される利活用のうち、主なものについて記載

３．健康に関するユースケース（1/3）
ＡＩシステムを利活用することにより、健康管理、診察・治療、健康状態に関連するサービスの水準が向上。
ＡＩシステム相互間の連携後には、健康管理、搬送、診察・治療等健康状態に関連するサービス相互の円滑な連携が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 家庭や介護施設等に設置された様々なセンサーから得られる健康情報や生活情報等を活用して、健康状態の推定や病気発症の予測を行う。
〇 患者の症状と過去の症例とのマッチングを行い、該当する可能性の高い病名を提示するとともに、適切な処置方法を提示する。
〇 利用者の健康に関する情報（病歴、遺伝情報等）をもとに、個々人に応じて自動的にカスタマイズされた金融サービス（保険等）を提案する。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 健康状態の変化に応じて、病院、介護施設等に自動運転車が迅速に搬送する。
〇 医療機関と消防機関等との間において、救急車、病院の受入態勢等についてリアルタイムで調整を行い、搬送及び治療全体のリアルタイムでの最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。
〇 病院・医師間で必要な医療情報の受け渡し（融通）が適時適切なタイミングで行われ、診察・治療の整合を図る。

8

３．健康に関するユースケース（2/3）
・健康情報や生活情報等を活用した健康状態の推定、病気発症の予測

家庭・介護施設

生活者・健康情報に応じてカスタマイズされた
金融サービス（保険等）の提案

・救急医療の補助

消防機関

・緊急時における自動通報、
ルートの設定の最適化

・救急搬送や治療・入院等全体のリアルタイムでの最適化に向けた提案又はその実施

AI・薬の自動注文・配送

医療機関

・生活改善、疾病予防の提案・応急措置、治療方法の提案

薬局

AI

AI
AI
・調剤の自動化AI

マイカー

・健康状態に応じたマイカー（自動運転車）による病院や介護施設等への通院・移動の支援

・危険運転の検知、是正の助言

AI
医師・医療情報の融通、診察・治療の整合

・診察・治療の支援
・カルテの自動書記化（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）9３．健康に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

健康情報や生活情報等を活用した健康状態の推定、病気発症の予測

・自分自身の体調を正確に把握することができ、
健康管理、病気の予防、早期発見に役立つ。

・健康状態について誤った推定をしたり、病気の前兆を見逃すおそれがある。

生命身体に危害が及ぶリスクの評価

診察・治療の支援

・症状に応じた適切な診察・治療の実現につながる。

・誤ったサゼスチョンに基づく診察・治療を行っ 生命身体に危害がた結果、医療過誤が生ずるおそれがある。
及ぶリスクの評価

健康情報に応じてカスタマイズされた金融サービス（保険等）の提案

・個人の特性に応じた適切な金融サービスを受けることができる。

・機微情報（病歴や遺伝情報）をＡＩシステムが 社会的な認知度・受利活用することが社会的に受容されないおそ 容度の影響の評価
れがある。

【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

健康状態に応じたマイカー（自動運転車）
による病院や介護施設等への通院・移動の支援

・公共交通機関の利用が困難な者にとって、通院等の負担を軽減することができる。

・自動運転車における誤作動や不正操作等により、事故が発生するおそれがある。

生命身体に危害が及ぶリスクの評価

救急搬送や治療・入院等全体のリアルタイ
ムでの最適化に向けた提案又はその実施

・救急搬送の時間短縮が図られ、救命率の向上につながる。

個人情報の流出時の影響の評価

医療情報の融通、診察・治療の整合・カルテやレントゲン写真等の共有が行われ、診察・治療の水準の向上が期待される。
・転院した場合でも、適切な治療の継続を図ることができる。

・一部のＡＩシステムが個別最適（例：特定の患者を優先）を目指して過剰な要求を行った
結果、全体の最適化が実現しないおそれがある。

プライバシー侵害の評価

・個人情報（特に機微情報）やプライバシー情報が流出・漏洩するおそれがある。

リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニ
タリングの実施・機微情報の運用・管理ガイドラインの策定
・機微情報の取得又は活用に際しての本人同意の確保、名寄せの制限

・医師、患者、利用者等ステークホルダ間の双方向的な対話・協働の場の形成
・ＡＩシステムの利用開始時における利用者への確認などインフォームドコンセントの仕組
みの整備（注）想定される利活用のうち、主なものについて記載

10

４．教育・人材育成に関するユースケース（1/3）
ＡＩシステムを利活用することにより、子供の能力・適性等に応じた教育、キャリア形成等に貢献。
ＡＩシステム相互間の連携後には、小学校・中学校・高校・大学など学校間の連携、家庭・学校・地域社会間の連携等を通じて、学校教育とキャリア形成の連携などを含め生涯を通じた教育・人材育成の全体としての最適化に向けた提案又は実施が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 家庭において、子供の能力、関心、適性等に応じた教材を提供・推奨したり、学習コンテンツを提供する。
また、学校や塾において、子供の習熟度等に応じて、カリキュラムを編成したり、学習コンテンツを提供する。
〇 学校における教師の仕事（バックオフィス業務等）を支援する。
〇 企業や団体等おける、在籍者の年齢、在籍期間、転職率等から職種ごとに求められる能力や適性等を推定し、個々人の特性に応じたキャリア設計等を提案する。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 学校間の連携（例えば、小学校・中学校・高校・大学間における連携）や学校・地域社会・塾との連携などを通じて個人に関するデータを総合的に活用することが可能となり、学校教育とキャリア形成の連携などを含め生涯を通じた教育・人材育成の全体としての最適化に向けた提案をする（ＡＩシステムに決定まで委ねた場合、最適なカリキュラムの編成、コンテンツの生成・提供等を行う。）。
〇 就職活動、転職活動において、能力、適性、希望等に応じた求人の申し込み（応募）、インターンや職業体験のための交渉・調整などキャリア形成を支援する。
〇 地域社会において、過去の参加率等のデータをもとに、子供の関心に応じたイベント等を企画し、参加を勧奨する。また、家庭、学校、地域社会が連携して、様々な課題解決に向けて、知恵を結集・活用する。
11

４．教育・人材育成に関するユースケース（2/3）（教育関連事業者）

児童・生徒
（学習）

（アクティブラーニング）

・成功要因等に基づく最適なコンテンツの開発・提供、研修（キャリア設計）

企業・職種

AI
・就職活動、転職活動における求人の申込み（応募）、インターンのための交渉・調整などキャリア
形成の支援

AI

AI
地域社会

・子供の能力、関心、適性等に応じた教材の提供・推奨、学習コンテンツの提供

・学校間連携、学校・地域社会・塾との連携等
を通じた学校教育とキャリア形成の連携など
を含め生涯を通じた教育・人材育成の全体としての最適化に向けた提案又はその実施

AI

・地域社会における子供向けイベントの企画・参加勧奨、課題解決に向けた知恵の集結・活用・教師の仕事（バックオフィス
業務等）の支援

学校・教師
AI
（中学校）

AI
（小学校）

AI
AI

AI

（高校）

塾

AI
（大学）

（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）12４．教育・人材育成に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞
シナリオ上想定される利活用＜リスク評価＞
シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

子供の能力、関心、適性等に応じた教材の提供・推奨、カリキュラムの編成、学習コン
テンツの提供・個々の科目の学力向上やスキルアップにつながる。

・ＡＩシステムが生成した学習コンテンツ 知的財産権の帰の知的財産権の帰属が問題となるお 属に関する評価
それがある。

教師の仕事（バックオフィス業務等）の支援

・教師の負担が軽減され、子供に向けられる時間・労力が増加する。

・ハッキング等により生徒の成績など
情報流出時の影の個人情報が流出するおそれがある。 響の評価

個々人の特性に応じたキャリア設計の提案

・個々人の適性に合致した職業選択が可能となる。
・将来を考える契機となり、学習意欲の向上が図られる。

・職業選択に関する主体的な判断に影 判断等に与える響が生ずるおそれがある。
影響の評価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

学校間連携、学校・地域社会・塾との連携等を通じた学校教育とキャリア形成の連携などを含め生涯を通じた教育・人材育成の全体としての最適化に向けた提案又はその実施

・生涯を通じて豊かな人間形成や総合的な学力の向上、
学習意欲の増進、能力開花に役立つ。

・学習内容に偏向が生じたり、ＡＩシス
テム依存による学習への主体性に影響が生ずるおそれがある。

学習能力等への影響の評価

就職活動、転職活動における求人の申込み（応募）、インターンのための交渉・調整などキャリア形成の支援

・キャリア形成や労働市場における適切なマッチングに貢献する（就職率の上昇、離職率の低下に貢献する）。

・教育におけるＡＩシステムへの依存が強くなり、教師が軽んじられたり、尊敬されないなど子供と教師との関係に影響が生ずるおそれがある。

地域社会における子供向けイベントの企
画・参加勧奨、課題解決に向けた知恵の集
結・活用・地域社会での交流の活性化・深化に役立つ。
・コミュニケーション能力やコーチングなどの対人関係能力の向上が図られる。

・過去の参加率が低い場合、有益なイベントが企画・開催されなくなるおそれがある。

子供の成長への影響の評価
イベントの開催回
数、参加率等の評価

リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニタリングの実施
・利用者の判断で代替的なカリキュラムやコンテンツ等を利用・選択できる機能の実装

・家庭、学校、塾、地域社会等ステークホルダー間の双方向的な対話・協働の場の形成
・就職や転職に関する苦情・相談窓口の設置（注）想定される利活用のうち、主なものについて記載

13

５．小売・物流に関するユースケース（1/3）
ＡＩシステムを利活用することにより、販売促進、業務の効率化に貢献。
ＡＩシステム相互間の連携後には、自動運転車による無人の移動店舗が実現するとともに、生産から配達までの業務に係るリソース活用全体としてのリアルタイムでの最適化に向けた提案又はその実施、受注調整・契約の自動化が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 消費者の過去の商品・サービスの購入・利用履歴等に基づいて、趣味・嗜好に合った商品・サービスの購入・利用を提案する。
〇 画像認識等により来店者の属性・商品の取得有無等を把握し、無人レジや発注・陳列・ラインナップ改善の自動化を実現する。
〇 在庫管理において、商品の納入や出荷の計画に応じて、集荷・仕分け・梱包等の業務を自動的に行う。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 自動運転車による移動店舗（無人店舗）が登場し、消費者のニーズに応じて販売ルートを設定して自動走行
するとともに、商品の自動販売、在庫状況に応じて商品の補充を自動的に行う。
〇 消費者からの注文状況に応じて、生産、物流、配送の各プレイヤーの業務を相互に連携して自動的に調整することにより、リソース活用全体のリアルタイムでの最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。
〇 注文状況に応じて、下請業者や関係業者との受注調整を行い、契約（定型的なもの）を自動的に行う。
14

５．小売・物流に関するユースケース（2/3）
電力会社等

・ドローンを活用した
配達

・消費者の嗜好に合った商品・サービスの購入・利用の提案

生活者
(消費者)

AI

AI

AI

AI

スマートメーター

・消費者の在宅状況に応じた最適な配達ルートの設定・調整全体のリアルタイム
での最適化に向けた提案又はその実施

AI・日用品や必需品の自動注文・配送・自動運転車による移動店舗（無人店舗）による販売

小売業者

宅配・配送業者

・効率的な配達ルートの設定
・消費者からの注文状況に応じた生産・物流計画の策定
・生産、物流、配送のリソース活用全体のリアルタイムでの最適化に向けた提案及びその実施

AI

物流業者
(運送、倉庫保管)
AI

製造業者
AI

輸送業者
AI

・集荷・仕分け・梱包等の自動化（来店認識）
・無人レジや発注・陳列・ラインナップ改善の自動化

・受注調整や取引・契約の自動化（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）15５．小売・物流に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

消費者の嗜好に合った商品・サービスの購入・利用の提案

・必要なもの・欲しいものが入手し易くなる（例えば、知らな
いもの、見つけることが困難なものでも、購入することができるようになる。）

・商品・サービスの選択をＡＩシステムに依存する ＡＩシステムへの依ことにより、主体的な判断を行うことができなくな 存度の評価
るおそれがある。

無人レジや発注・陳列・ライン
ナップ改善の自動化

・売上増加、コスト削減、人手不足解消、スピーディーな店
舗展開が期待できる。

・カメラや管理システムがハッキング等されること 監視機能喪失時のにより、モニタリングができなくなるおそれがある 影響の評価（窃盗、異物混入、危険物の持込等のおそれ）。

集荷・仕分け・梱包等の自動化

・業務の効率化が図られる。

・ファームウェアの乗っ取りや不正なアップデート ファームアップアッ等により、在庫管理システム等が機能不全に陥 プデートにおける脆
るおそれがある。
弱性の評価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用
自動運転車による移動店舗（無人店舗）による販売

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

・地域や居住者の特性・ニーズに応じた商品の提供など細やかな対応が可能となる。
・（高齢者や過疎地域では）自宅の近くで商品を購入することができる。

・在庫状況等を誤って認識し、商品が補充されないおそれがある。

誤って認識・推測
する確率の評価

・一部のＡＩシステムが個別最適を目指して過剰な要求を行った結果、全体の最適化が実現しな
いおそれがある。

ＡＩシステム間の意
思疎通能力の評
価・なりすましや偽装による不正注文や不正取引・契約が行われるおそれがある。

なりすましや偽装に対するセキュリ
ティの評価

生産、物流、配送のリソース活
用全体のリアルタイムでの最適化に向けた提案及びその実施・消費者が商品を入手するまでの期間を短くすることができる。
・生産の集中による納期の遅れ等を回避することができる。

受注調整や取引・契約の自動化

・取引・契約に係る業務の効率化、調整等の期間の短縮化が図られ、迅速に生産に取りかかることができる。

リスク管理（例）

リスク・コミュニケーション（例）・複数のＡＩシステムを連携させることによるリスクヘッジ（他のＡＩシステムから牽制が入る仕組み等の確立）
・認証や暗号通信等のセキュリティ対策の実装

・ステークホルダ間の情報共有の場の形成とインシデントへの対応方法の協議
・消費者へのＡＩシステムの利活用による影響に関する情報の提供、双方向的な対話（注）想定される利活用のうち、主なものについて記載

16

６．製造・保守に関するユースケース（1/3）
ＡＩシステムを利活用することにより、製造工程、保守サービス等が効率化、高度化。
ＡＩシステム相互間の連携後には、製造に係るリソースの活用、自動的な受注調整、配送のリアルタイムでの最適化に向けた提案又はその実施が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 過去の売上や様々な顧客からの注文に応じて、将来的な見込み・予測も含めた生産・物流計画を策定し、生産ラインを自動的に調整する。
〇 生産ロボット、工作機械等が自動化されるとともに、画像データ等を用いて不良品の検知や不良率の低減を図る。
〇 販売後の製品について、製品に付されたセンサーから得られる情報等をもとに、異常等の検知、アラーム発
信、故障予測、燃料の補充時期の予測等を行う。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 複数の企業が保有するリソース・技術等がAIシステムを通じて連携し、生産計画の策定や生産ラインを企業横断的に調整し、リソース活用等の全体としての最適化に向けた提案をする。
〇 注文状況に応じて、下請け業者や関係業者との受注調整を行い、（定型的な）契約を適時に提案する。
〇 スマートメーター等からの情報に基づき顧客の在宅・不在や需要をリアルタイムで把握・予測し、製品の組立てや配達ルートの設定・調整の全体としての最適化に向けた提案をする。
（注）ＡＩシステムに決定まで委ねる場合には、提案内容のリアルタイムでの実施が可能。
17

６．製造・保守に関するユースケース（2/3）
・顧客の多様なニーズに応じた生産計画の策定・取引・契約の調整・提案

電力会社等（管理システム）・顧客の在宅状況に応じた最適な配達ルートの設定・調整全体のリアルタイムでの最適化に向けた提案又はその実施

AI（無人工場）
・工場の無人化（完全自動化）AI

AI（工場のメンテナンス
システム）
・企業内における開発・設計・製造・販売・保守等の各プロセスの連携によるリアルタイムでの最適な生産計画の策定や生産ラインを調整
・複数の企業間における横断的な連携によるリソース活用全体のリアルタイムでの最適化に向けた提案又はその実施（生産ロボット）AI・メンテナンスの自動化（不良品検知システム）

AI

AI

AI
（販売後の製品の保守）

・生産ロボット等の自動化・生産ラインの自動調整（生産ライン）・製品保守における異常等の検知、アラーム発信AI ・保守サービスを予測ベース
で自動的に提供（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）・画像データ等に基づく不良品の検知18

６．製造・保守に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

顧客の多様なニーズに応じた生産計画の策定、生産ラインの自動調整

・顧客は個々のニーズに合致した商品を迅速に入手することができるようになる。
・効率的に生産することができ、工期を短縮することができる。

・誤った生産計画を策定したり、誤った調整を行う 生産システムへの影ことにより、生産に混乱が生ずるおそれがある。 響の評価

生産ロボット等の自動化、画像データ等に基づく不良品の検知

・生産の効率化及び品質の向上が図られる。
・効率化により必要な雇用が減少する。
・不良品の発見率の向上が図られる。

・生産ロボット等がハッキングされることにより、不 セキュリティ上の脆
正に操作されたり、機能不全に陥るおそれがあ 弱性等の評価
る

製品保守における異常等の検知、ア
ラーム発信

・製品を安心して安全に使うことができる。

・異常の見逃しやハッキング等により、故障や事故が発生するおそれがある。

生命身体に危害が及ぶリスクの評価

シナリオ上想定されるリスク

リスク評価（例）【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

複数の企業間における横断的な連携によるリソース活用全体のリアルタイムでの最適化に向けた提案又はその実施

・リソース活用（イノベーションの推進、遊休資産の利活用）全体の最適化を図ることが可能となる。

・異なる企業のＡＩシステムが互いの意図を理解 他の企業や工場とできず（通信プロトコルやデータフォーマットのの意思疎通能力の違い等）により、誤った判断を行うおそれがある。 評価

取引・契約の調整・提案

・業務の効率化が図られるとともに、調整等の期間を短縮することができる。

・なりすましや偽装による不正取引・契約が行われるおそれがある。

なりすましや偽装等
セキュリティの評価

顧客の在宅状況に応じた最適な配達ルートの設定・調整全体のリアルタイム
での最適化に向けた提案又はその実施

・顧客ごとの在宅時間やリアルタイムでの需要に合わせた配送が図られる。
・再配達が減少し、環境負荷（ＣＯ２の排出）の軽減が図られる。

・在宅・不在や生活習慣に関する情報等プライバシーが侵害されたり、悪用されるおそれがある。

プライバシー侵害及び犯罪の発生率等の評価

リスク管理（例）

リスク・コミュニケーション（例）・生産停止等のリスクを織り込んだ生産計画の策定
・複数のＡＩシステム間の連携に関する仕組みの確立（インターフェース標準化やプロトコルの変換等）
・認証や暗号通信等のセキュリティ対策の実装

・ステークホルダ間における全体としての事業継続計画（ＢＣＰ）の策定
・リスク認知の差異や情報の非対称性に留意したリスク情報に関するコミュニケー
ションや対話（注）想定される利活用のうち、主なものについて記載

19

７．農業に関するユースケース（1/3）
ＡＩシステムを利活用することにより、生産の効率化、品質の向上に貢献。
ＡＩシステム相互間の連携後には、気象条件や発育状況等に応じた栽培のリアルタイムでの自動化・最適化、消費者へのリアルタイムでの生産情報の提供、最適な生産・出荷計画の策定が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 温度や湿度、日照時間等の気象条件や発育状況に応じて、効果的な栽培方法（肥料の種類、散水の量・タイ
ミング等）を提案する。
〇 自動走行トラクターによる耕耘、自動スプリンクラーによる散水を行う。また、ドローンを活用して、種まきや肥料散布を行うとともに、空中から発育状況を観察する〇 様々なゲノム情報を分析し、品質改良の提案をする。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 温度や湿度、日照時間等の気象条件や発育状況、規格外品の検知率等に基づいた最適な栽培方法（肥料の種類、散水の量・タイミング等）を提案し、発育に最適な肥料をロボットが自動で与える、その後、自動スプリンクラーで散水する、また、温度・湿度に応じてビニールハウスの窓を自動的に開閉する、日照時間に応じて照明の付けるなどの仕事がリアルタイムで連動して行われることにより最適化を図ることが可能となる。
〇 消費者のニーズに応じて食品や家畜の生産情報をリアルタイムでダイレクトに消費者に提供する。
〇 市場価格の推移や他の農産物の出荷状況のデータをもとに、最適な生産・出荷計画を策定する。また、外食における調達計画等の需要データをもとに収穫・出荷計画を策定する。
20

７．農業に関するユースケース（2/3）
・気象条件や発育状況に応じた効果的な栽培方法の提案
・危険個所（例：蜂の巣）の自動観察
・家畜の健康状態や発情時期の管理
・農業従事者の事故の自動検知

農家
・最適な生産・収穫・出荷
計画の策定

・画像データに基づく検品
・ロボットによる自動パッキング

外食・小売・運輸

検品システム
AI

AI

AI
ドローン

・農業従事者の健康管理

AI・気象条件、発育状況、規格外品の検知率等のあらゆるデータに基づいた栽培環境のリアルタイムでの自動化・最適化

AI・ドローンを活用した種まき、
肥料散布、発育状況の観察
・ゲノム情報に基づく
品質改良

自走式トラクター、自動スプリンクラー等

研究開発機関AI・リアルタイムでの生産情報の消費者への提供

AI

消費者
AI

・耕耘や散水の自動化（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）21７．農業に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞
シナリオ上想定される利活用＜リスク評価＞

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

気象条件や発育状況に応じた効果的な栽培方法の提案

・収穫高の増大が期待できる。

・誤った提案をすることにより、農作物の発育 農作物の発育へが悪くなったり、収穫高が減少するおそれが の影響の評価ある。

耕耘や散水の自動化、ドローンを活用した種まき、肥料散布、発育状況の観察

・農業従事者の負担軽減、作業の効率化が図られる。

・ハッキングされること等により、制御が失われ、栽培中の農作物を傷つけるおそれがある。

セキュリティ上の脆弱性等の評価

ゲノム情報に基づく品質改良の提案

・効率的な品種改良が可能となる（よりおいしい品種、害 ・品種改良に関する情報の知的財産権の帰属が問題となるおそれがある。
虫に強い品種等）。その結果、収穫高の増大、作業の負担軽減、効率化が図られる。

知的財産権の帰属に関する評価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

気象条件、発育状況、規格外品の検知率等のあらゆるデータに基づいた栽培
環境のリアルタイムでの自動化・最適化

・品質向上、収穫高の増大につながる。
・農業従事者の負担軽減、作業の効率化が図られる。

・誤った提案をすることにより、農作物の発育が悪くなったり、収穫高が減少するおそれがある。

農作物の発育への影響の評価リアルタイムでの生産情報の消費者への提供

・旬でおいしいものを適切なタイミングで供給することができるようになる。

最適な生産・収穫・出荷計画の策定

・収入の増加、経営基盤の強化につながる（設備投資なども可能になる）。

・食べ頃の時期を見逃し、情報提供・出荷の時期を逸するおそれがある（機会損失）。

経済的損失（機会損失等）の影
響の評価

・誤った計画を策定することにより、過剰生
産や過少生産（機会損失）となるおそれがある。

リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニ
タリングの実施
・他者の知的財産権を事前に確認する仕組みの構築

・農業分野におけるＡＩシステムの利活用の普及が図られるよう、農業従事者への啓発、
ステークホルダー間の双方向的な対話・協働の場の形成（注）想定される利活用のうち、主なものについて記載

22

８．金融（融資）に関するユースケース（1/3）
ＡＩシステムを利活用することにより、融資条件の柔軟な設定、審査の効率化に貢献。
ＡＩシステム相互間の連携後には、借り手・貸し手の双方が便益を享受できるような最適な融資の実
施、サービスの提供が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 金融機関の業務が内包する様々なリスク（預貸率、含み損等、日々変動するリスク）をリアルタイムに反映させて融資条件を定める。（法人・個人）〇 入出金履歴や預金総額等をもとに顧客に応じた融資条件を定める。また、顧客の属性を推測し得る様々な情報を融資条件に反映させる。（法人・個人）〇 直近売上推移などの定量データやビジネスモデルなどの定性データをもとに将来収入を予測し、無担保融資を行う。（法人）【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 借り手の提供情報に対して、複数の金融機関から即時に提案が集まり、借り手が提示した条件（受入れ可能な条件）で各金融機関の提案を自動スコアリグ・自動選定する。（法人・個人）〇 顧客の意向に合致する事業者に決済情報などを提供し、その情報に基づき適切なサービスを提供する。（法人・個人）〇 小売店や仕入先への決済状況など金融機関が有している情報以外の情報をもとに顧客に応じた融資条件を定める。（法人・個人）。
23

８．金融（融資）に関するユースケース（2/3）
・将来収入を予測した無担保融資（個人）・将来収入を予測した無担保で融資（法人）（個人融資先）（法人融資先）AI・様々なリスクを融資条件に反映（法人・個人）
・入出金履歴等を融資条件に反映（法人・個人）・属性を推測し得る情報を融資条件に反映（法人・個人）

AI
・サプライチェーンマネジメントを活用した動産担保融資（法人）・自動スコアリング・自動選定（法人・個人）

AI（連携先）
サービス提供企業等

・金融機関から提供される決済情報をもとにしたサービスの提供（法人・個人）
・金融機関が有している情報以外の情報を融資条件に反映（法人・個人）（金融機関）
AI
AI（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）AI

24

８．金融（融資）に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

様々なリスクを融資条件に反映（法人・個人）・急激な為替変動や株価下落等が発生した際に、機動的に融資条件に反映させることにより、金融機関の資本減少を最小限に抑えることができる。

・短期間に変動するためタイムラ
グが生じ、顧客との契約の融資
条件と市場金利で決定した条件が異なるおそれがある。

経済的損失の影
響の評価

入出金履歴等を融資条件に反映、属性 ・より精緻で公正な評価に基づくサービスを受けることができる。
を推測し得る情報を融資条件に反映
・より良い条件で融資を受けられる機会が広がる。（借り手）（法人・個人）・虚偽報告等を迅速に発見することができる。（貸し手）・サービス条件が悪化する利用者 社会的な受容度が増加するおそれがある。
の影響の評価

将来収入を予測した無担保で融資（法人）・サービス条件が悪化する利用者 社会的な受容度が増加するおそれがある。
の影響の評価・資産背景を有していないものの成長性のある法人に対し、柔軟に融資することが可能となる。

【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

自動スコアリング・自動選定（法人・個人）

・複数の金融機関のうち、対応可能な金融機関を効率的に探すことができる。

経済的損失の影
響の評価

金融機関から提供される決済情報をもとにしたサービスの提供（法人・個人）・決済情報を活用した様々なサービスが展開されることが期待される。

・定性的要素が勘案されないまま判断結果が出ることにより、借入
機会・貸出機会を逸するおそれがある。

金融機関が有している情報以外の情報を融資条件に反映（法人・個人）

・より精緻で公正な評価に基づくサービスを受けることができる。

情報流出時の影
響の評価・口座情報を利用するサービス提供事業者が顧客情報を漏えいした場合、金融機関と当該事業者の責任分担が不明確で対応に不備が生ずるおそれがある。

リスク管理（例）

リスク・コミュニケーション（例）・利用者に融資提案を選択・判断する余地が残る仕組みの整備
・イレギュラーなデータに対するアラームを適切に表示する仕組みの整備

・金融機関、顧客（法人・個人）等ステークホルダ間の双方向的な対話・協働の場の形成
・顧客の選択意思の尊重（注）想定される利活用のうち、主なものについて記載

25

９．公共・インフラに関するユースケース（1/3）
ＡＩシステムを利活用することにより、公共工事の要件水準・見積り等の妥当性の検証の水準、インフラの異常検知等の精度の向上。
ＡＩシステム相互間の連携後には、異常検知に即応した点検・修理、ロボット間のリアルタイムでの連携による安全な工事の実施等が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 過去の事例を学習し、経年や劣化状況等に応じたメンテナンス計画を策定する。また、類似案件・過去の案
件や自治体・政府の財政状況等をもとに、建設やメンテナンスの要件水準・見積り等の妥当性を検証する。
〇 各種インフラに設置されたセンサーや衛星写真等から異常検知、故障予測を行う。
〇 山奥や水際でも地理等を把握し、建設ロボットがインフラ設置・建設の工事を行う。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 異常を検知した場合に、メンテナンスロボットがリアルタイムで即応して自動的に点検・修理を行う。
〇 衛星写真等から得られる正確な地理状況等を把握し、ロボット間でリアルタイムで連携して効率的かつ安全に設置・建設工事を行う。
〇 各家庭に設置されたスマートメーターから得られる電力やガス等の使用状況（需要）と事業者からの供給のデータに基づき需給バランスのリアルタイムでの最適化を図る。

26

９．公共・インフラに関するユースケース（2/3）
・経年や劣化状況に応じたメンテナンス計画の策定
・建設やメンテナンスの要求水準・見積り等の妥当性の検証

・建設ロボットによるインフラ設置・建設工事の実施（工事の自動化）

行政機関・インフラ事業者

工事ロボットスマートメーター
・電力やガス等の需給バランスのリアルタイムでの最適化に
向けた調整

AI

AI

AI
AI
・正確な地理状況等の把握に基づく
ロボット間のリアルタイムでの連携によるインフラ設置・工事の実施

各種センサー

・人間とロボットとの連携

AI

メンテナンスロボット

AI・人間以上の力でのメンテナンス、
修理作業

・異常検知に即応した
点検・修理

・異常検知・故障予測

パワードスーツAI・点検・保守・修理の自動化（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）27

９．公共・インフラに関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

経年や劣化状況に応じたメンテナンス
計画の策定、建設やメンテナンスの要求水準・見積り等の妥当性の検証

・道路、橋、鉄道等を安心して安全に使うことができる。
・限られた予算で効率的なメンテナンスやインフラ建設が行うことができる。

・適切なチェックができないことにより、耐震性等を 生命身体に危害が満たさないインフラ建設やメンテナンスが実施され 及ぶリスクの評価た結果、事故が発生するおそれがある。

異常検知・故障予測

・道路、橋、鉄道等を安心して安全に使うことができる。

・異常検知の精度が十分でない場合、異常の見逃 各種インフラの劣し・劣化の進行が生ずる、又は、異常検知の閾値 化等の評価が低すぎて、過剰なメンテナンスが実施されるおそれがある。

建設ロボットによるインフラ設置・建設工事の実施（工事の自動化）

・人間では作業が困難な場所でも安全に作業を行 ・通信の遅延や情報通信ネットワークの遮断により、 情報通信ネット
建設ロボットが機能不全に陥るおそれがある。
ワークのオペレー
うことができる。
ション評価・人間が巻き込まれる事故が減少する。

【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

・ＡＩシステムに依存しすぎると、大規模震災の発生 災害からの復旧への影響の影響等でＡＩシステムが利用できなくなった場合、公共インフラの立て直しが大幅に遅れるおそれがある。
生命身体に危害が及ぶリスクの評・異なるメーカーのロボット同士が意図を理解できず、事故が発生するおそれがある。
価

異常検知に即応した点検・修理

・道路、橋、鉄道等を安心して安全に使うことができる。

正確な地理状況等の把握に基づくロボット間のリアルタイムでの連携によるインフラ設置・工事の実施

・人間の介入を減らすことができ、安全性の向上につながる。

電力やガス等の需給バランスのリアル
タイムでの最適化に向けた調整

・地域・社会全体として需給の最適化が実現され、・在宅・不在や生活習慣等に関する情報が明らか
省エネにつながる。
になりプライバシーが侵害されるおそれがある。

リスク管理（例）・ＡＩシステムの機能不全発生時の代替手段の確保
・データの暗号化・匿名化の実施

リスク評価（例）

プライバシー侵害の評価

リスク・コミュニケーション（例）・ＡＩシステムの機能不全発生時の対応策に関するステークホルダ間の協議
・ＡＩシステムが利用できない場合のメンテナンスノウハウの承継及び訓練の実施（注）想定される利活用のうち、主なものについて記載

28

10．生活に関するユースケース（1/3）
ＡＩシステムを利活用することにより、快適な住環境の実現、ロボットによる見守りサービスが実現。
ＡＩシステム相互間の連携後には、ロボット間のリアルタイムでの連携による家事、ロボットの一括管理が可能。
【ＡＩシステム相互間の連携前の段階】（ＡＩシステムが他のＡＩシステムとは連携せず、インターネット等を介して単独で機能し、利用者を支援。）＜シナリオ上想定される利活用（主なものの例示）＞〇 人の在・不在、居場所に応じたエアコンの運転や温度・湿度の自動調整を行う。
〇 両親等の家族が不在の際に、ペットロボット等を活用して子供や高齢者などの見守りを行う。
〇 執事ロボットが生活者との対話に基づき、おすすめのニュースの紹介や記事検索、テレビ番組のレコメンドを行う。

【ＡＩシステム相互間の連携後の段階】（ＡＩシステム相互間のネットワークが形成され、利用者の便益が飛躍的に増大。）＜シナリオ上想定される利活用（主なものの例示）＞
ＡＩシステム相互間の連携前の段階における利活用に加えて、〇 生活者の位置情報や行動履歴等から帰宅時間を予測し、帰宅時間に合わせて、室内温度の最適化、掃除や料理などの家事を自動で行う。
〇 健康状態や行動履歴等から生活者の嗜好を把握し、献立を決定する。冷蔵庫等の在庫状況をもとに食材を発注し、届いた食材を料理ロボットが調理する。
〇 執事ロボットが各種家電やロボットの情報、その他Webの情報などを取り纏め、執事ロボットと生活者との対話により、各種家電等をコントロールする。

29

10．生活に関するユースケース（2/3）
・生活者の嗜好に基づくレシピの提案
や食材の発注、料理の自動化

・料理ロボットによる料理

冷蔵庫
・在庫状況に応じた温度の自動調整、レシピの提案

生活者AI

・最適な温度等の設定、健康レシピの提案

AI・生活者の帰宅時間の予測に応じた空調の自動調整や家事の自動化

AI・執事ロボットを通じた各種家電やロボット等のコントロール

ペットロボット

掃除機

AI

エアコン

・自動清掃

AI
執事ロボット・子供や高齢者などの見守り支援・執事ロボットによるおすすめのニュースの紹介、テレビ番組のレコメンド等

・人の在・不在、居場所に応じたエアコンの運転や温度・湿度の自動調整（凡例）青字：「ＡＩシステム相互間の連携前の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）
朱字：「ＡＩシステム相互間の連携後の段階」において、シナリオ上想定されるＡＩシステムの利活用（例示）3010．生活に関するユースケース（3/3）
【ＡＩシステム相互間の連携前の段階】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスク

リスク評価（例）

人の在・不在、居場所に応じたエアコンの運
転や温度・湿度の自動調整

・快適な空間で生活することができる。
・電力消費の削減やピークカット/ピークシフトが実現できる。

・在宅・不在や生活習慣等に関する情報が明らかになりプライバシーが侵害されるおそれがある。

プライバシー侵害の評価

子供や高齢者などの見守り支援

・安心して外出することができる。

・ハッキング等により、ペットロボットの制御喪失時の影響
制御が失われ（暴走し）、子供等が怪我 の評価をしたり、家具が壊れるおそれがある。

執事ロボットによるおすすめのニュースの紹介、テレビ番組のレコメンド等

・手が離せない状況などにおいてニュース等の検索が簡単にできる。
・見たいテレビ番組を視聴することができる。

・生活者の趣味・趣向を誤って判断し、必要な情報・関心の高い情報を提供できないおそれがある。

誤って認識・推測する確率の評価

シナリオ上想定されるリスク

リスク評価（例）・料理ロボットや掃除ロボットやペットロ
ボットなど異なるロボット間の連携・調整が十分でなく、ロボット同士が衝突したり、破損するおそれがある。

ＡＩシステム間の意
思疎通能力の評
価【ＡＩシステム相互間の連携後の段階】
シナリオ上想定される利活用

シナリオ上想定されるインパクト

生活者の帰宅時間の予測に応じた空調の自動調整や家事の自動化

・快適な空間で生活することができる。
・家事の負担を軽減することができる。

生活者の嗜好に基づくレシピの提案や食材の発注、料理の自動化

・家事の負担を軽減することができる。
・嗜好に合わせた料理や健康に良い料理を食べることができる。

執事ロボットを通じた各種家電やロボット等のコントロール

・執事ロボットだけで家庭内の複数のロボットや家電等をコントロールすることできる（色々なリモコンを使う必要がない）。

リスク管理（例）・ＡＩシステムの制御喪失を検知する仕組み（他のＡＩシステムによる確認等）の確保
・データの暗号化・匿名化の実施

・家事をＡＩシステムに依存しすぎると、
災害発生等でＡＩシステムが利用できなくなった場合、生活が困難になるおそれがある。

ＡＩシステムへの依存度の評価

リスク・コミュニケーション（例）・消費者へのＡＩシステムの利活用による影響に関する情報の提供、双方向的な対話
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認（注）想定される利活用のうち、主なものについて記載

31

別 紙 ４

ＡＩネットワーク化が社会・経済にもたらす影響～ 分野別評価 ～分野別評価○ 分野の区分
分野別評価における分野の区分については、ＡＩネットワーク化の進展に伴いＡＩシステムの利活用をめぐるエコシステムが複雑化していくものと考えられることに鑑み、将来社会の在り方に関するフォアキャスト的なアプローチとバックキャスト的なアプローチの双方を採り入れ、次の事項を念頭に置いて整理（次頁参照）。
・ ＡＩネットワーク化が主としてＡＩシステムの「利用者」（特に最終利用者）にどのような便益やリスクをもたらし得るのかを重視し、利用者を「個人」、「公共」及び「産業」の３つに区分した上で、「個人」については生活の各場面、「公共」については公益の確保に関連する場面、「産業」について商流が形成される場面に着目して分野の区分を設定する。
・ 分野別評価においては、ＡＩネットワーク化の進展により、領域が融合していくことや領域横断的なＡＩネットワークの利活用が進むことが見込まれることを踏まえて分野の区分を設定する。
・ ＡＩネットワークが社会的なニーズへの対応や課題の解決に貢献するものであることから、社会的なニーズ又は課題を踏まえて分野の区分を設定する。
本報告書においては、次の３分野に関するユースケースを対象として評価を行った。

◆◆◆

公共：まちづくりに関するユースケース ･･･ ３～11頁
個人：健康に関するユースケース･･･ 12～20頁
産業：モノに関するユースケース･･･ 21～28頁○ 評価
先行的評価においては主として社会・経済における製品・サービスの供給面の領域ごとに評価を実施したことを踏まえ、分野別評価においては、利用者の視点から（ユーザ・セントリック・アプローチ）評価を行うこととしたことに鑑み、主として製品・サービスの供給面の領域を横断し又は領域が融合していくものと見込まれるユー
スケースを用いることとし、「領域横断前の段階」と「領域横断後の段階」の２段階に分けて評価を行うこととした。

＜評価の対象とするインパクト及びリスク＞
・ インパクトについては、ＡＩシステムを利活用することにより、従来人間には不可能又は困難であったことが可能となることや、効率化や精度の向上等が図られることをインパクトとして評価することとした。
・ リスクについては、ＡＩシステムの利活用に伴い新たに生ずるリスク（ＡＩネットワーク化固有のリスク）だけではなく、ＡＩシステムを利活用しない場合と比べて増加するリスクやＡＩシステムを利活用しない場合と比べて軽減するものの、利活用する場合における事故等による被害の規模や波及がある程度大きいリスクについても評価の対象とすることとした。
なお、セキュリティに関するリスク（ＡＩシステムがハッキングされること等により機能不全に陥るリスク等）、不透明化のリスク（多重かつ複雑に連携しているＡＩシ
ステムの一部の動作が不透明化することに伴い、ネットワークを介してつながるＡＩシステムの動作全体が不透明化するリスク等）、制御喪失のリスク（ＡＩシステム
が攻撃を受けたり、不具合が生じたりすることにより、制御が困難又は不可能となり、当該ＡＩシステムとネットワークを介してつながるＡＩシステム全体が機能不全に陥るリスク等）については、各ユースケースに共通するリスクと考えられることから、個々のユースケースの評価において個別には記載しないこととしている（これらのリスクへの対処が重要であることは言うまでもない（むしろ、共通するリスクであるからこそ、これらのリスクへの対処が重要となる。）。）。
（注）
・ インパクト及びリスクのいずれについても、あくまでも典型的に想定され得るものの一部を例示として記載しているだけであり、網羅的なものではないことに留意することが必要である。
・ 各ユースケースに記載されているＡＩシステムの利活用については、現在の法制度等を必ずしも前提とはせずに、将来的な利活用の可能性を展望して記載している。このため、現在
1の法制度等の下では実現が困難な利活用も含まれており、そのような利活用に関し制度的な課題の抽出等に今後役立てる考えである。

分野別評価（分野の区分）
大分類

公共

中分類

小分類

主な社会的ニーズ/課題

まちづくり■地域振興やまち全体としての情報保有、コミュニティ形成
公共インフラ＋防災＋スマートシティ＋居住＋移動など

持続可能な都市の構築
移民・難民問題への対応

パブリック・ガバナンス■所得の再分配等の社会保障、政策立案、財・サービスの多様化に応じた税の徴収
行政＋金融・財など

腐敗対策、財政の健全化

危機管理■災害やパンデミック等への対応における連携
公共インフラ＋防災＋行政＋医療＋物流＋金融など

レジリエントなインフラ整備

健康■健康情報や生活情報をめぐるAIネットワーク化
医療＋生活支援＋農林水産＋移動＋居住＋保険など
在宅ケア、育児や介護を支援するＡＩネットワーク化
遠隔医療＋遠隔介護＋福祉情報支援など

健康的な生活の確保・福祉の推進
健康長寿社会の実現

教育・学び■能力、スキル、関心、意欲等をめぐるAIネットワーク化
学校教育＋研修＋生涯学習＋コミュニティなど

生涯学習の機会の促進
知の資産の持続的創出■能力、適性、仕事観、労働市場等をめぐるAIネットワーク化
労働＋財＋ワークライフバランス（趣味・娯楽、居住、移動等）など

働きがいのある人間らしい仕事の実現
女性のエンパワメント■ライフステージに応じた様々な財・サービスの提供
カネ＋モノ＋金融＋行政など

年金制度等の改善■移動のためのAIネットワーク化
運輸・物流＋医療・介護＋防災＋観光・旅行など

少子高齢化時代における交通インフラの構築

居住■住環境をめぐるAIネットワーク化
スマートハウス・スマートシティ＋建設＋防災など

既存住宅の活用やリフォームの活性化

趣味・娯楽■心を豊かにするAIネットワーク化
豊かさ創造＋サービス業（観光・旅行等）＋教育・学びなど

文化芸術資源の活用

モノ■インダストリー4.0やインダストリアル・インターネット等による産業構造の変化（第６次産業、スマートファクトリー、モノのサービス化等）
製造業など全産業

生産性の向上持続可能な農業・エネルギー供給

カネ■フィンテックを中心とする取引の高度化
金融・保険＋小売＋サービス業＋生活支援など開かれた強靭な金融システムの構築

例えば、

仕事
個人

領域横断・融合（例）

財
移動

産業

◇世代軸
◇時間軸

2

まちづくりに関するユースケース（概要）
ＡＩシステム相互間のネットワークが形成されることにより、インフラの異常検知・故障予測とメンテナンスロボットの連携、交通量・流の把握に基づく円滑な交通の実現、カメラによる迷子等の特定と対話型ロボットによる対応など、それぞれのＡＩシステムが単独で機能する場合に比べて、時々刻々と変化する状況に即応した安心・安全かつ快適な
まちづくりを進めることができるようになる。
さらに、ＡＩシステム相互間のネットワークが公共インフラ、行政、スマートシティ、小売、移動などの領域を横断して形成されることにより、地域の特性に応じた都市計画の策定、在・不在に応じた自動パトロールの実施などの行政サービスが提供されるとともに、パーク＆ライドの実現による環境負荷の軽減（ＣＯ２の削減）なども図られ、領域が横断する前に比べて、まちの諸機能が領域を越えて連携し、高度化するようになる。
【領域横断前の段階】（領域内でのＡＩシステム相互間のネットワークが形成され、領域内における利用者の便益が飛躍的に増大）＜シナリオ上想定される利活用（主なものの例示）＞①各種インフラに設置されたセンサーや衛星写真等から異常検知、故障予測を行い、メンテナンスロボットが即応して補修等を行う。
②リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。
③カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強化する。

【領域横断後の段階】（ＡＩシステム相互間のネットワークが領域横断的に形成され、領域間を連携する高度なサービスが実現）＜シナリオ上想定される利活用（主なものの例示）＞➊（公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテナンスを含む都市計画（例えば、災害に強いまちづくり）を策定する。また、スマートメーター
による在・不在状況に即応した自動パトロールや見守りサービスを実施する。
➋（スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、人の移動や混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報
提供、効果的な広告・宣伝、販売方針の提案等をリアルタイムで行う。また、商業圏やテーマパーク等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。
3

まちづくりに関するユースケース（将来ビジョン）➋（スマートシティ＋小売＋移動）
街頭や施設に設置されたカメラの映像から、人の移動、混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報提供、効果的な広告・宣伝、販売方針の提案等をリアルタイムで行う。また、商業圏
やテーマパーク等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。

領域
横断後

・過度に混雑していない店舗や施設で、快適に買い物やレジャーを楽しむことができるようになる。
・売上の増加が期待できるようになる。
・ＣＯ２の削減など環境負荷の軽減につながる。

➊（公共インフラ＋行政＋スマートシティ）
各インフラの経年や劣化状況に応じたメンテ
ナンスを含む都市計画（例えば、災害に強い
まちづくり）を策定する。また、スマートメー
ターによる在・不在状況に即応した自動パト
ロールや見守りサービスを実施する。

③カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強化する。

・案内所などを探す手間が軽減され、快適に施設を利用したり、買い物をすることができるようになる。
・事故や事件の未然の防止が図られる。

②リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調
整を行う。

領域
横断前

①各種インフラに設置されたセンサーや衛星写
真等から異常検知、故障予測を行い、メンテ
ナンスロボットが即応して補修等を行う。

2020年代・地域の特性に応じたまちづくり（災害に強いまち、高齢者に優しいまち等）を進めることができるようになる。
・安心して安全に居住・生活できるようになる。

2030年代・救急車等の優先車両がスムーズに通行することができるようになる。
・渋滞の解消・緩和が図られる。

・インフラの点検・補修の効率化が図られる。
・道路、橋、鉄道等を安心して安全に利用できるようになる。

2040年代
4まちづくりに関するユースケース（領域横断前の評価サマリ）【領域横断前の段階（サマリ）】＜インパクト評価＞
シナリオ上想定される
利活用① 各種インフラに設置されたセンサーや衛星写真等から異常検知、故障予測を行い、メンテナンスロボットが即応して補修等を行う。

＜リスク評価＞
シナリオ上想定されるリスク

シナリオ上想定される
インパクト・インフラの点検・補修の効率化が図られる。
・人間の介入を減らすことができ、作業の安全性の向上が図られる。
・道路、橋、鉄道等を安心して安全に利用できるようになる。

② リアルタイムで把握できる交 ・リアルタイムで高精度の情報を提供す
通量・流に基づいて信号を制 ることができるため、情報サービス事業
御し円滑な交通を実現すると の収益機会が増大する。
ともに、道路状況に即応して ・救急車等の優先車両がスムーズに通渋滞予測やその回避ルート
行することができるようになる。
の自動調整を行う。
・渋滞の解消・緩和が図られる。

リスクが顕在化した場合に想定される被害リスク評価（例）・異常検知の精度が十分でないことや誤った ・見逃された又は放置された異常箇所を 生命身体に危害が及ぶリスク判断を行うこと等により、異常の見逃し等が車両等が通行することにより、事故がの評価生ずるおそれがある。また、異常検知の閾値 発生するおそれがある。
が低すぎると、過剰反応が発生するおそれ・過剰反応によって、無駄なメンテナン
ＡＩシステムによがある。
スや誤ったメンテナンスが行われるおる誤った判断・ハッキング等により、各種インフラの衛星写それがある。
真やセンサーから得られた情報が流出し、悪 ・流出した情報がインフラ等に対する物 が及ぼす影響
用されるおそれがある。
理的な攻撃に利用されるおそれがある。 範囲の評価
・民間のデータ提供者、信号制御を行う警察、 ・ＡＩシステムが機能不全に陥ること等に交通情報を提供する公的機関・事業者、自より、信号制御ができなくなるおそれが動運転車間で、意思疎通が十分に図られず、 ある。また、誤った渋滞予測や回避
機能不全に陥るおそれがある。
ルートを設定するおそれがある。
・交通情報を所有する関係者間で情報が共・その結果、交通事故が発生したり、新有されず、渋滞予測・信号制御の精度が向たに渋滞が発生するおそれがある。
上しないおそれがある。

③ カメラの映像から、迷子や・案内所などを探す手間が軽減され、快 ・画像認識の精度が十分でない場合、人物を ・迷子や困りごとが即時に解決されない
おそれがある。
困っている人を捜し、即時に適に施設を利用したり、買い物をするこ 誤って特定するおそれがある。
・対話型ロボットの学習不足等により、迷子や ・プライバシーが侵害されたり、犯罪に対話型ロボットが対応して、とができるようになる。
困りごとを解決するとともに、 ・事故や事件の未然の防止が図られる。 困りごとに適切に対応できないおそれがある。 悪用されるおそれがある。
・カメラの映像（個人情報）が本人同意がなく、不審者を見つけて警備を強第三者に提供、共有されるおそれがある。
化する。
リスク管理（例）

・複数のAIシステム間の連携に関する仕組みの確立（インターフェースの標準化やプロトコルの変換等）
・データの暗号化・匿名化の実施

社会的な受容度に影響を及ぼすリスクの評
価
情報流出時の影響の評価
プライバシー侵害の評価
犯罪の発生確率等の評価

リスク・コミュニケーション（例）・ＡＩシステムの利用に関する関係者間における双方向的な対話の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・交通情報サービス事業者やデータ提供者の収益増加に伴い、新たな雇用が創出される。
・案内所や迷子対応の業務から、付加価値の高い業務に配置転換することができる。

・事故が発生した場合の責任の分配の在り方が問題となる。
・人間とロボット（ＡＩ）との役割分担に留意する必要がある。
・各地域の利用者の財政状況や利活用に対するマインドにより、収集・提供される情報の質・量に偏在が生じ、地域間でバラつきが生ずるおそれがある。

5

まちづくりに関するユースケース（領域横断後の評価サマリ）【領域横断後の段階（サマリ）】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される
利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスクリスクが顕在化した場合に想定される被害リスク評価（例）➊ （公共インフラ＋行政＋スマートシティ）
・地域の特性に応じた・誤ったデータや偏ったデータに基く学習や学習不足の ・計画を作り直すなどの無駄なコ ＡＩシステムによる誤った判各インフラの経年や劣化状況に応じたメン
まちづくり（災害に強い 結果などにより、地域の特性に応じた適切な都市計画 ストが発生するおそれがある。
断や差別的な
テナンスを含む都市計画（例えば、災害に
まち、高齢者に優しいが策定されないおそれがある。
・プライバシーが侵害されたり、強いまちづくり）を策定する。また、スマートまち等）を進めることが ・ハッキング等により、在・不在の情報や見守りサービ
犯罪に悪用されるおそれがある。 判断が及ぼメーターによる在・不在状況に即応した自動 できるようになる。
スに活用する映像が流出し、悪用されるおそれがある。 ・安心感が薄れていくおそれがあ す影響範囲の評価
パトロールや見守りサービスを実施する。
・安心して安全に居住・ ・スマートメーターと自動パトロール車におけるＡＩシステ る。
生活できるようになる。 ム間の連携が十分でなく、不在者宅付近のパトロール
ＡＩシステムへが手薄になったり、同じ場所に複数のパトロール車がの信頼への駆けつけるなどのおそれがある。
影響の評価
・効果的でない広告・宣伝を行う➋ （スマートシティ＋小売＋移動）
・過度に混雑していない ・画像認識の精度が十分でない場合、適切に属性（年ことで無駄なコストが発生するお プライバシー
街頭や施設に設置されたカメラの映像から、 店舗や施設で、快適に 齢や性別）が分類できないおそれがある。
人の移動、混雑を把握・予測し、年齢や性
買い物やレジャーを楽 ・誤ったデータや偏ったデータに基く学習や学習不足の それがある。
侵害の評価
・購買意欲等が低下し、売上の別などの属性を踏まえ、混雑緩和に向けたしむことができるように 結果などにより、差別的な広告・宣伝を行うおそれがある。
増加が見込まれなくなるおそれ 犯罪の発生情報提供、効果的な広告・宣伝、販売方針なる。
がある。
の提案等をリアルタイムで行う。また、商業 ・売上の増加が期待で ・ＡＩシステム間の連携が十分でなく、機能不全に陥り、確率等の評
適切に車の入出場のコントロールができなくなり、混雑 ・人権が侵害されるおそれがある。 価圏やテーマパーク等の周辺において、道路きるようになる。
・プライバシーが侵害されたり、が深刻化するおそれがある。
や駐車場の混雑状況に応じて、自動走行車 ・ＣＯ２の削減など環境・カメラの映像（個人情報）が本人同意がなく、第三者に 犯罪に悪用されるおそれがある。
の入出場やライドシェアバス等の運行（増発 負荷の軽減につながる。
提供、共有されるおそれがある。
等）をリアルタイムでコントロールする。
リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニタリン ・同種のＡＩシステムを利活用する事業者間やＡＩシステムを利活用しない者との間における対話・協グの実施
働の場の形成・ＡＩシステムによる予測の精度の乖離を許容する範囲の設定
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認
・個人情報の取得又は活用に際しての本人同意の確保、名寄せの制限
雇用・働き方への影響

・商業施設やテーマパークの売上・消費が増え、雇用が創出される。
・駐車場等の警備員・整理係の業務に関連する雇用が減少する。
・自治体の都市計画の策定に関連する雇用が減少する。
・パトロールや見守りの業務に関連する雇用が減少する。

その他留意すべき事項

・利用者間の調整に当たっては性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。
・ＡＩシステムの判断がブラックボックス化された場合、当該ＡＩを所有・管理する公的機関（自治体等）
への情報公開請求に対して適切に対応できない可能性がある。
・パブリックなスペース（公道など）とプライベートなスペース（店舗内など）が混在することを踏まえて、データの価値とプライバシーとのバランスをとることが重要である。

6

まちづくりに関するユースケース（評価①）【領域横断前の段階】
・各種インフラに設置されたセンサーや衛星写真等から異常検知、故障予測を行い、メンテナンスロボットが即応して補修等を行う。
－視点整理：開発者・プロバイダ、利用者（自治体、高速道路会社、鉄道事業者等）、間接的に便益を享受する者（市民等）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（自治体、 ・インフラの点検・補修の効率化が図られる。
高速道路事業 ・人間の介入を減らすことができ、作業の安全性の向上
者、鉄道事業が図られる。
者等）
間接的に便益を享受する者（市民等）

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)異常検知の精度が十分でないことや誤った判断を行うこと等により、異常の見逃し等が生ずる
おそれがある。また、異常検知の閾値が低すぎると、過剰反応が発生するおそれがある。

不変

中

***

***

***

***

(2)ハッキング等により、各種インフラの衛星写真やセンサーから得られた情報が流出し、悪用されるおそれがある。

不変

小(3)ＡＩシステム間の連携が機能せず、メンテナンスロボットによる補修等が行われず、異常が放置されるおそれがある。

新規中(1)過剰反応によって、無駄なメンテナンスや誤ったメン
テナンスが行われるおそれ
がある。

新規

中

***

***

(2)流出した情報がインフラ等に対する物理的な攻撃に利用されるおそれがある。

不変(1)・(3)見逃された又は放置された異常箇所を車両等が通行することにより、事故が発生するおそれがある。

減少

・道路、橋、鉄道等を安心して安全に利用できるようにな
る。

***

小
[経済]

中

大
[社会]

小

中
[生命]

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・事故対応や復旧作業等のための待機・緊急出動が減少し、ワークライフバランスの確保が図られる。
・インフラの点検や修理に関連する雇用が減少する。

・ＡＩシステムの判断がブラックボックス化された場合、当該ＡＩを所有・管理する公的機関（自治体等）への情報公開請求に対して適切に対応できない可能性がある。
・事故が発生した場合の責任の分配の在り方が問題となる。

7

まちづくりに関するユースケース（評価②）【領域横断前の段階】
・リアルタイムで把握できる交通量・流に基づいて信号を制御し円滑な交通を実現するとともに、道路状況に即応して渋滞予測やその回避ルートの自動調整を行う。
－視点整理：開発者・プロバイダ、利用者（警察、交通情報サービス事業者等）、間接的に便益を享受する者（市民、消防等）＜インパクト評価＞＜リスク評価＞
シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

・市場の拡大や雇用の創出につながる。

(1)ハッキングや不正操作等により、ＡＩシステムが機能不全に陥るおそれがある。

不変

中

***

***

***

***

利用者（警察、
交通情報サー
ビス事業者等）・交通管制システムの高度化が図られる。
・リアルタイムで高精度の情報を提供することができるた
め、情報サービス事業の収益機会が増大する。

(2)民間のデータ提供者、信号制
御を行う警察、交通情報を提供する公的機関・事業者、自動運
転車間で、意思疎通が十分に図られず、機能不全に陥るおそれがある（通信プロトコルの相違、
データフォーマットの相違、判断基準の相違）。

新規中(1)・(2)・(3)ＡＩシステムが機能不全に陥ること等
により、信号制御ができなくなるおそれがある。
また、誤った渋滞予測
や回避ルートを設定するおそれがある。

新規

小間接的に便益を享受する者（市民、消防等）

・救急車等の優先車両がスムーズに通行することができるようになる。
・渋滞の解消・緩和が図られる。

***

***

(1)・(2)・(3)ＡＩシステムが機能不全に陥ること等
により、交通事故が発生したり、新たに渋滞が発生するおそれがある。

減少

***

***

分析の視点

視 開発者・プロバ
点 イダ
別その他（民間のデータ提供者）

シナリオ上想定される
インパクト

・民間が保有するプローブデータ等の活用の可能性が広 (3)交通情報を所有する関係者間
がり、データの価値が増加し、民間事業者の収益機会
で情報が共有されず、渋滞予が増大する。
測・信号制御の精度が向上しな
いおそれがある。

減少

***

中

大
[社会]

小

中
[生命]

中
[社会]

***

***

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・交通情報サービス事業者やデータ提供者の収益増加に伴い、新たな雇用が創出される。

・各地域の利用者（警察や自治体等）の財政状況や利活用に対するマインドにより、収集・提供される情報の質・量に偏在が生じ、地域間でバラつきが生ずるおそれがある。（地方部では、渋滞が発生することが少ないため、あまり利活用されない可能性がある。）
・事故が発生した場合の責任の分配の在り方が問題となる。

8

まちづくりに関するユースケース（評価③）【領域横断前の段階】
・カメラの映像から、迷子や困っている人を捜し、即時に対話型ロボットが対応して、困りごとを解決するとともに、不審者を見つけて警備を強化する。
－視点整理：開発者・プロバイダ、利用者（施設管理者、航空会社、鉄道会社、百貨店、ショッピングモール運営事業者等）、間接的に便益を享受する者（市民等）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（施設管 ・各施設における案内所や迷子対応の業務の効率化が図ら
理者、航空会れる。
社、鉄道会社、 ・事故や事件の未然の防止が図られる。
百貨店、ショッ
ピングモール運
営事業者等）

間接的に便益を享受する者（市民等）

・案内所などを探す手間が軽減され、快適に施設を利用したり、買い物をすることができるようになる。
・安心して安全に施設を利用できるようになる。

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)画像認識の精度が十分でない場合、人物を誤って特定する
おそれがある。

減少

中

***

***

***

***

(2)対話型ロボットの学習不足等
により、迷子や困りごとに適切に対応できないおそれがある。

増加中(3)複数のカメラと複数のロボッ
トにおけるＡＩシステム間の連携が十分でなく、困っているのに放置されたり、同時に複数のロボットが対応に向かうなどのおそれがある。

新規中(1)・(2)・(3)迷子や困りごとに適切に対応できな
いことにより、苦情やクレームを受けるおそれ
がある。

不変

中

(4)カメラの映像（個人情報）が本人同意がなく、第三者に提供、共有されるおそれがある。

不変

大

***

***

***

(1)・(2)・(3)迷子や困りごとが即時に解決されな
いおそれがある。

減少(4)プライバシーが侵害されたり、犯罪に悪用されるおそれがある。

不変

小
[社会]

中

小
[社会]

大

中
[人格
生命]

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・案内所や迷子対応の業務から、付加価値の高い業務に配置転換することができる。

・ロボットによる対応で満足できるか、人間とロボット（ＡＩ）との役割分担に留意する必要がある。

9まちづくりに関するユースケース（評価➊）【領域横断後の段階】（公共インフラ＋行政＋スマートシティ）
・各インフラの経年や劣化状況に応じたメンテナンスを含む都市計画（例えば、災害に強いまちづくり）を策定する。また、スマートメーターによる在・不在状況に即応した自動パトロールや見守りサービスを実施する。
－視点整理：開発者・プロバイダ、利用者（自治体、警察、電力事業者等）、間接的に便益を享受する者（市民等）＜インパクト評価＞
分析の視点

視 開発者・プ
点 ロバイダ別＜リスク評価＞

・市場の拡大や雇用の創出につながる。

利用者（自 ・地域の特性に応じたまちづくり（災害に強いまち、高齢者
治体、警に優しいまち等）を進めることができるようになる。
察、電力
事業者等）

間接的に
便益を享
受する者
（市民等）

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)誤ったデータや偏ったデータに基く学習や学習不足の結果などにより、地域の特性に応じた適切な都市計
画が策定されないおそれがある。

新規

小

***

***

***

***

(2)ハッキング等により、在・不在の情
報や見守りサービスに活用する映像が流出し、悪用されるおそれがある。

不変小(3)スマートメーターと自動パトロール車におけるＡＩシステム間の連携が十分でなく、不在者宅の付近のパト
ロー路が手薄になったり、同じ場所に複数のパトロール車が駆けつけるなどのおそれがある。

新規中(1)計画を作り直すなどの無駄なコストが発生するおそれがある。

減少

小

小
[経済]

***

***

***

(2)プライバシーが侵害されたり、犯罪に悪用されるおそれがある。

不変大(3)安心感が薄れていく
おそれがある。

新規

シナリオ上想定される
インパクト

・安心して安全に居住・生活できるようになる。

雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・自治体の都市計画の策定に関連する雇用が減少する。
・パトロールや見守りの業務に関連する雇用が減少する。

中
[人格
生命]

小

小
[社会]

その他留意すべき事項

・ＡＩシステムの判断がブラックボックス化された場合、当該ＡＩを所有・管理する公的機関（自治体等）への情報公開請求に対して適切に対応できない可能性がある。

10

まちづくりに関するユースケース（評価➋）【領域横断後の段階】（スマートシティ＋小売＋移動）
・街頭や施設に設置されたカメラの映像から、人の移動、混雑を把握・予測し、年齢や性別などの属性を踏まえ、混雑緩和に向けた情報提供、効果的な広告・宣伝、販売方針の提案等をリアルタイムで行う。また、商業圏やテーマパーク等の周辺において、道路や駐車場の混雑状況に応じて、自動走行車の入出場やライドシェアバス等の運行（増発等）をリアルタイムでコントロールする。
－視点整理：開発者・プロバイダ、利用者（施設管理者、小売店、交通機関等）、間接的に便益を享受する者（市民等）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定されるインパクト

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

・市場の拡大や雇用の創出につながる。

(1)画像認識の精度が十分でない場合、適切に属性（年齢や性別）が分類できないおそれ
がある。

減少

中

***

***

***

***

(2)誤ったデータや偏ったデータに基く学習や学習不足の結果などにより、差別的な広告・宣伝を行うおそれがある。

新規小(3)ＡＩシステム間の連携が十分でなく、機能不全に陥り、適切に車の入出場のコントロールができなくなり、混雑が深刻化するおそれが
ある。

新規

中

(1)効果的でない広告・宣伝を行うこと
で無駄なコストが発生するおそれが
ある。

減少

小

利用者（施設管 ・売上の増加が期待できるようにな
理者、小売店、 る。
交通機関等）
・ＣＯ２の削減など環境負荷の軽減につながる。

間接的に便益を享受する者（市民等）

・過度に混雑していない店舗や施設
で、快適に買い物やレジャーを楽しむことができるようになる。

(4)カメラの映像（個人情報）が本人同意がなく、 不変
第三者に提供、共有されるおそれがある。

大

***

***

***

雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・商業施設やテーマパークの売上・消費が増え、雇用が創出される。
・駐車場等の警備員・整理係の業務に関連する雇用が減少する。

新規(3)購買意欲等が低下し、売上の増加が見込まれなくなるおそれがある。

小

新規

小

(2)人権が侵害されるおそれがある。

小
[経済]

小
[経済]

中
[人格]

(4)プライバシーが侵害されたり、犯罪に悪用されるおそれがある。

不変

大

中
[人格
生命]

その他留意すべき事項

・地方部では、渋滞が発生することが少ないため、あまり利活用されない可能性がある。
・利用者間の調整に当たっては性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。
・パブリックなスペース（公道など）とプライベートなスペース（店舗内など）が混在することを踏まえて、データの価値とプライバシーとのバランスをとることが重要である。

11

健康に関するユースケース（概要）
ＡＩシステム相互間のネットワークが形成されることにより、日々の健康状態や保管してある食材等に合わせたレシピの提案、健康状態の変化に応じた病院や介護施設への自動運転車での迅速な搬送、適切な介護プランの提案と介護ロ
ボットによる支援など、それぞれのＡＩシステムが単独で機能する場合に比べて、健康状態やその変化に即応した健康管理や介護等に関連するサービスを受けることができるようになる。
さらに、ＡＩシステム相互間のネットワークが医療・介護、農林水産、小売、生活支援、行政、金融・保険などの領域を横断して形成されることにより、食材の自動注文、ロボットによる調理などが実現するとともに、利用者の特性に応じた行政サービスや金融（保険）サービスが提供することが可能となり、領域が横断する前に比べて、健康管理や介護等に関連するサービス水準が向上するようになる。
【領域横断前の段階】（領域内でのＡＩシステム相互間のネットワークが形成され、領域内における利用者の便益が飛躍的に増大）＜シナリオ上想定される利活用（主なものの例示）＞①持病や病歴、日々の健康状態に合わせて、冷蔵庫・冷凍庫等に保管されている食材に応じて、レシピを提案する。
②ウエアラブル端末からの情報やカメラの画像をもとに、健康状態の変化に応じて、病院、介護施設等に自動運転車が迅速に搬送する。
③介護履歴や健康状態をもとに、最適な介護プランを提案するとともに、介護ロボットが支援を行う。

【領域横断後の段階】（ＡＩシステム相互間のネットワークが領域横断的に形成され、領域間を連携する高度なサービスが実現）＜シナリオ上想定される利活用（主なものの例示）＞➊（医療・介護＋農林水産＋小売＋生活支援）
持病や病歴、日々の健康状態から、健康に良いレシピを提案することに加えて、食材の保管状況に応じて、農林水産事業者や小売業者に自動注文を行い、レシピに合わせて料理ロボットが調理する。また、食材の配送に併せて、生産・流通データ（産地、品種、農薬使用の有無など）が消費者に届くとともに、お薦めの食材の情報がリアルタイムで届く。
➋（医療・介護＋行政＋金融・保険）
利用者の健康に関する情報（病歴、介護履歴、遺伝情報等）に応じて、関連する行政サービス（手当金・補助等の支援サービス、検診やコミュニティ活動の案内等）の情報を提供し、申請や更新などの手続きを補助する。また、利用者の健康に関する情報をもとに、個々人に応じてカスタマイズされた金融サービス（保険等）を提案する。
12

健康に関するユースケース（将来ビジョン）➋（医療・介護＋行政＋金融・保険）
利用者の健康に関する情報（病歴、介護履
歴、遺伝情報等）に応じて、関連する行政サービス（手当金・補助等の支援サービス、
検診やコミュニティ活動の案内等）の情報を提供し、申請や更新などの手続きを補助する。
また、利用者の健康に関する情報をもとに、個々人に応じてカスタマイズされた金融サービス（保険等）を提案する。

領域
横断後

・（自分で調べなくても）様々な行政サービスを受けることできる
ようになる。
・煩雑な手続きの負担が軽減されるようになる。
・個々人に応じた適切な金融サービスを利用できるようになる。
・行政（自治体）の窓口業務の効率化が図られる。

➊（医療・介護＋農林水産＋小売＋生活支援）
持病や病歴、日々の健康状態から、健康に良いレシピを提案することに加えて、食材の保管状況に応じて、農林水産事業者や小売業者に自動注文を行い、レシピに合わせて料理ロボットが調理する。また、食材の配送に併せて、生産・流通データ（産地、品種、農薬使用の有無など）が消費者に届くとともに、お薦めの食材の情報がリアルタイムで届く。
③介護履歴や健康状態をもとに、最適な介護プランを提案するとともに、介護ロ
ボットが支援を行う。

②ウエアラブル端末からの情報やカメラの画像をもとに、健康状態の変化に応じて、病院、介護施設等に自動運転車
が迅速に搬送する。

領域
横断前①持病や病歴、日々の健康状態に合わせて、
冷蔵庫・冷凍庫等に保管されている食材に応じて、レシピを提案する。

2020年代・食材を安心して食べることができるようになるとともに、病気の予防、健康管理に役立つ。
・買い物や料理に時間を費やすことがなくなり、趣味などに時間を費やすことできるようになる。

・健康状態の応じた個々人に最適な介護サービスを提供することができるようになる。
・介護業務の効率化が図られる。
・質の高い介護サービスを受けることができるようになる。
・見守りサービス事業者、自動車メーカー等の収益機会が増大する。
・通院等に係る移動の負担を軽減することができるよ
うになる（特に公共交通機関の利用が困難な者）。

・家電メーカー等の収益機会が増大する。
・病気の予防、健康管理に役立つ。

2030年代2040年代13

健康に関するユースケース（領域横断前の評価サマリ）【領域横断前の段階（サマリ）】＜インパクト評価＞
シナリオ上想定される
利活用① 持病や病歴、日々の健康状態に合わせて、冷蔵庫・冷凍庫等に保管されている食材に応じて、レシピを提案する。

＜リスク評価＞

・家電メーカー等の収益機会が増大する。
・病気の予防、健康管理に役立つ。

② ウエアラブル端末からの・見守りサービス事業者、自動車メー
情報やカメラの画像をもと カー等の収益機会が増大する。
に、健康状態の変化に応 ・通院等に係る移動の負担を軽減する
じて、病院、介護施設等
ことができるようになる（特に公共交通に自動運転車が迅速に機関の利用が困難な者）。
搬送する。
③ 介護履歴や健康状態をもとに、最適な介護プランを提案するとともに、介護ロ
ボットが支援を行う。

シナリオ上想定されるリスク

シナリオ上想定される
インパクト

・健康状態の応じた個々人に最適な介護サービスを提供することができるようになる。
・介護業務の効率化が図られる。
・質の高い介護サービスを受けることができるようになる。

リスクが顕在化した場合に想定される被害リスク評価（例）・適切なレシピを提案できないことによ 生命身体に危り、消費者からの苦情につながったり、 害が及ぶリスクの評価
収益機会が増大が見込まれなくなる
おそれがある。
・プライバシーが侵害されたり、個人情 ＡＩシステムによる誤った判報が悪用されるおそれがある。
断が及ぼす
影響範囲の
評価
・画像認識の精度等が十分でない場合、体調の急 ・体調の急変の見逃しにより、適時適変を見逃すおそれがある。
切な治療を受けることができないおそ 情報流出時
・自動運転車における誤動作や不正操作当により、 れがある。
の影響の評
制御できなくなったり、機能不全に陥るおそれがあ ・自動運転車の制御不能、機能不全に 価る。
より、事故が発生するおそれがある。
・カメラの映像（個人情報）が本人同意なく、第三者 ・プライバシーが侵害されたり、個人情 プライバシーに提供、共有されるおそれがある。
報が悪用されるおそれがある。
侵害の評価
・誤ったデータや偏ったデータに基く学習や学習不足の結果などにより、健康状態等に応じた適切なレシピを提案することができないおそれがある。
・画像認識の精度等が十分でない場合、食材を誤って認識するおそれがある。
・ハッキング等により、健康に関するセンシティブな情報（病歴、健康状態等）が流出し、悪用されるおそれがある。

・ＡＩシステム間の連携が十分でなく、最適な介護プランが提案できなかったり、支援ができないなどのおそれがある。
・健康に関するセンシティブな情報（病歴、健康状
態等）が本人同意なく、第三者に提供、共有される
おそれがある。

リスク管理（例）

・専門家による学習データのチューニング等による精度向上、継続的なモニタリングの実施・機微情報の運用・管理ガイドラインの策定
・機微情報の取得又は活用に際しての本人同意の確保、名寄せの制限の徹底
雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・家電メーカー等の収益増加に伴い、新たな雇用が創出される。
・バスやタクシーの運転等に関連する雇用が減少する。

・業務の効率化が図られないおそれがある。また、介護プランをチェックしたり、作り直すなどの無駄なコストが発生するおそれがある。
・プライバシーが侵害されたり、個人情報が悪用されるおそれがある。

犯罪の発生
確率等の評
価

リスク・コミュニケーション（例）・ＡＩシステムの利用に関する関係者間における双方向的な対話の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認

その他留意すべき事項

・ＡＩシステムが生成したレシピの知的財産権の帰属が問題となるおそれがある（例えば、２次利用する場合）。
・ロボットによる対応で満足できるか、人間とロボット（ＡＩ）との役割分担に留意する必要がある。
14

健康に関するユースケース（領域横断後の評価サマリ）【領域横断後の段階（サマリ）】＜インパクト評価＞＜リスク評価＞

シナリオ上想定される
利活用

シナリオ上想定されるインパクト

シナリオ上想定されるリスクリスクが顕在化した場合に想定される被害➊ （医療・介護＋農林水産＋小売＋生活支援） ・食材を安心して食べることができる
・誤ったデータや偏ったデータに基く学習や ・収益機会の増大が見込
持病や病歴、日々の健康状態から、健康に良 ようになるとともに、病気の予防、健学習不足の結果などにより、健康状態等に まれなくなるおそれがあいレシピを提案することに加えて、食材の保康管理に役立つ。
応じた適切なレシピを提案することができな る。
管状況に応じて、農林水産事業者や小売業
・買い物や料理に時間を費やすことが いおそれがある。
・健康管理に役立たな者に自動注文を行い、レシピに合わせて料理 なくなり、趣味などに時間を費やすこ ・画像認識の精度等が十分でない場合、食かったり、健康を害するおロボットが調理する。また、食材の配送に併とできるようになる。
材を誤って認識してするおそれがある。
それがある。
せて、生産・流通データ（産地、品種、農薬使
・AＩシステム間の連携が十分でなく、適切レ ・安心感が薄れていくおそ用の有無など）が消費者に届くとともに、お薦シピを提案することができなかったり、レシれがある。
めの食材の情報がリアルタイムで届く。
ピ通りに調理できないなどのおそれがある。
・ハッキング等により、生産・流通データが改ざんされるおそれがある。

リスク評価（例）

生命身体に危害が及ぶリスクの評価
社会的な受容度への影響の評価
情報流出時の影響の評価

プライバシー➋ （医療・介護＋行政＋金融・保険）・（自分で調べなくても）様々な行政・ハッキング等により、健康に関するセンシ・プライバシーが侵害され 侵害の評価
利用者の健康に関する情報（病歴、介護履歴、 サービスを受けることできるようにな
ティブな情報（病歴、健康状態、遺伝情報
たり、犯罪に悪用される
遺伝情報等）に応じて、関連する行政サービ
る。
等）が流出し、悪用されるおそれがある。
おそれがある。
犯罪の発生確ス（手当金・補助等の支援サービス、検診や・煩雑な手続きの負担が軽減されるよ ・健康に関するセンシティブな情報（病歴、健 ・社会的に受容されない場 率等の評価
コミュニティ活動の案内等）の情報を提供し、うになる。
康状態、遺伝情報等）を行政サービスや金合、当該サービスが利用申請や更新などの手続きを補助する。また、 ・個々人に応じた適切な金融サービス 融サービスに活用することに関し、社会的されないおそれがある。
利用者の健康に関する情報をもとに、個々人 を利用できるようになる。
に受容されないおそれがある。
に応じてカスタマイズされた金融サービス（保 ・行政（自治体）の窓口業務の効率化
険等）を提案する。
が図られる。
リスク管理（例）・データベース等へのアクセス管理・脆弱性検査
・機微情報の運用・管理ガイドラインの策定
・機微情報の取得又は活用に際しての本人同意の確保、名寄せの制限の徹底
雇用・働き方への影響

・家電メーカー、ロボットメーカー等の収益増加に伴い、新たな雇用が創出される。
・行政（自治体）の窓口業務から、政策立案等の業務に配置転換することができる。

リスク・コミュニケーション（例）・同種のＡＩシステムを利活用する事業者間やＡＩシステムを利活用しない者との間における対話・協働の場の形成
・プライバシーポリシーなどの公表や周知啓発、社会的受容性の確認
その他留意すべき事項

・特に高齢者に有益な利活用と考えられるため、高齢者のAIシステムに関するリテラシーの向上が重要である。
・ＡＩシステムを利活用する者と利活用しない（できない）者において、受けられるサービスに差異が生ずる可能性があることに留意する必要がある。

15

健康に関するユースケース（評価①）【領域横断前の段階】
・持病や病歴、日々の健康状態に合わせて、冷蔵庫・冷凍庫等に保管されている食材に応じて、レシピを提案する。
－視点整理：開発者・プロバイダ、利用者（家電メーカー等）、間接的に便益を享受する者（消費者）＜インパクト評価＞＜リスク評価＞
シナリオ上想定される
インパクト

分析の視点

視 開発者・プロバ
点 イダ
別・市場の拡大や雇用の創出につながる。

利用者（家電メーカー等）

・収益機会が増大する。

間接的に便益を享受する者（消費者）

・病気の予防、健康管理に役立つ。

雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・家電メーカー等の収益増加に伴い、新たな雇用が創出される。

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)誤ったデータや偏ったデータに基く学習や学習不足の結果などにより、健康状態等に応じた適切なレシピを提案することができないおそれがあ
る。

新規

小

***

***

***

***

減少
(2) 画像認識の精度等が十分でない場合、食材を誤って認識す
るおそれがある。

中(3)ハッキング等により、 不変
健康に関するセンシ
ティブな情報（病歴、健康状態等）が流出し、悪用されるおそれがある。

小(1)・(2)適切なレシピを提案できないことにより、消費者からの苦情につながったり、収益機会が増大が見込まれなくなるおそれがある。

新規

小

***

***

(3)プライバシーが侵害されたり、個人情報が悪用されるおそれがある。

減少

***

小
[社会、
経済]

大

中
[人格
生命]

その他留意すべき事項

・レシピの提案に限らず、日常的にＡＩシステムに過度に依存することとなるおそれがある。
・ＡＩシステムが生成したレシピの知的財産権の帰属が問題となるおそれがある（例えば、２次利用する場合）。

16

健康に関するユースケース（評価②）【領域横断前の段階】
・ウエアラブル端末からの情報やカメラの画像をもとに、健康状態の変化に応じて、病院、介護施設等に自動運転車が迅速に搬送する。
－視点整理：開発者・プロバイダ、利用者（見守りサービス事業者、自動車メーカー等）、間接的に便益を享受する者（市民等）＜インパクト評価＞＜リスク評価＞
シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

・市場の拡大や雇用の創出につながる。

(1)画像認識の精度等が十分でない場
合、体調の急変を見逃すおそれがあ
る。

減少

中

***

***

***

***

利用者（見守りサービス事業者、自動車メーカー等）

・収益機会が増大する。

(2) 自動運転車における誤動作や不正操作当により、制御できなくなったり、機能不全に陥るおそれがある。

減少

小

新規

小

(3)カメラの映像（個人情報）が本人同
意なく、第三者に提供、共有されるおそれがある。

不変

大(1)・(2)体調の急変などに適切に対応できずに、消費者からの苦情につながったり、収益機会が増大が見込まれなくなるおそれがある。

間接的に便益を享受する者（市民等）

・通院等に係る移動の負担を軽減することができる
ようになる（特に公共交通機関の利用が困難な者）。

***

***

***

(1)体調の急変の見逃しにより、適時適切な治療を受けることができな
いおそれがある。

減少(2)自動運転車が制御不
能、機能不全に陥ることにより、事故が発生する
おそれがある。

減少(3)プライバシーが侵害されたり、犯罪に悪用されるおそれがある。

不変

分析の視点

視 開発者・プロバ
点 イダ
別シナリオ上想定されるインパクト

雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・バスやタクシーの運転等に関連する雇用が減少する。

小
[社会、
経済]

小

中
[生命]

小

大
[生命]

大

中
[人格
生命]

その他留意すべき事項

・搬送先の病院や介護施設の受入態勢（受入の可否）を考慮する必要がある。AIシステム間において、空きベッドの状況や担当医師の在・不在なども調整した上で、自動運停車で搬送することが望ましい。

17

健康に関するユースケース（評価③）【領域横断前の段階】
・介護履歴や健康状態をもとに、最適な介護プランを提案するとともに、介護ロボットが支援を行う。
－視点整理：開発者・プロバイダ、利用者（介護事業者等）、間接的に便益を享受する者（消費者等）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（介護事 ・健康状態の応じた個々人に最適な介護サービスを提供することができ業者等）
るようになる。
・介護業務の効率化が図られる。

消費者

・質の高い介護サービスを受けることができるようになる。

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

不変
(1)ハッキング等により、健康に関するセンシティブな情報（病歴、健康状態
等）が流出し、悪用されるおそれがある。

小

***

***

***

***

新規
(2) ＡＩシステム間の連携が十分でなく、最適な介護プランが提案できなかったり、支援ができないなどのおそれがある。

中(2)業務の効率化が図られないおそれがある。また、介護プランをチェックしたり、作り直すなどの無駄なコストが発生するおそれがある。

減少小(3)健康に関するセン
シティブな情報（病歴、健康状態等）が本人同意なく、第三者に提供、共有されるおそれがある。

不変

大

***

***

***

(1)・(3)プライバシーが侵害されたり、犯罪に悪用されるおそれがある。

不変

シナリオ上想定される
リスク

小
[経済]

大

中
[人格
生命]

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・介護業務に関連する雇用が減少する。ただし、一般的に介護分野においては、人手不足と言われており、労働力を補完する側面もあり、人間の負担の軽減につながる。

・ロボットによる対応で満足できるか、人間とロボット（ＡＩ）との役割分担に留意する必要がある。

18

健康に関するユースケース（評価➊）【領域横断後の段階】（医療・介護＋農林水産＋小売＋生活支援）
・持病や病歴、日々の健康状態から、健康に良いレシピを提案することに加えて、食材の保管状況に応じて、農林水産事業者や小売業者に自動注文を行い、レシピに合わせて料理ロボットが調理する。また、食材の配送に併せて、生産・流通データ（産地、品種、農薬使用の有無など）が消費者に届
くとともに、お薦めの食材の情報がリアルタイムで届く。
－視点整理：開発者・プロバイダ、利用者（家電メーカー、ロボットメーカー、農林水産事業者、小売事業者等）、間接的に便益を享受する者（消費者）＜インパクト評価＞
分析の視点

視 開発者・プ
点 ロバイダ別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（家 ・収益機会が増大する。
電メーカー、
ロボット
メーカー、
農林水産
事業者、
小売事業
者等）

間接的に
便益を享
受する者
（消費者）

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)誤ったデータや偏ったデータに基く学
習や学習不足の結果などにより、健康状
態等に応じた適切なレシピを提案することができないおそれがある。

新規

小

***

***

***

***

(2) 画像認識の精度等が十分でない場合、 減少
食材を誤って認識するおそれがある。

中(3) AＩシステム間の連携が十分でなく、適 新規
切レシピを提案することができなかったり、
レシピ通りに調理できないなどのおそれがある。

中(2) 必要な食材を注文しなかったり、 新規
不必要な食材を注文することにより、消費者からの苦情につながり、収益機会が増大が見込まれなくなるおそれがある。

小(4)ハッキング等により、生産・流通データが改ざんされるおそれがある。

減少小(4)消費者のニーズに応じた食材を提供できなくなったり、信頼を失うことにより、収益機会が増大が見込まれなくなるおそれがある。

減少

小

***

***

(1)・(2)・(3)健康管理に役立たなかったり、健康を害するするおそ
れがある。

新規

(3)安心感が薄れていくおそれがある。

新規・食材を安心して食べることができるようになるとともに、病気の予防、健康管理に役立つ。
・買い物や料理に時間を費やすことがなくなり、趣味などに時間を費やすことできるようになる。

雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・家電メーカー、ロボットメーカー等の収益増加に伴い、新たな雇用が創出される。

***

中
[社会、
経済]

中
[社会、
経済]

小

中
[生命]

小

小
[社会]

その他留意すべき事項

・特に高齢者に有益な利活用と考えられるため、高齢者のAIシステムに関するリテラシーの向上が重要である。

19

健康に関するユースケース（評価➋）【領域横断後の段階】（医療・介護＋行政＋金融・保険）
・利用者の健康に関する情報（病歴、介護履歴、遺伝情報等）に応じて、関連する行政サービス（手当金・補助等の支援サービス、検診やコミュニティ
活動の案内等）の情報を提供し、申請や更新などの手続きを補助する。また、利用者の健康に関する情報をもとに、個々人に応じてカスタマイズされた金融サービス（保険等）を提案する。
－視点整理：開発者・プロバイダ、利用者（自治体、金融機関等）、間接的に便益を享受する者（市民等）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（自治体、 ・個々人に応じた適切な行政サービス、金融サービスを提供することがで金融機関等等） きるようになる。
・行政（自治体）の窓口業務の効率化が図られる。

間接的に便益を享受する者（市民等）

・（自分で調べなくても）様々な行政サービスを受けることできるようになる。
・煩雑な手続きの負担が軽減されるようになる。
・個々人に応じた適切な金融サービスを利用できるようになる。
雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・行政（自治体）の窓口業務から、政策立案等の業務に配置転換することができる。

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)ハッキング等により、健康に関するセンシティブな情報（病歴、健康状態、遺伝情報等）が流出し、悪用されるおそ
れがある。

不変

小

***

***

***

***

(2)健康に関するセン
シティブな情報（病歴、健康状態、遺伝情報等）を行政サー
ビスや金融サービスに活用することに関し、社会的に受容されないおそれがある。

新規中(2)社会的に受容されない場合、当該サービスが利用されないおそれ
がある。

減少

中

***

***

(1)プライバシーが侵害されたり、犯罪に悪用されるおそれがある。

不変

***

中
[社会、
経済]

大

中
[人格
生命]

その他留意すべき事項

・ＡＩシステムを利活用する者と利活用しない（できない）者において、受けられるサービスに差異が生ずる可能性があることに留意する必要がある。

20

モノに関するユースケース（概要）
ＡＩシステム相互間のネットワークが形成されることにより、複数の事業者間での生産計画の策定、生産ラインの調整や物流における発送・納品の調整など、それぞれのＡＩシステムが単独で機能する場合に比べて、リソースの有効活用や生産・物流全体として最適化を図ることができるようになる。
さらに、ＡＩシステム相互間のネットワークが製造、運輸・物流、小売、金融・保険などの領域を横断して形成されることにより、ニーズ、生産計画、配送状況等に応じて領域を横断した調整を図ることができ、領域が横断する前に比べて、低コストで最適な製品の生産・配送等が可能になるとともに、製品の特性・品質やサプライチェーンの状況に応じた金融サービス（融資、保険等）を提供することが可能となる。
【領域横断前の段階】（領域内でのＡＩシステム相互間のネットワークが形成され、領域内における利用者の便益が飛躍的に増大）＜シナリオ上想定される利活用（主なものの例示）＞①複数の企業が保有するリソースや技術等がＡＩシステムを通じて連携し、企業横断的に生産計画の策定や生産ラインの調整を行い、リソース活用等の全体としての最適化に向けた提案をする。
②物流網において、各拠点の必要量、在庫状況、発送予定の共有・調整を行い、物流全体としての最適化に向けた提案をする。また、消費者の在宅状況に応じた配達ルートの設定・調整を行い、リアルタイムでの最適化に向けた提案をする。

【領域横断後の段階】（ＡＩシステム相互間のネットワークが領域横断的に形成され、領域間を連携する高度なサービスが実現）＜シナリオ上想定される利活用（主なものの例示）＞➊（製造＋運輸・物流＋小売）
小売、製造、運輸・物流の各領域における消費者ニーズ、販売計画、生産計画、配送状況などを総合的・横断的に調整して、リソース活用等の全体としての最適化に向けた提案をする。
➋（製造＋運輸・物流＋金融・保険）
モノ（動産）に関する状態や資産価値、位置のリアルタイムでの把握、需給調整を通じて、動産担保融資を行う。また、製品の故障率の予測、修理に要する期間・金額に応じてカスタマイズされた金融サービス（保険等）を提案する。

21

モノに関するユースケース（将来ビジョン）➋（製造＋運輸・物流＋金融・保険）
モノ（動産）に関する状態や資産価値、位置のリ
アルタイムでの把握、需給調整を通じて、動産担保融資を行う。また、製品の故障率の予測、修理に要する期間・金額に応じてカスタマイズされた金融サービス（保険等）を提案する。

領域
横断後➊（製造＋運輸・物流＋小売）
小売、製造、運輸・物流の各領域における消費者
ニーズ、販売計画、生産計画、配送状況などを総合
的・横断的に調整して、リソース活用等の全体としての最適化に向けた提案をする。

領域
横断前

・製品の性質等に応じたきめ細やかな金融サービス（融資、保険等）を提供することができるようになる。
・運転資金等の支援が受け易くなる。
・製品ごとの保険が可能となり、設備投資のリスクをヘッジすることができるようになる。

・リソースの有効活用が図られる。
・調整に関する業務の効率化が図られる。
・在庫コストの削減が図られる。
・消費者のニーズに応じた商品を適時のタイミングで提供することができるようになる。
・商品提供までのリードタイムの短縮につながる。
・安価で良質の商品を短いリードタイムで入手することができるようになる。

②物流網において、各拠点の必要量、在庫状
況、発送予定の共有・調整を行い、物流全体としての最適化に向けた提案をする。また、消費者の在宅状況に応じた配達ルートの設定・調整を行い、リアルタイムでの最適化に向けた提案をする。

・発送・納品等に係る調整に関する業務の効率化が図られる。
・在庫コストの削減が図られる。
・再配達が減少し、環境負荷（ＣＯ２の排出）の軽減が図られる。
・配達料金の値下げが期待できる。

①複数の企業が保有するリソースや技術等がＡＩシステムを通じて連携し、企業横断的に生産計画の策定や生産ラインの調整を行い、リソース活用等の全体としての最適化に向けた提案をする。

・リソースの有効活用が図られる。
・在庫コストの削減が図られる。
・消費者のニーズに応じた商品を適時のタイミングで提供することができるようになる。
・安価で良質の商品を短いリードタイムで入手することができるようになる。

2020年代2030年代2040年代22

モノに関するユースケース（領域横断前の評価サマリ）【領域横断前の段階（サマリ）】＜インパクト評価＞
シナリオ上想定される
利活用① 複数の企業が保有するリソースや技術等がＡＩシステ
ムを通じて連携し、企業横断
的に生産計画の策定や生産ラインの調整を行い、リソー
ス活用等の全体としての最適化に向けた提案をする。

② 物流網において、各拠点の必要量、在庫状況、発送予定の共有・調整を行い、物流全体としての最適化に向けた提案をする。また、消費者の在宅状況に応じた配達
ルートの設定・調整を行い、リアルタイムでの最適化に向けた提案をする。

＜リスク評価＞
シナリオ上想定されるリスク

シナリオ上想定される
インパクト・リソースの有効活用が図られる。
・在庫コストの削減が図られる。
・消費者のニーズに応じた商品を適時のタイミングで提供することができるようになる。
・安価で良質の商品を短いリードタイムで入手することができるようになる。

・発送・納品等に係る調整に関する業務の効率化が図られる。
・在庫コストの削減が図られる。
・再配達が減少し、環境負荷（ＣＯ２の排出）の軽減が図られる。
・配達料金の値下げが期待できる。

リスクが顕在化した場合に想定される被害・誤ったデータや偏ったデータに基く ・生産計画の作り直し、生産ライ
学習や学習不足の結果などにより、 ンの再調整などの無駄なコスト
最適な生産計画の策定、生産ライが発生するおそれがある。
ンの調整ができないおそれがある。 ・最適な生産計画の策定、生産・異なる企業のＡＩシステムが互いの ラインの調整が行われない結意図を理解できず（通信プロトコル
果として、安価で良質な商品をやデータフォーマットの違い等）、最 入手することができないおそれ
適な生産計画の策定、生産ラインがある。
の調整ができないおそれがある。

リスク評価（例）

ＡＩシステムによる
誤った判断が及ぼす影響範囲の評価
生産システムや物
流網への影響の評
価
AIシステム間の意
思疎通能力の評価

・ハッキング等により、在・不在の情 ・業務の効率化や在庫コストの報等が流出し、悪用されるおそれ削減が図られないおそれがあ 情報流出時の影響がある。
る。また、発送・納品等に係るの評価
・一部のＡＩシステムが個別最適を目 再調整を行うなどの無駄なコス指すことで最適な調整ができない
トが発生するおそれがある。
プライバシー侵害
おそれがある。
・配達が遅延するおそれがある。 の評価
・各物流拠点のＡＩシステム間の連・プライバシーが侵害されたり、携が十分でなく、最適な調整ができ 犯罪に悪用されるおそれがあ
犯罪の発生確率等ないおそれがある。
る。
の評価

リスク管理（例）

リスク・コミュニケーション（例）・専門家による学習データのチューニング等による精度向上、継続的なモニタリングの実施
・生産停止等のリスクを織り込んだ生産計画の策定
・複数のAIシステム間の連携に関する仕組みの確立（インターフェースの標準化やプロトコルの変換等）

・ステークホルダ間における全体としての事業継続計画（BCP）の策定
・リスク認知の差異や情報の非対称性に留意したリスク情報に関するコミュニケーショ
ンや対話

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・生産ラインの調整等の業務から、商品・サービスの企画・開発等の業務に配置転換することができる。
・再配達の減少により、夜間の配達業務の減少（ワークライフバランスの確保）が期待される。

・既存のＡＩネットワークとの接続の可否やその条件が事業活動に影響を及ぼす可能性があり、公正な競争の確保の在り方が問題となる。
・利用者間の調整に当たっては、性質や性能が異なる多様なＡＩシステムがネットワーク
上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。
・配達が遅延した場合の責任の分配の在り方の検討が必要である。

23

モノに関するユースケース（領域横断後の評価サマリ）【領域横断後の段階（サマリ）】＜インパクト評価＞＜リスク評価＞
シナリオ上想定されるインパクト

シナリオ上想定されるリスクリスクが顕在化した場合に想定される被害・リソースの有効活用が図られる。
・調整に関する業務の効率化が図られる。
・在庫コストの削減が図られる。
・消費者のニーズに応じた商品を適時のタイミン
グで提供することができるようになる。
・商品提供までのリードタイムの短縮につながる。
・安価で良質の商品を短いリードタイムで入手することができるようになる。

・誤ったデータや偏ったデータに基く学
習や学習不足の結果などにより、最適な調整ができないおそれがある。
・一部のＡＩシステムが個別最適を目指
すことで最適な調整ができないおそれがある。
・異なる企業のＡＩシステムが互いの意図を理解できない（通信プロトコルやデータフォーマットの違い等）ことやＡＩ
システム間の連携が十分でなく、最適な調整ができないおそれがある。

・リソースの有効活用、業務の効率化や在庫コストの削減が図られないおそれがある。また、生産計画の作り直し、生産ラインや事業者間の再調整などの無駄なコストが発生するおそれがある。
・最適な生産ラインや事業者間の調整が行われない結果として、安価で良質な商品を入手することができないおそれがある。

シナリオ上想定される
利活用➊ （製造＋運輸・物流＋小売）
小売、製造、物流の各領域におけるニーズ、生産計画、配送状況などを総合的・横断的に調整して、リソース活用等の全体としての最適化に向けた提案をする。

リスク評価（例）

ＡＩシステムによる誤った判断が及ぼす影響範囲の評価生産システムや物流網への影響の評価
AIシステム間の意思疎通能力の評価➋ （製造＋運輸・物流＋金融・保険） ・製品の性質等に応じたきめ細やかな金融サービ ・誤ったデータや偏ったデータに基く学
・適切な金融サービスを提供 経済損失の影
モノ（動産）に関する状態や資産価ス（融資、保険等）を提供することができるように
習や学習不足の結果などにより、適切できず、融資が回収できな
響の評価
値、位置のリアルタイムでの把握、 なる。
な判断（故障率の予測、修理に要する
いおそれがある。
需給調整を通じて、動産担保融資 ・運転資金等の支援が受け易くなる。
期間・金額））ができないおそれがある。 ・機密情報の流出により競争 情報流出時のを行う。また、製品の故障率の予・製品ごとの保険が可能となり、設備投資のリスク ・一部のAIシステムが自社に有利になる 力が低下するおそれがある。 影響の評価
測、修理に要する期間・金額に応をヘッジすることができるようになる。
よう誤った情報を提供・共有するおそれ また、流失した機密情報をもじてカスタマイズされた金融サービがある（有利になるように学習させる）。 とにした模倣品等が流通し、ス（保険等）を提案する。
・ハッキング等により、機密情報（営業秘 信用が低下するおそれがあ密等）が流出するおそれがある。
る。
リスク管理（例）・データベース等へのアクセス管理・脆弱性検査などのセキュリティ対策
・機密情報の運用・管理ガイドラインの策定
・事後検証のためのロギングの実装
雇用・働き方への影響

・製造業者の破綻・倒産の減少が見込まれ、雇用の維持が可能となる。
・在庫管理や商品の発送・納品等に係る調整等の業務に関連する雇用が減少する。

リスク・コミュニケーション（例）・利用者に対するインシデントに関する情報共有と対応策の説明・共有・動産担保融資の状況を把握する仕組みの構築

その他留意すべき事項

・ＡＩシステムの判断がブラックボックス化された場合、融資を実行した根拠や保険料の算出
根拠等について、監督官庁の検査等に対して適切に対応できない可能性がある。
・この利活用方法が広く社会で利活用されるためには、中小・零細の事業者（製造業者）にもAIシステムを普及させる必要があるが、導入コストや利活用のためのコストが問題となる。

24

モノに関するユースケース（評価①）【領域横断前の段階】
・複数の企業が保有するリソースや技術等がＡＩシステムを通じて連携し、企業横断的に生産計画の策定や生産ラインの調整を行い、リソース活用等の全体としての最適化に向けた提案をする。
－視点整理：開発者・プロバイダ、利用者（製造業（工場）等）、間接的に便益を享受する者（消費者）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（製造業 ・リソースの有効活用が図られる。
（工場）等）
・在庫コストの削減が図られる。
・消費者のニーズに応じた商品を適時のタイミングで提供することができるようになる。
・商品提供までのリードタイムの短縮につながる。

間接的に便益を享受する者（消費者）

・安価で良質の商品を短いリードタイムで入手することができるようになる。

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)誤ったデータや偏ったデータに基く学習や学習不足の結果などにより、最適な生産計画の策定、生産ラインの調整ができないおそれがある。

新
規

小

***

***

***

***

(2)異なる企業のＡＩシステ
ムが互いの意図を理解できず（通信プロトコルやデータフォーマットの違い
等）、最適な生産計画の策定、生産ラインの調整ができないおそれがある。

新規中(1)・(2) 生産計画の作り直し、生産ラインの再調
整などの無駄なコストが発生するおそれがある。

減少

小

***

***

***

(1)・(2)最適な生産計画の策定、生産ラインの調整が行われない結果として、安価で良質な商品を入手することができないおそれがある。

減少

中
[経済]

小

小
[経済]

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・生産ラインの調整等の業務から、商品・サービスの企画・開発等の業務に配置転換することができる。
・在庫管理等の業務に関連する雇用が減少する。

・既存のＡＩネットワークとの接続の可否やその条件が事業活動に影響を及ぼす可能性があり、公正な競争の確保の在り方が問題となる。
・利用者（製造業者等）間の調整に当たっては、性質や性能が異なる多様なＡＩシステム
がネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。

25

モノに関するユースケース（評価②）【領域横断前の段階】
・物流網において、各拠点の必要量、在庫状況、発送予定の共有・調整を行い、物流全体としての最適化に向けた提案をする。また、消費者の在宅状況に応じた配達ルートの設定・調整を行い、リアルタイムでの最適化に向けた提案をする。
－視点整理：開発者・プロバイダ、利用者（製造業、運送事業者等）、間接的に便益を享受する者（消費者）＜インパクト評価＞
分析の視点

視 開発者・プロバ
点 イダ
別＜リスク評価＞
シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

利用者（製造業、 ・発送・納品等に係る調整に関する業務の効率化が図られる。
運送事業者等） ・在庫コストの削減が図られる。
・再配達が減少し、環境負荷（ＣＯ２の排出）の軽減が図られる。

間接的に便益を享受する者（消費者）

・配達料金の値下げが期待できる。

シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)ハッキング等により、在・不在の情報等が流出し、悪用されるおそ
れがある。

不変

小

***

***

***

***

(2) 一部のＡＩシステム
が個別最適を目指すことで最適な調整ができないおそれがある。

新規

小(2)・(3)業務の効率化や在庫コストの削減が図られないおそれがある。
また、発送・納品等に係る再調整を行うなどの無駄なコストが発生する
おそれがある。

減少小(1)プライバシーが侵害されたり、犯罪に悪用されるおそれがある 。

不変(2)・(3)配達が遅延する
おそれがある。

減少(3)各物流拠点のＡＩシス 新規
テム間の連携が十分でなく、最適な調整ができないおそれがある。

中

***

***

***

中
[経済]

大

中
[人格
生命]

小

小
[社会]

雇用・働き方への影響

その他留意すべき事項

・再配達の減少により、夜間の配達業務の減少（ワークライフバランスの確保）が期待される。
・発送・納品等に係る調整等の業務に関連する雇用が減少する。

・一部の事業者が物流に関する情報やＡＩＩシステム相互間の調整機能を独占又は寡占することによりAIシステム間のネットワークへの参加／不参加が事業者の競争力に影響を及ぼす可能性がある。
・配達が遅延した場合の責任の分配の在り方の検討が必要である。

26

モノに関するユースケース（評価➊）【領域横断後の段階】（製造＋運輸・物流＋小売）
・小売、製造、物流の各領域におけるニーズ、生産計画、配送状況などを総合的・横断的に調整して、リソース活用等の全体としての最適化に向けた提案をする。
－視点整理：開発者・プロバイダ、利用者（小売業、製造業、運送事業者等）、間接的に便益を享受する者（消費者）＜インパクト評価＞＜リスク評価＞
シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

・市場の拡大や雇用の創出につながる。

(1)誤ったデータや偏ったデータに基く学習や学習不足の結果など
により、最適な調整ができない
おそれがある。

新規

小

***

***

***

***

利用者（小
売業、製
造業、運
送事業者
等）

・リソースの有効活用が図られる。
・調整に関する業務の効率化が図られる。
・在庫コストの削減が図られる。
・消費者のニーズに応じた商品を適時のタイミングで提供することができるようになる。
・商品提供までのリードタイムの短縮につながる。

(2)一部のＡＩシステムが個別最適を目指すことで最適な調整ができないおそれがある。

新規

小

減少

小

(3)異なる企業のＡＩシステムが互いの意図を理解できない（通信プロトコルやデータフォーマット
の違い等）ことやＡＩシステム間の連携が十分でなく、最適な調整ができないおそれがある。

新規中(1)･(2)･(3)リソースの有
効活用、業務の効率化
や在庫コストの削減が図られないおそれがある。また、生産ラインや事業者間の再調整などの無駄なコストが発生するおそれがある。

間接的に
便益を享
受する者
（消費者）

・安価で良質の商品を短いリードタイムで入手することができるよ
うになる。

***

***

***

(1)・(2)・(3)最適な生産ラ
インや事業者間の調整が行われない結果として、安価で良質な商品を入手することができな
いおそれがある。

減少

分析の視点

視 開発者・プ
点 ロバイダ別

シナリオ上想定される
インパクト

中
[経済]

小

小
[経済]

雇用・働き方への影響

その他留意すべき事項

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・生産ラインの調整等の業務から、商品・サービスの企画・開発等の業務に配置転換することができる。
・在庫管理や発送・納品等に係る調整等の業務に関連する雇用が減少する。

・既存のＡＩネットワークとの接続の可否やその条件が事業活動に影響を及ぼす可能性があり、公正な競争の確保の在り方が問題となる。
・利用者間の調整に当たっては性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすることに留意する必要がある。

27

モノに関するユースケース（評価➋）【領域横断後の段階】（製造＋運輸・物流＋金融・保険）・モノ（動産）に関する状態や資産価値、位置のリアルタイムでの把握、需給調整を通じて、動産担保融資を行う。また、製品の故障率の予測、修理に要する期間・金額に応じてカスタマイズされた金融サービス（保険等）を提案する。
－視点整理：開発者・プロバイダ、利用者（製造業、運送事業者、金融機関等）、間接的に便益を享受する者（融資対象事業者）＜インパクト評価＞＜リスク評価＞
シナリオ上想定される
リスク

発生
種別

発生
確率

リスクが顕在化した場合に想定される被害

発生
種別

発生
確率

被害
規模

(1)誤ったデータや偏ったデータに基く学習や学習不足の結果など
により、適切な判断（故障率の予測、修理に要する期間・金額））ができないおそれがある。

新規

小

***

***

***

***

(2)ハッキング等により、機密情報（営業秘密等）が流出するおそ
れがある。

不変

小

利用者（製造業、 ・製品の性質等に応じたきめ細やかな金融サービス（融資、運送事業者、保険等）を提供することができるようになる。
金融機関等）(3)一部のAIシステムが自社に有利になるよう誤った情報を提供・共有するおそれがある（有利になるように学習させる）。

新規

小(1)･(3)適切な金融サービスを提供できず、融資が回収できないおそれ
がある。

減少

小

間接的に便益・運転資金等の支援が受け易くなる。
を享受する者
・製品ごとの保険が可能となり、設備投資のリスクをヘッジす（融資対象事業 ることができるようになる。
者）

***

***

(2)機密情報の流出により競争力が低下するおそれがある。また、流失した機密情報をもとにした模倣品等が流通し、信用が低下するおそれ
がある。

不変

分析の視点

視 開発者・プロバ
点 イダ
別シナリオ上想定される
インパクト

・市場の拡大や雇用の創出につながる。

雇用・働き方への影響

・学習データやパラメータ調整、情報セキュリティ等に関連する雇用が創出される。
・製造業者の破綻・倒産の減少が見込まれ、雇用の維持が可能となる。

***

中
[経済]

大

中
[経済]

その他留意すべき事項

・ＡＩシステムの判断がブラックボックス化された場合、融資を実行した根拠や保険料の算出
根拠等について、監督官庁の検査等に対して適切に対応できない可能性がある。
・この利活用方法が広く社会で利活用されるためには、中小・零細の事業者（製造業者）にもAIシステムを普及させる必要があるが、導入コストや利活用のためのコストが問題となる。

28