はじめに
最近では、人工知能(Artificial Intelligence：A I）について、毎日のように新聞などで報道がなされ、テレビや雑誌でもＡＩに関する特集が数多く企画されるなど、ＡＩに関する人々の関心は急速に高まっている。また、A Iを活用した消費者向けの製品やサービスの普及が見られ、人々の生活にとってＡＩが身近なものとして浸透しつつある。ＡＩは、今後、個人、地域社会、各国、国際社会の抱える様々な課題1の解決のため、その利活用が期待されており、特にＡＩシステムがインターネット等を通じて他のＡＩシステム等と接続し連携する「ＡＩネットワーク化」が進展することにより、人間及びその社会や経済に多大な便益が広範にもたらされることが期待される。我が国においても、人口減少・少子化を迎える中、新しい社会・経済を構築していく上で、ＡＩの利活用は非常に有効であるものと考えられている。他方、A Iの判断のブラックボックス化や制御喪失などのリスクとともに、人々のA Iに対する不安などが、ＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展の阻害要因となるのではないかと懸念されている。 A Iの便益を人々や社会が享受するためには、ＡＩの開発をさらに推し進めるとともに、利活用の裾野をより一層広げていくことが必要である。そのためには、まずもって人々のＡ Iに対する不安を取り除き、信頼を醸成する取組を進めることが必要である。A Iの開発者や利用者が、それぞれＡＩの開発や利活用において、ＡＩの便益を増進させリスクを抑制する観点から期待される取組を行うとともに、開発者や利用者に加えて、政府や業界団体等を含めた関係するステークホルダがＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展に向けた環境整備のための取組を行うことにより、ＡＩに対する社会的な受容性の向上がもたらされるものと考えられる。こうした中、平成28年４月に日本で開催されたＧ７（先進７か国）香川・高松情報通信大臣会合において、ホスト国である日本は、A I開発原則のたたき台を紹介し、各国関係閣僚による議論が行われた。その結果、Ｇ７において「ＡＩ開発原則」及びその内容の解説からなる「ＡＩ開発ガイドライン」の策定に向け、引き続きＧ７各国が中心となり、ＯＥＣＤ (経済協力開発機構)等国際機関の協力も得て議論していくことで合意した。その後、欧米各国においても、A Iに関する社会的・経済的・倫理的・法的課題をめぐる検討が本格化し、国際的な議論が加速している。以上のような背景と問題意識に鑑み、総務省情報通信政策研究所では、平成28年10月から「ＡＩネットワーク社会推進会議」を開催し、「ＡＩネットワーク社会推進フォーラム」 (国際シンポジウム)  ²における議論等を踏まえ、平成29年７月に、ＡＩの開発者が留意す1ることが期待される事項を整理した「国際的な議論のためＡＩ開発ガイドライン案」を含む『報告書2017』³を取りまとめた。報告書2017の公表後、本推進会議は、ＡＩの利用者やデータ提供者が留意することが期待される事項に関する検討を行うとともに、その検討に資するようＡＩネットワーク化が進展した社会の将来像を描きＡＩの利活用における課題等を抽出するために、ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望に関する検討等を行ってきた。本推進会議は、報告書2017の公表後、平成29年10月から平成30年５月までに開催した8回の会合（本推進会議の会合（親会） 3回のほか、親会の下に置かれた環境整備分科会及び影響評価分科会 4の合同分科会の会合5回）における検討や平成30年1月から同年4月までに開催した事業者等からのヒアリング等 5を踏まえて、本報告書（案）を作成した。その後、平成30年6月12日から同月26日までにかけて、本報告書（案）に関する意見募集を行った上で、環境整備分科会・影響評価分科会合同分科会（第６回）及び本推進会議（第10回）の会合での議論を経て、本報告書を最終的に取りまとめた。本報告書は、本推進会議における検討と関連する国内外の動向及び国際的な議論の動向を概観し、社会・経済の様々な分野におけるＡＩシステムの利活用の場面を想定してＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価を行い、A Iネットワーク化の進展に伴い形成されるエコシステムの展望を示すとともに、ネットワーク化の観点からの考祭を行い、それらの検討において抽出された課題等を踏まえて、ＡＩの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りまとめ、各原則の内容に関する論点を整理した上で、今後の課題を整理している。本報告書が、A Iネットワーク化に関する社会的・経済的・倫理的・法的課題をめぐる国内外の検討に寄与し、ＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展が図られ、人間中心の「智連社会」6の実現に向けた道標となることを願いたい。本推進会議の前身たる「ＡＩネットワーク化検討会議」（以下「検討会議」という。）においては、目指すべき社会像として人間中心の社会像「智連社会」(Wisdom Network Society: ＷＩＮＳ〔ウインズ]）を提唱して、その基本理念を呈示するとともに、ＡＩネットワーク化の進展が「智連社会」の形成にどのような影響を与えるのかということやその際の人間とA Iネットワークとの関係に関する評価及びA Iネットワーク化が社会・経済にもたらす影響（インパクト7及びリスク）の基礎的な評価を行った上で、今後の課題を整理した（平成28年4月に『中間報告書』』、同年6月に『報告書2016』』を公表。)。これらの成果を踏まえ、本推進会議においては、ＡＩの開発において留意することが期待される事項を整理した「国際的な議論のためのＡＩ開発ガイドライン案」（以下「ＡＩ開発ガイドライン案」という。）を取りまとめるとともに、ＡＩシステムの具体的な利活用の場面を想定してＡＩネットワーク化が社会・経済にもたらす影響の評価等を行った上で、今後の課題を整理した（平成29年７月に『報告書2017』 10を公表。)。本章においては、本推進会議における検討の基調をなすＡＩネットワーク化の展望、目指すべき社会像としての「智連社会」及びその基本理念並びにＡＩネットワーク化の進展が「智連社会」に及ぼす影響を提示するとともに、本推進会議の取組の概要を紹介する。
1. 「ＡＩネットワーク化」と「智連社会」 11
○　A Iネットワーク化A Iシステム当が今後インターネットその他の情報通信ネットワークと接続されていくことにより、その影響（インパクト及びリスク）が大きくなるとともに、空間を越えて即座に波及し得るようになるものと考えられる。そこで、検討会議及び本推進会議においては、ＡＩシステムの普及及びその利活用の進展に伴う問題を検討するに当たり、これを単に個々のＡＩシステムをめぐる問題として捉えるのではなく、「ＡＩネットワーク化」13 （A Iシステムがインターネットその他の情報通信ネットワークと接続され、ＡＩシステム相互間又はＡＩシステムと他の種類のシステムとの間のネットワーク（以下において「ＡＩネットワーク」という場合がある¹⁴。）が形成されるようになることをいう。以下同じ。）をめぐる問題として捉えて検討を進めてきた。検討会議においては、ＡＩネットワーク化が社会・経済にもたらす影響を評価し、そのガバナンスの在り方等関連する課題を検討する際の参照軸とするため、ＡＩネットワーク化の進展段階を次図のように理念的に整理している。
「Alネットワーク化」の進展段階
に連携。第一段階は、単独のＡＩシステムがインターネットその他の情報通信ネットワークに接続され、他のＡＩシステムとは連携することなく機能するという段階である。それぞれのＡＩシステムは、クラウド上に構築されたり、センサーネットワークと接続されるなどインターネットその他の情報通信ネットワークに接続されているが、他のＡＩシステムとは連動していない。この段階は、既に社会の様々な場面において実現が進みつつある。第二段階は、インターネットその他の情報通信ネットワークを介して複数のＡＩシステムのネットワークが形成され、当該ネットワーク上のＡＩシステムが相互に連携して協調するという段階である15。第三段階は、センサやアクチュエータを構成要素として含むＡＩネットワークが人間の脳や身体などと連携して、人間の身体機能が拡張される段階である¹6。なお、A Iネットワークと人間の脳や身体などとの連携については、ＡＩが実装されたチップを脳や身体に埋め込むような形態だけではなく、今後の技術の発展により、A Iネットワークと人間との間で円滑なインタラクションが図られる様々な形態が想定される。この段階において、人間の能力が拡張され、さらにそれらも含めた高度に知的な能力を有するシステムの連携が発生するInternet of Ability (I o A)平が具体的な姿となって見えてくるものと考えられる。これらの進展が広く進み、ＡＩネットワークが社会全体に浸透していくことにより、第四段階として、人間とＡＩネットワークとが共存し、人間社会のあらゆる場面において、情報通信ネットワークを介してＡＩシステムと他のＡＩシステム、人間とＡＩシステム、さらには人間と人間とがシームレスに連携するという段階に至るものと整理されている。
O 目指すべき社会像「智連社会」
検討会議においては、目指すべき社会像として、「智連社会」（Wisdom Network Society : W I N S [ウインズ]）を掲げた。これは、人間が主体的に技術を使いこなし、他者との連携を図ることで、社会全体の幸福へとつながる社会像と捉えることができる。 A Iネットワーク化の進展に伴い、A IとA I 、A Iと人間、さらには人間と人間がシームレスに連携・協調できるようになることにより、ネットワーク化される「知能」、すなわち、ネットワーク化されるＡＩの知能又はこれを活用する人間の知能により「データ」・「情報」・「知識」を学習・解析して新たな「データ」・「情報」・「知識」を創造・流通・連結することが可能となる社会の到来が予測される。同時に、極めて高度なＡＩネットワークに対する依存度の増大が懸念されるが、これに対して、「データ・情報・知識に基づき、知能を活用することにより、人間や社会の在り方を構想し、その実現に向けた課題を解決するための人間の能力」としての「智慧」（智）(Wisdom)の必要性が高まる。ここで、多くの人々がＡＩネットワーク社会における智慧を獲得することができれば、人間が主体的に技術を社会全体で高度に使いこなし、問題を解決していくための人間の「智慧」の連携・協調が進んでいくものと見込まれる。すなわち、人間は、A Iネットワークを利活用することにより、高度な問題解決能力としての各々の「智慧」 (智)を連結し、「智のネットワーク」 (Wisdom Network)を形成していくことが期待されるのである18° 「智連社会」という社会像は、このような問題意識に基づいて構想したものであり、 A Iネットワーク化が進展した場合において、その力を健全に活用する姿として、人間が主体的に技術を使いこなすことによってＡＩネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」を形成することにより、あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となるという人間中心の社会像である19。智連社会は、A Iネットワーク化が進展して「人間とA Iネットワークとが共存」する段階において目指すべき社会像として掲げたものである。この「人間とＡＩネットワークとが共存」する段階とは、A Iネットワークが人間を包むように存在し、人間とA Iネットワークとがシームレスに連携し、人間にとってＡＩネットワークが不可欠な存在となるという客観的な状況をいうものである。これに対し、「智連社会」という社
6
会像は、単に「人間とＡＩネットワークとが共存」するという客観的な状況を描写するにとどまるものではなく、人間が主体的に技術を使いこなすことによってＡＩネットワークと共生するという人間の営みにより形成される社会像である。目指すべき社会像として「智連社会」を掲げるということは、A Iネットワークが社会の中心となるのではなく、あくまでも人間が社会の中心となり、人間がＡＩネットワークを主体的に使いこなす社会を目指すべき20との考えを含意している。
智連社会
智連社会(Wisdom Network Society【WINS】)は、人間が主体的に技術を使いこなすことによってAIネットワークと共生し、データ・情報・知識を自由かつ安全に創造・流通・連結して「智のネットワーク」(Wisdom Network)を形成することにより、あらゆる分野におけるヒト・モノ・コト相互間の空間を越えた協調が進展し、もって創造的かつ活力ある発展が可能となる人間中心の社会像。人間が主体的に技術を使いこなすことによってAIネットワークと共生しデータ・情報・知識を自由かつ安全に創造・流通・連結して｢智のネットワーク｣を形成することによりあらゆる分野におけるヒト・モノ･コト相互間の空間を越えた協調が進展し
もって創造的かつ活力ある発展が可能となる社会
「智連社会」においては、人間がＡＩネットワークを主体的に使いこなし、人類や地球の将来を見据えた人間や社会の在り方を構想して、その実現に向けた課題を解決するための人間の能力としての「智慧」を連結して「智のネットワーク」を形成することにより可能となる智慧の連携と協調により実現される。このような智慧の連携と協調という「智連」の本質に鑑みると、智連社会の実現に向けたＡＩネットワーク化の健全な進展に関する課題や智連社会における人間が社会の在り方に関する課題の解決には、個人の努力だけではなく、社会におけるコミュニティの役割が重要になるものと考えられる²¹。
O 基本理念
検討会議においては、「智連社会」を形成するに当たってのっとるべき基本理念として、次の８項目が掲げられている。
すべての人々による恵沢の享受
すべての人々が、ＡＩネットワークを容易にかつ主体的に利用する機会を有し、個々の能力を創造的かつ最大限に発揮し、又は拡張することが可能となり、もってA Iネットワークの恵沢をあまねく享受できること。
人間の尊厳と個人の自律
個人が人間としての尊厳をもった自律的な主体としてＡＩネットワークを安心して安全に利活用することにより、豊かさと幸せを感じられること。 • イノベーティブな研究開発と公正な競争イノベーティプな研究開発と公正な競争を通じて、多様で高度なＡＩネットワークが提供されること。制御可能性と透明性A Iネットワークに関する制御可能性と透明性が技術的・制度的に確保されるこْند
• ステークホルダの参画
A Iネットワークの在り方に関する意思決定に当たり、多様なステークホルダが民主的に参画できること。
物理空間とサイバー空間の調和
A Iネットワークを利活用して物理空間とサイバー空間を連結し、両者の調和を図ることにより、ヒト・モノ・コト相互間の空間を越えた協調の実現を可能とするこْند空間を越えた協調による活力ある地域社会の実現A Iネットワークを利活用してヒト・モノ・コト相互間の空間を越えた協調が地域内・地域間で進展することにより、活力ある地域社会が実現すること。分散協調による地球規模の課題の解決人類が、A Iネットワークを基盤として構築する智のネットワークにより、地球規模の課題を国際的な分散協調により解決できること。これらの基本理念は、ＡＩネットワーク化の健全な進展を通じて実現することを目指すべき社会像たる「智連社会」が備えるべき性質を様々な角度から掲げるものであり、今後のＡＩネットワーク化のガバナンスの在り方を検討するに当たって立脚すべきものとして評価できよう。
2．本推進会議における取組
検討会議においては、ＡＩネットワーク化の展望並びに目指すべき社会像及びその基本理念の整理と併せて、今後の課題を整理した。今後の課題の中には、ＡＩの開発研究に当たって国際的に参照されるべき「ＡＩ開発原則」及びその内容の解説からなる「ＡＩ開発ガイドライン」の策定に向けた議論の推進、ＡＩネットワーク化が社会・経済にもたらす影響の評価等が掲げられた。その過程において、平成28年４月29日及び30日にＧ７香川・高松情報通信大臣会合が開催され、高市総務大臣（当時）から、「ＡＩ開発原則」に関し中間報告書に掲げる８項目からなるたたき台を配付し、ＯＥＣＤ等において「ＡＩ開発ガイドライン」の策定に向けた国際的な議論を進めるよう提案した結果、各国から賛同が得られたところである。本推進会議は、検討会議における検討やＧ ７香川・高松情報通信大臣会合の成果等を踏まえ、社会全体におけるＡＩネットワーク化をめぐる社会的・経済的・倫理的・法的課題を総合的に検討することを目的として、検討会議を発展的に改組したものである。上記のとおり、本推進会議においては、これまで、ＡＩの開発において留意することが期待される事項を整理したＡＩ開発ガイドライン案を取りまとめるとともに、ＡＩシステムの具体的な利活用の場面を想定してＡＩネットワーク化が社会・経済にもたらす影響の評価等を行った上で、今後の課題を整理した（報告書2017)。これらの成果を踏まえ、本推進会議においては、引き続きＡＩネットワーク化が社会・経済にもたらす影響の評価を進めるとともに、ＡＩネットワーク化の進展に伴い形成されるエコシステム 22の展望やＡＩの利活用において留意することが期待される事項に関する検討等を行った。本推進会議における主たる取組については、次のとおりである23。 O   A Iの開発において留意することが期待される事項• 国際的な議論のためのＡＩ開発ガイドライン案の作成²4【報告書2017】 →　Ｇ７、０ＥＣＤ等における国際的な議論のフォローアップ及び国際的な議論への貢献²5【継続】
O  A Iの利活用において留意することが期待される事項
A I利活用原則案の作成及び各原則の内容に関する論点整理* 【報告書2018 77】 →→　各原則の内容に関し整理された論点の検討²8【報告書2018を踏まえ検討】 Ｏ　ＡＩネットワーク化が社会・経済にもたらす影響の評価（シナリオ分析）先行的評価（10ユースケース） ²9【報告書2017】分野別評価（３分野（まちづくり、健康、モノ）） 30【報告書2017】分野別評価（３分野（行政、移動、居住）） ³¹【報告書2018】 →　６分野（危機管理、教育・学び、仕事、財、趣味・娯楽、カネ） ³²【継続】 Ｏ　ＡＩネットワーク化の進展に伴って形成されるエコシステムの展望等利用シーンにおけるＡＩの利活用、ケーススタディ等³³【報告書2018】 →   A Iネットワーク化の進展に伴って形成されるエコシステムの展望に関する継続的な検討³¹【報告書2018を踏まえ検討】 Ｏ　ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定A Iネットワーク化に関する指標の検討³5【報告書2018】 →　A Iネットワーク化に関する指標の検討³6【報告書2018を踏まえ検討】 O    A Iネットワーク化に対応した教育・人材育成雇用・働き方への影響に関する検討【報告書2017】 ＡＩネットワーク社会に向けた教育・人材育成の在り方等の検討³7【報告書2018】 →  A Iネットワーク社会に向けた教育・人材育成の在り方等の検討³8【報告書2018を踏まえ検討】
10
第１章　ＡＩネットワーク化をめぐる最近の動向
A Iに関する動きはめまぐるしく、ＡＩに関連する報道を目にしない日がないほどである。ＡＩに関する検討に当たっては、関係ステークホルダとのコンセンサスを図っていくこれとが重要であり、本推進会議においても、ＡＩネットワーク化に関する国内外の動向を踏まえて検討を行うこととしている。本章においては、主として報告書2017公表後のＡＩネットワーク化をめぐる動向を概観する³9。なお、報告書2017公表以前は、海外においては、学術界や産業界などの取組が中心であったが、報告書2017公表以降は、ＯＥＣＤやＧ７における国際的な議論が活発に行われていることなどを背景に、学術界・産業界などの取組に加えて、政府レベルでのＡＩに関する社会的・経済的・倫理的・法的な課題についての取組が広がりつつある"。
1．国内の動向
（1）「世界最先端デジタル国家創造宣言・官民データ活用推進基本計画」
平成30年6月15日付けで閣議決定された「世界最先端デジタル国家創造宣言・宜民データ活用推進基本計画」共において、ＡＩネットワーク化について、次のとおり記載された。 ・ A Iネットワーク化が社会・経済にもたらすインパクトやリスクの評価の国際的な共有、関連する社会的・経済的・倫理的・法的課題の解決に資するガバナンスの在り方に関するＧ７、ＯＥＣＤ等の場における国際的な議論を通じた検討の推進
(十2）人間中心のＡ I社会原則検討会議
政府は、A Iをよりよい形で社会実装し共有するための基本原則となる「人間中心のA I社会原則」を策定し、同原則をＧ７、ＯＥＣＤ等の国際的な議論に供するため、A Iに関する倫理や中長期的な研究開発・利活用などについて、産学民官による幅広い視野からの調査・検討を行うことを目的として、人工知能技術戦略会議の下に、「人間中心のＡＩ社会原則検討会議」を設置し42、平成30年５月８日に第１回会合が開催された。今後、継続的に検討を進め、平成30年度内に「人間中心のＡＩ社会原則」を策定することとしている。
(2-3)高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）
高度情報通信ネットワーク社会推進戦略本部（ＩＴ総合戦略本部）データ活用基盤・課題解決分科会道路交通ワーキングチームにおいて、高度自動運転システムの実現に向けた政府全体の制度整備の方針（大綱）を策定するため、「自動運転に係る制度整備大綱サブワーキングチーム」が設置され、平成29年10月5日に第1回会合が開催された。以降、平成30年3月23日までに５回の会合が開催され、自動運転に係る制度整備大綱（秦）を策定した上で、当該秦の内容に即して、高度情報通信ネットワーク社会推進戦略本部・官民データ活用推進戦略会議が同年４月17日に同大綱を決定した43。大綱においては、①安全性の一体的な確保（関係省庁連携による客観的な指標に基づく走行環境条件の設定）、②自動運転車の安全確保の考え方（安全性要件のガイドライン化（2018年夏目処)、保安基準など)、③交通ルールの在り方（2020年実用化等を見据えた交通ルールの検討)、④責任関係（民事責任（下記(3)の検討内容を含む)、刑事責任、自動運転車の走行中のデータ保存に係る検討)、⑤運送事業に関する法制度との関係等に対する制度整備等の方向性が取りまとめられている。
( 3-4 )自動運転における損害賠償責任に関する研究会
国土交通省は、自動運転における自動車損害賠償保障法（昭和30年法律第97号）の損害賠償責任の在り方について検討することを目的として、「自動運転における損害賠償責任に関する研究会」を設置し、第1回会合が平成28年11月2日に開催された。以降、平成30年３月20日までに６回の会合が開催され、同日付けで報告書を取りまとめ公表した44報告書においては、(レベル４までの自動運転車が混在する)高度自動運転システム45の導入初期である2020–25年を想定し、次に掲げる５つの論点が整理されている46。 ①　自動運転システム利用中の事故における自動車損害賠償保障法の「運行供用者責任」をどのように考えるか。 ②　ハッキングにより引き起こされた事故の損害（自動車の保有者が運行供用者責任を負わない場合）について、どのように考えるか。 ③　自動運転システム利用中の自損事故について、自動車損害賠償保障法の保護の対象（「他人」）をどのように考えるか。 ④　「自動車の運行に関し注意を怠らなかったこと」について、どのように考えるか。 ⑤　地図情報やインフラ情報等の外部データの誤謬、通信遮断等により事故が発生した場合、自動車の「構造上の欠陥又は機能の障害」があるといえるか。
(4-5)保健医療分野におけるＡＩ活用推進懇談会
厚生労働省は、A Iの特性を踏まえ、その活用が患者・国民にもたらす効果を明らかにするとともに、保健医療等においてＡＩの導入が見込まれる領域を見据えながら、開発推進のために必要な対応及びＡＩを用いたサービス等の質・安全性確保のために必要な対応等を検討することを目的として、「保健医療分野におけるＡＩ活用推進懇談会」を設置し、平成29年1月12日に第1回会合が開催された。以降、同年3月29日までに４回の会合が開催され、同年６月27日に報告書を取りまとめ公表した47。報告書においては、技術の強みを持つこと及び解決する必要のある課題を持つことの両面から、A I開発を進めるべき重点領域として、ゲノム医療、画像診断支援、診断・治療支援、医薬品開発、介護・認知症対応、手術支援の６点を選定した上で、個別のＡ Ｉ技術の開発促進に加え、ＡＩの有効性・安全性確保のために適切なルール整備が必要であるとの見解が示されている。また、A I活用促進のために、十分な質・量を兼ね備えたデータベースを整備することを起点とし、開発の推進と活用が進むことによる保健医療の向上が循環的に進む「保健医療循環ＡＩ開発エコシステム」が重要であるとされている。一方、保健医療分野におけるＡＩの限界とあるべき姿として、ＡＩによる判断が患者・国民のためにならない可能性があることに言及し、そのために、ＡＩはあくまでコンピュータによる人間の知的活動の支援のためのものであり、ＡＩによる予測を含めた各種状況を踏まえて人間が最終判断を下す必要性は引き続き残ること、将来の保健医療関係者は、人工知能を保健医療の質の向上を増幅させるものとしてうまく使いこなしていく知識・技術が必要であることが指摘されている。
(5-6) ＡＩ・データ契約ガイドライン検討会
経済産業省は、契約によるデータの利活用やＡＩの利用・開発を促進するため、それらの契約を締結する際の法的論点などを整理することを目的として、平成29年12月に「ＡＩ・データ契約ガイドライン検討会」を設置した。以降、同検討会の下に設置した作業部会において具体的なユースケース48に基づき検討を重ね、平成30年３月20日の第３回会合において素案を提示した後、意見募集（パブリックコメント）を経て、同年６月15日に「ＡＩ編」及び「データ編」の２編からなる「ＡＩ・データの利用に関する契約ガイドライン」を取りまとめ公表した49。 A I編は、特に機械学習技術を念頭に、そうした技術を利用したソフトウェアの開発契約又は利用契約を作成するに当たっての考慮要素、トラブルを予防する方法等に関する基本的な考え方等について整理したもので、技術特性（学習済みモデルの内容・性能等が契約締結時に不明瞭であること、その内容・性能等が学習データセットに依存していること、その生成に際して特にノウハウの重要性が高いこと、各種生成物に対する再利用の需要が存在すること等)を踏まえた契約の在り方等が説明されている。特に、開発契約に関しては、A I技術の特性を考慮した「探索的段階型」の開発方式（①アセスメント段階、②ＰｏＣ 50段階、③開発段階、④追加学習段階を設け、ステップ・バイ・ステップで検証と確認を経ながら開発を進める方式)が提案され、段階ごとに論点やモデル契約が提示されている。このほか、外国企業との間で契約を締結する場合の考慮要素等が示されている。データ編は、契約類型別にデータの取扱いに関する法的論点や契約での取決め方等について整理したもので、契約の類型を「データ提供型（一方当事者から他方当事者へのデータ提供)」、「データ創出型（複数当事者が関与して創出されるデータの取扱い）」、 「データ共用型(プラットフォームを利用したデータの共用)」の３つに分類した上で、契約条項例や条項作成時の考慮要素(クロス・ボーダー取引、個人情報の取扱いを含む)がそれぞれ説明されている。
( 6 7 )産業競争力懇談会
一般社団法人産業競争力懇談会(COCN : Council on Competitiveness - Nippon)は、平成29年度の推進テーマの１つとして、「人工知能間の交渉・協調・連携」に関する検討を産学官連携の下で行い51、最終報告書を平成30年2月21日に公表した52。報告書においては、対象とするユースケースを「製造バリューチェーン分野」(加工、組立から物流に至るまでの一連のサプライチェーンの受発注契約の支援）及び「交通・人流分野」（交通管制連携、モビリティ・サービス（交通リソースの融通）の２つ53に絞り、両分野（のユースケース）における課題分析を行うとともに、想定されるステークホルダへのヒアリングを計16件実施している。その結果として、ネットワーク外部性54の突破が多くのステークホルダの主たる課題として挙げられており、最小実装によるスモールスタートを初段とした各ユースケースでの交渉・協調・連携の社会実装を官民が連携して段階的に推進していくことが重要であることその基本的な段取りを①プレーヤー間でのシミュレーション、②限定環境下（特区など）での一部プレーヤー間での実動作、③限定環境下でのプレーヤー拡大、④一般環境へ拡大の４つとし、各前段の開発内容がそのまま使えること各ユースケースでこれらのステップを横断的に進められることが好ましいことなどの提言がなされている。
(구8 )日本経済団体連合会
一般社団法人日本経済団体連合会は、産業界の現状として日本企業のＡＩ及びその関連分野における国際的な産業競争力を向上させるべく、未来産業技術委員会の下に「ＡＩ活用原則タスクフォース」を設置し55、第１回会合を平成30年１月17日に開催した。タスクフォースにおいては、①社会的インパクト、②公共財（Social Goods）としてのＡＩ及び③産業競争力の向上を論点として議論を行っており、平成30年内の取りまとめに向け、ＡＩの展開戦略とともに、ＡＩ− readyな組織・社会の構築の必要性等を打ち出す方向で検討が進められている。
2.海外の動向
( 1 )米国電気電子学会( I E E E )米国電気電子学会(ＩＥＥＥ)の自律的及び知的システムの倫理(Ethics of Autonomous and Intelligent Systems）に関するグローバル・イニシアティブは、2017年12月12日に報告書「倫理的に調整された設計　第２版」を公表した56。第２版は、 ＡＩの倫理的及び社会的な実装の在り方についての公衆の議論の発展、標準（ＩＥＥＥ P 7000シリーズ等）及び関連する認証プログラムの策定の喚起、各国の政策及びグローバルな政策の形成の促進を目指して、第１版57の公表（2016年12月）後に寄せられたフィードバックなど58を踏まえて取りまとめられたものである。第２版においては、第１版に引き続き、ＡＩの倫理的な設計、開発及び実装において参照されるべき一般原則として、人権、幸福、アカウンタビリティ、透明性、悪用への警戒の５つ項目が掲げられている。また、自律型知的システム(ＡＩＳ : Autonomous and Intelligent System)に人間の規範や価値を実装するための方法論に基づきＡＩＳに関する経済的・人道的・法的課題について整理するとともに、汎用人工知能や自律型兵器に特有の問題についても論じられている。なお、第２版では、第１版に盛り込まれている８つの章59に加え、新たに、⑨感情（affective）コンピューティング、⑩政策、 @ＡＩＳにおける伝統的倫理感、@ＩＣＴにおける複合現実、@幸福（Well-being）をテーマとする５つの章が追加されている。さらに、第２版の公表に先立って、ＩＥＥＥは、2017年11月17日に第１版において示された論点等を踏まえ、A Iの倫理に関し、次に掲げる３件の標準プロジェクトを新たに承認した60 ＩＥＥＥ Ｐ7008™-ロボット、知能及び自律的システムのための倫理的に駆動され.たナッジの基準:ロボットやＡＩが利用者に倫理的なナッジ（選択肢の提示等）を与えられるよう設計するための基準を策定。 I E E E  P 7009™–自律的及び準自律的システムのフェールセーフの設計基準：A . I等の障害・事故が生じた際の安全性を確保するための設計の基準を策定。 ＩＥＥＥ　P 7010℃–倫理的なＡＩ及び自律的システムのための幸福の計測基準：Ａ I等に影響を受ける人間の幸福を計測するための基準を策定。また、2018年5月23日に次に掲げる２件の標準プロジェクトを新たに承認した61。 I E E E  P 7011™-ニュース情報源の信頼性特定・評価のプロセスに関する標準: ＡＩ等に影響を及ぼすニュース記事の精度(真実度)を評価するための基準を策定。 • プライバシー条項を読み了解し同意する手段を、第三者が操作する機械が個人に提供するための基準を策定。
( 2 )米国情報技術工業協議会( I T I )
米国情報技術工業協議会（ＩＴＩ） 62は、2017年10月24日にＡＩの可能性を最大限に引き出すことを目的とした「ＡＩ政策原則」を公表した63。原則においては、（責任ある開発・利活用を促進するための）産業界の責任に関する項目として、責任ある設計及び実装、安全と制御可能性、頑健で代表的なデータの利用(対バイアス)、解釈可能性、自律性に応じたＡＩシステムに関する責任が掲げられている。また、(ＡＩエコシステム構築推進に関する)政府への期待に関する項目として、 ＡＩの研究開発への投資、柔軟な規制手法の検討、インターネットのイノベーション及びセキュリティの促進、サイバーセキュリティとプライバシー、グローバルな基準及びベストプラクティスが掲げられている。さらに、公私協働に関する項目として、アクセスの民主化と平等な機会の創出、科学・技術・工学・数学（S T E M）教育の促進、労働の置き換えに対する考慮、公私協働が掲げられている。
(3) ＵＮＩグローバルユニオン
サービス業や情報産業等の労働者を代表する国際的な労働組合であるＵＮＩグローバルユニオンは、2017年12月11日に労働者の利益を擁護し職場における権力の健全な均衡を維持する観点から、ＡＩの倫理に関する「倫理的ＡＩのための上位10原則」を公表した64 10原則は、①透明性、②「倫理的な記録装置」の実装、③人々と地球への奉仕、③人間による指揮アプローチの採用（ＡＩシステムが人事に用いられた際の労働者の説明を求める権利を含む)、⑤性別に左右されず、バイアスのないＡＩ、⑥ＡＩシステムの便益の分配、①（雇用環境の変化への）適切な移行の確保並びに基本的自由及び権利の支援、⑧グローバルガバナンスのメカニズムの構築、⑨ロボットへの帰責の禁止、⑩Ａ I軍拡競争の禁止、から構成されている。
( 4 ) ＥＵ第29条データ保護作業部会
E U第 29 条データ保護作業部会は、E U一般データ保護規則（General   Data Protection Regulation : GDPR)の解釈の明確化を目的として、2017年10月3日に同規則における「自動処理による個人に関する意思決定(decision)及びプロファイリングに関する規定」に関するガイドラインを公表し、改訂した上で、2018年2月6日に採択した65ガイドラインにおいては、ＡＩ等の技術発展によりプロファイリング及び自動処理による意思決定が容易になっており、プロファイリング及び自動処理による決定が、個人や経済・社会に便益をもたらすと同時に、個人の権利及び自由に重大なリスクを及ぼし得るとの認識が示されている。その上で、①プロファイリング及び自動処理による意思決定一般に関する指針(透明性、公正性、目的の限定、データ最小化、正確性等）及び②（ＧＤＰＲにより原則禁止とされる）法的効果又はそれに類する重大な影響を個人に及ぼす自動処理のみによる意思決定に関する指針（「決定に服さない権利」、例外規定等）が示されている。関連して、プロファイリングの文脈で、データ主体の「情報を与えられる権利」、「アクセス権」、 「異議申立権」等が具体化されている。また、子供を対象とした行動ターゲティング広告等のプロファイリング及び自動処理による決定について、適切なセーフガード措置を取るべきである等の厳格な指針が示されている。
( 5 )欧州委員会
欧州委員会の独立諮問機関である欧州科学・新技術倫理グループ（the European Group on Ethics in Science and New Technologies :E G E )は、2018年3月9日にA I ・ロボティクス・自律システムの設計、利活用及びガバナンスなどに関する国際的な理解を確保していくよう欧州委員会に対し要求する旨の声明文を公表した66。声明文においては、議論の第一歩として、ＥＵ条約・基本権憲章に含まれる価値に基づく9つの倫理原則（①人間の尊厳、②自律性、③責任、④正義・公平・連帯、⑤民主主義、⑥法の支配とアカウンタビリティ、⑦セキュリティ・安全性・心身の整合性、⑧データ保護とプライバシー、⑨サステナビリティ）が提案されている。また、欧州委員会は、同日に次に掲げる事項をタスクとするハイレベル専門家グループの募集を開始し、同年６月14日に52名のメンバーを選出した。 •産官学に加え、消費者団体や労働組合、市民団体などＥＵ内外の複数のステークホルダを含めたＡＩに関するアライアンス「European ＡＩ Alliance」の設立5の助言を行うこと•上記ＥＧＥの声明を踏まえたＡＩガイドライン案を策定し、アライアンスに照会しつつ、2018年末までに公開することさらに、欧州委員会は、同年４月25日に、ハイレベル専門家グループを同年５月までに、「European A I Allianee」を同年７月までに、それぞれ設立する予定であることを公表するとともに、久陥製品における消費者及び生産者のための法的な明瞭性確保に向け、技術開発の観点から、製造物責任（ＰＬ）指令の解釈に関するガイダンスを2019年中頃までに発行する予定であることを公表した68。おって、欧州委員会は、同年５月17日に完全自動運転に関する発表を行い、2030年代に欧州で完全自動運転社会を実現していくための工程の１つとして、ＡＩ倫理ガイドラインを策定する旨を掲げている69。
(6)仏国
仏与党（ＬＲＥＭ）所属のセドリック・ビラニ下院議員は、2018年3月28日にＡＩ普及のための報告書を発表した。報告書においは、ＡＩの普及が最も進んでいる国々として、米国、中国、英国、カナダ、イスラエルを挙げ、欧州／フランスが緊急に挽回するべきである旨が強調されており、そのための具体策として、A I関係の研究者の初任給の倍増、公共部門によるプロジェクト入札の手続の簡素化と迅速化により、独創的な研究を進めやすくする環境作りなどが提案されている。また、A I開発に際して注力すべき分野として、医療、輸送、環境、防衛の４分野が挙げられている。さらに、ＡＩがもたらす倫理上の問題についても議論を深めるよう求めており、ＡＩ倫理に関する独立行政機関の設立が提唱されている70。マクロン大統領は、この報告書を受けて、同月29日にＡＩの普及に向けた施策を発表した。新技術分野でＡＩが新たな発展のカギを握ることを見据えて、諸外国との競争に打ち勝つべく、テコ入れを図るため、大統領任期終了の2022年までに15億ユーロの予算をＡＩ振興のために充当フランス国立情報学自動制御研究所（ＩＮＲＩＡ）が中心となり、４～５箇所のＡ I研究所のネットワークを構築し、民間と協力しつつ研究推進と人材育成を推進研究者によるスタートアップ設立の手続を簡素化データについて、官民両者でアクセスを簡易化、特に大手企業の一部データについては、公益性を理由に利用を認めさせるという制度を欧州レベルで導入• A I開発の重要分野として、「保健」と「モビリティ」の2分野を選定倫理面では、国際的な規模での専門家会議の設置を提言、国内におけるでは、公的機関のアルゴリズム開示の検討に取り組むなどの施策が示されている。
( 7 )英国
英国政府は、2017年11月22日にＡＩ等おける安全で倫理的かつ画期的なイノベーションを可能にすることを目的とした「データ倫理イノベーションセンター（Centre for Data Ethics and Innovation)」を新設する予定であることを公表した¶。本センターを通じて、実用的なユースケースの検討において世界をリードしていくとしていは。また、英国上院のＡＩ特別委員会は、2018年４月16日にＡＩに関する報告書「英国における人工知能（ＡＩ）:英国はＡＩを活用し、そして活用できる準備ができているか(A I  in the UK: ready, willing and able?)」を公表した72 。報告書においては、今後の英国経済成長の原動力（課題解決や生産性向上等）としてのＡＩの必要性を強調した上で、その実現のためにはＡＩの倫理的側面を中核においたアプローチが重要であるとされている。さらに、国内外において採用されるべき分野横断的なＡＩの倫理行動規範(Code of Practice)となる「ＡＩコード」の策定を含め、 ＡＩが英国社会及び経済にもたらす可能性を引き出すことを支援する一方で、ＡＩがもたらす可能性がある脅威やリスクから社会を守るために必要な74項目にわたる勧告が盛り込まれている。「ＡＩコード」の策定に当たり、次に掲げる５つの原則が提示されている。 ①　人工知能は、人類共通の利益のために開発されるべきである。 ②　人工知能は、透明性及び公平性の原則に基づいて運用されるべきである。 ③　人工知能は、個人・家族・コミュニティのデータに関する権利やプライバシーを侵害する形で利用されるべきではない。 ④　すべての市民は、人工知能と共に精神的・感情的・経済的な繁栄を享受できるような教育を受ける権利を持つべきである。 ⑤　人間を傷つけ、破壊し、欺く自律的な力は人工知能に埋め込まれるべきではない。併せて、同報告書において、「データ倫理イノベーションセンター」の役割として、データ信託（data trusts）によってデータが管理されている人々の意見の反映確保、 A Iシステムの透明性に関する要件に係るガイダンスの作成、分野横断的なA Iコードの導入などを行う予定であることが示されている。加えて、下院科学技術委員会は、同年５月23日にアルゴリズムにおける意思決定の在り方に関する報告書(Algorithms in Decision-making)を公表した73。報告書においては、アルゴリズムのアカウンタビリティを担保するために特に透明性が重要であることが指摘されるとともに、政府に対して、公共サービスで使用するアルゴリズムの監督を行うとともに、民間とのパートナーシップの開発・展開を調整する閣僚を特定すべき旨が要求されている。これに加えて、「データ倫理イノベーションセンター」の役割として、アルゴリズムによるバイアスの評価、透明性確保のためのツールの検証などを行うべき旨が指摘されている。以上を受けて、英国デジタル・文化・メディア・スポーツ省（D CM S）は、同年6月13日に「デジタル倫理イノベーションセンター」の役割・活動内容・運営方法に関する素案を示した上で、公開諮問を開始した（同年９月５日まで）当。素案においては、同センターに対し、安全かつ倫理的なイノベーションを遂行するために必要となる措置を政府に提言する明確かつユニークな役割を持たせること、倫理的かつ革新的なデータとＡＩの使用を妨げる可能性のある規制・ガバナンスによるギャップを同定するための最新研究及びエビデンスデータをフォローさせること、データの使用に対する障壁に対処するために必要となる政策・規制措置を同定・公表・提言させること、（センターに）法的権限を与えること等が言及されている。
(８)米国
ホワイトハウスは、2018年5月10日、米国がＡＩについて主導的立場をとるための必要な政策を議論するため、100名を超える政府機関、産業界、学術界の代表を集めたＡＩサミットを開催した75。サミットにおいては、国家レベルのＡＩのＲ＆Ｄエコシステムの支援、ＡＩの便益を享受するための人材育成、A Iイノベーションに対する阻害要素の除去、特定領域におけるインパクトの高いＡＩ応用の可能性を論点として議論が行われた。また、研究開発の省庁間での優先順位を調整し、連邦政府のＡＩ投資計画を推進するＡＩ特別委員会を設立することが公表された。
(9)中国
中国政府は、2017年7月20日に2030年までに同国を理論・技術・応用の全分野で世界の最高水準まで引き上げ、世界の主要なＡＩのイノベーションの拠点となることを目標に掲げた「次世代人工知能発展計画」 76を公表した。計画においては、第一段階である2020年までにＡＩの技術を「世界先進水準まで引き上げる」ことが目標として掲げられている。その具体策として、政府工業・情報化部は、2017年12月14日にＡＩの発展に必要となるハード・ソフト両面の基盤強化、人材育成などを含む「次世代人工知能産業の発展促進に関する三年行動計画」(2018-20年)を発表した。また、A Iに関するサービスの開発が急速に進展する中、標準化の推進も重視されており、その一環として、工業・情報化部配下で情報通信産業の標準化を担当する中国電子技術標準化研究所は、2018年1月18日に産学各団体の協力の下、国内外のＡＩに関する標準化の動向を取りまとめた白書を作成し公表アサるとともに、ＡＩ標準化組織及び専門諮問組織の設立を発表した。白書においては、技術面の進歩及びその標準化と並行して、安全性、倫理面（人間の尊厳、人間・自然の利益の最大化）、プライバシーの政策、法、及び標準の策定が重要である旨が指摘されている。
3.国際的な議論の動向
( 1 )  O E C D (経済協力開発機構)
ＯＥＣＤは、2017年（平成29年）10月26日から27日にかけて、フランス・パリにおいて、総務省との共催により、A Iの普及が社会にもたらす機会と課題、政策の役割と国際協調について議論を行うべく、ＡＩに関する政策をテーマとする国際カンファレンス「ＡＩ： Intelligent Machines, Smart Policies」を開催した78。カンファレンスには、世界各国の産学民官の有識者が一堂に会し、活発な議論が行われた。本推進会護から、須藤議長及び平野幹事・環境整備分科会長が参加し、A I開発ガイドライン案など本推進会議の検討状況及び成果を紹介した。加盟各国の参加者やＯＥＣＤ事務局らから、A I開発ガイドライン案などを踏まえつつ、国際社会においてＡＩに関する議論と検討を進めることについて賛同する姿勢が示された。また、2017年（平成29年）11月21日から22日にかけて、デジタル経済政策委員会(Committee on Digital Economy Policy : CDEP)が開催され、OECDのAIに関する今後の取組について議論が行われた79。本推進会議から、森川幹事（同委員会副議長（当時））及び実積構成員（同委員会次期副議長（当時）が参加した。委員会における議論の結果、ＯＥＣＤにおける今後の取組として、①2018年（平成30年）５月開催の次回会合に向け、事務局が分析レポートを作成すること、②加盟国の意向を踏まえつつ、2019年（平成31年）以後、理事会勧告作成に向けた作業に着手すること80について、加盟国の同意が得られた。さらに、2018年（平成30年） 5月16日から18日にかけてC D E Pが開催され、事務局より「社会におけるＡＩ」と題する分析レポートが報告された。分析レポートにおいては、本推進会議の検討状況及びＡＩ開発ガイドライン案のＯＥＣＤ、Ｇ７等への展開について紹介されている。分析レポートは、今次会合における議論を踏まえた修正がなされた後、同年11月の会合で最終化される予定である。
(2) G 7
2017年（平成29年） 9月25日から26日にかけて、イタリア・トリノで開催されたG 7情報通信・産業大臣会合の閣僚宣言において、A 1の進歩が経済及び社会に莫大な便益をもたらすことを認識するとともに、デジタル経済におけるイノベーション及び成長を主導する人間中心のＡＩというビジョンを共有し、「附属書２：我々の社会のための人間中心のＡＩに関するＧ７マルチステークホルダ交流」 81に記載するマルチステークホルダの交流を通じて同ビジョンを一層発展していくことが合意された。なお、附属書２において、ＡＩ開発ガイドライン案が言及されている。また、2018年（平成30年） 3月27日から28日にかけて、カナダ・モントリオールで開催されたＧ７イノベーション大臣会合において、「未来の仕事に備える(Preparing for Jobs of the Future)」をテーマに、ＩｏＴ、ビッグデータ、ＡＩ等の新たなイノベーションが社会・経済や労働市場に及ぼす影響について議論が行われ、その成果が、議長サマリーの形で取りまとめられた。なお、「附属書Ｂ：ＡＩに関するイノベーション会合声明」 82において、ＡＩ開発ガイドライン案が言及されている。さらに、同年６月８日から９日にかけて、カナダ・シャルルボワで開催されたＧ７首脳会合において、同月９日に発出された「ＡＩの未来のためのシャルルボワ共通ビジョン」 8を支持することが首脳合意文書8として示された。同ビジョンにおいては、冒頭に「経済成長、社会的信用、ジェンダー間の平等及び包摂性を促進するＡＩは、2018年のＡＩに関するＧ７モントリオール大臣声明で示されたイノベーションを促進する予測可能で安定した政策環境及び2017年のＧ７情報通信・産業大臣会合のトリノ宣言で示されたマルチステークホルダ及び人間中心のビジョンに依っている」旨が記載されているのに加え、「人間中心のＡＩ及びＡＩの商業的普及を促進し、引き続き適切な技術的、倫理的及び技術中立的なアプローチを前進させるための努力を行うことにコミットしていく」等、全12のコミットメントが記載されている。今後は、G 7による将来の政策協議に情報を入力するため、O E C Dの支援を受け、 ＡＩに関するマルチステークホルダによる対話・連携を促進していく予定である。また、時限設置されるイノベーションWGの支援により、同年秋にカナダが主催するＡＩに関するマルチステークホルダ会合を開催する方向で調整が進められる予定である。
第２章　ＡＩネットワーク化が社会・経済にもたらす影響
1. ＡＩネットワーク化に関するシナリオ分析（分野別評価）
( 1 )背景・経緯
検討会議において、ＡＩネットワーク化の進展に伴いロボットに関し想定され得るリスクのシナリオを試行的に例示しつつ分析を行い、シナリオに即したリスク対処の在り方を検討した。ここで示されたシナリオは、あくまでも試行的に例示されたものに過ぎず、今後、社会の各分野のステークホルダの参画を得つつ、ＡＩネットワーク化の進展等に応じて、リスク・シナリオを拡充するとともに、その内容やリスク評価等を不断に見直すなど、リスク・シナリオについて継続的に検討を行い、リスク・シナリオの共有を図り、シナリオに基づくリスク対処を進めていくことが求められるとされている85。また、報告書2016において、今後の課題として、リスク・シナリオの作成・共有に向けて、 • A Iネットワークの利活用の場面を想定した各種のリスクに関するシナリオの作成・　シナリオに基づくリスク対処（リスク評価、リスク管理、リスク・コミュニケーション）の推進等が提言されている86 。検討会議を発展的に改組した本推進会議においては、親会の下に環境整備分科会及び影響評価分科会が置かれ87 、このうち主に影響評価分科会において、ＡＩネットワーク化が社会・経済にもたらす影響（インパクト及びリスク）の評価に関する検討を行ってきた。本推進会議においては、報告書2016の提言を踏まえて、ＡＩネットワーク化に関するリスクのみならず、インパクト（主に良い影響、便益）についても併せて評価することが重要であるとの認識の下、A Iネットワーク化が社会・経済にもたらすインパクト及びリスクに関し、A Iシステムの具体的な利活用の場面(ユースケース)を想定したインパクト及びリスクの評価（シナリオ分析、将来展望）として、国際的な議論のためのＡＩ開発ガイドライン案の検討に向けた先行的評価A Iシステムを利活用する分野ごとの分野別評価88を実施した89なお、インパクト及びリスクの評価の対象とするＡＩシステムの具体的な利活用の場面（ユースケース）について、分野別評価においては、ＡＩシステムを利活用する分野の構成を利用者の視点から(ユーザ・セントリック・アプローチ)区分した上で本推進会議が整理したユースケースを用いた90。これら成果を踏まえ,報告書2017において、今後の課題として、 • A Iネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有が提言されている91。
( 2 )分野別評価
(1)　評価の枠組み
分野別評価における分野の区分については、報告書2017において、次のように整理している92 --- A Iネットワーク化の進展に伴いA Iシステムの利活用をめぐるエコシステムが複雑化していくものと考えられることに鑑み、将来社会の在り方に関するフォアキャスト的なアプローチとバックキャスト的なアプローチの双方を採り入れ、次の事項を念頭に置き、次表のように整理した。 • A Iネットワーク化が主としてA Iシステムの「利用者」（特に最終利用者）にどのような便益やリスクをもたらし得るのかを重視し、利用者を「個人」、「公共」及び「産業」の３つに区分した上で、「個人」については生活の各場面、「公共」については公益の確保に関連する場面、「産業」について商流が形成される場面に着目して分野の区分を設定する。分野別評価においては、A Iネットワーク化の進展により、領域が融合していくことや領域横断的なＡＩネットワークの利活用が進むことが見込まれることを踏まえて分野の区分を設定する。 A Iネットワーク化が社会的なニーズへの対応や課題の解決に貢献するものであることから、社会的なニーズ又は課題を踏まえて分野の区分を設定する。また、分野別評価においては、利用者の視点から（ユーザ・セントリック・アプローチ)評価を行うこととしていることに鑑み、主として製品・サービスの供給面の領域を横断し又は領域が融合していくものと見込まれるユースケースを用いることとし、「領域横断前の段階」と「領域横断後の段階」の２段階に分けて評価を行うこととしている。
なお、評価の対象とするインパクト及びリスクの考え方については、報告書2017において、次のように整理しており、本報告書においても、これを踏襲している。 ---インパクト及びリスクの評価に当たっては、インパクトについては、ＡＩシステムを利活用することにより、従来人間には不可能又は困難であったことが可能となることや、効率化や精度の向上等が図られることをインパクトとして評価することとした。他方、リスクについては、A Iシステムの利活用に伴い新たに生ずるリスク( A Iネットワーク化固有のリスク)だけではなく、A Iシステムを利活用しない場合と比べて増加するリスクやＡＩシステムを利活用しない場合と比べて軽減するものの、利活用する場合における事故等による被害の規模や波及がある程度大きいリスクについても評価の対象とすることとした93。なお、セキュリティに関するリスク（A Iシステムがハッキングされること等により機能不全に陥るリスク等)、不透明化のリスク（多重かつ複雑に連携しているＡＩシステムの一部の動作が不透明化することに伴い、ネットワークを介してつながるＡ Iシステムの動作全体が不透明化するリスク等)、制御喪失のリスク（ＡＩシステムが攻撃を受けたり、不具合が生じたりすることにより、制御が困難又は不可能となり、当該ＡＩシステムとネットワークを介してつながるＡＩシステム全体が機能不全に陥るリスク等)については、各ユースケースに共通するリスクと考えられることから、個々のユースケースの評価において個別には記載しないこととしている94。 ---
②　分野別評価
分野別評価について本報告書においては、上記12分野のうち、次の３分野に関するユースケースを対象として評価を行った95。 ・ 公共：行政に関するユースケース個人：移動に関するユースケース個人：居住に関するユースケースこれらのユースケースについて、次に掲げる居住に関するユースケースの例のように、A Iシステムの利活用に関するインパクト及びリスクの評価を行った。各ユースケースの評価の結果の詳細は、別紙１のとおりである96。
AIシステム相互間のネットワークが形成されることにより、行動に合わせた家事の自動化、嗜好等に合ったレシピの提案・自動調理や住宅マッチングなど、それぞれのＡＩシステムが単独で機能する場合に比べて、快適な居住環境を作ることができるようになる。さらに、AIシステム相互間のネットワークが、医療、スマートハウス、見守り、行政、金融などの領域を横断して形成されることにより、自宅における健康状態の推定、病気の予防・早期発見、病気や怪我の際の遠隔診断、高齢者等の見守りサービスが提供されるとともに、大規模な災害が発生した際の仮設住宅・復興住宅の割当て、保険金の支払いの迅速化なども図られ、領域が操断する前に比べて、災害時を含めて安心して安全に生活できる環境が整備されるようになる。 [領域横断前の段階] （領域内でのＡＩシステム相互間のネットワークが形成され、領域内における利用者の便益が飛躍的に増大）くシナリオ上想定される利活用（主なものの例示）＞ ①協画情報や行動履歴等から帰宅時間を予測し、帰宅時間に合わせて、宝内温度の奨整、入浴の準備などを行うとともに、掃除ロボットや洗濯口ボットなどが家事を自動で行う。 ②行動履歴等から把握した嗜好や健康状態を考慮したレシピを提案し、冷蔵庫等の在庫状況をもとに食材を自動発注し、食材が届いた後に料理ロポットが調理する。 ③趣味・嗜好や家族構成、経済状況等に応じて、最適な住居地、居住彩態（戸建かマンションか、購入か賃貸か等）、間取り等を提案し、マッチングを行う。 [領域横断後の段階] （A 1システム相互関のネットワークが領域横断的に形成され、領域関を連携する高度なサービスが実現)くシナリオ上想定される利活用（主なものの例示）＞ 0(居住＋医療＋スマートハウス＋見守り)生活情報や健康情報等から健康状態の推定や病気発症の予測を行い、生活改善や病気予防のためのアドバイスをするとともに、病気や怪我の際には遠隔で診断を行う。また、生活情報やカメラの映像等を用いて、高齢者等の見守りサービスを行う。 0(居住+行政+金融)大規模な災害が発生した場合に、被災者の健康状態、家屋の損壊状況や復旧の困難度合い、家族構成等を勘案して、仮設住宅や復興住宅の割当てを行う。また、被災家屋等の画像データを用いて、保険金の支払いの可否の判断を行うとともに、保険金額を算定する。

居住に関するユースケース（評価サマリ）
③　シナリオ分析から得られた示唆
分野別評価におけるシナリオ分析から、次のような示唆を得ることができた97。様々な領域横断的・融合的なＡＩシステムの利活用が可能となり、ＡＩシステム相互間の連携におけるインパクトに加えて、社会の様々な分野に広範にわたって大きなインパクトがもたらされる。 ＜領域横断・融合の例＞ ➤行政＋スマートシティ＋居住、行政＋仕事＋豊かな人生≥移動＋医療・介護＋物流＋小売、移動＋教育＋仕事＋医療・介護＋物流＋小売など≥居住＋医療＋スマートハウス＋見守り、居住＋行政＋金融各ユースケースにおいて、次に掲げる例のように共通して想定されるリスクが見受けられることから、それらのリスクへの対処が重要である。 ＜共通して想定されるリスクの例＞ >>ハッキングや不正操作等により、A Iシステムが機能不全に陥り、事故が発生するおそれがある。また、事故が発生した場合、A Iシステムがどのような判断をしたのか検証できないと、責任の所在を明らかにすることができないおそれがある。 ≥   A Iシステム間の連携が十分でなく、最適なマッチングや調整ができなかったり、適切なサービスを受けることができなかったりするおそれがある。 >>個人情報やパーソナルデータが、ハッキング等により流出したり、本人同意なく第三者に提供、共有されるおそれがある。各ユースケースにおいて、次に掲げる例のようにＡＩネットワーク化の健全な進展に向けた今後の検討に当たって留意すべき点が抽出された。 ＜今後の検討に当たって留意すべき点の例＞ >自動運転により取得される移動履歴やカメラ映像等について、プライバシーに配慮しつつ、データの積極的な利活用が期待される。 >>プロファイリング結果により、就職や転職、結婚などにおいて、不当に不利な立場に陥ることのないようにセーフティネットの検討が必要である。 >特に高齢者に有益なＡＩシステムの利活用と考えられるため、高齢者のＡＩシステムに関するリテラシーを向上させる方策が求められる。
2. ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望
( 1 )背景・経緯
①　ＡＩの利活用に関する指針の策定に向けた検討
本推進会議において、ＡＩの研究開発に当たって国際的に共有されるべき「ＡＩ開発原則(仮称)」及びその解説からなる国際的な指針たる「ＡＩ開発ガイドライン(仮称)」の策定に向けて、Ｇ７やＯＥＣＤ等における国際的な議論の用に供するため、 A I開発ガイドライン案を整理した98。また、報告書2017において、ＡＩシステムが、特段の措置が講じられているものを除いて、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものであることやネットワークに接続されたＡＩシステムの便益及びリスクが、空間を越えて、特に国境を越えて、即座に広く波及することがあり得ること等を踏まえて、ＡＩネットワーク化の健全な進展を通じたＡ Iシステムの便益の増進及びリスクの抑制について、「ＡＩ開発ガイドライン(仮称)」を国際的に共有することに加えて、利用者がそれぞれの属性等に応じて留意することが期待される事項について国際的に共有を図ることが必要である旨が提言されていろ。さらに、このＡＩの利活用に関するガバナンスの在り方に関する検討に当たっては、その前提として、A Iネットワーク化が社会・経済にもたらすインパクト及びリスクに関する問題の所在を把握することに加えて、ＡＩネットワーク化の進展を通じて形成される関係者間のエコシステムに関する展望を得ることが必要である旨が提言されている￼。
②　本推進会議における検討
これらの提言を踏まえて、本推進会議において、ＡＩの利活用において留意することが期待される事項等について検討を行うとともに、その前提となるＡＩネットワーク化の進展に伴い形成されるエコシステムの展望(以下「エコシステムの展望」という。）に関する検討を行ってきた。本推進会議におけるエコシステムの展望に関する検討に当たっては、 ・　主に利用者の視点からＡＩの利活用に着目し、次に示すようにＡＩの利用場面を4つに分類した上で、それぞれの分類ごとにＡＩの利用シーンを展望し、
＜AIの利用シーンの分類＞

その利用シーンをもとに、次に掲げる５つの事例に関するケーススタディを行い、 A Iの利活用による便益及び課題を整理した。 100ケース① ：完全自動運転ケース② ：医療診断ケース③ ：人事評価・採用ケース④ ：金融(保険)ケース⑤ ：行政
( 2 ) ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望
①　ＡＩの利用シーン
A Iの利用場面を４つに分類(都市部における利用、地方部における利用、家庭内における利用、企業における利用）した上で、次に掲げるように、それぞれの分類において４つの主な利用シーンを想定してＡＩの利活用を展望した101。 【利用場面】 【利用シーン】都市部における利用 ：移動、介護、観光・旅行、教育・人材育成地方部における利用 ：移動、医療、仕事、コミュニティ家庭内における利用 ：医療、家事、安全・快適な居住環境.企業における利用なお、時間軸を意識して、それぞれの利活用の実現時期を、「既に実用化されているもの・近い将来実現しそうなもの」、「中期的なもの」の２段階に分けている。これらの利用の場面について、次に掲げる都市部における利活用の例のように、A Ｉの利活用を展望した。それぞれの利用の場面におけるＡＩの利活用の展望の詳細は、別紙２－１のとおりである102。
②　ケーススタディ
上記①のＡＩの利用シーン等をもとに、５つの事例（完全自動運転、医療診断、人事評価・採用、金融（保険）に関するケーススタディを行い、ＡＩの利活用による便益及び課題を整理した103。例えば、完全自動運転については、次に掲げるような便益が期待される。 •人間は運転する必要がなく、自動車での移動において、移動時間を有効に活用することができるようになる。高齢者や障害者の方にとって、手軽に移動することができる手段が確保されることなり、病院や買物などに容易に出かけることができるようになる。深夜や早朝などにおける長距離トラックや長距離バスの運転をする必要がなく、働き方やワーク・ライフ・バランスを見直すことなどができるようになる。特に地方部などにおける路線バスの運転手不足などの問題を改善することができ、路線の廃止・縮小を回避することができるようになる。このような便益が期待される一方で、次に掲げるような課題が想定される。自動運転車間で交渉・調整が成立しない場合、車線変更や合流等が適切に行うことができないおそれがある。[連携] •　ＡＩシステムがハッキング等された場合、そのＡＩシステムを実装している自動運転車が正常に機能しなくなるだけではなく、ネットワークを介して、次々と他の自動運転車にも影響が及び、事故や交通の混乱が生ずるおそれがある。[連携、セキュリティ、安全] •長期間ＡＩソフトのアップデート等をしなかった場合や学習したことがない(想定できない)場面に遭遇した場合、自動運転車が周囲の状況を正しく認識することができず、障害物等を誤って認識してしまい、事故を起こすおそれがある。[セキュリティ、安全]自動運転車が事故を起こしてしまった場合、A Iがどのように判断をしたのか検証できないと、責任の所在を明らかにできず、適切な責任分配がなされないおそれがある。 [安全、ブラックボックス当化]完全自動運転の例のように、医療診断、人事評価・採用、金融（保険）及び行政に関し、それぞれのケーススタディにおいて便益及び課題を整理した。各ケーススタディの詳細は、別紙２－２のとおりである105。それぞれのケーススタディにおいて示された課題について、次章におけるＡＩの利活用において留意することが期待される事項の検討に資するよう、次表のように類型を整理した上で、それぞれの課題が、主にどの類型に属するものであるかを示した106また、このほか、A Iの利活用を促進するため、あるいは、A Iネットワーク化の健全な進展を図るためには、教育・人材育成の在り方、事故等による被害者の救済の在り方、ＡＩの利活用を促進するための法制度等の在り方などについても検討が必要であるものと考えられる。

【主としてデータに関する課題】

（注）右側は凡例
3. ＡＩネットワーク化の進展に関する考察
上記1．分野別評価や上記2．エコシステムの展望に関する検討において、様々なＡＩの利活用を展望した。これらのＡＩの利活用を踏まえて、ネットワーク化の観点からの考察(主としてＡＩネットワーク化の進展において想定される課題(ＡＩがネットワーク化することにより生ずる又は増幅する課題）の検討）を行った。
( 1 ) ＡＩネットワーク化による便益の増進
A Iネットワーク化の進展により、様々な分野において多大な便益がもたらされることについては、分野別評価やエコシステムの展望（特に②ケーススタディ）で示したとおりである108また、報告書2017においても、先行的評価におけるシナリオ分析から得られた示唆として、同じ領域内においても、様々なＡＩシステム相互間の連携が可能となることにより、A Iシステム相互間の連携前におけるインパクトに加えて、特に連携に係るA Iシステムを利活用する業務全体を通じたリアルタイムでの最適化など更に大きなインパクトがもたらされることが述べられている109。
(２) ＡＩネットワーク化の進展において想定される課題（ネットワーク化の観点から）
ＡＩネットワーク化の特徴として、次に掲げるようなことが挙げられる。様々な事業者間における多種多様なＡＩの接続（複雑な連携） •様々な事業者の多種多様なＡＩを取りまとめる基盤的なＡＩの構築(情報や権限の集中） •  様々な事業者間における多種多様なＡＩによる情報の連携（情報の共有・拡散）このような特徴を活かして、新しいサービスの開発・提供、最適化や効率化、コスト削減が可能となるなど多大な便益がもたらされる一方で、ネットワークという観点に着目した場合、次のような課題（ＡＩネットワーク化の健全な進展を阻害し得る要因) 110に留意すべきであるものと考えられる。個別の事業者のトラブル等がシステム全体に波及するおそれA Iシステム間の連携・調整が成立しないなどのおそれＡＩの判断・意思決定を検証できないおそれ（ネットワーク化により、システム全体として間の相互作用が複雑となり解析が困難になブラックボックス化するおそれ）少数のＡＩの影響力が強くなりすぎるなどのおそれ（少数のＡＩの判断によって企業や個人が不利な立場になるなどのおそれ）領域横断での情報の共有と特定の基盤的なＡＩへの情報の集中によるプライバシ一侵害のおそれA Iが想定外の動作を行うなどのおそれ例えば、個別の事業者のトラブル等がシステム全体に波及するおそれについては、 「ＡＩシステムが相互に連携して、協調・調整することになるため、例えば、ある事業者において、ハッキングやシステム障害等により一部のＡＩシステムが正常に機能しなくなった場合や災害等により通信が遮断された場合、あるいは、ある一部のＡＩシステムの判断・予測等に誤りが生じた場合や虚偽又は不適切なデータが流通した場合などに、他のＡＩシステムに次々に影響が波及し、ネットワーク全体が正常に機能しなくなったり、期待された効果（適切な判断・予測、マッチング等）が得られなくなったりするおそれがある。 Lといった課題が想定され、このような課題が生ずる事例として、次の掲げるようなものが想定される。 •セキュリティ対策等が不十分な事業者が提供しているＡＩシステムを活用した自動運転車がハッキングされた場合、連携している別のＡＩシステムが設作動又は機能不全に陥り、交通事故や交通障害等が発生するおそれがある。[連携、セキュリティ、安全]サプライチェーン全体として最適化を調整している場合、ある事業者のＡＩシステムが生産量等を誤って予測した場合や虚偽のデータを流通させた場合、全体としての最適化が実現できない（在庫不足／過剰在庫、原材料不足等）おそれがある。 [連携、データ]被災地の緊急救命において、救急車や医療機関等の間でリソース配分の最適化の調整を行う場合、ある医療機関のＡＩシステムが通信の遮断により機能不全に陥ると、適切な情報共有、リソース配分が実現されず、適切な救命活動ができなくなるおそれがある。[連携、安全]個別の事業者のトラブル等がシステム全体に波及するおそれの例のように、上記に掲げられているＡＩネットワーク化の進展において想定される課題（ＡＩネットワーク化の健全な進展を阻害し得る要因）について、その事例等を整理した。それぞれの課題に関する整理の詳細は、別紙２－３のとおりである。なお、ここで掲げられる課題についても、上記２．（２）②ケーススタディで掲げられた課題と同様に、次章におけるＡＩの利活用において留意することが期待される事項の検討に資するよう、それぞれの課題が、主にどの類型に属するものであるかを示した111
4.教育・人材育成（講論の紹介）
( 1 )背景・経緯
報告書2016において、ＡＩネットワーク化の進展を通じて異業種間の融合による新たな商品・サービス、ビジネスモデルが創出されるようになるものと展望されるが、そのような変化は、そこで働く人々の働き口、働き方、働く内容を左右し得ることとなり、ひいては、人間の生き方にも影響を及ぼし得るものと考えられると指摘されている112。また、報告書2017において、「失われる雇用から新しく創出される雇用への円滑な移行、新しく創出される雇用への適応のための教育や人材育成が重要となるものと考えられる。この点については、社会に出る（就職する）までの教育、社会に出た（就職した）後の再教育・人材育成のいずれもが重要であり、学校教育、企業内の人材育成（ＯＪＴ（On the Job Training)）ともに従来の発想や方法からの転換が求められる。また、今後、自営的就労¹¹³の可能性が高まることに鑑みると、個々人が自ら技能習得しなければならなくなるため、自助・自学のための環境整備を進めることも重要である」と指摘されている¹¹。
( 2 )本推進会議における検討
これらの指摘を踏まえて、本推進会議において、ＡＩネットワーク社会に向けた教育・人材育成の在り方に関する検討を行うとともに、ＡＩの利活用により教育・人材育成にどのような影響をもたらすのかという観点から検討を行った。教育・人材育成に関する検討に当たっては、一般的に、人間が行った方がよいこととＡＩに任せた方がよいことなどを仕分けした上で、人間が身に付けるべき能力やスキルは何か、そのような能力やスキルを身に付けるためにどのような教育や人材育成を行うべきか等について検討するというアプローチをとることが考えられる。しかしながら、本推進会議においては、人間とＡＩとの役割分担を考える際に、仮説を作り、その仮説に基づいて議論を行うよりも、複合的かつ複線的に議論を行うことが重要であるとの認識のもと、本報告書においては、構成員の意見を列挙する形で検討状況を示すこととする。なお、構成員の意見については、次に掲げる６つのテーマに分類して示すこととする115 ①　人間とＡＩとの関係・役割分担④　職業スキルの習得②　社会の変化及び人間の技能・能力5生涯教育(3)学校教育6)    A  I の利活用ここでは、それぞれのテーマにおける主な意見の概要を示すこととする。なお、主な意見の詳細は、別紙３のとおりである。
①　人間とＡＩとの関係・役割分担
人間とＡＩの役割分担については、人間中心ということを意識する必要があるといった意見や価値判断やコミュニケーション、創造性をポイントとして挙げる意見などがあった。
②　社会の変化及び人間の能力・技能
人間社会の変化を考える上では、人間自身がＡＩとのインタラクションを通して変わっていくことを１つの軸として考える必要があるといった意見や人間に求められる能力として、教養、コミュニケーション能力、教学、哲学を挙げる意見などがあった。
③　学校教育
現状の学教教育に対して強い危機感を示す意見や「自分で学ぶ」という意識改革が重要であるといった意見などがあった。
④　職業スキルの習得
職業スキルを身につける上でも、「自ら学ぶ」、「学び続ける」ことが重要であるといった意見や今後は企業内での人材育成が難しくなるといった意見などがあった。
5生涯教育
リカレント教育が重要であるといった意見やリカレント教育を含め全体をデザインする必要があり、早く議論を始めるべきであるといった意見などがあった。
6    A  I の利活用
A Iを用いて個人に応じた教育パターンを作ることができるのではないかといった意見や学ぶ時間や自己実現のための時間を確保するためにＡＩを利活用できるとよいといった意見などがあった。教育・人材育成については、本推進会議において継続的に検討を行っていく予定であり、本報告書における取りまとめは、今後の検討に当たって、キックオフ的なものと位置付けられる。本報告書の公表後、これらの意見を踏まえて、本推進会議において、さらに検討を深めることとする。
5. ＡＩネットワーク化の進展に関する指標
( 1 )背景・経緯
報告書2016において、ＡＩネットワーク化の進展が産業構造や雇用にもたらす影響を含めて、社会の変化がどの程度進展しているのかを把握することが重要であり、また、ＡＩシステムを研究開発する者、サービスを提供する者、利用者等の様々な関係ステークホルダがいる中でも、とりわけ政府が、適切な政策を企画立案し実施する上で、これらの状況を把握することは極めて重要であるという問題意識のもと、A Iネットワーク化の進展が社会にもたらす影響を評価するための指標の設定に向けた検討の方向性を検討した¹¹。また、報告書2017において、評価指標の設定について、国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けて継続的に検討することが必要である旨が提言されている 117。
( 2 )本推進会議における検討
①　検討の目的及びスコープ
これらのことを踏まえ、本推進会議において、特に政府が、政策を企画・立案するとともに、関係するステークホルダが、ＡＩの開発及び利活用の促進等に向けた環境整備に取り組むに当たり、社会の変化の状況等を把握するために参考となる指標を策定すること、また、国際的に共有され、適切に国際比較¹¹⁸を行うことができる指標の策定に向けた国際的な議論に貢献することを目的として検討を行った。検討に当たっては、次に掲げる指標を対象とし、また、国際比較に用いることができる指標の策定を視野に入れ、当面は、Ｇ７各国を対象に比較することができる指標の策定に向けて検討を行った119。 ・　ＡＩネットワーク化の進展の度合いに関する指標• A Iネットワーク化が社会・経済にもたらす影響（インパクト及びリスク） 120の度合いに関する指標
②　検討の方向性
この２つの指標の検討に当たっては、次表に示す方向性に基づいて検討を行うこととした。ただし、ＡＩネットワーク化が社会・経済にもたらす影響（インパクト及びリスク）の度合いについては、検討を進める中で、何が要因となってインパクトやリスクとなったのか、その因果関係を把握すること及びその影響の度合いを算出（定量化）することが極めて困難であるとの意見等に基づき、当面は、A Iネットワーク化の進展の度合いに関する指標について検討を行うこととした。
A Iネットワーク化の進展の度合いに関する指標については、A Iネットワーク化の進展段階121を踏まえ、それぞれの進展段階において指標としての適切な項目が異なるものと考えられることから、次に示すように、進展段階に応じた指標について検討を行うこととした。 .事前の段階      :    A Iネットワーク化の前提となる環境整備に関するもの> A Iネットワーク化事前指標第一段階： A Iネットワーク化の初期段階に関するもの第二段階以降： ＡＩネットワーク化の進展に関するもの> 
③　ＡＩネットワーク化の進展の度合いに関する指標
ＡＩネットワーク化事前指標、ＡＩネットワーク化初期指標及びＡＩネットワーク化本指標について、現時点においては、「第一段階」が進みつつある状況であること、「第二段階」以降の取組事例がないためＡＩネットワーク化本指標に関する有用な統計データがないこと等を踏まえ、当面はＡＩネットワーク化事前指標及びＡＩネットワーク化初期指標について検討することとした。 ＡＩネットワーク化事前指標及びＡＩネットワーク化初期指標については、次表に示すように既存統計の有無等を調査し、その状況に基づき今後の取組方針を定めた。
A Iネットワーク化事前指標及びA Iネットワーク化初期指標について、既存統計の有無等に関する状況は、それぞれ次頁及び次々頁に示すとおりであり、今後の取組方針として、いずれも指標として有用な項目の洗い出し・整理、アンケート調査に必要な項目の検討を行うこととしている123。 ＡＩネットワーク化事前指標については、国際電気通信連合（ＩＴＵ）やＯＥＣ D等が国際統計の調査を実施していることを参考に、次表のように有用な項目を整理した上で、主として「対象国」を基準として、項目案を抽出した。今後は、これらの項目の統計データを収集、正規化するとともに、アンケート調査における有用な項目を検討し、また、必要に応じて、項目ごとの重要性等を考慮しウェイト付けして統合124する作業を進めることが重要である。
A Iネットワーク化初期指標については、国際比較可能な統計がほとんど存在しないことから、次表のように項目を整理したものの、ほとんど有用な項目を抽出することはできなかった。
今後は、アンケート調査における有用な項目を検討することが重要である。
第３章　ＡＩの利活用において留意することが期待される事項
1.背景・経緯
( 1 )背景・経緯
平成28年4月29日及び30日に開催されたＧ７香川・高松情報通信大臣会合において、高市早苗総務大臣（当時）から、Ｇ７各国が中心となり、ＯＥＣＤ等国際機関の協力も得て、A Iネットワーク化が社会・経済に与える影響やA Iの開発原則の策定などＡＩネットワーク化をめぐる社会的・経済的・倫理的課題に関し、産学民官の関係ステークホルダの参画を得て、国際的な議論を進めることの提案がなされ、各国から賛同が得られた。同年６月20日に、検討会議の報告書2016が公表され、今後の課題のうち第一の課題として「研究開発の原則・指針の策定」が提言されている。同年10月31日に、検討会議を発展的に改組した本推進会議が発足し、第1回会合が開催された。本推進会議には、親会の下に開発原則分科会及び影響評価分科会が置かれ 125、このうち主に開発原則分科会において、ＡＩ開発ガイドライン案の作成に向けた検討を行った。同年12月28日から平成29年1月31日にかけて行ったＡＩ開発ガイドライン索の論点に関する意見募集に寄せられた意見、同年3月13日及び14日に開催されたＡＩネットワーク社会推進フォーラム(国際シンポジウム) 126における議論及び同年6月14日から同年7月7日にかけて行った報告書2017（案）に関する意見募集に寄せられた意見等を踏まえ、同年７月28日に、ＡＩ開発ガイドライン索を含む報告書2017が公表された。報告書2017において、A Iシステムが、特段の措置が講じられているものを除いて、学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化することが想定されるものであることやネットワークに接続されたＡＩシステムの便益及びリスクが、空間を越えて、特に国境を越えて、即座に広く波及することがあり得ること等を踏まえて、ＡＩネットワーク化の健全な進展を通じたＡＩシステムの便益の増進及びリスクの抑制について、「ＡＩ開発ガイドライン（仮称）」を国際的に共有することに加えて、利用者がそれぞれの属性等に応じて留意することが期待される事項について国際的に共有を図ることが必要である旨が提言されている。また、報告書2017において、ＡＩの利活用に関するガバナンスの在り方に関する検討に当たっては、その前提として、A Iネットワーク化が社会・経済にもたらすインパクト及びリスクに関する問題の所在を把握することに加えて、ＡＩネットワーク化の進展を通じて形成される関係者間のエコシステムに関する展望を得ることが必要であ
る旨が提言されている127。
( 2 )本推進会議における検討
A Iの開発及び利活用の促進やA Iネットワーク化の健全な進展を通じて人間中心の「智連社会」128を実現するためには、ＡＩの便益の増進やリスクの抑制、ＡＩに対する理解・信頼の醸成等の取組が必要である。本推進会議における取組として、ＡＩの開発において留意することが期待される事項としてＡＩ開発ガイドライン索を取りまとめた。他方、ＡＩは、利活用の過程でデータの学習等により自らの出力やプログラムを継続的に変化させる可能性があることから、ＡＩの利活用においても留意することが期待される事項があるものと想定される。また、A Iの利活用においても留意することが期待される事項を整理することは、開発者と利用者、データ提供者などステークホルダ間の関係を考える上でも重要であるものと考えられる。このような問題意識を踏まえ、本推進会議において、ＡＩの利活用において留意することが期待される事項に関する検討を行うとともに、その検討に資するようＡＩネットワーク化が進展した社会の将来像を描きＡＩの利活用における課題等を抽出するために、A Iネットワーク化が社会・経済にもたら影響（分野別評価）やA Iネットワーク化の進展に伴い形成されるエコシステムの展望に関する検討、ＡＩネットワーク化の進展に関する考察等を行ってきた129。なお、これらの事項は密接に関連するものと考えられることから、主として親会の下に置かれた環境整備分科会及び影響評価分科会 ¹³⁰の合同分科会において検討を進めてきた。
2．関係する主体の整理
( 1 )基本的な考え方
ＡＩの利活用においては、利用者やデータ提供者など様々な主体の関与が想定されることから、次に掲げる考え方に基づいて関係する主体を整理することとする。 •  A Iの利活用においては、自らの生活や趣味等にA Iを用いる者（例:一般の個人ユーザーなど)、ＡＩを用いてサービスを提供する者（例：医師や金融機関など）というように利用者には様々な立場の者がいることが想定される131。また、ＡＩの利活用に当たっては、ＡＩシステム又はＡＩサービス 182 （以下単に「ＡＩ」ということがある。）を直接的に利用しない場合でも、ＡＩを用いたサービス（例：医療サービスや金融サービスなど）を利用（ＡＩを間接的に利用）する場合が想定される。 •  A Iの利活用においては、開発者がA Iシステムのアップデートや追加的な学習等を行うことが多いという実態を踏まえて、「ＡＩサービス」を“ＡＩシステムの機能を提供するサービス”とし、「ＡＩ付随サービス」を“ＡＩシステムのアップデート又は追加的な学習等に係るサービス“とし、これにより開発者も利活用において一定の関与があり得ることを示すこととする133。 •これらを踏まえると、A Iの利活用において留意することが期待される事項の検討に当たっては、利用者等について一定の分類を試み、分類された利用者の類型に沿って検討を行うことが適当であるものと考えられる。なお、A Iの提供及び利活用において、どのように関与しているのかを外形的に観察した上で、利用者等の分類を試みることとする。利用者等の分類について、 ≥ 特に消費者的利用者及び間接利用者（後述（(２)参照)）について 、ＡＩを利活用していることを認識している者と認識していない者とを区別すべきではないか。 ≥　消費者的利用者について、A Iシステムを保有・管理している場合やA Iの入出力を調整することができる場合と、このような事情が認められない場合とを区別すべきではないか。 ➤　子ども、高齢者、障害者など社会的弱者については、特別に留意することが期待される事項が考えられるのではないか。といった意見があることを踏まえると、今後「ＡＩ利活用原則案」に掲げられた各原則の内容に関し整理された論点 134を検討する上では、利用者の主観（利用しているシステム又はサービスがＡＩを用いたものであることを認識しているか否か）や性質、属性等も考慮する必要があるものと考えられる。 •  A Iの提供及び利活用の形態については、様々なケースが想定されることから、必要に応じて、今後の検討において関係する主体の整理を見直すこともあり得る。
( 2 )関係する主体の整理
このような基本的な考え方に基づきＡＩの利活用において関与が想定される者を次のように整理した。 .
利用者
A Iシステム、A Iサービス又はA I付随サービスを利用する者A IサービスプロバイダA I利用者のうち業としてＡＩサービス又はＡＩ付随サービスを他者に提供する者サービスプロバイダ
最終利用者
利用者のうち業としてＡＩサービス又はＡＩ付随サービスを他者に提供することなくＡＩシステム又はＡＩサービスを利用する者A IネットワークサービスプロバイダA Iサービスプロバイダのうち楽として情報通信ネットワークを通じてA Iサービス又はＡＩ付随サービスを他者に提供する者135オフラインＡＩサービスプロバイダA Iサービスプロバイダのうち業として情報通信ネットワークを通じることなくA Iサービス又はA I付随サービスを他者に提供する者ビジネス利用者136最終利用者のうち業としてＡＩシステム又はＡＩサービスを利用する者消費者的利用者137最終利用者のうちＡＩシステム又はＡＩサービスを利用する者（ビジネス利用者を除く）
間接利用者138
最終利用者がＡＩシステム又はＡＩサービスを利用して提供するサービス等を受ける者
データ提供者
他者が利用するＡＩシステムの学習等のためにデータを提供する者第三者他者の利用するＡＩにより付随的に自らの権利・利益に影響を受ける者開発者ＡＩシステムの研究開発を行う者このような整理を踏まえて、ＡＩの利活用の事例に即した具体例は次のとおりである。 ＜例①：医療用クラウド＞ A  Iサービス（例：医療用Ａ  Iクラウドサービス）の提供*自ら開発したＡＩシステムを利用したＡＩサービス(例：医療用ＡＩクラウドサービス)を他者（例：医師）に提供でしており、「開発者」であるとともに、「 A  Iサービスプロバイダ」にも該当※ AI付随サービス(アップデート・追加的な学習等)も提供A  Iサービス（例：医療用Ａ Iクラウドサービス）を利用する者であり、「最終利用者」に該当A  Iサービス（例：医療用Ａ  I最終利用者（例：医師）がＡＩサービス（例：医療用ＡＩクラウドサービス）を利用して提供するサービス（例：医療サービス）を受ける者であり、 「間接利用者」に該当＜例②：融資審査＞ ＡＩシステムを他者に提供した後も、ＡＩ付随サービス（アップデート・追加的な学習等）を提供しており、「開発者」であるとともに、「 A  Iサービスプロバイタにも該当A  Iシステム（例：融資審査システム）の提供A  I付随サービス（アップデート・追加的な学習等）の提供A  Iシステム（例：融資審査システム）を利用する者であり、「最終利用者」に該当(例：金融機関) A  Iシステム（例：融資審査システム）を利用したサービス(例：融資)の提供最終利用者（例：金融機関）がＡＩシステム（例：融資審査システム）を利用して提供するサービス等（例：融資）を受けようとする者であり、 「間接利用者」に該当＜例③：自動運転タクシー＞ A  Iシステムを他者（例：自動運転タクシー業者）に提供した後も、A I付随サービス（アップデート・追加的な学習等）を提供しており、「開発者」であるとともに「 A  Iサービスプロバイダ」にも該当A  Iシステム（例:自動運転車）を利用する者であるが、A  Iシステムを用いたＡ  Iサービス（例：自動運転タクシー）を他者（例：乗客）に提供する者であり、「 A  Iサービスプロバイダ」に該当A  Iサービス（例：自動運転タクシー）を利用する者であり、「最終利用者」に該当利用者には該当しないが、事故発生時の被害等權利・利益への影響に配慮する必要＜例④：生産ラインの異常検知＞自ら開発したＡＩシステムを利用したＡＩサービス(例:異常検知サービス)を他者(例:製造メーｶｰ等)に提供すており、「開発者」であるともに、 [ A Iサービスプロバイ列にも該当※ AI付随サービス(アップデート・追加的な学習等)も提供最終利用者(例:製造メーカー等) A Iサ−ビス(例:異常検知サ−ビス)を利用する者であり、「最終利用者」該当
＜例⑤：ＡＩアシスタント（ＡＩスピーカー） >
自ら開発したＡＩシステムを利用したＡＩサービス(例：ＡＩアシスタントサービス)を他者(例： A  Iアシスタント対応のＡ Iスピーカーを利用する個人）に提供*しており、「開発者」であるとともに、 「ＡＩサービスプロバイダ」にも該当※ AI付随サービス(アップデート・追加的な学習等)も提供A  Iサービス（例：Ａ Iアシスタントサービス）を利用する者であり、「最終利用者」に該当利用者には該当しないが、プライバシーへの影響等権利・利益への影響に配慮する必要
3. ＡＩ利活用原則案
前章において分野別評価やエコシステムの展望、ネットワーク化の観点からの考察で課題を抽出し、それぞれの課題に応じた類型を整理した。これらのことを踏まえ、各類型に属する課題への対応を意識して、ＡＩの利活用において留意することが期待される事項の検討を行った。 ＡＩの利活用の促進やＡＩネットワーク化の健全な進展に向けて、ＡＩの便益の増進とリスクの抑制を図り、A Iに対する信頼を醸成するため、利用者及びデータ提供者がA Iの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りまとめた139 ＡＩ利活用原則案は、ＡＩ開発ガイドライン案と同様に、ＡＩの便益及びリスクが国境を越えて広く波及することが見込まれることから、国際的な議論のためのものとするとともに、規制の導入を目指すものとすることは適当ではないことから、非規制的かつ非拘東的なもの（いわゆるソフトロー）としている。また、ＡＩ関連技術やＡＩの利活用が今後とも飛躍的に発展することが期待されることから、国際的な議論を踏まえ、A I利活用原則案を不断に見直し、必要に応じて柔軟に改定することとする。
①　適正利用の原則
利用者は、人間とＡＩシステムとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努める。
②　適正学習の原則
利用者及びデータ提供者は、ＡＩシステムの学習等に用いるデータの質に留意すな。
③　連携の原則
A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、A Iシステム又はA Iサービス相互間の連携に留意する。また、利用者は、A Iシステムがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。
④安全の原則
利用者は、A Iシステム又はA Iサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮すな。
⑤セキュリティの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留音する。
⑥　プライバシーの原則
利用者及びデータ提供者は、A Iシステム又はA Iサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。
①  事態・自律の原則
利用者は、A Iシステム又はA Iサービスの利活用において、人間の尊厳と個人の自律を尊重する。
項 公平性の原則
A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、A Iシステム又はA Iサービスの判断によって個人が不当に差別されないよう配慮する。
⑨　透明性の原則
A Iサービスプロバイダ及びビジネス利用者は、A Iシステム又はA Iサービスの入出力の検証可能性及び判断結果の説明可能性に留意する。
@アカウンタビリティの原則
A Iサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。 ＡＩ利活用原則案では、「２．関係する主体の整理」で分類した主体ごとに、留意することが期待される事項を原則として取りまとめているが、例えば、A Iサービスプロバイダ、最終利用者のいずれもが留意することが期待される事項については、「利用者は・・・留意する。」というように、大括り化して取りまとめている。しかしながら、ＡＩサービスプロバイダと最終利用者とでは、留意することが期待される事項の具体的な内容は異なるものと考えられる。例えば、「適正利用の原則」に関して、ＡＩサービスプロバイダは、適正な範囲及び方法でＡＩを利活用するに当たっては、ＡＩサービスを他者に提供する観点から必要となる事項について開発者から情報提供・説明を受けることが必要となる。他方、最終利用者は、自己の業務や生活における利便性の向上等のためにＡＩを利用するに当たって必要となる事項についてＡＩサービスプロバイダから情報提供・説明を受けることが必要となる。このように、それぞれの場面で求められる情報提供・説明の内容が異なることに加え、ＡＩサービスプロバイダは、開発者に説明を求める立場であるとともに、最終利用者からは説明を求められる立場にある。これらのことを踏まえると、「適正利用の原則」に限らず、他の原則に関しても、A Iサービスプロバイダと最終利用者とでは、留意することが期待される事項の具体的な内容が異なることが想定される。また、同じ主体で括られたとしても、それぞれの利用者が、ＡＩに関して有している能力や知識の多寡、必要な措置を実施する容易性等により、果たすことが期待される役割や責任の負担の度合いは異なるのではないかと考えられる。他方で、このように多様な利用者が想定されるが、それぞれが可能な範囲において、関係者と協力して事故等の予防措置や事後対応（情報共有、停止・復旧、原因解明、再発防止措置等）に取り組むことが期待されるものと考えられる。 140本報告書においては、A I利活用原則案を取りまとめるとともに、各原則の内容に関し継続して検討すべき論点を整理した 141。ＡＩの利活用において、各原則の内容に関し、利用者等が留意することが期待されるものとして適切な方向性を示すためには、より具体性を持たせることが求められる。様々な立場の利用者が関与することや様々なＡＩシステムやＡＩサービスの提供が見込まれること等を踏まえ、ＡＩ利活用原則案の各原則の内容について詳細な検討を行うこととする。
4. ＡＩ利活用原則案の各原則の内容に関する論点
A Iの利活用の内容や形態は多岐にわたることや利用者の分類ごとに期待される事項が異なることなどに鑑み、A I利活用原則案の各原則の内容については、さらに詳細な検討を要する。このため、本報告書においては、各原則の内容に関し継続して検討すべき論点を整理した。本報告書の公表後、整理された論点を踏まえ、最終的なアウトプットの取りまとめに向けて検討を行うこととする142。
①　適正利用の原則
利用者は、人間とＡＩシステムとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努める。
【主な論点】
ア　適正な範囲・方法での利用利用者は、開発者等からの情報提供や説明を踏まえ、社会的文脈や状況にも配慮して、ＡＩを適正な範囲・方法で利用することが期待されるのではないか。また、利用者は、A Iの性質、利用の態様等に応じて、利用する前に、便益及びリスクを認識し、適正な用途を理解するとともに、必要な知識・技能を習得すること等が期待されるのではないか。さらに、利用者は、自らのＡＩの利活用が適正な範囲・方法で行われているか定期的に確認すること¹⁴³が期待されるのではないか。イ　ＡＩの便益とリスクの適正なバランスA Iサービスプロバイダ及びビジネス利用者は、A Iのリスクを適切に評価した上で、生産性の向上や業務の効率化のためにＡＩの積極的な利活用を検討するなど、 ＡＩの便益とリスクの適正なバランスに配慮することが期待されるのではないか。ウ　ＡＩソフトのアップデート及びＡＩの点検・修理等利用者は、利活用の過程を通じて、A Iの機能を向上させ、リスクを抑制するため、 A Iソフトのアップデート及びA Iの点検・修理等を行うよう努めることが期待されるのではないか。
エ　人間の判断の介在
ＡＩによりなされた判断について、必要かつ可能な場合(例: ＡＩを用いた医療等)には、その判断を用いるか否か、あるいは、どのように用いるか等に関し、人間の判断を介在させることが期待されるのではないか。その場合、人間の判断の介在の要否の基準をどのように考えるか。また、アクチュエータ等を通じて稼働するＡＩの利活用において、一定の条件に該当することにより人間による稼働に移行することが予定されている場合、どのような事項に留意することを期待することが適当か。 [基準として考えられる観点（例)] • ＡＩの判断に影響を受ける間接利用者等の権利・利益の性質及び意向• A Iの判断の信頼性の程度（人間の判断の信頼性との優劣） ・人間の判断に必要な時間的猶予・利用者に期待される能力オ　利用者間の役割分担利用者は、それぞれがＡＩに関して有していると期待される能力及び知識の多寡並びに必要な措置を実施する容易性を踏まえ、適当と考えられる役割を果たすとともに、責任を負担することが期待されるのではないか。カ　関係者間の協力利用者及びデータ提供者は、A Iの利活用により生じ得る又は生じた事故、セキュリティ侵害、プライバシー侵害等による被害の性質・態様等に応じて、関係者と協力して予防措置及び事後対応（情報共有、停止・復旧、原因解明、再発防止措置等）に取り組むことが期待されるのではないか。また、その実効性を確保するために利用者にどのようなことを期待することが適当か。
②　適正学習の原則
利用者及びデータ提供者は、ＡＩシステムの学習等に用いるデータの質に留意する。
【主な論点】
ア　ＡＩの学習等に用いるデータの質への留意利用者及びデータ提供者は、利用するＡＩの特性及び用途を踏まえ、ＡＩの学習等に用いるデータの質（正確性や完全性など ¹⁴⁴) に留意することが期待されるのではないか。また、A Iによりなされた判断の精度が損なわれたり、低下した場合には、データの質に留意して改めて学習させることが期待されるのではないか。どのような場合に、どの程度、学習等に用いるデータの正確性に留意することを期待することが適当か。イ　不正確又は不適切なデータの学習等によるＡＩのセキュリティ脆弱性への留意利用者及びデータ提供者は、ＡＩが不正確又は不適切なデータを学習することにより、ＡＩのセキュリティに脆弱性が生ずるリスクに留意することが期待されるのではないか。
③　連携の原則
A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、A Iシステム又はA Iサービス相互間の連携に留意する当。また、利用者は、A Iシステムがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。
【主な論点】
ア　相互接続性と相互運用性への留意A Iネットワークサービスプロバイダは、利用するA Iの特性及び用途を踏まえ、 A Iネットワーク化の健全な進展を通じて、A Iの便益を増進するため、A Iの相互接続性と相互運用性に留意することが期待されるのではないか。イ　データ形式やプロトコル等の標準化への対応A Iサービスプロバイダ及びビジネス利用者は、A I相互間及びA Iと他のシステム等との連携を促進するため、データ形式やプロトコル等の標準化に対応することが期待されるのではないか。また、データ提供者についても、データ形式の標準化に対応することが期待されるのではないか。ウ　ＡＩネットワーク化により惹起・増幅される課題への留意A Iが連携することによって便益が増進することが期待されるが、利用者は、自ら利用するＡＩがインターネット等を通じて他のＡＩ等と接続・連携することにより制御不能となる等、A Iがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意することが期待されるのではないか。 [ＡＩがネットワーク化することによってリスクが衰起・増幅される可能性の例] ・個別の事業者のトラブル等がシステム全体に波及するおそれ• A Iシステム間の連携・調整が成立しないなどのおそれ• ＡＩの判断・意思決定を検証できないおそれ（ネットワーク化により、システム全体として間の相互作用が複雑となり解析が困難になプラックボックス化中るおそれ） •少数のＡＩの影響力が強くなりすぎるなどのおそれ（少数のＡＩの判断によって企業や個人が不利な立場になるなどのおそれ） •領域横断での情報の共有と特定の基盤的なＡＩへの情報の集中によるプライバシ一侵害のおそれ・ A Iが想定外の動作を行うなどのおそれ
④安全の原則
利用者は、A Iシステム又はA Iサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
【主な論点】
ア　人の生命・身体・財産への配慮医療や自動運転など人の生命・身体・財産に危害を及ぼし得る分野でＡＩを利活用する場合には、利用者は、想定される被害の性質・態様等を踏まえ、必要に応じてA Ｉの点検･修理及びＡＩソフトのアップデートを行うことなどにより、ＡＩがアクチュエータ等を通じて人の生命・身体・財産に危害を及ぼすことのないよう配慮することが期待されるのではないか。また、利用者は、A Iがアクチュエータ等を通じて人の生命・身体・財産に危害を及ぼした場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。
⑤セキュリティの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留意する。
【主な論点】
アセキュリティ対策の実施利用者は、A Iのセキュリティに留意し、その時点での技術水準に照らして合理的な対策を講ずることが期待されるのではないか146。また、利用者は、セキュリティが侵害された場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。イ　セキュリティ対策のためのサービス提供等A Iサービスプロバイダは、自ら提供するA Iサービスについて、最終利用者にセキュリティ対策のためのサービスを提供するとともに、インシデント情報の共有を図ることが期待されるのではないか。ウ　不正確又は不適切なデータの学習によるＡＩのセキュリティ脆弱性への留意利用者及びデータ提供者は、ＡＩが不正確又は不適切なデータを学習することにより、ＡＩのセキュリティに脆弱性が生ずるリスクに留意することが期待されるのではないか。 [再掲：②適正学習の原則　主な論点イ]
⑥　プライバシーの原則
利用者及びデータ提供者は、A Iシステム又はA Iサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。
【主な論点】
ア　他者のプライバシーの尊重利用者は、A Iを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、A Iの利活用において他者のプライバシーを尊重することが期待されるのではないか 199また、他者のプライバシーを侵害した場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。イ　パーソナルデータの収集・分析・提供等におけるプライバシーの尊重利用者及びデータ提供者は、A Iの学習等に用いられるパーソナルデータの収集・分析・提供等において、他者のプライバシーを尊重することが期待されるのではないかっウ　ＡＩを利用したプロフィリングを行う場合におけるプライバシー等の配慮A Iサービスプロバイダ及びビジネス利用者は、人事評価・採用や融資など個人の権利・利益に重要な影響を及ぼす可能性のある分野においてＡＩを利用したプロフィリングを行う場合には、対象者のプライバシー等に慎重に配慮することが期待されるのではないか。エ　自己等のプライバシー侵害への留意消費者的利用者は、ペットロボットなどのＡＩに過度に感情移入すること等により、特に秘匿性の高い情報（自己の情報のみならず他者の情報を含む。）をむやみにA Iに与えることのないよう留意することが期待されるのではないか。オ　パーソナルデータの流出の防止A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、A Iの判断により本人同意なくパーソナルデータが第三者に提供されることがないよう適切な措置を講ずることが期待されるのではないか。
①　草厳・自律の原則
利用者は、A Iシステム又はA Iサービスの利活用において、人間の尊厳と個人の自律を尊重する。
【主な論点】
ア　人間の尊厳と個人の自律の尊重利用者は、A Iを利活用する際の社会的文脈を踏まえ、人間の尊厳と個人の自律を尊重することが期待されるのではないか。イ　ＡＩによる意思決定・感情の操作等への留意利用者には、A Iにより意思決定や感情が操作されるリスクや、A Iに過度に依存するリスクに留意することを期待することは適当か否か。このようなリスクについて誰がいかなる役割を果たすべきか。ウ　ＡＩと人間の脳・身体を連携する際の生命倫理等の議論の参照利用者は、A Iを人間の脳・身体と連携させる場合には、生命倫理の議論等を参照し、人間の尊厳と自律が侵害されないよう特に慎重な配慮が求められるのではないか。
項 公平性の原則
A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、A Iシステム又はA Iサービスの判断によって個人が不当に差別されないよう配慮する。
【主な論点】
ア　ＡＩの学習等に用いられるデータの代表性への留意A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、A Iの判断結果により、人種・信条・性別等によって個人が不当に差別されないよう、ＡＩの学習等に用いられるデータの代表性 148やデータに内在する社会的なバイアスに留意することが期待されるのではないか。利用する技術の特性及び用途に照らして、どのような場合に、どの程度、学習等に用いるデータの代表性やデータに内在する社会的なバイアスに留意することを期待することが適当か。イ　アルゴリズムによる不当な差別への留意A Iサービスプロバイダ及びビジネス利用者は、A Iに用いられるアルゴリズムにより、人種・信条・性別等によって、個人が不当に差別される可能性があることに留意することが期待されるのではないか。ウ　人間の判断の介在ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩによりなされた判断結果について、人種・信条・性別等によって個人が不当に差別されないよう、ＡＩを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、その判断を用いるか否か、あるいは、どのように用いるか等に関し、人間の判断を介在させることが期待されるのではなか。利用する技術の特性及び用途に照らして、どのような場合に、どの程度、人間の判断を介在させることを期待することが適当か。
⑨　透明性の原則
A Iサービスプロバイダ及びビジネス利用者は、A Iシステム又はA Iサービスの入出力の検証可能性及び判断結果の説明可能性に留意する149。 【主な論点】ア　ＡＩの入出力の記録・保存A Iサービスプロバイダ及びビジネス利用者は、A Iの入出力の検証可能性を確保するため、入出力を記録・保存することが期待されるのではないか150。利用する技術の特性及び用途に照らして、どのような場合に、どの程度、入出力を記録・保存することを期待することが適当か。例えば、自動運転車など人の生命・身体・財産に危害を及ぼし得る分野で利活用する場合には、事故の原因究明や再発防止に必要な範囲において、A Iの入出力を記録・保存することが期待されるのではないか。
イ　説明可能性の確保
A Iサービスプロバイダ及びビジネス利用者は、A Iの判断結果の説明可能性を確保することが期待されるのではないか。利用する技術の特性及び用途に照らして、どのような場合に、どの程度、説明可能性を確保することを期待することが適当か。特に、医療、人事評価・採用、融資など個人の権利・利益に重大な影響を及ぼす可能性のある分野において利活用する場合には、ＡＩの判断結果の説明可能性を確保することが期待されるのではないか。 (例えば、深層学習は予測精度が高いが、判断結果の説明が困難であるという現状等にも留意が必要である。)
@アカウンタビリティの原則
A Iサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
【主な論点】
ア　アカウンタビリティを果たす努力A Iサービスプロバイダ及びビジネス利用者は、人々と社会からＡＩへの信頼を獲得することができるよう、消費者的利用者、間接利用者、A Iの利活用により影響を受ける第三者等に対し、利用するＡＩの性質及び目的等に照らして、相応のアカウンタビリティを果たすよう努めることが期待されるのではないか。イ　ＡＩに関する利用方針の通知・公表A Iサービスプロバイダ及びビジネス利用者は、消費者的利用者や間接利用者らがＡＩの利活用について、適切に認識することのできるよう、ＡＩに関する利用方針（ＡＩを利用している旨、適正な利活用の範囲及び方法、利活用に伴うリスク、相談窓口など）を通知又は公表することが期待されるのではないか。利用する技術の性質及び用途に照らして、どのような場合に、どのような内容の利用方針を通知又は公表することを期待することが適当か。
5.今後の検討
今後、A I利活用原則案の各原則の内容に関し整理された論点を踏まえ、最終的なアウトプットの取りまとめに向けて検討を行うこととする。今後の検討においては、最終的なアウトプットを取りまとめるに当たって、A I開発ガイドライン索のように、目的や基本理念を整理することが必要であるものと考えられる151。この点に関し、A I利活用原則索の各原則の内容に関し整理された論点において、ある原則の内容に関し論点として掲げられている事項が、他の原則の内容に関し論点として掲げられている事項の前提として整理することが可能であるのではないかといった意見がある。各原則相互の関係も踏まえつつ、最終的なアウトプットの目的や基本理念等を検討することが適当であるものと考えられる。また、先に述べたとおり、A I利活用原則案は、主体を大括り化して取りまとめていることから、利用者の分類ごと、さらには、利用者の主観（利用しているシステム又はサービスがＡＩを用いたものであることを認識しているか否か)や性質、属性等も考慮した上で、各原則の内容に関し整理された各論点についてより詳細な検討を行うことが求められる152。その際、特に消費者的利用者が留意することが期待される事項については、懸念される課題に対し、どのような対策を講ずればよいか、より具体的に示していくことが、 A Iに対する信頼を醸成し、A Iの利活用の裾野を広げていく上で重要である。おって、最終的なアウトプットの在り方についても、ＡＩ開発ガイドライン案のように、 「ガイドライン」という形や名称で取りまとめることとするか、また、分野ごとの問題の性質等、国ごとの法制度等に相違があることに鑑み、分野共通のものとして取りまとめるのではなく、各分野のステークホルダ等が分野ごとのガイドライン等を策定する際に参照する基本的な指針(メタガイドライン)として取りまとめることとするか等について検討を行うことが必要となる。これらの検討とともに、最終的なアウトプットを人々に周知し、普及させるため、利用者等の類型ごとに整理したり、特に消費者的利用者向けに分かりやすいメッセージを発信することが重要であるものと考えられ、「ハンドブック」や「マニュアル」などリテラシー教材（利用者の手引き）を作成し、それらに基づいてワークショップ等を行ったりする等の手段・方法等についても検討することが望ましい。
第４章　今後の課題
報告書2017に掲げられている「今後の課題」 153並びに本推進会議におけるＡＩネットワーク化が社会・経済にもたらす影響に関する検討及びＡＩの利活用において留意することが期待される事項に関する検討等を踏まえ、今後の課題を次のとおり整理する。これらの課題について検討を行うに当たっては、ＡＩの研究開発や利活用、社会実装を進める中でリスクが顕在化してしまった事例 ¹⁵⁴を踏まえて、それらから得られる教訓を活かすことが重要である。
○　ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展に関する事項
( 1 ) ＡＩ開発ガイドライン（仮称）の策定
第１章において述べたように、本推進会議が作成したＡＩ開発ガイドライン案が、Ｇ 7やＯＥＣＤ等において共有され、国際的な議論が進められている 168。今後さらに国際的な議論が進められ、ステークホルダ間の合意形成の下でＡＩ開発ガイドライン(仮称）が策定されることが期待される。本推進会議においては、A I開発ガイドライン（仮称）の策定に向けた今後の国際的な議論をフォローアップするとともに、その動向に応じて、A I開発ガイドライン案を見直すなどして国際的な議論に継続的に貢献していくべきものと考える156。
( 2 ) ＡＩの利活用に関する指針の策定
前章において述べたように、本推進会議において、国際的な議論の用に供するため、 「ＡＩ利活用原則案」を取りまとめた。今後、Ｇ７やＯＥＣＤ等において、ＡＩ開発ガイドライン(仮称)と併せてＡＩの利活用に関する指針の策定に向けた国際的な議論が進められることが期待される。本推進会議においては、A Iの利活用に関する国内外の議論の動向を踏まえて、A I利活用原則案を継続的に見直し、必要に応じて改定するとともに、各原則の内容に関し整理された論点を踏まえて、最終的なアウトプットの取りまとめに向けた検討を進めることが必要である。最終的なアウトプットの取りまとめに向けた検討に当たっては、次に掲げる事項に留意することが必要である157.目的や基本理念の整理が必要と考えられるところ、その検討に当たっては、ＡＩ利活用原則案の各原則相互の関係を踏まえること。 •利用者の主観(利用しているシステム又はサービスがＡＩを用いたものであることを認識しているか否か）や性質、属性等も考慮する必要があること。 •利用者の分類（A Iサービスプロバイダ、最終利用者等）によって有している能力や知識の多寡、必要な措置を実施する容易性等が異なることを踏まえて、利用者の分類を意識しつつ、留意することが期待される事項等の具体的な内容を検討する必要があること。 •次に掲げる論点を踏まえ、最終的なアウトプットの在り方について検討する必要があること。 ➤　「ガイドライン」という形や名称で取りまとめることとするか。 ▷各分野のステークホルダ等が分野ごとのガイドライン等を策定する際に参照する基本的な指針（メタガイドライン）として取りまとめることとするか。
(３)関係するステークホルダが取り組む環境整備に関する課題
ＡＩの便益を人々や社会が享受するためには、ＡＩの開発をさらに推し進めるとともに、利活用の裾野をより一層広げていくことが必要である。そのためには、人々のA Iに対する不安を取り除き、信頼を醸成する取組を進めることが必要である。A Iの開発者や利用者が、それぞれＡＩの開発や利活用において、ＡＩの便益を増進させリスクを抑制する観点から期待される取組を行うとともに、開発者や利用者に加えて、政府や業界団体等を含めた関係するステークホルダがＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展に向けた環境整備のための取組を行うことにより、ＡＩに対する社会的な受容性の向上がもたらされる。これまで述べたように、ＡＩの開発者が留意することが期待される事項については、 A I開発ガイドライン案を作成し、A I開発ガイドライン（仮称）を策定するために国際的な議論を進めているところである。また、A Iの利用者やデータ提供者が留意することが期待される事項については、A I利活用原則案を取りまとめたところであり、今後、各原則の内容に関し整理した論点を踏まえて検討を行い、最終的なアウトプットを取りまとめることとしている。これらの取組に加えて、開発者、利用者及びデータ提供者を含む関係するステークホルダ（政府、業界団体等）がＡＩの開発及び利活用の促進やＡＩネットワーク化の健全な進展に向けた環境整備のために取り組むことが期待される事項を整理することが必要であり、例えば次に掲げる課題が挙げられる158。 ・　すべてのステークホルダが取り組むことが期待される課題≥ A Iの開発及び利活用の促進並びにA Iネットワーク化の健全な進展に関するステークホルダ間の協力、ベストプラクティスの共有の在り方の検討主として業界団体等が中心となって取り組むことが期待される課題≥ A Iの学習等に用いられるデータの形式やA I間の自動交渉のプロトコル等の標準化の在り方の検討▷ A Iの利活用、A Iネットワーク化に必要な知識・技能等に関する啓発・教育≥ A Iの開発及び利活用並びにA Iネットワーク化を推進するための人材育成≥ A Iの利活用、A Iネットワーク化に係る市場競争環境整備、利用者の選択肢の多様性の確保の在り方の検討≥  A Iの事故等に関する被害者の救済(保険等)及び被害発生の防止の在り方の検討主として政府が中心となって取り組むことが期待される課題開発者、利用者及びデータ提供者を含む関係するステークホルダ間の対話や情A報共有が促進されるための方策（対話の場の設置等）の在り方の検討▷　ＡＩの事故等が発生した場合の原因究明や再発防止等に関して関係者の協力が得られる仕組み（インセンティブの付与など）の検討▷　ＡＩの便益及びリスクを検証するための実験環境（特区、仮想実験空間等）の整備の在り方の検討≥ A Iの開発及び利活用並びにA Iネットワーク化を推進するための経済政策や産業政策、国内産業の活性化のための対外政策の検討▷ A Iの開発及び利活用並びにA Iネットワーク化を推進するための法制度等の在り方の検討ア　ＡＩの事故等に関する法的責任の所在の在り方イ　各分野におけるＡＩの利活用と業法等との関係の整理ウ　ＡＩの学習等に用いられるデータ、ＡＩにより作成されたモデル、ＡＩ創作物等に関する知的財産制度上の保護と利活用の在り方エ　ＡＩの利活用に関する個人情報の保護と利活用の在り方オ　ＡＩネットワークに関する通信の秘密の保護（ＡＩ間の通信の秘密の保護の範囲及び程度など）の在り方
( 4 ) ＡＩシステム又はＡＩサービス相互間の円滑な連携の確保
ＡＩ開発原則 159の「連携の原則」において、開発者は、ＡＩシステムの相互接続性と相互運用性160に留意することが掲げられるとともに、同原則の解説161において、開発者は、関連情報の共有、国際的な標準や規格への準拠、データ形式の標準化、ＡＰＩを含むインターフェースやプロトコルのオープン化への対応、標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件についてのオープンかつ公平な取扱いに留意することが望ましい旨が掲げられている。また、A I利活用原則秦190の「連携の原則」において、A Iサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービス相互間の連携に留意することが掲げられている。これらのことを踏まえると、A I相互間の円滑な連携の確保に関連する課題としては、例えば次に掲げる課題が挙げられる。開発者やＡＩサービスプロバイダが他の開発者やＡＩサービスプロバイダ等と共有することが期待される関連情報の範囲、共有の方法等の検討・　インターフェース、プロトコル、データ形式等の標準化又はオープン化の在り方の検討標準必須特許など相互接続性と相互運用性の確保に資する知的財産権のライセンス契約及びその条件の在り方等に関する検討連携及びこれに伴う責任の分配に関する当事者間の契約の在り方の検討当事者間の紛争解決の在り方の検討なお、これらの課題に取り組むに当たっては、ネットワーク上における様々なＡＩシステムの混在（性質や性能が異なる多様なＡＩシステムがネットワーク上に混在したり、新旧のＡＩシステムがネットワーク上に混在したりすること等)の可能性に留意することが必要である。また、本推進会議において、ＡＩ利活用原則案の「連携の原則」に関し整理された論点163を検討するに当たっては、上記の事項に留意することが必要である。
( 5 )競争的なエコシステムの確保
A Iネットワーク化の進展を通じて智連社会164を実現するためには、 • A Iシステム相互間又はA Iシステムと他の種類のシステムとの間のネットワークの形成A IシステムやA Iサービスの提供ネットワーク化されたＡＩにより創造・流通・連結されるデータ・情報・知識の利活用のそれぞれのエコシステムにおいて公正な競争が確保されることが必要である。これらのエコシステムは、今後のＡＩや情報通信ネットワークに関する技術の高度化、市場におけるＡＩシステムやＡＩサービスに対するニーズの変化、ＡＩシステムの利活用の進展等に応じて変遷していくものであり、予断を抱くべきものではないことから、競争的なエコシステムの確保に関する規制の創設の検討は将来に向けて謙抑的であるべきである。その一方で、競争的なエコシステムの確保に関し必要に応じて時宜に応じた適切な対応ができるよう備えておく見地からは、報告書2016において指摘されているように 165、関連する市場の動向を継続的に注視することが必要であるものと考えられる。
( 6 )利用者の利益の保護
A Iネットワーク化が進展して、様々な物、サービスや社会のシステムがネットワーク化されたＡＩの利用可能性を前提として提供されるようになった社会における人間の「包摂」（inclusiveness）の見地に加えて、ネットワークに接続されたＡＩに関するいわゆるネットワーク効果の見地からは、あらゆる個人又は団体が、利用者として、関連するＡＩを手頃な条件で166安心・安全に利用することができるよう、その利益が保護されることが求められる。このため、A Iネットワーク化のガバナンスにおいては、A Iシステムの開発のガバナンス及び利活用のガバナンスのいずれについても、その全体を通じて直接的又は間接的に利用者の利益の保護に資するものであることが期待される。 A I開発ガイドライン案においては、このような問題意識の下、その目的として利用者の利益の保護を掲げているとともに、同ガイドライン索に掲げるＡＩ開発原則の個々の項目は、いずれも利用者の利益の保護に資するものとしている167。また、A I利活用原則案においても、個々の原則は、いずれも利用者の利益の保護に資するものとしている168これらのことを踏まえると、特に利用者の利益の保護を直接的に志向する課題としては、例えば次に掲げる課題が挙げられる。開発者やＡＩサービスプロバイダ等から利用者に対する≥ A Iシステム又はA Iサービスの技術的特性に関する情報169 ➤継続的なアップデートへの対応の必要性に関する情報170 ➤その他リスクの顕在化又は波及の抑止に資する情報の自発的な提供¹¹¹の在り方の検討A Iサービスプロバイダ等がその提供の業務を通じて知り得た利用者又はその利用活用に関するデータ等の取扱いの在り方の検討• A Iシステムのリスクが顕在化した場合(事故の発生時等)における責任の分配や利用者等を保護する仕組み（保険等）等の在り方の検討なお、本推進会議において、特にＡＩ利活用原則案の「アカウンタビリティの原則」、 「適正学習の原則」及び「適正利用の原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
( 7 )技術開発に関する課題
A I開発原則及びA I利活用原則案の個々の項目の実効性を高めるとともに、本章に掲げる課題の解決を図るためには、制度的な仕組みとともに、技術的な仕組みが有効に機能することが期待される。例えば、次に掲げる技術の研究開発が進むことが期待される。 ＡＩシステムの入出力の検証可能性を確保するための技術及びＡＩシステムの判断結果の説明可能性を確保するための技術他のＡＩに対する監督（監視、警告など）や制御（停止、ネットワークからの切断、修理など）を行うことのできる技術A Iシステムがアクチュエータ等を通じて稼動する際の本質安全（アクチュエータの運動エネルギーなど本質的な危険要因の低減）や機能安全（自動プレーキなど付加的な制御装置の作動によるリスクの抑制）を確保するための技術•利用者に選択の機会を適時適切に提供する機能（例えば、デフォルトの設定、理解しやすい選択肢の提示、フィードバックの提供、緊急時の警告、エラーへの対処など）に関する技術•     A Iネットワークのセキュリティを高める（セキュリティ攻撃のパターンの学習、学習データのノイズの排除等）ための技術やセキュリティ攻撃を受けた際の早期復旧のための技術•    A Iシステムの学習等に用いられるデータに含まれる偏見等に起因して個人が不当に差別されるリスクを排除するための技術なお、本推進会議において、特にＡＩ利活用原則案の「透明性の原則」「安全の原則」、 「セキュリティの原則」及び「公平性の原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
○　ＡＩネットワーク上を流通する情報・データに関する事項
(8)セキュリティ対策
ＡＩ開発原則の「セキュリティの原則」において、開発者は、ＡＩシステムのセキュリティに留意することが掲げられている。また、A I利活用原則案の「セキュリティの原則」において、利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留意することが掲げられている。今後、A Iの開発及び利活用の両面において、セキュリティの確保の在り方について検討していくことが必要である。 •  A Iシステムへのセキュリティの実装の在り方の検討ＡＩシステムの学習等による利活用の過程を通じた変化に起因するセキュリティ上の問題への対処の在り方の検討•偽装・なりすまし等によりＡＩシステムが犯罪等に悪用されるリスクへの対処の在り方の検討• A Iの研究者とセキュリティの研究者との間の連携の促進に向けた検討なお、本推進会議において、ＡＩ利活用原則索の「セキュリティの原則」に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
( 9 )プライバシー及びパーソナルデータの保護
A I開発原則の「プライバシーの原則」において、開発者は、A Iシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮することが掲げられている。また、ＡＩ利活用原則索の「プライバシーの原則」において、利用者及びデータ提供者は、A Iシステム又はA Iサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮することが掲げられている。今後、A Iの開発及び利活用の両面において、個人情報・プライバシーの保護の在り方について、A Iが取り扱うデータ・情報の性質や、データ・情報の流通と個人情報・プライバシーの保護とのバランス等に留意しつつ検討することが必要である。 •個人情報の取得や活用に当たっての本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討• A Iネットワーク上を流通するデータ・情報を利活用する価値と個人情報保護・プライバシーとのバランスに配慮した制度の在り方の検討172 ＡＩシステムの学習等による利活用の過程を通じた変化に起因する意図しないプライバシー侵害のリスクへの対処の在り方の検討プロファイリングが利用者にもたらす便益及びプライバシー侵害等のリスクを踏まえたプロファイリングに関するルールの在り方の検討なお、本推進会議において、A I利活用原則索の「プライバシーの原則」に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
(10)コンテンツに関する制度的課題
報告書2017におけるシナリオ分析に基づく留意事項として、「ＡＩシステムが取り扱うデータ・情報の性質」の中で「例えば、A I生成物や学習用データ等に関し、知財制度上の取扱いが問題となる可能性がある。」ことが挙げている173。また、新たな情報財の保護・利活用の在り方に関し、A I生成物の知的財産制度上の在り方について引き続き検討すべきとの指摘がある174。今後、ＡＩネットワーク上におけるコンテンツの流通と知的財産の保護とのバランスに配慮した制度の在り方等について検討することが必要である。 •学習用データの作成の促進に関する環境の整備、学習済みモデルの適切な保護と利活用促進、ＡＩ生成物の知的財産制度上の在り方の検討¹⁷⁵ A I学習用データの作成の促進に向けた、国及び地方公共団体等が保有するオープンデータの推進A Iにより自動集積されるデータベースの保護と利活用の在り方の検討
○　ＡＩネットワーク化が社会・経済にもたらす影響に関する事項
(11) ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析
報告書2017において、今後の課題として、ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有が掲げられていたところ 176、本推進会議において、シナリオ分析（分野別評価）及びエコシステムの展望に関する検討を行った¹⁷。今後も、引き続き、シナリオ分析を行うとともに、その成果を国際的に共有することが必要である。また、エコシステムの展望について、これまでの検討を踏まえ、ＡＩネットワーク上を流通するデータやＡＩネットワークを通じて提供されるサービス等に関するエコシステムを展望することが期待される。これらのエコシステムの展望に当たっては、A Iの利活用の在り方は単一ではなく、複数のものが想定され得ることを念頭に置いて検討を行うことが望ましい。 ・ ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析の継続的な実施及び国際的な共有ＡＩネットワーク上を流通するデータに関するエコシステムやＡＩネットワークを通じて提供されるサービスに関するエコシステム等についての継続的な検討及び国際的な共有
(12) ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価
指標の設定
報告書2017において、今後の課題として、国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けた検討が掲げられていたところ 178、本推進会議において、ＡＩネットワーク化に関する指標について、特に次に掲げる２つの指標に関する検討を行った179。 ① A Iネットワーク化の前提となる環境整備に関するもの： A Iネットワーク化事前指標②　ＡＩネットワーク化の初期段階に関するもの： ＡＩネットワーク化初期指標なお、本報告書において、今後の取組方針として、指標として有用な項目の洗い出し・整理、アンケート調査における有用な項目の検討が示されている。今後も、引き続き、指標の設定に関する検討を行うことが期待される。 •　国際比較にも用いることができるような定量的に測定し、又は客観的に把握することができる指標の設定に向けた検討
(13) ＡＩの利活用に関する社会的受容性の醸成
ＡＩ開発原則の「アカウンタビリティの原則」において、開発者は、利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることが掲げられている。これは、A Iシステムの利活用に当たっては、利用者を含む社会全体の理解が必要で、社会に受容されることが重要であるという認識に基づくものである。また、ＡＩ利活用原則索の「アカウンタビリティの原則」において、ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることが掲げられている。今後、ＡＩの開発及び利活用の促進並びにＡＩネットワーク化の健全な進展に向けて、社会的な受容性を注視するとともに、受容性を高める方策の在り方等について検討することが必要である。社会におけるＡＩに関する受容度の継続的注視、受容性を高める方策の在り方の検討なお、本推進会議において、A I利活用原則索の「アカウンタビリティの原則」に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
○　ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項
(14)人間とＡＩとの関係の在り方に関する検討
ＡＩ開発原則の「倫理の原則」において、開発者は、ＡＩシステムの開発において人間の尊厳と個人の自律を尊重することが掲げられている。また、ＡＩ利活用原則案の「適正利用の原則」において、利用者は、人間とＡＩとの適切な役割分担のもと、利用者間における適切な役割分担を踏まえ、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努めること、「尊厳・自律の原則」において、利用者は、A Iシステム又はA Iサービスの利活用において、人間の尊厳と個人の自律を尊重すること、「公平性の原則」において、ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの判断によって個人が不当に差別されないよう配慮することが掲げられている。今後、人間中心とする智連社会に向けた人間とＡＩとの役割分担、ＡＩシステムに委ねる判断の範囲の妥当性、ＡＩネットワーク化の進展による人間の能力の拡張の在り方等について検討することが必要である。 ・専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方や重要な判断（診断、法令の解釈・適用、採用、人事評価、融資の審査等）に当たりＡＩシステムの機能に委ねてもよい事項の範囲に関する検討A I ・ロボットによる人間の知的・身体的能力の拡張（エンハンスメント）に関する倫理的問題の検討ＡＩシステムやＡＩサービスに対する過度な依存を回避する方策の検討「ＡＩ依存」など人間の心理や子供の発育への影響等に関する継続的注視なお、本推進会議において、特にＡＩ利活用原則案の「適正利用の原則」、「尊厳・自律の原則」及び「公平性の原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
(15)ステークホルダ間の関係の在り方に関する検討
報告書2017におけるシナリオ分析に基づく留意事項として、「事故の発生等ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方」が挙げられている180。また、ＡＩ利活用原則案の「適正利用の原則」において、利用者は、人間とＡＩとの適切な役割分担のもと、利用者間における適切な役割分担を踏まえ、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努めること、「連携の原則」において、利用者は、関係者と協力して事故の未然防止及び事故の発生時等の対応に取り組むよう努めること、「アカウンタビリティの原則」において、ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努めることが掲げられている。今後、A Iネットワーク化の進展を見据え、上記(14)人間とA Iとの関係の在り方に関する検討とともに、A Iのリスクの抑制等を図ることにより利用者及び第三者の利益を保護するために、ステークホルダの役割分担、権利義務の帰属の在り方、事故発生時等の責任の分配の在り方について検討することが必要である。 • A Iのリスクが顕在化しないようにするためのステークホルダ間の役割分担の在り方の検討ＡＩを利活用した取引における権利義務の帰属の在り方の検討ＡＩのリスクが顕在化した場合のステークホルダ間の責任の分配の在り方の検.計181特に最終利用者の利益を保護するためのアカウンタビリティの在り方の検討A Iの利活用をめぐる紛争の解決の在り方の検討なお、本推進会議において、特にＡＩ利活用原則案の「適正利用の原則」、「連携の原則」及び「アカウンタビリティの原則」等に関し整理された論点を検討するに当たっては、上記の事項に留意することが必要である。
(16) ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備
報告書2017において、今後の課題として、ＡＩネットワーク化の進展に応じた就労や円滑な配置転換等に資する教育・人材育成の在り方等に関する課題が掲げられていたところ 182 、本推進会議において、教育・人材育成に関する検討を行い、次に掲げる6つのテーマごとに構成員の主たる意見を示す形で取りまとめた183。 ①　人間とＡＩとの関係・役割分担②　社会の変化及び人間の技能・能力③　学校教育④　職業スキルの習得5）生涯教育⑥　ＡＩの利活用なお、本報告書における取りまとめは、今後の検討に当たって、キックオフ的なものと位置付けられ、本報告書の公表後、これらの意見を踏まえて、本推進会議において、さらに検討を深めることとしている。今後も、引き続き、A Iネットワーク化の進展に応じた就労や円滑な配置転換等に資する教育・人材育成の在り方等について検討すること及びその結果に基づき所要の対策を講ずることが必要である。 .技術者、法的・倫理的・社会的問題に対処し得る人材、産業連携等に対処し得る人材の育成ＡＩネットワーク化の進展に応じた雇用・働き方の変化に合わせた教育の実施・人材の育成及び労働法制の在り方の検討
(17) ＡＩに関するリテラシーの涵養及びＡＩネットワーク・ディバイドの形成の防止
報告書2017において、高齢者のリテラシーの向上やディバイド形成の防止の在り方に関する課題が掲げられている 184。また、分野別評価において、ＡＩネットワーク化の健全な進展に向けた今後の検討に当たって留意すべき点として、高齢者のＡＩに関するリテラシーを向上させる方策が求められる旨が挙げられている185。今後、すべての人々がＡＩの恵沢をあまねく享受できるよう特に高齢者のリテラシーの向上やディバイド形成の防止の在り方について検討すること等が必要である。特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討A Iを利活用する者と利活用しない(できない)者が混在すること、地域間でA Iの利活用の状況が異なっていること等を踏まえ、社会全体がＡＩの利活用による便益を享受できるような環境の整備
(18)セーフティネットの整備
報告書2017において、大規模な失業が発生しないような方策の在り方等に関する課題が掲げられている186。また、分野別評価において、ＡＩネットワーク化の健全な進展に向けた今後の検討に当たって留意すべき点として、プロファイリング結果により、就職や転職、結婚などにおいて、不当に不利な立場に陥ることのないようにセーフティネットの検討が必要である旨が挙げられている187。今後、労働市場の動向を注視するとともに、大規模な失業が発生しないような方策の在り方、A Iによるプロファイリングの結果により、不当に不利な立場に陥らないような方策の在り方等について検討すること、セーフティネットを整備すること等が必要である。 ・　労働市場の動向の継続的注視、A Iネットワーク化の進展に伴う所得の再分配等格差防止の在り方の検討• A Iによるプロファイリングの結果により、不当に不利な立場に陥らないような方策の在り方の検討
(19)その他の課題
報告書2017において、「その他の課題」として掲げられている事項188についても、引き続き、注視し、又は検討することが必要である。 .情報通信インフラの高度化の加速経済発展・イノベーションの促進に向けた課題地球規模課題の解決を通じた人類の幸福への貢献. ＡＩネットワーク化のガバナンスの在り方(参考)報告書2017に掲げられている「今後の課題」 189
Ο   Α  Ι ネットワーク化の健全な進展に関する事項
・　ＡＩ開発ガイドライン（仮称）の策定≥    A I開発ガイドライン（仮称）の策定に向けた国際的な議論のフォローアップ•     A I利活用ガイドライン（仮称）の策定➤ 「ＡＩ利活用ガイドライン（仮称）」の策定に関する検討A Iシステム相互間の円滑な連携の確保≥　関係ステークホルダ間で共有することが期待される関連情報の範囲、共有の方法等の検討競争的なエコシステムの確保≥関連する市場の動向の継続的注視利用者の利益の保護≥　利用者に対する開発者等からの自発的な情報提供の在り方の検討、利用者を保護する仕組み（保険等）の在り方の検討技術開発に関する課題≥ 他のＡＩに対する監督（監視、警告など）や制御（停止、ネットワークからの切断、修理など）を行うことのできる技術等の研究開発の推進
O    A Iネットワーク上を流通する情報・データに関する事項
・セキュリティ対策≥セキュリティの実装の在り方の検討等プライバシー及びパーソナルデータの保護≥本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討等コンテンツに関する制度的課題≥学習用データの作成の促進に関する環境整備、学習済みモデルの適切な保護と利活用促進等
Ο　ＡＩネットワーク化が社会・経済にもたらす影響に関する事項
•  A Iネットワーク化が社会・経済にもたらす影響に関するシナリオ分析➤　シナリオ分析の継続的な実施・国際的な共有• の設定≥指標の設定に向けた検討・　ＡＩシステムの利活用に関する社会的受容性の醸成≥社会におけるＡＩシステムの利活用に関する受容度の継続的注視等
〇　ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項
・　人間とＡＩシステムとの関係の在り方に関する検討>専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方等の検討・　ステークホルダ間の関係の在り方に関する検討≥ A Iシステムのリスクが顕在化した場合の責任の分配の在り方等の検討•  ≥     A Iネットワーク化の進展に応じた教育の実施・人材の育成等• A Iシステムに関するリテラシーの涵養及びA Iネットワーク•ディバイドの形成の防止≥特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討等・　セーフティネットの整備≥労働市場の動向の継続的注視、A Iネットワーク化の進展に伴う所得の再分配等格差防止の在り方の検討等
むすびに代えて
本報告書は、本推進会議における検討と関連する国内外の議論を踏まえ、社会・経済の様々な分野におけるＡＩシステムの利活用の場面を想定してＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価を行い、ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望を示すとともに、ネットワーク化の観点からの考察を行い、それらの検討において抽出された課題等を踏まえて、ＡＩの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りまとめ、各原則の内容に関する論点を整理した上で、今後の課題を掲げている。第１章で見たとおり、Ｇ７香川・高松情報通信大臣会合（平成28年４月）を契機として、海外における議論やＧ７、ＯＥＣＤにおける国際的な議論が活発に行われているが、主として開発者の立場によるものが多いように見受けられる。本報告書において、国際的な議論のために「ＡＩ利活用原則案」が取りまとめたことを踏まえ、利活用に関する国際的な議論も行われることが期待される。 A Iネットワーク化がもたらす社会への影響は、A Iの高度化が加速度的に進展していくことなどに伴い、一度示された予測が続々と塗り替えられる形で、急速に進展しつつある。本報告書の内容は、現時点において検討した結果を述べているものであり、A Iネットワーク化の進展等に応じて不断の見直しを行うことが必要である。また、第４章で整理した今後の課題は、多岐にわたっており、継続的かつ多面的な検討が必要である。これらの課題の検討に当たっては、産学民官の幅広い分野から関係ステークホルダの参画を得て国内外において検討を進めていくことが必要である。今後、緊急性、重要性等を勘索してプライオリティをつけ、継続的に検討が進められていくことを期待したい。