資料３－７（別紙５）
報告書２０１８（案）に関する意見募集に寄せられた主な意見 1に対する考え方

意見の要旨

意見に対する考え方（案）

将来の課題について将来像からユース報告書の内容に基づき、Ｇ７やＯＥＣＤ等における国際的な議総論
１

ケースまで幅広く調査・整理されているの 論に貢献し、主導的な役割を果たしていきたい。
で、検討内容を国際的な議論の場で幅広く共有し、日本の先導的なポジション確立に向けて活用されることを期待する。
２

多数のユースケースに加えて、リスクに報告書の公表後、ＡＩ利活用原則案の各原則の内容に関し整理ついても評価しており、消費者保護の観点 された論点等について、開発者や利用者にとって、有益なものとで企業が注意すべきことも浮き彫りにさ なるように、さらに検討を深めることとする。
れているため、ＡＩ開発者やＡＩサービス

また、様々な機会を捉えて、周知に努めることとする。なお、プロバイダに対して有益だと考える。広く 周知に当たっては、ＡＩ利活用原則案は、非規制的・非拘束的な企業に認知・浸透されることを期待する。 もの（いわゆるソフトロー）とするとともに、国際的な議論のためのものとして取りまとめたことを踏まえる必要がある。
３

今後、日本におけるＡＩネットワーク化

今後の検討における参考とさせていただく。

の推進に向けた社会的・経済的・倫理的・法的な課題等について総合的な検討を行っていくに当たっては、次の点を考慮して欲しい。
・ 海外では、経営者が、巨額の報酬を支払っても、それに見合う成果が挙げられているというＡＩの価値を十分に理解しているが、日本では、経営者のそのような理解が不足しており改革が必要である。
・ シンガポールでは、国立研究所の研究員でも、論文数や特許数よりも企業との共同研究の実績等が評価されており、日本でも産学連携を推進するためには、このような見直しが必要である。
・ ＡＩ開発の基礎となるデータが少ない
場合であっても、様々な技術が活用できる余地があり、特に「職人技」をＡＩに転換することが必要である。
４

ガイドラインを作成するのは結構であるが、のないよう十分に意識して検討を行っており、今後の検討におい①産業界の各領域・各階層でても、そのスタンスは変わらない。

②ガイドラインにおけるいわゆる「ＡＩ」
を「実装していることになる」③先行者たちの創意・工夫により
1

本推進会議においては、ＡＩの開発や利活用を萎縮させること

なお、本推進会議において、ＡＩの利活用に関する指針として「ガイドライン」という形や名称で取りまとめるかどうかは今後の検討事項としている。

提出された意見の全部について、次に掲げるＵＲＬのウェブサイトに所掲。
＜調整中＞
1

④机上の議論ばかりではなく、⑤すでに実務的にも経済的にも現に存在している具体的な製品・システム・企画
等について、⑥さらに将来的に継続的に⑦さらなる開発・実装・検討・メンテナン
スが、営為遂行されることになるという机上の議論だけでは様々な問題が解決されえないクリエイティブな発想と実務的な技術や知能の集積と統合が何よりも必要な実際経済における営みに対する影響への配慮が必須である。
５

国の行政機関が公表したガイドライン

本報告書は、ガイドラインではなく、左記の報告書の対象とな等の実態把握のための調査研究報告書（平 っているものではない。
成 27 年度総務省行政評価局請負調査）に

なお、ＡＩ利活用原則案は、非規制的・非拘束的なもの（いわ記載のガイドライン分類に基づく本報告 ゆるソフトロー）とするとともに、国際的な議論のためのものと書の位置付けを明示すべきである。

して取りまとめており、国内の事業者等を規制したり、その活動を抑制したりするものではない。

６

ＡＩに対する誤解と無知に由来する忌ＡＩの開発や利活用は揺籃期であり、現時点において法律など避が社会に広がることを危惧し、健全なＡ のハードローによる規制は、開発や利活用を萎縮させてしまう可Ｉ観の普及を目指し、適切な定義とリスク 能性がある。したがって、ベストプラクティスや非規制的・非拘認識のもと産業政策・競争政策上も安定し 束的な指針などのソフトローにより、関係するステークホルダ間た規制（保護）体系が形成されることを願 においてコンセンサスを形成するといったアプローチが適切であっている。
・ 本分野での予見可能性が低い場当たりると考えている。
報告書 2017 において、「ＡＩ」等を定義するとともに、ＡＩの的なソフトロー規制の導入はＡＩに対 定義の在り方については、ＡＩの技術発展の動向等を踏まえ、今する投資意欲を減退させ技術開発意欲 後継続的に議論を行っていくことが必要である旨を記載しているを減退させるため反対する。

ところであり、本報告書においても同様の趣旨の記述を追記する

・ 本分野を規制するのであれば、適正な こととする。
条件を設定し産業政策として合理的な

ユースケースについては、ＡＩの高度化が加速度的に進展して

ハードロー規制を導入すべきであると いることを踏まえ、現在の実用化されている技術や研究が進めら考える。

れている技術の水準では実現が困難であると見込まれるものであ・ ＡＩに対するハードロー規制の導入に っても、将来的な利活用の可能性を展望して記載している。
当たっては、他分野における既存の規制体系や保護体系が実現している社会的均衡と整合性ある規制設計が必要であると考える。
・ ＡＩに関連する定義のあいまいさを放置すると適正な規制体系の整備が困難となるため、定義を最低限、現時点における研究開発動向を踏まえた精度に精密化するべきである。
・ リスク検討に当たって設定されている
空想的ユースケースを現実を踏まえた
ユースケースに置き換えるべきである。

2

７

非拘束的な政府発表や注意喚起、各種ガＡＩ利活用原則案は、非規制的・非拘束的なもの（いわゆるソイドライン、ソフトローを含めたいかなる フトロー）とするとともに、国際的な議論のためのものとして取形式の規制、抑制に本報告書が影響を与え りまとめており、国内の事業者等を規制したり、その活動を抑制
ないような本報告書の影響範囲を明示す したりするものではない。他方、報告書自体については、広く共べきである。

有され、ＡＩの開発及び利活用並びにＡＩネットワーク化の健全な進展が図られることを目指すものである。

用語の定義について（全体）８

用語定義が欠落している、又は継続した「ＡＩ」や「ＡＩソフト」等の定義については、報告書 2017

議論が必要と前年に結論しておきながら のものを踏襲しているが、その旨を明示する記述を追記すること「ＡＩネットワーク」や「智連社会」については、用語定義の明確化が前年より進捗がない。 とする。また、
データ、情報、知識、学習、知識、智慧、 序章において、概念や考え方等を示している。さらに、第３章にＡＩ、ＡＩソフト、ＡＩシステム、ＡＩネ おいて「ＡＩサービス」や「ＡＩ付随サービス」の定義を試みてットワーク、Internet of Ability、智連 いる。
社会等。最低限、いっそうの定義明確化に

なお、御意見を踏まえて、「Internet of Ability」等について必要な要素のどの部分が明確化できてい は、注釈を加えることとする。
ないために定義更新が進まなかったのか明示するべき。
ＡＩネットワーク化と智連社会について
９

ＡＩネットワーク化の定義が不明確で、「ＡＩネットワーク化」については、序章において、進展段階

当該社会における要求事項が確定してい を含めて概念や考え方等を示している。
ない。要求工学的な精密さをもつ定義が必
要である。
10

智連社会の定義明確化が必要。智連社会「智連社会」については、序章において、概念や考え方等を示の定義が不明確で当該社会における要求 している。
事項が確定していない。要求工学的な精密さをもつ定義が必要である。
11『人間が主体的である』という記述を削

智連社会は、本推進会議が掲げる目指すべき人間中心の社会像除すべきである。人間は機械の判断を評価 である。これは、機械が社会の中心となるのではなく、あくまでできる能力をもたない前提で再定義する 人間が社会の中心となり、人間がＡＩネットワークを主体的に使必要がある。

いこなす社会を目指すべきとの考えを含意している。
なお、
Ｇ７における国際的な議論においても、「人間中心のＡＩ」という考え方に基づいて議論が行われるようになっている。

12

智連社会の基本理念条項設定の妥当性

基本理念は、智連社会が備えるべき性質を様々な角度から掲げ検証が不可能である。要求工学的な精密さ るものであり、基本理念の段階においては、要求工学的な精密さをもつ定義が必要である。
13（智連社会の基本理念に掲げられていを求められるものではないものと考えられる。
「国際的な議論のためのＡＩ開発ガイドライン案」
における「制る）制御可能性と透明性の定義が不明であ 御可能性の原則」の解説において、リスク評価に関し留意するこる。
「国際的な議論のためのＡＩ開発ガイ とが期待される事項を説明した上で、リスク評価を踏まえ、リスドライン案」記載の透明性の原則と制御可 ク管理に関し留意することが期待される事項（人間や信頼できる能性の原則に基づく場合、名称と内容が不 他のＡＩによる監督（監視、警告など）や対処（ＡＩシステムの）についても説明して一致であるので内容に即してリスク評価 停止、ネットワークからの切断、修理など）と透明性と変更すべきである。

いる。
したがって、「制御可能性の原則」の内容は、リスク評価に限られるものではない。また、リスク評価のプロセスは、制御可能性
のみならず、セキュリティや安全など他の原則においても期待されるので、「制御可能性の原則」に特有のものではない。
3

14

本推進会議における取組について、報告

それぞれのテーマについて、『報告書 2017』、『報告書 2018』と書 2016、報告書 2017 の成果物それぞれに どの報告書に記載された事項であるか明記した上で、今後の取組『報告書 2018 を踏まえ検討』と明記し、時系列で整ついて未解決又はいっそうの明確化を要 については、する残件が含まれており、その進捗につい 理している。
て明記すべきである。
ＡＩネットワーク化をめぐる最近の動向について
15

国内外における取組と本件との関係、役割分担について記述すべきである。

本推進会議においては、国内外の関係するステークホルダとのコンセンサスが重要であるなどの観点から、常に国内外の動向及び国際的な議論の動向を踏まえて検討を行ってきている。御意見を踏まえて、この旨の記述を追記することとする。

16

ＩＥＥＥにおける取組と本件の関係にＩＥＥＥの取組については既に記述しているが、ＩＥＥＥのみついて記述すべきである。また、ＡＩに関切り出して、本推進会議における検討との関係を記述することはしては国家や国際機関よりも民間企業の 適当ではない。
取組が先行している部分があり、海外民間

また、御指摘のように、海外において、民間企業等の取組が進企業（及び民間任意団体等）の動向につい んでいる場合もあるが、最近では、政府レベルでの取組が広がりても記述すべきである。

つつあることを踏まえて、政府の取組を中心に記述している。なお、民間企業等の取組については、本推進会議の各会合において紹介している。御意見を踏まえて、ＨＰに掲載している会合の資料を参照する旨の注釈を加えることとする。

17

今年の４月から ISO/IEC JTC 1/SC 42

御意見を踏まえて、本推進会議の会合において紹介することと（Artificial Intelligence）で標準化活 する。
動についての議論が始まっているので、その内容も追加すべきと考える。

なお、上記のとおり、ＨＰに掲載している会合の資料を参照す
る旨の注釈を加えることとする。

シナリオ分析（分野別評価）について
18

報告書 2017 の再掲部分と報告書 2018 で評価の枠組み（分野の区分を含む。
）やインパクト及びリスクのの新規追加部分を明示的に分けて差分管 考え方については、報告書 2017 を踏襲する旨を明記し、枠囲いに理すべきである。
19

評価の枠組みについて、ＡＩの特徴的、するなど記述の見せ方も工夫している。
ＡＩの機能的な分類に関し、本推進会議においては、システム

機能的な分類をするべきである。最低限、 が、学習等により利活用の過程を通じて出力やプログラムが将来
a.計算主義的なアルゴリズム 、b.意味・に向けて継続的に変化させる機能を有するものであるという観点

検索主義的なシステム 、c.ディープラー に着目している。このことにより、将来の技術の進展にも対応でニングなどコネクショニズムによるデジ きるものと考えられ、このような機能を有する場合に、評価の対タル処理系といった分類は必須である。
20

ＡＩやＡＩネットワークを利用する人

象とすることとしている。
ＡＩやＡＩネットワークを利用する人間及びＡＩに身分証明の間及びＡＩに身分証明の提示を必須化す 提示を必須化することを想定するものではない。ただし、ＡＩのることを想定しているのか。想定している 利活用やＡＩシステム間の接続に当たっては、ＡＩの機能や性能
場合は、プライバシーの観点から多様な問 等の確からしさを求められる場面があることは想定されるものと題の噴出が想定され、事業意欲を著しく削 考えられる。
ぐ。身分証明の提示を必須化しない旨の明
言の追記を求める。
21

次の記述について、削除すべきである。

分野別評価においては、ＡＩシステムにより生じ得るリスクを削除しない場合は、ＡＩソフト・システ 評価している。このため、ＡＩシステムの利活用に伴い、従来のム・ネットワークが依存する情報通信技術 ＩＣＴの利活用においては見られなかった新たに生じ得るリスクを利用したシステムに一般にみられる既 （ＡＩネットワーク化固有のリスク）だけではなく、ＡＩシステ
知のリスクとして分類し直すべきである。 ムを利活用しない場合と比べて増加するリスクやＡＩシステムを・ ハッキングや不正操作等により、ＡＩ 利活用しない場合と比べて軽減するものの利活用する場合におけ4

システムが機能不全に陥り、事故が発生 る事故等による被害の規模や波及がある程度大きいリスク等につするおそれがある。

いては、その影響の大きさ等に鑑み、評価の対象としており、そ・ 事故が発生した場合、ＡＩシステムが の旨は明記している。
どのような判断をしたのか検証できな
いと、責任の所在を明らかにすることができないおそれがある。
・ ＡＩシステム間の連携が十分でなく、最適なマッチングや調整ができなかったり、適切なサービスを受けることができなかったりするおそれがある。
・ 個人情報やパーソナルデータが、ハッキング等により流出したり、本人同意な
く第三者に提供、共有されるおそれがある。
22

シナリオ分析から得られた示唆につい

分野別評価においては、ＡＩシステムにより生じ得るリスクをて、リスクがＡＩ及びＡＩネットワークに 評価している。このため、ＡＩシステムの利活用に伴い、従来の固有のリスクでない場合、それぞれのシス ＩＣＴの利活用においては見られなかった新たに生じ得るリスク
テム上のリスクは、これまで通りのセキュ （ＡＩネットワーク化固有のリスク）だけではなく、ＡＩシステ
リティ基準やアップデート基準でカバー ムを利活用しない場合と比べて増加するリスクやＡＩシステムをできるものと考えられる。こうした一般論 利活用しない場合と比べて軽減するものの利活用する場合におけはＡＩに特化した本報告書にて取り扱う る事故等による被害の規模や波及がある程度大きいリスク等につべき事案ではない。

いては、その影響の大きさ等に鑑み、評価の対象としている。
なお、御指摘のセキュリティ基準等の活用も十分に考えられる
ところであり、「国際的な議論のためのＡＩ開発ガイドライン案」
においては、例えば、「セキュリティの原則」において、『開発者
は、ＯＥＣＤセキュリティガイドラインなどセキュリティに関する国際的な指針を踏まえる』と記載されている。

ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望について23

報告書 2017 の再掲部分と報告書 2018 でエコシステムの展望については、本報告書で新たに記述するもの新規追加部分を明示的に分けて差分管 のである。
理すべきである。
24

次の記述について、削除すべきである。

御指摘の記述は、本推進会議におけるＡＩシステムの機能的な削除しない場合は、自己駆動粒子系の動力 特徴を述べたものであり、リスクとして記述されているものでは
学によって記述可能な動的システムに一 ない。
般にみられる既知のリスクとして分類し直すべきである。
・ 学習等により、利活用の過程を通じて出力やプログラムが将来に向けて継続的に変化されることが想定される
25

ブラックボックス化はリスクではない。

ディープラーニング等において、ＡＩの判断結果の説明が困難

大量のデータに基づく判断の取り扱いに であるという現状等にも留意が必要であることに鑑み、ＡＩ開発『採用す
影響がないようにブラックボックス化を 原則やＡＩ利活用原則案の「透明性の原則」においても、リスクとして捉えるべきではない。また、 る技術の特性や用途に照らし合理的な範囲で』としているところ
透明性の説明責任を開発及び利活用に求 である。他方、事故等が発生した場合に、ＡＩがどのような判断めるべきではない。

をしたのかが検証できないと原因の解明が困難になることなどは実用化・社会実装に向けての課題と整理することが適当であるも5のと考えられる。
なお、ここでは、ブラックボックス化については、リスクではなく課題として挙げている。
26

ブラックボックス化は許容されるべきディープラーニング等において、ＡＩの判断結果の説明が困難であり、営業秘密は現在も広く認められて であるという現状等にも留意が必要であることに鑑み、ＡＩ開発『採用すいる権利として機能している。自然独占を 原則やＡＩ利活用原則案の「透明性の原則」においても、許容する政策を採用する場合に、支配的事 る技術の特性や用途に照らし合理的な範囲で』としているところ業者に求められる透明性水準等の規制の である。他方、事故等が発生した場合に、ＡＩがどのような判断問題は新規の法律制定や独占禁止法の運 をしたのかが検証できないと原因の解明が困難になることなどは用によって対応すべき課題であり、ブラッ 実用化・社会実装に向けての課題と整理することが適当であるもクボックス化はＡＩ固有のリスクではな のと考えられる。
いので削除すべきである。

営業秘密は、少なくともその保有者においてその内容を認識・理解し得るのに対し、ディープラーニング等におけるブラックボ
ックス化は、ＡＩシステムの管理者であっても判断結果の理由を認識・理解することが困難であることを意味しており、同列に議論すべきではないものと考えられる。
なお、ここでは、ブラックボックス化については、リスクではなく課題として挙げている。

27

次の記述について、非現実的なケース前

新しい技術に関しては、その開発や利活用を萎縮させないとい提であるため不要であり、削除すべきであ う観点は十分に意識しつつも、実用化・社会実装に向けての課題
る。

やその対策を考えるに当たっては、仮にその時点において実現が・ 自動運転車間で交渉・調整が成立しな 困難であると見込まれるものであっても、将来的な開発や利活用
い場合、車線変更や合流等が適切に行う の可能性を展望して様々なケースを想定しておくことも必要ではことができないおそれがある。
・ ＡＩシステムがハッキング等された場

ないかと考えられる。
なお、シナリオ分析やエコシステムの展望については、継続的合、そのＡＩシステムを実装している自 に検討を行うこととしている。
動運転車が正常に機能しなくなるだけ
ではなく、ネットワークを介して、次々と他の自動運転車にも影響が及び、事故や交通の混乱が生ずるおそれがある。
28

次の記述について、修正すべきである。

新しい技術に関しては、その開発や利活用を萎縮させないとい責任制限条件の社会合意水準の決定は契 う観点は十分に意識しつつも、実用化・社会実装に向けての課題
約自由の原則に基づくと市場に委ねられ やその対策を考えるに当たっては、様々なケースも想定しておくるべきである。消費者保護の観点から制限 ことが必要ではないかと考えられる。
を企図する場合は、新たに法律を制定するべきである。

なお、ここでは、課題を示しているに過ぎず、どのような対策を講ずべきかについてまで言及したものではない。

・ 長期間ＡＩソフトのアップデート等をしなかった場合や学習したことがない（想定できない）場面に遭遇した場合、自動運転車が周囲の状況を正しく認識することができず、障害物等を誤って認識してしまい、事故を起こすおそれがある。
29

次の記述について、削除すべきである。

ディープラーニング等においては、ＡＩの判断結果の説明は困削除しない場合は、ＡＩソフト・システ 難であり、事故等が発生した場合に、ＡＩがどのような判断をしム・ネットワーク・サービスが依存する情 たのかが検証できないと原因の解明が困難になることなどは実用
6報通信技術を利用したシステムに一般に 化・社会実装に向けての課題と整理することが適当であるものとみられる既知のリスクとして分類し直す 考えられる。
べきである。

なお、ここでは、ブラックボックス化については、リスクでは・ 自動運転車が事故を起こしてしまった なく課題として挙げている。
場合、ＡＩがどのように判断をしたのか検証できないと、責任の所在を明らかにできず、適切な責任分配がなされないおそれがある。
ＡＩネットワーク化の進展に関する考察について
30

次の記述について、削除すべきである。

ＡＩネットワーク化の進展に関する考察においては、ＡＩネッ

削除しない場合は、ＡＩソフト・システ トワーク化の特徴を踏まえて、ＡＩネットワーク化の健全な進展
ム・ネットワークが依存する情報通信技術 を阻害し得る要因になるものを課題として掲げている。個別の事を利用したシステムに一般にみられる既 業者のトラブル等がシステム全体に波及することは、ＡＩネット
知のリスクとして分類し直すべきである。 ワーク化の健全な進展を阻害し得る要因になるものと考えられる・ 個別の事業者のトラブル等がシステム ことから、課題として掲げている。
全体に波及するおそれ

なお、ここでは、当該事項は、リスクではなく課題として挙げ
ている。

31

次の記述について、削除すべきである。

ＡＩシステム間の連携・調整について、いかなる用途でいかな

いかなる用途でいかなる場合であっても る場合であっても必ず成立することを求めるものではない。他方
連携・調整が必ず成立しなければならない で、ＡＩシステム間の連携・調整が成立しないことは、ＡＩネッとした場合、システム構築・運用コストが トワーク化の健全な進展を阻害し得る要因になるものと考えられ爆発的に増大し事業意欲を著しく削ぐ。
・ ＡＩシステム間の連携・調整が成立しないなどのおそれ32

次の記述について、削除すべきである。

ることから、課題として掲げている。
なお、御指摘のように、実用化・社会実装に当たっては、シス
テム構築・運用コストも考慮すべきものであると考えられる。
ＡＩネットワーク化の進展に関する考察においては、ＡＩネッ

削除しない場合は、サプライチェーンに一 トワーク化の特徴を踏まえて、ＡＩネットワーク化の健全な進展
般にみられる既知のリスクとして分類し を阻害し得る要因になるものを課題として掲げている。ＡＩの判直すべきである。

断・意思決定を検証できないことは、ＡＩネットワーク化の健全

・ ＡＩの判断・意思決定を検証できない な進展を阻害し得る要因になるものと考えられることから、課題
おそれ（ネットワーク化により、システ として掲げている。
ム全体としてブラックボックス化する
おそれ）33

次の記述について、削除すべきである。

なお、ここでは、当該事項は、リスクではなく課題として挙げている。
ＡＩネットワーク化の進展に関する考察においては、ＡＩネッ

削除しない場合は、市場に一般にみられる トワーク化の特徴を踏まえて、ＡＩネットワーク化の健全な進展
寡占のリスクとして分類し直すべきであ を阻害し得る要因になるものを課題として掲げている。少数のＡる。

Ｉの影響力が強くなりすぎることや領域横断での情報の共有と特・ 少数のＡＩの影響力が強くなりすぎる 定の基盤的なＡＩへの情報の集中によるプライバシー侵害などなどのおそれ（少数のＡＩの判断によっ は、ＡＩネットワーク化の健全な進展を阻害し得る要因になるもて企業や個人が不利な立場になるなど のと考えられることから、課題として掲げている。
のおそれ）

なお、ここでは、当該事項は、リスクではなく課題として挙げ・ 領域横断での情報の共有と特定の基盤 ている。
的なＡＩへの情報の集中によるプライ
バシー侵害のおそれ34

次の記述について、削除すべきである。

ＡＩネットワーク化の進展に関する考察においては、ＡＩネッ

削除しない場合は、人工物に一般にみられ トワーク化の特徴を踏まえて、ＡＩネットワーク化の健全な進展るリスクとして分類し直すべきである。

を阻害し得る要因になるものを課題として掲げている。ＡＩが想7

・ ＡＩが想定外の動作を行うなどのおそ 定外の動作を行うことなどは、ＡＩネットワーク化の健全な進展れを阻害し得る要因になるものと考えられることから、課題として掲げている。
なお、ここでは、当該事項は、リスクではなく課題として挙げている。

教育・人材育成について35

削除すべきである。記述が不適切であり非論理的である。

本報告書においては、構成員の意見を列挙する形で検討状況を示したものであり、当該記載は、今後の検討に当たってのキック
オフ的なものとの位置付けである。
なお、御意見を踏まえて、見出しを修正することとする。

36③学校教育、④職業スキルの習得、⑤生

報告書 2016 や報告書 2017 の指摘を踏まえ、ＡＩネットワーク

涯教育を掲載した理由が不明瞭である。Ａ 社会に向けた教育・人材育成の在り方に関する検討、ＡＩの利活
Ｉと当該項目との関係を明確にして欲し 用により教育・人材育成にどのような影響をもたらすかという観い。

点から検討を行ったところ、学校教育、職業スキルの習得、生涯教育に関連する意見があったことから報告書に記載している。
なお、ＡＩネットワーク社会に向けて、学校においてどのような教育を行うべきか、働くためにどのようなスキルを身に付けるべきか、生涯にわたって人生をどのように充実させるかといったことなどは重要なテーマであり、ＡＩと学校教育、職業スキルの習得、生涯教育は密接に関連するものと考えられる。

37

次の記述について、削除すべきである。

当該記述は、報告書 2016 に記載されているものであり、教育・

削除しない場合は、イノベーションの実現 人材育成に関する検討の背景・経緯として本報告書に記載していに伴い一般にみられるリスクとして分類 るものである。
し直すべきである。イノベーションの実現

また、当該記述は、リスクとして記述されているものではない。

に伴う社会変化によって不利益を被る層の出現は社会保障の文脈で論じられるべきであり、社会保障費用の増大がイノベーション実現による便益増大と折り合うか否かは費用便益モデル構築によって定量的に論じられるべきである。また、激変緩
和措置の導入可否の検討についても同様である。
・ ＡＩネットワーク化の進展を通じて異業種間の融合による新たな商品・サービ
ス、ビジネスモデルが創出されるようになるものと展望されるが、そのような変化は、そこで働く人々の働き口、働き方、働く内容を左右し得ることとなり、ひいては、人間の生き方にも影響を及ぼし得るものと考えられると指摘されている。
ＡＩネットワーク化の進展に関する指標について
38

報告書 2016、2017 の再掲部分と報告書

ＡＩネットワーク化の進展に関する指標については、背景・経2018 での新規追加部分を明示的に分けて 緯を除いて、本報告書で新たに記述するものである。
差分管理すべきである。
ＡＩの利活用において留意することが期待される事項について（全体）39

報告書 2016、2017 の再掲部分と報告書

ＡＩの利活用において留意することが期待される事項について
82018 での新規追加部分を明示的に分けて は、背景・経緯を除いて、本報告書で新たに記述するものである。
差分管理すべきである。
ＡＩの利活用において留意することが期待される事項（関係する主体の整理）について
40

ＡＩの定義を適切に行うことで、ＡＩシ「ＡＩ」等の定義については、報告書 2017 のものを踏襲していステムの定義及び内容、並びに「ＡＩシス るが、その旨が明示されていないことから、注釈を加えることとテム相互間のネットワーク」と「ＡＩシス する。
テムと他のシステムとの間のネットワー
ク」の内容と差異を明確化する必要がある
と考える。
41

ＡＩの定義を適切に行うことで、ＡＩシ「ＡＩ」や「ＡＩソフト」等の定義については、報告書 2017

ステムとＡＩサービスの定義と内容を明 のものを踏襲している。また、「ＡＩサービス」については、『Ａ
確化する必要がある。

Ｉシステムの機能を提供するサービス』と定義を試みるとともに、具体的な事例を示して明確化を図っている。

42「ＡＩサービス」の定義が広すぎるた
め、再定義すべきである。

本推進会議においては、ＡＩが利活用の過程でデータの学習等
により自らの出力やプログラムを継続的に変化させる可能性があることから、ＡＩの利活用において留意することが期待される事項を検討している。したがって、ＡＩがこのような機能を有することに鑑みると、関係する主体の整理やＡＩ利活用原則案を検討するに当たって、ＡＩサービスを『ＡＩシステムの機能を提供するサービス』と定義することは適当であるものと考えられる。

43

関係する主体の整理を最新の技術とサ関係する主体については、現状のサービス若しくは近い将来提ービスの実態に合った基準によって再定 供が見込まれるサービスを踏まえて整理したものである。
義すべきである。
ＡＩの利活用において留意することが期待される事項（ＡＩ利活用原則案及び各原則の内容に関し整理された論点）について
44

人工知能（ＡＩ）が人類の能力を超える

本推進会議は、目指すべき社会像として人間中心の智連社会をことを目標としているので、ＡＩの倫理観 掲げている。これは、機械が社会の中心となるのではなく、あくが制御不能でも問題がないと考える。人間 まで人間が社会の中心となり、人間がＡＩネットワークを主体的を中心に考えても無駄であり、人間の方が に使いこなす社会を目指すべきとの考えを含意している。
倫理観の学習能力が低いので、ＡＩの方がなお、
Ｇ７における国際的な議論においても、「人間中心のＡＩ」

倫理観を自己学習していけば、高度で多様 という考え方に基づいて議論が行われるようになっている。
な機能が生まれる。
45

ＡＩ利活用原則案を非規制的かつ非拘ＡＩ利活用原則案は、非規制的・非拘束的なもの（いわゆるソ束的なものとすることについて、これが意 フトロー）であるとともに、国際的な議論のためのものとして取味するところが、いわゆるセイフハーバー りまとめており、国内の事業者等を規制したり、その活動を抑制
ルール、紳士協定、プリンシプルベースの したりするものではない。他方、ＡＩ利活用原則案の考え方等にルールの枠組みのような非拘束的なルー ついては、様々な関係するステークホルダに広く共有され、ＡＩルであるとするならば、法による規制や行 の開発及び利活用並びにＡＩネットワーク化の健全な進展が図ら政によるルールから予見不可能な規制を れることが期待される。
前提とせず、もっぱら市場のプレイヤーとしてノーブレスオブリージを理解する参加者として透明性の確保と説明責任を理解し、それを踏まえて利用者に対して責任ある対応が期待されるメンバー間の市場に参加するメンバーによるルールであることを明記した上で、かかるメンバーに適9格性を有すると思われる担い手により形成される現実経済の構成員により構成される産業界での理解を求めるものである
旨を明記するべきである。
46

ＡＩ利活用原則案を非規制的かつ非拘ＡＩの開発や利活用は揺籃期であり、現時点において法律など

束的なものとすることについて、非規制的 のハードローによる規制は、開発や利活用を萎縮させてしまう可かつ非拘束的な曖昧な原則や謂れのない 能性がある。したがって、ベストプラクティスや非規制的・非拘恐れではなく、技術的に明らかな社会全体 束的な指針などのソフトローにより、関係するステークホルダ間における不利益を特定した上で確実に罰 においてコンセンサスを形成するといったアプローチが適切であ
則規定のある規制・法令の制定が望まし ると考えている。
い。
47

ＡＩ利活用原則案は、非規制的かつ非拘ＡＩ利活用原則案は、非規制的・非拘束的なもの（いわゆるソ束的な原則案であることに鑑み、新規の柔 フトロー）であるとともに、国際的な議論のためのものとして取軟な改定内容のそれ以前の枠組みを前提 りまとめており、国内の事業者等を規制したり、その活動を抑制とした既存の開発分へは不遡及とする旨 したりするものではない。他方、ＡＩ利活用原則案の考え方等にの記述を明記するとともに、柔軟な改定の ついては、様々な関係するステークホルダに広く共有され、ＡＩ
必要性について十分かつ慎重な技術サイ の開発及び利活用並びにＡＩネットワーク化の健全な進展が図ら
ドの専門家の知見による評価も十分に組 れることが期待される。
み入れた検証を行うことを前提とした「柔なお、ＡＩ利活用原則案を改定する場合には、ＡＩの研究者を軟な対応」とする旨を明記すべきである。 はじめ各分野の専門家や産業界などが参画している本推進会議において、慎重な検討が行われることとなる。
48①「適正利用の原則」について、削除す①「適正利用の原則」は、分野別評価やエコシステムの展望、べき又は上位概念として定義すべきであ ネットワーク化の観点からの考察で抽出された課題（
「安全」
、
「役
る。

割分担」
）に対応するために、ＡＩの利活用において留意することが期待される事項として取りまとめたものである。同原則は、意図的に不適正な利用を行うことなどを防止する意味もあること、また、主な論点として、便益とリスクの適正なバランスや関係者間の協力なども盛り込まれており、重要な原則である。
なお、ＡＩ利活用原則案の各原則については、それぞれ重要な原則であり、上位や下位といった整理は行っていない。

49①「適正利用の原則」について、削除す①「適正利用の原則」は、分野別評価やエコシステムの展望、

「安全」
、
「役
べきである。利用者に適正性の判定を求め ネットワーク化の観点からの考察で抽出された課題（）に対応するために、ＡＩの利活用において留意することるのは過大な要求で受け入れられない。利 割分担」
用者の義務について規定するならば主体 が期待される事項として取りまとめたものである。同原則は、意のタイプ毎に限定した義務を設計するべ 図的に不適正な利用を行うことなどを防止する意味もあること、きであり、義務を課すのであるならば新た また、主な論点として、便益とリスクの適正なバランスや関係者な法律の制定によるべきである。

間の協力なども盛り込まれており、重要な原則である。
さらに、利用者には、それぞれが有していると期待される能力
及び知識の多寡並びに必要な措置を実施する容易性を踏まえ、適当と考えられる役割を果たすことが期待されるものと考えられ、利用者に過大な要求を行うものではない。御意見を踏まえて、この旨の記述を追記するとともに、注釈を加えることとする。
なお、ＡＩの開発や利活用は揺籃期であり、法律などのハード
ローによる規制は、開発や利活用を萎縮させる可能性があることに留意することが必要である。

10

50

②「適正学習の原則」について、削除す②「適正学習の原則」は、分野別評価やエコシステムの展望、べきである。利用者及びデータ提供者にデ ネットワーク化の観点からの考察で抽出された課題（「データ」、
ータの質に留意を求めるのは過大な要求 「正当性・公平性」）に対応するために、ＡＩの利活用において留で受け入れられない。利用者の義務につい 意することが期待される事項として取りまとめたものである。同て規定するならば主体のタイプ及びデー 原則は、意図的に不適正なデータを学習に用いることなどを防止
タの種類毎、又は学習したＡＩの利用目的 する意味もあり、重要な原則である。
に応じたデータ品質要求水準を設計するべきである。

また、利用者には、それぞれが有していると期待される能力及び知識の多寡並びに必要な措置を実施する容易性を踏まえ、適当と考えられる役割を果たすことが期待されるものと考えられ、利用者に過大な要求を行うものではない。御意見を踏まえて、この旨の記述を追記するとともに、注釈を加えることとする。
なお、利用するＡＩの性質や目的、データの種類等によって、求められる水準が異なり得ることに留意が必要である旨の注釈を付している。

51③「連携の原則」について、削除すべき③「連携の原則」は、分野別評価やエコシステムの展望、ネッ

「連携」
）に対応
である。オープンイノベーションの誘発を トワーク化の観点からの考察で抽出された課題（
期待するビジネスエコシステムにおいて するために、ＡＩの利活用において留意することが期待される事
システム間のオープンな連携は前提であ 項として取りまとめたものである。同原則は、ＡＩシステムやＡるが、閉じた系を形成することでの差別化 Ｉサービスが連携することにより、便益が増進されることが期待
は個々の主体による独立した判断のもと されることからも、重要な原則である。
容認されるべきである。むしろ留意すべき

また、本原則は、連携を義務づけるものではなく、連携するか

は、切り離し性の確保であり記述の変更を 否か、連携した後に離脱するか否か等については、各主体の判断要求する。リスクの惹起・増幅については に委ねられるものである。その判断に当たっては、システム構築・安全の原則側に記載すべきである。

運用のコスト等も考慮すべきものと考えられる。御意見を踏まえて、このような趣旨の明確化を図るために、『利用するＡＩの特性
及び用途を踏まえ』という記述を追記するとともに、注釈を加えることとする。
さらに、④「安全の原則」は、アクチュエータ等を通じて、生命・身体・財産に危害を及ぼすことに対応するためのものであるが、ここで記載されているＡＩネットワーク化により惹起・増幅される課題については、アクチュエータ等を用いないものも想定されるところであり、「安全の原則」に記載することは適当ではないものと考えられる。

52③「連携の原則」に関する主な論点イに今後の検討における参考とさせていただく。

ついて、データ形式やプロトコル等の標準化への対応については、世界的な仕様の動きと併せて検討する必要がある。他方、標準化が必要ではないケースもあることに留意すべきである。
53③「連携の原則」に関する主な論点ウに御意見を踏まえ、『システム間の相互作用が複雑となり解析が困

ついて、『ネットワーク化により、システ 難になるおそれ』と修正することとする。併せて、他の箇所におム全体としてブラックボックス化するお ける同様の記述についても修正することとする。
それ』を削除すべき又は『システム全体として複雑系となり解析が困難になるおそれ』に修正すべきである。

11

54

③「連携の原則」に関する主な論点ウにここで記述されているＡＩネットワーク化により増幅される課

ついて、ＡＩネットワーク化により増幅さ 題については、第２章３．において、ＡＩネットワーク化の特徴れる課題の記述が不適切であり、削除すべ を踏まえて、ＡＩネットワーク化の健全な進展を阻害し得る要因きである。

になるものとして整理された項目である。これらの課題への対応について、論点として記載することは必要なことではないかと考
えられる。

55

④「安全の原則」について、削除すべき又は上位概念として定義すべきである。

④「安全の原則」は分野別評価やエコシステムの展望、ネット
ワーク化の観点からの考察で抽出された課題（
「安全」
）に対応す
るために、ＡＩの利活用において留意することが期待される事項として取りまとめたものである。ＡＩの利活用において、アクチュエータ等を通じて利用者や第三者の生命・身体・財産に危害を及ぼすことがあってはならず、④「安全の原則」は、重要な原則である。
なお、ＡＩ利活用原則案の各原則については、それぞれ重要な原則であり、上位や下位といった整理は行っていない。

56④「安全の原則」について、削除すべき④「安全の原則」は、分野別評価やエコシステムの展望、ネッである。削除しない場合は、人工物に一般 トワーク化の観点からの考察で抽出された課題（
「安全」
）に対応
にみられるリスクとして分類し直すべき するために、ＡＩの利活用において留意することが期待される事である。

項として取りまとめたものである。ＡＩの利活用において、アクチュエータ等を通じて利用者や第三者の生命・身体・財産に危害を及ぼすことがあってはならず、④「安全の原則」は、重要な原則である。
なお、当該原則は、リスクとして記述されているものではない。

57⑤「セキュリティの原則」について、削除すべきである。

⑤「セキュリティの原則」は、分野別評価やエコシステムの展
望、ネットワーク化の観点からの考察で抽出された課題（
「セキュ
リティ」
）に対応するために、ＡＩの利活用において留意することが期待される事項として取りまとめたものである。ＡＩの利活用において、セキュリティ侵害によりＡＩシステムが機能不全に陥ったりすることなどがあってはならず、⑤「セキュリティの原則」
は、重要な原則である。

58⑥「プライバシーの原則」について、削除すべきである。

⑥「プライバシーの原則」は、分野別評価やエコシステムの展
望、ネットワーク化の観点からの考察で抽出された課題（
「プライ
バシー」
）に対応するために、ＡＩの利活用において留意することが期待される事項として取りまとめたものである。ＡＩの利活用において、プライバシー侵害により個人の権利利益が損なわれる
ようなことがあってはならず、⑥「プライバシーの原則」は、重要な原則である。

59⑤「セキュリティの原則」及び⑥「プラ⑤「セキュリティの原則」及び⑥「プライバシーの原則」は、イバシーの原則」について、削除すべきで 分野別評価やエコシステムの展望、ネットワーク化の観点からの「セキュリティ」、「プライバシー」）に対ある。削除しない場合は、ＡＩソフト・シ 考察で抽出された課題（
ステム・ネットワーク・サービスが依存す 応するために、ＡＩの利活用において留意することが期待される
る情報通信技術を利用したシステムに一 事項として取りまとめたものである。ＡＩの利活用において、セ
般にみられる既知のリスクとして分類し キュリティ侵害によりＡＩシステムが機能不全に陥ったり、プラ直すべきである。

イバシー侵害により個人の権利利益が損なわれたりするようなことなどがあってはならず、⑤「セキュリティの原則」及び⑥「プライバシーの原則」は、それぞれ重要な原則である。
12

なお、それぞれの原則は、リスクとして記述されているものではない。
60⑤「セキュリティの原則」及び⑥「プラ⑤「セキュリティの原則」及び⑥「プライバシーの原則」は、イバシーの原則」について、削除すべきで 分野別評価やエコシステムの展望、ネットワーク化の観点からの「セキュリティ」、「プライバシー」）に対ある。リスクがＡＩ及びＡＩネットワーク 考察で抽出された課題（に固有のリスクでない場合、それぞれのシ 応するために、ＡＩの利活用において留意することが期待される
ステム上のリスクはこれまで通りのセキ 事項として取りまとめたものである。ＡＩの利活用において、セュリティ基準やアップデート基準でカバ キュリティ侵害によりＡＩシステムが機能不全に陥ったり、プラーできるものと考えられる。こうした一般 イバシー侵害により個人の権利利益が損なわれたりするようなこ論はＡＩに特化した本報告書にて取り扱 となどがあってはならず、⑤「セキュリティの原則」及び⑥「プうべき事案ではない。

ライバシーの原則」は、それぞれ重要な原則である。
なお、御指摘のセキュリティ基準等の活用も十分に考えられる
ところであり、「国際的な議論のためのＡＩ開発ガイドライン案」
においては、例えば、「セキュリティの原則」において、『開発者
は、ＯＥＣＤセキュリティガイドラインなどセキュリティに関する国際的な指針を踏まえる』と記載されている。御意見を踏まえて、この旨の注釈を加えることとする。

61⑦「尊厳・自律の原則」について、削除すべきである。

⑦「尊厳・自律の原則」は、分野別評価やエコシステムの展望、
ネットワーク化の観点からの考察で抽出された課題（「正当性・公平性」）に対応するために、ＡＩの利活用において留意することが期待される事項として取りまとめたものである。本推進会議が目指す智連社会は人間中心の社会像であり、智連社会におけるＡＩの利活用に当たって、人間の尊厳や個人の自律が尊重されずに個人の権利利益が損なわれたりするようなことがあってはならず、⑦「尊厳・自律の原則」は、重要な原則である。

62⑦「尊厳・自律の原則」について、人間⑦「尊厳・自律の原則」は、ＡＩが学習等により利活用の過程の尊厳と個人の自律の尊重は人間社会の を通じて出力やプログラムが将来に向けて継続的に変化させる機
中での事柄であり、ＡＩには関係ないこと 能を有するものであることを踏まえ、ＡＩの利活用において、人なので、人間とＡＩを完全に区別すべきで 間の尊厳や個人の自律を尊重することにより、個人の権利利益がある。

棄損されないことを謳っているものであり、ＡＩの利用者において留意することが期待される事項である。

63⑧「公平性の原則」について、削除すべきである。

⑧「公平性の原則」は、分野別評価やエコシステムの展望、ネットワーク化の観点からの考察で抽出された課題（「正当性・公平性」）に対応するために、ＡＩの利活用において留意することが期
待される事項として取りまとめたものである。ＡＩの利活用において、個人が不当に差別されることにより個人の権利利益が損なわれることがあってはならず、⑧「公平性の原則」は、重要な原
則である。

64

⑨「透明性の原則」について、注釈 137

御意見を踏まえ、報告書の公表後、ＡＩ利活用原則案の各原則（事務局追記：修正後において注釈 149） の内容に関し整理された論点等の検討を深めたい。
が付いていることを支持する。
65⑨「透明性の原則」について、記述が不⑨「透明性の原則」について、検証可能性に留意する旨は既に十分である。検証可能性の確保と公開原則 記載されている。
を加えて透明性確保を図るべきである。

また、入出力データ等の公開については、プライバシーや営業
秘密等の観点から慎重な検討が必要であるものと考えられる。な
お、個人情報やパーソナルデータの開示等については、個人情報
13

保護制度の問題として担保されるものである旨の注釈が付されている。
66⑩「アカウンタビリティの原則」につい「アカウンタビリティ」については、一般的に「説明責任」とて、記述が不十分である。定義を追記する いう意味で用いられている用語であり、ここでも一般的な用語とべきである。
67⑨「透明性の原則」及び⑩「アカウンタ

しての意味合いで用いている。
ＡＩ利活用原則案の各原則については、それぞれ重要な原則でビリティの原則」について、上位概念とし あり、上位や下位といった整理は行っていない。
て定義すべきである。
今後の課題について
68

今後は、ＡＩの品質保証、データの確保

今後の検討における参考とさせていただく。

などに関する実用面の課題をさらに深堀することが必要である。
69

目的の異なるＡＩが相互に働く場合に今後の検討における参考とさせていただく。

おけるデータ交換の原則やユーザーに害が及ぶことに対する防御策、自律的に動作する主体間の相互抑制のためのプロトコ
ルなど、ＡＩネットワーク化の発展のための議論を深める必要がある。
70

ＡＩ開発原則及びＡＩ利活用原則案に御意見を踏まえ、Ｇ７やＯＥＣＤ等における国際的な議論に貢おいて、「人間中心」の考え方や「智連社 献し、主導的な役割を果たしていきたい。
会」の概念など、日本の考え方を前面に出して海外に発信することで、日本の存在感を示すべきである。
（機械が人を疎外するのではなく、人間中心となる方向性を日本からのメッセージとして明確に発信する等。
）
71

ＡＩ開発原則は指針として有用である

今後の検討における参考とさせていただく。

が、開発者が原則に従わないことも考えられるため、ルール化に際してはセキュリテ
ィ分野で行われている監査手法を参考にして、開発したＡＩの客観的な評価についても検討していくことが必要であると考える。ただし、ＡＩ開発原則が開発のコストに影響を与える可能性があるため、「社会的に重要なシステム」や「趣味等、生命や財産に影響しないシステム」などにレベルを分け、重要性が低いシステムについて
は客観的な評価を簡略化する等の考慮も必要であると考える。
72

調査及び整理、文書管理等の適正化を求める。

「今後の課題」については、報告書 2017 において掲げられている課題をベースに、本推進会議におけるこの１年間の検討状況等を反映する形で網羅的に整理している。各課題については、大きく４つに分類し、分かりやすさを意識しつつ整理している。

14