別紙２－２

報告書２０１７（案）に関する意見募集に寄せられた主な意見 1に対する考え方番号

意見の要旨

意見に対する考え方「国際的な議論のためのＡＩ開発ガイドライン案」における用語の定義及び対象範囲について
１「ＡＩネットワーク化」の定義の「ＡＩネットワーク化」は、報告書本体３頁において「ＡＩシステ明確化が必要である。また、定義

ムがインターネットその他の情報通信ネットワークと接続され、に利用されている用語（具体的にＡＩシステム相互間又はＡＩシステムと他の種類のシステムとのは、「データ」、「情報」、「知識」、間のネットワークが形成されるようになること」と定義している「学習」）の定義の明確化が必要で が、御指摘を踏まえ、本ガイドライン案においても定義を記載するある。

こととした。また、「データ」、「情報」、「知識」、「学習」等の関係については、報告書本体５頁に記載している。

２

汎用ＡＩは、様々な技術的課題が本ガイドラインにおけるＡＩの定義は、現在すでに実用化されてあり、開発・実用化の目処は立っいる特化型ＡＩを主たる対象として想定しているが、自律性を有ておらず、実現されるとしてもかするＡＩや汎用ＡＩの開発など今後予想されるＡＩに関する急速なり先のことと考えられている。

な技術発展を見据え、今後開発される多種多様なＡＩについても、遠い将来に開発されるものまで含学習等により自らの出力やプログラムを変化させる機能を有するむこととなれば、研究開発の自由ものである場合には含み得るものとしている。

を制約するおそれがある。

これは、以下に掲げる事項などに鑑みたものである。

現時点で汎用ＡＩを含めることに

本ガイドラインにおけるＡＩの定義を行うに当たっては、特ついては、必要性が乏しいもので定の技術や手法に基づくＡＩのみを念頭に置くことや特定のある上に、負の影響をもたらすお技術や手法に基づくＡＩを除外することは、基本理念４に掲それがあることから慎重の上にもげる技術的中立性の確保の見地から適当ではないこと

慎重であるべきであり、技術開発

実であると指摘されていることの動向を見極めながら今後の議論に委ねるべきである。

ＡＩの技術発展はスピードが早くその方向性も多様かつ不確

専門家の間でも汎用ＡＩの実現時期については予測が分かれていること



特化型ＡＩと汎用ＡＩは連続的なものであるとの見方も有力であり、両者を峻別することは必ずしも容易ではないこと



自律性を有するＡＩや汎用ＡＩについては、将来的に実現した場合に、特化型ＡＩ以上に、社会や人間に広範なリスクを及ぼすおそれがあるのではないかとの懸念や不安も示されており、ＡＩへの利用者や社会の信頼を獲得するためには、このよ

1

提出された意見の全部について、次に掲げるＵＲＬのウェブサイトに所掲。
＜http://www.soumu.go.jp/main_content/000499370.pdf＞

1

うな懸念や不安に応接する必要があること


本ガイドラインは非拘束的な枠組みとして国際的に共有されることを目指していること

国内外におけるＡＩの開発の在り方に関する検討においては、特化型ＡＩのみならず、自律性を有するＡＩや汎用ＡＩも射程に入れて検討を行うものが有力となっていることその上で、御指摘や当該論点に関連する構成員の御意見等も踏まえ、「本ガイドラインにおけるＡＩの定義の在り方については、ＡＩの技術発展の動向等を踏まえ、今後継続的に議論を行っていくことが必要である」と加筆した。
３「開発者」と「研究者」を明確に今日のＡＩの研究開発においては、研究と開発が一体的ないし連分けて議論すべきである。先端技続的に行われていることも多く、開発者と研究者を峻別すること術を研究しようとする研究者につは困難なのではないか。したがって、本ガイドラインとは別に、研いては、適用除外とした方がよ

究者のみを想定したガイドラインを策定することは適当ではないい。その際には、「先端ＡＩ研究のではないか。

ガイドライン」等を別途策定すべ

なお、本ガイドラインは、ＡＩの研究開発を拘束するものでなく、きであると考える。

ＡＩの研究開発において開発者が留意することが期待される事項を整理したものである。

４

完全にネットワークから遮断した

本ガイドラインは、ネットワークに接続して行うＡＩの開発を制環境を構築することは、大学等の限するものではなく、ネットワークに接続して行うＡＩの開発に研究室レベルでは負荷が高く現実ついて、開発者に留意することが期待される事項を整理したもの的ではない。ネットワークを利用である。したがって、大学の研究室等において、ネットワークにした研究、実験を行うことが困難

接続してＡＩの研究開発を行う際には、本ガイドラインに留意すになる。被験者など利用者が極めることが期待される。て限定される状況”においては、なお、ネットワークに接続してＡＩの研究開発を行う場合であっネットワークへ接続した状態でのても、セキュリティが十分に確保されたサンドボックス等論理的開発も可能とすべきである。に閉鎖された空間での開発は、本ガイドラインの対象とはならない。

「国際的な議論のためのＡＩ開発ガイドライン案」における開発原則の内容及び解説について
５

ＡＩネットワーク化のセキュリテ

ＡＩネットワーク化のセキュリティに関するリスクについては、ィリスクを明確にすべきである。

報告書本体 55 頁に記載されているとおり、例えば、ＡＩシステムへのハッキング、偽装・なりすましによるＡＩシステムの犯罪への悪用等などが考えられる。本ガイドライン案の「セキュリティの原則」及びその解説も、このようなリスクを念頭に、作成されている。
2

６「制御可能性の原則」という原則「制御可能性の原則」の解説においては、リスク評価に関し留意す名称と内容が不一致であるので内ることが期待される事項を説明した上で、リスク評価を踏まえ、リ容に即して「リスク評価の原則」

スク管理に関し留意することが期待される事項（人間や信頼できとでも変更するべきである。

る他のＡＩによる監督（監視、警告など）や対処（ＡＩシステムの停止、ネットワークからの切断、修理など））についても説明している。したがって、「制御可能性の原則」の内容は、リスク評価に限られるものではない。また、リスク評価のプロセスは、制御可能性のみならず、セキュリティや安全など他の原則においても期待されるので、「制御可能性の原則」に特有のものではない。

７「プライバシーの原則」におけるプライバシーの概念については、国内外の判例や学説等においてプライバシーの定義如何。

もさまざまな定義が示されているため、本ガイドライン案においてプライバシーの定義を示すことを控えているが、「プライバシー「本原則にいうプライバシーの範囲には、の原則」の解説において、空間に係るプライバシー（私生活の平穏）、情報に係るプライバシー（個人データ）及び通信の秘密が含まれる」と説明し、本原則において想定されるプライバシーの範囲を示している。

８

ガイドラインの基本理念である 本ガイドラインは、「人間中心の智連社会を実現すること」を目的「人間の尊厳と個人の自律が尊重に掲げ、人間が主体となってＡＩを使いこなしていくという方向される人間中心の社会を実現」が性を明確にしている。その上で、本ガイドラインの基本理念「人間将来ＡＩによって損なわれる可能がネットワーク化されたＡＩと共生することにより、その便益が性があることが危惧されている。

すべての人によってあまねく享受され、人間の尊厳と個人の自律この危惧が生じないようにするたが尊重される人間中心の社会を実現すること」などを踏まえ、「倫めのガイドラインを加えるとよ 理の原則」では、「開発者は、ＡＩシステムの開発において、人間い。
・の尊厳と個人の自律を尊重する」と定めた上で、その解説においＡＩは人間の道具に徹するべき。
・て、自律型兵器に関する議論などを踏まえ、「開発者は、国際人権法や国際人道法を踏まえ、ＡＩシステムが人間性の価値を不当にＡＩに武器を持たせてはなら毀損することがないよう留意することが望ましい」と説明を加えない。ている。

・

ＡＩに自己増殖機能（勝手にまた、「制御可能性の原則」の解説において、脚注で掲げている「Ａコピーを作る）を持たせてはならＩシステムが与えられた目標を形式的に達成するために開発者のない。

意図に実質的に反する動作（報酬ハッキング）を行うリスクやＡＩシステムが学習等による利活用の過程を通じた変化に伴い開発者の意図しない動作を行うリスク」のほか、ＡＩの自己複製などによりＡＩが制御不能になるリスクなども見据え、制御可能性に関するリスク評価やリスク管理について、留意することが期待される事項を説明している。
3

９「利用者支援の原則」の内容は、「利用者支援の原則」の解説では、ユニバーサルデザインなど社会インターフェースに関する事項が的弱者の利用を容易にするための取組に努めることのみならず、中心となっているので、名称を「ユ利用者の判断に資する情報を適時適切に提供し、かつ、利用者にとニバーサルデザイン原則」とでもって操作しやすいインターフェースが利用可能であることに配慮変更するべき。

するよう努めること、利用者に選択の機会を適時適切に提供する機能（いわゆる「ナッジ」）が利用可能であることに配慮するよう努めることも掲げている。したがって、「利用者支援の原則」の内
容は、ユニバーサルデザインに関する事項に尽きるものではない。
なお、ＡＩシステムが利用者を支援し、利用者に選択の機会を適切に提供する上では、インターフェースが重要な役割を果たすと考えられることから、「利用者支援の原則」の解説において、インターフェースに関する事項の説明が多くなることは適当であると考えられる。

１０◯

先端研究レベルでは、被験者

開発原則は、開発者が遵守すべき基準を画一的に定めるものではの同意の上、プライバシー情報なく、開発者が、自らの開発するＡＩシステムに用いられる技術のを用いた実験を行うことが多特性や用途に照らし、適切に留意して対応し、対応状況についてアい。利用者の同意があれば、カウンタビリティを果たすことが期待される指針を示すものであ「プライバシーの原則」についる。したがって、例えば、実験段階において、被験者に適切な説明ては、除外規定を受けることがを行った上で、被験者の同意を得て、利用者支援及びアカウンタビできるか確認したい。

リティ（技術的特性等に関する情報提供や説明）の程度や範囲を限◯ 先端研究レベルでは、適切な定する場合には、当該被験者との関係においては、「利用者支援のインターフェースの設計などの原則」及び「アカウンタビリティの原則」に留意しているものと解段階で利用者支援が十分に行えするのが適当ではないか。また、一般に、本人の同意を得て個人情ないことが想定される。この場報を利用することがプライバシー侵害にあたるとは解されていな

合、利用者の同意があれば、いことから、開発者が、本人の同意を得て、個人情報を利用した実「利用者支援の原則」について験を行う場合には、当該個人との関係においては、プライバシーのは、除外規定を受けることがで原則に留意しているものと理解するのが適当ではないか。

きるか確認したい。
◯ 先端研究レベルでは、被験者に技術的特性について情報提供と説明を行うことで実験が成り立たない場合がある。利用者の同意があれば、「アカウンタビリティの原則」については、除外規定を受けることができるか確認したい。
4

影響評価について
１１

ＡＩが与える影響は単に対利用者

分野別評価においては、社会・経済システムの変革を念頭に、領といった単純なものではなく、社域横断的なユースケースや領域が融合するユースケースを想定し会システム全体に及ぶものであるた評価を行っている。引き続き、社会・経済システムの変革を見と考える。ＡＩを単に人間の機能据えて、ＡＩネットワーク化が社会・経済にもたらす評価を検討の代替として見なすだけではなすることとしたい。

く、社会システムの変革をもたらすものと考えることが重要であり、ＡＩ開発・適用が社会システムに与える影響のアセスメントを並行して実施すること有意義なＡＩの実現に重要であると考える。
１２

ＡＩネットワーク化に関する国際日本国内で開発されたＡＩシステムを外国人が利活用することは的な議論を進めるに際して、日本十分に想定されることである。必要に応じて、分野別評価におい国内で開発され整備されるＡＩシて、このような事項も考慮しつつ、インパクト及びリスクの評価ステムを外国人が利活用するといを進め、その成果を開発ガイドライン及び利活用ガイドラインのう状況にも十分に留意する必要が検討に活用していきたい。

ある。
１３

有効なＡＩの活用方法として、物これまでの検討から、様々な領域や分野におけるＡＩネットワー

理的な方法を伴う物流、軽作業、ク化が社会・経済にもたらす影響に関する示唆を得ることができ重労働に用いるよりも、医療診断た。これを参考にしつつ、それぞれのインパクト（良い影響、便や裁判等への運用の方が相性がよ益）及びリスク等を勘案しながら、各領域、分野におけるＡＩシいのではないか。下流の労働を解ステムの導入が図られることが期待される。

決するより、上流の労働を解決することが先決である。

5