ＡＩネットワーク社会推進会議 環境整備分科会・影響評価分科会 合同分科会（第５回）

資料３

ＡＩの利活用において留意することが期待される事項

平成30年5月22日
事
務局

ＡＩの利活用において利用者等が留意することが期待される事項について○ AIの開発・利活用の加速化、AIネットワーク化の健全な進展等には、ＡＩネットワーク化の便益の増進・リスクの抑制のための取組が必要。
○ これまでの取組として、本推進会議において、ＡＩの開発者が留意することが期待される事項として「国際的な議論のためのＡＩ開発ガイドライン案」（以下「ＡＩ開発ガイドライン案」という。）を取りまとめ。
また、海外においては、主に開発者の視点からＡＩに関する原則・指針・ベストプラクティス・標準等に関する取組が進行。
（例）米国電気電子学会（IEEE） 「倫理的に調整された設計 第2版」（2017年12月12日）○ 他方、ＡＩは、利活用の過程でデータの学習等により自らの出力やプログラムを継続的に変化させる可能性がある
ことから、ＡＩの利用者、間接利用者及びデータ提供者（以下「利用者等」という。）においても留意することが期待される事項があるものと想定される。
→ これらの事項を整理することは、開発者との関係からも重要であるものと考えられる。
○ これらを踏まえ、本推進会議において、「分野別評価」や「ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望」において抽出された課題等をもとに、ＡＩの利活用において利用者等が留意することが期待される事項について検討することとする。
→ 『報告書2018（仮）』において、「ＡＩ利活用原則案」を取りまとめるとともに、それぞれの原則の内容に関する論点を整理することとする。その後、整理された論点を踏まえ、引き続き、最終的なアウトプットの取りまとめに向けた検討を行うこととする。

1

関係する主体の整理（1／7）＜基本的な考え方＞○ ＡＩ開発ガイドライン案において、「利用者」とは、“ＡＩシステムを利用する者（最終利用者（エンドユーザ）のほか、他者が開発したＡＩネットワークサービスを第三者に提供するプロバイダを含む。）をいう。”と定義されているのみであり、利用者には様々な立場の者が含まれる。
また、ＡＩの利活用に当たっては、ＡＩシステム又はＡＩサービス（以下単に「ＡＩ」ということがある。）を直接的に利用しない場合でも、ＡＩを用いたサービス（例：医療サービスや金融サービス）を利用（ＡＩを間接的に利用）する場合が想定される。
○ ＡＩ開発ガイドライン案において、「ＡＩシステム」とは、“ＡＩソフトを構成要素として含むシステムをいう。例えば、ＡＩソフトを実装したロボットやクラウドシステムはこれに含まれる。” とされている。他方、「ＡＩサービス」については定義されていないところ、「ＡＩサービス」を“ＡＩシステムの機能を提供するサービス ”とし、また、「ＡＩ付随サービス」を “ＡＩシステムのアップデート又は追加的な学習等に係るサービス“ としてはどうか。
○ これらを踏まえると、「分野別評価」や「ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望」において抽出された課題等に対して、ＡＩの利活用において利用者等が留意することが期待される事項を検討するに当たっては、利用者等について一定の分類を試み、分類された利用者の類型に沿って検討を行うことが適当であるものと考えられる。
○ このため、ＡＩの提供について外形的に観察した上で、利用者の分類を試みることとする（次ページ参照）。
○ なお、利用者の分類について、・ 特に消費者的利用者及び間接利用者について 、ＡＩであることを認識している者と認識していない者とを区別すべきではないか。
・ 消費者的利用者について、ＡＩシステムを保有・管理している場合やＡＩの入出力を調整することができる場合と、こうした事情が認められない場合とを区別すべきではないか。
・ 子ども、高齢者、障害者など社会的弱者については、特別に留意することが期待される事項が考えられるのではないか。
といった意見があることを踏まえると、今後「ＡＩ利活用原則案」に掲げられた各原則の内容に関し整理された論点を検討する上では、利用者の主観面や立場等も考慮する必要があるものと考えられる。
○ ＡＩの提供及び利活用の形態については、様々なケースが想定されることから、必要に応じて、今後の検討において関係する主体の整理を見直すこともあり得る。
2

関係する主体の整理（2／7）
ＡＩネットワークサービスプロバイダ
ＡＩサービスプロバイダ
利用者

利用者のうち業としてＡＩサービス
又はＡＩ付随サービスを他者に提供する者

ＡＩシステム又はＡＩサービスを利用する者

間接利用者
最終利用者がＡＩシステム又はＡＩサービスを利用して提供するサービス等を受ける者

ＡＩサービスプロバイダのうち業として情報
通信ネットワークを通じてＡＩサービス又はＡ
Ｉ付随サービスを他者に提供する者

ＡＩネットワークサービスプロバイダ
以外のＡＩサービスプロバイダ
ビジネス利用者

最終利用者

最終利用者のうち業としてＡＩシステム又はＡＩサービスを利用する者

利用者のうち業としてＡＩサービス
又はＡＩ付随サービスを他者に提供することなくＡＩシステム又はＡＩ
サービスを利用する者

消費者的利用者

データ提供者

最終利用者のうちＡＩシステム又はＡＩサー
ビスを利用する者（ビジネス利用者を除く）（注） それぞれの名称は仮称。

他者が利用するＡＩシステムの学習等のためにデータを提供する者（注）同一の個人・事業者が複数の主体に該当する場合がある。

第三者

開発者

他者の利用するＡＩにより付
随的に自らの権利・利益に影響を受ける者

ＡＩシステムの研究開発を行う者

・ＡＩシステム： ＡＩソフトを構成要素として含むシステム
・ＡＩサービス： ＡＩシステムの機能を提供するサービス
・ＡＩ付随サービス： ＡＩシステムのアップデート又は追加的な学習等に係るサービス
3関係する主体の整理（3／7）
例① ＜医療用ＡＩクラウド＞
開発者／ＡＩサービスプロバイダ（例：医療用ＡＩクラウド開発者）

ＡＩサービス（例：医療用ＡＩ
クラウドサービス）の提供※

最終利用者（例：医師）

自ら開発したＡＩシステムを利用したＡＩサービス（例：医療用ＡＩクラウドサービス）を他者（例：医師）に提供※しており、「開発者」であるとともに、「ＡＩサービスプロバイダ」にも該当※ ＡＩ付随サービス（アップデート・追加的な学習等）も提供

ＡＩサービス（例：医療用ＡＩクラウドサービス）を利用する者であり、「最終利用者」に該当

ＡＩサービス（例：医療用ＡＩ
クラウドサービス）を利用したサービス（例：医療サービス）の提供

間接利用者（例：患者）

最終利用者（例：医師）がＡＩサービス（例：
医療用ＡＩクラウドサービス）を利用して提供するサービス（例：医療サービス）を受ける者であり、「間接利用者」に該当
4

関係する主体の整理（4／7）
例② ＜融資審査＞
開発者／ＡＩサービスプロバイダ（例：融資審査システム開発者）
ＡＩシステム（例：融資審査システム）の提供
ＡＩ付随サービス（アップデート・
追加的な学習等）の提供
最終利用者（例：金融機関）

ＡＩシステムを他者に提供した後も、ＡＩ付随サービス（アップデート・追加的な学習等）を提供しており、「開発者」であるとともに、「ＡＩサービスプロバ
イダ」にも該当

ＡＩシステム（例：融資審査システム）を利用する者であり、「最終利用者」に該当

ＡＩシステム（例：融資審査システム）を利用したサービス（例：融資）の提供

間接利用者（例：融資申込者）

最終利用者（例：金融機関）がＡＩシステム（例：融資審査システム）を利用して提供するサービス等（例：融資）を受けようとする者であり、「間接利用者」に該当
5

関係する主体の整理（5／7）
例③ ＜自動運転タクシー＞
開発者／ＡＩサービスプロバイダ（例：自動運転車製造者）
ＡＩシステム（例：自動運転車）の提供
ＡＩ付随サービス（アップデート・
追加的な学習等）の提供

ＡＩサービスプロバイダ（例：自動運転タクシー業者）
ＡＩサービス（例：自動運転タクシー）の提供
最終利用者（例：乗客）ＡＩシステムを他者（例：自動運転タクシー業者）に提供した後も、ＡＩ付随サービス（アップ
デート・追加的な学習等）を提供しており、「開発者」であるとともに「ＡＩサービスプロバイダ」にも該当

ＡＩシステム（例：自動運転車）を利用する者であるが、ＡＩシステムを用いたＡＩサービス（例：
自動運転タクシー）を他者（例：乗客）に提供する者であり、「ＡＩサービスプロバイダ」に該当

ＡＩサービス（例：自動運転タクシー）を利用する者であり、「最終利用者」に該当

事故発生時の被害等
第三者（例：通行人）

利用者には該当しないが、事故発生時の被害等
権利・利益への影響に配慮する必要6

関係する主体の整理（6／7）
例④ ＜生産ラインの異常検知＞
開発者／ＡＩサービスプロバイダ（例：異常検知システム開発者）

ＡＩサービス（例：異常検知サービス）の提供※

最終利用者（例：製造メーカー等）

自ら開発したＡＩシステムを利用したＡＩサービス（例：異常検知サービス）を他者（例：製造メー
カー等）に提供※しており、「開発者」であるとともに、「ＡＩサービスプロバイダ」にも該当※ ＡＩ付随サービス（アップデート・追加的な学習等）も提供

ＡＩサービス（例：異常検知サービス）を利用する者であり、「最終利用者」に該当

7

関係する主体の整理（7／7）
例⑤ ＜ＡＩアシスタント＞
開発者／ＡＩサービスプロバイダ（例：ＡＩアシスタント開発者）

ＡＩサービス（例：ＡＩアシ
スタントサービス）の提供※
最終利用者（例：ＡＩアシスタント対応のＡＩ
スピーカーを利用する個人）

自ら開発したＡＩシステムを利用したＡＩサービス（例：ＡＩアシスタントサービス）を他者（例：ＡＩアシスタント対応のＡＩスピーカーを利用する
個人）に提供※しており、「開発者」であるとともに、「ＡＩサービスプロバイダ」にも該当※ ＡＩ付随サービス（アップデート・追加的な学習等）も提供

ＡＩサービス（例：ＡＩアシスタントサービス）を利用する者であり、「最終利用者」に該当

プライバシーへの影響等

第三者（例：最終利用者と同居する家族、最終利用者宅を訪問する友人等）

利用者には該当しないが、プライバシーへの影響等
権利・利益への影響に配慮する必要
8

ＡＩ利活用原則案（1／2）○ 「分野別評価」や「ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望」において抽出された課題等を踏まえ、ＡＩの利活用の促進やＡＩネットワーク化の健全な進展に向けて、ＡＩシステムの便益の増進とリスクの抑制を図り、ＡＩシステムに対する信頼を醸成するため、ＡＩシステムの利活用において留意することが期待される事項を「ＡＩ利活用原則案」として取りまとめることとしたい。
⇒ ＡＩの便益及びリスクは、国境を越えて波及することが見込まれることから、国際的な議論のためのものとして取りま
とめることが適当であるものと考えられる。また、「ＡＩ利活用原則案」は、ＡＩ開発ガイドライン案と同様に、非規制的かつ非拘束的なものとして取りまとめることが適当であるものと考えられる。

① 適正利用の原則〔安全〕〔役割分担〕② 適正学習の原則〔データ〕〔正当性・公平性〕③ 連携の原則〔連携〕④ 安全の原則〔安全〕⑤ セキュリティの原則〔セキュリティ〕⑥ プライバシーの原則〔プライバシー〕⑦ 尊厳・自律の原則〔正当性・公平性〕⑧ 公平性の原則〔正当性・公平性〕⑨ 透明性の原則〔ブラックボックス化〕「積極利用の原則」と「協力の原則」を削除

・・・ 主に便益の増進に関係・・・ 主にリスクの抑制に関係・・・ 主に信頼の醸成に関係⑩ アカウンタビリティの原則 〔受容性〕（注１） 上記の項目は、あくまでも現時点における「ＡＩ利活用原則案」であり、最終的なアウトプットにおいては、利用者の類型ごとに、上記の項目の一部のみが盛り込まれる可能性や上記の項目以外の項目が盛り込まれる可能性が考えられる。
（注２） 各項目に関係する便益及びリスクには、利用者本人に影響を与えるもののみならず、他者や社会全体に波及するものも含まれる。

9

ＡＩ利活用原則案（2／2）

「積極利用の原則」と「協力の原則」を削除① 適正利用の原則
利用者は、人間とＡＩとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でＡＩシステム又はＡＩサービスを利用するよう努める。

② 適正学習の原則
利用者及びデータ提供者は、ＡＩの学習等に用いるデータの正確性、バイアス等に留意する。

③ 連携の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービス相互間の連携に留意する。また、利用者は、ＡＩがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。

④ 安全の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。

⑤ セキュリティの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留意する。

⑥ プライバシーの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。

⑦ 尊厳・自律の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用において、人間の尊厳と個人の自律を尊重する。

⑧ 公平性の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの判断によって個人が不当に差別されないよう配慮する。

⑨ 透明性の原則
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩシステム又はＡＩサービスの入出力の検証可能性及び判断結果の説明可能性に留意する。

⑩ アカウンタビリティの原則
ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。

（注） 例えば、「利用者」が主体となる場合、利用者の分類（ＡＩサービスプロバイダ、最終利用者等）によって、各原則に関して期待される事項等の具体的な内容が異なる点に留意することや様々な形態の利活用が想定されること等を踏まえ、各原則の内容について論点を整理することとし、継続して検討することとする。
10

それぞれの原則の内容に関する論点（1／11）① 適正利用の原則
利用者は、人間とＡＩとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でＡＩシステ
ム又はＡＩサービスを利用するよう努める。
【主な論点】Ａ) 適正な範囲・方法での利用
利用者は、開発者等からの情報提供や説明を踏まえ、社会的文脈や状況にも配慮して、ＡＩを適正な範囲・方法で利用することが期待されるのではないか。また、利用者は、ＡＩの性質、利用の態様等に応じて、利用する前に、リスクを認識し、正しい用途を理解するとともに、必要な知識・技能を習得すること等が期待されるのではな
いか。さらに、利用者は、自らのＡＩの利活用が適正な範囲・方法で行われているか定期的に確認することが期待されるのではないか。
Ｂ) ＡＩの便益とリスクの適正なバランス
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩのリスクを適切に評価した上で、生産性の向上や業務の効率化のためにＡＩの積極的な利活用を検討するなど、ＡＩの便益とリスクの適正なバランスに配慮することが期待されるのではないか。
Ｃ) ＡＩソフトのアップデート及びＡＩの点検・修理等
利用者は、利活用の過程を通じて、ＡＩの機能を向上させ、リスクを抑制するため、ＡＩソフトのアップデート及びＡ
Ｉの点検・修理等を行うよう努めることが期待されるのではないか。

11

それぞれの原則の内容に関する論点（2／11）
Ｄ) 人間の判断の介在
ＡＩによりなされた自動的な判断について、必要かつ可能な場合（例：ＡＩを用いた医療診断等）には、その判断を用いるか否か、あるいは、どのように用いるか等に関し、人間の判断を介在させることが期待されるのではな
いか。その場合、人間の判断の介在の要否の基準をどのように考えるか。
また、アクチュエータ等を通じて稼働するＡＩの利活用において、一定の条件に該当することにより人間による稼働に移行することが予定されている場合、どのような事項に留意することを期待することが適当か。
［基準として考えられる観点（例）］・ ＡＩの判断に影響を受ける間接利用者等の権利・利益の性質及び意向・ ＡＩの判断の信頼性の程度（人間の判断の信頼性との優劣）
・ 人間の判断に必要な時間的猶予
・ 利用者に期待される能力など

Ｅ) 利用者間の役割分担
利用者は、それぞれがＡＩに関して有していると期待される能力及び知識の多寡並びに必要な措置を実施する
容易性を踏まえ、適当と考えられる役割を果たすとともに、責任を負担することが期待されるのではないか。

Ｆ) 関係者間の協力
利用者及びデータ提供者は、ＡＩの利活用により生じ得る又は生じた事故、セキュリティ侵害、プライバシー侵害等による被害の性質・態様等に応じて、関係者と協力して予防措置及び事後対応（情報共有、停止・復旧、原因解明、再発防止措置等）に取り組むことが期待されるのではないか。また、その実効性を確保するために利用者にどのようなことを期待することが適当か。
12

それぞれの原則の内容に関する論点（3／11）② 適正学習の原則
利用者及びデータ提供者は、ＡＩの学習等に用いるデータの正確性、バイアス等に留意する。
【主な論点】Ａ) ＡＩの学習等に用いるデータの正確性への留意
利用者及びデータ提供者は、利用するＡＩの特性及び用途を踏まえ、ＡＩの学習等に用いるデータの正確性に留意することが期待されるのではないか。また、学習したデータの正確性が損なわれた場合には、データの正確性に留意して改めて学習させることが期待されるのではないか。
また、どのような場合に、どの程度、学習等に用いるデータの正確性に留意することを期待することが適当か。
Ｂ) ＡＩの学習等に用いられるデータのバイアスへの留意
ＡＩの判断結果により、個人が人種・信条・性別等によって個人が不当に差別されないよう、ＡＩサービスプロバイ
ダ、ビジネス利用者及びデータ提供者は、ＡＩの学習等に用いられるデータのバイアス（データに内在する社会的なバイアスを含む。）に留意することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、学習等に用いるデータのバイアスに留意することを期待することが適当か。
Ｃ) 不正確又は不適切なデータの学習等によるＡＩのセキュリティ脆弱性への留意
利用者及びデータ提供者は、ＡＩが不正確又は不適切なデータを学習することにより、ＡＩのセキュリティに脆弱性が生ずるリスクに留意することが期待されるのではないか。

13

それぞれの原則の内容に関する論点（4／11）③ 連携の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービス相互間の連携に留意する。また、利用者は、ＡＩがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。
【主な論点】Ａ) 相互接続性と相互運用性への留意
ＡＩネットワークサービスプロバイダは、ＡＩネットワーク化の健全な進展を通じて、ＡＩの便益を増進するため、ＡＩの相互接続性と相互運用性に留意することが期待されるのではないか。
Ｂ) データ形式やプロトコル等の標準化への対応
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩ相互間及びＡＩと他のシステム等との連携を促進するため、データ形式やプロトコル等の標準化に対応することが期待されるのではないか。また、データ提供者についても、
データ形式の標準化に対応することが期待されるのではないか。
Ｃ) ＡＩネットワーク化により惹起・増幅される課題への留意
ＡＩが連携することによって便益が増進することが期待されるが、利用者は、自ら利用するＡＩがインターネット等
を通じて他のＡＩ等と接続・連携することにより制御不能となる等、ＡＩがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意することが期待されるのではないか。

14

それぞれの原則の内容に関する論点（5／11）④ 安全の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用により、アクチュエータ等を通じて、利用者等及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
【主な論点】A) 適正な範囲・方法での利用
利用者は、開発者等からの情報提供や説明を踏まえ、ＡＩを安全に利活用するために、ＡＩを適正な範囲・方法
で利用することが期待されるのではないか。また、利用者は、ＡＩの性質、利用の態様等に応じて、利用する前に、リスクを認識し、正しい用途を理解するとともに、必要な知識・技能を習得すること等が期待されるのではないか。
Ａ) 人の生命・身体・財産への配慮
医療診断や自動運転など人の生命・身体・財産に危害を及ぼし得る分野でＡＩを利活用する場合には、利用者
は、想定される被害の性質・態様等を踏まえ、必要に応じてＡＩの点検・修理及びＡＩソフトのアップデートを行うことなどにより、ＡＩがアクチュエータ等を通じて人の生命・身体・財産に危害を及ぼすことのないよう配慮することが期待されるのではないか。また、利用者は、ＡＩがアクチュエータ等を通じて人の生命・身体・財産に危害を及ぼした場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。

15

それぞれの原則の内容に関する論点（6／11）⑤ セキュリティの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスのセキュリティに留意する。
【主な論点】A) セキュリティ対策の実施
利用者は、ＡＩのセキュリティに留意し、その時点での技術水準に照らして合理的な対策を講ずることが期待されるのではないか。また、利用者は、セキュリティが侵害された場合に講ずるべき措置について、あらかじめ整
理しておくことが期待されるのではないか。
Ｂ) セキュリティ対策のためのサービス提供等
ＡＩネットワークサービスプロバイダは、自ら提供するＡＩネットワークサービスについて、最終利用者にセキュリ
ティ対策のためのサービスを提供するととともに、インシデント情報の共有を図ることが期待されるのではないか。
Ｃ) 不正確又は不適切なデータの学習によるＡＩのセキュリティ脆弱性への留意
利用者及びデータ提供者は、ＡＩが不正確又は不適切なデータを学習することにより、ＡＩのセキュリティに脆弱性が生ずるリスクに留意することが期待されるのではないか。

16

それぞれの原則の内容に関する論点（7／11）⑥ プライバシーの原則
利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。
【主な論点】A) 他者のプライバシーの尊重
利用者は、ＡＩを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、ＡＩの利活用において他者のプ
ライバシーを尊重することが期待されるのではないか。また、他者のプライバシーを侵害した場合に講ずるべき措置について、あらかじめ整理しておくことが期待されるのではないか。
B) パーソナルデータの収集・分析・提供等におけるプライバシーの尊重
利用者及びデータ提供者は、ＡＩの学習等に用いられるパーソナルデータの収集・分析・提供等において、他者のプライバシーを尊重することが期待されるのではないか。
C) ＡＩを利用したプロフィリングを行う場合におけるプライバシー等の配慮
ＡＩサービスプロバイダ及びビジネス利用者は、人事評価・採用や融資など個人の権利・利益に重要な影響を及ぼす可能性のある分野においてＡＩを利用したプロフィリングを行う場合には、対象者のプライバシー等に慎重に配慮することが期待されるのではないか。
Ｄ) 自己のプライバシー侵害への留意
消費者的利用者は、ペットロボットなどのＡＩに過度に感情移入すること等により、特に秘匿性の高い情報をむ
やみにＡＩに与えることのないよう留意することが期待されるのではないか。
Ｅ) パーソナルデータの流出の防止
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩの判断により本人同意なくパーソナルデータ
が第三者に提供されることがないよう適切な措置を講ずることが期待されるのではないか。
17

それぞれの原則の内容に関する論点（8／11）⑦ 尊厳・自律の原則
利用者は、ＡＩシステム又はＡＩサービスの利活用において、人間の尊厳と個人の自律を尊重する。
【主な論点】A) 他者の尊厳と自律の尊重
利用者は、ＡＩを利活用する際の社会的文脈を踏まえ、他者の尊厳と自律を尊重することが期待されるのではないか。
B) ＡＩによる意思決定・感情の操作等への留意
利用者には、ＡＩにより意思決定や感情が操作されるリスクや、ＡＩに過度に依存するリスクに留意することを期待することは適当か否か。
また、このようなリスクについて誰がいかなる役割を果たすべきか。
C) ＡＩと人間の脳・身体を連携する際の生命倫理等の議論の参照
利用者は、ＡＩを人間の脳・身体と連携させる場合には、生命倫理の議論等を参照し、人間の尊厳と自律が侵害されないよう特に慎重な配慮が求められるのではないか。

18

それぞれの原則の内容に関する論点（9／11）⑧ 公平性の原則
ＡＩサービスプロバイダ、ビジネス利用者及びデータ提供者は、ＡＩシステム又はＡＩサービスの判断によって個人が不当に差別されないよう配慮する。
【主な論点】A) ＡＩの学習等に用いられるデータのバイアスへの留意
ＡＩの判断結果により、個人が人種・信条・性別等によって個人が不当に差別されないよう、ＡＩサービスプロバイ
ダ、ビジネス利用者及びデータ提供者は、ＡＩの学習等に用いられるデータのバイアス（データに内在する社会的なバイアスを含む。）に留意することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、学習等に用いるデータのバイアスに留意することを期待することが適当か。
B) 人間の判断の介在
ＡＩの判断結果により、個人が人種・信条・性別等によって個人が不当に差別されないよう、ＡＩサービスプロバイ
ダ及びビジネス利用者は、ＡＩを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、その判断を用いるか否か、あるいは、どのように用いるか等に関し、人間の判断を介在させることが期待されるのではなか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、人間の判断を介在させることを期待することが適当か。

19

それぞれの原則の内容に関する論点（10／11）⑨ 透明性の原則
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩシステム又はＡＩサービスの入出力の検証可能性及び判断
結果の説明可能性に留意する。
（注）本原則は、アルゴリズム、ソースコード、学習データの開示を想定するものではない。また、本原則の解釈に当たっては、プライバシーや営業秘密への配慮も求められる。

【主な論点】A) ＡＩの入出力の記録・保存
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩの入出力の検証可能性を確保するため、入出力を記録・保存することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、入出力を記録・保存することを期待することが適当か。例えば、自動運転車など人の生命・身体・財産に危害を及ぼし得る分野で利活用する場合には、ＡＩの入出力を記録・保存することが期待されるのではないか。
B) 説明可能性の確保
ＡＩサービスプロバイダ及びビジネス利用者は、ＡＩの判断結果の説明可能性を確保することが期待されるのではないか。
利用する技術の特性及び用途に照らして、どのような場合に、どの程度、説明可能性を確保することを期待す
ることが適当か。特に、医療診断、人事評価・採用、融資など個人の権利・利益に重大な影響を及ぼす可能性のある分野において利活用する場合には、ＡＩの判断結果の説明可能性を確保することが期待されるのではな
いか。
（例えば、深層学習は予測精度が高いが、判断結果の説明が困難であるという現状等にも留意が必要）。
20

それぞれの原則の内容に関する論点（11／11）⑩ アカウンタビリティの原則
ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者及び間接利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
【主な論点】A) アカウンタビリティを果たす努力
ＡＩサービスプロバイダ及びビジネス利用者は、人々と社会からＡＩへの信頼を獲得することができるよう、消費者的利用者、間接利用者、ＡＩの利活用により影響を受ける第三者等に対し、利用するＡＩの性質及び目的等に照らして、相応のアカウンタビリティを果たすよう努めることが期待されるのではないか。
B) ＡＩに関する利用方針の通知・公表
ＡＩサービスプロバイダ及びビジネス利用者は、消費者的利用者や間接利用者らがＡＩの利活用について、適切に認識することのできるよう、ＡＩに関する利用方針（ＡＩを利用している旨、適正な利活用の範囲及び方法、利活
用に伴うリスク、相談窓口など）を通知又は公表することが期待されるのではないか。
利用する技術の性質及び用途に照らして、どのような場合に、どのような内容の利用方針を通知又は公表することを期待することが適当か。

21

【参考①】国際的な議論のためのＡＩ開発ガイドライン案の概要
目的

基本理念

〇 AIネットワーク化の進展による便益は広範で多大
その一方、不透明化等のリスクへの懸念も存在

・ AIネットワーク化の便益がすべての人によりあまねく享受され、人間の尊厳と個人の自律が尊重される人間中心の社会を実現〇 拘束的ではないソフトローとしてガイドラインを国際的に共有することが必要

・ 拘束的ではないソフトローとして国際的に共有

ＡＩネットワーク化の健全な進展を通じたAIシステムの便益の増進とリスクの抑制

・ イノベーティブでオープンな研究開発と公正な競争、学問の自由等を尊重するとともに、便益とリスクの適正なバランスを確保

・利用者の利益を保護
・リスクの波及を抑止

・ 技術的中立性を確保し、開発者に過度の負担を課さないよう配慮〇 本ガイドラインの目的

人間中心の「智連社会」
を実現

関係者に期待される役割

・ 継続的な見直し、必要に応じた柔軟な改定、広範で柔軟な議論

ＡＩ開発原則① 連携の原則
・ AIシステムの相互接続性と相互運用性に留意② 透明性の原則
・ AIシステムの入出力の検証可能性及び判断結果の説明可能性に留意③ 制御可能性の原則
・ AIシステムの制御可能性に留意④ 安全の原則
・ AIシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮⑤ セキュリティの原則
・ AIシステムのセキュリティに留意⑥ プライバシーの原則
・ AIシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮⑦ 倫理の原則
・ AIシステムの開発において、人間の尊厳と個人の自律を尊重⑧ 利用者支援の原則
・ AIシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮⑨ アカウンタビリティの原則
・ 利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める

・ 各国政府及び国際機関： 多様なステークホルダ間の対話の促進に向けた環境整備
・ 開発者、利用者等ステークホルダ： 対話やベストプラクティスの共有、相互協力
・ 各国政府： ＡＩの開発者コミュニティの支援、ＡＩに関する研究開発を支援する政策の積極的な推進22【参考②】国際的な議論のためのＡＩ開発ガイドライン案における定義○ 「ＡＩ」とは、「ＡＩソフト及びＡＩシステムを総称する概念」をいう。
○ 「ＡＩソフト」とは、データ・情報・知識の学習等により、利活用の過程を通じて自らの出力やプログラムを変化させる機能を有するソフトウェアをいう。例えば、機械学習ソフトウェアはこれに含まれる。
○ 「ＡＩシステム」とは、ＡＩソフトを構成要素として含むシステムをいう。例えば、ＡＩソフトを実装したロボットやクラウドシステムはこれに含まれる。
○ ＡＩシステムの「開発者」とは、ＡＩシステムの研究開発（ＡＩシステムを利用しながら行う研究開発を含む。）を行う者（自らが開発したＡＩシステムを用いてＡＩネットワークサービスを他者に提供するプロバイダを含む。）をいう。
○ ＡＩシステムの「利用者」とは、ＡＩシステムを利用する者（最終利用者（エンドユーザ）のほか、他者が開発したＡ
Ｉネットワークサービスを第三者に提供するプロバイダを含む。）をいう。

23

今後の検討の方向性＜「ＡＩ利活用原則案」に関する本推進会議による検討のアウトプットについて＞○ 『報告書2018（仮）』において、「ＡＩ利活用原則案」を取りまとめるとともに、それぞれの原則の内容に関する論点を整理することとする。その後、整理された論点を踏まえ、最終的なアウトプットの取りまとめに向けて検討を行うこととする。
・ 今後の検討においては、最終的なアウトプットを取りまとめるに当たって、ＡＩ開発ガイドライン案のように、目的や基本理念を整理することが必要であるものと考えられる。
この点に関し、ＡＩ利活用原則案の各原則の内容に関し整理された論点において、ある原則の内容に関し論点として掲げられている事項が、他の原則の内容に関し論点として掲げられている事項の前提として整理することが可能であるのではないかといった意見がある。このように各原則相互の関係も踏まえて、最終的なアウト
プットの目的や基本理念等を検討することが適当であるものと考えられる。
・ ＡＩ利活用原則案は、主体を大括り化して取りまとめていることから、利用者の分類ごと、さらに、利用者の主
観や性質、属性等も考慮した上で、各原則の内容に関し整理された各論点についてより詳細な検討を行うことが求められる。
・ 最終的なアウトプットの在り方についても、ＡＩ開発ガイドライン案のように、「ガイドライン」という形や名称で取りまとめることとするか、また、分野ごとの問題の性質等、国ごとの法制度等に相違があることに鑑み、分野共通のものとして取りまとめるのではなく、各分野のステークホルダ等が分野ごとのガイドライン等を策定する際に参照する基本的な指針（メタガイドライン）として取りまとめることとするか等について検討を行うことが必要となる。
これらの検討とともに、最終的なアウトプットを人々に周知し、普及させるため、利用者等の類型ごとに整理したり、特に消費者的利用者向けに、「ハンドブック」や「マニュアル」などリテラシー教材（利用者の手引き）を作成し、それらに基づいてワークショップ等を行ったりする等の手段・方法等についても検討することが望ましい。
24