資料４

今後の取組について

令和２年11月12日
事務局

今後の取組（案）
当面の主な取組○ 「安心・安全で信頼性のあるAIの社会実装」の推進（取組事例の収集・蓄積、発信）○ 新型コロナウィルス感染症がAIネットワークに及ぼす影響の検討○ 国内、海外、国際的な議論の動向のフォローアップ「安心・安全で信頼性のあるAIの社会実装」の推進○ 引き続き、議長ヒアリングにおいて、開発者／AIサービスプロバイダー、最終利用者（ビジネス利用者、消費者的利用者）等からヒアリングを行い、取組事例等を収集・蓄積する。
○ 収集・蓄積した取組事例については、「取組事例集」として取りまとめることを目指す。
【ヒアリングの実施に当たって】
・ 「報告書2020」の取りまとめにおける論点を踏まえつつ、特に深掘りする論点、新たに検討すべき論点はあるか。
・ どのような分野、事業者等からヒアリングを行うか。選定に当たって考慮すべき事項はあるか。

1

ヒアリングにおける論点「報告書2020」における論点○ 開発者／AIサービスプロバイダー
・ AI原則等は安心・安全で信頼性のあるAIの開発・利活用にどのように活かすことができるか。
・ 安心・安全で信頼性のあるAIの開発・利活用に必要なガバナンス体制にはどのようなものが考えられるか。（自己点検・自己評価の仕組み／外部による評価の仕組）○ ビジネス利用者
・ ビジネス利用者にとってＡＩの利活用を進めるにあたり課題となっていることは何か。またその課題解決に必要な取組はどのようなものが考えられるか。
○ 消費者的利用者
・ 消費者的利用者に関する取組をどのように進めていくことが考えられるか。
・ 高齢者・障害者にとっての安心・安全で信頼性のあるAIの社会実装に必要な取組としてどのようなものが考えられるか。
○ 情報セキュリティ
・ 開発・利活用等の各フェーズで何が課題でどのような取組が必要か。
○ 保険
・ 保険の仕組みにはどのようなものが考えられるか。
（注） このほか「報告書2020」では、言及できなかったものの、技術的な観点から「Certification」、「品質の確保」、責任の在り方の観点から「契約責任」、「不法行為責任」についても論点として挙がっている。
3

「報告書2020」におけるヒアリングの取りまとめ（概要）開発者／AIサービスプロバイダーにおける取組（１）ＡＩ原則等の策定の意義
ＡＩ原則等の策定そのものは直接企業の収益に結びつくものではないものの、ＡＩの開発等に対する企業としての基本的な方針を示すものとなっており、企業のステークホルダーにとっては、ＡＩの開発等において懸念される点についての不安を払拭し、ＡＩの開発等の取組に対する信頼を醸成することにつながるもの。今後の取組としては以下のとおり。
ア 企業におけるＡＩ原則等策定の取組のフォロー及び周知・ＰＲ等
イ ＡＩ原則等の策定に関する国際的な議論の動向のフォロー（２）ＡＩ原則等のＡＩ開発・利活用における活用
ＡＩ原則等は企業のＡＩ開発・利活用に関する理念を表すのみならず、実際の開発・利活用における指針として用いられることで具体的な機能を発揮。今後の取組としては以下のとおり。
ア 企業におけるＡＩ原則等の具体的な活用事例の収集及び周知・ＰＲ
イ 具体的診断ツールとしてのチェックリスト等の研究（３）安心・安全で信頼性のあるＡＩの開発等に必要なガバナンス体制
ＡＩ原則等の策定にとどまらず、ＡＩ原則等の実施を確保するためにはガバナンス（仕組み）が必要。ガバナンス体制としての自己点検・自己評価の仕組みとして、外部の多様な人材から構成される社内委員会を設置するなど、工夫した取組が見られる。ガバナンスについては、どのような形で担保されるか、また、どの範囲まで及ぼすものなのかについては様々な形態が考えられるもの。今後の取組としては以下のとおり。
ア 自己点検・自己評価の取組事例の収集・ＰＲ等
イ 外部監査についての検討
ウ ガバナンスの実施内容や課題を共有するための公開された議論の場の設定等（４）「ＡＩ利活用ベストプラクティス」の策定
ビジネスの現場の感覚として、ビジネス利用者である企業等をはじめ最終利用者においてＡＩを活用することがどういう意義、メリットを有するのかをまず理解してもらうことが必要との指摘。ＡＩ利活用の有用性を理解してもらうことはＡＩの社会実装を進める上での大前提であることから、本推進会議において意欲的にＡＩの利活用を進め、経営の改善に活かしている方々からヒアリングを行い、ＡＩ利活用の有用性をわかりやすく紹介した「ＡＩ利活用ベストプラィティス集」を策定することが必要。
4

「報告書2020」におけるヒアリングの取りまとめ（概要）（５）その他「安心・安全で信頼性のあるＡＩの社会実装」の課題について、ＡＩ倫理を出発点としつつ多岐にわたるものになっている。提起されたその他の課題については、必要に応じ他の関係団体等とも連携しつつ、引き続き検討。

ビジネス利用者における取組（１）ＡＩビジネス利用者によるＡＩ利活用原則等及びガイドラインの策定支援
今後ＡＩビジネス利用者でのＡＩ原則等の策定の意欲的な取組をフォローするとともに、そうした先進的な事例の紹介とともに、引き続き「ＡＩ利活用ガイドライン」を周知すること等を通じて、ＡＩビジネス利用者によるＡＩ利活用原則等及びガイドラインの策定を支援していくことが必要。
（２）具体的事例を通じたＡＩ利活用の各原則についての考え方の整理・蓄積
具体的事例での原則についての考え方を整理し蓄積していくことは、今後企業において、ＡＩ利活用の判断をする際の参考になる。こうした観点から引き続き、本議長ヒアリングでは対象とならなかった分野も含め、意欲的な取組についてヒアリングを行い、具体的な事例における各原則ついての具体的な考え方の整理・蓄積を行っていくことが必要。
（３）「ＡＩ利活用ベストプラクティス」の策定
ＡＩビジネス利用者によるＡＩ利活用原則等及びガイドラインの策定は、そもそも企業におけるＡＩ利活用の取組そのものが進んでいくことと「鶏と卵」の関係にある。こうした観点からもＡＩ利活用の取組の参考となる「ＡＩ利活用ベストプラクティス」の策定に取り組んでいくことが必要。
（４）ＡＩ利活用に必要な制度的課題のフォロー
ＡＩを利活用して製品・サービスを提供していくにあたり、既存の制度との関係についてあらためて整理・検討する必要がでてくる場合が想定。こうした制度的課題については、情報通信法学研究会ＡＩ分科会や他の関係機関等とも連携を図ることなどにより、本推進会議においても引き続きフォローしていくことが必要。
（５）ＡＩ利活用ビジネスのガバナンスの重要性
ＡＩビジネスに関連する法律や倫理、ステークホルダには大きな広がりがあり、従来ビジネスと同じようなつもりで進めると、リスクが実現してしまう可能性が高い。ステークホルダと法的・倫理的課題の検討を行うためのガバナンス体制を整えることが今後の課題として必要。ＡＩ利活用ビジネスのガバナンス体制について、本推進会議として引き続きフォローし、研究していくことが必要。
5

「報告書2020」におけるヒアリングの取りまとめ（概要）（６）その他
提起されたその他の課題については、他の関係団体等とも連携しつつ、必要に応じ引き続き検討。

消費者的利用者における取組（１）消費者的利用者に関する取組：消費者庁との連携
消費者庁において消費者向けのハンドブック作成の検討が進められているところ、その動きをフォローしつつ、ＰＲ等連携して進めていくことが有効。
（２）高齢者・障害者に関する取組① ＡＩスピーカ等の活用方法等の周知活動への協力
ＡＩスピーカ等の利用は個人の選択であるものの、その活用方法等の周知が必要。こうした周知活動に取り組む団体等に対し、ＡＩネットワーク社会推進会議としても協力していくことは有益。
② 先進的な取組事例等の周知等の推進
先進的な取組事例について引き続きヒアリング等を通じて収集するとともに、その周知等の情報発信に取り組むことが必要。

セキュリティに関する取組（１）ＡＩへの攻撃に対する対策の深化とそれ以外の論点への対応
セキュリティの原則等を実用に資するものとするため、技術的には(c)ＡＩに対する攻撃の分類等を踏まえ、可能な限り攻撃を制限すること、攻撃者が誰かを見極めて対策を強化することが重要。
また、ＡＩに対する攻撃だけでなく、ＡＩに関連するそれ以外の論点も考慮しながら議論を進めることが重要。特に(b)ＡＩによる攻撃は詳細な検討が進んでいないが、ＡＩ開発・利活用ガイドライン検討時に自律的に動作するＡＩやＡＧＩについても考慮したのと同様に、リスクの１つとして捉えておく必要。

6

「報告書2020」におけるヒアリングの取りまとめ（概要）（２）攻撃における意図の見極めの必要性(c)ＡＩに対する攻撃、(a)ＡＩを使った攻撃の双方について、何をもって不正・悪であるかを見極めること（攻撃していると判断すること）が困難であるため、その意図をどのように見抜いていくかが重要。
上記参考として、総務省・プラットフォームサービス研究会では同最終報告書の中で、偽情報（何らかの意図性を持った虚偽の情報）への対応の在り方として様々なレベル感があるとして、ファクトチェックの推進 やＩＣＴリテラシー向上の推進など複数の論点について紹介。
（３）マルチステークホルダによる学際的な議論の必要性
本分野については技術面だけでは解決できない問題が含まれるため、（セキュリティ）技術者だけの議論にとどめず、心理学・社会学等の知見も交えながら、学際的な議論を継続的に行っていくことが重要。

保険に関する取組（１）ＡＩに関する保険商品及びその導入事例の収集及び周知・共有
ＡＩのリスク特性を踏まえ、損害の補填等を目的として、様々な保険商品が開発されることは、ＡＩを利活用するにあたってのセーフティネットを整備する取組として重要。そこで、本推進会議では今後ともＡＩのリスク特性に応じた保険商品が開発されることをフォローするとともに、保険活用の導入事例についても収集し周知・共有する取組が必要。
（２）ＡＩの品質確保と保険ＡＩの品質を確保することによりＡＩの普及を図ることは重要であり、ＡＩの品質確保の観点から、ＡＩに関する品質評価基準や、品質を評価する監査機関等によるガバナンスと組み合わせた品質保証責任保険のアプローチは有効な手段。その際、ＡＩに関する品質評価はＡＩの用途や事業類型によって異なること、それに応じて品質評価の監査の手法・実現可能性も異なると考えられることから、ＡＩに関する品質評価と保険に関する専門的見地からの検討をフォローしつつ、引き続き検討していくことが必要。
（３）ＡＩに関する保険の法的論点について
ＡＩに関する保険を検討するにあたり、既存の法規制のフレームワークだけでは責任の所在・分配を決めることは難しいことも考えられる。こうした責任の所在・分配という民事法に係る論点、さらには新たな保険商品を開発するにあたって生じる法的な論点については、ＡＩに関する保険の法的論点についての専門的見地からの検討をフォローしつつ、引き続き検討していくことが必要。
7

ヒアリング対象の分野、事業者等「報告書2020」におけるヒアリング対象者○ 開発者／AIサービスプロバイダー
・ 株式会社ＡＢＥＪＡ （「Ｅｔｈｉｃａｌ Ａｐｐｒｏａｃｈ ｔｏ ＡＩ（ＥＡＡ）における取組み」）
・ 富士通株式会社 （「ＡＩ開発者におけるＡＩガバナンス」）
・ 日本アイ・ビー・エム株式会社 （「ＡＩに関するＩＢＭの取組みについて」）
・ 株式会社ＮＴＴデータ （「ＮＴＴデータグループＡＩガバナンスに関する取組について」）
・ 沖電気工業株式会社 （「ＡＩ実用化に向けた環境整備～「ＯＫＩグループＡＩ原則」の制定～」）・ 日本マイクロソフト株式会社 （「ビジネスと責任、ＡＩを取り巻く課題と取組～倫理とＡＩの可能性～」）・ 匿名 （「民間企業有志によるＡＩ利活用のための支援ツールに関する報告」）○ ビジネス利用者
・ 株式会社三井住友フィナンシャルグループ （「ＳＭＢＣグループにおけるデジタライゼーションの取組み」）
・ 東京都 （「東京都ＩＣＴ関連施策」）
・ ヤマハ株式会社 （「ヤマハのＡＩ歌声合成～美空ひばりをよみがえらせた取組～」）・ 匿名・ 三部裕幸構成員 （「ＡＩ利活用の視点からみたリクナビ事例について」）○ 消費者的利用者
・ 消費者庁・ 近藤則子構成員 （「スマートスピーカー調査中間報告について」）
・ 若宮正子様 （「我が家におけるＡＩスピーカの利用状況とＡＩスピーカについてのアンケート結果に関するご報告（中間報告）」）・ 田丸健三郎構成員○ 情報セキュリティ
・ 日本ネットワークセキュリティ協会 （ＪＮＳＡ）（「ＡＩ×セキュリティ」）○ 保険
・ 東京海上日動火災保険株式会社 （「ＡＩの普及を支援する保険の機能」について）・ 損害保険ジャパン株式会社 （「スマートファクトリーにおける保険活用について」）

8