資料２

事務局説明資料○資料２－１

今後の検討体制並びに検討事項及び検討の進め方等について○資料２－２

国際的な議論及び海外の議論の動向

平成29年10月19日
事務局

資料２－１

今後の検討体制並びに検討事項及び検討の進め方等について

平成29年10月19日
事
務局

今後の検討体制について
ＡＩネットワーク社会推進会議

ＡＩネットワーク社会推進会議
開発原則分科会

影響評価分科会

環境整備分科会

影響評価分科会

・国際的な議論のためのＡＩ
開発ガイドライン案の作成

・ＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価（先行的評価（１０領域）、分野別評価（３分野））
・今後の課題の抽出

・今後の課題の検討
人間とＡＩとの関係の在り方、ステークホルダ間の関係の在り方等の検討、ＡＩの利活用に当たっての考慮事項に関する論点整理等）

・ＡＩネットワーク化が社会・経済の各分野にもたらす影響の評価（分野別評価（９分野））
・ＡＩネットワーク化をめぐって形成されるエコシステムの展望
・今後の課題の抽出・ＡＩ開発ガイドラインに関する国際的な議論のフォローアップ
区分

役職議長

氏名
須藤 修

ＡＩネットワーク社会推進会議

開発原則
分科会

主な肩書き
東京大学大学院情報学環教授・東京大学総合教育研究センター長

区分

役職

氏名

主な肩書き

議長

須藤 修

東京大学大学院情報学環教授・東京大学総合教育研究センター長ＡＩネットワーク社会推進会議副議長

三友 仁志

早稲田大学国際学術院アジア太平洋研究科教授

副議長

三友 仁志

早稲田大学国際学術院アジア太平洋研究科教授

分科会長

平野 晋

中央大学総合政策学部教授・
中央大学大学院総合政策研究科委員長

分科会長

平野 晋

中央大学総合政策学部教授・
大学院総合政策研究科委員長

分科会長代理 宍戸 常寿

東京大学大学院法学政治学研究科教授

技術顧問

堀 浩一

東京大学大学院工学系研究科教授

分科会長

城山 英明

東京大学大学院法学政治学研究科教授

環境整備分科会分科会長代理 宍戸 常寿

東京大学大学院法学政治学研究科教授

堀 浩一

東京大学大学院工学系研究科教授

中川 裕志

東京大学情報基盤センター教授

城山 英明

東京大学大学院法学政治学研究科教授

技術顧問
影響評価
分科会
分科会長代理 大屋 雄裕

慶應義塾大学法学部教授

分科会長
影響評価
分科会

分科会長代理 大屋 雄裕慶應義塾大学法学部教授

技術顧問

京都大学大学院情報学研究科教授

西田 豊明

1

当面のスケジュール（案）
平成29年
7月

ッＡＩ
ネー推進ト会ワ議ク社会

8月★
報告書2017
公表（7/28）

9月

10月

平成30年
11月

12月

1月

2月

3月

・ＡＩの利活用について考慮することが期待される事項に関する論点整理
・ＡＩネットワーク化が社会・経済にもらたす影響の評価（分野別評価）
・ＡＩネットワークの進展に伴い形成されるエコシステムの展望
・国際的な議論のためのＡＩ開発ガイドライン案のフォローアップ 等

▲

▲

▲

第７回
（10/19）

第８回

第９回

▲▲
分
科会

合同分科会
（11/6、11/9）

適宜、分科会（環境整備分科会、影響評価分科会）等を開催

2

今後の検討事項（案）
当面の主な検討事項◯ ＡＩの利活用について考慮することが期待される事項に関する論点整理◯ ＡＩネットワーク化が社会・経済にもたらす影響（分野別評価）◯ ＡＩネットワークの進展に伴い形成されるエコシステムの展望◯ ＡＩネットワーク化の進展に関する指標の検討◯ 国際的な議論のためのＡＩ開発ガイドライン案のフォローアップ
参考：『報告書２０１７』第４章 今後の課題【ＡＩネットワーク化の健全な進展に関する事項】○ ＡＩ開発ガイドライン（仮称）の策定： ＡＩ開発ガイドライン（仮称）の策定に向けた国際的な議論のフォローアップ○ ＡＩ利活用ガイドライン（仮称）の策定： 「ＡＩ利活用ガイドライン（仮称）」の策定に関する検討○ ＡＩシステム相互間の円滑な連携の確保： 関係ステークホルダ間で共有することが期待される関連情報の範囲、共有の方法等の検討○ 競争的なエコシステムの確保： 関連する市場の動向の継続的注視○ 利用者の利益の保護： 利用者に対する開発者等からの自発的な情報提供の在り方の検討、利用者を保護する仕組み（保険等）の在り方の検討【ＡＩネットワーク上を流通する情報・データに関する事項】○ セキュリティ対策： セキュリティの実装の在り方の検討等○ プライバシー及びパーソナルデータの保護： 本人同意等の在り方、データ・情報の加工（匿名化、暗号化等）に関する検討等○ コンテンツに関する制度的課題： 学習用データの作成の促進に関する環境整備、学習済みモデルの適切な保護と利活用促進等【ＡＩネットワーク化が社会・経済にもたらす影響の評価に関する事項】○ ＡＩネットワーク化が社会・経済にもたらす影響に関するシナリオ分析： シナリオ分析の継続的な実施・国際的な共有○ ＡＩネットワーク化の進展に伴う影響の評価指標及び豊かさや幸せに関する評価指標の設定： 指標の設定に向けた検討○ ＡＩシステムの利活用に関する社会的受容性の醸成： 社会におけるＡＩシステムの利活用に関する受容度の継続的注視等【ＡＩネットワーク化が進展する社会における人間をめぐる課題に関する事項】○ 人間とＡＩシステムとの関係の在り方に関する検討： 専門職（医師、弁護士、会計士等）とＡＩシステムとの役割分担の在り方等の検討○ ステークホルダ間の関係の在り方に関する検討： ＡＩシステムのリスクが顕在化した場合の責任の分配の在り方等の検討○ ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備： ＡＩネットワーク化の進展に応じた教育の実施・人材の育成等○ ＡＩシステムに関するリテラシーの涵養及びＡＩネットワーク・ディバイドの形成の防止： 特に高齢者など情報弱者のリテラシーの向上を図るための方策の検討等○ セーフティネットの整備： 労働市場の動向の継続的注視、ＡＩネットワーク化の進展に伴う所得の再分配等格差防止の在り方の検討等○ 技術開発に関する課題： 他のＡＩに対する監督（監視、警告など）や制御（停止、ネットワークからの切断、修理など）を行うことのできる技術等の研究開発の推進3

＜影響評価分科会＞（案）

ＡＩネットワーク化が社会・経済にもたらす影響（分野別評価）＜環境整備分科会＞＜影響評価分科会＞＜環境整備分科会＞
ＡＩネットワークの進展に伴い形成されるエコシステムの展望

ＡＩの利活用について考慮することが期待される事項（論点整理）

・ＡＩシステム相互間の円滑な連携の確保
・競争的なエコシステムの確保
・人間とＡＩシステムとの関係の在り方に関する検討
・ステークホルダ間の関係の在り方に関する検討
・技術開発に関する課題＜影響評価分科会＞

ＡＩネットワーク化の進展に関する指標の検討

・利用者の利益の保護
・セキュリティ対策
・プライバシー及びパーソナルデータの保護
・コンテンツに関する制度的課題
・ＡＩネットワーク化に対応した教育・人材育成及び就労環境の整備
・ＡＩシステムに関するリテラシーの涵養及びＡＩネットワーク・
ディバイドの形成の防止
・セーフティネットの整備
・ＡＩシステムの利活用に関する社会的受容性の醸成＜環境整備分科会＞
国際的な議論のためのＡＩ開発ガイドライン案のフォローアップ
4

検討の進め方（案）2017年 10-12月

テーマC

論点整理

その他

テーマBとりまとめ

関係者からのヒアリング（外部から情報収集）

テーマA

・・・・

ヒアリング
対象者、項目等の検討

構成員からのプレゼン等

深掘りする論点・テーマの抽出・整理

利活用・
エコシステム

テーマ・論点の検討

2018年 1-3月

構成員以外の有識者等も必要に応じ参加することも想定

影響評価・ 開発ガイド
ライン
評価指標

・分野別評価の継続（評価の枠組み・評価項目の見直しを含む）【年内３～４分野程度】
・その他の影響について検討（例：雇用・働き方、教育・人材育成など）
・ＡＩネットワーク化の進展に関する指標の検討

国際的な議論の動向等に応じて、適宜フォローアップ
5

ＡＩの利活用に関する検討に当たっての基本的な考え方（案）
検討の視点（案）
本推進会議においては、ＡＩの利活用に関する検討に当たり、以下の事項を念頭におくこととする。
◯ ＡＩの開発者及び利用者を守り、ＡＩネットワーク化の健全な進展並びにＡＩの開発及び利活用の双方を促進させるために検討を行うものとする。
◯ ＡＩの利活用について考慮することが期待される事項について検討を行うものとする。
◯ ＡＩの利活用に関する検討に当たっては、規制を強化する取組と受け取られたりすることのないよう、また、ＡＩの開発及び利活用を萎縮させることのないよう十分に配慮する。
◯ 検討は、分野共通・分野横断的なものとするとともに、分野間の連携（ネットワーク化）に着目したものとする。ただし、検討の過程においては、個別分野（例：自動運転、医療等）における制度や取組等取り扱うことがあるものとする。

検討に当たっての論点◯ 時間軸（何年後を想定したものとするか）、技術革新の状況、AIネットワーク化の進展状況◯ ＡＩの利活用に関する検討において射程とする範囲◯ 検討の素材として具体的に取り扱う分野・取組

6時間軸、技術革新の状況、AIネットワーク化の進展状況について（参考①）ＡＩネットワーク化の進展段階（出典：ＡＩネットワーク社会推進会議 報告書2017）（参考②）
・ ＡＩ１００（スタンフォード大学）の2016年報告書は、2030年の典型的な北米都市におけるAIの影響を想定。
・ Future of Life Institute（FLI）では、短期的課題と長期的課題に分けて検討。
・ 人工知能技術戦略会議では、概ね2020年までを「フェーズ１」、概ね2025年～2030年までを「フェーズ２」、それ以降を「フェーズ３」としてロードマップを作成。

7

（参考）人工知能の研究開発目標と産業化のロードマップ（平成29年3月31日人工知能技術戦略会議）

8

ＡＩの利活用に関する検討において射程とする範囲について（案）＜国際的な議論のためのAI開発ガイドライン案＞
ＡＩシステムの「開発者」及び「利用者」については、以下のとおり定義する。ただし、「開発者」及び「利用者」は場面に応じて個別に決まる相対的な概念であることに留意する必要がある。
● 「開発者」とは、ＡＩシステムの研究開発（ＡＩシステムを利用しながら行う研究開発を含む。）を行う者（自らが開発したＡＩシステムを用いてＡＩネットワークサービスを他者に提供するプロバイダを含む。）をいう。
● 「利用者」とは、ＡＩシステムを利用する者（最終利用者（エンドユーザ）のほか、他者が開発したＡＩネットワークサービスを第三者に提供するプロバイダを含む。）をいう。

（例①）

AI開発者

AI利用者

（例②）

AI開発者

AI開発者／AI利用者

（例③）

AI開発者

AI開発者／AI利用者

サービス利用者

（例④）

AI開発者

AI開発者／AI利用者

AI利用者

サービス利用者

（例⑤）

AI開発者

AI開発者／AI利用者

AI利用者

第三者

（自動車メーカーなど）（金融機関など）（医療機器メーカーなど）（自動車メーカーなど）

AI利用者（運転者など）（消費者など）（医師など）（運転者など）（患者など）（通行人など）ＡＩの利活用に関する検討において主として射程におくべき者としてはどうか。

9

検討の素材として具体的に取り扱う分野・取組の例（案）ＡＩの利活用が期待される分野や取組として、例えば、以下のものが考えられる。
◯ 自動車の自動運転・自動走行◯ 人事評価・採用、人材派遣◯ 金融（銀行、保険、証券等）◯ 医療・創薬◯ パーソナル・アシスタント、生活（家電、食品等）◯ 広告、マーケティング◯ エンターテイメント・娯楽◯ 小売◯ 運輸・物流◯ 建設、不動産、インフラ（電気、ガス、水道等）◯ 育児・介護、教育・学習支援◯ 情報通信これらの分野・取組に関係する利用者、開発者、事業者、政府・自治体等からのヒアリング等により情報収集を行うこととする。

10

資料２－２

国際的な議論及び海外の議論の動向

平成29年10月19日
事務局

国際的な議論の動向①
G7情報通信・産業大臣会合（平成29年9月25～26日、伊トリノ：奥野総務副大臣出席）● 閣僚宣言において、ＡＩの進歩が経済及び社会に莫大な便益をもたらすことを認識するとともに、デジタル経済におけるイノベーション及び成長を主導する人間中心のＡＩというビジョンを共有し、附属書２に記載するマルチステークホルダーの交流を通じて同ビジョンを一層発展していくことに合意。
（参考）閣僚宣言：http://www.soumu.go.jp/main_content/000509689.pdf

付属書２：我々の社会のための人間中心のＡＩに関するG7マルチステークホルダー交流【仮訳】（抜粋）
高松における2016年のG7情報通信大臣会合において開始された議論に基づき、様々な意見交換（例えば、日本の総務省の有識者会議によってとりまとめられた「ＡＩ開発ガイドライン案」）を促進するための国内及び国際的なイベントが開催されている。我々は、ＡＩによってもたらされる多面的な機会と問題についての理解を深めるため、一層の情報共有及び議論の必要性を認識する。
我々は、また、ＡＩ技術を進歩させることは、単なる技術的課題の克服に関する問題ではないことを認識する。ＡＩ技術を進歩させることは、ＡＩが社会及び我々の経済に与える、より広範な潜在的な影響を理解すること、及び、我々の法律、政策及び価値と調和した人間中心のアプローチによって、ＡＩ技術を進歩させることを確保することに関する問題でもある。この文脈において、我々は以下の重要性を認識する。
１．ＡＩに関連した経済的、倫理的、文化的、規制的及び法的な課題が、政策立案者、産業界及び市民社会によって十分に研究及び理解されていることを知ること。
２．特に、経済成長、雇用創出、生産性、イノベーション、説明責任、透明性、プライバシー、サイバーセキュリティ及び 安全性についてのマルチステークホルダーによる議論に留意すること。
３．ＡＩによってもたらされる技術的及び社会的な懸念を含む、政策及び規制的課題へのマルチステークホルダー・アプローチを探求すること。
４．如何にしてＡＩの潜在性が社会全体で完全かつ公平に実現されるのか、また、如何にして現在及び将来の労働力がＡＩに基づく技術に対処するために必要なスキルを獲得するのかということについてのより良い理解を有すること。
我々は、関連するステークホルダーとの、オープンで、最新の、情報に通じた、集中した対話が、ＡＩへの人間中心のアプローチの必要性への意識を高め、また、社会的に有益なＡＩに向かっての取組を切り開くことを確保するために、我々の役割を果たしていく。我々は、OECDの支援による、更なるマルチステークホルダーの対話及びＡＩ協力に関する我々の理解の促進に期待している。
（参考）付属書２：http://www.soumu.go.jp/main_content/000509692.pdf

1

国際的な議論の動向②
日・独ＩＣＴ政策対話 【平成29年9月12日～13日、東京】◯ 日本側からは、ＩｏＴ総合戦略やＩｏＴ利活用・社会実装に向けた取組、工場のワイヤレス化並びにＡＩネットワーク化に向けた検討状況について説明を行い、今後両国間で課題を共有し、連携していくことを確認した。

インターネットエコノミーに関する日米政策協力対話 【平成29年9月21日～22日、米ワシントンＤ．Ｃ．】◯ 本政策対話の民間部門の要素は、デジタル貿易とデータの自由な流通を可能とすること、プライバシーの保護、人工知能やＩｏＴ（Internet of Things）等の最新技術についての力強い議論を含むものであった。

日EU・ICT政策対話及び日EU・ICT戦略ワークショップ 【平成29年10月2日～4日、東京】◯ EU側から、EUにおけるAI/ロボティクスに関する取組について説明が行われた。日本側からは、AI開発ガイドラインやAIの活用に関する取組について説明を行った。また、AIの進展に伴う社会への影響や、各国における考え方についても日EU間で議論が行われた。AIについてはG7情報通信・産業大臣会合においても、今後の議論の重要性が認識されたところであり、引き続き日EU間で課題を共有し、連携していくこととした。

（参考）ＯＥＣＤ Digital Economy Outlook ２０１７ 【平成29年10月12日刊行】◯ 「ＡＩネットワーク化検討会議」及び「ＡＩネットワーク社会推進会議」において、ＡＩネットワーク化に関する議論が行われ、『ＡＩ開発原則』（９原則）を取りまとめたこと等が紹介されている。
＜http://www.oecd.org/sti/oecd-digital-economy-outlook-2017-9789264276284-en.htm＞＜今後の予定＞◆ 日仏シンポジウム 【平成29年10月25日】◆ ＯＥＣＤと総務省との共催シンポジウム AI: Intelligent Machines, Smart Policies 【平成29年10月26日～27日】◆ ＯＥＣＤ ＣＤＥＰ（デジタル経済政策委員会） 【平成29年11月20日～22日】◆ ＩＧＦ（Internet Governance Forum） 【平成29年12月17日～21日】
2

海外の議論の動向①
米国ホワイトハウス「人工知能の未来に備えて」 【2016年（平成28年）10月】◯ 政府機関におけるAIの利活用など公益に資するAIの利活用の在り方について提言を行うとともに、自動走行車など個別分
野ごとにAIの規制の在り方に関する論点を整理。
◯ 実務家（practitioner ※開発者及び利用者を包含する概念）に、AI対応システム（AI-enabled systems）について、①統御可能であること ②オープンで、透明で、理解可能であること ③人々と効果的に機能し得ること ④その操作は人間の価値及び願望と一致し続けるであろうことを求める。
◯ 報告書に併せて「米国人工知能研究開発戦略」も公表し、連邦政府の予算によるＡＩ研究の方針を策定。

欧州議会「ロボティックスに係る民事法的規則に関する欧州委員会への提言」 【2017年（平成29年） 2月】◯ ＥＵはロボット・ＡＩの開発・設計・利用において尊重されるべき基本的な倫理原則を策定する上で不可欠な役割を果たせるとの認識の下に、倫理原則の策定に向けた論点を提示。
◯ ロボット・ＡＩを所管するＥＵ機関の設置、スマート・ロボットの登録制、ロボットに関する損害賠償責任、保険、知的財産権、データの流通と保護、標準化等について定めるEU法の策定を提言。

中国国務院「次世代人工知能発展計画」 【 2017年（平成29年） ７月】◯ 2030年までに中国が世界の主要なＡＩのイノベーションの拠点となることを目標に掲げる。
◯ 重要課題として、①オープンで協調的な人工知能の技術システムの構築、②高性能で効率的な知能経済の形成、③安全で便利な知能社会の構築、④軍民融合領域におけるＡＩの強化、⑤安全で効率的な知能インフラの構築、⑥次世代ＡＩの主要な科学技術プロジェクトの展開を挙げる。

3

海外の議論の動向②
Partnership on AI 【2016年（平成28年） 9月～】
◯ ＡＩ技術のベストプラクティスを研究して形成し、AIに関する公衆の理解を向上させ、ＡＩ及びその社会的影響に関する議論と関与のためのオープンなプラットフォームとするために設立。
◯ ＡＩの研究・技術について、プライバシーとセキュリティの保護、当事者の利益の理解・尊重、社会的責任、頑健性・堅牢性の確保、人権の尊重、説明可能性などを内容とする 「信条」（Tenets）を公表。

米国電気電子学会（IEEE） 「倫理的に調整された設計」【2016年（平成28年） 12月】

◯ 道徳的価値及び倫理的原則に即して人間と調和するAIを設計する方法について技術者コミュニティの検討のための参照点となる認識及び提言（案）を提示。
◯ 倫理的に調整されたＡＩの設計に関するＩＥＥＥの規格の策定に向けた論点を提示。

Future of Life Institute（FLI）「アシロマＡＩ原則」【2017年（平成29年） 1月】◯ 人間にとって有益なＡＩを実現するため、安全、透明性、責任、価値の実装、プライバシー、人間による制御など23の原則を提示。
◯ AIの研究開発に関する原則が多くを占めるが、法的な意思決定に関与するAIの説明可能性の確保、AIがパーソナルデータを利用する際の個人のプライバシーと自由の尊重、ＡＩにより生み出される経済的便益の人類による共有などAIの利活用に関する原則も盛り込まれている。

スタンフォード大学 AI１００「2030年における人工知能と生活」 【 2016年（平成28年） ６月】◯ ＡＩが近未来に社会にもたらす影響を分析。2030年の北米の都市におけるAIの利活用とその影響を想定。
◯ 交通、家庭/サービスロボット、ヘルスケア、教育、コミュニティ、公共の安全とセキュリティ、雇用と職場、エンタテインメントの８分野について今後のAIの発展とその潜在的影響を検討。
◯ 法的・政策的な論点として、プライバシー、イノベーション政策、民事責任、刑事責任、代理、資格、労働、租税、政治に関する問題について検討。

4