【参考資料】
人工知能と人間社会に関する懇談会

意見募集について
内閣府政策統括官（科学技術・イノベーション担当）付
人工知能と人間社会に関する懇談会 事務局
2016年7月7日
1

人工知能と人間社会に関する懇談会について• 人工知能は、第５期科学技術基本計画で掲げたSociety 5.0の実現の鍵です。
• 人工知能の研究開発及び利活用を健全に進展させるべく、人工知能と人間社会の関わりについて検討を行うため、内閣府特命担当大臣（科学技術政策）の下に「人工知能と人間社会に関する懇談会」を設置し開催しました。
• http://www8.cao.go.jp/cstp/tyousakai/ai/index.html※Society 5.0とは2

意見募集対象の検討項目
 次のいずれかの検討項目に基づく意見を募集します。

 倫理的論点：人間の尊厳を尊重した人工知能について
 法的論点：人工知能による豊かな人間社会形成のための法的課題について
 経済的論点：人工知能の経済的恩恵について
 社会的論点：人工知能が受容される社会について
 教育的論点 研究開発的論点
 その他• 上記以外のいずれにも当てはまらないが、人工知能と人間社会の関わりを検討する上で重要な項目
3

意見募集対象の事例
 いわゆる人工知能のみならず、人工知能を活用したデジタライゼーションに属する技術も含めて意見を募集します。

 移動• 例）自動走行、ライドシェア

 製造• 例）スマート工場、ロボットスーツ

 金融• 例）ブロックチェーン、人工知能による投資コンサルティング

 個人向けサービス（医療を含む）• 例）検索のパーソナライゼーション、プロファイリングに基づくレコメンデーション

 コミュニケーション・情報通信• 例）対話エージェント、ペットロボット

4意見募集対象の論点の例：移動
倫理的論点•

自動運転車が危険回避をする場合、ドライバーの命をとるか通行人の命をとるかというようなコンフリクト場面でどう判断するか。

法的論点•

AIは過去のデータからの統計的学習に依存している。過去にないデータを与えたときの挙動は予測不可能性が高く、混乱をもたらす。例えば、新商品の菓子袋を子どもだと誤って判断し急ブレーキをかけた自動運転車による追突事故の責任の所在はどこにあるのか。

•

道路関連法令の適用解釈について。自動車の定義はあるが、運転者の定義がない。自動運転車＝運転者不在の車両となる。
「運行管理者」という概念とそれに関係する法整備（免許も）が必要ではないか。交通事故・交通違反の責任をどうするか。製
造物責任について、自動運転では自動車、自動走行システム、地図情報と別々の責任が想定される。

経済的論点
•

認識・運動の習熟を機械ができるようになったときに、警備員や運転手、あるいはレジや弁当づくりなどの仕事が必要なくなる可能性が高い。つまり生活保障としての仕事はどうなるのか。

社会的論点
•

お年寄りや地方の人々、運転したい人々のニーズをどう満たすか。

•

人は新しい道具が登場すると、それに応じて新しい能力を獲得してきた。AIの進展と呼応して人間の能力がどう変化するかを見極める・予想する必要があるのではないか。

教育的論点
•・・・

研究開発的論点•

多くの実世界のデバイスに人工知能が実装されていくと、そのシステムを狂わせることのできるポイントも増えて行く。また、いろいろなデバイスが連携しあい、サイバーな空間だけにはとどまらない複雑な攻撃も増えていく。そのような、サイバーとフィジカルな空間で複雑5に絡み合うセキュリティの脅威にどう対応していくか。

倫理的論点•

意見募集対象の論点の例：製造・・・

法的論点• 筋電により意思を解釈するロボットスーツを装着していて起こる事故や傷害事件は、「筋電」を意思と解釈してよいか。ユーザの意図的な犯罪なのか、過失なのか、AI開発者の責任なのか。
• 企業に対する従属労働を前提とした従来の労働法を、ITやAIの普及による脱労働社会や、自由で創造的な働き方の普及にどう適合させるか。自営的就労に対する保護の仕組みが必要ではないか。
• AIを道具として利用した創作物と、AI自身による創作物（人の関与が少ない）について、前者には権利が発生するが後者には発生しない。しかし、両者を区別するのは困難ではないか。

経済的論点• 少子高齢化により、特に、農業、介護、建設、物流、製造業等の、運動を伴う労働のニーズが高いが、AIで自動化・効率化を図ることで、産業競争力を高め、経済成長を促すことができるのではないか。
• 時空間的に拘束されないテレワークが普及し、同時に個人がグローバルに世界の企業・人と取引することが一般的になるのではないか。
• 企業をめぐる環境が激変し、セットアップコストが大幅に低下。誰でも少人数で世界を相手にビジネスできる時代になったが、日本はいまだに大企業を中心とした発想のままではないか。今後は小さな組織の時代になり、スピードも必要ではないか。
• 失業率を左右するのは、新技術の台頭ではなく、マクロ経済政策の良し悪しではないか。

社会的論点
•・・・

教育的論点
• AIと協働する労働者に求められる知性と能力は何かを明らかにし、初等中等教育でどう育成するかを検討する必要があるのではないか。

研究開発的論点•・・・

6意見募集対象の論点の例：金融
倫理的論点
•・・・

法的論点
•

金融の自動取引によってバブル経済の発生が増加する。同時にバブル崩壊による損失が増えるが、その責任の所在はどこにあるのか。

経済的論点
•

AIによる急激な為替変動の影響を避けるためにも、取引をブロックチェーン化することが増える可能性がある。その場合、中央銀行が発行する貨幣は決済手段としての意味を持たなくなり、政府による金融政策が無効化するのではないか。

•AIによる金融市場操作をどこまで許容するか。

•

ある特定ユーザのために利益を上げるため、サブプライムローンに相当する新たな金融商品を人工知能が巧妙に隠蔽しつつ構築し、そのこと自体を、「主人」も含めて周囲の人間が認識することに失敗するなどといった事例があり得るのではないか。

社会的論点
•

・・・

教育的論点
•

・・・

研究開発的論点•・・・

7

意見募集対象の論点の例：
個人向けサービス（医療を含む）
倫理的論点• AIによるプロファイリングにより不透明な差別が行われるのではないか。
• データの過剰なパーソナライゼーションが進むと、人間は自分の好みや傾向に適ったデータばかりを提供されることに慣れ切ってしまい、自ら異質なもの、新しいものを求め、出会う機会を失っていくのではないか。

法的論点•

AIによる監視をどこまで許容するか。つまり、「安全・安心」と「プライバシー」のトレードオフをどう考えるか。

•AIのためにあらゆるデータが収集利用される。また、そのデータを利用して人の行動や心理が推定される。そのとき、そのプライバシーについて、何をどこまで推定されても許容できるか。

経済的論点
•

・・・

社会的論点
•

AI等により政治的傾向がプロファイリングされることで投票行動が操作されるリスクがあるのではないか。

教育的論点
•

・・・

研究開発的論点•・・・
8意見募集対象の論点の例：
コミュニケーション・情報通信
倫理的論点•

人間と見分けがつかないAIが人間と偽って人間とコミュニケーションすることは人の尊厳を冒すのではないか。AIは自分がAIであることを常に明示すべきか。

•

AIを用いた恋愛ビジネスはどこまで許されるか。

法的論点•

サービス産業で機械に人並みの対応を学習させるには、プライバシー情報の提供が必要ではないか。

経済的論点
•・・・

社会的論点
•

人工知能への一般人の期待の大きさと、現在人工知能で実用化が可能な部分についてのギャップをどう埋めていくか。対話システ
ム等においても、文化的背景や常識などを理解したものが実現するまでにはまだまだ相当ギャップがある。

•AIは、人間のカウンセリング相手となることなどにより人間のネガティブな感情を低減する可能性がある。一方で、人間の孤独感や劣等感を生む可能性もある。

教育的論点
•

薄いコミュニケーションによって支えられるプラットフォームへの参画に際しての最低限の知識やセキュリティ教育が必要ではないか。

•

ネット上の差別その他ネガティブなコンテンツや書き込み等をチェックする人材の養成とその精神的ケア体制の確立に向けた取り組みの必要が必要ではないか。

経済的論点
•・・・

9

（御問合せ先）内閣府 政策統括官（科学技術・イノベーション担当）付参事官（社会システム基盤担当）付
橋本・北崎
電話：０３−６２５７−１３３５（直通）10