【記事】

ロボットと人工知能の普及と法的課題
Robot and Artificial Intelligence Popularization and Legal Issues

新保 史生

Fumio Shimpo

慶應義塾大学 総合政策学部教授

2016 年 11 月 24 日、御茶ノ水ソラシティ アカデミアにて「近未来教育フォーラム 2016 -Daily Life with Super Technologies-」が開催された。
ロボットと人工知能をめぐる法的課題に関するセッションをレポートする。

モノのインターネット（IoT）の普及により、ロボットがネットワークに権利能力を認めることを考えてもいいのではないかと思うのです。

接続され、日常的にあらゆるところ（モノ）で利用される「ロボット法律上では、人間以外に「法人」も「人」であるとされています。AI も、共生社会」の到来が見込まれている。ネットワーク化され遍在する将来的には「AI 人」のような人格を認めてもいいのではないでしょ

ロボットが、人工知能（AI）により自律性を有し動作することで、どうか。AI に権利能力を認めれば、権利と同時に義務も発生します。のような問題が生じるのか。その法的課題を把握し、安全・安心

つまり、ロボットにも勤労、納税、教育を受けさせる義務が生じるのな利用環境の整備に向けて必要な取り組みを確認する。

です。AI により企業が人員を削減してその分の労働力をAI が担うのであれば、その分の税金を払ってもらえばいい。権利があり、それによって恩恵を得られるなら、それに伴う義務も負うべきだという考え

ロボットをめぐる法的課題検討の必要性方です。法的な問題については、そういった観点から考える必要があります。

現在日本は、産業用ロボットの出荷稼働台数において世界トップを維持しています。とりわけサーボモーター、センサー類などの精密ロボットと AI、IoT の関係を考える際、問題や障害が生じた場合機器については、圧倒的なシェアを誇ります。ところが、ドローン、に誰が法的責任を負うのかという点も考えねばなりません。AI がスマートフォン、掃除ロボットなどを見ると、海外メーカーの製品が搭載されたロボットの欠陥であれば、製造物責任を問うことはでき多いことに気づくでしょう。内部の装置や部品類は日本製ですが、ます。ところが、AI の自律的な思考によって誤った動作や判断がなモノとして売り出される時には海外製品になっている。つまり技術でされ、問題が起きた場合、責任はどこにあるのでしょうか。情報その勝っていても、ビジネスでは負けているのです。こうした状況の中、ものに関しては製造物責任は問われません。現行の法制度では解決日本は今後ロボット大国の地位を維持できるのでしょうか。危機をできない可能性が高いのです。IoT の普及により、今後ロボットは覚える背景には、ロボットをめぐる法的課題についてまだ十分に議論日常的に偏在することになるでしょう。映画『ターミネーター』のされていないという問題があります。

ように、自発的に人間に脅威を及ぼす可能性は現時点においては非現実的ですが、AI の悪用や暴走は直ちに脅威になり得る問題とロボットをめぐる法的課題についての最大の問題は、そもそも何を議論すべきか、体系的に認識・把握されていないことです。自動走行して検討が必要です。現実的な脅威と非現実的な脅威を、きちんと分けて考える必要があります。

する車が事故を起こした際、どういった責任を負うのか。自律的に動くロボットが意図せぬトラブルを起こした時、誰が責任を負うのか。
まだロボットや AI が日常的に扱われていないため、問題についてバーチャルな問題からリアルな課題へ考える必要性が十分に理解されていません。
では、なぜロボット法が必要なのでしょうか。そこには、バーチャル
では、具体的に何を検討しなければならないのでしょうか。現在、な問題からリアルな課題へと変わりつつあることが背景にあります。

AI によりロボットは自律的に動くようになりつつあります。さらに、ひとつ例を挙げましょう。皆さんは、パソコンがコンピュータウィルス

IoT により、さまざまなモノがネットワークにつながるようになってに感染することに関しては、どこか他人事だと思います。しかし、います。ネットワークに接続された自律型ロボットが日常的に使われ家庭用ロボットや自動走行するクルマがマルウェアに感染したらどうるとなれば、多岐に渡る問題が想定されるでしょう。例えば、外部でしょう。事故などにもつながる、現実の脅威が降りかかってくるから不正アクセスされることも起こり得ます。ロボット共生社会の到来可能性があります。

を見据え、法制度や社会制度の在り方を考える必要があるのです。
そもそも日本人は、諸外国と比べてロボットに対して楽観論者が今後 AI が普及すると、人間の仕事が奪われると言われています。

多い傾向があります。キリスト教圏では、人間が人間のようなロボットおそらくこれは現実になるでしょう。単純作業は AI が取って代わり、を作ること自体が悪だと捉えられています。映画で扱われるロボット失業が生じるはずです。その時、社会は何をすべきでしょうか。一般も、たいてい悪と見なされているでしょう。一方日本では、『鉄腕的には、人間でなければできない仕事を探すべきだと言われます。

アトム』のように人間とロボットが仲良く共生して暮らす作品が多くしかし、私はまったく違う考えを持っています。AI に人格、法人格、見られます。日本と海外では、宗教観、ロボット観が違うのです。

39 ｜ DHU JOURNAL Vol.04 2017

【記事】ロボットと人工知能の普及と法的課題
Robot and Artificial Intelligence Popularization and Legal Issues

こうした背景も、ロボットに対する楽観論につながっているのではないかと思います。

問題などが挙げられます。さらに、個人情報・プライバシー保護などの情報の管理責任についても考えなければなりません。事故を起こした際、自動運転ではログを解析することで原因を解明します。その法整備をするうえでは、ロボットとは何かという定義も考えねばログをどのように管理するのか、検討しなければなりません。

なりません。経済産業省は、「センサ」、「知能・制御系」及び「駆動系」の三つの要素技術があるものを「ロボット」と定義しています ※ 1。

ドローンについては、どうでしょうか。急ピッチで法整備が進み、しかし、これはあくまでも産業用ロボットを前提にしています。アメ航空法の改正や飛行禁止エリアの拡大など細かなルールが策定されリカの場合は、（1）周囲の環境を認識できること、（2）認識した情報ましたが、今後も引き続き議論を進める必要があるでしょう。

を処理する能力を有すること、（3）周囲の環境に直接対応して活動できるように組織化されたもの という定義を試みています※ 2。

最後に AI に関する法整備ですが、こちらはようやく検討が始まった段階です。総務省が「AIネットワーク化検討会議」、文部科学省が「AIP参考までに、ロボットは用語としていつ出てきたのかについてもプロジェクト」、内閣府が「人工知能と人間社会に関する懇談会」を説明します。諸説ありますが、『ロッサム万能ロボット会社』という始めています。人工知能を用いることで、どのようなリスクが生じる

カレル・チャペックの戯曲で人造人間を描くにあたり、「隷属」をのか検討を始めたところです。例えば AI が作った著作物は、現行の意味するチェコ語の Robota（強制労働）という用語を用いたことが著作権法では保護されません。しかし、「レンブラントプロジェクト」※3最初だと言われています。ロボットは労働することが、もともとの意味のような試みもすでに始まっています。これはレンブラントの絵を AIだと見てとれます。

で解析し、レンブラントが描きそうな新作を生み出すというプロジェクトです。生成にあたっては手間も労力もかかっていますが、現行の著作権法では権利が発生しないのです。今後こうした著作物は増え自動運転、ドローン、AI をめぐる法的課題ていくでしょう。著作物として考えるのか、誰が創作したのかという創作意図に基づいて権利者を考えるのか、人工知能は創作者では国の政策についても、触れておきましょう。ロボットをめぐる問題にないので権利は与えられないと考えるのか検討する必要があります。

ついては、主な課題である自動走行、ドローン、人工知能について急ピッチで検討が進められています。具体的には、ロボットの自律化、こうした問題は、日本国内だけの議論ではありません。海外でも情報端末化、ネットワーク化に着目した「ロボット新戦略」が打ち出さ同様の問題を抱えています。今後どのような問題が起きるのか、AI をれました。これに基づき、産官学共同の「ロボット革命イニシアティブ

例にとって考えるとふたつ大きな問題があります。ひとつは、AI 活用協議会」で検討を進めています。

時の問題を指摘する際に「加害行為・危害行為」と「不快行為」に分けて検討することです。例えば何らかの犯罪や権利侵害によって一方、経済産業省は従来からロボット戦略、ロボット政策について人間に危害が及ぶ問題については可及的速やかに方策を考える必要が取り組んでいます。最近ではドローンでインフラを管理したり、自動あります。一方で、AI が人間の活動を分析すると、かなりの確度で走行の車を走らせたりしています。自動走行について、例を挙げまその人物に品物を購入させることができると言われ、これは不快行為しょう。自動車そのものについては経済産業省、自動車の保安基準に当たります。両者は区別して考えねばなりません。第二に、法的や車検などについては国土交通省と各省庁で対応が分かれています。

課題です。少しずつ認識が高まっていますが、今後は民法、刑法、労働法、国際法など個別の法律の問題を考える必要があります。

自動走行、自動運転については、アメリカの定義分けをもとに 5段階レベルで考える方向になりつつあります。レベル 0 は、自動で最後に、私が昨年 10 月に提唱した「ロボット法新 8 原則」※4 を紹介はなく人間がすべて運転するという段階です。レベル 1 は、ぶつかします。アイザック・アシモフは「ロボット工学の三原則」※ 5 を提唱

りそうになったらブレーキを踏んでくれるという安全運転支援シスしました。ですが、これはあくまでも思想であり、法や規範ではありテムです。すでにさまざまな自動車に搭載されています。レベル2は、ません。法や規範として、効力を有するものを考える必要があります。

準自動走行システムです。前を走る自動車に追従するため、渋滞の今後みんなでロボットの利用を考える時に、どのように考えるべきか。

時に役立ちます。こちらもすでに実用化されています。レベル 3 も共通認識となるのが「ロボット法新 8 原則」です。

準自動走行システムですが、すべてが自動化され、緊急時には人間が介在します。2020 年を目途に、実用化に向けて進んでいます。
レベル 4 は、完全自動走行システムです。完全に自動化され、そもそもハンドルもなく箱に乗ったらそのまま目的地に連れて行ってくれます。自動車ではありませんが、ゆりかもめがそうです。
ところ が、 自 動 走 行 をめぐっては 法 的 課 題 も残 されています。
第一に、自動走行と道路関連法令の適用・解釈の問題です。首都高は一般に 60km、中心部の八重洲線は 40km 制限です。自動運転は、① 人間第一の原則② 命令服従の原則③ 秘密保持の原則④ 利用制限の原則⑤ 安全保護の原則⑥ 公開・透明性の原則⑦ 個人参加の原則⑧ 責任の原則

法令順守が原則です。自動運転の車が普及することで渋滞が改善さロボット法に関する原則を後から考えるのではなく、前もってれると言われていますが、そのような首都高の法定速度において、デザインしましょうというのが「ロボット・ロー・バイ・デザイン」（仮

自動走行の自動車が混在して走行するとなると、実際にそうなのか称）（Robot Law by Design）です。今後ロボット法を考えるうえで疑問が残ります。他にも、交通事故・交通違反に関する責任、自動最初のきっかけを提言させていただきました。

運転の車が走行する際に不可欠な地図情報のマッピングなどに伴う製造物責任、自動走行車の保安基準、従来とは異なる免許制度のDHU JOURNAL Vol.04 2017 ｜ 40

【記事】ロボットと人工知能の普及と法的課題
Robot and Artificial Intelligence Popularization and Legal Issues【注】※1
NEDO「ロボット白書 2014」第 2 章ロボット利用の意義・必要性・取りまく環境、ロボット政策研究会「ロボット政策研究会中間報告書～ロボットで拓くビジネスフロンティア～ 」（平成 17 年 5 月）23 頁。
※2
ライアン・ケイロ（Ryan Calo）「Ryan Calo, Robotics and the Lessonsof Cyberlaw, 103 CALIF. L. REV. 513,529（2015）」※3「The Next Rembrandt」は、オランダの金融機関 ING グループが出資し、マウリッツハイス美術館、レンブラントハイス美術館がデルフト工科大学、マイクロソフトと協力して行ったプロジェクト。レンブラントの全作品を3D スキャンによりデジタル化し、美術専門家の協力のもと、ディープラーニングで作品の特徴を分析。レンブラントの“新作”を 3D プリンターで作り出した。
※4
新保史生「何故に『ロボット法』なのか」ロボット法学会設立準備研究会（2015 年 10 月 11 日）報告資料（2015）※5アイザック・アシモフ（Isaac Asimov）が SF 小説『われはロボット（I, Robot）』で提示した「ロボット工学の三原則」（Three Laws of Robotics）。
第1条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第2条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第 1 条に反する場合は、この限りでない。
第3条
ロボットは、前掲第 1 条および第 2 条に反するおそれのないかぎり、自己をまもらなければならない。
―『ロボット工学ハンドブック』第 56 版、西暦 2058 年 より。

【登壇者プロフィール】

新保 史生 ｜ Fumio Shimpo
慶應義塾大学 総合政策学部 教授
慶應義塾大学総合政策学部教授

博士（法学）。

専門は、憲法、情報法、ロボット法。
経済協力開発機構（OECD）情報セキュリティ・プライバシー部会（SPDE）副議長、憲法学会理事、法とコンピュータ学会理事、総務省情報通信政策研究所特別上級研究員。
総合科学技術・イノベーション会議委員、 内閣府「人工知能と人間社会に関する懇談会」委員、神奈川県「ロボット共生社会推進検討会議」座長、
総 務 省「AI ネットワ ー ク化 検 討 会 議 」委 員、 情 報ネットワ ー ク法 学 会「ロボット法研究会」主査。

41 ｜ DHU JOURNAL Vol.04 2017