シリーズ

情報テクノロジーの進展がもたらす近未来 社 会 の 姿 を 考 え る

A I の自 律とロボット法 の 必 要 性
新 保 史 生 慶應義塾大学 総合政策学部教授◆

力後にほとんど修正が不要なほど正確な入1．AIの進化力と変換がなされ、その精度には驚くばかりである。

AIという用語を日々見聞きする機会が増

このように、AIの利用機会は確実に我々えている。現にAIの進化は目覚ましく、第の日常生活に入り込んでおり、家電製品も三次AIブームと呼ばれている。その進化は、AIで制御される製品が公表される頻度も高

AIが 用 い ら れ て い る こ と を 意 識 せ ず にAIくなっている。スピーカーは音声を聞くもが利用される場面が増えているため、目にのという認識であったが、スピークすると見えて急激な進化を実感するというよりは、いうこと、つまり話しかけるという文字通知らないうちにAIを利用している状況になりの語義であるスピーカーとして、AIスピーりつつある。つまり、AIは日常生活に知らカーも販売されている。

ないうちに浸透しつつある。
◆

ロボットのペッパーや自動掃除機のルン

2．AIは脅威か？

バなど、AIが用いられていることが外見とその動作から認識できる物が増えていることは実感できるであろう。一方で、筆者は人間の代わりにAIが制御する自動走行シ

現在この部分の文章をスマートフォンのアステムにより、自動運転の車の開発も進んプリケーションソフトウェアであるSiriを用でおり、自動走行機能が備わった自動運転いて執筆しているところであるが、SiriをAI車も既に販売されている。人間が運転すると意識して利用しているというよりは、高車を自動運転の車が追い越していく様子が度な音声入力システムを利用しているとい普通の光景になる日も近い。
同時に、AIの進化に伴い問題が生ずるのでう認識しかない。ただ、この文章も音声入

14

TASC MONTHLY no.505

はないかと懸念が指摘されるようにもなっつ自動的に動く結果を予想できないとすれている。ところが、具体的にどのような問ば、それによって生ずる法的問題も予想で題が生ずるのかはっきりしていない。そのきない事例が生ずる可能性があることを認ため、自律したAIが自発的に人間に脅威を識する必要がある。

及ぼす映画のターミネーターのようなおそAIの進化により、ロボットがネットワーれを指摘する意見がAIの進化に伴う脅威でクに接続され日常的にあらゆる所（モノ）あるように取り上げられることが多い。そで利用されるIoTの普及も見込まれている。のような脅威が現実になるには、AIが自分同時に、ネットワークに接続され身近なとの存在を認識して自らへの脅威を排除するころに偏在するロボットが、AIにより自律必要性を意識するまで現実の問題にはなら性を有し動作することによって、日常生活ないと考えられる。一方、AIの悪用や暴走はにおいて様々な問題を引き起こす可能性が直ちに脅威になり得る問題として検討が必あることから、自律ロボットがIoT環境で用要である。例えば、自動運転の車は、目的いられることに伴い生ずる可能性がある問地を指定するとそこまで到達するように走題を把握する必要がある。

行することができるが、それを自爆テロにまた、AIは学習機能を有していることから、用いるといった行為が悪用の例といえよう。

取得対象となるデータの取扱いから暴走のまた、ドローンや自動運転の車をマルウェ

恐れに至るまで、人間が最終的な判断をしア（悪意的なコンピュータウィルス）に感ていた事項をAIに委ねることにより判断結染させて、特定の目的を攻撃したり、制御果の責任を誰が取るのかなど、検討及び解不能に陥らせて社会を混乱させることもで決しなければならない問題が山積している。

きるであろう。
◆◆

4．ロボット法の必要性

3．AIの自律と課題
人間が操作したり、プログラムの範囲内ロボットにAIが備わることによって自律で決まった動作をする産業用ロボットを前的に動作するロボットが、人間の指示に忠提とした基準や法制度では、自律的に動作実に従って動作するのではなく、自律的かするロボットやAIの利用に起因する問題に

15

シリーズ

A I の 自 律 とロ ボ ット 法 の 必 要 性

現行の法制度や解釈では対応できない問題

トに、これまで人間が最終的な判断をしてが生じつつある。それを検討する新たな法いた事項を委ねることも想定されるが、判的学問領域を「ロボット法」と総称して検断結果の責任を誰が取るのかが問題となる。

討・研究を進めることが必要であると筆者

このような法律上の課題について、あらかは考えている。

じめ評価・分析を行っておく必要があるが、政府が2015年に発表した「ロボット新戦その枠組みは検討の途上にある。

略」では、産官学の連携強化により、ロボッそのため、技術と人の共存を前提としたト創出力の抜本強化、サービスや医療介護制度設計を行う基礎理論を構築し、ロボッなどを始めとする様々な分野でのロボットト共生社会における将来の制度設計やルー活用・普及促進、高度IT化社会やグローバルづくりの方向性を示すことには大きな意

ルを見据えたロボット革命への検討・取り義がある。

組みを目指している。ところが、当該戦略においては法的視点からの検討がなされて◆いないため、ロボット法としての研究によ6．ロボット法研究の活用主体り求められているのは、今後の我が国のロボット関連戦略に直ちに有益な知見を提供

AI及び自律ロボットが社会へ浸透するよすることができるとともに、ロボット共生うになると、人間の感情を理解することがで社会を迎えるにあたって不可欠な研究を先き、価値観を共有したエージェントであれば行して行う意義は大きい点にある。

あるほど、そのような存在の社会への浸透性と社会的受容性が増すと考えられている。

◆

その結果、ロボット法としての研究成果

5．ロボット共生社会におけるルール形成の活用が具体的に期待される主体としては、①AIやロボット技術の研究を行う「研究開ロボット法の目的は、ロボット共生社会発主体」、②当該技術を活用して新たな知見の健全な発展と利活用を推進すべく、研究・や可能性を見出す「創造主体」、③当該情報開発に係るルール形成を導出する点にある。

技術の利用に伴う行政規制や社会制度につ学習機能を有しており一定程度自律的で高いて検討を行う「管理主体」、④AIや自律ロ

度 の 能 力 を 有 す るAIが 搭 載 さ れ た ロ ボ ッボットの稼働に伴い責任を負う「責任主体16

TASC MONTHLY no.505（ロボット製造者、所有者、プログラマー）」

る研究とは量や質の面で劣っている感は否などが想定される。

めない。とりわけ、研究方法がかなり異なる点がある。具体的に、どのように異なる◆のか、米国のWe Robotという研究会を事例7．法的議論のあり方に考えてみたい。

We Robotとは、米国におけるロボットに新たに生ずるようになった法的課題を検関する法的・制度的課題を討議する場とし討するにあたっては、現行の法的枠組みにて、2012年から毎年開催している研究会でおける議論はもとより、既存の法解釈ではある。研究会の名称の由来は、アイザック・対応できない問題について検討することもアシモフのI Robotに対しWe Robotと称して求められる。しかし、未知の問題としてSFいる。筆者は2016年度の研究会から参加しの世界で描かれるような議論をしてしまうている。ワークショップ1日と研究報告会2と、問題の非現実化、議論の誇大化、現実日の日程で構成される。のリスクの矮小化、危機意識の欠如などを

参 加 者 の 属 性 は、 法 学、 経 済 学、 倫 理

もたらす議論に陥るおそれがある。よって、学、哲学やロボット工学など研究者をはじ具体的な課題を通じて検討を行い、その上めとして、弁護士、技術者（コンピュータで、法の欠缺を確認するとともに、規制ややネットワーク関係の技術者）、ジャーナリルールが存在しないことによる新たな技術

スト、企業の社内弁護士、学生（憲法やロの利用や導入の萎縮効果が生ずることを避ボット法専攻）、軍法を専門とする独立法務

けるために必要な対処を検討することが必官、FCCやFTCなどの行政官など。米国内で要である。

ロボットに関する法律問題を研究している研究者のみならず、幅広い専門分野の参加◆者が参加している。

8．研究の進め方◆
9．ワークショップの進め方の参考例

ロボット法をめぐる研究は、2015年頃から次第に日本国内においても研究がなされこの研究会のワークショップの構成と進るようになってはきたものの、国外におけ

17

シリーズ

A I の 自 律 とロ ボ ット 法 の 必 要 性

め方は実に興味深いものであった。ロボッ

報告者の報告を聞いて最後に質疑応答なト を め ぐ る 問 題 に つ い て、 法 学、 倫 理 学、どが行われ、参加者は基本的にはそれらの工学、経済学の順に、各分野の研究者がモ報告を受け身で聴取することに専念する日

デレータを務め、参加者との活発な議論の本国内の会議や研究会に慣れている筆者にもとにグループワークなども行われ、ワーと っ て、 今 後 の 我 が 国 に お け る ロ ボ ッ ト

クショップ参加者全員が常に発言を求めら

法 に関 する 研 究会 の 進め 方を 考え る 上 で、れる。参加者の知識の引き出しを総動員しワークショップにおける議論の内容とそのた議論は、これこそがマルチステークホル進め方からは大きな示唆を得た。

ダー・プロセスにおいて目指すべき議論の◆あり方であると実感した。

10．質疑中心の研究会の魅力議論の進め方にも大変感銘を受けた。まずは、法的な問題をロースクールの教員が課題を提示し体系的に議論を進める。憲法研究会の構成として興味深いのは、事前を基本として、制定法、コモンロー、行政に公表されている予稿を参加者が内容を理法、 衡 平 法、 国 際 法 な ど 各 分 野 か ら の 視解していることを前提に報告が行われる点点での検討が必要であることを示す。そのである。各報告者の報告は5分から10分程度上で、倫理学の研究者が法的に解決できなの短い報告が行われるだけで、ほぼ質疑応

い問題への対応の在り方を問いかけ、研究答によってセッションが構成されている。

倫理を三つの原則（個人の尊重、恵沢、正研究会における議論の特徴は、規制が必義）に基づいて議論する。さらに、工学の要な具体的な問題への個別のパッチワーク

研究者がロボット技術について、センサー的 な 対 処 方 法 を 検 討 す る の で は な く、 ロやカメラなどの技術における問題点を解説

ボット を めぐ る 法的 課 題へ の 基本 と なるし、ロボットを的確に動かす技術において「法的な概念」に関する議論を中心に行わ何が難しいのかをわかりやすく説く。最後れていることである。そのような基礎となに、 経 済 学 者 が 新 た な 技 術 の 普 及 に お いる概念を前提に、自動運転、人工知能、ドて、どのような要素がその普及に影響してローンなど、具体的な問題への対応を検討

いるかを分析し、創造的破壊（Review ofするにあたって、法的な検討や規制に必要Disruption）とは何かを解説する。

な基本となる法的思考の在り方についての

18

TASC MONTHLY no.505

議論がなされていた。

走行車の公道走行やドローンの飛行などの各報告に共通している点として、すべてロボット等の管理をめぐる問題から、AIやロの問題について適切な対処方法をすべて認

ボットを利用した業務の効率化に伴う様々識している人はいないことを前提に、新たな問題がある。また、情報通信、医療・介な問題への対処方法を考えなければならな

護、農業、金融・信用、物流、エネルギー、いとの考えに基づいて議論がなされている

防災、建設・インフラ管理、警察、学校なところである。

ど多方面で利用されるAIと行政の規制につ法的な観点からの共通認識としては、新いて多くの課題が山積している。

たな規制を適用または適用しない領域の線刑事責任については、自動走行車による引きが必ずしも明確ではないこと。リスク

交 通事 故 や交 通 違反 な どに 伴 う問 題 から、の許容範囲と裁量のあり方、事前対応と事文字通りのAIを利用した犯罪への対策など後対応の区分け。規制と基準の違い。技術の検討が必要である。同時に、AIを用いた的中立性の観点から、新法が必要か、既存犯罪捜査におけるプロファイリングの導入の法律で対応が可能かという点が議論されや犯罪予知など刑事手続における利用につていた。

いて検討が求められている。
なお、AIと安全保障をめぐる議論は日本国◆内においては進捗が見られないが、既に戦11．具体的に検討すべき法的課題場に投入されているドローンが近い将来に自律型兵器として展開されることが想定さ

個人の権利利益の保護などの観点からは、れているため、人間に直ちに脅威を及ぼす

プライバシー・個人情報保護をはじめとす問題として議論すべき課題といえる。

る人格的利益の保護をめぐる問題、AIのア

既に法整備が実現している領域としては、ルゴリズムによる差別やプロファイリング

首相官邸屋上への無人航空機（UAV）落下に伴う扱いと法の下の平等、差別的な発言事件を端緒に、衝突や落下事故など安全面などAIと表現の自由、雇用環境の変化や雇における懸念の高まりを受け、2015年に航用管理と労働者の権利、雇用差別と勤労の空法が改正された。ドローンの飛行ルール義務をめぐる課題などがある。

が明確になったことで活用に向けた取り組みの促進につながっている。

AIの活用をめぐる問題については、自動19シリーズ

A I の 自 律 とロ ボ ット 法 の 必 要 性

向け逆算して取り組むこととしている。

2020年の東京オリンピック開催を一里塚に、「官民ITS構想・ロードマップ2017」でAIを用いたサービスやAIが搭載されていは、完全自動運転の実現に向けた制度整備るロボットを意識せずに利用する社会の到の方針（大綱）の策定が明記された。2025

来が見込まれている現在、人間が安全かつ年の自動運転社会の到来を見据え、2020年

安心して暮らせるAIやロボットの利用が可までに完全自動運転を含む高度な自動運転能な社会を構築する制度や環境を整えるこ（レベル3以上）の市場化・サービス化の実とが必要となっている今、ロボット法の研現を目標として設定し、必要な制度整備に究を深めていきたいと考えている。

プロフィール…………………………………………………
しんぽ・ふみお慶應義塾大学総合政策学部教授

博士（法学）。専門は、憲法、情報法、ロボット法。憲法学会常務理事、情報通信学会常務理事、法とコンピュータ学会 理 事、 総 務 省 情 報 通 信政 策研 究 所 特
別上 級研 究員。経済協力開発機 構（OECD）情報セキュリティ・プライバシー部会（SPDE）副議長（2009-2016）。総合科学技術・イノベーション会議専門員、内閣府「人工知能と人間社会に関する懇談会」委員、神奈川県「ロボット共生社会推進検討会議」座長、総務省「AIネットワーク化検討会議」委員、情報ネットワー
ク法学会「ロボット法研究会」主査。
「ロボット法学の幕 開け」Nextcom27巻（2016）（Nextcom第6回 情 報
通信論文賞受賞）、『AIネットワーク時代の法政策』弘
文 堂（2017）（ 共著）、『Q＆A個人情 報 保 護 法 の法律相談─最新法制度の理解から実務対応まで─』民事法研究会（2017）（共著）、「ロボット・AIと法をめぐる国内の政 策動向」人工知能学会誌32巻5号（2017）

PP.665-671、「ロボット法をめぐる法領域 別課題の鳥瞰」情報法制研究創刊号（2017）PP.65-78 。

20