AIとガバナンス（規制）の枠組み
ー規制等に適する分野、適さない分野ー
第２回情報法制シンポジウム 2018年6月3日
東京大学伊藤国際学術研究センター 伊藤謝恩ホール

寺田麻佑
国際基督教大学教養学部
理化学研究所革新知能統合研究センター（AIP）
客員研究員

アジェンダ• 一 問題の所在―AIとガバナンスについて考える意義• （１）AIが浸透しつつある社会• （２）指摘されるリスク• 二 ガバナンスとは何か• （１）グローバル化の進んだ社会と国家、AI• （２）ガバナンスが想定する多層的な規制主体• 三 規制等に適する分野、適さない分野

結論ー述べたいことは3点• 1．現在考えるべきことは、将来のAI浸透社会ではなく、移行期の状況のなかで如何なるガバナンスが必要とされているのかということ• ２．AI規制省のような直接規制につながる検討は、時期尚早• （移行期の枠組みを考えるにあたって、人々が納得しない）• 今後の規制主体は複合的なものとなる。立法以外の仕組みなどソフトローを活用した枠組み作りが先にあるべきではな
いか• ３．現時点でAI代替の難しい分野の存在やAI代替を規制すべき分野を意識して今後の規制枠組みを考えていくべき

一

問題の所在
―AIとガバナンスについて考える意義（１）AIが浸透しつつある社会

AIの定義は難しい
本報告においては、発展可能性のあるAIを含め、「特化型」「汎用型」「弱い」「強い」AIすべてを含むものとする

ひとたび人類が完全なＡＩを開発してしまえば、それは自ら発展し、加速度的に自身を再設計していくだろう 「人工知能（ＡＩ）」は、「人類を滅ぼすことになるかもしれない」

Oxford Study（１）AIが浸透しつつある社会• (Within Two Decades, Middle Class Extinction Will Occur:

Study Finds AI Will Replace 47% of Our Jobs

AnonHQ.com

トヨタ工場 すでに かなり自動化

Wearable Devices
GoogleAppleAmazon Prime Air

Boston Consulting Group Research（１）AIが浸透しつつある社会

（１）AIが浸透しつつある社会

Connected Car, BMW

（２）指摘されるリスク（写真はスイスの顔認証システム）•プロファイリング•プライバシー•ラベリング• プライバシーの権利

データ • 自己決定の権利（AIに決定されない）• 差別バイアス• 問題のある決定？

意思の • 決定権はだれ？

自由• 何をどう決断？

二 ガバナンスとは何か• （１）グローバル化の進んだ社会と国家、AI• ・グローバル化が進んだ世界ー各国の統治機構は伝統的な統治の枠組みでは対応しきれない複雑な事態に直面• アラブの春・大統領が直接Twitterで人々に訴える• →伝統的な意味での国・国の規制は考えるべきか？

アラブの春CNN Newshttps://edition.cnn.com/2016/12/21/opinions/trump-twitter-mcternanopinion/index.html

Donald J. Trump @realDonaldTrump 2017年1月6日
Toyota Motor said will build a new plant in Baja, Mexico, to build
Corolla cars for U.S. NO WAY! Build plant in U.S. or pay bigborder tax.
18,165件の返信30,455件のリツイート102,881 いいね（１）グローバル化の進んだ社会と国家、AI• 結論• 様々な規制主体をも取り込んで規制の重層化がすすんでいる
現在にあっても、なお、国家は特別な位置を保持している。
• 国家だけが、憲法制定行為に基づく始原的な民主政の過程を設定している。→国家の存在を前提としたうえでの枠組み（ガバナンス）の在り方について考える。
•• しかし、わたしたちは、現在のところ法がレギュレーションを担う世界に生きてはいるが、実際にパワーを有しているのはだれか、という問題を突きつけられている。

（１）グローバル化の進んだ社会と国家、AI•

AIを活用した情報化社会のもたらすデータの関連する様々な問題に対して、各分野が他分野と協働することなく、アド・ホックな対応に終始するのでは不十分• （データ収集をどのようにすれば問題がないのか、何が公平となるのかなど、さまざまな観点から分析しなければならない）• 情報化社会におけるAIを活用したデータとトラストに関する規範的秩序の形成に資するための、分野横断的な分析や枠組みの構築が必要

（２）ガバナンスが想定する多層的な規制主体• ガバナンスは国家の統治機構とともに様々な民間団体や社団、市民組織や会社等によって複合的に達成される• ガバナンスー規制は国家によるものだけではない多層的・複合的なもの• AIの利活用が進めば、今後はさらなる構造変化が起こる可能性もある• ソフトロー的な規制を移行期においては目指すべきであるが、立法をするかどうかの判断も含めて検討するとしても、他国との協調など、立法のハーモナイゼーションは不可欠

（３）AIに関するガバナンスに関する
AIネットワーク社会推進会議の議論• 国際的な枠組みに資する議論を日本から行ってきたという点で• 情報通信政策研究所（総務省）主催のAIネットワーク社会推進
会議 の取り組みはソフトな枠済みづくりに積極的な典型的取組として参考になるため取り上げる。

AIネットワーク社会推進会議で指摘されてきた事項• ガバナンスの在り方としては、AIおよびAIネットワーク化が揺籃期にあること• 国による規制は競争阻害の可能性もあることからソフトロー的なアプローチが望ましい→マルチステークホルダーによる開かれた、そしてグローバルな議論をおこない、合意形成をめざしていくことが重要であること• 実効性の確保手段も含めて検討をおこない、ガバナンスの内容として、データ利活用の価値やデータ流通の価値、学問の自由や人間の尊厳、イノベーションの促進やプライバシー、パーソナルデータ保護、経済的コスト等のバランスを確保し、AIネットワークの連携、透明性、制御可能性、安全性、プライバシー、セキュリティそして公正の観点が重要であること

ＡＩネットワーク化の グローバル・ガバナンスのための手法として指摘された重要な例（東京大学・宍戸常寿）
http://www.soumu.go.jp/main_content/000489420.pdf
ＡＩネットワーク化の グローバル・ガバナンスのための手法
A) ＡＩの研究開発に関する原則のためのガイドライン
B) ＡＩの利活用に関する原則のためのガイドラインC) ベストプラクティスの国際的な共有
D) 標準化団体など関係するステークホルダによる推奨モデルの作成及び公表
E) 開発者による利用者に対する自発的な情報提供の促進
F) ＡＩの利用者が開発者に提示された利用条件に則った場合や「ＡＩ保険」に加入していた場合などにおける、利用者の責任の減免

（３）AIに関するガバナンスに関する
AIネットワーク社会推進会議の議論
・ソフトローを含めた非規制的なアプローチが必要であると認識されてきた

三 規制等に適する分野、適さない分野• →AIの規制を考える以前の代替困難性のある分野尾の存在（規制を考えることが適さない分野）を認識すべき• 国家による紛争解決手段としての司法制度―裁判制度が機能している現状のなかで、紛争解決としての裁判、裁判官については、しばらくはAIには代替されないのではないか。
• AIが倫理的な判断を含めた判断をできるのか、AIにどのような責任を取らせることができのかといった問題が生じる。
• See, Catherine Nunez, Artificial Intelligence and Legal Ethics:
Whether AI Lawyers Can Make Ethical Decisions, 20 Tul. J.
Tech. & Intell. Prop. 189 (2017), p. 191.

規制等に適する分野、適さない分野
AI代替が難しい分野：裁判

三 規制等に適する分野、適さない分野• AIはたしかに、様々な業務を自動化するといわれている。しかし、業務の自動化がすぐにはなされないような固有の分野、もしくは、業務の自動化に様々な問題がある分野というものが考えられる。→AIの規制を考える以前の代替困難性のある分野尾の存在（規制を考えることが適さない分野）• 人命にかかわる分野であり、人による判断がなされることが必要である分野、• 業務の性質上、様々な国際条約も含めた法規制が関係し、業務をAIに代替することが現状では困難な分野であることも考えられる。[たとえば、航空管制や船舶―航海関係など、国際条約等で決められていることの多い分野]

Siemens Blog が示す成長図

FTに示された１２の分野のAI利用の図

規制等に適する分野、適さない分野
AI代替が難しい分野：航空管制
NATS Holdings

規制等に適する分野• 人は自由な存在であり、自らのおこないについて、主体的に選ぶことができるというときに、たとえば判断に責任がともなうような場合には、むしろ、AIに判断をしてもらうということを選択する人は増加する可能性がある。そうすれば、このようなAIによる判断の代替なども含めた枠組み作りについて、「適切」な規制枠組みが作られることこそが、人々の自由や権利を守ることになる。

三 規制等に適する分野、適さない分野（規制すべき部分もある）• AIによる判断の代替について人事判断にかかわることを行わせる試みが今後増加すると想定すると、裁判官の人事や、社会保障給付の判断など国民の権利保障に直接的にかかわる分野のほか、一般的な会社の人事など、私たちの生活のどこかで人間が判断することで最終的な責任を人間が負うといった仕組みが保障されているべき部分については、AIによる判断をさせてはならないというような枠組み規制を行うことも考えられる。

三 規制等に適する分野、適さない分野（規制すべき部分もある）• 今後、様々な分野にAIを活用していくにあたっては、むしろ、規制枠組みを作らなければ守ることができない人の権利がある、ともいうことができる。
• 最終的判断の責任を人が負うべき分野については、AIが万能ではないことを意識しつつ、どのような部分を任せ、どのような部分についてはどのような規制をかけるのか、といった観点から、複合的な規制枠組みのグランドデザインーガバナンスが必要であろう。