TASC MONTHLY no.507

シリーズ

情報テクノロジーの進展がもたらす近未来社 会 の 姿 を 考 え る「 超 人 」 としての A I・ロボット
大屋雄裕

慶應義塾大学法学部教授◆

我々は、そのような行為に関与することを１．動物裁判と行為指導性事前に避けることができる。動物にはこのような予期能力がないので、違反行為を事中世ヨーロッパには「動物裁判」と呼ば後に処罰することを通じて学習させるしかれる社会制度があったことが知られている。

ない。犬猫のしつけとはこのように事後処たとえば疫病が流行したとき、その原因と罰に頼ったシステムであり、だからこそベ疑われた動物――典型的にはネズミやネコ

ンサムは何が禁止されているのかを個々人――が数匹捕らえられ、法廷で有罪を宣告が理解することのできないようなイングラされて処刑されたり、不幸にも赤ん坊を蹴ンドの判例法システムを「犬法」（dog law）り殺してしまった豚が追放刑に処されたりと罵倒したのだった。

したという（池上俊一『動物裁判：西欧中逆に言えば、同じヒト（homo sapiens）

世・正義のコスモス』講談社、1990年）。さに属していても一定の理性や判断能力を持て我々はこの制度を正当なもの、意味のあたない存在を法の指示に服従させることはるものだと考えるだろうか。考えないとすできないし、彼を法廷に引き出して有罪をれば、それはなぜなのだろうか。

宣告するようなことも――動物裁判の例とおそらくただちに現われる反応は科学的同じように――無意味だということになる。

な合理性がないとか、このようなことをし我々はもちろん、心神喪失者が刑事的に処ても動物が一定の行為（たとえばネズミに罰されないことを定めた刑法39条1項を、こよるペストの媒介）を止める見込みがないこで思い出すことだろう。法を通じた事前

以 上、 意 味 は な い と い う も の だ ろ う。 法

規制は、結果を予期し自らの行動をコント制度には行為指導性があり、一定の行為がロールすることのできる自律的主体に対し処罰されるだろうという予測をもとにしててしか意味を持たないと、とりあえず確認

13

シリーズ

「 超 人 」 として の A I ・ ロ ボ ット

う主張はしばしば見受けられるだろう。そしておこう。の具体的な主張内容はさまざまであっても、、◆

これらはいずれも意思と自律性を持つ人 を

２．人と物と境界線と高く、それらを欠く存在を低く位置付ける
スロープの存在を前提にしている点ではほ世界を「人」と「物」とに区分し、理性ぼ違いがない。どこにその両者を区切る境的主体としての前者が合意に基づいて相互界線があるのか、あるいは境界線は単一でに形成する関係として契約をとらえようとなくいくつかの段階から構成されているのしたサヴィニー以降のドイツ民法学（日本か――たとえば犬猫には能動的な政治参加の民法もその延長線上にある）、あるいはの権利はなくとも理由なく傷付けられない

その前提にあったカントの哲学・倫理学も権 利 は 認 め ら れ る べ き か も し れ な い ――、

また、同様の観点に立っている（筏津安恕

その境界線と生物種としてのヒトの境界が『私法理論のパラダイム転換と契約理論の再一致しているのかといった論点をめぐって編：ヴォルフ・カント・サヴィニー』昭和

どれだけ激しい論争を繰り広げたとしても、堂、2002年）。理性に基づいて自律的に行為我々の社会を構成する人 の特権性が、そこすることのできる存在だからこそ我ら人間では常に前提されているのである。

、、

は人 として根元的な自由を認められるのでここで問題は、いま新たに我々の世界にあり、そのような資格を持たない存在はす

生 ま れ つ つ あ る 存 在 と し て のAIや ロ ボ ッ、べて――生命の有無にかかわらず――物 とトがこの構図のなかでどのように位置付け、して人 の意思に従属させられることになるられるかという点にある。もちろん我々は、わけだ。

これまでの生命倫理学と同様の構図に立っ

動物の権利をめぐる生命倫理学的な問い

たうえで境界線をめぐる議論に基づいてそも基本的にはこの構図を継承している。たの地位について考えることができる。人 のとえばある種の動物はヒトに近い知性や自条 件 を 理 性 や 判 断 能 力 に 求 め れ ばAIや ロ

律性を持つものとして限定的な権利能力をボットも我ら人間と同じ高みに昇るべきだ

認められるべきだとか、逆に胎児や重度心ということになるかもしれないし、痛みや身障害者は意識と受苦能力を欠くので生命苦痛を感じる能力だと考えれば動物より低権のような人権保障の対象にならないといい位置付けも考えられるだろう。だがその、

14

TASC MONTHLY no.507

ような議論の構図は、AIやロボットの本質いうことの意味であった）。だとしても一定的なあり方を正確に反映しているのだろうの理由からその悪をあえて選択したり（あか。AIやロボットは、まだ十分に技術が発いつだけは生かしておけない）、あるいは自展していない現時点では動物のようなものらの行動を理性的にコントロールしそこねであり、成長するにつれてヒトと同じようることによって（ついカッとなって）、悪な存在へと移行していくだけのものなのだ

いと知っているはずの行為に手を染めてしろうか。

まうわけだ。そこで我々は、制裁を予告することで合理的な判断者にとってのバラン◆

スを変えてしまおうとする一方（処罰され３．不透明な存在としての人間ることを考えれば、相手を殺すのは割に合わない）、激情に駆られた行為者に対して少し遡って考えよう。さきほど法制度には実際に処罰を科すことで、他の人々へのは行為指導性があり、処罰が予告された行戒めにしようとすることになる。いずれに為を人々は選択しなくなるだろうと述べた。

せよ法は、それが我ら人間の判断や行為にだがそこでいう行為指導性がそれ自体とし直接的に介入できないこと、判断や行為のて 実 在 す る の な ら ば、 処 罰 の 予 告 を 伴 う

条件を操作することで間接的に機能するこ必要はないのではないだろうか。たとえばとを狙うしかないということを前提として「殺人は悪いことであり、禁止される」とだいる。我々は再び、法は外形的な行為を規け述べればよく、それに一定の制裁――現制する合法性の次元においてのみ働くもの

行法では死刑または無期もしくは5年以上のであり、内心にある道 徳性を左右すること懲役（199条）――を結び付ける必要はないはできないというカントの指摘を思い出すのではないだろうか。

だろう。だからこそ、物理的な条件を通じ、、、、、、、、、て判断・行為の可能性自体を事前に消去す

もちろんこの問いへの答はごく明らかで、、、あり、我々が規範に従 いそこねるという点

るアーキテクチャの権力が法を超えるものに あ る だ ろ う。 我 々 の 多 く は、 あ え て 刑として注目を集めることになったというこ

法 の条 文によ っ て示 される ことがなく ととにもなるはずだ（ローレンス・レッシグ

も、殺人が悪い行為だということは十分に（山形・柏木訳）『CODE：インターネットの理解している（それが自然犯mala in seと合法・違法・プライバシー』翔泳社、2001年、

15

シリーズ

「 超 人 」 として の A I ・ ロ ボ ット

および大屋雄裕『自由とは何か：監視社会

Twitter上で公開した会話AI「Tay」が、ユーと〈個人〉の消滅』筑摩書房、2007年など）。

ザーとの会話を通じて人種差別や陰謀論をたちまち学習してしまった結果として不適◆切な発言を連発するようになり、半日あま４．超人としてのAI・ロボットりで緊急停止されるという事態が生じている。AIによる不法行為や暴走への懸念などが語られるひとつの契機にはなったのかも

このように考えたとき、AIやロボットがしれない。

ヒトと大きく異なる点として、そのような、、、、、従 いそこねの可能性に注目することができだが注目すべきなのは、ここでたとえばるだろう。まず、現在でも生産現場で活用人種差別を学習したAIがただちにそれを実されているようなロボットを考えよう。そ行に移していることだろう。AIは差別発言れらはあらかじめ定められたプログラムにがいいことだと思ったからそれを直接に行沿って定められた動作を反復し続けるだろ動へと反映させたのであり、そこにはヒトうし、故障や燃料切れといった物理的な障の場合であればしばしば生じるようなさま害の場合を除けば、それに失敗することもざまな配慮（この発言は社会的に許容されないだろう。プログラムはロボットの動作るか、TPOに合致しているか）やためらいを直接的に規定するのであり、そこには判（面倒くさい、眠い、疲れた）は存在しない。

、、、、、断も自律も、したがって従 いそこねの問題

学習結果はAIの行動を直接的に規定しておも生じないように思われる。

り、ヒトのような従 いそこねの可能性はこ、、、、、ま さに 最近話題 となっ ている 自動運 転

こにも存在しないということになるのでは

車 の よ う に、 高 度 な 学 習 機 能 を 備 え たAI

ないだろうか。AIやロボットが我ら人間とや、それによって制御されるロボットの場は異なる「超人」的なあり方を実現するも合にはどうだろうか。もちろんそこに、与のだとすれば、それはたとえば理性、知識えられたデータからAIが何を学習するかが量、判断能力、情報処理速度といったもの

予測しにくいとか、データ自体に偏りが含で我々を大きく凌駕するような「超知性」

まれていればそれをAIが忠実に学習してし（superintelligence） だ か ら で は な く ――まうという問題は指摘されている。たとえあるいはそれに加えた別の問題として――、

ば2016年3月には、米マイクロソフト社がこのように我々とは根本的に異なった規範

16

TASC MONTHLY no.507

への反応構造を持っているからだと考えらは ―― ま だ 高 度 の 学 習 能 力 を 実 現 し たAIれる。などが現物として存在しないからという理
由 も あ る だ ろ う が ―― お そ ら く 偶 然 で は◆ない。国際的な研究支援団体であるFuture５．法とその対象

of Life Instituteに よ る「 ア シ ロ マAI原 則 」（Asilomar AI Principles; https://futureoflife.

そしておそらくはこのことが、AIやロボッorg/ai-principles/） に せ よ、 日 本 で 総 務

トを規制する法のあり方にも反映すること省AIネットワーク社会推進会議がとりまとになるだろう。冒頭で挙げたように、我々

め たAI開 発 ガ イ ド ラ イ ン 案（http://www.

は自律性を持たない動物に対して法による

soumu.go.jp/main_content/000499625.

規制は無意味だと考えるのであった。ではpdf）にせよ、その主たる内容はAIの開発

AIや ロ ボ ッ ト に 対 し て は、 ど う だ ろ う か。

者たるヒトが尊重・注意すべき諸価値であ判断過程に不透明性・間接性がなく、何をり、AI自体がそこで提示された規範の名宛考慮してどのように判断すべきかを（ある人として想定されているわけではない。AI・

いは逆に最低限このような判断をしてはなロボットの責任問題というテーマのもとにらないと）命じればその通りに行為するだ

我々が考えているのが基本的には（過剰）ろうという意味においては自律性を持たな緊急避難の例であること――たとえば5人のいAIやロボットに対して、法はやはり意味通行人を回避するために急転回して別の通を持たないのではないだろうか。あるいは行人1人を跳ねることが許されるか、急ブ

別の言い方をすれば、AIやロボットはそれレーキで搭乗者1人を犠牲にするのならどうら自身が規範の名宛人となることはないのか――も、このような前提を反映しているではないだろうか。我々が規範を投げかけように思われる。我々はそこで、与えられるのはあくまで、彼らが従うだろう指示のた指示にAIが忠実に従った結果として回避

作り主たる我ら人間に対してなのではない不能な一定の損害が発生した場合の負担分だろうか。

配について議論しているのであり、AIが我々現在、世界各所で取り組みが進められての生命尊重という価値をうっかり忘れてしいるAI・ロボットに関する規制が、開発方まうとか、怒りのあまり殺害を決意するよ

針のコントロールに主眼を置いていることうなことを考えているわけではないだろう。

17

シリーズ

「 超 人 」 として の A I ・ ロ ボ ット

くまで意思の弱さを抱えた不完全な存在とそこにあるのは我々の自律的な決断として、、、、の故意の問題でも、従いそこねとしての過失しての我ら人類に対して意味を持つようなの問題でもないのである。

ものであるとすれば、後者の可能性は――AI・ロボットが未発達だからではなく、逆◆にその完全性の故に――あらかじめ閉ざさ６．人間的な、あまりに人間的なれているように思われる。それとも技術発展はやがてロビタのように、不完全性さえも備えたヒトの似姿を実現することを目指所有者の子供を故意に死なせた容疑で追すことになるのだろうか。

求されたロボット「ロビタ」が、自分は人間な ので 人間 同様に 殺人 罪で裁 かれる べきだと主張する手塚治虫『火の鳥』復活編（小学館クリエイティブ、2014年（初出1970～ 71年））のエピソードを想起しよう。結果、的にこの要求は認められず、ロビタには故、、、、障 した物として融解処分が下される。だが重要なのはそもそもロビタが作中において「人間らしい」「ほかのロボットとちがう」失敗したり感情を表わすような存在として位置付けられていることだろう（その理由についてここでは触れない）。指示に逆らった、、、、、、り従いそこねたりする人 間的な存在だから
プロフィール…………………………………………………

こそ、それを対象とする統制手段として法おおや・たけひろ 1974 年生まれ。慶應義塾大学法学が意味を持つのであり、法的主体として扱部教授、専攻は法哲学。東京大学法学部卒、同大学助手・名古屋大学大学院法学研究科助教授・教授等をえというロビタの主張が意味あるものとし経て現職。著書に『自由か、さもなくば幸福か？：21世て我々に響くことになるのだろう。

紀の〈あり得べき社会〉を問う』（筑摩選書、2014年）、『法哲学』（共著、有斐閣、2014年）、『法哲学と法哲学

AI・ロボット法とは、それらの取扱いにの対話』（共著、有斐閣、2017年）、『裁判の原点：社

おいて我ら人間が守るべき掟なのか、AI・ロ

会を動かす法学入門』（河出ブックス、2018年）等があボット自身に向けられた掟なのか。法がある。

18