共生社会特論2015年度
ロボットの道徳道徳的判断を機械に実装する取り組み

2009

2010

2011

問いの重要性

http://www.theguardian.com/technology/2014/may/
28/google-self-driving-car-how-does-it-work

人工知能・ロボットが人間の生命や安全に直接かかわる場面に進出する可能性が高まり、それに伴ってそれらに倫理的判断をさせることの必要性・技術的実現可能性・道徳的是非が論じられるようになっている。
http://www.stopkillerrobots.org/2015/04/humancontrol/タフツ大学，ブラウン大学，レンセリ
ア・ポリテクニック研究所の研究者たちが米海軍とチームを組んで，善悪とそれらの帰結を理解することのできる「道徳的」な自律ロボットの開発に着手した

道徳的能力とは大雑把にいって人間が同意する傾向にある法律や社会的な規約を学び、それについて推論し、それに基づいて行動し、それについて語ることができる能力と考えることができる

戦場におけるアルゴリズムに従った道徳
http://www.kurzweilai.net/can-robots-be-trusted-to-know-right-from-wrong

道徳性
社会の規範を学ぶ

価値を評価する
他者の感情を思いやる

状況に応じて適切な判断を下し行動をとる

反省する
結果の責任を取る
等々…

Machine Ethicsのパラダイム
機械が従うべき道徳的規範を明示化する．

機械にその規範を組み込み，従わせる．

古典的な「記号的AI」と同じパラダイム

アシモフのロボット工学三原則• 一、ロボットは人間に危害を加えてはならない。また何も手を下さずに人間が危害を受けるのを黙視していてはならない。
• 二、ロボットは人間の命令に従わなくてはならない。ただし第一原則に反する命令はその限りではない。
• 三、ロボットは自らの存在を護らなくてはならない。ただしそれは第一、第二原則に違反しない場合に限る。
『私はロボット』，伊藤哲訳，東京創元社，創元SF文庫，1988年，p. 8）

ロボットは善悪の区別をつけられるようになるか？ ロボット，自走車，軍事機械に倫理観を備えさせる試みはそれがいかに難しいかを明らかにする

New Scientist
https://www.newscientist.com/article/mg22329863-700ethical-trap-robot-paralysed-by-choice-of-who-to-save/• Winfieldらの実験では，他のロボットを助けるようにプログラムされたロボットが，二台のロボットが同時に危険に近づいている状況で，適切な行動がとれずに「麻痺」してしまった．

ビュリダンのロバ

1900年に書かれた政治的風刺画．大西洋と太平洋を結ぶ運河をパナマとニカラグアのどちらのルートで建設するか思案する米国議会の様子をビュリダンのロバになぞらえて表現している．

• ロバが二つの乾草の山の間でどちらを食べるか迷っているうちに餓死するという寓話．
• 同じくらい望ましい帰結を生む
二つの行動の間では合理的な意思決定はできないというビュリダン（中世の哲学者）の説を風刺して作られた．

"Deliberations of Congress" by W. A. Rogers - New York Herald (Credit: The Granger Collection, NY).
Licensed under Public Domain via Commons
https://commons.wikimedia.org/wiki/File:Deliberations_of_Congress.jpg#/media/File:Deliberations_of_Congress.jpg

道徳的である ≠ 規範に従っている• 規範が何をするべきか教えてくれないときでも行動を選ばなければならない場合もある．

• 規範に反する行動が規範の順
守よりも道徳的であることもある．
ビュリダンのロボ

道徳的意思決定の2つのプロセス

論理

感情• 手間と時間がかかる• 柔軟性がある• より多くの関係者の利害を計算にいれることができる• 損得を計算して利己的になりやすい• 自動的で素早い• 融通が利かない• 集団の中と外の区別に敏感• 仲間に対しては利他的ロボットに感情を持たせればいいのか？

自動的
コントロールしにくい感情意思決定・行動

推測

表情・仕草など

観察だからこそ信頼できる？！

完全にコントロール可能

感情

プログラム
意思決定・行動推測

表情・仕草など

観察
信頼できない！！

道徳的AI，道徳的ロボットの難しさ

状況依存性が高い

道徳的行為には責任が伴う共感を求められる「何をやるか」だけでなく「誰がやるか」が重要

中日新聞，2015年5月17日

木内達朗「チキュウズィン」（『考える人』，2015年春号）

（ヨーロッパ，キリスト教文化圏の例）

道徳的存在者の拡大

白人

男性

人間

大人

高等哺乳類

生物

自然環境

宇宙

（ヨーロッパ，キリスト教文化圏の例）

道徳的存在者の条件の変化

白人

男性

理性

人間

高等哺乳類

生物

自然環境

宇宙

大人

意識

感覚

生命？

（ヨーロッパ，キリスト教文化圏の例）

道徳性の概念は可塑的
白人

男性

人間

高等哺乳類

生物

自然環境

宇宙

大人

誰を道徳的な存在者とするかという決定
それ自体が道徳的な判断結果について反省する

このステップでは行為の影響を被る相手に対する共感が必要

規範を疑い再考する

行動する

道徳のサイクル
意思決定する

規範を修正する

規範に基づいて推論する人工知能は道徳的になりうるのか？

私たちは人工知能を道徳的存在者として受け入れられるか？

人工知能は道徳的になるべきか？

私たちは人工知能を道徳的存在者として受け入れるべきか？

http://stoprobotabuse.com/

このビデオの撮影中に傷つけられたロボットはいません

https://www.youtube.com/watch?v=M8YjvHYbZ9w

道徳は計算可能
道徳の機能主義，行動主義
道徳性もチューリングテストで計ろう

人工道徳は人工的サイコパス
道徳の官僚主義化
道徳的ニヒリズム人工知能は道徳的になりうるのか？

現在の「道徳性」の通念からすれば無理．
しかし人工道徳的行為者の導入は「道徳性」の概念を書き換えるだろう．
臓器移植という技術が「死」の概念を書き換えたように．
しかしその際には大きな衝突が起こることが予想される．

人工知能は道徳的になるべきか？

ケアロボットなどはこれからの日本に必要な技術である．
そしてそれらは表層的にでも「道徳的」に振舞うことが望ましい．
しかし私たちが伝統的に持ってきた「道徳性」の概念に重大な変更をもたらす技術の導入には少なくとも慎重な議論と合意形成のための努力が不可欠だろう．

Forbes
http://www.forbes.com/sites/jimgorzelany/2015/10/09/
volvo-will-accept-liability-for-its-self-driving-cars/

Volvoは自動運転自動車についての責任を会社が引き受けると明言

機械の道徳性作っている人間，会社の道徳性

「余は汽車の猛烈に 、見界なく 、すべての人を貨物同様に心得て走る様を見るたびに 、客車のうちに閉じ籠められたる個人と 、個人の個性に寸毫の注意をだに払わざるこの鉄車とを比較して 、 ― ―あぶない 、あぶない 。
気をつけねばあぶないと思う 。現代の文明はこのあぶないで鼻を衝かれるくらい充満している 。おさき真闇に盲動する汽車はあぶない標本の一つである 。」

夏目漱石『草枕』（1906）

「犬が尻尾を振るのは何故か？ 尻尾より賢いからだ．
もし尻尾の方が賢ければ，尻尾が犬を振る．」
バリー・レヴィンソン監督の映画『Wag the Dog』（1997）より

Use the Humans
Why do humans use tools?
Because humans are smarter than the tools.

If the tools were smarter, the tools would use the humans.

「人が道具を使うのは何故か？ 道具より賢いからだ．
もし道具の方が賢ければ，道具が人を使う」