シリーズ

情報テクノロジーの進展がもた ら す 近 未 来 社 会 の 姿 を 考 え る

テクノロジーの進化と哲学的視 座――なぜ自動運転車で倫理が問題となるか？――
岡 本 裕 一 朗 玉川大学文学部客員教授

20世紀後半から始まったデジタル情報テク

衝突問題：大きな自動運転車が凍った

ノロジー革命は、私たちの未来社会に何を路面に気づかず、スリップしてしまっもたらすのだろうか。この壮大なテーマをた。見ると、その先には、小さなミニ考えるため、ここでは具体的な事例に絞っバンに5人の乗員が乗っていた。このて、その可能性を探ってみたい。

ままでは、衝突は避けられず、衝突す問題にしたいのは、人工知能が搭載されればミニバンは大破し、5人全員が死た「 自 動 運 転 車（Autonomous Vehicles）」

亡するだろう。ところが、大きな自動をめぐる倫理的状況である。自動運転車に運転車は、何とか左に進路を変えるこついて言えば、世界中で開発競争が行なわとができそうである。しかし左前方にれ、今や公道でも少しずつ走り始めている。

は、小型のオープンカーが止まっていやがて、「運転手無しのクルマ（Driverlessて、一人の運転手が乗っていた。さて、Cars）」が走る日も近い、と言われたりする。

この状況で、自動運転車はどのようにしかし、このとき、技術的な問題もさるプログラムされるべきだろうか？

こ と な が ら、 哲 学 的 な 難 問 も 控 え て い る。
それはいったい何か、あらためて考えてみることにしよう。

この状況を読んで、「トロッコ問題だな！」と気づかれた人も多いだろう。
「トロッコ問題」というのは、1967年にイギリスの哲◆

学者フィリッパ・フットが人工妊娠中絶を1.トロッコ問題から自動運転車へ議論するために、提起した思考実験である。
その後、アメリカの哲学者ジュディス・ト

まず、次のような状況を想定してみよう。
これを「衝突問題」と呼んでおく。

ムソンによって定式化されて、いろいろなバージョンが作り出された。

「トロッコ問題」については、マイケル・◆

サンデルの「白熱教室」でも紹介されている

2.「乗員ファースト！」の原則は貫かれるか?

ので、あらためて繰り返すことはしない。ここで想定した「衝突問題」は、やや人工的な自動運転車は、「トロッコ問題」とは違っ「トロッコ問題」の現実的なバージョンと見て、乗員そのものの命にかかわることが少なされている。では、この状況で、いったいなくない。むしろ、そうした場合の方が多どう対処したらいいのだろうか。このままい、 と 言 う べ き か も し れ な い。 と す れ ば、何もしなければ、ミニバンにぶつかり、その新たな原則が必要になるかもしれない。

乗員5人が死亡する。進路を変えて、オープそれを考えるために、「トンネル問題」とンカーにぶつかれば、一人の運転手が死亡す呼ばれる状況を想定してみよう。やや技巧る。この状況で、「自動運転車」はどのよう的な状況だが、「トロッコ問題」と関連づけにプログラムしておくべきか。

るために、次のような思考実験を作ってみ

この状況が「現実的なトロッコ問題」とたい。

呼ばれているのは、5人の命か1人の命かの選択を迫るところにある。この状況では、人物

トンネル問題：自動運転車に乗員が一の特性や関係などはまったく捨象され、考人で、山道を走っていた。本を読んだ

慮すべき要因が、人数のみに限定されている。

り、風景に見とれたりしていたら、前こうした抽象的な場面設定という点で、オ方にトンネルが迫ってきた。そのとき、リジナルの「トロッコ問題」の延長上にあ突然5人の子どもが車の前に飛び出しるのだが、さらにもう一つ指摘しておけば、てきた。ブレーキでは間に合わず、唯選択する立場の人（「大きな自動運転車の乗一可能な回避手段はハンドルで方向を員」）に危険がないことも共通である。

変えることだった。ところが、方向を「大きな自動運転車」に何人乗っているか変えると、車はトンネルに激突し、乗分からないが、少なくともその乗員はどち員の死亡は避けられない。この状況で、らが選択されても、無事なのである。しか自動運転車はどのようにプログラムさし、現実的に考えて、そうした状況はあるれるべきだろうか？のだろうか。そこで今度は、乗員そのものにも危険が及ぶ事例を想定してみよう。

こんな状況を想定するのは、何ともやりシリーズ

テ クノ ロ ジ ー の 進 化 と 哲 学 的 視 座――なぜ自動運転車で倫理が問題となるか？――

きれないが、しかしその可能性がまったくる。ところが、こんな主張をメーカーの方な い、 と は 言 い 切 れ な い だ ろ う。 む し ろ、針として打ち出したら、社会的に非難され条件をいくつか変えてみれば、現実的な状るかもしれない。5人の子どもよりも、裕福況とも言える。とすれば、大いに議論すべな1人をクルマメーカーは優遇するのか？ 1

きではないだろうか。

人の子どもの命さえ重視すべきなのに、5人単純な人数からいえば、功利主義的に考の子どもの命を無視して、利益優先の方針えて、5人の子どもの命を優先し、車はトでいいのか？そんな非人道的な会社は認め

ンネルにぶつかるようにプログラムすべきられない、等々。

だ、と言えるかもしれない。しかも、相手そのことを察知して、某クルマメーカーは子どもなので、世論の反響を想像すれば、は、「エンジニアの発言は会社の公式的な方間違いなくこの選択がベストのような気が針ではない」と声明を出したのである。しする。しかし、自分が自動運転車の所有者かし、これで問題が解決しないのは誰の目であり、乗員であったらどうだろうか。そにも明らかだろう。の車を購入する前に、あらかじめこのプロ

そもそも、方針はいったい誰が、どのよグラムについて説明を受けたとすれば、はうに決めるべきだろうか。メーカーか、政たして購入する気になるだろうか。まして、

府か、所有者か。また、方針は同じにすべ

自分ではなく家族が乗車していると想像しきか、それとも多様性を認めるか。そのさただけでも、結果は見えているのではない

い、何を最も重視すべきか。問題は山積しだろうか。ているのに、現状は手つかずの状態なのでおそらく、乗員の安全を守ってくれないある。

ような車は、購入する気にならないのではないだろうか。高いお金を払って車を買う◆

のに、その所有者の安全を第一にしないよ3.人物特性はどこまで考慮すべきか?

うな車なんて、誰も買う気にならないはずである。

今度は、「トンネル問題」より、もう少しだからこそ、某クルマメーカーのエンジ複雑な状況を想定してみよう。それを「タニ ア は、 あ る と き 雑 誌 で「 所 有 者・ 乗 員ンクローリー問題」と呼ぶことにする。こファースト！」の方針を打ち出したのであの問題で重要になるのは、それぞれの人物

特性である。自動運転車の場合には、人物グラムされるべきだろうか？

認 証 シ ス テムが備わっているはずな の で、歩行者や乗員の人物認証は可能であろう。

被害者の数で考えてみると、乗員や子どMITの「モラル・マシーン」というウェもは1人、対して老人は2人なので、乗員かブ・サイトを見ると、自動運転車にまつわ子どもを犠牲にすべきだろうか。それとも、るさまざまなシナリオが設定されているが、老人は2人だとしても、残された人生の時間

そ の と き ポ イ ン ト に な る の が、 登 場 人 物からすると、犠牲になっても構わないのだのさまざまな特性である。これは、従来のろうか。

「トロッコ問題」では、意図的に排除された

このとき、歩行者の子どもが自動運転車要因だったが、現実の自動運転車の状況をの所有者の子どもだったら、子どもと乗員考えてみると、無視できないのである。

は ぜ ひ と も 守 る べ き と な る か も し れ な い。

たとえば、信号を無視した犯罪者と、信号を守った妊婦では、同じようには対処であるいは、老人が2人ではなく、5人のときも、同じような方針でいいのだろうか。

きないはずだ。その他、多様な状況が考え今までのように、自動運転車が実用化さられるが、取りあえず、ここではまず場面れていない時代であれば、おそらくこうしを確認することにしよう。

た状況は問題とならず、ドライバーのとっさの判断で済ませていただろう。ところが、タンクローリー問題：自動運転車に、自動運転車では、あらかじめクルマをどう一人の乗員が乗っている。前方からタプログラムするのが「よい」のか、というンクローリー車が近づいてきたが、横「倫理的設定」が問題になるわけである。こ転してしまい前方の道をふさいでし

れが、何とも厄介な課題を私たちに突きつまった。左に曲がれば、子どもが一人けてくるのだ。

いて、右に曲がれば老人が二人いる。
ブレーキでは間に合わず、止まること◆ができないので、まっすぐ進んでタン

4.自動運転車が自己学習（self-learning）したら?

クローリーにぶつかるか、子どもか老人を轢いてしまうことになる。この状

自動運転車については、もう一つ、ある況で、自動運転車は、どのようにプロいは根本的な難問が控えているように思わシリーズ

テ クノ ロ ジ ー の 進 化 と 哲 学 的 視 座――なぜ自動運転車で倫理が問題となるか？――れる。それは、自動運転車の「自律化」のお迎え問題：車の所有者を迎えに行く問題である。自動運転車に人工知能が搭載ために、自動運転車が無人で動いていさ れ て い る な ら ば、 こ の 問 い は 避 け ら れる。そのとき、突然子どもが一人道路ないのではないだろうか。これはもちろん、にとび出してきた。ブレーキでは間人工知能の自律化が技術的にどこまで可能に合わないので、そのままだと子どもか、という問題にかかわってくるが、議論を轢いてしまう。それを回避するには、は技術的な次元にとどまらない。

進路を変える必要があるが、左にはコ従来、自動運転車については、倫理的問

ンクリートの壁があり、右は崖になっ題が論じられるとき、あらかじめ人間がどて海へ墜落する。このとき、自動運転うプログラムすべきか、という観点で解明車はどうすればいいだろうか。

されてきた。しかし、人工知能の可能性を考えるとき、もしかしたら人間の範囲を超えることになるのかもしれない。

人間の常識的な発想では、自動運転車は直進して子どもを轢くよりは、壁に激突す

人間が自動運転車の動きをひとつひとつるか、崖から落ちてしまう方が望ましいだ

決定するというのではなく、自動運転車自ろう。
「人間第一（ヒューマニズム）」の観点

身がさまざまな状況から「自己学習」して、からは、それ以外には考えられない。しか人間の想定とは異なる答えを出すようになし、人工知能を搭載した自動運転車が、そるのではないだろうか。最初の基本設定はうした人間第一主義を選ぶかどうかは、疑人間が行なうとしても、そこから後は、自わしいだろう。
「自己保存」の原理にもとづ動運転車自身が最適解を出すかもしれない。

けば、車にとって損傷の軽微な方法（子ど囲碁や将棋の人工知能と同じように考えもを轢く）を選ばないとも限らない。ていいのか留意が必要ではあるが、可能性人工知能が「自己学習」すれば、あらかとしては、人間のドライバーがそのつど瞬

じ め 人 間 が プ ロ グ ラ ム す る に と ど ま ら ず、間的に判断するように、自動運転車もみず

やがては人工知能そのものがみずから判断から判断するようになるのではないだろう

し、自分（人工知能）にとって最もよい方か。そうなったとき、何が起きるのだろう法を選択する可能性も否定できないだろう。

か。この問題を考えるために、「お迎え問題」

このとき、私たちは、人工知能にどうかかという思考実験を作ってみよう。

わればいいのだろうか。

自動運転車は今まさに始まろうとしているところであり、自動運転車の自律化がすぐ さ ま や っ て く る わ け で は な い。 し か し、自律化どころか、その手前の段階でさえも、解決すべき問題は数多く残っている。手遅れになる前に、準備しておかなくてはなら＊参考文献
本稿では以下のものを参考にしたが、事例については筆者がアレンジして作成している。

Patrick Lin, Ryan Jenkins, & Keith Abney (ed.);Robot Ethics 2.0 From Autonomous Cars to ArtificialIntelligence, Oxford, 2017.岡 本 裕 一 朗『 人 工 知 能に哲学を教えたら』（SB新書、2018年）岡本裕一朗『答えのない世界に立ち向かう哲学講座』（早川書房、2018年）。

ない。

プロフィール…………………………………………………
おかもと・ゆういちろう

玉川大学文学部客員教授

1954年生まれ。九州大学大学院文学研究科修了。博士（ 文学）。九 州大 学 文学部 助手を経て玉 川大 学 教授。2019年 4月より現職。西洋の近現代思想を専門とするが、興味関心は幅広く、人工知能や遺伝子工学など、現代社会のさまざまな問題にも領域横断的な研究をしている。参考文献で挙げた著書のほか、『フランス現代思想史』（中公新書）、『12歳からの現代思想』（ちくま新書）、『ヘーゲルと現代思想の臨界』（ナカニシヤ出版）他多数。