論文

人工知能と倫理伊藤博文 † （愛知大学法科大学院）

要旨
人工知能の進化にともない人工知能の振る舞いが高度になればなるほど，その振る舞いの価値判断が問題となる。そこで多くの先端技術開発では倫理を用いて振る舞いを規律しようとしている。この倫理というものを再検討し，倫理という社会規範に依拠することがどのような意味を持つのかを検討する。そして，倫理というものが人工知能開発によってどのように相互の影響を受けるのか，問題点の指摘とあるべき姿を考察する。

キーワード：人工知能，社会規範，トロッコ問題，e 倫理1．はじめに考察することが本稿の目的でもある。
最初に，問題の所在を明らかにするた

本 稿 の 目 的 は， 人 工 知 能（AI:Artificial Intelligence）と倫理（Ethics）めに，トロッコ問題（Trolley Problem）2を例として考える。

について考察することにある。進化し続ける人工知能開発段階では，倫理という202x 年 人 工 知 能 を 搭 載 し た 自 動 運 転 バ

社会規範（Social Norm）に，開発方向のスは，巡回コースを走行していた。交差点判断において依拠するところが大きく，に差し掛かった時，大型トレーラーが信号方向性を誤らないためにも，倫理というを無視して交差点内に突入しようとしてい規範（Norm）の意義づけと限界点をある。これを避けるため操縦舵装置（ハンドきらかにする必要がある。倫理規範定立

ル）を右に切ると衝突は避けられるが，登における問題点の指摘及びあるべき姿の校中の小学生の通学列に突入し，12 名ほどの児童の死傷は避けられない。このままト†

愛知大学法科大学院教授。以下のメールアド
レスに忌憚なき意見や批判を送付していただけ
れ ば 幸 い で あ る。hirofumi@lawschool.aichi-u.
ac.jp。今後，本稿の改定が必要な場合は，改定版を http://cals.aichi-u.ac.jp/project/PN0160.html
にて PDF ファイルで公開する予定であり適宜参照いただければ幸甚である。また，本稿引用
文中 URL の最終アクセス確認日は2017年9月13日である。

愛知大学情報メディアセンター

レーラーと衝突すれば，乗客 5 名は確実に衝突死し自らも大破する。乗客の 4 名は高2

https://ja.wikipedia.org/wiki/ ト ロ ッ コ 問 題
このトロッコ問題への取組として有名なものには，MIT が行っている Moral Machine がある。
http://moralmachine.mit.edu/hl/ja－ 13 －

Vol.28, No.1, 2018

齢者であり 1 人は介助している 40 代女性である。

この時，自動運転を行う人工知能はどのような判断をすべきであろうか。また，あなたがこの人工知能に判断を指示する立場の人としたなら，どのような指示をすべきか。また，設計段階でどのようなプログラ

図1

ムを組み込んでおくべきか？

規範の分類概念図

ここで登場するのが，倫理である。倫

社会規範の中には，道徳，法，倫理，慣理はこうした場面での答えを導き出して習等がある。本稿の目的とする倫理といくれると多くの人は考え，倫理に頼ろううものがこの中でどのように位置づけらとする。では，この倫理とは何であるのれるのかを説明する。

か。倫理にこのような局面での価値判断

社会規範は，人が集団生活を余儀なくを委ねることは正しいのであろうか。

されるが故に，集団の調和を保つため守るべきルールとして，個人的な欲望を自2．規範としての倫理制する規範として特徴付けられるものである 4 。人は社会的動物であり，己の欲望倫理を考えるにあたり，上位概念であのままに生きることはできず，社会生活る規範（Norm）から考えていきたい。

を維持するために他を慮り，自己の望ま規範とは，「①のり。てほん。模範。②ない形での行動を行う。たとえば，寄進〔哲学用語〕のっとるべき規則。判断・といった食べ物等を他人に無償で与える評価または行為などの拠るべき手本・基という行為である。このような行為を導準」3 とされ，人が行動を起こすときの指く論理として，道徳，倫理，法，慣習，伝針となるものである。

統，規範，掟，定め，宿命，善行などと規範は，理由の如何は問わず，まず人が従うべき行動様式である。この規範の一類型として，社会生活をおくるために必要とするものを社会規範とする。この3

株式会社岩波書店 広辞苑第六版

愛知大学情報メディアセンター4

この社会規範に対比される規範類型としては，自然規範と呼ぶべきものがある。これは，自然科学の法則により人が拠る行動規範である。たとえば，雨をしのぐために傘を差す，寒さをしのぐために服を着る。死を受け入れる，生きるために食物を採りその為に殺生をする，などである。おなじく文化規範も存在すると考える。

－ 14 －

Vol.28, No.1, 2018

いった言葉が混在している。ここでは，人が自分の本能的欲望に反してまで行わなければならない行動をどのように整理するかから始めたい。
2.1．社会規範の多義性
社 会 規 範 も 更 に 細 分 化 さ れ， 法（Law），道徳（Moral），倫理（Ethics）とに分けることができる。
この 3 つのカテゴリーの差異，同一性，機能などについては，差別化が困難故に
図2

さまざまな議論があり，特に法律学の中法，道徳，倫理の相関図

でも，「法と道徳」というテーマは法哲学上の重要な一課題であり続けている 5 。

うものでなく，個人の内面的な原理。」とされる。（3）法とは「①物事の普遍的な2.2．倫理・道徳・法あり方。物事をする仕方。また，それがしきたりになったもの。のり。おきて。

ここで，この 3 カテゴリーの意義を確②社会秩序維持のための規範で，一般に認したい。まず，（1）倫理とは「①人倫国家権力による強制を伴うもの。」と説のみち。実際道徳の規範となる原理。道明されている。

（2）
徳。」と広辞苑 6 では説明されており，

こ の 3 カ テ ゴ リ ー の 差 異 に つ い て は，道徳とは「①人のふみ行うべき道。ある「強制力」という点において，法が他 2 者社会で，その成員の社会に対する，あるか ら 際 立 つ（ 図 2-Area3）。 つ ま り， 法

いは成員相互間の行為の善悪を判断するが国家権力による物理的強制力を持つ点基準として，一般に承認されている規範において，倫理・道徳と差別化される。の総体。法律のような外面的強制力を伴法は，国家が後ろ盾になって実現する社会規範であり，警察権や裁判所といった5

碧海純一『新版 法哲学概論』弘文堂 1964 年 70頁，三島淑臣『法思想史』現代法律学講座 3 聖
林道書院新社 1980 年 171, 279 頁，G.W.F. Hegel,Grundlinien der Philosophie des Rechts,Hegel
Werke 7, Surkamp 1821, ss203 参照。
6
株式会社岩波書店 広辞苑第六版。

愛知大学情報メディアセンター

司法制度を使った有形力（例えば強制執行）で，望まれる行動規範を実現させることができる。
一方，道徳は人の内心に働きかけるも－ 15 －Vol.28, No.1, 2018

の で あ り， 望 ま れ る 行 動 規 範 に 従 わ な

この点において，法の普遍性を説く考かったとしても何らペナルティを受けるえもあるが，実際のところ法は国家単位ことはない。良心の呵責に苛まれるとしで機能する規範であり，国を跨ぐ規範とても，本人が自発的に行動しない限り何しては，倫理に劣る。つまり，生命倫理も変化は起きない。同様に，倫理も同じという観点から，遺伝子操作に関する共である。強制力をもたない点において，通倫理を科学者間で打ち立てることはで

道 徳 と 倫 理 は 共 通 す る が， 法 に 劣 後 すきても，法にはできない。全ての国家がる。

統一行動をとり，国際条約批准を行い国では，道徳と倫理はどのように違うの内法による立法規制で実現するというのか。 倫 理 と 道 徳 に つ い て は， 内 心 に 訴は事実上，不可能に近いからである。

えかける規範という点では区別が難し
い（図 2-Area5）。道徳は，個人や家族と2.3．倫理への期待

いった小集団を対象とし極めて個人的な内心に大きく依存するのに対し，倫理は倫理が道徳に優る点は，上述したよう汎用性を持ち得る。つまり，道徳は地域に汎用性である。繰り返しになるが，道性，宗教，慣習などの個人的な要素を多徳が個人や家族などの小集団に用いられく反映させているのに対し，倫理は特定ることが多いのに対し，倫理は個々人のの社会集団に共通の規範として適用し得関係から社会に至るまでより広範に用いる（図 2-Area1）。
たとえば，生命倫理学といった応用倫理学の一分野（右掲図 3 参照）では，生生命倫理学

命科学に従事する研究者間の研究活動を一般倫理学

脳神経倫理学規律する規範として作用する。その研究
医療倫理学

者が仏教徒でもキリスト教徒でも，アメリカ人でも日本人であろうとも，老若男倫理学

環境倫理学

女問わず，その一集団で確立された倫理はその集団内で汎用性を持つ。強制力を経済倫理学
応用倫理学

もつ法は，内心の自由まで踏み込むこと

情報倫理学
動物倫理学

はできず外形力による強制を加えるのみ

その他の応用倫理学であり，道徳のように個人的な内心の多様性を認めない点において倫理は優位性
図3を持つ。
愛知大学情報メディアセンター

－ 16 －

倫理学の分類
Vol.28, No.1, 2018

られることが多く，そのため，道徳は日とし，その組織内で自在に決められると常生活における行動の基準にはなっていう柔軟性，個の差異を前提としつつもも，先端科学の現場における判断基準に共通の社会規範を実現できる汎用性が高はなり得ない。

く，先端科学の規範として応用倫理学がよって，さまざまな応用倫理学が成立重用されるのである。

し，学問の先端領域で大きな役割を果たしているのである。法のように国家的な

3．人工知能と倫理規範支援組織を望まず，尚かつ集団構成員の内心に働きかけつつも個人の自発的意思

人工知能は，開発段階では開発者の倫に基づく行動を望むのが倫理である。つ理感が人工知能の振る舞いを支配する。

まり人工知能開発者対する最も望ましい

なぜなら，人工知能自体は与えられたフ

社会規範は倫理ということになり，現状

レームワーク内でしか動作しないからでの倫理への依拠状況が説明できる。

ある。開発者の選択するアルゴリズムがもっとも，倫理学の中にもさまざまな7様相があり，その議論の歴史は古い 。特人工知能の行動や振る舞いを規定するのである。に 20 世紀に入り，科学先端技術の目覚ましい進歩により，倫理学を新たな領域に3.1．倫理的責任当てはめようとする応用倫理学の成果が目覚ましい 8 。

ここでは，倫理的な責任とはどのようすなわち，倫理の有用性は，国家的なな意味を持つのであろうか考えたい。人立法機関によるコンセンサス形成を不要

工知能と倫理といったコンテクストでは，人工知能開発者の実装するプログラ

7

たとえば，アリストテレスの「ニコマコス倫理学」がある。https://ja.wikipedia.org/wiki/ ニコ
マコス倫理学 参照。パトリシア・S・チャーチランド著・信原幸弘，樫則章，植原亮訳『脳が作る倫理―科学と哲学からの道徳の起源にせまる―』化学同人 227 頁以下 2013 年参照。
8
人工知能学会倫理委員会による「人工知能学会 倫理指針」については，http://ai-elsi.org/archives/471 参照。
IEEE（米国電気電子学会）の人工知能に対する 倫 理 的 考 慮 に つ い て は，The IEEE Global
Initiative for Ethical Considerations in Artificial
Intelligence and Autonomous Systems，
http://standards.ieee.org/develop/indconn/ec/
autonomous_systems.html. 参照。

愛知大学情報メディアセンター

ムを構成するアルゴリズムに対する規範的な抑制として機能することは既述した。ここでの倫理は，人工知能開発「者」自身に向けられた抑制的な社会規範である。
一方で，人工知能が何らかの社会的損害を引き起こした場面で，その引き起こされた社会的損害の帰責性を事後的に問う場面でも判断基準として倫理が出てくる。それは一面で，法的帰責事由の根拠－ 17 －Vol.28, No.1, 2018

ともなるものである 9 。

る。法という社会規範による統制は，刑

この場合，人工知能開発者に倫理的判事罰といった法的責任による強制力を用断 を 任 せ る と し た 場 合， ど の よ う な 原

い，人間を精神的にも身体的にも拘束す理・原則，価値判断に基づいて，その倫る。このシステム維持には，多大なコス理的判断というアルゴリズムを実装させトを要する。

たのかというフレームワーク自体の設計思想が問われる。

これに対し，倫理は，社会に対峙する個の行動の指標であって，法のように強制力を持たず，法による他律的な規制で3.2．倫理規範は役立つのかはなく，個による自律的な行動抑制により社会の幸福と発展を実現する自発的なでは，倫理という規範を人工知能開発行為をもたらす。「自律・分散・協調」を段階で組み込むことは，どのような意味重んずるネットワーク社会においては，を持つのであろうか。

より望ましい社会統制である 10 。

ここで考えたいのは，社会的統制の効率 性 で あ る。 あ る 社 会 問 題 が 起 き た と

4．人工知能開発の将来に向けてき，それを如何に解決することが最も効率的であるかということである。この場

人工知能の将来に向けて倫理はどのよ

合の効率性は，紛争解決に費やされる時うな役割を果たすべきであり，その姿は間やマンパワーといった社会的コスト削どのようなものになるべきなのかを考察

減によって実現される効率性である。

したい。

最も効率的なのは，社会構成員が自律的に規範を遵守しトラブルを起こさない

4.1．市場機能ように振る舞うことである。しかし現実は，社会紛争が頻発し，これの対処とし倫理の将来像を検討するにあたり，まて国家規模による法による統制が行われず市場（Market）という機能を考慮する

9必要がある。人工知能の振る舞いが問題

法と倫理は，渾然一体となっており，完全に分離できる部分とそうでない部分が存在する。法
自身が倫理的な規範を基にして成り立っていることも事実である。たとえば，法を犯すこと自体が倫理違反であるとすれば，法全ては倫理に包摂されることになり得る。しかしこれでは，峻別することの意義が失われてしまう。よって，法的責任を問う場合でも，その帰責根拠の模索および処罰の軽重を斟酌する場面で倫理が出てくるのは当然のこととなる。

愛知大学情報メディアセンターとなる局面は，人工知能が何らかの製品に組み込まれ，それが商品にとして市場
10

伊藤博文・佐野真一郎「大学教育における情報リテラシの方向性」2001 年日本教育工学会第 17回大会講演論文集（2001 年）available at http://cals.aichi-u.ac.jp/project/Evangelist/JapanSocietyForEducationalTechnology/JSET17.doc－ 18 －

Vol.28, No.1, 2018

に出回り消費者事故となる局面である。

い人工知能倫理モジュールが，市場を席つまり，一般消費者が人工知能の加害行巻し事実上の標準（De facto standard）為の被害者となる状況を考える必要があになってしまうともはや倫理問題はなくる。

なり，何も機能しない。

たとえば自動運転のできる自家用車に装備された自動運転プログラムに組

4.2．営利行為と倫理

み 込 む モ ジ ュ ー ル と し て 倫 理 Model Aと 倫 理 Model B と い う 商 品 が あ る と す

もっとも，人工知能の引き起こした社る。Model A は 人 命 を 尊 重 し， 如 何 な

会的責任を全て製造者に負わせるとすれる場合も人身事故を回避する行動をとる

ば，人工知能開発者の取る選択肢は，法こと選択する倫理モジュールである。一的に最も責任回避が可能なアルゴリズム

方 Model B は， 人 命 よ り も 走 行 の 効 率であり，製造者の利潤を最大化するアル性を優先する。目的地にまで確実に短時ゴリズムを実装するのは明白であり，社間で到達することが重視され，人身事故会規範としての倫理は機能しなくなる。

を引き起こしそうな場面では功利的な考これまで例として考えてきたトロッコ

慮を行い被害者数の少ない選択肢を選ぶ

問題を解決するのは，弁護士と法であるとする。これを自動運転プログラムに入とする考えがある 12 。つまり，自動運転れるとき，自動運転車を購入する一般消車に搭載される人工知能を開発するの費者が，あたかも任意保険の保障内容をは，営利企業である自動車製造会社であ選択するように選ぶとする。つまり，倫り，営利企業の至上命題は利潤追求であ理の商品化である。人工知能搭載倫理モる。人口知能に倫理を持たせ判断させる

ジュールを商品として，倫理の善し悪し必要などはなく，トロッコ問題において11を市場に委ねる方法である 。

は，如何に法的リスクを回避できるかをしかしながら，このような市場による最適解とする。つまり，人工知能の振る社会的選択の選好は機能しにくい。それ舞いとして，たとえ事故が起きるようなは，単純に市場における需要供給のバラ状況に入ったとしても，最も法的責任がンスが導く売買価格で決められる問題ではない。つまり，廉価で安全に配慮しな
11

倫理の形成にあたり，社会の要請を反映させることを主張するものとして，「ロボット・AI の社会的影響（8）中央大学教授・平野晋氏」日刊
工業新聞 2016 年 7 月 13 日がある。https://www.
nikkan.co.jp/articles/view/00392496

愛知大学情報メディアセンター12Bryan Casey, Amoral Machines, or: How
Roboticists Can Learn to Stop Worrying andLove the Law, NorthWestern Univ Law Review
Vol.111 231(2017). これを紹介する記事としては，「自律走行車の「トロッコ問題」を解決するのは，技術でも倫理でもなく「弁護士」かもしれない」https://wired.jp/2017/09/08/autonomousvehicles-trolley-problem/ 参照。

－ 19 －

Vol.28, No.1, 2018

軽くなる選択肢を選ぶようなアルゴリズ

頼性設計（fail safe）として不可欠であムが選択されプログラムが書かれる。一る。しかし，予見できない危険に対して旦，事故が起き人工知能の民事責任が問プログラミングできないこと，また危険われれば，賠償責任主体としての企業自としてプログラマーが考えないことに対体の利潤が減少する。これを回避するたして倫理的に非難することが可能であろめには，もっとも安価な損害を想定するうか。人工知能の振る舞いに対する法的ことである。法的責任を最も安価に回避

責任追及は，人工知能の製造者に対してできる行動が人工知能の倫理となるとす問われる。多くの場合，営利企業である

13製 造 株 式 会 社 で あ れ ば， プ ロ グ ラ ム・

この問題点は一考に値するが，このよコードを書いたプログラマーだけでなうな思考様式そのものが人工知能開発にく，当該会社そのものが法人として責任おいて危惧され避けなければならない問を追及される。その責任を追及する場面

題 で あ り， 倫 理 が 統 制 す べ き 問 題 で あでは，法的紛争になれば裁判所が判断する 14 。

ることになり，法的紛争にまで行き着かる 。

ない場合は，社会構成員間の合意（和解・4.3．倫理に必要なもの示談）で判断される。むしろ人工知能の開発段階で倫理感を人工知能に植え付けでは，これからの倫理に必要なものは何であろうか。

ることは現状では考えにくく，人工知能の fail safe としてのプログラム・コード

予期され得る限り全て危険に対し回避が，人間の規範である倫理となろう。

するアルゴリズムをプログラミングしてわれわれが民主主義を取る以上は，社おくことは，人工知能開発者としてのプ会的コンセンサスは，当該社会構成員のログラマーにとって当然のことであろ総意で判断される。この「正しい情報を得う。人身損害に繋がるようなリスクを回た上での同意（informed consent）」が将避するアルゴリズムを組み込むことは信15に倫理であろう 。その為にも，倫理の熟慮と議論が不可欠となってくるのである。
13

伊藤博文「人工知能の民事責任について」愛知大学法学部法経論集第206号67頁（2016年）参照。
Available at: http://cals.aichi-u.ac.jp/products/
articles/OnCivilLiabilityOfAIv2.pdf
14
こうした考え方を批判する主張が引き合いに出すのが「フォード・ピント事件」である。「法と経済学」学派および功利主義に対する批判としてしばしば引用される。https://ja.wikipedia.
org/wiki/ フォード・ピント 参照。

愛知大学情報メディアセンター

さらには，国民一般や市井の人々の意
見を無視して，一部の技術者やエリート

15

インフォームド・コンセントについては，ブレント・ガーランド編著・古谷和仁，久村典子
訳『脳科学と倫理と法』みすず書房 106 頁 2007年参照。

－ 20 －

Vol.28, No.1, 2018

が作り出した「倫理」が一人歩きして，人面において，社会構成員の一部の者達だ

工知能の振る舞いを制御することは，ブけに選択権を委ねるのではなく，ネットラックボックス化を増長させ，民主主義ワーク社会の特質を理解した上で個々人とは反する結果をもたらすことになる。

が最善の選択ができる状態にあるように開かれた倫理策定議論が必要となってくするためにも，応用倫理の教育が必要で16るのである 。

ある。法規制といった国家や一部の権力次に，倫理を構成すべき要素は，至適者による管理統制を回避し，息苦しい社

基 準（grand truth） で あ る。 至 適 基 準会にしないためにも，個の意識発揚を促は，「その場でえられた情報」であり，現す倫理教育が重要となる。

地で得られる情報でありメタデータでこれは人工知能開発者向けのみならは な く， 経 験 知 的 な デ ー タ で あ る（ 図ず，高度な情報社会においては，社会構

2-Area7）。人工知能に倫理の基本として成員すべてに向けて，倫理というものの教えるにあたり，この知識は間違ってい醸成が不可欠となり，それを可能にするないと教えられるものである。あらゆるのは教育である。

分野における秀でた模範（gold standard）とも呼ばれ，科学実験における間違いの4.5．e 倫理ない基準や専門的行為の最適な形態や手順・結果を基礎としなければならない。そここまで人工知能と倫理という考察にして，こうした至適基準を正しく当てはおいては，人間である人工知能開発者のめる力が必要となる。こうした知識を集倫理について考えてきたが，技術的特異合知というビッグデータとして実装し判点（Technical Singularity）以降は，人断基準とすることが必要である。

工知能が自律的に考えて振る舞うこととなると予測される 17 。

4.4．倫理教育

このときは，どのような倫理に基づき人工知能は振る舞うのであろうか。つまさらには，社会的選択を強いられる場
16

倫理に「幸福」という考えを入れるべきと主唱するのは，三木清『人生論ノート』である。http://www.aozora.gr.jp/cards/000218/
files/46845_29569.html。また幸福学 (Well-being)の観点から人工知能・倫理を構築するという
研 究 方 向 も 注 目 さ れ る。 瀬 戸 隆「Well-Being
Computing:AI とゲノミクスからの展望」人工知能 32 巻 1 号 2007 年 87 頁参照。

愛知大学情報メディアセンター

り，倫理を人工知能自身に考えさせ，人工知能に倫理的な振る舞いを行わせる段階となる。
17伊藤博文「法的特異点について」愛知大学情報メディアセンター紀要『COM』Vol.26/No.1 第41 号 13 頁（2016 年）
available at http://cals.aichi-u.ac.jp/products/
articles/OnJudicialSingularityV1.pdf－ 21 －

Vol.28, No.1, 2018

倫理は，人間の行動様式を規制する規こ れ を 進 め れ ば， リ ア ル タ イ ム の 価範として作用する。しかし人工知能はす

値 判 断 が 可 能 と な る 19 。 倫 理 が 集 合 知

べてプログラムであるコードで制御され（Collective Intelligence） で あ る な らる。このコード自体が倫理と呼ぶものとば，できるだけ多くの社会構成員のパラなり，この倫理を人工知能自らに判断さメーターを事前に登録しておき，判断をせるのが e 倫理（eEthics）である。

求められたときに，これを利用して瞬時で は， そ も そ も 人 工 知 能 は， 倫 理に判断させる。倫理という社会規範が，を 生 み 出 せ る の で あ ろ う か。 肯 定 的

その社会における構成員にとって合意で（positive） な 考 え 方 で あ れ ば， 無 論 可きるものであれば良いとするなら，瞬時能とするであろう。倫理が人類の集合知に判断させれることが可能であろう。人（Collective Intelligence）であるとすれ間の遅い反応を待っていては答えが瞬時ば，その集合知を持った人工知能なら生に求められないので，予め倫理的要素のみ出すことは可能である。倫理を構成すパラメーターを設置しておくのである。

るイデオロギーが有限個の知識の組み合

たとえば，トロッコ問題であれば，人わせであるなら，あらゆるイデオロギー数，年齢，性別，体型，社会的地位をパはコード化できる。こうしたコーディンラメーターとして，どれを優先するかをグが可能であれば，無限とも思える倫理

予め人工知能に登録させておき，判断がコードから成るビッグデータ内での凄ま必要になったときこのエンジンに問い合

じい数の組み合わせの中から，テキストわせをすると，倫理的最適解が導き出さマイニング技術を使い人工知能が正しいれるのである 20 。

ものを選び出せばよい。
これまで人類が蓄積してきた知的資産を読み込ませ，倫理とは何かを導き出させることも可能となる。人工知能を使っ18て倫理を突き止めるのである 。
18

チェン・ドミニク教授は，「人間が計算機と同じく合理的な存在であれば，倫理問題は存在しないともいえる。純粋に人間個体の価値を，ジェンダーや年齢，社会属性といったメタデータから数値化して評価できればトロッコ問題もすぐに解決できる。中略 原理的にアルゴリズムでは処理できない情動や感情が合理的判断と衝突するかだと考えらえる。」とされる。チェ
ン・ドミニク「生成的倫理とその広告への適用について」人工知能 32 巻 4 号 509 頁 2017 年。

愛知大学情報メディアセンター

19

Digital Ethics に つ い て は，http://www.
oecd.org/science/we-need-to-talk-about-digitalethics.htm, https://www.oii.ox.ac.uk/research/
digital-ethics-lab/ 参照。
20
このとき，倫理を含めて社会規範は構成員の集合知であるから，パラメーターの強さが判定基準となる。そこで問題となるのは，状況把握能力である。自動運転車の人工知能がどれだけ細かい状況把握ができるかである。今ひき殺そうとしている人物の年収をどうやって予測するのか。アルゴリズムの優れた AI システムを市場に選択させりするのは危険では無いか。パラメーターの選定が恣意的にならないか。といった問題が想定される。

－ 22 －

Vol.28, No.1, 2018

5．おわりに普遍性を期待できない倫理という社会規範を持ち出すべくもなく，人工知能の倫理に求めているのは，判断基準であなすべき振る舞いを望ましい形で制御でる。トロッコ問題でどちらにハンドルをきればよいのであるから，これを倫理と切るべきかを教えてくれる規範である。

呼ぼうが，ルールと呼ぼうがなんでも良当 然 の こ と な が ら， 社 会 が 変 化 す る 以いのではと考えることも可能であろう。

上，社会規範も変化する。

しかし，人工知能をはじめ先端科学で求人工知能倫理は，常に未来へ向かってめられているのは，人類が伝統的に使いの規範となるはずである。未来と現在の分けてきた社会規範としての倫理であ違いは，時間的な差異であるが，その時る。人工知能といった先端技術を開発す間の量については未定義である。1 秒後る人間に対しての倫理である。の 自 分，1 分 後，1 時 間 後，1 月 後，1 年

この伝統的な倫理という社会規範に新後，10 年後の自分を比べてどれだけの差たな要素を組み込むことで，よりよい倫異を発見できるかが未来予測である。容理が生まれてくることに期待したい。そ易ではないことは論を待たない。過去でのためにも，この分野の研究は，人工知も同様である。一秒前の自分を過去とは能のみならず，哲学や認知科学といった思えない。過去と現在に瞬時の差異は見学際的な研究が求められるのである。

いだせないからである。時間が変化する以上，倫理も時代と共に変化するということである
さらに，地域，構成集団により倫理は異なり得る。倫理に期待する普遍性と矛盾するが，これも宿命である。地域差においては，アメリカと日本では倫理観が異なっても当然である。構成集団が変動要素になることも当然である。倫理は，この地球上の或る地域の或る集団が或る
時 代 に 共 有 す る 社 会 規 範 で あ る。 よ って，倫理を形作れるのは或る集団の構成員の価値観である。その価値観が一致するのであれば，それが倫理ということになる。
愛知大学情報メディアセンター

－ 23 －

Vol.28, No.1, 2018