論文

人工知能の倫理とその教育
久木田水生†

Ethics of Artiﬁcial Intelligence and How to Teach It
Minao KUKITA†

あらまし 現在、人工知能は様々な倫理的な問題を引き起こしている。人工知能を健全に発展させるためには、人工知能の倫理的問題とその解決についての教育が重要である。本稿では、人工知能の倫理的問題をどのように教えるべきかを論じる。
キーワード

人工知能、データサイエンス、情報倫理

ピューターが自ら猫の顔や人間の身体などの「概念を1. ま え が き学習する」とさえ言われた [12]。深層学習の成功を起

現在、人工知能（特にビッグデータに基づく機械学爆剤に、2010 年半ばごろから人工知能の性能が急激に習システム）の発展が著しく、経済や産業を牽引する向上し、その他の様々なタスク、分野に応用されるよものとして、人々の生活を便利にする道具として、大うになった。そしてこのころからメディアには「AI」きな期待がかけられている。そしてそれを反映してや「人工知能」という言葉が溢れかえるようになった。

データサイエンスや人工知能の研究と教育が重視され世間を大きく騒がせた出来事として AlphaGo が思るようになっている。しかし同時に人工知能は予期さい出される。2016 年に Google 傘下の DeepMind が開れていなかった様々な倫理的な問題を引き起こしても発した囲碁ソフト、AlphaGo が、当時、世界最強と言いる [13]。人工知能を健全に発展させ、社会に役立てわれた棋士、イ・セドルを破った。AlphaGo は 5 番勝るためには、テクニカルな知識とスキルだけではなく、負で 4 勝 1 敗と圧倒的な強さを見せた 2 。しかもその人工知能のはらむ倫理的問題とその解決についての教手法が驚異的だった。AlphaGo は人間から何が良い指育もまた重要である。本稿では、人工知能の倫理的問し方なのかを教わったわけではない。過去の対局の記

題とそれをいかにして教えるべきかを論じる。

録と、そして自己対局から学習し、いわば独学で強くなった。さらにそのおよそ 1 年半後、2017 年に発表さ2. 人工知能をめぐる喧噪れた AlphaGo Zero は、囲碁のルールだけを教えられ2012 年、物体認識コンテスト ILSVRC においてた後は自己対局のみから学習を行ない、40 日後には過Google の開発した、「深層学習」という手法を用いた去のバージョンよりも強くなっていた。さらにさらに画像認識システムが従来を大きく上回る精度を記録

その二か月に発表された AlphaZero は同じ手法を一般して優勝した。このシステムは「ディープ・ニューラ化して、チェス、将棋、囲碁において半日にも満たなル・ネットワーク」というアーキテクチャーをベースい期間の学習で既存の最強の AI（囲碁では AlphaGoに、従来とは異なる「教師なし学習」1 によって、与えZero）に勝利するまでになった。

られた膨大なデータから自動的に対象を識別するためもっとも高度な知的ゲームと考えられた囲碁においの特徴を抽出する。そのためこの方法によって、コンて人間がはるかに及ばないパフォーマンスを発揮した† 名古屋大学（注 2）：な お イ・セ ド ル が 勝 利 し た 第 4 局 目 は NFT（ 非 代 替 性ト ー ク ン ）と し て オ ー ク シ ョ ン に か け ら れ 、60ETH（ そ の 時 のレートで 210000 ドル相当）で落札された。https://cryptheory.org/Nagoya University
DOI:10.14923/transj.???????????

（注 1）：ラベル付けされていないデータセットに基づいた学習。

電子情報通信学会論文誌

nft-of-go-players-victory-over-google-ai-sells-for-210000/

X Vol. Jxx–X No. xx pp. 1–5 © 一般社団法人電子情報通信学会 xxxx

1

電子情報通信学会論文誌 xxxx/xx Vol. Jxx–X No. xx

ことは大きな驚きをもって迎えられた。このころイーの尊重」
、
「公正性」
、
「安全性」
、
「誠実な振る舞い」、「社ロン・マスク、スティーヴン・ホーキング、ビル・ゲイ会に対する責任」、「社会との対話と自己研鑽」、「人工ツといった著名人たちが、「AI は人類の生存にとって知能への倫理遵守の要請」について定めている。

脅威になりうる」という AI 脅威論を広めた。哲学者

現在まで様々な学会、NGO、企業、政府機関、国際でトランスヒューマニストのニック・ボストロムが描機関が人工知能に関する倫理的原理や規制を定めていく「超知能」の不穏なビジョンも大きな影響力を持っる 6 。こういった原則の中では、人類への貢献、公平ていた [3]。

性、透明性、包摂性、安全性、説明責任（アカウンタ

人工知能によって多くの仕事が奪われる可能性も指摘され、それによって生み出される失業に対処するたビリティ）、プライバシー、ウェルビーイングなどの重要性が説かれている。

めの政策の必要性が主張された [4], [8], [9]。また「AIこういった原則で書かれていることは抽象的・一般に仕事を奪われないために人間はどんな能力を身に着的、かつ総花的なものが多い。そのために人工知能にけ、伸ばすべきか」といったことも論じられた [1]。そ限定せずテクノロジー一般についても言えることがほの裏返しで、人工知能が新たな産業革命を牽引するだとんどであるように思われる。これは人工知能というろうという大きな期待も声高に叫ばれ、多くの政府や言葉がそもそも非常に多様なテクノロジーを指す、曖企業が人工知能の開発と活用に食指を動かした。日本

昧な用語であるということ、また深層学習のような基政府が掲げる「Society 5.0」なる夢のような未来社会の礎技術はありとあらゆる用途に応用ができるというこビジョンにおいても、人工知能は鍵となる役割を担うとに起因しているのだろう。かつ「AI が人間を超えものとされている。さらに 2020 年、日本政府は「ムーる」とか「AI が人間を滅ぼしかねない」といった漠然ンショット型研究開発」という大型のプログラムを立とした不安を背景としていることも手伝っているのかち上げたが、その達成目標の中には「ゆりかごから墓もしれない。

場まで、人の感性、倫理観を共有し、人と一緒に成長人工知能に関連する倫理問題についての論文や書籍するパートナー AI ロボットを開発し、豊かな暮らしは枚挙にいとまがないほど出ている。そしてこれらのを実現する」というようなものもある 3 。

中ではより具体的な問題に則した詳細な議論がなさ

一昔前ならば荒唐無稽なおとぎ話と言われたかもしれている。人工知能が現在のように騒がれる前から、れない。しかし AI の成功はこのような言説が説得力「コンピューター倫理学」や「ロボット倫理学（robotを持って聞こえてくるほどに顕著だった。

3. 人工知能の倫理ethics/roboethics）」、あるいはこれらを包含するより包括的な「情報倫理」といった応用倫理学の分野が存在しており、そこで扱われた問題の多くは人工知能倫理

人工知能のすごさが喧伝される中で、人工知能の負学にも受け継がれている。例を挙げれば、コンピューの影響に対する懸念、それに対処する必要性も主張

ターを介した行為に関する責任の所在について、自律された。2017 年にはアメリカの NGO、Future of Life的兵器の是非について、ソーシャルロボットの欺瞞性Institute が「Asilomar AI Principles」を発表した 4 。これについて、ロボットの道徳的行為者性・被行為者性には Research Issues、Ethics and Values、Long-term Issues

ついて、ロボットの権利や責任について、などである。の三分野に分かれて、全部で 23 の原則がある。Ethics

特に現代の人工知能に特有、かつ喫緊の重要性を持and Values の分野では安全性、透明性、責任、価値とつ倫理的問題としては、ビッグデータに基づく機械学の調和、プライバシー、自由、利益の共有、人間によ習によるプロファイリングが挙げられるだろう。現在、る制御、社会的市民的プロセスの尊重、AI 軍拡競争な機械学習によって個人の様々な属性や行動傾向を予測どに関する原則が挙げられている。

することが可能になっている。典型的な使用例はオン

また同じ年に日本の人工知能学会も倫理指針を発表

ラインショッピングでの商品の推薦であるが、企業なしている 5 。この倫理指針は全部で 9 条からなり、「人どの人事、裁判、警察、保険、金融などでも活用が広類への貢献」、「法規制の遵守」、「他者のプライバシーまっている。しかしこれらは、人工知能が設計者や社（注 3）：https://www8.cao.go.jp/cstp/moonshot/sub3.html（注 4）：https://futureoflife.org/ai-principles/（注 5）：http://ai-elsi.org/report/ethical_guidlines（注 6）：江間 [6] は、これらの倫理的原理や規制の分かりやすい解説と、様々な原則の比較を提供する。

2

論文／人工知能の倫理とその教育会の持っている差別的な偏見を学習してしまうという深刻な問題を引き起こしている 7 。

4. 人工知能の倫理をどのように教えるか題を引き起こしている人工知能の種類だからである。
人工知能について説明する際には特にそれぞれのアプローチの原理、強みと限界、期待されたことと達成できなかったことを示すことが有益である。そのこと

この節では私が授業や一般向けのセミナーなどで人は人工知能についての幻想（ポジティブなものであれ、工知能の倫理について話した際の経験に基づいて、どネガティブなものであれ）を取り除くことにつながる。のように人工知能の倫理について教えるのが良いかとカーツワイルのシンギュラリティ論やボストロムのいうことについての私の見解を述べる。ただし授業の超知能論をどう扱うかはなかなか悩ましい問題であ効果についてきちんとした調査・分析をしたわけではる。これらは人工知能についての（特に欧米の）人々ないので、個人の印象と経験則に留まることはお断りの捉え方や感情に大きな影響を与えている。しかしこしておく。

れらについて詳しく話をすると、話の一部だけが印象

上述のように人工知能、AI という名で呼ばれるテクに残って、「人工知能は何だかものすごいらしい」とノロジーは多様であり、かつ特に昨今のブームの中で間違って覚えて帰ってしまう受講生もいる。私の友人

は AI という言葉が濫用されている。そこで人工知能

は、クリティカル・シンキングの授業の中で、疑似科の倫理について教える時には、まずどのようなテクノ学の例として「水からの伝言」を紹介したところ、コロジーについて話をしているのかを明確にする必要がメントペーパーに「やっぱり言葉は大切なんですね、ある。

感動しました！」と書いてきた学生がいたそうである。

ただしこれは「人工知能」、「AI」という言葉の正確なのでシンギュラリティ論や超知能論を教える時は、な定義を与えるという意味ではない。おそらく人工知しつこいくらい「こういう説を唱えている人もいると能を過不足なく定義するなどということは不可能であいう話で、現実の人工知能はまだまだこれには程遠いり、試みても不毛である。とはいえ導入においては簡のだ」ということを強調する必要がある。

潔な言葉で人工知能とは何かを説明してほしいといシンギュラリティ論や超知能論に触れるのであれば、う需要はあるだろう。そこで私は、ジェリー・カプラ

マーク・クーケルバーク [5] のやり方に倣うのがよいン [10] の、人工知能分野の発展は単なる「絶え間ないかもしれない。クーケルバークは人工知能をめぐるこ自動化の進展」（p. 17）であり、「知能」という言葉にれらの言説を、西洋の伝統的なナラティブの系譜の中とらわれるのは無用な混乱のもとである、という見解に位置づけることを試みている。クーケルバークによを紹介することにしている。

れば、古代ギリシャのプロメテウスの神話、中世のユ

具体的に人工知能のイメージをつかむためには、やダヤ教のゴーレム伝説、近代の『フランケンシュタイ

はりこの分野においてどのようなアプローチが試みらン』や『ロッサムの万能ロボット会社』、現代の『2001

れ、どのようなテクノロジーが生み出されてきたのか

年宇宙の旅』や『マトリックス』など、有用であるはを大まかに（しかし不正確にではなく）スケッチするずの技術が制御できないものとなり、それを使うもの必要がある。もちろんこれまでの人工知能の歴史を網に災厄をもたらすというナラティブは、西洋の精神文羅的に紹介することはよほどの時間を費やさなければ化において脈々と語り継がれてきたおり、AI 脅威論できないので、代表的な例をいくつか選ぶことになるはその現代版である。またシンギュラリティ論やトラだろう。時間があり、受講生の意欲がついてくるようンスヒューマニズムにはユダヤ・キリスト教的な終末なら記号論理学、計算論の基礎の話からしても良い。

思想、プラトン主義的な魂についての思想が現れてい記号的 AI、エキスパートシステム、包摂アーキテクる。このように現代の AI をめぐる言説を伝統的なナチャ、ニューラルネットワークなどは時間をとって紹ラティブの系譜に位置づけることは、極端な言説をよ介する価値がある。もちろん最も時間を割いて紹介すり適切に理解することに役立つ、とクーケルバークはるべきなのはビッグデータにもとづく機械学習システ言う。

ムである。なぜならこれが現在最も広く使われ、最もしかしやはり私たちは、データやアルゴリズムのバ大きな利益を上げており、そして同時に最も深刻な問イアス、それによって生じる不公正、個人データとプロ（注 7）：これについては例えば [2], [7], [14] を参照。

た、差し迫った現実的な脅威に重点を置くべきである。

ファイリングの濫用、フェイクニュースの拡散といっ3

電子情報通信学会論文誌 xxxx/xx Vol. Jxx–X No. xx

その際には抽象的一般的な話だけではなく、不正、不シンギュラリティ論や超知能論について話すと•合理、非倫理的な実践、すなわちバッド・プラクティ

きには、それはまだ実現されていない技術についてのスの例に沿って教えるのが効果的である。それはまた想像であることを強調する。

現在の情報環境、特にインターネットやスマートフォンの上に成り立つプラットフォーム・ビジネス、それらに対して脆弱な人間の心理と情動というより広い文脈の理解を伴っていなければならない。さらに人間が差し迫った現実的な問題について、具体的な例•に即して話す。
現在の人工知能を、より大きな情報環境と社会•環境の中に位置づける。

なぜそのような心理と情動を発達させたのかというこ•

人工知能の良い使いかたにも目を向ける。とを、人間にとっての情報やコミュニケーションの価•学生からナイーブなテクノロジー中立論を取り値というより根本的な観点にまでさかのぼって考えられるとなお良いだろう。

除くようにする。
謝辞 本研究は、JST ムーンショット型研究開発事

またビッグデータや機械学習の負の面ばかりを強調

業 JPMJMS2011、JST CREST JPMJCR20D2、JSPS 科してしまわないように気を付けるべきである。そう

研費 JP19H00518、JP18H00608 の支援を受けたもの

いった人工知能は人間の生活を向上させ、経済を成長です。

させるために使うこともできるし、実際に良い使い方もされている。やはりここでも具体的な例、グッド・文新井紀子、『AI に負けない子どもを育てる』、東洋経済新[2]Ruha Benjamin, Race after Technology: Abolitionist Tools for the報社、2019 年。

プラクティスに即して説明するのが良いだろう。しかしこの時、ナイーブなテクノロジー中立論――およそテクノロジーというのはそれ自体としては価値中立でNew Jim Code, Plity Press, 2019.
[3]2017 年。のように受け取られないようにすることも重要である。
[4]

社、2015 年。
[5]

出版、2020 年。
[6]

江間有沙、
『AI 社会の歩き方――人工知能とどう付き合う[7]

Virginia Eubanks, Automating Inequality: How High-tech Tools[8]

井上智洋『人工知能と経済の未来――2030 年雇用大崩壊』、合いにおいて大きな違いがあるということ、人工知能やビッグデータは実際に濫用・悪用が容易なテクノロジーであること、そして人工知能の悪用を防ぐには多大な努力が必要であることを受講生に理解させれば上出来である。

マーク・クーケルバーク、『AI の倫理学』、直江清隆・久木田水生・鈴木俊洋・金光秀和・佐藤駿・菅原宏道訳、丸善からナイーブな中立論を取り除くようにしなければならない。個々のテクノロジーには悪用しやすさの度

エリック・ブリニョルフソン、アンドリュー・マカフィー、『ザ・セカンド・マシン・エイジ』、村井章子訳、日経 BP

生はほぼデフォルトでそれを信じていると想定しても構わないほどである 8 。従って私たちは意識的に学生

ニック・ボストロム、『スーパーインテリジェンス――超絶 AI と人類の命運』、倉骨彰訳、日本経済新聞出版社、あり、使い方次第で善くも悪くもなるという考え――
テクノロジー中立論は非常に人気のある考え方で、学献[1]か』、化学同人、2019 年。
Proﬁle, Police, and Punish the Poor, St. Martin’s Press, 2017.

文藝春秋社、2016 年。
[9]

ジェリー・カプラン、『人間さまお断り』、安原和見訳、三5. お わ り に[10]

Jerry Kaplan, Artiﬁcial Intelligence: What Everyone Needs to本稿では、人工知能にはどのような倫理的課題があ[11]

省堂、2016 年。
Know, Oxford University Press, 2016.

//rad-it21.com/ai/kukita-minao_20200317/

よいかということについて論じた。私は人工知能の倫理について教える際には以下の点に留意をすることが[12]

and Andrew Y. Ng, “Building high-level features using large scale

人工知能がどのようなテクノロジーであるかを、実際に提案されてきたアプローチに即してざっくりとunsupervised learning”, arXiv:1112.6209v5 [cs.LG], 2012.
[13]

p. 155-163、2017 年。
[14]4

村上祐子、「人工知能の倫理の現在」、『電子情報通信学会
基礎・境界ソサイエティ Fundamentals Review』、11 巻 3 号、理解させる。
（注 8）：そしてこの原稿を読んでいる研究者・教育者の中にもテクノロジー中立論の何が間違いなのか、と疑問に思っている方がいるだろう。
そう思った方は [11] をご一読されたい。

Quoc V. Le and Marc’Aurelio Ranzato and Rajat Monga andMatthieu Devin and Kai Chen and Greg S. Corrado and Jeﬀ Dean

有益であると考えている。

•久 木 田 水 生 、「 人 工 知 能 と 人 間 の よ り よ い 共 生 の ため に 」、『RAD-IT21 WEB マ ガ ジ ン 』、2020 年 。https:

るかということ、およびそれらをどのように教えればキャシー・オニール、『あなたを支配し社会を破壊する AI・ビッグデータの罠』、久保尚子訳、インターシフト、2018 年。
（xxxx 年 xx 月 xx 日受付）

論文／人工知能の倫理とその教育

久木田水生2005 年、京都大学大学院文学研究科より博士学位（文学）を取得。2017 年より、名古屋大学大学院情報学研究科准教授。専門は哲学、倫理学。著書に『ロボットからの倫理学入門』（共著、名古屋大学出版会、2017 年）など。

5

Abstract Currently, artiﬁcial intelligence is causing a variety of ethical problems. In order to develop artiﬁcial
intelligence in a sound way, it is important to educate students about the ethical issues of artiﬁcial intelligence and itssolutions. This paper discusses how the ethical issues of artiﬁcial intelligence should be taught.
Key words AI, data science, information ethics