高校生と AI を語る
大阪大学名誉教授

畑田耕一

西宮市立西宮高等学校元教諭

岡本博2019 年 5 月 21 日兵庫県西宮市の西宮市立西宮高等学校の文科系の 2 年生 39 名と AI(ArtificialIntelligence 人工知能）について話し合った。AI とは、言語の理解や推論、問題解決等の知的行動を人間に代わってコンピューターに行わせる技術（https://ja.wikipedia.org/wiki/人工知能）という理解のもとに話は進められた。以下はその結果を基に AI と人間社会との共存について考えた小論文である。
話は先ず、『預金の出し入れ、電車の切符の購入、レストランの食券購入のような単純作業は AI にやらせた方が間違いも少なく効果的である』という生徒の意見から始まった。さらに、非常に高度な作業でも、人間がやるよりは AI が行う方が好ましいと思われる場合のあることが話題になり、例えば、「医者の MRI・CT スキャンなどの画像診断や多くの外科手術などはいくら熟達した医師でも経験量には限りがあるので、膨大な量の画像診断結果や手術の状況・結果をもとにして短時間で判断の出来る AI の支援を受けて行うのが望ましい」との結論が引き出された。
AI の活用によって空いた時間を何に使うかは、よく問題になるところであるが、上記の医業に関しては、現在は残業に次ぐ残業を重ねているような状態なので、空き時間の活用は当分問題になるまい。むしろ、「患者の体調・状態の手術中の急変や AI 自身の失敗、さらには装置の故障などに対応する力を AIは持たない場合が多いので、AI の導入・活用によって医療現場の医師・看護師等の拘束時間はあまり減らないように思う。この問題は今後詳細に検討されるべきこと一つであろう。
AI の活用によって空いた時間の活用については、一般論としては、「悠々自適の生活を楽しむべし」から「さらに高度な時間活用の方法を探索すべし」にいたる多くの議論がなされているが、今回はこの問題についてさらに深く話が進んだ。すなわち、「AI には何が出来て、何ができないか、あるいは、たとえ AI にできることであってもやらせてはいけないことは何か」、ということである。ここで、『ATM(Automated / Automatic Teller Machine 自動出納機の略称)の普及で相当時間が空いたはずで‘時は金なり’を実行している立場の銀行員はその空き時間を何に活用しているのかを知って今後の参考にしたい』という意見も出たが、明確に得られた一つの結論は「心・感情などに左右されない単純作業は AI に任せて何の問題もない」ということであった、と記すにとどめて置く。
そしてここで提起された大きな問題は「人は死ぬが、AI は死なないという事実が世界に与える影響・効果に人間はどう対処するべきか」ということであった。AI ができた当初は、グーグルの囲碁 AI「アルファ碁」が人類最強棋士に勝利したことから人間を超える AI の出現を予測した人はあっても、反社会的 AI の策定などに思いをいたす人はあまりいなかった。しかし今回の討論では反社会的 AI の出現、すなわち「AI の暴走」についての懸念がかなり強く示された。非道徳的な人間によって作られた非道徳的・反社会的 AI の出現な
らびに AI の自己成長による反社会的 AI への変身への懸念である。特に後者の AI の自己変身による暴走は「科学技術は進歩する」という科学・技術の根本原理にかかわるものであると同時に、現在の科学者・技術者にとって殆ど解決経験のない難問である。速やかで適格・適正な対処を考えねばなるまい。
AI の暴走について人間が認識しておかねばならない大事なことは、AI は死なないだけではなく自己成長する可能性を秘めているということである。策定時は人間を超える存在でなかった AI が人間の知らぬ間に人間を超える存在になり人間を相手に想定して戦争を仕掛けてくるというようなことが起こ1り得るのである。AI にどのようにして道徳を学習させるかを考えるのは AI にかかわる人間にとっての緊急の課題である。人間が世界の平和のために作った AI が反人間社会的で非道徳的な存在になり人間に戦争を仕掛けたり AI 同士で戦争を始めたりというようなことだけは起こしてはならない。
『ATM による預金の出し入れや券売機による切符の購入などの心・感情に左右されない単純作業は AIに任せて何の問題もない』ことは冒頭でも述べたところであるが、今ここで考えているのは心・感情を持ち且つ自己成長可能でそのうえ不老不死の性格を持つ AI のことである。この種の AI は、超能力のコンピューターが世の中から消滅しない限り、消え去ることはない。つまり、我々は今、人間のように心・感情を持って成長し、しかも人間とは違って死ぬことのない AI の存在を認めざるを得ないところまで来ている。我々はすでに AI 同士のコミュニケーションだけではなく AI と人間とのコミュニケーションをも認めざるを得ない時代に突入してしまっているのである。人間社会と AI 社会の共存とそのための道徳を真剣に考えなければならない時が近づいている。『人間社会で人同士のコミュニケーションは非常に大事である。人と AI とのコミュニケーションは出来るかもしれないがそれをやろうとは思はない、やっても楽しいとは思わない』や『人間は感情を持っている。これは人間の大きな特徴で、AI は何年たっても感情を持つことはできないであろう』あるいは『人の心に寄り添う AI はあってもよいが、それが進むと人同士の会話がなくなってしまう恐れがあるので人と会話するのは人であるべきである』のような意見は、既に超越しなければならない段階に来ているのではないだろうか。
AI の専門家ではない一般市民もあらゆる手段を通して AI に関する情報取得に努めて AI の勉強を怠らず、AI によって引き起こされている、あるいは引き起こされる可能性のあるあらゆる問題を自己の能力に応じて真剣に考えるとともに、AI が自身の活動によって人間に与えてくれた空いた時間を AI には出来ないどのような仕事に誰がどのように使うかを真剣に考える必要がある。今はそのような生き方が求められている時代なのである。
AI 社会と人間社会との共存を認める限り、人間が使命と責務として果たさねばならない役割は、先にも述べたように、AI に人間と同様に道徳的能力を持たせることである。武⼒を持つ AI の策定や AI と戦争との結びつきは絶対に引き起こしてはならない。
上に述べた道徳的能力とは、人間が他の人々や動植物を含む自然環境に対して、どのような態度を取るべきかを適切に判断する能力である。そのような判断を下すには、人以外の動植物やものとのコミュニケーションが出来なければならない。人以外の動植物やものは人間の言葉をしゃべらないので、それらとのコミュニケーションは想像力に頼るしかない。また、社会人として真っ当に生きていくためには、過去に学び、未来を予測することが必要である。そのためには、既に亡くなった人やこれから生まれてくるであろう人との想像力を駆使したコミュニケーションも要求されることになる（畑⽥耕⼀、林義久、
澁⾕亘「道徳的能⼒と想像⼒」 www.culture-h.jp/tohroku-osaka/dohtoku-sohzoh.pdf）。
⼈と⼈、AI と AI そして⼈と AI とのコミュニケーションがこれからの社会において重要な役割を果たすこと、ならびにこれらのコミュニケーションが国際的な性格を帯びる可能性もあることを忘れないで欲しいと思う。
本文を草するに当たり種々ご意見・ご教示を賜りました兵庫県立豊岡高等学校教諭渋谷亘様ならびに豊中ロータリークラブ会員・医師澤木政光様に心から深く感謝申し上げます。本当に有難うございました。

2