AI と教育 ― 道徳と四つのテストに照らして
畑田耕一 北山辰樹 井上暎夫 岡本博 武枝敏之 細川隆弘 渋谷亘 村司辰朗 尾野光夫
目次頁

1．はじめに2

2．AI を学ぶ

2

2.1

AI 活用の始まり

2

2.2

AI の発展と社会への影響

3

2.3

教育の世界における AI の活用

4

2.4

日英機械翻訳

42.5

機械翻訳と日本語理解のプログラム6

2.6

AI は医学部学生の生き方を変えるか

6

2.7

AI のアルゴリズムの基礎は日本人が築いた

6

2.8

脳と AI との違い

6

2.9

AI の分類・定義

7

3．AI の分野における Singularity とは

8

4．AI といかに上手に付き合うか

9

4.1

AI との付き合いを始めるに当たって

9

4.2

AI と道徳を考える

10

4.3

AI の活用と人間の役割

11

4.4

AI と教育13

4.5

AI の故障

18

4.6

中間まとめ

19

5．人間の道徳と AI の道徳

19

6．四つのテストとロータリーの心

21

7．素晴らしい AI を育てていくためには

24

8．Singularity が引き起こす問題にどう対処するか

31

9．まとめ

34

参考文献

36

参加者名

36

1

１．はじめに
豊中ロータリークラブでは、文科省の道徳の教科化の方針発表を受けて、道徳教育の問題をいろいろな立場から議論することが必要と考え、2016 年より毎年下記のように、道徳に関する教育フォーラムを開催してきました。すなわち、2016 年には「小学校・中学校における道徳の教科化に伴う諸問題（文献 1）、2017 年には「小・中・高等学校における道徳教育」（文献 2）と題してフォーラムを行い、議論を深めてきました。また、2018 年は、「日本社会と道徳」（文献 3）を主題として、家庭、学校、社会・生涯教育の観点から道徳の問題を話し合いました。
本年（2019 年）は進展著しい AI（人工知能）を取り上げ、「AI と教育―道徳と四つのテストに照らして」をテーマに、2019 年 1 月 26 日に教育フォーラムを開催しました。AI は Artificial intelligenceの略号で人工知能のことです。AI はいまの社会から消し去ることができないレベルまで市民社会に浸透してしまいました。AI が社会の中に存在意義を見出していることは確かです。それが主役になるのか従の立場かは別として、AI が存在しない社会はもう考えることはできません。今日のフォーラムでの議論は、AI が市民社会の中に存在するということを前提にして行ってほしいと思います。ただ、AI に
世の中をコントロールさせるということだけは行ってはならないとフォーラム司会者の畑田耕一自身
は思っております。それと、本論文は、文頭に示した著者らの中の畑田耕一が、フォーラムの録音記録をもとに編集・作成した原案に、著者らがさらなる改修正を加えて作られたものであることを、申し添えます。
ところで、皆さんの中に AI という語をご存じない方はおられないと思うのですが、「AI の話なら私に聞いてください」というほど AI に詳しい方も、また、そんなにおられないと思います。いきなり「AIと教育」の議論をしましょう、という訳にはいかないと思いますので、最初に、大阪大学名誉教授の北山辰樹先生から、「AI を学ぶ」とでもいうべき説明をしていただきます。
2．AI を学ぶ（北山辰樹）

それでは、わたくし北山辰樹から「AI を学ぶ」ということで、AI のお話をさせていただきます。お話のテキストとして、畑田家住宅活用保存会の 2017 年 11 月 12 日の科学フォーラムでの大阪大学情報通信研究機構脳情報通信融合研究センターの柳田敏雄センター長の「脳と AI とゆらぎ」と題するお話に基づく畑田家住宅活用保存会の出版物（文献 4）を使わせていただきます。この本の編集には私も畑
田家住宅活用保存会の役員としてお手伝いさせていただきましたので、その折に AI のことは勉強したつもりです。柳田先生は脳の研究者で「脳と AI はどこが違うのか」というのが文献 4 の主題ですが、その中の AI に関係するところを抜き出してお話ししたいと思います。
2.1

AI 活用の始まり

AI については、1950 年頃から何度も何度も今度こそは AI が使えるよと言われながら、そうならなかったのですが、ここ 5～10 年ぐらいの間にいよいよ本当に使えそうな AI が出てきたのです。
この文献 4 の 1 頁の最後の行に、IBM の人工知能の Watson が 2011 年にアメリカのジョパディーというクイズ番組でクイズ王の Brad Rutter と Ken Jennings の両者を負かした、ということが書かれています。この Watson には書籍にして 100 万冊、2 億ページのデータを読み込ませてあったということで、これは IBM の研究成果です。2016 年にはグーグルのアルファ碁が現れます。これは実際には別の会社が作ったシステムなのですが、そこをグーグルが買収したのです。
2

コンピュータでゲームをやるソフトの最初はチェスに関するもので、1997 年ですから 20 年近くも前のことです。これは IBM の仕事で Deep Blue という名前が付けられています。Deep Blue は IBM のロゴマークの色でもあります。このスーパーコンピュータ Deep Blue は時のチェスのチャンピオンのガリル・ガスパロフに 3 回の引き分けを挟んで 2.5 対 3.5 で勝利したと伝えられています。その後、チェスは可能でも囲碁は駄目だろうと言われていたのが、2016 年についに囲碁もコンピュータに負けてしまった訳です。アルファ碁が世界最高の囲碁棋士イ・セドル九段に勝ったのです。因みに、日本には将棋がありますが、この世界ではボナンザという将棋ソフトが有名で、世界コンピュータ将棋選手権大会の第 16 回と第 21 回でそれぞれ優勝と準優勝しています。将棋の世界では名人とコンピュータとの対決というのは行われなかったようです。
2.2

AI の発展と社会への影響

次にお話しするのは、文献 4 の第 2 節に記されている「AI の発展と社会への影響」です。下記の図 1を見てください。これは文献 4 からの引用で、東京大学の若手のホープと言われている松尾豊さんが2014 年頃にまとめられたものです。AI の発展と社会への影響を「Deep learning をベースとする AIの技術的発展」の観点から示したもので、この 30 年の間に AI はどのように進むかという見通しの概略が述べられています。例えば、2014 年には既に MRI のような画像の撮影結果から、これは病気か否かというような診断が AI によってできるようになりました。AI のコンピュータには非常に多くのデータが読み込まれているのです。以前は医者がやっていたことです。もちろん最終的判断はいまでも医者の
仕事です。

図1

AI の発展と社会への影響 （東京大学 松尾豊氏の資料より作成）

いま、MRI をはじめとするいろいろな診断機器が大きな病院には入っていて、病院に行きますと、医者が診る前にまず検査からというのが実態です。結果として大量の検査結果が医者の所に集まりますので、その全てに医者が目を通して結論を出すのはかなり難しいような状態になります。それで、担当医
3

はその大量のデータを概略の診療的判断を下す部署に送り、そこでまず、大略の判断を AI にしてもらい、担当医はその AI が整理した結果を参考にして最終結論を導き出すというシステムになっているようです。
AI による自動車の自動運転は皆さんよくご存じのことと思いますが、まだ完全な自動運転ができるところまでは到達しておりません。現在進みつつあるという段階です。
AI による家事・介護は、ぼつぼつできるようになってきています。人間を相手にする AI とも言えます。言語の翻訳、これについては後で、実例を含めて詳しくお話しします。
ここで、図 1 で AI の技術的発展のベースとなっていると述べている Deep learning（深層学習）について簡単にお話ししておきたいと思います。何かを判断するときの計算方法として、昔この Deeplearning という語が出てきたときには、ニューラルネットワーク、すなわち人間の脳神経系の機能を情報処理の科学的観点から解明しようという意味であったようです。Deep learning の正確な定義を申し上げます。神経が機能・作用している時に、いろいろなところにつながりを持ちながら、いろいろと判断をするというコンピュータのアルゴリズムの一種をニューラルネットワークと言うのですが、これは一つの平面に書けるようなネットワークではなくて、一つのネットワークの層の下にまた別のネットワークの層があって、その下にまた別のネットワーク層が広がっているというように、何層にも判断の基準を重ねていくというようにできていて、下の方の層が多くなればなるほど下の方の深い層の判断の基準を使うと言うことで Deep learning という語が使われるようになったのです。Deep learning の和訳には、その内容を考慮して「深層学習」という語が使われています。したがって、Deep learning は、何を考えているのかとか、考えていることが深いということとは基本的には無関係で、日本語の深く考えるというのとも少し意味が違うのです。「ディープラーニング Deep learning とは（入門編）
https://leapmind.io/blog/2017/06/16/ディ ープラーニ ング %EF%BC%88Deep-learning%EF%BC%89とは%EF%BC%9F【入門編】」をお読み下さればもう少しお分かりいただけるかもしれません。
2.3 教育の世界における AI の活用
次に教育ですが、これは今日のフォーラムのテーマに深く関わることです。ここでは、学校の先生はAI で置き換えられるのではないかというような、かなり厳しく容赦のない意見も出て来るかもしれません。また、秘書・事務職員に関しては、定型的ではなくいろいろな要素を加味して行わねばならない仕事でも、自分で勉強をしてきっちりとやってくれるような AI が 2030 年頃には出てくるのではないかと言われています。必要と思われる知識を AI が自分で集めて、それに基づいて AI が自分で判断をする、
すなわち AI が自主・自律的に物事の判断をするというようなことが起こるのではなかろうかということです。それがさらに進むと図 1 に示した Singularity の時点に到達して、人間を超えるような AI の出現に至るわけです。Singularity については次の Wikipedia の記事を参考にしてください。
https://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E
7%82%B9
その進化した AI がさらに自分を進化させるということが続いていくと、AI が自分自身を進化させる、AI が人間をどんどん超えていくということになり、この Singularity を超えると AI が人を超えるということが現実のものになるかもしれない、人間と知性において区別できない存在になるかもしれないということが、今言われているのです。ただ、柳田先生はこの考えには否定的なようです。
なお、教育の分野における AI について、道徳や人材の判定・評価なども含めてもう少し広い観点からの議論が 4.4 節でかなり詳細に行われているので、併せてお読みいただければ幸いです。
4

2.4

日英機械翻訳

文献 4 の 3 頁に日英機械翻訳の話が出ていて、グーグル翻訳が以前とは少しシステムを変えた Deeplearning という方法を使うようになり、従来に比べて飛躍的に精度の高い翻訳ができるようになったということです。ここに示されている例は、柳田先生の日本語の論文を英語にしたものですが、科学論文とかビジネス文書とか、ある程度論理が通っているような日本語であれば、かなり正確でほぼそのまま使えるような英語が出てくるようです。
次に、司会の畑田耕一氏がある会合でお話しされた言葉のごく一部と、それをエキサイト翻訳とグーグル翻訳を使って英語に直した英文を、AI 活用の簡単な実例の一つとしてお見せします。
〈会合での話の文章〉
この前、高校で学生さんと先生と教育委員会の皆さんの前で AI の講演をする機会がありました。話の後で、「もう英語の授業は要らないかもしれませんね」と言ったら、高校の先生から『それでは、僕らは何したらいいのでしょうか』と聞かれました。
〈エキサイト翻訳〉
There was a chance to lecture on AI in front of Mr. student, the teacher and everyone of School
Board at a high school last time. If I said "You might not need an English lesson any more." after
talk, you heard "Then what should we do?" from a teacher of a high school.
〈グーグル翻訳〉
Before this, I had the opportunity to give AI a lecture at the high school in front of the students, theteacher and everyone of the board of education. After talking, when I said "I do not need English
classes anymore", a high school teacher asked me, "Well then, what should we do?"
〈英文に直し易くしたつもりの日本語〉
この前、高校で学生さんと先生と教育委員会の皆さんの前で私が AI の講演をする機会がありました。
その時、「もう英語の授業は不要かもしれませんね」と私が言ったら、あとで高校の英語の先生が『それでは僕らは何したらいいのでしょうか』と言われました。
〈エキサイト翻訳〉
There was a chance when I lecture on AI in front of Mr. student, the teacher and everyone of School
Board at a high school last time. Then after I said "English tuition might soon be unnecessary.", anEnglish teacher of a high school said "Then what should we do?
〈グーグル翻訳〉
Before this, I had the opportunity to give AI a lecture at the high school in front of the students, theteachers and the board of education. At that time, if I said, "My English lesson may not be necessary
anymore, the English teacher of a high school later said "What shall we do then?"〈上記の AI 翻訳を参考にして畑田耕一が作成した翻訳文〉
Last time there was a chance to talk about AI to the students and the teachers of a high school andthe members of the school board. After the talk I said, "You might not need an English teacher
anymore". Then the teacher said, "What should we do then?"
最初の日本語は畑田氏が話された通りで、二番目の日本語は実際に話された文章に主語を入れるなど、若干英文に直し易くしたつもりの日本語です。どの英文も少し手直しすれば使える程度にできていて、
5

翻訳 AI も随分進歩したなと思います。エキサイト翻訳の方は主語の無い日本文も正しく理解している
ように見受けられます。グーグル翻訳は日本文の理解・読解力がいま一つという感じがいたします。この AI 翻訳の結果に関しては、
一度英語と日本語の両者のよくわかる人に意見を聞いてみるつもりです。
2.5

機械翻訳と日本語理解のプログラム

機械翻訳に関係して日本語理解のプログラムについて少し述べさせていただきます。日本語の読み書
きのためのプログラムというのは 30～40 年前からあったのですが、これは、まず文法を覚えさせたう
えで、問題の文章を見せて、これは名詞、これは動詞という風に構文解析をやっていくものでした。この方法によるプログラムは、いくらやっても実用的にはならなかったのです。それでグーグル翻訳はこれを諦めて、今度はものすごい量のデータを集積して、その中から似たようなものを探すという方式に切り替えたのです。この探索の方法には理屈はありません。一番良さそうな答え、あるいは正解との誤差が一番小さそうな答えをとにかく探すという、言ってみれば理屈無しにマッチングで答えを出すという方法です。方針をガラッと変えたわけです。
この方法は機械学習と呼ばれるコンピュータアルゴリズムです。大量のデータを上手に画像にしてコンピュータに読み込ませ、その中から目的とするものによく合うものを探させるのです。画像という二次元データを対象にして合うものを探すのですから、外部からの指示で機械が動く解析的作業ではありません。まさにマッチングによる探索なのです。
機械学習の面白いところは、これを使って何かをやると、まず使ったデータがコンピュータに蓄積されて、使えば使うほどコンピュータは賢くなっていく、マッチングの正確度が上がるということです。
機械学習にはそういう長所・特徴があるということは頭に入れておいてください。
2.6

AI は医学部学生の生き方を変えるか

医学部学生の生き方と AI との関連について詳細な考察を行うつもりはありませんが、柳田先生は文献 4 で、AI による画像診断がこれほど進歩した世の中での医学部学生の画像診断学習の必要性の有無について、読者の意見を問うておられるように思います。医学部学生のかなりのものは医療現場に関わる医師になるわけですが、医療診断の結果を示しているのは画像のどの部分かを理解しようともしない
医者の診断を喜ぶ患者は、そんなに多くはないと思います。
2.7 AI のアルゴリズムの基礎は日本人が築いた
文献 4 の第 4 節「AI のアルゴリズムの基礎は日本人が築いた」は、AI の確立に関わる大事な事実を述べています。AI の仕組み、アルゴリズムについては多くの人が考えてきたのですが、いま飛躍的に
AI を押し上げているのは、大阪大学基礎工学部の教授であった福島邦彦先生が 1960 年～1970 年に考えられたネオコグニトロンという仕組みです。これは、人の脳の構造をまねて作られた階層性を持った構造で、人間のようにものを考える仕組みでした。この福島先生の考えられた AI の原理は、当時のコンピュータの能力では残念なことに実行はできなかったのです。そして、ここには先にもお話しした
Deep learning も強く関わっているのです。
2.8

脳と AI との違い

「脳と AI 何が違うのか」は極めて興味深いお話で、文献 4 には脳と AI の認識方法の違いについての
柳田先生のお考えが面白く書かれています。AI のやり方は、例えば一枚の絵を認識するのに、コンピュータの中にあるありとあらゆる部品、すなわち絵の一部になるものの組み合わせを全部調べて一つの答えを出そうとするので、部品が多い場合は膨大な時間とエネルギーがかかります。それに対して、脳ではそんなことはやってなくて、外部から絵を見たという刺激が来たら、それが何かという可能性を一斉
6

にぱっと持ち上げて、これは意識下に全ての可能性を持ち上げるのですが、そこからは可能性の高いものを探し出して意識にあげるのです。その探し方は、端から一つずつ全部見るというのではなくて、ランダムにあちこち飛びながら探していって可能性が高いらしいと判断できるものが見つかればそれを拾うというような探し方です。実際に見ているものと同じであると考えられるものの選び方・探し方は、規則的な方法ではなくて、ゆらいで探すのだというのが柳田先生の考えです。ゆらぎというのが柳田先生の研究のキーワードです。揺らぐだけなのでエネルギーがあまり要らないのです。ふらふらするのにはエネルギーは要らないという説です。絵を見てこれは何の絵かというのを認識するのに 1 ワットぐら
いですむというのです。同じ絵をコンピュータに認識させるのには 20 万ワットぐらいのエネルギーが要るので、5 桁ぐらい違うのです。ただ、ここで言う脳の使う 1 ワットというのは脳が絵の認識のために余分に使うエネルギーのことで、
常時脳を動かしていくために 20 ワットぐらいを使っているそうで、それが絵を認識する時には 21 ワット使用するということです。この脳の探し方は、ちょっと見ただけでこれらしいと分かる一種のひらめきであると柳田先生は考えておられるようです。脳は意思決定、判断の仕方がコンピュータとは違う、コンピュータのような下から積み上げる方式ではなく、上からパッと見て判断をするのだというわけです。この違いが、認識のために使用するエネルギーの大きな違いになって表れているのです。もし脳の中でコンピュータと同じようなことをやると、その仕事で発生する熱のために脳は崩壊するだろうというくらい大変なことを、コンピュータは絵の認識のためにやっていることになります。柳田先生は、この脳の認識の仕方をコンピュータで実現できれば本当に役に立つ
AI になるのではないかと考えて研究を進めておられるのです。
2.9 AI の分類・定義
次に AI の分類・定義のお話（文献 4 の第 12 節参照）をいたします。皆さんの頭の中に、AI という語が正確な定義なしに、ただ漠然と存在しているという状態で議論をするというのはあまり好ましいことではありませんので、まず分類・定義を申し上げます。AI には、下表に示すように、特化型 AI と汎用型 AI とがあります。
特化型 AI

汎用型 AI（AGI）•個別の領域において知的に振る舞う•異なる領域で多様で複雑な問題を解決する人工知能•既に人以上の能力が数多く実用化されている設計時の想定を超えた新しい問題を解決できる（例）コンピュータ将棋/囲碁/チェス

自己理解／自律的自己制御の能力を持つ

Googleカー（自動運転）
医療診断• AI の当初目的であるが、その問題解決の難しさのため取組みは少ない

いま世の中で必要になっている、例えば自動運転とか画像処理のための AI は、何をするかということがあらかじめ決まっている、ある特定の目標を持った AI で、特化型 AI と呼ばれています。この場合
は、何をやるのかをきっちりと決めてやれば、すなわち人が AI に何を求めているのかを正確に伝えれば、AI は相当なことをやってくれるのです。特化型 AI は上の表の左側に書かれているように、個別の領域において知的に振る舞う特徴を持つ AI で、特定の分野では人間を超えています。人間はいろいろなことをやりますので、全ての分野で AI が人間より強いというわけではありませんが、例えば、囲碁の分野に限れば人間はすでに AI に負けているのです。
汎用型 AI（AGI：Artificial General Intelligence）は特定のことだけでなくて、いろいろなことので
7

きる AI です。この範囲のことに対応して欲しいと決めてでき上がった場合でも、もしその範囲を超える問題が起こった時には、それに対して柔軟に対応する能力を持っているのが汎用型 AI です。これが、自分で自分を理解し、自分を制御できる自立した AI にまで進化すると、いわゆる「強い AI」ということになります。これが究極の AI として想定されているもので、こんな AI ができたら人間は太刀打ちできないということになります。こんな AI ができて、人間を無視して人間の命令・要望や期待・希望とは無関係に機能しだしたら人間は大変です。こんなことが起こったらどうするのだという話が最近よく出てくるわけです。こういう AI の作製にはまだ手が付けられていませんし、できると言う保証もないのが現状だと思います（上表の右側参照）。
いま世の中に出まわっているのは先に述べた特化型 AI で、これが実用のレベルで働いています。いま職業人として働いている人が、この AI 程度のレベルの仕事しかしていなかったら、自身の職場を AIに奪われてしまうということが起こるかもしれませんよ、ということです。
最後に文献 4 の 23 頁の最後の行から 24 頁の終わりまでに、柳田先生のフォーラムのまとめに当たる
文章が、フォーラムの司会者の畑田先生と柳田先生の発言として掲載されています。道徳についての畑
田先生のお考えも書かれていて、たぶん今日のフォーラムをこういう形でやろうとされたきっかけになったのではないかと拝察しております。参会者の皆様も後でお目通しいただければと思います。
3．AI の分野における Singularity とは
畑田耕一

一つ明確にしておいていただきたいのですが、Singularity とはどういうものか。もう少し

詳しくお話しいただけませんか。
北山辰樹

AI が自律的に自分を良くするという能力を持ったとすると、それ以降は汎用型 AI の進化が人間の手を借りずにどんどん進む、すなわち AI が自分自身でどんどん進化していくのです。AI の自己進化は止めようがない、そういうことの起こる時間的な特異点を AI の分野では Singularity と呼んでいると私は理解しております。それと、大事なことは、Singularity を時間的に超えてしまうと、もう永遠に人間には AI の制御はできなくなるということです。
松本紀文

私も AI という語をよく使うのですが、AI の定義をもう一度分かりやすく教えていただけませんか。機械を指すのか、機械のようなものなのか、その辺の初歩的なことが分からないのです。
北山辰樹

AI（人工知能）の定義については、専門家がそれぞれの定義をしており、統一的な定義はまだ定まっていないのが現状ですが、最近使えるようになってきた AI の考え方は 6 頁の 2.5 節に述べた
機械学習です｡何か特定の機械を設定してプログラムを入れてやると、最初に機械の動作の指示はしていなくても使えるようにプログラム自身が学習して賢くなるのが AI です。例えば、AI を装着した自動運転車は最初に動き出した時はあちこちにぶつかりそうになったり、時にはぶつかったりしますが、そういう状態を繰り返して経験することで、運転の仕方についてこういう答えが出そうだということを自分で学習していくのが AI 右記です。初めから動作方法をプログラムで教えられている機械の動きではなくて、対象に応じて自分でデータを集めながら解を見つけていくというような、いかにも自分で考えているようにみえるコンピュータの働き、それが AI です。
畑田耕一

私が思うに、AI を明確に定義するのは非常に難しいのです。人工頭脳という訳語が示すよ

うに、人間がその頭を使って行っているような知的な情報処理を人工的に行うコンピューターソフトであることは間違いないのですが、「AI とは何か」に対する答えは、人により時代により変わるのです。
また、時代とともに進化する AI のレベルに応じていろいろな定義が出てくるのだと思います。AI を明8

確に定義するというのは本当に至難の業です。
4．AI といかに上手に付き合うか
4.1

AI との付き合いを始めるに当たってそれでは、ここまでの北山先生の AI のお話を頭の片隅に置いて、「AI と教育」についての討論を始めさせていただきます。討論の皮切りは、武枝敏之豊中ロータリークラブ会長に会長挨拶も含めてお願いしたいと思います。
武枝敏之

皆さんこんにちは。今日は沢山の方にご参加いただきありがとうございます。ロータリーというのは、お医者さんや学者さんや企業のトップの方の集まりでございます。その活動の目的は親睦と奉仕であります。私どもの豊中ロータリークラブでは、教育フォーラム、留学生支援、出前授業などを中心に活動しております。今日の教育フォーラムのテーマは「AI と教育―道徳と四つのテストに照らして」で、これについていろいろと話し合っていただくわけです。先ほども人工知能についてのお話がございましたが、この人工知能いわゆる AI は本当に訳の分からないところで進んでいるという感じがします。さらに言えば、AI という言葉は空気のようなもので、どこで何をしているのかがよく分からないというのが現状であります。私も 40～50 年ほど前からコンピュータと付き合うようになったのですが、最初の頃は、1 と 1 を足したら 10 になるというような本当に訳の分からないところから始めまして、
初めはビットという言葉が氾濫していたのですが、それがいつの間にかキロ、メガ、ギガになりました。
いまは私には全然分からない世界であるクラウドに情報が蓄積されているようです。昔は情報の蓄積は、
オンラインとオフラインで操作したものです。文献検索はオンラインでやりました。正直言ってコンピュータもえらいことになってきたなあ、と思います。進歩したコンピュータに人間がどう対処するのかが大きな問題になってきたとも言えます。翻って、犬とか猫とかの動物と人間の違いは何かと言えば、
それは、人間は考えることができる、感情・心を持って考えて生きていくのが常だということです。犬や猫にも感情はあるのでしょうが、人の感情・心は犬や猫のそれよりはうんと深いものだと私は思っております。それと北山先生のお話の最後に出てまいりました道徳も人間に特徴的な考え方だと思います。
今日のフォーラムの主題に含まれております AI と道徳との関連は大事な問題だと思うのですが、私の話の直前の畑田先生のお話しにあったように、AI が自律的に学習して AI 自身の道徳で勝手に走り出してしまうというようなこともあり得るのですが、私自身は、AI やコンピュータはやはり人間が制御すべ
きものと考えたいのです。このような点についても是非とも議論していただいて、今日の話合いが実のある討論になることを期待してご挨拶に代えさせていただきます。
畑田耕一

武枝会長有難うございました。挨拶とともに今日のフォーラムの道筋も示していただいたよ

うに思いつつ聞かせていただきました。
それでは、これから討論を始めていただくわけですが、まずは、いまの武枝会長のご提案も参考にさせていただいて、「AI といかに上手に付き合うか」についてご意見・お考えを承りたいと思います。
渋谷亘 兵庫県立豊岡高校教諭の渋谷亘です。私、子どもの一人が小学校 5 年生なのですが、この子がご多分に漏れずアイフォーン（iPhone）に嵌まっております。皆さんご存じだと思いますが、iPhoneの真ん中のボタンを 2～3 秒押し続けますと「ご用は何でしょうか」と聞いてくれます。その iPhoneに適当なことを語りかけると、返事が返ってくるのです。子供の質問ですから、親が聞いていると「なんと馬鹿なことを」と思うようなことを語りかけています。そうすると iPhone の方も、それに対して
冗談めかした答えを返してきます。一見子供は AI と仲良くして会話が成立しているように見えるので
9すが、AI はプログラムを実行しているだけで、AI にとっては、人間同志の会話のようにお互いに感情の通じ合った会話をしているわけではないのです。この点をよく理解したうえで、人間が AI を使っていくことが大事なのだと思います。
畑田耕一

現在の特化型 AI は、使用者の問いかけに対して自分の出している答えの意味は理解していない、意味を理解しないで単に機械的に答えているだけだ、というご指摘ですが、これは AI と付き合
ううえで、非常に大事なポイントだと思います。
米田 眞 それに関係して、AI に間違ったデータが沢山入っているというような場合はどうなるのでし
ょうか。
北山辰樹

iPhone での AI による応答を AI 自身がどれだけ理解して行っているかというご質問に明確にお答えするのは大変難しく、私にはほぼ不可能です。
AI に間違いデータが多数保持されていないかというご質問についてですが、大量のデータを持つ AIに少量の間違ったデータが混入した場合は、それらは AI の機能によって間違いなく排除されると思います。AI は市場に出れば使われます。その使用記録は AI に残り、AI はそれを使って賢くなっていくのです、 大量の間違ったデータあるいは故意の嘘のデータで構成された AI は、もし、そういうものが市場に出たらその会社は信用を失うので、これも正規のルートで市場に現れることはまずない筈です。AI
を作っている会社はこのような点には十分な配慮をしていると思います。
畑田耕一

難しい問題ではありますが、貴重なご意見をいただくことができたと思います。それでは尾野先生どうぞ。
4.2

AI と道徳を考える

尾野光夫

これまでのお話を聞いておりますと、その根底に流れているのは、やはり AI と道徳という問題です。AI と道徳とはどの様にかかわっているのか、あるいはどのように関わるべきなのかということです。AI を作る目的は、いろいろなことを総括して今後のことを判断する、少なくとも現時点では未来のことを判断するということだと思います。そうだとすると、AI の持っているデータが間違っていたらどうなるのかという、いま議論されていることは、大きなしかも大事な問題です。例えば、AI に「人のものをとってもいいのだよ」という指令が巧みに組み込まれていたら、AI が論理的あるいは倫理的に正しくないことを指示するかもしれません。でも、こんなことは起こってはならないのです。AI と人間の関係で一番大事なのは、道徳が絡む問題であることは明らかです。
人間の世界で道徳とはこういうものだという道徳の定義とその存在意義が明確に定められていて、それに基づいて AI の世界が構築されているのであれば、すなわち、その道徳の定義を組み込んだ AI が作られているのであれば、極端な言い方かもしれませんが、光り輝く AI を作り出せると思うのです。問
題は、AI を作る人間が光り輝く AI を作り出せるだけの明快な道徳の定義を持ちそれを実行に移せるかということだと思います。それと、少なくともいまの日本では、人間の道徳はいかにあるべきかを真剣に考えている一般市民の数が少ないのではないかと思われます。このような状況が AI と道徳の問題の解決を一層難しくするのではないかという不安に襲われます。
畑田耕一

いまの尾野先生のご発言につけ加えるべきことはありませんか。北山先生如何ですか。

北山辰樹

人間が如何に素晴らしい道徳を持ちそれを実行できる能力を持っていたとしても、その人間が作った AI が、いま尾野先生が言われたような道徳的判断のできる能力を備えうるかという点は疑問だと思います。
尾野光夫

仰る通りだと思います。私は問題提起のつもりで申し上げているのですが、人間の道徳観が10

そのまま AI に通用するかという問題をはっきりさせないままで光り輝く AI の世界を夢見てはいけません。逆にそこをしっかり見ておかないと、AI とともに次の世界には進めないのではないかと思います。
よく「嘘も方便」と言いますが、子どもが学校で嘘をつくことはよくあるし、実際の社会では嘘をつく
しかやりようがないということもある、これは私もいっぱい経験しております。結果的には嘘をついた方が良かったということもあるわけです。そういう判断は AI にもできるのか、ということです。こういう点について皆さんはどう考えておられるのでしょうか？私は、AI はそこまでいくのではないかなと思っているのですが、そういう時に人間はどういう状況判断を持って事態に対処するのか、そんな時にもし AI が暴走したらどうするのか、こういうことをいまからしっかり考えておかないといけない、出たとこ勝負では困る、こういうことをいま皆で一緒に考えましょうということで、先ほどから意見を申し上げているわけです。
畑田耕一

分かりました。近未来の社会において人間と共生することになるであろう AI はどのような道徳観を持つべきなのか、あるいは人間は AI の道徳としてどのようなものを望んでいるのかを明確に示すべきなのだと思います。ただ、AI の道徳を論じる前に人間の道徳観を明確にしておかねばならないのは至極当然のことなのです。このことは今日だけで議論しつくすことのできるような簡単な問題ではありませんが、もう少し議論は続けたいと思います。
では、Afshin 君、ご意見をどうぞ。
Afshin Haghparast

まずは AI と道徳はどういう関係にあるか、いろんな社会にそれぞれの道徳があります。ある国、あるいは地方では、たとえ嘘ついても結果が良ければそれでいいと思うし、また別の国では、どんな理由があっても嘘は絶対にいけないということになります。ただ、道徳の定義をはっきりさせておかないと AI につながらないのは、間違いありません。大阪大学では Deep learning やMachine learning について石黒浩先生のところで研究が進んでいると思います。問題になるのは、どんなアルゴリズムでどうやってロボットに道徳を認識させたかです。アルゴリズムやプログラムというのは算数のようなものです。算数というか数式でどうやって気持ち、心を認識させたのか、これは非常にハードルの高い仕事です。多くの学生さんがいろんなプログラムを作ってチャレンジ精神を発揮して頑張っていますが、本当に難しい仕事だと思います。一言でいえば、道徳と AI の関係を考えるのは非常に興味深いが、非常に難しいということです。
畑田耕一

最後に言われた「道徳と AI の関係を考えるのは非常に興味深いが、非常に難しい」はまさにその通りなのです。私もその通りに思います。実は、私もこのフォーラムをどのように進めようかと考える中で、難しいテーマを選んだなあ、と思いました。だからこそ、このフォーラムはやることの意
義があるのです。いま、それを強く思っております。
それから、道徳の定義についてはもう少し後できっちりとお話しさせていただこうと思っております。
4.3

AI の活用と人間の役割

畑田耕一 それではこのあたりで井上暎夫先生、AI の活用とそれに関わる分野の人間の立場・役割について一言お願いします。
井上暎夫

私は仕事柄、経済についてはいろいろな情報を取るようにしておりますが、昨年の暮れに株価が乱高下いたしました。リーマンショックの時に起きたよりも大きな乱高下です。リーマンショックの折の乱高下はきっちりと原因が分かっておりました。それは住宅ローンが焦げ付いて回収できないということでした。ところが今度起きた現象は全く理由が分からない、人間が考えても分からない。よくよく調べてみると、いわゆる AI でいろいろな経済統計やデータを選んで、ある特定の単語が沢山出て
11

きたらそれは「売り」の指標だとか、あるいは「買い」だとか、いわゆる自動発注ですね、機械が勝手に「売り買い」を指示して起こったと言われています。いま、その分析をしているところでありますが、例えば会社の経営も将来は AI でできるという話も随分出ております。AI が人間の知能を超えた場合には、AI がどのような理由でこういう経営方針を取っているのかを人間が理解できないような時代が来るのではないか、という不安を私は感じております。これは、さる未来学者も述べておられるところです。
畑田耕一

非常に重要なことを言っていただいたと思います。私自身は、AI が知能的に人間を超えるだろうという認識は、しない方がいいだろうと思っています。つまり、2045 年に Singularity に到達す
るということは、何としても避けなければならないと思います。これは人間の使命であり責務であるといっても過言ではないと思います。
次期会長の松山先生、如何でしょうか。
松山辰男

私は、AI は道徳についての判断が 2030 年にできるようになってないといけない、そうでな

いと AI とは言えないと思うのです。しかしながら、AI から得られるいろいろなデータが正しければそれでいいかというと私はそうは思わない。AI でできることには限界があって、AI があれば人はいらな
くなるというわけではないと思います。私はまだ医者をしておりますが、医者が MRI などの測定をした時に、それらの画像診断は AI ができると思うのですが、それから後をどうするかということになると、これは状況次第ということになります。人間の医者が関わらないといけなくなる場合がかなりあるのです。それから、AI に人間と同じ感情を持たせることは難しいので、感情を持って行うことや判断することは AI にはできないでしょう。医療のあらゆる分野に AI 技術が使われるようになっても、おそら
く人間の医者の仕事が無くなることはないと思います。
教育についても全く同じことが言えると思います。この前、出前授業に行ったら、一人の生徒が校長室に来て勉強もせずにもう家に帰ると言っている。このような事態にどう対処するかは、おそらく AIには判断できないと思います。人間の先生でも分からないかもしれません。どうしたらよいのかは、その場で先生が考えることになるのでしょうが、正解のある問題ではありません。いずれにしても、AIには限界があります。教育なども AI にやれることではありません。
畑田耕一

有難うございました。いま言われたこともすべてその通りだと私は思います。ただ、間違えてはいけないことは、先の尾野先生のお話にもありましたように、AI の道徳というのはまさに AI の道徳であって、人間の道徳とは違う可能性があるということです。ここを勘違いして話を進めると困るのです。AI が自身で考えた道徳で、それが人間に適用できるかどうかは人間が判断するしかないのです。
それと、いまここで松山先生が問題にしておられる AI が特化型か汎用型か、あるいはその両方かとい
うこともはっきりさせて置かないと議論の意味がなくなってしまいます。いずれにしても、AI について
懐疑的な意見が多いような気がするのですが、これからはもう AI にまかせておけばよいのではないか、というようなご意見の方はおられますか。米田先生、外科手術は如何ですか。
米田眞 私どもの分野では、手術はいま AI 制御のロボットがやっています。ロボットが間違うことは滅多にありません。ひょっとして何か間違いが起こっても、畑田先生が言うように、AI は正確な記録を残してくれます。人間のようにひょっとすると失敗を隠しているのではないか、というような心配をする必要もありません。
畑田耕一

分かりました。医者の手術での AI の活用はそこまで進んでいるのですね。

木村正治

僕は医者なのですが、医者として AI の恩恵を被っている方です。例えば心電図を取りますと、それによる診断は AI がしてくれるのです。ただ、その AI の報告書には医師がもう一度目を通すこ
12とと書いてあります。それから最近知ったのですが、大腸ファイバーでお尻からカメラを入れて見る時、何か所見がありそうなところに来ると音が鳴ったり、見ている画面に印が出たりして、ここが大事だぞということを提案・暗示してくれるようになってきているのです。そういったことで AI ブームの恩恵を被っているわけです。ただ、AI の元のデータ、AI の持っている所見のデータに誤りがないかとか、
AI の判断に誤りがないかというような心配は付き纏います。人間も時々誤ることがあるように、AI に誤りがあってもおかしくはありません。そういった時に、AI と人間とどっちが優位かということですが、AI よりも人間が優位だと僕は思っています。「AI と人間」と言うときには、これを、ものや機械と心と考えてもいいのではないかと思いますし、そういった意味で、人間が、人間の心の方が AI よりも優位である、あるいは有意すなわち思慮があると考えてもいいのかもしれませんが、要は、最後は人間の医者の判断を信用すると言いたいのです。医療分野での最終的判断は医者のするものだと思います。
畑田耕一

有難うございました。その通りなのです。いま、木村先生が挙げられたような AI は全て特化型 AI で、これは木村先生が言われたような使い方をするのがよろしいのですが、その時に万一 AIが間違えた答えを出して、医者がそれを信用して、その通りに事を運んだというときに、責任をとるのは誰かというと、それは、人間の医者なのです。木村先生はそういうことを言われたのだと思います。
それは、外科手術でも内科医の診断の時でもそうだと思います。ただ、コンピュータが電卓から進歩して大きなものになって、人間が使えるようになった、人間がやろうとしてもなかなかできないような仕事をほんの数分でできるようになった時に、これからはコンピュータが神様で自分はこれに使われるのでないか、という心配をされた方はあまりないと思うのです。どうでしょうか。これは何故でしょうか。
AI もそれと同じように考えれば、あまり問題はないような気もするのですが、どうでしょうか。
木越正司 私は防災技術者でして、大雨の時の避難勧告・避難指示日のような防災関係の仕事をしております。これらの勧告・指示は、ある程度の雨がある長さで降り続くと発信するという決まりになっていて、その根拠は人間が知りえた過去の蓄積です。これが妥当かどうかというのが、いま問題になってきています。過去に佐用郡佐用町で大雨が降った時に川の水位の測定がかなり遅れて、町長がつるし上げを喰ったという話があります。ああいうことを、AI を使って判断できるようにしてあればかなり助かると思います。もう一つ、避難勧告の指示は、同じ市町村でも場所によって状況が違います。例えば、同じ豊中市でも北の千里と南の庄内では状況が違うのです。これを一つにまとめて避難指示を出すのは不可能に近いのです。したがって、避難勧告・避難指示のようなことに関しては、市町村単位ではなくて、各地域が考えた防災基準を使うのが妥当なのです。こういう時にも AI の活用が大いに役に立つ筈です。避難勧告・避難指示に AI を使うのは市役所や町役場の人の仕事だと決めつけるのではなくて、
もっとみんなが AI に馴染んで欲しいと思います。
4.4

AI と教育畑田耕一

教育の世界における AI の活用については、さきに 2.3 節で北山先生にお話しいただいたところですが、ここでは AI と教育の問題をもう少し広い立場から掘り下げてみたいと思います。まず、AI は道徳と密接に関わりつつ教育の場で強い支援・協力能力を発揮します。この点について Leila
Alipour さん、如何でしょうか。
Leila Alipour

For AI, I think, the most important thing is the morality. AI is artificial and we are

human. So, the moral of AI, I think, comes from data that human just puts. So, what kind of
human or what kind of thinking that is used as an input for AI is very important. I think most of theconcerns here is about “Dotoku” or moral. We have to think about it and we have to be careful not13letting AI pass （over） human, which is supposed to be singularity. I am afraid of that.
If we just think about AI and education, I think it's very helpful. It cannot be a substitute forteachers. In my opinion, having teachers in classroom is very important. What getting from AI is agood merit. So we can just think about getting help from AI in the education.
And, sometimes kids need help, students need help, but teachers cannot just look for everyone inclassroom. Here, AI can help the teacher for improvement of the students' ability and response to
the subjects that the teacher puts in the classroom.
AI にとって道徳は非常に大事なものです。AI は人工のもので、われわれはそれを作った人間です。
したがって、AI の道徳は人間が入力したデータに因っていると私は思います。AI にどんな考えを入力
するか、そして、それをどんな人間が行うか、ということが非常に重要なのです。いま、ここでの皆さんの主たる重要な関心事は道徳です。われわれはこの問題を真剣に考えねばなりません。そして AI が人間を超える、あるいは人間に勝つ、といういわゆる Singularity だけは引き起こさないように十分注
意を払わねばなりません。私にとって大変心配なことです。
AI は教育にとって大いに助けになると思いますが、先生の代わりをするようなものではありません。
私の意見では、先生が教室におられるということは非常に重要です。しかし、AI の良いところもどんどん活用しましょう。ただ、AI は教室では先生の手助けをする立場なのです（例えば英語の不得手な先生が授業中にどうしても英語を使わねばならなくなったような時には、AI の助けを借りたらよろしいのです）。時には生徒や学生が、助けが必要になることがあります。でも、先生が授業中に生徒・学生を個
人的に面倒みるということはできないのです。そういう場合に AI は個々の生徒に対応することが可能です。だから、生徒の個人指導の大部分は AI に任せて、先生は生徒全体を対象とするような教育を行うことにすれば、生徒・学生の学習能力・理解力が向上して教育の効果が上がるのではないでしょうか。
さらに、授業が終わってから、生徒・学生が AI を用いて授業内容の復習や分かり難かったところの学
習・理解に努めれば、授業の効果が向上することは間違いありません。（Leila Alipour の英語での発言を、後日、畑田耕一、北山辰樹、渋谷亘、Leila Alipour が日本語に変換）
畑田耕一

短い時間で非常に大事なことを分かりやすく言っていただきました。先生は生徒全員が知っておかなければならないその教科の基礎・根本原理を話して理解させ、その教科の基礎・根本原理から派生する細かいことの理解については、生徒一人一人で興味の対象も違うので、沢山のデータを持つ
AI に仕事の大部分を任せるのが望ましいと言っておられるのだと思います。私もまさにその通りだと思います。
また、先生はこのような AI の支援によって生じた時間的余裕を、特定の生徒との個人的な接触で心の通うコミュニケーションに使うこともできます。
服部敬弘

私はいま、AI を家庭や学校での子供の躾に活用する方法を真剣に考えるべき時だと思うのです。結婚して共働きなのですが、いまの状態で子供を産んで育てるという仕事が加わると、かなり負担になる、相当しんどくなることは予想されます。学校の先生や親が行う子供の教育、躾、養育の一部に、AI が支援・協力してくれればずいぶん助かると思うのです。共働きの場合は、AI の支援・協力が欠かせない時代になってきたとも言えると思います。
澤木政光

AI と教育あるいは AI と道徳の問題に思いをめぐらすうちにふと思ったのですが、戦前われわれが受けた教育の中で、修身というのが、いまから考えてみますと AI のごく初歩的なものだったのではないかということです。修身の授業で今でも覚えているのは、オオカミが出た、オオカミが出たと14

言って皆で逃げ回って、実際にはオオカミなどいなかったのに皆を脅かして一緒になって逃げまわっていた。それを 3 回目にやった時に本当にオオカミが出てきたのに、またやっておるということで油断していた子供が実際にオオカミにやられたという話です。同じく修身の授業で習った猿蟹合戦もそうなのですが、勧善懲悪的な話なのです。要するに、人がこの世に生まれてきて人間社会の中で生きていくう
えで、如何にして人生を楽しく暮らしていけるかということについて、人類共通あるいは人間社会共通のルールのようなものを作ろうとしていたのが修身の授業ではないかと思います。そのようなことを苦労してやってきたわけですが、それがいまは、AI が出てきたことで、人間が作業・仕事をするうえで楽にできるようになってきた、手間がかからないようになってきたのだと思います。このあまり手間をかけずにやっていけることが、これからの人間社会にとって本当に幸せなのかどうか、これは慎重に考えておかねばならない問題です。
畑田耕一

私も小学校の 5 年生まで修身の授業を受けました。澤木先生は、修身は AI のはしりである、とお考えなのですね。私も、言われてみれば、そうかなあと思います。それともう一つ、最近教育に関わることで変なことが起こっているという意見というか話が出ている、あるいは報じられているような気がします。先ほども「出前授業に行ったら校長室に変な生徒がいて云々」という話がありましたが、
ああいうことは私が小学生の頃にも経験しておりました。ただ、その頃は、ああいうことが起こると皆さんすぐに隠そうとされた、いまはそれがすぐに表に出てくる、これは何も悪いことではないのです。
少なくとも私自身はそう思っています。昔は表ではなくて裏に出ていたのです。裏に出るよりは表に出る方が良いと私は思います。この辺は皆さん、どうお考えなのでしょうか。ただ、私の小学生の頃は家庭がいまよりはずっと子供の教育のことを考え、教育に関わっていた、それは親の当然の使命と責務と考えられていたのです。少なくとも、学校教育の目的は試験に良い点数を取ることだけではないということを、一般市民の方はよく理解し実行していただきたいと切望しております。
細川隆弘

ここで、AI と人材判定・評価に関連して、コンピテンシー（Competency）という概念のお話を少しさせてください。コンピテンシーというのは、ごく簡単に言えば、一つの組織の中の個人の望ましい行動特性あるいは良い結果につながる行動のことです。コンピテンシー評価が組織の中で人事評
価や人材育成などに活用されているのは、皆さん先刻ご承知の通りです。優れた成果を発揮している人にはその人特有の行動的特性があり、その特性を把握して他のスタッフの人材育成に活用していくことがコンピテンシーの特徴です。結果だけではなくそれにいたる過程にも焦点を当てるという点が、従来型の成果主義や能力主義と異なるところです。
コンピテンシーの概念を使って多くの評価事例が集積されつつあります。インターネットを見てもら
えば沢山出てきます。コンピテンシー評価への AI の活用は、より実践的な人材育成へとつながり、高い教育効果があると思われます。簡単で分かりやすい例を一つ申し上げますと、看護婦さんが薬を投薬する時に「あなたのお名前は？」と聞いてから薬を渡す、それで薬の渡し間違いを防ぐことができます（https://resilient-medical.com/nurse-management/competency）。そういう良き行動特性を高等学校の先生方にも理解していただいて、例えば、引きこもりとかいじめとか、あるいは校内暴力とか、そういう問題を解決に導いた事例を全国的に集積しておけば、将来それが一つの話の蔓になるのではないかと思うのです。これは、読み書きそろばん以外に生徒諸君を養うという意味でも重要ですし、先生方が学生・生徒に向かってどうあるべきかという方向付けにもなるのです。そういう AI の活用の仕方も必要なのだと思います畑田耕一

コンピテンシーというのは、従来の成果主義や能力主義とは異なり、優れた成果を挙げてい15

る人に焦点を当てるだけではなく、その人の行動特性を他のスタッフの人材育成にも活用して、組織全体の業績の向上につなぐという概念と理解しております。このコンピテンシーを AI と関連付けてはどうかというご意見は、極めて有用なご指摘をいただいたと受け止めております。
宮田幹二

AI のこれまでとこれからというような立場、あるいは AI は 30 年後にどうなっているかというような議論をするよりは、AI はいまの人間の日常生活上のいろんな問題を解決する能力を持った技術であるという立場から議論を進めた方が良いのではないでしょうか。何故こんなに余裕のある生活ができないのか。長時間労働で大変だとか、学校の先生は仕事が多くて大変だとか、そんな問題を解決していくのが AI だと考えて、今日ここまでやったような架空の議論よりは、もう少し現実的な問題の議論をした方が良いのではないでしょうか。具体的に言えば、混み合った街の中を苦労して車を運転する
よりは AI の自動運転に任せた方が良くないかとか、苦労して英語の勉強をするよりは翻訳機に頼った
方がかえって正確なコミュニケーションが行えるのでないかとか、そういう現実の社会に求められている事を議論した方が、道徳の議論をするよりは大事なのではないかなと思うのです。
細川隆弘

いまの宮田先生のご意見は AI に対する一つの見方であって、世の中はそういうことばかりで動いているのではありません。現在の日本の社会は基本的に資本主義の原理で動いているとして、そこから生じる事柄に対してわれわれはどうあるべきか、ということに畑田先生は問題設定されているのだと思います。AI は教育に大いに活用できます。教育には教えることと、養成するというか能力を引き出すという二つの面があります。教える方は読み書きそろばん、すなわち算数から始まって、いろいろな面で AI は活用できます。養成するという面では、道徳の授業にも AI が十分活用できると思います。
さらに能力評価では、成績判定から人材判定・評価への AI 活用も可能になるでしょう。極端な言い方をしますと、
将来はわれわれが AI の面接試験を受けなければならないという事態も起こり得るのです。
畑田耕一

有難うございました。宮田幹二、細川隆弘のお二人から会の進め方について適切なご示唆をいただいたと思っております。
それでは、教育と AI の話を、少し立場を変えて続けさせていただきます。ここまでは、教育を教える方の立場から考えて話を進めてきたのですが、ここからは、学ぶ側からのご意見ということで、西宮市立西宮高等学校の生徒さんからご意見をいただきたいと思うのですが、如何でしょうか。まず、鈴木阜志朗さんからお願いします。
鈴木阜志朗 市立西宮高校生徒の鈴木です。完全に AI に人の教育を任して良いかという点については
私も懐疑的で、いま仰っていたように、人間の手の回らないところを AI でカバーするとか、人間がやるよりは AI に頼む方が分かりやすいであろうというところを AI にサポートして貰うという使い方で世の中に AI を役立てていくという使い方が求められているのではないかな、と思います。
畑田耕一

一言でいえば、人間がコントロールしている AI が望ましいということですね。あなたぐら

いの年の人がそう思うのなら、今日ここにいる大部分の人がそう思っているのかもしれません。それでは、次は市立西宮高校の保山舞衣子さん、如何でしょうか。
保山舞衣子

AI と教育というテーマで皆さん話をしておられるのですが、教育を受ける立場から見ると、確かに AI と先生を比べたら、授業とか対話をする場合には人間の先生の方がいいなと思います。
その理由は、教えてもらうとか質問するというのはコミュニケーションだと理解しているのですが、いま使われている AI、すなわち特化型 AI には感情が無くて、その経験・体験からだけで話をしているようなので、人間の先生と感情を持って会話をしたり教えてもらったりするというのは、過去とか経験から学ぶだけで教えている AI とは違うと思うのです。コミュニケーションとか、道徳とか、考えるとか、
16感情とかという視点から見ると、教えられる側としては人間である先生との対話の方が良いと思います。
畑田耕一

分かりました。AI と心の問題について心情を吐露していただきました。折角教えてもらうのなら AI より人間の先生の方が良いというお話です。市立西宮高校の飾森宏先生、この点はどう思われますか。
飾森宏 いま彼女が言ったように、私も AI に仕事を取られたくないな、と思います。バレンタインデーが間近ですが、AI に義理チョコと本命チョコの違いが分かるのかな、ということです。これはやはり感情の問題です。いままでのデータで義理チョコも含めて数が多いから嬉しいということはあっても、義理チョコで嬉しいという人はいません。本命チョコはたとえ一つでも、数としては少ないけれども嬉しい。感情は人間しか持てないものだと思うので、上手にすみ分けていくのがこちらの仕事だと思います。上手にすみ分けして、AI にも上手に支援してもらった方が良いと思います。例えば、40 人に同じ計算をしなさいというのは機械に指示をさせてやらせても良いが、ここのところの積み算がよく分からないという時に、感情を持って普通に接して分かる子と、厳しく「何してるんだ」と言って分かる子と、上手に持ち上げながらよくできたねと言って済ませられる子と、いろいろと違いがあるので、先ほど彼女が言ったように感情を持って接してやらなければいけないと思います。
畑田耕一

AI はいろんな意味で先生方の支援にはなる、AI を使っては困るというようなところに使わない限り先生方の支援にはなるが、生徒との感情の交流が問題になるところは、人間である先生がしっ
かりやってくださいよ、ということですね。いま、丁度授業を受ける側の意見をいただいていたのですが、もう一人生徒さんのご意見をお聞きしたいと思います。
吉田仁美

市立西宮高校の吉田仁美です。私もこれまで出された皆さんのご意見とあまり変わらないのですが、AI は人間が AI に学ばせたデータから、すなわち AI が持っているデータからしか行動が起こせない、人間が持っているような感情とか、その場の雰囲気とかを感じ取ることができないのです。教育の場において、生徒と先生が対話をすることによって信頼関係を築いていけるようなところには、生徒の人間としての成長にとって大切な部分があるので、そういった部分はやはり AI に置き換えることはできないと思います。でも先ほどから意見が出ているように、AI が教育に全く役に立たないのではな
くて、AI が教育で担うことのできる仕事も沢山あるわけで、何処は AI で何処は先生という区別、すみ分けを、よく考えてしっかりとしていかなければならないと思います。
畑田耕一 教育の場でも、先生だけでなく AI にも担ってもらえることがいろいろあるよ、そのすみ分
けをしっかりと考えていきましょう、ということを言っていただきました。それでは、「AI と教育」部
門の最後に、豊中市教育委員会の沖野勝則様からご意見をお願いします。
沖野勝則

豊中市教育委員会の沖野です。二つ思っていることがございます。一つは、最近、塾や予備校の方でも AI を活用しておられるところが出てきまして、生徒が問題を解いていく時に AI を適宜使わせるというような予備校ができております。そういう意味では、合理的に時間短縮して勉強していくというような、それから、服とかメガネなどもいろんなデータを用いてその人に合うようなものを選ぶというような AI が開発されてきて、そうすると、生徒にとっては時間的効率が上がりますし、悩むこともなくすっと楽に判断できるのです。
ところが、一方で、この生徒たちの AI の活用によって、悩むとか自分自身が考えて判断するという力が退化していく危険性が感じられるのです。21 世紀に求められる力として、先ほど細川隆弘さんも話されました OECD のいうコンピテンシーという観点から言いますと、これからの時代は自律性とか協働性とか活用力が求められ、学習指導要領にもそれを踏まえたことが盛り込まれております。生徒は指17導要領にしたがって小学校、中学校，高等学校と勉強していって力をつけているのです。AI が進化して教育に活用されていくのは良いのですが、一方では、指導要領とは裏腹に、自律性、あるいは自分で考えて判断して行動していく気持ち・感情は劣化していくのではないかと思います。それから協働性、さっきも高校生の皆さんが言われましたが、AI はすぐ判断してくれるのですが、いろいろな課題が出てきたときにお隣さんとかいろいろな人たちと協力して話し合って解決していく力、これが劣化していく危険性があります。したがって、AI の活用が進んでいく一方で、そういう力をつけさせる教育的配慮が必要になるなと感じております。若干繰り返しになりますが、私は教育委員会に来る前は小学校の教員・教頭と中学校の社会の教師をやっていたのですが、子供たちは悩まずにぱっと判断したがるのです。これどうしたらよいかなと悩むことが減って、自分自身の意見や感情の表現力が弱くなってきた傾向があると思います。悩みそうになった時に、先生これどうしたらいいの、とすぐ先生に聞きに行く傾向、あるいはすぐ人に聞きに行くという傾向が強いのです。子供同士で考えるということがあまりなくて、すぐ大人に聞いてしまうというようになってきております。
畑田耕一

AI は日常生活から塾や予備校にいたるまで、いろいろなところで使われるようになっているが、それに伴って、自律性、あるいは自分で考えて判断して行動していく気持ち・感情は劣化していく傾向が、生徒・学生だけでなく一般市民にも現れ始めているので、特別な配慮が必要ですよ、ということを言っていただいたのだと思います。日頃、学校と直接接触されている教育委員会では、そういうことを強く感じておられるのだと思います。AI を使う立場の人間が自律性や判断力を失って AI に使われるようになっては大変です。速やかに対策を講じることが必要だと思います。
4.5

AI の故障畑田耕一

ところで、皆さん、こんなことを考えられたことはありませんか。いま、世界中で故障しない機械は一つもありません。それにも関わらず、皆さんのお話を聞いていると、AI だけは故障しないと思っておられるような気がするのです。AI のもとはコンピュータです、コンピュータは時々潰れます。
AI にそんなに寄りかかっていて大丈夫なのか、ということです。AI を扱うコンピュータを 1 台ではな
く複数台用意しておいて、1 台がおかしくなったらすぐ別のものに切り替えるという安全策はとれます
が、それでも AI の作動している場所に飛行機が落ちたらどうするのだという心配も皆無ではありません。そんなことも考えておかないといけないと思います。それから、もっと怖いのは AI の暴走です。
これは AI の故障よりはもっと怖い。この場合は AI の暴走に皆が気付くまでにかなり時間が経過してしまいます。北山先生、こういう点は如何でしょうか？
北山辰樹

AI の暴走は別にして、AI の間違い・故障は動作停止、働かなくなるのが大部分なのです。

間違ったことをするような故障は起こらないように作られているのです。もちろん、誤動作が絶対に起こらないとは言い切れませんし、AI が自己の機能とは直接関係のない原因で作動しなくなるということもあり得ます、例えば、停電した上に非常時用の蓄電池も作動しなくなったというような場合です。
畑田耕一

北山先生のいまのお話では、AI という装置や技術は非常によくできていて、先ほどの私の心配は特化型 AI に関しては殆ど全て杞憂であるとのことです。若干安心いたしました。それから、米田先生からのご意見にもありましたが、停電の話です。私の子供の頃は電気というのはたまに来るもの
で、電池は、兵隊さん以外は使ってはいけないものと思っておりましたから、ローソクと電気や電池の要らない鉱石ラジオで何とかやっておりました。いまは、こういう事態は大きな天災のようなごく特殊な場合にしか起こらないようになっているようです。病院の外科手術が停電で中止せざるを得ない事態になることも無さそうです。大事をとれば、外科手術を行う病院には太陽電池発電や風力発電などの設18備を作っておくのが安全であります。
汎用型 AI の暴走に関しては、先にも述べましたように、いまからしっかりと対策を考えていきたいと思います。
4.6

中間まとめ

畑田耕一

それではこの辺りで、ここまでのお話の一応の簡単なまとめをしておこうと思います。お話の主題は「AI と教育―道徳と四つのテストに照らして」でありますが、これについての話し合い・討論に入る前に、北山先生から AI 概論をお聞きして、個別の領域において知的に振る舞う特化型 AI と異なる領域で、多様で複雑な問題を解決する知能として機能する汎用型 AI とがあり、前者の特化型 AI はす
でにコンピュータ将棋/囲碁/チェス、車の自動運転、医療診断などに数多く実用化されて、人以上の能力を発揮して社会に役立っていることを知りました。そして、この AI の活用によって空いた時間を如何に有効に活用するか、さらには人間と AI とが共存する社会を如何に生きて世界の平和に貢献するかを懸命に考え努力するのが、われわれ一般市民の使命であり責務であることを痛感した次第です。細川
隆弘先生の提起された人材評価への AI の活用や、井上暎夫パストガバナーの会社経営と AI の関わり、
木越正司氏の防災技術への AI の活用などは、この使命感と責務の自覚の表れの一つと理解することもできます。
一方、汎用型 AI は先にも述べたように、設計時の想定を超えた新しい問題の解決もできる本来の AIとも言えるものですが、難問山積という格好で、いまだに実用化にはいたっておりません。汎用型 AIの究極の目標は自己理解／自律的自己制御のできる AI ですが、このような AI は人間の言うことを聞かないと思われますので、AI が暴走したらどうするのかということになり、AI と道徳の問題が提起されました。人間の世界で道徳の定義とその存在意義が明確に定義されていて、その道徳の定義を組み込んだ AI を作れるのであれば、光り輝く AI を作り出せる筈です。しかしながら、少なくともいまの日本では、人間の道徳はいかにあるべきかを真剣に考えている一般市民の数が少ないのではないかと思います。
このような状況が AI と道徳の問題の解決を一層難しくするのではないかという不安に襲われもします。
そして、人間の道徳的観念がそのまま AI に通用するのかという問題も未解決です。尾野先生も言われたように、こういうことをいまから皆で一緒にしっかり考えておかないといけない、出たとこ勝負では困るのです。残りの時間で完全な解決は無理でしょうが、たとえ数歩でもゴールに近づいておきたいと思います。ご協力よろしくお願いします。
なお、AI に適用しやすい道徳の定義については、次の第 5 章で議論させていただきたいと思います。
5．人間の道徳と AI の道徳
本田由羽

市立西宮高校生徒の本田です。話が若干的外れかもしれませんが、AI は一度できた後、人間がそれを選択・活用することでどんどん自己学習をして賢くなっていくとフォーラムの最初の方で言っておられたのを聞いて、それなら AI の指示は、多数派の人間の意見が尊重されたものになりはしな
いかと思ったのです。少数派の意見が反映されないことにならないでしょうか。全員にとってこれが良いと思われるものが道徳であるべきなのであれば、社会の道徳は、たとえ、それが多数意見であったとしても、少数派を無視したものでは困るのです。そして、もし、Singularity が成立したとして、その時点で少数派の人の意見の反映が難しくなり、少数派無視の AI が横行するかもしれない。そんな AI
が全体を占めたら大変困ったことになる、そんな風に考えると、AI の世界で道徳という概念は成立し得るのか、私は非常に疑問に思いました.
19

畑田耕一

非常に大事な問題を考えるためのきっかけを与えるご指摘をいただきました。資本主義の社会で AI を勝ち取るというか、AI を非常に上手にコントロールして、世の中が自分にとって都合の良いように変わってくれることを期待し、そのための努力をしている人がいるかもしれない。そうすると、
当然その AI の指示の恩恵を被らない人が出てくることになります。民主主義社会ならまだそれでも理屈は通りますが、資本主義のままだと大きな差別を起こしたまま、そこで社会の機能が停止してしまわないかという心配が出てくるのですが、この点は井上暎夫先生のご意見を伺いたいと思います。
井上暎夫 大変難しい大きな問題のお尋ねです。資本主義自体に関して言えば、例えばマックス・ウエーバー（Max Weber）が言っていた近代資本主義の時代（1864～1920）と今日とでは、資本主義自体が大きな変化をしています。しかし、何かの方策・政策をとるという時に 100％世の中をカバーできる
ものは世の中には存在しない、どうしても少数派が存在することになり、社会にひずみが出てきます。
その少数派の意見を取り入れ、反映させることのできるシステム作りを同時に行わねばならないということになります。それは人間の仕事です。AI は、所詮は人間のための道具です。あるいは AI は人間をはじめとして全ての動物・植物が生きていくための道具であると私は思っております。だから、少数派の意見を反映することのできるシステム作りを同時に行う必要があるのです。そういう機能を持つ AIが同時に必要になってくるのだと言えないこともありません。多数派と少数派が共存するのは、たとえ、
これをひずみと感じる人がいたとしても、いたし方のないことだと私は思います。例えば、コンピュータ碁を強くしようと思ったら昔は定石を教えようとしていたのですが、いまは大量の碁の勝負データを蓄積させて、これは、AI にある意味での碁の勉強をさせていることになるのですが、このデータを活用してやっと人間の碁の名人に勝てるようになったのです。もう少し詳しく言えば、アルファ碁、米国グーグルディープマインド社が開発した囲碁対局用の AI ですが、Deep learning によって過去の膨大な棋譜を学び、さらに多数の対局をすることで強化学習を行ってプロ棋士に勝てる力をつけたのです。基
本は、自身の持っている膨大な棋譜の中から勝率の一番高い譜面の継続を選択するという方法です。
ところでもとに返って、多数派と少数派の話ですが、人間の考えがすべて同じでない限りは必ずそこに多数派と少数派が形成されます。その時にどうするか、それが人間の叡智だと私は思います。
畑田耕一

大変難しい大きな問題をいきなりお尋ねしたにも関わらず、非常に丁寧なお答えをいただき有難うございました。いつも西宮高校の生徒さんには、フォーラムでの議論をぐっと推し進めるようなきっかけを作っていただいております。今日はそのきっかけづくりを本田さんに始めていただいて、それに、まずは井上暎夫先生が行うべき議論の先鞭をつけていただいたというところです。
「人間にも AI にも道徳が必要である。AI は人間が作りだすものだから、AI の道徳は人間の道徳に大変良く似たものの筈である。ところが、人間の道徳は一様ではなく、バラツキがある。そうすると、
そのバラツキは当然 AI の道徳の内容・特徴にも反映されて、そこに多数派と少数派の問題が絡んでくる。問題が民主主義的に処理されて世の中の全ての AI が多数派の支持するものだけになってしまったらどうするのか？」というのが本田さんの提言です。
この本田さんの提言についてもう少し深く考えてみましょう。まず、多数派と少数派の問題ですが、この問題は井上先生も指摘されているように AI だけに存在することではありません。社会のあらゆる現象に関係している問題のように思われます。それで、井上先生は多数派・少数派問題を解決する AI作りを提唱したうえで、「一般論としてはバラツキによって生じる多数派と少数派の問題は AI に限った事ではない。それが生じた時に、どうするのが良いかを考えるのが人間の叡智なのだ」という素晴らしい答えを示されたのです。
20

次にこれは大事なことなのですが、本田さんの言う道徳という語は、人間の道徳を意味しているような気がしました。しかしながら、いま AI と道徳について議論を進めるのであれば、人間の道徳だけではなく、AI の道徳のことも考慮しなければなりません。特に汎用型 AI は、先にも述べたように、いろ
いろな領域で多様で複雑な問題を解決することができて、自己理解と自律的自己制御の能力を持つとされています。AI が人間の道徳をそのまま使ってくれるのなら、議論はここで終わりになりますが、私はそうはならないと思います。
地球の平和に責任を持てるのは、そしてまた、そうすべきなのは人間です。全ての人間が、自然・AIと共生していく、すなわち人と人、人と動物・植物・土・岩などの自然、そして、それらの共生のための道具であり、また仲間でもある AI とも共生していくのがこれからの社会なのです。共存・共生するために大事なことは、互いにコミュニケーションをとるということです。コミュニケーションとは、行ったり来たりの往復があるということで、何と何とのコミュニケーションかと言えば、それは、人と人、
人と動物・植物、人と花、人と土というように自然界のあらゆるもの、そして今は、人と AI とのコミュニケーションがこれに加わろうとしているわけです。これが達成されれば、人と AI が共存・共生す
る社会が実現できて、AI が人から地球を奪うとか、AI が地球を滅ぼすというようなことは起こらないのではないか、というのが私の考えです。この、人・自然・AI の共存・共生あるいは共存・共栄に必要な道徳とはどんなものかということです。それは AI が変わっても変わらない道徳の根本に関わるものでなければなりません
人・自然・AI の共存・共栄のために必要なコミュニケーションのお話の根本は、畑田らが以前から主張している道徳的能力におけるコミュニケーションの役割と完全に相通じるものです（「道徳的能力と想像力」｟2009｠ http://culture-h.jp/hatadake-katsuyo/dohtoku-sohzoh.pdf）。この文献の第 2 節にある文章の一部を次に引用させていただきます。「道徳的能力の基本は、人間が他の人々や動植物を含む自然環境に対して、どのような態度を取るべきかを適切に判断する能力であることは確かである。
そのような判断を下すには、人以外の動植物やものとのコミュニケーションができなければならない。
人以外の動植物やものは人間の言葉をしゃべらないので、それらとのコミュニケーションは想像力に頼るしかない。また、社会人として真っ当に生きていくためには、過去に学び、未来を予測することが必要である。そのためには、既に亡くなった人やこれから生まれてくるであろう人との想像力を駆使したコミュニケーションも要求されることになる」。私どもは、全ての汎用型 AI がこのような道徳的能力を身につけておれば問題は起こらないと確信しております。
6．四つのテストとロータリーの心
畑田耕一

今日のフォーラムの主題は「AI と教育―道徳と四つのテストに照らして」ですが、今日の参加者は半分以上がロータリアンではありませんので、ここで、このロータリーの四つのテストについて少し考えておきたいと思います。最初に澤木先生からご発言のお申し出がございます。
澤木政光

先ほど、市立西宮高校生徒の本田さんがお話になった中で、大多数の意見で意見が決められると少数派は損をするのではないかという意味の発言があったのですが、それをどんな風にして解決するかという問題を考えた時に、すなわち、問題の解決を判断するのに誰もが困るような場合に行き当たった時に、「四つのテスト」が判断基準として役に立つことを申し上げておきたいと思って、発言を申し出たのです。四つのテストというのは、下記のようなものです。

21

四つのテスト

The Four-Way test

言行は以下のことに照らしてから行うべし

Of the things we think, say or do

１．真実かどうか

Is it the TRUTH ?

２．みんなに公平かIs it FAIR to all concerned ?

３．好意と友情を深めるか
４．みんなのためになるかどうか

Will it build GOOD WILL and BETTER FRIENDSHIP ?
Will it be BENEFICIAL to all concerned ?

これに照らす、あるいはこれを参照しますと、比較的解決しやすいことが多いのです。これはロータリーで大事にされている言葉ですが、よく考えてみますと会社では社是としても使えますし、学校なら校則にも使えると言えるほど大事なことを含んでいます。世の中にはいろんな人たちが住んでいるわけですから、それがたとえ一人か二人でも邪魔もの扱いにされるようなことがあったのでは、人間の幸福にはつながりません。少数意見のものでも排除されないでみんなにしっかりと受け入れられる方向に動けるかどうかを決めるのには、この四つのテストに照らし合わせるのがいいのではないかと思います。
大多数の場合、これが大衆迎合的な大多数にならないための配慮が必要ですが、そのような場合は「真実かどうか？」に重点を置けばわかりやすいのではないかと思います。いずれにしても、四つのテスト
はロータリアンが守るべき大事な教訓なのですが、ロータリーができてからいろいろな意見が出て、途中でいろいろな経緯を経て修正を加えてでき上がったものです。今はロータリーで一番大事なものとされているのだと私は思っています。全ての市民が、ロータリーに入っていただければ一番有難いのですが、そうでなくても、何かにつけて重要な局面で四つのテストを適用して考え判断していただければ有難いと思う次第です。AI の話も、四つのテストを知っていただいておれば割合分かりやすいのではない
かと思います。四つのテストについては畑田先生がお詳しいので、一言お話しいただいては如何でしょ
うか。
畑田耕一

今日は AI の討論を優先させたいのですが、折角のご助言ですので少しだけ四つのテストのお話をさせていただきます。畑田家住宅活用保存会のホームページの中に、畑田耕一「教育とロータリーの四つのテスト」（http://culture-h.jp/hatadake-katsuyo/E3.html）という短い文章を書いております。
この文章は、「四つのテスト」をキーワードにして検索していただいても上から 10 番目ぐらいに出てきます。四つのテストの紹介文としては皆さんのお役に立っているのだと思います。四つのテストは、ロータリークラブの会員が社会で生きていくうえでの善悪の判断基準を、ロータリアンのみならず一般の人々にも理解できるような形で、簡潔かつ的確に質問形式でまとめあげたものと言えます。
「真実かどうか」は「嘘偽りがないかどうか」というような単純な解釈ではなく、もう少し深く考えて、「物事の原理・原則、根本原理に適っているかどうか」と理解するのが良いと思います。
「Is it FAIR to all concerned ?」は、私的感情をあまりまじえずに、偏り無く対処している、いわば、太陽の様な存在か、という意味なので、「みんなに公正か」という和訳の方が良かったのかもしれません。真実は、時として信念の要素を含むことがあるので、それが相手を困らせることが無いような配慮も要るということを、この 2 番目の文章は言外ににじませているとも言えます。
「好意と友情を深めるか」は、自分以外の人や動植物やものとつきあうときの、ごく自然で基本的な対処の仕方ですが、ここでは、ある程度の私的な感情が混ざるのはやむを得ません。大事なことは、それが他を排除するものであってはならないということです。
道徳的な基準は、自分が何かを行うときの他への態度の規範ですが、それは当然、相手もそれに反応22しやすく、何かを行いやすいための配慮を含んでいなければなりません。これが「みんなのためになるかどうか」です。「好意と友情を深めるか」の判断で私的感情が強く入り過ぎないように戒めているという解釈もできます。
四つのテストの基本は「真実かどうか」ですが、それが自己の信念のかたくなで偏狭な押し付けにならないように、短い言葉を組み合わせ、互いに相補わせることによって、道徳的規範という、考え様によっては堅苦しいことが、やさしく、穏やかに、実に上手に、述べられているのです。
ここで、四つのテストの起点である「真実かどうか」の「真実」について少し考えて見たいと思います。真実は物事の根本原理、すなわち、互いに関連するいろいろな事実をうまく説明できる、あるいはそれらと合致する考え方と言えましょう。時の経過とともに多くの正確な事実が蓄積されると、それらをつかさどる根本原理も少しずつ深まっていく、すなわち、真実は時代とともに深化していくのです。
真実は、また、人によって若干異なることもあり得ます。同じ事実を知ったとしても、その人の経験や洞察力によって、それらを統一して説明できる概念、すなわち抽出できる根本原理、真実が若干違うこともあるのです。事実は、また、場所による偏りを示すこともあります。したがって、それに基づく真実も場所によって多少の違いが出てくることになります。真実は、それに関わる人、時代、場所とともにある種のゆらぎを示しつつ、次第に深まり、非常に長い時間をかけて唯一つのものに収斂していくのだと思います。
ここで、もう少しだけロータリーのことを言わせてください。平成 30 年 8 月現在で日本の総人口は 1
億 2632 万人、そのうち 15～64 歳人口は 7552 万 5 千人、65 歳以上の人口は 3550 万 8 千人です。15 歳以上の人口は 1 億 1103 万 3 千人です。日本のロータリアンの人数は 2018 年 12 月末で 89491 人、クラブ数は2270 です。日本のロータリアンの成人人口の中の比率は 0.081％になります。成人の 1000 人に約 1 人
しかロータリアンはいないということになります。ロータリークラブの会費は 20～30 万円、それとな
んやかやと寄付金が求められて、その総額が 2,025,600,018 円（http://piif-rfj.org/aboutpiif-rfj.html
2017-2018 年度正味財産増減計算書の注参照）、会員一人当たりにすると、この金額を会員数の 89491
で除して、226341 円になります。会費に近い値です。この金額の中には、国際ロータリーへの納付金
や勉学・研究のために日本に在留している私費外国人留学生に対し、日本全国のロータリアンからの寄付金を財源に奨学金を支給している公益財団法人ロータリー米山記念奨学会への納付金のように省略できない部分もありますが、ロータリーの未来を考えれば、これらの会員の出費はかなり減らす方向の努力が必要だとは思います。その話は別の機会に譲ることにして、大事なことは、いまの澤木先生の四つのテスト・ロータリー精神を一般市民に広く理解してもらおうというお話です。ロータリークラブの会員でなくても、ロータリー精神をよく理解していただければロータリー会員とほとんど同じ社会活
動・奉仕活動はできます。それならば、ロータリークラブの会員が自分の周囲の一般市民の方々にロー
タリーの応援団（例えば準会員）になっていただく努力をしてみてはどうでしょうか、というのが私の
もし、
提案です。
上記の候補者 1 億 1103 万人の中の 10％が応じてくださったとしても 1110.3 万人です。
一人 1000 円ぐらいの会費をいただければ、総額 111 億円になります。有効に使える金額です。
井上暎夫 今のご提案はロータリーについての理想の一つですね。現在のロータリーの組織を如何にして理想に近づけていくか、その行程を如何にするか、いま国際ロータリーが考えているのは会員になれ
る資格、これは昔から定められているのですが、その規定を緩めて昔のように事業家でなくても経営者でなくても、現在社会で奉仕活動をしている人であれば会員になれる、つまり職業人でなくても主婦でも入れるという風に制限をゆるめようとしています。それから、会費をどんどん下げるというクラブも23

作っています。一つの実験ということかもしれませんが、そういう努力は行われているのです。われわれロータリアンとしましては、成人の市民全員に会員になっていただくというのは嬉しいですが、中々そこまではいかない。いま言われた 10％の準会員というケースも大変だろうと思います。まず第一歩として、いま四つのテストの市民への広報・徹底周知という話が出たのですが、この四つのテストは、もともとアメリカの経営者が考えた、破産寸前状態であったクラブ･アルミニウム社の再建を社長になって引き受けたロータリアンの Herbert J. Taylor が、社員たちに倫理的価値観の目安となる簡潔な指針を提供するために考え出したものです。最初七つのテストであったものを、推敲を重ねて、今の四つのテストに作り上げたと言われています。このようにして、四つのテストはクラブ･アルミニウム社が諸事決定を下す際の基本となり、同社は見事に立ち直ったのです（https://rotary-no-tomo.jp/documents/4waytest.php） 。
四つのテストは、その冒頭に「言行は以下のことに照らしてから行うべし」と書いてあります。すな
わち、われわれが何かを言ったり行ったりする前に、必ずまずこの四つのテストに照らしてから実行しようということなのです。まず四つのテストの市民への広報・周知徹底から努力をしよう、機会あるごとに四つのテストの話をすることだろうと思います。出前授業で学校に行けば学校、PTA の集まりに行
けば PTA、地域の自治会の集まりに行けば自治会でという風に、そういう機会を作って、四つのテスト
そしてロータリー精神を広めなければならないと私は思います。
畑田耕一

ある中学校の 3 年生に、四つのテストを含めて先に述べた道徳的能力の話しをしたところ、普段とは様子の違う話に、ある種の驚きと戸惑いを示しつつも、熱心に聴いてくれました。その時の生徒の感想・意見を読むと、20％近い生徒が「四つのテストは善悪の基準として納得のいくものである」という意味の反応を示していました。
「道徳とは何かという話は、考え方の根本的なことで、とても参考になりました。特に、四つのテストは善悪を判断する基準として、とても分かりやすくて、日常生活にあてはめて考えることができます。
『何のためにこれをやるのか』という答えを出すことができると思います」という意見からは、このテストが中学生にも訴える力を持っていることが分かりました。
今日はロータリー主催のフォーラムですが、ロータリアンだけの集まりではありませんので、ロータリーに直接関係することをあまり言わない方が良いのかもしれませんが、この四つのテストはロータリアンでない方も心に留めていただいて、適切な機会があれば一般市民の方々に、ロータリーという組織があって、そこでは四つのテストというのがこんな風に使われているというようなお話をいただくとありがたいと思います。
7．素晴らしい AI を育てていくためには
ここまでは、いまある AI、あるいは簡単に作れる AI をどんな風に使っていくかというお話しが主であったように思いますが、ここからは、本当に世界の平和に大きく貢献するような AI をどうやって作
り出していくかという方向に少しずつお話を進めていきたいと思います。皮切りを佐藤尚弘先生にお願いしたいと思います。
佐藤尚弘 大阪大学の佐藤です。専門は畑田先生、北山先生と同じ高分子化学、つまりプラスチック関係です。私は AI を使う時に一番大事なのは目的の設定ではないかと思います。AI は一種の機械ですか
ら、どういう目的のもとに機械を走らせるかということです。AI 使用の目的については、先ほど高校生の皆さんも教育についていろいろ話をされたのですが、教育の場での学習にもいろいろあって、AI を使って何か知識を得るというのが目的ならそれは比較的簡単で、機械の方が使うのも簡単で結果も人間よ24

りも優れていると思います。また、機械の出す結果には感情が入ってないというような話が出ておりま
したが、この感情が入ってない、単に知識だけを身につけさせるというのは、先生の教育の主目的ではありません。先ほど教育委員会の方も言われましたが、生きていく力を身につけさせるという教育をAI にさせようとするのなら、それができる設定を AI にしなければなりませんが、どういう目的設定をすれば生きる力を身につけられるような応答をしてくれる AI ができるのかは、私にはよく分かりませんが、それを、いまの AI を相手にして行うのは非常に難しいのではないかと私は思います。
畑田耕一

いまの佐藤先生のお話は、AI は人間が作るもので、その働きは人間がコントロールできるものだということが前提になっております。ところが、AI というのはどこかで勝手にできてきて、それをわれわれが使っているのだという風に思っている人もかなりいるようです。でも、AI は人間が最初に考えたものなのです。それを作っているのも改良しているのも人間なのです。AI がだんだん発展していくと自分で歩き出す、人間の手助けを借りずに自分で自分を改良する、道徳にしても AI が自分で、あるいは言い方を変えると、自分の力で自分の道徳を作り出す、これが AI の科学の進歩だと仰る方もおられます。どんな AI を、あるいは AI のどんなところを伸ばしていかなければならないのか、それを一所懸命考えるのがわれわれの仕事だと思っています。
岡本博

市立西宮高校教員の岡本です。まず、教育とは何か、というところから話をはじめさせてください。人間というのは超未熟な状態で生まれてまわりの人間に育てられていく、そのなかで周辺の人間との感情の交流や、いろいろなコミュニケーションなどがあって、最終的にある程度一人前の人間になっていくのです。それをサポートするのが教育であると考えますと、やはり人対人という部分は教育の中で絶対に必要なことだと感じます。教師が生徒を見ていて、この子は計算ミスをしやすいとか早合
点しやすいとかを掴んでいて教育するのが大事なのです。
最近の AI の情報を私が知る限りでいうと、AI がマンツウマンで生徒の前にいたとしたら、そういう情報を掴むのも AI の方が優秀になるかもしれません。でも、子ども同士とか、あるいは教師と生徒とかいう関わりの中の、例えば感情だけでなしに尊重、あるいはお互いにどれだけ信頼しているかというような立場での教育・学習は、人間の方が長けていると思います。勿論、将来ひょっとしたら AI の方が長けてくるのかもしれませんが、それは長い先の話です。でも、最近新聞記事に出ている教師の仕事の時間的負担、労働時間の負担が非常に大きいことの解決策の一つとしての AI の活用は、可能なとこ
ろはどんどん実行していけばよいと思います。
それから、AI が自分で自分を進化させる時代が来るかもしれないということに関してですが、飼いならした飼い主が非常に可愛がっている犬でも、生命本能が危ぶまれるようなこと、例えば首を絞めるというようなことをされたら、その犬も飼い主をかんだりすることがあるように、AI に自己防衛の本能を持たせてしまうと、AI も人間のコントロールの範囲を逸脱するかもしれません。Singularity に相当することかもしれませんが、どんな理屈を持ち出しても、この地球の平和に責任を持てるのは人間だと思いますので、全ての人間がロータリーの精神をもってお互いが共生していく、人と人、人と動物・植物、
そしてこれらと AI も共生するということを目標として AI の研究を進めていかないと、本当にとんでもないことになる可能性はあると思います。
畑田耕一

最後の方で言われた AI と地球との共生、それに絡めて言われた Singularity、ここが一番大事なことだと思うのです。Singularity というのは正直言ってよくわからない、訳の分からない言葉なのですが、この言葉がいま独り歩きをしていて、2045 年頃には Singularity が出現して、AI が大きな進歩をすると思っている、あるいは信じている人が相当たくさんおられるのも事実です。AI というのは
25

あくまでも人間が便利に使う、あるいは使える機械であって、人間がコントロールして使うものです。
人間の AI に対する制御能力が失われたら AI の世界はお終いと私は思っております。この点はこれから議論をしてもらうことになるのですが、毛利晴彦さん、ご発言をどうぞ。
毛利晴彦 皆さんのお話をお聞きしながら、AI に対する皆さんのお考えは私のそれとあまり変わらないな、と思っているのです。AI は技術あるいは機械というべきものなので、人間が使う立場になる、使われるのではなくて使う立場になることが重要なのです。あと一つは価値判断の問題なのですが、AI が人間の役に立ってくれないと困るので、世のため社会のため人のために役に立ってくれるかどうかというところの最後の判断は AI に任せてはいけない、人間がするべきだと思います。そういうことの仕組み
作り・ルールづくりや AI がもし暴走した時にはどうするのか、そういうルールを作っていかないとい
けないかなと思います。AI は人間が使うものであって使われてはいけない、AI が人間の役に立っているかどうかは人間が判断しなければならない、AI にさせてはならない、そして AI がそのように機能するための仕組み作り・ルール作りを、AI の暴走対策も含めて、人間が考えていかねばならないと思います。
畑田耕一

AI を人間社会の役に立つ技術あるいは機械として成長させるための仕組み作り・ルール作

りの重要性と、AI が人間社会の役に立っているかどうかの判断は人間が行わねばならない、AI にやらせてはいけないというお話でございました。これからの社会を AI と共に生きるわれわれにとって非常に重要なご提案でございます。
ただ、後半の「AI が人間社会の役に立っているかどうかの判断は人間が行わねばならない、AI にや
らせてはいけない」というお言葉、毛利さんの真意は「AI が自分で判断することを否定」したのではな
くて、その AI が人間の役に立っているかどうか、を判断するのは人間の仕事であると言われたのです。
汎用型 AI の存在意義を否定されたのではありません。この点は誤解されませんよう、お願いしたいと思います。
これから AI に接する、あるいは接しなければならない人の大部分は普通の人であって AI の専門家ではないのです。今日はこうやって皆さんにお集まりいただいて AI の議論をしているのですが、この中に AI をよく勉強しておられる方はおられても、AI の専門家はおられないのです。だから今日のフォー
ラムでの議論に意味があるのです。普通の人が一生懸命 AI のことを考えておかねばならない時代になっているのです。今日のフォーラムの副題に四つのテストを持ち出したのは、普通の人もロータリー精神のことを一生懸命に考えていかねばならない時代が来ている、とまでは言いませんが、それがわれわ
れロータリアンの期待であることは確かです。この「普通の人が一生懸命に AI のことを勉強する」ことを怠っていると、あっという間に人間が AI に使われてしまうということが起こりかねないと思います。これからを生きる一般市民の心すべきことだと思っております。
尾野光夫

AI の究極の姿は人間と同様に感情を持つ AI だと私は思っています。私たちの世代でいうと「鉄腕アトム」をこれになぞらえることができます。「鉄腕アトム」は手塚治虫作の日本初のテレビアニメで、原子力で動く少年ロボットアトムの物語です。もっと若い世代なら、藤子・Ｆ・不二雄作のアニメ「ドラえもん」で活躍するネコ型ロボットでしょうか。アトムやドラえもんは、人間と共生し心を通わすことのできる夢のロボットです。もう一つの AI の究極の姿として、アニメーション映画の名作「天空の城ラピュタ」をあげたいと思います。これはスタジオジブリの初制作作品で監督は宮崎駿さんです。公開は 1986 年ですが、今の高校生にも人気があるそうです。
ところで、いま皆さんのお話を聞いていますと、AI はどう進化しても人間を超えないし、超えないで26

いて欲しい、それだけのものとして人間は AI とつき合いたいという本音が垣間見られるような気がします。しかし、ひょっとすると、AI が自分で判断する力すなわち自律性を発揮して、次の 50 年後には、鉄腕アトムの存在あるいは人間の仲間としての共生が当たり前になっているかもしれません。その時にどう生きるかというと、AI をお友達にするしかありません。つまるところ、AI を友達としてどう生きるかということをこれからの若い人に教育するか、学習してもらわねばならないのです。
現在一番問題なのは、これらの若い人たちが、本は読まない、使うのはスマホだけ、そして一番身近な AI はスマホ、家に帰ってもスマホをして、友達と直接のコミュニケーションをとることもない、あるいはコミュニケーション能力そのものが非常に低いということです。これからの若い人たちが AI の時代を生きるということは、畑田先生が何回も言っておられるように、避けるわけには行かない。その中で、AI の時代を生きるには、AI と AI、人と人、そして人と AI とのコミュニケーションの必要性を絶対に忘れてはいけないということを、若い人たちにしっかりと学習してもらわねばなりません。また、
AI のために人のやることがどんどん無くなった時に、いまの若者にどんな職業観を抱かせるのかという教育も必要です。こういうことについての皆さんのご意見を伺えたら嬉しいなと思っております。
「人の体の中では、日々、無数のタンパク質が合成され、それが"いのち"を止むことなく育んでいるのだ」とは、鳥取大学工学部の河田康志教授の大変意味の深い一言ですが（https://www.mirai-kougaku.jp/rep_teacher/pages/131016.php）、その人間も進化の過程でいろんな生物からひょこっとできてきたので、何も慎重に計画されて人間ができてきたわけではなくて、神様の思し召しで決まったことです。AI も神の思し召しで何か大きなものに変わるのではないか、AI から何か大きくて強いものが出てくるのではないか、私にはそういう予感がするのです。その時にどういう対処をするのかを、いまから考えておかねばならないと私は思っています。奇想天外と笑わないでくださ
い。
畑田耕一

AI を新しい友とするこれからの社会の予想図を語っていただきました。尾野先生が最後に言われたことは、これからの AI 化時代を生きるわれわれ人間にとって大変重い一言です。有難うございました。
小川佳伸先生、AI の未来についてご意見は如何でしょうか。
小川佳伸 ちょうど 1 週間ほど前に「AI と私たちの未来」という演題で神戸大学の名誉教授の先生に学術講演をお願いしたのですが、その時の先生のお話では、いまは自動運転などの特化型の AI の時代
ですが、汎用型の AI がだんだん広がってきて Singularity の方にどんどん発展してくるとどうなるかということを、イスラエルの歴史学者のハラリという人がホモ・デウス（Homo Deus＝神の人）という本に書いておられるそうです。これは、この人の前作の最終章で予言された「人類の終わり」を引き取る
形で書き上げられたものだそうです。Singularity を越えたら、だんだんとごく一握りのホモ・デウスという神様と人間の間のような人がいて、その反面無用な階級の人たちが沢山できるという世界に突入していくのではなかろうか、とこの神戸大学名誉教授の先生は言っておられました。この無用階級の人たちが非常に幸せな生活をするのか、それとも奴隷のような形になってしまうのか、それこそ世界的人気シリーズの映画ターミネーターのような世界になってしまうのかは、これからの私たちの選択の問題だというのです。ですから、奴隷のような人たちが沢山いる暗い未来を作るのか、それとも明るい未来、
すなわち働かずにご飯だけ食べて楽しくやっている人たちという人間の大きな塊と、一握りの神に近い
ホモ・デウスの人たちとが共存するような世界を、あなたたちが受け入れられるのかどうかというのは、あなたたちの選択の問題だと、ハラリさんは上記の本の中で言っていますよ、とこの神戸大学の先生は27

仰っていたように思います。特化型の AI を活用している間はいいのですが、汎用型の AI が出現してきた時には、こういう難しい選択をして難問の解決をする覚悟が必要になってくるのだな、という気がしております。
畑田耕一

有難うございました。AI の世界がさらに科学的に進んで Singularity が問題になってきた時に、AI の専門家でないわれわれ一般市民は非常に難しい難問の解決のための選択をする覚悟をしなければならないということはよく分かりますが、覚悟をしたうえで具体的に何をしなければならないのかが、
もう一つよく分かりません。それは、これからわれわれ人間が対決せねばならない難問であるということでしょうか。村司さん如何ですか。
村司辰朗 村司辰朗です。生け花を教えている、生け花の先生、すなわち、専門家ということでロータリーに入っております。僕にとって AI というのは何かよく分からない難しい道具なのですが、これだ
け AI が流行ってくると、僕の仕事の中でも AI をどう使うか、AI に使われるのでなくて、使うということを考えなければならないという気になってきます。そうしようと思うと、AI というのはどういうものかというイメージを自分の中に作り上げなければなりません。AI は未知のもので、今後どういう風に進化するかは分からないけれども、人間がそのすべてに関わっていること、あるいは関わらねばならな
いことは間違いありません。
私の中の AI のイメージは次のようなものです。沢山の小箱のある大きな引き出しがあって、これらの小箱は、こういう事例の時にはこうやって対処する、別の事例の時にはこうやって対処する、ということに対応するデータを持つ小箱で、質問に答えるのは、その質問に対する答えになると考えられる適
切な箱の中身を探り当てて、それを持ち出すのだということです。これが、いま小川さんが言われた特化型です。汎用型の AI の場合は、奥の方にまだ箱があって、そこから 2 重、3 重にデータを出してくるという形になっている、1 回出してまた出してという出し方をする。ところが人間がデータを入れられるのは一番手前の箱だけである、それより奥の箱は AI しか入れられない。先ほどから Deep learningという語が出ていますが、まあ、これは深く勉強するというのとは少し違う意味のようですが、この奥の箱にデータを入れられるのは AI 自身なのかな、それのできるのが汎用型 AI なのでしょうが、そんなものが本当にできるのかなと思うのです。でも、汎用型 AI も自然に発生するのではなくて、さっき畑田先生も言っておられるように、これからの AI と人間の共存する社会において、AI のアルゴリズムやプログラムを作るのは人間なので、すなわち汎用型 AI を作るのは AI ではなくて人間なので、当然人間の道徳性が反映されることになって、人間の資質・倫理・道徳が非常に大事になってくるのかなという気がしております。
畑田耕一

これからの AI と人間が共存する社会、あるいは AI と人間が共存せざるを得ない社会において、AI という個体を作り出すのは人間だけれども、いったん作り出された AI については人間が触ることのできるのは一番手前のところだけであって、奥のところ、深いところは AI にしか触ることができないのだ、というのが村司先生のご意見の骨子のように思います。非常に夢のある表現とも言えますが 、
科学的には少し補足的説明が必要で、この問題の議論は別の機会に譲りたいと思います。
本題に戻りまして、AI と人間の共生社会において、AI は最初に人間によって社会に生み出された後、どのようにしてさらにデータを取り込み、その後の人間との関わり合いの中でどのようにして自己学習をしていくのかという点について、北山辰樹先生、もう少し詳しくお話しいただけますでしょうか。
北山辰樹 いま使われている特化型 AI は、人間によって市民社会に生み出され、その時にデータをかなりの量入れてもらっているわけですが、その後は最初の状態よりも少しずつ高いレベルに進んでいく28

わけです。これを AI の機械学習と言います。この AI の機械学習というのは、AI にとって役に立つデータをどんどん取り込むことです。データをどのようにして取り込むかということですが、例えばグー
グルの検索エンジンなどの場合は、AI の使用者が検索に使うにつれてデータがどんどん集積されていく、使用者がこんな検索をしたということが役に立つデータとして蓄積されていくのです。
それから、一度市民権を得た AI に人間がデータを継ぎ足すこともあるのです。これは教師データと言って、元データに対して、この元データはこういう時にこういう風に使うのですよと AI に教えるデータのことです。この教師データを誰が何時どのようにして入力するのかは、AI の世話役にとってはかなり重要ではあるが深刻な問題なのです。教師データを AI に入れるのにもの凄く手間をかけてグーグ
ルの会社の人が毎日毎日やらねばならないようでは、特殊な場合を除いて、実用的には使えません。したがって、こういう仕事はある程度自動化されねばならないのです。これができなかったらこの AI は使えない、実用にならない、そこをどうするかというところが教師データ活用の深刻な問題なのです。
例えば、医者の画像診断についても AI がどういう画像データを持っているかということが問題になる時があって、使っている途中で画像の分解能が上がり品質が向上したという時には、前のデータと一緒に混ぜては使えないというようなことも起こり得るのです。したがって、最初に AI を世に出す時に、与える元データを十分に吟味・選別して信頼度の高いものにしておくということも、これから AI を扱う上で大事なことの一つになると思います。
畑田耕一

いまの北山先生のご説明、お分かりになりましたでしょうか。誰かが、皆が分かったという保証はできませんと小声で言っておられますが、聞けば聞くほど AI が分からなくなった、という方もおられるかもしれません。AI というのは本当に難しいなあ、というのが私の実感です。
宮田先生どうぞ。
宮田幹二 これから出現するであろう汎用型 AI のことですが、汎用型 AI というと、世界に一つの絶対的なものがあるように聞こえるのですが、これは、私が思うに、汎用型 AI という語が悪いのであって、実際には人間の能力を超えるような AI ができたら、どんどんいろいろな AI が出てくると思うのです。
絶対神が好きな民族はそれに近い AI を作ると思うし、多神教なり多文化を愛するところからは、同じ汎用型 AI という言葉で表されていても宗教・文化の違いに応じたいろんな AI が出てくるということになると思います。だから、私たちがいま議論する時に、汎用型 AI と言っても、それが世界に一つの素晴らしいものというイメージで話のできるようなものではないのだと私は思います。汎用型 AI は英語
で Artificial General Intelligence と言うそうですが、これは AI の専門家が勝手につけた名前で、事の本質と直接は関係ないと考えて良いと思います。General という語が使われているから世界に一つのAI と考えるのは間違いだと私は思います。事情は AI の分野に限らず、大抵の専門分野で同じではないでしょうか。コンピュータだって、人間の哲学思想が生きている限りは、いろいろなコンピュータが出て来ている筈です。
畑田耕一

有難うございます。汎用型 AI（Artificial General Intelligence）の General を applicable to

the whole or every member （thing） of a class or category というような解釈をすれば、宮田先生のようなご懸念も出てくるのかもしれませんが、今のところ、そういう心配はないように思います。それと理屈を言えば、Something more general というような英語もあるのですから。
ところで、大型コンピュータが使えるようになった時は、自分がやったら何年かかるか分からないよ
うな仕事を、あっというまにやってくれる、すごく役に立つ便利なもの、コンピュータの中の仕組みや動作機構を知らなくても便利に使えるものだということで、ごく自然に使うようになりました。使う前29

に、まず「コンピュータの作動機構の勉強をしろ」と言われた覚えはありません。一般市民は、AI も特化型、汎用型にかかわらず、AI、 AI と騒がずに、大型コンピュータが出現した時と同じように振る舞ってもいいのではないかという問題を、この章の最後で少し考えておきたいと思います。
AI は大型コンピュータほどに多くの一般市民から望まれ期待されて生まれたものではないかもしれません。もし、そうであれば、その必要性、有用性を一般市民によく理解していただき、AI のこれからの進歩・発展を担う AI 専門家の活動に市民の支援・協力を得ることは必要不可欠なことで、AI の教育・研究に必要な予算の獲得にとっても市民の支援・協力は欠かせないことになります。もう一つ大事なことは、AI は大型コンピュータを使うことで初めて機能するのですが、大型コンピュータ単体よりは AIを作ることに関わる人間の倫理・道徳性にはるかに強く影響されるということです。この点も、一般市
民のできるだけ多くの人たちが、AI の内容を単なる言葉だけでなく、内容の本質、根本原理について広く深く知っていなければならない理由なのです。
そして、最後は一般市民の一人である私からの AI 専門家へのお願いですが、いまの AI 専門家の市民に対する広報の内容は、AI には素人である私にはあまりにも分かりにくいということです。AI 専門家の中には、真の科学者、すなわち自己の専門の科学の内容を一般市民の分かる言葉で語ることのできる
科学者はいない、と言われても仕方がない状態のように見えます。でも、こんな不平は言っても何の役にも立ちません。もしそれが事実なら、そうでない状態をできるだけ早く作り出す努力をするのが一般
市民にとっても重要な使命であり責務でもあるのです。それができなかったら、日本は AI の分野において世界の 2～3 流国になってしまうかもしれないというのは言い過ぎでしょうか。
井上暎夫

この前新聞で見たのですが、現在の AI がそのデータ処理に 3 年ほどかかるような仕事を、

量子コンピュータができたら 1 秒でできるという話なのです。こういうことが現実になれば、いま議論されている汎用型 AI もまた、本当に必要な場合は実用化するのかなと思うのですが、どなたかお答え
いただけませんか。
畑田耕一 量子コンピュータを作るエネルギーはともかくとして、それによる計算に必要なエネルギーは非常に小さくて仕事が早くて所要時間が短い様です。私もそれを知りまして、先日、量子コンピュータの専門家に「いつ頃使えるようになるのか」と聞いたのです。答えは「分からん」ということでした。
まだかなり先のことのようです。
細川隆弘 いま、このフォーラムでの議論の前提になっているのは、人間の脳の機能は機械によって代替できるという概念なのです。人間の知性、知能と言われるものが機械で代替できるという前提です。
その前提が狂えば Singularity なんて起こりえないことになります。われわれ人間が行っている情報伝達には、神経系、電気系だけではなしに、物質が関与しているということを忘れていないでしょうか。
腎臓からも情報伝達物質は出ていますし、心臓もそうです。われわれの体の中にはそういう物質を介したネットワークが構成されていて、言ってみれば、そういう物質を介しても、知能というものが出てくるのです。簡単に言えば、例えば、認知症は脳の中のアミロイド β の蓄積が原因と言われていますが、そのことの解決がいまの機械だけでできるかということになれば、できないのは間違いありません。だから Singularity なんて起こりえないのです。これは正しいのです、間違いありません。もちろん、Singularity に類似することはできるかもしれません。例えば、AI にギリシャ時代から現在までの哲学書を全部読み込ませたうえで、AI にさせた判断は立派な哲学者の判断よりは適確という可能性はあるでしょうし、時代に対応した状況を打ち込めば、それに対する新しい哲学的思考や、哲学的概念もひょっとすれば AI から出てくるかもしれません。でも、それは、あの機械が出したのだという前提です。私30

は、いまこの議論の中で忘れているのは、われわれの体というのはそんなに単純なものではないのだということです。私はアミノ酸が合成できて、その先に生命ができるというような精神・意志・霊魂などの概念を用いることのない機械論は、科学者の傲慢な思い込みだと思っております。
畑田耕一 それは仰る通りだと思います。いまのお話は、実は今日北山先生が使われた柳田敏雄先生の本に、議論の仕方は少し違いますが、かなり詳しく論じられているのです。北山先生のお話の後で、私がこの本は鞄の中にしまっておいて欲しいと言ったのは、今の細川先生のような話に行く前に AI の議論をきっちりとやって置きたかったからなのです。人間の脳と AI とはどんな風に繋がり得るのかを考える時には、脳のみならず人間の全臓器、全細胞を考えなければならないのです。これは、人間の脳とはその機能も含めれば、何を、何処を言うのかということでもあるのです。それでは、心は何処にあるのかということになってきます。細川先生は、心は全身に行き渡っていると考えておられるのだと思います。私はこれに大賛成です。これは脳死の問題を考える時にも大事なことです。ただ、こんな話をいま始めますと、このフォーラムは深夜になっても終わりませんので、この種の議論は次の機会に譲ることにさせていただきたいと思います。皆さんにお願いして置きたいのは、柳田先生の本をフォーラムが終わってからしっかりと読んでおいていただきたいということです。
8．Singularity が引き起こす問題にどう対処するか
畑田耕一

それでは最後に、「Singularity が引き起こす可能性のある問題にどう対処するか」についてお考えいただきたいと思います。AI がどんどん進化すると、AI の管理運営を担うごく少数の人間と、AI を使ってあるいは AI の恩恵を被って生きていく他の大多数の人間に分かれてきます。そうすると、
本来後者の人たちがやるべきであったこと、あるいはこれまでやっていたことの大部分は AI がやってくれることになって、これらの多数の人たちは仕事がなくなるのです。AI による自動運転の車が沢山走ると街中が暑くなって大変だというような問題は、科学的に解決の方法が見いだせると思います。しかしながら、AI の使用をめぐって、日本の市民が AI の使用を管理運営する側と AI をただ使用するだけの人たちに二極分化し、しかも後半の側の人数が滅茶苦茶に多いという状況にどう対処するかは、実に難しい問題になります。日本の国はこのような社会的状況を殆ど体験したことがなく、そういう文化的背景も持ち合わせていないのです。こういう AI 社会の到来だけは避けた方が良いというのが、前半の皆さんのご意見の総括のような気がします。では、どうすれば良いのかというのが、これからの議論の主題です。はい、Afshin 君どうぞ。
Afshin 3 頁の図 1 を見てください。この図で一番恐ろしいところは Singularity です。AI がこの特異点に到達して、Singularity が機能し始めると、AI に対する人間のコントロールが効かなくなる。いわ
ゆる汎用型 AI は、人間とは無関係に勝手に行動する道具になってしまいます。人間の道徳は人間の作ったものですから、人間の道徳を反映した汎用型 AI の生成を期待するのは無駄だと思います。例えば、進化の話、人間は他の生物が進化をして人間になったと言われていますが、その人間が新しい存在である AI を作ったのに、その AI をコントロールできないのです。人間は神様が作られた、だから人間は神の命令には無条件に従うというようなイメージで神様を信じているのですが、汎用型 AI から見た人間のイメージはそんな神様ではないのです。新しい存在としての汎用型 AI は知性も能力も人間よりは遙かに上なのです。だから、汎用型 AI にとって、人間は神様ではなくて、生みの親ではあるが、Uselessになってしまうのです。
それなら Singularity の到来を止めねばならないのか、それは、私は無駄な努力だと思います、AI の31

科学はどんどん進化して、Singularity は必ず来るというのが、私の考えです。
尾野光夫

畑田先生の言われた Singularity の到来を止めるという意見には十分価値はありますが、私は、Afshin さんの言われた Singularity が到来した世界を仮定・想像して、そのような世界とどのようにして共存・共生していくのかを、若い人たちとわれわれ年寄りが一緒になって一生懸命考えることが、いま大事なことなのだと思います。よく、心というのは人間以外にはないというような論議になります
が、いまロボットでも、可愛がっているとニコニコしてくれたり、いじめていると歯向かってきたりす
る時代です。これはもちろん、計算された感情ですが、機械が感情を持たないかというとそれは違うと思うのです。やっぱり嬉しい時は尻尾を振ってくれて、何かして欲しい時には、ちょうど赤ちゃんの初期動作みたいなことをする、それがどんどん進化すれば、アトムやドラえもんのような心のあるロボッ
トとしてつき合えるロボットが生まれてもおかしくはありません。何も心は人間だけのものとは言えない時が来る可能性もあるのです。シューベルトの子守歌というわけではありませんが、こういうことを
特に若い人達によく考えておいていただきたいと思うのです。
私自身は Singularity の到来を止めることはできないと考えています。それと共存・共生するために大事なことは、互いにコミュニケーションをとるということです。コミュニケーションの定義は、行ったり来たりの往復があるということで、何と何とのコミュニケーションかと言えば、それは、人と人、
人と動物・植物、人と花、人と土というように自然界のあらゆるもの、そして現在では、人と AI とのコミュニケーションがこれに加わろうとしているわけです。これが達成されれば、人と AI が共存・共生する社会が実現できて、AI が人から地球を奪うとか、AI が地球を滅ぼすというようなことは起こらない筈だということは、第 5 章「人間の道徳と AI の道徳」の 21 頁で畑田先生が述べておられますし、私もそう思います。
畑田耕一 有難うございました。短い言葉で言えば、AI と人間が共存・共栄する社会を作るということになるのだと思います。いま言われたコミュニケーションのお話の根本は、私どもが昔から言っており、
また、先に第 5 章「人間の道徳と AI の道徳」の 21 頁に述べました「道徳的能力におけるコミュニケー
ションの役割」と完全に相通じるものであります。大変興味深く聞かせていただきました。
ところで、西宮高校の岡本先生、この AI と人間が共存・共栄する社会でのコミュニケーションの話、どう考えられますか。
岡本博

Singularity の到来、非常にレベルの高い汎用型 AI にいたる AI 科学の進歩は起こりそうだという気はします。その時に、尾野先生の言われるような AI とのコミュニケーションができるのか、AIの進化の仕方、あるいはそれを開発した人たちのモラルの問題が大きくて、中には人間との対話すらできない、人間よりも AI の方が優位であると考えて人間との対話を否定あるいは拒否してしまうようなAI が生み出される可能性も否定はできません。そんな AI が地球をコントロールしてしまう、そういう世界もあり得るという危機感を私自身は持っています。
鈴木阜志朗 西宮高校の鈴木です。僕も今の話を聞いていて、このまま Singularity まで進んでしまうのは避けられないのかな、という気がしてきました。それならどういう対策をとればよいのかというところまでは、今未だ考えがまとまっていません。
畑田耕一 西宮高校のお二人、特に岡本博先生からは Singularity の到来とコミュニケーションの問題
について、明確なご意見をいただきました。
残り時間が非常に少なくなってまいりました。いま問題になっていることに、どう答えるかは来年までじっくりと考えていただくことにして、それでは渋谷先生、最後に一言、皆を吃驚させるような一言
32

を、お願いします。
渋谷亘 二つ言わせてもらいます。まず、AI は感情を理解できないという話ですが、これはよく考えてみると、人間の尺度、人間の考え方で考えると理解できていないという結論になるということであって、コンピュータのプログラムの尺度でいえば理解している（または理解するようになる）可能性もあるということを申し上げておきたいと思います。大きな転換点になるだろうと言われている Singularity が到来するのかどうかは、私にはよく分かりませんが、特化型 AI にせよ汎用型 AI にせよ、どんな AI が育つかというのは、どんな教師データを与えるかに大きく依存します。AI には教師データを作る人の道
徳的能力が大きく投影されるということです。もし Singularity が起こって、AI が AI の教師データを作るというようになると、すなわち AI が AI を教育するようになると、AI が独り歩きするようになると言われています。しかし、一番最初の教師データは人間が作って入力しますので、それは人間の道徳の価値観で作られていることになります。例えば、ロータリーの四つのテストは、人間の道徳の価値観で書かれているものです。これに基づいてＡI を育てる場合には、教師データを用意する人たちが高い
道徳的能力を有していることが必要なのはもちろんですが、人間の言語による表現の内容とＡI 言語による表現の内容とが一致するような配慮がなされていなければなりません。一つ目のポイントとして、
人間の道徳的能力が AI の道徳的能力を決めるのではないかという点を挙げておきます。
二つ目は、個々の人間が言語力や論理的思考力をしっかり身に着けておかねばならないということです。AI が将来私たちの求めに応じて何かの提案を出した時に、それを読み取るのは、人間の言語、あるいは論理的思考なのです。私は化学の教員なのですが、生徒と接する中で、化学が分からないという以
前に、教科書に書いてある言葉の意味や論理構成が分かっていないのではないかと感じることがあります。このことから、言語力をつけるとともに論理的構成をきっちりと理解する能力をつけることが、これからの教育には非常に大事なことだと、最近とみに思うようになりました。
今日、参加者の机に配られていた日本語とその英訳文の書かれている A4 一枚のプリントですが、ここに書かれているような日本語の意味をきちんと理解できる高校生がかなり減っているのだということを記述した本が出版されています。数学者の新井紀子さんが書かれた「AI vs. 教科書が読めない子どもたち」です。いまここに持ってきております。この本を読んだ時に、自分自身が試験の採点や生徒とのやり取りの中で経験していることが、そのまま書かれていることを発見しました。それで今日、そのことを皆さんにお伝えしようと思いつつ、ここに来たのです。人間は人間の言葉でしっかりと読み取り
理解すること、これは生徒だけでなくて教員にも求められる力です。AI に最初に教師データを与えるのは人間であり、その道徳的基準や道徳的なものの見方が AI の道徳（そういうものがあるとして）に大きく影響を及ぼすという点と、AI が自身の教育をするようになるかどうかに関わらず、私たち人間は言語能力と論理構成を正確に読み取る能力をしっかりと養っておかなければならないということを、最後に強調しておきたいと思います。
畑田耕一 いま最後の方で言われたことは、単に教育の観点からだけではなく、これからの日本にとって非常に大事なことなので、別の機会にあらためて議論をお願いしたいと思います。
それでは、北山先生、折角ですので、新井紀子さんの本について、ちょっとご説明いただけますか。
北山辰樹

いま渋谷先生が言われたのは、私が手に持っているこの新井紀子さんの本です。現在の日本の教育上の問題点が AI に絡めて上手に書いてあります。コンピュータは計算しかできないもので、コンピュータで動いているロボットが人間の仕事を全て引き受けてくれたり、AI 自身が意思を持って自己生存のために人類を攻撃したりするといった考えは妄想に過ぎないと、明確に書かれています。
33

Singularity については否定的です。Singularity は、正確には Technological Singularity という用語が使われ、「技術的特異点」と訳されます。それは「真の意味の AI」が、自律的に、つまり人間の力をまったく借りずに、自分自身よりも能力の高い「真の意味での AI」を作り出すことができるようになった
時点のことを言います。新井さんは数学者ですが、コンピュータのやれることは、あくまでも数値化したデータをもとに行えることなのです。例えば、四つのテストの「真実かどうか」を数値化できるかど
うかが問題で、それができなければ、コンピュータを基礎としている AI は「真実かどうか」についての判断は行いようがないということになります。
畑田耕一 はい。有難うございました。この新井紀子さんの本は AI がコンピュータを基礎として構成されている限りは、Singularity などやって来る筈はない、という立場をとっております。でも、それが本当にそうだろうかと疑っておられる方、たとえ 2045 年というかなり先の話であっても Singularityの到来を心配しておられる方が、今日の参会者の中にかなりおられることは間違いありません。それと私は、この本のタイトルの「教科書が読めない」の「読めない」が、どういう意味なのか、何を意味しているのかが、考えれば考えるほど分からなくなってきたのです。これらのことは、なるべく早く、遅くても来年の 1 月 25 日の次の教育フォーラムの時には徹底的に議論していただきたいと思っております。
9．まとめ
本日は、中途半端と言えば中途半端、大成功と言えば大成功、AI とはそんなに明確に分かるものではないということがよく分かったという点では大成功だったと私は思っています。
それでは、ここで、井上暎夫先生にまとめをお願いしたいと思います。
井上暎夫

今日の皆さん方のいろいろなご意見、本当に私にとりましても大変有意義な時間でありました。このフォーラムに AI と教育の問題を取り入れていただいた畑田先生にまず感謝を申し上げたいと思います。一番最初に、AI は既に存在をしているというところから議論が始まったと思っております。
AI がいいとか悪いとかではなくて、現実に私たちの身の回りにいくらでも存在しているわけで、このAI と教育とについてわれわれがどう関わらなければならないかということを私は常に頭に入れて聞いておりました。私が言いたいことは、AI を作ったのはやはり人間でありますから、それと、先ほど仰いましたように、データを入れるのも人間、つまり人間の行動・考え・行いが AI に反映するというところが一番大事なところではないかと思っております。
AI が特化型と汎用型に区分けされているという話が出たのですが、実は、いまから 40 年前にアメリカの哲学者が AI には２種類あり、それは強い AI と弱い AI であるということをすでに言っているわけです。この強い AI というのが先ほど出ておりました鉄腕アトムであり、ドラえもんである、彼らは正義の味方としてわれわれに接し、受け入れられているのですが、これがそうではない反対の方向に行ったら困るというのが、今日ここにおられる皆様方のご意見だったと思います。
弱い AI というのはすでに始まっておりまして、これは、これまでは人間が行っていたいろいろなことを AI が変わって行うというものであります。いま、この AI が人間に変わって行うということが、どんどん進化をしてきまして、数年後にはあなたの職業はなくなりますよと言われ始めているということです。先程外科手術の話がありまして、例えば、いまではロボットのダヴィンチが手術をします、これがどんどん進んでいくと、普通の手術はできない医師が育つのではないかというような気もしますし、
まあいろんなことが起こるだろう、その場合に、お医者さんを育てる教育はどういう風にしなければな
34

らないのか、本当にもう我々の頭では考えられないようないろいろなことが起きるのではないかと思うのですが、最後にどうしても人間は AI を道具として作ったというところに立ち返って、人間の AI に対する役割というのを突き詰めていかねばならないという風に思っている次第です。
昨年の 8 月に、AI が武器に使われたら困るというわけで、スイスで国際会議が開かれて、AI を搭載した兵器を使う場合も倫理上の問題に議論が集中したわけでありますが、これが一番大事なことだと思います。つまり、人間が始めたことでありますから、その開発とか利用とか、その活用の部分を作らなければなりませんし、どのようにして AI と共生していくのか、という原則も作らねばなりません。これらを考えるのは全部人間である筈でありますから、そういう教育も大事なことであります。
そして、AI が進化すると大多数の人間の職業がなくなるという話でありますが、つまるところ、どんな仕事でも、入り口と出口はやはり人間が関わらなくてはならないのです。AI が日常的に使われるようになって、理工系を志望する学生が多くなったということが報道されているという話がありましたが、
例えば、哲学なんて何のためにやるのかという人もいるようですが、これからは、理工系の学生であるが哲学の勉強もしている、そういう多様性のある人間を育てるような教育をして欲しいと思います。自分の専門だけに片寄った教育ではだめだと思います。ノーベル賞を取られた先生方がよく言っておられますように、一見何の役に立つのか分からないような基礎的な研究をこつこつと続けることが学問の大きな発展のためには非常に大事なのです。基礎的な研究をしている人たちは、何のために、何に役立つかは分からないけれども、とにかく真理を求めて研究を続けている、そういう一見無駄に見えるかもしれないような場が人間の教育には必要なのだと私は思っています。
最後に四つのテストですが、私もロータリアンですから、四つのテストの普及についても、もっともっと力を注ぐべきだと、今日また改めて感じたわけでございます。次回の教育フォーラムは今日の続きをやって、強い AI あるいは汎用型 AI とどう向き合っていくかということを考えられるということでしたが、私も是非参加させていただきたいと思います。その時に皆さんに再びお目に書かれることを楽し
みに、まとめを終わらせていただきます。本日は長時間の熱心なご討論、有難うございました。
畑田耕一 有難うございました。現在の日本社会における AI の状況とその未来の姿はいかにあるべきかを明確におまとめいただきました。そして最後には、「この次もまた来るよ」という熱意のこもった温かいお言葉を賜り本当に嬉しゅうございました。あらためて厚く御礼申し上げますとともに、今後の変わらぬご支援・ご協力をよろしくお願い申し上げます。
この次は、次期会長の松山辰男が申し上げましたように、来年 2020 年 1 月 25 日にこのホテルアイボ
リーのこの場所で行う予定になっております。どうぞよろしくお願い申し上げます。
畑田耕一のつぶやき AI という語が、いまもてはやされている。それなのに AI とは何かと聞かれて、自信をもって答えられる人はほとんどいない。AI の定義を、何かを読むにせよ、自分で考えるにせよ、とにかく自分で決めて、世の中で AI と言われているものを具体的に持ち出して、それに自分が AI と決めた定義を当てはめてみると、どこかに矛盾が出てくる。あちら立てればこちらが立たずというような場面にも出くわす。例えば、特化型 AI は自分では考えないと言っても、一般市民には、アルファ碁はものを考えるからこそ名人に勝つことができるのだ、としか思えない。あれは考えているのではなくて、自分つまり大型コンピュータが持っている膨大な譜面の中から、いま盤面にある譜面を探し出し、それに勝てる手に相当する譜面はこれだというのを、大型コンピュータの能力を最大限に使って、人間には不可能な短い時間
35

で探し出してくるだけなのだと考える一般市民はどれだけいるだろうか。あるいは、AI による車の自動運転が実現して、運転免許証もタクシー運転手もほとんど不要な社会はどういうもの
かを、きっちりと推察してみた一般市民はどれくらいいるのだろうか。
でも、コンピュータの中の仕組みや動作機構を知らなくても、コンピュータを便利に使い、人に役立てることはできる。AI もそれでいいのではないか、という意見もあろう。AI はこれから一般市民の中にどんどん入ってきて、使われ役に立つ存在になる。それは、これからの日
本、そして世界の平和と安定のために必要で不可欠なことである。それが円滑に行われるためには一般市民が AI をよく勉強しておかねばならないのだ、ということであろうか。ただ、コンピュータの時にコンピュータの勉強をしろと言われた覚えはない、何故 AI の時だけ騒がれるのであろうか。
こんなことを考えていると、どんなことをやるにも金は要る、その金は、予算は、競争的な過程を経て獲得するのが正義であるという根本原理にしたがって動いている今の日本社会は、
本当にこれでいいのだろうかと、ふと思ってしまった。分野にもよると思うが、少なくとも文化というような語が関わる部門や基礎研究では、もう少し考え方を変えた方が良さそうな気がするのである。
AI がこんなに訳の分からないものであれば、これをよく理解したうえで使うという努力をこれ以上続けるよりは、脳の働き、人間の神経系の働き・機能の研究に注力した方が良いのではないかという意見が、一般市民の中にもかなり強くあることも指摘して置きたい。
本文を草するに当たり、種々ご意見・ご教示を賜りました豊中ロータリークラブ会員澤木政光様ならびに元大阪大学技術職員矢野富美子様に心から深く感謝申し上げます。本当に有難うございました。

（参考文献）
1．畑田耕一、渋谷亘、関谷洋子

豊中ロータリークラブ教育フォーラム「小・中学校の道徳の授業の

特別の教科化を考える」― 速報 （2016 年 2 月 25 日公開）
http://culture-h.jp/hatadake-katsuyo/MoralEducationForumCommn.pdf
2．畑田耕一 豊中ロータリークラブ教育フォーラム 「学校教育における道徳を考える」（2018 年 1 月
7 日公開） http://culture-h.jp/hatadake-katsuyo/EducationForum20170121.pdf
3．畑田耕一、澤木政光、村司辰朗、宮田幹二、井上暎夫、尾野光夫、篠原厚、矢野富美子 豊中ロー
タリークラブ教育フォーラム「日本社会と道徳」（2018 年 11 月 22 日公開）
http://culture-h.jp/hatadake-katsuyo/EducationForum20180127.pdf
4．柳田敏雄「脳と AI とゆらぎ」（2018 年 3 月 31 日公開）
http://culture-h.jp/hatadake-katsuyo/E10Yanagida.pdf
参加者名（敬称略 順不同）
松本紀文（元大阪大学渉外本部職員） 岡本博（西宮市立西宮高等学校非常勤講師）北本靖子（大阪市水道局）矢野富美子（元大阪大学技術職員）服部敬弘（日本学術振興会特別研究員）井上暎夫（国際ロータリー2660地区パストガバナー）細川隆弘（高知工業大学名誉教授）毛利晴彦（ダイキン工業株式会社）北山辰樹（大阪大学名誉教授）渋谷亘（兵庫県立豊岡高校教諭）Wong Ting Sam（豊中ロータリー36

クラブ奨学生）卓妍秀（大阪大学理学研究科国際交流センター）佐藤尚弘（大阪大学理学研究科教授）
久保田拡鑑（（株）コンセプト）尾野光夫（元四天王寺学園教諭）沖野勝則（豊中市教育委員会事務局
学校教育課主幹）今井卓哉（池田くれはロータリークラブ青少年奉仕委員長）飾森宏（西宮市立西宮高等学校教諭）本田由羽、保山舞衣子、鈴木阜志朗、吉田仁美（以上4名市立西宮高校生）
Afshin Haghparast（大阪大学医学研究科未来医療開発センター特任研究員） Leila Alipour（大阪大学産業科学研究所第2研究部門先端実装材料研究分野菅沼克昭研究室特任研究員）
豊中ロータリークラブ会員
佐川正治、北村公一、木村正治、澤木政光、宮田幹二、戸部義人、松山辰男、 大塚穎三、村司辰朗、
米田真、真下節、桝田定子、小川佳伸、岩本洋子、都井正剛、武枝敏之、篠原厚、畑田耕一（司会）37