近未来金融システム創造プログラム第 9 回講義レポート
第 9 回講義は 3 回ある人工知能セクションの 1 回目であり、理化学研究所脳科学総合研究センター特別顧問の甘利俊一氏にご登壇いただいた。
「機械学習：人工知能の歴史とこれから」と題して生命の発生から人工知能の開発に至るまでの流れと、人工知能が持つ未来について数理脳科学の見地から語っていただいた。

生命の仕組み人間の脳が他の動物と違うのは、意識を育み、その上に思考や言語があり、さらに社会や文明を作り上げたという点である。人間の脳について知るには 138 億年前のビックバンまで遡る必要がある。そこで物質やエネルギーが発生し、時間と空間が発生した。生命には、DNA と呼ばれる、自分が形作られている仕組みの「情報」を使って自分と同じものを作る「自己再生機能」が内在している。DNA は物質に揺らぎが存在することと同じように、情報にも揺らぎが発生する場合がある。通常は遺伝子が変化した生命は死んでしまうが、稀に地球環境に生きるのに都合の良い揺らぎ、つまりより良い遺伝子が出現し、その情報が自己再生されることで生命は変わってきた。
すなわち、生命は情報をもとに、揺らぎを伴って進化していく。このように外界の情報を取り入れ、記憶することで判断・決定を下すのが脳、神経細胞である。生命は物質としてではなく情報として見なければならない。

人工知能の歴史
1930 年代はチューリングマシンというものが設計され、機械が計算するとは原理的にはどういうことなのかということを解決しようとした。チューリングマシンは、当時は実現しなかったものの、50 年代に入りコンピューターとして製品化して普及すると、知能をコンピューター上で実現しようとする動きが出てきた。そうして盛り上がったのが第一次人工知能ブームであり、記号と論理のみでプログラムさえ与えれば全て解決すると考えられていた。一方で機械を学習させることで動かそうとしたパーセプトロンという考え方も広まった。人工神経細胞を並べて、その結合を少しずつ変化させることで機械に学習させることができれば万能の機械ができると思われていた。しかし、どちらも当時の技術力では実現することができず、人工知能はこれではできないということが判明した。
第二次人工知能ブームは、専門家の知識を蓄えて推論する装置を作ろうと始まったた。例
えば感染症の患者のデータをインプットして、それを基に機械が実際に患者に診断を下すことができると推測された。実際には町医者よりは正確であったが、専門家の域には達しなかったこと、PC の値段が高いことから実現することはなかった。1980 年代に入ると、人工ニューロンの回路網に学習させれば結果が出ると考えられたが、人工ニューロンよりトランジスタのほうが安く製造できる上、実用化するに値する有用な結果が出ないことなどから技術としては定着しなかった。
第三次人工知能ブームでは、さらにコンピューターの質が上がり、データベースが整理されたことで、神経回路モデルを使って本格的に機械学習を始めようとする機運が高まった。
画像認識のコンペティションの開催もあり、20１0 年代には人間よりも画像認識の精度が上回った。中でも宣伝効果が非常に高かったのが囲碁で、ディープマインドが開発したプログ
ラムがヨーロッパチャンピオンに勝利し、当時世界一のプロの騎士に対しても勝利したことで機械学習が再び注目を浴びるようになった。

深層学習とは深層学習とは簡単に言うと人工神経細胞に入力情報が入り、計算をして答えを出すプロセスが膨大な層にわたる学習回路網のことを指す。ニューロン間の結合の強さを変えるのに、微分することで学習させる確率勾配降下学習法（教師付き学習）を採用しており、パーセプトロンには実現できなかった学習法が実現可能になった。ニューロンの出力関数を微分することで出たエラーを用いて結合の重み変えることで学習させていく。
深層学習を研究する上での問題点は、パラメーター数を増やして与えられた例題数をパラメーター数が超えてしまうと、与えられていない例題に対して誤差がかえって大きくなってしまう点である。これはコンピューターの能力が向上したため、膨大な計算も可能になったことで例題数を超えてパラメータ数を大きくできることが原因である。パラメーターが多くなると関数空間でパラメーター自体は非線形であるが、学習の変化は線形に表される。また初期値をランダムに設定すると、少しその値を変えただけで最適解になるという利点もある。

人工知能と人間の倫理
人間が意識を獲得した理由は、弱い動物であり共同生活、社会生活を送る中で、自分の意思を相手に伝えなければならなかったからである。自由意志は脳から生まれるものであるが、脳が一度決めたことをさらに吟味して自分の決定の合理化行う一連の行動を意識と見ることができる。深層学習にはこの行動がなく、入力情報を受けて決定を下すだけであり、説明原理もなく、学習の結果はパラメーターによって決定されている。
心を持ったロボットを作ることはできるのかという課題もある。心は見方を変えれば不条理なものであるのだが、社会生活を送る人間が進化の過程上必要であるから獲得したものである。一方ロボットは人間が感情移入できるほどのものを制作可能であるが、ロボット自体が真に喜怒哀楽を持つことはなく、すべて計算上の合理的な行動になってしまう。その点で金融システムにおけるロボットは儲けても喜ぶことなくあくまで合理的な存在である。
「人工知能は安全なのか、暴走するのか」という質問に対しては、人間が使っているのだから暴走するに決まっていると考えている。というのも人間自体が暴走してしまうからだ。
人工知能の発展は止まることはない。理想は人間に代替して無駄な仕事をしなくてもよくなり、社会が回っていくことである。仕事がなくなった人への生活保障としてベーシックイ
ンカムが挙げられるが、それだけでは人間の家畜化を促してしまう。生を全うし、やりたいことをやるのかが人間であり今までもそうやって進化してきた。重要なのは、生きがいのある仕事を追求していくことであり、研究やスポーツ、芸術、物の製造など、自分のやりたいことができる社会が作れるかが問われている。
今の文明は危機に瀕しており、資本主義の中で格差が減っても戦争や紛争が起こる。民主主義がこれを合理的に制御できるかが問われている。人工知能を止めることはできないが、人間の知恵はそういうときのためにある。

Q&A
Q.人間の感情が想起されたときに体に影響が出るという話があったが、それが全て数理的に判断できるのかどうか。意識として処理してしまうのかどうか。
A.うれしい悲しいといった感情は体全体に及ぶ。脳の機能として体全体のシステムを数理的に表現することは難しい。因果関係や原理的な構造を把握することはできるが、理論としては成立しない。

Q.医療の診断は AI でできるか、最新の論文を臨床家がすべて把握することは限界があると思うが、現実に AI で対応できるのか。
A. 医療分野では人工知能は非常に有能、医者が専門知識をつける必要はない、AI そのまま信じるのではなくてそれを参考にして医者が自分の能力を十分に発揮して総合的に判断する。そんなシステムが普及していく。

Q.物質のない生命の在り方、脳の在り方についてどう思うのか。
A. 物質のない知能に関しては知能論理との原理は物質から離れて解明することができる。人工知能の実現には物質が必要にはなるが、人間の認識が抽象的な方が理解できる。

Q.人間はフィードバック結合をしているから多層はいらないという部分についての説明を聞きたい。
A.フィードバック結合に関しては原理的には層を展開していくのはほとんど同じものである。人工知能もフィードバック結合を入れるシステムを作っており、人間と同じ構造を目指している。実際にはフィードバックがなくても、または少ない段数でできるようにする。