近未来金融システム創造プログラム第 9 回講義レポート
第 9 回講義は、帝京大学特任教授、理化学研究所脳科学総合研究センター栄誉研究員の甘利俊一様から「機械学習： 人工知能の歴史とこれから」という題目で講義が行われた。
常に最先端のテクノロ ジーを取り込み、拡大と多様化を果たしてきた金融はこれからどこへ向かって行くのか。
「金融と技術」を語る上では切り離せない、生命の発生から人工知能の開発に至るまでの流れと、人工知能が持つ未来について数理脳科学の見地から語っていただいた。

生命の仕組みと人工知能
人工知能や Deep Learning の進歩は、人間の脳の誕生とその進化に類似する点がある。人間の脳の起源を理解するためには、138 億年前のビックバンまで遡る必要がある。ビッグバ
ンは物質 やエネルギー、時間、空間などをもたらした。生命も物質の一種であるが、情報が組み込まれている点で他の物質とは異なる。この情報をもとにて自分と似た物質を複製し次世代につなぐ自己増殖を行っており、その過程で伝達される情報に「揺らぎ」が生じる可能性がある。その揺らぎの中で、たまたまより優れた生命が登場し、進化を遂げることがある。この偶然の積み重ねの中で、情報を処理するシステムである脳を持つ生命が登場した。
古典的な物理法則では説明不可能な「生命の法則」としての進化が生じたのだ。すなわち、生命は情報と物質の二つの基盤からなる神経細胞によって意識や思考を生み出したのだ。
その結果、生命に「心や意識」の要素が加わった人類と文明が誕生することになり、「文明の法則」としての文化が生まれた。

人工知能の歴史
コンピューターの起源は、1936 年にイギリスの数学者が数学モデルから万能性を有するコンピューターとして考案したチューリングマシンである。しかし、チューリングマシンは、答えのない問題には解答できないものであった。コンピューターは、当時は実現しなかったものの、戦争に利用するために熱心に開発されるようになった。コンピューターが製品として普及し始めた 50 年代には、単なる計算だけではなくチェスで人間を負かすような、より知的な推論を行える知能をコンピューター上で実現しようとする動きが出てきた。第 1 次
人工知能ブームである。この頃、コンピューターは、シンボルを軸として記号と論理のみでプログラムさえ与えれば全て解決すると考えられていた。一方で視覚や脳の機能をモデル化し、機械に学習させるというパーセプトロンという考えも広まった。人工神経細胞を並べて、その結合を少しずつ変化させることで機械に学習させることができれば万能な機械ができると理論上考えられていた。しかし、どちらも当時の技術力では実現することができず、60 年代後半から 70 年代にかけて AI の暗黒期が訪れる。
1970 年代からの第 2 次人工知能ブームは、専門家のように大量の知識を蓄えて推論を行う、エキスパートシステムを作ろうという流れから始まった。エキスパートシステムは、ソフトウェア開発者が設定した定型の手続きに従うものではなく、弁護士や医者などの専門家のように大量に知識を蓄えた知識ベースとインプットされた推論実行ルールによって、推論による複雑な問題の解決を試みた。実際に、医者が行う診断を機械で再現したが、町医者以上の精度は再現出来たものの専門家の域には達さず、その有効性に対してコストが高かったために実用化には至らなかった。この後も神経回路モデルが用いられるなどの動きはあったが、やはり技術が足りず、ブームは沈静化した。
2010 年からの第 3 次人工知能ブームの火付け役になったのが深層学習（Deep learning）だ。コンピューターの処理機能が多層化され、データ処理速度が十分に向上したことで、神経回路モデルを用いた深層学習などが実現された。2010 年代にはコンピューターの画像認識精度が人間の精度を上回り、音声認識などの他の認識分野でも人間の処理速度を上回った。加えて、2016 年には 1 年足らずで開発された AlphaGo が囲碁で韓国のイ・セドル九段を４勝１敗で破るという事件もあった。また、記号の分野でも、コンピューターは言語の翻訳という例外的な要素が多く長年上手くいかなかったことが可能になった。ニューロンは本来アナログな情報を持つ細胞であり、元はそれをデジタルで表現しようとしていた。しかし、ニューロンの情報をアナログで再現することで上手く再現された。これらのことから機械学習が再び注目を浴びるようになった。有限な層状にニューロンを連ねた層状学習回路網を使用すれば、あらゆることができると考えられた。

深層学習とは
深層学習は、パーセプトロンという人工的なニューロンのモデルを用いて、神経細胞（ニューロン）のつながりを数理モデル化した層状学習回路網に情報を入力し、それぞれの神経細胞で計算を繰り返して答えを出す仕組みとなっている。一般的な深層学習には、学習データをシャッフルした上でそれらの中からランダムに 1 つを取り出し、誤差を計測してパラメータの更新を行う、確率勾配降下学習法が採用されている。この方法は、コンピューターというデジタルの領域で、アナログのシステムを用いたことにより実現された。
ここでいう「学習」とは、正解の分かっている問題を層状学習回路網に入れ、正解になるようにニューロンのパラメータ（重み）を調節していくことを指す。既に分かっている正解を目標値とした場合、ある数値をパラメータとして入力した時に生じる出力値と目標値との差を誤差とする。この誤差を最小なるようにパラメータを修正していくことが「学習」である。
このように、パラメータを変化させることで、コンピューターの性能はあがっていく。しかし、そこには 2 つの問題点があった。1 つは、局所解を得られたときにパラメータの修正が止まってしまい、同時にコンピューターの性能向上が止まってしまうことである。しかし、パラメータ数を大きく増やすことでこの問題は解決された。現在、パラメータは１億個以上も用いられる。そこに、2 つ目の問題点がある。大量のパラメータの中には、無駄なパラメータもあり、そのパラメータがある程度増えるとノイズが増え、返って性能が悪化すると考えられていた。しかし、その域を超えてさらにパラメータを増やしていくと、ノイズがなくなり、より精度の高いコンピューターが実現されることが近年明らかになった。また、最近は、パラメータを関数の空間で考えることにより、明らかになったことがある。異なる値をとっているように見えるパラメータも、関数空間の視点から見ると、値の差は極めて小さいことがある。そのため、パラメータをランダムに取っても、出力値が正解の値の値に近似していることがよくあることがわかってきた。

人工知能と人間（心と意識）

近年のコンピューターは、まるで心を持っているかのような文章のやり取りを人間と行うことができるほどに進歩してきている。人間は自由意志で何かを判断し、脳がそれに合わせて働くように思われているが、実際には、脳が判断して指令を出してから、人間はその判断内容を認知しているということが、Libet の実験により明らかになった。つまり、意識は自分の脳の判断を合理化するために使用される。一方で、人工知能にはこのような機能はない。これが、人工知能の抱える課題である。また、日本は超大国ではないため、物量作戦で他国の AI 開発に対抗することはできない。そのため、意識と心の役割や記憶の機能を取り入れるなど、理論やアイデアによって AI の開発を進める必要がある。
心を持ったロボットは作れるか。ロボットが人の心の動きを理解することや、心を持っているかのように見せかけることは可能であるが、心を持つことは不可能である。人間の心は、人間の進化の産物である。心を持ったことで、人間に意識が生じ、意図を理解する機能を持ち、感情により駆動されるようになったが、心は時に不合理なものである。一方で、ロボットは極めて合理的な存在である。人間が悲しんだ際に、悲しんでいることを理解し、共感しているように見せることは可能であるが、ロボット自身が真に悲しむことはない。
人工知能の倫理に関しては、人工知能が悪用されることはあり得る。AI が支配の道具として活用され、格差を生むこともある。これを人間がいかに食い止めることが大切である。
また、社会への影響としては、失業問題は必ず起こる。ベーシックインカムの制度に甘えて活動しなくなってしまえば、人間の家畜化現象が進み得る。そのため、苦しい仕事は人工知能にやってもらい、人間はより人間らしく楽しんでできる仕事を見つけるべきだ。AI の革新に合わせて、未来社会を設計し、人工知能を活用しながら共存していくための文明を考える必要がある。

Ｑ＆Ａ

Q1. 心とはそもそも何か。また、人工知能が進歩する中で、人間はどのような存在になるか。
人間は合理的に判断することは不可能であり、心の特徴は強力な合理性のみで動くことはできないことにある。そのため人間は不合理性をも受け入れ、人間らしく生きていくしかない。そもそも、効率性だけで考えれば人間はいない方が良いのかもしれない。しかし、人工知能が進化したからといって、人間を排除しようと考えることはないと考える。不合理な生物としての歴史的な宿命は、自分たちで考えていくしかない。
Q2. 人間は文脈を無視して新たなものを提示することがあるが、AI には不連続的な発想はない。このように、人間を人間たらしめるものとは何か。また、シンギュラリティは起こるか。
人間は長く休み続けることが難しい、何かしら活動をしていたい生物である。重労働をやりたいというわけではないが、重労働によって克服できる成果があるなら人間はやる。その達成感をもたらすのは、好奇心や向上心などといった心の働きだ。これは、進化の過程でもたらされた人間の特徴である。
また、人工知能が人間を総合的に超えることは、現時点では考えられない。もちろん、計算機能など個々の側面では人間に勝るが、人間が進化の過程で身につけてきた好奇心や向上心、モチベーション、感動や共感が人工知能にはない。人間も A I も同じ物質である以上、心の誕生が人間だけに特別に起こる進化とは言い切れないが、私の見解では、シンギュラリティは起こらない。
Q3. 人間の脳を再現する人工知能と心を理解する心理学とのか関わりとは何か。心における、感情と感覚の違い。
心理学では、発現した人間の行動から、脳の動きを推し量ることで、客観的な分析をしている。しかし、行動心理学は一番重要な心を直接的な研究対象とはしていない点に問題があり、それを克服する学問として認知科学が登場した。認知科学は心としての知能を研究対象としたため、人工知能の研究と共通する部分もあった。人間は、論理的思考を使える生き物であるが、常に論理を使っているわけではない。論理を使わないからこそ即座の判断が可能になる。コンピューターと人間が対話して、第 3 者から見て見分けられなければ、コンピューターに心があることになるとチューリングテストでは言われていた。しかし、これは間違っている。コンピューターが心や意識を持つか解明するには、心の機能が進化の歴史においてどのような役割を果たしてきたのかを知る必要がある。心は無駄な役割を持つこともあるが、それも必然であるのかもしれない。そのため、人工知能は心や意識を持つ必要がないかもしれないが、人間には心が何故必要であるのかを解明することも重要な問題になってくる。