近未来⾦融システム創造プログラム第 9 回講義レポート
第 9 回⽬となる本⽇は、東京⼤学名誉教授で理化学研究所脳科学総合研究センター栄誉研究員の⽢利俊⼀先⽣から「機械学習の発明」という題⽬で講義が⾏われた。⼈⼯知能がどこから⽣まれ、どのようにして今の形になってきたのか。⼈⼯知能の歴史と、それが社会に及ぼす影響、そしてわれわれ⼈間とどう違うのかについて、お話しいただいた。

⽣命の仕組み「⼈⼯知能は⼈間の脳を超えるのか?」という問いを議論するためには、⼈間の脳と⼈⼯知能の類似点・相違点について考えることが重要だ。
では脳はどのような仕組みになっていて、どうやってできたのか。
⼈間の脳を理解するためには、138 億年前のビックバンまで遡る必要がある。ビッグバンによって、突如として⾼密度の⾼エネルギーが⽣まれ、それが物理法則に従って発展してきた
結果、地球が⽣まれ、⽣命が⽣まれた。⽣命は物質でできているが、その中に物質を形作る情報も書き込まれている。そしてその情報を使って、⾃分と同じものを複製することができるが、複製を間違えることもある。その際、より強靭な⽣命体が誕⽣することがあり、これが⽣命の進化の法則である。
我々⼈類はこの流れの中で誕⽣し、外界の情報を受容・処理し⾃分の⾏動を指令する部分として、脳神経系を発展させてきた。脳は⾮常にたくさんの神経細胞が繋がったシステムとして機能している。それによって我々は、⼼や意識、知能を備えるに⾄り、合理的な⾏動をとるようになった。その帰結として作られたのが、社会・⽂明である。

⼈⼯知能の歴史
コンピューターの起源は、1936 年にイギリスの数学者であるアランチューリングが考案したチューリングマシンである。チューリングマシンは与えられた問題について、解を求めるアルゴリズムがない問題には解答できないものであった。その後、コンピューターは戦争に利⽤するために開発が進められ、第⼆次世界⼤戦後実⽤に供されるようになってきた。
第 1 次⼈⼯知能ブームと⾔われる 1950 年代には、コンピューターに⼈間と同じような知的な作業を⾏わせることができるのではないか、と考えられ始め、プログラムを与えてコンピューターに⾼速で実⾏させ、知能に似たような仕掛けを実現しようという動きが⽣まれた。
同じ頃、⼼理学者のローゼンブラットによって Perceptron というモデルが考案された。これは、⼈間が学習によって徐々に知能を獲得するように、コンピューター上で脳のようなモデルを作って学習させれば、⼈間が解答可能な問題を全て答えられるシステムが作れるのではないか、というものである。しかし、どちらの試みも当時の技術では実⽤には程遠く、廃れてしまうこととなった。
それから約 20 年後の 1970 年代には、トランジスタの誕⽣でコンピューターの性能が格段に上がっていたこともあり、第 2 次⼈⼯知能ブームが訪れた。この時期、専⾨家の知識を⼤量に蓄積し、コンピューター上に書き込まれた推論の規則に従って問題を解いていけば、知的な機能が⽣まれるのではないか、というエキスパートシステムが誕⽣した。実際にMYCIN という感染症を診断するプログラムが考案され、町医者程度の診断精度は再現できたものの、装置が⼤きすぎるなどの理由から実⽤には⾄らなかった。⼀⽅で、神経回路網を使ったモデルについても格段の進歩があったが、こちらもコンピューターの性能の限界に突き当たってしまい、実⽤に供するような知能は⽣み出せなかった。
2000 年代に⼊ると、コンピューターの処理機能の多層化により、データ処理速度が向上していたことなどを背景に、コンピューターの性能が格段に上がり、情報を蓄えるデータベースも改善された。こうした状況の中で、ヒントンによって⽣み出されたのが深層学習という考え⽅である。これが⽕付け役となり、2010 年代から現在まで続く第三次⼈⼯知能ブームが巻き起こった。⼈⼯知能は初め、囲碁や画像認識などの静的なパターン認識で⼈間を凌駕していったが、次いで動的な⾔語の学習・⽣成などについても、同じようにパターン認識を⾏えるようになり、現在は ChatGPT をはじめとする⽣成 AI が誕⽣している。

深層学習とは脳においてニューロン(神経細胞)は、ほかの 1000〜10000 ものニューロンから⼊⼒を受け取り、その情報を総合して計算して答えを出し、他のニューロンに伝えるという、⾮常に複雑な仕組みを持っている。深層学習においても、Perceptron という⼈⼯的なニューロンのモデルを⽤いて、ニューロンのつながりを数理モデル化した層状学習回路網に情報を⼊⼒し、それぞれの神経細胞で計算を繰り返して答えを出す仕組みとなっている。
⼀般的な深層学習には、確率勾配降下学習法が採⽤されている。ここでの学習は、正解の分かっている問題を層状学習回路網に⼊⼒し、正解に近づくようにニューロンに対する⼊⼒のパラメーター(重み)を調整していくことで⾏われる。
神経回路網で計算機械を学習で作る際には、様々な問題が⽣じる。１つは局所解の問題であり、局所解を得られたときにパラメータの修正が⽌まってしまう。ところが近年になって、神経回路網の学習可能なパラメーターの数を⼤きくすることによって、この問題を解決できることがわかってきた。
他にも汎化誤差の問題がある。パラメーターの数がある程度⼤きくなると、不必要なノイズが増えてしまう過学習の問題が発⽣し、汎化能⼒が下がってしまう。しかし、その域を超えてさらにパラメータを増やしていくと、汎化誤差が少なくなることが近年明らかになってきた。
深層学習についての理論は⼤変遅れており、局所解や汎化誤差の問題もまだまだ完全な解決を⾒ていない。ただ少しづつは進んできており、最近はニューラルタンジェントカーネル関連などの理論も話題になっている。

⼈⼯知能と⼈間
Libet の実験により、⼈間は脳が計算を⾏い、判断して指令を出してから、その判断内容を認知していることが明らかになった。つまり脳が判断を⾏い、意識はその判断が他の様々な情報と⽭盾しない合理的なものかどうかを考えるために利⽤される。⼈⼯知能にはこのような機能はない。
⼈間は⼼を持っていて、⼼で決断をくだす。当然、喜びすぎたり、悲しみすぎたりすることによって、合理的な判断を⾏えないこともある。⼀⽅、ロボットが悲しんで仕事をしなくなったら困るため、そういう意味でロボットが⼼を持つことはない。⼈間から⾒たときに、ロボットが⼼を持っているように⾒せかけることはできるかもしれないが、その際ロボットは、全て計算づくで⾃分の⼼を決めることになる。つまり⼈間のために喜ぶふりをしたり、悲しむふりをすることはできるが、それは全て、その⽅が良いという計算から導き出された結果である、ということである。
現在、⼈⼯知能は安全なのか、もっと制御していくべきなのか、議論がなされている。ヨーロッパを中⼼に、⼈⼯知能の暴⾛を制御しようという議論があるが、暴⾛するのは⼈⼯知能ではなく、⼈間である。⼈⼯知能を使って軍事に活⽤したり、よくない⾦儲けに悪⽤したりするのは⼈間であるため、いかに利⽤者に規制をかけるかが重要になってくるだろう。
⼈⼯知能の性能が将来格段に上がっていくと、⼈類の⽣産性も格段に上がるが、同時に⼈々の格差をより拡⼤してしまうかもしれない。対策としてベーシックインカムを導⼊する案があるが、それに⽢えてただ寝て暮らしているのでは、⼈間の家畜化が進んでしまう。必要なことは、⼈間に働く喜びを与えることである。各⼈が⾃由で、平等で、協調する社会を作っていくためには、⼈⼯知能の優れた⽣産⼒を使って何をすべきか、ということを真剣に考えていかなければならない。

Q&A
Q1
⼈間が思考をする際、エネルギー消費量は⾮常に少ない。⼀⽅で⼤規模⾔語モデルは、⼈間らしい回答を出せるようになっているが、CPU の計算にエネルギーがとてもかかる。その違いは何なのか？
A1
エネルギー効率だと、⼈間の脳はだいたい 25W である。⼀⽅で、コンピューターについて考えると、例えば理研の「富岳」は⼩都市の全世帯の電⼒に相当するような電⼒を使っている。要するに、コンピューターは電⼒がいくらかかっても、何もかもを計算するが、⼈間は脳をそこまで使わなくても良いため、エネルギー効率は桁違いである。その仕掛けが分かったらすごい。
電⼒の問題は今の技術では解消できていない。ニューロモルフィックシステムのような、ニューロンに似た動作をするシステムが完成しないと、電⼒問題は解決しないのかもしれない。
Q2
ChatGPT の性能に驚かれていらっしゃったが、⻑年研究されてきた先⽣にとって、⼤規模⾔語モデルは、どのあたりが驚愕したポイントだったのか？
A2
試しに、「素数とは何か」という質問を ChatGPT にしてみると、しっかりと答えが返ってきた。
「素数は何個あるのか」という質問をすると、それにもしっかりと答えが返ってくる。
ただその証明は正しくないものであったが、ChatGPT にはそのような豊富な知識がある。
素⼈では⼀⾒わからない、真実でない部分が含まれている可能性があることは怖いが、ChatGPT ⾃体は原理を理解していなくとも、それにまつわる性質や過去の歴史等の知識が⾮常に豊富である。
Q3
ロボットは⼼を持たないという話があったが、データをたくさん学習させることによって、ChatGPT もある程度⼼を理解できるようになるのではないかと思う。ChatGPT が⼈の⼼を数値化したり、カウンセラーの役割を果たしたりなど、⼈間以上に⼼を上⼿く扱えるようになる未来は訪れると思うか？
A3
可能だと思うが、それはロボットが⼼を持つということではない。様々な医療や⼼に関する知識をいっぱい持っていて、こういう場合にはこういった対症療法が必要という判断ができるようになれば、変な⼈間よりもよっぽど役に⽴つ様になるかもしれない。それが良いことなのか、恐ろしいことなのかについては、使う⼈間次第だと思う。
ChatGPT を鵜呑みにしたり、それに頼るような社会や⽂明を作っていくと、落とし⽳にはまるだろう。コンピューターの間違いは今後どんどん少なくなっていくだろうが、その後でChatGPT が総合的な⼈格を持てるのかどうかは疑問である。⼈間は進化の歴史で⼈格を作ってきて上⼿くいっているが、もちろん完全なわけではない。例えば ChatGPT が⼈格を持ったときに、それが悪⼈の⼈格だとしたら⾮常に困る。⼈⼯知能が知識を持っていて、⼈間がそれを利⽤することは⾮常に良いが、コンピューター⽂明を⼈間がどう制御していくのか、これは⼤きな問題だと思う。
Q3
・機械学習で情報を解析している中で、インプットやアウトプットが増えてきている。書式

やフォーマットが限定されている中で、新しいカテゴリーが出てきても対応できないのではないか、という懸念があるが、それについてはどうお考えか？
・⼀昔前までは、AI がチェスや将棋の名⼈に勝った、という話が話題の中⼼であったが、近年、急に ChatGPT などが驚愕するようなアウトプットを出すようになってきた。素⼈からすると、急にブレイクスルーを果たしたような印象を受けるが、それのきっかけとなった出来事や技術⾰新、背景は何なのか？
A3
新しいカテゴリーについては、初めから新しいカテゴリーが出た時にどう対処するのかという仕組みを仕込んでおけば、それなりに解決できると思う。AI はどんどん進化していくだろうし、今の単純な学習システムが万能ではない。
ブレイクスルーについては、深層学習が⼀番の基礎にある。それに強化学習や、DiffusionModel、トランスフォーマーモデル、Attention などが絡んでいる。これは⾃然な流れではあるが、計算⼒・電⼒・⼈⼒について、ものすごい物量作戦で為されてきた背景がある。⾮常に驚いているのは、⾃分たちすら気付かぬうちに、今まで想像もしなかったようなことが、可能になっているということである。つまりシステムが新たな仕組みを創発したのかもしれない。⼈間は後追いで、そのような仕組みがなぜ起こるのか解明しようとしているが、その解明は⾮常に遅れている。
Q4
学者の視点から⾒ると、⼈間が AI の暴⾛を防ぐことは本当に可能なのか。また、AI の暴⾛を防ぐために、どういう対策が必要なのか？
A4
AI の暴⾛を防ぐということは、AI を規制するのではなく、⼈間を制御することに尽きると思う。現在、⽣成 AI に関して様々な規制をかけようとしているが、それで⽣成 AI の活動が⽌まることはない。そうではなく、⼈間をどう制御するかに、問題が⼀番あるのだと思う。