（様式 20）成果報告書

TSUBAME 共同利用 令和３年度 学術利用 成果報告書

利用課題名 動的均衡にある神経回路の機械学習とその場の理論的解析
英文：Machine learning in neural networks on a dynamical balance

and its field-theoretic analysis
利用課題責任者 早川 隆
Takashi Hayakawa
所属 日本大学 医学部 生体機能医学系 薬理学分野
Department of Pharmacology, School of Medicine, Nihon University
https://nu-pharmacology.com
本課題では科研費研究課題「場の理論にもとづく動的均衡にあるレザボワ計算神経回路の設計」の一環として、動物脳にみられる動的均衡という性質を持った人工神経回路のレザボワ計算と呼ばれる学習問題における性能を、数値実験と理論解析を併用し調べた。研究代表者の開発した統計力学理論により、学習時にどのような入力に対してどのような応答・情報の読み出しがどのような確率で得られるのかを見積もることができていた。そこでこの結果をもとに従来のレザボワ計算の問題点を改善する手法を提案し、TSUBAME の計算環境を活用した大規模数値シミュレーションにて学習性能が向上することを示した。本研究はリカレント神経回路のこれまで利用されてこなかった動的な性質を機械学習に応用する試みであり、上記の結果がリカレント人工神経回路を用いた人工知能の性能を質的に向上させる手がかりとなることが期待される。
In the present study, we investigated reservoir computing with artificial neural networks whose
excitatory and inhibitory recurrent feedbacks are dynamically balanced in a similar manner to those ofanimal brain circuits. This investigation was supported by JSPS KAKENHI Grant No. JP19K20359.
Using a statistical mechanical theory that we developed in the previous fiscal year, we probabilisticallydescribed the readout from the dynamically balanced neural networks in learning. Based on thistheoretical result, we designed a learning algorithm that potentially resolves a few bottlenecks inconventional reservoir computing. With large-scale numerical simulations of learning enabled by thecomputing environment in TSUBAME, we confirmed that the algorithm improves learning
performance. The success in taking advantage of dynamical properties of recurrent neural networks inmachine learning might lead us to obtain a clue to a better design of artificial intelligence based onrecurrent neural networks.

Keywords: recurrent neural networks, GPU computing, machine learning, reservoir computing,mean-field theory
背景と目的に記憶することができると考えられ、実応用で一定の成この TSUBAME 共同利用課題は研究代表者の科功例が知られていたが、依然として扱う際の技術的難

研費課題「場の理論にもとづく動的均衡にあるレザボ易度が高いことが指摘されており、どのような条件であワ計算神経回路の設計」の遂行を目的としたものであれば学習がうまくいくのか、理論的な解明が求められてる。研究の背景は科研費実績報告書に記載した内容ときた。

重複するものであり、これを以下に引用する。(引用開そのような中、ランダム結合を持つリカレント神経回始）近年、人工的な神経回路を用いた情報処理技術が路については統計力学理論を用いてそのふるまいを記

社会に大きな影響を与えている。特に、入力層から出述する方法が古くから知られていた。これらのランダム力層への処理の流れが明確に決まっているフィードフ結合神経回路を実問題における学習に用いた場合もォワード回路は画像認識や言語処理などで高性能を発そこそこの性能を示すことが注目され、リカレント神経揮しており、そのふるまいの理論的な解明も徐々に進回路のふるまいを理解するためのモデルケースとしてんできている。一方、自身の出力が次の時刻での入力さかんに研究されていた[1-3]。このようなランダム結合になるリカレント神経回路を用いると過去の情報を内部

神経回路を実問題に用いる方法は「レザボワ計算」と（様式 20）成果報告書呼ばれる。一方、統計力学理論が適用可能な神経回

概要路と一般のリカレント神経回路には依然として隔たりが上記の背景と目的をふまえ、令和２年度までの研究あり、その中間的なケースについても理論を構築したい

で、研究代表者は動的均衡にある神経回路に外部かという要請があった。

ら入力があった場合に、神経回路がどのように応答し、そのような中、研究代表者は神経回路の結合が完その結果どのような出力が読み出されるかを表す、（線全にランダムではなく構造を持っている場合についての形）応答理論を構築していた。またその結果に基づき、新しいタイプの理論を世界に先駆けて構築したところで動的均衡にある神経回路を用いてレザボワ計算の学あった[4]。特に、哺乳類脳に見られるように正の結合習性能を向上させるアルゴリズムが設計できたため、を作るニューロン集団と負の結合を作るニューロン集団

課題学習の数値シミュレーターのプロトタイプを作成しが分離しているようなケースで[図 1(a)]、回路全体の正ていた。数値シミュレーターの実行や、線形応答理論にの入力と負の入力が動的な均衡を保つような特定の条もとづく数値解析の実行には大きな計算量が必要とさ件を満たすと、個々のニューロン活動と回路全体の集れたため、令和３年度はこの計算を TSUBAME 上で団活動が相互作用しながらパターンを形成することが複数 CPU と GPU アクセラレーターを活用して行うこと示された[図 1(b)]。とりわけ、コヒーレント状態・カオスとした。

的振動・非自明な静止状態など完全にランダム結合の神経回路では見られないような多様な挙動を示すよう結果および考察になり、その様子が拡張された統計力学理論を用いてTSUBAME 上で動的均衡にある神経回路の学習記述できることを示せていた[図 1(a)]。そこで、この研を数値シミュレートするプログラムコードを開発し、従究代表者自身の理論を用いてレザボワ計算の枠組み来のランダム結合神経回路に内在する問題点であを拡張することを科研費研究課題として策定した。（引る初期値依存性や時間的な記憶減衰の問題に取り用終了）

組んだ。TSUBAME の GPU アクセラレーターを活用することにより、計算性能の大幅な向上を得た。

（様式 20）成果報告書
まず、数値計算と線形応答理論を組み合わせた解析によりマクロ・ミクロのリアプノフ指数の上界を見積もったところ、動的な均衡にある神経回路ではミクロな個別ニューロン活動のレベルではカオス的であるにも関わらずマクロな集団活動のレベルでは非カオスとみなせる場合があるという観察結果を得た。また、この上界は同じパラメータ値を持つ神経回路でも神経結合の詳細な実現値によって変化することが示せた。そこで、事前にこのリアプノフ指数がなるべく小さくなる回路を選んで学習をさせる数値シミュレーションプログラムを開発したところ、マクロな安定性を利用して学習結果の初期状態への依存性を減らせることが確認できた。
次に入力が時間的にスパースにしか与えられず、離れた時間の間の関連を学習する課題にも取り組んだ。この場合、動的な均衡にある神経回路は、前述の集団活動のリアプノフ指数がほぼゼロになるよ
うに回路結合をあらかじめ事前学習すると性能が向上することを見出した。
最後に、動的均衡にあるランダム結合神経回路の活動がガウス過程を非線形変換したものとして表されることとガウス過程の学習理論[5]をもとに、汎化誤差を抑えるための正則化入りの確率的勾配法を設計した。これによってノイズ下で有限サンプルから統計的に学習をする場合に、学習性能が向上することが数値計算によって確かめられた。
まとめ、今後の課題以上に述べたように動的均衡により定性的に異なるタイプの集団活動と個別活動のパターンが形成され、そのことが学習に貢献することが確かめられた。
科研費研究課題の補助期間は終了したが、これらの観察事実を追加の数値シミュレーションや理論解析により強固に基礎付けし、論文発表を行う予定である。これによって、リカレント神経回路の学習、ひいては人工知能の性能を質的に向上させる手がかりが与えられたと考える。
参考文献[1]W.Maass et al., Neural Computation, 2002
[2]H.Jaeger & H.Haas, Science, 2004

[3]M.Lukosevicius et al., KI-Künstliche Intelligenz, 2012[4]T.Hayakawa & T.Fukai, Phys.Rev.Res., 2020
[5]L.L.Gratiet & J.Garnier, Machine Learning, 2015