Hessian-Free 法を用いた Echo State Network の構造探索
指導教授：藤吉弘亘

ER17059 濱地 優輝
1. はじめに
人間の脳には役割により機能する箇所が分かれていく機能分化と呼ばれる現象がある．一方，人工ニューラルネッ
トワークでも，Echo State Network (ESN)[1] を用いた機能分化の手法が提案されており，特定の時間または空間パターンに反応するニューロンを学習することが確認されている [2]．この手法では，Genetic Algorithm (GA) を用いて ESN の Reservoir 層のニューロンの構造と重みを探索する．探索の結果から Reservoir 層のニューロンの出力と正解ラベルから相互情報量を算出し，機能分化を確認している．しかし，GA による最適な重みの探索には膨大な時間が必要になる．そこで本研究では，Hessian-Free 法を用いたより効率的な探索方法を提案する．

2. 先行研究
ESN は，入力層，Reservoir 層，出力層の 3 層で構成され，出力層のみを学習する．入力層と Reservoir 層の重みは0 から 1 の間でランダムに決定する．Yamaguti ら [2] は，
図 1 のように Reservoir 層のニューロンを Input Neuronsと Output Neurons に分けた拘束条件付き ESN で空間・時間パターンの分類を行っている．出力層の学習後，GAを用いて Reservoir 層の構造と重みを探索する．その際の各ニューロンの相互情報量から，ネットワークの機能分化を確認している．しかし，全ニューロンの重みの組み合わせは膨大なため，GA による最適な構造と重みの両者を十分に探索することは困難である．
𝑠𝑝

𝑊𝑜𝑢𝑡

𝑊𝑖𝑛
入力層

STEP１

STEP２

出力層

Reservoir層

入力層

出力層
Reservoir層GAよる
構造探索後 入力層

Input Neurons Output Neurons

Input Neurons Output Neurons

Hessian-Free法
による重みの学習

GAの探索による
優れた構造

図 2. ESN の構造探索の流れ4. 実験概要

Reservoir 層の構造と重みの探索について，従来手法と提案手法の比較実験を行う．実験には Reservoir 層に 32 個のニューロンを持つ拘束条件付き ESN を用いて，cos 波の周波数と分割数を組み合わせたパターンの分類を行う．提案手法における Hessian-Free 法の学習回数は 20Epoch である．GA のパラメータは，個体数を 200，淘汰する数を180，世代数を従来手法で 500 世代，提案手法で 5 世代とする．GA による探索後，提案手法と従来手法で Reservoir層のニューロンと正解ラベルから相互情報量を求め機能分化を確認する．

5. 実験結果
表 1 に精度比較の結果を示す．表 1 より時間情報と空間情報の両方で提案手法の精度が高い．これにより，HessianFree 法を用いることで構造と重みの効率的な探索が可能である．
表 1. 従来手法と提案手法の比較精度 [%]

𝑡𝑝
𝑊𝑜𝑢𝑡

図 1. 拘束条件付き ESN のネットワーク構造

3. 提案手法
本研究では，ニューロンの重み最適化と ESN の構造探索を段階的に行う手法を提案する．全ニューロンの重みをHessian-Free 法による重みの最適化と，GA による Reservoir 層の構造を探索を繰り返すことで，効率的に探索することが可能となる．

3.1.Hessian-Free 法を用いた ESN の学習
Hessian-Free 法は，再帰型ニューラルネットワークの学習における勾配消失・爆発問題を解決しつつ，長期的なデータの特徴抽出が可能な学習法である [3]．Hessian-Free 法
はニューロンの重みの更新値が閾値以下の時は重みの探索を共役勾配法で行う．共役勾配法を用いた場合の重みの更新式を式 (1) に示す．
Wk+1 = Wk − Tk Mk(1)
ここで，Wk は現在の重みの集合であり，Wk+1 は更新後の更新後の重みの集合である．式 (1) の Tk は接ベクトル，Mk は共役勾配である．一方で，更新値が閾値以上の時は重みの探索をガウスニュートン法で行う．ガウスニュートン法を用いた場合の重みの更新式を式 (2) に示す．
Wk+1 = Wk − (∇FkT ∇Fk )−1 Fk ∇Fk(2)
ここで，式 (2) の Fk は誤差の値，∇Fk は勾配ベクトルである．

3.2.GA による構造の探索
Reservoir 層のニューロンの構造を決定するために，GAによる探索を行う．図 2 に提案手法による構造探索の流れを示す．まず，step1 にて，全ニューロンの重みを HessianFree 法で最適化する．step2 は，GA を用いて Reservoir

分類種類

従来手法

提案手法

空間情報

85.6

100.0

時間情報55.3

91.2

図 3(a) に従来手法, 図 3(b) に提案手法の時間と空間の相互情報量の結果を示す．図 3(a) から，空間，時間情報量の両者ともに高くなるように進化していることが分かる．
一方，提案手法では空間，時間情報のどちらかが高くなるように進化している．以上より，提案手法は，ニューロンの機能分化を誘発することが可能である．
0.70.7

input neurons
output neurons

0.60.5
0.4
0.3
0.2
0.1
0.00.0input neurons
output neurons

0.6

temporal information

Input
Output𝑊𝑟𝑒𝑠 Neurons
Neurons

出力層

STEP 3

temporal information

Reservoir層層のニューロンの接続構造を探索する．step3 では，GAによって生成される個体の精度が収束するまで，step1 とstep2 を繰り返す．図 2 のオレンジ色の矢印は探索により優れていると発見された構造を示す．

0.5
0.4
0.3
0.2
0.1

0.1

0.2

0.3

0.4

0.5

spatial information(a) 従来手法

0.6

0.7

0.00.00.1

図 3. 機能分化の結果

0.2

0.3

0.40.5spatial information

0.60.7(b) 提案手法

6. おわりに本研究では効率的に重みを決定する方法を提案し，少ない世代数で機能分化を誘発することが出来た．今後の予定
としては，探索後の Reservoir 層のニューロンが時間と空間パターンの情報をどのように処理しているのかについての分析，考察などが挙げられる．

参考文献[1] H. Jaeger, et al., “Harnessing Nonlinearity: Predicting Chaotic Systems and Saving Energy in WirelessCommunication”, Science，2004.
[2] Y. Yamaguti, et al., “Functional diﬀerentiations inevolutionary reservoir computing networks”, Chaos
2021.
[3] J. Martens, et al., “Learning recurrent neural networks with hessian-free optimization”, ICML, 2011.