非線形問題研究専門委員会

複雑コミュニケーションサイエンス研究専門委員会

リザバーコンピューティング
田中剛平（名古屋工業大学）
gtanaka@nitech.ac.jp
1．リザバーコンピューティングとはリザバーコンピューティングとは，リザバー（Reservoir）を利用する計算のことである（1）,（2）．リザバーという用語は，日常的には貯水池や液体をためるタンクを指すものとして使われるが，大量の情報・知識の蓄積という抽象的な意味も持つ．貯水池を想像すると分かりやすい．水面に物体を連続して投入すると，複雑な波紋のパターンが広がる（図 1）．このように，一連の入力，すなわち時系列入力をリザバーに与えると，リザバーはそれに応じて時間とともに変化する動的な応答を示す．こうした波紋パターンの時間変化は，時系列入力を構成する各入力の大きさだけでなく，その前後関係にも依存して決まるので，時系列入力の情報が蓄積されたものと考えることができる．すなわち，時系列入力はリザバーの動的な波紋パターンに情報変換される．このリザバーの状態変化から入力情報の特徴を取り出すことで，時系列データのパターン認識が可能となる（2）．
時系列データを対象とする機械学習処理の多くは，時系列予測・時系列分類・時系列異常検知・時系列生成などの基本的なタスクに帰着される．これらを総称して時系列パターン認識と呼ぶ．タスクを解くには，リザバーの状態変化から入力情報の特徴を取り出して所望の出力へと写像する適切な読出し（リードアウト）機構が必要である．通常はリザバー状態の加重和（線形和）で出力が与えられると仮定し，所望の出力が得られるように，その重みパラメータを線形回帰などの簡便な学習則を用いて最適化する．実践的なタスクのほとんどは線形分離不可能な問題であるため，リードアウトの変換が上記のように線形の場合には，リザバーによる入力の変換は非線形である必要がある．

図 1 リザバーの一例
水におはじきを投入していくと複雑な波紋が広がる．波紋は入力情報を蓄積したものとみなせる．

本会ハンドブック「知識の森」
https://www.ieice-hbkb.org/portal/doc_index.html

知識の森

リザバーコンピューティング

以上をまとめると，リザバーコンピューティングは，固定されたリザバーと学習可能なリードアウトを用いて，動的システムを近似的に表現する計算の枠組みであると言える（1）．
リザバーコンピューティングモデル／システムを開発する上での目標は，適切なリザバーを設計し，訓練用の時系列データを用いて最適なリードアウトを定めることにより，それが未知の時系列データに対しても適切な出力を与えるように汎化性能を高めることである．

2．ニューラルネットワークによる実装

リザバーコンピューティングは，リカレントニューラルネットワークの特殊な学習手法が一般化されてできた枠組みである（3）．リザバーに相当するのは，事前に設定された固定
重 み の リ カ レ ン ト ニ ュ ー ラ ル ネ ッ ト ワ ー ク で あ る（図 2（a））．代表的なモデルとして，人工ニューロンで構成されるエコーステートネットワーク（4）や，スパイキングニューロンで構成されるリキッドステートマシン（5）が知られている．
リザバーは固定しておき，リードアウトのみを簡便な学習則で最適化するという方針により，モデルのパラメータ全てを勾配法に基づいて最適化する深層学習モデルと比べて，学習計算量を大幅に削減することができる．すなわち，高速学習が可能となる．その反面，特に難しいタスクにおいては，深層学習に匹敵する高い認識率を実現することは容易ではな
い．リザバーコンピューティングが性能面で深層学習にどこまで迫れるかは，タスクの難易度にも依存するが，まだ十分明らかにはなっていない．高性能を達成するには，タスクに適合する良いリザバーを用意しておく必要がある．
リザバーの性質を左右するのは，①リザバーの中で次第に減衰していく過去の入力の記憶の長さ，②リザバーによる変換の非線形性の強さ，③リザバーの大きさ，などの要素である．これらの性質が計算性能に与える影響は互いに独立ではなく，また扱う時系列データやタスクによってリザバーが備えるべき性質は異なるため，その調整は一筋縄ではいかな
い．リザバーの設計に関する指針（6）はあるが，試行錯誤が必要となることが多い．
近年，標準的なリザバーコンピューティングモデルを拡張することにより，様々な発展的モデルが提案されており，新たな学習手法の開発や計算理論的解析も進展している（7）,（8）．
例えば，複数のリザバーを用いるディープリザバーコン
ピューティングモデルの提案（9），大規模カオス力学系の時空間パターンの再現（10），ニューロンの特性ばらつきを活用したマルチスケールモデリング（11）などの研究がある．リザ© 電子情報通信学会 2023521

図2

リザバーの設計例

学習するのはリザバーから出力への重みパラメータのみ．

バーコンピューティングの特長は高速学習計算であるから，計算量と計算性能のトレードオフを考慮しつつ，効果的な発展的モデルの開発が行われている．

3．物理系によるハードウェア実装

深層学習の普及を受けて，その学習計算を高速化するための特定用途向け集積回路（ASIC）が開発されている．それに対して，リザバーコンピューティングでは，リザバーを適応的に調整する必要がないので，そのハードウェア実装には多様な材料・媒質・物理系を利用できる（12）,（7）．それらは，時系列入力を高次元の動的現象に非線形変換するというリザバーの役割を果たすものであればよく，実際にバケツの水を利用して線形分離不可能な分類タスクを解いた例が報告されている（13）．ほかにも，時間遅れ系，セルオートマトン，結合振動子系などの非線形力学系や，電気・電子，光，スピン，微小機械，化学物質，ナノ粒子，ソフトマテリアル，培養細胞などに基づく様々な物理系が利用できる．このような物理リザバーコンピューティングは，各物理系の反応特性を利用した作り込みの少ないハードウェア実装を可能とし，将来の人工知能デバイス実現の基礎原理として有用だと考えられる．ニューロモルフィックコンピューティングの一つとしても注目されている（14）．リードアウトは学習則に基づいて適応的に変化させて書き換える必要があるため，FPGA などの集積回路で実装されることが多い．
物理リザバーの実用化に向けて，実装の効率化は課題の一つである．ニューラルネットワークのようなネットワーク型の構造では，スケールアップすると配線数が爆発的に増加する可能性がある（図 2（a））．そこで，遅延フィードバック型（15）や連続媒質型（16）などの新たな実装方式も考案されている（図 2（b），（c））．物理リザバーの利用に伴う信号処理も計算性能に影響を与え得るので，信号の解像度，サンプリング精度，機器の物理的制約，雑音や環境変化なども考慮すべき要素である．また，信号の符号化／復号や前処理／後処理に依存して，計算性能は変わり得る．したがって，物理系の反応特性にふさわしい信号処理手法を見いだすことが，効果的なハードウェアの実現につながる．今後の課題として，物理リザバーの設計原理の確立，各物理リザバーの計算性能・実装効率の評価，他の人工知能デバイスとの比較，などが挙げられる．

4．実応用への展望

リザバーコンピューティングの特長は高速学習であるから，例えば端末やセンサから取得される時系列データのリアルタイム情報処理に適していると考えられる．つまり，計算資源や消費電力が制約される状況下でも機能するエッジ計算

522用の人工知能システム／デバイスの基礎原理として有望である．将来的には，リザバーコンピューティングチップとセンサの一体化により，IoT 社会を支える情報処理システムの実現が期待される．
文献（１） 田中剛平，中根了昌，廣瀬 明，リザバーコンピューティン
グ：時系列パターン認識のための高速機械学習の理論とハードウェア，森北出版，2021．
（２） 田中剛平，"リザバーコンピューティングの概念と最近の動向，"信学誌，vol. 102, no. 2, pp. 108-113, Feb. 2019.
（３） M. Lukoševičius and H. Jaeger,"Reservoir computing approaches torecurrent neural network training,"Computer Science Review, vol. 3,no. 3, pp. 127-149, 2009.
（４） H. Jaeger,"The"echo state"approach to analyzing and training recurrent neural networks-with an erratum note,"GMD Technical Report
148, 2001.
（５） W. Maass, T. Natschläger, and H. Markram"Real-time computing
without stable states : A new framework for neural computation basedon perturbations,"Neural Comput., vol. 14, no. 11, pp. 2531-2560,2002.
（６） M. Lukoševičius,"A practical guide to applying echo state networks,"
Neural Networks : Tricks of the Trade : Second Edition, pp. 659-686,2012.
（７） Reservoir computing, Springer Singapore, K. Nakajima and I. Fischer,Ed., 2021.
（８） G. Tanaka, C. Gallicchio, A. Micheli, J.-P. Ortega, and A. Hirose,"Guest editorial : special issue on new frontiers in extremely efficient
reservoir computing,"IEEE Trans. Neural Netw. Learn. Syst., vol. 33,
no. 6, pp. 2571-2574, 2022.
（９） C. Gallicchio, A. Micheli, and L. Pedrelli,"Deep reservoir computing: A critical experimental analysis,"Neurocomputing, vol. 268, pp. 8799, 2017.
（10） J. Pathak, B. Hunt, M. Girvan, Z. Lu, and E. Ott,"Model-free prediction of large spatiotemporally chaotic systems from data : A reservoir
computing approach,"Phys. Rev. Lett., vol. 120, no. 2, 024102, 2018.
（11） G. Tanaka, T. Matsumori, H. Yoshida, and K. Aihara,"Reservoir computing with diverse timescales for prediction of multiscale dynamics,"
Phys. Rev. Res., vol. 4, L032014, 2022.
（12） G. Tanaka, T. Yamane, J.B. Héroux, R. Nakane, N. Kanazawa, S.
Takeda, H. Numata, D. Nakano, and A. Hirose,"Recent advances inphysical reservoir computing : A review,"Neural Netw., vol. 115, pp.
100-123, 2019.
（13） C. Fernando and S. Sojakka,"Pattern recognition in a bucket,"Proc.
Advances in Artificial Life : 7th European Conference, ECAL, pp.
588-597, 2003.
（14） D.V. Christensen, et al.,"2022 Roadmap on neuromorphic computing
and engineering,"Neuromorph. Comput. Eng., vol. 2, 022501, 2022.
（15） L. Appeltant, M.C. Soriano, G. Van der Sande, J. Danckaert, S. Massar, J. Dambre, B. Schrauwen, C.R. Mirasso, and I. Fischer,"Information processing using a single dynamical node as complex system,"Nat. Commun., vol. 2, no. 1, 468, 2011.
（16） R. Nakane, G. Tanaka, and A. Hirose,"Reservoir computing with spinwaves excited in a garnet film,"IEEE Access, vol. 6, pp. 4462-4469,
2018.
（2023 年 2 月 28 日受付）

電子情報通信学会誌 Vol 106 No 6 2023