1

リザバーコンピューティングの概念と最近の動向
Concept of Reservoir Computing and Its Recent Trends

田中剛平

リザバーコンピューティングは再帰的ニューラルネットワークの特殊なモデルを一般化した概念で，時系列情報処理に適した機械学習の枠組みの一つである．リザバーコンピューティングの最大の特長は，入力信号をリザバーで変換した後，読出し部のみを簡便なアルゴリズムで訓練することで，極めて高速な学習を可能にする点である．近年，リザバーコ
ンピューティングの応用範囲は急速に広がり，また物理的リザバーを利用した機械学習デバイスの開発も注目されている．本稿では，リザバーコンピューティングの概要と最近の動向を紹介する．
キーワード：機械学習，ニューラルネットワーク，時系列，力学系，人工知能デバイス

1．はじ

めに

また，「作り込まない」物理的実装が可能であることか
ら，新たな機械学習デバイスの開発につながると期待さ人工知能や機械学習による情報処理が欠かせない世のれている．そのため，リザバーコンピューティングは，中になりつつある．これまで人手を掛けて判断を行って機械学習やニューラルネットワークのコミュニティだけきた業務を，データのみを用いて自動的に行おうというではなく，エレクトロニクスを含む他の分野からも高い

動きはビジネスの世界でも活発で，データの収集が成功関心を集めている．の鍵になるとも言われている．こうしたトレンドを支え

本稿では，リザバーコンピューティングの成り立ちとる機械学習モデルの一つが，人工ニューラルネットワー概念を解説し，その応用例と最近の動向について紹介すクである．その中でも，画像認識をはじめとする多様なる．なお，詳しい内容については，リザバーコンピュー応用で高い性能を発揮するディープラーニング（深層学

ティングに関するレビュー論文 (1) (2)を参考にされたい．

習）が大きな注目を集めてきたが，これは階層的ニューラルネットワークを利用する．一方，再帰的ニューラルネットワークは，前の時刻のニューロンの状態が，他の2．リザバーコンピューティングの概念ニューロンにフィードバック入力されるような構造であ

リザバーコンピューティングの概念を説明するためり，時系列情報の機械学習に適している．リザバーコンに，簡単な例を考えてみよう．リザバー（Reservoir）

ピューティングはその特殊なモデルを基礎として発展しという単語には，液体を入れておく容器やため池，といてきた概念である．

う意味がある．文字どおり解釈すれば，液体やため池にリザバーコンピューティングは，近年様々な実データよる計算，ということになる．水面に石を投げ込むとしの時系列パターン認識に応用されてきている．その最大よう．すると，波紋のパターンが広がる．このパターンのメリットは，他の再帰的ニューラルネットワークモデは，入力である石の大きさや形によって変化するから，ルに比べて，学習が極めて高速であるという点である．

入力の情報を反映していると考えられる．では，複数の石を続けざまに投げ込むと，どうなるであろうか．図 1

田中剛平 東京大学大学院工学系研究科国際工学教育推進機構
E‑mail gouhei@sat t u‑tokyo ac jp
Gouhei TANAKA Nonmember (Graduate School of Engineering The Universityof Tokyo Tokyo 153‑8505 Japan)

電子情報通信学会誌

Vol 102 No 2 pp 108‑113 2019 年 2 月©電子情報通信学会 2019108に示すように，石が一つの場合よりも，はるかに複雑な波紋パターンが生み出されるであろう．このような波紋の動的パターンは，投げ込まれた複数の石の大きさや形，更にはそれらの投げ込まれる順番にも依存する．ま電子情報通信学会誌 Vol 102 No 2 2019

図1

リザバーコンピューティングの概念た，波紋同士の干渉も起こるから，入力の与え方に応じて，非常に多くの時空間パターンが生成される．つまり，リザバーは，系列入力を波紋の時空間パターンに変換する装置とみなすことができる．
例えば，複数の系列入力があり，それらを定性的に二図2つのクラスに分類したいとする．ただし，系列入力を見人工ニューラルネットワークの代表的な構造ただけでは，分類することが難しいとしよう．このとき，それぞれの系列入力に対する波紋パターンを観察することにより，二つのクラスに分類することが容易にな習の結果として構築されるモデルは同じになる．

るならば，リザバーによる情報変換が，系列パターンのこれに対して再帰モデルは，図 2(b)に示すように，分類に役立つことになる．このように，リザバーコンフィードバック結合を有するニューロン群から成る．こピューティングの狙いは，リザバーが生成する動的パこで，外部から時系列入力が与えられるとしよう．あるターンから，簡便なアルゴリズムを用いて系列入力の識ニューロンの状態は，現在の外部入力及び他のニューロ別を行うことである．リザバーには，「大量の情報の蓄ンからのフィードバック入力に応じて決まる．フィード積」という意味もあり，ここでは過去の入力の情報を蓄

バック入力は他のニューロンの前の時刻の状態であり，積する（埋め込む）役割を果たしているもの，と考える

これは過去の外部入力に依存するから，ニューロン状態ことができる．

は 外 部 入 力 情 報 の 履 歴 を 反 映 し て い る．す な わ ち，ニューロン群のダイナミックな活性パターンは，過去の3．リザバーコンピューティングの成り立ち
31

外部入力の記憶を持つ．したがって，時系列入力の前後関係を考慮したパターン認識を行うことができる．この階層的及び再帰的ニューラルネットワーク

ように，再帰的ネットワークは力学系を近似するのに適リザバーコンピューティングは再帰的ニューラルネッ

しており，時系列データの背後にある時間発展の法則をトワークに由来するので，その位置付けを明確にするた抽出するという目的に使える．この場合には，学習の結めに，まず階層的，再帰的ニューラルネットワークの違果として構築されるモデルは，データを与える順番に依いについて述べておこう．

存する．

図 2(a)に示すように，階層モデルは，互いに結合し端的に言えば，階層的ニューラルネットワークは静的ないニューロン群の層を複数持つ．入力信号は，ニューなデータ，再帰的ニューラルネットワークは動的なデーロンの入出力関数によって変換されながら，出力側に向タのパターン処理を行うのに適している．

かって一方向に伝えられる．誤差逆伝搬法等の学習アルゴリズムを使えば，サンプルデータから，入力と出力を32関連付ける未知の関数を近似することができる．この階1980 年代に，一般的な再帰的ニューラルネットワー

層構造には，過去の入力情報を記憶する仕組みがないか

クに対する学習アルゴリズムが提案された．代表的なもら，各サンプルデータは独立に処理される．したがっの は，Backpropagation Through Time（BPTT) (3) やて，サンプルデータを異なる順番で与えたとしても，学Real‑Time Recurrent Learning（RTRL) (4)である．図 3

リザバーコンピューティング小特集

1

リザバーコンピューティング

リザバーコンピューティングの概念と最近の動向

109よって非線形変換され，高次元の特徴空間に写像される．出力は，リザバーの動的状態の線形結合で与えられる．目標値と同じ出力が得られるように，この結合係数のみを線形回帰などの簡単なアルゴリズムを用いて学習する．入力を高次元空間に非線形変換で射影することにより，入力の線形分離を可能にするという考え方は，機械学習におけるカーネル法の発想と共通している．リザバーコンピューティングの研究では，実質的には ESNまたは LSM のいずれかを用いていることが多いので，それぞれの特徴を述べよう．
ESN では，リザバーは非線形活性化関数を持つ人工ニューロンの再帰的ネットワークによって構成される．
ネ ッ ト ワ ー ク は ス パ ー ス で ラ ン ダ ム な 構 造 を と る．
ニ ュ ー ロ ン 群 の 活 動 の 中 に，過 去 の 入 力 情 報を 反 響（Echo）させて，時系列入力のパターンを学習する．適切な学習を行うには，各時刻での入力の影響がリザバー内で時間とともに徐々に消失していくことが必要である．このような性質を，Echo state property (5) (10) と呼ぶ．高い計算性能を実現するには，再帰的ネットワークの結合重み行列のスペクトル半径を調整するなど，あらかじめ良いリザバーを設計しておくことが必要であり，そのための設計指針 (10) (11)を考慮することが望ましい．
LSM では，リザバー（リキッドとも呼ぶ）はスパイキングニューロンモデルの再帰的ネットワークによって構成される．スパイキングニューロンモデルは，ニュー図3

時系列情報処理モデルの比較

ロンのスパイク発火を忠実に再現する微分方程式モデルである．このモデルは，脳の皮質における時間依存情報のリアルタイム処理を動機として提案された．そのため，ESN よりも生物学的に妥当な仕組みを取り入れて(a)に示すように，ネットワークの出力と目標値の誤差いる．例えば，再帰的ネットワークの構造に関しては，を最小化するように，全ての結合荷重を勾配法によって空間的に近い位置のニューロンほど密な結合を持つとい修正していく．しかし，ネットワークサイズの増加ととう仮定を置くことが多い．LSM のリザバーは，Fadingもに，前者は学習時間が，後者は結合荷重を記憶するた

memory (12) (13)，すなわちリザバーの出力は有限の過去めのメモリが，爆発的に増大してしまうという問題がの入力のみに依存するという性質を持つことが望ましいあった．また，勾配爆発・消失の問題が生じて，学習アとされる．これは，ESN における Echo state property

ルゴリズムの収束性が悪くなることも問題であった．そに対応する性質である．のため，計算機が現在ほど高性能でなかった時代には，実際的な応用が余り進まなかった．
その後，2000 年代初めに，一部の結合荷重のみを学

4．リザバーコンピューティングの最近の動向習するモデルが独立に提案された．Jaeger によって提41案された Echo State Network（ESN) (5) (6)と，Maass らリザバーコンピューティングは，他の再帰的ニューラによって提案された Liquid State Machine（LSM) (7) (8)ルネットワークと同様に，様々な時系列データの学習にである．これらのモデルは，いずれも図 3(b)に示すよ応用することができる．図 4 に，時系列パターン認識のうな構造を持つ．固定した再帰的ニューラルネットワー

代表的なタスクを例示した．図 4(a)は，時系列生成タクを学習によって調整せずに，リザバーとして用いるこスクの例を示す．ここでは，入力は周波数で，目標は入とから，これらのモデルは統一的にリザバーコンピュー力で与えられる周波数を持つ正弦波を出力することであ(9)ティングと呼ばれるようになった ．

実問題への応用

る．学習期に四つの周波数を与え，対応する正弦波を出リザバーコンピューティングモデルは，リザバー部と力するように学習すると，検証期において未知の周波数リードアウト部から構成される．入力情報はリザバーにを入力しても対応する正弦波を正しく出力していること

110

電子情報通信学会誌 Vol 102 No 2 2019

表1

リザバーコンピューティングの応用例 (2)

カテゴリー

対象

生物・医療

EEG，fMRI，ECG，EMG，心拍，バイオマーカ，眼球運動，マンモグラム，肺画像

画像

手書き文字画像，動画像

音声

発話，音響，音楽，鳥の鳴き声

機械

車両，ロボット，センサ，モータ，圧縮器，制御器，アクチュエータ

工業

発電所，送電線，再生可能エネルギー，エンジン，燃料電池，バッテリー，ガスフロー，ディーゼル
油，炭鉱，油圧掘削機，ボイラ，穀物粉砕機，歩道橋，エアコン

通信

電波，電話，インターネット通信

環境

風 力・風 向，オ ゾ ン 濃 度，PM2 5，廃 水，降 雨，
地震

安全

暗号

経済・金融

株価，株価指数，為替

社会

言語，文法，構文，スマートフォンから，応用範囲も多岐にわたることが分かる．ほとんどが時系列データを対象としたもので，多くの応用は，先に述べた時系列生成，時系列分類，時系列予測のいずれかに帰着される．画像は静的なデータであるから，画像認識への応用は意外に思われるかもしれない．しかし，画像データをセグメントに分割して，画素のピクセル値から成る一次元の系列データに変換すれば，リザバーコンピューティングで扱うことができる (14) (15)．セグメン
トに分割する際に，局所的な画素の相関を残しておけば，そのような相関を学習することが可能となるだろう．リザバーコンピューティングの応用が急速に広まっているのは，学習に必要とする計算が簡単で，機械学習の専門家でなくても手軽に利用できるためだと考えられる．また，リザバーコンピューティングは高速な学習が可能であるので，センサ等で取得される時系列データの
図4

時系列パターン認識リアルタイム処理と相性が良い．
42

モデルの発展

リザバーコンピューティングの性能は，入力の情報表が分かる．図 4(b)は，時系列分類タスクの例を示す．

現，入力のスケーリング，リザバーの構造と大きさ，出振幅が一定で周波数の異なる正弦波，三角波，方形波を力の情報表現，リードアウトの学習アルゴリズムなどに多数生成し，一部を訓練データとして正しいラベルを出依存するが，これらの要素を最適に調整することは依然力するように学習する．すると，残りの検証データに対として簡単な問題ではない．タスクや扱うデータの種類しても，正しいラベルを出力させることが可能となる．

が変わったとき，どのように調整し直せばよいかもまだ

図 4(c)は，時系列予測タスクの例を示す．時系列デー十分に明らかではない．そのため，従来の ESN や LSMタの一部を訓練データとして使い，次の時刻の値を出力を基礎として，リザバーコンピューティングモデルを改するように学習する．すると，残りの検証データに対し良・発展させる研究も盛んに行われてきた．新しいモデても予測をすることが可能となる．

ルは，①複数のリザバーや適応的に変化するリザバーな

表 1 は，リザバーコンピューティングがこれまで応用ど新しい構造を用いるモデル，②リザバーコンピューされてきた対象を一覧にしたものである (2)．時系列デー

ティングと深層学習や強化学習を組み合わせたハイブ

タのパターン認識は広い分野で必要とされるものである

リッドモデル，③リードアウトの学習アルゴリズムを工

リザバーコンピューティング小特集

1

リザバーコンピューティングの概念と最近の動向

111

夫したモデル，④リザバーの構成要素を別の要素に置き有望である．リザバーを訓練するための仕組みが必要な換えたモデル，などに分類することができる．また，理いので，他の学習モデルよりも実装が容易で，物理現象論面においても，非線形力学系理論，情報理論，統計理をそのまま活用することが可能である．また，リザバー論などを用いて，リザバーのダイナミクスと全体の計算の構成要素を必ずしも均一に作製しなくてもよく，ナノ性能の間の関係を明らかにしようとする研究が活発に行

スケールの微細回路素子の製造ばらつきを利用して性能われている．

向上を図る試みも検討されている (18) (19)．本小特集では，幾つかの物理的リザバーの具体例を扱っているの43で，そちらも参照して頂きたい．

物理的実装

リザバーコンピューティングの物理的実装の研究も多くの注目を集めている．2．
で説明したように，リザバー

5．お わ り にの役割は，入力を非線形変換により高次元の特徴空間に射影することであるから，必ずしも再帰的ニューラル

本稿では，リザバーコンピューティングの概念と成りネットワークを用いる必要はない．他の非線形システム

立ちを説明し，最近の研究動向を紹介した．人工知能方や物理系を用いてもよい．非線形性を確認するには，リ面においては，リザバーコンピューティングは，時系列ザバーのダイナミクスを記述する数理モデルを作って，パターン処理を行うのに大変便利な枠組みであり，今後線形システムではない（重ね合わせの原理が成り立たなますます実用化に向けた発展とハードウェアデバイスのい）ことを確認すればよい．数理モデルを導出するのが開発が見込まれる．他方で，脳科学においても，文脈に困難な場合は，線形分離不可能な XOR（排他的論理和）依存した脳の情報処理原理はまだ十分明らかになってお問題などを解くことで非線形性を例証することができらず，リザバーコンピューティングの研究を通じて，そる．ま た，2 2 で 述 べ た よ う に，リ ザ バ ー は Fadingの理解が進む可能性もある．リザバーコンピューティンmemory（Echo state property）を持つことで高い計算グが，新たな情報処理の枠組みとして，電子情報通信分能力を発揮すると経験的に言われている．入力の情報を野を含む多くの分野に寄与することを期待する．

どれくらいの期間リザバー内に記憶できるかは，記憶容量（Memory capacity）を調べることで分かる (16)．ま謝辞

本稿の一部は JSPS 科研費 16K00326 の助成を受けたものです．

た，入力の情報を有限の時間だけ記憶するためには，（入力なしの）リザバーのダイナミクスがカオス的であっても，余りに速く平衡点に収束する漸近挙動であっ

文
()

()

()

()

()

()

()ても困る．したがって，リザバーの制御パラメータをカオスの縁（Edge of chaos）に設定することがよいとされる (17)．
表 2 に，これまでに提案されている物理的リザバーの分類を示す (2)．リザバーをハードウェアで実装することにより，計算機上のシミュレーションよりも，高速な演算が可能になると期待される．特に，電気・電子系，光学系，スピン系を用いたリザバーは，低消費電力で動作する，高速オンライン機械学習デバイスを実現するのに

表2

物理的リザバーの分類 (2)

カテゴリー

例

力学系モデル

遅延力学系，セルオートマトン，結合振動子系

電気・電子系

ASIC，FPGA，VLSI，ア ナ ロ グ 回 路，神 経 模
倣回路，メモリスタ回路

()

光学系

半導体光増幅器，光電子系，レーザキャビティ，光導波路

()

スピン系

スピントルク振動子，スピン波，スキルミオン

機械系

ばね質点系，テンセグリティロボット，ソフトロボット

生物系

脳部位，培養細胞

その他

ナノスケール材料，量子系

112

(10)
(11)

献

M. Lukoševič ius and H. Jaeger, “Reservoir computing approaches torecurrent neural network training,” Computer Science Review, vol. 3,
no. 3, pp. 127-149, 2009.
G. Tanaka, T. Yamane, B.J. Héroux, R. Nakane, N. Kanazawa, S.
Takeda, H. Numata, D. Nakano, and A. Hirose, “Recent advances inphysical reservoir computing : A review,” arXiv : 1808.04962, 2018.
P.J. Werbos, “Backpropagation through time : what it does and how todo it,” Proc. IEEE, vol. 78, no. 10, pp. 1550-1560, 1990.
R.J. Williams and D. Zipser, “A learning algorithm for continuallyrunning fully recurrent neural networks,” Neural Comput., vol. 1, no. 2,
pp. 270-280, 1989.
H. Jaeger, “The “echo state” approach to analyzing and training
recurrent neural networks-with an erratum note,” GMD TechnicalReport 148, German National Research Center for Information
Technology, 2001.
H. Jaeger and H. Haas, “Harnessing nonlinearity : Predicting chaotic
systems and saving energy in wireless communication,” Science, vol.
304, no. 5667, pp. 78-80, 2004.
W. Maass, T. Natschläger, and H. Markram “Real-time computing
without stable states : A new framework for neural computation basedon perturbations,” Neural Comput., vol. 14, no. 11, pp. 2531-2560,
2002.
W. Maass, “Liquid state machines : motivation, theory, and applications,” Neural Computation, Computability in context : computationand logic in the real world, pp. 275-296, World Scientific, 2011.
B. Schrauwen, D. Verstraeten, and J.V. Campenhout, “An overview ofreservoir computing : theory, applications and implementations,” Proc.
the 15 th European Symposium on Artificial Neural Networks, pp. 471482, 2007.
I.B. Yildiz, H. Jaeger, and S.J. Kiebel, “Re-visiting the echo stateproperty,” Neural Netw., vol. 35, pp. 1-9, Nov. 2012.
M. Lukoševič ius, “A practical guide to applying echo state networks,”

電子情報通信学会誌 Vol 102 No 2 2019

Neural Networks : Tricks of the trade, pp. 659-686, Springer, 2012.
(12) W. Maass, T. Natschläger, and H. Markram, “Fading memory andkernel properties of generic cortical microcircuit models,” Journal ofPhysiology-Paris, vol. 98, no. 4-6, pp. 315-330, 2004.
(13) S. Boyd and L.O. Chua, “Fading memory and the problem ofapproximating nonlinear operators with Volterra series,” IEEE Trans.
Circuits Syst., vol. 32, no. 11, pp. 1150-1161, 1985.
(14) A. Jalalvand, W. De Neve, R. Van de Walle, and J.-P. Martens,“Towards using reservoir computing networks for noise-robust image
recognition,” Proc. the 2016 International Joint Conference on NeuralNetworks, pp. 1666-1672, 2016.
(15) Z. Tong and G. Tanaka, “Reservoir computing with untrained
convolutional neural networks for image recognition,” Proc. the 2018
International Conference on Pattern Recognition, pp. 1289-1294, 2018.
(16) H. Jaeger, “Tutorial on training recurrent neural networks, covering
BPTT, RTRL, EKF and the echo state network approach,” GMD
Report 159, Fraunhofer Institute AIS, 2002.
(17) T. Natschläger, N. Bertschinger, and R. Legenstein, “At the edge ofchaos : Real-time computations and self-organized criticality inrecurrent neural networks,” Proc. NIPS, pp. 145-152, 2004.
(18) G. Tanaka, R. Nakane, T. Yamane, D. Nakano, S. Takeda, S.

(19)Nakagawa, and A. Hirose, “Exploiting heterogeneous units forreservoir computing with simple architecture,” Proc. International
Conference on Neural Information Processing, pp. 187-194, Springer
International Publishing, 2016.
G. Tanaka, R. Nakane, T. Yamane, S. Takeda, D. Nakano, S.
Nakagawa, and A. Hirose, “Waveform classification by memristive
reservoir computing,” Proc. International Conference on NeuralInformation Processing, pp. 457-465, Springer International Publishing, 2017.
（平成 30 年 8 月 27 日受付

平成 30 年 10 月 31 日最終受付）

田中 剛平
2000 東大・工・計数卒．2005 同大学院新領域創成科学研究科博士課程了．2013 から東大大学院工学系研究科特任准教授．複雑系動力学や省エネルギー情報処理の研究に従事．2016
IEEE Trans Nanotech Best Paper Award
2017 応用数理学会業績賞など各受賞．

㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇㍇

リザバーコンピューティング小特集

1

リザバーコンピューティングの概念と最近の動向

113