リザバーコンピューティングの概要とその応用例

こんにちは。スキルアップAI編集部です。

リザバーコンピューティングとは、リカレントニューラルネットワークの特殊なモデルを一般化した概念で、時系列情報処理に適した機械学習の枠組みのひとつです。リザバーコンピューティングの最大の特徴は、他のリカレントニューラルネットワークモデルに比べて、学習が極めて高速であるという点です。現在、時系列パターン認識への応用が期待されるとともに、エネルギー効率が高い機械学習デバイスを実現するための基礎技術としても注目されています。
本記事では、リザバーコンピューティングの概要とその応用例についてご紹介します。

<目次>
1.リザバーコンピューティング
2.エコーステートネットワーク
3.物理的実装
4.おわりに
5.参考文献

# 1.リザバーコンピューティング
リザバーコンピューティングは一般的に入力層、リザバー、出力層から構成されます。まずはリザバーコンピューティングの概念を理解するために、簡単な例を考えてみます。
リザバー（Reservoir）という単語には、貯水池という意味があります。いま、水面に石を投げ込むとします。すると、水面に波紋が生じます。その波紋は石の大きさや形、スピードによって変化します。つまり、この波紋は投げた石の情報を反映していると考えることができます。
では、複数の石を次々と投げるとどうなるでしょうか。今度は石が1つの場合よりもはるかに複雑な波紋が生まれます。このような波紋の動的パターンは、投げ込まれた複数の石の大きさや形、さらにはそれらの投げ込まれた順番にも依存します。
つまり、リザバーは系列入力を波紋の時空間パターンに変換する装置とみなすことができます。リザバーコンピューティングは、このリザバーが生成する動的パターンから、簡便なアルゴリズムを用いて系列入力の識別を行います。

<img width="700" alt="" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/889700/b89e032e-f8b2-7c14-05b2-026acc1bca95.png">
図1. リザバーコンピューティングの概念
(参考文献[1]より引用)

# 2.エコーステートネットワーク
リザバーコンピューティングの代表的なモデルの1つにエコーステートネットワークがあります。エコーステートネットワークでは、リザバーとして結合重みを固定したリカレントニューラルネットワークを用いて、時系列入力の過去の情報が反響して残る状態（エコーステート）を作り出し、そこから入力の特徴の読み出し（リードアウト）を行います。

<img width="700" alt="" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/889700/b80ffec6-389b-570d-ba77-8bce16d42e74.png">
図2. リザバーコンピューティングモデル
(参考文献[2]より引用)

入力層とリザバーの間の結合重みとリザバー内のフィードバック重みはあらかじめ固定しておき、リザバーと出力層の間の結合重みだけを計算量の小さい線形学習器で最適化します。この工夫によって、全ての結合重みを学習する一般のリカレントニューラルネットワークよりも高速な学習が可能となります。ただし、高い性能を実現するには、あらかじめ固定する結合重みの値を適切に設定しておく必要があります。

# 3.物理的実装
リザバーコンピューティングは、従来のリカレントニューラルネットワークに比べて学習時に変更する要素が少ないため、ハードウェア実装が比較的容易であると考えられます。また近年、リザバーの非線形変換機能を物理現象によって実現する物理リザバーコンピューティングも注目されています。電子、光、スピン、流体、機械、ナノ粒子、培養細胞などさまざまな媒質・基質を利用する物理リザバーが提案されています（表1）。
このようにリザバーコンピューティングは物理系のダイナミクスによっても実現できるため、ソフトウェア実装に比べて高速性や低消費電力性を持つ実装が可能であり、高効率機械学習デバイスを実現するための基盤技術として注目されています。

<img width="700" alt="" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/889700/b5583a24-1434-04c8-e58f-a068e675c2e0.png">
表1. 物理リザバーの分類
(参考文献[1]より引用)

# 4.おわりに
スキルアップAIでは、関連講座として「[現場で使えるディープラーニング基礎講座](https://bit.ly/3yDXt4E)」を開講中です。
本講座は、ディープラーニングの基礎・原理を理解し、ディープラーニングを支える最先端の技術をプログラミングレベルでマスターすることをゴールとした講座です。グループワーク・ハンズオンなどを取り入れ、アクティブラーニングを実践しています。

# 5.参考文献
[1] [小特集リザバーコンピューティング，電子情報通信学会 会誌 102, 2 (2019)](https://www.journal.ieice.org/bin/pdf_link.php?fname=k102_2_108&lang=J&year=2019)
[2] [知っておきたいキーワード リザバーコンピューテング，映像情報メディア学会誌 74, 3（2020）](https://www.ite.or.jp/contents/keywords/2005keyword.pdf)

# 25卒向け！AIエンジニアになるための長期インターンプログラム参加者募集中！
25卒学生向けに、AIの基礎を学びながら就活も一括サポートする無料カリキュラムを提供しています。
修了するとE資格の受験資格も獲得できるプログラムとなっています！

<img width="700" alt="長期インターン" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/889700/bfce4c26-1ebe-c54d-bacb-e804048a7a08.png">

**特長①AIエンジニアやデータサイエンティストの基礎が身に付く**
AIジェネラリスト基礎講座や機械学習のためのPython入門講座など、市場価値向上のための基礎を習得。

**特長②AI・データ分析領域の優良求人を紹介**
非公開求人や選考直結型インターンをご紹介し、早期内定の獲得をサポート。

**特長③長期インターンプログラム専用の学生コミュニティ参加可**
学生同士で就活情報をシェアしたり、学習を進めるうえでアドバイスをしあったりできるコミュニティに参加可能。

＞＞[長期インターン詳細](https://bit.ly/3pXW5JM)

☆☆☆
スキルアップAIのメールマガジンでは会社のお知らせや講座に関するお得な情報を配信しています。
配信を希望される方は[こちら](https://share.hsforms.com/1_XlReV-4Te-zcxCl9lhffA2mtef)

また、SNSでも様々なコンテンツをお届けしています。興味を持った方は是非チェックしてください♪
Twitterは[こちら](https://twitter.com/SkillupAi)
Facebookは[こちら](https://www.facebook.com/skillupai)
LinkedInは[こちら](https://www.linkedin.com/company/skillup-ai)