(57)【要約】  【課題】異なるサンプリングレートで得られたデータを用いて正確な予測を行なう。  【解決手段】取得部１０２は、異なる周期で検出された複数のセンサ値ｘｔを取得し、リカレントニューラルネットワーク処理部１０３は、取得されたセンサ値を順伝播処理することで順伝播値Ｘｔを算出する。キュー管理部１０２ａは、サンプリングレートごとに、算出された順伝播値を、異なるサンプリングレートで区別したメモリ１０４のキューに記憶する。そして、キュー管理部１０−２ａは、リカレントニューラルネットワーク処理部１０３に対して、メモリ１０４のキューごとに記憶されている順伝播値Ｘｔを取り出し、リカレントニューラルネットワーク処理部１０３は、予測値Ｙ（Ｓｔ）を算出する。【選択図】  図１
2018097418.tif 000002
【特許請求の範囲】
【請求項１】
センサにより、異なるサンプリングレートで検出されたセンサ値を順伝播処理することで順伝播値を算出する順伝播処理手段と、
前記順伝播処理手段により算出された順伝播値を、前記異なるサンプリングレートで区別したキューごとに記憶するキュー記憶手段と、
前記キュー記憶手段のキューごとに記憶されている、一の時刻における順伝播値を取り出すキュー管理手段と、
前記キュー管理手段により取り出された前記一の時刻における順伝播値に基づいて、当該一の時刻のつぎの時刻における状態の予測値を算出する予測値算出手段と、を備える
情報処理装置。
【請求項２】
前記キュー記憶手段は、
複数のセンサにより、それぞれ異なるサンプリングレートで検出されたそれぞれのセンサ値に基づいて算出された順伝播値を、センサの種別およびサンプリングレートごとに区別したキューごとに記憶する、ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記予測値算出手段により算出された予測値を用いてニューラルネットワークによる逆伝播処理を行なうことで、ニューラルネットワークのパラメータを更新する更新手段と、
前記更新されたパラメータに基づいて、前記キュー記憶手段に記憶されている順伝播値が重要であるか否かを判断する判断手段、
をさらに備える請求項１に記載の情報処理装置。
【請求項４】
情報処理装置の情報処理方法において、
センサにより、異なるサンプリングレートで検出されたセンサ値を順伝播処理することで順伝播値を算出する順伝播処理ステップと、
前記順伝播処理ステップにより算出された順伝播値を、前記異なるサンプリングレートで区別したキューごとにキュー記憶手段に記憶するキュー記憶ステップと、
前記キュー記憶手段のキューごとに記憶されている、一の時刻における順伝播値を取り出すキュー管理ステップと、
前記キュー管理ステップにより取り出された前記一の時刻における順伝播値に基づいて、当該一の時刻のつぎの時刻における状態の予測値を算出する予測値算出ステップと、を備える情報処理方法。
【請求項５】
コンピュータを、
センサにより、異なるサンプリングレートで検出されたセンサ値を順伝播処理することで順伝播値を算出する順伝播処理手段と、
前記順伝播処理手段により算出された順伝播値を、前記異なるサンプリングレートで区別したキューごとに記憶するキュー記憶手段と、
前記キュー記憶手段のキューごとに記憶されている、一の時刻における順伝播値を取り出すキュー管理手段と、
前記キュー管理手段により取り出された前記一の時刻における順伝播値に基づいて、当該一の時刻のつぎの時刻における状態の予測値を算出する予測値算出手段、
として実行させるための情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ニューラルネットワークを用いて予測を行なう情報処理装置に関する。
【背景技術】
【０００２】
プロセスの状態を表す変量を所定時間間隔でサンプリングした値を用いて、ニューラルネットワークで処理することにより、プロセスの出力値の変動パターンを予測することが、特許文献１に記載されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平５−２０４４０７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上記特許文献１に記載の技術では、実時間で出現する複数の異なる種類の情報を処理しようとすると、データごとにサンプリングレートが異なるため、適切な予測を行なうことができないという問題がある。
【０００５】
また、情報の発生の遅延に伴って情報ごとに遅延の度合いが異なる。よって、サンプリングレートごとに予測を行なおうとすると、必要な計算時間が異なるため、その遅延を助長させてしまう、という問題がある。
【０００６】
そこで、上述の課題を解決するために、本発明は、異なるサンプリングレートで得られたデータを用いて正確な予測を行なうことのできる情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上述の課題を解決するために、本発明の情報処理装置は、センサにより検出されたセンサ値を順伝播処理することで順伝播値を算出する順伝播処理手段と、前記順伝播処理手段により算出された順伝播値を、異なるサンプリングレートで区別したキューごとに記憶するキュー記憶手段と、前記キュー記憶手段のキューごとに記憶されている、一の時刻における順伝播値を取り出すキュー管理手段と、前記キュー管理手段により取り出された前記一の時刻における順伝播値に基づいて、当該一の時刻のつぎの時刻における状態の予測値を算出する予測値算出手段と、を備える。
【０００８】
また、本発明の情報処理方法は、情報処理装置の情報処理方法において、センサにより、異なるサンプリングレートで検出されたセンサ値を順伝播処理することで順伝播値を算出する順伝播処理ステップと、前記順伝播処理ステップにより算出された順伝播値を、前記異なるサンプリングレートで区別したキューごとにキュー記憶手段に記憶するキュー記憶ステップと、前記キュー記憶手段のキューごとに記憶されている、一の時刻における順伝播値を取り出すキュー管理ステップと、前記キュー管理ステップにより取り出された前記一の時刻における順伝播値に基づいて、当該一の時刻のつぎの時刻における状態の予測値を算出する予測値算出ステップと、を備える。
【０００９】
また、本発明の情報処理プログラムは、コンピュータを、センサにより、異なるサンプリングレートで検出されたセンサ値を順伝播処理することで順伝播値を算出する順伝播処理手段と、前記順伝播処理手段により算出された順伝播値を、前記異なるサンプリングレートで区別したキューごとに記憶するキュー記憶手段と、前記キュー記憶手段のキューごとに記憶されている、一の時刻における順伝播値を取り出すキュー管理手段と、前記キュー管理手段により取り出された前記一の時刻における順伝播値に基づいて、当該一の時刻のつぎの時刻における状態の予測値を算出する予測値算出手段、として実行させる。
【００１０】
この発明によれば、センサ値を順伝播処理した順伝播値を異なるサンプリングレートで区別したキューごとに記憶しておき、これを用いた順伝播処理して予測処理を行なう。これにより異なるサンプリングレートにより取得された各センサ値を用いた正確な予測処理を行なうことができる。
【００１１】
また、本発明は、前記予測値算出手段により算出された予測値を用いてニューラルネットワークによる逆伝播処理を行なうことで、ニューラルネットワークのパラメータを更新する更新手段と、前記更新されたパラメータに基づいて、前記キュー記憶手段に記憶されている順伝播値が重要であるか否かを判断する判断手段、をさらに備える。
【００１２】
この発明によれば、ニューラルネットワークによるパラメータを更新し、異なるサンプリングレートで取得されたセンサ値のうち、どのサンプリングレートのセンサ値が重要であるか、またどのセンサ値が重要であるかを判断することができる。
【発明の効果】
【００１３】
本発明によれば、サンプリングレートの異なる複数の入力に対する予測を正確かつ迅速に行なうことができる。
【図面の簡単な説明】
【００１４】
【図１】情報処理装置１００の機能を示す機能ブロック図である。
【図２】情報処理装置１００のハードウェア構成図である。
【図３】サンプリングレートごとに形成されたキューごとに記憶されている情報の説明図である。
【図４】情報処理装置１００の処理を示すフローチャートである。
【図５】各モジュールごとに配置されたプロセッサを用いたリカレントニューラルネットワーク処理を行う模式図である。
【発明を実施するための形態】
【００１５】
添付図面を参照しながら本発明の実施形態を説明する。可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
【００１６】
図１は、本実施形態の情報処理装置１００の機能を示す機能ブロック図である。この情報処理装置１００は、取得部１０２、キュー管理部１０２ａ（キュー管理手段）、リカレントニューラルネットワーク処理部１０３（順伝播処理手段、予測値算出手段、更新手段）、メモリ１０４（キュー記憶手段）、および出力部１０５を含んで構成されている。
【００１７】
図２は、情報処理装置１００のハードウェア構成図である。図１に示される情報処理装置１００は、物理的には、図２に示すように、一または複数のＣＰＵ１１、主記憶装置であるＲＡＭ１２及びＲＯＭ１３、入力デバイスであるキーボード及びマウス等の入力装置１４、ディスプレイ等の出力装置１５、ネットワークカード等のデータ送受信デバイスである通信モジュール１６、ハードディスクまたは半導体メモリ等の補助記憶装置１７などを含むコンピュータシステムとして構成されている。図１における各機能は、図２に示すＣＰＵ１１、ＲＡＭ１２等のハードウェア上に所定のコンピュータソフトウェアを読み込ませることにより、ＣＰＵ１１の制御のもとで入力装置１４、出力装置１５、通信モジュール１６を動作させるとともに、ＲＡＭ１２や補助記憶装置１７におけるデータの読み出し及び書き込みを行うことで実現される。以下、図１に示す機能ブロックに基づいて、各機能ブロックを説明する。
【００１８】
取得部１０２は、センサ１０１により検出されたセンサ値を取得する部分である。センサ１０１は、例えばマイクやビデオカメラなど時系列に変遷する外部環境の状態を検出するものである。取得部１０２は、センサ１０１から入力されたセンサ値を、リカレントニューラルネットワーク処理部１０３に出力し、順伝播処理された順伝播値を取得する。取得した順伝播値を、その取得した時刻とともにキュー管理部１０２ａに出力する。
【００１９】
キュー管理部１０２ａは、取得部１０２から出力された時刻と順伝播値とを、メモリ１０４のどのキューに記憶させるか判断して、そのキューに順伝播値を記憶させる。すなわち、キュー管理部１０２ａは、その時刻が、キューの離散化幅から求められる、キューに保持すべき最小時刻（すなわちサンプリングレートに相当）より前であるか否かを判断する。出力された時刻が、キューの離散化幅から求められる最小時刻より前であれば、その順伝播値は破棄され、メモリ１０４に記憶しない。出力された時刻が、キューの幅から求められる最小時刻以降であれば、その時刻に対応するキューに順伝播値を記憶する。
【００２０】
その結果、キュー管理部１０２ａは、予め定められた複数の異なるサンプリングレートで順伝播値をメモリ１０４に記憶することができる。なお、キュー管理部１０２ａは、順伝播値とともにその算出過程を示す関数を対応付けてメモリ１０４に記憶させる。
【００２１】
なお、以下に説明する処理においては、センサ１０１ａにおいて検出されたセンサ値をキュー管理部１０２ａがサンプリングレートごとに区別したキューに記憶するようにしているが、さらに異なる種類のセンサ値を検出するセンサ１０１ｂおよび１０１ｃからのセンサ値についても、キューを分けて記憶するようにしてもよい。その場合、センサ種別を示す情報を取得部１０２およびキュー管理部１０２ａが管理しておき、そのセンサ種別に応じたキューをメモリ１０４に用意しておく必要がある。
【００２２】
リカレントニューラルネットワーク（ＲＮＮ）処理部１０３は、キュー管理部１０２ａによる処理の前に、取得部１０２により取得された異なるサンプリングレートのセンサ値を各センサ源ごとに用意されたニューラルネットワークによって順伝播処理して、順伝播値を算出する。例えば以下の処理を行なう。
【００２３】
順伝播値Ｘｔ＝ｇ（ｆ（ｘｔ，ｗｆ），ｗｇ）  ・・・（１）
【００２４】
ここでｔは時刻、ｘｔは時刻ｔのときのセンサ値、ｗｆおよびｗｇは、それぞれ各センサ源ごとに用意されたニューラルネットワークにおけるパラメータである。
【００２５】
リカレントニューラルネットワーク処理部１０３は、算出した順伝播値Ｘｔを、キュー管理部１０２ａに出力し、キュー管理部１０２ａは、上述したとおり、サンプリングレートごとに用意されたメモリ１０４の各キューに記憶する。
【００２６】
メモリ１０４は、サンプリングレートごとにキューを形成して、キューごとに、順伝播値Ｘｔを時刻ｔに対応付けて記憶する。この時刻ｔは、順伝播値Ｘｔがリカレントニューラルネットワーク処理部１０３において算出された時刻である。図３は、その具体例を示す。図３に示されるように、メモリ１０４には、キュー１〜キュー３が形成されており、キューごとに時刻に対応付けて、順伝播値およびその算出過程を示す順伝播の関数が記憶されている。本実施形態においては、キュー１はサンプリングレートが一番密にして順伝播値を記憶し、キュー２は、キュー１の半分のサンプリングレートで取得した順伝播値を記憶し、キュー３は、さらにその半分のサンプリングレートで取得した順伝播値を記憶している。すなわち、キューごとにサンプリングレートを変えて順伝播値を記憶している。
【００２７】
キュー管理部１０２ａは、許容遅延時間Ｔ（サンプリングレートの離散化幅より大きい）が経過した順伝播値Ｘｔを、メモリ１０４の各キューから取り出し、リカレントニューラルネットワーク処理部１０３に処理させる。リカレントニューラルネットワーク処理部１０３は、その順伝播値Ｘ１を順伝播処理して時刻ｔにおける状態値Ｓｔを算出し、この状態値Ｓｔ用いて、時刻ｔ＋１における予測値Ｙｔ＝Ｙ（Ｓｔ）を算出する。例えば、以下の処理を行なう。
【００２８】
Ｓｔ＝Ｆ（ｗ１，ｗ２，ｗ３，Ｓｔ−１，Ｘ（１）ｔ，Ｘ（２）ｔ，Ｘ（３）ｔ）・・・（２）
【００２９】
Ｙｔ＝Ｙ（Ｓｔ）・・・（３）
ここで、ｗ１，ｗ２，ｗ３は、リカレントニューラルネットワークにおけるキューごとのパラメータである。Ｆは、時刻ｔにおける状態を算出するための関数であり、所定の順伝播処理のためのものである。Ｘ（１）ｔは、キュー１の時刻ｔに記憶されている順伝播値、Ｘ（２）ｔは、キュー２の時刻ｔに記憶されている順伝播値、Ｘ（３）ｔは、キュー１の時刻ｔに記憶されている順伝播値である。また、Ｙｔは、時刻ｔにおける状態値Ｓｔに基づいた予測値を算出するための関数である。
【００３０】
なお、式（２）は、時刻ｔにおいてキューに順伝播値が記憶されているときの状態値Ｓを算出するためのものである。サンプリングレートによっては、キュー２またはキュー３には、時刻ｔに対応する順伝播値がない場合がある。その場合には、式（４）および（５）のとおりに表現することもできる。
【００３１】
Ｓｔ＋１＝Ｆ（ｗ１，Ｓｔ，Ｘ（１）ｔ）                            ・・・（４）
【００３２】
Ｓｔ＋２＝Ｆ（ｗ１，ｗ２，Ｓｔ＋１，Ｘ（１）ｔ，Ｘ（２）ｔ）          ・・・（５）
【００３３】
リカレントニューラルネットワーク処理部１０３は、さらに予測値Ｙ（Ｓｔ-1）を用いて、リカレントニューラルネットワークの誤差逆伝播処理を行なうことで、学習処理を行なう。例えば、以下の処理を行なう。
【００３４】
時刻ｔにおける観測値ｙが取得される。これは、センサ１０１により得られたものである。そして、リカレントニューラルネットワーク処理部１０３は、時刻ｔにおける観測値ｙと、予測値Ｙ（Ｓｔ-１）とから損失（例えば二乗誤差）を計算し、パラメータｗ１、ｗ２，ｗ３に対する勾配を算出して、各パラメータｗ１、ｗ２，ｗ３を勾配降下法などによって更新する。
【００３５】
さらに、リカレントニューラルネットワーク処理部１０３は、式（２）に示される関数に対して、Ｓｔを誤差逆伝播することで（BPTT）、Ｘ（１）ｔ、Ｘ（２）ｔ、Ｘ（３）ｔを算出し、さらに、Ｘｔを誤差逆伝播することにより、リカレントニューラルネットワークにおけるパラメータｗｆおよびｗｇの勾配を算出して、勾配降下法などによってパラメータｗｆおよびｗｇを更新する。
【００３６】
このようにリカレントニューラルネットワークのパラメータｗ１、ｗ２、ｗ３，ｗｆ、ｗｇを更新していくことによって、重要ではないキュー（サンプリングレートのセンサ値）や、そのセンサ値の入力に対する重みが小さくなり、正確な予測値を算出することができる。なお、複数種類のセンサのセンサ値を扱う場合には、それぞれのセンサのためのリカレントニューラルネットワーク処理のパラメータｗを用いる必要がある。
【００３７】
出力部１０５は、リカレントニューラルネットワーク処理部１０３により算出された予測値Ｙ（Ｓｔ＋１）を出力する。
【００３８】
つぎに、このように構成された情報処理装置１００の処理フローについて説明する。図４は、情報処理装置１００のフローチャートである。取得部１０２により、センサ１０１により検出されたセンサ値が取得され（Ｓ１０１）、キュー管理部１０２ａによるキュー管理に従ってリカレントニューラルネットワーク処理部１０３により順伝播処理される（Ｓ１０２）。
【００３９】
順伝播処理されて得られた順伝播値は、メモリ１０４においてサンプリングレートごとに形成されたキューに、記憶される（Ｓ１０３）。
【００４０】
キュー管理部１０２ａにより、許容遅延時間Ｔが経過した順伝播値Ｘｔがメモリ１０４から取り出され、この順伝播値Ｘｔは、リカレントニューラルネットワーク処理部１０３により順伝播処理され、状態値Ｓｔが算出され、予測値Ｙ（Ｓｔ）が算出される（Ｓ１０４）。
【００４１】
そして、時刻ｔにおける観測値ｙと、予測値Ｙ（Ｓｔ）との差分（ロス）に基づいて、リカレントニューラルネットワークのパラメータｗ１、ｗ２，ｗ３が更新される（Ｓ１０５）。
【００４２】
一方で、時刻ｔにおける状態値Ｓｔが誤差逆伝播されて、Ｘｔの誤差が算出され（Ｓ１０６）、さらにＸｔの誤差が誤差逆伝播されることで、リカレントニューラルネットワークのパラメータｗｆおよびｗｇが更新される（Ｓ１０７）。Ｓ１０５からＳ１０７の処理によりリカレントニューラルネットワークによる学習処理がなされる。これら処理は、公知のリカレントニューラルネットワークにおける学習処理である。
【００４３】
なお、Ｓ１０５およびＳ１０７において、リカレントニューラルネットワークにおけるパラメータｗ１、ｗ２、ｗ３、ｗｆ、ｗｇが更新されている。一般に、これらパラメータは各観測における実測値と予測値による損失が十分に低下し、収束することにより、正確な予測値を算出することができるようになる。一方で、これらパラメータが０または０に近い値になる場合には、その順伝播値やキューに記憶されている順伝播値全体は、重要ではないと判断することができる。よって、判断部（図示せず）は、時刻ｔの処理において、このようなパラメータが０または０に近似するか否かの判断を行なうことにより、時刻ｔにおけるセンサ値ｘｔまたはそのサンプリングレートの重要性を判断するようにしてもよい。
【００４４】
つぎに、本実施形態の情報処理装置１００の作用効果について説明する。本実施形態の情報処理装置１００において、取得部１０２は、センサ１０１ａ等において検出された複数のセンサ値ｘｔを取得し、リカレントニューラルネットワーク処理部１０３は、取得されたセンサ値ｘｔを順伝播処理することで順伝播値Ｘｔを算出する。キュー管理部１０２ａは、算出された順伝播値Ｘｔを、異なるサンプリングレートで区別したキューが形成されたメモリ１０４に記憶する。そして、キュー管理部１０２ａは、メモリ１０４のキューごとに記憶されている順伝播値Ｘｔを取り出し、リカレントニューラルネットワーク処理部１０３は、時刻ｔにおけるセンサ値全体の状態を示す状態値Ｓｔを算出する。そして、リカレントニューラルネットワーク処理部１０３は、状態値Ｓｔに基づいて、時刻ｔ+1における予測値Ｙ（Ｓｔ）を算出する。
【００４５】
これにより異なるサンプリングレートで得られたセンサ値を得た場合であっても、これらをまとめて予測処理を行なうことができる。
【００４６】
なお、異なるサンプリングレートで得られたセンサ値を取得することの意義は、以下の通りである。情報源となるセンサが同じでも、どのサンプリングレートによる情報が重要であるかは一般的に異なるものである。たとえばマイクから人の声を収集した場合、単純に一番粒度の細かい情報は１ｋＨｚ前後の波形情報（音圧の情報）となるが。このレベルの波形の変化自体からは声（音素）はわからない。声の情報は、もっと粒度の荒い１０Ｈｚ前後で発生する。また、単語は音素の連なりの１Ｈｚ前後の粒度で発生し、文レベルでは１文に数秒かかる。同じように、センサの情報やカメラの情報でも何の情報が重要かによって捉えるべき情報のサンプリングレートは変わってくる。
【００４７】
また、この情報処理装置１００において、リカレントニューラルネットワーク処理部１０３は、算出された予測値Ｙ（Ｓｔ）を用いてリカレントニューラルネットワークによる処理を行なうことで、リカレントニューラルネットワークのパラメータを更新する。これにより、リカレントニューラルネットワークによる学習処理を行なうことができ、正確な予測値を算出することができる。
【００４８】
さらに、この情報処理装置１００において、更新されたパラメータに基づいて、メモリ１０４の各キューに記憶されている順伝播値が重要であるか否かを判断する。これにより、どのキューが重要であるか否か、またどの第１順伝播値が重要であるか否かを判断することができ、その結果、どのサンプリングレートで得たセンサ値が重要であるかを判断することができる。
【００４９】
ここで変形例について説明する。上述実施形態においては単一のプロセッサが、ニューラルネットワークによる順伝播処理、リカレントニューラルネットワークによる順伝播処理について説明した。単一のプロセッサによることなく、各モジュールごとに、例えば、センサごとに配置されたプロセッサや、リカレントニューラルネットワーク処理を行うプロセッサがそれぞれの処理を行うようにしてもよい。より具体的には、図５に示されるような各プロセッサは、以下の処理を行うことになる。
【００５０】
図５に示されるとおり、センサｓの入力を処理するプロセッサｐＳと、センサｔの入力を処理するプロセッサｐＴと、リカレントニューラルネットワークの処理を行うプロセッサｐＲがあるとする。プロセッサｐＳ、プロセッサｐＴ、およびプロセッサｐＲは、上述したリカレントニューラルネットワーク処理部１０３に相当する機能を有する。
【００５１】
プロセッサｐＳは、センサｓの入力から構成されるニューラルネットワークの順伝播処理を行い、その結果ｒＳを出力する。プロセッサｐＳは、この結果ｒＳにユニークなＩＤを付与し、そのＩＤとともに結果ｒＳを通信手段を持ってプロセッサｐＲに送信する。プロセッサｐＲはこのときのネットワークの情報をＩＤと紐付けて保持する。プロセッサｐＴも同様の処理を行う。プロセッサｐＲは、プロセッサｐＴとプロセッサｐＳとから情報を受け取ると、上述と同様にデータの発生時刻に応じてキューに情報を格納し、リカレントネットワークの順伝播処理を行う。なお、データの発生時刻は、プロセッサｐＴとプロセッサｐＳから出力される。
【００５２】
逆伝播処理はプロセッサｐＲが損失を計算することで始まるが、プロセッサｐＲが逆伝播をすすめてプロセッサｐＳとプロセッサｐＴからの入力を受け取る箇所まで伝播が進んだら、入力時に受け取ったユニークＩＤとともに伝播された情報に対する勾配情報を、それぞれのプロセッサｐＳとプロセッサｐＴに転送する。各プロセッサｐＳ、ｐＴはユニークＩＤと逆伝播用の情報を受け取ったら、対応する順伝播の計算グラフを利用して逆伝播処理を行い、パラメータ（上述のｗ等）を更新する。この過程を繰り返すと、徐々に逆伝播用の計算グラフの情報が増えていき、逆伝播に時間がかかるため、決められた時間か、あるいは決められた上限数にもとづいて、逆伝播用の計算グラフの情報を破棄する。
【００５３】
また、許容遅延時間および離散化幅の異なる複数の時系列処理を用いることで反応速度を調整することができる。時系列処理によって判断を行うリカレントニューラルネットワークは、事前に定めた許容遅延時間後に処理を行う。そのため、この許容遅延時間よりも偶発的にデータのセンシングに時間がかかったり、順伝播処理に時間がかかると、ここで得られた情報は一切使われなくなってしまう。許容遅延時間を伸ばすと、こうした自体を防ぎやすくなる一方で、反応速度が遅くなる。離散化幅を短くすると、周波数の高い情報を扱えるようになる一方で、リカレントニューラルネットワークの段数が深くなり、長い依存関係を学習しづらくなる。したがって、これらのパラメータである許容遅延時間や離散化幅に応じた異なるキューを複数用意することで、反応遅延、情報の欠損、情報の周波数、長時間依存のそれぞれに対して、よく目的関数を説明するパラメータを選択できるようになる。
【符号の説明】
【００５４】
１００…情報処理装置、１０１…センサ、１０２…取得部、１０３…リカレントニューラルネットワーク処理部、１０４…メモリ、１０５…出力部。
【図１】
2018097418.tif 000003
【図２】
2018097418.tif 000004
【図３】
2018097418.tif 000005
【図４】
2018097418.tif 000006
【図５】
2018097418.tif 000007