(57)【要約】      （修正有）【課題】判別精度を維持しながらセンサ情報の通信コストを大きく低減する。【解決手段】複数のセンサ端末２０から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別する判別部３１０と、センサ情報の通信コストと判別部３１０による判別精度とに基づいて、センサ情報の送信要否をセンサ端末２０ごとに決定する送信制御モデル構築部３２０と、を備え、判別部３１０は、送信制御モデル構築部３２０により決定された送信要否に基づいて送信されるセンサ情報に基づいて、観測対象の状態を判別する、情報処理装置３０が提供される。【選択図】図５
2018124852.tif 000002
【特許請求の範囲】
【請求項１】
複数のセンサ端末から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別する判別部と、
前記センサ情報の通信コストと前記判別部による判別精度とに基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定する送信制御モデル構築部と、
を備え、
前記判別部は、前記送信制御モデル構築部により決定された前記送信要否に基づいて送信される前記センサ情報に基づいて、前記観測対象の状態を判別する、
情報処理装置。
【請求項２】
前記送信制御モデル構築部は、強化学習により前記センサ情報の送信要否を前記センサ端末ごとに決定する、
請求項１に記載の情報処理装置。
【請求項３】
前記送信制御モデル構築部は、強化学習により得られる価値関数に基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定する、
請求項１または２に記載の情報処理装置。
【請求項４】
前記送信制御モデル構築部は、強化学習により得られる送信要否の価値関数の値に対応した確率に基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定する、
請求項１〜３のいずれかに記載の情報処理装置。
【請求項５】
前記送信制御モデル構築部は、ニューラルネットワークを用いて前記価値関数を近似する、
請求項３または４に記載の情報処理装置。
【請求項６】
前記送信制御モデル構築部は、前記センサ情報と当該センサ情報を送信するセンサ端末の情報とを前記ニューラルネットワークに入力し、前記価値関数を近似する、
請求項５に記載の情報処理装置。
【請求項７】
前記判別部は、複数の前記センサ端末ごとに受信する複数種別のセンサ情報に基づく学習結果を用いて前記観測対象の状態を判別し、
前記送信制御モデル構築部は、前記センサ情報の送信要否を前記センサ端末およびセンサ種別ごとに決定する、
請求項１〜６のいずれかに記載の情報処理装置。
【請求項８】
前記通信コストは、前記センサ端末から送信される前記センサ情報のデータ量、または前記センサ情報の送信に係る前記センサ端末の消費電力のうち、すくなくともいずれかを含む、
請求項１〜７のいずれかに記載の情報処理装置。
【請求項９】
複数のセンサ端末から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別することと、
前記センサ情報の通信コストと前記観測対象の状態に係る判別精度とに基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定することと、
を含み、
前記判別することは、決定された前記送信要否に基づいて送信される前記センサ情報に基づいて、前記観測対象の状態を判別すること、をさらに含む、
情報処理方法。
【請求項１０】
コンピュータを、
複数のセンサ端末から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別する判別部と、
前記センサ情報の通信コストと前記判別部による判別精度とに基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定する送信制御モデル構築部と、
を備え、
前記判別部は、前記送信制御モデル構築部により決定された前記送信要否に基づいて送信される前記センサ情報に基づいて、前記観測対象の状態を判別する、
情報処理装置、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置、情報処理方法、およびプログラムに関する。
【背景技術】
【０００２】
近年、技術の発展に伴い、対象の状態を検出する種々のセンサ装置が開発されている。また、上記のようなセンサ装置により取得されたセンサ情報を用いて、対象の状態に係る判別を行う手法や、当該判別の結果に基づいて各種装置の動作制御を行う手法も多く提案されている。
【０００３】
例えば、特許文献１には、複数のローパスフィルタと検出センサ用の電源回路とを機能拡張用カードの外部に設けた中間ユニットに配置した回転機の診断装置が開示されている。
【０００４】
また、特許文献２には、強化学習を用いてサンプリング周波数や周波数領域における所定の帯域分割数などのパラメータを調整することで判別精度を向上させる判別システムが開示されている。
【０００５】
また、非特許文献１には、ＩＥＥＥ  ８０２．１５．４ｅに規格されるネットワークにおいて、ＭＡＣレイヤ上での通信パラメータを、強化学習を用いて最適化する手法が開示されている。
【０００６】
また、非特許文献２には、畳み込みニューラルネットワークと強化学習とを組み合わせた手法により、コンピュータゲームにおける次コマンドに係る価値関数の出力を近似する技術が開示されている。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００５−３３７９６５号公報
【特許文献２】特開２００６−７９２７９号公報
【非特許文献】
【０００８】
【非特許文献１】H. Kapil, C. S. R. Murthy、「A Pragmatic ReplyPlacement Approach in 3-D Space and Q-Learning-Based Transmission Scheme forReliable Factory Automation Applications」、IEEE SystemsJournal、２０１６年３月３日、Volume: PP、Issue99、pp.1-11
【非特許文献２】V. Mnih、外１８名、「Human-level control through deep reinforcement learning」、Nature、２０１５年２月２５日、518.7540、pp.529-533
【発明の概要】
【発明が解決しようとする課題】
【０００９】
しかし、特許文献１に記載の技術では、センサ情報に基づいた状態の検出や、データ収集装置への転送制御については考慮されていない。また、特許文献２に記載の技術では、判別精度の最適化を行っているものの、通信コストと判別精度とのトレードオフについては考慮されていない。
【００１０】
また、非特許文献１に記載の技術では、例えば、転送されたデータを利用した認識など、上位レイヤにおけるパラメータの最適化については考慮されていない。また、非特許文献２に記載の技術では、自律分散的なセンサ端末に係る送信制御や、判別精度や通信コストなどトレードオフ関係にあるパラメータを含む報酬に基づいた強化学習については考慮されていない、という問題があった。
【００１１】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、判別精度を維持しながらセンサ情報の通信コストを大きく低減することが可能な、新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提供することにある。
【課題を解決するための手段】
【００１２】
上記課題を解決するために、本発明のある観点によれば、複数のセンサ端末から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別する判別部と、前記センサ情報の通信コストと前記判別部による判別精度とに基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定する送信制御モデル構築部と、を備え、前記判別部は、前記送信制御モデル構築部により決定された前記送信要否に基づいて送信される前記センサ情報に基づいて、前記観測対象の状態を判別する、情報処理装置が提供される。
【００１３】
前記送信制御モデル構築部は、強化学習により前記センサ情報の送信要否を前記センサ端末ごとに決定してもよい。
【００１４】
前記送信制御モデル構築部は、強化学習により得られる価値関数に基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定してもよい。
【００１５】
前記送信制御モデル構築部は、強化学習により得られる送信要否の価値関数の値に対応した確率に基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定してもよい。
【００１６】
前記送信制御モデル構築部は、ニューラルネットワークを用いて前記価値関数を近似してもよい。
【００１７】
前記送信制御モデル構築部は、前記センサ情報と当該センサ情報を送信するセンサ端末の情報とを前記ニューラルネットワークに入力し、前記価値関数を近似してもよい。
【００１８】
前記判別部は、複数の前記センサ端末ごとに受信する複数種別のセンサ情報に基づく学習結果を用いて前記観測対象の状態を判別し、前記送信制御モデル構築部は、前記センサ情報の送信要否を前記センサ端末およびセンサ種別ごとに決定してもよい。
【００１９】
前記通信コストは、前記センサ端末から送信される前記センサ情報のデータ量、または前記センサ情報の送信に係る前記センサ端末の消費電力のうち、すくなくともいずれかを含んでよい。
【００２０】
また、上記課題を解決するために、本発明の別の観点によれば、複数のセンサ端末から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別することと、前記センサ情報の通信コストと前記観測対象の状態に係る判別精度とに基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定することと、を含み、前記判別することは、決定された前記送信要否に基づいて送信される前記センサ情報に基づいて、前記観測対象の状態を判別すること、をさらに含む、情報処理方法が提供される。
【００２１】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、複数のセンサ端末から受信するセンサ情報に基づく学習結果を用いて観測対象の状態を判別する判別部と、前記センサ情報の通信コストと前記判別部による判別精度とに基づいて、前記センサ情報の送信要否を前記センサ端末ごとに決定する送信制御モデル構築部と、を備え、前記判別部は、前記送信制御モデル構築部により決定された前記送信要否に基づいて送信される前記センサ情報に基づいて、前記観測対象の状態を判別する、情報処理装置、として機能させるためのプログラムが提供される。
【発明の効果】
【００２２】
以上説明したように本発明によれば、判別精度を維持しながらセンサ情報の通信コストを大きく低減することが可能となる。
【図面の簡単な説明】
【００２３】
【図１】本発明の第１の実施形態に係るシステム構成の一例を示す図である。
【図２】同実施形態に係る複数のセンサ端末が備える複数のセンサのすべてが、全時間帯においてセンサ情報を送信する場合の例を示す図である。
【図３】同実施形態に係るセンサ端末が送信制御モデルに基づいて送信するセンサ情報の一例を示す図である。
【図４】同実施形態に係るセンサ端末の機能ブロック図の一例である。
【図５】同実施形態に係る情報処理装置の機能ブロック図の一例である。
【図６】同実施形態に係る学習データ収集フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【図７】同実施形態に係る特徴ベクトル抽出部が抽出する特徴ベクトルの一例を示す図である。
【図８】同実施形態に係る状態正解値の入力について説明するための図である。
【図９】同実施形態に係る送信制御モデル構築フェーズにおける情報処理装置の動作の流れを示すフローチャートである。
【図１０】同実施形態に係るセンサ端末の組み合わせによる判別精度の差について説明するための図である。
【図１１】同実施形態に係る強化学習の動作モデルを示す図である。
【図１２】同実施形態に係る時刻ｔにおける価値関数Ｑを表形式で示した一例である。
【図１３】同実施形態に係る状態判別フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【図１４】本発明の第２の実施形態に係る信制御モデルの構築において価値関数の近似に用いられるニューラルネットワークのネットワーク構成例を示す図である。
【図１５】同実施形態に係る習データ収集フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【図１６】本発明に係る情報処理装置のハードウェア構成例である。
【発明を実施するための形態】
【００２４】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００２５】
＜１．本発明の概要＞
まず、本発明の概要について説明する。上述したとおり、近年においては、観測対象の状態を観測する種々のセンサ端末が開発されている。また、上記のようなセンサ端末により取得されたセンサ情報に基づいて、観測対象の状態を判別する手法も多く提案されている。
【００２６】
例えば、物品を製造する工場などにおいては、種々の設備や装置、製品などが用いられるが、上記のような観測対象は、機器の動作に関する制御信号などを直接取得することができない場合も多いため、外付けのセンサ端末により状態を検知することも広く行われている。
【００２７】
この場合、例えば、観測対象の周囲に配置した複数のセンサ端末から振動データや音響データなどのセンサ情報を取得することで、観測対象の状態を動的に判別することが可能である。
【００２８】
また、得られたセンサ情報を分析、評価することで、移動軌跡や稼働状況の取得、異常予兆検知などを行うことができ、生産や作業効率の改善や安全性の確保などを実現することができる。
【００２９】
一方、振動データや音響データなど、比較的高いサンプリング周波数やデータ転送量を低帯域無線通信などにより収集する場合、センサ情報の通信コストと判別精度とは、一般にトレードオフの関係となり得る。しかし、従来における判別手法では、上記のようなトレードオフが考慮されておらず、より効率的なデータ通信および判別を実現する手法が望まれていた。
【００３０】
本発明は上記の点に着目して発想されたものであり、観測対象の状態判別に係る精度を高く維持しながらも、効率的に通信コストを低減することを可能とする。このために、本発明は、通信コストと判別精度に基づくセンサ情報の送信要否をセンサ端末およびセンサ種別ごとに決定した送信制御モデルを構築すること、を特徴の一つとする。また、本発明では、上記の送信制御モデルの構築に強化学習が用いられてよい。以下の実施形態の説明では、本発明に係る情報処理装置の構成や、上記の特徴が奏する効果について詳細に説明する。
【００３１】
＜２．第１の実施形態＞
＜＜２．１．第１の実施形態の概要＞＞
まず、本発明に係る第１の実施形態について説明する。上述したとおり、本発明は、複数のセンサ端末により取得されたセンサ情報に基づく観測対象の状態判別において、判別精度の維持と通信コストの抑制を両立することを可能とする。
【００３２】
図１は、本実施形態に係るシステム構成の一例を示す図である。図１を参照すると、本実施形態に係る情報処理システムは、観測対象１０、複数のセンサ端末２０、および情報処理装置３０を含み得る。また、センサ端末２０および情報処理装置３０は、ネットワーク４０を介して接続される。
【００３３】
（観測対象１０）
本実施形態に係る観測対象１０は、情報処理装置３０による状態判別の対象である。本実施形態に係る観測対象１０は、例えば、工場における種々の装置や製品、企業や家庭に設置される電子機器などであってもよい。また、観測対象１０は、建物、橋、道路などの建造物を含んでもよい。また、本実施形態に係る観測対象１０は、センサ端末２０によるセンサ情報の取得対象となる１つ以上の内部装置１１０を備える。図１の一例では、観測対象１０が２つの内部装置１１０ａおよび１１０ｂを備える場合が示されている。
【００３４】
（センサ端末２０）
本実施形態に係るセンサ端末２０は、観測対象１０が備える内部装置１１０から種々のセンサ情報を収集する端末である。センサ端末は一般に観測可能な範囲が物理的および空間的に限定されるため、本実施形態に係るセンサ端末２０は、図１に示すように、１つの観測対象１０に対して複数配置されてよい。図１の一例では、観測対象１０に対して４つのセンサ端末２０ａ〜２０ｄが配置される場合が示されている。
【００３５】
また、本実施形態に係るセンサ端末２０は、観測対象１０の内部装置１１０に係る種々のセンサ情報を収集することができる。このために、本実施形態に係るセンサ端末２０は、図１に示すように、それぞれ複数のセンサ２１０を備えてよい。本実施形態に係るセンサ２１０は、例えば、振動センサ、音響センサ、熱センサ、照度センサ、撮像センサなどであり得る。本実施形態に係るセンサ端末２０は、上記のようなセンサ２１０を複数備えることで、観測対象１０の稼働状態に応じた異なる物理現象を捉えることができる。
【００３６】
（情報処理装置３０）
本実施形態に係る情報処理装置３０は、複数のセンサ端末２０から送信されるセンサ情報に基づいて、観測対象１０の状態を判別する装置である。この際、本実施形態に係る情報処理装置３０は、上記の判別をリアルタイムに行ってよい。すなわち、観測対象１０の状態に変化が生じた際、センサ端末２０は、当該状態の変化に応じたセンサ情報を情報処理装置３０に即時送信し、情報処理装置３０は、センサ端末２０から送信されるセンサ情報に基づく状態判別結果を都度出力することができる。
【００３７】
一方、情報処理装置３０による状態判別には、センサ端末２０から判別に必要十分なセンサ情報が送信されることが求められる。また、一般に各状態に応じたより顕著な特徴を抽出できるほど、判別の精度は向上する。このため、より高精度な判別や通信コストの低減を実現するためには、例えば、振動の状況に関する専門知識を有する有識者が、適切なセンサ端末２０の配置を指定することも想定される。しかしながら、観測対象１０の内部構造が複雑であり実際にデータを取得してみなければ適切な判断が行えない場合や、専門知識を有しない者がセンサ端末２０配置する状況も想定される。このため、本実施形態に係るセンサ端末２０の種類や配置は常に適切に行われるとは限らない。
【００３８】
例えば、図１に示す内部装置１１０の動作有無を検知するためには、センサ端末２０ａまたは２０ｂが有するいずれかのセンサ２１０から送信されるセンサ情報のみで十分な場合もある。また、同様に、内部装置１１０ｂの動作有無を検知するためには、センサ端末２０ｂまたは２０ｄが有するいずれかのセンサ２１０から送信されるセンサ情報のみで十分な場合もある。このように、観測対象１０の状態によっては、複数のセンサ端末２０が有する複数のセンサ２１０のうち、一部のセンサ２１０から得られるセンサ情報のみで十分な精度の判別を行える場合も多い。
【００３９】
このため、判別精度のみを重視して、すべてのセンサ端末２０が備えるすべてのセンサ２１０から、全時間帯においてセンサ情報を送信することは、効率的とは言い難い。図２は、本実施形態に係る複数のセンサ端末２０が備える複数のセンサ２１０のすべてが、全時間帯においてセンサ情報を送信する場合の例を示す図である。図２に示す一例の場合、複数のセンサ２１０ａ−１〜２１０ｎ−ｎは、それぞれ収集したセンサ情報ＳＴ−ａ１〜ＳＴ−ｎｎを全時間帯において情報処理装置３０に送信している。上記のような処理を行う場合、例えば、以下のようないくつかの弊害が想定される。
【００４０】
まず、想定される問題としては、通信帯域の浪費が挙げられる。センサ端末２０と情報処理装置３０とは、設置コストや利便性の観点から無線通信で接続される場合もある。ここで、図２に示すように、すべてのセンサ２１０が全時間帯にセンサ情報を送信する場合、無線通信における帯域を必要以上に浪費することが容易に想定される。また、例えば、９２０ＭＨｚなどの低帯域の無線通信では、十分なデータを転送できず、パケットロスなどによるデータの転送遅延や欠損が生じる可能性も考えられる。この結果、必要なデータを受信できず、判別精度の低下や判別の遅延が発生することも懸念される。また、複数のセンサ端末２０で回線を共有する有線ネットワークを用いる場合にも、上記の同様の現象は発生し得る。
【００４１】
また、電力の浪費も懸念される。一般に無線通信でデータを転送するセンサ端末はバッテリで駆動するため、冗長な無線データの転送により消費電力が増大し、早期にバッテリ切れが発生する可能性も考えられる。この結果、有線もしくは無線給電で外部電力の供給が行えるシステムであっても、必要以上の電力を消費してしまうなどの問題が生じ得る。
【００４２】
さらには、データ処理やデータ保持に係るコストの増大も想定される。情報処理装置３０による状態判別に必要以上のデータを送受信することは、判別におけるデータ処理量の増加を招くと同時に、センサ端末２０やストレージなどによるデータ保持のコストをいたずらに増加させてしまう。
【００４３】
上記の問題を排除するため、本実施形態では、状態の判別に必要なセンサ情報を確保して判別精度を維持しながら、必要なセンサ端末２０が必要な際に必要なセンサ２１０により収集したセンサ情報を送信してよい。より具体的には、本実施形態に係る情報処理装置３０は、通信コストと判別精度に基づくセンサ情報の送信要否をセンサ端末およびセンサ種別ごとに決定した送信制御モデルを構築し、センサ端末２０は、上記の送信制御モデルに基づいて、センサ情報の送信を行ってよい。
【００４４】
図３は、本実施形態に係るセンサ端末２０が送信制御モデルに基づいて送信するセンサ情報の一例を示す図である。図３に示す一例の場合、センサ端末２０ａ〜２０ｎは、それぞれが有するセンサ２１０ａ−１〜２１０ｎ−ｎにより収集したセンサ情報を、それぞれ異なるタイミングで情報処理装置３０に送信している。この際、センサ端末２０ａ〜２０ｎは、上述したように、情報処理装置３０により構築された送信制御モデルに基づいてセンサ情報の送信を行ってよい。すなわち、本実施形態に係るセンサ端末２０は、情報処理装置３０による状態判別に必要なセンサ情報のみを必要なタイミングで送信することができる。本実施形態に係る上記の特徴によれば、判別に必要なセンサ情報のみを送信することができ、判別精度を維持しながらも、空間的また時間的に通信コストを低減することが可能となる。
【００４５】
以上、本実施形態の概要について説明した。なお、図１を用いて説明したシステム構成はあくまで一例であり、本実施形態に係るシステム構成は係る例に限定されない。例えば、図１では、観測対象１０が２つの内部装置１１０ａおよび１１０ｂを備え、４つのセンサ端末２０ａ〜２０ｄが配置される場合を例に示したが、本実施形態に係る内部装置１１０やセンサ端末２０の数は、本例に限定されない。また、本実施形態に係る観測対象１０とセンサ端末２０のセットは複数存在してもよい。本実施形態に係るシステム構成は、観測対象の特性やネットワーク４０の仕様などに応じて、柔軟に変形され得る。
【００４６】
＜＜２．２．センサ端末２０の機能構成例＞＞
次に、本実施形態に係るセンサ端末２０の機能構成例について説明する。図４は、本実施形態に係るセンサ端末２０の機能ブロック図の一例である。図４を参照すると、本実施形態に係るセンサ端末２０は、センサ２１０、データ通信部２２０、および通信制御部２３０を備える。
【００４７】
（センサ２１０）
本実施形態に係るセンサ２１０は、観測対象１０の内部装置１１０に係るセンサ情報を収集する機能を有する。上述したとおり、本実施形態に係るセンサ端末２０は、複数のセンサ２１０を備えてよい。また、センサ２１０の一例としては、振動センサ、音響センサ、熱センサ、照度センサ、および撮像センサなどが挙げられる。なお、上記はあくまで一例であり、本実施形態に係るセンサ端末２０は、観測対象１０の特性に応じた種々のセンサ２１０を備えてよい。
【００４８】
（データ通信部２２０）
本実施形態に係るデータ通信部２２０は、通信制御部２３０による制御に基づいて、センサ情報を情報処理装置３０に送信する機能を有する。この際、データ通信部２２０は、センサ２１０が収集したセンサ情報がアナログ信号である場合には、当該アナログ信号をデジタル信号に変換して情報処理装置３０に送信してよい。また、データ通信部２２０は、センサ端末２０に係る種々の情報を情報処理装置３０に送信する。上記の情報には、例えば、センサ端末２０を特定する識別子や、センサ端末２０のバッテリ残量に係る情報などが含まれてもよい。
【００４９】
（通信制御部２３０）
本実施形態に係る通信制御部２３０は、情報処理装置３０が構築する送信制御モデルに基づいて、データ通信部２２０にセンサ情報を送信させる機能を有する。より具体的には、通信制御部２３０は、送信制御モデルに基づいて、センサ端末２０が備えるセンサ２１０ごとにセンサ情報の送信要否を判断し、データ通信を制御する。
【００５０】
以上、本実施形態に係るセンサ端末２０の機能構成例について説明した。なお、図４を用いて説明した上記の機能構成はあくまで一例であり、本実施形態に係るセンサ端末２０の機能構成は係る例に限定されない。例えば、本実施形態に係る通信制御部２３０は、センサ端末２０の外部に設けられてもよい。また、センサ端末２０は、図４に示した以外の構成をさらに備えてもよい。センサ端末２０は、例えば、ユーザによる操作を受け付ける入力部やセンサ情報を記憶する記憶部などをさらに備えることができる。本実施形態に係るセンサ端末２０の機能構成は柔軟に変形され得る。
【００５１】
＜＜２．３．情報処理装置３０の機能構成例＞＞
次に、本実施形態に係る情報処理装置３０の機能構成例について説明する。図５は、本実施形態に係る情報処理装置３０の機能ブロック図の一例である。図５を参照すると、本実施形態に係る情報処理装置３０は、学習・判別処理部３１０および、送信制御モデル構築部３２０とを備える。
【００５２】
（学習・判別処理部３１０）
本実施形態に係る学習・判別処理部３１０は、センサ端末２０から受信するセンサ情報とユーザにより入力される状態正解値とに基づいて、観測対象１０の状態判別に係る学習を行う機能を有する。また、本実施形態に係る学習・判別処理部３１０は、上記の学習結果を用いて観測対象１０の状態を判別する判別部として機能する。この際、本実施形態に係る学習・判別処理部３１０は、後述する送信制御モデル構築部３２０により決定された送信要否に基づいて送信されるセンサ情報に基づいて、観測対象１０の状態を判別してよい。このために、本実施形態に係る学習・判別処理部３１０は、図３に示すように、データ受信部３１１０、データ前処理部３１２０、特徴ベクトル処理部３１３０、学習モデル処理部３１４０、状態正解値入力部３１５０、学習データ記憶部３１６０、判別率算出部３１７０、および判別結果出力部３１８０を備える。
【００５３】
（（データ受信部３１１０））
データ受信部３１１０は、ネットワーク４０を介して複数のセンサ端末２０からセンサ情報を受信する機能を有する。また、データ受信部３１１０は、上記のセンサ情報と共に、センサ端末２０に係る種々の情報を受信してよい。
【００５４】
（（データ前処理部３１２０））
データ前処理部３１２０は、データ受信部３１１０が受信したセンサ情報に係る前処理を行う機能を有する。上記の前処理には、例えば、雑音除去フィルタリングや、フーリエ変換を利用したパワースペクトル、スペクトログラムなどの計測値変換などが含まれてよい。なお、本実施形態に係るデータ前処理部３１２０は、上記の例に限らず、受信するセンサ情報の特性に応じた種々の処理を実施してよい。
【００５５】
（（特徴ベクトル処理部３１３０））
特徴ベクトル処理部３１３０は、データ前処理部３１２０により処理されたセンサ情報から当該センサ情報に係る特徴ベクトルを抽出する機能を有する。この際、本実施形態に係る特徴ベクトル処理部３１３０は、センサ情報の特性に応じて特徴ベクトルを抽出することができる。例えば、センサ情報が振動データや音響データである場合、特徴ベクトル処理部３１３０は、周波数領域における卓越周波数、平均周波数などを組み合わせて特徴ベクトルを抽出してもよい。なお、データ前処理部３１２０により処理されたセンサ情報をそのまま特徴ベクトルとしてもよい。
【００５６】
（（学習モデル処理部３１４０））
学習モデル処理部３１４０は、特徴ベクトル処理部３１３０が抽出した特徴ベクトルと、ユーザにより入力される状態正解値とに基づいて、観測対象１０の状態を判別する学習モデルを構築する機能を有する。この際、学習モデル処理部３１４０は、機械学習分野で用いられる種々の手法やアルゴリズムを用いて上記の学習モデルを構築してよい。また、学習モデル処理部３１４０は、構築した学習モデルと抽出された特徴ベクトルとに基づいて観測対象１０の状態判別を行ってよい。
【００５７】
（（状態正解値入力部３１５０））
状態正解値入力部３１５０は、現在観測されている観測対象１０の状態の名称やラベルを入力するための構成である。上記の入力は、ユーザによる入力操作に基づいて行われてよい。このために、本実施形態に係る状態正解値入力部３１５０は、キーボード、マウス、ボタン、スイッチ、タッチパネルなどの入力装置を含んで構成される。
【００５８】
（（学習データ記憶部３１６０））
学習データ記憶部３１６０は、それぞれのセンサ端末２０から送信されるセンサ情報から抽出された特徴ベクトルと、状態正解値入力部３１５０を介して入力される状態正解値とを組み合わせて保存する機能を有する。
【００５９】
（（判別率算出部３１７０））
判別率算出部３１７０は、観測対象１０のある状態における複数の学習データに対し、上述した学習モデルに入力した際の判別の正誤から、状態判別に係る判別率を算出する機能を有する。
【００６０】
（（判別結果出力部３１８０））
判別結果出力部３１８０は、学習モデル処理部３１４０による判別の結果をユーザに提示する機能を有する。このために、本実施形態に係る判別結果出力部３１８０は、例えば、表示装置を含んで構成され得る。表示装置の一例としては、例えば、ＣＲＴ（Ｃａｔｈｏｄｅ  Ｒａｙ  Ｔｕｂｅ）ディスプレイ装置、液晶ディスプレイ（ＬＣＤ：Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）装置、ＯＬＥＤ（Ｏｒｇａｎｉｃ  Ｌｉｇｈｔ  Ｅｍｉｔｔｉｎｇ  Ｄｉｏｄｅ）装置などが挙げられる。
【００６１】
（送信制御モデル構築部３２０）
本実施形態に係る送信制御モデル構築部３２０は、センサ情報の通信コストと学習・判別処理部３１０による判別精度とに基づいてセンサ情報の送信要否をセンサ端末２０およびセンサ２１０ごとに決定する機能を有する。この際、本実施形態に係る送信制御モデル構築部３２０は、強化学習によりセンサ情報の送信要否をセンサ端末２０およびセンサ２１０ごとに決定してよい。すなわち、本実施形態に係る送信制御モデル構築部３２０は、センサ端末２０ごとに固有の送信制御モデルを構築することができる。また、送信制御モデル構築部３２０は、図５に示すように、状態・報酬処理部３２１０、強化学習処理部￥３２２０、およびモデル転送部３２３０を含んで構成される。
【００６２】
（（状態・報酬処理部３２１０））
状態・報酬処理部３２１０は、センサ端末２０ごとの報酬を算出する機能を有する。具体的には、状態・報酬処理部３２１０は、対象となるセンサ端末２０から送信されるセンサ情報から抽出された特徴ベクトルや、当該特徴ベクトルに基づく判別結果、対象以外のセンサ端末２０に係るセンサ情報の送信・非送信状態、判別結果や通信コストを含む指標に基づいた報酬を算出してよい。
【００６３】
（（強化学習処理部３２２０））
強化学習処理部３２２０は、観測対象１０の状態や報酬に応じた行動の価値関数を求め、当該価値関数に基づく送信要否の制御モデルを構築する機能を有する。本実施形態に係る強化学習処理部３２２０が有する機能の詳細については別途後述する。
【００６４】
（（モデル転送部３２３０））
モデル転送部３２３０は、強化学習処理部３２２０により構築される送信制御モデルを対応するセンサ端末２０に送信する機能を有する。
【００６５】
以上、本実施形態に係る情報処理装置３０の機能構成例について説明した。なお、図５を用いて説明した上記の機能構成はあくまで一例であり、本実施形態に係る情報処理装置３０の機能構成は係る例に限定されない。例えば、情報処理装置３０が有する機能は、複数の装置により分散して実現されてもよい。また、データ前処理部３１２０や特徴ベクトル処理部３１３０は、判別に用いられるセンサ情報の特性や、アルゴリズムなどによっては必ずしも必要とされない。
【００６６】
また、上記では、モデル転送部３２３０が構築された送信制御モデルをセンサ端末２０に送信する場合を例に述べたが、本実施形態に係る情報処理装置３０は、上記の送信制御モデルに基づいてセンサ端末２０に係る送信制御を行うことも可能である。本実施形態に係る情報処理装置３０の機能構成は柔軟に変形され得る。
【００６７】
＜＜２．４．情報処理装置３０の動作＞＞
次に、本実施形態に係る情報処理装置３０の動作について説明する。本実施形態に係る情報処理装置３０の動作は、観測対象１０の各状態におけるセンサ情報を収集する学習データ収集フェーズ、上述した価値関数に基づく送信制御モデルを構築する送信制御モデル構築フェーズ、および送信制御モデルに基づいて送信されるセンサ情報により観測対象１０の状態を判別する状態判別フェーズの３つに分類される。
【００６８】
（学習データ収集フェーズ）
まず、本実施形態に係る学習データ収集フェーズについて説明する。図６は、本実施形態に係る学習データ収集フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【００６９】
図６を参照すると、学習データ収集フェーズでは、まずデータ受信部３１１０が観測対象１０のすべての状態において、複数のセンサ端末２０からセンサ情報を受信する（Ｓ１１０１）。
【００７０】
次に、データ前処理部３１２０は、ステップＳ１１０１で受信したセンサ情報に対する周波数フィルタリングなどの前処理を実行する（Ｓ１１０２）。
【００７１】
次に、特徴ベクトル処理部３１３０は、ステップＳ１１０２で前処理されたセンサ情報から特徴ベクトルの抽出を行う（Ｓ１１０３）。図７は、本実施形態に係る特徴ベクトル処理部３１３０が抽出する特徴ベクトルの一例を示す図である。例えば、図７に示すように、観測対象１０の状態が状態Ｓ１〜ＳＭまでのＭ種類存在し、またＮ個のセンサ端末２０において１状態につきｄ個のセンサ情報が取得される場合、特徴ベクトル処理部３１３０は、合計ｄ×Ｎ×Ｍ個の特徴ベクトルを抽出してよい。
【００７２】
次に、状態正解値入力部３１５０は、ユーザにより入力される観測対象１０の状態Ｓ１〜ＳＭに対応する状態正解値を取得する（Ｓ１１０４）。図８は、本実施形態に係る状態正解値の入力について説明するための図である。図８には、観測対象１０と、配置される複数のセンサ端末２０ａおよび２０ｂと、情報処理装置３０と、ユーザＵ１とが示されている。ここで、図８に示すように、ユーザＵ１は、観測対象１０が実際にどのような状態にあるかを目視などにより確認し、当該状態に係る状態正解値を状態正解値入力部３１５０に入力してよい。この際、ユーザＵ１は、例えば、観測対象１０の状態に係るセンサ情報の取得中や取得直後に、状態正解値をキー入力したり、状態に対応付いたボタンなどを押下することで状態正解値を入力したりしてもよい。上記によればセンサ情報や当該センサ情報から抽出された特徴ベクトルと観測対象１０の真の状態とを正しく対応付けることができる。
【００７３】
次に、学習データ記憶部３１６０は、センサ情報やステップＳ１１０３で抽出された特徴ベクトルをステップＳ１１０４で取得された状態正解値と対応付けて保存する（Ｓ１１０５）。
【００７４】
次に、学習モデル処理部３１４０は、後述する送信制御モデル構築フェーズにおいて強化学習の状態として用いられる判別結果を出力する判別モデルを構築する（Ｓ１１０６）。この際、学習モデル処理部３１４０は、センサ端末２０のセンサ２１０から収集されたセンサ情報を１つのみ用いた場合の、観測対象の各状態における特徴ベクトルから判別モデルを構築してよい。例えば、データ受信部３１１０がＮ個のセンサ端末２０からセンサ情報を受信する場合、学習モデル処理部３１４０は、合計Ｎ個の判別モデルを構築できる。
【００７５】
（送信制御モデル構築フェーズ）
次に、本実施形態に係る送信制御モデル構築フェーズについて説明する。上述したように、本実施形態に係る送信制御モデル構築フェーズでは、センサ端末２０によるセンサ情報の送信を制効果的に制御するための送信制御モデルが構築される。
【００７６】
この際、本実施形態に係る送信制御モデル構築部３２０は、強化学習により得られる価値関数に基づいて、センサ情報の送信要否をセンサ端末２０およびセンサ２１０ごとに決定した送信制御モデルを構築することができる。より具体的には、送信制御モデル構築部３２０は、強化学習により得られる送信要否の価値関数の値に対応した確率に基づいて、センサ情報の送信要否をセンサ端末２０およびセンサ２１０ごとに決定してよい。
【００７７】
ここで、本実施形態に用いられる強化学習について説明する。強化学習とは、エージェントにタスクに対する正解行動を与えずに、環境から得られる報酬に基づき状況に応じた適切な行動を学習させる手法である。例えば、強化学習の一種であるＱ学習では、状態ｓと行動ａとの組み合わせに対する価値関数Ｑ（ｓ，ａ）を推定することで、行動の学習を行う。
【００７８】
例えば、エージェントが時刻ｔにおける状態ｓｔで、行動ａｔをとった結果、新たな状態ｓｔ＋１に遷移し、報酬ｒｔ＋１を受け取った場合、価値関数Ｑは、以下の数式（１）により定義され得る。
【００７９】
【数１】
2018124852.tif 000003
【００８０】
ここで、上記の数式（１）におけるａおよびγは、それぞれ学習率および割引率を示し、いずれも０より大きく１未満の範囲をとる。また、数式（１）におけるｒｔ＋１＋γｍａｘａｔ＋１Ｑ（Ｓｔ＋１，ａｔ＋１）−Ｑ（Ｓｔ，ａｔ）によれば、次状態において選択可能な行動の中で最大の価値関数Ｑが取得されることとなる。このように、強化学習においては、エージェントが一連の行動を通じて環境から与えられる報酬が最大となるような方策を学習するこができる。
【００８１】
すなわち、本実施形態においては、それぞれのセンサ端末２０がどのようなタイミングでどのようなセンサ情報を収集し、またどのような動作を行うべきか、という動作モデルを自動的に学習することができる。以下、本実施形態に係る送信制御モデル構築フェーズの動作の流れについて詳細に説明する。図９は、本実施形態に係る送信制御モデル構築フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【００８２】
図９を参照すると、まず、状態・報酬処理部３２１０は、強化学習処理部３２２０に利用されるための状態を算出する。具体的には、状態・報酬処理部３２１０は、学習データごとに、学習データ収集フェーズにおける判別結果とセンサ端末２０からのセンサ情報の送信有無を状態として決定する（Ｓ１２０１）。
【００８３】
続いて、状態・報酬処理部３２１０は、強化学習処理部３２２０に用いられる報酬を算出する（Ｓ１２０２）。例えば、学習モデル処理部３１４０において、Ｍ種類の状態、Ｎ個のセンサ端末２０、ｄ個の特徴ベクトルが得られている場合、ある複数のセンサ端末２０の総計Ｎ個の組み合わせから得られた特徴ベクトルｄ×Ｍ個で判別モデルが構築され、各状態におけるそれぞれの特徴ベクトルに基づいた判別正解率を算出される。なお、上述したように、特徴ベクトルは明示的に定義されなくともよく、例えば、特徴を自動抽出することが可能なアルゴリズムが用いられてもよい。
【００８４】
また、観測対象１０に係る同一の状態の判別においても、判別に用いられるセンサ端末２０およびセンサ２１０の組み合わせによっては、判別精度が異なる場合がある。このため、本実施形態では、複数のセンサ端末２０が存在する場合、当該複数のセンサ端末２０から受信したセンサ情報を組み合わせて、観測対象１０の状態と特徴ベクトルに係る判別モデルが構築されてよい。
【００８５】
図１０は、本実施形態に係るセンサ端末２０の組み合わせによる判別精度の差について説明するための図である。図１０には、センサ端末２０ａおよび２０ｂの組み合わせと、センサ端末２０ｃ〜２０ｅの組み合わせによる状態Ｓ１〜ＳＭの判別率Ｒ１１〜Ｒ１ＭおよびＲ２１〜Ｒ２Ｍがそれぞれ示されている。なお、図１０においてハッチングが施されている判別率は、他方の組み合わせと比較して高い判別率を有することを示す。
【００８６】
ここで、図１０の一例では、状態Ｓ１に係る判別に関し、センサ端末２０ｃ〜２０ｅの組み合わせによる判別率Ｒ２１よりも、センサ端末２０ａおよび２０ｂの組み合わせによる判別率Ｒ１１が高い値を有する場合が示されている。一方、状態Ｓ２に係る判別においては、センサ端末２０ａおよび２０ｂの組み合わせによる判別率Ｒ１２よりも、センサ端末２０ｃ〜２０ｅの組み合わせによる判別率Ｒ２２が高い値を有する場合が示されている。このように、判別率を最大化するセンサ端末２０の組み合わせは各状態により異なることが想定される。
【００８７】
このため、本実施形態では、複数のセンサ端末２０およびセンサ２１０の組み合わせを試行し、各組み合わせにおける判別率と、最も判別率が高くなるセンサ端末２０およびセンサ２１０の組み合わせとが記憶されてよい。
【００８８】
この際、本実施形態に係る状態・報酬処理部３２１０は、下記の数式（２）に基づいて、報酬ｒを決定してよい。
【００８９】
【数２】
2018124852.tif 000004
【００９０】
なお、上記の数式（２）におけるＲは、あるセンサ端末２０およびセンサ２１０に由来するパワースペクトルと他のセンサ端末２０およびセンサ２１０に由来するパワースペクトルとの組み合わせにより得られる判別率を示している。また、上記の数式（２）におけるＣは、センサ情報の送信に係るセンサ端末２０の通信コストの総計を示している。すなわち、上記の数式（２）によれば、判別率Ｒが高いほど、また通信コストＣが低いほど報酬ｒは高くなることがわかる。このため、同一の判別率Ｒであれば通信コストＣが低い行動が選択されやすくなる。
【００９１】
なお、本実施形態に係る通信コストは、送信されるセンサ情報のデータ量またはセンサ情報の送信に係るセンサ端末２０の消費電力のうち少なくともいずれかを含んでよい。上記のデータ量および消費電力は、例えば、センサ情報の種別、センサ２１０の個数、送信時間、帯域幅、電波強度などに基づいて算出され得る。
【００９２】
再び図９を参照して、送信制御モデル構築フェーズにおける情報処理装置３０の動作の流れについて説明を続ける。ステップＳ１２０２において報酬が決定されると、強化学習処理部３２２０は、観測対象１０の各状態において、状態と報酬とに基づく行動を繰り返すことで価値関数Ｑを求め、送信制御モデルを構築する（Ｓ１２０３）。
【００９３】
また、図１１は、ステップＳ１２０３における強化学習の動作モデルを示す図である。ここで、図１１に示される状態は、各センサ端末２０やセンサ２１０に由来する判別結果や、他のセンサ端末２０によるセンサ情報の送信有無などを含む。また、図１１に示される行動は、センサ端末２０およびセンサ２１０ごとに係るセンサ情報の送信有無、すなわちセンサ情報を送信するか否かを示す。また、図１１における報酬は、上述したとおり、判別率および通信コストに基づいたものであってよい。この際、強化学習処理部３２２０は、価値関数Ｑの変化率などが十分に収束するまで繰り返し行動を行う。
【００９４】
なお、送信制御モデル構築フェーズにおける初期の段階においては、センサ端末２０およびセンサ２１０をランダムに組み合わせて得られるセンサ情報の組み合わせを状態としてもよい。この際、強化学習処理部３２２０は、例えば、ε‐ｇｒｅｅｄｙなどの手法を用いることができる。すなわち、強化学習処理部３２２０による強化学習では、確率εでランダムに行動を選択し、確率１−εで価値関数Ｑが最大となる行動を選択してよい。このように、ランダムに行動する可能性を残すことで、推定する価値関数Ｑが局所解に陥ることを防止することができる。
【００９５】
ここで、本実施形態に係る価値関数Ｑについて詳細に説明する。図１２は、時刻ｔにおける価値関数Ｑを表形式で示した一例である。図１２に示すように、本実施形態では、各センサ端末２０に由来する判別率やセンサ情報の送信状態に係る状態ｓと、送信・非送信に係る行動（それぞれａ１およびａ２）に対する価値関数Ｑが求められる。この際、状態ｓの数は、各センサ端末２０に由来する判別結果Ｍ種類と各センサ端末２０による行動（送信または非送信）の組み合わせ２のＮ乗により、最大２ＮＭの状態数となる。
【００９６】
また、構築された価値関数Ｑに基づく各センサ端末２０の行動（送信または非送信）は、以下のとおり決定されてよい。例えば、ある状態Ｓｎにおいて、送信に係る価値関数Ｑ（ｓｎ，ａ１）が非送信に係る価値関数（ｓｎ，ａ２）よりも大きい場合、エージェントは、センサ情報を送信する選択をし、非送信に係る価値関数（ｓｎ，ａ２）が送信に係る価値関数Ｑ（ｓｎ，ａ１）よりも大きい場合には、エージェントは、センサ情報を非送信とする選択をしてよい。
【００９７】
また、例えば、０〜１までの一様な乱数を発生させ、当該乱数が（送信に係る価値関数）÷（送信・非送信に係る価値関数の和）の値未満であれば、エージェントは、センサ情報を送信し、上記の値以上であれば非送信としてもよい。
【００９８】
以上説明した手法によれば、観測対象１０の各状態において、判別率が高く、かつ通信コストが低いセンサ端末２０およびセンサ２１０の組み合わせによるセンサ情報の送信を行う可能性が高いモデルを構築することが可能となる。
【００９９】
また、図９のステップＳ１２０３において送信制御モデルが構築されると、モデル転送部３２３０は、上記の送信制御モデルをセンサ端末２０に送信する（Ｓ１２０４）。
【０１００】
（状態判別フェーズ）
次に、本実施形態に係る状態判別フェーズについて説明する。図１３は、本実施形態に係る状態判別フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【０１０１】
図１３を参照すると、まず、データ受信部３１１０は、複数のセンサ端末２０から送信制御モデルに基づいて送信されるセンサ情報を受信する（Ｓ１３０１）。この際、センサ端末２０は、都度自身のデータから抽出される特徴ベクトルから判別結果を求め、通信制御部２３０により他のセンサ端末２０によるセンサ情報の送信有無を確認する。また、通信制御部２３０は、上記の情報を送信制御モデルに入力することで、状態と対応した行動（送信または非送信）を選択し、センサ情報の送信を制御する。
【０１０２】
なお、この際、他のセンサ端末２０に係るセンサ情報の送信状況については、他のセンサ端末２０によるセンサ情報の送信有無をセンサ端末２０が自身で直接受信してもよいし、情報処理装置３０を介して受信してもよい。
【０１０３】
次に、情報処理装置３０の学習モデル処理部３１４０は、ステップＳ１３０１において受信した各センサ端末２０のセンサ情報から得た特徴ベクトルに対し、センサ端末２０の組み合わせに対応した判別モデルを用いて状態判別を行う（Ｓ１３０２）。
【０１０４】
次に、判別結果出力部３１８０は、ステップＳ１３０２で取得された判別結果を出力し（Ｓ１３０３）、情報処理装置３０はセンサ情報の受信待ち状態に復帰する。
【０１０５】
＜＜２．５．第１の実施形態による効果＞＞
以上、本実施形態に係る第１の実施形態について説明した。上述したように、本実施形態に係る送信制御モデル構築部３２０は、センサ情報の通信コストと判別精度とに基づいて、センサ情報の送信要否をセンサ端末２０およびセンサ２１０ごとに決定する機能を有する。また、本実施形態に係る学習・判別処理部３１０は、送信制御モデル構築部により決定された送信要否に基づいて送信されるセンサ情報に基づいて、観測対象の状態を判別する機能を有する。
【０１０６】
本実施形態に係る情報処理装置３０が有する上記の特徴によれば、最適なセンサ端末２０の配置が分からないユーザであっても、配置されたセンサ端末２０の中から最適なセンサ端末２０およびセンサ２１０の組み合わせを自動的に選択して利用することが可能となる。
【０１０７】
また、本実施形態に係る情報処理装置３０によれば、通信帯域やバッテリ容量などのリソースに制限がある環境であっても、センサ情報の送信に係る通信コストを抑制しつつ高精度な状態検知が可能となる。
【０１０８】
また、本実施形態に係る情報処理装置３０によれば、センサ端末２０の通信コストを抑制することで、バッテリ寿命を延命し、システムを長期間稼働させることが可能となる。
【０１０９】
また、本実施形態に係る情報処理装置３０によれば、不必要なセンサ情報の送信を抑制することで、低帯域な無線通信であっても、サンプリング周波数が高いセンサ情報を転送することが可能となる。
【０１１０】
＜３．第２の実施形態＞
＜＜３．１．第２の実施形態の概要＞＞
次に、本発明に係る第２の実施形態について説明する。本発明の第２の実施形態は、第１の実施形態と同様、センサ情報に基づいた観測対象１０の状態判別において、判別精度および通信コストの最適化を目的としたものである。一方、本発明の第２の実施形態は、第１の実施形態とは異なり、強化学習における状態が明確に定義できない場合における価値関数の構築に着目したものである。
【０１１１】
例えば、センサ端末２０やセンサ２１０の数が膨大である場合、すべての組み合わせを網羅した学習モデルの構築が困難である場合も想定される。また、センサ情報の性質によっては、完全に同一の値が取得されることが稀なケースも想定される。このため、本実施形態に係る情報処理装置３０は、強化学習にニューラルネットワークを用いることで、未知の組み合わせに係る価値関数を近似することを可能とする。より具体的には、本実施形態に係る送信制御モデル構築部は、センサ情報とセンサ情報を送信するセンサ端末２０の情報とを前記ニューラルネットワークに入力することで、価値関数を近似してよい。
【０１１２】
図１４は、本実施形態に係る送信制御モデルの構築において価値関数の近似に用いられるニューラルネットワークのネットワーク構成例を示す図である。本実施形態に係るニューラルネットワークは、入力される状態に基づく演算を行い、強化学習の行動に対応した価値関数Ｑを出力する。ここで、本実施形態に係るニューラルネットワークには、例えば、非特許文献２で記載されるＤｅｅｐ  Ｑ−Ｎｅｔｗｏｒｋ（ＤＱＮ）が用いられてよい。ＤＱＮとは、畳み込みニューラルネットワーク（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｏｗｏｒｋ：ＣＮＮ）と強化学習を組み合わせた深層強化学習の一種である。本実施形態に係るニューラルネットワークは、例えば、図１４に示すように、入力層、畳み込みニューラルネットワーク層、全結合層、および出力層から構成されてよい。
【０１１３】
ここで、入力層には、センサ情報から抽出される特徴ベクトルや各センサ端末２０におけるセンサ情報の送信有無に係る情報が入力されてよい。また、畳み込みニューラルネットワーク層は、畳み込み層およびプーリング層などから構成されてよい。プーリング層では、例えば、最大プーリングなどの圧縮処理が行われる。また、本実施形態に係るニューラルネットワークでは、畳み込みニューラルネットワーク層により抽象化された情報が全結合層に入力され、最終的に出力層から価値関数Ｑが出力される。
【０１１４】
以下、上記で説明したニューラルネットワークを用いた強化学習の流れについて詳細に説明する。なお、以下の説明においては、第１の実施形態との差異について中心に述べ、第１の実施形態と共通する構成、機能、および効果などについては説明を省略する。
【０１１５】
＜＜３．２．情報処理装置３０の動作＞＞
まず、本実施形態と第１の実施形態との差異について説明する。本発明の第１の実施形態では、送信制御モデル構築フェーズにおける強化学習の状態に各センサ端末２０に由来する判別結果を用いた。すなわち、第１の実施形態における状態の種類は、観測対象１０の状態の数に等しいといえる。
【０１１６】
一方、本発明の第２の実施形態では、強化学習の状態として各センサ端末２０から送信されるセンサ情報から抽出される特徴ベクトルを用いてよい。学習データ収集フェーズにおいて得られる特徴ベクトル、および当該特徴ベクトルの組み合わせは有限であるが、実際の送信制御を行う状態判別フェーズでは、未知の特徴ベクトルに係る組み合わせが状態として利用されることとなる。このため、第２の実施形態では、送信制御モデルをセンサ端末２０の数だけニューラルネットワークを用いた強化学習により構築することで、上記に対応する。
【０１１７】
図１５は、本実施形態に係る学習データ収集フェーズにおける情報処理装置３０の動作の流れを示すフローチャートである。
【０１１８】
上述したように、本発明の第２の実施形態では、強化学習の状態として、各センサ端末２０に由来する判別結果ではなく、センサ端末２０から送信されるセンサ情報から抽出された特徴ベクトルが直接利用される。このため、第２の実施形態に係る学習データ収集フェーズでは、第１の実施形態の学習データ収集フェーズにおいて行われる判別モデルの構築が不要となる。
【０１１９】
ここで、図１５と図６を比較すると、第２の実施形態では、図６に記載されるステップＳ１１０６の処理が行われないことがわかる。なお、ステップＳ１１０６以外の処理については、第２の実施形態においても、第１の実施形態と同様の処理が行われてよい。すなわち、第２の実施形態に係るステップＳ２１０１〜Ｓ２１０５は、第１の実施形態に係るステップＳ１１０１〜Ｓ１１０５にそれぞれ対応する。
【０１２０】
なお、第２の実施形態に係る送信制御モデル構築フェーズ、および状態判別フェーズにおける情報処理装置３０の動作の流れについても、基本的には、第１の実施形態と同様であってよい。一方、本実施形態に係るニューラルネットワークを用いた強化学習では、例えば、あるセンサ端末２０から送信されるセンサ情報から抽出されたスペクトログラムなどの特徴ベクトルと、他のセンサ端末２０に係るセンサ情報の送信状況が入力されてよい。
【０１２１】
例えば、センサ端末２０の総数がＮ個である場合、本実施形態に係るニューラルネットワークには、学習対象となるセンサ端末を除いたＮ−１個の送信状況が入力されることとなる。この際、他のセンサ端末２０に係るＮ−１個の送信状況としては、センサ情報がされている場合には１が、送信されていない場合には０が入力されてもよい。
【０１２２】
また、稼働初期においては、各センサ端末２０からランダムにセンサ情報が送信されてよい。本実施形態に係るニューラルネットワークによれば、上記の情報に基づく行動を行い、報酬を獲得することで価値関数Ｑを出力する送信制御モデルを構築することが可能となる。なお、送信制御モデル構築後の情報処理装置３０およびセンサ端末２０の動作については、第１の実施形態と同様であってよい。
【０１２３】
以上説明したように、本実施形態に係る情報処理装置３０によれば、強化学習における状態が数値データなどにより明確に定義されていない未知の状況であっても、ニューラルネットワークにより価値関数を近似することが可能となる。また、本実施形態に係る情報処理装置３０によれば、深層強化学習を用いることで、より精度の高い価値関数を推定することが可能となる。
【０１２４】
＜４．ハードウェア構成例＞
次に、本発明に係る情報処理装置３０のハードウェア構成例について説明する。図１６は、本発明に係る情報処理装置３０のハードウェア構成例を示すブロック図である。図１６を参照すると、情報処理装置３０は、例えば、ＣＰＵ８７１と、ＲＯＭ８７２と、ＲＡＭ８７３と、ホストバス８７４と、ブリッジ８７５と、外部バス８７６と、インターフェース８７７と、入力部８７８と、出力部８７９と、記憶部８８０と、ドライブ８８１と、接続ポート８８２と、通信部８８３と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
【０１２５】
（ＣＰＵ８７１）
ＣＰＵ８７１は、例えば、演算処理装置又は制御装置として機能し、ＲＯＭ８７２、ＲＡＭ８７３、記憶部８８０、又はリムーバブル記録媒体９０１に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
【０１２６】
（ＲＯＭ８７２、ＲＡＭ８７３）
ＲＯＭ８７２は、ＣＰＵ８７１に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。ＲＡＭ８７３には、例えば、ＣＰＵ８７１に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
【０１２７】
（ホストバス８７４、ブリッジ８７５、外部バス８７６、インターフェース８７７）
ＣＰＵ８７１、ＲＯＭ８７２、ＲＡＭ８７３は、例えば、高速なデータ伝送が可能なホストバス８７４を介して相互に接続される。一方、ホストバス８７４は、例えば、ブリッジ８７５を介して比較的データ伝送速度が低速な外部バス８７６に接続される。また、外部バス８７６は、インターフェース８７７を介して種々の構成要素と接続される。
【０１２８】
（入力部８７８）
入力部８７８には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、マイク、及びレバー等が用いられる。さらに、入力部８７８としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ（以下、リモコン）が用いられることもある。
【０１２９】
（出力部８７９）
出力部８７９には、例えば、ＣＲＴ（Ｃａｔｈｏｄｅ  Ｒａｙ  Ｔｕｂｅ）、ＬＣＤ、又は有機ＥＬ等のディスプレイ装置（表示装置）、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
【０１３０】
（記憶部８８０）
記憶部８８０は、各種のデータを格納するための装置である。記憶部８８０としては、例えば、ハードディスクドライブ（ＨＤＤ）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
【０１３１】
（ドライブ８８１）
ドライブ８８１は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体９０１に記録された情報を読み出し、又はリムーバブル記録媒体９０１に情報を書き込む装置である。
【０１３２】
（リムーバブル記録媒体９０１）
リムーバブル記録媒体９０１は、例えば、ＤＶＤメディア、Ｂｌｕ−ｒａｙ（登録商標）メディア、ＨＤ  ＤＶＤメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体９０１は、例えば、非接触型ＩＣチップを搭載したＩＣカード、又は電子機器等であってもよい。
【０１３３】
（接続ポート８８２）
接続ポート８８２は、例えば、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ  Ｓｅｒｉａｌ  Ｂｕｓ）ポート、ＩＥＥＥ１３９４ポート、ＳＣＳＩ（Ｓｍａｌｌ  Ｃｏｍｐｕｔｅｒ  Ｓｙｓｔｅｍ  Ｉｎｔｅｒｆａｃｅ）、ＲＳ−２３２Ｃポート、又は光オーディオ端子等のような外部接続機器９０２を接続するためのポートである。
【０１３４】
（外部接続機器９０２）
外部接続機器９０２は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はＩＣレコーダ等である。
【０１３５】
（通信部８８３）
通信部８８３は、ネットワーク９０３に接続するための通信デバイスであり、例えば、有線又は無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、又はＷＵＳＢ（Ｗｉｒｅｌｅｓｓ  ＵＳＢ）用の通信カード、光通信用のルータ、ＡＤＳＬ（Ａｓｙｍｍｅｔｒｉｃ  Ｄｉｇｉｔａｌ  Ｓｕｂｓｃｒｉｂｅｒ  Ｌｉｎｅ）用のルータ、又は各種通信用のモデム等である。また、内線電話網や携帯電話事業者網等の電話網に接続してもよい。
【０１３６】
＜４．まとめ＞
以上説明したように、本発明に係る情報処理装置３０は、センサ端末２０から送信されるセンサ情報の通信コストと当該センサ情報に基づく判別精度とに基づいて、センサ情報の送信要否をセンサ端末２０およびセンサ２１０ごとに決定した送信制御モデルを構築することができる。また、本発明に係る情報処理装置３０は、上記の送信制御モデルに基づいてセンサ端末２０が送信するセンサ情報を用いて、観測対象１０の状態を判別することができる。係る構成によれば、判別精度を維持しながらセンサ情報の通信コストを大きく低減することが可能となる。
【０１３７】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【０１３８】
例えば、上記実施形態では、主に観測対象１０が装置などである場合を例に説明したが、本発明に係る観測対象１０は、環境であってもよい。例えば、情報処理装置３０は、オフィスや部屋などの環境で得られたセンサ情報を用いて、当該環境でどのような活動が行われているかを判別することも可能である。上記の活動には、例えば、人の歩行や、会議の実施、キーボードへの入力作業などが想定される。
【０１３９】
また、上記実施形態では、主に送信制御モデルの構築について詳細に述べたが、本発明では、データ通信や判別結果の視認性、知覚性向上についても種々の応用がなされてよい。例えば、センサ端末２０や情報処理装置３０にＬＥＤなどの装置を搭載することで、センサ情報の送受信や判別結果などの情報をより直観的にユーザに提示することも可能である。
【０１４０】
また、本発明の情報処理装置３０の処理に係る各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、情報処理装置３０の処理に係る各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
【符号の説明】
【０１４１】
１０      観測対象
２０      センサ端末
２１０    センサ
２２０    データ通信部
２３０    通信制御部
３０      情報処理装置
３１０    学習・判別処理部
３１１０  データ受信部
３１２０  データ前処理部
３１３０  特徴ベクトル処理部
３１４０  学習モデル処理部
３１５０  状態正解値入力部
３１６０  学習データ記憶部
３１７０  判別率算出部
３１８０  判別結果出力部
３２０    送信制御モデル構築部
３２１０  状態・報酬処理部
３２２０  強化学習処理部
３２３０  モデル転送部
【図１】
2018124852.tif 000005
【図２】
2018124852.tif 000006
【図３】
2018124852.tif 000007
【図４】
2018124852.tif 000008
【図５】
2018124852.tif 000009
【図６】
2018124852.tif 000010
【図７】
2018124852.tif 000011
【図８】
2018124852.tif 000012
【図９】
2018124852.tif 000013
【図１０】
2018124852.tif 000014
【図１１】
2018124852.tif 000015
【図１２】
2018124852.tif 000016
【図１３】
2018124852.tif 000017
【図１４】
2018124852.tif 000018
【図１５】
2018124852.tif 000019
【図１６】
2018124852.tif 000020