(57)【要約】【課題】センサ−センタ間通信量を削減しながら、分類器を更新するための分類ラベルを追加／変更するために必要なセンサデータ（入力）−分類ラベル（出力）の対からなる学習用データをデータセンタが取得可能なセンサネットワークを提供することである。【解決手段】本発明の一態様は、１つ以上のセンサノードと、データセンタとを有するセンサネットワークであって、センサノードは、オートエンコーダのエンコーダ部分によってセンサデータを符号化する符号化部と、符号化されたデータを送信する送信部とを有し、データセンタは、オートエンコーダのエンコーダ部分によってセンサデータから符号化されたデータを受信する受信部と、オートエンコーダのデコーダ部分によって符号化されたデータを復号化する復号化部と、復号化されたデータを記憶する記憶部とを有するセンサネットワークに関する。【選択図】図７
2019220104.tif 000002
【特許請求の範囲】
【請求項１】
オートエンコーダのエンコーダ部分によってセンサデータを符号化する符号化部と、
前記符号化されたデータを送信する送信部と、
を有する装置。
【請求項２】
前記センサデータ又は前記符号化されたデータによって前記センサデータを分類する分類器を更に有し、
前記送信部は、前記符号化されたデータと分類結果とを送信する、請求項１記載の装置。
【請求項３】
前記エンコーダ部分は、
前記オートエンコーダの入力層と、
前記入力層に後続する中間層からユニット数が最小となる中間層までの１つ以上の中間層とからなる、請求項１又は２記載の装置。
【請求項４】
オートエンコーダのエンコーダ部分によってセンサデータから符号化されたデータを受信する受信部と、
前記オートエンコーダのデコーダ部分によって前記符号化されたデータを復号化する復号化部と、
前記復号化されたデータを記憶する記憶部と、
を有する装置。
【請求項５】
前記符号化されたデータ又は前記復号化されたデータによって前記センサデータを分類する分類器を更に有し、
前記記憶部は、前記復号化されたデータと分類結果とを記憶する、請求項４記載の装置。
【請求項６】
前記分類器は、前記記憶部に記憶される前記復号化されたデータによって学習される、請求項４又は５記載の装置。
【請求項７】
前記デコーダ部分は、
前記オートエンコーダのエンコーダ部分の中間層に後続する１つ以上の中間層と、
前記オートエンコーダの出力層とからなる、請求項４乃至６何れか一項記載の装置。
【請求項８】
１つ以上のセンサノードと、
データセンタと、
を有するセンサネットワークであって、
前記センサノードは、
オートエンコーダのエンコーダ部分によってセンサデータを符号化する符号化部と、
前記符号化されたデータを送信する送信部と、
を有し、
前記データセンタは、
オートエンコーダのエンコーダ部分によってセンサデータから符号化されたデータを受信する受信部と、
前記オートエンコーダのデコーダ部分によって前記符号化されたデータを復号化する復号化部と、
前記復号化されたデータを記憶する記憶部と、
を有するセンサネットワーク。
【請求項９】
センサノードが、オートエンコーダのエンコーダ部分によってセンサデータを符号化するステップと、
前記センサノードが、前記符号化されたデータを送信するステップと、
データセンタが、前記符号化されたデータを受信するステップと、
前記データセンタが、前記オートエンコーダのデコーダ部分によって前記符号化されたデータを復号化するステップと、
前記データセンタが、前記復号化されたデータを記憶するステップと、
を有する通信方法。
【請求項１０】
請求項１乃至７何れか一項記載の装置の各部としてプロセッサを機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、センサネットワークに関し、特にセンシング／データ通信機能だけでなくセンサデータを処理する機能が備えられたセンサノードを有するセンサネットワークに関する。
【背景技術】
【０００２】
センサノードで観測されたセンサデータをそのままデータセンタに送る場合、センサノードの数が増えるとデータセンタへの通信量が増大し、可能な通信量の限界（帯域）を超えてしまう可能性がある。そこで、観測されたセンサデータをセンサノードにおいて処理し、分類ラベルを付したり、知りたいイベントが起こった時だけそれを検出し、データセンタへの通信情報量を減らすことが考えられている。
【０００３】
近年、センサノードが省電力で動作し、センシング及び通信の機能だけでなく、ある程度の情報処理機能を持つようになり、以上のような分類／検出機能を持たせることが可能になっている。この分野は、エッジコンピューティング（Edge Computing）と呼ばれている（非特許文献１）。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Aziz Nasridinov, Sun-Young Ihm, Young-Sik Jeong, and Young-Ho Park, "Event Detection in Wireless Sensor Networks: Survey and Challenges", Mobile, Ubiquitous, and Intelligent Computing pp .585-590 (2014).
【非特許文献２】Diederik P Kingma, Max Welling, "Auto-Encoding Variational Bayes", arXiv: 1312.6114 [stat.ML] (2013). https://arxiv.org/abs/1312.6114.
【非特許文献３】Carl Doersch, "Tutorial on Variational Autoencoders", arXiv: 1606.05908 [stat.ML] (2016). https://arxiv.org/abs/1606.05908.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
センサ−センタ間通信量を減らすために単に分類ラベルや検出イベントだけをデータセンタに送るような方法では、運用途中で知りたい分類ラベルや検出イベントを変更したい場合、記憶容量、処理能力、電力が豊富なデータセンタ側で学習データとなるセンサデータ（入力）−分類ラベル（出力）の組データが必要となる。しかしながら、センサノードからセンサデータが提供されないため、学習用のセンサデータ（入力）がデータセンタにないという問題がある。
【０００６】
また、センサノード側には、分類器／検出器があれば、センサデータ（入力）と分類ラベル（出力）の対からなる学習用データを蓄積することができる。しかしながら、各々のセンサノードのみから学習に必要な量の学習用データを集めることが困難であったり、センサノードに搭載されたプロセッサの処理能力では大規模データの学習が困難であったり、センサノード毎に学習用データが異なるとセンサノード毎に分類器の性能が変わってしまう等の問題があり、センサノードによる分類器の学習は現実的ではない。
【０００７】
上述した問題を鑑み、本発明の課題は、センサ−センタ間通信量を削減しながら、分類器を更新するための分類ラベルを追加／変更するために必要なセンサデータ（入力）−分類ラベル（出力）の対からなる学習用データをデータセンタが取得可能なセンサネットワークを提供することである。
【課題を解決するための手段】
【０００８】
上記課題を解決するため、本発明の一態様は、オートエンコーダのエンコーダ部分によってセンサデータを符号化する符号化部と、前記符号化されたデータを送信する送信部と、を有する装置に関する。
【０００９】
本発明の他の態様は、オートエンコーダのエンコーダ部分によってセンサデータから符号化されたデータを受信する受信部と、前記オートエンコーダのデコーダ部分によって前記符号化されたデータを復号化する復号化部と、前記復号化されたデータを記憶する記憶部と、を有する装置に関する。
【発明の効果】
【００１０】
本発明によると、センサ−センタ間通信量を削減しながら、分類器を更新するための分類ラベルを追加／変更するために必要なセンサデータ（入力）−分類ラベル（出力）の対からなる学習用データをデータセンタが取得可能なセンサネットワークを提供することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の一実施例によるオートエンコーダを示す概略図である。
【図２】本発明の一実施例による分類器に用いられるニューラルネットワークを示す概略図である。
【図３】本発明の一実施例による分類器に用いられる畳み込みニューラルネットワークを示す概略図である。
【図４】本発明の一実施例によるオートエンコーダに用いられる畳み込みニューラルネットワークを示す概略図である。
【図５】本発明の一実施例によるオートエンコーダに用いられる畳み込みニューラルネットワークを示す概略図である。
【図６】本発明の一実施例によるオートエンコーダの中間層からの情報を入力とする分類器を示す概略図である。
【図７】本発明の実施例１によるセンサネットワークの構成を示すブロック図である。
【図８】本発明の実施例１によるオートエンコーダを示す概略図である。
【図９】本発明の実施例１によるセンサネットワークの変形例の構成を示すブロック図である。
【図１０】本発明の実施例２によるセンサネットワークの構成を示すブロック図である。
【図１１】本発明の実施例２による分類器を示す概略図である。
【図１２】本発明の実施例３によるセンサネットワークの構成を示すブロック図である。
【図１３】本発明の実施例３による分類器を示す概略図である。
【図１４】本発明の実施例４によるセンサネットワークの構成を示すブロック図である。
【図１５】本発明の実施例４による分類器を示す概略図である。
【図１６】本発明の実施例５によるセンサネットワークの構成を示すブロック図である。
【図１７】本発明の実施例５による分類器を示す概略図である。
【図１８】本発明の実施例６によるセンサネットワークの構成を示すブロック図である。
【図１９】ＭＮＩＳＴの手書き数字データと分類ラベルとを示す図である。
【図２０】本発明によるオートエンコーダ及び分類器による結果を示す図である。
【図２１】本発明による分類ラベルを追加した場合の認識率の変化を示す図である。
【発明を実施するための形態】
【００１２】
以下の実施例では、センサノードとデータセンタとを含むセンサネットワークが開示される。センサノードはデータを圧縮する符号器を有し、データセンタは圧縮されたデータを復元する復号器を有する。また、センサデータに分類ラベルを付与したり、知りたいイベントが起こったことを検出する分類器／検出器が、センサノード又はデータセンタに備えられる。
【００１３】
例えば、符号／復元器として、オートエンコーダと呼ばれる圧縮符号(encoder)復元復号(decoder)器が利用できる。この圧縮は、一般的には不可逆である。オートエンコーダには、観測及び蓄積されたセンサデータを用いて入力データと出力データとが同一な学習データが与えられ、入力データと同じデータを出力データとして出力するように学習された人工ニューラルネットワークである。また、分類器／検出器には、機械学習などで使用されているものが利用可能であり、分類器にはSupport Vector Machine（SVM）やニューラルネットワークなどが利用可能であり、検出器には検出率を最大にする閾値による信号検出などが利用可能である。
【００１４】
センサノードに配置されたオートエンコーダのエンコーダ部分で入力信号を圧縮し、圧縮したデータをセンサノードからデータセンタへ通信することによって、センサ−センタ通信量を減らし、データセンタに配置された当該オートエンコーダのデコーダ部分で圧縮したデータを元の入力データへ復元することができる。
【００１５】
このように、センサノードの分類器の出力である分類ラベルのみでなく、データセンタに入力データが圧縮された形で送信され、データセンタにおいて入力データそのものが復元される。その際、同時に分類器を用いて分類ラベルがセンサノードで出力され、データセンタではセンサデータだけでなく分類ラベルも同時に収集され、その後の再学習にセンサデータ／分類ラベルの組データとして利用されるようにしてもよい。これにより、最初に想定した分類ラベル以外のものに分類ラベルを新規に割り当てることを所望する場合、復元した入力データに新規分類ラベルが割り当てられてもよく、この学習データを新たに加えることによって分類器のみを新たに再学習することができる。
【００１６】
一方、オートエンコーダは、各センサノード毎に各々別に十分収集量があるデータを用いて予め学習され、入力データを出力で復元できるようにしてもよい。あるいは、別々でなく、全ての入出力データの組を使って、オートエンコーダを学習し、そのオートエンコーダのエンコーダ部分を全てのセンサノードに、データセンタ側もオートエンコーダのデコーダ部分を配置してもよい。この際、分類ラベルは不要とすることができる。
【００１７】
［オートエンコーダ］
まず、図１を参照して、本発明の一実施例によるオートエンコーダ（AE）を説明する。本実施例によるオートエンコーダは、データセンタにセンサデータを圧縮して送信する圧縮符号／復号器として用いられる。図１は、本発明の一実施例によるオートエンコーダを示す概略図である。
【００１８】
図１に示されるように、オートエンコーダは、層状のニューラルネットワークの一種であり、圧縮符号(encoder)／復元復号(decoder)器を備える（詳細については、例えば、非特許文献２及び３を参照されたい）。図示された具体例において、白丸はニューラルネットワークの各ユニットを表し、ユニット間の線は当該ユニット間の重み（リンク）を表す。図示された具体例では、オートエンコーダは５層構造からなり、５次元の入力層からの出力が３つの中間層（ここで、真ん中の中間層において２次元に圧縮される）を経由して、５次元の出力層から入力層に入力されたデータを再現するようデータが出力される。すなわち、エンコーダ部分では、入力されたデータの次元を圧縮するため、層が左から右に進むに従って徐々にユニット数が減らされ、デコーダ部分では、中間層で減らされたユニット数を出力層で入力層と同じユニット数にして、入力された情報が復元される。
【００１９】
通常のオートエンコーダは、エンコーダ部分とデコーダ部分とが複数の層からなり、砂時計型になっていて、真ん中の中間層が最もユニット数が少なくなっている。この最もユニット数が少ない部分の情報をセンサノードとデータセンタとの間の通信に利用し、通信量を削減する。センサノード側にはエンコーダ部分（入力層からユニット数が最小となる中間層までの層）が配置され、データセンタ側にはデコーダ部分（ユニット数が最小となる中間層に後続する中間層から出力層までの層）が配置される。
【００２０】
また、使用されるオートエンコーダは、センサノードにおいて観測されたセンサデータを学習用の入出力データとして予め学習させておくことによって、入力を出力に再現できるようにしておく。このAE用の学習データは、通常、ある事象が起こる想定された確率分布からサンプリングされたデータがその分布の特徴を捉えられるだけの数があればよい。サンプル点以外のデータ点はAEの汎化能力で補間できると考えられる。
【００２１】
学習方法は、使用されるオートエンコーダの種類に応じて様々考えられる。標準的なオートエンコーダは、誤差逆伝搬などのニューラルネットワークのための学習方法を利用して、入出力データ間の二乗誤差などのロス関数を減らすようにユニット間の重みを変更させることによって学習可能である。あるいは、Variational Autoencoder(VAE)と呼ばれるものも使用できる。通常のオートエンコーダの入出力データ間のロス関数に、真ん中の中間層での圧縮した情報が設定した確率分布になるような項を加えて新しいロス関数を定義し、エンコーダ部分が観測変数（観測されるセンサデータ）から潜在変数（分類ラベルや筆跡などの観測からは直接得られない情報）を求める推論モデルになり、デコーダ部分が潜在変数から観測変数を求める生成モデルになるようにしてもよい。この場合、圧縮した情報と数字などのラベル情報との間の対応関係などから様々なことがわかる。
【００２２】
［分類器］
次に、図２を参照して、本発明の一実施例による分類器を説明する。本実施例による分類器は、観測されたセンサデータに分類ラベルを付ける。本実施例による分類器は、入力されたデータを予め用意された分類ラベルのいずれかに分類する。学習用に予め用意された入力データと当該入力データに対応する正解の分類ラベルとを対応付けた学習用データの集合を用いて、分類器のパラメータを学習する。
【００２３】
学習済みの分類ラベルにない新たな分類ラベルを追加したい場合や、分類ラベルを変更したい場合には、新たな分類ラベルに対応した学習用データ集合を用意し、分類器のパラメータを再度学習させる。分類器は、SVM等の周知の機械学習法を用いることもできるが、本実施例では、例えば、オートエンコーダと同じように、ニューラルネットワークで分類器を構成する場合を説明する。
【００２４】
図２は、本発明の一実施例による分類器に用いられるニューラルネットワークを示す概略図である。図示された実施例による分類器は、５次元の入力層、３次元の中間層及び２次元の出力層を含む３層構造からなり、各出力ユニットが何らかの分類ラベルに割り当てられ、出力値が大きいユニットが示すラベルが入力データに対する分類ラベルとして決定される。
【００２５】
分類器に用いられるニューラルネットワークは、通常、図２に示されるように、入力層には多次元のセンサデータが入力され、排他的に表現された分類ラベルが出力される。各分類ラベルは、各出力ユニットに割り当てられる。
【００２６】
分類器に用いられるニューラルネットワークの具体例は、例えば、図３に示される構造を有してもよく、単純に２８×２８のマトリクスを８ビット入力とした数字入力を、出力として０〜９までの数字のどれかに分類するものであってもよく、通常、図３に示されるような畳み込みニューラルネットワーク（Convolutional Neural Network, CNN)が用いられてもよい。CNNは画像認識によく用いられ、二次元上の近接した特徴を畳み込み層毎に検出し、最後の全結合(Fully Connected(FC))層で分類ラベルを決定する。
【００２７】
図示された実施例では、ニューラルネットワークは７層構造であり、入力層は２８×２８のマトリクスであり、出力層は１０次元のベクトルを表す。MNIST（Mixed National Institute of Standards and Technology database）であれば、出力を１０個の数字ラベルに当てはめればよい。直方体で表現されている各中間層のNとMは、ユニット面の数を表し、ハッチングされた正方形は、前の層からの結合（ConvolutionかFully Connected(FC)）の範囲を表している。後ろの層は、空間的な2D位置を無視した全結合層であり、ユニットの個数が示されている。
【００２８】
なお、ここで用いたCNNは、図４に示されるように、オートエンコーダにも適用可能であり、空間的位置の情報を保ったまま、情報の次元が削減され、特徴などの情報が圧縮可能である。また、図５に示されるような全結合層（FC層）をCNNで挟んだ構造のニューラルネットワークがオートエンコーダに利用されてもよい。図示された実施例では、真ん中の中間層を中心に左右対象の構造をもつネットワークを考えたが、本発明はこれに限定されず、入力と出力が同じ次元（ユニット数）であれば、どのような形をしていてもよく、出力層で入力データが復元できれば、どのようなものでもオートエンコーダとして利用可能である。
【００２９】
また、以下の実施例においても説明されるが、分類器（分類ニューラルネットワーク）は、センサデータを入力とする図３の構造のものと異なって、図６に示されるように、オートエンコーダの中間層からの情報を入力として、センサデータを分類してもよい。つまり、入力されるデータがオートエンコーダの中間層からの出力（すなわち、入力データを圧縮したデータ）である点で、図３に示される分類器と異なる。この場合、分類器の学習は、オートエンコーダの中間層の情報と正解の分類ラベルの情報の対からなる学習データを用いて行うことができる。
【００３０】
センサネットワークの運用では、センサノードが観測対象となる環境に配置されるが、データを集める場合、最初に想定したデータの分類ラベルだけでなく、後に分類ラベルを変更／追加したいという要請がある場合が多い。例えば、実験環境が最初に予想した状況ではないことが観測結果から分かり、設計を変更したいと考える場合などである。この場合、分類器の出力側の設計を変更し、新たに考えた分類ラベルに対応する出力ユニットを加えたニューラルネットワークについて、新たな分類ラベルに対応した学習用データを用いてパラメータの再学習を行えばよい。
【００３１】
以下において、上述したオートエンコーダのエンコーダ部分とデコーダ部分及び／又は分類器を有する各種実施例によるセンサネットワークを説明する。
【００３２】
［実施例１］
まず、図７〜９を参照して、本発明の実施例１によるセンサネットワークを説明する。実施例１では、図示されるように、センサノード１００にオートエンコーダのエンコーダ部分が配置され、データセンタ２００に当該オートエンコーダのデコーダ部分が配置される。最小のユニット数の中間層からの情報がセンサノード１００とデータセンタ２００との間で通信され、これにより、センサデータ自体をデータセンタ２００に送信する場合と比較して、通信量を削減できる。
【００３３】
図７は、本発明の実施例１によるセンサネットワークの構成を示すブロック図である。図７に示されるように、センサネットワーク１０は、センサノード１００及びデータセンタ２００を有する。センサノード１００は、符号化部１１０及び送信部１２０を有し、データセンタ２００は、受信部２１０、復号化部２２０及び記憶部２３０を有する。
【００３４】
符号化部１１０は、オートエンコーダのエンコーダ部分によってセンサデータを符号化する。具体的には、符号化部１１０は、センサ手段によって収集されたセンサデータを、図８に示されるようなオートエンコーダのエンコーダ部分によって符号化し、データセンタ２００に送信するため送信部１２０に提供する。
【００３５】
なお、利用されるオートエンコーダは、図１に示される標準的なオートエンコーダ、図４に示されるCNNによるオートエンコーダ（CNN-AE）又はVAEであってもよい。さらに、VAEのエンコーダ部分及びデコーダ部分に分類ラベルを入力し、条件付き確率として考えるConditional VAE(CVAE)を使用することもできる。この場合、分類器をセンサノード側に用意し、そのラベル出力をCVAEのエンコーダ部分及びデコーダ部分に入力するため、予め分類器などで分類ラベルを用意する必要がある。また、CNNを入出力の両側の層に入れ、全結合(Fully Connected(FC))層を中間層にした図５に示されるようなタイプ（CNN+FC-AE）も考えられる。
【００３６】
送信部１２０は、符号化されたデータを送信する。具体的には、送信部１２０は、符号化部１１０によってセンサデータから符号化されたデータをデータセンタ２００に送信する。センサノード１００からデータセンタ２００への符号化されたデータの送信は、有線通信、無線通信又はそれらの組み合わせにより行われてもよい。
【００３７】
受信部２１０は、オートエンコーダのエンコーダ部分によってセンサデータから符号化されたデータを受信する。具体的には、受信部２１０は、センサノード１００に備えられたオートエンコーダのエンコーダ部分によって、収集されたセンサデータから符号化されたデータをセンサノード１００から受信し、復号化部２２０に提供する。
【００３８】
復号化部２２０は、オートエンコーダのデコーダ部分によって符号化されたデータを復号化する。具体的には、復号化部２２０は、図８に示されるようなセンサノード１００に備えられたオートエンコーダのエンコーダ部分に対応するデコーダ部分によって、受信部２１０から提供された符号化されたデータを復元する。
【００３９】
記憶部２３０は、復号化されたデータを記憶する。具体的には、記憶部２３０は、復号化部２２０によって復元されたデータを以降における学習用のデータとして保持する。
【００４０】
図７に示された実施例では、１つのセンサノード１００がデータセンタ２００に通信接続されているが、本発明はこれに限定されず、図９に示されるように、複数のセンサノード１００がデータセンタ２００に通信接続され、データセンタ２００が各センサノード１００から符号化されたデータを受信して復号化するようにしてもよい。
【００４１】
図９に示される実施例では、N個のセンサノード１００＿１，...，１００＿Nがそれぞれ収集したセンサデータを符号化し、符号化されたデータをデータセンタ２００に送信する。データセンタ２００は、受信部２１０において各センサノード１００＿１，...，１００＿Nから送信された符号化されたデータを受信し、対応する復号化部２２０＿１，...，２２０＿Nにおいて符号化されたデータを復号化する。なお、第１符号化部１１０＿１、・・・、第N符号化部１１０＿Nはそれぞれ上述した符号化部１１０と同様の構成を有しており、第１復号化部２２０＿１、・・・、第N復号化部２２０＿Nはそれぞれ上述した復号化部２２０と同様の構成を有するようにしてもよい。
【００４２】
このとき、第１符号化部１１０＿１、・・・、第N符号化部１１０＿Nのそれぞれは共通するエンコーダ部分を有し、これに対応して、第１復号化部２２０＿１、・・・、第N復号化部２２０＿Nのそれぞれもまた対応する共通するデコーダ部分を有してもよい。なお、この場合、第１復号化部２２０＿１、・・・、第N復号化部２２０＿Nは、まとめて１つの復号化部２２０として構成されてもよい。
【００４３】
あるいは、第１符号化部１１０＿１、・・・、第N符号化部１１０＿Nのそれぞれは互いに異なるエンコーダ部分を有し、これに対応して、第１復号化部２２０＿１、・・・、第N復号化部２２０＿Nのそれぞれも対応する互いに異なるデコーダ部分を有してもよい。各センサノード１００は配置される環境によって収集されるセンサデータに偏りがあり、環境に応じた学習用データに基づき学習されたオートエンコーダのエンコーダ部分を用いた方が、共通の学習用データで学習されたエンコーダ部分よりも高い圧縮率でデータ圧縮でき、図示されるような構成によってセンタ−センサ間の通信をより効率化できることが期待できる。
【００４４】
［実施例２］
次に、図１０〜１１を参照して、本発明の実施例２によるセンサネットワークを説明する。実施例２では、実施例１と比較して、図示されるように、データセンタ２００に分類器２４０が配置され、データセンタ２００において復元されたセンサデータに基づき分類ラベルが決定される。
【００４５】
図１０は、本発明の実施例２によるセンサネットワークの構成を示すブロック図である。図１０に示されるように、センサノード１００は、符号化部１１０及び送信部１２０を有し、データセンタ２００は、受信部２１０、復号化部２２０、記憶部２３０、分類器２４０及び学習済みパラメータ記憶部２５０を有する。符号化部１１０、送信部１２０、受信部２１０、復号化部２２０及び記憶部２３０は実施例１と同様であり、重複した説明は省く。
【００４６】
分類器２４０は、復号化されたデータによってセンサデータを分類する。具体的には、図１１に示されるように、分類器２４０は、上述されたようなニューラルネットワークなどの学習済みモデルを有し、復号化部２２０から出力された復元されたセンサデータを入力とし、センサデータに対応する分類ラベルを出力する。本実施例では、分類器２４０の学習済みモデルのパラメータは、学習用データから予め学習されたパラメータであり、学習済みパラメータ記憶部２５０に記憶されている。
【００４７】
本実施例によると、オートエンコーダのデコーダ部分からの出力によって入力センサデータを再現しているため、復元されたセンサデータを分類器２４０に入力することによって、センサデータと対応する分類ラベルとの組データをデータセンタ２００において取得することが可能である。従って、復号化部２２０において復元されたセンサデータを用いて、新規な分類ラベルと対応する復元されたセンサデータとからなる学習用データ集合がデータセンタ２００において生成可能である。このため、生成された学習用データ集合を利用して、データセンタ２００において分類器２４０のモデルを再学習させることが可能であり、センサデータをより適切な新たな分類ラベルに分類可能な分類器２４０を再構成することが可能である。
【００４８】
［実施例３］
次に、図１２〜１３を参照して、本発明の実施例３によるセンサネットワークを説明する。実施例３では、実施例１と比較して、図示されるように、センサノード１００に分類器１３０が配置され、センサノード１００において取得されたセンサデータに基づき分類ラベルが決定される。
【００４９】
図１２は、本発明の実施例３によるセンサネットワークの構成を示すブロック図である。図１２に示されるように、センサノード１００は、符号化部１１０、送信部１２０、分類器１３０及び学習済みパラメータ記憶部１４０を有し、データセンタ２００は、受信部２１０、復号化部２２０及び記憶部２３０を有する。符号化部１１０、送信部１２０、受信部２１０、復号化部２２０及び記憶部２３０は実施例１と同様であり、重複した説明は省く。
【００５０】
分類器１３０は、センサデータによって当該センサデータを分類する。具体的には、図１３に示されるように、分類器１３０は、上述されたようなニューラルネットワークなどの学習済みモデルを有し、収集されたセンサデータを入力とし、センサデータに対応する分類ラベルを出力する。本実施例では、分類器１３０の学習済みモデルのパラメータは、学習用データから予め学習されたパラメータであり、学習済みパラメータ記憶部１４０に記憶されている。送信部１２０は、符号化されたデータと分類結果とをデータセンタ２００に送信する。符号化されたデータと分類結果とを受信すると、データセンタ２００は、受信した符号化されたデータを復号化し、復元されたセンサデータと受信した分類結果とを対応付けて記憶部２３０に記憶してもよい。
【００５１】
このように、オートエンコーダの中間層の出力とセンサノード１００の分類器１３０の分類ラベル出力がデータセンタ２００に送信されることによって、データセンタ２００は、デコーダ部分の出力で復元されたセンサデータを取得し、当該センサデータとその分類ラベルとの組データを取得することが可能になる。これにより、新規な分類ラベルに対応した学習用データをデータセンタ２００において取得することができ、これを用いてデータセンタ２００において分類器を再学習し、学習済みのパラメータをセンサノード１００に送信することによって、センサノード１００は、分類器１３０を更新することができる。また、この配置では、オートエンコーダとしてCVAEを用いることもできる。なお、この場合、分類器１３０は、符号化部１１０に分類ラベルを送信し、符号化部１１０は、取得した分類ラベルを利用して符号化を実行する。
【００５２】
［実施例４］
次に、図１４〜１５を参照して、本発明の実施例４によるセンサネットワークを説明する。実施例４では、実施例１と比較して、図示されるように、データセンタ２００に分類器２４０が配置され、センサノード１００から提供された符号化されたデータに基づき分類ラベルが決定される。
【００５３】
図１４は、本発明の実施例４によるセンサネットワークの構成を示すブロック図である。図１４に示されるように、センサノード１００は、符号化部１１０及び送信部１２０を有し、データセンタ２００は、受信部２１０、復号化部２２０、記憶部２３０、分類器２４０及び学習済みパラメータ記憶部２５０を有する。符号化部１１０、送信部１２０、受信部２１０、復号化部２２０及び記憶部２３０は実施例１と同様であり、重複した説明は省く。
【００５４】
分類器２４０は、符号化されたデータによってセンサデータを分類する。具体的には、図１５に示されるように、分類器２４０は、上述されたようなニューラルネットワークなどの学習済みモデルを有し、受信部２１０から提供された符号化されたデータを入力とし、センサデータに対応する分類ラベルを出力する。本実施例では、分類器２４０の学習済みモデルのパラメータは、学習用データから予め学習されたパラメータであり、学習済みパラメータ記憶部２５０に記憶されている。
【００５５】
本実施例によると、センサノード１００から提供された符号化されたデータを分類器２４０に入力することによって、復号化部２２０において復元されたセンサデータと対応する分類ラベルとの組データをデータセンタ２００において取得することが可能である。従って、復号化部２２０において取得された復元されたセンサデータを用いて、新規な分類ラベルと対応する復元されたセンサデータとからなる学習用データ集合がデータセンタ２００において生成可能である。このため、生成された学習用データ集合を利用して、データセンタ２００において分類器２４０のモデルを再学習させることが可能であり、センサデータをより適切な分類ラベルに分類可能な分類器２４０を再構成することが可能である。
【００５６】
［実施例５］
次に、図１６〜１７を参照して、本発明の実施例５によるセンサネットワークを説明する。実施例５では、実施例１と比較して、図示されるように、センサノード１００に分類器１３０が配置され、センサノード１００において符号化されたデータに基づき分類ラベルが決定される。
【００５７】
図１６は、本発明の実施例５によるセンサネットワークの構成を示すブロック図である。図１５に示されるように、センサノード１００は、符号化部１１０、送信部１２０、分類器１３０及び学習済みパラメータ記憶部１４０を有し、データセンタ２００は、受信部２１０、復号化部２２０及び記憶部２３０を有する。符号化部１１０、送信部１２０、受信部２１０、復号化部２２０及び記憶部２３０は実施例１と同様であり、重複した説明は省く。
【００５８】
分類器１３０は、符号化されたデータによってセンサデータを分類する。具体的には、図１７に示されるように、分類器１３０は、上述されたようなニューラルネットワークなどの学習済みモデルを有し、符号化部１１０において符号化されたデータを入力とし、センサデータに対応する分類ラベルを出力する。本実施例では、分類器１３０の学習済みモデルのパラメータは、学習用データから予め学習されたパラメータであり、学習済みパラメータ記憶部１４０に記憶されている。送信部１２０は、符号化されたデータと分類結果とをデータセンタ２００に送信する。符号化されたデータと分類結果とを受信すると、データセンタ２００は、受信した符号化されたデータを復号化し、復元されたセンサデータと受信した分類結果とを対応付けて記憶部２３０に記憶してもよい。
【００５９】
このように、オートエンコーダの中間層の出力とセンサノード１００の分類器１３０から出力される分類ラベルとがデータセンタ２００に送信されることによって、データセンタ２００は、デコーダ部分の出力で復元されたセンサデータを取得し、当該センサデータとその分類ラベルとの組データを取得することが可能になる。これにより、新規な分類ラベルに対応した学習用データをデータセンタ２００において取得することができ、これを用いてデータセンタ２００において分類器を再学習し、学習済みのパラメータをセンサノード１００に送信することによって、センサノード１００は、分類器１３０を更新することができる。
【００６０】
［実施例６］
次に、図１８を参照して、本発明の実施例６によるセンサネットワークを説明する。実施例６では、実施例１と比較して、図示されるように、センサノード１００とデータセンタ２００との間に中継器３００が備えられ、中継器３００に分類器３２０が配置され、中継器３００において符号化されたデータに基づき分類ラベルが決定される。例えば、エッジコンピューティングでは、複数のセンサノードからの情報を一旦中継器３００で集約し、それをデータセンタ３００に送るような構成をとりうる。また、中継器３００を多段階で設け、エリアごとのデータを集約しながら段階的にデータセンタ２００に送信する構成としてもよい。
【００６１】
図１８は、本発明の実施例６によるセンサネットワークの構成を示すブロック図である。図１８に示されるように、センサノード１００は、符号化部１１０、送信部１２０、分類器１３０及び学習済みパラメータ記憶部１４０を有し、データセンタ２００は、受信部２１０、復号化部２２０及び記憶部２３０を有し、中継器３００は、受信部３１０及び送信部３２０を有する。符号化部１１０、送信部１２０、分類器１３０、学習済みパラメータ記憶部１４０、受信部２１０、復号化部２２０及び記憶部２３０は実施例５と同様であり、重複した説明は省く。
【００６２】
受信部３１０は、センサノード１００から符号化されたデータを受信する。具体的には、受信部３１０は、センサノード１００において収集されたセンサデータからオートエンコーダのエンコーダ部分によって符号化されたデータと、センサデータに対応する分類ラベルとを受信し、受信した符号化されたデータと分類ラベルとを送信部３２０に提供する。
【００６３】
送信部３２０は、符号化されたデータと分類ラベルとをデータセンタ２００に送信する。符号化されたデータと分類結果とを受信すると、データセンタ２００は、受信した符号化されたデータを復号化し、復元されたセンサデータと受信した分類結果とを対応付けて記憶部２３０に記憶してもよい。
【００６４】
次に、図１９〜２１を参照して、本発明の一実施例によるセンサネットワークを用いた実験結果を説明する。ここでは、実験結果を示すために使用したデータとして、図１９に示されるようなMNISTと呼ばれる機械学習の教師あり学習の分野でデータとして一般的に使用される手書き数字データ（http://yann.lecun.com/exdb/mnist/）を利用した。このデータは，２８×２８のマトリクスの各々に０〜２５５（８ビット）の値が割り振られ、その分類ラベルとして数字０〜９が図示されるような０〜９までの手書き数字データで、データ総数６０，０００（学習用に５０，０００、テスト用に１０，０００）のデータが利用される。本実施例では、センサノード１００において観測されたセンサデータが２８×２８マトリクスの８ビットの手書き数字データであると想定して、データセンタ２００は、対応する分類ラベルを求めている状況を考える。つまり、手書き数字をカメラ（センサ）で撮った画像が入力データであり、データセンタ２００はその分類を出力したい場合である。
【００６５】
図２０は、本発明によるオートエンコーダ及び分類器による結果を示す図である。図２０に示されるように、入力した数字パターン及びその分類ラベルの真値と、オートエンコーダが出力した数字パターン及び分類器が出力した分類ラベルとが示されている。ここでは、様々なオートエンコーダ（AE, CNN-AE, VAE, CVAE及びCNN+FC-VAE）による入力数字パターンから復元される数字パターンが示され、分類器はユニット数が最小である真ん中の中間層の出力から分類する実施例４のものを用いた。なお、CVAEでは、分類ラベルを事前に与えているため、分類器のラベル出力はない。これらの結果から、様々なオートエンコーダと分類器との組合せによって、センサデータの再現及び分類が実現可能であることが分かる。
【００６６】
また，分類ラベルを０，１，２，３，４とその他の６分類から、０〜９の１０分類に学習データを変更して、分類器を再学習した場合の認識率が図２１に示される。分類ラベルを追加した場合、認識率は落ちることが多いが、チャンスレベルまで落ちることはなく機能させることができる。
【００６７】
以上により、本技術を用いて様々なオートエンコーダと分類器とによってセンサデータを圧縮し、分類器を再学習できることができる。
【００６８】
ここで、センサノード１００、データセンタ２００及び中継器３００は、典型的には、通信機能を備えた計算装置により実現されてもよく、例えば、補助記憶装置、メモリ装置、プロセッサ、インタフェース装置及び通信装置から構成されてもよい。センサノード１００、データセンタ２００及び中継器３００における各種機能及び処理を実現するプログラムを含む各種コンピュータプログラムは、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｋ−Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ）、フラッシュメモリなどの記録媒体によって提供されてもよい。プログラムは、補助記憶装置にインストール又はダウンロードするようにしてもよい。補助記憶装置は、インストールされたプログラムを格納すると共に、必要なファイルやデータなどを格納する。メモリ装置、プログラムの起動指示があった場合に、補助記憶装置からプログラムやデータを読み出して格納する。プロセッサは、メモリ装置に格納されたプログラムやプログラムを実行するのに必要なパラメータなどの各種データに従って、上述した計算装置１００の各種機能及び処理を実行する。インタフェース装置は、ネットワーク又は外部装置に接続するための通信インタフェースとして用いられる。通信装置は、インターネットなどのネットワークと通信するための各種通信処理を実行する。
【００６９】
しかしながら、センサノード１００、データセンタ２００及び中継器３００は、上述したハードウェア構成に限定されるものでなく、他の何れか適切なハードウェア構成により実現されてもよい。
【００７０】
以上、本発明の実施例について詳述したが、本発明は上述した特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【符号の説明】
【００７１】
１００  センサノード
２００  データセンタ
３００  中継器
【図１】
2019220104.tif 000003
【図２】
2019220104.tif 000004
【図３】
2019220104.tif 000005
【図４】
2019220104.tif 000006
【図５】
2019220104.tif 000007
【図６】
2019220104.tif 000008
【図７】
2019220104.tif 000009
【図８】
2019220104.tif 000010
【図９】
2019220104.tif 000011
【図１０】
2019220104.tif 000012
【図１１】
2019220104.tif 000013
【図１２】
2019220104.tif 000014
【図１３】
2019220104.tif 000015
【図１４】
2019220104.tif 000016
【図１５】
2019220104.tif 000017
【図１６】
2019220104.tif 000018
【図１７】
2019220104.tif 000019
【図１８】
2019220104.tif 000020
【図１９】
2019220104.tif 000021
【図２０】
2019220104.tif 000022
【図２１】
2019220104.tif 000023