(57)【要約】【課題】環境や使用状況の変化に対して再学習や追加学習を自動で行う。【解決手段】複数のセンサ１０１からの信号をそれぞれ入力し、教師データにより状態が決定される複数の学習器１０２と、複数の学習器から出力される情報を合成して識別結果を含む出力情報を出力する合成器１０７と、合成器から出力される出力情報を複数の学習器に与えるフィードバック系１１０とを有し、複数の学習器１０２はフィードバック系を介して得られる出力情報を教師データとして用いて学習する。【選択図】  図１
2020140644.tif 000002
【特許請求の範囲】
【請求項１】
複数のセンサからの信号をそれぞれ入力し、教師データにより状態が決定される複数の学習器と、
前記複数の学習器から出力される情報を合成して、識別結果を含む出力情報を出力する合成器と、
前記合成器から出力される前記出力情報を前記複数の学習器に与えるフィードバック系と、を有し、
前記複数の学習器は、前記フィードバック系を介して得られる前記出力情報を教師データとして用いて学習する、ことを特徴とする学習装置。
【請求項２】
前記複数の学習器は、それぞれ、識別結果と確度情報を出力し、
前記合成器は、前記複数の学習器から出力される前記識別結果と前記確度情報に基づいて合成処理を行い、識別結果と確度情報を出力する、請求項１に記載の学習装置。
【請求項３】
前記複数の学習器は、前記フィードバック系を介して提供される前記識別結果と前記確度情報を基にそれぞれ学習する、請求項２に記載の学習装置。
【請求項４】
前記複数の学習器は、それぞれ重み係数を有し、前記フィードバック系を介して提供される前記識別結果と前記確度情報に応じて前記重み係数を更新する、請求項２に記載の学習装置。
【請求項５】
前記合成器は、前記複数の学習器に対応した重み係数を有し、該重み係数に応じて前記複数の学習器からの出力情報を合成処理する、請求項２に記載の学習装置。
【請求項６】
前記合成器は、自らの出力である前記識別結果と学習データとの誤差をフィードバックして、学習によって前記重み係数を更新する、請求項５に記載の学習装置。
【請求項７】
前記複数の学習器から出力される複数の前記確度情報に対して、外部センサから得られる環境情報を印加する印加部を有し、
前記合成器は、前記印加部で該環境情報により重み付けされた前記確度情報を用いて合成処理する、請求項２に記載の学習装置。
【請求項８】
前記合成器は、前記複数の学習器から入力される各識別結果と確度情報を、多数決を用いて合成処理する、請求項２に記載の学習装置。
【請求項９】
前記合成器は、識別結果と確度情報（第１の出力情報）と、前記複数のセンサのための制御情報（第２の出力情報）を出力し、
前記第２の出力情報は、第２のフィードバック系を介して前記複数のセンサに提供され、
前記複数のセンサは、該第２のフィードバック系を介して得られる前記第２の出力情報を用いて、自センサの制御を行う、請求項２に記載の学習装置。
【請求項１０】
前記第２の出力情報は、ＲＧＢカメラの露出とＩＲカメラのゲインを含み、
制御部は、前記露出と前記ゲインを用いて、各ＲＧＢ画像とＩＲ画像のゲインと絞りを制御する、
請求項９に記載の学習装置を用いたＲＧＢ・ＩＲ一体型カメラ。
【請求項１１】
複数のセンサからの信号をそれぞれ入力し、教師データにより状態が決定されて、識別結果と確度情報を出力する複数の学習器と、
前記複数の学習器から出力される識別結果と確度情報を基に合成処理を行い、識別結果と確度情報を含む第１の出力情報と、前記複数のセンサのための制御情報（第２の出力情報）を出力する合成器と、
前記第２の出力情報を前記複数のセンサに提供する第２のフィードバック系と、を有し、
前記複数のセンサは、該第２のフィードバック系を介して得られる前記第２の出力情報を用いて自センサの制御を行う、ことを特徴とする学習装置。
【請求項１２】
複数のセンサからの信号をそれぞれ入力し、教師データにより状態が決定されて、識別結果と確度情報を出力する複数の学習器と、
前記複数の学習器から出力される識別結果と確度情報を基に合成処理を行い、識別結果と確度情報を含む出力情報を出力する合成器と、
前記複数の学習器から出力される複数の前記確度情報に対して、外部センサから得られる環境情報を印加する印加部と、を有し、
前記合成器は、前記印加部で該環境情報により重み付けされた前記確度情報を用いて合成処理する、ことを特徴とする学習装置。
【請求項１３】
複数の学習装置が、複数のセンサからの信号をそれぞれ入力し、教師データにより状態が決定されて、識別結果と確度情報を出力するステップと、
合成器が、前記複数の学習器から出力される情報を合成して、識別結果を含む出力情報を出力するステップと、
前記合成器から出力される前記出力情報をフィードバックして、前記複数の学習器に提供するステップと、
前記複数の学習器が、前記フィードバックされた前記出力情報を教師データとして用いて学習するステップと、
を有することを特徴とする学習方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は学習装置および学習方法に係り、特に複数センサを利用した自己学習に関する技術である。
【背景技術】
【０００２】
物流倉庫におけるピッキングロボットや公道を走行する自動運転車両では、多種のセンサから得られたセンサデータを用いて認識演算部で周辺情報を認識し、それに基づいた機器制御が行われている。周囲の物体等を認識するセンサとしては、ＲＧＢカメラ、赤外線カメラ、ＬｉＤＡＲ、ミリ波レーダなどが知られている。認識演算ではセンサデータから特徴量を抽出して識別する機械学習アルゴリズムが用いられる。また、単体のセンサでは認識できる範囲、物体、環境が限られるので、複数のセンサを組み合わせ相補的に動作させるセンサフュージョン技術が開発されている。
【０００３】
機械学習を用いて精度よく物体の識別を行うには、予め多量の教師データを用いてトレーニングした学習器が用いられる。機械学習アルゴリズムは、学習過程において学習データセットに含まれる環境、物体に学習パラメータが最適化されるため、経年劣化や周囲環境の変動、未学習環境に対しては正しく認識することができない。この場合、学習用データを再度用意して学習を行う必要がある。
【０００４】
機械学習や人工知能のフュージョン技術における自己再学習に関しては、例えば特許文献１がある。特許文献１では、１つの入力情報に対して人工知能１と人工知能２という別の処理機能で結果を出力し、その結果を比較することで次に実行する処理内容を決定している。多面的な観点から評価した結果が得られることになるために、処理動作の信頼性の向上が実現可能である。
【０００５】
また、特許文献２には、コンピュータネットワークにおける複数の学習器の高効率化について開示されている。この技術は、まず、各学習器からパフォーマンススコア情報を制御部へ送り、制御部では受信したパフォーマンススコア情報に基づいて、各学習器の自由度と信頼度を計算し、各学習器の自由度を算出する。この自由度に基づいて各学習器が動作することで高効率化が実現される、としている。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開２０１８−１５１９５０
【特許文献２】米国特許公報ＵＳ９８３６６９６
【発明の概要】
【発明が解決しようとする課題】
【０００７】
特許文献１の技術によれば、人工知能は外部信号を受け取り、自律的かつ適応的に認識判断機能を調節する機能を持たない。そのため、信頼性の向上が得られる環境条件は限定されると考えられる。また、比較結果をフィードバック信号として受け取ることなく、自律的に再学習することはない。また、処理動作の信頼性や人工知能の出力結果の確度を定量化するような処理はしていないため、人工知能１と人工知能２で異なる結果が出力された場合の判定や精度が課題となる。
【０００８】
特許文献２の技術は、各学習器から制御部へのパフォーマンススコア情報と制御部から各学習器(学習システム)への自由度という情報によるフィードバックループが形成されている。これは、学習システム全体の最適化による高効率化を主な目的としたもので、各学習器を再度学習することを目的としたものではない。然るに、各学習器が個別に精度改善することができれば、更なる高精度化が期待できる。
【０００９】
このように、特許文献１，２に記載の従来の技術は、環境や使用状況が変化した場合に学習器の精度の劣化が生じる。また、教師あり学習の学習器を想定した場合、教師データに対して想定していない環境等の変化が実際に生じた場合には、学習器の正答率の劣化や誤警報確率の増加が発生する。
【００１０】
本発明の目的は、環境等の変化に対して再学習や追加学習を自動で行うことができる学習装置および学習方法を提供することにある。
【課題を解決するための手段】
【００１１】
本発明に係る学習装置の好ましい例によれば、複数のセンサからの信号をそれぞれ入力し、教師データにより状態が決定される複数の学習器と、
前記複数の学習器から出力される情報を合成して、識別結果を含む出力情報を出力する合成器と、
前記合成器から出力される前記出力情報を前記複数の学習器に与えるフィードバック系と、を有し、
前記複数の学習器は、前記フィードバック系を介して得られる前記出力情報を教師データとして用いて学習する、学習装置として構成される。
本発明はまた、上記学習装置が実行する学習方法としても把握される。
【発明の効果】
【００１２】
本発明によれば、教師データが不十分な学習器でも精度の改善が可能となり、環境等の変化に対して再学習や追加学習を自動で実施することが可能となる。
【図面の簡単な説明】
【００１３】
【図１】実施例１による自己学習システムのブロック図である。
【図２】環境が変化した場合の学習器の正答率を示す図である。
【図３】実施例２による自己学習システムのブロック図である。
【図４】実施例３による自己学習システムのブロック図である。
【発明を実施するための形態】
【００１４】
以下、図面を参照して、好ましい実施形態について説明する。
【実施例１】
【００１５】
図１は、自己学習装置が適用される自己学習システムの例を示す。
自己学習システムは主に、複数のセンサ１０１と、各センサ１０１の出力に配置された複数の学習器１０２と、複数の学習器１０２の結果を合成する合成器１０７を有して構成される。この自己学習システムは、コンピュータがプログラムを実行することで実現される。ここで、複数の学習器１０２と合成器１０７を含む構成を自己学習装置と呼んでよい。或いは、センサ１０１をも含んで自己学習装置と呼んでもよい。合成器１０７は自ら合成の仕方を学習するので学習型合成器、或いは合成型学習器と呼んでもよい。
【００１６】
センサ１０１は、例えば、物理情報や化学情報等を検知するセンサ素子と、センサ素子の状態を監視し、センサ素子で検知したデータを処理するマイクロプロセッサで構成されるコントローラと、コントローラで実行されるプログラムや検知データ等を記憶するメモリと、学習装置との間で制御情報や検知データ等を送受信する通信部、等を有して構成される。
【００１７】
車載向けの物体を検知する場合、複数のセンサ１０１としては、例えば、ＲＧＢカメラとミリ波レーダの組み合わせが考えられる。ＲＧＢカメラの出力はカラー画像データであり、ミリ波レーダの出力は、３次元の空間座標における点群と点に紐づけられる速度である。同一のターゲットをＲＧＢカメラとミリ波レーダで検知して、ターゲットが何であるかを種別する場合、２つのセンサの異なる特性をうまく合成することができれば、種別の高精度化が期待できる。２つのセンサ出力を合成する方法として、視差を利用したＲＧＢ画像の３次元空間座標化と、ミリ波レーダの点群データとを合成して、学習器により種別することが考えられる。しかし、異種センサ間で時間及び空間同期処理を行うことは容易でなく、かつ座標変換の信号処理量が膨大であり現実的でない。そこで、センサ１０１対応に学習器１０２を用意して、センサ毎に種別を行った上で、種別したそれぞれの結果に基づき合成器１０７で統合判断することが好ましい。この場合、各学習器１０２からはそれぞれ種別した識別結果１０３が出力される。なお、識別結果は推定結果と呼んでもよい。
【００１８】
合成器１０７は、例えば多数決を用いて合成及び推定を行う。多数決の法則を用いることで推論精度の向上が期待される。一方、センサによっては特定環境下では誤った推定結果に偏ってしまう事態が生じる。例えば、ＲＧＢカメラは、暗い場所や逆光といった環境では精度が悪くなるために、学習器１０２で種別した推定結果の確度は悪化する。ミリ波レーダは降雨により減衰が生じるため、確度が悪化する。特定条件におけるセンサ固有の精度劣化を回避し、合成による更なる推論精度向上を実現するために、各学習器の識別結果１０３に対して環境に応じて重み付けすることが有効である。例えば、センサ１０１（Ｓ１）がＲＧＢカメラの場合、明るさが環境情報１０５として乗算器１０６に印加されて（この部位を印加部という）、確度情報１０４への重み付き係数に反映される。センサ１０１（Ｓ２）がミリ波レーダの場合は、降雨情報が環境情報１０５として乗算器１０６に印加されて、確度情報１０４への重み付き係数に反映される。合成器１０７は、環境情報１０５による重み係数が反映された確度情報１０４を合成することになり、一層高精度化が図れる。ここで、これらの環境情報１０５は複数の外部センサ１１１により取得される。なお、環境情報１０５は、必ずしも外部センサ１１１から取得するとは限らず、例えば降雨情報は気象庁のような外部機関或いは外部装置から配信される情報を用いてもよい。
【００１９】
各センサ１０１の出力の特徴に応じて最適な学習器を配置するということは識別結果の高精度化や信号処理量の削減という観点で重要となる。種別を目的とした学習器１０２としては、カラー画像データの場合はＣＮＮ（Convolutional Neural Network）と呼ばれる機械学習アルゴリズムが用いられることが多く、点群データの場合は、ＳＶＭ（Support Vector Machine）と呼ばれる比較的処理の軽い機械学習アルゴリズムが用いられることが多い。これらの学習アルゴリズムでは、ＣＮＮにおける相関量やＳＶＭにおける閾値からの距離を基に種別した識別結果１０３に対しておおよその確度を抽出することが可能である。この確度情報１０４を学習器１０２から出力して、合成器１０７にて重み付き合成を行うことで、学習器１０２の識別結果より高精度化を図ることが可能である。
【００２０】
さらに、環境情報１０５による重み付き係数を確度情報１０４に含めて、合成器１０７で重み付き合成を行えば、環境変化に強い、高精度な識別結果１０８を得ることが可能である。また、合成器１０７のアルゴリズムは単純な多数決ではなく、ＣＮＮやＳＶＭといった機械学習アルゴリズムを用いることができる。これにより、タスクごとに最適な非線形関数を学習から得ることができ、高精度化することが期待できる。この場合、学習データとの誤差を、フィードバック系１１０にて合成器１０７へフィードバックして重み係数１１２を学習により更新する。ここで、誤差とは、識別結果１０８と外部から与えられた学習用データの差をいう。誤差は例えば、人の位置座標の推定結果と、学習用データに予め記載された正解座標データとの差になる。誤差の計算は例えば、合成器１０７自身で行う、或いは合成器１０７の識別結果１０８の先に接続される部位で外部の関数を用いて行われる。
【００２１】
環境変化に対して更に強くするためには、根本的な対策としては学習器１０２に対して追加学習や再学習を実施することが挙げられる。
【００２２】
図２は、時間経過とともにセンサの周辺環境や状態が変化した場合の学習器１０２の正答率を概略的に示す図である。図２において、ｘ軸は時間経過２０１、ｙ軸は正答率２０２を示す。例として、ＲＧＢカメラの場合、教師データが理想的なＲＧＢカメラによるカラー画像データとして、時間経過とともにカメラレンズに対して汚れの付着や曇りが生じると、色のスペクトル変異や歪が生じることで学習器の正答率が劣化する。ここで、追加学習や再学習を行わない場合は、点線２０３のように正答率が時間経過とともに劣化しつづける。一方で、変化する環境下におけるデータ、すなわち経年劣化したレンズでのデータで追加学習や再学習を行うことができれば、実線２０４のように正答率は改善する。正答率を常に高い状態で維持したい場合には、追加学習または再学習を正答率の劣化の都度に実施することになり、膨大な教師データが必要となる。
【００２３】
合成器１０７の出力である識別結果１０８は、単体の学習器１０２の出力結果１０３と比較して大数の法則に基づき精度が良いことを利用して、合成器１０７の出力である識別結果１０８と確度情報１０９を教師データとして、フィードバック系１１０にて各学習器１０２へフィードバックする。学習器１０２にフィードバックされる識別結果１０８に基づいてセンサ１０１に対応した学習器１０２を再学習させることで、学習器１０２はセンサの経時劣化を含む環境変化に対して常に自己学習を行うことができる。これを合成器１０７により合成することで、図２の点線２０５のように、学習装置全体として更に高い精度および正答率を維持することが可能となる。
【００２４】
各学習器１０２は出力の識別結果１０８を受け取り、自身の重み係数を更新する。ＣＮＮアルゴリズムやＳＶＭアルゴリズムが各学習器に採用されている場合、重み係数は誤差逆伝搬法を用い、各学習器１０２の識別結果が合成器１０７の出力１１０に最も関連付けが高くなるようにアップデートされる。
【００２５】
なお、合成器１０７の出力での精度または正答率が悪い場合は、間違った教師データを頻繁にフィードバックする恐れがあり、この場合にはフィードバックループとして悪循環を起こす。この対策として、合成器１０７の識別結果１０８に対する確度情報１０９を算出し、確度が低いデータは教師データとして用いないように制御することで、悪循環を回避することができる。
【実施例２】
【００２６】
図３は、実施例２による自己学習システムを示す。
実施例２による自己学習システムは、実施例１と同様に、複数のセンサ３０２と、各センサの出力に配置された複数の学習器１０２と、複数の学習器１０２の結果を合成する合成器１０７を有して構成される。実施例１との相違は、合成器１０７の出力が、フィードバック系３０１を介して各センサ３０２に接続される点である。合成器１０７からのフィードバック信号は、センサ３０２のコントローラに与えられる。
【００２７】
複数のセンサ３０２として、ＲＧＢカメラとＩＲカメラ（赤外カメラ）の組み合わせを例示する。ここで、夜間でのスポットライトなど、部分的に非常に明るく他が暗いような明暗が混在するシーンでは、ＲＧＢカメラ単体では明るさのダイナミックレンジ不足が生じ、明るい箇所が白く塗りつぶされる「白とび」と呼ばれる画像の劣化現象、もしくは暗部が黒く塗りつぶされる「黒つぶれ」と呼ばれる画像の劣化現象が生じる。解決方法としては、例えば、ＲＧＢカメラで明るい箇所が見えるようにカメラの露出を調整し、暗い箇所については、センサとして優位性を持つＩＲカメラを用いるのが好ましい。
【００２８】
例えば、夜の工事現場のようなスポットライトの周辺で作業する人を検知したい場合、ＲＧＢカメラの出力に配置する学習器１０２およびＩＲカメラの出力に配置する学習器１０２から人であるか否かという識別結果１０３が出力される。このときの確度情報１０４に、検出した周辺ピクセルの輝度情報を含めることで、合成器１０７で合成する際に、ダイナミックレンジを超えている周辺ピクセルでは重み係数を小さくする、ＲＧＢカメラで暗い輝度の周辺ピクセルでは、ＩＲカメラの重み係数を上げる、という処理も可能である。また、合成器１０７に入力された、輝度情報を含む確度情報１０４をもとに、ＲＧＢカメラの露出やＩＲカメラのゲインをフィードバック（３０１）すれば、センサ３０２のコントローラは、システムとして常に最適なセンサの状態を保つように制御することができ、夜のスポットライト下でも安定して人を検知することが可能となる。
【実施例３】
【００２９】
図４は、実施例３による自己学習システムを示す。
近年、ＲＧＢ用イメージセンサと赤外線（Infra Red, ＩＲ）用イメージセンサが同一のシリコンチップ上に集積される、ＲＧＢ・ＩＲ一体型イメージセンサが開発されている。
【００３０】
この場合、図４に示すように、ＲＧＢ・ＩＲ一体型イメージセンサを搭載したＲＧＢ・ＩＲ一体型カメラ４０１を用いて自己学習システムを構成することができる。実施例２と比べて、一体型カメラを用いることで、ＲＧＢ画像とＩＲ画像で同一の焦点距離、同一の画角、同一のシャッタータイミングを実現することができる。これにより、ＲＧＢ画像とＩＲ画像の間で視点変換やシャッタータイミングの差に起因する時間変換を行うための複雑な信号処理が不要となる。フィードバック制御信号３０１に含まれるＲＧＢカメラの露出とＩＲカメラのゲインを用いて、カメラコントローラ４０２は、各ＲＧＢ画像とＩＲ画像のゲイン４０３、シャッタースピード４０５、絞り４０６を制御することができる。
【実施例４】
【００３１】
上記実施例１乃至３を基にした幾つかの変形例について説明する。
実施例２では、合成器１０７の出力である識別結果１０８と確度情報１０９を、トレーニングデータとして複数の各学習器１０２にフィードバック（１１０）することを前提にして、さらに合成器１０７からカメラの露出やゲインの信号を、複数のセンサ３０２へセンサ制御信号としてフィードバックしている。変形例によれば、トレーニングデータのフィードバック（１１０）を止めて、センサ制御信号のみを各センサ３０２へフィードバックすることが可能である。これにより、実施例１におけるトレーニングデータのフィードバックによる効果は得られないが、実施例２の効果は実現できる。
【００３２】
さらに他の変形例として、実施例１におけるトレーニングデータのフィードバック（１１０）を止めて、環境情報１０５の印加による各学習器１０２の確度情報１０４への重み係数の反映のみを行うことが可能である。合成器１０７は、環境情報１０５による重み係数が反映された確度情報１０４を合成することで、学習の高精度化が実現できる。
【符号の説明】
【００３３】
１０１：センサ
１０２：学習器
１０３：識別結果
１０４：確度情報
１０５：環境情報
１０６：乗算器
１０７：合成器
１０８：推定結果
１０９：確度情報
１１０：フィードバック
１１１：環境情報取得用センサ
１１２：学習アルゴリズムの重み係数
２０１：経過時間
２０２：正答率
２０３：再学習を実施しない場合の正答率
２０４：再学習を実施した場合の正答率
２０５：実施例１の正答率
３０１：フィードバック
３０２：センサ
４０１：ＲＧＢ及びＩＲ一体型カメラ
４０２：カメラコントローラ
４０３：プログラマブル信号増幅器
４０４：ＲＧＢおよびＩＲ一体型イメージセンサ
４０５：シャッター
４０６：絞り
【図１】
2020140644.tif 000003
【図２】
2020140644.tif 000004
【図３】
2020140644.tif 000005
【図４】
2020140644.tif 000006