(57)【要約】【課題】学習データの規模が大きい場合でも、入力データを高速に判別することを可能とする。【解決手段】データ判別装置（１０）は、学習済みのニューラルネットワーク（２０）に対する入力データを判別する。データ判別装置は、自己符号化器（１１）と、入力データと、当該入力データを自己符号化器に入力した際の自己符号化器の出力データとの誤差を評価する評価手段（１２）と、を有し、評価手段の評価結果に基づいて、入力データがニューラルネットワークの学習範囲内であるか否かを判定する。【選択図】図１
2020061042.tif 000002
【特許請求の範囲】
【請求項１】
学習済みのニューラルネットワークに対する入力データを判別するデータ判別装置であって、
自己符号化器と、
前記ニューラルネットワークに対する入力データと、当該入力データを前記自己符号化器に入力した際の前記自己符号化器の出力データとの誤差を評価する評価手段と、を有し、
前記評価手段の評価結果に基づいて、前記ニューラルネットワークに対する入力データが前記ニューラルネットワークの学習範囲内であるか否かを判定する、
データ判別装置。
【請求項２】
前記自己符号化器の重み係数は、前記評価手段により評価される誤差を目的関数として、前記ニューラルネットワークの学習に用いたデータセットに属するデータと、当該データを前記自己符号化器に入力した場合の前記自己符号化器の出力データとの誤差を最小化する場合の局所解の１つと略等しい、
請求項１に記載のデータ判別装置。
【請求項３】
前記評価手段は、前記ニューラルネットワークに対する入力データと、当該入力データを前記自己符号化器に入力した際の前記自己符号化器の出力とから、四則演算の組み合わせにより誤差を算出する、
請求項１又は２に記載のデータ判別装置。
【請求項４】
前記ニューラルネットワークに対する入力データは、装置に取り付けられたセンサを用いて取得することが可能な時系列データであり、
前記ニューラルネットワークに対する入力データが、特定の種類の装置に対応するか否かを判定する、
請求項１乃至３のいずれか１項に記載のデータ判別装置。
【請求項５】
学習済みのニューラルネットワークに対する入力データをコンピュータが判別するデータ判別方法であって、
前記ニューラルネットワークの学習に用いられるデータセットと共通のデータを用いて自己符号化器を学習させる学習工程と、
前記ニューラルネットワークに対する入力データと、当該入力データを前記自己符号化器に入力した際の前記自己符号化器の出力データとの誤差を評価する評価工程と、
前記評価工程の評価結果に基づいて、前記ニューラルネットワークに対する入力データが前記ニューラルネットワークの学習範囲内であるか否かを判定する判定工程と、を含む、
データ判別方法。
【請求項６】
前記評価工程において、前記ニューラルネットワークに対する入力データと、当該入力データを前記自己符号化器に入力した際の前記自己符号化器の出力とから、四則演算の組み合わせにより誤差を算出する、
請求項５に記載のデータ判別方法。
【請求項７】
前記データセット及び前記ニューラルネットワークに対する入力データは、装置に取り付けられたセンサを用いて取得することが可能な時系列データであり、
前記判定工程において、前記ニューラルネットワークに対する入力データが、前記データセットを取得するために用いられた特定の種類の装置に対応するか否かを判定する、
請求項５又は６に記載のデータ判別方法。
【請求項８】
前記ニューラルネットワークに対する入力データ及び前記学習工程において前記自己符号化器の学習に用いられるデータは、いずれも、車両に搭載されたエンジンの回転速度及び角加速度、当該車両に搭載された自動変速機の変速機構に入力される入力回転速度及び角加速度、並びに当該変速機構が出力する出力回転速度及び角加速度を含む、
請求項５乃至７のいずれか１項に記載のデータ判別方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ニューラルネットワークに対する入力データを判別するデータ判別装置及びデータ判別方法に関する。
【背景技術】
【０００２】
ニューラルネットワークを用いた人工知能を応用して、製品の開発や制御の最適化を図る研究が多くの分野で進められている。例えば、車両に取り付けられたセンサから取得した時系列データを所定の基準の下で分類するように学習させられたニューラルネットワークは、車両の設計又は車両の制御方法の最適化に有用である。しかし、ニューラルネットワークの一般的な性質として、学習に用いられたデータと類似性が高い入力データに対しては高い正答率を示す一方で、類似性が低い学習範囲外のデータに対しては正答率が著しく低下することが知られている。
【０００３】
特許文献１には、入力データに対する学習済みニューラルネットワークの出力層の信号強度が、出力を二値化するための判定閾値に対してどの程度の余裕があるかによって入力データが学習範囲内か否かを判別する判別装置が記載されている。この文献によると、出力値が閾値に対して十分な余裕を持っている場合には学習範囲内のデータと判別されて学習データとの比較処理を省略されるため、学習データの中に入力データと一致するものがないか網羅的に検索する方法に比べて処理量が軽減される。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００１−７５９３７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、上記文献に記載の判別装置では、出力層の信号強度が閾値に近い場合には、結局、学習データの網羅的な検索によって入力データが学習範囲内か否かを判別していた。そのため、学習データの規模が大きくなる程、比較の回数が増えて処理速度が低下すると共に、学習データを記憶するメモリ領域が不足するという課題が生じていた。
【０００６】
そこで、本発明は、学習データの規模が大きい場合でも、入力データを高速に判別可能なデータ判別装置及びデータ判別方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の一態様は、学習済みのニューラルネットワークに対する入力データを判別するデータ判別装置であって、
自己符号化器と、
前記ニューラルネットワークに対する入力データと、当該入力データを前記自己符号化器に入力した際の前記自己符号化器の出力データとの誤差を評価する評価手段と、を有し、
前記評価手段の評価結果に基づいて、前記ニューラルネットワークに対する入力データが前記ニューラルネットワークの学習範囲内であるか否かを判定する、
データ判別装置である。
【０００８】
本発明の他の一態様は、学習済みのニューラルネットワークに対する入力データをコンピュータが判別するデータ判別方法であって、
前記ニューラルネットワークの学習に用いられるデータセットと共通のデータを用いて自己符号化器を学習させる学習工程と、
前記ニューラルネットワークに対する入力データと、当該入力データを前記自己符号化器に入力した際の前記自己符号化器の出力データとの誤差を評価する評価工程と、
前記評価工程の評価結果に基づいて、前記ニューラルネットワークに対する入力データが前記ニューラルネットワークの学習範囲内であるか否かを判定する判定工程と、を含む、
データ判別方法である。
【発明の効果】
【０００９】
本発明によれば、学習データの規模が大きい場合でも、入力データを高速に判別することができる。
【図面の簡単な説明】
【００１０】
【図１】本開示の実施形態に係るデータ判別装置の構成を示すブロック図。
【図２】実施例１に係る自己符号化器のネットワーク構造を示す模式図。
【図３】実施例１における時系列データの一例を示す図。
【図４】実施例１において機種毎の誤差の分布を検証した結果を示すグラフ。
【発明を実施するための形態】
【００１１】
以下、図面を参照しながら、本開示に係るデータ判別装置及びデータ判別方法について説明する。
【００１２】
図１は、本実施形態のデータ判別装置１０を含む自動分類装置１の構成を示す機能ブロック図である。自動分類装置１は、入力データを所定の基準に従って分類するための分類器２０と、入力データを判別するためのデータ判別装置１０と、を備えている。
【００１３】
分類器２０は、学習用のデータセット（以下、学習データとする）を用いて学習させられたニューラルネットワークであり、入力データを分類した結果を表す二値又は多値の信号を分類情報として出力する。分類器２０としては、多層パーセプトロンや再帰型ニューラルネットワークを含めた任意のニューラルネットワークを用いることができる。また、学習の枠組みとして教師あり学習及び教師なし学習のいずれを用いてもよく、学習アルゴリズムとしては誤差逆伝播法などの既知の方法を採用可能である。後述する実施例１では、畳み込みニューラルネットワークを用いる。
【００１４】
データ判別装置１０は、分類器２０に入力される入力データが、分類器２０の学習に用いられた学習データの範囲内に属するデータ（以下、学習内データとする）か、又は未知のデータ（以下、学習外データとする）であるかを判別し、判別結果をデータ種別情報として出力する。ここで、「学習データの範囲内」とは、分類器２０に対して入力され得る任意の入力データの内、学習済みの分類器２０が妥当な分類結果を出力することを期待できる範囲を表し、例えば次のようなものを指す。
・装置に複数の機種が存在する場合において、特定の機種に取り付けたセンサから取得したデータを学習データとして分類器を学習させたときの、当該機種と同一の機種に取り付けたセンサから取得した入力データ。
・装置に複数の動作モードが実装されている場合において、特定の動作モードにおいて取得したデータを学習データとして分類器を学習させたときの、当該動作モードと同一の動作モードにおいて取得した入力データ。
【００１５】
データ判別装置１０は、自己符号化器１１と、評価部１２と、判定部１３と、を備えている。自己符号化器１１は、出力データが入力データを再現するように学習させられたニューラルネットワークである。自己符号化器１１としては、入出力層のノード数が等しい３層パーセプトロンの他、４層以上の多層ニューラルネットワーク等、既知のニューラルネットワークを用いることができるが、入力データが分類器２０の学習内データであるか否かをより的確に判別するためには、分類器２０との共通の構造を有していることが好ましい。後述する実施例１では、分類器２０に合わせて、自己符号化器１１に畳み込みニューラルネットワークを用いている。
【００１６】
本実施形態の評価手段である評価部１２は、入力データと、この入力データを自己符号化器１１に入力した場合の自己符号化器１１の出力データとを比較し、入力データと出力データの誤差を算出する。本実施形態の判定手段である判定部１３は、評価部１２が算出した誤差に基づいて、入力データが学習範囲内であるか否かを判定する。判定部１３の出力は、少なくとも入力データが学習範囲内であるか否かを識別可能な形式であるものとし、例えば学習内データと未知データとに対応する二値の信号や、学習内データである確度を３段階以上に区分した多値の信号を用いることができる。
【００１７】
ここで、自己符号化器１１は、分類器２０の学習に用いる学習データと共通のデータを用いて学習させられたものである。即ち、自己符号化器１１の学習に用いられるデータセットと、分類器２０の学習に用いられるデータセットとが、実質的に一致する。
【００１８】
言い換えると、機械学習の結果として得られる自己符号化器１１の重み係数は、評価部１２が出力する誤差を目的関数として、分類器２０の学習に用いたデータセットに属するデータと、当該データを自己符号化器１１に入力した場合の自己符号化器１１の出力データとの誤差を最小化する最適化問題の局所解の１つに略等しい。ただし、重み係数を学習によって決定する以上、厳密な局所解と一致するとは限らないため、一般的な学習アルゴリズムの収束判定において許容されている程度の変動は、「局所解に略等しい値」に含まれるものとする。
【００１９】
自己符号化器１１の学習に分類器２０と共通のデータセットを用いることで、自己符号化器１１は、学習の結果として分類器２０の学習範囲内における入力データの典型的な特徴を、入力データより少ない次元で効率的に表現する能力を獲得する。即ち、学習済みの自己符号化器１１に対して学習範囲内のデータを入力したときには、自己符号化器１１の出力データが入力されたデータに対して高い類似性を示す。その一方で、学習データとの類似性が低い学習範囲外のデータを入力したときには、自己符号化器１１の中間層は入力されたデータをうまく表現することができず、自己符号化器１１の出力データと入力されたデータとの類似性は低下する。
【００２０】
従って、学習済みの自己符号化器１１が与えられていれば、適当な距離関数を用いて、入力データと、これに対する自己符号化器１１の出力データとの距離（誤差）を算出することにより、入力データと分類器２０の学習データとの類似性を評価することが可能となる。
【００２１】
図１における矢印は、本実施形態のデータ判別装置１０におけるデータの処理手順を示している。また、入力データの判別処理を行う前に、自己符号化器１１の学習が行われているものとする。即ち、本実施形態におけるデータ判別方法は、少なくとも以下の各工程を含む。
（１）分類器２０の学習に用いられるデータセットを用いて自己符号化器１１を学習させる学習工程。
（２）分類器２０に対する入力データと、当該入力データを自己符号化器１１に入力した際の自己符号化器１１の出力データとの誤差を評価する評価工程。
（３）評価工程の評価結果に基づいて、分類器２０に対する入力データが分類器２０の学習範囲内であるか否かを判定する判定工程。
【００２２】
以上の説明において、学習済みの分類器２０とは、学習フェーズで学習した重み係数が固定されるものに限らず、運用フェーズにおいて入力された入力データを用いて重み係数が更新されるものを含むものとする。その場合、分類器２０の学習データとは、現時点までに分類器２０の学習に使用された全てのデータを指すものとする。また、運用フェーズで分類器２０の重み係数を更新する場合は、これに合わせて自己符号化器１１の重み係数も更新することが好ましい。
【００２３】
なお、ハードウェアとしての自動分類装置１は、少なくとも１つの処理装置と、一過性の記憶領域及び非一過性の記憶領域を含む記憶装置とによって構成される。処理装置は、記憶装置に記憶されたプログラムを読み出して実行することにより、以下で説明する制御機能を発揮する。記憶装置は、プログラム及びデータの保管場所となると共に処理装置がプログラムを実行する際の作業スペースとなる。
【００２４】
図１に図示された各機能ブロックは、ＡＳＩＣ等の独立したハードウェアとして制御回路上に実装してもよく、処理装置が実行するプログラムの機能単位としてソフトウェア的に実装してもよい。自動分類装置１の機能を実現するハードウェアは、物理的に離れていてネットワークを介して接続された複数の装置に分散されていてもよい。また、自動分類装置１の機能を実現するプログラムをネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置に搭載された処理装置がプログラムを読出し実行することによっても提供可能である。
【実施例１】
【００２５】
以下、上述の実施形態の適用例として、自己符号化器を用いた自動変速機の類似性の識別手法を説明する。本実施例では、流体継手をロックアップするロックアップクラッチを備えた自動変速機において、ロックアップ制御の時系列データを分類するように学習させられた分類器を想定した場合に、自己符号化器を用いて、この分類器に対する入力データが学習範囲内であるか否かを判定することを考える。
【００２６】
図２は、本実施例における自己符号化器１１のネットワーク構造を示す模式図である。本実施例では、８層の畳み込みニューラルネットワークからなる自己符号化器を用いる。即ち、自己符号化器１１は、畳み込み演算を行う畳み込み層Ｃ１，Ｃ２、プーリング操作を行うプーリング層Ｐ１，Ｐ２、逆畳み込み演算を行う逆畳み込み層Ｄ１，Ｄ２、及びアンプーリング操作を行うアンプーリング層Ｕ１，Ｕ２によって構成される。
【００２７】
自己符号化器１１には、車両に取り付けられたセンサから取得した時系列データが入力される。各センサの測定データは、測定時間の長さに対応する次元の実数ベクトルとして与えられる。従って、センサの数をチャネル数として、入力データのサイズ（次元）は１×（測定時間）×（チャネル数）である。
【００２８】
畳み込み層Ｃ１，Ｃ２においては、各出力はいくつかの入力に接続され、接続関係は固定されている。出力に接続されているニューロンの数はカーネルサイズと呼ばれる。カーネルサイズは３や５など奇数を使うと好適である。学習によって調整する重み係数の数は、カーネルサイズと同じである。ストライドとは、次の出力に接続する時に入力側を何個シフトさせて接続するかを表す設定値である。畳み込み層Ｃ１，Ｃ２のストライドは、例えば１とする。ストライドとは通常は１である。
【００２９】
プーリング層Ｐ１，Ｐ２においては、畳み込み層Ｃ１，Ｃ２と同様に各出力はカーネルサイズの入力に接続され、接続関係は固定されている。プーリング層Ｐ１，Ｐ２では、畳み込み層Ｃ１，Ｃ２とは異なり、重み係数を使用しない。代わりに、プーリング層Ｐ１，Ｐ２では、接続された入力の信号値の最大値を出力する。これをマックスプーリングという。プーリング層Ｐ１，Ｐ２のカーネルサイズ及びストライドは、それぞれ例えば２、２とする。
【００３０】
逆畳み込み層Ｄ１，Ｄ２は、畳み込み層Ｃ１，Ｃ２の接続方向を入力／出力に関して逆にしたものであり、各入力にカーネルサイズの出力が接続される。また、アンプーリング層Ｕ１，Ｕ２は、プーリング層Ｐ１，Ｐ２の接続方向を入力／出力に関して逆にしたものであり、各入力にカーネルサイズの出力が接続される。以上のネットワーク構造から、逆畳み込み層Ｄ１の出力信号のサイズは入力データのサイズに等しくなる。
【００３１】
また、本実施例の評価部である誤差関数Ｌ１は、自己符号化器１１の逆畳み込み層Ｄ２の出力信号（自己符号化器１１の出力データ）と、入力データとを受け取ってこれらの誤差を算出する。誤差関数Ｌ１の例としては、下のユークリッドロス（Ｅｕｃｌｉｄｅａｎ  Ｌｏｓｓ）がある。ただし、式中のＮは入力データのサイズであり、ｙｎは入力データの値であり、ハット記号付きのｙｎは逆畳み込み層Ｄ１の出力値である。ユークリッドロスは入力データ、出力データ、及び入力データのデータ数に対する四則演算の組み合わせである。
【数１】
2020061042.tif 000003
【００３２】
（判別性能の検証）
以下、自動変速機のロックアップ制御に関する分類器２０の学習に使った学習データを題材に、自己符号化器１１を用いて分類器２０に対する入力データと分類器２０の学習データとの類似度を評価した検証実験の方法及びその結果について説明する。この分類器の学習データは、自動変速機のロックアップクラッチをロックアップするロックアップ制御を行った際の時系列データである。また、自己符号化器１１の学習に用いる学習データは、分類器と同じくロックアップ制御を行った際の時系列データを使う。
【００３３】
なお、ロックアップクラッチとは、エンジン出力軸と自動変速機の入力軸との間に介在する流体継手（トルクコンバータ）の入力側と出力側を直結する機構である。ロックアップクラッチは、車両の発進時に車速が一定以上になった際に係合させられ、また、自動変速機の変速段が変更される際に一時的に係合が解除される。ロックアップクラッチの滑り量が適切に制御されていれば、運転者にとって快適な車両の加速が実現される一方で、制御が適切でない場合は運転者にショックを感じさせる等の影響がある。
【００３４】
図３は、検証に用いる時系列データの一例（４チャネルのみ図示している）を示している。ここでは、時系列データの一例として、１４個の信号で構成された時系列計測データを使用する。この内、エンジントルクやエンジン回転数等、エンジンを測定対象とする測定データから４つの信号を使用する。また、自動変速機の変速機構に対する入力回転速度（図３のＡＴ入力速度）や自動変速機に対する制御指令値等、自動変速機を測定対象とする測定データから１０個の信号を使用する。１４個の信号が表すパラメータには、具体的にはエンジンの回転速度（エンジン回転数）及び角加速度、エンジントルク、アクセル開度、トルクコンバータの滑り速度及び角加速度、トルクコンバータの目標スリップ回転、自動変速機の変速機構に対する入力回転速度及び角加速度、変速機構の出力回転速度及び角加速度、オートマチック・トランスミッション・フルードの油温、並びに自動変速機の油圧制御装置に対する油圧指令値が含まれる。本実施例の分類器２０に対する入力データはこれら１４個のパラメータの時系列データであり、データ判別装置１０はこれと同じ１４個のパラメータの時系列データを自己符号化器１１を用いて判別する。
【００３５】
時系列計測データセットとして、開発フェーズにおける物理的車両走行試験からランダムに収集した時系列計測データを使う。物理的な車の走行試験は、テストコースの直進道路で行われる。各時系列計測データに含まれる１４個の信号は、各々が１×４００ピクセルのデータである。つまり、この検証における入力データのサイズは、１×４００×１４である。時系列計測データセットとして、５，５３６件の時系列データを収集した。これらの時系列データは、全て同一機種の自動変速機を搭載した車両から得たものである。このデータセットを、学習用のデータ４，４２９件と検証用のデータ１，１０７件に分ける。また、時系列データは式１で正規化する。ただし、ｘは元の値、μは平均、σは標準偏差、ｘ´は正規化後の値である。
ｘ´＝（ｘ−μ）／σ        （式１）
【００３６】
なお、上記学習用のデータを、ロックアップ制御が行われた際に運転者が感じる変速フィーリングが快適なものであるものを「ＯＫ」とし、そうではないものを「ＮＧ」とするように、所定の基準に従って熟練した技術者が予め分類した結果を教師信号として分類器を学習させることにより、図３に示すような時系列データが変速フィーリングの観点で適切なものであるか否かを分類する分類器が得られる。このような分類器の具体的構成としては、発明者らのグループが以前に提出した下記の論文（Kawakami, T., Ide, T. et al., SAE Technical Paper, 2018-01-0399, 2018）に記載されたものを挙げることができる。この分類器は、６層の畳み込み層と１層の全結合層とを有する畳み込みニューラルネットワークであり、入力データのサイズは１×４００×１４である。
【００３７】
ここで、ニューラルネットワークを用いた分類器は、一般に高性能を達成するためには大量の訓練データを必要とする。深層学習の分野ではデータ水増し技術が一般的に使用されている。そこで、分類器と自己符号化器に対する学習データは、上述の時系列計測データセットに含まれるデータをランダムタイムシフトによって人工的に水増ししたものを用いる。水増しした学習データの総数は４８，７１９件である。
【００３８】
検証に用いる自己符号化器の構造は、図２を用いて説明した通りである。層の数をさらに増やしても構わないが、今回の検証結果は８層のものを用いて行った結果を示す。
【００３９】
誤差関数Ｌ１にはユークリッドロスを使用する。この誤差関数Ｌ１は、自己符号化器の学習過程において入力データと逆畳み込み層Ｄ１の出力信号との誤差を評価する関数であると共に、学習後において、入力データと自己符号化器の学習に用いられたデータとの類似性を評価するための関数でもある。即ち、本実施例では、この誤差関数Ｌ１によって算出される誤差Ｅが小さい程、学習済みの分類器に対する入力データと、分類器の学習に用いられた学習データとの類似度が高いことを表す。
【００４０】
自己符号化器の学習は、上述の学習用のデータを用いて逆伝播法により誤差関数の勾配を計算する。また、Ａｄａｍ（Ａｄａｐｔｉｖｅ  Ｍｏｍｅｎｔ  Ｅｓｔｉｍａｔｉｏｎ）を使用して、誤差Ｅを最小化するように重み係数を最適化する。
【００４１】
（検証結果） 
図４は、学習済みの自己符号化器に対して３つの機種の自動変速機のいずれかを搭載した車両から得た時系列データを自己符号化器１１に入力し、誤差関数Ｌ１によって誤差を評価した結果を示している。横軸は誤差、縦軸はその件数を示す。機種（Ａ）は、学習データを取得する際に用いたものと同じ機種である。機種（Ｂ）は、機種（Ａ）と機械的構成が同一であり、制御方法が異なる機種である。機種（Ｃ）は、機種（Ａ）と機械的構成及び制御方法がどちらも異なる機種である。つまり、この例では機種（Ａ）から得られるデータは学習内データであり、機種（Ｃ）から得られるデータは学習外データである。機種（Ｂ）の扱いについては後述する。なお、機械的構成の違いとは、例えばロックアップクラッチが多板クラッチか単板クラッチかの違いを表す。
【００４２】
各機種のデータ数を２２６件として、各データについて得られた誤差を評価した。機種（Ａ）のデータから得られた誤差は小さい値が多く、代表値が０又は４の区間（誤差が０以上８未満の範囲）に分布していた。機種（Ｂ）のデータから得られた誤差は、機種（Ａ）程ではないが小さい値が多く、代表値が０〜８の区間（誤差が０以上１２未満の範囲）に分布していた。これに対し、機種（Ｃ）のデータから得られた誤差は大きな値となり、代表値が８又はそれ以上の区間（誤差が８以上の範囲）に分布していた。
【００４３】
従って、誤差が所定の判定閾値より小さい場合に学習データと同一の機種から得られたデータであると判定し、誤差が判定閾値より大きい場合に学習データとは異なる機種から得られたデータであると判定するような閾値関数を判定部１３（図１）として用いることにより、入力データが学習内データであるか否かを識別することが可能である。図４の結果によれば、誤差の判定閾値を８と設定することにより、少なくとも機種（Ａ）と機種（Ｃ）とを正確に判別することが可能である。
【００４４】
なお、本実施例の検証結果において、機種（Ｂ）については、機械的構成の同一性に基づいて学習内データとして扱うことも、制御方法の違いに着目して学習外データとして扱うことも可能である。いずれの場合も、機種（Ａ）又は機種（Ｃ）のどちらかのみのデータが入力される場合に比べて識別精度は低下するものの、学習範囲内である可能性が高い入力データと学習範囲外である可能性が高い入力データとを識別可能である。
【００４５】
以上説明した通り、データ判別装置１０に自己符号化器１１を用いることで、分類器２０の学習に用いられた学習データと、学習済みの分類器２０に対する入力データとの類似度を評価することができた。これにより、学習済みの分類器２０が入力データを分類した結果を出力する場合に、入力データが分類器２０の学習範囲内であるか否か（即ち、分類器２０の分類結果が信頼できるか否か）を識別することが可能となった。
【００４６】
ニューラルネットワークはブラックボックスである（つまり、学習によって得られた重み係数に対して直感的な意味付けを与えることが難しい）ため、重要な制御にニューラルネットワークを使う場合には信頼性が課題となる。信頼性を低下させる要因の１つとして、学習に用いたデータがカバーしている範囲と、運用フェーズにおいて入力される可能性があるデータの範囲との不一致が挙げられる。本実施形態で説明した自己符号化器を用いたデータ判別装置及びデータ判別方法は、ニューラルネットワークの出力の信頼性を判定することにより、このような課題を解決する１つの手法を提供する。
【００４７】
（本実施形態のまとめ）
本実施形態は、
学習済みのニューラルネットワーク（２０）に対する入力データを判別するデータ判別装置（１０）であって、
自己符号化器（１１）と、
前記ニューラルネットワーク（２０）に対する入力データと、当該入力データを前記自己符号化器（１１）に入力した際の前記自己符号化器（１１）の出力データとの誤差を評価する評価手段（１２）と、を有し、
前記評価手段（１２）の評価結果に基づいて、前記ニューラルネットワーク（２０）に対する入力データが前記ニューラルネットワーク（２０）の学習範囲内であるか否かを判定する、
データ判別装置である。
【００４８】
この構成によれば、ニューラルネットワークに対する入力データと、これに対応する自己符号化器の出力データとの誤差を求めることで、入力データを多数の学習データと比較することなく、入力データがニューラルネットワークの学習範囲内のものか否かが判別される。そのため、学習データの規模が大きくなっても高速に判別処理を行うことができる。また、少なくとも学習範囲内か否かを判別する目的では学習データを保持する必要がないため、メモリ領域の不足が生じにくい。
【００４９】
さらに、本実施形態のデータ判別装置（１０）によると、
前記自己符号化器（１１）の重み係数は、前記評価手段（１２）により評価される誤差を目的関数として、前記ニューラルネットワーク（２０）の学習に用いたデータセットに属するデータと、当該データを前記自己符号化器（１１）に入力した場合の前記自己符号化器（１１）の出力データとの誤差を最小化する場合の局所解の１つと略等しい。
【００５０】
この構成により、入力データがニューラルネットワークの学習範囲内のものか否かを高い精度で判別可能なデータ判別装置を提供することができる。
【００５１】
さらに、本実施形態のデータ判別装置（１０）によると、
前記評価手段（１２）は、前記ニューラルネットワーク（２０）に対する入力データと、当該入力データを前記自己符号化器（１１）に入力した際の前記自己符号化器（１１）の出力とから、四則演算の組み合わせにより誤差を算出する。
【００５２】
この構成によれば、誤差を算出するための演算量が少なく済み、入力データの判別処理を高速に行うことができる。
【００５３】
さらに、本実施形態のデータ判別装置（１０）によると、
前記ニューラルネットワーク（２０）に対する入力データは、装置に取り付けられたセンサを用いて取得することが可能な時系列データであり、
前記ニューラルネットワーク（２０）に対する入力データが、特定の種類の装置に対応するか否かを判定する。
【００５４】
この構成によれば、ニューラルネットワークに入力される時系列データが、ニューラルネットワークの学習に用いられた特定の種類の装置に由来するものであるか否かを判別することができ、ニューラルネットワークの出力の信頼性に関する情報を提供することができる。
【００５５】
また、本実施形態の他の面は、
学習済みのニューラルネットワーク（２０）に対する入力データをコンピュータが判別するデータ判別方法であって、
前記ニューラルネットワーク（２０）の学習に用いられるデータセットと共通のデータを用いて自己符号化器（１１）を学習させる学習工程と、
前記ニューラルネットワーク（２０）に対する入力データと、当該入力データを前記自己符号化器（１１）に入力した際の前記自己符号化器（１１）の出力データとの誤差を評価する評価工程と、
前記評価工程の評価結果に基づいて、前記ニューラルネットワーク（２０）に対する入力データが前記ニューラルネットワーク（２０）の学習範囲内であるか否かを判定する判定工程と、を含む、
データ判別方法である。
【００５６】
この方法によれば、ニューラルネットワークに対する入力データと、これに対応する自己符号化器の出力データとの誤差を求めることで、入力データを多数の学習データと比較することなく、入力データがニューラルネットワークの学習範囲内のものか否かが判別される。そのため、学習データの規模が大きくなっても高速に判別処理を行うことができる。また、少なくとも学習範囲内か否かを判別する目的では学習データを保持する必要がないため、メモリ領域の不足が生じにくい。
【００５７】
さらに、本実施形態のデータ判別方法によると、
前記評価工程において、前記ニューラルネットワーク（２０）に対する入力データと、当該入力データを前記自己符号化器（１１）に入力した際の前記自己符号化器（１１）の出力とから、四則演算の組み合わせにより誤差を算出する。
【００５８】
この方法によれば、誤差を算出するための演算量が少なく済み、入力データの判別処理を高速に行うことができる。
【００５９】
さらに、本実施形態のデータ判別方法によると、
前記データセット及び前記ニューラルネットワーク（２０）に対する入力データは、装置に取り付けられたセンサを用いて取得することが可能な時系列データであり、
前記判定工程において、前記ニューラルネットワーク（２０）に対する入力データが、前記データセットを取得するために用いられた特定の種類の装置に対応するか否かを判定する。
【００６０】
この方法によれば、ニューラルネットワークに入力される時系列データが、ニューラルネットワークの学習に用いられた特定の種類の装置に由来するものであるか否かを判別することができ、ニューラルネットワークの出力の信頼性に関する情報を提供することができる。
【００６１】
さらに、本実施形態のデータ判別方法によると、
前記ニューラルネットワーク（２０）に対する入力データ及び前記学習工程において前記自己符号化器（１１）の学習に用いられるデータは、いずれも、車両に搭載されたエンジンの回転速度及び角加速度、当該車両に搭載された自動変速機の変速機構に入力される入力回転速度及び角加速度、並びに当該変速機構が出力する出力回転速度及び角加速度を含む。
【００６２】
この方法によれば、上述のパラメータはエンジン及び自動変速機を搭載した車両に共通して存在するため、車両の開発に当たって複数の機種が存在する装置のデータを判別することで開発工数を削減することが可能となる。例えば、自動変速機を車両に適合させるために自動変速機の制御方法や制御プログラム上の設定変数の最適化を図る場合において、特定の機種の自動変速機を車両に適合させた結果を、他の機種の適合においても適用できるか否かを、自己符号化器を用いた判定結果により判断することができる。この場合、複数の機種の自動変速機を車両に適合させる際のデータ収集の工数を、各機種のデータを個別に収集する場合に比べて低減することが可能である。
【産業上の利用可能性】
【００６３】
本開示に係る技術は、車両に取り付けられたセンサから得られる時系列データに限らず、任意のニューラルネットワークに対して、当該ニューラルネットワークに対する入力データを判別する目的に利用可能である。
【符号の説明】
【００６４】
１０…データ判別装置／１１…自己符号化器／１２…評価手段（評価部）／２０…ニューラルネットワーク（分類器）
【図１】
2020061042.tif 000004
【図２】
2020061042.tif 000005
【図３】
2020061042.tif 000006
【図４】
2020061042.tif 000007