(57)【特許請求の範囲】
【請求項１】
ニューラルネットワークモデルの学習が行われて学習済みのニューラルネットワークモデルが生成される複数の車両と通信可能な通信装置と、
データを記憶する記憶装置と、
前記学習済みのニューラルネットワークモデルの異常を判定する制御装置と
を備え、
前記制御装置は、所定値の入力パラメータに対して前記学習済みのニューラルネットワークモデルから出力された出力パラメータの値を前記記憶装置に記憶し、前記通信装置を介して前記複数の車両のうちの一つの車両から新たな学習済みのニューラルネットワークモデル又は前記所定値の入力パラメータに対して該新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、前記所定値の入力パラメータに対して該新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値に対して統計処理を行い、該統計処理の結果に基づいて前記新たな学習済みのニューラルネットワークモデルの異常を判定する、モデル診断装置。
【請求項２】
前記制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルが異常であることを前記一つの車両に通知する、請求項１に記載のモデル診断装置。
【請求項３】
前記制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、前記一つの車両とは異なる車両において生成され且つ正常であると判定された学習済みのニューラルネットワークモデルを前記一つの車両に送信する、請求項１又は２に記載のモデル診断装置。
【請求項４】
前記制御装置は、前記新たな学習済みのニューラルネットワークモデルが正常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルを前記記憶装置に記憶し、該新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルを前記記憶装置に記憶しない、請求項１から３のいずれか１項に記載のモデル診断装置。
【請求項５】
前記制御装置は、前記記憶装置に記憶された出力パラメータの値が正規分布を示さない場合に、修正されたニューラルネットワークモデルを前記複数の車両に送信する、請求項１から４のいずれか１項に記載のモデル診断装置。
【請求項６】
サーバ及び複数の車両を備えるモデル診断システムであって、
前記複数の車両は、それぞれ、
前記サーバと通信可能な第１通信装置と、
ニューラルネットワークモデルの学習を行うことによって学習済みのニューラルネットワークモデルを生成する第１制御装置とを備え、
前記サーバは、
前記複数の車両と通信可能な第２通信装置と、
データを記憶する記憶装置と、
前記学習済みのニューラルネットワークモデルの異常を判定する第２制御装置とを備え、
前記第２制御装置は、所定値の入力パラメータに対して前記学習済みのニューラルネットワークモデルから出力された出力パラメータの値を前記記憶装置に記憶し、前記第２通信装置を介して前記複数の車両のうちの一つの車両から新たな学習済みのニューラルネットワークモデル又は前記所定値の入力パラメータに対して該新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、前記所定値の入力パラメータに対して該新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値に対して統計処理を行い、該統計処理の結果に基づいて前記新たな学習済みのニューラルネットワークモデルの異常を判定する、モデル診断システム。
【請求項７】
前記第２制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルが異常であることを前記一つの車両に通知する、請求項６に記載のモデル診断システム。
【請求項８】
前記第１制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であることを通知された場合には、該新たな学習済みのニューラルネットワークモデルを採用しない、請求項７に記載のモデル診断システム。
【請求項９】
前記第１制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であることを通知された場合には、前記ニューラルネットワークモデルの学習に関する部品の異常をドライバに通知する、請求項７又は８に記載のモデル診断システム。
【請求項１０】
前記第２制御装置は、前記第２通信装置を介して前記複数の車両のうちの一つの車両から前記所定値の入力パラメータに対して新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、該出力パラメータの値に対して統計処理を行い、該統計処理の結果に基づいて前記新たな学習済みのニューラルネットワークモデルの異常を判定し、該新たな学習済みのニューラルネットワークモデルが正常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルが正常であることを前記一つの車両に通知し、
前記第１制御装置は、前記新たな学習済みのニューラルネットワークモデルが正常であることを通知された場合には、該新たな学習済みのニューラルネットワークモデルを前記サーバに送信する、請求項６から９のいずれか１項に記載のモデル診断システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はモデル診断装置及びモデル診断システムに関する。
【背景技術】
【０００２】
従来、所定の入力パラメータから所定の出力パラメータを出力するニューラルネットワークモデルを車両の制御のために用いることが知られている。例えば、特許文献１には、学習済みのニューラルネットワークモデルを用いて、車両に搭載された内燃機関の燃焼室に吸入される吸入ガスの流量を推定することが記載されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１２−１１２２７７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ところで、ニューラルネットワークモデルの精度を向上させるためには、ニューラルネットワークモデルの学習を予め行う必要がある。ニューラルネットワークモデルの学習では、入力パラメータの実測値と出力パラメータの実測値との組合せから成る訓練データセットが用いられる。
【０００５】
入力パラメータ及び出力パラメータの実測値は車両の実際の走行中にセンサ等を用いて取得可能である。このため、車両において訓練データセットを作成し、車両においてニューラルネットワークモデルの学習を行うことが考えられる。この結果得られる学習済みのニューラルネットワークモデルを車両の外部のサーバに送信することで、学習済みのニューラルネットワークモデルをサーバを介して他の車両に配信することもできる。
【０００６】
しかしながら、ニューラルネットワークモデルの学習に関する部品に異常が生じると、ニューラルネットワークモデルの学習が適切に行われない。この結果、車両において、異常な学習済みのニューラルネットワークモデルを用いた制御が行われるおそれがある。また、異常な学習済みのニューラルネットワークモデルが他の車両に配信されるおそれがある。
【０００７】
そこで、上記課題に鑑みて、本発明の目的は、車両において生成された学習済みのニューラルネットワークモデルの異常を診断することができるモデル診断装置を提供することにある。
【課題を解決するための手段】
【０００８】
本開示の要旨は以下のとおりである。
【０００９】
（１）ニューラルネットワークモデルの学習が行われて学習済みのニューラルネットワークモデルが生成される複数の車両と通信可能な通信装置と、データを記憶する記憶装置と、前記学習済みのニューラルネットワークモデルの異常を判定する制御装置とを備え、前記制御装置は、所定値の入力パラメータに対して前記学習済みのニューラルネットワークモデルから出力された出力パラメータの値を前記記憶装置に記憶し、前記通信装置を介して前記複数の車両のうちの一つの車両から新たな学習済みのニューラルネットワークモデル又は前記所定値の入力パラメータに対して該新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、該出力パラメータの値に対して統計処理を行い、該統計処理の結果に基づいて前記新たな学習済みのニューラルネットワークモデルの異常を判定する、モデル診断装置。
【００１０】
（２）前記制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルが異常であることを前記一つの車両に通知する、上記（１）に記載のモデル診断装置。
【００１１】
（３）前記制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、前記一つの車両とは異なる車両において生成され且つ正常であると判定された学習済みのニューラルネットワークモデルを前記一つの車両に送信する、上記（１）又は（２）に記載のモデル診断装置。
【００１２】
（４）前記制御装置は、前記新たな学習済みのニューラルネットワークモデルが正常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルを前記記憶装置に記憶し、該新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルを前記記憶装置に記憶しない、上記（１）から（３）のいずれか１つに記載のモデル診断装置。
【００１３】
（５）前記制御装置は、前記記憶装置に記憶された出力パラメータの値が正規分布を示さない場合に、修正されたニューラルネットワークモデルを前記複数の車両に送信する、上記（１）から（４）のいずれか１つに記載のモデル診断装置。
【００１４】
（６）サーバ及び複数の車両を備えるモデル診断システムであって、前記複数の車両は、それぞれ、前記サーバと通信可能な第１通信装置と、ニューラルネットワークモデルの学習を行うことによって学習済みのニューラルネットワークモデルを生成する第１制御装置とを備え、前記サーバは、前記複数の車両と通信可能な第２通信装置と、データを記憶する記憶装置と、前記学習済みのニューラルネットワークモデルの異常を判定する第２制御装置とを備え、前記第２制御装置は、所定値の入力パラメータに対して前記学習済みのニューラルネットワークモデルから出力された出力パラメータの値を前記記憶装置に記憶し、前記第２通信装置を介して前記複数の車両のうちの一つの車両から新たな学習済みのニューラルネットワークモデル又は前記所定値の入力パラメータに対して該新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、該出力パラメータの値に対して統計処理を行い、該統計処理の結果に基づいて前記新たな学習済みのニューラルネットワークモデルの異常を判定する、モデル診断システム。
【００１５】
（７）前記第２制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルが異常であることを前記一つの車両に通知する、上記（６）に記載のモデル診断システム。
【００１６】
（８）前記第１制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であることを通知された場合には、該新たな学習済みのニューラルネットワークモデルを採用しない、上記（７）に記載のモデル診断システム。
【００１７】
（９）前記第１制御装置は、前記新たな学習済みのニューラルネットワークモデルが異常であることを通知された場合には、前記ニューラルネットワークモデルの学習に関する部品の異常をドライバに通知する、上記（７）又は（８）に記載のモデル診断システム。
【００１８】
（１０）前記第２制御装置は、前記第２通信装置を介して前記複数の車両のうちの一つの車両から前記所定値の入力パラメータに対して新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、該出力パラメータの値に対して統計処理を行い、該統計処理の結果に基づいて前記新たな学習済みのニューラルネットワークモデルの異常を判定し、該新たな学習済みのニューラルネットワークモデルが正常であると判定した場合には、該新たな学習済みのニューラルネットワークモデルが正常であることを前記一つの車両に通知し、前記第１制御装置は、前記新たな学習済みのニューラルネットワークモデルが正常であることを通知された場合には、該新たな学習済みのニューラルネットワークモデルを前記サーバに送信する、上記（６）から（９）のいずれか１つに記載のモデル診断システム。
【発明の効果】
【００１９】
本発明によれば、車両において生成された学習済みのニューラルネットワークモデルの異常を診断することができるモデル診断装置が提供される。
【図面の簡単な説明】
【００２０】
【図１】図１は、本発明の第一実施形態に係るモデル診断システムの概略的な構成図である。
【図２】図２は、図１の車両の構成の一部を概略的に示す図である。
【図３】図３は、単純な構成を有するニューラルネットワークモデルの一例を示す図である。
【図４】図４は、第一実施形態におけるモデル学習処理の制御ルーチンを示すフローチャートである。
【図５】図５は、第一実施形態におけるモデル診断処理の制御ルーチンを示すフローチャートである。
【図６】図６は、正規分布の所定範囲の一例を示す図である。
【図７】図７は、第二実施形態におけるモデル学習処理の制御ルーチンを示すフローチャートである。
【図８】図８は、第二実施形態におけるモデル診断処理の制御ルーチンを示すフローチャートである。
【図９】図９は、第三実施形態におけるモデル診断処理の制御ルーチンを示すフローチャートである。
【発明を実施するための形態】
【００２１】
以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下の説明では、同様な構成要素には同一の参照番号を付す。
【００２２】
＜第一実施形態＞
最初に、図１〜図６を参照して、本発明の第一実施形態について説明する。図１は、本発明の第一実施形態に係るモデル診断システムの概略的な構成図である。モデル診断システム１はサーバ２及び複数の車両３を備える。
【００２３】
図１に示されるように、サーバ２は、複数の車両３の外部に設けられ、通信インターフェース２１、ストレージ装置２２、メモリ２３及びプロセッサ２４を備える。なお、サーバ２は、キーボード及びマウスのような入力装置、ディスプレイのような出力装置等を更に備えていてもよい。また、サーバ２は複数のコンピュータから構成されていてもよい。サーバ２はモデル診断装置の一例である。
【００２４】
通信インターフェース２１は、複数の車両３と通信可能であり、サーバ２が複数の車両３と通信することを可能とする。具体的には、通信インターフェース２１は、サーバ２を通信ネットワーク５に接続するためのインターフェース回路を有する。サーバ２は、通信インターフェース２１、通信ネットワーク５及び無線基地局６を介して複数の車両３と通信する。通信インターフェース２１は通信装置の一例である。
【００２５】
ストレージ装置２２は、例えば、ハードディスクドライブ（ＨＤＤ）、ソリッドステートドライブ（ＳＳＤ）又は光記録媒体を有する。ストレージ装置２２は、各種データを記憶し、例えば、車両情報、プロセッサ２４が各種処理を実行するためのコンピュータプログラム等を記憶する。ストレージ装置２２は記憶装置の一例である。
【００２６】
メモリ２３は、例えばランダムアクセスメモリ（ＲＡＭ）のような半導体メモリを有する。メモリ２３は、例えばプロセッサ２４によって各種処理が実行されるときに使用される各種データ等を記憶する。
【００２７】
通信インターフェース２１、ストレージ装置２２及びメモリ２３は、信号線を介してプロセッサ２４に接続されている。プロセッサ２４は、一つ又は複数のＣＰＵ及びその周辺回路を有し、各種処理を実行する。なお、プロセッサ２４は、論理演算ユニット又は数値演算ユニットのような演算回路を更に有していてもよい。プロセッサ２４は制御装置の一例である。
【００２８】
図２は、図１の車両３の構成の一部を概略的に示す図である。車両３は電子制御ユニット（ＥＣＵ（Electronic Control Unit））３０を備える。ＥＣＵ３０は、通信インターフェース３１、メモリ３２及びプロセッサ３３を含み、車両３の各種制御を実行する。なお、本実施形態では、一つのＥＣＵ３０が設けられているが、機能毎に複数のＥＣＵが設けられていてもよい。
【００２９】
通信インターフェース３１は、ＣＡＮ（Controller Area Network）等の規格に準拠した車内ネットワークにＥＣＵ３０を接続するためのインターフェース回路を有する。ＥＣＵ３０は通信インターフェース３１を介して他の車載機器と通信する。
【００３０】
メモリ３２は、例えば、揮発性の半導体メモリ（例えば、ＲＡＭ）及び不揮発性の半導体メモリ（例えば、ＲＯＭ）を有する。メモリ３２は、プロセッサ３３によって実行されるプログラム、プロセッサ３３によって各種処理が実行されるときに使用される各種データ等を記憶する。メモリ３２は記憶装置の一例である。
【００３１】
通信インターフェース３１及びメモリ３２は信号線を介してプロセッサ３３に接続されている。プロセッサ３３は、一つ又は複数のＣＰＵ(Central Processing Unit)及びその周辺回路を有し、各種処理を実行する。なお、プロセッサ３３は、論理演算ユニット又は数値演算ユニットのような演算回路を更に有していてもよい。プロセッサ３３は制御装置の一例である。
【００３２】
また、車両３は車両の外部（例えばサーバ２）と通信可能な通信モジュール３６を備える。通信モジュール３６は、信号線を介してＥＣＵ３０に接続され、例えばデータ通信モジュール（ＤＣＭ（Data communication module)）として構成される。車両３は、通信モジュール３６、無線基地局６及び通信ネットワーク５を介してサーバ２と通信する。通信モジュール３６は通信装置の一例である。
【００３３】
本実施形態では、車両３において、ニューラルネットワークモデルを用いた制御が行われる。最初に、図３を参照して、ニューラルネットワークモデルの概要について説明する。図３は、単純な構成を有するニューラルネットワークモデルの一例を示す図である。
【００３４】
図３における丸印は人工ニューロンを表す。人工ニューロンは、通常、ノード又はユニットと称される（本明細書では、「ノード」と称す）。図３において、Ｌ＝１は入力層を示し、Ｌ＝２及びＬ＝３は隠れ層を示し、Ｌ＝４は出力層を示している。なお、隠れ層は中間層とも称される。
【００３５】
図３において、ｘ1及びｘ2は入力層（Ｌ＝１）の各ノード及びそのノードからの出力値を示しており、ｙは出力層（Ｌ＝４）のノード及びその出力値を示している。同様に、ｚ1(L=2)、ｚ2(L=2)及びｚ3(L=2)は隠れ層（Ｌ＝２）の各ノード及びそのノードからの出力値を示しており、ｚ1(L=3)及びｚ2(L=3)は隠れ層（Ｌ＝３）の各ノード及びそのノードからの出力値を示している。
【００３６】
入力層の各ノードでは入力がそのまま出力される。一方、隠れ層（Ｌ＝２）の各ノードには、入力層の各ノードの出力値ｘ1及びｘ2が入力され、隠れ層（Ｌ＝２）の各ノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕが算出される。例えば、図３において隠れ層（Ｌ＝２）のｚk(L=2)（ｋ＝１、２、３）で示される各ノードにおいて算出される総入力値ｕk(L=2)は、次式のようになる（Ｍは入力層のノードの数）。
【数１】
0006791347.tif 000002
次いで、この総入力値ｕk(L=2)は活性化関数ｆにより変換され、隠れ層（Ｌ＝２）のｚk(L=2)で示されるノードから、出力値ｚk(L=2)（＝ｆ（ｕk(L=2)））として出力される。一方、隠れ層（Ｌ＝３）の各ノードには、隠れ層（Ｌ＝２）の各ノードの出力値ｚ1(L=2)、ｚ2(L=2)及びｚ3(L=2)が入力され、隠れ層（Ｌ＝３）の各ノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕ（＝Σｚ・ｗ＋ｂ）が算出される。この総入力値ｕは同様に活性化関数により変換され、隠れ層（Ｌ＝３）の各ノードから、出力値ｚ1(L=3)、ｚ2(L=3)として出力される、活性化関数は例えばシグモイド関数σである。
【００３７】
また、出力層（Ｌ＝４）のノードには、隠れ層（Ｌ＝３）の各ノードの出力値ｚ1(L=3)及びｚ2(L=3)が入力され、出力層のノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕ（Σｚ・ｗ＋ｂ）が算出され、又はそれぞれ対応する重みｗのみを用いて総入力値ｕ（Σｚ・ｗ）が算出される。例えば、出力層のノードでは活性化関数として恒等関数が用いられる。この場合、出力層のノードにおいて算出された総入力値ｕが、そのまま出力値ｙとして出力層のノードから出力される。
【００３８】
ニューラルネットワークモデルは複数の入力パラメータから少なくとも一つの出力パラメータを出力する。本実施形態では、ニューラルネットワークモデルの入力パラメータ及び出力パラメータとして、車両３の状態に関するパラメータ、車両３の走行環境に関するパラメータ等が用いられる。
【００３９】
例えば、入力パラメータとして、外気温、緯度、経度、曜日、時間帯及び直前の駐車時間（走行前の駐車時間）が用いられ、出力パラメータとしてエアコンの設定温度が用いられる。曜日が入力パラメータとして用いられる場合には、曜日が数値化される。例えば、月曜〜日曜に１〜７が割り当てられる。
【００４０】
また、車両が動力源として内燃機関を備える場合、例えば、入力パラメータとして、機関回転数、スロットル弁の開度、吸入空気量（新気量とＥＧＲガス量との合計）又は吸入空気圧、内燃機関の冷却水の温度、カムシャフトの角度、吸気温度、車速及び混合気の目標空燃比が用いられ、出力パラメータとして目標空燃比の補正量が用いられる。
【００４１】
また、車両３が動力源として内燃機関及びモータを備える場合、すなわち車両がハイブリッド車両（ＨＶ）又はプラグインハイブリッド車両（ＰＨＶ）である場合、例えば、入力パラメータとして、バッテリの充電率（ＳＯＣ：Ｓｔａｔｅ  Ｏｆ  Ｃｈａｒｇｅ）、車速、アクセル開度、内燃機関の冷却水の温度、バッテリの温度、エアコン等の使用による電気負荷、大気圧又は高度、現在地の緯度、現在地の経度、曜日及び時間帯が用いられ、出力パラメータとしてＨＶモードにおけるバッテリの目標充放電量が用いられる。なお、ＨＶモードでは、バッテリのＳＯＣが目標値になるように内燃機関及びモータが駆動される。
【００４２】
車両３には、入力パラメータ及び出力パラメータの種類に応じて、これらの実測値を検出するのに必要なセンサが設けられる。また、車両３において用いられるニューラルネットワークモデル（具体的にはニューラルネットワークモデルの構成情報）はＥＣＵ３０のメモリ３２に記憶される。ニューラルネットワークモデルの構成情報には、隠れ層の数、各層におけるノードの数、重みｗ、バイアスｂ等が含まれる。
【００４３】
ＥＣＵ３０のプロセッサ３３は、入力パラメータをニューラルネットワークモデルに入力することによってニューラルネットワークモデルに出力パラメータを出力させる。このとき、各入力パラメータの値として、例えば、車両３に設けられたセンサ等によって検出された値、プロセッサ３３によって算出された値、車両３の外部から車両３に送信された情報から得られる値、ドライバによって入力された等が用いられる。ニューラルネットワークモデルを用いることによって、所定値の入力パラメータに対応する適切な出力パラメータの値を得ることができる。
【００４４】
ニューラルネットワークモデルの精度を向上させるためには、ニューラルネットワークモデルの学習を予め行う必要がある。本実施形態では、複数の車両３のそれぞれにおいて、ニューラルネットワークモデルの学習が行われて学習済みのニューラルネットワークモデルが生成される。具体的には、ＥＣＵ３０のプロセッサ３３がニューラルネットワークモデルの学習を行うことによって学習済みのニューラルネットワークモデルを生成する。すなわち、本実施形態では、サーバ２ではなく車両３においてニューラルネットワークモデルの学習が行われる。
【００４５】
ニューラルネットワークモデルの学習では、複数の入力パラメータの実測値と、これら実測値に対応する少なくとも一つの出力パラメータの実測値（正解データ）との組合せから成る訓練データセットが用いられる。このため、ＥＣＵ３０のプロセッサ３３は、訓練データセットを作成するために、複数の入力パラメータの実測値と、これら実測値に対応する少なくとも一つの出力パラメータの実測値とを取得する。入力パラメータ及び出力パラメータの実測値は、例えば、車両３に設けられたセンサ等によって検出された値、プロセッサ３３によって算出された値、車両３の外部から車両３に送信された情報から得られる値、ドライバによって入力された値等として取得される。これら実測値を組み合わせることによって作成された訓練データセットはＥＣＵ３０のメモリ３２に記憶される。
【００４６】
プロセッサ３３は多数の訓練データセットを用いてニューラルネットワークモデルの学習を行う。例えば、プロセッサ３３は、ニューラルネットワークモデルによって出力される値と出力パラメータの実測値との差が小さくなるように、公知の誤差逆伝播法によってニューラルネットワークモデルにおける重みｗ及びバイアスｂを繰り返し更新する。この結果、ニューラルネットワークモデルが学習され、学習済みのニューラルネットワークモデルが生成される。学習済みのニューラルネットワークモデルは（具体的には学習済みのニューラルネットワークモデルの構成情報）はＥＣＵ３０のメモリ３２に記憶される。学習済みモデルの構成情報には、隠れ層の数、各層におけるノードの数、重みｗ、バイアスｂ等が含まれる。
【００４７】
学習済みのニューラルネットワークモデル（以下、「学習済みモデル」という）は車両３の制御のために車両３において用いられる。学習済みモデルを用いることによって、センサ等によって出力パラメータの実測値を検出する前に、入力パラメータの値に対応する出力パラメータの値を予測することができる。
【００４８】
本実施形態では、車両３において学習済みモデルが生成されると、学習済みモデルが車両３からサーバ２に送信される。すなわち、複数の車両３において生成された学習済みモデルがサーバ２に集約される。このとき、車両３において生成された学習済みモデルはサーバ２のストレージ装置２２に記憶される。
【００４９】
学習済みモデルは必要に応じてサーバ２から他の車両に配信される。このことによって、ニューラルネットワークモデルの学習機能を有しない車両又はニューラルネットワークモデルの学習が完了していない車両においても、学習済みモデルを用いることができる。
【００５０】
しかしながら、ニューラルネットワークモデルの学習に関する部品（入力パラメータ及び出力パラメータの実測値を検出するセンサ、ニューラルネットワークモデルの学習を行うＥＣＵ３０等）に異常が生じると、ニューラルネットワークモデルの学習が適切に行われない。この結果、車両３において、異常な学習済みモデルを用いた制御が行われるおそれがある。また、異常な学習済みモデルがサーバ２から他の車両に配信されるおそれがある。
【００５１】
このため、本実施形態では、サーバ２において、学習済みモデルの異常が診断され、サーバ２のプロセッサ２４は学習済みモデルの異常を判定する。学習済みモデルが異常である場合には、重みｗ及びバイアスｂの値が適切な範囲からずれ、不適切な出力パラメータの値が学習済みモデルから出力される。したがって、多数の学習済みモデルに入力パラメータとして同一の値が入力された場合、異常な学習済みモデルから出力される出力パラメータの値は統計的に外れ値となる可能性が高い。
【００５２】
このため、学習済みモデルから出力される出力パラメータの値を統計処理することによって学習済みモデルの異常を診断することができる。統計処理では、多数の出力パラメータの値が必要となる。また、出力パラメータの値を比較するためには、出力パラメータの値を取得するときに同一の値の入力パラメータを学習済みモデルに入力する必要がある。
【００５３】
このため、サーバ２のプロセッサ２４は、所定値の入力パラメータに対して学習済みモデルから出力された出力パラメータの値をストレージ装置２２に記憶する。このとき、出力パラメータの値は、所定値の入力パラメータを学習済みモデルに入力することによって取得される。所定値は、予め定められた一組の値であり、ストレージ装置２２に記憶される。例えば、学習済みモデルの入力パラメータの数が六つである場合、六つの入力パラメータのそれぞれについて、値が予め設定される。すなわち、異なる車両３において生成された二つの学習済みモデルにおいて重みｗ及びバイアスｂが同一の値に設定されている場合には、所定値の入力パラメータに対して二つの学習済みモデルから出力される出力パラメータの値は同一となる。
【００５４】
また、プロセッサ２４は、サーバ２の通信インターフェース２１を介して複数の車両３のうちの一つの車両３から新たな学習済みモデルを受信したときに、上記所定値の入力パラメータに対して新たな学習済みモデルから出力された出力パラメータの値に対して統計処理を行い、統計処理の結果に基づいて新たな学習済みモデルの異常を判定する。このことによって、出力パラメータとして外れ値を出力する学習済みモデルを選別することができ、ひいては学習済みモデルの異常を短時間で精度良く診断することができる。
【００５５】
例えば、プロセッサ２４は、新たな学習済みモデルから出力された出力パラメータの値が、ストレージ装置２２に記憶された出力パラメータの値を母集団として用いて生成された正規分布の所定範囲内にあるときには、新たな学習済みモデルが正常であると判定する。一方、プロセッサ２４は、新たな学習済みモデルから出力された出力パラメータの値が正規分布の所定範囲外にあるときには、新たな学習済みモデルが異常であると判定する。
【００５６】
また、プロセッサ２４は、新たな学習済みモデルの異常診断結果を、新たな学習済みモデルをサーバ２に送信した車両３に送信する。このことによって、車両３において新たな学習済みモデルの使用の是非を判断することができる。
【００５７】
具体的には、プロセッサ２４は、新たな学習済みモデルが異常であると判定した場合には、新たな学習済みモデルが異常であることを車両３に通知する。一方、プロセッサ２４は、新たな学習済みモデルが正常であると判定した場合には、新たな学習済みモデルが正常であることを車両３に通知する。
【００５８】
また、プロセッサ２４は、学習済みモデルを他の車両に配信する場合には、正常であると判定された学習済みモデルを他の車両に送信する。このことによって、他の車両において、異常な学習済みモデルを用いた制御が行われることを抑制することができる。
【００５９】
新たな学習済みモデルを送信した車両３に設けられたＥＣＵ３０のプロセッサ３３は、新たな学習済みモデルが正常であることを通知された場合には新たな学習済みモデルを採用し、新たな学習済みモデルが異常であることを通知された場合には、新たな学習済みモデルを採用しない。このことによって、車両３において異常な学習済みモデルを用いた制御が行われることを抑制することができる。
【００６０】
また、ＥＣＵ３０のプロセッサ３３は、新たな学習済みモデルが異常であることを通知された場合には、ニューラルネットワークモデルの学習に関する部品（入力パラメータ及び出力パラメータの実測値を検出するセンサ、ニューラルネットワークモデルの学習を行うＥＣＵ３０等）の異常を車両３のドライバに通知する。このことによって、ドライバに車両３の修理を促すことができる。
【００６１】
＜モデル学習処理＞
以下、図４のフローチャートを参照して、車両３において行われる制御について詳細に説明する。図４は、第一実施形態におけるモデル学習処理の制御ルーチンを示すフローチャートである。本制御ルーチンはＥＣＵ３０のプロセッサ３３によって繰り返し実行される。
【００６２】
最初に、ステップＳ１０１において、プロセッサ３３は、メモリ３２に記憶された訓練データセットの数が所定数以上であるか否かを判定する。所定数は、予め定められ、学習精度を高めるのに十分な値に設定される。なお、ニューラルネットワークモデルの学習が既に行われている場合には、学習に用いられていない訓練データセットの数、すなわち新たに取得された訓練データセットの数が所定数以上であるか否かが判定される。
【００６３】
ステップＳ１０１において訓練データセットの数が所定数未満であると判定された場合、本制御ルーチンは終了する。一方、ステップＳ１０１において訓練データセットの数が所定数以上であると判定された場合、本制御ルーチンはステップＳ１０２に進む。
【００６４】
ステップＳ１０２では、プロセッサ３３はニューラルネットワークモデルの学習を行う。例えば、プロセッサ３３は、ニューラルネットワークモデルによって出力される値と出力パラメータの実測値との差が小さくなるように、公知の誤差逆伝播法によってニューラルネットワークモデルにおける重みｗ及びバイアスｂを繰り返し更新する。この結果、ニューラルネットワークモデルが学習され、学習済みモデルが生成される。生成された学習済みモデルは、ＥＣＵ３０のメモリ３２に記憶される。
【００６５】
次いで、ステップＳ１０３において、プロセッサ３３は通信モジュール３６を介して学習済みモデルをサーバ２に送信する。
【００６６】
次いで、ステップＳ１０４において、プロセッサ３３は、学習済みモデルをサーバ２に送信してから所定時間以内にサーバ２から異常診断結果を受信したか否かを判定する。所定時間は、予め定められ、サーバ２において学習済みモデルの異常を診断するのに必要な時間よりも長い時間に設定される。ステップＳ１０４において所定時間以内に異常診断結果を受信しなかったと判定された場合、本制御ルーチンは終了する。この場合、プロセッサ３３は学習済みモデルを採用しない。
【００６７】
一方、ステップＳ１０４において所定時間以内に異常診断結果を受信したと判定された場合、本制御ルーチンはステップＳ１０５に進む。ステップＳ１０５では、プロセッサ３３は、異常診断結果が異常判定であるか否かを判定する。すなわち、プロセッサ３３は、学習済みモデルが異常であることが通知されたか否かを判定する。異常診断結果が異常判定であると判定された場合、本制御ルーチンはステップＳ１０６に進む。
【００６８】
ステップＳ１０６では、プロセッサ３３は、学習済みモデルを採用することなく、ニューラルネットワークモデルの学習に関する部品の異常を車両３のドライバに通知する。例えば、プロセッサ３３は、車両３に設けられた警告灯を点灯することによって部品の異常を車両３のドライバに通知する。なお、プロセッサ３３は、車両３に設けられた発音装置から警告音を発することによって部品の異常を車両３のドライバに通知してもよい。また、ステップＳ１０６において、プロセッサ３３は学習済みモデルをメモリ３２から削除してもよい。ステップＳ１０６の後、本制御ルーチンは終了する。
【００６９】
一方、ステップＳ１０５において異常診断結果が正常判定であると判定された場合、本制御ルーチンはステップＳ１０７に進む。ステップＳ１０７では、プロセッサ３３は学習済みモデルを採用する。この結果、その後の車両制御において学習済みモデルが用いられる。ステップＳ１０７の後、本制御ルーチンは終了する。
【００７０】
なお、ステップＳ１０４において所定時間以内に異常診断結果を受信しなかったと判定された場合、本制御ルーチンはステップＳ１０７に進んでもよい。すなわち、学習済みモデルが異常であることが通知されない限り、プロセッサ３３は学習済みモデルを採用してもよい。
【００７１】
＜モデル診断処理＞
以下、図５のフローチャートを参照して、サーバ２において行われる制御について詳細に説明する。図５は、第一実施形態におけるモデル診断処理の制御ルーチンを示すフローチャートである。本制御ルーチンはサーバ２のプロセッサ２４によって繰り返し実行される。
【００７２】
最初に、ステップＳ２０１において、プロセッサ２４は、車両３から新たな学習済みモデルを受信したか否かを判定する。車両３から新たな学習済みモデルを受信しなかったと判定された場合、本制御ルーチンは終了する。一方、車両３から新たな学習済みモデルを受信したと判定された場合、本制御ルーチンはステップＳ２０２に進む。
【００７３】
ステップＳ２０２では、プロセッサ２４は、所定値の入力パラメータに対して学習済みモデルから出力される出力パラメータの値をストレージ装置２２に記憶する。具体的には、プロセッサ２４は、所定値の入力パラメータを学習済みモデルに入力し、学習済みモデルによって出力された出力パラメータの値をストレージ装置２２に記憶する。上述したように、所定値は、予め定められた一組の値であり、ストレージ装置２２に記憶されている。
【００７４】
次いで、ステップＳ２０３において、プロセッサ２４は、ストレージ装置２２に記憶された出力パラメータの値の数、すなわち統計処理に用いられる母集団の数が所定数以上であるか否かが判定される。所定数は、予め定められ、統計処理による異常診断の精度を高めるのに十分な値に設定される。母集団の数が所定数未満であると判定された場合、本制御ルーチンは終了する。一方、母集団の数が所定数以上であると判定された場合、本制御ルーチンはステップＳ２０４に進む。
【００７５】
ステップＳ２０４では、プロセッサ２４は、新たな学習済みモデルから出力された出力パラメータの値が、ストレージ装置２２に記憶された出力パラメータの値を母集団として用いて生成された正規分布の所定範囲内にあるか否かを判定する。所定範囲は、予め定められ、例えばｋシグマ区間［μ−ｋσ,μ＋ｋσ］に設定される。ｋは、予め定められた任意の自然数である。μは、正規分布の平均であり、計算によって算出される。σは、正規分布の標準偏差であり、計算によって算出される。例えば、ｋが２である場合、すなわち所定範囲が２シグマ区間である場合、図６に示されるように、出力パラメータの値がμ±２σの範囲にないときに、新たな学習済みモデルが異常であると判定される。なお、新たな学習済みモデルから出力された出力パラメータの値は母集団として用いられてなくてもよい。
【００７６】
ステップＳ２０４において出力パラメータの値が正規分布の所定範囲内であると判定された場合、本制御ルーチンはステップＳ２０５に進む。ステップＳ２０５では、プロセッサ２４は、新たな学習済みモデルが正常であると判定する。この場合、プロセッサ２４は、新たな学習済みモデル（具体的には新たな学習済みモデルの構成情報）をストレージ装置２２に記憶する。
【００７７】
ステップＳ２０５の後、ステップＳ２０７において、プロセッサ２４は、新たな学習済みモデルを送信した車両３に異常診断結果を送信する。この場合、プロセッサ２４は、新たな学習済みモデルを送信した車両３に、新たな学習済みモデルが正常であることを通知する。ステップＳ２０７の後、本制御ルーチンは終了する。
【００７８】
一方、ステップＳ２０４において出力パラメータの値が正規分布の所定範囲外であると判定された場合、本制御ルーチンはステップＳ２０６に進む。ステップＳ２０６では、プロセッサ２４は、新たな学習済みモデルが異常であると判定する。この場合、プロセッサ２４は、新たな学習済みモデルをストレージ装置２２に記憶しない。すなわち、プロセッサ２４は新たな学習済みモデルを削除する。このことによって、ストレージ装置２２の空き容量が不足することを抑制することができる。
【００７９】
ステップＳ２０６の後、ステップＳ２０７において、プロセッサ２４は、新たな学習済みモデルを送信した車両３に異常診断結果を送信する。この場合、プロセッサ２４は、新たな学習済みモデルを送信した車両３に、新たな学習済みモデルが異常であることを通知する。ステップＳ２０７の後、本制御ルーチンは終了する。
【００８０】
なお、ステップＳ２０６において、プロセッサ２４は、新たな学習済みモデルが異常であると判定した場合に、母集団に外れ値が含まれないように、異常であると判定された新たな学習済みモデルから出力された出力パラメータの値を削除してもよい。このことによって、異常診断の精度が低下することを抑制することができる。
【００８１】
また、ステップＳ２０６において、プロセッサ２４は、新たな学習済みモデルが異常であると判定した場合に、新たな学習済みモデルを送信した車両３に正常な学習済みモデルを送信してもよい。正常な学習済みモデルは、新たな学習済みモデルを送信した車両３とは異なる車両３において生成され且つ正常であると判定された学習済みモデルである。このことによって、異常な学習済みモデルが生成された車両３において、正常な学習済みモデルを用いた適切な制御を行うことができる。
【００８２】
＜第二実施形態＞
第二実施形態に係るモデル診断システム及びモデル診断装置の構成及び制御は、以下に説明する点を除いて、基本的に第一実施形態に係るモデル診断システム及びモデル診断装置の構成及び制御と同様である。このため、以下、本発明の第二実施形態について、第一実施形態と異なる部分を中心に説明する。
【００８３】
上述したように、学習済みモデルの異常診断では、学習済みモデルから出力された出力パラメータの値が用いられ、学習済みモデルの構成情報は用いられない。このため、第二実施形態では、車両３において学習済みモデルが生成されると、所定値に対して学習済みモデルから出力された出力パラメータの値がサーバ２に送信される。すなわち、複数の車両３において生成された学習済みモデルから出力された出力パラメータの値がサーバ２に集約されてサーバ２のストレージ装置２２に記憶される。出力パラメータの値は、所定値の入力パラメータを学習済みモデルに入力することによって取得される。所定値は、予め定められ一組の値であり、ＥＣＵ３０のメモリ３２に記憶される。
【００８４】
サーバ２のプロセッサ２４は、サーバ２の通信インターフェース２１を介して複数の車両３のうちの一つの車両３から上記所定値の入力パラメータに対して新たな学習済みモデルから出力された出力パラメータの値を受信したときに、この出力パラメータの値に対して統計処理を行い、統計処理の結果に基づいて新たな学習済みモデルの異常を判定する。このことによって、出力パラメータとして外れ値を出力する学習済みモデルを選別することができ、ひいては学習済みモデルの異常を短時間で精度良く診断することができる。
【００８５】
しかしながら、サーバ２から他の車両に学習済みモデルを配信するためには、車両３において生成された学習済みモデルをサーバ２に送信する必要がある。このため、ＥＣＵ３０のプロセッサ３３は、新たな学習済みモデルが正常であることを通知された場合には、新たな学習済みモデルをサーバ２に送信する。このことによって、学習済みモデルが生成される度に学習済みモデルがサーバ２に送信される場合と比べて、通信負荷を低減することができる。
【００８６】
＜モデル学習処理＞
図７は、第二実施形態におけるモデル学習処理の制御ルーチンを示すフローチャートである。本制御ルーチンはＥＣＵ３０のプロセッサ３３によって繰り返し実行される。
【００８７】
最初に、ステップＳ３０１において、図４のステップＳ１０１と同様に、プロセッサ３３は、メモリ３２に記憶された訓練データセットの数が所定数以上であるか否かを判定する。訓練データセットの数が所定数未満であると判定された場合、本制御ルーチンは終了する。一方、ステップＳ３０１において訓練データセットの数が所定数以上であると判定された場合、本制御ルーチンはステップＳ３０２に進む。
【００８８】
次いで、ステップＳ３０２では、図４のステップＳ１０２と同様に、プロセッサ３３はニューラルネットワークモデルの学習を行い、学習済みモデルを生成する。
【００８９】
次いで、ステップＳ３０３において、プロセッサ３３は、所定値に対して学習済みモデルから出力された出力パラメータの値をサーバ２に送信する。具体的には、プロセッサ３３は、所定値の入力パラメータを学習済みモデルに入力し、学習済みモデルによって出力された出力パラメータの値をサーバ２に送信する。上述したように、所定値は、予め定められ一組の値であり、メモリ３２に記憶されている。
【００９０】
その後、ステップＳ３０４〜ステップＳ３０６が図４のステップＳ１０４〜ステップＳ１０６と同様に実行される。
【００９１】
一方、ステップＳ３０５において異常診断結果が正常判定であると判定された場合、本制御ルーチンはステップＳ３０７に進む。ステップＳ３０７では、図４のステップＳ１０７と同様に、プロセッサ３３は学習済みモデルを採用する。
【００９２】
次いで、ステップＳ３０８において、プロセッサ３３は学習済みモデル（具体的には、学習済みモデルの構成情報）をサーバ２に送信する。サーバ２に送信された学習済みモデルは、サーバ２のストレージ装置２２に記憶され、必要に応じて他の車両に配信される。したがって、サーバ２のプロセッサ２４は、新たな学習済みモデルが正常であると判定した場合に、新たな学習済みモデルをストレージ装置２２に記憶する。ステップＳ３０８の後、本制御ルーチンは終了する。
【００９３】
なお、本制御ルーチンは図４の制御ルーチンと同様に変形可能である。
【００９４】
＜モデル診断処理＞
図８は、第二実施形態におけるモデル診断処理の制御ルーチンを示すフローチャートである。本制御ルーチンはサーバ２のプロセッサ２４によって繰り返し実行される。
【００９５】
最初に、ステップＳ４０１において、プロセッサ２４は、車両３から出力パラメータの値を受信したか否かを判定する。車両３から出力パラメータの値を受信しなかったと判定された場合、本制御ルーチンは終了する。一方、車両３から出力パラメータの値を受信したと判定された場合、本制御ルーチンはステップＳ４０２に進む。
【００９６】
ステップＳ４０２では、プロセッサ２４は、車両３から送信された出力パラメータの値をストレージ装置２２に記憶する。その後、ステップＳ４０３〜ステップＳ４０７が図５のステップＳ２０３〜ステップＳ２０７と同様に実行される。
【００９７】
なお、ステップＳ４０６において、プロセッサ２４は、新たな学習済みモデルが異常であると判定した場合に、母集団に外れ値が含まれないように、車両３から送信された出力パラメータの値を削除してもよい。このことによって、異常診断の精度が低下することを抑制することができる。
【００９８】
また、ステップＳ４０６において、プロセッサ２４は、新たな学習済みモデルが異常であると判定した場合に、出力パラメータの値を送信した車両３に正常な学習済みモデルを送信してもよい。正常な学習済みモデルは、出力パラメータの値を送信した車両３とは異なる車両３において生成され且つ正常であると判定された学習済みモデルである。このことによって、異常な学習済みモデルが生成された車両３において、正常な学習済みモデルを用いた適切な制御を行うことができる。
【００９９】
＜第三実施形態＞
第三実施形態に係るモデル診断システム及びモデル診断装置の構成及び制御は、以下に説明する点を除いて、基本的に第一実施形態に係るモデル診断システム及びモデル診断装置の構成及び制御と同様である。このため、以下、本発明の第三実施形態について、第一実施形態と異なる部分を中心に説明する。
【０１００】
上述したように、ニューラルネットワークモデルの学習に関する部品に異常が生じると、ニューラルネットワークモデルの学習が適切に行われず、異常な学習済みモデルが生成される。しかしながら、斯かる部品が正常であっても、ニューラルネットワークモデルの構成（入力パラメータの数及び種類、隠れ層の数、各層のノードの数等）が不適切である場合には、学習済みモデルの精度を高めることができない。
【０１０１】
学習済みモデルの精度が低い場合には、異なる車両３において生成された学習済みモデルの間で、出力パラメータの値のバラツキが大きくなる。この場合、ストレージ装置２２に記憶された出力パラメータの値が正規分布を示さない可能性が高い。
【０１０２】
このため、第三実施形態では、サーバ２のプロセッサ２４は、ストレージ装置２２に記憶された出力パラメータの値が正規分布を示さない場合に、修正されたニューラルネットワークモデルを複数の車両３に送信する。このことによって、複数の車両３において、精度の低い学習済みモデルが生成され続けることを抑制することができる。
【０１０３】
＜モデル診断処理＞
図９は、第三実施形態におけるモデル診断処理の制御ルーチンを示すフローチャートである。本制御ルーチンはサーバ２のプロセッサ２４によって繰り返し実行される。
【０１０４】
最初に、ステップＳ５０１〜ステップＳ５０３が図５のステップＳ２０１〜ステップＳ２０３と同様に実行される。ステップＳ５０３において、母集団の数が所定数以上であると判定された場合、本制御ルーチンはステップＳ５０４に進む。
【０１０５】
ステップＳ５０４では、プロセッサ２４は、ストレージ装置２２に記憶された出力パラメータの値から成る母集団が正規分布を示すか否かを判定する。例えば、プロセッサ２４は、正規性の検定に用いられる公知の検定方法（歪度によるダゴスティーノ検定、尖度によるダゴスティーノ検定、歪度及び尖度によるオムニバス検定、コルモゴロフ・スミルノフ検定、シャピロ・ウィルク検定等）を用いて、母集団が正規分布を示すか否かを判定する。
【０１０６】
ステップＳ５０４において母集団が正規分布を示すと判定された場合、本制御ルーチンはステップＳ５０５に進み、ステップＳ５０５〜ステップＳ５０８が図５のステップＳ２０４〜ステップＳ２０７と同様に実行される。一方、ステップＳ５０４において母集団が正規分布を示さないと判定された場合、本制御ルーチンはステップＳ５０９に進む。
【０１０７】
ステップＳ５０９では、プロセッサ２４は、修正されたニューラルネットワークモデルを複数の車両３に送信する。修正されたニューラルネットワークモデルの構成情報はストレージ装置２２に記憶されている。複数の車両３のそれぞれでは、車両３の制御に用いられるニューラルネットワークモデルが、修正されたニューラルネットワークモデルに置換され、修正されたニューラルネットワークモデルの学習が行われる。
【０１０８】
例えば、修正されたニューラルネットワークモデルは、修正前のニューラルネットワークモデルよりも多い隠れ層を有する。なお、修正されたニューラルネットワークモデルは、修正前のニューラルネットワークモデルよりも多い隠れ層のノードの数を有していてもよい。基本的には、隠れ層の数及び隠れ層のノードの数が多いほど、ニューラルネットワークモデルの自由度が大きくなり、学習済みモデルの精度が高くなる。ニューラルネットワークモデルの自由度は、ニューラルネットワークモデルにおける重みｗ及びバイアスｂの総数を示す。
【０１０９】
次いで、ステップＳ５１０において、プロセッサ２４は、ストレージ装置２２に記憶された全ての出力パラメータの値及び全ての学習済みモデルを削除する。ステップＳ５１０の後、本制御ルーチンは終了する。
【０１１０】
なお、本制御ルーチンは図５の制御ルーチンと同様に変形可能である。また、修正されたニューラルネットワークモデルは、修正前のニューラルネットワークモデルとは異なる入力パラメータの種類を有していてもよい。また、修正されたニューラルネットワークモデルは、修正前のニューラルネットワークモデルから追加された入力パラメータを有していてもよい。これらの場合、ニューラルネットワークモデルの修正は人によって行われる。このため、母集団が正規分布を示さないと判定された場合、プロセッサ２４はサーバ２の管理者に修正提案を通知し、管理者によって修正されたニューラルネットワークモデルがサーバ２から複数の車両３に送信される。
【０１１１】
＜その他の実施形態＞
以上、本発明に係る好適な実施形態を説明したが、本発明はこれら実施形態に限定されるものではなく、特許請求の範囲の記載内で様々な修正及び変更を施すことができる。例えば、ニューラルネットワークモデルの入力パラメータ及び出力パラメータの種類は、上述した例に限定されず、車両３において取得可能な任意のパラメータを含むことができる。
【０１１２】
また、ＥＣＵ３０のメモリ３２に記憶される各種情報は、車両３に設けられた他の記憶装置に記憶されてもよい。また、サーバ２のストレージ装置２２に記憶される各種情報は、サーバ２のメモリ２３に記憶されてもよい。
【０１１３】
また、学習済みモデルに入力される所定値の入力パラメータとして、複数の組合せが用いられてもよい。この場合、複数の組合せの入力パラメータのそれぞれに対して新たな学習済みモデルから出力された出力パラメータの値に対して統計処理が行われ、例えば全ての出力パラメータの値が正規分布の所定範囲内にあるときに、新たな学習済みモデルが正常であると判定される。
【０１１４】
また、出力パラメータの値を統計処理するときに、外れ値を検出するための他の公知の統計的手法（例えば、トリム平均、スミルノフ・グラブス検定、箱ひげ図、クラスター分析等）が用いられてもよい。
【０１１５】
また、上述した実施形態は、任意に組み合わせて実施可能である。第二実施形態と第三実施形態とが組み合わされる場合、図８の制御ルーチンにおいて、ステップＳ４０４〜ステップＳ４０７の代わりに、図９のステップＳ５０４〜ステップＳ５１０が実行される。
【符号の説明】
【０１１６】
１    モデル診断システム
２    サーバ
２１    通信インターフェース
２２    ストレージ装置
２４    プロセッサ
３    車両
３０    電子制御ユニット（ＥＣＵ）
３３    プロセッサ
３６    通信モジュール
【要約】
【課題】車両において生成された学習済みのニューラルネットワークモデルの異常を診断することができるモデル診断装置を提供する。
【解決手段】モデル診断装置は、学習済みのニューラルネットワークモデルが生成される複数の車両３と通信可能な通信装置と、データを記憶する記憶装置と、学習済みのニューラルネットワークモデルの異常を判定する制御装置とを備える。制御装置は、所定値の入力パラメータに対して学習済みのニューラルネットワークモデルから出力された出力パラメータの値を記憶装置に記憶し、一つの車両から新たな学習済みのニューラルネットワークモデル又は所定値の入力パラメータに対して新たな学習済みのニューラルネットワークモデルから出力された出力パラメータの値を受信したときに、出力パラメータの値に対して統計処理を行い、統計処理の結果に基づいて新たな学習済みのニューラルネットワークモデルの異常を判定する。
【選択図】図５【図１】
0006791347.tif 000003
【図２】
0006791347.tif 000004
【図３】
0006791347.tif 000005
【図４】
0006791347.tif 000006
【図５】
0006791347.tif 000007
【図６】
0006791347.tif 000008
【図７】
0006791347.tif 000009
【図８】
0006791347.tif 000010
【図９】
0006791347.tif 000011