(57)【要約】【課題】ニューラルネットワークモデルを用いて入力パラメータに基づいて出力パラメータを算出する場合に、入力パラメータの種類を増やすことなく出力パラメータの算出精度を向上させる。【解決手段】内燃機関の制御装置は、複数の入力パラメータを取得するパラメータ取得部８１と、ニューラルネットワークモデルを用いて少なくとも一つの出力パラメータを算出する演算部８２と、内燃機関を制御する制御部８３とを備える。ニューラルネットワークモデルは複数のニューラルネットワーク部と出力層とを含む。複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、複数のニューラルネットワーク部に入力される入力パラメータの総数が複数の入力パラメータの数よりも多くなるように、複数の入力パラメータから選択された異なる組合せの入力パラメータが複数のニューラルネットワーク部の入力層のそれぞれに入力される。【選択図】図４
2020125694.tif 000002
【特許請求の範囲】
【請求項１】
複数の入力パラメータを取得するパラメータ取得部と、
ニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部と、
前記演算部によって算出された前記少なくとも一つの出力パラメータに基づいて内燃機関を制御する制御部と
を備え、
前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、
前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、
前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、内燃機関の制御装置。
【請求項２】
前記複数の入力パラメータの数がｎであり、前記ニューラルネットワークモデルは、該複数の入力パラメータから選択されたnＣkの組合せの入力パラメータが入力されるnＣk個のニューラルネットワーク部を含み、ｎは３以上であり、ｋは２〜ｎ−１である、請求項１に記載の内燃機関の制御装置。
【請求項３】
前記内燃機関を搭載する車両において前記ニューラルネットワークモデルの学習を行う学習部を更に備え、
前記パラメータ取得部は前記複数の入力パラメータ及び前記少なくとも一つの出力パラメータを取得し、前記学習部は、前記パラメータ取得部によって取得された前記複数の入力パラメータ及び前記少なくとも一つの出力パラメータの組合せから成る訓練データセットを用いて前記ニューラルネットワークモデルの学習を行う、請求項１又は２に記載の内燃機関の制御装置。
【請求項４】
複数の入力パラメータを取得するパラメータ取得部と、
車両の外部のサーバから該車両に送信されたニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部と
を備え、
前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、
前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、
前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、車載電子制御ユニット。
【請求項５】
車両に設けられた電子制御ユニットと、前記車両に設けられた通信装置と、前記車両の外部のサーバとを備えた機械学習システムであって、
前記電子制御ユニットは、
複数の入力パラメータ及び少なくとも一つの出力パラメータを取得すると共に、該複数の入力パラメータ及び該少なくとも一つの出力パラメータを前記通信装置を介して前記サーバに送信するパラメータ取得部と、
前記サーバから送信されたニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて前記少なくとも一つの出力パラメータを算出する演算部とを備え、
前記サーバは、前記パラメータ取得部によって取得された前記複数の入力パラメータ及び前記少なくとも一つの出力パラメータの組合せから成る訓練データセットを用いて前記ニューラルネットワークモデルの学習を行い、
前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、
前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、
前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、機械学習システム。
【請求項６】
複数の入力パラメータを取得することと、
ニューラルネットワークモデルを用いて、前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出することと、
前記少なくとも一つの出力パラメータに基づいて内燃機関を制御することと
を含み、
前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、
前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、
前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、内燃機関の制御方法。
【請求項７】
複数の入力パラメータの実測値及び該実測値に対応する少なくとも一つの出力パラメータの実測値の組合せから成る訓練データセットを用いてニューラルネットワークモデルの学習を行うことと、
前記ニューラルネットワークモデルを電子制御ユニットに実装することと
を含み、
前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、
前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、
前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、電子制御ユニットの製造方法。
【請求項８】
複数の入力パラメータを取得するパラメータ取得部と、
ニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部と
を備え、
前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、
前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、
前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、出力パラメータ算出装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、内燃機関の制御装置、車載電子制御ユニット、機械学習システム、内燃機関の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置に関する。
【背景技術】
【０００２】
従来、入力層、隠れ層（中間層）及び出力層を含むニューラルネットワークモデルを用いて、所定の入力パラメータに基づいて所定の出力パラメータを算出することが知られている（例えば、特許文献１）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１１−５４２００号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ニューラルネットワークモデルでは、入力層に入力される入力パラメータとして、出力パラメータと相関するパラメータが用いられる。基本的に、入力パラメータの数が多いほど、出力パラメータを算出するための情報量が多くなり、出力パラメータの算出精度が向上する。
【０００５】
しかしながら、必ずしも全ての種類の入力パラメータを取得できるわけではない。このため、限られた種類の入力パラメータを用いて出力パラメータの算出精度を向上させることが望まれている。
【０００６】
そこで、本発明の目的は、ニューラルネットワークモデルを用いて入力パラメータに基づいて出力パラメータを算出する場合に、入力パラメータの種類を増やすことなく出力パラメータの算出精度を向上させることにある。
【課題を解決するための手段】
【０００７】
本開示の要旨は以下のとおりである。
【０００８】
（１）複数の入力パラメータを取得するパラメータ取得部と、ニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部と、前記演算部によって算出された前記少なくとも一つの出力パラメータに基づいて内燃機関を制御する制御部とを備え、前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、内燃機関の制御装置。
【０００９】
（２）前記複数の入力パラメータの数がｎであり、前記ニューラルネットワークモデルは、該複数の入力パラメータから選択されたnＣkの組合せの入力パラメータが入力されるnＣk個のニューラルネットワーク部を含み、ｎは３以上であり、ｋは２〜ｎ−１である、上記（１）に記載の内燃機関の制御装置。
【００１０】
（３）前記内燃機関を搭載する車両において前記ニューラルネットワークモデルの学習を行う学習部を更に備え、前記パラメータ取得部は前記複数の入力パラメータ及び前記少なくとも一つの出力パラメータを取得し、前記学習部は、前記パラメータ取得部によって取得された前記複数の入力パラメータ及び前記少なくとも一つの出力パラメータの組合せから成る訓練データセットを用いて前記ニューラルネットワークモデルの学習を行う、上記（１）又は（２）に記載の内燃機関の制御装置。
【００１１】
（４）複数の入力パラメータを取得するパラメータ取得部と、車両の外部のサーバから該車両に送信されたニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部とを備え、前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、車載電子制御ユニット。
【００１２】
（５）車両に設けられた電子制御ユニットと、前記車両に設けられた通信装置と、前記車両の外部のサーバとを備えた機械学習システムであって、前記電子制御ユニットは、複数の入力パラメータ及び少なくとも一つの出力パラメータを取得すると共に、該複数の入力パラメータ及び該少なくとも一つの出力パラメータを前記通信装置を介して前記サーバに送信するパラメータ取得部と、前記サーバから送信されたニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて前記少なくとも一つの出力パラメータを算出する演算部とを備え、前記サーバは、前記パラメータ取得部によって取得された前記複数の入力パラメータ及び前記少なくとも一つの出力パラメータの組合せから成る訓練データセットを用いて前記ニューラルネットワークモデルの学習を行い、前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、機械学習システム。
【００１３】
（６）複数の入力パラメータを取得することと、ニューラルネットワークモデルを用いて、前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出することと、前記少なくとも一つの出力パラメータに基づいて内燃機関を制御することとを含み、前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、内燃機関の制御方法。
【００１４】
（７）複数の入力パラメータの実測値及び該実測値に対応する少なくとも一つの出力パラメータの実測値の組合せから成る訓練データセットを用いてニューラルネットワークモデルの学習を行うことと、前記ニューラルネットワークモデルを電子制御ユニットに実装することとを含み、前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、電子制御ユニットの製造方法。
【００１５】
（８）複数の入力パラメータを取得するパラメータ取得部と、ニューラルネットワークモデルを用いて、前記パラメータ取得部によって取得された前記複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部とを備え、前記ニューラルネットワークモデルは、複数のニューラルネットワーク部と、該複数のニューラルネットワーク部の出力に基づいて前記少なくも一つの出力パラメータを出力する出力層とを含み、前記複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含み、前記複数のニューラルネットワーク部に入力される入力パラメータの総数が前記複数の入力パラメータの数よりも多くなるように、該複数の入力パラメータから選択された異なる組合せの入力パラメータが前記複数のニューラルネットワーク部の入力層のそれぞれに入力される、出力パラメータ算出装置。
【発明の効果】
【００１６】
本発明によれば、ニューラルネットワークモデルを用いて入力パラメータに基づいて出力パラメータを算出する場合に、入力パラメータの種類を増やすことなく出力パラメータの算出精度を向上させることができる。
【図面の簡単な説明】
【００１７】
【図１】図１は、第一実施形態に係る内燃機関の制御装置が適用される内燃機関を概略的に示す図である。
【図２】図２は、第一実施形態におけるＥＣＵの機能ブロック図である。
【図３】図３は、単純な構成を有するニューラルネットワークの一例を示す。
【図４】図４は、第一実施形態におけるニューラルネットワークの一例を示す図である。
【図５】図５は、第一実施形態におけるニューラルネットワークの一例を示す図である。
【図６】図６は、ニューラルネットワークモデルの自由度と出力パラメータの決定係数との関係を示す図である。
【図７】図７は、本実施形態における第１ニューラルネットワークモデルの構成を概略的に示す。
【図８】図８は、ニューラルネットワークモデルの学習のために用いられた訓練データセットの数と出力パラメータの決定係数との関係を示す図である。
【図９】図９は、第一実施形態における内燃機関の制御の制御ルーチンを示すフローチャートである。
【図１０】図１０は、第二実施形態に係る機械学習システムを概略的に示す図である。
【図１１】図１１は、第四実施形態におけるＥＣＵの機能ブロック図である。
【発明を実施するための形態】
【００１８】
以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下の説明では、同様な構成要素には同一の参照番号を付す。
【００１９】
＜第一実施形態＞
最初に、図１〜図９を参照して、本発明の第一実施形態について説明する。
【００２０】
＜内燃機関全体の説明＞
図１は、第一実施形態に係る内燃機関の制御装置が適用される内燃機関を概略的に示す図である。図１に示される内燃機関１は、圧縮自着火式内燃機関（ディーゼルエンジン）であり、車両に搭載される。
【００２１】
内燃機関１は、機関本体１０、燃料供給装置２０、吸気系３０、排気系４０及び排気ガス再循環（ＥＧＲ）システム５０を備える。機関本体１０は、複数の気筒１１が形成されたシリンダブロックと、吸気ポート及び排気ポートが形成されたシリンダヘッドと、クランクケースとを備える。本実施形態では、気筒１１の数は４つである。各気筒１１内にはピストンが配置されると共に、各気筒１１は吸気ポート及び排気ポートに連通している。また、シリンダヘッドには、吸気ポートを開閉するように構成された吸気弁と、排気ポートを開閉するように構成された排気弁とが設けられている。
【００２２】
燃料供給装置２０は、燃料噴射弁２１、コモンレール２２、燃料供給管２３、燃料ポンプ２４及び燃料タンク２５を備える。燃料噴射弁２１は、コモンレール２２及び燃料供給管２３を介して燃料タンク２５に連結されている。燃料噴射弁２１は、各気筒１１の燃焼室内に燃料を直接噴射するようにシリンダヘッドに配置されている。燃料噴射弁２１はいわゆる筒内噴射弁である。燃料供給管２３には、燃料タンク２５内の燃料を圧送する燃料ポンプ２４が配置される。燃料ポンプ２４によって圧送された燃料は、燃料供給管２３を介してコモンレール２２に供給され、燃料噴射弁２１から各気筒１１の燃焼室内に直接噴射される。コモンレール２２内の燃料の圧力は燃料ポンプ２４の出力を変更することによって調整される。
【００２３】
内燃機関１では、燃料噴射弁２１によっていわゆる多段噴射が実施される。具体的には、一回のサイクルにおいて、二回のパイロット噴射（第１パイロット噴射及び第２パイロット噴射）及び一回のメイン噴射が実施される。
【００２４】
吸気系３０は、吸気ポート、吸気マニホルド３１、吸気管３２、エアクリーナ３３、ターボチャージャ５のコンプレッサ３４、インタークーラ３５及びスロットル弁３６を備える。吸気ポート、吸気マニホルド３１及び吸気管３２は、空気を気筒１１内に導く吸気通路を形成する。
【００２５】
各気筒１１の吸気ポートは吸気マニホルド３１及び吸気管３２を介してエアクリーナ３３に連通している。吸気管３２内には、吸気管３２内を流通する吸入空気を圧縮して吐出するコンプレッサ３４と、コンプレッサ３４によって圧縮された空気を冷却するインタークーラ３５とが設けられている。スロットル弁３６は、スロットル弁駆動アクチュエータ３７によって回動せしめられることで、吸気通路の開口面積を変更することができる。
【００２６】
排気系４０は、排気ポート、排気マニホルド４１、排気管４２、ターボチャージャ５のタービン４３及びディーゼルパティキュレートフィルタ（ＤＰＦ）４４を備える。排気ポート、排気マニホルド４１及び排気管４２は、燃焼室における混合気の燃焼によって生じた排気ガスを排出する排気通路を形成する。
【００２７】
各気筒１１の排気ポートは、排気マニホルド４１及び排気管４２を介してＤＰＦ４４に連通している。排気管４２には、排気ガスのエネルギーによって回転駆動せしめられるタービン４３が設けられている。タービン４３が回転駆動せしめられると、これに伴ってコンプレッサ３４が回転し、よって吸入空気が圧縮される。本実施形態では、タービン４３には可変ノズルが設けられている。可変ノズルの開度が変更されると、タービン４３のタービンブレードに供給される排気ガスの流速が変化し、この結果、タービン４３の回転速度が変化する。
【００２８】
ＤＰＦ４４は排気ガス中の粒子状物質（ＰＭ）を捕集する。なお、排気系４０はＤＰＦ４４の代わりに又はＤＰＦ４４に加えて他の排気浄化装置を備えていてもよい。他の排気浄化装置は、例えば、選択還元型ＮＯｘ低減触媒（ＳＣＲ触媒）、ＮＯｘ吸蔵還元触媒、酸化触媒等である。
【００２９】
ＥＧＲシステム５０は、機関本体１０から排気通路に排出された排気ガスの一部を吸気通路に供給する。ＥＧＲシステム５０は、ＥＧＲ管５１と、ＥＧＲ制御弁５２と、ＥＧＲクーラ５３とを備える。ＥＧＲ管５１は、排気マニホルド４１と吸気マニホルド３１とに連結され、これらを互いに連通させる。ＥＧＲ管５１には、ＥＧＲ管５１内を流れるＥＧＲガスを冷却するＥＧＲクーラ５３が設けられている。また、ＥＧＲ管５１には、ＥＧＲ管５１によって形成されるＥＧＲ通路の開口面積を変更することができるＥＧＲ制御弁５２が設けられている。ＥＧＲ制御弁５２の開度を制御することによって、排気マニホルド４１から吸気マニホルド３１へ還流されるＥＧＲガスの流量が調整され、その結果、ＥＧＲ率が変化する。なお、ＥＧＲ率は、気筒１１内に供給される全ガス量（新気量とＥＧＲガス量との合計）に対するＥＧＲガス量の割合である。
【００３０】
なお、内燃機関１の構成は上記構成に限定されない。したがって、気筒配列、燃料の噴射態様、吸排気系の構成、動弁機構の構成、過給機の構成及び過給機の有無のような内燃機関の具体的な構成は、図１に示した構成と異なっていてもよい。
【００３１】
＜内燃機関の制御装置＞
内燃機関１を搭載する車両には、電子制御ユニット（ＥＣＵ）６１が設けられている。内燃機関１の各種制御は、内燃機関１に設けられた各種センサの出力等に基づいてＥＣＵ６１によって実行される。ＥＣＵ６１は内燃機関の制御装置の一例である。なお、本実施形態では、一つのＥＣＵ６１が設けられているが、機能毎に複数のＥＣＵが設けられていてもよい。
【００３２】
ＥＣＵ６１は、デジタルコンピュータから構成され、双方向性バス６２を介して相互に接続されたメモリ６３、プロセッサ６５、入力ポート６６及び出力ポート６７を備える。メモリ６３は、揮発性メモリ（例えば、ＲＡＭ）及び不揮発性メモリ（例えば、ＲＯＭ）を備え、プロセッサ６５において実行されるプログラム、プロセッサ６５によって各種処理が実行されるときに使用される各種データ等を記憶する。
【００３３】
入力ポート６６には、各種センサの出力が入力される。本実施形態では、エアフロメータ７１、吸気温センサ７２、吸気圧センサ７３、燃圧センサ７４及び負荷センサ７８の出力が、対応するＡＤ変換器６８を介して、入力ポート６６に入力される。
【００３４】
エアフロメータ７１は、エアクリーナ３３とコンプレッサ３４との間の吸気管３２に配置され、吸気管３２内の空気（新気）の流量を検出する。吸気温センサ７２は、吸気マニホルド３１に配置され、吸気マニホルド３１内の吸気（本実施形態では新気及びＥＧＲガス）の温度を検出する。吸気圧センサ７３は、吸気マニホルド３１に配置され、吸気マニホルド３１内の吸気の圧力を検出する。
【００３５】
燃圧センサ７４は、コモンレール２２に配置され、コモンレール２２内の燃料の圧力、すなわち燃料噴射弁２１へ供給される燃料の圧力を検出する。負荷センサ７８は、車両に設けられたアクセルペダル７７に接続され、アクセルペダル７７の踏み込み量に比例した出力電圧を発生する。プロセッサ６５は負荷センサ７８の出力に基づいて機関負荷を算出する。
【００３６】
また、入力ポート６６には、クランクシャフトが例えば１０°回転する毎に出力パルスを発生するクランク角センサ７９が接続され、この出力パルスが入力ポート６６に入力される。プロセッサ６５はクランク角センサ７９の出力に基づいて機関回転数を検出する。
【００３７】
一方、出力ポート６７は、対応する駆動回路６９を介して、内燃機関１の各種アクチュエータに接続される。本実施形態では、出力ポート６７は、タービン４３の可変ノズル、燃料噴射弁２１、燃料ポンプ２４、スロットル弁駆動アクチュエータ３７及びＥＧＲ制御弁５２に接続されている。ＥＣＵ６１は、出力ポート６７から制御信号を出力することによって各種アクチュエータを制御する。
【００３８】
図２は、第一実施形態におけるＥＣＵ６１の機能ブロック図である。本実施形態では、ＥＣＵ６１は、パラメータ取得部８１、演算部８２及び制御部８３を有する。パラメータ取得部８１、演算部８２及び制御部８３は、ＥＣＵ６１のメモリ６３に記憶されたプログラムをＥＣＵ６１のプロセッサ６５が実行することによって実現される機能ブロック図である。
【００３９】
パラメータ取得部８１は複数の入力パラメータを取得する。演算部８２は、ニューラルネットワークモデルを用いて、パラメータ取得部８１によって取得された複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する。制御部８３は、演算部８２によって算出された少なくとも一つの出力パラメータに基づいて内燃機関１を制御する。
【００４０】
＜ニューラルネットワークモデルの概要＞
最初に、図３を参照して、ニューラルネットワークモデルの概要について説明する。図３は、単純な構成を有するニューラルネットワークモデルの一例を示す。
【００４１】
図３における丸印は人工ニューロンを表す。人工ニューロンは、通常、ノード又はユニットと称される（本明細書では、「ノード」と称す）。図３において、Ｌ＝１は入力層を示し、Ｌ＝２及びＬ＝３は隠れ層を示し、Ｌ＝４は出力層を示している。なお、隠れ層は中間層とも称される。
【００４２】
図３において、ｘ1及びｘ2は入力層（Ｌ＝１）の各ノード及びそのノードからの出力値を示しており、ｙは出力層（Ｌ＝４）のノード及びその出力値を示している。同様に、ｚ1(L=2)、ｚ2(L=2)及びｚ3(L=2)は隠れ層（Ｌ＝２）の各ノード及びそのノードからの出力値を示しており、ｚ1(L=3)及びｚ2(L=3)は隠れ層（Ｌ＝３）の各ノード及びそのノードからの出力値を示している。
【００４３】
入力層の各ノードでは入力がそのまま出力される。一方、隠れ層（Ｌ＝２）の各ノードには、入力層の各ノードの出力値ｘ1及びｘ2が入力され、隠れ層（Ｌ＝２）の各ノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕが算出される。例えば、図３において隠れ層（Ｌ＝２）のｚk(L=2)（ｋ＝１、２、３）で示される各ノードにおいて算出される総入力値ｕk(L=2)は、次式のようになる（Ｍは入力層のノードの数）。
【数１】
2020125694.tif 000003
次いで、この総入力値ｕk(L=2)は活性化関数ｆにより変換され、隠れ層（Ｌ＝２）のｚk(L=2)で示されるノードから、出力値ｚk(L=2)（＝ｆ（ｕk(L=2)））として出力される。一方、隠れ層（Ｌ＝３）の各ノードには、隠れ層（Ｌ＝２）の各ノードの出力値ｚ1(L=2)、ｚ2(L=2)及びｚ3(L=2)が入力され、隠れ層（Ｌ＝３）の各ノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕ（＝Σｚ・ｗ＋ｂ）が算出される。この総入力値ｕは同様に活性化関数により変換され、隠れ層（Ｌ＝３）の各ノードから、出力値ｚ1(L=3)、ｚ2(L=3)として出力される、活性化関数は例えばシグモイド関数σである。
【００４４】
また、出力層（Ｌ＝４）のノードには、隠れ層（Ｌ＝３）の各ノードの出力値ｚ1(L=3)及びｚ2(L=3)が入力され、出力層のノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕ（Σｚ・ｗ＋ｂ）が算出され、又はそれぞれ対応する重みｗのみを用いて総入力値ｕ（Σｚ・ｗ）が算出される。例えば、出力層のノードでは活性化関数として恒等関数が用いられる。この場合、出力層のノードにおいて算出された総入力値ｕが、そのまま出力値ｙとして出力層のノードから出力される。
【００４５】
＜ニューラルネットワークモデルにおける学習＞
本実施形態では、誤差逆伝播法を用いて、ニューラルネットワークモデルにおける各重みｗの値及び各バイアスｂの値が学習される。誤差逆伝播法は周知であるため、誤差逆伝播法の概要について、以下に簡単に説明する。なお、バイアスｂは重みｗの一種なので、以下の説明では、バイアスｂは重みｗの一つとされている。
【００４６】
図３に示したようなニューラルネットワークモデルにおいて、Ｌ＝２、Ｌ＝３又はＬ＝４の各層のノードへの総入力値ｕ(L)における重みをｗ(L)で表すと、誤差関数Ｅの重みｗ(L)による微分、すなわち、勾配∂Ｅ／∂ｗ(L)は次式に書き換えられる。
【数２】
2020125694.tif 000004
ここで、ｚ(L-1)・∂ｗ(L)＝∂ｕ(L)であり、（∂Ｅ／∂ｕ(L)）＝δ(L)と表すと、上記（１）式は次式に変換される。
【数３】
2020125694.tif 000005
【００４７】
ここで、ｕ(L)が変動すると、次の層の総入力値ｕ(L+1)の変化を通じて誤差関数Ｅの変動を引き起こすので、δ(L)を次式で表すことができる（ＫはＬ＋１層におけるノードの数）。
【数４】
2020125694.tif 000006
ここで、z(L)＝ｆ(u(L))と表すと、上記（３）式の右辺の総入力値ｕk(L+1)は次式で表される。
【数５】
2020125694.tif 000007
ここで、上記（３）式の右辺第１項（∂Ｅ／∂ｕ(L+1)）はδ(L+1)である。また、上記（３）式の右辺第２項（∂uk(L+1)／∂u(L)）は次式で表される。
【数６】
2020125694.tif 000008
したがって、δ(L)は、次式で表される。
【数７】
2020125694.tif 000009
すなわち、δ(L+1)が求まると、δ(L)を求めることができることになる。
【００４８】
ニューラルネットワークモデルの学習が行われる場合、或る入力値ｘ及びその入力値ｘに対応する出力値の正解データｙtとから成る訓練データセットが用いられる。或る入力値ｘに対応する出力層からの出力値がｙであった場合、誤差関数として二乗誤差が用いられている場合には、誤差関数Ｅは、Ｅ＝１／２(ｙ−ｙt)2となる。また、図３の出力層（Ｌ＝４）のノードでは、出力値ｙ＝ｆ(u(L))となる。このため、出力層（Ｌ＝４）のノードにおけるδ(L)の値は、次式で示されるようになる。
【数８】
2020125694.tif 000010
ここで、出力層の活性化関数ｆ(u(L))が恒等関数である場合、ｆ’(u(L))＝１となる。したがって、δ(L)＝ｙ−ｙtとなり、δ(L)が求まる。
【００４９】
δ(L)が求まると、上記（６）式を用いて前層のδ(L-1)が求まる。このようにして順次、前層のδが求められ、これらδの値を用いて、上記（２）式から、各重みｗについて誤差関数Ｅの微分、すなわち、勾配∂Ｅ／∂ｗ(L)か求められる。勾配∂Ｅ／∂ｗ(L)か求められると、この勾配∂Ｅ／∂ｗ(L)を用いて、誤差関数Ｅの値が減少するように、重みｗの値が更新される。すなわち、ニューラルネットワークモデルの学習が行われることになる。
【００５０】
＜従来のニューラルネットワークモデルの問題点＞
上述したようなニューラルネットワークモデルは一つの入力層を含み、出力層から出力される出力パラメータ（出力値）と相関する異なる種類の入力パラメータ（入力値）が入力層の各ノードに入力される。この結果、複数の入力パラメータから生成される中間の状態量が中間層において順次変換され、最終的に出力層から出力パラメータが出力される。
【００５１】
斯かるニューラルネットワークモデルでは、基本的に、入力パラメータの数が多いほど、出力パラメータを算出するための情報量が多くなり、出力パラメータの算出精度が向上する。しかしながら、必ずしも全ての種類の入力パラメータを取得できるわけではない。例えば、ニューラルネットワークモデルの対象が内燃機関１である場合に、燃料噴射弁２１から噴射された燃料の噴霧密度及び噴霧の拡がりが混合気の燃焼結果に影響するが、噴霧密度及び噴霧の拡がりを検出することは困難である。このため、限られた種類の入力パラメータを用いて出力パラメータの算出精度を向上させることが望まれている。
【００５２】
＜本実施形態におけるニューラルネットワークモデル＞
これに対して、本実施形態では、見掛け上の入力パラメータの数を増加させるべく、ニューラルネットワークモデルは複数の入力層を含む。具体的には、ニューラルネットワークモデルは、複数のニューラルネットワーク部と、複数のニューラルネットワーク部の出力に基づいて少なくとも一つの出力パラメータを出力する出力層とを含む。複数のニューラルネットワーク部は、それぞれ、一つの入力層と、少なくとも一つの中間層とを含む。複数のニューラルネットワーク部は例えば同一の構成（入力層のノードの数、中間層の数、各中間層のノードの数）を有する。
【００５３】
また、本実施形態におけるニューラルネットワークモデルでは、異なる種類の入力パラメータから成る一組の入力パラメータが複数の入力層に入力される。この場合、ニューラルネットワークモデルに入力される入力パラメータの総数を増加させるべく、同一の組み合わせの入力パラメータを複数の入力層に入力することが考えられる。しかしながら、この場合、複数のニューラルネットワーク部において同様の中間の状態量が生成される。このため、ニューラルネットワークモデルの表現力を高めることができず、ひいては出力パラメータの算出精度を向上させることができない。
【００５４】
そこで、本実施形態におけるニューラルネットワークモデルでは、複数のニューラルネットワーク部に入力される入力パラメータの総数が、パラメータ取得部８１によって取得された複数の入力パラメータの数よりも多くなるように、これら複数の入力パラメータから選択された異なる組合せの入力パラメータが複数のニューラルネットワーク部の入力層のそれぞれに入力される。この結果、複数のニューラルネットワークモデル部において異なる中間の状態量が生成され、複数の中間の状態量から出力パラメータが出力される。このため、ニューラルネットワークモデルの表現力を高めることができ、ひいては入力パラメータの種類を増やすことなく出力パラメータの算出精度を向上させることができる。
【００５５】
例えば、複数の入力パラメータの数がｎである場合、ニューラルネットワークモデルは、パラメータ取得部８１によって取得された複数の入力パラメータから選択されたnＣkの組合せの入力パラメータが入力されるnＣk個のニューラルネットワーク部を含む。この場合、等しい数（ｋ）の入力パラメータが各ニューラルネットワーク部に入力される。異なる組合せの入力パラメータが各ニューラルネットワーク部に入力されるように、ｎは３以上であり、ｋは２〜ｎ−１である。このようにニューラルネットワーク部の数及び入力パラメータの組合せを選択することによって、異なる中間の状態量を生成可能なニューラルネットワークモデルを容易に生成することができる。
【００５６】
以下、本実施形態におけるニューラルネットワークモデルの具体例について説明する。本実施形態において、ニューラルネットワークモデルは、複数の入力パラメータから少なくとも一つの出力パラメータを予測する回帰モデルである。
【００５７】
図４は、第一実施形態におけるニューラルネットワークモデルの一例を示す図である。図４の例では、パラメータ取得部８１によって取得される入力パラメータの数が三つ（ｘ１、ｘ２及びｘ３）である。三つの入力パラメータの種類は互いに異なる。
【００５８】
図４に示されるように、ニューラルネットワークモデルは、第１ニューラルネットワーク部（第１ＮＮ部）と、第２ニューラルネットワーク部（第２ＮＮ）と、第３ニューラルネットワーク部（第３ＮＮ部）と、出力層とを含む。すなわち、ニューラルネットワークモデルは三つのニューラルネットワーク部を含む。
【００５９】
第１ニューラルネットワーク部は、一つの入力層（第１入力層）と、入力層に直接又は間接的に結合された二つの隠れ層（第１隠れ層及び第２隠れ層）とを含む。第１入力層には、複数の入力パラメータ（ｘ１、ｘ２及びｘ３）から選択された一組の入力パラメータ（ｘ１及びｘ２）が入力される。入力層のノードの数は、入力層に入力される入力パラメータの数と等しい。このため、第１入力層は二つのノードを有する。
【００６０】
第１隠れ層は第１入力層に結合され、第１入力層の出力が第１隠れ層に入力される。具体的には、第１隠れ層のノードは、それぞれ、第１入力層の全てのノードに結合される。このため、第１隠れ層のノードには、それぞれ、第１入力層の全てのノードの出力が入力される。図４の例では、第１隠れ層は四つのノードを有する。
【００６１】
第２隠れ層は第１隠れ層に結合され、第１隠れ層の出力が第１隠れ層に入力される。具体的には、第２隠れ層のノードは、それぞれ、第１隠れ層の全てのノードに結合される。このため、第２隠れ層のノードには、それぞれ、第１隠れ層の全てのノードの出力が入力される。図４の例では、第２隠れ層は四つのノードを有する。
【００６２】
第２ニューラルネットワーク部は、第１ニューラルネットワーク部と同一の構成を有し、一つの入力層（第２入力層）と、入力層に直接又は間接的に結合された二つの隠れ層（第３隠れ層及び第４隠れ層）とを含む。第２入力層には、複数の入力パラメータ（ｘ１、ｘ２及びｘ３）から選択された一組の入力パラメータ（ｘ１及びｘ３）が入力される。
【００６３】
第３ニューラルネットワーク部は、第１ニューラルネットワーク部と同様の構成を有し、一つの入力層（第３入力層）と、入力層に直接又は間接的に結合された二つの隠れ層（第５隠れ層及び第６隠れ層）とを含む。第３入力層には、複数の入力パラメータ（ｘ１、ｘ２及びｘ３）から選択された一組の入力パラメータ（ｘ２及びｘ３）が入力される。
【００６４】
出力層は、第１ニューラルネットワーク部〜第３ニューラルネットワーク部の出力に基づいて出力パラメータｙを出力する。このため、出力層は第１ニューラルネットワーク部〜第３ニューラルネットワーク部に結合され、第１ニューラルネットワーク部〜第３ニューラルネットワーク部の出力が出力層に入力される。
【００６５】
具体的には、出力層は、第１ニューラルネットワーク部の第２隠れ層、第２ニューラルネットワーク部の第４隠れ層及び第３ニューラルネットワーク部の第６隠れ層に結合される。すなわち、出力層のノードは、第２隠れ層、第４隠れ層及び第６隠れ層の全てのノードに結合される。このため、出力層のノードには、第２隠れ層、第４隠れ層及び第６隠れ層の全てのノードの出力が入力される。出力層のノードの数は、出力層から出力される出力パラメータの数と等しい。図４の例では、出力層は、一つの出力パラメータｙを出力し、一つのノードを有する。
【００６６】
図４のニューラルネットワークモデルでは、複数の入力パラメータ（ｘ１、ｘ２及びｘ３）から選択された3Ｃ2（＝３）の組合せの入力パラメータが3Ｃ2（＝３）個のニューラルネットワーク部の入力層に入力される。このため、第１ニューラルネットワーク部の第１入力層に入力される入力パラメータの組合せ（ｘ１及びｘ２）と、第２ニューラルネットワーク部の第２入力層に入力される入力パラメータの組合せ（ｘ１及びｘ３）と、第３ニューラルネットワーク部の第３入力層に入力される入力パラメータの組合せ（ｘ２及びｘ３）とは互いに異なる。
【００６７】
また、第１ニューラルネットワーク部〜第３ニューラルネットワーク部は、それぞれ、独立した構成を有する。すなわち、異なるニューラルネットワークモデル部の間で、互いに結合されたノードが存在しない。このため、各ニューラルネットワークモデル部において異なる中間の状態量が生成され、三つの中間の状態量に基づいて出力パラメータが出力される。したがって、ニューラルネットワークモデルの表現力を高めることができ、ひいては入力パラメータの種類を増やすことなく出力パラメータの算出精度を向上させることができる。
【００６８】
なお、ニューラルネットワーク部の数は二以上の他の数であってもよい。例えば、第１ニューラルネットワーク部、第２ニューラルネットワーク部又は第３ニューラルネットワーク部が省略されてもよい。
【００６９】
また、複数のニューラルネットワーク部は異なる構成を有していてもよい。例えば、各入力層に入力される入力パラメータの数は異なっていてもよい。すなわち、各入力層のノードの数は異なっていてもよい。例えば、第３入力層に３つの入力パラメータ（ｘ１、ｘ２及びｘ３）が入力され、第３入力層が３つのノードを有していてもよい。
【００７０】
また、各ニューラルネットワーク部の隠れ層の数は一以上の他の数であってもよい。さらに、各ニューラルネットワーク部の隠れ層の数は異なっていてもよい。例えば、第１ニューラルネットワーク部は３つの隠れ層を含んでいてもよい。
【００７１】
また、各隠れ層のノードの数は一以上の他の数であってもよい。さらに、各隠れ層のノードの数は異なっていてもよい。例えば、第１隠れ層は八つのノードを有していてもよい。また、出力層から出力される出力パラメータの数は二以上であってもよい。すなわち、出力層は二つ以上のノードを有していてもよい。
【００７２】
また、図５に示されるように、ニューラルネットワークモデルが、出力層に結合された全結合層を更に含み、複数のニューラルネットワーク部が全結合層を介して出力層に結合されてもよい。なお、全結合層のノードの数は一以上の他の数であってもよい。
【００７３】
本実施形態では、ニューラルネットワークモデルの学習（すなわち、重みｗ及びバイアスｂの設定）は、ニューラルネットワークモデルが車両に搭載される前に行われる。ニューラルネットワークの学習では、複数の入力パラメータの実測値と、これら実測値に対応する少なくとも一つの出力パラメータの実測値（正解データ）との組合せから成る訓練データセットが用いられる。入力パラメータ及び出力パラメータの実測値は例えばエンジンベンチ等を用いて予め取得され、対応する実測値を組み合わせることによって訓練データセットが予め作成される。
【００７４】
ニューラルネットワークモデルの学習では、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークモデルにおける重みｗ及びバイアスｂが繰り返し更新される。この結果、ニューラルネットワークが学習され、学習済みのニューラルネットワークモデルが生成される。ニューラルネットワークモデルの学習は、例えば、生産工場等に設置された計算機（例えばＧＰＵを搭載したコンピュータ）を用いて行われる。生成された学習済みのニューラルネットワークモデルは、車両の出荷前に、車両に設けられたＥＣＵ６１に実装される。すなわち、学習済みのニューラルネットワークモデルの情報（モデルの構造、重みｗ、バイアスｂ等）がＥＣＵ６１のメモリ６３又は車両に設けられた別の記憶装置に記憶される。
【００７５】
図６は、ニューラルネットワークモデルの自由度と出力パラメータの決定係数との関係を示す図である。ニューラルネットワークモデルの自由度は、ニューラルネットワークモデルにおける重み及びバイアスの総数を示す。このため、ニューラルネットワークモデルの自由度は、入力層の数、入力層のノードの数、隠れ層の数及び隠れ層のノードの数が多いほど大きくなる。
【００７６】
また、出力パラメータの決定係数Ｒ2は、次式によって算出され、０〜１の値を採る。出力パラメータの算出精度は、出力パラメータの決定係数Ｒ2が１に近付くほど高くなる。
Ｒ2＝（出力パラメータの算出値の偏差平方和）／（出力パラメータの実測値の偏差平方和）
ここで、出力パラメータの算出値は、学習済みのニューラルネットワークモデルにより出力された値であり、出力パラメータの実測値はセンサ等を用いて実際に検出された値である。
【００７７】
図６には、本実施形態における学習済みの第１ニューラルネットワークモデルを用いた結果が菱形でプロットされ、比較例における学習済みのニューラルネットワークモデルを用いた結果が四角でプロットされている。各データ点の上の数字は中間層の数を示す。図６には、それぞれのニューラルネットワークモデルにおいて中間層の数を１〜５に変化させたときの結果が示されている。
【００７８】
図７は、本実施形態における第１ニューラルネットワークモデルの構成を概略的に示す。図７には、中間層の数が２であるときの第１ニューラルネットワークモデルの構成が示されている。第１ニューラルネットワークモデルの対象は内燃機関１である。
【００７９】
第１ニューラルネットワークモデルでは、出力層は、七つのノードを有し、内燃機関１の運転状態に関するｙ１〜ｙ７の七種類の出力パラメータを出力する。ｙ１は内燃機関１の出力トルクである。ｙ２は燃焼音の音圧である。ｙ３は、燃焼割合が５０％になるクランク角（ＣＡ５０）である。ｙ４は排気ガス中の窒素酸化物（ＮＯｘ）濃度である。ｙ５は排気ガス中の一酸化炭素（ＣＯ）濃度である。ｙ６は排気ガス中の炭化水素（ＨＣ）濃度である。ｙ７は排気ガス中のスモーク濃度である。
【００８０】
また、第１ニューラルネットワークモデルでは、内燃機関１の運転状態に関し且つ上記出力パラメータと相関する１２種類のパラメータ（ｘ１〜ｘ１２）が入力パラメータとして用いられる。ｘ１はメイン噴射における燃料噴射量である。ｘ２はメイン噴射における燃料噴射時期である。ｘ３は第１パイロット噴射における燃料噴射量である。ｘ４は第１パイロット噴射における燃料噴射時期である。ｘ５は第２パイロット噴射における燃料噴射量である。ｘ６は第２パイロット噴射における燃料噴射時期である。ｘ７は燃料噴射圧である。ｘ８は吸気温度である。ｘ９は吸気圧力である。ｘ１０はＥＧＲ率である。ｘ１１は新気量である。ｘ１２は、気筒１１に流入するガスの量である。
【００８１】
上記入力パラメータの値は、例えば、以下のようにセンサ等によって検出され又はＥＣＵ６１において算出される。ｘ１〜ｘ６は、ＥＣＵ６１から燃料噴射弁２１に出力される指令値に基づいて算出される。ｘ７は燃圧センサ７４の出力に基づいて算出される。ｘ８は吸気温センサ７２によって検出される。ｘ９は吸気圧センサ７３によって検出される。ｘ１０は、ＥＣＵ６１からＥＧＲ制御弁５２に出力される指令値に基づいて算出される。ｘ１１はエアフロメータ７１によって検出される。ｘ１２は、エアフロメータ７１の出力と、ＥＣＵ６１からＥＧＲ制御弁５２に出力される指令値とに基づいて算出される。
【００８２】
図７に示されるように、第１ニューラルネットワークモデルは、12Ｃ11（＝１２）個のニューラルネットワーク部（第１ニューラルネットワーク部（第１ＮＮ部）〜第１２ニューラルネットワークモデル部（第１２ＮＮ部））を含む。また、１２種類のパラメータ（ｘ１〜ｘ１２）から選択された12Ｃ11（＝１２）の組合せの入力パラメータが１２個のニューラルネットワーク部に入力される。例えば、第１ＮＮ部の第１入力層にはｘ１〜ｘ１１の１１個の入力パラメータが入力され、第１２ＮＮ部の第１２入力層にはｘ２〜ｘ１２の１１個の入力パラメータが入力される。
【００８３】
一方、比較例におけるニューラルネットワークモデルは、図３に示されるような単純な構成を有し、上記の１２種類の入力パラメータから七種類の出力パラメータを出力する。したがって、比較例におけるニューラルネットワークモデルは、１２個のノードを有する入力層と、七つのノードを有する出力層とを含む。なお、第１ニューラルネットワークモデル及び比較例におけるニューラルネットワークモデルでは、中間層の数が同一であるときにニューラルネットワークモデルの自由度が同等になるように中間層のノードの数が設定された。また、出力パラメータの決定係数は、七種類の出力パラメータ（ｙ１〜ｙ７）の決定係数の平均値として算出された。
【００８４】
図６から分かるように、第１ニューラルネットワークモデルでは、比較例におけるニューラルネットワークモデルに比べて、ニューラルネットワークモデルの自由度に対する出力パラメータの決定係数が大きくなる。したがって、第１ニューラルネットワークモデルでは、比較例におけるニューラルネットワークモデルに比べて、出力パラメータの算出精度が高い。
【００８５】
また、図６には、本実施形態における学習済みの第２ニューラルネットワークモデルを用いた結果が丸でプロットされ、本実施形態における学習済みの第３ニューラルネットワークモデルを用いた結果が三角でプロットされている。第２ニューラルネットワークモデルは12Ｃ7（＝７９２）個のニューラルネットワーク部を含み、12Ｃ7（＝７９２）の組合せの入力パラメータが７９２個のニューラルネットワーク部に入力された。第３ニューラルネットワークモデルは、12Ｃ9（＝２２０）個のニューラルネットワーク部を含み、12Ｃ9（＝２２０）の組合せの入力パラメータが２２０個のニューラルネットワーク部に入力された。なお、第２ニューラルネットワークモデル及び第３ニューラルネットワークモデルでは、中間層の数が２であるときの結果のみが示されている。
【００８６】
図６から分かるように、第２ニューラルネットワークモデル及び第３ニューラルネットワークモデルにおいても、比較例におけるニューラルネットワークモデルに比べて、出力パラメータの算出精度を向上させることができる。したがって、本実施形態では、ニューラルネットワークモデルが、nＣkの組合せの入力パラメータが入力されるnＣk個のニューラルネットワーク部を含む場合に、ｋを２〜ｎ−１の任意の数に設定することができる。
【００８７】
図８は、ニューラルネットワークモデルの学習のために用いられた訓練データセットの数と出力パラメータの決定係数との関係を示す図である。図８には、本実施形態における学習済みの第１ニューラルネットワークモデルを用いた結果が菱形でプロットされ、比較例における学習済みのニューラルネットワークモデルを用いた結果が四角でプロットされている。第１ニューラルネットワークモデル及び比較例におけるニューラルネットワークモデルは、それぞれ、３つの中間層を有する。
【００８８】
図８から分かるように、第１ニューラルネットワークモデルでは、比較例におけるニューラルネットワークモデルに比べて、同等の決定係数を得るために必要な訓練データセットの数が少ない。したがって、本実施形態におけるニューラルネットワークモデルでは、出力パラメータの所定の算出精度を得るために必要な訓練データセットの数を低減することができ、ひいてはニューラルネットワークモデルの学習時間を低減することができる。
【００８９】
＜フローチャート＞
図９は、第一実施形態における内燃機関の制御の制御ルーチンを示すフローチャートである。本制御ルーチンはＥＣＵ６１によって所定の実行間隔で繰り返し実行される。所定の実行間隔は例えば内燃機関１の一回のサイクルの時間である。
【００９０】
最初に、ステップＳ１０１において、パラメータ取得部８１は、ニューラルネットワークモデルに入力される複数の入力パラメータを取得する。複数の入力パラメータは、互いに異なる種類のパラメータであり、例えば内燃機関１の運転状態に関するパラメータである。複数の入力パラメータは、入力パラメータの種類に応じてセンサ等によって検出され又はＥＣＵ６１において算出される。
【００９１】
次いで、ステップＳ１０２において、演算部８２は、ニューラルネットワークモデルを用いて、パラメータ取得部８１によって取得された複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する。少なくとも一つの出力パラメータは、例えば内燃機関１の運転状態に関するパラメータである。ニューラルネットワークモデルは、複数のニューラルネットワーク部と、複数のニューラルネットワーク部の出力に基づいて少なくとも一つの出力パラメータを出力する出力層とを含む。演算部８２は、パラメータ取得部８１によって取得された複数の入力パラメータから選択された異なる組合せの入力パラメータを複数のニューラルネットワーク部に入力することによってニューラルネットワークモデルに出力パラメータを出力させる。
【００９２】
次いで、ステップＳ１０３において、制御部８３は、演算部８２によって算出された少なくとも一つの出力パラメータに基づいて内燃機関１を制御する。具体的には、制御部８３は、出力パラメータが所定の目標範囲に含まれるように内燃機関１を制御する。例えば、少なくとも一つの出力パラメータが排気ガス中のＮＯｘ濃度を含む場合、演算部８２によって算出されたＮＯｘ濃度の予測値が目標範囲よりも高いときには、制御部８３は、ＮＯｘ濃度が低下するようにＥＧＲ制御弁５２の開度を大きくする。ステップＳ１０３の後、本制御ルーチンは終了する。
【００９３】
＜第二実施形態＞
第二実施形態に係る機械学習システムに用いられる電子制御ユニットの構成及び制御は、基本的に第一実施形態における電子制御ユニットと同様である。このため、以下、本発明の第二実施形態について、第一実施形態と異なる部分を中心に説明する。
【００９４】
第二実施形態では、車両の外部のサーバにおいてニューラルネットワークモデルの学習が行われ、学習済みのニューラルネットワークモデルがサーバから車両に送信される。このことによって、ニューラルネットワークモデルを必要に応じて入れ替え又は追加することができ、所望の出力パラメータを算出するためのニューラルネットワークモデルを車両の出荷後に車両に搭載することができる。また、サーバとの通信によりニューラルネットワークモデルの重み等を更新することによって出力パラメータの予測精度を高めることができる。
【００９５】
図１０は、第二実施形態に係る機械学習システムを概略的に示す図である。機械学習システム３００は、車両１００に設けられた電子制御ユニット（ＥＣＵ）６１及び通信装置９１と、車両１００の外部のサーバ２００とを備える。第一実施形態と同様に、図２に示されるように、ＥＣＵ６１は、パラメータ取得部８１、演算部８２及び制御部８３を有する。
【００９６】
ＥＣＵ６１及び通信装置９１は、ＣＡＮ（Controller Area Network）等の規格に準拠した車内ネットワークを介して互いに通信可能に接続される。通信装置９１は、通信ネットワークを介してサーバ２００と通信可能な機器であり、例えばデータ通信モジュール（ＤＣＭ）である。通信装置９１とサーバ２００との間の通信は、各種通信規格に準拠した無線通信によって行われる。
【００９７】
サーバ２００は、通信インターフェース２１０、記憶装置２３０及びプロセッサ２２０を備える。通信インターフェース２１０及び記憶装置２３０は信号線を介してプロセッサ２２０に接続されている。なお、サーバ２００は、キーボード及びマウスのような入力装置、ディスプレイのような出力装置等を更に備えていてもよい。
【００９８】
通信インターフェース２１０は、サーバ２００を通信ネットワークを介して車両１００の通信装置９１に接続するためのインターフェース回路を有する。記憶装置２３０は、例えば、ハードディスクドライブ（ＨＤＤ）、ソリッドステートドライブ（ＳＤＤ）、光記録媒体、ランダムアクセスメモリ（ＲＡＭ）のような半導体メモリ等から構成される。
【００９９】
記憶装置２３０は各種データを記憶する。具体的には、記憶装置２３０は、ニューラルネットワークモデルの学習に用いられる訓練データセットと、ニューラルネットワークモデルの学習を行うためのコンピュータプログラムとを記憶する。訓練データセットは、複数の入力パラメータの実測値と、これら実測値に対応する少なくとも一つの出力パラメータの実測値との組合せから成る。入力パラメータ及び出力パラメータの実測値は例えばエンジンベンチ等を用いて予め取得され、対応する実測値を組み合わせることによって訓練データセットが予め作成される。なお、入力パラメータ及び出力パラメータの実測値は、車両１００とは異なる他の車両において取得され、この他の車両に設けられた通信装置からサーバ２００に送信されてもよい。
【０１００】
サーバ２００は、訓練データセットを用いてニューラルネットワークの学習を行い、学習済みのニューラルネットワークモデルを生成する。具体的には、サーバ２００は、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新する。この結果、ニューラルネットワークの重みｗ及びバイアスｂが適切な値に収束し、学習済みのニューラルネットワークモデルが生成される。なお、第二実施形態におけるニューラルネットワークモデルは第一実施形態と同様の構成（例えば、図４、図５及び図７参照）を有する。
【０１０１】
学習済みのニューラルネットワークモデルはサーバ２００の通信インターフェース２１０及び車両１００の通信装置９１を介してサーバ２００から車両１００のＥＣＵ６１に送信される。この結果、学習済みのニューラルネットワークモデルの情報（モデルの構造、重みｗ、バイアスｂ等）がＥＣＵ６１のメモリ６３又は車両１００に設けられた別の記憶装置に記憶される。
【０１０２】
ＥＣＵ６１の演算部８２は、サーバ２００から車両１００に送信された学習済みのニューラルネットワークモデルを用いて、複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する。また、第一実施形態と同様に図９の制御ルーチンが実行され、制御部８３は、演算部８２によって算出された少なくとも一つの出力パラメータに基づいて内燃機関１を制御する。
【０１０３】
＜第三実施形態＞
第三実施形態に係る機械学習システムの構成及び制御は、基本的に第二実施形態における機械学習システムと同様である。このため、以下、本発明の第三実施形態について、第二実施形態と異なる部分を中心に説明する。
【０１０４】
第三実施形態では、第二実施形態と同様に、車両の外部のサーバにおいてニューラルネットワークモデルの学習が行われ、学習済みのニューラルネットワークモデルがサーバから車両に送信される。一方、第三実施形態では、訓練データセットを作成するために入力パラメータ及び出力パラメータの実測値が車両において取得される。このことによって、車両を用いて多数の訓練データセットを容易に用意することができる。
【０１０５】
第二実施形態と同様に、図１０に示されるように、機械学習システム３００は、車両１００に設けられた電子制御ユニット（ＥＣＵ）６１及び通信装置９１と、車両１００の外部のサーバ２００とを備える。また、第一実施形態と同様に、図２に示されるように、ＥＣＵ６１は、パラメータ取得部８１、演算部８２及び制御部８３を有する。
【０１０６】
パラメータ取得部８１は、ニューラルネットワークモデルにおいて用いられる複数の入力パラメータ及び少なくとも一つの出力パラメータを取得する。複数の入力パラメータ及び少なくとも一つの出力パラメータは、これらの種類に応じてセンサ等によって検出され又はＥＣＵ６１において算出される。例えば、少なくとも一つの出力パラメータが内燃機関１の出力トルクを含む場合、内燃機関１の出力軸（クランクシャフト）にトルクセンサが配置され、トルクセンサによって内燃機関１の出力トルクが検出される。
【０１０７】
パラメータ取得部８１は複数の入力パラメータ及び少なくとも一つの出力パラメータを通信装置９１を介してサーバ２００に送信する。サーバ２００に送信された複数の入力パラメータ及び少なくとも一つの出力パラメータの組合せは訓練データセットとしてサーバ２００の記憶装置２３０に記憶される。
【０１０８】
サーバ２００は、パラメータ取得部８１によって取得された複数の入力パラメータ及び少なくとも一つの出力パラメータの組合せから成る訓練データセットを用いてニューラルネットワークの学習を行い、学習済みのニューラルネットワークモデルを生成する。具体的には、サーバ２００は、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新する。この結果、ニューラルネットワークの重みｗ及びバイアスｂが適切な値に収束し、学習済みのニューラルネットワークモデルが生成される。
【０１０９】
また、第二実施形態と同様に、サーバ２００は学習済みのニューラルネットワークモデルを車両１００のＥＣＵ６１に送信する。ＥＣＵ６１の演算部８２は、サーバ２００から車両１００に送信された学習済みのニューラルネットワークモデルを用いて、複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する。このことによって、センサ等によって出力パラメータを検出する前に、所定値の入力パラメータに対応する出力パラメータの予測値を得ることができる。また、第一実施形態と同様に図９の制御ルーチンが実行され、制御部８３は、演算部８２によって算出された少なくとも一つの出力パラメータに基づいて内燃機関１を制御する。
【０１１０】
＜第四実施形態＞
第四実施形態に係る内燃機関の制御装置の構成及び制御は、基本的に第一実施形態における内燃機関の制御装置と同様である。このため、以下、本発明の第四実施形態について、第一実施形態と異なる部分を中心に説明する。
【０１１１】
第四実施形態では、第三実施形態と同様に、訓練データセットを作成するために入力パラメータ及び出力パラメータの実測値が車両において取得される。一方、第四実施形態では、ニューラルネットワークモデルの学習が車両において行われる。このことによって、サーバ等を用いることなく車両においてニューラルネットワークモデルの学習を効率的に行うことができる。
【０１１２】
図１１は、第四実施形態におけるＥＣＵ６１の機能ブロック図である。第四実施形態では、ＥＣＵ６１は、パラメータ取得部８１、演算部８２及び制御部８３に加えて、学習部８４を有する。第三実施形態と同様に、パラメータ取得部８１は、ニューラルネットワークモデルにおいて用いられる複数の入力パラメータ及び少なくとも一つの出力パラメータを取得する。パラメータ取得部８１によって取得された複数の入力パラメータ及び少なくとも一つの出力パラメータの組合せは訓練データセットとしてＥＣＵ６１のメモリ６３又は車両に設けられた別の記憶装置に記憶される。
【０１１３】
学習部８４は、パラメータ取得部８１によって取得された複数の入力パラメータ及び少なくとも一つの出力パラメータの組合せから成る訓練データセットを用いてニューラルネットワークの学習を行い、学習済みのニューラルネットワークモデルを生成する。具体的には、学習部８４は、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新する。この結果、ニューラルネットワークの重みｗ及びバイアスｂが適切な値に収束し、学習済みのニューラルネットワークモデルが生成される。
【０１１４】
演算部８２は、学習済みのニューラルネットワークモデルを用いて、複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する。このことによって、センサ等によって出力パラメータを検出する前に、所定値の入力パラメータに対応する出力パラメータの予測値を得ることができる。また、第一実施形態と同様に図９の制御ルーチンが実行され、制御部８３は、演算部８２によって算出された少なくとも一つの出力パラメータに基づいて内燃機関１を制御する。
【０１１５】
＜その他の実施形態＞
以上、本発明に係る好適な実施形態を説明したが、本発明はこれら実施形態に限定されるものではなく、特許請求の範囲の記載内で様々な修正及び変更を施すことができる。例えば、車載電子制御ユニット（ＥＣＵ６１）において用いられるニューラルネットワークモデルの対象は、車両に関するものである限り、上述した内燃機関１以外であってもよい。
【０１１６】
例えば、車載電子制御ユニットにおいて用いられるニューラルネットワークモデルの対象は火花点火式内燃機関（例えばガソリンエンジン）であってもよい。火花点火式内燃機関が、吸気ポート内に燃料を噴射するポート燃料噴射弁と、気筒内に燃料を直接噴射する筒内燃料噴射弁とを備えている場合、ニューラルネットワークモデルに入力される入力パラメータと、ニューラルネットワークモデルから出力される出力パラメータとして、例えば以下のような種類のパラメータが選択される。入力パラメータとして、例えば、機関回転数、ポート燃料噴射弁の燃料噴射量、ポート燃料噴射弁の燃料噴射時期、吸気温度、吸気圧力、ＥＧＲ制御弁の開度、吸入空気量、筒内燃料噴射弁の燃料噴射量、筒内燃料噴射弁の燃料噴射時期及び筒内燃料噴射弁の噴射圧が用いられる。出力パラメータとして、例えば、混合気の着火時期、混合気の燃焼期間、排気ガス中の有害物質（ＮＯｘ、ＨＣ、ＣＯ、スモーク等）の濃度及び混合気の燃焼による最大発熱量が用いられる。
【０１１７】
また、車載電子制御ユニットにおいて用いられるニューラルネットワークモデルの対象は、ハイブリッド車両（ＨＶ）、プラグインハイブリッド車両（ＰＨＶ）又は電気自動車（ＥＶ）に設けられたバッテリ又はモータであってもよい。ニューラルネットワークモデルの対象がバッテリである場合、ニューラルネットワークモデルに入力される入力パラメータと、ニューラルネットワークモデルから出力される出力パラメータとして、例えば以下のような種類のパラメータが選択される。入力パラメータとして、例えば、バッテリの電圧、バッテリの電流、車両の連続運転時間及び車速が用いられる。出力パラメータとして、例えば、バッテリの充電率（ＳＯＣ：Ｓｔａｔｅ  Ｏｆ  Ｃｈａｒｇｅ）、バッテリの劣化度合及びバッテリの温度が用いられる。
【０１１８】
また、ニューラルネットワークモデルの対象がモータである場合、ニューラルネットワークモデルに入力される入力パラメータと、ニューラルネットワークモデルから出力される出力パラメータとして、例えば以下のような種類のパラメータが選択される。入力パラメータとして、例えば、モータの電圧、モータの電流及びモータの回転数が用いられる。出力パラメータとして、例えば、モータの軸トルク及びモータの温度が用いられる。
【０１１９】
また、上述したようなニューラルネットワークモデルは出力パラメータ算出装置において用いられてもよい。出力パラメータ算出装置は、複数の入力パラメータを取得するパラメータ取得部と、ニューラルネットワークモデルを用いて、パラメータ取得部によって取得された複数の入力パラメータに基づいて少なくとも一つの出力パラメータを算出する演算部とを備える。出力パラメータ算出装置は、ハードウェア構成として、例えば、ＣＰＵ、ＧＰＵ、ＦＰＧＡ又はＡＳＩＣを有する。出力パラメータ算出装置において用いられるニューラルネットワークモデルの対象は、車両に関するものに限定されない。例えば、ニューラルネットワークモデルの対象は工作機械等であってもよい。
【符号の説明】
【０１２０】
１    内燃機関
６１    電子制御ユニット（ＥＣＵ）
８１    パラメータ取得部
８２    演算部
８３    制御部
９１    通信装置
１００    車両
２００    サーバ
３００    機械学習システム
【図１】
2020125694.tif 000011
【図２】
2020125694.tif 000012
【図３】
2020125694.tif 000013
【図４】
2020125694.tif 000014
【図５】
2020125694.tif 000015
【図６】
2020125694.tif 000016
【図７】
2020125694.tif 000017
【図８】
2020125694.tif 000018
【図９】
2020125694.tif 000019
【図１０】
2020125694.tif 000020
【図１１】
2020125694.tif 000021