(57)【要約】  センサ取得部（１１）は、車両（１）に搭載されたセンサ（２）の出力結果を取得する。演算部（１４）は、センサ取得部（１１）により取得されたセンサ（２）の出力結果を入力とする機械学習アルゴリズムを用い、車両（１）を制御するための推論結果を演算する。信頼度推定部（１２）は、センサ取得部（１１）により取得された出力結果と機械学習アルゴリズムの学習に使用された教師データとの類似度を求め、類似度に基づいて演算部（１４）が演算した推論結果の信頼度を推定する。制御出力部（１５）は、信頼度推定部（１２）により推定された信頼度を演算部（１４）により演算された推論結果に付加して車両制御情報として出力する。
2020183568.tif 000002
【特許請求の範囲】
【請求項１】
車両に搭載されたセンサの出力結果を取得するセンサ取得部と、
前記センサ取得部により取得された前記出力結果を入力とする機械学習アルゴリズムを用い、前記車両を制御するための推論結果を演算する演算部と、
前記演算部により演算された前記推論結果の信頼度を推定する信頼度推定部と、
前記信頼度推定部により推定された前記信頼度を前記演算部により演算された前記推論結果に付加して車両制御情報として出力する制御出力部とを備える運転支援装置。
【請求項２】
前記信頼度推定部は、前記センサ取得部により取得された前記出力結果と前記機械学習アルゴリズムの学習に使用された教師データとの類似度を求め、前記類似度に基づいて前記演算部が演算した前記推論結果の信頼度を推定することを特徴とする請求項１記載の運転支援装置。
【請求項３】
前記信頼度推定部は、前記機械学習アルゴリズムが試用されたときの、前記機械学習アルゴリズムを構成するニューラルネットワークにおける入力から出力までの各経路の使用回数を示す情報を用い、前記演算部が前記推論結果を演算する際に使用した前記ニューラルネットワークにおける入力から出力までの経路に対応する前記使用回数に基づいて前記推論結果の信頼度を推定することを特徴とする請求項１記載の運転支援装置。
【請求項４】
前記信頼度推定部は、予め定められた推論結果の分布と前記演算部が演算した前記推論結果の分布との一致割合に基づいて前記推論結果の信頼度を推定することを特徴とする請求項１記載の運転支援装置。
【請求項５】
前記信頼度推定部は、前記センサ取得部により取得された前記出力結果の複雑度を算出し、前記出力結果の複雑度に基づいて前記類似度を補正することを特徴とする請求項２記載の運転支援装置。
【請求項６】
前記信頼度推定部は、前記センサ取得部により取得された前記出力結果の特徴量と前記教師データの特徴量との類似度を求めることを特徴とする請求項２記載の運転支援装置。
【請求項７】
前記信頼度推定部は、前記センサ取得部が前記出力結果を取得したときの日時情報と前記教師データの日時情報とを比較して前記類似度を補正することを特徴とする請求項２記載の運転支援装置。
【請求項８】
前記信頼度推定部は、前記センサ取得部が前記出力結果を取得したときの天候情報と前記教師データの天候情報とを比較して前記類似度を補正することを特徴とする請求項２記載の運転支援装置。
【請求項９】
前記信頼度推定部は、前記センサ取得部が前記出力結果を取得したときの地理情報と前記教師データの地理情報とを比較して前記類似度を補正することを特徴とする請求項２記載の運転支援装置。
【請求項１０】
センサ取得部が、車両に搭載されたセンサの出力結果を取得し、
演算部が、前記センサ取得部により取得された前記出力結果を入力とする機械学習アルゴリズムを用い、前記車両を制御するための推論結果を演算し、
信頼度推定部が、前記演算部により演算された前記推論結果の信頼度を推定し、
制御出力部が、前記信頼度推定部により推定された前記信頼度を前記演算部により演算された前記推論結果に付加して車両制御情報として出力する運転支援方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、車両の運転支援装置及び運転支援方法に関するものである。
【背景技術】
【０００２】
従来の運転支援装置は、車両に搭載されたセンサから取得した情報と車両を制御するための支援情報との対応関係を機械学習していた。このような従来の運転支援装置は、センサの信頼性に基づいて、支援情報の信頼度を評価していた（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１５−８２３２４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
従来の運転支援装置において、機械学習アルゴリズムが行う演算はブラックボックスとなっており、機械学習アルゴリズムが出力する支援情報は一律の信頼度を有している前提であった。このように、従来の運転支援装置は、機械学習アルゴリズムが出力する支援情報の信頼度を評価していないので、信頼度の低い支援情報に基づいて車両が予期しない挙動をする可能性があるという課題があった。【０００５】
この発明は、上記のような課題を解決するためになされたもので、機械学習による車両の予期しない挙動の発生を抑制することを目的とする。
【課題を解決するための手段】
【０００６】
この発明に係る運転支援装置は、車両に搭載されたセンサの出力結果を取得するセンサ取得部と、センサ取得部により取得された出力結果を入力とする機械学習アルゴリズムを用い、車両を制御するための推論結果を演算する演算部と、演算部により演算された推論結果の信頼度を推定する信頼度推定部と、信頼度推定部により推定された信頼度を演算部により演算された推論結果に付加して車両制御情報として出力する制御出力部とを備えるものである。
【発明の効果】
【０００７】
この発明によれば、センサ取得部の出力結果を入力とする機械学習アルゴリズムを用いて演算された推論結果の信頼度を推定するようにしたので、機械学習による車両の予期しない挙動の発生を抑制することができる。
【図面の簡単な説明】
【０００８】
【図１】実施の形態１に係る運転支援装置の構成例を示すブロック図である。
【図２】実施の形態１に係る運転支援装置の動作例を示すフローチャートである。
【図３】実施の形態２に係る運転支援装置の構成例を示すブロック図である。
【図４】実施の形態２において演算部が有する多層ニューラルネットワークの構成例を示す図である。
【図５】実施の形態２に係る運転支援装置の動作例を示すフローチャートである。
【図６】実施の形態２における推論結果の分布例を示す相対度数分布グラフである。
【図７】実施の形態３に係る運転支援装置の構成例を示すブロック図である。
【図８】実施の形態３に係る運転支援装置の動作例を示すフローチャートである。
【図９】実施の形態４に係る運転支援装置の構成例を示すブロック図である。
【図１０】実施の形態４に係る運転支援装置の動作例を示すフローチャートである。
【図１１】各実施の形態に係る運転支援装置のハードウェア構成の一例を示す図である。
【図１２】各実施の形態に係る運転支援装置のハードウェア構成の別の例を示す図である。
【発明を実施するための形態】
【０００９】
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態１．
図１は、実施の形態１に係る運転支援装置１０の構成例を示すブロック図である。車両１には、センサ２、車両制御部３、及び運転支援装置１０が搭載される。運転支援装置１０は、センサ取得部１１、信頼度推定部１２、教師データ記憶部１３、演算部１４、及び制御出力部１５を備える。この運転支援装置１０には、センサ２及び車両制御部３が接続される。
【００１０】
センサ２は、車両１の周辺環境を検知するものである。このセンサ２は、例えば、車両１の周囲を撮像するカメラ、又は車両１の周囲に存在する物体を検知するミリ波レーダである。なお、センサ２は、１つのセンサ、又は１種類のセンサに限定されるものではなく、複数のセンサ、又は複数種類のセンサにより構成されてもよい。
【００１１】
図２は、実施の形態１に係る運転支援装置１０の動作例を示すフローチャートである。運転支援装置１０は、例えば、車両１のイグニッションスイッチがオンになると図２のフローチャートに示される動作を開始し、イグニッションスイッチがオフになるまで動作を繰り返す。
【００１２】
ステップＳＴ１１において、センサ取得部１１は、センサ２が検知した情報を取得し、取得した情報を統合することによって車両１の周辺環境を示す周辺環境情報を生成する。センサ取得部１１は、周辺環境情報を信頼度推定部１２と演算部１４へ出力する。周辺環境情報は、車両１の周辺に存在する他車両若しくは歩行者等の状態、車両１の周辺の地形等、及び障害物等を認知できるような情報である。また、周辺環境情報は、センサ２が出力する生データでもよいし、何らかの処理を施して抽象化した情報でもよい。抽象化した情報とは、例えば、車両１の周辺空間に相当する座標系に周辺物体等をプロットした図表である。
【００１３】
ステップＳＴ１２において、演算部１４は、センサ取得部１１からの周辺環境情報を入力とする機械学習アルゴリズムを用い、車両１を制御するための推論結果を演算する。機械学習アルゴリズムは、例えば、ニューラルネットワーク、又は多層ニューラルネットワーク（ディープラーニング）である。推論結果は、例えば、ブレーキ若しくはアクセルの踏み込み量、又はハンドルの操舵角である。演算部１４は、演算した推論結果を制御出力部１５へ出力する。
【００１４】
ステップＳＴ１３において、信頼度推定部１２は、センサ取得部１１からの周辺環境情報と、教師データ記憶部１３に記憶されている教師データとを比較して、両者の類似度を求める。教師データ記憶部１３は、演算部１４が有する機械学習アルゴリズムの学習時に使用された教師データを記憶している。
例えば、信頼度推定部１２は、教師データに統計処理を施すことにより教師データの特徴量を算出する。同様に、信頼度推定部１２は、周辺環境情報にも統計処理を施すことにより周辺環境情報の特徴量を算出する。そして、信頼度推定部１２は、教師データの特徴量と周辺環境情報の特徴量との相関値を算出し、相関値を類似度とする。特徴量を算出するための統計処理は、例えば、平均値を算出する処理、又はＡｕｔｏＥｎｃｏｄｅｒによる次元圧縮処理である。なお、教師データ記憶部１３は、教師データに代えて、教師データの特徴量を記憶している構成であってもよい。
【００１５】
ステップＳＴ１４において、信頼度推定部１２は、教師データと周辺環境情報との類似度を基に、演算部１４がこの周辺環境情報を用いて演算した推論結果の信頼度を推定する。信頼度推定部１２は、推定した信頼度を制御出力部１５へ出力する。
信頼度推定部１２は、類似度が高いほど、推論結果の信頼度を高く推定する。例えば、信頼度推定部１２は、類似度と予め定められた閾値との比較判定により、離散型の信頼度（例えば、レベル１からレベル５の信頼度）を推定する。または、信頼度推定部１２は、類似度に対して多項式変形処理を施し、連続型の信頼度（例えば、０％から１００％までの信頼度）を推定してもよい。
【００１６】
ステップＳＴ１５において、制御出力部１５は、演算部１４からの推論結果に、信頼度推定部１２からの信頼度を付加し、車両制御情報を生成する。制御出力部１５は、車両制御情報を車両制御部３へ出力する。
【００１７】
車両制御部３は、制御出力部１５からの車両制御情報に含まれる推論結果を用いて、車両１の挙動を制御する。なお、車両制御部３は、推論結果に付加されている信頼度に応じて、制御内容を変更する。例えば、車両制御部３は、信頼度が予め定められた閾値以上であれば、この信頼度が付加された推論結果を用いて車両１の挙動を制御し、信頼度が上記予め定められた閾値未満であれば、この信頼度が付加された推論結果を破棄して挙動制御を行わない。
【００１８】
以上のように、実施の形態１に係る運転支援装置１０は、センサ取得部１１と、演算部１４と、信頼度推定部１２と、制御出力部１５とを備える。センサ取得部１１は、車両１に搭載されたセンサ２の出力結果を取得する。演算部１４は、センサ取得部１１により取得されたセンサ２の出力結果を入力とする機械学習アルゴリズムを用い、車両１を制御するための推論結果を演算する。信頼度推定部１２は、センサ取得部１１により取得された出力結果と機械学習アルゴリズムの学習に使用された教師データとの類似度を求め、類似度に基づいて演算部１４が演算した推論結果の信頼度を推定する。制御出力部１５は、信頼度推定部１２により推定された信頼度を演算部１４により演算された推論結果に付加して車両制御情報として出力する。この構成により、運転支援装置１０は、機械学習アルゴリズムの推論結果の信頼度を推定することができる。したがって、運転支援装置１０は、未熟な学習等が原因で機械学習アルゴリズムの推論結果の信頼度が低い場合に、車両１の予期しない挙動の発生を抑制することができる。
【００１９】
また、実施の形態１によれば、信頼度推定部１２は、センサ取得部１１により取得されたセンサ２の出力結果の特徴量と教師データの特徴量との類似度を求める構成であってもよい。この構成により、教師データを記憶する教師データ記憶部１３の容量を小型化することができる。
【００２０】
実施の形態２．
実施の形態１では、センサ２の出力結果である周辺環境情報と機械学習アルゴリズムの学習に使用された教師データとの類似度に基づいて推論結果の信頼度を推定したが、実施の形態２では、機械学習アルゴリズムが事前に試用されたときの試用結果に基づいて推論結果の信頼度を推定する。
【００２１】
図３は、実施の形態２に係る運転支援装置１０の構成例を示すブロック図である。実施の形態２に係る運転支援装置１０は、図１に示された実施の形態１の運転支援装置１０における信頼度推定部１２と教師データ記憶部１３に代えて、信頼度推定部１２ａと試用結果記憶部２１を備える構成である。図３において図１と同一又は相当する部分は、同一の符号を付し説明を省略する。
【００２２】
試用結果記憶部２１は、演算部１４が有する機械学習アルゴリズムが試用されたときの試用結果を記憶している。試用結果は、例えば、機械学習アルゴリズムが演算部１４に設定される前に試用された際に、この機械学習アルゴリズムを構成するニューラルネットワークにおける入力から出力までの各経路が使用された回数である。
【００２３】
図４は、実施の形態２において演算部１４が有する多層ニューラルネットワークの構成例を示す図である。図４では、機械学習アルゴリズムが、３層の多層ニューラルネットワークであるものとする。また、入力層はノードＮ０を含む３つのノードで構成され、中間層はノードＮ１を含む４つのノードで構成され、出力層はノードＮ２を含む２つのノードで構成されているものとする。多層ニューラルネットワークの入力層の各ノードには、周辺環境情報Ｘ０，Ｘ１，Ｘ２が入力される。また、多層ニューラルネットワークの出力層の各ノードからは、推論結果Ｙ０，Ｙ１が出力される。
【００２４】
図４に示される多層ニューラルネットワークの学習時、教師データである周辺環境情報Ｘ０，Ｘ１，Ｘ２が入力されたときに教師データである推論結果Ｙ０，Ｙ１が出力されるように、ノード間を接続するリンク（例えば、ノードＮ０とノードＮ１とを接続するリンクＬ０）の重みが最適化される。また、学習後の多層ニューラルネットワークの試用時、この多層ニューラルネットワークにおける入力から出力までの各経路が使用された使用回数が収集され、経路と使用回数とが関連付けられた試用結果として試用結果記憶部２１に記憶される。入力から出力までの経路とは、例えば、ノードＮ０、リンクＬ０、ノードＮ１、リンクＬ１、及びノードＮ２までの経路である。ここで、使用とは、経路上の一定数以上のノードの出力の絶対値が所定の閾値以上であることを指す。例えば、経路上の全ノード数が「１０」、一定数が「８」、閾値が「０．６」である場合、出力が０．６以上であるノードが８個以上ある経路は、「使用された」とカウントされる。
【００２５】
図５は、実施の形態２に係る運転支援装置１０の動作例を示すフローチャートである。運転支援装置１０は、例えば、車両１のイグニッションスイッチがオンになると図５のフローチャートに示される動作を開始し、イグニッションスイッチがオフになるまで動作を繰り返す。
図５のステップＳＴ１１における動作は、図２のステップＳＴ１１における動作と同じである。
【００２６】
ステップＳＴ１２において、演算部１４は、実施の形態１と同様、センサ取得部１１からの周辺環境情報を入力とする機械学習アルゴリズムを用い、車両１を制御するための推論結果を演算する。
また、実施の形態２では、演算部１４は、機械学習アルゴリズムを構成するニューラルネットワークにおいて推論結果を演算する際に使用した入力から出力までの経路を示す演算過程情報を、信頼度推定部１２ａへ出力する。例えば、演算部１４が推論結果Ｙ０を演算する際に、図４のノードＮ０、リンクＬ０、ノードＮ１、リンクＬ１、及びノードＮ２までの経路を使用した場合、リンクＬ０及びリンクＬ１の重みが推論結果Ｙ０に影響を与えたことになる。そのため、演算部１４は、この経路を演算過程情報として信頼度推定部１２ａへ出力する。
【００２７】
ステップＳＴ２１において、信頼度推定部１２ａは、演算部１４からの演算過程情報に基づく入力から出力までの経路に一致する経路の使用回数を、試用結果記憶部２１に記憶されている各経路の使用回数の中から選択する。信頼度推定部１２ａは、試用結果記憶部２１から選択した使用回数に基づいて、演算部１４が演算した推論結果の信頼度を推定する。
信頼度推定部１２ａは、使用回数が多いほど、推論結果の信頼度を高く推定する。例えば、信頼度推定部１２ａは、使用回数と予め定められた閾値との比較判定により、離散型の信頼度（例えば、レベル１からレベル５の信頼度）を推定する。または、信頼度推定部１２ａは、使用回数に対して多項式変形処理を施し、連続型の信頼度（例えば、０％から１００％までの信頼度）を推定してもよい。
【００２８】
図５のステップＳＴ１５における動作は、図２のステップＳＴ１５における動作と同じである。
【００２９】
以上のように、実施の形態２の信頼度推定部１２ａは、機械学習アルゴリズムが試用されたときの、この機械学習アルゴリズムを構成するニューラルネットワークにおける入力から出力までの各経路の使用回数を示す情報を用い、演算部１４が推論結果を演算する際に使用したニューラルネットワークにおける入力から出力までの経路に対応する使用回数に基づいて推論結果の信頼度を推定する。この構成により、運転支援装置１０は、機械学習アルゴリズムの演算過程の信頼度を推定することができる。したがって、運転支援装置１０は、未熟な学習等が原因で機械学習アルゴリズムの推論結果の信頼度が低い場合に、車両１の予期しない挙動の発生を抑制することができる。
【００３０】
なお、上記例では、信頼度推定部１２ａが、ニューラルネットワークにおける入力から出力までの経路の使用回数を用いて推論結果の信頼度を推定していたが、この推定方法に限定されるものではない。信頼度推定部１２ａは、例えば、予め定められた推論結果の分布と、演算部１４が演算した推論結果の分布とを比較し、両者の一致割合に基づいて、演算部１４が演算した推論結果の信頼度を推定してもよい。予め定められた推論結果の分布は、例えば、機械学習アルゴリズムの試用時に出力された多数の推論結果に基づく相対度数分布であり、試用結果記憶部２１に記憶される。
【００３１】
図６は、実施の形態２における推論結果の分布例を示す相対度数分布グラフである。図６のグラフにおいて、横軸は推論結果Ｙ０の値であり、縦軸は推論結果Ｙ０の各値の相対度数である。また、黒色の棒線は、予め定められた推論結果の相対度数分布を示し、白色の棒線は、直近の所定期間において演算部１４が演算した推論結果の相対度数分布を示す。信頼度推定部１２ａは、相対度数分布の一致割合が高いほど、推論結果の信頼度を高く推定する。例えば、信頼度推定部１２ａは、一致割合と予め定められた閾値との比較判定により、離散型の信頼度（例えば、レベル１からレベル５の信頼度）を推定する。または、信頼度推定部１２ａは、一致割合に対して多項式変形処理を施し、連続型の信頼度（例えば、０％から１００％までの信頼度）を推定してもよい。
【００３２】
実施の形態３．
実施の形態３では、センサ２の出力結果である周辺環境情報と機械学習アルゴリズムの学習に使用された教師データとの類似度を、周辺環境情報の複雑度に基づいて補正する。
【００３３】
図７は、実施の形態３に係る運転支援装置１０の構成例を示すブロック図である。実施の形態３に係る運転支援装置１０は、図１に示された実施の形態１の運転支援装置１０における信頼度推定部１２に代えて、信頼度推定部１２ｂを備える構成である。図７において図１と同一又は相当する部分は、同一の符号を付し説明を省略する。
【００３４】
図８は、実施の形態３に係る運転支援装置１０の動作例を示すフローチャートである。運転支援装置１０は、例えば、車両１のイグニッションスイッチがオンになると図８のフローチャートに示される動作を開始し、イグニッションスイッチがオフになるまで動作を繰り返す。
図８のステップＳＴ１１，ＳＴ１２，ＳＴ１３における動作は、図２のステップＳＴ１１，ＳＴ１２，ＳＴ１３における動作と同じである。
【００３５】
ステップＳＴ３１において、信頼度推定部１２ｂは、センサ取得部１１からの周辺環境情報の複雑度を算出する。
例えば、信頼度推定部１２ｂは、センサ取得部１１がセンサ２から取得した情報のエントロピ（例えば、撮像画像のホワイトノイズ）に基づき複雑度を算出してもよいし、センサ取得部１１が認知した車両１の周辺物体数等に基づき複雑度を算出してもよい。
【００３６】
ステップＳＴ３２において、信頼度推定部１２ｂは、複雑度と予め定められた閾値とを比較する。複雑度が上記予め定められた閾値以上である場合（ステップＳＴ３２“ＹＥＳ”）、信頼度推定部１２ｂは、ステップＳＴ３３において、類似度を低減する補正を行う。例えば、信頼度推定部１２ｂは、周辺環境情報の複雑度に比例する大きさの低減値を算出し、算出した低減値をステップＳＴ１３で求めた類似度から減算する。続くステップＳＴ１４において、信頼度推定部１２ｂは、低減後の類似度に基づいて演算部１４が演算した推論結果の信頼度を推定する。したがって、周辺環境情報の複雑度が大きい場合、類似度が下がり、結果として信頼度も下がる。
【００３７】
一方、複雑度が上記予め定められた閾値未満である場合（ステップＳＴ３２“ＮＯ”）、信頼度推定部１２ｂは、ステップＳＴ１４において、ステップＳＴ１３で求めた類似度に基づいて演算部１４が演算した推論結果の信頼度を推定する。
【００３８】
以上のように、実施の形態３の信頼度推定部１２ｂは、センサ取得部１１により取得されたセンサ２の出力結果の複雑度を算出し、出力結果の複雑度に基づいて類似度を補正する。この構成により、運転支援装置１０は、推論結果の信頼度を、より精度よく推定することができる。
【００３９】
実施の形態４．
実施の形態４では、センサ２の出力結果である周辺環境情報と機械学習アルゴリズムの学習に使用された教師データとの類似度を、周辺環境情報の属性情報と教師データの属性情報とに基づいて補正する。
【００４０】
図９は、実施の形態４に係る運転支援装置１０の構成例を示すブロック図である。実施の形態４に係る運転支援装置１０は、図１に示された実施の形態１の運転支援装置１０におけるセンサ取得部１１と信頼度推定部１２と教師データ記憶部１３に代えて、センサ取得部１１ｃと信頼度推定部１２ｃと教師データ記憶部１３ｃを備える構成である。図９において図１と同一又は相当する部分は、同一の符号を付し説明を省略する。
【００４１】
教師データ記憶部１３ｃは、演算部１４が有する機械学習アルゴリズムの学習時に使用された教師データと、教師データの属性情報とを記憶している。なお、教師データ記憶部１３ｃは、教師データに代えて、教師データの特徴量を記憶していてもよい。
属性情報は、教師データが取得されたときの日時情報、天候情報、又は地理情報の少なくとも１つを含む。日時情報は、秒及び分等で表される時刻であってもよいし、朝及び夜等の時間帯であってもよい。天候情報は、晴れ、雨、及び曇り等のカテゴリであってもよいし、気圧及び風速等の数値であってもよい。地理情報は、緯度及び経度等の数値であてもよいし、高速道路及び市街地等のカテゴリであってもよい。
【００４２】
図１０は、実施の形態４に係る運転支援装置１０の動作例を示すフローチャートである。運転支援装置１０は、例えば、車両１のイグニッションスイッチがオンになると図１０のフローチャートに示される動作を開始し、イグニッションスイッチがオフになるまで動作を繰り返す。
【００４３】
ステップＳＴ４１において、センサ取得部１１ｃは、実施の形態１と同様、センサ２が検知した情報を取得し、取得した情報を統合することによって車両１の周辺環境を示す周辺環境情報を生成する。
また、実施の形態４では、センサ取得部１１ｃは、日時情報、天候情報、又は地理情報のうちの少なくとも１つをセンサ２から取得し、取得した情報を属性情報とする。センサ取得部１１ｃは、周辺環境情報を演算部１４へ出力し、周辺環境情報と属性情報とを信頼度推定部１２ｃへ出力する。なお、センサ取得部１１ｃは、属性情報をセンサ２から取得する以外にも、カーナビゲーション装置、又は車外のサーバ装置等から取得してもよい。
【００４４】
図１０のステップＳＴ１２，ＳＴ１３における動作は、図２のステップＳＴ１２，ＳＴ１３における動作と同じである。
【００４５】
ステップＳＴ４２において、信頼度推定部１２ｃは、センサ取得部１１ｃからの属性情報と、教師データ記憶部１３ｃに記憶されている教師データの属性情報とを比較する。周辺環境情報の属性情報と一致する属性情報を持つ教師データ数（つまり、属性情報の一致割合）が予め定められた閾値以上である場合（ステップＳＴ４３“ＹＥＳ”）、信頼度推定部１２ｃは、ステップＳＴ４４において、類似度を増加する補正を行う。例えば、信頼度推定部１２ｃは、属性情報の一致割合に比例する大きさの増加値を算出し、算出した増加値をステップＳＴ１３で求めた類似度に加算する。続くステップＳＴ１４において、信頼度推定部１２ｃは、増加後の類似度に基づいて演算部１４が演算した推論結果の信頼度を推定する。したがって、周辺環境情報の属性情報と教師データの属性情報とが一致する場合、類似度が上がり、結果として信頼度も上がる。
【００４６】
一方、属性情報の一致割合が上記予め定められた閾値未満である場合（ステップＳＴ４３“ＮＯ”）、信頼度推定部１２ｃは、ステップＳＴ１４において、ステップＳＴ１３で求めた類似度に基づいて演算部１４が演算した推論結果の信頼度を推定する。
【００４７】
以上のように、実施の形態４の信頼度推定部１２ｃは、センサ取得部１１ｃがセンサ２の出力結果を取得したときの日時情報、天候情報、又は地理情報のうちの少なくとも１つと、教師データの日時情報、天候情報、又は地理情報のうちの少なくとも１つとを比較して類似度を補正する。この構成により、運転支援装置１０は、推論結果の信頼度を、より精度よく推定することができる。
【００４８】
なお、実施の形態４では、様々な日時情報、天候情報、及び地理情報を持つ教師データを用いて、演算部１４の機械学習アルゴリズムが学習された例を説明したが、機械学習アルゴリズムは、日時ごと、天候ごと、又は地理ごとというように属性情報ごとに学習されてもよい。この場合、演算部１４は、属性情報ごとの機械学習アルゴリズムを有する構成である。この演算部１４は、センサ取得部１１ｃから周辺環境情報の属性情報を取得し、取得した属性情報に一致する属性情報の機械学習アルゴリズムを用いて推論結果を演算する。信頼度推定部１２ｃは、周辺環境情報と、この周辺環境情報の属性情報に一致する属性情報を持つ教師データとの類似度を求め、求めた類似度に基づいて信頼度を推定すればよい。この場合、信頼度推定部１２ｃは、属性情報の一致割合に基づいて類似度を補正する必要はない。
【００４９】
具体例として、センサ取得部１１ｃが降雨時の周辺環境情報を生成したとする。この場合、演算部１４は、降雨時の教師データを用いて学習された機械学習アルゴリズムを用いて、推論結果を演算する。信頼度推定部１２ｃは、降雨時の周辺環境情報と上記降雨時の教師データとを比較して類似度を算出し、算出した類似度に基づいて信頼度を推定する。
【００５０】
なお、実施の形態１に対して、実施の形態２、実施の形態３、又は実施の形態４のうちの少なくとも１つを組み合わせてもよい。
ここで、実施の形態１と実施の形態２とを組み合わせた例を説明する。例えば、信頼度推定部１２は、実施の形態１と同様に、センサ取得部１１からの周辺環境情報と教師データ記憶部１３に記憶されている教師データとの類似度を求め、類似度を基に推論結果の信頼度を推定する。続いて、信頼度推定部１２は、実施の形態２と同様に、試用結果記憶部２１に記憶されている試用結果を用いて推論結果の信頼度を推定する。そして、信頼度推定部１２は、実施の形態１の方法で推定した信頼度と実施の形態２の方法で推定した信頼度とを用いて、最終的な信頼度を算出して制御出力部１５へ出力する。例えば、信頼度推定部１２は、実施の形態１の方法で推定した信頼度と実施の形態２の方法で推定した信頼度との平均値を、最終的な信頼度として算出する。
【００５１】
最後に、各実施の形態に係る運転支援装置１０のハードウェア構成を説明する。
図１１及び図１２は、各実施の形態に係る運転支援装置１０のハードウェア構成例を示す図である。運転支援装置１０における教師データ記憶部１３，１３ｃ、及び試用結果記憶部２１は、メモリ１０２である。運転支援装置１０におけるセンサ取得部１１，１１ｃ、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、演算部１４、及び制御出力部１５の機能は、処理回路により実現される。即ち、運転支援装置１０は、上記機能を実現するための処理回路を備える。処理回路は、専用のハードウェアとしての処理回路１００であってもよいし、メモリ１０２に格納されるプログラムを実行するプロセッサ１０１であってもよい。
【００５２】
図１１に示されるように、処理回路が専用のハードウェアである場合、処理回路１００は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）、ＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、又はこれらを組み合わせたものが該当する。センサ取得部１１，１１ｃ、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、演算部１４、及び制御出力部１５の機能を複数の処理回路１００で実現してもよいし、各部の機能をまとめて１つの処理回路１００で実現してもよい。
【００５３】
図１２に示されるように、処理回路がプロセッサ１０１である場合、センサ取得部１１，１１ｃ、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、演算部１４、及び制御出力部１５の機能は、ソフトウェア、ファームウェア、又はソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェア又はファームウェアはプログラムとして記述され、メモリ１０２に格納される。プロセッサ１０１は、メモリ１０２に格納されたプログラムを読みだして実行することにより、各部の機能を実現する。即ち、運転支援装置１０は、プロセッサ１０１により実行されるときに、図２等のフローチャートで示されるステップが結果的に実行されることになるプログラムを格納するためのメモリ１０２を備える。また、このプログラムは、センサ取得部１１，１１ｃ、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、演算部１４、及び制御出力部１５の手順又は方法をコンピュータに実行させるものであるとも言える。
【００５４】
ここで、プロセッサ１０１とは、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）、処理装置、演算装置、又はマイクロプロセッサ等のことである。
メモリ１０２は、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ  Ｐｒｏｇｒａｍｍａｂｌｅ  ＲＯＭ）、又はフラッシュメモリ等の不揮発性もしくは揮発性の半導体メモリであってもよいし、ハードディスク又はフレキシブルディスク等の磁気ディスクであってもよいし、ＣＤ（Ｃｏｍｐａｃｔ  Ｄｉｓｃ）又はＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｃ）等の光ディスクであってもよい。
【００５５】
なお、センサ取得部１１，１１ｃ、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、演算部１４、及び制御出力部１５の機能について、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。このように、運転支援装置１０における処理回路は、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組み合わせによって、上述の機能を実現することができる。
【００５６】
また、上記例では、センサ取得部１１，１１ｃ、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、教師データ記憶部１３，１３ｃ、演算部１４、制御出力部１５、及び試用結果記憶部２１の機能が車載器である運転支援装置１０に集約された構成であったが、ネットワーク上のサーバ装置、スマートフォン等の携帯情報端末、及び車載器等に分散されていてもよい。例えば、信頼度推定部１２，１２ａ，１２ｂ，１２ｃ、教師データ記憶部１３，１３ｃ、演算部１４、及び試用結果記憶部２１を備えるサーバ装置と、センサ取得部１１，１１ｃ及び制御出力部１５を備える車載器とにより、運転支援システムが構築される。
【００５７】
本発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、各実施の形態の任意の構成要素の変形、又は各実施の形態の任意の構成要素の省略が可能である。
【産業上の利用可能性】
【００５８】
この発明に係る運転支援装置は、機械学習の信頼度を推定するようにしたので、機械学習を用いる運転支援装置等に用いるのに適している。
【符号の説明】
【００５９】
１  車両、２  センサ、３  車両制御部、１０  運転支援装置、１１，１１ｃ  センサ取得部、１２，１２ａ，１２ｂ，１２ｃ  信頼度推定部、１３，１３ｃ  教師データ記憶部、１４  演算部、１５  制御出力部、２１  試用結果記憶部、１００  処理回路、１０１  プロセッサ、１０２  メモリ、Ｌ０，Ｌ１  リンク、Ｎ０，Ｎ１，Ｎ２  ノード、Ｘ０，Ｘ１，Ｘ２  周辺環境情報、Ｙ０，Ｙ１  推論結果。
【図１】
2020183568.tif 000003
【図２】
2020183568.tif 000004
【図３】
2020183568.tif 000005
【図４】
2020183568.tif 000006
【図５】
2020183568.tif 000007
【図６】
2020183568.tif 000008
【図７】
2020183568.tif 000009
【図８】
2020183568.tif 000010
【図９】
2020183568.tif 000011
【図１０】
2020183568.tif 000012
【図１１】
2020183568.tif 000013
【図１２】
2020183568.tif 000014
【国際調査報告】
2020183568.tif 000015
2020183568.tif 000016