(57)【要約】  外界認識用のセンサの検出情報を処理する情報処理装置を提供する。  情報処理装置は、センサの検出信号に基づいて物体を認識処理する認識部と、前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部を具備する。情報処理装置は、第２のセンサの検出信号に基づいて物体を認識処理する第２の認識部をさらに備え、前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理などを実施する。
2020009060.tif 000002
【特許請求の範囲】
【請求項１】
センサの検出信号に基づいて物体を認識処理する認識部と、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部と、
を具備する情報処理装置。
【請求項２】
前記センサはミリ波レーダーである、
請求項１に記載の情報処理装置。
【請求項３】
前記認識部は、認識前に前記センサの検出信号に基づいて物体の距離検出、速度検出、角度検出、前記物体の追跡の各処理を実施し、
前記第１のデータは、前記検出信号、前記物体の距離検出結果、速度検出結果、角度検出結果、前記物体の追跡結果のうち少なくとも１つを含む、
請求項２に記載の情報処理装置。
【請求項４】
第２のセンサの検出信号に基づいて物体を認識処理する第２の認識部をさらに備え、
前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
請求項１に記載の情報処理装置。
【請求項５】
前記第２のセンサは、カメラ又はＬｉＤＡＲのうち少なくとも１つを含む、
請求項４に記載の情報処理装置。
【請求項６】
前記処理部は、前記認識部の認識結果及び前記第２の認識部の認識結果に基づいて、前記フュージョン処理における前記第１のデータの利用方法を決定する、
請求項４に記載の情報処理装置。
【請求項７】
前記処理部は、前記第２の認識部による認識の尤度は高いが、前記認識部による認識の尤度が低い場合に、前記フュージョン処理において前記第１のデータを利用する、
請求項６に記載の情報処理装置。
【請求項８】
前記処理部は、前記第２の認識部による認識結果に基づいて、前記フュージョン処理における前記第１のデータの利用方法を決定する、
請求項４に記載の情報処理装置。
【請求項９】
前記処理部は、前記第２の認識部による認識の尤度が低い場合に、前記フュージョン処理において前記第１のデータを利用する、
請求項８に記載の情報処理装置。
【請求項１０】
センサの検出信号に基づいて物体を認識処理する認識ステップと、
前記認識ステップによる認識前の第１のデータと他のデータをフュージョン処理する処理ステップと、
を有する情報処理方法。
【請求項１１】
前記処理ステップでは、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
請求項１０に記載の情報処理方法。
【請求項１２】
センサの検出信号に基づいて物体を認識処理する認識部、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部、
としてコンピュータを機能させるようにコンピュータ可読形式で記述されたコンピュータプログラム。
【請求項１３】
前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
請求項１２に記載のコンピュータプログラム。
【請求項１４】
移動手段と、
センサと、
前記センサの検出信号に基づいて物体を認識処理する認識部と、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部と、
前記処理部による処理結果に基づいて前記移動手段を制御する制御部と、
を具備する移動体装置。
【請求項１５】
前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
請求項１４に記載の移動体装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本明細書で開示する技術は、主に外界を認識するための複数のセンサの検出情報を処理する情報処理装置及び情報処理方法、コンピュータプログラム、並びに移動体装置に関する。
【背景技術】
【０００２】
自動運転やＡＤＡＳ（Ａｄｖａｎｃｅｄ  Ｄｒｉｖｅｒ  Ａｓｓｉｓｔａｎｃｅ  Ｓｙｓｔｅｍ）の実現のために、他の車両や人、レーンなど、さまざまな物体を検出する必要があり、また、晴天時の昼間に限らず、雨天ときや夜間などさまざまな環境で物体を検出する必要がある。このため、カメラ、ミリ波レーダー、レーザーレーダーなど、種類の異なる多くの外界認識センサが車両に搭載され始めている。【０００３】
各センサには得手不得手があり、認識対象物の種類や大きさ、対象物までの距離、あるいは、検出時の天候などに応じて、センサの認識性能が劣化することがある。例えば、車載用のレーダーは距離精度、相対速度精度は高いが、角度精度が低く、物体の種別を識別する識別機能は無いか、若しくは精度が低い。一方、カメラは距離精度、相対速度精度が比較的低いが、角度精度、識別精度はよい。【０００４】
そこで、個々のセンサを単独での使用に限らず、２以上のセンサを組み合わせて、各センサの特徴を生かすことによって、より高精度な外界認識に寄与している。２以上のセンサを組み合わせることを、以下では「センサフュージョン」又は「フュージョン」と呼ぶことにする。【０００５】
例えば、温度データ、雨量データ、視程データ、照度データなどの環境指標に基づいて、検出特性の異なる複数のセンサの組み合わせを切り替えて使用する道路交通監視システムについて提案がなされている（特許文献１を参照のこと）。【０００６】
また、外部環境に対応するフュージョンの仕様を複数準備しておき、選択されたフュージョンの仕様において、外部環境に起因して認識精度が低下するセンサの検出領域をドライバーに通知して注意を促す車両走行制御システムについて提案がなされている（特許文献２を参照のこと）。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００３−１６２７９５号公報
【特許文献２】特開２０１７−１３２２８５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
本明細書で開示する技術の目的は、主に外界を認識するための複数のセンサをフュージョン処理する情報処理装置及び情報処理方法、コンピュータプログラム、並びに移動体装置を提供することにある。
【課題を解決するための手段】
【０００９】
本明細書で開示する技術の第１の側面は、
センサの検出信号に基づいて物体を認識処理する認識部と、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部と、
を具備する情報処理装置である。【００１０】
前記センサは、例えばミリ波レーダーである。そして、前記認識部は、認識前に前記センサの検出信号に基づいて物体の距離検出、速度検出、角度検出、前記物体の追跡の各処理を実施し、前記第１のデータは、前記検出信号、前記物体の距離検出結果、速度検出結果、角度検出結果、前記物体の追跡結果のうち少なくとも１つを含む。そして、前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施するようにしてもよい。【００１１】
また、第１の側面に係る情報処理装置は、カメラ又はＬｉＤＡＲのうち少なくとも１つを含む、第２のセンサの検出信号に基づいて物体を認識処理する第２の認識部をさらに備えている。そして、前記処理部は、前記第２の認識部による認識結果は良好であるが、前記認識部による認識結果が良好でない場合に、前記第１のデータのフュージョン処理を実施する。あるいは、前記処理部は、前記第２の認識部による認識結果が良好でない場合に、前記第１のデータのフュージョン処理を実施する。【００１２】
また、本明細書で開示する技術の第２の側面は、
センサの検出信号に基づいて物体を認識処理する認識ステップと、
前記認識ステップによる認識前の第１のデータと他のデータをフュージョン処理する処理ステップと、
を有する情報処理方法である。前記処理ステップでは、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施するようにしてもよい。【００１３】
また、本明細書で開示する技術の第３の側面は、
センサの検出信号に基づいて物体を認識処理する認識部、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部、
としてコンピュータを機能させるようにコンピュータ可読形式で記述されたコンピュータプログラムである。前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施するようにしてもよい。【００１４】
第３の側面に係るコンピュータプログラムは、コンピュータ上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータプログラムを定義したものである。換言すれば、第３の側面に係るコンピュータプログラムをコンピュータにインストールすることによって、コンピュータ上では協働的作用が発揮され、第１の側面に係る情報処理装置と同様の作用効果を得ることができる。【００１５】
また、本明細書で開示する技術の第４の側面は、
移動手段と、
センサと、
前記センサの検出信号に基づいて物体を認識処理する認識部と、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部と、
前記処理部による処理結果に基づいて前記移動手段を制御する制御部と、
を具備する移動体装置である。前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施するようにしてもよい。
【発明の効果】
【００１６】
本明細書で開示する技術によれば、主に外界を認識するための複数のセンサをフュージョン処理する情報処理装置及び情報処理方法、コンピュータプログラム、並びに移動体装置を提供することができる。【００１７】
なお、本明細書に記載された効果は、あくまでも例示であり、本発明の効果はこれに限定されるものではない。また、本発明が、上記の効果以外に、さらに付加的な効果を奏する場合もある。【００１８】
本明細書で開示する技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【図面の簡単な説明】
【００１９】
【図１】図１は、車両制御システム１００の概略的な機能の構成例を示すブロック図である。
【図２】図２は、情報処理装置１０００の機能的構成を示した図である。
【図３】図３は、カメラによる撮影画像を例示した図である。
【図４】図４は、ミリ波レーダーで検出するシーンを例示した図である。
【図５】図５は、図４に示したシーンをミリ波レーダーで検出した結果を示した図である。
【図６】図６は、レーダー認識処理部１０２０の内部構成例を示した図である。
【図７】図７は、認識対象とするシーンの一例を示した図である。
【図８】図８は、図７に示したシーンの認識処理前のデータを示した図である。
【図９】図９は、図７に示したシーンの認識処理後のデータを示した図である。
【図１０】図１０は、認識対象とするシーンの他の例を示した図である。
【図１１】図１１は、図１０に示したシーンの認識処理前のデータを示した図である。
【図１２】図１２は、図１０に示したシーンの認識処理後のデータを示した図である。
【図１３】図１３は、情報処理装置１０００によるフュージョン処理結果（ＬＡＴＥフュージョン処理のみ）の例を示した図である。
【図１４】図１４は、情報処理装置１０００によるフュージョン処理結果（Ｅａｒｌｙフュージョン処理を含む）の例を示した図である。
【図１５】図１５は、Ｌａｔｅフュージョン処理とＥａｒｌｙフュージョン処理で結果が相違する例を示した図である。
【図１６】図１６は、Ｌａｔｅフュージョン処理とＥａｒｌｙフュージョン処理で結果が相違する例を示した図である。
【図１７】図１７は、Ｅａｒｌｙフュージョン処理を適応的に実行するように構成された情報処理装置１０００の構成例を示した図である。
【図１８】図１８は、図１７に示した情報処理装置１０００においてターゲット認識を行うための処理手順を示したフローチャートである。
【図１９】図１９は、Ｅａｒｌｙフュージョン処理を適応的に実行するように構成された情報処理装置１０００の他の構成例を示した図である。
【図２０】図２０は、図１９に示した情報処理装置１０００においてターゲット認識を行うための処理手順を示したフローチャートである。
【図２１】図２１は、ミリ波レーダー１０８０のＲＡＷデータに基づいて、認識器１０２３では認識できない物体を認識する処理を説明するための図である。
【図２２】図２２は、ミリ波レーダー１０８０のＲＡＷデータに基づいて、認識器１０２３では認識できない物体を認識する処理を説明するための図である。
【図２３】図２３は、ミリ波レーダー１０８０のＲＡＷデータに基づいて、認識器１０２３では認識できない物体を認識する処理を説明するための図である。
【発明を実施するための形態】
【００２０】
以下、図面を参照しながら本明細書で開示する技術の実施形態について詳細に説明する。
【００２１】
図１は、本技術が適用され得る移動体制御システムの一例である車両制御システム１００の概略的な機能の構成例を示すブロック図である。
【００２２】
なお、以下、車両制御システム１００が設けられている車両を他の車両と区別する場合、自車又は自車両と称する。
【００２３】
車両制御システム１００は、入力部１０１、データ取得部１０２、通信部１０３、車内機器１０４、出力制御部１０５、出力部１０６、駆動系制御部１０７、駆動系システム１０８、ボディ系制御部１０９、ボディ系システム１１０、記憶部１１１、及び、自動運転制御部１１２を備える。入力部１０１、データ取得部１０２、通信部１０３、出力制御部１０５、駆動系制御部１０７、ボディ系制御部１０９、記憶部１１１、及び、自動運転制御部１１２は、通信ネットワーク１２１を介して、相互に接続されている。通信ネットワーク１２１は、例えば、ＣＡＮ（Ｃｏｎｔｒｏｌｌｅｒ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）、ＬＩＮ（Ｌｏｃａｌ  Ｉｎｔｅｒｃｏｎｎｅｃｔ  Ｎｅｔｗｏｒｋ）、ＬＡＮ（Ｌｏｃａｌ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）、又は、ＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークやバス等からなる。なお、車両制御システム１００の各部は、通信ネットワーク１２１を介さずに、直接接続される場合もある。
【００２４】
なお、以下、車両制御システム１００の各部が、通信ネットワーク１２１を介して通信を行う場合、通信ネットワーク１２１の記載を省略するものとする。例えば、入力部１０１と自動運転制御部１１２が、通信ネットワーク１２１を介して通信を行う場合、単に入力部１０１と自動運転制御部１１２が通信を行うと記載する。
【００２５】
入力部１０１は、搭乗者が各種のデータや指示等の入力に用いる装置を備える。例えば、入力部１０１は、タッチパネル、ボタン、マイクロフォン、スイッチ、及び、レバー等の操作デバイス、並びに、音声やジェスチャ等により手動操作以外の方法で入力可能な操作デバイス等を備える。また、例えば、入力部１０１は、赤外線若しくはその他の電波を利用したリモートコントロール装置、又は、車両制御システム１００の操作に対応したモバイル機器若しくはウェアラブル機器等の外部接続機器であってもよい。入力部１０１は、搭乗者により入力されたデータや指示等に基づいて入力信号を生成し、車両制御システム１００の各部に供給する。
【００２６】
データ取得部１０２は、車両制御システム１００の処理に用いるデータを取得する各種のセンサ等を備え、取得したデータを、車両制御システム１００の各部に供給する。
【００２７】
例えば、データ取得部１０２は、自車の状態等を検出するための各種のセンサを備える。具体的には、例えば、データ取得部１０２は、ジャイロセンサ、加速度センサ、慣性計測装置（ＩＭＵ）、及び、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数、モータ回転数、若しくは、車輪の回転速度等を検出するためのセンサ等を備える。
【００２８】
また、例えば、データ取得部１０２は、自車の外部の情報を検出するための各種のセンサを備える。具体的には、例えば、データ取得部１０２は、ＴｏＦ（Ｔｉｍｅ  Ｏｆ  Ｆｌｉｇｈｔ）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ、及び、その他のカメラ等の撮像装置を備える。また、例えば、データ取得部１０２は、天候又は気象等を検出するための環境センサ、及び、自車の周囲の物体を検出するための周囲情報検出センサを備える。環境センサは、例えば、雨滴センサ、霧センサ、日照センサ、雪センサ等からなる。周囲情報検出センサは、例えば、超音波センサ、ミリ波レーダー、ＬｉＤＡＲ（Ｌｉｇｈｔ  Ｄｅｔｅｃｔｉｏｎ  ａｎｄ  Ｒａｎｇｉｎｇ、Ｌａｓｅｒ  Ｉｍａｇｉｎｇ  Ｄｅｔｅｃｔｉｏｎ  ａｎｄ  Ｒａｎｇｉｎｇ）、ソナー等からなる。
【００２９】
さらに、例えば、データ取得部１０２は、自車の現在位置を検出するための各種のセンサを備える。具体的には、例えば、データ取得部１０２は、ＧＮＳＳ（Ｇｌｏｂａｌ  Ｎａｖｉｇａｔｉｏｎ  Ｓａｔｅｌｌｉｔｅ  Ｓｙｓｔｅｍ）衛星からのＧＮＳＳ信号を受信するＧＮＳＳ受信機等を備える。
【００３０】
また、例えば、データ取得部１０２は、車内の情報を検出するための各種のセンサを備える。具体的には、例えば、データ取得部１０２は、運転者を撮像する撮像装置、運転者の生体情報を検出する生体センサ、及び、車室内の音声を集音するマイクロフォン等を備える。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座っている搭乗者又はステアリングホイールを握っている運転者の生体情報を検出する。
【００３１】
通信部１０３は、車内機器１０４、並びに、車外の様々な機器、サーバ、基地局等と通信を行い、車両制御システム１００の各部から供給されるデータを送信したり、受信したデータを車両制御システム１００の各部に供給したりする。なお、通信部１０３がサポートする通信プロトコルは、特に限定されるものではなく、また、通信部１０３が、複数の種類の通信プロトコルをサポートすることも可能である
【００３２】
例えば、通信部１０３は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Ｎｅａｒ  Ｆｉｅｌｄ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ）、又は、ＷＵＳＢ（Ｗｉｒｅｌｅｓｓ  ＵＳＢ）等により、車内機器１０４と無線通信を行う。また、例えば、通信部１０３は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ  Ｓｅｒｉａｌ  Ｂｕｓ）、ＨＤＭＩ（Ｈｉｇｈ−Ｄｅｆｉｎｉｔｉｏｎ  Ｍｕｌｔｉｍｅｄｉａ  Ｉｎｔｅｒｆａｃｅ）、又は、ＭＨＬ（Ｍｏｂｉｌｅ  Ｈｉｇｈ−ｄｅｆｉｎｉｔｉｏｎ  Ｌｉｎｋ）等により、車内機器１０４と有線通信を行う。
【００３３】
さらに、例えば、通信部１０３は、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）との通信を行う。また、例えば、通信部１０３は、Ｐ２Ｐ（Ｐｅｅｒ  Ｔｏ  Ｐｅｅｒ）技術を用いて、自車の近傍に存在する端末（例えば、歩行者若しくは店舗の端末、又は、ＭＴＣ（Ｍａｃｈｉｎｅ  Ｔｙｐｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ）端末）との通信を行う。さらに、例えば、通信部１０３は、車車間（Ｖｅｈｉｃｌｅ  ｔｏ  Ｖｅｈｉｃｌｅ）通信、路車間（Ｖｅｈｉｃｌｅ  ｔｏ  Ｉｎｆｒａｓｔｒｕｃｔｕｒｅ）通信、自車と家との間（Ｖｅｈｉｃｌｅ  ｔｏ  Ｈｏｍｅ）の通信、及び、歩車間（Ｖｅｈｉｃｌｅ  ｔｏ  Ｐｅｄｅｓｔｒｉａｎ）通信等のＶ２Ｘ通信を行う。また、例えば、通信部１０３は、ビーコン受信部を備え、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行規制又は所要時間等の情報を取得する。
【００３４】
車内機器１０４は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、自車に搬入され若しくは取り付けられる情報機器、及び、任意の目的地までの経路探索を行うナビゲーション装置等を含む。
【００３５】
出力制御部１０５は、自車の搭乗者又は車外に対する各種の情報の出力を制御する。例えば、出力制御部１０５は、視覚情報（例えば、画像データ）及び聴覚情報（例えば、音声データ）のうちの少なくとも１つを含む出力信号を生成し、出力部１０６に供給することにより、出力部１０６からの視覚情報及び聴覚情報の出力を制御する。具体的には、例えば、出力制御部１０５は、データ取得部１０２の異なる撮像装置により撮像された画像データを合成して、俯瞰画像又はパノラマ画像等を生成し、生成した画像を含む出力信号を出力部１０６に供給する。また、例えば、出力制御部１０５は、衝突、接触、危険地帯への進入等の危険に対する警告音又は警告メッセージ等を含む音声データを生成し、生成した音声データを含む出力信号を出力部１０６に供給する。
【００３６】
出力部１０６は、自車の搭乗者又は車外に対して、視覚情報又は聴覚情報を出力することが可能な装置を備える。例えば、出力部１０６は、表示装置、インストルメントパネル、オーディオスピーカ、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ、ランプ等を備える。出力部１０６が備える表示装置は、通常のディスプレイを有する装置以外にも、例えば、ヘッドアップディスプレイ、透過型ディスプレイ、ＡＲ（Ａｕｇｍｅｎｔｅｄ  Ｒｅａｌｉｔｙ）表示機能を有する装置等の運転者の視野内に視覚情報を表示する装置であってもよい。
【００３７】
駆動系制御部１０７は、各種の制御信号を生成し、駆動系システム１０８に供給することにより、駆動系システム１０８の制御を行う。また、駆動系制御部１０７は、必要に応じて、駆動系システム１０８以外の各部に制御信号を供給し、駆動系システム１０８の制御状態の通知等を行う。
【００３８】
駆動系システム１０８は、自車の駆動系に関わる各種の装置を備える。例えば、駆動系システム１０８は、内燃機関又は駆動用モータ等の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、舵角を調節するステアリング機構、制動力を発生させる制動装置、ＡＢＳ（Ａｎｔｉｌｏｃｋ  Ｂｒａｋｅ  Ｓｙｓｔｅｍ）、ＥＳＣ（Ｅｌｅｃｔｒｏｎｉｃ  Ｓｔａｂｉｌｉｔｙ  Ｃｏｎｔｒｏｌ）、並びに、電動パワーステアリング装置等を備える。
【００３９】
ボディ系制御部１０９は、各種の制御信号を生成し、ボディ系システム１１０に供給することにより、ボディ系システム１１０の制御を行う。また、ボディ系制御部１０９は、必要に応じて、ボディ系システム１１０以外の各部に制御信号を供給し、ボディ系システム１１０の制御状態の通知等を行う。
【００４０】
ボディ系システム１１０は、車体に装備されたボディ系の各種の装置を備える。例えば、ボディ系システム１１０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、パワーシート、ステアリングホイール、空調装置、及び、各種ランプ（例えば、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカ、フォグランプ等）等を備える。
【００４１】
記憶部１１１は、例えば、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、ＨＤＤ（Ｈａｒｄ  Ｄｉｓｃ  Ｄｒｉｖｅ）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、及び、光磁気記憶デバイス等を備える。記憶部１１１は、車両制御システム１００の各部が用いる各種プログラムやデータ等を記憶する。例えば、記憶部１１１は、ダイナミックマップ等の３次元の高精度地図、高精度地図より精度が低く、広いエリアをカバーするグローバルマップ、及び、自車の周囲の情報を含むローカルマップ等の地図データを記憶する。
【００４２】
自動運転制御部１１２は、自律走行又は運転支援等の自動運転に関する制御を行う。具体的には、例えば、自動運転制御部１１２は、自車の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、自車の衝突警告、又は、自車のレーン逸脱警告等を含むＡＤＡＳ（Ａｄｖａｎｃｅｄ  Ｄｒｉｖｅｒ  Ａｓｓｉｓｔａｎｃｅ  Ｓｙｓｔｅｍ）の機能実現を目的とした協調制御を行う。また、例えば、自動運転制御部１１２は、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行う。自動運転制御部１１２は、検出部１３１、自己位置推定部１３２、状況分析部１３３、計画部１３４、及び、動作制御部１３５を備える。
【００４３】
検出部１３１は、自動運転の制御に必要な各種の情報の検出を行う。検出部１３１は、車外情報検出部１４１、車内情報検出部１４２、及び、車両状態検出部１４３を備える。
【００４４】
車外情報検出部１４１は、車両制御システム１００の各部からのデータ又は信号に基づいて、自車の外部の情報の検出処理を行う。例えば、車外情報検出部１４１は、自車の周囲の物体の検出処理、認識処理、及び、追跡処理、並びに、物体までの距離の検出処理を行う。検出対象となる物体には、例えば、車両、人、障害物、構造物、道路、信号機、交通標識、道路標示等が含まれる。また、例えば、車外情報検出部１４１は、自車の周囲の環境の検出処理を行う。検出対象となる周囲の環境には、例えば、天候、気温、湿度、明るさ、及び、路面の状態等が含まれる。車外情報検出部１４１は、検出処理の結果を示すデータを自己位置推定部１３２、状況分析部１３３のマップ解析部１５１、交通ルール認識部１５２、及び、状況認識部１５３、並びに、動作制御部１３５の緊急事態回避部１７１等に供給する。
【００４５】
車内情報検出部１４２は、車両制御システム１００の各部からのデータ又は信号に基づいて、車内の情報の検出処理を行う。例えば、車内情報検出部１４２は、運転者の認証処理及び認識処理、運転者の状態の検出処理、搭乗者の検出処理、及び、車内の環境の検出処理等を行う。検出対象となる運転者の状態には、例えば、体調、覚醒度、集中度、疲労度、視線方向等が含まれる。検出対象となる車内の環境には、例えば、気温、湿度、明るさ、臭い等が含まれる。車内情報検出部１４２は、検出処理の結果を示すデータを状況分析部１３３の状況認識部１５３、及び、動作制御部１３５の緊急事態回避部１７１等に供給する。
【００４６】
車両状態検出部１４３は、車両制御システム１００の各部からのデータ又は信号に基づいて、自車の状態の検出処理を行う。検出対象となる自車の状態には、例えば、速度、加速度、舵角、異常の有無及び内容、運転操作の状態、パワーシートの位置及び傾き、ドアロックの状態、並びに、その他の車載機器の状態等が含まれる。車両状態検出部１４３は、検出処理の結果を示すデータを状況分析部１３３の状況認識部１５３、及び、動作制御部１３５の緊急事態回避部１７１等に供給する。
【００４７】
自己位置推定部１３２は、車外情報検出部１４１、及び、状況分析部１３３の状況認識部１５３等の車両制御システム１００の各部からのデータ又は信号に基づいて、自車の位置及び姿勢等の推定処理を行う。また、自己位置推定部１３２は、必要に応じて、自己位置の推定に用いるローカルマップ（以下、自己位置推定用マップと称する）を生成する。自己位置推定用マップは、例えば、ＳＬＡＭ（Ｓｉｍｕｌｔａｎｅｏｕｓ  Ｌｏｃａｌｉｚａｔｉｏｎ  ａｎｄ  Ｍａｐｐｉｎｇ）等の技術を用いた高精度なマップとされる。自己位置推定部１３２は、推定処理の結果を示すデータを状況分析部１３３のマップ解析部１５１、交通ルール認識部１５２、及び、状況認識部１５３等に供給する。また、自己位置推定部１３２は、自己位置推定用マップを記憶部１１１に記憶させる。
【００４８】
状況分析部１３３は、自車及び周囲の状況の分析処理を行う。状況分析部１３３は、マップ解析部１５１、交通ルール認識部１５２、状況認識部１５３、及び、状況予測部１５４を備える。
【００４９】
マップ解析部１５１は、自己位置推定部１３２及び車外情報検出部１４１等の車両制御システム１００の各部からのデータ又は信号を必要に応じて用いながら、記憶部１１１に記憶されている各種のマップの解析処理を行い、自動運転の処理に必要な情報を含むマップを構築する。マップ解析部１５１は、構築したマップを、交通ルール認識部１５２、状況認識部１５３、状況予測部１５４、並びに、計画部１３４のルート計画部１６１、行動計画部１６２、及び、動作計画部１６３等に供給する。
【００５０】
交通ルール認識部１５２は、自己位置推定部１３２、車外情報検出部１４１、及び、マップ解析部１５１等の車両制御システム１００の各部からのデータ又は信号に基づいて、自車の周囲の交通ルールの認識処理を行う。この認識処理により、例えば、自車の周囲の信号の位置及び状態、自車の周囲の交通規制の内容、並びに、走行可能な車線等が認識される。交通ルール認識部１５２は、認識処理の結果を示すデータを状況予測部１５４等に供給する。
【００５１】
状況認識部１５３は、自己位置推定部１３２、車外情報検出部１４１、車内情報検出部１４２、車両状態検出部１４３、及び、マップ解析部１５１等の車両制御システム１００の各部からのデータ又は信号に基づいて、自車に関する状況の認識処理を行う。例えば、状況認識部１５３は、自車の状況、自車の周囲の状況、及び、自車の運転者の状況等の認識処理を行う。また、状況認識部１５３は、必要に応じて、自車の周囲の状況の認識に用いるローカルマップ（以下、状況認識用マップと称する）を生成する。状況認識用マップは、例えば、占有格子地図（Ｏｃｃｕｐａｎｃｙ  Ｇｒｉｄ  Ｍａｐ）とされる。
【００５２】
認識対象となる自車の状況には、例えば、自車の位置、姿勢、動き（例えば、速度、加速度、移動方向等）、並びに、異常の有無及び内容等が含まれる。認識対象となる自車の周囲の状況には、例えば、周囲の静止物体の種類及び位置、周囲の動物体の種類、位置及び動き（例えば、速度、加速度、移動方向等）、周囲の道路の構成及び路面の状態、並びに、周囲の天候、気温、湿度、及び、明るさ等が含まれる。認識対象となる運転者の状態には、例えば、体調、覚醒度、集中度、疲労度、視線の動き、並びに、運転操作等が含まれる。
【００５３】
状況認識部１５３は、認識処理の結果を示すデータ（必要に応じて、状況認識用マップを含む）を自己位置推定部１３２及び状況予測部１５４等に供給する。また、状況認識部１５３は、状況認識用マップを記憶部１１１に記憶させる。
【００５４】
状況予測部１５４は、マップ解析部１５１、交通ルール認識部１５２及び状況認識部１５３等の車両制御システム１００の各部からのデータ又は信号に基づいて、自車に関する状況の予測処理を行う。例えば、状況予測部１５４は、自車の状況、自車の周囲の状況、及び、運転者の状況等の予測処理を行う。
【００５５】
予測対象となる自車の状況には、例えば、自車の挙動、異常の発生、及び、走行可能距離等が含まれる。予測対象となる自車の周囲の状況には、例えば、自車の周囲の動物体の挙動、信号の状態の変化、及び、天候等の環境の変化等が含まれる。予測対象となる運転者の状況には、例えば、運転者の挙動及び体調等が含まれる。
【００５６】
状況予測部１５４は、予測処理の結果を示すデータを、交通ルール認識部１５２及び状況認識部１５３からのデータとともに、計画部１３４のルート計画部１６１、行動計画部１６２、及び、動作計画部１６３等に供給する。
【００５７】
ルート計画部１６１は、マップ解析部１５１及び状況予測部１５４等の車両制御システム１００の各部からのデータ又は信号に基づいて、目的地までのルートを計画する。例えば、ルート計画部１６１は、グローバルマップに基づいて、現在位置から指定された目的地までのルートを設定する。また、例えば、ルート計画部１６１は、渋滞、事故、通行規制、工事等の状況、及び、運転者の体調等に基づいて、適宜ルートを変更する。ルート計画部１６１は、計画したルートを示すデータを行動計画部１６２等に供給する。
【００５８】
行動計画部１６２は、マップ解析部１５１及び状況予測部１５４等の車両制御システム１００の各部からのデータ又は信号に基づいて、ルート計画部１６１により計画されたルートを計画された時間内で安全に走行するための自車の行動を計画する。例えば、行動計画部１６２は、発進、停止、進行方向（例えば、前進、後退、左折、右折、方向転換等）、走行車線、走行速度、及び、追い越し等の計画を行う。行動計画部１６２は、計画した自車の行動を示すデータを動作計画部１６３等に供給する
【００５９】
動作計画部１６３は、マップ解析部１５１及び状況予測部１５４等の車両制御システム１００の各部からのデータ又は信号に基づいて、行動計画部１６２により計画された行動を実現するための自車の動作を計画する。例えば、動作計画部１６３は、加速、減速、及び、走行軌道等の計画を行う。動作計画部１６３は、計画した自車の動作を示すデータを、動作制御部１３５の加減速制御部１７２及び方向制御部１７３等に供給する。
【００６０】
動作制御部１３５は、自車の動作の制御を行う。動作制御部１３５は、緊急事態回避部１７１、加減速制御部１７２、及び、方向制御部１７３を備える。
【００６１】
緊急事態回避部１７１は、車外情報検出部１４１、車内情報検出部１４２、及び、車両状態検出部１４３の検出結果に基づいて、衝突、接触、危険地帯への進入、運転者の異常、車両の異常等の緊急事態の検出処理を行う。緊急事態回避部１７１は、緊急事態の発生を検出した場合、急停車や急旋回等の緊急事態を回避するための自車の動作を計画する。緊急事態回避部１７１は、計画した自車の動作を示すデータを加減速制御部１７２及び方向制御部１７３等に供給する。
【００６２】
加減速制御部１７２は、動作計画部１６３又は緊急事態回避部１７１により計画された自車の動作を実現するための加減速制御を行う。例えば、加減速制御部１７２は、計画された加速、減速、又は、急停車を実現するための駆動力発生装置又は制動装置の制御目標値を演算し、演算した制御目標値を示す制御指令を駆動系制御部１０７に供給する。
【００６３】
方向制御部１７３は、動作計画部１６３又は緊急事態回避部１７１により計画された自車の動作を実現するための方向制御を行う。例えば、方向制御部１７３は、動作計画部１６３又は緊急事態回避部１７１により計画された走行軌道又は急旋回を実現するためのステアリング機構の制御目標値を演算し、演算した制御目標値を示す制御指令を駆動系制御部１０７に供給する。
【００６４】
自動運転やＡＤＡＳの実現に向けて、より高精度な外界認識を行うために、種類の異なる多くの外界認識センサが車両に搭載され始めている。ところが、各センサには得手不得手がある。例えば、可視光を撮影するカメラは暗所を苦手とし、電波の反射を検出するレーダーは人や動物などの電波を反射し難い物体を苦手とする。
【００６５】
各センサの得手不得手は、各々の検出原理にも依拠する。レーダー（ミリ波レーダー）、カメラ、及びレーザーレーダー（ＬｉＤＡＲ）の得手不得手を以下の表１にまとめておく。同表中で、◎は大得意（高い精度を持つ）、○は得意（良好な精度を持つ）、△は苦手（精度が十分でない）を意味する。但し、レーダーは電波を反射させて対象物の距離などを測定し、カメラは被写体からの可視光の反射光を捕捉し、ＬｉＤＡＲは光を反射させて対象物の距離などを測定することを、各々の検出原理とする。
【００６６】
【表１】
2020009060.tif 000003
【００６７】
これまでのセンサフュージョン技術の多くは、外部環境の変化などに起因して認識精度が低下したセンサを他のセンサで補う、若しくは使用するセンサの組み合わせを切り替えて、外部環境の変化により認識精度が劣化したセンサによる検出データを全く使用しないものである。
【００６８】
しかしながら、認識精度が低いセンサであっても、その検出データから全く何も認識できないというものでもない。例えば、カメラは暗所を苦手とするが、近場や、街灯若しくは街の明かりが照らされている場所にある物であれば、カメラで撮影した画像からある程度は認識することが可能である。
【００６９】
そこで、本明細書では、レーダーやカメラ、ＬｉＤＡＲといった車両に搭載された複数のセンサのうち、認識精度が低いセンサからの検出信号も有効に活用して、さらに認識精度を向上させる技術について、以下で提案する。
【００７０】
図２には、本明細書で開示する技術を適用した情報処理装置１０００の機能的構成を模式的に示している。
【００７１】
図示の情報処理装置１０００は、カメラ１０７０の検出信号を処理するカメラ認識処理部１０１０と、ミリ波レーダー１０８０の検出信号を処理するレーダー認識処理部１０２０と、ＬｉＤＡＲ１０９０の検出信号を処理するＬｉＤＡＲ認識処理部１０３０と、上記の各認識処理部１０１０〜１０３０による処理結果をフュージョン処理するフュージョン処理部１０４０を備えている。
【００７２】
カメラ１０７０、ミリ波レーダー１０８０、及びＬｉＤＡＲ１０９０といった外界認識用のセンサは、検出範囲がほぼ同じとなるように各々の設置位置のキャリブレーションが施された上で、同一の車両に搭載されているものとする。また、同じ車両に上記のセンサ１０７０〜１０９０以外の外界認識用のセンサがさらに搭載されていることも想定される。また、カメラ１０７０は、複数台のカメラで構成され、そのうち少なくとも一部はミリ波レーダー１０８０及びＬｉＤＡＲ１０９０とは検出範囲が異なるように設置されることも想定される。複数台のカメラの出力をフュージョン処理部１０４０でフュージョン処理するようにしてもよい。
【００７３】
カメラ認識処理部１０１０は、カメラ１０７０から入力されたＲＡＷデータを処理するＲＡＷデータ処理部１０１１と、そのＲＡＷデータを信号処理する信号処理部１０１２と、信号処理後のカメラ画像から物体を認識する認識器１０１３を備えている。ここで言うＲＡＷデータは、イメージセンサが捕捉した光の情報をそのまま記録したデータである。ＲＡＷデータ処理部１０１１はＲＡＷデータに対するフロントエンド処理（増幅、ノイズ除去、ＡＤ変換など）を実施し、信号処理部１０１２はバックエンド処理を実施する。認識器１０１３は、所定の画像認識アルゴリズムを実装したハードウェア、又は認識アルゴリズムを実施するソフトウェアのうちいずれの形態であってもよい。認識器１０１３からは、認識できた物体（ターゲット）の形状の分類の情報（ターゲットのリスト）が出力される。認識器１０１３が認識する物体形状の分類として、人、クルマ、標識、空、建物、道路、歩道などが挙げられる。認識器１０１３は、所定の画像認識アルゴリズムを実装したハードウェア、又は認識アルゴリズムを実施するソフトウェアのうちいずれの形態であってもよい。
【００７４】
カメラ認識処理部１０１０から後段のフュージョン処理部１０４０へ、認識器１０１３による認識結果として物体形状の分類（人、クルマ、標識、空、建物、道路、歩道など）が後段のフュージョン処理部１０４０に出力される。但し、認識器１０１３は、尤度の低い認識結果を出力しない。このため、悪天候時や夜間など認識器１０１３の認識性能が低下する状況下では、認識器１０１３から出力される情報量が少なくなることもある。また、本実施形態では、認識器１０１３による最終的な認識結果を得る前の早期データもフュージョン処理部１０４０に出力される。ここで言う早期データは、カメラ１０７０から入力される撮影画像（ＲＡＷデータ）、信号処理部１０１２から出力データ並びに信号処理途中のデータ、及び認識器１０１３による認識途中のデータなどであり、これら早期データの全部又は一部がフュージョン処理部１０４０に出力される。認識器１０１３による認識途中のデータには、認識の尤度が低いために認識器１０１３からは最終的に出力されない物体に関する情報（例えば、車体や塀などの物体の陰に隠れて、部分的又は断片的にのみ認識できた歩行者の情報など）が含まれることが想定される。以下では、認識器１０１３による認識処理以前の早期データを、便宜上、カメラ１０７０の「ＲＡＷデータ」と総称することにする。
【００７５】
また、レーダー認識処理部１０２０は、ミリ波レーダー１０８０から入力されたＲＡＷデータを処理するＲＡＷデータ処理部１０２１と、そのＲＡＷデータを信号処理する信号処理部１０２２と、信号処理後のレーダー検出結果から物体を認識する認識器１０２３を備えている。認識器１０２３は、所定の認識アルゴリズムを実装したハードウェア、又は認識アルゴリズムを実施するソフトウェアのうちいずれの形態であってもよい。認識器１０２３は、認識できたターゲット（人、クルマ、標識、建物など）をトラッキングして、各ターゲットの距離、仰角、方位角、速度、反射強度などの認識結果を出力する。
【００７６】
レーダー認識処理部１０２０から後段のフュージョン処理部１０４０へ、認識器１０２３による最終的な認識結果が出力される。但し、認識器１０１３は、尤度の低い認識結果を出力しない。このため、非金属などレーダーの反射強度の弱い物体に関しては、認識器１０２３から出力される情報が少なくなることが想定される。また、本実施形態では、認識器１０２３による最終的な認識結果を得る前の早期データもフュージョン処理部１０４０に出力される。ここで言う早期データは、ミリ波レーダー１０８０から入力される撮影画像（ＲＡＷデータ）、信号処理部１０２２から出力データ並びに信号処理途中のデータ、及び認識器１０２３による認識途中のデータなどであり、これら早期データの全部又は一部がフュージョン処理部１０４０に出力される。認識器１０２３による認識途中のデータには、認識の尤度が低いために認識器１０２３からは最終的に出力されない情報（例えば、塀や看板など近くの物体からの反射電波の影響により、反射強度が弱められたバイクなど）が含まれることが想定される。以下では、認識器１０２３による認識処理以前の早期データを、便宜上、ミリ波レーダー１０８０の「ＲＡＷデータ」と総称することにする。
【００７７】
また、ＬｉＤＡＲ認識処理部１０３０は、ＬｉＤＡＲ１０９０から入力されたＲＡＷデータを処理するＲＡＷデータ処理部１０３１と、そのＲＡＷデータを信号処理する信号処理部１０３２と、信号処理後のＬｉＤＡＲ検出結果から物体を認識する認識器１０３３を備えている。認識器１０３３は、所定の認識アルゴリズムを実装したハードウェア、又は認識アルゴリズムを実施するソフトウェアのうちいずれの形態であってもよい。認識器１０３３は、認識できたターゲット（人、クルマ、標識、建物など）をトラッキングして、各ターゲットの距離、仰角、方位角、高さ、反射率などの認識結果を出力する。
【００７８】
ＬｉＤＡＲ認識処理部１０３０から後段のフュージョン処理部１０４０へ、認識器１０３３による最終的な認識結果が出力される。但し、認識器１０１３は、尤度の低い認識結果を出力しない。また、本実施形態では、認識器１０３３による最終的な認識結果を得る前の早期データもフュージョン処理部１０４０に出力される。ここで言う早期データは、ＬｉＤＡＲ１０９０から入力される撮影画像（ＲＡＷデータ）、信号処理部１０３２から出力データ並びに信号処理途中のデータ、及び認識器１０３３による認識途中のデータなどであり、これら早期データの全部又は一部がフュージョン処理部１０４０に出力される。認識器１０３３による認識途中のデータには、認識の尤度が低いために認識器１０３３からは最終的に出力されない情報（部分的又は断片的にのみ認識できた歩行者の情報）などが含まれることが想定される。以下では、認識器１０３３による認識処理以前の早期データを、便宜上、ＬｉＤＡＲ１０９０の「ＲＡＷデータ」と総称することにする。
【００７９】
図２では、便宜上、各認識処理部１０１０〜１０３０の構成を模式的に描いたが、センサの種別やセンサの機種・設計仕様などに依存して、内部の詳細な構成が定まるという点を理解されたい。例えば、カメラ認識処理部１０１０の一部又は全部のコンポーネントがカメラ１０７０のユニット内に搭載される、レーダー認識処理部１０２０の一部又は全部のコンポーネントがミリ波レーダー１０８０のユニット内に搭載される、あるいはＬｉＤＡＲ認識処理部１０３０の一部又は全部のコンポーネントがＬｉＤＡＲ１０９０のユニット内に搭載されるという構成も想定される。
【００８０】
また、同じ車両にカメラ１０７０、ミリ波レーダー１０８０、及びＬｉＤＡＲ１０９０以外の外界認識用のセンサ（図示しない）が搭載されている場合には、情報処理装置１０００は、そのセンサの検出信号に基づく認識処理用に、ＲＡＷデータ処理部、信号処理部及び認識器を含んだ認識処理部をさらに備えていてもよい。これらの場合も、各認識処理部から後段のフュージョン処理部１０４０へ、最終的な認識結果が出力されるとともに、センサのＲＡＷデータが出力される。
【００８１】
また、自動運転やＡＤＡＳの実現に向けて複数の外界認識センサが車両に搭載される傾向にあるが（前述）、もちろん、１台の車両にカメラ１０７０、ミリ波レーダー１０８０、及びＬｉＤＡＲ１０９０のうちいずれか１つの外界認識用のセンサしか搭載されないことも想定される。例えば、ＬｉＤＡＲ１０９０のみで十分な外界認識性能が得られる場合にはミリ波レーダー１０８０は使用されないケースや、カメラ１０７０の撮影映像はビューイングにのみ使用され外界認識には使用されないといったケースも想定される。このような場合、情報処理装置１０００は、上記の認識処理部１０１０〜１０３０のうち、使用するセンサに対応する機能モジュールしか装備しない、あるいは各センサに対応するすべての機能モジュールを装備するが該当する（若しくは、センサから入力信号がある）機能モジュールのみが動作し、後段のフュージョン処理部１０４０へ出力するものと理解されたい。
【００８２】
フュージョン処理部１０４０は、同一の車両に搭載されたカメラ１０７０、ミリ波レーダー１０８０、及びＬｉＤＡＲ１０９０の各センサに基づく認識結果をフュージョン処理して、外界認識する。同じ車両がさらに他の外界認識用のセンサ（図示しない）を搭載している場合には、フュージョン処理部１０４０はそのセンサによる検出信号もさらにフュージョン処理する。本実施形態では、フュージョン処理部１０４０は、各センサの認識結果だけでなく、認識前のＲＡＷデータもフュージョン処理して、外界認識を実施する。そして、フュージョン処理部１０４０は、フュージョン処理して得られた外界認識結果を、車両制御システムに出力する。
【００８３】
図２に示す例では、車両制御システムは、ＥＣＵ（Ｅｌｅｃｔｒｏｎｉｃ  Ｃｏｎｔｒｏｌ  Ｕｎｉｔ）１０５０と、車両を動かすアクチュエータ（以下、「ＡＣＴ」とする）１０６０を含んでいる。ＥＣＵ１０５０は、フュージョン処理部１０４０における外界認識結果に基づいて、例えば自動車間制御（ＡＣＣ）、車線逸脱警報（ＬＤＷ）、レーンキープアシスト（ＬＫＡ）、自動緊急ブレーキ（ＡＥＢ）、死角検知（ＢＳＤ）といった、自動運転又は運転支援のための判断を実施する。そして、ＡＣＴ１０６０は、ＥＣＵ１０５０からの指示に従って、アクティブコーナリングライト（ＡＣＬ）、ブレーキアクチュエータ（ＢＲＫ）、操舵装置（ＳＴＲ）など各駆動部の駆動制御すなわち車両の操作を実施する。例えば、フュージョン処理部１０４０によって道路のレーンが認識された場合には、車両制御システムは、当該車両がレーンを逸脱しないように当該車両の走行を制御する。また、フュージョン処理部１０４０によって周辺車両や歩行者、道路脇の塀や看板といった障害物が認識された場合には、車両制御システムは、当該車両が障害物との衝突を回避するように当該車両の走行を制御する。自動運転は一般に「認知→判断→操作」の３ステップからなり、認知ステップでは何らかの物体があることを認知し、判断ステップでは認知されたものを判断して車の経路計画を判断する。図２に示すような構成例では、情報処理装置１０００内では主に認知ステップの処理が実施され、車両制御システム内のＥＣＵ１０５０では主に判断ステップの処理が実施され、ＡＣＴ１０６０では主に操作ステップの処理が実施される。但し、認知ステップと判断ステップの区分けは厳格ではなく、本実施例で記載の認知ステップの一部が判断ステップに位置付けられることもある。また、将来的には認知ステップを処理する機能の一部又は全部が、カメラ１０７０、ミリ波レーダー１０８０、ＬｉＤＡＲ１０９０などの各センサーユニット内に搭載される設計も見込まれる。
【００８４】
本実施形態では、フュージョン処理部１０４０は、Ｌａｔｅフュージョン処理部１０４１とＥａｒｌｙフュージョン処理部１０４２とハイブリッドフュージョン処理部１０４３を備えている。Ｌａｔｅフュージョン処理部１０４１は、各認識処理部１０１０〜１０３０による最終出力（Ｌａｔｅデータ）、すなわち各認識器１０１３、１０２３、１０３３による認識結果をフュージョン処理して外界認識を実施する。また、Ｅａｒｌｙフュージョン処理部１０４２は、各認識処理部１０１０〜１０３０による認識距離以前の早期（Ｅａｒｌｙ）のデータ、すなわち、カメラ１０７０、ミリ波レーダー１０８０、並びにＬｉＤＡＲ１０９０の各センサのＲＡＷデータ（前述）をフュージョン処理して外界認識を実施する。また、ハイブリッドフュージョン処理部１０４３は、各認識処理部１０１０〜１０３０による最終出力（Ｌａｔｅデータ）のうちいずれか１つ又は２以上と、各認識処理部１０１０〜１０３０のうちいずれか１つ又は２以上のＲＡＷデータとをフュージョン処理して外界認識を実施する。ハイブリッドフュージョン処理部１０４３によれば、あるセンサの認識器による最終的な認識結果の尤度が低くても、他のセンサ又は同じセンサのＲＡＷデータとのフュージョン処理によって認識性能を高める効果がある。そして、フュージョン処理部１０４０は、Ｌａｔｅフュージョン処理部１０４１とＥａｒｌｙフュージョン処理部１０４２とハイブリッドフュージョン処理部１０４３の認識結果をさらにフュージョン処理し、又はこれらフュージョン処理部１０４１〜１０４３の認識結果を択一的に選択して、その処理結果を後段のＥＣＵ１０５０に出力する。
【００８５】
Ｌａｔｅフュージョン処理部１０４１は、各認識処理部１０１０〜１０３０から認識器１０１３、１０２３、１０３３による最終的な認識結果を得るので、認識結果の信頼度が高い情報を処理する。しかしながら、認識器１０１３、１０２３、１０３３からは尤度の高い認識結果のみが出力され、信頼度の高い情報しか得られないので、使用できる情報量が少ないという問題がある。
【００８６】
一方、Ｅａｒｌｙフュージョン処理部１０４２は、各認識処理部１０１０〜１０３０から認識器１０１３、１０２３、１０３３を通す前の、ＲＡＷデータを得るので、入力される情報量が非常に多い。しかしながら、ＲＡＷデータ若しくはＲＡＷデータに近いデータはノイズを含む。例えば、カメラ１０７０が夜間の暗い場所を撮影したときには、物体以外のさまざまな情報が含まれてしまうため、誤検出の可能性が高まり、情報の信頼度が低い。また、情報量が多いことから、処理量も多くなってしまう。
【００８７】
例えば、カメラ１０７０が夜間の暗い場所を撮影したときに、その撮影画像（すなわち、ＲＡＷデータ）には、図３に示すように複数人の像が含まれていたとする。街灯などに照らされて明るく写った歩行者３０１は高い認識率で認識できるので、認識器１０１３はその歩行者３０１をターゲットとして認識した結果を出力するが、街灯などが当たらず暗く写された歩行者３０２、３０２は認識率が低く、認識器１０１３はこのような歩行者３０２、３０２をターゲットとして認識しない結果を出力してしまう。すなわち、元のカメラ画像（すなわち、ＲＡＷデータ）には複数の歩行者３０１〜３０３が写っているが、認識器１０１３を通すことによって信頼度の高い情報のみが出力されることになり、情報量が絞られてしまう。したがって、Ｌａｔｅフュージョン処理部１０４１には、信頼性の高い歩行者３０１の情報のみが入力され、ノイズなど不要な情報は切り捨てられるが、信頼性の低い歩行者３０２、３０３の情報も切り捨てられてしまう。一方、Ｅａｒｌｙフュージョン処理部１０４２には、すべての歩行者３０１〜３０３の情報が入力されるが、ノイズなどさまざまな情報も併せて入力される。
【００８８】
また、ミリ波レーダー１０８０の検出結果のＲＡＷデータは、反射電波の受信部の前方の所定の検出範囲における、各反射物が存在する位置（方向及び距離）における反射電波の強度分布からなる。ＲＡＷデータは、さまざまな物体からの反射電波の強度データを含む。ところが、認識器１０３３を通すと、電波の反射強度が低い強度データは切り捨てられ、認識できたターゲットの方向、距離（奥行と幅を含む）、速度などの数値情報のみが抽出され、情報量が絞られてしまう。
【００８９】
例えば、図４に示すように、２台の車両４０１及び４０２の間に歩行者４０３が歩いているというシーンでは、車両４０１及び４０２とともに歩行者４０３も検出できることが望ましい。ところが、ミリ波レーダー１０８０を用いた場合、強い反射物の間に挟まれた物体の反射強度が弱まる傾向にある。したがって、図４に示すようなシーンをミリ波レーダー１０８０で計測すると、図５に示すように、ＲＡＷデータ５００中には、車両４０１及び４０２の各々からの強い反射波５０１及び５０２と、歩行者４０３からの弱い反射波５０３が含まれている。このようなミリ波レーダー１０８０の検出結果を認識器１０３３に通すと、情報として信頼性の低い反射波５０３は切り捨てられ、信頼性の高い反射波５０１及び５０２のみをターゲットとして認識するので、情報量が絞られてしまう。したがって、Ｌａｔｅフュージョン処理部１０４１には、信頼性の高い車両４０１及び４０２の情報のみが入力され、ノイズなど不要な情報は切り捨てられるが、信頼性の低い歩行者４０３の情報も切り捨てられてしまう。一方、Ｅａｒｌｙフュージョン処理部１０４２には、車両４０１及び４０２とともに、歩行者４０３の情報が出力されるが、ノイズなどさまざまな情報も併せて入力される。
【００９０】
要するに、Ｌａｔｅフュージョン処理部１０４１により各認識器１０１３、１０２３、１０３３の認識結果をフュージョン処理した結果は、信頼性の高い情報に絞られるため、信頼性は低いが重要性が高い情報が切り捨てられてしまうおそれがある。他方、Ｅａｒｌｙフュージョン処理部１０４２により各認識処理部１０１０〜１０３０のＲＡＷデータをフュージョン処理した結果は、情報量は多いが、ノイズなど信頼性が低い情報を取り込んでしまうおそれがある。
【００９１】
そこで、本実施形態に係る情報処理装置１０００は、信頼性が高いが情報量が絞られてしまうＬａｔｅフュージョン処理部１０４１の処理結果を、情報量が多いがノイズも含むＥａｒｌｙフュージョン処理部１０４２の処理結果で補うことによって、十分な情報量で且つ信頼性の高い外界認識結果が得られるように構成されている。また、ハイブリッドフュージョン処理部１０４３は、各認識処理部１０１０〜１０３０による最終出力（Ｌａｔｅデータ）のうちいずれか１つ又は２以上と、各認識処理部１０１０〜１０３０のうちいずれか１つ又は２以上のＲＡＷデータとをフュージョン処理して、あるセンサの認識器による最終的な認識結果の尤度が低くても、他のセンサ又は同じセンサのＲＡＷデータとのフュージョン処理によって認識性能を高めることができる。すなわち、情報処理装置１０００は、カメラ１０７０、ミリ波レーダー１０８０、ＬｉＤＡＲ１０９０などの外界認識用の各センサのＲＡＷデータをＥａｒｌｙフュージョン処理部１０４２によりフュージョン処理した結果に基づいて、認識器１０１３、１０２３、１０３３では切り捨てられてしまうような重要な情報を復元できるように構成されている。
【００９２】
なお、本出願時の技術水準では、ＬｉＤＡＲ１０９０による外界認識の精度は、カメラやミリ波レーダーと比較して著しく高いが、ＬｉＤＡＲ認識処理部１０３０による認識結果を他の認識処理部１０１０又は１０２０の認識結果とともにＬａｔｅフュージョン処理部１０４１でフュージョン処理してもよいし、ＬｉＤＡＲ認識処理部１０３０による認識結果をＥａｒｌｙフュージョン処理部１０４２によるＲＡＷデータの処理結果で補うようにしてもよい。また、ＬｉＤＡＲ認識処理部１０３０を他の認識処理部１０１０又は１０２０の認識結果とともにハイブリッドフュージョン処理部１０４３でフュージョン処理してもよい。付言すれば、ＬｉＤＡＲ認識処理部１０３０の認識器１０３３による認識結果のみでも十分である場合には、Ｌａｔｅフュージョン処理部１０４１において、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の各認識器１０１３及び１０２３の認識結果又はＲＡＷデータとフュージョン処理しなくてもよい。
【００９３】
他方、本出願時の技術水準では、ＬｉＤＡＲ１０９０は、カメラ１０７０やミリ波レーダー１０８０など他の外界認識用センサと比較して、極めて高価である。このため、ＬｉＤＡＲ１０９０は使用せず（言い換えれば、ＬｉＤＡＲ１０９０を車両には搭載せず）、情報処理装置１０００は、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の各認識器１０１３及び１０２３による認識結果をＬａｔｅフュージョン処理部１０４０でフュージョン処理した結果を、カメラ１０７０及びミリ波レーダー１０８０の各ＲＡＷデータをＥａｒｌｙフュージョン処理部１０４２でフュージョン処理した結果により補うように構成されていてもよい。
【００９４】
また、ＬｉＤＡＲ１０９０は、光の反射波を利用するという性質上、降雨や降雪、霧など光を遮る天候や、夜間、トンネル内などの暗所では信頼性が劣化してしまうことが懸念される。また、カメラ１０７０にも同様のことが当てはまる。一方、ミリ波レーダー１０８０の信頼性は天候にあまり依存せず、比較的安定している。そこで、情報処理装置１０００は、天候などの環境情報やその他の外部情報に基づいて、フュージョン処理部１０４０において、各センサ１０７０〜１０９０からの情報をフュージョンする際の比重を調整するようにしてもよい。例えば、晴天時であれば、フュージョン処理部１０４０内のＬａｔｅフュージョン処理部１０４１及びＥａｒｌｙフュージョン処理部１０４２は、ＬｉＤＡＲ認識処理部１０３０の認識器１０３３による認識結果やＬｉＤＡＲ１０９０のＲＡＷデータを高い比重でそれぞれ使用するが、降雨や降雪、霧のとき、あるいは夜間やトンネル内などの暗所の場合には、ＬｉＤＡＲ認識処理部１０３０の認識器１０３３による認識結果やＬｉＤＡＲ１０９０のＲＡＷデータを低い比重とし又は使用せずにフュージョン処理する。
【００９５】
図６には、レーダー認識処理部１０２０の内部構成例を示している。レーダー認識処理部１０２０は、ＲＡＷデータ処理部１０２１と、信号処理部１０２２と、認識器１０２３を備えている。
【００９６】
ＲＡＷデータ処理部１０２１は、ミリ波レーダー１０８０のＲＡＷデータを入力して、増幅、ノイズ除去、ＡＤ変換といった処理を実行する。ＲＡＷデータ処理部１０２１からＥａｒｌｙフュージョン処理部１０４２へ、ＲＡＷデータ、若しくは増幅、ノイズ除去、ＡＤ変換のうちいずれから処理後のデータが出力される。
【００９７】
信号処理部１０２２は、図６に示す例では、レーダーにより捕捉された各ターゲットまでの距離を検出する距離検出部６０１と、各ターゲットが移動する速度を検出する速度検出部６０２と、各ターゲットの方位を検出する角度検出部６０３と、ターゲットを追跡する追跡部６０４と、これら以外の処理を実行するＭＩＳＣ処理部６０５を備えている。ミリ波レーダー１０８０のＲＡＷデータからターゲットの距離、方位、大きさ、速度を検出するアルゴリズムは特に限定されない。例えば、ミリ波レーダー１０８０の製造元などが開発したアルゴリズムをそのまま適用してもよい。
【００９８】
信号処理部１０２２内で各部６０１〜６０５の処理がすべて終了すると、レーダーにより距離、方位、大きさ、速度などが検出されたターゲットの情報が、後段の認識器１０２３に出力される。また、距離、方位、大きさ、速度を正確に検出できなかったターゲットの情報は、認識不能として認識器１０２３には出力されず、切り捨てられる。また、各部６０１〜６０５ののうち少なくとも１つの機能モジュールにおける処理後の信号が、Ｅａｒｌｙフュージョン処理部１０４２にも出力される。
【００９９】
なお、ＲＡＷデータ処理部１０２１からの入力データに対し、各部６０１〜６０５が処理を実行する順序は必ずしも固定されたものではなく、製品の設計仕様などに応じて適宜順序が入れ替わることが想定される。また、上述した機能モジュール６０１〜６０５のすべてがミリ波レーダー１０８０の検出信号に対して必須という訳ではなく、製品の設計仕様などに応じて取捨選択され、あるいは図示した以外の機能モジュールが信号処理部１０２２に装備されることも想定される。
【０１００】
認識器１０２３は、所定の認識アルゴリズムに従って、信号処理部１０２２による処理後の信号に基づいて、外界認識処理を行う。
【０１０１】
例えば、車載のカメラ１０７０で撮影した画像が図７に示す通りとなるシーンにおいて、レーダー認識処理部１０２０の認識器１０２３による処理前のデータを図８に示し、認識器１０２３による認識処理後のデータを図９に示す。但し、図８は、ミリ波レーダー１０８０のＲＡＷデータ、又は信号処理部１０２２の処理途中のデータをイメージしている。また、図９では、レーダー認識処理部１０２０の認識器１０２３による認識結果を黒いブロックで示している。図９では、比較のため、ＬｉＤＡＲ認識処理部１０３０の認識器１０３３による認識結果をグレーのブロックで表示して、併せて示している。
【０１０２】
図７に示すシーンは、車両の前方の道路を走行しているバイク７０１を障害物として認識できることが望ましい。但し、道路（若しくは、バイク７０１）の両側には家屋や塀７０２、７０３が並んでいる。図８に示すように、認識器１０２３による処理前の、ミリ波レーダー１０８０のＲＡＷデータは、さまざまな情報を含んでいる。ミリ波レーダー１０８０のＲＡＷデータは、サイドローブはあるものの、バイク７０１からの強い反射８０１を確認することができる。なお、左右の塀などからの比較的弱い反射８０２、８０３も確認することができる。ミリ波レーダー１０８０は、金属の感度が高い一方で、コンクリートなどの非金属の感度は低い。これら反射強度が弱い物体は、認識器１０２３を通すと認識できないが、ＲＡＷデータからは存在を確認することができる。また、図９に示したレーダー認識処理部１０２０の認識器１０２３による認識結果を参照すると、前方２０メートル付近にバイク７０１に対応すると思われる物体９０１とともに、道路（若しくは、バイク７０１）の両側には家屋や塀７０２、７０３に対応すると思われる物体９０２、９０３も認識されている。特に、ＲＡＷデータにおいて、認識物体９０１と認識物体９０２は重なり合っているが、認識処理を経ていないため仮に弱い反射強度であっても認識物体９０１と認識物体９０２をそれぞれ認識しているデータとなっている。そのため、ＲＡＷデータを認識器１０２３の認識結果とフュージョンすれば、認識物体９０１と認識物体９０２とを別の物体として認識することが可能である。もちろん、ミリ波レーダー１０８０の認識器１０２３のみによってバイクを認識できるシーンも多い。しかしながら、バイクの反射強度は車両に比べると弱く、図７に示すようにバイクの近くに他の反射物が存在するとミリ波レーダー１０８０のみでは捕捉し難くなり、ある反射強度以上の実を認識する認識処理後のデータでは、認識物体９０１と認識物体９０２を一塊のデータとして出力することになる。図２１には、ミリ波レーダー１０８０の検出範囲内２１００で、壁２１０１にバイク２１０２が接近している様子を模式的に示している。図２２には、この検出範囲内２１００から得られたミリ波レーダー１０８０の反射波を認識器１０２３で認識した結果を模式的に示している。認識器１０２３では、所定値未満の反射強度は切り捨てられ、所定値以上の反射強度を物体として認識する。このため、図２２に示す例では、壁２１０１とバイク２１０２が一体となった１つのかたまり２２０１を物体として認識することになる。これに対し、ミリ波レーダー１０８０のＲＡＷデータからは、認識器１０２３では切り捨てられるような弱い反射強度でも認識可能である。したがって、図２３に示すように、壁２１０１からの反射とバイク２１０２からの反射を別の物体２３０１及び２３０２として認識することが可能である。
【０１０３】
また、車載のカメラ１０７０で撮影した画像が図１０に示す通りとなるシーンにおいて、レーダー認識処理部１０２０の認識器１０２３による処理前のデータを図１１に示し、認識器１０２３による認識処理後のデータを図１２に示す。但し、図１１は、ミリ波レーダー１０８０のＲＡＷデータ、又は信号処理部１０２２の処理途中のデータをイメージしている。また、図１２では、レーダー認識処理部１０２０の認識器１０２３による認識結果を黒いブロックで示している。図１２では、比較のため、ＬｉＤＡＲ認識処理部１０３０の認識器１０３３による認識結果をグレーのブロックで表示して、併せて示している。
【０１０４】
図１０は、両側を塀１００１及び１００２で挟まれた狭い路地を走行しているシーンであり、両側の塀１００１及び１００２を障害物として認識できることが好ましい。図１１に示すように、認識器１０２３による処理前の、ミリ波レーダー１０８０のＲＡＷデータは、さまざまな情報を含んでいる。塀１００１及び１００２自体は金属ではなく、ミリ波レーダー１０８０では捕捉し難いが、塀１００１及び１００２の亀裂や段差からのものと思われる反射１１０１、１１０２を確認することができる。また、図１２に示したレーダー認識処理部１０２０の認識器１０２３による認識結果を参照すると、認識器１０２３は、各塀１００１及び１００２に散在する亀裂や段差からの反射があったいくつかの部分１２０１〜１２０４のみを離散的に認識することができるが、塀１００１及び１００２を全体として認識することは難しく、ＬｉＤＡＲ１０９０の認識器１０３３の認識結果を利用（すなわち、フュージョン処理）しなければ塀１００１及び１００２を全体として認識することは難しい。一方で、図１１に示すＲＡＷデータからであれば、弱い反射波であっても、壁の存在を示す反射情報１１０１及び１１０２を取得することができる。
【０１０５】
図１３には、情報処理装置１０００において、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の認識結果をＬａｔｅフュージョン処理部１０４１でフュージョン処理した際のターゲット認識結果の例を示している。但し、ターゲットを認識したという認識結果に「○」を、ターゲットを認識できなかったという認識結果に「×」を、それぞれ記入している。同じターゲットをカメラ認識処理部１０１０及びレーダー認識処理部１０２０でそれぞれ認識処理した場合、両方でターゲットを認識できる場合（パターン１）、いずれか一方でのみターゲットを認識できる場合（パターン２及び３）、いずれでもターゲットを認識できない場合（パターン４）、の４つのパターンが想定される。Ｌａｔｅフュージョン処理部１０４１は、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の両方で認識できたターゲットは、ターゲットを認識できたとして出力する（図１３中では、「○」が記入される）。他方、カメラ認識処理部１０１０及びレーダー認識処理部１０２０のうち一方でしか認識できなかったターゲット、並びに両方で認識できなかったターゲットについては、認識できなかったとして出力する（図１３中では、「×」が記入される）。
【０１０６】
一方、図１４には、情報処理装置１０００において、カメラ１０７０及びミリ波レーダー１０８０のＲＡＷデータをＥａｒｌｙフュージョン処理部１０４２でフュージョン処理した際のターゲット認識結果の例を示している。但し、図１４中の各パターン１〜４は図１３の対応するパターンと同じターゲットの認識を試みたものである。また、ターゲットを認識したという認識結果に「○」を、ターゲットを認識できなかったという認識結果に「×」を、それぞれ記入している。Ｌａｔｅフュージョン処理では、認識器１１３又は１２３の判定閾値で切り捨てられてしまうが、判定閾値で切り捨てられる前のＲＡＷデータを用いたＥａｒｌｙフュージョン処理では認識可能な物体もある。但し、Ｌａｔｅフュージョン処理とＥａｒｌｙフュージョン処理で認識結果が異なる物体は、実際に物体である尤度が低い点にも十分留意すべきである。
【０１０７】
カメラ認識処理部１０１０の認識器１０１３及びレーダー認識処理部１０２０の認識器１０２３でともにターゲットを認識できたパターン１においては、カメラ１０７０のＲＡＷデータ及びミリ波レーダー１０８０のＲＡＷデータでも同様に認識することができるので、Ｅａｒｌｙフュージョン処理部１０４２は、ターゲットを認識できたとして出力する（図１４中では、「○」が記入される）。すなわち、認識器１０１３及び１０２３による認識結果と、ＲＡＷデータによる認識結果に相違がない場合には、Ｅａｒｌｙフュージョン処理部１０４２は、Ｌａｔｅフュージョン処理部１０４１と同様の認識結果を出力する。
【０１０８】
また、カメラ認識処理部１０１０の認識器１０１３は認識できたがレーダー認識処理部１０２０の認識器１０２３は認識できなかったパターン２において、ミリ波レーダー１０８０のＲＡＷデータに基づいてターゲットを認識することができた場合には、Ｅａｒｌｙフュージョン処理部１０４２は、ターゲットを認識できたとして出力する。例えば、反射強度が弱く、認識器１０２３では切り捨てられてしまったターゲットを、ＲＡＷデータに基づいて認識できた場合などである。したがって、Ｌａｔｅフュージョン処理部１０４１が認識できないターゲットであっても、Ｅａｒｌｙフュージョン処理部１０４２を用いることによって認識できることになり（図１５を参照のこと）、情報量の豊富なＲＡＷデータを用いたＥａｒｌｙフュージョン処理によってターゲットの認識率が向上するということができる。
【０１０９】
また、カメラ認識処理部１０１０の認識器１０１３は認識できなかったがレーダー認識処理部１０２０の認識器１０２３は認識できたパターン３において、カメラ１０７０のＲＡＷデータからも依然としてターゲットを認識することができない場合には、Ｅａｒｌｙフュージョン処理部１０４２は、ターゲットを認識できないとして出力する。すなわち、パターン３では、Ｅａｒｌｙフュージョン処理部１０４２は、Ｌａｔｅフュージョン処理部１０４１と同様の認識結果を出力する。
【０１１０】
また、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の両方の認識器１０１３、１０２３で認識できなかったパターン４において、カメラ１０７０のＲＡＷデータからは依然としてターゲットを認識することができないが、ミリ波レーダー１０８０のＲＡＷデータに基づいてターゲットを認識することができた場合には、Ｅａｒｌｙフュージョン処理部１０４２は、ターゲットが存在する可能性があるという結果を出力する。例えば、反射強度が弱く、認識器１０２３では切り捨てられてしまったターゲットを、ＲＡＷデータに基づいて認識できた場合などである。したがって、Ｌａｔｅフュージョン処理部１０４１が認識できないターゲットであっても、Ｅａｒｌｙフュージョン処理部１０４２を用いることによって認識できることになり（図１６を参照のこと）、情報量の豊富なＲＡＷデータを用いたＥａｒｌｙフュージョン処理によってターゲットの認識率が向上するということができる。但し、Ｅａｒｌｙフュージョン処理でも認識率は十分高くないので、「○」ではなく「△」とする。
【０１１１】
したがって、図１４に示す例では、パターン２及びパターン４の各々において、信頼性が高いが情報量が絞られてしまう最終の認識結果を用いたＬａｔｅフュージョン処理部１０４１の処理結果を、情報量が多いがノイズも含むＲＡＷデータを用いたＥａｒｌｙフュージョン処理部１０４２で処理した結果に基づいて補うことによって、ターゲットの認識率が向上するということができる。
【０１１２】
但し、図１４中のパターン１やパターン３の場合のように、Ｅａｒｌｙフュージョン処理部１０４２を用いてもＬａｔｅフュージョン処理部１０４１による認識結果が変わらないような場合もあり、常にＥａｒｌｙフュージョン処理部１０４２を動作させていると、処理負荷が多くなることや、情報処理装置１０００の消費電力が増大することなどの弊害が懸念される。そこで、必要な場合にのみＥａｒｌｙフュージョン処理部１０４２の認識処理を起動するようにしてもよい。
【０１１３】
図１７には、Ｅａｒｌｙフュージョン処理を適応的に実行するように構成された情報処理装置１０００の構成例を模式的に示している。但し、図１７中で、図１に示した機能モジュールと同じものについては、同一の参照番号を付している。
【０１１４】
フュージョン処理部１０４２内の判定処理部１７０１は、ミリ波レーダー１０８０のＲＡＷデータが必要かどうかを判定して、必要な場合には、レーダー認識処理部１０２０に対してミリ波レーダー１０８０のＲＡＷデータの出力を依頼する。例えば、判定処理部１７０１は、カメラ認識処理部１０１０の認識器１０１３及びレーダー認識処理部１０２０の認識器１０２３の認識結果を比較して、図１３中のパターン２又はパターン４に相当する場合には、ＲＡＷデータも必要と判定して、レーダー認識処理部１０２０に対してミリ波レーダー１０８０のＲＡＷデータの出力を依頼する。あるいは、判定処理部１７０１は、天候などの環境情報やその他の外部情報を入力して、降雨、降雪、霧、夜間あるいはトンネル内などの暗所といったカメラ認識処理部１０１０やＬｉＤＡＲ認識処理部１０３０の認識器１０１３及び１０３３の認識率が低下する（若しくは、認識の信頼性が劣化する）事象を検出したときに、レーダー認識処理部１０２０に対してミリ波レーダー１０８０のＲＡＷデータの出力を依頼するようにしてもよい。
【０１１５】
レーダー認識処理部１０２０は、判定処理部１７０１からの依頼に応答して、ミリ波レーダー１０８０のＲＡＷデータを出力する。そして、Ｅａｒｌｙフュージョン処理部１０４２はそのＲＡＷデータを用いてＥａｒｌｙフュージョン処理を実行し、又はハイブリッドフュージョン処理部１０４３はそのＲＡＷデータを用いてハイブリッドフュージョン処理を実行する。そして、フュージョン処理部１０４０は、Ｌａｔｅフュージョン処理部１０４１の認識結果に加えて、Ｅａｒｌｙフュージョン処理部１０４２又はハイブリッドフュージョン処理部１０４３の認識結果も参照して、最終的な認識結果を出力する。
【０１１６】
図１８には、図１７に示した情報処理装置１０００においてターゲット認識を行うための処理手順をフローチャートの形式で示している。但し、ここでは説明の簡素化のため、情報処理装置１０００は、カメラ１０７０及びミリ波レーダー１０８０の２つのセンサのフュージョン処理を行う場合に限定する。
【０１１７】
物体検出処理が開始されると、カメラ認識処理部１０１０において、カメラ１０７０のＲＡＷデータ（撮影画像）に対して画像処理を実行して（ステップＳ１８０１）、認識器１０１３による認識結果を出力する（ステップＳ１８０２）。
【０１１８】
また、レーダー認識処理部１０２０は、ミリ波レーダー１０８０のＲＡＷデータを信号処理する（ステップＳ１８０３）。そして、レーダー認識処理部１０２０は、ＲＡＷデータの出力依頼を受けているかどうかをチェックする（ステップＳ１８０４）。
【０１１９】
フュージョン処理部１０４２内の判定処理部１７０１は、カメラ認識処理部１０１０の認識器１０１３及びレーダー認識処理部１０２０の認識器１０２３の認識結果を比較して、ミリ波レーダー１０８０のＲＡＷデータが必要かどうかを判定して、必要な場合には、レーダー認識処理部１０２０に対してミリ波レーダー１０８０のＲＡＷデータの出力を依頼する（前述）。具体的には、図１３中のパターン２に相当する状況下では、判定処理部１７０１は、ミリ波レーダー１０８０のＲＡＷデータが必要と判定する。
【０１２０】
ここで、ＲＡＷデータの出力依頼を受けていなければ（ステップＳ１８０４のＮｏ）、レーダー認識処理部１０２０は、認識器１０２３によるに認識結果を出力する（ステップＳ１８０５）。また、レーダー認識処理部１０２０は、ＲＡＷデータの出力依頼を受けたときには（ステップＳ１８０４のＹｅｓ）、ミリ波レーダー１０８０のＲＡＷデータを出力するとともに（ステップＳ１８０６）、後段のフュージョン処理部１０４０に対して、ミリ波レーダー１０８０のＲＡＷデータを用いたＥａｒｌｙフュージョン処理又はハイブリッドフュージョン処理を依頼する（ステップＳ１８０７）。
【０１２１】
次いで、フュージョン処理部１０４０は、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の処理内容をフュージョン処理する（ステップＳ１８０８）。フュージョン処理部１０４０は、Ｅａｒｌｙフュージョン処理又はハイブリッドフュージョン処理の依頼を受けているときには（ステップＳ１８０９のＹｅｓ）、Ｅａｒｌｙフュージョン処理部１０４１によるＥａｒｌｙフュージョン処理又はハイブリッドフュージョン処理部１０４３によるハイブリッドフュージョン処理を実施する（ステップＳ１８１０）。一方、Ｅａｒｌｙフュージョン処理又はハイブリッドフュージョン処理の依頼を受けていないときには（ステップＳ１８０９のＮｏ）、フュージョン処理部１０４０は、Ｌａｔｅフュージョン処理部１０４１によるＬａｔｅフュージョン処理を実施する（ステップＳ１８１１）。
【０１２２】
図１９には、Ｅａｒｌｙフュージョン処理を適応的に実行するように構成された情報処理装置１０００の他の構成例を模式的に示している。但し、図１９中で、図１に示した機能モジュールと同じものについては、同一の参照番号を付している。
【０１２３】
カメラ認識処理部１０１０は、認識器１０１３がターゲットを認識できなかったとき、若しくは、ターゲットの認識率が十分でない場合に、ミリ波レーダー１０８０のＲＡＷデータが必要であると判定して、レーダー認識処理部１０２０に対してミリ波レーダー１０８０のＲＡＷデータの出力を依頼する。レーダー認識処理部１０２０は、カメラ認識処理部１０１０からの依頼に応答して、ミリ波レーダー１０８０のＲＡＷデータを出力する。そして、Ｅａｒｌｙフュージョン処理部１０４２はＲＡＷデータを用いてＥａｒｌｙフュージョン処理を実行し、又はハイブリッドフュージョン処理部１０４３はそのＲＡＷデータを用いてハイブリッドフュージョン処理を実行する。そして、フュージョン処理部１０４０は、Ｌａｔｅフュージョン処理部１０４１の認識結果に加えて、Ｅａｒｌｙフュージョン処理部１０４２又はハイブリッドフュージョン処理部１０４３の認識結果も参照して、最終的な認識結果を出力する。
【０１２４】
図２０には、図１９に示した情報処理装置１０００においてターゲット認識を行うための処理手順をフローチャートの形式で示している。但し、ここでは説明の簡素化のため、情報処理装置１０００は、カメラ１０７０及びミリ波レーダー１０８０の２つのセンサのフュージョン処理を行う場合に限定する。
【０１２５】
物体検出処理が開始されると、カメラ認識処理部１０１０において、カメラ１０７０のＲＡＷデータ（撮影画像）に対して画像処理を実行する（ステップＳ２００１）。そして、カメラ認識処理部１０１０は、画像処理の結果が良好かどうかをチェックする（ステップＳ２００２）。
【０１２６】
ここで、画像処理の結果が良好であれば（ステップＳ２００２のＹｅｓ）、カメラ認識処理部１０１０は、認識器１０１３による認識結果を出力する（ステップＳ２００３）。また、画像処理の結果が良好でなければ（ステップＳ２００２のＮｏ）、カメラ認識処理部１０１０は、レーダー認識処理部１０２０に対してミリ波レーダー１０８０のＲＡＷデータの出力を依頼する（ステップＳ２００４）。具体的には、図１３中のパターン４に相当する状況下では、画像処理の結果が良好でない。
【０１２７】
また、レーダー認識処理部１０２０は、ミリ波レーダー１０８０のＲＡＷデータを信号処理する（ステップＳ２００５）。そして、レーダー認識処理部１０２０は、ＲＡＷデータの出力依頼を受けているかどうかをチェックする（ステップＳ２００６）。
【０１２８】
ここで、ＲＡＷデータの出力依頼を受けていなければ（ステップＳ２００６のＮｏ）、レーダー認識処理部１０２０は、認識器１０２３によるに認識結果を出力する（ステップＳ２００７）。また、レーダー認識処理部１０２０は、ＲＡＷデータの出力依頼を受けたときには（ステップＳ２００６のＹｅｓ）、ミリ波レーダー１０８０のＲＡＷデータを出力するとともに（ステップＳ２００８）、後段のフュージョン処理部１０４０に対して、ミリ波レーダー１０８０のＲＡＷデータのＥａｒｌｙフュージョン処理又はハイブリッドフュージョン処理を依頼する（ステップＳ２００９）。
【０１２９】
次いで、フュージョン処理部１０４０は、カメラ認識処理部１０１０及びレーダー認識処理部１０２０の処理内容をフュージョン処理する（ステップＳ３０１０）。フュージョン処理部１０４０は、Ｅａｒｌｙフュージョン処理又はハイブリッドフュージョン処理の依頼を受けているときには（ステップＳ３０１１のＹｅｓ）、Ｅａｒｌｙフュージョン処理部１０４１によるＥａｒｌｙフュージョン処理又はハイブリッドフュージョン処理部１０４３によるハイブリッドフュージョン処理を実施する（ステップＳ３０１２）。一方、Ｅａｒｌｙフュージョン処理の依頼又はハイブリッドフュージョン処理を受けていないときには（ステップＳ３０１１のＮｏ）、フュージョン処理部１０４０は、Ｌａｔｅフュージョン処理部１０４１によるＬａｔｅフュージョン処理を実施する（ステップＳ３０１３）。
【産業上の利用可能性】
【０１３０】
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書で開示する技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。【０１３１】
本明細書では、車載センサのフュージョンに関する実施形態を中心に説明してきたが、本明細書で開示する技術の適用範囲は車両に限定されない。例えば、ドローンなどの無人航空機、所定の作業空間（家庭、オフィス、工場など）を自律的に移動するロボット、船舶、航空機など、さまざまなタイプの移動体装置に対して、同様に本明細書で開示する技術を適用することができる。もちろん、移動体装置に設置される情報端末や、移動型でないさまざまな装置に対しても、同様に本明細書で開示する技術を適用することができる。【０１３２】
要するに、例示という形態により本明細書で開示する技術について説明してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本明細書で開示する技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。【０１３３】
なお、本明細書の開示の技術は、以下のような構成をとることも可能である。
（１）センサの検出信号に基づいて物体を認識処理する認識部と、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部と、
を具備する情報処理装置。この情報処理装置によれば、前記認識部で判定閾値により切り捨てる前の情報を含む第１のデータをフュージョン処理に利用することで、より多くの物体を認識することが可能になるという効果がある。
（２）前記センサはミリ波レーダーである、
上記（１）に記載の情報処理装置。この情報処理装置によれば、ミリ波レーダー用の認識器で認識した後の、尤度は高いが情報量が少ない認識結果を、認識器で判定閾値により切り捨てる前の豊富なＲＡＷデータとフュージョン処理することで、より多くの物体を認識することが可能になるという効果がある。
（３）前記認識部は、認識前に前記センサの検出信号に基づいて物体の距離検出、速度検出、角度検出、前記物体の追跡の各処理を実施し、
前記第１のデータは、前記検出信号、前記物体の距離検出結果、速度検出結果、角度検出結果、前記物体の追跡結果のうち少なくとも１つを含む、
上記（２）に記載の情報処理装置。この情報処理装置によれば、ミリ波レーダーのＲＡＷデータや、ＲＡＷデータの信号処理の各段階で得られる物体の距離、速度、角度、追跡結果などの情報を、認識器の認識結果とフュージョン処理することで、より多くの物体を認識することが可能になるという効果がある。
（４）第２のセンサの検出信号に基づいて物体を認識処理する第２の認識部をさらに備え、
前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
上記（１）乃至（３）のいずれかに記載の情報処理装置。この情報処理装置によれば、第１のセンサと第２のセンサの認識器による認識前のデータのフュージョン処理、及び、第１のセンサと第２のセンサの認識器による認識後のデータのフュージョン処理を実施して、より多くの物体を認識することが可能になるという効果がある。
（５）前記第２のセンサは、カメラ又はＬｉＤＡＲのうち少なくとも１つを含む、
上記（４）に記載の情報処理装置。この情報処理装置によれば、ミリ波レーダーとカメラ又はＬｉＤＡＲの認識結果をフュージョン処理するとともに、ミリ波レーダーとカメラ又はＬｉＤＡＲのＲＡＷデータをフュージョン処理することで、より多くの物体を認識することが可能になるという効果がある。
（６）前記処理部は、前記認識部の認識結果及び前記第２の認識部の認識結果に基づいて、前記フュージョン処理における前記第１のデータの利用方法を決定する、
上記（４）又は（５）のいずれかに記載の情報処理装置。この情報処理装置によれば、前記認識部の認識結果及び前記第２の認識部の認識結果に基づいて、適応的に前記第１のデータをフュージョン処理に利用して、より多くの物体を認識することが可能になるという効果がある。
（７）前記処理部は、前記第２の認識部による認識の尤度は高いが、前記認識部による認識の尤度が低い場合に、前記フュージョン処理において前記第１のデータを利用する、
上記（６）に記載の情報処理装置。この情報処理装置によれば、前記フュージョン処理において前記第１のデータを適応的に利用することで、不要なフュージョン処理を回避しつつ、より多くの物体を認識することが可能になるという効果がある。
（８）前記処理部は、前記第２の認識部による認識結果に基づいて、前記フュージョン処理における前記第１のデータの利用方法を決定する、
上記（４）乃至（７）のいずれかに記載の情報処理装置。この情報処理装置によれば、前記フュージョン処理において前記第１のデータを適応的に利用することで、不要なフュージョン処理を回避しつつ、より多くの物体を認識することが可能になるという効果がある。
（９）前記処理部は、前記第２の認識部による認識の尤度が低い場合に、前記フュージョン処理において前記第１のデータを利用する、
上記（８）に記載の情報処理装置。この情報処理装置によれば、前記フュージョン処理において前記第１のデータを適応的に利用することで、不要なフュージョン処理を回避しつつ、より多くの物体を認識することが可能になるという効果がある。
（１０）センサの検出信号に基づいて物体を認識処理する認識ステップと、
前記認識ステップによる認識前の第１のデータと他のデータをフュージョン処理する処理ステップと、
を有する情報処理方法。この情報処理方法によれば、前記認識ステップにおいて認識後の第２のデータを、前記認識ステップにおいて判定閾値により切り捨てる前の情報を含む第１のデータとフュージョン処理することで、より多くの物体を認識することが可能になるという効果がある。
（１１）前記処理ステップでは、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
上記（１０）に記載の情報処理方法。
（１２）センサの検出信号に基づいて物体を認識処理する認識部、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部、
としてコンピュータを機能させるようにコンピュータ可読形式で記述されたコンピュータプログラム。
（１３）前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
上記（１２）に記載のコンピュータプログラム。
（１４）移動手段と、
センサと、
前記センサの検出信号に基づいて物体を認識処理する認識部と、
前記認識部による認識前の第１のデータと他のデータをフュージョン処理する処理部と、
前記処理部による処理結果に基づいて前記移動手段を制御する制御部と、
を具備する移動体装置。この移動体装置によれば、前記認識部による認識後の第２のデータを、前記認識部で判定閾値により切り捨てる前の情報を含む第１のデータとフュージョン処理することで、より多くの物体を認識することができ、物体との衝突を回避するように前記移動手段を成業することが可能になるという効果がある。
（１５）前記処理部は、前記第２の認識部による認識前の第３のデータと前記第１のデータとのフュージョン処理、前記第２の認識部による認識後の第４のデータと前記第１のデータとのフュージョン処理、前記第１のデータと前記認識部による認識後の第２のデータとのフュージョン処理、又は、前記第４のデータと前記第２のデータとのフュージョン処理のうち少なくとも１つのフュージョン処理を実施する、
上記（１４）に記載の移動体装置。
【符号の説明】
【０１３４】
１００…車両制御システム
１０１…入力部、１０２…データ取得部、１０３…通信部
１０４…車内機器、１０５…出力制御部、１０６…出力部
１０７…駆動系制御部、１０８…駆動系システム
１０９…ボディ系制御部、１１０…ボディ系システム、１１１記憶部
１１２…自動運転制御部、１２１…通信ネットワーク
１３１…検出部、１３２…自己位置推定部、１３３…状況分析部
１３４…計画部、１３５…動作制御部
１４１…車外情報検出部、１４２…車内情報検出部
１４３…車両状態検出部
１５１…マップ解析部、１５２…交通ルール認識部
１５３…状況認識部、１５４…状況予測部
１６１…ルート計画部、１６２…行動計画部、１６３…動作計画部
１７１…緊急事態回避部、１７２…加減速制御部、１７３…方向制御部
１０００…情報処理装置
１０１０…カメラ認識処理部、１０１１…ＲＡＷデータ処理部
１０１２…信号処理部、１０１３…認識器
１０２０…レーダー認識処理部、１０２１…ＲＡＷデータ処理部
１０２２…信号処理部、１０２３…認識器
１０３０…ＬｉＤＡＲ認識処理部、１０３１…ＲＡＷデータ処理部
１０３２…信号処理部、１０３３…認識器
１０４０…フュージョン処理部、１０４１…Ｌａｔｅフュージョン処理部
１０４２…Ｅａｒｌｙフュージョン処理部
１０４３…ハイブリッドフュージョン処理部、１０５０…ＥＣＴ
１０６０…ＡＣＴ（アクチュエータ）、１０７０…カメラ
１０８０…ミリ波レーダー、１０９０…ＬｉＤＡＲ
６０１…距離検出部、６０２…速度検出部、６０３…角度検出部
６０４…追跡部、６０５…ＭＩＳＣ処理部
【図１】
2020009060.tif 000004
【図２】
2020009060.tif 000005
【図３】
2020009060.tif 000006
【図４】
2020009060.tif 000007
【図５】
2020009060.tif 000008
【図６】
2020009060.tif 000009
【図７】
2020009060.tif 000010
【図８】
2020009060.tif 000011
【図９】
2020009060.tif 000012
【図１０】
2020009060.tif 000013
【図１１】
2020009060.tif 000014
【図１２】
2020009060.tif 000015
【図１３】
2020009060.tif 000016
【図１４】
2020009060.tif 000017
【図１５】
2020009060.tif 000018
【図１６】
2020009060.tif 000019
【図１７】
2020009060.tif 000020
【図１８】
2020009060.tif 000021
【図１９】
2020009060.tif 000022
【図２０】
2020009060.tif 000023
【図２１】
2020009060.tif 000024
【図２２】
2020009060.tif 000025
【図２３】
2020009060.tif 000026
【国際調査報告】
2020009060.tif 000027
2020009060.tif 000028