(57)【要約】【課題】車両の乗員に視認させるべき動体物に対する視認性を低下させることのない重畳画像表示装置及びコンピュータプログラムを提供する。【解決手段】案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像１０５を、車両前方の風景に重畳して視認させる場合に、案内画像１０５の一部を非表示としたり形状を変形することによって、案内分岐点の周囲に存在する歩行者等の動体物と重ならない態様で案内画像１０５を表示する。【選択図】図９
2019095214.tif 000002
【特許請求の範囲】
【請求項１】
車両に搭載され、案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置であって、
前記案内分岐点の周囲に存在する動体物と重ならない態様で前記案内画像を表示する案内画像表示手段を有する重畳画像表示装置。
【請求項２】
前記案内画像表示手段は、車両が進行路に沿って進行する場合に影響のある前記動体物と重ならない態様で前記案内画像を表示する請求項１に記載の重畳画像表示装置。
【請求項３】
前記動体物の今後の進行路を予測する進行路予測手段を有し、
前記案内画像表示手段は、車両の進行路と今後の進行路が重複する前記動体物と重ならない態様で前記案内画像を表示する請求項２に記載の重畳画像表示装置。
【請求項４】
前記案内画像表示手段は、前記動体物と重なる領域を前記案内画像から除いて表示する請求項１乃至請求項３のいずれかに記載の重畳画像表示装置。
【請求項５】
前記案内画像表示手段は、前記動体物を迂回する前記案内画像を表示する請求項１乃至請求項３のいずれかに記載の重畳画像表示装置。
【請求項６】
前記車両前方の風景を撮像した撮像画像を取得する撮像画像取得手段と、
３次元地図情報を取得する地図情報取得手段と、
前記撮像画像と３次元地図情報を照合する照合手段と、
前記照合手段の照合結果に基づいて、３次元地図情報内における案内分岐点を退出した後の車両が進行する進行路に前記案内画像を配置する画像配置手段と、
前記照合手段の照合結果に基づいて、３次元地図情報内における前記動体物が存在する位置に前記動体物の仮想体を配置する仮想体配置手段と、
３次元地図情報内における車両の位置から前記案内画像を視認した場合の前記案内画像の形状の内、前記仮想体と重ならない部分を取得する形状取得手段と、を有し、
前記案内画像表示手段は、前記形状取得手段によって取得された形状の前記案内画像を表示する請求項１乃至請求項５のいずれかに記載の重畳画像表示装置。
【請求項７】
前記動体物が不定形である場合には、前記仮想体は前記動体物の全てを含む最小の直方体とする請求項６に記載の重畳画像表示装置。
【請求項８】
車両に搭載され、案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置を、
前記案内分岐点の周囲に存在する動体物と重ならない態様で前記案内画像を表示する案内画像表示手段として機能させる為のコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、車両の走行支援を行う重畳画像表示装置及びコンピュータプログラムに関する。
【背景技術】
【０００２】
従来より、車両の乗員に対して経路案内や障害物の警告等の車両の走行支援を行う為の各種情報を提供する情報提供手段として、様々な手段が用いられている。例えば、車両に設置された液晶ディスプレイによる表示や、スピーカから出力する音声等である。そして、近年、このような情報提供手段の一つとして、ヘッドアップディスプレイ（以下、ＨＵＤという）やウインドウシールドディスプレイ（以下、ＷＳＤという）のように運転者の周辺環境（風景）に重畳する画像を表示することによって、情報の提供を行う装置がある。
【０００３】
例えば、特開２００５−６９８００号公報には、ナビゲーションシステムによって経路を案内する際に、経路の目印となるランドマーク（コンビニなど）を音声案内装置によってアナウンスするとともに、ＨＵＤを用いて車両前方の実景の中におけるランドマークの位置に重畳する虚像を表示することについて開示されている。乗員はフロントウィンドウを通して見える虚像の位置に基づいて、右左折の目印となるランドマークの位置（即ち右左折する交差点の位置）を把握することが可能となる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００５−６９８００号公報（図４）
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ここで、上記特許文献１に記載の技術では、実景内の右左折の目印となるランドマークの位置に重畳して、乗員から視認されるように虚像を表示している。しかしながら、ランドマークの周辺に歩行者や他車両等の車両の乗員に視認させるべき動体物が存在する場合において、虚像が動体物と重なってしまうと、乗員から動体物が視認し難くなる問題があった。
【０００６】
本発明は前記従来における問題点を解消するためになされたものであり、案内画像によって車両が進むべき進行路を正確に車両の乗員に案内可能とする一方で、車両の乗員に視認させるべき動体物に対する視認性を低下させることのない重畳画像表示装置及びコンピュータプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
前記目的を達成するため本発明に係る重畳画像表示装置は、車両に搭載され、案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置であって、前記案内分岐点の周囲に存在する動体物と重ならない態様で前記案内画像を表示する案内画像表示手段を有する。
【０００８】
また、本発明に係るコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、車両に搭載され、案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置を、前記案内分岐点の周囲に存在する動体物と重ならない態様で前記案内画像を表示する案内画像表示手段として機能させる。
【発明の効果】
【０００９】
前記構成を有する本発明に係る重畳画像表示装置及びコンピュータプログラムによれば、案内分岐点を退出した後の進行方向を案内する案内画像が動体物と重ならないように表示されるので、案内画像によって車両が進むべき進行路を正確に車両の乗員に案内可能とする一方で、車両の乗員に視認させるべき動体物に対する視認性を低下させることがない。
【図面の簡単な説明】
【００１０】
【図１】本実施形態に係る重畳画像表示装置の概略構成図である。
【図２】本実施形態に係るナビゲーション装置を示したブロック図である。
【図３】本実施形態に係る走行支援処理プログラムのフローチャートである。
【図４】３次元地図情報に基づいて生成される３次元立体地図を示した図である。
【図５】案内画像と動体物を配置した後の３次元立体地図を示した図である。
【図６】自車両が進行路に沿って進行する場合に影響のある動体物を説明した図である。
【図７】影響動体物と重なる領域に虚像が表示されないように案内画像を補正する例を示した図である。
【図８】影響動体物と重なる領域に虚像が表示されないように案内画像を補正する例を示した図である。
【図９】車両の乗員から視認される案内画像の虚像の例を示した図である。
【図１０】表示範囲決定処理のサブ処理プログラムのフローチャートである。
【発明を実施するための形態】
【００１１】
以下、本発明に係る重畳画像表示装置を具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係る重畳画像表示装置１の概略構成について図１を用いて説明する。図１は本実施形態に係る重畳画像表示装置１の概略構成図である。
【００１２】
図１に示すように重畳画像表示装置１は、車両２に搭載されたナビゲーション装置３と、同じく車両２に搭載されるとともにナビゲーション装置３と接続されたヘッドアップディスプレイ装置（以下、ＨＵＤという）４とを基本的に有する。
【００１３】
ここで、ナビゲーション装置３は、目的地までの推奨経路を探索したり、サーバから取得したりメモリに格納された地図データに基づいて車両２の現在位置周辺の地図画像を表示したり、設定された案内経路に沿った走行案内をＨＵＤ４とともに行う機能を有する。尚、上記機能の全てをナビゲーション装置３が備えている必要はなく、少なくとも案内経路に沿った走行案内を行う機能を有していれば本願発明を構成することが可能である。尚、ナビゲーション装置３の構造の詳細については後述する。
【００１４】
一方、ＨＵＤ４は、車両２のダッシュボード５内部に設置されており、内部には映像が表示される映像表示面である液晶ディスプレイ６を有する。そして、液晶ディスプレイ６に投射された映像を、後述のようにＨＵＤ４が備える凹面鏡７等を介し、更に運転席の前方のフロントウィンドウ８に反射させて車両２の乗員９に視認させるように構成されている。尚、液晶ディスプレイ６に表示される映像としては、車両２に関する情報や乗員９の運転の支援の為に用いられる各種情報がある。例えば乗員９に対して警告対象となる対象物（他車両や歩行者）に対する警告、ナビゲーション装置３で設定された案内経路や案内経路に基づく案内情報（右左折方向を示す矢印等）、路面に表示する警告（追突注意、制限速度等）、現在車速、広告画像、案内標識、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面、テレビ番組等がある。
【００１５】
また、本実施形態のＨＵＤ４では、フロントウィンドウ８を反射して乗員９が液晶ディスプレイ６に表示された映像を視認した場合に、乗員９にはフロントウィンドウ８の位置ではなく、フロントウィンドウ８の先の遠方の位置に液晶ディスプレイ６に表示された映像が虚像１０として視認されるように構成される。また、虚像１０は車両前方の風景（実景）に重畳して表示されることとなり、例えば車両前方に位置する任意の対象物（路面、建築物、警告対象となる動体物等）に重畳させて表示させることも可能である。尚、乗員９が視認できる虚像１０は液晶ディスプレイ６に表示された映像であるが、凹面鏡７やその他のミラーを介することによって上下方向や左右方向が反転する場合があり、それらの反転を考慮して液晶ディスプレイ６の映像の表示を行う必要がある。また、凹面鏡７を介することによってサイズも変更する。
【００１６】
ここで、虚像１０を生成する位置、より具体的には乗員９から虚像１０までの距離（以下、結像距離という）Ｌについては、ＨＵＤ４が備える凹面鏡７の曲率、液晶ディスプレイ６と凹面鏡７との相対位置等によって適宜設定することが可能である。例えば、凹面鏡７の曲率が固定であれば、液晶ディスプレイ６において映像の表示された位置から凹面鏡７までの光路に沿った距離（光路長）によって結像距離Ｌが決定される。例えば結像距離Ｌが２．５ｍとなるように光路長が設定されている。
【００１７】
また、本実施形態では車両前方の風景に重畳する画像を表示する手段としてＨＵＤ４を用いているが、他の手段を用いても良い。例えば、フロントウィンドウ８に対して映像を表示するウインドウシールドディスプレイ（ＷＳＤ）を用いても良い。ＷＳＤでは、フロントウィンドウ８をスクリーンとしてプロジェクタから映像を表示しても良いし、フロントウィンドウ８を透過液晶ディスプレイとしても良い。ＷＳＤによってフロントウィンドウ８に対して表示された画像は、ＨＵＤ４と同様に車両前方の風景に重畳する画像となる。
【００１８】
更に、後述のフロントカメラ１１で撮像した車両前方の風景を車内の液晶ディスプレイに表示し、同一の液晶ディスプレイ内において表示された風景に重畳する画像を表示することも可能である。その場合においても液晶ディスプレイに表示された画像は、ＨＵＤ４と同様に車両前方の風景に重畳する画像となる。
【００１９】
また、車両のフロントバンパの上方やルームミラーの裏側等にはフロントカメラ１１が設置される。フロントカメラ１１は、例えばＣＣＤ等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ１１により撮像された撮像画像に対して画像処理が行われることによって、フロントウィンドウ８越しに乗員９に視認される前方環境（即ち虚像１０が重畳される環境）の状況等が検出される。尚、フロントカメラ１１の代わりにミリ波レーダ等のセンサを用いても良い。
【００２０】
また、車両のインストルメントパネルの上面には車内カメラ１２が設置される。車内カメラ１２は、例えばＣＣＤ等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を運転席に向けて設置される。そして、運転席に座った乗員９の顔を撮像する。そして、車内カメラ１２により撮像された撮像画像に対して画像処理が行われることによって、乗員９の目の位置（視線開始点）や視線方向を検出する。
【００２１】
次に、上記重畳画像表示装置１を構成するナビゲーション装置３の概略構成について図２を用いて説明する。図２は本実施形態に係るナビゲーション装置３を示したブロック図である。
【００２２】
図２に示すように本実施形態に係るナビゲーション装置３は、ナビゲーション装置３が搭載された車両２の現在位置を検出する現在位置検出部１３と、各種のデータが記録されたデータ記録部１４と、入力された情報に基づいて、各種の演算処理を行うナビゲーションＥＣＵ１５と、ユーザからの操作を受け付ける操作部１６と、ユーザに対して車両周辺の地図や施設の関する施設情報を表示する液晶ディスプレイ１７と、経路案内に関する音声ガイダンスを出力するスピーカ１８と、記憶媒体であるＤＶＤを読み取るＤＶＤドライブ１９と、ＶＩＣＳ（登録商標：Vehicle Information and Communication System）センタ等の情報センタとの間で通信を行う通信モジュール２０と、を有する。また、ナビゲーション装置３はＣＡＮ等の車載ネットワークを介して、前述したＨＵＤ４、フロントカメラ１１及び車内カメラ１２等が接続されている。
【００２３】
以下に、ナビゲーション装置３が有する各構成要素について順に説明する。
現在位置検出部１３は、ＧＰＳ２１、車速センサ２２、ステアリングセンサ２３、ジャイロセンサ２４等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ２２は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションＥＣＵ１５に出力する。そして、ナビゲーションＥＣＵ１５は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記４種類のセンサをナビゲーション装置３が全て備える必要はなく、これらの内の１又は複数種類のセンサのみをナビゲーション装置３が備える構成としても良い。
【００２４】
また、データ記録部１４は、外部記憶装置及び記録媒体としてのハードディスク（図示せず）と、ハードディスクに記録された地図情報ＤＢ３１や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド（図示せず）とを備えている。尚、データ記録部１４はハードディスクの代わりにフラッシュメモリやメモリーカードやＣＤやＤＶＤ等の光ディスクを有していても良い。また、地図情報ＤＢ３１は外部のサーバに格納させ、ナビゲーション装置３が通信により取得する構成としても良い。
【００２５】
ここで、地図情報ＤＢ３１は、２次元地図情報３３と３次元地図情報３４とがそれぞれ記憶される。２次元地図情報３３は、一般的なナビゲーション装置３において用いられる地図情報であり、例えば、道路（リンク）に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。
【００２６】
一方、３次元地図情報３４は、平面だけではなく高さ情報についても有し、３次元で地図を表現する為の地図情報である。特に本実施形態では３次元で道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等を表現する為の地図情報とする。尚、３次元地図情報３４としては上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板以外の情報についても含めても良い。例えば、街路樹や路面標示等についても３次元で表現する為の情報を含めても良い。また、３次元地図情報３４としては３次元空間上に上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の各オブジェクトを配置した地図そのものを記憶しても良いし、３次元で地図を表現する為に必要な情報（道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の３次元の座標データなど）を記憶しても良い。３次元で地図を表現する為に必要な情報が格納されている場合には、ナビゲーション装置３は、必要なタイミングで３次元地図情報３４として記憶された情報を用いて、対象エリアを３次元で表現した地図を生成する。
【００２７】
そして、ナビゲーション装置３は、液晶ディスプレイ１７における地図画像の表示、案内経路の探索等の一般的な機能については２次元地図情報３３を用いて行う。また、後述のように案内画像の表示に係る処理については２次元地図情報３３に加えて３次元地図情報３４についても用いて行う。
【００２８】
一方、ナビゲーションＥＣＵ（エレクトロニック・コントロール・ユニット）１５は、ナビゲーション装置３の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのＣＰＵ４１、並びにＣＰＵ４１が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるＲＡＭ４２、制御用のプログラムのほか、後述の走行支援処理プログラム（図３）等が記録されたＲＯＭ４３、ＲＯＭ４３から読み出したプログラムを記憶するフラッシュメモリ４４等の内部記憶装置を備えている。尚、ナビゲーションＥＣＵ１５は、処理アルゴリズムとしての各種手段を有する。例えば、撮像画像取得手段は、車両前方の風景を撮像した撮像画像を取得する。地図情報取得手段は、３次元地図情報を取得する。照合手段は、撮像画像と３次元地図情報を照合する。画像配置手段は、照合手段の照合結果に基づいて、３次元地図情報内における案内分岐点を退出した後の車両が進行する進行路に案内画像を配置する。仮想体配置手段は、照合手段の照合結果に基づいて、３次元地図情報内における動体物が存在する位置に動体物の仮想体を配置する。形状取得手段は、３次元地図情報内における車両の位置から案内画像を視認した場合の案内画像の形状の内、仮想体と重ならない部分を取得する。
【００２９】
操作部１６は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ（図示せず）を有する。そして、ナビゲーションＥＣＵ１５は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部１６は液晶ディスプレイ１７の前面に設けたタッチパネルを有していても良い。また、マイクと音声認識装置を有していても良い。
【００３０】
また、液晶ディスプレイ１７には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、本実施形態では情報の表示手段としてＨＵＤ４を備えているので、上記地図画像等の表示をＨＵＤ４で行う構成とすれば液晶ディスプレイ１７は省略しても良い。
【００３１】
また、スピーカ１８は、ナビゲーションＥＣＵ１５からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。
【００３２】
また、ＤＶＤドライブ１９は、ＤＶＤやＣＤ等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報ＤＢ３１の更新等が行われる。尚、ＤＶＤドライブ１９に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
【００３３】
また、通信モジュール２０は、交通情報センタ、例えば、ＶＩＣＳセンタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やＤＣＭが該当する。
【００３４】
続いて、前記構成を有する重畳画像表示装置１の内、特にナビゲーション装置３において実行する走行支援処理プログラムについて図３に基づき説明する。図３は本実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは車両のＡＣＣ電源(accessory power supply)がＯＮされた後に実行され、ＨＵＤ４を用いて車両２の乗員９に案内分岐点における車両の進行方向の案内を行うプログラムである。尚、以下の図３にフローチャートで示されるプログラムは、ナビゲーション装置３が備えているＲＡＭ４２やＲＯＭ４３に記憶されており、ＣＰＵ４１により実行される。
【００３５】
尚、「案内分岐点」とは、ナビゲーション装置３において設定されている案内経路に沿った車両の走行案内を行う場合において、車両の進行方向を案内する必要がある分岐点であり、例えば十字路、Ｔ字路、Ｙ字路などの交差点が該当する。但し、案内分岐点は、２つの道路が交わる交差点に限らず、例えば一つの道路が複数の道路に分岐する分岐部分でも良い。
【００３６】
先ず、走行支援処理プログラムでは、ステップ（以下、Ｓと略記する）１においてＣＰＵ４１は、車両２の進行方向前方の所定距離（例えば７００ｍ）以内に案内分岐点が存在するか否かを判定する。具体的には、ＣＰＵ４１は、ナビゲーション装置３において現在設定されている案内経路と、地図情報ＤＢ３１に格納された地図情報と、現在位置検出部１３に基づいて検出した車両２の現在位置とに基づいて判定する。尚、案内経路は、例えば走行開始時等においてユーザが目的地を設定した場合に、公知のダイクストラ法を用いた経路探索処理により決定される。
【００３７】
また、前記Ｓ１において車両２の進行方向前方の所定距離に案内分岐点が存在するか否かを判定する手段は、上記方法に限られない。例えば、ＣＰＵ４１は、フロントカメラ１１で撮像された撮像画像と３次元地図情報３４とを照合することによって、３次元地図情報３４内における車両の現在位置を特定し、進行方向前方に案内分岐点が存在するか否かを判定してもよい。
【００３８】
そして、車両２の進行方向前方の所定距離に案内分岐点が存在すると判定された場合（Ｓ１：ＹＥＳ）には、Ｓ２へと移行する。それに対して、車両２の進行方向前方の所定距離に案内分岐点が存在しないと判定された場合（Ｓ１：ＮＯ）には、案内分岐点が存在すると判定されるまで待機する。この場合、ＣＰＵ４１は、例えば予め設定された時間だけ間を空けてＳ１の処理を繰り返し実行する。
【００３９】
Ｓ２においてＣＰＵ４１は、フロントカメラ１１によって車両前方の風景を撮像した撮像画像を取得する。更に、ＣＰＵ４１は、地図情報ＤＢ３１から車両の現在位置周辺の３次元地図情報３４を読み出す。尚、３次元地図情報３４には、３次元で地図を表現する為に必要な情報（道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の３次元の座標データなど）が記憶される。
【００４０】
次に、Ｓ３においてＣＰＵ４１は、前記Ｓ２で読み出した３次元地図情報３４に基づいて、案内分岐点付近を示す３次元立体地図（３次元で建物や道路等を表現した地図）を生成する。具体的には、以下の処理を実行することにより３次元立体地図を生成する。
【００４１】
先ず、ＣＰＵ４１は、３次元地図情報３４から３次元空間上に道路、建築物、道路標識、看板等をモデリングしたオブジェクト（形状データ）を取得する。尚、ＣＰＵ４１は、予めモデリングしてＤＢに格納しておいたオブジェクトの内、該当するオブジェクトを取得する構成としても良いし、Ｓ３においてモデリングを実施してオブジェクトを新たに作成する構成としても良い。モデリングを実施する場合には、３次元地図情報３４から道路や案内分岐点周辺にある構造物（建築物、道路標識、看板等）の形状や位置を特定する情報を取得し、取得した情報に基づいてモデリング処理を行う。
【００４２】
ここで、モデリングとは３次元空間上においてモデル（物体）の形状を作成する処理であり、より具体的には各頂点の座標の決定や、境界線、面を表現する方程式のパラメータの決定などを行う。尚、モデリングについては公知の技術であるので詳細は省略する。そして、モデリングされたオブジェクト（形状データ）は、用途に応じて辺のみ表示する「ワイヤーフレームモデル」、面を表示する「サーフィスモデル」等の形で表現される。そして各オブジェクトが形成された３次元空間を３次元立体地図とする。
【００４３】
また、前記Ｓ３でＣＰＵ４１は、現在位置検出部１３で検出されたパラメータに基づいて、生成された３次元立体地図における自車両の現在位置及び方位についても特定する。尚、後述の３次元立体地図と撮像画像との照合の処理を容易化する為に、自車両の現在位置は特に自車両に設置されたフロントカメラ１１の設置位置とし、自車両の方位はフロントカメラ１１の光軸方向とするのが望ましい。
【００４４】
ここで、図４は前記Ｓ３で生成される３次元立体地図１０１の一例を示した図である。図４に示すように３次元立体地図１０１には、３次元空間に対して、道路や構造物（建築物、道路標識、看板等）を示す各オブジェクト１０２が配置される。特に車両の進行方向前方にある案内分岐点１０３周辺の道路や構造物を示す各オブジェクト１０２が配置される。また、３次元立体地図１０１には自車両の現在位置と方位を示す自車位置マーク１０４についても配置される。
【００４５】
続いてＳ４においてＣＰＵ４１は、前記Ｓ２で取得した撮像画像と前記Ｓ３で生成された３次元立体地図とを照合し、両者の間にズレが生じていないかを判定する。具体的にはＣＰＵ４１は、３次元立体地図に設定されている自車両の現在位置（より具体的にはフロントカメラ１１の設置位置であり高さも考慮する）を視点とし、自車両の方位を視線方向に設定し、設定された視点及び視線方向によって３次元立体地図を視認した際の像と、撮像画像とを照合する。尚、３次元立体地図には、歩行者や他車両等の動体物、樹木などの一部の固定物については含まれないので、それらに起因するズレは基本的には無視して判定する。また、ズレが生じていないとは両者が完全に一致する場合のみに限らず、ある程度の許容範囲内のズレが生じている場合においてもズレが生じていないとみなすのが望ましい。
【００４６】
そして、前記Ｓ２で取得した撮像画像と前記Ｓ３で生成された３次元立体地図との間にズレが生じていないと判定された場合（Ｓ４：ＹＥＳ）には、Ｓ６へと移行する。それに対して、前記Ｓ２で取得した撮像画像と前記Ｓ３で生成された３次元立体地図との間にズレが生じていると判定された場合（Ｓ４：ＮＯ）には、Ｓ５へと移行する。
【００４７】
Ｓ５においてＣＰＵ４１は、前記Ｓ３で生成された３次元立体地図について、前記Ｓ２で取得した撮像画像と間のズレが小さくなるように３次元立体地図内に設定された自車両の現在位置及び方位を補正する。尚、３次元立体地図における自車両の現在位置及び方位は固定してオブジェクト側を補正しても良い。それによって、３次元立体地図内における正確な自車両の現在位置及び方位（より具体的にはフロントカメラ１１の設置位置と光軸方向）を特定することが可能となる。その後、Ｓ４へと戻る。
【００４８】
一方、Ｓ６においてＣＰＵ４１は、案内分岐点での案内を行う案内画像を、前記Ｓ３で生成された３次元立体地図に対して配置する。尚、本実施形態では案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する矢印の画像を、案内画像とする。そして、案内分岐点を退出した後に車両が進行する進行路（例えば案内分岐点で左折する場合には、案内分岐点の左側に接続される道路）の路面に対して所定距離（例えば１ｍ）上方に離間した位置に鉛直方向に立てた状態で案内画像を配置する。
【００４９】
次に、Ｓ７においてＣＰＵ４１は、案内分岐点の周辺に位置する動体物（移動いている物体）を検出する。尚、検出対象となる動体物は例えば歩行者、自転車、車両であり、フロントカメラ１１で撮像した撮像画像に対して画像処理を行うことにより検出される。また、ＣＰＵ４１は、撮像画像に基づいて検出された動体物の位置、種類、形状、その後の進行路（進行方向）についても特定する。
【００５０】
続いて、Ｓ８においてＣＰＵ４１は、案内分岐点の周辺で検出された動体物のモデル（仮想体）を、前記Ｓ３で生成された３次元立体地図に対して検出された位置に配置する。複数の動体物が検出された場合には、検出された全ての動体物を３次元立体地図に対して配置する。尚、３次元立体地図に対して配置される仮想体は実際の動体物の形状を模した形状とする。例えば歩行者であれば人の形状を有する仮想体として、車両であれば車両の形状を有する仮想体とする。サイズについても実際の動体物のサイズと対応させる。但し、動体物が不定形である（形状や種類を特定できない）場合には、例外的に仮想体は該動体物の全てを含む最小の直方体とする。
【００５１】
ここで、図５は３次元立体地図１０１に対して案内画像１０５と動体物の仮想体１０６、１０７をそれぞれ配置した図である。尚、図５に示す例では仮想体１０６は歩行者を示し、仮想体１０６は自転車を示している。即ち、案内分岐点１０３の周辺には動体物として歩行者と自転車がそれぞれ存在することを示している。
【００５２】
その後、Ｓ９においてＣＰＵ４１は、３次元立体地図に対して仮想体が配置されている動体物の内、“自車両が進行路に沿って進行する場合に影響のある動体物”があるか否かを判定する。具体的には、車両の進行路と今後の進行路が重複する動体物については、“自車両が進行路に沿って進行する場合に影響のある動体物”であると判定する。
【００５３】
例えば、図６に示すように仮想体１０６でモデリングされた歩行者の進行路（進行方向）が、案内分岐点の左側に接続する道路を横断する進行路である場合には、歩行者の今後の進行路と自車両の進行路１０８とが重複することとなる。従って、仮想体１０６でモデリングされた歩行者は、“自車両が進行路に沿って進行する場合に影響のある動体物”であると判定される。一方で、仮想体１０７でモデリングされた自転車の進行路（進行方向）は、案内分岐点の左側に接続する道路を横断せずに案内分岐点１０３から離れる方向へと移動する進行路であるので、自転車の今後の進行路と自車両の進行路１０８とは重複しない。従って、仮想体１０７でモデリングされた自転車は、“自車両が進行路に沿って進行する場合に影響のある動体物”でないと判定される。
【００５４】
そして、３次元立体地図に対して仮想体が配置されている動体物の内、“自車両が進行路に沿って進行する場合に影響のある動体物”があると判定された場合（Ｓ９：ＹＥＳ）には、Ｓ１０へと移行する。一方で、３次元立体地図に対して仮想体が配置されている動体物が、いずれも“自車両が進行路に沿って進行する場合に影響のある動体物”ではないと判定された場合（Ｓ９：ＮＯ）には、Ｓ１１へと移行する。
【００５５】
Ｓ１０においてＣＰＵ４１は、車両が進行路に沿って進行する場合に影響があると判定された動体物（以下、影響動体物という）と重ならない態様で案内画像を表示する為に、３次元立体地図に配置された案内画像の補正を行う。具体的には、先ずＣＰＵ４１は動体物や案内画像が配置された３次元立体地図を、車両（乗員）の視点から車両の進行方向に視認した画像（以下、視認画像という）を取得する。特に車両の視点は車両の乗員の目の位置とする。尚、乗員の目の位置については車内カメラ１２によって検出することが可能であり、前記Ｓ４での撮像画像と３次元立体地図の照合の結果、最終的に特定された車両の現在位置及び方位と、車内カメラ１２の検出結果を組み合わせることによって、３次元立体地図における乗員の目の位置を特定する。そして、視認画像は、３次元立体地図に配置された各オブジェクト（道路、建築物、道路標識、看板、動体物の仮想体、案内画像等）を車両（乗員）の視点から車両の進行方向に視認した際に視認できる像であり、車両の乗員の視界に相当する。尚、視認画像については車両（乗員）の視点から視認した画像であれば、必ずしも車両の進行方向に視認した画像である必要は無い。但し、少なくとも視認画像に案内画像が含まれる必要はある。そして、上記のように取得された視認画像において図５に示すように影響動体物の仮想体１０６と案内画像が重複している場合に、以下の（１）、（２）のいずれかの補正を行う。
【００５６】
（１）影響動体物と重なる領域に虚像が表示されないように、３次元立体地図に配置された案内画像を、影響動体物の仮想体と重なる領域を欠いた案内画像へと補正する。例えば、図７に示すように視認画像において案内画像１０５と影響動体物の仮想体１０６とが重なる領域を欠いた矢印とする。但し、特に矢印の先端において影響動体物の仮想体１０６と重なる場合については、矢印の先端を伸ばす或いは縮めることにより矢印の先端については表示する。
（２）影響動体物と重なる領域に虚像が表示されないように、３次元立体地図に配置された案内画像を、影響動体物の仮想体を迂回する形状の案内画像へと補正する。例えば、図８に示すように視認画像において案内画像１０５を影響動体物の仮想体１０６と重ならないように湾曲した矢印とする。
【００５７】
尚、本実施形態では特に自車両の進行路の奥側（即ち案内画像１０５よりも奥側）に位置する影響対象物のみを対象として上記Ｓ１０の処理を行う。自車両の進行路の手前側（即ち案内画像１０５よりも手前側）に位置する影響対象物については、Ｓ１０の補正を行わなかったとしても後述のＳ１１の処理において案内画像の形状を決定する際に、影響対象物と重複する部分は除かれた案内画像となるからである。
【００５８】
次に、Ｓ１１においてＣＰＵ４１は、視認画像に含まれる案内画像の形状（前記Ｓ１０の補正を行った場合には補正後の形状）を、ＨＵＤ４により表示対象とする案内画像の形状として記憶する。尚、視認画像に含まれる案内画像の形状は、３次元立体地図に配置された各オブジェクト（道路、建築物、道路標識、看板、動体物の仮想体、案内画像等）を車両（乗員）の視点から視認した際に視認できる案内画像の形状である。ここで、前記Ｓ１１で記憶される案内画像の形状は、進行路の手前側に位置する各オブジェクト（例えば道路標識、建築物、前記Ｓ２８で配置された動体物の仮想体など）と重なって視認される場合には、重なる部分を除いた形状となる。例えば案内画像の形状が矢印の形状であれば、矢印の内、各オブジェクトと重なって視認される領域について除かれた形状となる。但し、特に矢印の先端においてオブジェクトと重なる場合については、矢印の先端を伸ばす或いは縮めることによって矢印の先端がオブジェクトと重ならないようにし、少なくとも矢印の先端については含む形状とする。一方で、案内画像が進行路の奥側に位置する各オブジェクトと重なって視認される場合には、重なる部分についても含む形状となる。
【００５９】
更に、Ｓ１２においてＣＰＵ４１は、３次元立体地図において配置された案内画像の位置を取得する。具体的には案内分岐点を退出した後に車両が進行する進行路の路面に対して所定距離（例えば１ｍ）上方に離間した位置となる。
【００６０】
その後、Ｓ１３においてＣＰＵ４１は、後述の表示範囲決定処理を行う。表示範囲決定処理では、ＨＵＤ４において案内画像を表示する範囲（フロントウィンドウ８に対して案内画像を投影する範囲、或いはＨＵＤ４の液晶ディスプレイ６に対して案内画像を表示する範囲）を決定する。
【００６１】
続いて、Ｓ１４においてＣＰＵ４１は、ＨＵＤ４に対して制御信号を送信し、ＨＵＤ４の液晶ディスプレイ６に対して前記Ｓ１１で記憶された形状の案内画像を、前記Ｓ１３で決定された表示範囲に表示する。その結果、案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像として特に矢印の虚像が、車両の乗員から車両前方の風景に重畳して視認される。
【００６２】
ここで、図９は特に案内分岐点を退出した後の車両が進行する進行路の進行方向が左方向（即ち左折）である場合に、車両の乗員から視認される案内画像の虚像を示した図である。
図９に示すように、車両のフロントウィンドウ８越しには、案内分岐点１０３を左折した後の進行路の路面に対して上方に離間した位置に重畳して、左方へ進むことを示す矢印の案内画像１０５が虚像として表示されている。また、案内画像１０５の虚像は、進行路の手前側に位置する周辺対象物である道路標識１１２と重なる領域については除いて表示される。従って、案内画像１０５は、道路標識１１２の奥側（後側）を通るように視認される。一方、進行路の奥側に立つ道路標識１１３に対しては重なって表示される。従って、案内画像１０５は、道路標識１１３の手前側を通るように視認される。その結果、乗員９は、道路標識１１２、１１３の位置と、案内画像１０５の虚像の位置との前後関係を認識することができ、進むべき進行路を正確に把握できる。尚、図９に示す例では特に案内画像１０５の虚像と重なる周辺対象物が道路標識の場合であるが、建築物や動体物（歩行者や他車両）の場合についても同様にして表示される。
更に、前述したように案内分岐点１０３の周辺に影響動体物１１０がある場合については、影響動体物１１０と重なる領域に虚像が表示されないように、該当する領域を欠いた、或いは影響動体物１１０を迂回する形状の案内画像１０５となる。その結果、乗員９は、案内画像１０５によって影響動体物１１０の視認性が阻害されることなく、影響動体物１１０について確実に視認することが可能となる。
【００６３】
次に、前記Ｓ１３において実行される表示範囲決定処理のサブ処理について図１０に基づき説明する。図１０は表示範囲決定処理のサブ処理プログラムのフローチャートである。
【００６４】
先ず、Ｓ２１においてＣＰＵ４１は、車両の乗員の目の位置を車内カメラ１２で撮像した撮像画像に基づいて検出する。尚、検出された目の位置は３次元の位置座標で特定される。
【００６５】
次に、Ｓ２２においてＣＰＵ４１は、ＨＵＤ４の表示がＯＮになっているか否かを判定する。尚、ＨＵＤ４の表示のＯＮ又はＯＦＦの切り替えは車両の乗員の操作によって行うことが可能である。また、周辺状況や車両の状態に基づいてＯＮ又はＯＦＦを自動で切り替えても良い。
【００６６】
そして、ＨＵＤ４の表示がＯＮになっていると判定された場合（Ｓ２２：ＹＥＳ）には、Ｓ２３へと移行する。一方、ＨＵＤ４の表示がＯＦＦになっていると判定された場合（Ｓ２２：ＮＯ）には、ＨＵＤ４による案内画像の虚像の表示を行うことなく終了する。
【００６７】
Ｓ２３においてＣＰＵ４１は、ＨＵＤ４によって画像を投影する対象となるフロントウィンドウ８の位置座標を取得する。尚、フロントウィンドウ８の位置座標は３次元の位置座標で特定される。
【００６８】
次に、Ｓ２４においてＣＰＵ４１は、前記Ｓ１２で取得された３次元立体地図において配置された案内画像の位置を特定する座標を、案内画像の位置座標として取得する。尚、案内画像の位置座標は同じく３次元の位置座標で特定される。
【００６９】
続いて、Ｓ２５においてＣＰＵ４１は、前記Ｓ２１、Ｓ２３及びＳ２４で取得された各位置座標に基づいて、フロントウィンドウ８における案内画像の投影範囲を決定する。更に、決定された投影範囲からＨＵＤ４の内部の液晶ディスプレイ６における案内画像の表示範囲についても決定する。その後、Ｓ１４へと移行し、決定された投影範囲や表示範囲に基づいてＨＵＤ４を用いた虚像の表示を行う。尚、ＨＵＤの表示がオフになるまで繰り返しＳ１１〜Ｓ１４の処理を行うこととなる。
【００７０】
以上詳細に説明した通り、本実施形態に係る重畳画像表示装置１及び重畳画像表示装置１で実行されるコンピュータプログラムによれば、案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する案内画像を、車両前方の風景に重畳して視認させる場合に、案内分岐点の周囲に存在する動体物と重ならない態様で案内画像を表示する（Ｓ１０〜Ｓ１４）ので、案内画像によって車両が進むべき進行路を正確に車両の乗員に案内可能とする一方で、車両の乗員に視認させるべき動体物に対する視認性を低下させることがない。
【００７１】
尚、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、上記本実施形態では、ＨＵＤ４によって車両２のフロントウィンドウ８の前方に虚像を生成する構成としているが、フロントウィンドウ８以外のウィンドウの前方に虚像を生成する構成としても良い。また、ＨＵＤ４により映像を反射させる対象はフロントウィンドウ８自身ではなくフロントウィンドウ８の周辺に設置されたバイザー（コンバイナー）であっても良い。
【００７２】
また、本実施形態では、周辺環境に重畳する画像を表示する手段としてＨＵＤ４を用いているが、フロントウィンドウ８に対して画像を表示するウインドウシールドディスプレイ（ＷＳＤ）を用いても良い。或いはナビゲーション装置３の液晶ディスプレイ１７に表示した実景に、案内画像を重畳させる表示装置でもよい。
【００７３】
また、本実施形態では、走行支援処理プログラム（図３）の処理をナビゲーション装置３のナビゲーションＥＣＵ１５が実行する構成としているが、実行主体は適宜変更することが可能である。例えば、ＨＵＤ４の制御部、車両制御ＥＣＵ、その他の車載器が実行する構成としても良い。尚、ＨＵＤ４の制御部が実行する場合には、本発明に係る重畳画像表示装置はＨＵＤ４のみで構成することも可能である。
【００７４】
また、本発明に係る重畳画像表示装置を具体化した実施例について上記に説明したが、表示装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
【００７５】
例えば、第１の構成は以下のとおりである。
車両（２）に搭載され、案内分岐点（１０３）を退出した後の車両が進行する進行路（１０８）の進行方向を案内する案内画像（１０５）を、前記車両前方の風景に重畳して視認させる重畳画像表示装置（１）であって、前記案内分岐点の周囲に存在する動体物と重ならない態様で前記案内画像を表示する案内画像表示手段（４１）を有する。
上記構成を有する重畳画像表示装置によれば、案内分岐点を退出した後の進行方向を案内する案内画像が動体物と重ならないように表示されるので、案内画像によって車両が進むべき進行路を正確に車両の乗員に案内可能とする一方で、車両の乗員に視認させるべき動体物に対する視認性を低下させることがない。
【００７６】
また、第２の構成は以下のとおりである。
前記案内画像表示手段（４１）は、車両（２）が進行路（１０８）に沿って進行する場合に影響のある前記動体物（１１０）と重ならない態様で前記案内画像（１０５）を表示する。
上記構成を有する重畳画像表示装置によれば、特に車両の走行に伴って乗員に視認させる必要のある動体物に対する視認性を低下させることがない。
【００７７】
また、第３の構成は以下のとおりである。
前記動体物（１１０）の今後の進行路を予測する進行路予測手段（４１）を有し、前記案内画像表示手段（４１）は、車両（２）の進行路（１０８）と今後の進行路が重複する前記動体物と重ならない態様で前記案内画像（１０５）を表示する。
上記構成を有する重畳画像表示装置によれば、特に今後に車両と進行路が重複する動体物に対する視認性を低下させることがない。
【００７８】
また、第４の構成は以下のとおりである。
前記案内画像表示手段（４１）は、前記動体物（１１０）と重なる領域を前記案内画像（１０５）から除いて表示する。
上記構成を有する重畳画像表示装置によれば、動体物と重なる領域を非表示とした案内画像を表示するので、案内画像によって車両が進むべき進行路を正確に車両の乗員に案内可能とする一方で、車両の乗員に視認させるべき動体物に対する視認性を低下させることがない。
【００７９】
また、第５の構成は以下のとおりである。
前記案内画像表示手段（４１）は、前記動体物（１１０）を迂回する前記案内画像を表示する。
上記構成を有する重畳画像表示装置によれば、動体物を迂回した案内画像を表示するので、案内画像によって車両が進むべき進行路を正確に車両の乗員に案内可能とする一方で、車両の乗員に視認させるべき動体物に対する視認性を低下させることがない。
【００８０】
また、第６の構成は以下のとおりである。
前記車両（２）前方の風景を撮像した撮像画像を取得する撮像画像取得手段（４１）と、３次元地図情報（３４）を取得する地図情報取得手段（４１）と、前記撮像画像と３次元地図情報を照合する照合手段（４１）と、前記照合手段の照合結果に基づいて、３次元地図情報内における案内分岐点を退出した後の車両が進行する進行路に前記案内画像（１０５）を配置する画像配置手段（４１）と、前記照合手段の照合結果に基づいて、３次元地図情報内における前記動体物が存在する位置に前記動体物の仮想体（１０６、１０７）を配置する仮想体配置手段（４１）と、３次元地図情報内における車両の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する形状取得手段（４１）と、を有し、前記案内画像表示手段は、前記形状取得手段によって取得された形状の前記案内画像を表示する。
上記構成を有する重畳画像表示装置によれば、車両前方の風景を撮像した撮像画像と３次元地図情報と動体物の仮想体とを用いることによって、案内分岐点の周囲に存在する動体物と重ならない態様となる案内画像を容易に生成することが可能となる。
【００８１】
また、第７の構成は以下のとおりである。
前記動体物（１１０）が不定形である場合には、前記仮想体（１０６、１０７）は前記動体物の全てを含む最小の直方体とする。
上記構成を有する重畳画像表示装置によれば、動体物の形状が特定できない場合であっても、案内分岐点を退出した後の進行方向を案内する案内画像が動体物と重ならないように表示することが可能となる。
【符号の説明】
【００８２】
１                  重畳画像表示装置
２                  車両
３                  ナビゲーション装置
４                  ＨＵＤ
８                  フロントウィンドウ
９                  乗員
４１                ＣＰＵ
４２                ＲＡＭ
４３                ＲＯＭ
１０３              案内分岐点
１０５              案内画像
１０６、１０７      動体物の仮想体
１０８              進行路
１１０              動体物
１１２，１１３      道路標識
【図１】
2019095214.tif 000003
【図２】
2019095214.tif 000004
【図３】
2019095214.tif 000005
【図４】
2019095214.tif 000006
【図５】
2019095214.tif 000007
【図６】
2019095214.tif 000008
【図７】
2019095214.tif 000009
【図８】
2019095214.tif 000010
【図９】
2019095214.tif 000011
【図１０】
2019095214.tif 000012