(57)【要約】【課題】案内画像と周辺にある構造物との位置関係を正確に車両の運転者に把握させることを可能にした重畳画像表示装置及びコンピュータプログラムを提供する。【解決手段】車両の運転者へ情報を案内する案内画像を、車両前方の風景に重畳して視認させる場合において、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報３４を取得し、道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報内に案内画像を配置し、３次元地図情報内における運転者の位置から案内画像を視認した場合の案内画像の形状を取得し、取得された形状の案内画像を表示する。【選択図】図５
2019095213.tif 000002
【特許請求の範囲】
【請求項１】
車両に搭載され、前記車両の運転者へ情報を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置であって、
道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報を取得する地図情報取得手段と、
道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報内に前記案内画像を配置する画像配置手段と、
３次元地図情報内における運転者の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する形状取得手段と、
前記形状取得手段によって取得された形状の前記案内画像を表示する案内画像表示手段と、を有する重畳画像表示装置。
【請求項２】
前記案内画像は、２次元形状或いは３次元形状を有する請求項１に記載の重畳画像表示装置。
【請求項３】
前記運転者の位置は運転者の目の位置であって、
前記運転者の目の位置を取得する運転者情報取得手段を有し、
前記形状取得手段は、３次元地図情報内における前記運転者の目の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する請求項１又は請求項２に記載の重畳画像表示装置。
【請求項４】
前記車両前方の風景を撮像した撮像画像を取得する撮像画像取得手段と、
前記撮像画像と３次元地図情報を照合する照合手段と、
前記照合手段の照合結果に基づいて、３次元地図情報内における前記運転者の位置を特定する運転者位置特定手段と、を有する請求項１乃至請求項３のいずれかに記載の重畳画像表示装置。
【請求項５】
前記照合手段は、所定の間隔で前記撮像画像と３次元地図情報を照合し、
前記照合を行うタイミング間の３次元地図情報内における前記運転者の位置を推定する位置推定手段を有し、
前記運転者位置特定手段は、前記照合を行うタイミング間では前記推定された運転者の位置を、３次元地図情報内における前記運転者の位置として特定する請求項４に記載の重畳画像表示装置。
【請求項６】
前記案内画像は、前記車両が走行する経路を案内する画像、看板の画像、路面上の案内線の画像の少なくとも一を含む請求項１乃至請求項５のいずれかに記載の重畳画像表示装置。
【請求項７】
前記路面上の案内線の画像は、路面標示の画像である請求項６に記載の重畳画像表示装置。
【請求項８】
前記路面上の案内線の画像は、車道と歩道の境界又は車道の縁部に対して重畳される請求項６又は請求項７に記載の重畳画像表示装置。
【請求項９】
前記構造物は、少なくとも一つの建築物又は道路標識である請求項１乃至請求項８のいずれかに記載の重畳画像表示装置。
【請求項１０】
前記３次元地図情報に、車両周辺にある動体物の３次元形状を特定する仮想体を配置する請求項１乃至請求項９のいずれかに記載の重畳画像表示装置。
【請求項１１】
車両に搭載され、前記車両の運転者へ情報を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置を、
道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報を取得する地図情報取得手段と、
道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報内に前記案内画像を配置する画像配置手段と、
３次元地図情報内における運転者の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する形状取得手段と、
前記形状取得手段によって取得された形状の前記案内画像を表示する案内画像表示手段と、
して機能させる為のコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、車両の走行支援を行う重畳画像表示装置及びコンピュータプログラムに関する。
【背景技術】
【０００２】
従来より、車両の乗員に対して経路案内や障害物の警告等の車両の走行支援を行う為の各種情報を提供する情報提供手段として、様々な手段が用いられている。例えば、車両に設置された液晶ディスプレイによる表示や、スピーカから出力する音声等である。そして、近年、このような情報提供手段の一つとして、ヘッドアップディスプレイ（以下、ＨＵＤという）やウインドウシールドディスプレイ（以下、ＷＳＤという）のように運転者の周辺環境（風景）に重畳する画像を表示することによって、情報の提供を行う装置がある。
【０００３】
上記ＨＵＤやＷＳＤでは、装置側が意図する位置（例えば交差点の路面）に画像を重畳させて乗員に視認させる為には、画像を視認する乗員の目の位置や重畳させる外界の位置に基づいて画像の形状や画像の表示位置を算出する必要があった。例えば、特開２０１０−７６５３３号公報には、カメラ等を用いて車両の外界情報を取得するとともに、画像を重畳させるターゲットの位置を特定し、車両に乗車する乗員の目の位置についても検出し、特定されたターゲットの位置と乗員の目の位置とに基づいてＨＵＤにおいて表示する映像の形状と映像の表示位置を算出する技術について開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１０−７６５３３号公報（第５−１３頁）
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、上記特許文献１に記載の技術は、ターゲットの位置と乗員の目の位置については考慮しているが、ターゲットが表示される背景にある道路や建築物や道路標識等の構造物の形状について考慮していなかった。従って、表示した画像の一部がこれらの構造物と重複する場合において、画像と構造物との位置関係を正確に表現することが難しい問題があった。
【０００６】
本発明は前記従来における問題点を解消するためになされたものであり、案内画像と周辺にある構造物との位置関係を正確に車両の運転者に把握させることを可能にした重畳画像表示装置及びコンピュータプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
前記目的を達成するため本発明に係る重畳画像表示装置は、車両に搭載され、前記車両の運転者へ情報を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置であって、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報を取得する地図情報取得手段と、道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報内に前記案内画像を配置する画像配置手段と、３次元地図情報内における運転者の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する形状取得手段と、前記形状取得手段によって取得された形状の前記案内画像を表示する案内画像表示手段と、を有する。
【０００８】
また、本発明に係るコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、車両に搭載され、前記車両の運転者へ情報を案内する案内画像を、前記車両前方の風景に重畳して視認させる重畳画像表示装置を、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報を取得する地図情報取得手段と、道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報内に前記案内画像を配置する画像配置手段と、３次元地図情報内における運転者の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する形状取得手段と、前記形状取得手段によって取得された形状の前記案内画像を表示する案内画像表示手段と、して機能させる。
【発明の効果】
【０００９】
前記構成を有する本発明に係る重畳画像表示装置及びコンピュータプログラムによれば、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報に案内画像を配置することによって表示する案内画像の形状を特定するので、案内画像と周辺にある構造物との位置関係を正確に車両の運転者に把握させることが可能となる。
【図面の簡単な説明】
【００１０】
【図１】本実施形態に係る重畳画像表示装置の概略構成図である。
【図２】本実施形態に係るナビゲーション装置を示したブロック図である。
【図３】本実施形態に係る走行支援処理プログラムのフローチャートである。
【図４】３次元地図情報に基づいて生成される３次元立体地図を示した図である。
【図５】案内分岐点画像及び看板画像を配置した後の３次元立体地図を示した図である。
【図６】案内線画像を配置した後の３次元立体地図を示した図である。
【図７】ＨＵＤに対して表示する案内画像の生成方法を説明した図である。
【図８】車両の運転者から視認される案内分岐点画像及び看板画像の虚像の例を示した図である。
【図９】車両の運転者から視認される案内線画像の虚像の例を示した図である。
【図１０】表示範囲決定処理のサブ処理プログラムのフローチャートである。
【発明を実施するための形態】
【００１１】
以下、本発明に係る重畳画像表示装置を具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係る重畳画像表示装置１の概略構成について図１を用いて説明する。図１は本実施形態に係る重畳画像表示装置１の概略構成図である。
【００１２】
図１に示すように重畳画像表示装置１は、車両２に搭載されたナビゲーション装置３と、同じく車両２に搭載されるとともにナビゲーション装置３と接続されたヘッドアップディスプレイ装置（以下、ＨＵＤという）４とを基本的に有する。
【００１３】
ここで、ナビゲーション装置３は、目的地までの推奨経路を探索したり、サーバから取得したりメモリに格納された地図データに基づいて車両２の現在位置周辺の地図画像を表示したり、設定された案内経路に沿った走行案内をＨＵＤ４とともに行う機能を有する。尚、上記機能の全てをナビゲーション装置３が備えている必要はなく、少なくとも案内経路に沿った走行案内を行う機能を有していれば本願発明を構成することが可能である。尚、ナビゲーション装置３の構造の詳細については後述する。
【００１４】
一方、ＨＵＤ４は、車両２のダッシュボード５内部に設置されており、内部には映像が表示される映像表示面である液晶ディスプレイ６を有する。そして、液晶ディスプレイ６に投射された映像を、後述のようにＨＵＤ４が備える凹面鏡７等を介し、更に運転席の前方のフロントウィンドウ８に反射させて車両２の運転者９に視認させるように構成されている。尚、液晶ディスプレイ６に表示される映像としては、車両２に関する情報や運転者９の運転の支援の為に用いられる各種情報がある。例えば運転者９に対して警告対象となる対象物（他車両や歩行者）に対する警告、ナビゲーション装置３で設定された案内経路や案内経路に基づく案内情報（右左折方向を示す矢印等）、路面に表示する警告（追突注意、制限速度等）、現在車速、看板の画像、案内線の画像、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面、テレビ番組等がある。
【００１５】
また、本実施形態のＨＵＤ４では、フロントウィンドウ８を反射して運転者９が液晶ディスプレイ６に表示された映像を視認した場合に、運転者９にはフロントウィンドウ８の位置ではなく、フロントウィンドウ８の先の遠方の位置に液晶ディスプレイ６に表示された映像が虚像１０として視認されるように構成される。また、虚像１０は車両前方の風景（実景）に重畳して表示されることとなり、例えば車両前方に位置する任意の対象物（路面、建築物、警告対象となる動体物等）に重畳させて表示させることも可能である。尚、運転者９が視認できる虚像１０は液晶ディスプレイ６に表示された映像であるが、凹面鏡７やその他のミラーを介することによって上下方向や左右方向が反転する場合があり、それらの反転を考慮して液晶ディスプレイ６の映像の表示を行う必要がある。また、凹面鏡７を介することによってサイズも変更する。
【００１６】
ここで、虚像１０を生成する位置、より具体的には運転者９から虚像１０までの距離（以下、結像距離という）Ｌについては、ＨＵＤ４が備える凹面鏡７の曲率、液晶ディスプレイ６と凹面鏡７との相対位置等によって適宜設定することが可能である。例えば、凹面鏡７の曲率が固定であれば、液晶ディスプレイ６において映像の表示された位置から凹面鏡７までの光路に沿った距離（光路長）によって結像距離Ｌが決定される。例えば結像距離Ｌが２．５ｍとなるように光路長が設定されている。
【００１７】
また、本実施形態では車両前方の風景に重畳する画像を表示する手段としてＨＵＤ４を用いているが、他の手段を用いても良い。例えば、フロントウィンドウ８に対して映像を表示するウインドウシールドディスプレイ（ＷＳＤ）を用いても良い。ＷＳＤでは、フロントウィンドウ８をスクリーンとしてプロジェクタから映像を表示しても良いし、フロントウィンドウ８を透過液晶ディスプレイとしても良い。ＷＳＤによってフロントウィンドウ８に対して表示された画像は、ＨＵＤ４と同様に車両前方の風景に重畳する画像となる。
【００１８】
更に、後述のフロントカメラ１１で撮像した車両前方の風景を車内の液晶ディスプレイに表示し、同一の液晶ディスプレイ内において表示された風景に重畳する画像を表示することも可能である。その場合においても液晶ディスプレイに表示された画像は、ＨＵＤ４と同様に車両前方の風景に重畳する画像となる。
【００１９】
また、車両のフロントバンパの上方やルームミラーの裏側等にはフロントカメラ１１が設置される。フロントカメラ１１は、例えばＣＣＤ等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ１１により撮像された撮像画像に対して画像処理が行われることによって、フロントウィンドウ８越しに運転者９に視認される前方環境（即ち虚像１０が重畳される環境）の状況等が検出される。尚、フロントカメラ１１の代わりにミリ波レーダ等のセンサを用いても良い。
【００２０】
また、車両のインストルメントパネルの上面には車内カメラ１２が設置される。車内カメラ１２は、例えばＣＣＤ等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を運転席に向けて設置される。そして、運転席に座った運転者９の顔を撮像する。そして、車内カメラ１２により撮像された撮像画像に対して画像処理が行われることによって、運転者９の目の位置（視線開始点）や視線方向を検出する。
【００２１】
次に、上記重畳画像表示装置１を構成するナビゲーション装置３の概略構成について図２を用いて説明する。図２は本実施形態に係るナビゲーション装置３を示したブロック図である。
【００２２】
図２に示すように本実施形態に係るナビゲーション装置３は、ナビゲーション装置３が搭載された車両２の現在位置を検出する現在位置検出部１３と、各種のデータが記録されたデータ記録部１４と、入力された情報に基づいて、各種の演算処理を行うナビゲーションＥＣＵ１５と、ユーザからの操作を受け付ける操作部１６と、ユーザに対して車両周辺の地図や施設の関する施設情報を表示する液晶ディスプレイ１７と、経路案内に関する音声ガイダンスを出力するスピーカ１８と、記憶媒体であるＤＶＤを読み取るＤＶＤドライブ１９と、ＶＩＣＳ（登録商標：Vehicle Information and Communication System）センタ等の情報センタとの間で通信を行う通信モジュール２０と、を有する。また、ナビゲーション装置３はＣＡＮ等の車載ネットワークを介して、前述したＨＵＤ４、フロントカメラ１１及び車内カメラ１２等が接続されている。
【００２３】
以下に、ナビゲーション装置３が有する各構成要素について順に説明する。
現在位置検出部１３は、ＧＰＳ２１、車速センサ２２、ステアリングセンサ２３、ジャイロセンサ２４等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ２２は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションＥＣＵ１５に出力する。そして、ナビゲーションＥＣＵ１５は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記４種類のセンサをナビゲーション装置３が全て備える必要はなく、これらの内の１又は複数種類のセンサのみをナビゲーション装置３が備える構成としても良い。
【００２４】
また、データ記録部１４は、外部記憶装置及び記録媒体としてのハードディスク（図示せず）と、ハードディスクに記録された地図情報ＤＢ３１や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド（図示せず）とを備えている。尚、データ記録部１４はハードディスクの代わりにフラッシュメモリやメモリーカードやＣＤやＤＶＤ等の光ディスクを有していても良い。また、地図情報ＤＢ３１は外部のサーバに格納させ、ナビゲーション装置３が通信により取得する構成としても良い。
【００２５】
ここで、地図情報ＤＢ３１は、２次元地図情報３３と３次元地図情報３４とがそれぞれ記憶される。２次元地図情報３３は、一般的なナビゲーション装置３において用いられる地図情報であり、例えば、道路（リンク）に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。
【００２６】
一方、３次元地図情報３４は、平面だけではなく高さ情報についても有し、３次元で地図を表現する為の地図情報である。特に本実施形態では３次元で道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等を表現する為の地図情報とする。尚、３次元地図情報３４としては上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板以外の情報についても含めても良い。例えば、街路樹や路面標示等についても３次元で表現する為の情報を含めても良い。また、３次元地図情報３４としては３次元空間上に上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の各オブジェクトを配置した地図そのものを記憶しても良いし、３次元で地図を表現する為に必要な情報（道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の３次元の座標データなど）を記憶しても良い。３次元で地図を表現する為に必要な情報が格納されている場合には、ナビゲーション装置３は、必要なタイミングで３次元地図情報３４として記憶された情報を用いて、対象エリアを３次元で表現した地図を生成する。
【００２７】
そして、ナビゲーション装置３は、液晶ディスプレイ１７における地図画像の表示、案内経路の探索等の一般的な機能については２次元地図情報３３を用いて行う。また、後述のように案内画像の表示に係る処理については２次元地図情報３３に加えて３次元地図情報３４についても用いて行う。
【００２８】
一方、ナビゲーションＥＣＵ（エレクトロニック・コントロール・ユニット）１５は、ナビゲーション装置３の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのＣＰＵ４１、並びにＣＰＵ４１が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるＲＡＭ４２、制御用のプログラムのほか、後述の走行支援処理プログラム（図３）等が記録されたＲＯＭ４３、ＲＯＭ４３から読み出したプログラムを記憶するフラッシュメモリ４４等の内部記憶装置を備えている。尚、ナビゲーションＥＣＵ１５は、処理アルゴリズムとしての各種手段を有する。例えば、地図情報取得手段は、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報３４を取得する。画像配置手段は、道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報３４内に案内画像を配置する。形状取得手段は、３次元地図情報内における運転者の位置から案内画像を視認した場合の案内画像の形状を取得する。案内画像表示手段は、形状取得手段によって取得された形状の案内画像を表示する。
【００２９】
操作部１６は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ（図示せず）を有する。そして、ナビゲーションＥＣＵ１５は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部１６は液晶ディスプレイ１７の前面に設けたタッチパネルを有していても良い。また、マイクと音声認識装置を有していても良い。
【００３０】
また、液晶ディスプレイ１７には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、本実施形態では情報の表示手段としてＨＵＤ４を備えているので、上記地図画像等の表示をＨＵＤ４で行う構成とすれば液晶ディスプレイ１７は省略しても良い。
【００３１】
また、スピーカ１８は、ナビゲーションＥＣＵ１５からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。
【００３２】
また、ＤＶＤドライブ１９は、ＤＶＤやＣＤ等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報ＤＢ３１の更新等が行われる。尚、ＤＶＤドライブ１９に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
【００３３】
また、通信モジュール２０は、交通情報センタ、例えば、ＶＩＣＳセンタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やＤＣＭが該当する。
【００３４】
続いて、前記構成を有する重畳画像表示装置１の内、特にナビゲーション装置３において実行する走行支援処理プログラムについて図３に基づき説明する。図３は本実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは車両のＡＣＣ電源(accessory power supply)がＯＮされた後に実行され、ＨＵＤ４を用いて車両２の運転者９に案内経路に沿った車両の進行方向の案内等の各種情報を提供するプログラムである。尚、以下の図３及び図１０にフローチャートで示されるプログラムは、ナビゲーション装置３が備えているＲＡＭ４２やＲＯＭ４３に記憶されており、ＣＰＵ４１により実行される。
【００３５】
先ず、走行支援処理プログラムでは、ステップ（以下、Ｓと略記する）１においてＣＰＵ４１は、フロントカメラ１１によって車両前方の周辺環境（風景）を撮像した撮像画像を取得する。更に、ＣＰＵ４１は、地図情報ＤＢ３１から車両の現在位置周辺の３次元地図情報３４を読み出す。尚、３次元地図情報３４には、３次元で地図を表現する為に必要な情報（道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の３次元の座標データなど）が記憶される。
【００３６】
次に、Ｓ２においてＣＰＵ４１は、前記Ｓ１で読み出した３次元地図情報３４に基づいて、車両の現在位置周辺を示す３次元立体地図（３次元で建物や道路等を表現した地図）を生成する。具体的には、以下の処理を実行することにより３次元立体地図を生成する。
【００３７】
先ず、ＣＰＵ４１は、３次元地図情報３４から３次元空間上に道路、建築物、道路標識、看板等をモデリングしたオブジェクト（形状データ）を取得する。尚、ＣＰＵ４１は、予めモデリングしてＤＢに格納しておいたオブジェクトの内、該当するオブジェクトを取得する構成としても良いし、Ｓ２においてモデリングを実施してオブジェクトを新たに作成する構成としても良い。モデリングを実施する場合には、３次元地図情報３４から道路及び道路周辺にある構造物（建築物、道路標識、看板等）の形状や位置を特定する情報を取得し、取得した情報に基づいてモデリング処理を行う。
【００３８】
ここで、モデリングとは３次元空間上においてモデル（物体）の形状を作成する処理であり、より具体的には各頂点の座標の決定や、境界線、面を表現する方程式のパラメータの決定などを行う。尚、モデリングについては公知の技術であるので詳細は省略する。そして、モデリングされたオブジェクト（形状データ）は、用途に応じて辺のみ表示する「ワイヤーフレームモデル」、面を表示する「サーフィスモデル」等の形で表現される。そして各オブジェクトが形成された３次元空間を３次元立体地図とする。
【００３９】
また、前記Ｓ２でＣＰＵ４１は、現在位置検出部１３で検出されたパラメータに基づいて、生成された３次元立体地図における自車両の現在位置及び方位についても特定する。尚、後述の３次元立体地図と撮像画像との照合の処理を容易化する為に、自車両の現在位置は特に自車両に設置されたフロントカメラ１１の設置位置とし、自車両の方位はフロントカメラ１１の光軸方向とするのが望ましい。
【００４０】
ここで、図４は前記Ｓ３で生成される３次元立体地図５１の一例を示した図である。図４に示すように３次元立体地図５１には、３次元空間に対して、道路や構造物（建築物、道路標識、看板等）を示す各オブジェクト５２が配置される。特に車両の現在位置周辺の道路や構造物を示す各オブジェクト５２が配置される。また、３次元立体地図５１には自車両の現在位置と方位を示す自車位置マーク５３についても配置される。
【００４１】
続いてＳ３においてＣＰＵ４１は、前記Ｓ１で取得した撮像画像と前記Ｓ２で生成された３次元立体地図とを照合し、両者の間にズレが生じていないかを判定する。具体的にはＣＰＵ４１は、３次元立体地図に設定されている自車両の現在位置（より具体的にはフロントカメラ１１の設置位置であり高さも考慮する）を視点とし、自車両の方位を視線方向に設定し、設定された視点及び視線方向によって３次元立体地図を視認した際の像と、撮像画像とを照合する。尚、３次元立体地図には、歩行者や他車両等の動体物、樹木などの一部の固定物については含まれないので、それらに起因するズレは基本的には無視して判定する。また、ズレが生じていないとは両者が完全に一致する場合のみに限らず、ある程度の許容範囲内のズレが生じている場合においてもズレが生じていないとみなすのが望ましい。
【００４２】
そして、前記Ｓ１で取得した撮像画像と前記Ｓ２で生成された３次元立体地図との間にズレが生じていないと判定された場合（Ｓ３：ＹＥＳ）には、Ｓ５へと移行する。それに対して、前記Ｓ１で取得した撮像画像と前記Ｓ２で生成された３次元立体地図との間にズレが生じていると判定された場合（Ｓ３：ＮＯ）には、Ｓ４へと移行する。
【００４３】
Ｓ４においてＣＰＵ４１は、前記Ｓ２で生成された３次元立体地図について、前記Ｓ１で取得した撮像画像と間のズレが小さくなるように３次元立体地図内に設定された自車両の現在位置及び方位を補正する。尚、３次元立体地図における自車両の現在位置及び方位は固定してオブジェクト側を補正しても良い。それによって、３次元立体地図内における正確な自車両の現在位置及び方位（より具体的にはフロントカメラ１１の設置位置と光軸方向）を特定することが可能となる。その後、Ｓ３へと戻る。
【００４４】
尚、前記Ｓ３の撮像画像と３次元立体地図との照合は、処理負担の軽減のために所定の時間間隔を空けて実行する。照合を実行するタイミングとしては、例えば照合を容易に行うことが可能となる特徴的な形状を有する構造物が撮像画像内に含まれたタイミングとする。そして、照合を行うタイミング間（照合を実施してから次の照合を行うまでの間）の３次元地図情報内における車両の位置は、車速センサ２２やジャイロセンサ２４等のセンサを用いることによってＣＰＵ４１が推定する。また、照合を行うタイミング間において、後述のように車両の運転者の目の位置を特定する場合（Ｓ６）には、上記推定された車両の位置に基づいて運転者の目の位置を特定する。
【００４５】
一方、Ｓ５においてＣＰＵ４１は、車両の運転者へ情報を案内する為の各種案内画像を、前記Ｓ３で生成された３次元立体地図に対して配置する。尚、本実施形態では特に以下の（Ａ）〜（Ｃ）の３種類の案内画像を配置する。
（Ａ）案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する矢印の画像（以下、案内分岐点画像という）
（Ｂ）車両の進行路沿いにある施設を広告する看板の画像（以下、看板画像という）
（Ｃ）路面上の案内線の画像（以下、案内線画像という）
【００４６】
ここで、“（Ａ）案内分岐点画像”については、車両の進行方向前方の所定距離（例えば７００ｍ）以内に案内分岐点がある場合に、３次元立体地図に対して配置される。尚、案内分岐点画像が配置される位置は、案内分岐点を退出した後に車両が進行する進行路（例えば案内分岐点で左折する場合には、案内分岐点の左側に接続される道路）の路面に対して所定距離（例えば１ｍ）上方に離間した位置とし、鉛直方向に立てた状態で３次元形状により配置する。
【００４７】
また、“（Ｂ）看板画像”については、車両の進行方向前方の所定距離（例えば７００ｍ）以内に広告対象となる施設が位置する場合に、３次元立体地図に対して配置される。尚、看板画像が配置される位置は、広告対象となる施設の壁面とし、壁面に平行な２次元形状で配置する。
【００４８】
一方、“（Ｃ）案内線画像”については、特に車道外側線が描かれていない道路を走行する場合に、車道外側線に対応する線（即ち車両が走行可能な範囲の限界を示す線）として３次元立体地図に対して配置される。尚、案内線画像が配置される位置は、歩道が存在する場合には車道と歩道の境界に該当する位置とし、歩道が存在しない場合には車道の縁部に該当する位置とし、路面に平行な２次元形状で配置する。また、案内線画像の形状は車道外側線と同形状とし、表示色は白又は黄色とする。尚、車道外側線が描かれていたとしても、車両の運転者からの車道外側線の視認性が閾値以下であると判定された場合には、同様に案内線画像を配置しても良い。尚、車道外側線の視認性は例えば車両に設置された照度センサ、降雨センサ、フロントカメラ１１で撮像した撮像画像等に基づいて行われる。積雪した場合、雨が降っている場合、夜間、道路ペイントが劣化している場合等では車道外側線の視認性が低下する。また、車道外側線以外の区画線（例えば車道中央線、車線境界線）やその他の路面標示（例えば停止線）に対応する案内線についても案内線画像に含めても良い。
【００４９】
ここで、図５は３次元立体地図５１に対して案内分岐点画像５４及び看板画像５５を配置した図である。図５に示すように案内分岐点画像５４は、案内分岐点５６を退出した後に車両が左側に接続される道路に進行することを案内する矢印の画像であるが、案内分岐点５６の左側に接続される道路の路面５７に対して所定距離（例えば１ｍ）上方に離間した位置に鉛直方向に立てた状態で配置される。一方、看板画像５５は、車両の進行路沿いにある施設を広告する看板の画像であるが、広告対象となる施設の壁面５８上に平行に配置される。
【００５０】
一方、図６は３次元立体地図５１に対して案内線画像６０を配置した図である。図６に示すように案内線画像６０は、車両の走行する道路の路面において、車両が走行可能な範囲の限界（車道外側線に相当）を案内する画像である。歩道が存在する場合には車道と歩道の境界に該当する路面６１の位置、歩道が存在しない場合には車道の縁部に該当する路面６１の位置に、路面６１に平行に配置される。例えば路面と建物の境界付近や、該境界から歩道を考慮した１ｍ内側等に配置される。尚、図６に示す例では自車両が走行する道路が一方通行の道路である場合に配置される案内線画像６０の例を示しているが、一方通行の道路でない場合には車道の中央の位置に車道中央線に対応する案内線画像６０について配置しても良い。
【００５１】
また、車両周辺に動体物（例えば歩行者、自転車、車両等）を検出した場合には、検出された動体物のモデル（仮想体）を、前記Ｓ２で生成された３次元立体地図に対して検出された位置に配置するのが望ましい。尚、３次元立体地図に対して配置される仮想体は実際の動体物の形状を模した形状とする。例えば歩行者であれば人の形状を有する仮想体として、車両であれば車両の形状を有する仮想体とする。サイズについても実際の動体物のサイズと対応させる。但し、動体物が不定形である（形状や種類を特定できない）場合には、例外的に仮想体は該動体物の全てを含む最小の直方体とする。
【００５２】
次に、Ｓ６においてＣＰＵ４１は、先ず案内画像が配置された３次元立体地図を、車両（運転者）の視点から車両の進行方向に視認した画像（以下、視認画像という）を取得する。特に車両の視点は車両の運転者の目の位置とする。尚、運転者の目の位置については車内カメラ１２によって検出することが可能であり、前記Ｓ３での撮像画像と３次元立体地図の照合の結果、最終的に特定された車両の現在位置及び方位と、車内カメラ１２の検出結果を組み合わせることによって、３次元立体地図における運転者の目の位置を特定する。そして、視認画像は、３次元立体地図に配置された各オブジェクト（道路、建築物、道路標識、看板、案内画像、動体物の仮想体等）を運転者の視点から車両の進行方向に視認した際に視認できる像であり、車両の運転者の視界に相当する。尚、視認画像については運転者の視点から視認した画像であれば、必ずしも車両の進行方向に視認した画像である必要は無い。但し、少なくとも視認画像に案内画像が含まれる必要はある。
【００５３】
続いて、前記Ｓ６においてＣＰＵ４１は、視認画像に含まれる案内画像の形状を、ＨＵＤ４により表示対象とする案内画像の表示態様として記憶する。尚、視認画像に含まれる案内画像の形状は、３次元立体地図に配置された各オブジェクト（道路、建築物、道路標識、看板、仮想体、案内画像等）を車両（運転者）の視点から視認した際に視認できる案内画像の形状である。ここで、前記Ｓ６で記憶される案内画像の形状は、図７に示すように案内分岐点画像５４が手前側に位置する各オブジェクト６８（例えば道路標識、建築物など）や仮想体と重なって視認される場合には、重なる部分を除いた形状となる。一方で、案内分岐点画像５４が奥側に位置する各オブジェクト６９や仮想体と重なって視認される場合には、重なる部分についても含む形状となる。
【００５４】
更に、Ｓ７においてＣＰＵ４１は、３次元立体地図において配置された案内画像の位置を取得する。
【００５５】
その後、Ｓ８においてＣＰＵ４１は、後述の表示範囲決定処理（図１０）を行う。表示範囲決定処理では、ＨＵＤ４において案内画像を表示する範囲（フロントウィンドウ８に対して案内画像を投影する範囲、或いはＨＵＤ４の液晶ディスプレイ６に対して案内画像を表示する範囲）を決定する。
【００５６】
続いて、Ｓ９においてＣＰＵ４１は、ＨＵＤ４に対して制御信号を送信し、ＨＵＤ４の液晶ディスプレイ６に対して前記Ｓ６で記憶された形状の案内画像を、前記Ｓ８で決定された表示範囲に表示する。その結果、案内画像の虚像が、車両の運転者から車両前方の風景に重畳して視認される。
【００５７】
ここで、図８は特に案内分岐点を退出した後の車両が進行する進行路の進行方向が左方向（即ち左折）である場合に、車両の運転者から視認される案内画像の虚像を示した図である。
図８に示すように、車両のフロントウィンドウ８越しには、案内分岐点５６を左折した後の進行路の路面に対して上方に離間した位置に重畳して、左方へ進むことを示す矢印の案内分岐点画像５４が虚像として表示されている。更に、車両の右前方に位置する施設７０の壁面に重畳して、該施設７０を広告する看板画像５５が虚像として表示されている。また、案内分岐点画像５４の虚像は、進行路の手前側に位置する周辺対象物である道路標識７１と重なる領域については除いて表示される。従って、案内分岐点画像５４は、道路標識７１の奥側（後側）を通るように視認される。一方、進行路の奥側に立つ道路標識７２に対しては重なって表示される。従って、案内分岐点画像５４は、道路標識７２の手前側を通るように視認される。その結果、運転者９は、道路標識７１、７２の位置と、案内分岐点画像５４の虚像の位置との前後関係を認識することができ、進むべき進行路を正確に把握できる。尚、図８に示す例では特に案内分岐点画像５４の虚像と重なる周辺対象物が道路標識の場合であるが、建築物や動体物（歩行者や他車両）の場合についても同様にして表示される。更に、看板画像５５の虚像についても案内分岐点画像５４と同様に周辺対象物と重複する場合には、前後関係が明確となるように表示される
尚、図８に示す例では、案内分岐点画像５４の虚像と看板画像５５の虚像の両方を同時に表示しているが、車両の状況によっては案内分岐点画像５４の虚像のみを表示する状況もあれば看板画像５５の虚像のみを表示する状況もある。また、後述の案内線画像６０の虚像についても同時に表示される場合もある
【００５８】
一方、図９は車両が車道外側線が描かれていない道路を走行する場合に、車両の運転者から視認される案内画像の虚像を示した図である。
図９に示すように、車両のフロントウィンドウ８越しには、車両の走行する道路７３の路面において、車両が走行可能な範囲の限界を示す案内線画像６０が虚像として表示される。その結果、図９の上図のように案内線画像６０の虚像が表示される前では道路７３がどこまで存在するか、即ち車両がどこまでの範囲を走行可能かを運転者が把握し難いが、図９の下図のように案内線画像６０を表示した状態では案内線画像６０を境界として車両がどこまでの範囲を走行可能かを運転者が容易に把握することが可能となる。また、案内線画像６０の虚像は、上述した案内分岐点画像５４の虚像と同様に、路面の手前側に位置する周辺対象物（建築物、歩行者、他車両等）と重なる領域については除いて表示されるので、周辺対象物との前後関係が明確となる。
【００５９】
次に、前記Ｓ８において実行される表示範囲決定処理のサブ処理について図１０に基づき説明する。図１０は表示範囲決定処理のサブ処理プログラムのフローチャートである。
【００６０】
先ず、Ｓ２１においてＣＰＵ４１は、車両の運転者の目の位置を車内カメラ１２で撮像した撮像画像に基づいて検出する。尚、検出された目の位置は３次元の位置座標で特定される。
【００６１】
次に、Ｓ２２においてＣＰＵ４１は、ＨＵＤ４の表示がＯＮになっているか否かを判定する。尚、ＨＵＤ４の表示のＯＮ又はＯＦＦの切り替えは車両の運転者の操作によって行うことが可能である。また、周辺状況や車両の状態に基づいてＯＮ又はＯＦＦを自動で切り替えても良い。
【００６２】
そして、ＨＵＤ４の表示がＯＮになっていると判定された場合（Ｓ２２：ＹＥＳ）には、Ｓ２３へと移行する。一方、ＨＵＤ４の表示がＯＦＦになっていると判定された場合（Ｓ２２：ＮＯ）には、ＨＵＤ４による案内画像の虚像の表示を行うことなく終了する。
【００６３】
Ｓ２３においてＣＰＵ４１は、ＨＵＤ４によって画像を投影する対象となるフロントウィンドウ８の位置座標を取得する。尚、フロントウィンドウ８の位置座標は３次元の位置座標で特定される。
【００６４】
次に、Ｓ２４においてＣＰＵ４１は、前記Ｓ７で取得された３次元立体地図において配置された案内画像の位置を特定する座標を、案内画像の位置座標として取得する。尚、案内画像の位置座標は同じく３次元の位置座標で特定される。
【００６５】
続いて、Ｓ２５においてＣＰＵ４１は、前記Ｓ２１、Ｓ２３及びＳ２４で取得された各位置座標に基づいて、フロントウィンドウ８における案内画像の投影範囲を決定する。更に、決定された投影範囲からＨＵＤ４の内部の液晶ディスプレイ６における案内画像の表示範囲についても決定する。その後、Ｓ９へと移行し、決定された投影範囲や表示範囲に基づいてＨＵＤ４を用いた虚像の表示を行う。尚、ＨＵＤの表示がオフになるまで繰り返しＳ６〜Ｓ９の処理を行うこととなる。
【００６６】
以上詳細に説明した通り、本実施形態に係る重畳画像表示装置及び重畳画像表示装置において実行されるコンピュータプログラムによれば、車両の運転者へ情報を案内する案内画像を、車両前方の風景に重畳して視認させる場合において、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報３４を取得し（Ｓ１）、道路及び道路周辺の構造物の３次元形状に基づいて、３次元地図情報内に案内画像を配置し（Ｓ５）、３次元地図情報内における運転者の位置から案内画像を視認した場合の案内画像の形状を取得し（Ｓ６）、取得された形状の案内画像を表示する（Ｓ９）ので、案内画像と周辺にある構造物との位置関係を正確に車両の運転者に把握させることが可能となる。
【００６７】
尚、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、上記本実施形態では、ＨＵＤ４によって車両２のフロントウィンドウ８の前方に虚像を生成する構成としているが、フロントウィンドウ８以外のウィンドウの前方に虚像を生成する構成としても良い。また、ＨＵＤ４により映像を反射させる対象はフロントウィンドウ８自身ではなくフロントウィンドウ８の周辺に設置されたバイザー（コンバイナー）であっても良い。
【００６８】
また、本実施形態では、周辺環境に重畳する画像を表示する手段としてＨＵＤ４を用いているが、フロントウィンドウ８に対して画像を表示するウインドウシールドディスプレイ（ＷＳＤ）を用いても良い。或いはナビゲーション装置３の液晶ディスプレイ１７に表示した実景に、案内画像を重畳させる表示装置でもよい。
【００６９】
また、本実施形態では、案内画像として上述した（Ａ）〜（Ｃ）の３種類の案内画像を表示しているが、車両の運転者へ情報を案内する為の案内画像として他の案内画像を表示しても良い。例えば、警告対象物を囲む３次元の立体物を案内画像として表示しても良い。また、車道外側線以外の区画線や、横断歩道、停止線等の各種路面標示に対応する案内画像を表示しても良い。それらの路面標示の案内画像が表示されるタイミングは例えば車両の運転者からの路面標示の視認性が閾値以下であると判定された場合とし、案内画像が表示される位置は、車両が走行する路面であって路面標示が描かれている位置とする。
【００７０】
また、３次元地図情報３４が存在しないエリアに対しても、例えばフロントカメラ１１で撮像した撮像画像に対して点群マッチングを行うことによって、道路や道路周辺にある構造物を検出し、３次元立体地図５１を擬似的に生成することも可能である。そして、生成した３次元立体地図５１を用いてＳ２以降の処理を行うことも可能である。
【００７１】
また、本実施形態では、走行支援処理プログラム（図３）の処理をナビゲーション装置３のナビゲーションＥＣＵ１５が実行する構成としているが、実行主体は適宜変更することが可能である。例えば、ＨＵＤ４の制御部、車両制御ＥＣＵ、その他の車載器が実行する構成としても良い。尚、ＨＵＤ４の制御部が実行する場合には、本発明に係る重畳画像表示装置はＨＵＤ４のみで構成することも可能である。
【００７２】
また、本発明に係る重畳画像表示装置を具体化した実施例について上記に説明したが、重畳画像表示装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
【００７３】
例えば、第１の構成は以下のとおりである。
車両（２）に搭載され、前記車両の運転者へ情報を案内する案内画像（５４、５５、６０）を、前記車両前方の風景に重畳して視認させる重畳画像表示装置（１）であって、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報（３４）を取得する地図情報取得手段（４１）と、道路及び道路周辺の構造物（５２）の３次元形状に基づいて、３次元地図情報内に前記案内画像を配置する画像配置手段（４１）と、３次元地図情報内における運転者（９）の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する形状取得手段（４１）と、前記形状取得手段によって取得された形状の前記案内画像を表示する案内画像表示手段（４１）と、を有する。
上記構成を有する重畳画像表示装置によれば、道路及び道路周辺の構造物の３次元形状を特定する３次元地図情報に案内画像を配置することによって表示する案内画像の形状を特定するので、案内画像と周辺にある構造物との位置関係を正確に車両の運転者に把握させることが可能となる。
【００７４】
また、第２の構成は以下のとおりである。
前記案内画像は、２次元形状或いは３次元形状を有する。
上記構成を有する重畳画像表示装置によれば、案内画像の形状が２次元形状であっても３次元形状であっても、車両の運転者から視認できる案内画像の形状を容易に特定することが可能となる。
【００７５】
また、第３の構成は以下のとおりである。
前記運転者（９）の位置は運転者の目の位置であって、前記運転者の目の位置を取得する運転者情報取得手段（４１）を有し、前記形状取得手段（４１）は、３次元地図情報内における前記運転者の目の位置から前記案内画像を視認した場合の前記案内画像の形状を取得する。
上記構成を有する重畳画像表示装置によれば、車両の周囲に構造物などが存在した場合であっても、それらの構造物を考慮した車両の運転者から視認できる案内画像の形状を容易に特定することが可能となる。
【００７６】
また、第４の構成は以下のとおりである。
前記車両前方の風景を撮像した撮像画像を取得する撮像画像取得手段（４１）と、前記撮像画像と３次元地図情報（３４）を照合する照合手段と、前記照合手段の照合結果に基づいて、３次元地図情報内における前記運転者（９）の位置を特定する運転者位置特定手段（４１）と、を有する。
上記構成を有する重畳画像表示装置によれば、撮像画像と３次元地図情報を照合することによって、３次元地図情報に対する運転者の位置を正確に特定することが可能となる。
【００７７】
また、第５の構成は以下のとおりである。
前記照合手段（４１）は、所定の間隔で前記撮像画像と３次元地図情報（３４）を照合し、前記照合を行うタイミング間の３次元地図情報内における前記運転者の位置を推定する位置推定手段（４１）を有し、前記運転者位置特定手段（４１）は、前記照合を行うタイミング間では前記推定された運転者の位置を、３次元地図情報内における前記運転者の位置として特定する。
上記構成を有する重畳画像表示装置によれば、照合の回数を減らすことによって処理負担を軽減することが可能であり、一方で３次元地図情報に対する運転者の位置を推定することによって、３次元地図情報に対する運転者の位置の正確性についても保つことが可能となる。
【００７８】
また、第６の構成は以下のとおりである。
前記案内画像（５４、５５、６０）は、前記車両が走行する経路を案内する画像、看板の画像、路面上の案内線の画像の少なくとも一を含む。
上記構成を有する重畳画像表示装置によれば、例えば案内分岐点における車両の進行方向を示す矢印、施設や地点を案内する看板及び路面上の案内線に関する各種案内画像について、周辺にある構造物との位置関係を正確に車両の運転者に把握させることが可能となる。
【００７９】
また、第７の構成は以下のとおりである。
前記路面上の案内線の画像は、路面標示の画像である。
上記構成を有する重畳画像表示装置によれば、路面標示が存在しないが路面標示が存在したほうが良い道路、或いは路面標示が存在するものの運転者から視認し難い場合に、路面標示の画像を視認させることによって、運転者の運転操作を補助することが可能となる。
【００８０】
また、第８の構成は以下のとおりである。
前記路面上の案内線の画像は、車道と歩道の境界又は車道の縁部に対して重畳される。
上記構成を有する重畳画像表示装置によれば、特に車両が走行可能な範囲を案内する案内線を視認させることによって、運転者の運転操作を補助することが可能となる。
【００８１】
また、第９の構成は以下のとおりである。
前記構造物（５２）は、少なくとも一つの建築物又は道路標識である。
上記構成を有する重畳画像表示装置によれば、案内画像と周辺にある建築物や道路標識との位置関係を正確に車両の運転者に把握させることが可能となる。
【００８２】
また、第１０の構成は以下のとおりである。
前記３次元地図情報（３４）に、車両周辺にある動体物の３次元形状を特定する仮想体を配置する。
上記構成を有する重畳画像表示装置によれば、車両周辺に歩行者や自転車等の動体物がある場合において、案内画像と動体物との位置関係を正確に車両の運転者に把握させることが可能となる。
【符号の説明】
【００８３】
１          重畳画像表示装置
２          車両
３          ナビゲーション装置
４          ＨＵＤ
８          フロントウィンドウ
９          運転者
４１        ＣＰＵ
４２        ＲＡＭ
４３        ＲＯＭ
５１        ３次元立体地図
５２        オブジェクト
５４        案内分岐点画像
５５        看板画像
６０        案内線画像
【図１】
2019095213.tif 000003
【図２】
2019095213.tif 000004
【図３】
2019095213.tif 000005
【図４】
2019095213.tif 000006
【図５】
2019095213.tif 000007
【図６】
2019095213.tif 000008
【図７】
2019095213.tif 000009
【図８】
2019095213.tif 000010
【図９】
2019095213.tif 000011
【図１０】
2019095213.tif 000012