(57)【要約】【課題】注視点の設定によるユーザの負担を大きくすることなく、車両と障害物との位置関係を把握し易い表示用画像を表示する。【解決手段】実施形態の周辺監視装置は、一例として、車両が搭載する撮像部により当該車両の周囲を撮像して得られる撮像画像が、車両の周囲の三次元の面に貼り付けられたモデルと、三次元の車両画像と、を含む仮想空間内の注視点を仮想視点から見た表示用画像を生成する生成部と、表示用画像を表示部に出力する出力部と、を備える。また、生成部は、操作入力部を介して、車両画像の車幅方向への仮想視点の移動が指示された場合、仮想視点の車幅方向への移動に連動して、注視点を移動させる。【選択図】図４
2019036832.tif 000002
【特許請求の範囲】
【請求項１】
車両が搭載する撮像部により当該車両の周囲を撮像して得られる撮像画像が、前記車両の周囲の三次元の面に貼り付けられたモデルと、三次元の車両画像と、を含む仮想空間内の注視点を仮想視点から見た表示用画像を生成する生成部と、
前記表示用画像を表示部に出力する出力部と、を備え、
前記生成部は、操作入力部を介して、前記車両画像の車幅方向への前記仮想視点の移動が指示された場合、前記仮想視点の前記車幅方向への移動に連動して、前記注視点を移動させる、周辺監視装置。
【請求項２】
前記生成部は、前記注視点を前記車幅方向に移動させる請求項１に記載の周辺監視装置。
【請求項３】
前記生成部は、前記車幅方向において、前記仮想視点が移動した方向と同じ方向に前記注視点を移動させる請求項２に記載の周辺監視装置。
【請求項４】
前記生成部は、前記車幅方向における前記仮想視点の位置と前記注視点の位置とを一致させる請求項１から３のいずれか一に記載の周辺監視装置。
【請求項５】
前記注視点の前記車幅方向への移動量は、互いに異なる複数の移動量のうちいずれかに切替可能である請求項１から４のいずれか一に記載の周辺監視装置。
【請求項６】
前記車両画像の前後方向における前記注視点の位置は、互いに異なる複数の位置のうちいずれかに切替可能である請求項１から５のいずれか一に記載の周辺監視装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、周辺監視装置に関する。
【背景技術】
【０００２】
撮像部によって車両の周囲を撮像して得られる撮像画像に基づいて、車両の周囲の三次元の画像でありかつ車両の周囲の注視点を仮想視点から見た表示用画像を生成し、当該生成した表示用画像を表示部に表示させる技術が開発されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】国際公開第２０１４／１５６２２０号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、表示用画像を表示部に表示させる際に、注視点および仮想視点の両方をユーザが設定する場合、注視点および仮想視点の設定によるユーザの負担が大きくなる。
【課題を解決するための手段】
【０００５】
実施形態の周辺監視装置は、一例として、車両が搭載する撮像部により当該車両の周囲を撮像して得られる撮像画像が、車両の周囲の三次元の面に貼り付けられたモデルと、三次元の車両画像と、を含む仮想空間内の注視点を仮想視点から見た表示用画像を生成する生成部と、表示用画像を表示部に出力する出力部と、を備える。また、生成部は、操作入力部を介して、車両画像の車幅方向への仮想視点の移動が指示された場合、仮想視点の車幅方向への移動に連動して、注視点を移動させる。よって、本実施形態の周辺監視装置は、一例として、注視点の設定によるユーザの負担を大きくすることなく、車両と障害物との位置関係を把握し易い表示用画像を表示できる。
【０００６】
また、実施形態の周辺監視装置は、一例として、注視点を車幅方向に移動させる。よって、本実施形態の周辺監視装置は、一例として、車両と障害物との位置関係をより把握し易い表示用画像を表示できる。
【０００７】
また、実施形態の周辺監視装置は、一例として、生成部は、車幅方向において、仮想視点が移動した方向と同じ方向に注視点を移動させる。よって、本実施形態の周辺監視装置は、一例として、車両の乗員が確認したい画像を表示用画像として生成できる。
【０００８】
また、実施形態の周辺監視装置は、一例として、生成部は、車幅方向における仮想視点の位置と注視点の位置とを一致させる。よって、本実施形態の周辺監視装置は、一例として、車両の側方に存在する障害物との接触を避けたい場合に、少ない操作で車両の乗員が見たい表示用画像を表示させることができる。
【０００９】
また、実施形態の周辺監視装置は、一例として、注視点の車幅方向への移動量は、互いに異なる複数の移動量のうちいずれかに切替可能である。よって、本実施形態の周辺監視装置は、一例として、車両と障害物との位置関係をより把握し易い表示用画像の表示が可能となる。
【００１０】
また、実施形態の周辺監視装置は、一例として、車両画像の前後方向における注視点の位置は、互いに異なる複数の位置のうちいずれかに切替可能である。よって、本実施形態の周辺監視装置は、一例として、車両と障害物との位置関係をより把握し易い表示用画像の表示が可能となる。
【図面の簡単な説明】
【００１１】
【図１】図１は、第１の実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。
【図２】図２は、第１の実施形態にかかる車両の一例の平面図である。
【図３】図３は、第１の実施形態にかかる車両の機能構成の一例を示すブロック図である。
【図４】図４は、第１の実施形態にかかる車両が有するＥＣＵの機能構成の一例を示すブロック図である。
【図５】図５は、第１の実施形態にかかる車両による表示用画像の表示処理の流れの一例を示すフローチャートである。
【図６】図６は、第１の実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。
【図７】図７は、第１の実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。
【図８】図８は、第１の実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。
【図９】図９は、第１の実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。
【図１０】図１０は、第１の実施形態にかかる車両における注視点の移動処理の一例を説明するための図である。
【図１１】図１１は、第１の実施形態にかかる車両における注視点の移動処理の一例を説明するための図である。
【図１２】図１２は、仮想視点の移動に連動して注視点を移動させなかった場合における表示用画像の一例を示す図である。
【図１３】図１３は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。
【図１４】図１４は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。
【図１５】図１５は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。
【図１６】図１６は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。
【図１７】図１７は、第２の実施形態にかかる車両における注視点の移動処理の一例を説明するための図である。
【発明を実施するための形態】
【００１２】
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によって実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも１つを得ることが可能である。
【００１３】
本実施形態にかかる周辺監視装置（周辺監視システム）を搭載する車両は、内燃機関（エンジン）を駆動源とする自動車（内燃機関自動車）であっても良いし、電動機（モータ）を駆動源とする自動車（電気自動車、燃料電池自動車等）であっても良いし、それらの双方を駆動源とする自動車（ハイブリッド自動車）であっても良い。また、車両は、種々の変速装置、内燃機関や電動機の駆動に必要な種々の装置（システム、部品等）を搭載可能である。また、車両における車輪の駆動に関わる装置の方式、個数、レイアウト等は、種々に設定可能である。
【００１４】
（第１の実施形態）
図１は、第１の実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。図１に示すように、車両１は、車体２と、操舵部４と、加速操作部５と、制動操作部６と、変速操作部７と、モニタ装置１１と、を備える。車体２は、乗員が乗車する車室２ａを有する。車室２ａ内には、乗員としての運転手が座席２ｂに臨む状態で、操舵部４や、加速操作部５、制動操作部６、変速操作部７等が設けられている。操舵部４は、例えば、ダッシュボード２４から突出したステアリングホイールである。加速操作部５は、例えば、運転手の足下に位置されたアクセルペダルである。制動操作部６は、例えば、運転手の足下に位置されたブレーキペダルである。変速操作部７は、例えば、センターコンソールから突出したシフトレバーである。
【００１５】
モニタ装置１１は、例えば、ダッシュボード２４の車幅方向（すなわち、左右方向）の中央部に設けられる。モニタ装置１１は、例えば、ナビゲーションシステムまたはオーディオシステム等の機能を有していても良い。モニタ装置１１は、表示装置８、音声出力装置９、および操作入力部１０を有する。また、モニタ装置１１は、スイッチ、ダイヤル、ジョイスティック、および押しボタン等の各種の操作入力部を有しても良い。
【００１６】
表示装置８は、ＬＣＤ（Liquid  Crystal  Display）やＯＥＬＤ（Organic  Electroluminescent  Display）等で構成され、画像データに基づいて各種画像を表示可能である。音声出力装置９は、スピーカ等で構成され、音声データに基づいて各種音声を出力する。音声出力装置９は、車室２ａ内において、モニタ装置１１以外の異なる位置に設けられていても良い。
【００１７】
操作入力部１０は、タッチパネル等で構成され、乗員による各種情報の入力を可能とする。また、操作入力部１０は、表示装置８の表示画面に設けられ、表示装置８に表示される画像を透過可能である。これにより、操作入力部１０は、表示装置８の表示画面に表示される画像を乗員に視認させることを可能とする。操作入力部１０は、表示装置８の表示画面上における乗員のタッチ操作を検出することによって、乗員による各種情報の入力を受け付ける。
【００１８】
図２は、第１の実施形態にかかる車両の一例の平面図である。図１および図２に示すように、車両１は、四輪自動車等であり、左右２つの前輪３Ｆと、左右２つの後輪３Ｒと、を有する。４つの車輪３の全てまたは一部が、転舵可能である。
【００１９】
車両１は、複数の撮像部１５を搭載する。本実施形態では、車両１は、例えば、４つの撮像部１５ａ〜１５ｄを搭載する。撮像部１５は、ＣＣＤ（Charge  Coupled  Device）またはＣＩＳ（CMOS  Image  Sensor）等の撮像素子を有するデジタルカメラである。撮像部１５は、所定のフレームレートで車両１の周囲を撮像可能である。そして、撮像部１５は、車両１の周囲を撮像して得られた撮像画像を出力する。撮像部１５は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には、例えば、１４０°〜２２０°の範囲を撮像可能である。また、撮像部１５の光軸は、斜め下方に向けて設定されている場合もある。
【００２０】
具体的には、撮像部１５ａは、例えば、車体２の後側の端部２ｅに位置し、リアハッチのドア２ｈのリアウィンドウの下方の壁部に設けられている。そして、撮像部１５ａは、車両１の周囲のうち、当該車両１の後方の領域を撮像可能である。撮像部１５ｂは、例えば、車体２の右側の端部２ｆに位置し、右側のドアミラー２ｇに設けられている。そして、撮像部１５ｂは、車両１の周囲のうち、当該車両の側方の領域を撮像可能である。撮像部１５ｃは、例えば、車体２の前側、すなわち、車両１の前後方向の前方側の端部２ｃに位置し、フロントバンパやフロントグリル等に設けられている。そして、撮像部１５ｃは、車両１の周囲のうち、当該車両１の前方の領域を撮像可能である。撮像部１５ｄは、例えば、車体２の左側、すなわち、車幅方向の左側の端部２ｄに位置し、左側のドアミラー２ｇに設けられている。そして、撮像部１５ｄは、車両１の周囲のうち、当該車両１の側方の領域を撮像可能である。
【００２１】
図３は、第１の実施形態にかかる車両の機能構成の一例を示すブロック図である。図３に示すように、車両１は、操舵システム１３と、ブレーキシステム１８と、舵角センサ１９と、アクセルセンサ２０と、シフトセンサ２１と、車輪速センサ２２と、車内ネットワーク２３と、ＥＣＵ（Electronic  Control  Unit）１４と、を備える。モニタ装置１１、操舵システム１３、ブレーキシステム１８、舵角センサ１９、アクセルセンサ２０、シフトセンサ２１、車輪速センサ２２、およびＥＣＵ１４は、電気通信回線である車内ネットワーク２３を介して電気的に接続されている。車内ネットワーク２３は、ＣＡＮ（Controller  Area  Network）等により構成される。
【００２２】
操舵システム１３は、電動パワーステアリングシステムやＳＢＷ（Steer  By  Wire）システム等である。操舵システム１３は、アクチュエータ１３ａおよびトルクセンサ１３ｂを有する。そして、操舵システム１３は、ＥＣＵ１４等によって電気的に制御され、アクチュエータ１３ａを動作させて、操舵部４に対して、トルクを付加して操舵力を補うことによって、車輪３を転舵する。トルクセンサ１３ｂは、運転者が操舵部４に与えるトルクを検出し、その検出結果をＥＣＵ１４に送信する。
【００２３】
ブレーキシステム１８は、車両１のブレーキのロックを制御するＡＢＳ（Anti-lock  Brake  System）、コーナリング時の車両１の横滑りを抑制する横滑り防止装置（ＥＳＣ：Electronic  Stability  Control）、ブレーキ力を増強させてブレーキをアシストする電動ブレーキシステム、およびＢＢＷ（Brake  By  Wire）を含む。ブレーキシステム１８は、アクチュエータ１８ａおよびブレーキセンサ１８ｂを有する。ブレーキシステム１８は、ＥＣＵ１４等によって電気的に制御され、アクチュエータ１８ａを介して、車輪３に制動力を付与する。ブレーキシステム１８は、左右の車輪３の回転差等から、ブレーキのロック、車輪３の空回り、および横滑りの兆候等を検出して、ブレーキのロック、車輪３の空回り、および横滑りを抑制する制御を実行する。ブレーキセンサ１８ｂは、制動操作部６の可動部としてのブレーキペダルの位置を検出する変位センサであり、ブレーキペダルの位置の検出結果をＥＣＵ１４に送信する。
【００２４】
舵角センサ１９は、ステアリングホイール等の操舵部４の操舵量を検出するセンサである。本実施形態では、舵角センサ１９は、ホール素子等で構成され、操舵部４の回転部分の回転角度を操舵量として検出し、その検出結果をＥＣＵ１４に送信する。アクセルセンサ２０は、加速操作部５の可動部としてのアクセルペダルの位置を検出する変位センサであり、その検出結果をＥＣＵ１４に送信する。
【００２５】
シフトセンサ２１は、変速操作部７の可動部（バー、アーム、ボタン等）の位置を検出するセンサであり、その検出結果をＥＣＵ１４に送信する。車輪速センサ２２は、ホール素子等を有し、車輪３の回転量や単位時間当たりの車輪３の回転数を検出するセンサであり、その検出結果をＥＣＵ１４に送信する。
【００２６】
ＥＣＵ１４は、撮像部１５により車両１の周囲を撮像して得られる撮像画像に基づいて、仮想視点から、車両１の周囲の注視点を見た画像を生成し、当該生成した画像を表示装置８に表示させる。ＥＣＵ１４は、コンピュータ等で構成され、ハードウェアとソフトウェアが協働することにより、車両１の制御全般を司る。具体的には、ＥＣＵ１４は、ＣＰＵ（Central  Processing  Unit）１４ａ、ＲＯＭ（Read  Only  Memory）１４ｂ、ＲＡＭ（Random  Access  Memory）１４ｃ、表示制御部１４ｄ、音声制御部１４ｅ、およびＳＳＤ（Solid  State  Drive）１４ｆを備える。ＣＰＵ１４ａ、ＲＯＭ１４ｂ、およびＲＡＭ１４ｃは、同一の回路基板内に設けられていても良い。
【００２７】
ＣＰＵ１４ａは、ＲＯＭ１４ｂ等の不揮発性の記憶装置に記憶されたプログラムを読み出し、当該プログラムに従って各種の演算処理を実行する。例えば、ＣＰＵ１４ａは、表示装置８に表示させる画像データに対する画像処理、車両１の周囲に存在する障害物までの距離の算出等を実行する。
【００２８】
ＲＯＭ１４ｂは、各種プログラムおよび当該プログラムの実行に必要なパラメータ等を記憶する。ＲＡＭ１４ｃは、ＣＰＵ１４ａでの演算で用いられる各種データを一時的に記憶する。表示制御部１４ｄは、ＥＣＵ１４での演算処理のうち、主として、撮像部１５から取得してＣＰＵ１４ａへ出力する画像データに対する画像処理、ＣＰＵ１４ａから取得した画像データを表示装置８に表示させる表示用の画像データへの変換等を実行する。音声制御部１４ｅは、ＥＣＵ１４での演算処理のうち、主として、ＣＰＵ１４ａから取得して音声出力装置９に出力させる音声の処理を実行する。ＳＳＤ１４ｆは、書き換え可能な不揮発性の記憶部であって、ＥＣＵ１４の電源がオフされた場合にあってもＣＰＵ１４ａから取得したデータを記憶し続ける。
【００２９】
図４は、第１の実施形態にかかる車両が有するＥＣＵの機能構成の一例を示すブロック図である。図４に示すように、ＥＣＵ１４は、表示用画像生成部４０１および表示用画像出力部４０２を備える。例えば、回路基板に搭載されたＣＰＵ１４ａ等のプロセッサが、ＲＯＭ１４ｂまたはＳＳＤ１４ｆ等の記憶媒体内に格納された周辺監視用のプログラムを実行することにより、ＥＣＵ１４は、表示用画像生成部４０１および表示用画像出力部４０２の機能を実現する。表示用画像生成部４０１および表示用画像出力部４０２の一部または全部を回路等のハードウェアによって構成しても良い。
【００３０】
表示用画像生成部４０１は、撮像部１５から、車両１の周囲を撮像部１５により撮像して得られる撮像画像を取得する。本実施形態では、表示用画像生成部４０１は、ある時刻（以下、過去時刻と言う）の車両１の位置（以下、過去位置と言う）における当該車両１の周囲を撮像部１５によって撮像して得られる撮像画像を取得する。次いで、表示用画像生成部４０１は、取得した撮像画像に基づいて、車両１と当該車両１の周囲に存在する障害物との位置関係を視認可能とする表示用画像を生成する。
【００３１】
具体的には、表示用画像生成部４０１は、取得した撮像画像に基づいて、仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た画像を表示用画像として生成する。ここでは、仮想空間は、車両１の周囲の空間であり、かつ当該空間内における、過去時刻より後の時刻（例えば、現在時刻）の車両１の位置（例えば、現在位置）に対して、車両画像を設けた空間である。また、車両画像は、仮想空間を透視可能な三次元の車両１の画像である。
【００３２】
本実施形態では、表示用画像生成部４０１は、取得した撮像画像を、車両１の周囲の三次元の面（以下、カメラ画モデルと言う）に対して貼り付け、当該カメラ画モデルを含む空間を、車両１の周囲の空間として生成する。次いで、表示用画像生成部４０１は、生成した空間内の車両１の現在位置に対して、車両画像を配置した空間を仮想空間として生成する。その後、表示用画像生成部４０１は、生成した仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た画像を表示用画像として生成する。
【００３３】
また、表示用画像生成部４０１は、操作入力部１０を介して、車両画像の車幅方向への仮想視点の移動が指示された場合、車両画像の車幅方向への仮想視点の移動に連動して、注視点を移動させる。これにより、仮想視点の移動に伴って、注視点も連動して移動させることができるので、注視点の設定によるユーザの負担を大きくすることなく、車両１と障害物との位置関係を把握し易い表示用画像を表示できる。本実施形態では、表示用画像生成部４０１は、車両画像の車幅方向への仮想視点の移動に連動して、注視点を車幅方向に移動させる。これにより、仮想視点の移動に伴って、車両１の乗員が見たい方向へ注視点も連動して移動させることができるので、注視点の設定によるユーザの負担を大きくすることなく、車両１と障害物との位置関係をより把握し易い表示用画像を表示できる。表示用画像出力部４０２は、表示用画像生成部４０１により生成される表示用画像を、表示装置８に出力する。
【００３４】
次に、図５を用いて、本実施形態にかかる車両１による表示用画像の表示処理の流れの一例について説明する。図５は、第１の実施形態にかかる車両による表示用画像の表示処理の流れの一例を示すフローチャートである。
【００３５】
本実施形態では、表示用画像生成部４０１は、表示用画像の表示を指示する表示指示を取得する（ステップＳ５０１）。表示指示を取得した場合（ステップＳ５０２：Ｙｅｓ）、表示用画像生成部４０１は、過去位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像を取得する（ステップＳ５０３）。例えば、表示用画像生成部４０１は、現在時刻より予め設定された時間（例えば、数秒）前の過去時刻の車両１の過去位置（若しくは、車両１の現在位置よりも予め設定された距離（例えば、２ｍ）手前の過去位置）において車両１の周囲を撮像部１５により撮像して得られた撮像画像を取得する。
【００３６】
次に、表示用画像生成部４０１は、取得した撮像画像に基づいて、仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た表示用画像を生成する（ステップＳ５０４）。本実施形態では、表示用画像生成部４０１は、過去位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に基づいて、表示用画像を生成しているが、撮像部１５により車両１の周囲を撮像して得られる撮像画像に基づいて、表示用画像を生成するものであれば良い。例えば、表示用画像生成部４０１は、現在位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に基づいて、表示用画像を生成する。
【００３７】
また、表示用画像生成部４０１は、車両１の走行状態に応じて、表示用画像の生成に用いる撮像画像を、過去位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像、または現在位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に切り替えても良い。例えば、シフトセンサ２１により変速操作部７が低速用のギア（例えば、Ｌ４）に切り替えられるなど、車両１がオフロードを走行することを検出した場合、表示用画像生成部４０１は、過去位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に基づいて表示用画像を生成する。これにより、車両１の周辺の路面状況が把握し易い視野角の表示用画像が生成可能となる。一方、シフトセンサ２１により変速操作部７が高速用のギアに切り替えられるなど、車両１がオンロードを走行することを検出した場合、表示用画像生成部４０１は、現在位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に基づいて表示用画像を生成する。これにより、車両１と当該車両１の周囲に存在する障害物との最新の位置関係を把握し易い視野角の表示用画像が生成可能となる。
【００３８】
表示用画像出力部４０２は、表示用画像生成部４０１により生成された表示用画像を表示装置８に出力して、表示装置８に対して表示用画像を表示させる（ステップＳ５０５）。その後、表示用画像生成部４０１は、表示用画像の表示終了を指示する終了指示を取得する（ステップＳ５０６）。終了指示が取得された場合（ステップＳ５０７：Ｙｅｓ）、表示用画像出力部４０２は、表示装置８に対する表示用画像の出力を停止して、表示装置８に対する表示用画像の表示を終了させる（ステップＳ５０８）。
【００３９】
一方、終了指示が取得されなかった場合（ステップＳ５０７：Ｎｏ）、表示用画像生成部４０１は、操作入力部１０を介して、車両画像の車幅方向への仮想視点の移動が指示されたか否かを判断する（ステップＳ５０９）。車両画像の車幅方向への仮想視点の移動が指示されずに、予め設定された時間経過した場合（ステップＳ５０９：Ｎｏ）、表示用画像出力部４０２は、表示装置８に対する表示用画像の出力を停止して、表示装置８に対する表示用画像の表示を終了させる（ステップＳ５０８）。
【００４０】
車両画像の車幅方向への仮想視点の移動が指示された場合（ステップＳ５０９：Ｙｅｓ）、表示用画像生成部４０１は、車両画像の車幅方向に仮想視点を移動させ、かつ当該仮想視点の移動に連動して、注視点を車両画像の車幅方向に移動させる（ステップＳ５１０）。その後、表示用画像生成部４０１は、ステップＳ５０４に戻り、仮想空間内における移動後の注視点を、移動後の仮想視点から見た表示用画像を生成し直す。
【００４１】
次に、図６〜９を用いて、本実施形態にかかる車両１による表示用画像の生成処理の一例について説明する。図６，７は、第１の実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。図６および図７において、車両１のタイヤの接地面（すなわち、地面）と平行な１つの方向をＺ方向とし、車両１のタイヤの接地面と平行かつＺ方向と直交する方向をＸ方向とし、接地面に対して垂直な方向をＹ方向とする。図８，９は、第１の実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。
【００４２】
本実施形態では、表示用画像生成部４０１は、図６および図７に示すように、第１面Ｓ１と第２面Ｓ２とを含むカメラ画モデルＳを予め生成する。本実施形態では、第１面Ｓ１は、車両１が存在する路面に対応する平坦な面である。例えば、第１面Ｓ１は、楕円形の平坦な面である。第２面Ｓ２は、第１面Ｓ１を基準として、第１面Ｓ１の外側（外縁）から、当該第１面から離れるに従ってＹ方向に徐々に立ち上がる曲面である。例えば、第２面Ｓ２は、第１面Ｓ１の外側から、Ｙ方向に楕円状または放物線状に立ち上がる曲面である。すなわち、表示用画像生成部４０１は、お椀型または円筒状の三次元の面である貼付面をカメラ画モデルＳとして生成する。
【００４３】
本実施形態では、表示用画像生成部４０１は、平坦な第１面Ｓ１と、曲面の第２面Ｓ２と、を有する三次元の貼付面をカメラ画モデルＳとして生成しているが、三次元の貼付面をカメラ画モデルＳとして生成するものであれば、これに限定するものではない。例えば、表示用画像生成部４０１は、平坦な第１面Ｓ１と、当該第１面Ｓ１の外側から当該第１面Ｓ１に対して垂直または徐々に立ち上がる平坦な面の第２面Ｓ２と、を有する三次元の貼付面をカメラ画モデルＳとして生成しても良い。
【００４４】
次に、表示用画像生成部４０１は、過去位置Ｐ１において車両１の周囲を撮像部１５によって撮像して得られた撮像画像を、カメラ画モデルＳに対して貼り付ける。本実施形態では、表示用画像生成部４０１は、過去位置Ｐ１を原点とするワールド座標系で表されるカメラ画モデルＳ内の点（以下、貼付点と言う）の座標（以下、三次元座標と言う）と、当該三次元座標の貼付点に貼り付ける、撮像画像内の点（以下、カメラ画点と言う）の座標（以下、カメラ画座標と言う）とを対応付ける座標テーブルを予め作成する。そして、表示用画像生成部４０１は、撮像画像内のカメラ画点を、座標テーブルにおいて当該カメラ画点のカメラ画座標と対応付けられる三次元座標の貼付点に貼り付ける。本実施形態では、表示用画像生成部４０１は、車両１の内燃機関またはモータがスタートされる度に、当該座標テーブルを作成する。
【００４５】
次いで、表示用画像生成部４０１は、撮像画像を貼り付けたカメラ画モデルＳを、車両１の周囲の空間に配置する。さらに、表示用画像生成部４０１は、図８に示すように、カメラ画モデルＳを配置した空間内における車両１の現在位置Ｐ２に対して、車両画像ＣＧを配置した空間を仮想空間Ａとして生成する。仮想空間Ａを生成すると、表示用画像生成部４０１は、図６に示すように、当該仮想空間Ａにおける車両画像ＣＧの前端から、第１面Ｓ１に対して垂直に下した点を注視点Ｐ３に設定する。次いで、表示用画像生成部４０１は、図８に示すように、操作入力部１０から入力された仮想視点Ｐ４から注視点Ｐ３を見た表示用画像を生成する。これにより、表示用画像に含まれる障害物の画像を立体的な車両画像ＣＧと同時に視認できるので、車両１と障害物との位置関係を把握し易くすることができる。
【００４６】
その後、操作入力部１０を介して仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、仮想視点Ｐ４を移動させ、かつ当該仮想視点Ｐ４の移動に連動して、注視点Ｐ３を移動させる。例えば、図９に示すように、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央Ｃから右側への仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央Ｃから右側へ仮想視点Ｐ４を移動させるとともに、車両画像ＣＧの車幅方向において中央Ｃから右側へ注視点Ｐ３を移動させる。これにより、仮想視点Ｐ４の移動に伴って、車両１の乗員が見たい方向へ注視点Ｐ３も連動して移動させることができるので、注視点Ｐ３の設定によるユーザの負担を大きくすることなく、車両１と障害物との位置関係をより把握し易い表示用画像を生成できる。
【００４７】
また、過去位置Ｐ１における車両１の周囲（例えば、車両１の前方）を広角のカメラ（例えば、画角が１８０°のカメラ）により撮像して得られる撮像画像が貼り付けられたカメラ画モデルＳを含む仮想空間Ａの画像をそのまま表示装置８に表示させた場合、撮像画像に含まれる車両１の画像（例えば、車両１のフロントバンパの画像）が表示用画像に映り込んでしまい、車両１の乗員が、違和感を覚えることがある。これに対して、本実施形態では、表示用画像生成部４０１は、車両１の過去位置Ｐ１から、車両１の外側に向かって、隙間を空けて、カメラ画モデルＳを設けることにより、撮像画像に含まれる車両１の画像が表示用画像に映り込むことを防止できるので、車両１の乗員が違和感を覚えることを防止できる。
【００４８】
次に、図１０〜１３を用いて、本実施形態にかかる車両１における注視点の移動処理の一例について説明する。図１０および図１１は、第１の実施形態にかかる車両における注視点の移動処理の一例を説明するための図である。図１２は、仮想視点の移動に連動して注視点を移動させなかった場合における表示用画像の一例を示す図である。図１３は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。
【００４９】
本実施形態では、表示用画像生成部４０１は、操作入力部１０を介して車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動が指示された場合、車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動に連動して、注視点Ｐ３を車両画像ＣＧの車幅方向に移動させる。その際、表示用画像生成部４０１は、車両画像ＣＧの車幅方向において、仮想視点Ｐ４が移動した方向と同じ方向に注視点Ｐ３を移動させるものとする。これにより、仮想視点Ｐ４の移動に連動して、車両１の乗員が確認したい位置に注視点Ｐ３を近づけることができるので、車両１の乗員が確認したい画像を表示用画像として生成できる。
【００５０】
例えば、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央Ｃから左側への仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、図１０および図１１に示すように、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央Ｃから左側への仮想視点Ｐ４の移動に連動して、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央Ｃから左側へ注視点Ｐ３を移動させる。そして、表示用画像生成部４０１は、移動後の注視点Ｐ３を、移動後の仮想視点Ｐ４から見た表示用画像を生成する。その際、表示用画像生成部４０１は、移動後の注視点Ｐ３が、表示用画像の中心に位置するように、表示用画像を生成するものとする。
【００５１】
図１２に示すように、仮想視点Ｐ４の移動に連動して注視点Ｐ３を移動させなかった場合、仮想視点Ｐ４を移動させた後、車両１の乗員が操作入力部１０を操作して、車両画像ＣＧの中央Ｃに位置する注視点Ｐ３を見たい位置（例えば、車両画像ＣＧの車輪近傍）へと移動させなければならず、車両１の乗員が確認したい表示用画像Ｇを簡単に表示させることが難しい。
【００５２】
これに対して、図１３に示すように、仮想視点Ｐ４の移動に連動して、車両画像ＣＧの中央Ｃから注視点Ｐ３を移動させた場合、仮想視点Ｐ４を移動させるだけで、車両１の乗員が見たい位置へ注視点Ｐ３を移動させることができるので、車両１の乗員が確認したい表示用画像Ｇを容易に表示させることができる。また、本実施形態では、表示用画像生成部４０１は、車両画像ＣＧの車幅方向において、仮想視点Ｐ４が移動した方向と同じ方向に注視点Ｐ３を移動させているが、これに限定するものではなく、車両画像ＣＧの車幅方向において、仮想視点Ｐ４が移動した方向と反対の方向に注視点Ｐ３を移動させても良い。
【００５３】
また、本実施形態では、表示用画像生成部４０１は、図１０および図１１に示すように、仮想視点Ｐ４を移動させる場合、車両画像ＣＧの車幅方向への注視点Ｐ３の移動量を、車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動量より少なくする。これにより、車両１の近傍に存在する障害物と車両１との位置関係を確認した場合に、注視点Ｐ３が大きく移動することを防止できるので、車両１の近傍に存在する障害物が表示用画像の視野角から外れることなく、車両１の乗員が見たい位置がより確認し易い位置に注視点Ｐ３を移動させることができる。
【００５４】
本実施形態では、表示用画像生成部４０１は、車両画像ＣＧの車幅方向への注視点Ｐ３の移動量を、車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動量より少なくしているが、注視点Ｐ３の移動量を、互いに異なる複数の移動量のうちいずれかに切替可能としても良い。これにより、車両画像ＣＧの車幅方向において、車両１の乗員が見たい障害物との位置関係がより確認し易い位置に注視点Ｐ３を移動させることができるので、車両１と障害物との位置関係をより把握し易い表示用画像の表示が可能となる。
【００５５】
例えば、車両１の側方が壁等に囲まれている交差点等、車両１の左右方向への視野が制限されている位置で表示用画像を表示する場合、表示用画像生成部４０１は、車両画像ＣＧの車幅方向への注視点Ｐ３の移動量を、車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動量より大きくする。これにより、車両１の左右方向への視野が制限されている位置においては、車両１の左右方向において注視点Ｐ３を広範囲に移動させることができるので、車両１と当該車両１の左右方向の広範囲に存在する障害物との位置関係をより把握し易い表示用画像を表示できる。
【００５６】
また、本実施形態では、表示用画像生成部４０１は、車両画像ＣＧの前後方向への注視点Ｐ３の位置を、互いに異なる複数の位置のいずれかに切替可能とすることも可能である。これにより、車両画像ＣＧの前後方向において、車両１の乗員が見たい障害物との位置関係がより確認し易い位置に注視点Ｐ３を移動させることができるので、車両１と障害物との位置関係をより把握し易い表示用画像の表示が可能となる。
【００５７】
例えば、シフトセンサ２１により変速操作部７が低速用のギアに切り替えられるなど、車両１がオフロードを走行することを検出した場合、表示用画像生成部４０１は、車両画像ＣＧの前後方向への注視点Ｐ３の位置を、当該車両画像ＣＧの内部（例えば、車両画像ＣＧの車軸の位置）または車両画像ＣＧの近傍に位置付ける。これにより、車両１と当該車両１の近傍の障害物との位置関係が把握し易い視野角の表示用画像を表示できる。一方、シフトセンサ２１により変速操作部７が高速用のギアに切り替えられるなど、車両１がオンロードを走行することを検出した場合、表示用画像生成部４０１は、車両画像ＣＧの前後方向への注視点Ｐ３の位置を、当該車両画像ＣＧから進行方向に向かって予め設定された距離離れた位置に位置付ける。これにより、車両１と当該車両１から離れた位置に存在する障害物との位置関係を把握し易い表示用画像を表示できる。
【００５８】
また、本実施形態では、表示用画像生成部４０１は、車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動に連動して、車両画像ＣＧの前後方向への仮想視点Ｐ４の位置も移動させることも可能である。例えば、シフトセンサ２１により変速操作部７が低速用のギアに切り替えられるなど、車両１がオフロードを走行していることを検出した場合、表示用画像生成部４０１は、図１１に示すように、車両画像ＣＧの前後方向への仮想視点Ｐ４の位置を、当該仮想視点Ｐ４の車幅方向への位置が車両画像ＣＧの中央Ｃからずれるに従って、車両画像ＣＧの進行方向に移動させる。これにより、車両１と当該車両１の近傍に存在する障害物との位置関係が把握し易い視野角の表示用画像を生成可能となる。
【００５９】
一方、シフトセンサ２１により変速操作部７が高速用のギアに切り替えられるなど、車両１がオンロードを走行することを検出した場合、表示用画像生成部４０１は、図１０に示すように、車両画像ＣＧの前後方向への仮想視点Ｐ４の位置を、当該仮想視点Ｐ４の位置が車両画像ＣＧの中央Ｃからずれても、移動させない（すなわち、車両画像ＣＧの車幅方向と平行に仮想視点Ｐ４を移動させる）。これにより、車両１と当該車両１から離れた位置に存在する障害物との位置関係を把握し易い表示用画像を生成可能となる。
【００６０】
さらに、本実施形態では、表示用画像生成部４０１は、車両画像ＣＧの車幅方向への注視点Ｐ３の移動に連動して、車両画像ＣＧの前後方向への注視点Ｐ３の位置も移動させることも可能である。例えば、表示用画像生成部４０１は、車両画像ＣＧの車幅方向において中央Ｃから注視点Ｐ３が離れるに従って、車両画像ＣＧの前後方向への注視点Ｐ３の位置を、車両画像ＣＧの進行方向へ移動させる。
【００６１】
次に、図１４〜１６を用いて、本実施形態にかかる車両１において生成される表示用画像の一例について説明する。図１４〜１６は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。
【００６２】
表示用画像出力部４０２は、図１４に示すように、表示用画像生成部４０１により生成された表示用画像Ｇを表示装置８に出力して、表示装置８に対して表示用画像Ｇを表示させる。その後、図１４に示す表示用画像Ｇが表示された表示装置８の表示画面上において車両１の乗員がフリック等を行って、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から右側への仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、図１５に示すように、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から右側に移動させた仮想視点Ｐ４から、当該仮想視点Ｐ４と同じ方向に移動させた注視点Ｐ３を見た画像を表示用画像Ｇとして生成する。
【００６３】
一方、表示装置８の表示画面上において車両１の乗員がフリックを行って、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から左側への仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、図１６に示すように、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から左側に移動させた仮想視点Ｐ４から、当該仮想視点Ｐ４と同じ方向に移動させた注視点Ｐ３を見た画像を表示用画像Ｇとして生成する。これにより、車両画像ＣＧと障害物との位置関係を様々な角度から見た表示用画像Ｇを表示できるので、車両１と障害物との位置関係をより把握し易くすることができる。
【００６４】
このように、第１の実施形態にかかる車両１によれば、仮想視点の移動に伴って、車両１の乗員が見たい方向へ注視点も連動して移動させることができるので、注視点の設定によるユーザの負担を大きくすることなく、車両１と障害物との位置関係を把握し易い表示用画像を表示できる。
【００６５】
（第２の実施形態）
本実施形態は、仮想空間内に配置した車両画像の車幅方向における仮想視点の位置と注視点の位置とを一致させる例である。以下の説明では、第１の実施形態と同様の構成については説明を省略する。
【００６６】
図１７は、第２の実施形態にかかる車両における注視点の移動処理の一例を説明するための図である。本実施形態では、表示用画像生成部４０１は、図１７に示すように、操作入力部１０を介して、車両画像ＣＧの車幅方向の中央Ｃから左側の位置Ｘ１への仮想視点Ｐ４の移動が指示された場合、仮想視点Ｐ４を位置Ｘ１へ移動させる。それに伴い、表示用画像生成部４０１は、図１７に示すように、車両画像ＣＧの車幅方向における仮想視点Ｐ４の移動量と同じ移動量だけ、車両画像ＣＧの車幅方向の中央Ｃから左側へ向かって注視点Ｐ３を移動させる。
【００６７】
また、表示用画像生成部４０１は、図１７に示すように、操作入力部１０を介して、車両画像ＣＧの車幅方向の中央Ｃから左側の位置Ｘ２への仮想視点Ｐ４の移動が指示された場合、仮想視点Ｐ４を位置Ｘ２へ移動させる。それに伴い、表示用画像生成部４０１は、図１７に示すように、車両画像ＣＧの車幅方向における仮想視点Ｐ４の移動量と同じ移動量だけ、車両画像ＣＧの車幅方向の中央Ｃから左側に向かって注視点Ｐ３を移動させる。
【００６８】
すなわち、表示用画像生成部４０１は、仮想空間Ａ内に配置した車両画像ＣＧの車幅方向における仮想視点Ｐ４の位置と注視点Ｐ３の位置とを一致させる。これにより、図１７に示すように、車両画像ＣＧと当該車両画像ＣＧの側方に存在する障害物との位置関係が把握し易くなるので、細い路地をすり抜ける場合や車両１を路肩に寄せる場合など、車両１の側方に存在する障害物との接触を避けたい場合に、少ない操作で車両１の乗員が見たい表示用画像を表示させることができる。
【００６９】
本実施形態では、シフトセンサ２１により変速操作部７が高速用のギアに切り替えられるなど、車両１がオンロードを走行することを検出した場合、表示用画像生成部４０１は、仮想空間Ａ内に配置した車両画像ＣＧの車幅方向における仮想視点Ｐ４の位置と注視点Ｐ３の位置とを一致させる。一方、シフトセンサ２１により変速操作部７が低速用のギアに切り替えられるなど、車両１がオフロードを走行することを検出した場合、表示用画像生成部４０１は、車両画像ＣＧの車幅方向への注視点Ｐ３の移動量を、車両画像ＣＧの車幅方向への仮想視点Ｐ４の移動量より少なくする。
【００７０】
このように、第２の実施形態にかかる車両１によれば、車両画像ＣＧと当該車両画像ＣＧの側方に存在する障害物との位置関係が把握し易くなるので、細い路地をすり抜ける場合や車両１を路肩に寄せる場合など、車両１の側方に存在する障害物との接触を避けたい場合に、少ない操作で車両１の乗員が見たい表示用画像を表示させることができる。
【符号の説明】
【００７１】
１…車両、８…表示装置、１４…ＥＣＵ、１５…撮像部、１４ａ…ＣＰＵ、１４ｂ…ＲＯＭ、１４ｃ…ＲＡＭ、１４ｄ…表示制御部、１４ｆ…ＳＳＤ、４０１…表示用画像生成部、４０２…表示用画像出力部。
【図１】
2019036832.tif 000003
【図２】
2019036832.tif 000004
【図３】
2019036832.tif 000005
【図４】
2019036832.tif 000006
【図５】
2019036832.tif 000007
【図６】
2019036832.tif 000008
【図７】
2019036832.tif 000009
【図８】
2019036832.tif 000010
【図９】
2019036832.tif 000011
【図１０】
2019036832.tif 000012
【図１１】
2019036832.tif 000013
【図１２】
2019036832.tif 000014
【図１３】
2019036832.tif 000015
【図１４】
2019036832.tif 000016
【図１５】
2019036832.tif 000017
【図１６】
2019036832.tif 000018
【図１７】
2019036832.tif 000019