(57)【特許請求の範囲】
【請求項１】
車両に設けられて当該車両の周辺を撮像する撮像部から出力された撮像画像データを取得する画像取得部と、
前記撮像画像データを、前記車両に臨む撮像方向となる複数の仮想視点による仮想画像データに変換する画像変換部と、
前記仮想視点が前記車両の周囲を移動するように前記仮想画像データを前記車両の車室内に設けられた表示装置に順次表示させるとともに、前記車両の走行操作を行うための操作部材から所定の操作入力情報を受け付けた場合に、前記仮想画像データを順次表示する速度を変化させる制御として、前記仮想画像データの順次表示を停止させて所定期間過去に表示した前記仮想画像データを使用した静止画像を表示させる制御部と、
を備えた周辺監視装置。
【請求項２】
前記制御部は前記静止画像を表示させた場合に、当該静止画像を基準画像として前後の静止画像の表示を要求する変更入力情報をさらに受け付けた場合、前記変更入力情報にしたがい前記静止画像の表示に使用する前記仮想画像データを選択する請求項１に記載の周辺監視装置。
【請求項３】
前記操作部材は、操舵部、制動操作部、変速操作部のうち少なくともいずれか一つである請求項１または請求項２に記載の周辺監視装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、周辺監視装置に関する。
【背景技術】
【０００２】
従来、車載カメラで撮像した車両の周辺映像に視点変換処理を施して車室内に配置された表示装置に表示する技術が知られている。この場合、視点変換処理が施された画像は、表示装置に連続的に出力されて、動画のように表示される場合がある。このような視点変換画像は、一定の表示速度（再生速度）で表示されるが、表示画像に注目したい部分が存在した場合、例えば、障害物らしきものが表示された場合、動画表示を一時的に停止させたり、表示速度を遅くしたりできる機能を有する装置がある。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許第５６２７２５３号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、このような動画表示中の操作は、例えば、表示装置のタッチパネル上のアイコンを操作したり、専用のスイッチを操作したりすることにより実行することが多い。そのため、ユーザが、動画表示中に一時停止させたい場面を認識してから実際にアイコンやスイッチ操作を行うまでにタイムラグが生じ所望の場面で画像を停止させられない場合がある。したがって、車両の周辺状況を示す画像の連続表示中に表示速度を変更したい場合に、その操作のタイムラグを低減できるような制御が実現できれば、車両の周辺状況をより適切にユーザに認識させることが可能になり、周辺監視装置の利用し易さ向上の点において有意義である。
【課題を解決するための手段】
【０００５】
本発明の実施形態にかかる周辺監視装置は、例えば、車両に設けられて当該車両の周辺を撮像する撮像部から出力された撮像画像データを取得する画像取得部と、上記撮像画像データを、上記車両に臨む撮像方向となる複数の仮想視点による仮想画像データに変換する画像変換部と、上記仮想視点が上記車両の周囲を移動するように上記仮想画像データを上記車両の車室内に設けられた表示装置に順次表示させるとともに、上記車両の走行操作を行うための操作部材から所定の操作入力情報を受け付けた場合に、上記仮想画像データを順次表示する速度を変化させる制御として、上記仮想画像データの順次表示を停止させて所定期間過去に表示した上記仮想画像データを使用した静止画像を表示させる制御部と、を備える。この構成によれば、例えば、運転操作を行うための操作部材は、運転席に着座した姿勢で無理なく運転者の身体の一部と接触できる位置に存在する。したがって、表示装置を目視している最中でも操作準備姿勢をとらせやすい。その結果、仮想画像データを順次表示する速度を変化させるための操作を迅速に行わせることができる。そして、例えば、順次表示される画像に注目したい部分が存在した場合迅速に順次表示を停止させて、注目したい内容を静止画像で確認させることができる。このとき、ユーザに操作部材から操作入力情報を入力させる場合、ユーザが注目したい部分を認識してから操作するまでの時間には個人差がある場合がある。その結果、僅かなタイムラグが残る場合がある。それに対しこの構成によれば、例えば、タイムラグが存在する場合でも所定期間過去に遡った仮想画像データを使用した静止画像が表示されるので、タイムラグを低減または解消しやすい。
【０００８】
また、上記周辺監視装置の上記制御部は、例えば、上記静止画像を表示させた場合に、当該静止画像を基準画像として前後の静止画像の表示を要求する変更入力情報をさらに受け付けた場合、上記変更入力情報にしたがい上記静止画像の表示に使用する上記仮想画像データを選択するようにしてもよい。この構成によれば、静止画像の表示後にその前の場面や後の場面を表示させることができる。その結果、注目したい部分の内容とその前や後ろの場面との比較を静止画像で比較することが可能になり、注目したい部分の内容の確認がより詳細にできる。
【０００９】
また、上記周辺監視装置の上記操作部材は、例えば、操舵部、制動操作部、変速操作部のうち少なくともいずれか一つであってもよい。この構成によれば、操舵部、制動操作部、変速操作部は、ユーザ（運転者）が運転席に着座した姿勢で自然に接触できるので、スムーズな操作入力を行わせることができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。
【図２】図２は、実施形態にかかる周辺監視装置を搭載する車両の一例が示された平面図である。
【図３】図３は、実施形態にかかる周辺監視装置を搭載する車両のダッシュボードの一例であり、車両後方からの視野での図である。
【図４】図４は、実施形態にかかる周辺監視装置を含む画像制御システムの一例が示されたブロック図である。
【図５】図５は、実施形態にかかる周辺監視装置のＥＣＵ内に実現される視点変換画像を表示するための制御部の構成の一例を示すブロック図である。
【図６】図６は、実施形態にかかる周辺監視装置における仮想視点の移動の一例を説明する説明図である。
【図７】図７は、実施形態にかかる周辺監視装置を搭載する車両の周囲の状態の一例を示す説明図である。
【図８】図８は、実施形態にかかる周辺監視装置の表示処理の一例を説明するフローチャートである。
【図９】図９は、実施形態にかかる周辺監視装置における曲面投影の表示例であり、第１の仮想視点位置における仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１０】図１０は、実施形態にかかる周辺監視装置における曲面投影の表示例であり、第１の仮想視点位置から第２の仮想視点位置に仮想視点を移動させた状態の仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１１】図１１は、実施形態にかかる周辺監視装置における曲面投影の表示例であり、第２の仮想視点位置で回転処理を実行して、第３の仮想視点位置に仮想視点を移動させる準備が整った状態の仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１２】図１２は、実施形態にかかる周辺監視装置における曲面投影の表示例であり、第３の仮想視点位置における仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１３】図１３は、実施形態にかかる周辺監視装置における平面投影の表示例であり、第１の仮想視点位置における仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１４】図１４は、実施形態にかかる周辺監視装置における平面投影の表示例であり、第１の仮想視点位置から第２の仮想視点位置に仮想視点を移動させた状態の仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１５】図１５は、実施形態にかかる周辺監視装置における平面投影の表示例であり、第２の仮想視点位置で回転処理を実行して、第３の仮想視点位置に仮想視点を移動させる準備が整った状態の仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１６】図１６は、実施形態にかかる周辺監視装置における平面投影の表示例であり、第３の仮想視点位置における仮想画像データを用いて表示装置に表示した一例を示す図である。
【図１７】図１７は、実施形態にかかる周辺監視装置の表示処理を一時停止させる場合の割り込み処理の一例を説明するフローチャートである。
【発明を実施するための形態】
【００１１】
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
【００１２】
本実施形態において、周辺監視装置を搭載する車両１は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよい。また、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両１は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。また、車両１における車輪３の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。
【００１３】
図１に例示されるように、車体２は、不図示の乗員が乗車する車室２ａを構成している。車室２ａ内には、乗員としての運転者の座席２ｂに臨む状態で、操舵部４や、加速操作部５、制動操作部６、変速操作部７等が設けられている。操舵部４は、例えば、ダッシュボード２４から突出したステアリングホイールであり、加速操作部５は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部６は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部７は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部４や、加速操作部５、制動操作部６、変速操作部７等は、これらには限定されない。
【００１４】
また、車室２ａ内には、表示出力部としての表示装置８や、音声出力部としての音声出力装置９が設けられている。表示装置８は、例えば、ＬＣＤ（liquid  crystal  display）や、ＯＥＬＤ（organic  electroluminescent  display）等である。音声出力装置９は、例えば、スピーカである。また、表示装置８は、例えば、タッチパネル等、透明な操作入力部１０で覆われている。乗員は、操作入力部１０を介して表示装置８の表示画面に表示される画像を視認することができる。また、乗員は、表示装置８の表示画面に表示される画像に対応した位置で手指等で操作入力部１０を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置８や、音声出力装置９、操作入力部１０等は、例えば、ダッシュボード２４の車幅方向すなわち左右方向の中央部に位置されたモニタ装置１１に設けられている。モニタ装置１１は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置１１とは異なる車室２ａ内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置１１の音声出力装置９と他の音声出力装置から、音声を出力することができる。なお、モニタ装置１１は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
【００１５】
また、車室２ａ内には、表示装置８とは別の表示装置１２が設けられている。図３に例示されるように、表示装置１２は、例えば、ダッシュボード２４の計器盤部２５に設けられ、計器盤部２５の略中央で、速度表示部２５ａと回転数表示部２５ｂとの間に位置されている。表示装置１２の画面１２ａの大きさは、表示装置８の画面８ａ（図３）の大きさよりも小さい。この表示装置１２には、主として車両１の駐車支援に関する情報を示す画像が表示されうる。表示装置１２で表示される情報量は、表示装置８で表示される情報量より少なくてもよい。表示装置１２は、例えば、ＬＣＤや、ＯＥＬＤ等である。なお、表示装置８に、表示装置１２で表示される情報が表示されてもよい。
【００１６】
また、図１、図２に例示されるように、車両１は、例えば、四輪自動車であり、左右二つの前輪３Ｆと、左右二つの後輪３Ｒとを有する。これら四つの車輪３は、いずれも転舵可能に構成されうる。図４に例示されるように、車両１は、少なくとも二つの車輪３を操舵する操舵システム１３を有している。操舵システム１３は、アクチュエータ１３ａと、トルクセンサ１３ｂとを有する。操舵システム１３は、ＥＣＵ１４（electronic  control  unit）等によって電気的に制御されて、アクチュエータ１３ａを動作させる。操舵システム１３は、例えば、電動パワーステアリングシステムや、ＳＢＷ（steer  by  wire）システム等である。操舵システム１３は、アクチュエータ１３ａによって操舵部４にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ１３ａによって車輪３を転舵したりする。この場合、アクチュエータ１３ａは、一つの車輪３を転舵してもよいし、複数の車輪３を転舵してもよい。また、トルクセンサ１３ｂは、例えば、運転者が操舵部４に与えるトルクを検出する。
【００１７】
また、図２に例示されるように、車体２には、複数の撮像部１５として、例えば四つの撮像部１５ａ〜１５ｄが設けられている。撮像部１５は、例えば、ＣＣＤ（charge  coupled  device）やＣＩＳ（CMOS  image  sensor）等の撮像素子を内蔵するデジタルカメラである。撮像部１５は、所定のフレームレートで動画データ（撮像画像データ）を出力することができる。撮像部１５は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば１４０°〜１９０°の範囲を撮影することができる。また、撮像部１５の光軸は斜め下方に向けて設定されている。よって、撮像部１５は、車両１が移動可能な路面や車両１が駐車可能な領域を含む車両１の周辺の外部の環境を逐次撮影し、撮像画像データとして出力する。
【００１８】
撮像部１５ａは、例えば、車体２の後側の端部２ｅに位置され、リヤトランクのドア２ｈの下方の壁部に設けられている。撮像部１５ｂは、例えば、車体２の右側の端部２ｆに位置され、右側のドアミラー２ｇに設けられている。撮像部１５ｃは、例えば、車体２の前側、すなわち車両前後方向の前方側の端部２ｃに位置され、フロントバンパー等に設けられている。撮像部１５ｄは、例えば、車体２の左側、すなわち車幅方向の左側の端部２ｄに位置され、左側の突出部としてのドアミラー２ｇに設けられている。ＥＣＵ１４は、複数の撮像部１５で得られた画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両１を上方から見た仮想的な俯瞰画像を生成したりすることができる。
【００１９】
また、ＥＣＵ１４は、撮像部１５から提供される撮像画像データを、車両１に臨む撮像方向となる複数の仮想視点から撮像したような仮想画像データに変換することができる。また、この複数の仮想画像データを表示装置８に順次表示して、ユーザ（運転者、利用者）が乗り込んでいる車両１を中心に周囲遠方より当該車両１を臨むような画像（実質的な動画）を表示させたり、その動画を一時的に停止させて静止画像を表示したりすることができる。仮想画像データの表示や一時停止等の詳細については後述する。また、ＥＣＵ１４は、撮像部１５から提供される撮像画像データから車両１の周辺の路面に示された区画線等を識別し、区画線等に示された駐車区画を検出（抽出）して、駐車支援を実行することもできる。
【００２０】
図１、図２に例示されるように、車体２には、複数の測距部１６，１７として、例えば四つの測距部１６ａ〜１６ｄと、八つの測距部１７ａ〜１７ｈとが設けられている。測距部１６，１７は、例えば、超音波を発射してその反射波を捉えるソナーである。ソナーは、ソナーセンサ、あるいは超音波探知器、超音波ソナーとも称されうる。測距部１６は、本実施形態において、車両１を駐車する際に、車両１と並ぶ第一の障害物（隣接車両）や駐車するためのスペースの奥側に存在する第二の障害物（例えば、縁石や段差、壁、フェンス等）を検出し、その障害物までの距離を測定することができる。また、測距部１７は、車両１に対して障害物（物体）が所定距離を超えて接近した場合、接近する障害物（物体）を検出し、その障害物までの距離を測定することができる。特に、車両１の後方両側に配置された測距部１７ａ，１７ｄは、車両１が後退しながら縦列駐車のスペースに進入する場合の車両１の後方コーナ部と第一の障害物（隣接車両）との距離や、進入後さらに後方コーナ部と第二の障害物（壁等）との距離を測定するセンサ（クリアランスソナー）として機能する。ＥＣＵ１４は、測距部１６，１７の検出結果により、車両１の周囲に位置された障害物等の物体の有無や当該物体までの距離を検出することができる。すなわち、測距部１６，１７は、物体を検出する検出部の一例である。なお、測距部１７は、例えば、比較的近距離の物体の検出に用いられ、測距部１６は、例えば、測距部１７よりも遠い比較的長距離の物体の検出に用いられうる。また、測距部１７は、例えば、車両１の前方および後方の物体の検出に用いられ、測距部１６は、車両１の側方の物体の検出に用いられうる。測距部１７は、物体（障害物）が所定の距離まで接近したことを検出する接近センサとして機能しうる。
【００２１】
また、図４に例示されるように、周辺監視システム１００（周辺監視装置）では、ＥＣＵ１４や、モニタ装置１１、操舵システム１３、測距部１６，１７等の他、ブレーキシステム１８、舵角センサ１９ａ、ステアリング感圧センサ１９ｂ、アクセルセンサ２０、シフトセンサ２１ａ、レバー感圧センサ２１ｂ、車輪速センサ２２等が、電気通信回線としての車内ネットワーク２３を介して電気的に接続されている。車内ネットワーク２３は、例えば、ＣＡＮ（controller  area  network）として構成されている。ＥＣＵ１４は、車内ネットワーク２３を通じて制御信号を送ることで、操舵システム１３、ブレーキシステム１８等を制御することができる。また、ＥＣＵ１４は、車内ネットワーク２３を介して、トルクセンサ１３ｂ、ブレーキセンサ１８ｂ、舵角センサ１９ａ、ステアリング感圧センサ１９ｂ、測距部１６、測距部１７、アクセルセンサ２０、シフトセンサ２１ａ、レバー感圧センサ２１ｂ、車輪速センサ２２等の検出結果や、操作入力部１０等の操作信号等を、受け取ることができる。ブレーキセンサ１８ｂ、舵角センサ１９ａ、ステアリング感圧センサ１９ｂ、レバー感圧センサ２１ｂ等は、後述する視点変換画像の表示速度の変更、例えば、順次表示される視点変換画像（動画）の一時停止やその一時停止した視点変換画像の前後の画像の表示を要求する場合の操作入力情報を出力することができる。つまり、操作部材の操作状態を検出するセンサとして機能する。なお、視点変換画像の表示態様を変化させる操作入力情報は、操舵部４、制動操作部６、変速操作部７のうち少なくともいずれか１つから入力できればよい。例えば、操舵部４のみを操作部材として用いる場合、レバー感圧センサ２１ｂは省略できる。同様に、制動操作部６のみを操作部材として用いる場合、ステアリング感圧センサ１９ｂ、レバー感圧センサ２１ｂは省略できる。また、操舵部４、制動操作部６、変速操作部７の全てを操作部材として用いて、ユーザにいずれかを用いて入力させるようにしてもよい。
【００２２】
ＥＣＵ１４は、例えば、ＣＰＵ１４ａ（central  processing  unit）や、ＲＯＭ１４ｂ（read  only  memory）、ＲＡＭ１４ｃ（random  access  memory）、表示制御部１４ｄ、音声制御部１４ｅ、ＳＳＤ１４ｆ（solid  state  drive、フラッシュメモリ）等を有している。ＣＰＵ１４ａは、例えば、表示装置８，１２で表示される画像に関連した画像処理や、車両１の移動目標位置（駐車目標位置、目標位置）の決定、車両１の誘導経路（誘導経路、駐車経路、駐車誘導経路）の演算、物体との干渉の有無の判断、車両１の自動制御、自動制御の解除等の、各種の演算処理および制御を実行することができる。ＣＰＵ１４ａは、ＲＯＭ１４ｂ等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。ＲＡＭ１４ｃは、ＣＰＵ１４ａでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部１４ｄは、ＥＣＵ１４での演算処理のうち、主として、表示装置８で表示される画像データの合成等を実行する。また、音声制御部１４ｅは、ＥＣＵ１４での演算処理のうち、主として、音声出力装置９で出力される音声データの処理を実行する。また、ＳＳＤ１４ｆは、書き換え可能な不揮発性の記憶部であって、ＥＣＵ１４の電源がオフされた場合にあってもデータを記憶することができる。なお、ＣＰＵ１４ａや、ＲＯＭ１４ｂ、ＲＡＭ１４ｃ等は、同一パッケージ内に集積されうる。また、ＥＣＵ１４は、ＣＰＵ１４ａに替えて、ＤＳＰ（digital  signal  processor）等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、ＳＳＤ１４ｆに替えてＨＤＤ（hard  disk  drive）が設けられてもよいし、ＳＳＤ１４ｆやＨＤＤは、ＥＣＵ１４とは別に設けられてもよい。
【００２３】
ブレーキシステム１８は、例えば、ブレーキのロックを抑制するＡＢＳ（anti-lock  brake  system）や、コーナリング時の車両１の横滑りを抑制する横滑り防止装置（ＥＳＣ：electronic  stability  control）、ブレーキ力を増強させる（ブレーキアシストを実行する）電動ブレーキシステム、ＢＢＷ（brake  by  wire）等である。ブレーキシステム１８は、アクチュエータ１８ａを介して、車輪３ひいては車両１に制動力を与える。また、ブレーキシステム１８は、左右の車輪３の回転差などからブレーキのロックや、車輪３の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ１８ｂは、例えば、制動操作部６の可動部の位置を検出するセンサである。ブレーキセンサ１８ｂは、可動部としてのブレーキペダルの位置を検出することができる。ブレーキセンサ１８ｂは、変位センサを含む。また、ブレーキペダル（制動操作部６）が前述したような視点変換画像の表示速度の変更（例えば、順次表示される視点変換画像の一時停止）を要求するときの操作部材として機能する場合、ブレーキセンサ１８ｂが検出するブレーキペダルの位置（踏み込み量、ストローク）が操作入力情報となりうる。
【００２４】
舵角センサ１９ａは、例えば、ステアリングホイール等の操舵部４の操舵量を検出するセンサである。舵角センサ１９ａは、例えば、ホール素子などを用いて構成される。ＥＣＵ１４は、運転者による操舵部４の操舵量や、自動操舵時の各車輪３の操舵量等を、舵角センサ１９ａから取得して各種制御を実行する。なお、舵角センサ１９ａは、操舵部４に含まれる回転部分の回転角度を検出する。舵角センサ１９ａは、角度センサの一例である。また、ステアリング感圧センサ１９ｂは、ステアリングホイールに内蔵された周知の感圧センサ（圧力センサ）であり、ステアリングホイールが把持されているか否かを検出したり、またはその把持の強さを検出したりすることができる。例えば、ステアリングホイールの把持とその解放を短時間で行う場合の把持回数を検出したり、弱く把持している場合と強く把持している場合の把持状態の変化を検出することができる。そして、ステアリングホイール（操舵部４）が視点変換画像の表示速度の変更（例えば、順次表示される視点変換画像の一時停止）を要求するときの操作部材として機能する場合、舵角センサ１９ａが検出する回転角度や回転方向が操作入力情報となりうる。また、ステアリング感圧センサ１９ｂが検出するステアリングホイールの把持状態が操作入力情報となりうる。
【００２５】
アクセルセンサ２０は、例えば、加速操作部５の可動部の位置を検出するセンサである。アクセルセンサ２０は、可動部としてのアクセルペダルの位置を検出することができる。アクセルセンサ２０は、変位センサを含む。
【００２６】
シフトセンサ２１ａは、例えば、変速操作部７の可動部の位置を検出するセンサである。シフトセンサ２１ａは、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ２１ａは、変位センサを含んでもよいし、スイッチとして構成されてもよい。また、レバー感圧センサ２１ｂは、可動部の把持部（レバーやアーム）に内蔵された周知の感圧センナ（圧力センサ）であり、把持部が把持されているか否かを検出したり、またはその把持の強さを検出したりすることができる。例えば、把持部の把持とその解放を短時間で行う場合の把持回数を検出したり、弱く把持している場合と強く把持している場合の把持状態の変化を検出したりする。そして、把持部（変速操作部７）が視点変換画像の表示速度の変更（例えば、順次表示される視点変換画像の一時停止）を要求するときの操作部材として機能する場合、レバー感圧センサ２１ｂが検出する把持部の把持状態が操作入力情報となりうる。
【００２７】
車輪速センサ２２は、車輪３の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ２２は、検出した回転数を示す車輪速パルス数をセンサ値として出力する。車輪速センサ２２は、例えば、ホール素子などを用いて構成されうる。ＥＣＵ１４は、車輪速センサ２２から取得したセンサ値に基づいて車両１の移動量などを演算し、各種制御を実行する。なお、車輪速センサ２２は、ブレーキシステム１８に設けられている場合もある。その場合、ＥＣＵ１４は、車輪速センサ２２の検出結果をブレーキシステム１８を介して取得する。また、車輪速センサ２２は、車両１が走行していることを示す走行確認情報または車両１が停止していることを示す停止確認情報を出力することができる。停止確認情報は、例えば、視点変換画像の表示を許可するか否かを示す許可情報や操作部材として制動操作部６、操舵部４、変速操作部７が利用される場合、ブレーキセンサ１８ｂ、ステアリング感圧センサ１９ｂ、レバー感圧センサ２１ｂの検出結果を視点変換画像の表示を制御する場合の操作入力情報として採用するか否かの判断情報として利用することができる。つまり、本実施形態においては、車両１が停止していることが、視点変換画像の表示許可および操作入力情報の採用許可となる。
【００２８】
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定（変更）することができる。
【００２９】
ＥＣＵ１４は、周辺監視システムを実現する。具体的には、車両１を中心として当該車両１を遠方から見たような画像（視点変換画像）を生成する。そして、この視点変換画像を用いた表示態様として、例えば、仮想視点を車両１の一方側（例えば正面域、フロント領域）から車両１の上空域を経て、車両１の反対側（例えば後面域、リア領域）に移動させながら実質的な動画表示を行う。この表示を行うことで、車両１の周囲に存在する物体の位置関係やその姿勢、大きさ等をユーザに認識させやすくしている。
【００３０】
また、図５に示されるように、ＥＣＵ１４は、ＣＰＵ１４ａと当該ＣＰＵ１４ａでの演算で用いられる、あるいはＣＰＵ１４ａでの演算で算出されたデータを記憶する記憶部６０を備える。また、ＣＰＵ１４ａは、ＲＯＭ１４ｂ等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現される各種モジュールを備える。例えばＣＰＵ１４ａは、上述したような視点変換画像の実質的な動画表示を実現するために、画像取得部３０、画像変換部３２、操作受付部３４、データ制御部３６（制御部）を備える。同様に、プログラムを読み出し実行することで実現される各種モジュールとして、ブレーキセンサ受付部６２、アクセルセンサ受付部６４、シフトセンサ受付部６６、舵角センサ受付部６８、車輪速センサ受付部７０、感圧センサ受付部７２等を備える。
【００３１】
画像取得部３０は、車両１に設けられて当該車両１の周辺を撮像する撮像部１５から出力された撮像画像データを表示制御部１４ｄを介して取得する。なお、表示制御部１４ｄは、撮像部１５で撮像した撮像画像データをそのままの状態で表示装置８や表示装置１２に出力してもよい。この場合、操作部１４ｇ等の入力装置を用いてユーザに希望する表示内容を選択させるようにしてもよい。つまり、表示制御部１４ｄは、操作部１４ｇの操作により選択された画像を選択的に表示する。例えば撮像部１５ａで撮像した車両１の後方画像を表示させたり、撮像部１５ｄで撮像した左側方画像を表示させたりすることができる。
【００３２】
画像変換部３２は、画像取得部３０が取得した撮像画像データを、例えば車両１を遠方から臨む撮像方向となる複数の仮想視点による仮想画像データに変換する。仮想視点による仮想画像データの変換は、周知の種々の処理手法で実行することができる。一例として、画像変換部３２は、撮像部１５により撮像された車両１の外部の環境を表した撮像画像データと、例えばＲＯＭ１４ｂ等に保持されたマッピングテーブルの変換情報とに基づいて、車両１の周囲外部の環境を車両１から離間して当該車両１を臨む視点位置から見た場合の仮想画像データ（視点変換画像）を生成する。本実施形態の場合、ＲＯＭ１４ｂは、例えば、車両１を中心に半径数ｍ（例えば５ｍ）の半円軌道から車両１を臨む仮想視点が移動した場合に得られる仮想画像データが得られるような変換情報（マッピングテーブル）を複数種類予め保持している。なお、マッピングテーブルの変換情報は、仮想視点の位置ごとに準備することが望ましい。また、本実施形態の場合、視点変換画像は、連続性のあるスムーズな動画で表示されることが望ましい。そのため、マッピングテーブルの変換情報は、仮想視点が例えばα°移動するごと仮想画像データを生成できるように準備される。なお、マッピングテーブルの変換情報の数を増やせば、生成される仮想画像データの数（フレーム数）は増加して滑らかな動画が作成できるが、ＣＰＵ１４ａの処理負荷が増加する傾向がある。逆に、マッピングテーブルの変換情報の数を少なくすれば生成される仮想画像データの数も減少し動画品質が低下する場合があるが、ＣＰＵ１４ａの処理負荷は軽減可能となる。したがって、要求される視点変換画像（実質的な動画）の品質に応じて、マッピングテーブルの変換情報の数を決定することができる。なお、マッピングテーブルの変換情報の数を少なくする場合、動画を作成する際に前後の仮想画像データに基づく補間処理等を行い動画の修正（コマ落ち補正）を行うようにしてもよい。
【００３３】
操作受付部３４は、操作部１４ｇの操作入力による信号を取得する。操作部１４ｇは、例えば、押しボタンやスイッチ等であり、ユーザによる視点変換画像の表示の要求やキャンセルを行うことができる。また、操作受付部３４は、図示しないイグニッションスイッチのＯＮ信号を受け付け、そのＯＮ信号を契機に視点変換画像の表示要求を取得したと見なしてもよい。例えば、ユーザが車両１に乗り込み、イグニッションスイッチをＯＮすることにより、車両１を発進させるのに先立ち、車両１の周囲の状況をユーザに通知するように視点変換画像を自動的に表示するようにしてもよい。
【００３４】
データ制御部３６は、画像変換部３２が生成した複数の仮想画像データを、仮想視点が車両１の周囲を移動しているような動画になるように配列し、表示制御部１４ｄに供給して表示装置８に表示させる。データ制御部３６は、例えば、図６に示すように、仮想視点３８が第１の仮想視点位置Ａから第２の仮想視点位置Ｂを経て第３の仮想視点位置Ｃの順に移動したように仮想画像データを表示するように準備する。第１の仮想視点位置Ａは、車両１の一方側から車両１を挟んで反対側（他方側）を臨む位置である。図６の場合、車両１のフロント側に設定されている例が示されている。第２の仮想視点位置Ｂは、車両１の上空域から当該車両１を臨む位置である。第３の仮想視点位置Ｃは、第１の仮想視点位置Ａの反対側から車両１を挟んで一方側を臨む位置である。図６の場合、車両１のリア側に設定されている例が示されている。
【００３５】
また、データ制御部３６は、仮想視点３８が第２の仮想視点位置Ｂを通過するように仮想画像データを表示する間に仮想視点３８の視線（車両１の上空域から当該車両１を臨む視線（例えば鉛直軸Ｏ））を中心に仮想画像データを回転させる。仮想視点３８を第１の仮想視点位置Ａから第３の仮想視点位置Ｃに移動させる場合、仮想画像データをそのまま連続的に表示した場合、第２の仮想視点位置Ｂを通過する前後で車両１の周囲に存在する物体の天地が逆転してしまう。その結果、物体の位置や姿勢が把握し難くなる。そこで、データ制御部３６は、車両１の周囲全体が見渡せる車両１の直上位置（第２の仮想視点位置Ｂ）で仮想画像データを１８０°回転させている。その結果、第２の仮想視点位置Ｂを通過した以降も物体の天地は第１の仮想視点位置Ａで表示していた状態と同じ方向で、車両１の周囲の状況が把握しやすい状態で、物体の位置関係の認識度の低下を抑制しつつ、第３の仮想視点位置Ｃへの画像の移行をスムーズに行うことができる。つまり、第３の仮想視点位置Ｃで仮想画像データによる画像を表示する際に天地が適切な表示態様になるので現実世界の再現性を向上することができる。また、仮想画像データの回転に伴い車両１の周囲に存在する物体の表示位置が変化するので、その物体の存在に注目させやすくなり、認識度を向上させることができる。すなわち、物体の存在を気づかせ易くすることができる。なお、車両１の周囲全体が見渡せる車両１の直上位置とは、例えば、車両１のフロントバンパの鉛直延長線上の位置でもよいし、ルーフの鉛直延長線上の位置でもよいし、リアバンパの鉛直延長線上の位置でもよい。また、それらの間の位置でもよい。この中で、ルーフの鉛直延長線上の位置が、車両１と周囲の物体との位置関係を把握させやすい表示ができる点、仮想画像データを回転させる場合に車両１の偏心回転が少なく違和感なく表示できる点等で好ましい。
【００３６】
ところで、仮想画像データは、車両１に搭載された撮像部１５で撮像された撮像画像データに基づき生成されているため、撮像画像データには自車（車両１）は一部しか存在しない場合がある。例えば、バンパの一部やドアの一部しか映り込んでいない場合がある。その結果、撮像画像データに基づいて生成する仮想画像データには車両１の全体像は反映されない場合がある。そこで、データ制御部３６は、例えばＲＯＭ１４ｂやＳＳＤ１４ｆに予め記憶しておいた自車（車両１）の車両外形データを仮想画像データに重畳して、表示装置８に表示する視点変換画像に車両１が存在するようにして表示するようにしてもよい。その結果、車両１（自車）の周囲に存在する物体と車両１との位置関係をより容易にユーザに理解させやすい表示ができる。なお、仮想視点３８の移動に対応して車両１の見え方も刻々と変化するので、車両外形データはマッピングテーブルの変換情報の数に対応して準備しておくことが望ましい。
【００３７】
車両外形データは、実際の車両１の撮影データを用いて作成してもよいし、アニメーションでもよい。また、車両外形データは、車両１を半透明や線図で表現したものを用いてもよい。車両外形データを半透明や線図で表現する場合、車両の奥側に存在する物体の存在や形状、大きさ等も把握させやすくすることができる。一方、車両外形データを実体表現で表示した場合、現実世界（現実空間）との乖離を少なくできるので、ユーザに受け入れられ易い画像を提供することができる。
【００３８】
データ制御部３６は、仮想視点３８を移動させる場合、その移動開始位置を予め決定することができる。データ制御部３６は、例えば第３の仮想視点位置Ｃを車両１が発進する際の進行予定方向に対して後ろ側に位置するように決定することができる。図６は、車両１が前進発進する場合の第１の仮想視点位置Ａ、第２の仮想視点位置Ｂ、第３の仮想視点位置Ｃの設定位置を示している。逆に、車両１が後退発進する場合は、車両１のリア側に第１の仮想視点位置Ａが設定され、フロント側に第３の仮想視点位置Ｃが設定される。このように、第３の仮想視点位置Ｃを設定することにより、車両１を発進させるときに最終的に注意を払う可能性の高い視認方向の画像を最後に提供できるので、ユーザに車両１の周囲の状況をより理解させやすい表示ができる。
【００３９】
なお、データ制御部３６は、車両１が発進する際の進行予定方向を、例えば車両１のイグニッションスイッチのＯＦＦ操作直前、すなわち駐車直前の変速操作部７の位置をＳＳＤ１４ｆ等に記憶しておくことにより判定することができる。つまり、イグニッションスイッチＯＦＦ直前の変速操作部７の位置が「Ｒレンジ」で後退走行により駐車した場合、車両１は駐車状態から発進するとき前進発進する可能性が高い。したがって、視点変換画像の最後に車両１の前方の状況が認識しやすいようにリア側に第３の仮想視点位置Ｃを設定することが望ましい。逆にイグニッションスイッチＯＦＦ直前の変速操作部７の位置が「Ｄレンジ」で前進走行により駐車した場合、車両１は駐車状態から発進するとき後退発進する可能性が高い。したがって、視点変換画像の最後に車両１の後方の状況が認識しやすいようにフロント側に第３の仮想視点位置Ｃを設定することが望ましい。また、車両１を駐車支援システムを用いて駐車した場合、車両１のＥＣＵ１４は、駐車時の車両１の進入方向や出庫時の進出方向をＳＳＤ１４ｆに記憶している場合がある。この場合は、ＳＳＤ１４ｆに記憶された駐車支援時の情報を用いて車両１が発進する際の進行予定方向を判定してもよい。なお、車両１の駐車中に当該車両１の周囲の状況が変化して、発進時の進行予定方向を変更した方がよい場合がある。この場合、データ制御部３６は、イグニッションスイッチのＯＮのときに、車両１の発進方向をユーザに問い合わせるメッセージを表示装置８や表示装置１２に表示して、操作部１４ｇから進行予定方向、つまり視点変換画像をどの方向からどの方向に見たいかを入力させるようにしてもよい。
【００４０】
ブレーキセンサ受付部６２は、ブレーキセンサ１８ｂから出力される信号、すなわち制動操作部６、例えばブレーキペダルの操作入力に基づく信号を取得する。ブレーキセンサ受付部６２は、運転者（ユーザ）の減速や駐停車の意志確認信号を取得する意志確認部として機能する。なお、ブレーキセンサ受付部６２は、図示しないパーキングブレーキの操作入力を取得してもよく、この操作入力に基づき、運転者の駐停車の意志確認信号を取得するように機能してもよい。また、ブレーキセンサ受付部６２は、車両１が停止状態（車輪速センサ２２が停止確認情報を出力している状態（すなわち、検出信号を出力していない状態））のときに、視点変換画像の順次表示の表示速度を変化させる（例えば停止させる）ことを要求する操作入力情報を取得することができる。車両１の停止中で視点変換画像が表示されている間に、例えば、ブレーキペダルが所定ストロークを越えて一度強く踏み込まれた場合、ブレーキセンサ受付部６２は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なすことができる。また、視点変換画像の順次表示の一時停止中に、再度ブレーキペダルが所定ストロークを越えて一度強く踏み込まれた場合、ブレーキセンサ受付部６２は、視点変換画像の順次表示の一時停止を解除する操作入力情報を受け付けたと見なすことができる。
【００４１】
視点変換画像の順次表示の一時停止中に、ブレーキペダルが所定ストロークを越えて短い間隔で例えば二度強く踏み込まれた場合、ブレーキセンサ受付部６２は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以前の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。同様に、視点変換画像の順次表示の一時停止中に、ブレーキペダルが所定ストロークを越えて短い間隔で例えば三度強く踏み込まれた場合、ブレーキセンサ受付部６２は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以降の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。つまり、ブレーキペダルの操作により静止画像の表示や遡り表示、先送り表示を実現することができる。なお、遡り表示とは、仮想視点３８をそれまでの視点移動方向とは逆方向に移動させた場合に表示できる動画表示で、いわゆる「巻き戻し表示」のことをいう。また、先送り表示とは、仮想視点３８をそれまでの視点移動方向と同方向で、かつそれまでの移動速度（表示速度）とは異なる速度で動画表示を行うもので、いわゆる「早送り表示」のことをいう。なお、遡り表示および先送り表示の表示速度は、適宜変更してもよい。例えば、遡り表示の場合、それまでの仮想視点３８の移動速度（表示速度）と同じでもよい。つまり標準速度で巻き戻してもよい。また、標準速度より早い「早戻し表示」でもよいし、標準速度より遅い「スロー戻し表示」でもよい。また、先送り表示の場合、それまでの仮想視点３８の移動速度（表示速度）、つまり標準速度より遅い「スロー再生」でもよい。
【００４２】
アクセルセンサ受付部６４は、アクセルセンサ２０から出力される信号、すなわち加速操作部５、例えばアクセルペダルの操作入力に基づく信号を取得する。アクセルセンサ受付部６４は、運転者の走行や加速や意志確認信号を取得する意志確認部として機能する。
【００４３】
シフトセンサ受付部６６は、シフトセンサ２１ａから出力される信号、すなわち変速操作部７、例えばシフトレバーの操作入力に基づく信号を取得する。シフトセンサ受付部６６は、「Ｄポジション」を示す信号の受け付けにより、運転者の前進走行の意志確認信号を取得し、「Ｒポジション」を示す信号の受け付けにより運転者の後進走行の意志確認信号を取得する意志確認部として機能する。同様に、「Ｐポジション」を示す信号の受け付けにより、運転者の駐停車の意志確認信号を取得する意志確認部として機能する。
【００４４】
舵角センサ受付部６８は、舵角センサ１９ａから出力される信号、すなわち操舵部４、例えばステアリングホイールの操作入力に基づく信号を取得する。舵角センサ受付部６８は、車両１の操舵状態を取得すると共に、運転者の操舵の意志を示す意志確認信号を取得する意志確認部として機能する。また、舵角センサ受付部６８は、車両１が停止状態（車輪速センサ２２が停止確認情報を出力している状態（すなわち、検出信号を出力していない状態））のときに、視点変換画像の順次表示の表示速度を変化させる（例えば停止させる）ことを要求する操作入力情報を取得することができる。車両１の停止中で視点変換画像が表示されている間に、例えば、ステアリングホイールが左右いずれかの方向に所定角度以上回動（例えば、微動）させられた場合、舵角センサ受付部６８は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なすことができる。また、視点変換画像の順次表示の一時停止中に、再度ステアリングホイールが左右いずれかの方向に所定角度以上回動させられた場合、視点変換画像の順次表示の一時停止を解除する操作入力情報を受け付けたと見なすことができる。
【００４５】
視点変換画像の順次表示の一時停止中に、ステアリングホイールが左右いずれかの方向に所定角度以上短い間隔で二度回動させられた場合、舵角センサ受付部６８は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以前の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。同様に、視点変換画像の順次表示の一時停止中に、ステアリングホイールが左右いずれかの方向に所定角度以上短い間隔で三度回動させられた場合、舵角センサ受付部６８は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以降の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。つまり、ステアリングホイールの回動操作により静止画像の表示や遡り表示、先送り表示を実現することができる。
【００４６】
車輪速センサ受付部７０は、車輪速センサ２２から出力される信号を取得し、車両１の走行状態または停止状態を車速に基づいて判定する情報（走行確認情報（信号出力状態）、停止確認情報（信号非出力状態））を取得すると共に、駐車のために自動で誘導する場合の誘導状態の良否判定を行う場合の情報の取得部として機能する。
【００４７】
感圧センサ受付部７２は、ステアリング感圧センサ１９ｂやレバー感圧センサ２１ｂから出力される信号を取得し、ステアリングホイールの把持状態やシフトレバーの把持状態を示す情報を取得する。感圧センサ受付部７２は、車両１が停止状態（車輪速センサ２２が停止確認情報を出力している状態（すなわち、検出信号を出力していない状態））のときに、視点変換画像の順次表示の表示速度を変化させる（例えば停止させる）ことを要求する操作入力情報を取得することができる。車両１の停止中で視点変換画像が表示されている間に、例えば、ステアリングホイールが所定圧力を超えて強く一度把持された場合、感圧センサ受付部７２は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なすことができる。また、視点変換画像の順次表示の一時停止中に、再度ステアリングホイールが所定圧力を超えて強く一度把持された場合、感圧センサ受付部７２は視点変換画像の順次表示の一時停止を解除する操作入力情報を受け付けたと見なすことができる。
【００４８】
視点変換画像の順次表示の一時停止中に、ステアリングホイールが所定圧力を超えて短い間隔で二度把持された場合、感圧センサ受付部７２は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以前の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。同様に、視点変換画像の順次表示の一時停止中に、ステアリングホイールが所定圧力を超えて短い間隔で三度把持された場合、感圧センサ受付部７２は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以降の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。つまり、ステアリングホイールの把持操作により静止画像の表示や遡り表示、先送り表示を実現することができる。なお、ステアリング感圧センサ１９ｂは、ステアリングホイールの全周において圧力検出可能なように配置されてもよいし、ステアリングホイールの一部に配置するようにしてもよい。
【００４９】
車両１の停止中で視点変換画像が表示されている間に、例えば、シフトレバーが所定圧力を超えて強く一度把持された場合、感圧センサ受付部７２は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なすことができる。また、視点変換画像の順次表示の一時停止中に、再度シフトレバーが所定圧力を超えて一度強く把持された場合、感圧センサ受付部７２は視点変換画像の順次表示の一時停止を解除する操作入力情報を受け付けたと見なすことができる。
【００５０】
また、視点変換画像の順次表示の一時停止中に、シフトレバーが所定圧力を超えて短い間隔で二度把持された場合、感圧センサ受付部７２は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以前の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。同様に、視点変換画像の順次表示の一時停止中に、シフトレバーが所定圧力を超えて短い間隔で三度把持された場合、感圧センサ受付部７２は、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以降の静止画像の表示を要求する変更入力情報を受け付けたと見なすことができる。つまり、シフトレバーの把持操作により静止画像の表示や遡り表示、先送り表示を実現することができる。
【００５１】
なお、上述した各モジュールは、機能ごとに分けて構成する例を示したが、２つの機能またはそれ以上の機能を統合した構成にしてもよい。例えば、ブレーキセンサ受付部６２、アクセルセンサ受付部６４、シフトセンサ受付部６６、舵角センサ受付部６８、車輪速センサ受付部７０、感圧センサ受付部７２はセンサ受付部として統合してもよい。また、データ制御部３６がセンサ受付部を含んでもよく、各センサからの操作入力情報や変更入力情報を取得してもよい。上述した操作入力情報や変更入力情報の入力態様は一例であり、適宜変更可能である。
【００５２】
図６の場合、車両１のフロント側に第１の仮想視点位置Ａを設定し、車両１の上空域に第２の仮想視点位置Ｂを設定し、リア側に第３の仮想視点位置Ｃを設定した例を示した。第１の仮想視点位置Ａ、第３の仮想視点位置Ｃの設定位置は、仮想画像データが第２の仮想視点位置Ｂ（車両１の上空域）で例えば鉛直軸Ｏの周りを１８０°回転させられればよく適宜選択することが可能で同様の効果を得ることができる。例えば、別の実施形態では、車両１の右側方に第１の仮想視点位置Ａを設定し、車両１の上空域に第２の仮想視点位置Ｂを設定し、車両１の左側方に第３の仮想視点位置Ｃを設定して、視点変換画像（実質的な動画）を表示してもよい。この場合、車両１の側方の状況に注意を払わせやすい周辺監視情報の提供ができる。また、車両１の左斜め前方を第１の仮想視点位置Ａとし、車両１の上空域である第２の仮想視点位置Ｂを経て、車両１の右斜め後方を第３の仮想視点位置Ｃとしてもよい。同様に、車両１の右斜め前方を第１の仮想視点位置Ａとし、車両１の上空域である第２の仮想視点位置Ｂを経て、車両１の左斜め後方を第３の仮想視点位置Ｃとしてもよい。この場合、車両１のコーナ部分の状況に注意を払わせやすい周辺監視情報の提供ができる。
【００５３】
このように構成される周辺監視システム１００の動作を以下に説明する。図７は、車両１が駐車されている現実世界（現実空間）の一例を示す斜視図である。図７の場合、車両１は、フロント側の物体４０およびリア側の物体４２、物体４４に挟まれた空間に駐車されている例を示している。なお、物体４０と物体４２は小径の円柱物体であり、物体４４は、物体４０，４２より大径の円柱物体である。以下の説明では、図７の状態から車両１を前進発進させようとする場合の視点変換画像の表示処理を一例として説明する。
【００５４】
ＣＰＵ１４ａ（ＥＣＵ１４）は、まず、視点変換画像の表示要求があるか否かを判定する（Ｓ１００）。例えば、イグニッションスイッチの操作状態を確認し、イグニッションスイッチがＯＮされた場合、車両１は発進準備中であり、表示要求ありと判定する。この場合、イグニッションスイッチの操作に伴い視点変換画像は自動表示モードで表示されることになる。また、別の実施形態では、操作部１４ｇ等を介してユーザが視点変換画像の表示を要求した場合、表示要求ありと判定する。この場合、視点変換画像は手動表示モードで表示されることになる。
【００５５】
ＣＰＵ１４ａは、「表示要求なし」と判定した場合（Ｓ１００のＮｏ）、このフローを一旦終了する。一方、ＣＰＵ１４ａは、「表示要求あり」と判定した場合（Ｓ１００のＹｅｓ）、データ制御部３６は、車両１の発進予定方向を取得する（Ｓ１０２）。データ制御部３６は、例えば、ＳＳＤ１４ｆ等に記録されていた駐車直前の変速操作部７のシフト位置や駐車支援を行ったときの駐車状況等に基づき、車両１の発進予定方向を取得する。データ制御部３６は、さらに、取得した発進予定方向に基づき、表示開始視点位置を決定する（Ｓ１０４）。例えば、車両１が前進発進すると判定した場合、データ制御部３６は、第３の仮想視点位置Ｃを車両１のリア側、第１の仮想視点位置Ａを車両１のフロント側に設定する。逆に車両１が後退発進すると判定した場合、データ制御部３６は、第３の仮想視点位置Ｃを車両１のフロント側、第１の仮想視点位置Ａを車両１のリア側に設定する。
【００５６】
続いて、画像取得部３０は、表示制御部１４ｄを介して各撮像部１５ａ〜１５ｄが撮像した車両１の周辺の撮像画像データ（現在画像）を取得する（Ｓ１０６）。そして、画像変換部３２は、取得された撮像画像データをＲＯＭ１４ｂが記憶するマッピングテーブルの変換情報を用いて、仮想画像データを生成（変換）する（Ｓ１０８）。なお、本実施形態では、画像変換部３２は、撮像画像データを車両１の位置を中心とする曲面に投影するように仮想画像データに変換している。
【００５７】
データ制御部３６は、Ｓ１０４で決定した表示開始視点位置（例えば、図６の第１の仮想視点位置Ａ）に仮想視点３８が存在する場合の仮想画像データから表示を開始する。そして、データ制御部３６は、仮想視点３８が第２の仮想視点位置Ｂに向かい移動するように仮想画像データを所定のフレームレートで順次表示して、視点変換画像の実質的な動画表示を開始する（Ｓ１１０）。本実施形態の場合、前述したように、画像変換部３２は、撮像画像データを曲面投影を用いて仮想画像データを生成する。例えば、平面投影を用いて仮想画像データを生成した場合、車両１に対して水平方向に第１の仮想視点位置Ａを設定すると、車両１の周囲の物体に対応する画素は水平線上に並び（直線で表現されてしまい）、物体を表現することが困難になる。一方、曲面投影を用いて仮想画像データを生成した場合、車両１に対して水平方向に第１の仮想視点位置Ａを設定すると、第１の仮想視点位置Ａに近い位置に存在する物体は、路面に寝転がった状態に表示される。また、奥側（第１の仮想視点位置Ａから遠い側）に存在する物体は、立像として立体的に表示される。図９は、仮想視点３８が第１の仮想視点位置Ａに存在する場合に曲面投影を用いた仮想画像データにより表示される視点変換画像の一例である。この場合、車両１の前方に物体４０が存在し、車両１の後方に物体４２，４４が存在することをユーザに認識させることができる。
【００５８】
データ制御部３６は、順次表示する仮想画像データ（実質的な動画）が第２の仮想視点位置Ｂの位置における仮想画像データ、すなわち、仮想画像データを鉛直軸Ｏの周りを１８０°回転させる位置の仮想画像データの表示タイミングになったか否かを判定する（Ｓ１１２のＮｏ）。仮想画像データを回転する位置（タイミング）に到達した場合（Ｓ１１２のＹｅｓ）、データ制御部３６は、仮想視点３８の移動を一時的に停止して仮想画像データの回転を行う（Ｓ１１４）。図１０は、仮想視点３８が、第２の仮想視点位置Ｂに到達した場合の仮想画像データに基づき表示装置８に表示された視点変換画像である。図１０に示しように、仮想画像データの回転前においては、車両１のフロント側が表示装置８の画面下端側に向いているとともに、物体４０が表示装置８の画面下端側に存在し、物体４２，４４が表示装置８の画面上端側に存在する状態で表示される。図１１は、仮想視点３８が、第２の仮想視点位置Ｂに到達した後、そこで鉛直軸Ｏ（図６参照）を中心として水平方向に１８０°回転させた後の仮想画像データに基づき表示装置８に表示された視点変換画像である。図１１に示すように、仮想画像データの回転後においては、車両１のリア側が表示装置８の画面下端側に向いているとともに、物体４２，４４が表示装置８の画面下端側に存在し、物体４０が表示装置８の画面上端側に存在する状態で表示される。このように、車両１の周囲の全体状況が把握しやすい状態で仮想画像データを回転させることで、物体４０〜４４の存在や車両１との位置関係をユーザに認識させやすくするとともに、注意を払う物体に対する注目度を向上させることができる。
【００５９】
データ制御部３６は、第２の仮想視点位置Ｂにおいてデータ制御部３６の回転が完了したか否かを確認し（Ｓ１１６のＮｏ）、回転が完了した場合（Ｓ１１６のＹｅｓ）、仮想視点３８の第３の仮想視点位置Ｃに向かう移動を開始する（Ｓ１１８）。なお、仮想画像データは、第２の仮想視点位置Ｂで１８０°回転しているので、仮想視点３８を第３の仮想視点位置Ｃに向けて移動させても車両１の天地は逆転せず、第３の仮想視点位置Ｃで仮想画像データによる画像を表示する際に天地が適切な表示態様になるので現実世界の再現性が向上できる。
【００６０】
次に、データ制御部３６は、仮想視点３８の位置が表示最終位置に到達したか否か判定する（Ｓ１２０のＮｏ）。仮想視点３８が第３の仮想視点位置Ｃ（Ｃ１）に到達した、つまり、第３の仮想視点位置Ｃ（Ｃ１）に対応する仮想画像データの表示を実行した場合（Ｓ１２０のＹｅｓ）、ＣＰＵ１４ａ（操作受付部３４）は、このフローを一旦終了し、次の視点変換画像の表示要求の受け付けを待つ。
【００６１】
また、データ制御部３６は、１回の表示要求に対して、視点変換画像を所定回数繰り返し表示するようにしてもよい。視点変換画像を複数回表示する場合、毎回新規の視点変換画像を表示するようにしてもよい。つまり、リアルタイムで変化する視点変換画像の表示を行うようにしてもよい。この場合、急な物体の接近、例えば歩行者等の接近を視点変換画像に反映することが可能で、より現実世界の状況をユーザに提供することができる。また、別の実施形態では、初回に表示する視点変換画像の内容をＲＡＭ１４ｃ等に保存しておき、２回目以降にその保存した視点変換画像を再生表示するようにしてもよい。この場合、ＣＰＵ１４ａの処理負荷を軽減することができる。
【００６２】
データ制御部３６は、仮想視点の移動速度、つまり、視点変換画像の動画表示速度を変更してもよい（可変できるようにしてもよい）。例えば、操作部１４ｇを介してユーザの希望する表示速度を受け付け、その表示速度に設定してもよい。この場合、ユーザの好みに沿う表示ができる。また、視点変換画像の表示を複数回行う場合は、初回の表示では標準的な第１速度で表示し、２回目以降は、第１速度より遅い第２速度で表示するようにしてもよい。この場合、車両１の周囲の状況をより理解させやすい表示ができる。
【００６３】
このように、データ制御部３６は、仮想画像データを表示する場合に、仮想視点３８を第１の仮想視点位置Ａ、第２の仮想視点位置Ｂ、第３の仮想視点位置Ｃに連続的に移動させるとともに、第２の仮想視点位置Ｂの位置で、仮想画像データを水平方向に１８０°回転させる。その結果、車両１の周囲の状況を仮想視点３８から見た視点変換画像により実質的な動画によりユーザに提供することが可能になり、車両１の周囲の状況（現実世界、現実空間）をより容易にユーザに把握させることができる。また、仮想視点３８の位置を高さ方向および第１の仮想視点位置Ａから第３の仮想視点位置Ｃの方向に連続的に移動させることにより、車両１の周囲に存在する物体（例えば物体４０〜４４）の見え方が刻々と変化する。その変化の過程（連続変化の過程）で物体（立体物）の特徴が分かり易くなる。さらに、視点変換画像を連続的に実質的な動画として表示することにより物体の形状変化を把握し易くすることができる。つまり、視点変換画像を間欠的、または個別に表示する場合に比べ、車両１の周囲の状況をユーザに理解させやすく表示することができる。
【００６４】
また、第３の仮想視点位置Ｃを車両１が発進する際の進行予定方向に対して後ろ側に位置するように設定して、仮想画像データの表示を終わらせることにより、図１２に示すように、発進方向の状況をユーザに印象付け易くなり、発進時の注意喚起をより強く行うことができる。
【００６５】
ところで、画像変換部３２が曲面投影を用いて撮像画像データから仮想画像データを生成する場合、ＣＰＵ１４ａの処理負荷が増大してしまう場合がある。一方、平面投影を用いて撮像画像データから仮想画像データを生成する場合、ＣＰＵ１４ａの処理負荷は曲面投影の場合に比べ軽減できる場合がある。前述したように平面投影を用いた場合、仮想視点３８が車両１と水平の位置にある場合、物体の表示が困難になる場合がある。そこで、図６に示すように、仮想視点３８の移動開始位置および移動終了位置を車両１に対する水平の位置より上方に移動して、第１の仮想視点位置Ａ１、第３の仮想視点位置Ｃ１とする。例えば、水平に対する第１の仮想視点位置Ａ１の仰角をα＝１５°とする。同様に水平に対する第３の仮想視点位置Ｃ１の仰角をβ＝１５°とする。このように、仮想視点３８の移動開始位置および移動終了位置を変更するのみで、物体が表示し難いという不都合を容易に回避することができる。さらに、ＣＰＵ１４ａの処理負荷を容易に軽減することができる。
【００６６】
図１３〜図１６は、平面投影を用いて生成した仮想画像データを用いた視点変換画像による表示例を示している。図１３に示すように、第１の仮想視点位置Ａ１に仮想視点３８が存在する場合、重畳される車両１は前方やや上方から俯瞰した状態となる。その結果、物体４０は、水平線から起き上がった状態で表示され、物体４０の存在をユーザに認識させ易くなる。データ制御部３６は、仮想視点３８が第２の仮想視点位置Ｂに到達した場合に、曲面投影で仮想画像データを生成した場合と同様に、仮想画像データを鉛直軸Ｏの周りで水平方向に１８０°回転させる（図１４、図１５）。平面投影を用いた場合、第２の仮想視点位置Ｂにおける仮想画像データで表示される物体４０〜４４は、ほぼ上面視像となり、物体４０〜４４と車両１との位置関係が曲面投影を用いた場合に比べて明確になる。仮想画像データの回転が完了すると、データ制御部３６は、仮想視点３８が第３の仮想視点位置Ｃ１に向かい移動を再開したように見えるように仮想画像データの順次表示を再開し、第３の仮想視点位置Ｃ１に対応する仮想画像データの表示を行い（図１６）、一連の表示処理を完了させる。図１６に示すように、第３の仮想視点位置Ｃ１に仮想視点３８が存在する場合、重畳される車両１は後方やや上方から俯瞰した状態となる。
【００６７】
このように、平面投影を用いて仮想画像データを生成して表示する場合も、仮想視点３８を第１の仮想視点位置Ａ１、第２の仮想視点位置Ｂ、第３の仮想視点位置Ｃ１に連続的に移動させるとともに、第２の仮想視点位置Ｂの位置で、仮想画像データを水平方向に１８０°回転させる。その結果、車両１の周囲の状況を仮想視点３８から見た視点変換画像による実質的な動画によりユーザに提供することが可能になり、車両１の周囲の状況（現実世界、現実空間）をより容易に把握させることができる。また、仮想視点３８の位置を高さ方向および第１の仮想視点位置Ａ１から第３の仮想視点位置Ｃ１の方向に連続的に移動させることにより、車両１の周囲に存在する物体（例えば物体４０〜４４）の見え方が刻々と変化する。その変化の過程（連続変化の過程）で物体（立体物）の特徴が分かり易くなる。さらに、視点変換画像を連続的に実質的な動画として表示することにより物体の形状変化が把握し易くすることができる。つまり、視点変換画像を間欠的、または個別に表示する場合に比べ、車両１の周囲の状況をユーザに理解させやすく表示することができる。
【００６８】
また、第３の仮想視点位置Ｃ１を車両１が発進する際の進行予定方向に対して後ろ側に位置するように設定して、仮想画像データの表示を終わらせることにより、図１６に示すように、発進方向の状況をユーザに印象付け易くなり、発進時の注意喚起をより強く行うことができる。
【００６９】
なお、上述した各実施形態では、仮想画像データを回転させる第２の仮想視点位置Ｂの位置を車両１の上空域のうち車両１を基準とした鉛直軸Ｏを含む位置（直上位置）として説明した。別の実施形態では、仮想画像データを回転させる位置は、鉛直軸Ｏを含む位置に限られず、鉛直軸Ｏの位置から所定量前後にずれた位置でもよく、同様の効果を得ることができる。
【００７０】
また、仮想視点３８が第１の仮想視点位置Ａ（Ａ１）、第２の仮想視点位置Ｂ、第３の仮想視点位置Ｃ（Ｃ１）を移動しているように仮想画像データを表示する場合、実質的に動画として表示することが望ましいが、仮想画像データの表示は第１の仮想視点位置Ａ（Ａ１）から第３の仮想視点位置Ｃ（Ｃ１）に至るまで必ずしも連続していなくてもよい。例えば、視点変換画像（仮想画像データ）を順次表示（動画表示）している間に、その表示画像に注目したい部分が存在した場合、例えば、障害物らしきものが表示された場合、動画表示の途中に仮想画像データの順次表示を一時的に停止させて、詳細確認ができるような静止画像が存在するような表示をしてもよい。例えば、ユーザが操作部１４ｇ等を操作することにより、注目したい仮想視点の位置で仮想画像データによる表示を静止させてもよい。このように、車両１の周辺の状況を表示しているときに、注目したい場面で仮想画像データによる表示を一時的に静止画像とすることで、表示内容の詳細検討や車両１と物体との位置関係や発進経路の検討を行いやすくすることができる。
【００７１】
ところで、上述したように視点変換画像（仮想画像データ）の順次表示（動画表示）を一時的に停止させる場合、操作部１４ｇや表示装置８のタッチスクリーンを操作しようとすると、操作遅れが生じることがある。仮想視点３８が第１の仮想視点位置Ａ（Ａ１）から第２の仮想視点位置Ｂを経て第３の仮想視点位置Ｃ（Ｃ１）に移動する時間（表示時間）は、順次表示の速度（動画表示速度）に応じて変化するが、１０秒程度である。したがって、注目したい場面の表示時間は短く、その場面を認識した場合、迅速に表示速度の調整（例えば、停止調整）ができることが望ましい。
【００７２】
そこで、本実施形態においては、データ制御部３６（図５参照）は、複数の仮想画像データを、仮想視点が車両１の周囲を移動しているような動画になるように配列して、表示制御部１４ｄに供給して表示装置８に表示させているときに、車両１の走行操作を行うための操作部材から所定の操作入力情報を受け付けた場合に、仮想画像データの順次表示の速度を変化させる制御部として機能することができる。データ制御部３６は、動画の表示速度を変更することで、例えば、順次表示される仮想画像データの表示を一時的に停止して、静止画像とすることができる。また、一時停止した静止画像の前後の仮想画像データを用いて、静止タイミングを調整することができる。車両１の走行操作を行うための操作部材としては、前述した操舵部４（ステアリングホイール）、制動操作部６（ブレーキペダル）、変速操作部７（シフトレバー）のうち少なくとも一つを利用することができる。
【００７３】
図１７は、図８に示す仮想画像データを用いた表示処理と同時に実行される、例えば一時停止処理を実行する割り込み処理の一例を示すフローチャートである。なお、図１７のフローは所定周期で繰り返し実行されているものとする。
【００７４】
まず、データ制御部３６は、仮想画像データによる順次表示（動画表示）が表示開始済み（実行中）であるか常時確認し（Ｓ２００）、表示が開始されていない場合（Ｓ２００のＮｏ）、このフローを一旦終了する。一方、Ｓ２００において、表示開始済みの場合（Ｓ２００のＹｅｓ）、データ制御部３６は、操作部材を介して動画表示の一時停止を要求する操作入力情報を受け付けたか否かを確認する（Ｓ２０２）。なお、操作部材は、前述したように走行操作を行うための部材（操舵部４、制動操作部６、変速操作部７等）を用いる。そのため、車輪速センサ受付部７０が車輪速センサ２２からの停止確認情報を取得した場合（車輪速センサ２２からの信号が未入力の場合）に限り、データ制御部３６は、操作部材の操作に基づく情報（ブレーキセンサ１８ｂ、舵角センサ１９ａ、ステアリング感圧センサ１９ｂ、レバー感圧センサ２１ｂ等からの情報）を仮想画像データの表示速度の変更（例えば、一時停止等）を要求する情報として認識するようにしている。なお、操舵部４、制動操作部６、変速操作部７の全てを仮想画像データの順次表示の速度変化を実行する契機となる情報を生成する部材としてもよいし、いずれか一つまたは複数が速度変化を実行する契機となる情報を生成する部材としてもよい。
【００７５】
例えば、操作部材が、操舵部４（ステアリングホイール）の場合、データ制御部３６は、感圧センサ受付部７２がステアリング感圧センサ１９ｂから信号を受け付けたか否か確認する。ステアリングホイールが所定圧力を超えて強く一度把持された場合、感圧センサ受付部７２は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なす。また、別の実施形態の場合、データ制御部３６は、舵角センサ受付部６８が舵角センサ１９ａから信号を受け付けたか否か確認する。ステアリングホイールが左右いずれかの方向に所定角度以上回動させられた場合、舵角センサ受付部６８は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なす。
【００７６】
また、別の実施形態の場合、データ制御部３６は、ブレーキセンサ受付部６２がブレーキセンサ１８ｂから信号を受け付けたか否か確認する。ブレーキペダルが所定ストロークを越えて一度強く踏み込まれた場合、ブレーキセンサ受付部６２は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なす。
【００７７】
また、別の実施形態の場合、データ制御部３６は、感圧センサ受付部７２がレバー感圧センサ２１ｂから信号を受け付けたか否か確認する。シフトレバーが所定圧力を超えて強く把持された場合、感圧センサ受付部７２は、視点変換画像の順次表示を一時停止させる操作入力情報を受け付けたと見なす。
【００７８】
Ｓ２０２において、データ制御部３６が一時停止を要求する操作入力情報の取得を確認した場合（Ｓ２０２のＹｅｓ）、データ制御部３６は、仮想画像データの順次表示を一時停止する。つまり、仮想画像データによる静止画像を表示装置８に表示する（Ｓ２０４）。静止画像を表示することにより、ユーザに動画表示中に気になった場面を静止状態で提供し、その内容を詳細に確認させることができる。
【００７９】
上述したように走行操作するための操作部材は、ユーザ（運転者）が運転席に着座した姿勢で無理なく運転者の身体の一部と接触できる位置に存在する。したがって、表示装置８の内容を目視している最中でもユーザに操作準備姿勢をとらせやすい。その結果、仮想画像データの順次表示を一時停止させるための操作を迅速に行わせることができる。つまり、気になる場面の認識と実際の静止画像表示のタイムラグを低減させることができる。
【００８０】
なお、上述のように、走行操作をするための操作部材を用いて一時停止を要求した場合でも、ユーザの技量（反射神経等）により僅かなタイムラグが生じてしまう場合もある。そこで、データ制御部３６は、所定の操作入力情報を受け付けた場合、所定期間過去に表示した仮想画像データを使用した静止画像を表示させることができる。例えば、データ制御部３６は操作入力情報を受け付けたタイミングを基準に所定期間、例えば０．５秒前に表示した仮想画像データを用いた静止画像を表示装置８に表示する。このように、静止画像を表示する際に所定期間遡った仮想画像データを用いることでタイムラグの影響をさらに軽減することができる。なお、遡る期間は適宜設定可能でユーザの嗜好に合わせられるようにしてもよい。また、時間単位以外に、仮想画像データのフレーム数単位で遡っても同様の効果を得ることができる。
【００８１】
続いて、データ制御部３６は、静止画像の変更要求（変更入力情報の入力）がなされたか否か確認する（Ｓ２０６）。例えば、操作部材が、操舵部４（ステアリングホイール）の場合、データ制御部３６は、静止画像の表示中に、ステアリングホイールが所定圧力を超えて短い間隔で二度把持されたか否か確認する。データ制御部３６は、そのような操作を確認した場合、遡りのための変更入力情報を取得したと見なし（Ｓ２０６のＹｅｓ）、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以前の静止画像（変更静止画像）の表示を実行する（Ｓ２０８）。この場合、変更入力情報の入力の回数にしたがい、静止画像の表示を過去に向けて遡るようにしてもよい。例えば、ステアリングホイールを短い間隔で二度把持する動作を１セットとした場合、その動作が１セット行われるたびに、静止画像の表示を例えば０．３秒ずつ遡る。逆に、データ制御部３６は、静止画像の表示中に、ステアリングホイールが所定圧力を超えて短い間隔で三度把持されたか否か確認する。データ制御部３６は、そのような操作を確認した場合、先送りのための変更入力情報を取得したと見なし、一時停止中の視点変換画像（静止画像）を基準画像としてそれ以降の静止画像（変更静止画像）の表示を実行する。この場合、変更入力情報の入力の回数にしたがい、静止画像の表示を先送りする。例えば、ステアリングホイールを短い間隔で三度把持する動作を１セットとした場合、その動作が１セット行われるたびに、静止画像の表示を例えば０．３秒ずつ先送りするようにしてもよい。このように、静止画像の静止場面の変更を行うことにより、表示された静止画像がユーザの希望するタイミングの静止画像でない場合でも調整して所望する静止画像を提供することができる。また、注目したい場面の前後の静止画像の確認も可能になり、気になる物体等の詳細を把握させやすくすることができる。
【００８２】
なお、変更入力情報は、舵角センサ１９ａの入力に基づいて取得される場合、ステアリングホイールが左右いずれかの方向に所定角度以上短い間隔で二度（三度）回動させられた場合に発生する。このほか、変更入力情報は、ブレーキペダルが所定ストロークを越えて短い間隔で例えば二度強く踏み込まれた場合（遡り表示の場合）や三度強く踏み込まれた場合（先送り表示の場合）に発生する。このほか、シフトレバーに内蔵されたレバー感圧センサ２１ｂで把持力の変化を検出した場合も同様である。
【００８３】
データ制御部３６は、Ｓ２０６において、変更入力情報の入力がないと判定した場合（Ｓ２０６のＮｏ）、または、変更入力情報の取得に基づき静止画像の変更を行った場合（Ｓ２０８）、静止画像の表示解除要求（解除の操作入力情報の入力）がなされたか否かを確認する（Ｓ２１０）。例えば、操作部材が、操舵部４（ステアリングホイール）の場合、データ制御部３６は、静止画像の表示中に、ステアリングホイールが所定圧力を超えて再度一度だけ把持されたことを示す操作入力情報を取得した場合（Ｓ２１０のＹｅｓ）、一時停止中の視点変換画像（静止画像）を最初の画像として、その仮想画像データから順次表示を再開させる（Ｓ２１２）。つまり、動画表示を再開する。表示再開のための操作入力情報は、ステアリングホイールを回動させたり、ブレーキペダルを踏み込んだり、シフトレバーを把持しても入力できる。
【００８４】
データ制御部３６は、仮想画像データの順次画像が再開された場合、仮想画像データの表示が表示終点位置、例えば仮想視点３８が第３の仮想視点位置Ｃ（Ｃ１）の位置に到達したか否かを確認する（Ｓ２１６）。つまり、仮想視点３８が表示終点位置に到達して、周辺監視のための一連の順次表示が終了した場合（Ｓ２１６のＹｅｓ）、このフローを一旦終了する。一方、仮想視点３８が表示終点位置に到達していない場合（Ｓ２１６のＮｏ）、Ｓ２０２に戻りＳ２０２からの処理を繰り返す。
【００８５】
Ｓ２１０において、データ制御部３６が、静止画像の表示中に静止画像の表示解除を要求する操作入力情報を取得できない場合（Ｓ２１０のＮｏ）、データ制御部３６は現在表示中の静止画像の表示から所定期間が経過したか否かを確認する（Ｓ２１４）。例えば、現在表示中の静止画像の表示から６０秒が経過した場合（Ｓ２１４のＹｅｓ）、データ制御部３６は静止画像は十分に表示されたと見なして、Ｓ２１２に移行して仮想画像データによる順次表示（動画表示）を再開する。また、Ｓ２１４において、所定期間が経過していない場合（Ｓ２１４のＮｏ）、Ｓ２０６に移行して、データ制御部３６は変更入力情報があるか確認し、Ｓ２０６からの処理を再度行う。
【００８６】
また、Ｓ２０２において、データ制御部３６が一時停止を要求する操作入力情報を取得していない場合（Ｓ２０２のＮｏ）、Ｓ２１６に移行して、仮想画像データの表示が表示終点位置に到達したか否かを確認するＳ２１６の処理を実行する。
【００８７】
なお、上述した実施形態では、データ制御部３６が操作入力の取得を確認した場合、仮想画像データによる順次表示を一時的に停止して静止画像を表示装置８に表示する例をした。別の実施形態では、仮想画像データによる順次表示の表示速度（動画表示速度）を一時的にそれまでの表示速度より遅くしてもよい。この場合、ユーザが注目したいと感じた場面からスロー再生のような表示が行われることになり、例えば表示画像に移り込んだ物体の認識が容易になるとともに、動画再生を継続することができるので、動画表示の内容確認精度を向上させつつ、周囲状況の確認時間を短縮することができる。また、逆に確認不要と感じる場面は早送りするように仮想画像データによる順次表示の速度を早くしてもよい。この場合、周囲状況の確認時間を短縮することができる。なお、このように仮想画像データによる順次表示の速度を変更する場合も前述した一時停止と同様に、走行操作を行う操作部材（操舵部４、制動操作部６、変速操作部７等）を用いて同様に行うことが可能で同様の効果を得ることができる。
【００８８】
また、図６において、仮想視点３８は、車両１を中心とするほぼ半円軌道で移動する例を示したが、仮想視点３８が第２の仮想視点位置Ｂの位置またはその前後位置で１８０°回転すれば、その移動態様は適宜変更可能である。例えば、仮想視点３８が第１の仮想視点位置Ａ（Ａ１）から所定の高さに上昇した後、仮想視点３８を車両１の上空域を水平移動させる。その水平移動の間に仮想視点３８を水平方向に１８０°回転させて、その後、第３の仮想視点位置Ｃ（Ｃ１）に向けて下降させてもよい。この場合、車両１を俯瞰している状態が長くなり車両１と物体との位置関係をより把握させやすい表示ができる。
【００８９】
上述した実施形態では、撮像画像データから仮想画像データを生成する場合に曲面投影か平面投影かのいずれかを用いる例を示したがこれに限らない。曲面投影と平面投影とを適宜組み合わせて用いてもよい。例えば、第１の仮想視点位置Ａや第３の仮想視点位置Ｃの付近では曲面投影を用い、その他の部分では平面投影を用いてもよい。この場合、表示開始および終了位置の変更による視点変換画像の表示範囲の拡大ができるとともに、画像変換部３２における処理負荷の軽減が可能になる。
【００９０】
また、上述した実施形態では、撮像部１５が撮像した現在画像（リアルタイム画像）により仮想画像データを生成する例を示したが、撮像画像データを一時的にＲＡＭ１４ｃ等に保存して仮想画像データをタイミングを遅らせて生成するようにしてもよい。この場合、表示のリアルタイム性は僅かに低下する場合があるが、処理速度の遅いＣＰＵ１４ａの利用も可能になり、周辺監視装置のコスト削減に寄与できる。また、撮像部１５で撮像してＲＡＭ１４ｃ等に保存しておいた過去画像を用いて、本実施形態で示した視点変換画像を表示するようにしてもよい。この場合、現在の車両１の周囲のみならず、移動してきた領域（現在の車両１の位置から離れた位置）の状況（過去の状況）の把握も可能になり、周辺監視装置の利用機会を増やすことができる。
【００９１】
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【００９２】
１…車両、２…車体、８…表示装置、１４…ＥＣＵ、１４ａ…ＣＰＵ、１４ｂ…ＲＯＭ、１４ｄ…表示制御部、１４ｇ…操作部、１５，１５ａ，１５ｂ，１５ｃ，１５ｄ…撮像部、３０…画像取得部、３２…画像変換部、３４…操作受付部、３６…データ制御部、６２…ブレーキセンサ受付部、６４…アクセルセンサ受付部、６６…シフトセンサ受付部、６８…舵角センサ受付部、７０…車輪速センサ受付部、７２…感圧センサ受付部、３８…仮想視点、４０，４２，４４…物体、１００…周辺監視システム（周辺監視装置）、Ａ，Ａ１…第１の仮想視点位置、Ｂ…第２の仮想視点位置、Ｃ，Ｃ１…第３の仮想視点位置、Ｏ…鉛直軸。
【図１】
0006613774.tif 000002
【図２】
0006613774.tif 000003
【図３】
0006613774.tif 000004
【図４】
0006613774.tif 000005
【図５】
0006613774.tif 000006
【図６】
0006613774.tif 000007
【図７】
0006613774.tif 000008
【図８】
0006613774.tif 000009
【図９】
0006613774.tif 000010
【図１０】
0006613774.tif 000011
【図１１】
0006613774.tif 000012
【図１２】
0006613774.tif 000013
【図１３】
0006613774.tif 000014
【図１４】
0006613774.tif 000015
【図１５】
0006613774.tif 000016
【図１６】
0006613774.tif 000017
【図１７】
0006613774.tif 000018