(57)【特許請求の範囲】
【請求項１】
画像から背景画像を取り出す背景画像取得手段と、
前記画像と前記背景画像から仮想物体モデルを抽出する仮想物体モデル抽出手段と、
前記仮想物体モデルから物体三次元モデルを生成する物体三次元モデル生成手段と、
前記背景画像を視点変換する背景画像視点変換手段と、
前記物体三次元モデルを視点変換する物体三次元モデル視点変換手段と、
視点変換された前記背景画像と前記物体三次元モデルとを合成する合成手段と
を備えることを特徴とする画像表示装置。
【請求項２】
前記物体三次元モデル生成手段は、前記仮想物体モデルに前記画像をマッピングするマッピング手段を備えることを特徴とする請求項１に記載の画像表示装置。
【請求項３】
前記マッピング手段は、少なくとも２台のカメラが異なる角度で撮影した前記画像を用いてマッピングすることを特徴とする請求項２に記載の画像表示装置。
【請求項４】
前記マッピング手段は、前記画像によりマッピングを行う領域が重なるときには、画素数の多い前記画像を用いてマッピングを行うことを特徴とする請求項３に記載の画像表示装置。
【請求項５】
前記仮想物体モデル抽出手段は、
前記仮想物体モデルの特徴を抽出する特徴抽出手段と、
前記特徴抽出手段により抽出された特徴により前記物体三次元モデルを選択する物体三次元モデル選択手段と
を備えることを特徴とする請求項１から請求項４のいずれか１項に記載の画像表示装置。
【請求項６】
前記仮想物体モデル抽出手段は、前記仮想物体モデルに対応する物体の速度を計測する速度計測手段を備え、
前記物体三次元モデル選択手段は、前記速度を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴とする請求項５に記載の画像表示装置。
【請求項７】
前記物体三次元モデルを前記背景画像に合成するときに、前記物体三次元モデルが配置されていた領域の向きに対して同じ向きとなるように前記物体三次元モデルを設定することを特徴とする請求項１から請求項６のいずれか１項に記載の画像表示装置。 
【請求項８】
画像から背景画像を取り出す背景画像取得処理と、
前記画像と前記背景画像から仮想物体モデルを抽出する仮想物体モデル抽出処理と、
前記仮想物体モデルから物体三次元モデルを生成する物体三次元モデル生成処理と、
前記背景画像を視点変換する背景画像視点変換処理と、
前記物体三次元モデルを視点変換する物体三次元モデル視点変換処理と、
視点変換された前記背景画像と前記物体三次元モデルとを合成する合成処理と
をコンピュータに実行させることを特徴とする画像表示方法。
【請求項９】
前記物体三次元モデル生成処理は、前記仮想物体モデルに前記画像をマッピングするマッピング処理を備えることを特徴とする請求項８に記載の画像表示方法。
【請求項１０】
前記マッピング処理は、少なくとも２台のカメラが異なる角度で撮影した前記画像を用いてマッピングすることを特徴とする請求項９に記載の画像表示方法。
【請求項１１】
前記マッピング処理は、前記画像によりマッピングする領域が重なるときには、画素数の多い前記画像を用いてマッピングすることを特徴とする請求項１０に記載の画像表示方法。
【請求項１２】
前記仮想物体モデル抽出処理は、前記仮想物体モデルの特徴を抽出する特徴抽出処理と、
前記特徴抽出処理により抽出された特徴により前記物体三次元モデルを選択する物体三次元モデル選択処理と
を備えることを特徴とする請求項８から請求項１１のいずれか１項に記載の画像表示方法。
【請求項１３】
前記仮想物体モデル抽出処理は、前記仮想物体モデルに対応する物体の速度を計測する速度計測処理を備え、
前記物体三次元モデル選択処理は、前記速度を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴とする請求項１２に記載の画像表示方法。
【請求項１４】
前記物体三次元モデルを前記背景画像に合成するときに、前記物体三次元モデルが配置されていた領域の向きに対して同じ向きとなるように前記物体三次元モデルを設定することを特徴とする請求項８から請求項１３のいずれか１項に記載の画像表示方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、カメラで撮影した画像を実際にカメラの視点と異なる視点（以下、「仮想視点」という）から見た画像に変換して表示する画像表示装置に関する。
【背景技術】
【０００２】
１つまたは複数のカメラによって撮影された画像を指定された仮想視点から見た画像（以下、「仮想視点画像」という）に変換することが可能となった。例えば、特許文献１に示す画像生成方法および装置では、自動車に取り付けた１または複数のカメラにより自動車の周囲の画像を撮影し、この撮影された画像の情報により３次元空間の空間モデルにテクスチャマッピング（以下、「マッピング」という）された自動車モデルの画像を生成し、更に自動車のフロントドアなどの可動部材における変化を検出し、３次元空間の自動車モデルを検出された可動部材の変化量に応じて仮想視点の位置を変化させて表示すると共に、検出された可動部材を変形させて表示している。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−５０２６３
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、カメラが撮影した物体の画像を仮想視点画像に変換する際に、物体の三次元情報が失われることがあるので、高さのある物体では仮想視点の画像が歪んでしまうという問題がある。高さのある物体を撮影した画像を仮想視点画像に変換したときに、変換された画像が歪む例について、図１０を用いて説明する。図１０（１）に示すように、車道１０を走行する車両７００の斜め前方を撮影する位置に取り付けられた監視カメラ６００により車両７００を撮影し、監視カメラ６００が撮影した画像を車両７００の真上となる仮想視点６１０から見た画像に変換する。このように、仮想視点６１０が車両７００の真上の位置であるときには、監視カメラ６００により撮影された車両７００の画像を車両７００の真上から見た画像に変換する必要がある。しかし、監視カメラ６００が撮影する画像を仮想視点６１０から見た画像に変換すると、図１０（２）に示すように、車両７００の高さに比例して仮想視点６１０から見た画像７１０が長くなる。つまり、監視カメラ６００からは、車両７００の背面部分が見えないので、車両の長さは車両７００の監視カメラ６００から見た車道１０上への投影７２０の長さに等しくなる。この車道１０上への投影７２０の長さは、車両７００の高さに比例して長くなるので、車両７００の高さに比例して画像７１０も長くなる。このように、監視カメラ６００が撮影した画像は、車両７００の三次元情報が失われることで、仮想視点６１０から見た画像に変換するときに、同じ位置に監視カメラ６００が設置されている場合であっても、車両７００の高さが高くなるほど仮想視点６１０から見た画像７１０の歪みが大きくなるという問題がある。【０００５】
本発明はこのような状況に鑑みてなされたものであり、上記課題を解決できる画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【０００６】
本発明の画像表示装置は、画像から背景画像を取り出す背景画像取得手段と、前記画像と前記背景画像から仮想物体モデルを抽出する仮想物体モデル抽出手段と、前記仮想物体モデルから物体三次元モデルを生成する物体三次元モデル生成手段と、前記背景画像を視点変換する背景画像視点変換手段と、前記物体三次元モデルを視点変換する物体三次元モデル視点変換手段と、視点変換された前記背景画像と前記物体三次元モデルとを合成する合成手段とを備えることを特徴としている。  また、本発明の画像表示装置の前記物体三次元モデル生成手段は、前記仮想物体モデルに前記画像をマッピングするマッピング手段を備えることを特徴としている。  また、本発明の画像表示装置の前記マッピング手段は、少なくとも２台のカメラが異なる角度で撮影した前記画像を用いてマッピングすることを特徴としている。  また、本発明の画像表示装置の前記マッピング手段は、前記画像によりマッピングを行う領域が重なるときには、画素数の多い前記画像を用いてマッピングを行うことを特徴としている。  また、本発明の画像表示装置の前記仮想物体モデル抽出手段は、前記仮想物体モデルの特徴を抽出する特徴抽出手段と、前記特徴抽出手段により抽出された特徴により前記物体三次元モデルを選択する前記物体三次元モデル選択手段とを備えることを特徴としている。  また、本発明の画像表示装置の前記仮想物体モデル抽出手段は、前記仮想物体モデルに対応する物体の速度を計測する速度計測手段を備え、前記物体三次元モデル選択手段は、前記速度を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴としている。  また、本発明の画像表示装置は、前記物体三次元モデルを前記背景画像に合成するときに、前記物体三次元モデルが配置されていた領域の向きに対して同じ向きとなるように前記物体三次元モデルを設定することを特徴としている。
【発明の効果】
【０００７】
本発明は、カメラで撮影された物体の画像を仮想視点から見た物体の画像に変換するときに、物体の画像が歪まないように変換して表示することかできる画像表示装置を提供する。
【図面の簡単な説明】
【０００８】
【図１】本発明の実施形態に係る車両が走行する車道におけるカメラの設置例を示す図である。
【図２】本発明の実施形態に係る画像表示システムの構成及び画像表示装置の機能構成を示す図である。
【図３】本発明の実施形態に係る画像表示装置による仮想視点画像を作成する手順を示す図である。
【図４】本発明の実施形態に係る背景画像作成処理のフローチャート及びカメラ映像入力処理のフローチャートである。
【図５】本発明の実施形態に係る物体抽出処理のフローチャートである。
【図６】本発明の実施形態に係るマッピング処理のフローチャート及び物体三次元モデル選択処理のフローチャートである。
【図７】本発明の実施形態に係る視点変換処理のフローチャート、背景・仮想物体モデル合成処理のフローチャート、及び画像表示処理のフローチャートである。
【図８】本発明の実施形態に係る仮想視点から見た車両の画像及び実際の車両の画像を表示する例を示す図である。
【図９】本発明の実施形態に係る仮想視点から見た車両の画像を実際の車両の画像と同時に表示する例を示す図である。
【図１０】従来における車両の画像を仮想視点画像に変換するときに変換された車両の画像が歪む例を説明する図である。
【発明を実施するための形態】
【０００９】
以下、本発明を実施するための形態（以下、「実施形態」という）について、図面を参照して説明する。実施形態は、車道を走行する車両を撮影するために設置されているカメラの画像を仮想視点画像に変換して表示する画像表示システムに関する。実施形態の画像表示システムでは、前後左右の四方に監視カメラが設置されたエリア（以下、「物体三次元モデル作成用エリア」という）で撮影された画像から物体が存在している領域（以下、「物体領域」という）を抽出し、物体領域から三次元モデル（以下、「物体三次元モデル」という）を生成する。次に、この物体三次元モデルの画像と、物体領域以外の領域の画像（以下、「背景画像」という）を仮想視点画像に視点変換して合成することで、車両の画像が歪まないように変換して表示する。
【００１０】
まず、実施形態に係る車両が走行する車道における監視カメラの設置場所について、図１を用いて説明する。図１に示すように車道１０はセンターライン１１によって分けられ、図１の図面視でセンターライン１１の上側を上り車線１２、センターライン１１の下側を下り車線１３とする。上り車線１２には物体三次元モデル作成用エリア１４、下り車線１３には物体三次元モデル作成用エリア１５が設けられている。上り車線１２の物体三次元モデル作成用エリア１４には、上り車線１２の物体三次元モデル作成用エリア１４を通過する車両の前面側を撮影する前面監視カメラ１０１、背面側を撮影する背面監視カメラ１０２、センターライン１１側の側面を撮影する側面監視カメラ１０３、及び沿道側の側面を撮影する側面監視カメラ１０４が設置されている。また、上り車線１２には、車道１０に沿って車両監視カメラ１０５〜１０７がほぼ等間隔で設置されている。同様に、下り車線１３の物体三次元モデル作成用エリア１５には、下り車線１３の物体三次元モデル作成用エリア１５を通過する車両の前面側を撮影する前面監視カメラ１０８、背面側を撮影する背面監視カメラ１０９、センターライン１１側の側面を撮影する側面監視カメラ１１０、及び沿道側の側面を撮影する側面監視カメラ１１１が設置されている。また、下り車線１３には、車道１０に沿って車両監視カメラ１１２〜１１４がほぼ等間隔で設置されている。
【００１１】
次に、実施形態に係る画像表示システム２０の構成について、図２を用いて説明する。画像表示システム２０は、図２に示すように監視カメラ１００（監視カメラ１０１〜１１４を含む実施形態における監視カメラの総称）、ネットワーク２００、画像表示装置３００、モニタ４００、及びマウス５００から構成されている。画像表示装置３００、モニタ４００、及びマウス５００は、監視員が駐在する監視センター２０Ｃに設置されている。監視カメラ１００は、車道１０を走行する車両などの画像を撮影し、撮影した画像を画像データに変換し、ネットワーク２００を経由して画像表示装置３００に送信する。ネットワーク２００は、監視センター２０Ｃから離れた場所に設置されている監視カメラ１００と、監視センター２０Ｃに設置されている画像表示装置３００とを接続する。画像表示装置３００は、監視カメラ１００から画像データを受信すると、仮想視点画像を生成し、仮想視点画像の画像データを表示可能な画像信号に変換し、モニタ４００に出力する。また、画像表示装置３００は、監視カメラ１００の向きなどを操作するための操作データを、監視カメラ１００に送信する。画像表示装置３００の構成については、後述する。モニタ４００は、画像表示装置３００から入力した画像信号の画像を表示する。マウス５００は、監視員が行う操作を入力すると操作データに変換して画像表示装置３００に出力する。
【００１２】
次に、画像表示装置３００の構成について、図２を用いて説明する。画像表示装置３００は、通信Ｉ／Ｆ部３１０、制御部３２０、メモリ部３３０、ＨＤＤ部３４０、画像表示Ｉ／Ｆ部３５０、操作入力Ｉ／Ｆ部３６０、及びデータバス３７０から構成されている。制御部３２０には、背景画像作成処理部３２１、カメラ画像入力処理部３２２、物体抽出処理部３２３、マッピング処理部３２４、物体三次元モデル選択処理部３２５、視点変換処理部３２６、背景・物体三次元モデル合成処理部３２７、及び画像表示処理部３２８を備えている。メモリ部３３０には、入力画像登録エリア３３１、速度計測画像登録エリア３３２、仮想物体モデル登録エリア３３３、及び物体三次元モデル登録エリア３３４を備えている。ＨＤＤ部３４０には、背景画像登録エリア３４１を備えている。
【００１３】
次に、画像表示装置３００を構成する各部について説明する。
【００１４】
通信Ｉ／Ｆ部３１０は、ネットワーク２００に接続され、監視カメラ１００から送信される画像データを受信し、メモリ部３３０の入力画像登録エリア３３１に保存する。また、通信Ｉ／Ｆ部３１０は、監視カメラ１００を操作するための操作信号を制御部３２０から入力すると、操作データに変換し、監視カメラ１００に送信する。
【００１５】
制御部３２０は、ＣＰＵ等の制御手段を備え、画像表示装置３００を総合的にコントロールする。また、制御部３２０は、操作入力Ｉ／Ｆ部３６０から入力される監視カメラ１００に対する操作を行うための操作データを、制御部３２０で処理し通信Ｉ／Ｆ部３１０を経由して該当する監視カメラ１００に送信する。制御部３２０が備える背景画像作成処理部３２１、カメラ画像入力処理部３２２、物体抽出処理部３２３、マッピング処理部３２４、物体三次元モデル選択処理部３２５、視点変換処理部３２６、背景・物体三次元モデル合成処理部３２７、及び画像表示処理部３２８が行う処理については、後述する。
【００１６】
メモリ部３３０は、画像表示装置３００の基本機能を実現するためのプログラムや制御部３２０が実行するプログラム及びこれらのプログラムで用いられるデータを記憶する。  入力画像登録エリア３３１は、監視カメラ１００から受信する画像データを登録するためのエリアである。  速度計測画像登録エリア３３２は、車両監視カメラ１０５〜１０７及び車両監視カメラ１１２〜１１４が撮影した画像の中から速度計測のために保存される画像データを登録するためのエリアである。  仮想物体モデル登録エリア３３３は、物体三次元モデル作成用エリア１４に設置されている前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４、及び物体三次元モデル作成用エリア１５に設置されている前面監視カメラ１０８、背面監視カメラ１０９、側面監視カメラ１１０、１１１が撮影した画像の物体領域から生成された物体の仮想体（以下、「仮想物体モデル」という）を登録するためのエリアである。  物体三次元モデル登録エリア３３４は、仮想物体モデルにマッピングを行うことで生成した物体三次元モデルを登録するためのエリアである。
【００１７】
ＨＤＤ(ハードディスクドライブ)部３４０は、制御部３２０が実行するプログラムやこのプログラムで用いられるデータを記憶する。  背景画像登録エリア３４１は、前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４、及び車両監視カメラ１０５〜１０７と、前面監視カメラ１０８、背面監視カメラ１０９、側面監視カメラ１１０、１１１、及び車両監視カメラ１１２〜１１４とが撮影した背景画像の画像データを登録するエリアである。
【００１８】
画像表示Ｉ／Ｆ部３５０は、画像表示処理部３２８から画像信号を入力するとモニタ４００に出力する。
【００１９】
操作Ｉ／Ｆ部３６０は、マウス５００からの操作信号を入力し、制御部３２０が解析可能な操作データに変換し、制御部３２０に出力する。
【００２０】
データバス３７０は、各部３１０〜３６０を接続し、データの受け渡しを行う。
【００２１】
次に、画像表示装置３００による仮想視点画像を生成する手順について、図３を用いて説明する。図１に示す車道１０の上り車線１２の物体三次元モデル作成用エリア１４に設置されている前面監視カメラ１０１、背面監視カメラ１０２、及び側面監視カメラ１０３、１０４が撮影した画像から生成される物体三次元モデルの画像と、車道１０に設置される車両監視カメラ１０５〜１０７が撮影した背景画像とを合成して仮想視点画像を生成する例を用いて説明する。仮想視点画像を生成する手順は、ステップＳ１００からステップＳ８００の順に行われる。
【００２２】
（ステップＳ１００）  まず、図２に示す背景画像作成処理部３２１は、図１に示す物体三次元モデル作成用エリア１４に設置されている前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４、及び車両監視カメラ１０５〜１０７が撮影した画像から車両などの物体が映っていない背景画像を作成し、背景画像の画像データをＨＤＤ部３４０の背景画像登録エリア３４１に保存する。
【００２３】
（ステップＳ２００）  次いで、カメラ画像入力処理部３２２は、図１に示す物体三次元モデル作成用エリア１４に設置されている前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４が撮影した画像、及び車両監視カメラ１０５〜１０７が撮影した画像の画像データを入力し、入力画像登録エリア３３１に保存する。また、カメラ画像入力処理部３２２は、車道１０を走行している車両の速度を計測するために、予め決めた周期で車両監視カメラ１０５が撮影した画像の画像データを速度計測画面登録エリア３３２に保存する。
【００２４】
（ステップＳ３００）  次いで、物体抽出処理部３２３は、前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４の画像データを入力画像登録エリア３３１から取り出し、また前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４の背景画像データを背景画像登録エリア３４１から取り出す。物体抽出処理部３２３は、入力した画像データと背景画像データとを比較することで、図３に示す仮想物体モデルを抽出し、仮想物体モデル登録エリア３３３に保存する。
【００２５】
（ステップＳ４００）  次いで、マッピング処理部３２４は、入力画像登録エリア３３１から前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４が撮影した画像データの画素を取り出し、また、仮想物体モデル登録エリア３３３から仮想物体モデルを取り出す。マッピング処理部３２４は、入力画像登録エリア３３１の画像データの画素を仮想物体モデルにマッピングを行うことで、図３に示す物体の三次元体（以下、「物体三次元モデル」という）を生成し、メモリ部３３０の物体三次元モデル登録エリア３３４に保存する。
【００２６】
（ステップＳ５００）  次いで、物体三次元モデル選択処理部３２５は、モニタ４００に表示される画像の車両に対応する物体三次元モデルを、物体三次元モデル登録エリア３３４から選択する。
【００２７】
（ステップＳ６００）  次いで、視点変換処理部３２６は、物体三次元モデル選択処理部３２５が選択した物体三次元モデルと、HDD部３４０の背景画像登録エリア３４１に登録されている車両監視カメラ１０５〜１０７の背景画像の両方を別々に仮想視点画像に変換する。
【００２８】
（ステップＳ７００）  次いで、背景・物体三次元モデル合成処理部３２７は、物体三次元モデルを背景画像において物体が存在していた位置となるように、背景画像と物体三次元モデルとを合成する。
【００２９】
（ステップＳ８００）  次いで、画像表示処理部３２８は、背景画像に物体三次元モデルが合成された画像の画像データを、モニタ４００が表示可能な画像信号に変換し、画像表示Ｉ／Ｆ部３５０に出力する。
【００３０】
次に、ステップＳ１００において背景画像作成処理部３２１が行う背景画像作成処理の詳細について、図４（１）に示す背景画像作成処理のフローチャートに示すステップ順に説明する。監視員が背景画像を作成するための背景画像作成要求の操作をマウス５００から行うと、操作入力Ｉ／Ｆ部３６０は、背景画像作成要求の操作データを制御部３２０に出力する。制御部３２０は、背景画像作成要求の操作データを入力すると、背景画像作成処理部３２１を起動する。背景画像作成処理部３２１が起動されると、背景画像作成処理部３２１は背景画像作成処理を開始する。
【００３１】
（ステップＳ１１０）  まず、背景画像作成処理部３２１は、背景画像作成要求の操作データを解析し、「背景画像登録」、「背景画像コピー」、または「背景画像更新」のいずれの要求であるかを判別する。「背景画像登録」であるときには、ステップＳ１２０に進む。「背景画像コピー」であるときには、ステップＳ１３０に進む。「背景画像更新」であるときには、ステップＳ１４０に進む。
【００３２】
（ステップＳ１２０）  背景画像作成処理部３２１は、「背景画像登録」の要求であるときには、車両が映っていない背景のみのときの画像を前面監視カメラ１０１、背面監視カメラ１０２、及び側面監視カメラ１０３、１０４、及び車両監視カメラ１０５〜１０７により撮影し、撮影した画像の画像データをＨＤＤ部３４０の背景画像登録エリア３４１に登録する。次いで、背景画像作成処理部３２１は、背景画像作成処理を終了する。
【００３３】
（ステップＳ１３０）  背景画像作成処理部３２１は、「背景画像コピー」の要求であるときには、車両などの物体が映っていない画像の画像データを入力画像登録エリア３３１から背景画像登録エリア３４１にコピーする。次いで、背景画像作成処理部３２１は、背景画像作成処理を終了する。
【００３４】
（ステップＳ１４０）  背景画像作成処理部３２１は、「背景画像更新」の要求であるときには、一定時間毎に、入力画像登録エリア３３１から入力画像の画像データを入力し、また背景画像登録エリア３４１から背景画像の画像データを入力すると、これらの画像データを加重平均することにより背景画像登録エリア３４１の背景画像データを更新する。背景画像データの更新は、「背景画像更新」の停止要求を受け付けることで停止される。次いで、背景画像作成処理部３２１は、背景画像作成処理を終了する。
【００３５】
次に、ステップＳ２００においてカメラ画像入力処理部３２２が行うカメラ画像入力処理の詳細について、図４（２）に示すカメラ画像入力処理のフローチャートに示すステップ順に説明する。通信Ｉ／Ｆ部３１０が監視カメラ１００から画像データを受信すると制御部３２０に画像データ受信通知を出力する。制御部３２０は、画像データ受信通知を入力すると、カメラ画像入力処理部３２２を起動する。カメラ画像入力処理部３２２が起動されると、カメラ画像入力処理部３２２はカメラ画像入力処理を開始する。
【００３６】
（ステップＳ２１０）  まず、カメラ画像入力処理部３２２は、監視カメラ１００が撮影した画像の画像データを入力する。
【００３７】
（ステップＳ２２０）  次いで、カメラ画像入力処理部３２２は、画像データを入力画像登録エリア３３１に登録する。
【００３８】
（ステップＳ２３０）  次いで、カメラ画像入力処理部３２２は、入力した画像データが速度計測を行うために採取するフレームであるかを判定する。画像データが速度計測を行うために採取するフレームであるとき(ステップＳ２３０のＹｅｓ)は、ステップＳ２４０に進む。また、画像データが速度計測を行うために採取するフレームでないとき(ステップＳ２３０のＮｏ)は、カメラ映像入力処理を終了する。
【００３９】
（ステップＳ２４０）  次いで、カメラ画像入力処理部３２２は、速度計測を行うために採取したフレームの画像データを速度計測画像登録エリア３３２に登録する。その後、カメラ画像入力処理部３２２は、カメラ画像入力処理を終了する。
【００４０】
次に、ステップＳ３００において物体抽出処理部３２３が行う物体抽出処理の詳細について、図５（１）に示す物体抽出処理のフローチャートに示すステップ順に説明する。仮想視点画像を生成するための仮想視点画像作成要求の操作をマウス５００から行うと、操作入力Ｉ／Ｆ部３６０は、仮想視点画像生成要求の操作データを制御部３２０に出力する。制御部３２０は、仮想視点画像生成要求の操作データを入力すると、物体抽出処理部３２３を起動する。物体抽出処理部３２３が起動されると、物体抽出処理部３２３は物体抽出処理を開始する。
【００４１】
（ステップＳ３１０）  まず、物体抽出処理部３２３は、画像の物体を実空間における物体として抽出する実空間物体抽出処理を行う。実空間物体抽出処理の詳細については、後述する。
【００４２】
（ステップＳ３２０）  次いで、物体抽出処理部３２３は、実空間物体抽出処理で抽出した実空間における物体のサイズを算出する。
【００４３】
（ステップＳ３３０）  次いで、物体抽出処理部３２３は、ステップＳ３２０で算出した実空間における物体のサイズから仮想物体モデルのサイズを決定する。
【００４４】
次に、ステップＳ３１０において物体抽出処理部３２３が行う実空間物体抽出処理の詳細について、図５（２）に示す実空間物体抽出処理のフローチャートに示すステップ順に説明する。
【００４５】
（ステップＳ３１１）  まず、物体抽出処理部３２３は、入力画像登録エリア３３１から前面監視カメラ１０１、背面監視カメラ１０２、及び側面監視カメラ１０３、１０４の画像データを取り出し、また背景画像登録エリア３４１から前面監視カメラ１０１、背面監視カメラ１０２、及び側面監視カメラ１０３、１０４の背景画像データを取り出すと、画像データから背景画像データの画像を差し引くことで、物体画像を差分（抽出）する。
【００４６】
（ステップＳ３１２）  次いで、物体抽出処理部３２３は、ステップＳ３１１で差分した物体画像が２５６階調である場合には、閾値以上の階調を２５５階調とし、閾値未満の階調を０階調とすることで二値化を行う。
【００４７】
（ステップＳ３１３）  次いで、物体抽出処理部３２３は、ステップＳ３１２で二値化した物体画像の同じ物体毎にラベルを付けるラベリングを行う。
【００４８】
（ステップＳ３１４）  次いで、ステップＳ３１３でラベルを付けられた物体毎にサイズ（始点座標、幅、高さ）及び面積（二値化された画素における白画素の数）を算出する。
【００４９】
（ステップＳ３１５）  次いで、物体抽出処理部３２３は、ラベルを付けられた物体毎に二値化された物体画像の白画素の部分に対して、画像の色のヒストグラム、最高頻度の色、及び最低頻度の色を算出することで、物体の色を抽出する。
【００５０】
（ステップＳ３１６）  次いで、物体抽出処理部３２３は、ラベルを付けられた物体毎に二値化された物体画像の白画素の部分に対して、重心、周囲の長さ、円形度、オイラー数、モーメント、及びコーナー数を算出することで物体の形状を抽出する。
【００５１】
（ステップＳ３１７）  次いで、物体抽出処理部３２３は、入力画像登録エリア３３１から画像データを取り出し、また速度計測画像登録エリア３３２から速度計測画像データを取り出すと、画像データの画像と速度計測画像データの画像を用いてオプティカルフローを算出する。オプティカルフローにより得られた画像上の始点・終点を実空間の座標に変換し、実空間の座標から移動距離を算出することで、物体の速度を計測する。
【００５２】
（ステップＳ３１８）  次いで、物体抽出処理部３２３は、入力画像登録エリア３３１の前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４の俯角、高さ、及び焦点距離の情報を用いて、物体画像の座標を実空間の座標に変換する。その後、物体抽出処理部３２３は、物体抽出処理を終了する。
【００５３】
次に、ステップＳ４００においてマッピング処理部３２４が行うマッピング処理の詳細について、図６（１）に示すマッピング処理のフローチャートに示すステップ順に説明する。制御部３２０は、物体抽出処理部３２３が物体抽出処理を終了すると、マッピング処理部３２４を起動する。マッピング処理部３２４が起動されると、マッピング処理部３２４はマッピング処理を開始する。
【００５４】
（ステップＳ４１０）  まず、マッピング処理部３２４は、仮想物体モデルの前面を前面監視カメラ１０１の画像から抽出された物体領域のうち、予め決められた貼付領域でかつ画素数の密度が一定以上である部分を抽出し、仮想物体モデルのサイズに合わせて拡大・縮小して仮想物体モデルの前面部分に貼り付けることでマッピングを行う。拡大・縮小するときには、例えばバイリニア補間などを使用して拡大・縮小による画素密度の劣化を防ぐようにすることができる。
【００５５】
（ステップＳ４２０）  次いで、マッピング処理部３２４は、仮想物体モデルの背面を背面監視カメラ１０２の画像から抽出された物体領域のうち、予め決められた貼付領域でかつ画素数の密度が一定以上である部分を抽出し、仮想物体モデルのサイズに合わせて拡大・縮小して仮想物体モデルの背面部分に貼り付けることでマッピングを行う。拡大・縮小するときには、例えばバイリニア補間などを使用して拡大・縮小による画素密度の劣化を防ぐようにすることができる。
【００５６】
（ステップＳ４３０）  次いで、マッピング処理部３２４は、仮想物体モデルの側面を側面監視カメラ１０３、１０４の画像から抽出された物体領域のうち、予め決められた貼付領域でかつ画素数の密度が一定以上である部分を抽出し、仮想物体モデルのサイズに合わせて拡大・縮小して仮想物体モデルの側面部分に画像を貼り付けることでマッピングを行う。拡大・縮小するときには、例えばバイリニア補間などを使用して拡大・縮小による画素密度の劣化を防ぐようにすることができる。
【００５７】
（ステップＳ４４０）  次いで、マッピング処理部３２４は、仮想物体モデルの上面を前面監視カメラ１０１、背面監視カメラ１０２の画像の解像度が高い方を貼り付ける必要がある。このため、背面監視カメラ１０２の画像を貼り付けるときには、前面監視カメラ１０１の画像と貼付領域が重なっている場合に、前面監視カメラ１０１の画像と重なっている貼付領域で画素数が多いか否かを判定する。画素数が多い場合には、そのままの領域の画像を仮想物体モデルのサイズに合わせて拡大・縮小して仮想物体モデルの上面に貼り付けることで上面を作成する。また、画素数が少ない場合には、抽出した領域から重なり部分を削除した領域の画像を仮想物体モデルのサイズに合わせて拡大・縮小して仮想物体モデルの上面に貼り付けることで上面を作成する。
【００５８】
（ステップＳ４５０）  次いで、マッピング処理部３２４は、仮想物体モデルをマッピングすることで生成した物体三次元モデルを物体三次元モデル登録エリア３３４に登録する。その後、マッピング処理部３２４は、マッピング処理を終了する。
【００５９】
次に、ステップＳ５００において物体三次元モデル選択処理部３２５が行う物体・三次元モデル選択処理の詳細について、図６（２）のフローチャートに示すステップ順に説明する。制御部３２０は、マッピング処理部３２４がマッピング処理を終了すると、物体三次元モデル選択処理部３２５を起動する。物体三次元モデル選択処理部３２５が起動されると、物体三次元モデル選択処理部３２５は物体三次元モデル選択処理を開始する。
【００６０】
（ステップＳ５１０）  まず、物体三次元モデル選択処理部３２５は、車両監視カメラ１０５〜１０７が撮影した画像の物体画像と物体三次元モデル登録エリア３３４に登録されている物体三次元モデルのサイズ、形状、及び色を比較する。また、高精度で選択するときには、更に、前述した物体抽出処理により検出される物体画像の座標（以下、「物体の位置」という）や測定される物体の速度を比較する。
【００６１】
（ステップＳ５２０）  次いで、物体三次元モデル選択処理部３２５は、比較した結果に基づいて車両監視カメラ１０５の背景画像に合成させる物体三次元モデルを選択すると、物体三次元モデル選択処理を終了する。  なお、物体三次元モデルの選択については、サイズ、形状、色、物体の位置、物体の速度の他に、物体三次元モデルを登録した時刻などの情報を用いても選択することができる。
【００６２】
次に、ステップＳ６００において視点変換処理部３２６が行う視点変換処理の詳細について、図７（１）に示す視点変換処理のフローチャートに示すステップ順に説明する。制御部３２０は、物体三次元モデル選択処理部３２５が物体三次元モデル選択処理を終了すると、視点変換処理部３２６を起動する。視点変換処理部３２６が起動されると、視点変換処理部３２６は視点変換処理を開始する。
【００６３】
（ステップＳ６１０）  まず、視点変換処理部３２６は、選択された物体三次元モデルを実空間の座標から車両監視カメラ１０５の背景画像の座標に変換する。
【００６４】
（ステップＳ６２０）  次いで、視点変換処理部３２６は、座標変換された物体三次元モデルを指定された仮想視点から見た物体三次元モデルとなるように座標を回転する。
【００６５】
（ステップＳ６３０）  次いで、視点変換処理部３２６は、監視カメラ１０５の背景画像を指定された仮想視点から見た背景画像となるように座標を回転する。その後、視点変換処理部３２６は、視点変換処理を終了する。
【００６６】
次に、ステップＳ７００において背景・物体三次元モデル合成処理部３２７が行う背景・物体三次元モデル合成処理の詳細について、図７（２）に示す背景・物体三次元モデル合成処理のフローチャートに示すステップ順に説明する。制御部３２０は、視点変換処理部３２６が視点変換処理を終了すると、背景・物体三次元モデル合成処理部３２７を起動する。背景・物体三次元モデル合成処理部３２７が起動されると、背景・物体三次元モデル合成処理部３２７は背景・物体三次元モデル合成処理を開始する。
【００６７】
（ステップＳ７１０）  まず、背景・物体三次元モデル合成処理部３２７は、物体三次元モデルから背景画像に貼り付けるための表示面を取り出す。
【００６８】
（ステップＳ７２０）  次いで、背景・物体三次元モデル合成処理部３２７は、車両監視カメラ１０５が撮影した画像に存在していた物体と同じ大きさとなるように物体三次元モデルの表示面を拡大または縮小する。
【００６９】
（ステップＳ７３０）  次いで、背景・物体三次元モデル合成処理部３２７は、背景画像の元の画像において物体が存在していた位置に物体三次元モデルの表示面を合成する。その後、背景・物体三次元モデル合成処理部３２７は、背景・物体三次元モデル合成処理を終了する。
【００７０】
次に、ステップＳ８００において画像表示処理部３２８が行う画像表示処理の詳細について、図７（３）に示す画像表示処理のフローチャートに示すステップ順に説明する。制御部３２０は、背景・物体三次元モデル合成処理部３２７が背景・物体三次元モデル合成処理を終了すると、画像表示処理部３２８を起動する。画像表示処理部３２８が起動されると、画像表示処理部３２８は画像表示処理を開始する。
【００７１】
（ステップＳ８１０）  まず、画像表示処理部３２８は、物体三次元モデルの表示面が合成された背景画像の画像データを表示可能な画像信号に変換すると、画像表示出力Ｉ／Ｆ部３５０を経由してモニタ４００に出力する。これにより、モニタ４００に指定された仮想視点に変換された車両監視カメラ１０５の画像が表示される。次いで、画像表示処理部３２８は、画像表示処理を終了する。
【００７２】
次に、図１に示す上り車線１２の物体三次元モデル作成用エリア１４に設置された前面監視カメラ１０１、背面監視カメラ１０２、側面監視カメラ１０３、１０４に基づいて作成された仮想視点画像を、車両監視カメラ１０５〜１０７の真上に仮想視点を移動して見たときの画像、及び下り車線１３の物体三次元モデル作成用エリア１５に設置された前面監視カメラ１０８、背面監視カメラ１０９、側面監視カメラ１１０、１１１に基づいて作成された仮想視点画像を、車両監視カメラ１１２〜１１４の上に仮想視点を移動して見たときの画像を、図８（１）に示す。上り車線１２の車両監視カメラ１０５〜１０７の画像（下り車線１３の車両監視カメラ１１２〜１１４の画像も同様であるが図示を省略）を図８（２）に示す。このように図８（２）に示す上り車線１２の車両監視カメラ１０５〜１０７の画像、下り車線１３の車両監視カメラ１１２〜１１４の画像を車両の真上から見た画像に変換する場合でも、本発明によれば車両の高さに比例して車両５００の画像がひずむことがない図８（１）に示すような車両を真上から見た画像に変換することができる。  なお、図８（１）に表示される車両の物体三次元モデルの向きについては、まず物体抽出処理で検出した物体である車両の位置が上り車線または下り車線のどちらに存在しているかを判定する。例えば上り車線に車両が存在していた場合には、仮想視点画像の上り車線の進行方向に車両の前面、進行方向と逆に背車両の背面が位置するように配置することで、車両の物体三次元モデルの向きを正しく設定することができる。  このように、真上の仮想視点から見た画像を表示できるので、車両の位置や車両間の距離が分かるので、早期に渋滞や事故を検知することができる。
【００７３】
なお、本実施形態によれば、上り車線１２の車両監視カメラ１０５〜１０７及び下り車線１３の車両監視カメラ１１２〜１１４の画像全体を仮想視点画像に変換しているが、例えば図９に示すように、車両監視カメラ１０５〜１０７、車両監視カメラ１１２〜１１４のいずれかの画像とその画像に表示されている車両画像及びその物体三次元モデルを同時に表示することもできる。つまり、物体三次元モデルをアイコン化しておき、このアイコンをクリックすると物体三次元モデルを別のウィンドウで表示することができる。更に、別のウィンドウで表示された物体三次元モデルを操作することであらゆる角度の仮想視点から見た物体三次元モデルを拡大または縮小させて表示することができるので、車両のナンバープレートや運転者を容易に確認することができる。
【００７４】
また、本実施形態によれば、上り車線１２の車両監視カメラ１０５〜１０７の位置より前に物体三次元モデル作成用エリア１４を設け、下り車線１３の車両監視カメラ１１２〜１１４の位置より前に物体三次元モデル作成用エリア１５を設けるようにしたが、これに限らず上り車線１２の車両監視カメラ１０５〜１０７の位置より後ろまたは中間、下り車線１３の車両監視カメラ１１２〜１１４の位置より後ろまたは中間の位置に設けるようにすることも可能である。
【００７５】
上記により、本発明の画像表示装置は、カメラで撮影した画像から背景画像と物体画像を分離し、また、物体の前後左右の四方を撮影した画像から仮想物体モデルを生成し、この仮想物体モデルに実際の物体画像の画素をマッピングすることによって、物体三次元モデルを生成する。このように生成された物体三次元モデルをサイズ、形状、色、物体の位置、及び速度などの情報に基づいて、背景画像と合成する物体の物体三次元モデルを選択する。また、選択された物体三次元モデルと背景画像とを指定された仮想視点画像に別々に視点変換し、物体三次元モデルと背景画像を合成する。このように、実際の画像を仮想視点画像に変換することで、物体の画像を歪むことなく表示させることができる。
【００７６】
以上をまとめると、本発明は次のような特徴を有する。
（１）：本発明の画像表示装置は、画像から背景画像を取り出す背景画像取得手段と、前記画像と前記背景画像から仮想物体モデルを抽出する仮想物体モデル抽出手段と、前記仮想物体モデルから物体三次元モデルを生成する物体三次元モデル生成手段と、前記背景画像を視点変換する背景画像視点変換手段と、前記物体三次元モデルを視点変換する物体三次元モデル視点変換手段と、視点変換された前記背景画像と前記物体三次元モデルとを合成する合成手段とを備えることを特徴としている。
（２）：（１）の本発明の画像表示装置の前記物体三次元モデル生成手段は、前記仮想物体モデルに前記画像をマッピングするマッピング手段を備えることを特徴としている。
（３）：（２）の本発明の画像表示装置の前記マッピング手段は、少なくとも２台のカメラが異なる角度で撮影した前記画像を用いてマッピングすることを特徴としている。
（４）：（３）の本発明の画像表示装置の前記マッピング手段は、前記画像によりマッピングを行う領域が重なるときには、画素数の多い前記画像を用いてマッピングを行うことを特徴としている。
（５）：（１）から（４）のいずれかの本発明の画像表示装置の前記仮想物体モデル抽出手段は、前記仮想物体モデルの特徴を抽出する特徴抽出手段と、前記特徴抽出手段により抽出された特徴により前記物体三次元モデルを選択する前記物体三次元モデル選択手段とを備えることを特徴としている。
（６）：（５）の本発明の画像表示装置の前記仮想物体モデル抽出手段は、前記仮想物体モデルに対応する物体の速度を計測する速度計測手段を備え、前記物体三次元モデル選択手段は、前記速度を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴としている。
（７）：（５）または（６）のいずれかの本発明の画像表示装置の前記仮想物体モデル抽出手段は、前記仮想物体モデルに対応する物体の位置を検出する位置検出手段を備え、前記物体三次元モデル選択手段は、前記物体の位置を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴としている。
（８）：（１）から（７）のいずれかの本発明の画像表示装置は、前記物体三次元モデルを前記背景画像に合成するときに、前記物体三次元モデルが配置されていた領域の向きに対して同じ向きとなるように前記物体三次元モデルを設定することを特徴としている。
（９）本発明の画像表示方法は、画像から背景画像を取り出す背景画像取得工程と、前記画像と前記背景画像から仮想物体モデルを抽出する仮想物体モデル抽出工程と、前記仮想物体モデルから物体三次元モデルを生成する物体三次元モデル生成工程と、前記背景画像を視点変換する背景画像視点変換工程と、前記物体三次元モデルを視点変換する物体三次元モデル視点変換工程と、視点変換された前記背景画像と前記物体三次元モデルとを合成する合成工程とを備えることを特徴としている。
（１０）：（９）の本発明の画像表示方法の前記物体三次元モデル生成工程は、前記仮想物体モデルに前記画像をマッピングするマッピング工程を備えることを特徴としている。
（１１）：（１０）の本発明の画像表示方法の前記マッピング工程は、少なくとも２台のカメラが異なる角度で撮影した前記画像を用いてマッピングすることを特徴としている。
（１２）：（１１）の本発明の画像表示方法の前記マッピング工程は、前記画像によりマッピングを行う領域が重なるときには、画素数の多い前記画像を用いてマッピングを行うことを特徴としている。
（１３）：（９）から（１２）のいずれかの本発明の画像表示方法の前記仮想物体モデル抽出工程は、前記仮想物体モデルの特徴を抽出する特徴抽出工程と、前記特徴抽出工程により抽出された特徴により前記物体三次元モデルを選択する前記物体三次元モデル選択工程とを備えることを特徴としている。
（１４）：（１３）の本発明の画像表示方法の前記仮想物体モデル抽出工程は、前記仮想物体モデルに対応する物体の速度を計測する速度計測工程を備え、前記物体三次元モデル選択工程は、前記速度を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴としている。
（１５）：（１３）または（１４）のいずれかの本発明の画像表示装置の前記仮想物体モデル抽出工程は、前記仮想物体モデルに対応する物体の位置を検出する位置検出工程を備え、前記物体三次元モデル選択工程は、前記物体の位置を用いて前記背景画像と合成する前記物体三次元モデルを選択することを特徴としている。
（１６）：（９）から（１５）のいずれかの本発明の画像表示方法は、前記物体三次元モデルを前記背景画像に合成するときに、前記物体三次元モデルが配置されていた領域の向きに対して同じ向きとなるように前記物体三次元モデルを設定することを特徴としている。
（１７）：（９）から（１６）のいずれかの本発明の画像表示方法をコンピュータに実行させるための画像表示プログラムであることを特徴としている。
【００７７】
以上により、本発明は、カメラで撮影された画像を仮想視点画像に変換するときに物体がひずまないように変換して表示することができる。
【００７８】
具体的な実施の形態により本発明を説明したが、上記実施の形態は本発明の例示であり、この実施の形態に限定されないことは言うまでもない。
【００７９】
この出願は、２０１３年３月１９日に出願された日本出願特願２０１３−０５６７２９を基礎として優先権の利益を主張するものであり、その開示の全てを引用によってここに取り込む。
【産業上の利用可能性】
【００８０】
本発明は、画像を仮想視点画像に変換する装置に適用することができる。
【符号の説明】
【００８１】
１０・・・・・・・車道  
１１・・・・・・・センターライン  
１２・・・・・・・上り車線  
１３・・・・・・・下り車線  
１４・・・・・・・物体三次元モデル作成用エリア  
１５・・・・・・・物体三次元モデル作成用エリア  
２０・・・・・・・画像表示システム  
２０Ｃ・・・・・・監視センター
１００・・・・・・・監視カメラ
１０１・・・・・・・前面監視カメラ
１０２・・・・・・・背面監視カメラ
１０３、１０４・・・側面監視カメラ
１０５〜１０７・・・車両監視カメラ
１０８・・・・・・・前面監視カメラ
１０９・・・・・・・背面監視カメラ
１１０、１１１・・・側面監視カメラ
１１２〜１１４・・・車両監視カメラ
２００・・・・・・・ネットワーク
３００・・・・・・・画像表示装置
３１０・・・・・・・通信Ｉ／Ｆ部
３２０・・・・・・・制御部
３２１・・・・・・・背景画像作成処理部
３２２・・・・・・・カメラ画像入力処理部
３２３・・・・・・・物体抽出処理部
３２４・・・・・・・マッピング処理部
３２５・・・・・・・物体三次元モデル選択処理部
３２６・・・・・・・視点変換処理部
３２７・・・・・・・背景・物体三次元モデル合成処理部
３２８・・・・・・・画像表示処理部
３３０・・・・・・・メモリ部
３３１・・・・・・・入力画像登録エリア
３３２・・・・・・・速度計測画像登録エリア
３３３・・・・・・・仮想物体モデル登録エリア
３３４・・・・・・・物体三次元モデル登録エリア
３４０・・・・・・・ＨＤＤ部
３４１・・・・・・・背景画像登録エリア
３４１、３５０・・・・・・・画像表示Ｉ／Ｆ部
３６０・・・・・・・操作入力Ｉ／Ｆ部
４００・・・・・・・モニタ
５００・・・・・・・マウス
６００・・・・・・・監視カメラ
６１０・・・・・・・仮想視点
７００・・・・・・・車両
７１０・・・・・・・仮想視点画像
７２０・・・・・・・監視カメラから見た車道上への投影 
【図１】
0005865547.tif 000002
【図２】
0005865547.tif 000003
【図３】
0005865547.tif 000004
【図４】
0005865547.tif 000005
【図５】
0005865547.tif 000006
【図６】
0005865547.tif 000007
【図７】
0005865547.tif 000008
【図８】
0005865547.tif 000009
【図９】
0005865547.tif 000010
【図１０】
0005865547.tif 000011