(57)【特許請求の範囲】
【請求項１】
光軸が水平な複数のカメラが、被写体を取り囲むように配置されており、該被写体を撮影した該カメラの画像を用いて、任意の視点の画像を生成する自由視点画像生成装置であって、
実空間を局所領域に分割する局所領域分割手段と、
前記局所領域のそれぞれで、前記カメラのそれぞれの光軸が該局所領域を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する視線回転変換手段と、
前記カメラ座標系変換後の局所領域のそれぞれで、前記カメラのそれぞれと被写体との距離の情報を用いて、前記画像上の該局所領域のスケールが揃うように、該画像を拡大または縮小変換する拡大縮小手段と、
前記拡大または縮小変換後の局所領域のそれぞれで、前記局所領域内のみの、任意の仮想視点から見た自由視点画像を生成する自由視点画像生成手段と、
前記自由視点画像生成手段で得られた自由視点画像が、前記局所領域のそれぞれで、前記拡大または縮小前のスケールとなるように、該自由視点画像を拡大または縮小変換する逆拡大縮小手段と、
前記逆拡大または逆縮小後の局所領域のそれぞれで、前記カメラのそれぞれの光軸が前記カメラ座標系の変換前の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する逆視線回転変換手段と、
前記局所領域のそれぞれの自由視点画像を統合する統合手段とを有し、
前記カメラの設置された平面上にない仮想視点からみた自由視点画像を生成するために、前記統合手段において仮想視点の位置に応じて最終的に合成される自由視点画像内における局所領域の仮想視点画像の位置を移動させる処理、または前記自由視点画像生成手段において仮想視点の位置に応じて読み取る光線の情報の位置を移動させる処理をすることを特徴とする自由視点画像の生成装置。
【請求項２】
請求項１に記載の自由視点画像生成装置において、
前記統合手段において、前記仮想視点の位置が前記カメラの設置された平面から離れた位置にある場合、着目する被写体の中心である着目する局所領域の円筒の中心軸から仮想視点までの視線方向に対する、カメラが配置された平面から仮想視点までの距離であるカメラが配置された水平面を規準とした場合の仮想視点の高さの比に、カメラの焦点距離の画素変換量を乗算することで、着目する局所領域の仮想視点画像の中心の座標の移動量（ただし、移動する向きは逆になる）を得、該座標の縦方向の位置を前記移動量だけ動かして表示することを特徴とする自由視点画像の生成装置。
【請求項３】
請求項１に記載の自由視点画像生成装置において、
前記自由視点画像生成手段において、前記仮想視点の位置が前記カメラの設置された平面から離れた位置にある場合、着目する被写体の中心である着目する局所領域の円筒の中心軸から仮想視点までの視線方向の距離に対する、カメラが配置された平面から仮想視点までの距離であるカメラが配置された水平面を規準とした場合の仮想点の高さの比に、実空間から光線空間への変換比を乗算することで、着目する局所領域の光線空間の読み込み位置の移動量を得、局所領域の光線空間から光線情報を読み取る位置を前記移動量だけ動かして読み込むことを特徴とする自由視点画像の生成装置。
【請求項４】
光軸が水平な複数のカメラが、被写体を取り囲むように配置されており、該被写体を撮影した該カメラの画像を用いて、任意の視点の画像を生成するコンピュータを機能させる自由視点画像生成プログラムであって、
コンピュータを、
実空間を局所領域に分割する局所領域分割手段と、
前記局所領域のそれぞれで、前記カメラのそれぞれの光軸が該局所領域を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する視線回転変換手段と、
前記カメラ座標系変換後の局所領域のそれぞれで、前記カメラのそれぞれと被写体との距離の情報を用いて、前記画像上の該局所領域のスケールが揃うように、該画像を拡大または縮小変換する拡大縮小手段と、
前記拡大または縮小変換後の局所領域のそれぞれで、前記局所領域内のみの、任意の仮想視点から見た自由視点画像を生成する自由視点画像生成手段と、
前記自由視点画像生成手段で得られた自由視点画像が、前記局所領域のそれぞれで、前記拡大または縮小前のスケールとなるように、該自由視点画像を拡大または縮小変換する逆拡大縮小手段と、
前記逆拡大または逆縮小後の局所領域のそれぞれで、前記カメラのそれぞれの光軸が前記カメラ座標系の変換前の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する逆視線回転変換手段と、
前記局所領域のそれぞれの自由視点画像を統合する統合手段と、
として機能させ、
前記カメラの設置された平面上にない仮想視点からみた自由視点画像を生成するために、前記統合手段は、仮想視点の位置に応じて最終的に合成される自由視点画像内における局所領域の仮想視点画像の位置を移動させる処理、または前記自由視点画像生成手段は、仮想視点の位置に応じて読み取る光線の情報の位置を移動させる処理をするようにしたことを特徴とする自由視点画像の生成プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、局所領域分割による自由視点画像の生成装置およびプログラムに関し、特に、被写体を取り囲むように、光軸が水平な複数のビデオカメラ（以下、単にカメラと呼ぶ）を配置し、該カメラより撮影した被写体の画像を用いて自由視点画像を生成する装置およびプログラムに関する。
【背景技術】
【０００２】
近年、画像処理技術や画像通信技術の発達に伴い、次世代の画像コンテンツとして、３次元自由視点画像が注目されている。そこで、被写体の周囲にビデオカメラを配置して撮影した多視点画像を用いて全周囲自由視点画像を生成する技術が、研究、開発されている。
【０００３】
この場合、任意の視点に対応するように、被写体の周りにカメラを密に配置すると、カメラの台数が多くなり、高コストとなり、現実的ではない。そこで、カメラを、被写体の周りに疎に配置することが行われるが、このようにすると、ビデオカメラ間の画像が得られなくなる。
【０００４】
この不具合を解決するために、従来、カメラによって撮影されない視点からの画像を、イメージ・ベースド・レンダリングを用い、画像間の画像を補間することによって生成する方法が提案されている。
【０００５】
多視点画像間の補間を行うイメージ・ベースド・レンダリングの代表的な方法として、「光線空間方式」があり、該光線空間方式を用いた補間画像の生成を説明する技術文献として、下記の特許文献１、２に示されているものがある。
【０００６】
しかしながら、被写体が実空間中に広範囲に分布していて、奥行きの違いによる視差（奥行き視差）が大きい場合には、前記従来技術によって奥行き視差を補正しようとすると、光線情報の補間処理が煩雑になり、実用的ではないという課題があった。
【０００７】
そこで、本出願人は、実空間を奥行き視差の無視できる小さな局所領域に分割し、それぞれの局所領域に対して個別にイメージ・ベースド・レンダリングの手法を適用して局所的な自由視点画像を生成し、それらを合成して目的の自由視点画像を生成するようにした発明を特許出願した（特願２００６−１８５６４８号）。
【０００８】
この特許出願発明の概要を、図１４を用いて簡単に説明する。被写体を取り囲む複数のカメラの一つによって撮像された被写体画像が同図(a)であり、ある局所領域の画像が同図(b)であったとすると、前記複数のカメラによって撮像された前記局所領域における各画像（同図(c)）が、同図(d)に示されているように光線情報として光線空間に格納される。次いで、同図(e)に示されているように、光線情報の内挿補間が行われ、光線空間の充填がなされる。次いで、同図(f)に示されているように、光線情報の切り出しが行われ、該切り出された光線情報が同図(g)に示されているように合成され、これを被写体画像領域に戻すことにより、同図(h)に示されているような自由視点（仮想視点）画像を得る。
【０００９】
この特許出願発明によれば、被写体が実空間中の広範囲に分布していて奥行きの違いによる視差が大きい場合であっても、現実に近い実空間上の任意の視点の画像を生成することができるようになる。また、被写体と被写体の間の仮想視点からの画像を生成することができ、ウォークスルーを実現することができる。
【特許文献１】特開２００４−２５８７７５号公報
【特許文献２】特開平１０−１１１９５１号公報
【発明の開示】
【発明が解決しようとする課題】
【００１０】
しかしながら、前記特許出願発明では、仮想視点の位置はカメラを配置した平面上に限定されており、その平面上にない場合、例えばその平面に対して垂直に上方または下方に仮想視点を移動させた場合の自由視点画像、つまりカメラをその平面に対して垂直に移動させたと仮定した場合の自由視点画像を生成することはできなかった。
【００１１】
本発明は、前記した課題に鑑みてなされたものであり、その目的は、仮想視点がカメラを配置した平面上にない場合に該仮想視点からみた自由視点画像を生成することができる自由視点画像の生成装置およびプログラムを提供することにある。
【課題を解決するための手段】
【００１２】
前記した目的を達成するために、本発明は、光軸が水平な複数のカメラが、被写体を取り囲むように配置されており、該被写体を撮影した該カメラの画像を用いて、任意の視点の画像を生成する自由視点画像生成装置であって、実空間を局所領域に分割する局所領域分割手段と、前記局所領域のそれぞれで、前記カメラのそれぞれの光軸が該局所領域を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する視線回転変換手段と、前記カメラ座標系変換後の局所領域のそれぞれで、前記カメラのそれぞれと被写体との距離の情報を用いて、前記画像上の該局所領域のスケールが揃うように、該画像を拡大または縮小変換する拡大縮小手段と、前記拡大または縮小変換後の局所領域のそれぞれで、前記局所領域内のみの、任意の仮想視点から見た自由視点画像を生成する自由視点画像生成手段と、前記自由視点画像生成手段で得られた自由視点画像が、前記局所領域のそれぞれで、前記拡大または縮小前のスケールとなるように、該自由視点画像を拡大または縮小変換する逆拡大縮小手段と、前記逆拡大または逆縮小後の局所領域のそれぞれで、前記カメラのそれぞれの光軸が前記カメラ座標系の変換前の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する逆視線回転変換手段と、前記局所領域のそれぞれの自由視点画像を統合する統合手段とを有し、前記カメラの設置された平面上にない仮想視点からみた自由視点画像を生成するために、前記統合手段において仮想視点の位置に応じて最終的に合成される自由視点画像内における局所領域の仮想視点画像の位置を移動させる処理、または前記自由視点画像生成手段において仮想視点の位置に応じて読み取る光線の情報の位置を移動させる処理をする自由視点画像の生成装置を提供するようにした点に特徴がある。
【００１３】
本発明はまた、コンピュータが前記の各手段を機能させる自由視点画像の生成プログラムを提供するようにした点に特徴がある。
【発明の効果】
【００１４】
本発明の自由視点画像の生成装置およびプログラムによれば、局所領域分割により自由視点画像の生成において、仮想視点を３時限的にあらゆる方向へ移動した場合であっても、その仮想視点からの画像を生成することが可能になり、より臨場感のある自由視点画像の生成が可能になる。
【発明を実施するための最良の形態】
【００１５】
以下に、本発明を、図面を参照して詳細に説明する。図１は、本発明における一実施形態の被写体とビデオカメラ（以下、単にカメラと呼ぶ）との位置関係を示す概念図である。
【００１６】
図示されているように、撮影対象２である被写体を取り囲む実空間１の外周（例えば、円周、楕円、四角形などの多角形の外周上）に、光軸が水平な複数のカメラ３ａ、３ｂ、３ｃ、・・・、３ｎが疎の間隔で配置されている。この被写体２には、無視できない奥行き視差があるものとする。本発明は、該カメラ３ａ、３ｂ、３ｃ、・・・、３ｎで撮影した画像を合成して、カメラの置かれていない仮想視点（例えば、３Ｘ）からの自由視点画像を得ることに加えて、仮想視点位置がカメラを配置した平面上にない場合、例えば該カメラ３ａ、３ｂ、３ｃ、・・・、３ｎや仮想視点３Ｘを垂直に移動させたと仮定した場合の仮想視点位置における自由視点画像を得ようとするものである。
【００１７】
次に、図２のブロック図を参照して、本発明の第１実施形態の自由視点画像生成装置１０の概略の構成を説明する。
【００１８】
まず、該自由視点画像生成装置１０は、前記被写体を取り囲む実空間１（図１参照）を複数の局所領域に分割する局所領域分割部１１、前記複数のカメラ３ａ、３ｂ、３ｃ、・・・、３ｎの位置情報や仮想視点位置情報や該カメラの内部パラメータ等を取得するカメラ位置情報・カメラパラメータ取得部１２、該複数のカメラ３ａ、３ｂ、３ｃ、・・・、３ｎからの画像情報を取得する画像取得部１３を有する。なお、前記局所領域分割部１１の機能の詳細は、図４、図５を参照して後述する。
【００１９】
局所領域選択部１４は、前記局所領域分割部１１で分割された局所領域を選択する。視線回転変換部１５は、該選択された局所領域の各カメラ画像を画像取得部１３から得て、該局所領域の画像が画像の中央に位置するように、各カメラの画像座標系の回転座標変換を行う。拡大縮小部１６は、該画像の回転変換をしただけでは、カメラから被写体までの距離が異なるという理由により、各視点で被写体の大きさが異なるものとなるため、被写体の大きさを揃えるため、各カメラの画像を拡大または縮小の処理を行う。
【００２０】
自由視点画像生成部１７は、該局所領域の画像に、イメージ・ベースド・レンダリングの手法などを用いて、該局所領域内のみの自由視点画像を生成する。また、仮想視点位置の画像を抽出し記憶する。なお、該自由視点画像生成部１７の動作の概要は、図１４（d)〜(g)に示されている。
【００２１】
逆拡大縮小部１８は、画像上の該局所領域が当初のスケールとなるように、該自由視点画像を拡大または縮小変換する。逆視線回転変換部１９は、前記局所領域に対し、前記カメラのそれぞれの光軸が当初の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれの座標系を変換する。該逆視線回転変換部１９の機能が実行されると、再度、前記局所領域選択部１４により他の局所領域が選択され、前記と同じ機能が繰り返される。
【００２２】
以上の動作により、全ての局所領域の仮想視点画像が得られると、局所領域合成部２０は、上記の構成により得られた複数の局所領域の仮想視点の自由視点画像を合成する。この際、本実施形態では、局所領域合成部２０は、自由視点画像の表示位置の移動量の算出処理２０ａと合成表示による画像生成処理２０ｂを行う。該処理２０ａ、２０ｂの詳細な処理は後述するが、算出処理２０ａでは、カメラ３ａ、３ｂ、３ｃ、・・・、３ｎや仮想視点３Ｘを垂直に移動させることによる自由視点画像の表示位置の移動量を算出する。また、画像生成処理２０ｂでは、算出処理２０ａで得られた大きさだけ表示位置を上または下に移動させた自由視点画像を生成し、合成する。自由視点画像出力部２１は、該局所領域合成部２０で合成された自由視点画像（仮想視点画像）を出力する。
【００２３】
次に、前記自由視点画像生成装置１０の機能の概要を、図３のフローチャートを参照して説明する。
【００２４】
ステップＳ１では、全部のカメラの位置情報とカメラの内部パラメータ、例えばその焦点距離の画素変換量ｆ、および仮想視点位置の情報を入力する。なお、各カメラは、同じ内部パラメータを有するものとする。ステップＳ２では、全部のカメラの画像を取得する。ステップＳ３では、実空間１を局所領域に分割する。ステップＳ４では、前記カメラの中に光軸が水平でないものがある場合には、このカメラの光軸が水平になるように画像の回転変換を行う。ステップＳ５では、局所領域を選択する。なお、前記ステップＳ４の処理は、ステップＳ５の後であってもよい。
【００２５】
ステップＳ６では、全カメラの光軸が、選択した局所領域を向くように、各カメラの画像座標系を回転座標変換する。換言すれば、該局所領域が画像の中央に位置するように、画像の回転変換を行う。ステップＳ７では、該画像上の局所領域のスケールが揃うように、各カメラの画像を拡大または縮小変換する。
【００２６】
ステップＳ８では、該局所領域の画像に、イメージ・ベースド・レンダリングの手法などを用い、補間処理を行うなどをして、該局所領域内のみの自由視点画像を生成する。この処理の詳細は、図１０および図１１を参照して後述する。
【００２７】
ステップＳ９では、該自由視点画像から仮想視点位置画像を抽出し、画像上の該局所領域が当初のスケールとなるように、抽出した前記仮想視点位置画像を拡大または縮小変換する。ステップＳ１０では、全カメラの光軸が当初の方向を向くように、各カメラの画像座標系を回転座標変換する。この結果、前記選択された局所領域の仮想視点位置画像が得られる。
【００２８】
次に、ステップＳ１１では、全ての局所領域の処理が終了したか否かの判断がなされ、処理されていない局所領域がある場合には、ステップＳ５に戻って、該処理されていない他の局所領域が選択される。以上のようにして、全ての局所領域に対する処理が終了する（ステップＳ１１の判断が肯定）と、各局所領域の仮想視点位置画像が得られることになる。次のステップＳ１２では、カメラを垂直方向に移動させたと仮定した場合の自由視点画像を得るために、仮想視点位置画像の表示位置をカメラの移動量に応じた大きさだけ移動させて、全ての局所領域の画像を合成する。ステップＳ１３では、合成された画像が仮想視点位置画像として出力される。
【００２９】
次に、前記した自由視点画像または仮想視点位置画像の生成処理について、以下に、詳細に説明する。
【００３０】
まず、前記実空間１を、図４、図５に示されているように、局所領域４ａ、４ｂ、４ｃ、４ｄ、・・・、４ｎに分割する。分割された各局所領域４ａ、４ｂ、４ｃ、４ｄ、・・・、４ｎは、図４に示されているように、円筒の形状５が好適である。また、図示されているように、重複する領域は最小限にしつつ、撮影した舞台の全体を余す所なく覆っている必要がある。一例として、カメラが円周上に配置されている場合を考えると、各局所領域の中心の座標は、下記で表される局所領域に分割することが望ましい。
【００３１】
【数１】
0004947593.tif 000002
【００３２】
ここで、ａは局所領域の半径、ｋ、ｌは任意の整数、Ｒは中心からカメラまでの距離である。
【００３３】
他の例として、カメラが矩形の実空間１上に配置されている場合を考えると、各局所領域の中心の座標は、下記で表される局所領域に分割することが望ましい。
【００３４】
【数２】
0004947593.tif 000003
【００３５】
ここで、ａは局所領域の半径、ｋ、ｌは任意の整数、Ｈは被写体領域の矩形の横幅、Ｖは被写体領域の矩形の縦幅である。ただし、ｋが奇数の場合はｌも奇数であり、ｋが偶数の場合はｌも偶数となる。
【００３６】
また、カメラの光軸が水平でない場合は、光軸が水平になるように、画像の回転変換を次のように行う。
【００３７】
【数３】
0004947593.tif 000004
と置くと、以下の関係が成立する。
【００３８】
【数４】
0004947593.tif 000005
【００３９】
ここで、ｓはスカラーである。なお、上式は、例えば、共立出版発行の単行本「３次元ビジョン」（徐  剛、辻  三郎共著）の１８７頁の「２．３射影行列と外部変数」に記されているものを用いることができる。
【００４０】
次に、対象となる局所領域（例えば、図５の４ｍ）を選択し、該局所領域が画像の中央（例えば図５のＸ，Ｚ座標の原点）に位置するように、画像の回転変換を行う。
【００４１】
ここで、カメラが前記実空間の周りに、円周上または矩形上に配置されているとし、Ｎをカメラの台数、ｎをカメラのＩＤ、Ｒｎを中心から第ｎカメラまでの距離、Θｎを第ｎカメラの光軸の方位角とする。もし、カメラが円周上に配置されているなら、Ｒｎは一定値になる（図６）。一方、もし、カメラが矩形上に配置されているなら、Ｒｎ＝Ｈ／（２cosΘｎ）またはＲｎ＝V／（２cosΘｎ）のように表される。Ｈ、Ｖは、それぞれ矩形の横幅、縦幅である。
【００４２】
一般に、カメラの光軸の方向は、物体（および、それを含む局所領域）の方向（図６の点線矢印）と一致しない。そこで、カメラの光軸の方向を補正する。
【００４３】
いま、図７に示されているように、Ｚ軸を方位角の基準線とし、θｎを第ｎカメラの光軸の補正した方位角、θを被写体４ｍの位置の方位角、Θｎを第ｎカメラの光軸の方位角、ｒを中心から被写体までの距離とし、ｒｎ＝ｒ／Ｒｎ（Ｒｎに対する中心から被写体までの距離比の値を示す）と置くと、次式が成立する。
【００４４】
【数５】
0004947593.tif 000006
【００４５】
以上より、画像を上式から求められる角度（θｎ−Θｎ）だけ回転変換すれば、図８に示すように、局所領域４ｍが画像１’の中央に来ることになる。
【００４６】
次に、角度（θｎ−Θｎ）の回転変換を行った画像の求め方を、以下に説明する。
【００４７】
【数６】
0004947593.tif 000007
と置くと、以下の関係が成立する。
【００４８】
【数７】
0004947593.tif 000008
【００４９】
ここで、ｓはスカラーである。上記の関係式を解くと（スカラーｓを消去する）、ディジタル画像座標の変換式は下式の通りになる。
【００５０】
【数８】
0004947593.tif 000009
【００５１】
上式に基づいて画像を回転変換し、被写体を画像の中央に移動させた画像を生成する。
【００５２】
次に、画像を回転変換しただけでは、カメラから被写体までの距離が異なるという理由により、各視点で被写体の大きさが異なってしまうことになる。そこで、画像の原点（画像の中心）を固定して拡大もしくは縮小することにより、被写体の大きさを揃える。各視点の画像内の被写体の大きさは、カメラから被写体までの距離に反比例するので、
【００５３】
【数９】
0004947593.tif 000010
と置くと、その拡大／縮小率は、下記の式で計算できる。
【００５４】
【数１０】
0004947593.tif 000011
以上より、次の式が成り立つ。
【００５５】
【数１１】
0004947593.tif 000012
【００５６】
上記の画像の回転変換と拡大・縮小を合成すると、下記の式になる。
【００５７】
【数１２】
0004947593.tif 000013
【００５８】
次に、変換した画像を用いて、円筒記録光線空間を構築する。まず、光線空間について説明する。
【００５９】
図９のように、実空間が境界面Ｓによって「記述される空間」と「観察者の居る空間」に分割されている場合を考える。光線は、実空間内を干渉や減衰等の影響を受けずに直進するものと仮定する。図８の局所領域４ｍの位置に視点を置いた時の画像は、図９の境界面Ｓを通過して該局所領域４ｍまで到達する光線の情報を集めることによって仮想的に合成できる。
【００６０】
さらに、以下のようにして、境界面Ｓの形状に依存しない射影法を定式化できる。まず、光線の進行方向に軸を取ると、光線の伝搬に伴う変化はこの軸に沿って記録されることになる。この軸をＲ軸と表記しＸＹＺ座標系の代わりにＲ軸を含む位置座標系としてＰＱＲ座標系なるものを考える。Ｒ軸に沿った光線の通過位置情報を記述できる。
【００６１】
具体的には、図１０に示すように、Ｘ、Ｙ、Ｚ各軸を、Ｙ軸を中心としてθ回転した後でＺ軸だけＸ軸回りにφ回転したものをそれぞれ、Ｐ、Ｑ、Ｒ軸と定義している。位置（Ｘ，Ｙ，Ｚ）を（θ，φ）方向に伝搬する光線の情報は、以下の変換式で求められる位置（Ｐ，Ｑ）に記録すればよい。
【００６２】
Ｐ＝Ｘcosθ−Ｚsinθ
【００６３】
Ｑ＝−Ｘsinθtanφ＋Ｙ−Ｚcosθtanφ
【００６４】
この変換によって、ＰＱ平面には、空間を正投影した情報が記録されることになる。前記変換式のＰおよびＱを用いると、５次元光線空間ｆ（Ｘ，Ｙ，Ｚ，θ，φ）は、４次元光線空間ｆ（Ｐ，Ｑ，θ，φ）に変換される。
【００６５】
画像情報は、「実空間内の１点を通過する光線情報の集合」とみなすことができる。したがって、カメラ位置（Ｘｃ，Ｙｃ，Ｚｃ）において撮影された画像情報を光線空間中に格納する場合は、式ｆ（θ，φ）｜Ｘ＝Ｘｃ，Ｙ＝Ｙｃ，Ｚ＝Ｚｃで現される領域に記録されている光線情報を切り出せばよい。このように、画像の撮影は「光線情報のサンプリング」、画像の合成は「光線空間からの光線情報の切り出し」ととらえることができる。
【００６６】
４次元に射影された光線空間ｆ（Ｐ，Ｑ，θ，φ）の場合は、カメラの撮影位置（Ｘｃ，Ｙｃ，Ｚｃ）および光線の方向（θｃ，φｃ）を上記の２つの変換式に代入して（Ｐｃ，Ｑｃ）を求め、（Ｐｃ，Ｑｃ，θｃ，φｃ）に撮影された光線情報を格納すればよい。図１１に、光線空間の例を示す。便宜上、Ｐθ平面を示す。横軸がＰ軸、縦軸がθ軸である。
【００６７】
ある固定された１点で撮影した画像の光線情報は、上記の２つの変換式のうちの第１式で、ＸとＺを一定とすれば明らかなように、Ｐθ平面上では、正弦曲線の形に格納される。図１１の光線空間の合成に使用した撮影画像は、円周上に配置したカメラから中心へ向けて撮影した円周多視点画像であり、並んだ正弦曲線の領域の光線情報が得られている。
【００６８】
任意の仮想視点からの画像を合成する場合は、構築した光線空間からの適切な領域の光線情報を切り出せばよい。この場合の切り出し領域は、視点位置（Ｘ０，Ｙ０，Ｚ０）および光線の方向（θ０，φ０）を前記変換式に代入して求めた（Ｐ０，Ｑ０）を用いてｆ（Ｐ０，Ｑ０，θ０，φ０）で表現される。
【００６９】
以上の手法を用いることによって、理論的には、任意視点位置からの画像を合成できる。現実には、全ての光線の情報を撮影することは困難であり、実際の撮影では、図１１の左図のような疎な光線空間が構築されることになる。この図は疎に配置された３０個のカメラを用いた場合の例であり、左図の横方向の３０本の光線が該３０個のカメラから撮影された光線に対応する。このため、撮影の行われていない光線の情報を仮想的に予測して合成する必要がある。予め、光線空間ｆ（Ｐ，Ｑ，θ，φ）を充填しておくことにより、この問題は解決される。
【００７０】
図１１の左図の光線空間のＰθ断面を補間した結果を、図１１の右図に示す。この右図には、図１１の左図に示すような疎な光線空間から、その構造性を反映した密な光線空間が得られており、この光線空間から任意の仮想視点位置に対応する光線を取り出せば、該仮想視点の光線（画像）が得られることになる。なお、光線空間のＰθ断面では、似た色と輝度値の領域は正弦曲線上に並んでいる。
【００７１】
上記のようにして、光線空間方式を用いて補間を行った後に、仮想視点からの局所領域を見た場合の画像に対し、逆変換を施す。具体的には、下式に従う変換を行う。
【００７２】
【数１３】
0004947593.tif 000014
【００７３】
ここで、Θｉは仮想視点の方位角、θは着目する局所領域の円筒の中心軸の方位角、Ｒｉを被写体空間の原点から仮想視点までの距離として、ｒｉ＝ｒ／Ｒｉである。また、
【００７４】
【数１４】
0004947593.tif 000015
である。
【００７５】
以上の変換を行った後、カメラを垂直に動かした場合の自由視点画像は、着目する被写体の中心（着目する局所領域の円筒の中心軸）から仮想視点までの視線方向に対する、カメラが配置された平面から仮想視点までの距離（カメラが配置された水平面を規準とした場合の仮想視点の高さ）の比に、カメラの焦点距離の画素変換量を乗算することで、着目する局所領域の仮想視点画像の中心の座標の移動量（ただし、移動する向きは逆になる）を得、該座標の縦方向の位置を前記移動量だけ動かして表示する。
【００７６】
すなわち、各々の局所領域の仮想視点画像について、着目する被写体の中心（着目する局所領域の円筒の中心軸）から仮想視点までの視線方向の距離と、カメラが配置された平面（水平面）から仮想視点までの距離（カメラが配置された水平面を規準とした場合の仮想視点の高さ）に基づいて、移動量を求める。この移動量は、次式で求められる。
【００７７】
（数１５）
Δｖｉ＝−ｆ・ｙｉ／｛１−ｒｉCOS（Θｉ−θ）｝
【００７８】
ここで、Δｖｉは着目する局所領域の仮想視点画像の移動量、ｆはカメラの焦点距離の画素変換量、Ｒｉは被写体空間の原点から仮想視点までの距離、Ｙｉはカメラが配置された平面から仮想視点までの距離、ｙｉ＝Ｙｉ／Ｒｉ、ｒは被写体空間の原点から着目する局所領域の円筒の中心軸までの距離、ｒｉ＝ｒ／Ｒｉ、Θｉは仮想視点の方位角、θは着目する局所領域の円筒の中心軸の方位角である。
【００７９】
上記のことから、、各々の局所領域の仮想視点画像について、この移動量Δｖｉは、着目する被写体の中心から仮想視点までの視線方向の距離に反比例し、カメラが配置された平面から仮想視点までの距離（カメラの垂直方向の移動距離）に比例（ただし、移動する向きは逆になる）することがわかる。
【００８０】
次に、最終的に合成される自由視点画面内で、着目する局所領域の仮想視点画像の中心の座標を（ｕｉ，ｖｉ）とした時、そのｖ座標をΔｖｉだけ動かして、（ｕｉ，ｖｉ＋Δｖｉ）としながら、仮想視点から見て奥の局所領域から手前の局所領域へと上書きしていくことにより、自由視点画像の合成を行う。なお、後から上書きされると予め判っている局所領域は、最初から描画しないことによって、処理を高速化することができる。数１５の式を数１３の式に含めると、下式が得られる。
【００８１】
【数１６】
0004947593.tif 000016
【００８２】
次に、本発明の第２実施形態を説明する。図１２は、第２実施形態の自由視点画像生成装置の構成を示すブロック図である。このブロック図において、１７ａは読み込み位置の移動量の算出処理、１７ｂは読み込みによる画像生成処理を示し、他の符号は、図２と同一または同等物を示す。この第２実施形態が前記第１実施形態と異なる所は、カメラを垂直に移動させる移動量に応じて局所領域毎の表示位置を移動させる処理を、第１実施形態のように局所領域合成部２０で行わずに、自由視点画像生成部１７で行わせるようにした点である。
【００８３】
そこで、本実施形態の自由視点画像生成部１７の処理について、以下に説明する。前記仮想視点の位置が前記カメラの設置された平面から離れた位置にある場合、着目する被写体の中心（着目する局所領域の円筒の中心軸）から仮想視点までの視線方向の距離に対する、カメラが配置された平面から仮想視点までの距離（カメラが配置された水平面を規準とした場合の仮想点の高さ）の比に、実空間から光線空間への変換比を乗算することで、着目する局所領域の光線空間の読み込み位置の移動量を得、局所領域の光線空間から光線情報を読み取る位置を前記移動量だけ動かして読み込む。
【００８４】
すまわち、各々の局所領域の仮想視点画像について、着目する被写体の中心（着目する局所領域の円筒の中心軸）から仮想視点までの視線方向の距離と、カメラが配置された平面（水平面）から仮想視点までの距離（カメラが配置された水平面を規準とした場合の仮想視点の高さ）に基づき、読み込み位置を求める。この読み込み位置は、次式で求められる。
【００８５】
（数１７）
Ｑ’＝Ｑ＋Ｙｉ／｛１−ｒｉCOS（Θｉ−θ）｝
【００８６】
ここで、Q’は仮想視点がカメラの配置された平面上にない場合の着目する局所領域の光線空間の読み込み位置、Qは仮想視点がカメラの配置された平面上にある場合の着目する局所領域の光線空間の読み込み位置、Ｙｉはカメラが配置された平面から仮想視点までの距離、Θｉは仮想視点の方位角、θは着目する局所領域の円筒の中心軸の方位角、ｒは被写体空間の原点から着目する局所領域の円筒の中心軸までの距離、Ｒｉを被写体空間の原点から仮想視点までの距離としてｒｉ＝ｒ／Ｒｉである。
【００８７】
上記のことから、各々の局所領域の仮想視点画像について、この読み込み位置は、着目する被写体の中心から仮想視点までの視線方向の距離に反比例し、カメラが配置された平面から仮想視点までの距離（カメラの垂直方向の移動距離）に比例する量だけ移動すれば良いことがわかる。
【００８８】
上記のようにして、光線空間方式を用いて補間を行った後に、仮想視点からの局所領域を見た場合の画像に対し、逆変換を行う（図２のステップＳ１８，１９）。具体的には、下式に従う変換を行う。
【００８９】
【数１８】
0004947593.tif 000017
【００９０】
ここで、Θｉは仮想視点の方位角、θは着目する局所領域の円筒の中心軸の方位角、Ｒｉを被写体空間の原点から仮想視点までの距離として、ｒｉ＝ｒ／Ｒｉである。
【００９１】
第２実施形態の上記以外の処理は、前記特許出願発明（特願２００６−１８５６４８号）と同じであるので、説明を省略する。
【００９２】
図１３は、本発明により具体的シミュレーションした結果の一例を示す図である。同図(a)はカメラが配置された当初の水平面上の画像、同図(b)はカメラを上へ１２０ｃｍ移動させた時の画像、同図(c)はカメラを下へ１２０ｃｍ移動させた時の画像を示す。同図(b)から、カメラを上へ移動した場合には、手前の画像が大きく下がり、奥へ行くほど該画像の下がり方が小さくなることが判る。また、同図(c)から、カメラを下へ移動した場合には、手前の画像は大きく上がり、奥へ行くほど該画像の上がり方が小さくなることが判る。このことは、前記数１５、数１７の式で表される移動量Δｖｉ、読み込み位置Ｑ’が、着目する被写体の中心から仮想視点までの視線方向の距離に反比例することと符合する。
【００９３】
以上のように、本発明によれば、カメラが配置された平面上にない仮想視点からみた仮想視点画像を得ることができるので、３次元的にあらゆる方向へ移動した仮想視点からの画像を生成することが可能になる。
【図面の簡単な説明】
【００９４】
【図１】カメラが疎の間隔に配置された多視点映像の撮影現場の概念図である。
【図２】本発明の自由視点画像生成装置の第１実施形態の構成を示すブロック図である。
【図３】本発明の自由視点画像生成方法の第１実施形態の処理手順を示すフローチャートである。
【図４】実区間を局所領域に分割する一例の説明図である。
【図５】分割された局所領域を上から見た場合の図である。
【図６】被写体が位置する局所領域がその中心にない場合の、実際の位置関係（実線矢印）と視線の回転変換（点線矢印）の説明図である。
【図７】仮想円周と各方位角などの説明図である。
【図８】局所領域仮想円周の中央にくるように回転変換した場合の説明図である。
【図９】射影に基づく光線情報の記述の説明図である。
【図１０】円筒型光線空間座標系の定義の説明図である。
【図１１】光線空間の補間処理の具体例を示す図である。
【図１２】本発明の自由視点画像生成装置の第２実施形態の構成を示すブロック図である。
【図１３】自由視点画像の生成結果と実視点画像の具体例を示す図である。
【図１４】特許出願発明の自由視点画像生成方法の概略の説明図である。
【符号の説明】
【００９５】
１・・・実空間（舞台）、２・・・被写体、３ａ、３ｂ、・・・、３ｎ・・・ビデオカメラ（カメラ）、３Ｘ・・・仮想視点、４ｍ・・・局所領域、１０・・・自由視点画像生成装置、１１・・・局所領域分割部、１２・・・カメラ位置情報・カメラパラメータ取得部、１３・・・画像取得部、１４・・・局所領域選択部、１５・・・視線回転変換部、１６・・・拡大縮小部、１７・・・自由視点画像生成部、１７ａ・・・読み込み位置の移動量の算出処理、１７ｂ・・・読み込みによる画像生成処理、１８・・・逆拡大縮小部、１９・・・逆視線回転変換部、２０・・・局所領域合成部、２０ａ・・・表示位置の移動量の算出処理、２０ｂ・・・合成表示による画像生成処理、２１・・・自由視点画像出力部、３１・・・カメラ画像入力装置、３２・・・入力装置、３３・・・ＲＯＭ（自由視点画像生成プログラム）、３４・・・ＣＰＵ、３５・・・画像データ記憶装置、３６・・・画像出力装置。
【図１】
0004947593.tif 000018
【図２】
0004947593.tif 000019
【図３】
0004947593.tif 000020
【図４】
0004947593.tif 000021
【図５】
0004947593.tif 000022
【図６】
0004947593.tif 000023
【図７】
0004947593.tif 000024
【図８】
0004947593.tif 000025
【図９】
0004947593.tif 000026
【図１０】
0004947593.tif 000027
【図１２】
0004947593.tif 000028
【図１１】
0004947593.tif 000029
【図１３】
0004947593.tif 000030
【図１４】
0004947593.tif 000031