(57)【要約】      （修正有）【課題】全方位画像データを処理でき、かつ、全方位画像データを処理すると共に、該全方位画像データの処理を通して得られるサラウンド画像データを効率的にサンプリングできる装置及び方法を提供する。【解決手段】画像処理装置は、全方位画像が撮像された位置を検出する位置検出部と、サラウンド環境の幾何学的構成に関し、それについて該検出位置から全方位画像が撮像される、該検出された位置に対応する空間係数を算出する空間係数検出部と、該算出された空間係数に基づき、当該画像処理装置から出力されるべき処理済み画像データの縮減を行わせるフィルタ部とを備える。【選択図】        なし【特許請求の範囲】
【請求項１】
全方位画像データを処理する画像処理装置において、
前記全方位画像が撮像された位置を検出する位置検出部と、
サラウンド環境の幾何学的構成に関し、それについて前記検出位置から全方位画像が撮像される、該検出された位置に対応する空間係数を算出する空間係数検出部と、
前記算出された空間係数に基づき、当該画像処理装置から出力されるべき処理済み画像データの縮減を行わせるフィルタ部とを備える
ことを特徴とする画像処理装置。
【請求項２】
前記空間係数が、全方位画像が撮像されるパスの曲線長であることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記空間係数が、全方位画像が撮像されるパス内で算出された複数のビジビリティ・エンベロープに従って決定されることを特徴とする請求項１に記載の画像処理装置。
【請求項４】
前記空間係数が、全方位画像が撮像されるパス内で算出された複数のビジビリティ・セルに従って決定されることを特徴とする請求項１に記載の画像処理装置。
【請求項５】
前記空間係数が、全方位画像が撮像されるパス内で算出された多面体の集合に対応するサラウンド画像のテクスチャのパラメータ表現に従って決定されることを特徴とする請求項１に記載の画像処理装置。
【請求項６】
前記フィルタ部が、前記空間係数に応じて、前記全方位画像のサンプリングレートを決定することを特徴とする請求項１に記載の画像処理装置。
【請求項７】
前記フィルタ部が、前記空間係数に応じて、前記全方位画像を選択することを特徴とする請求項１に記載の画像処理装置。
【請求項８】
前記フィルタ部が、前記空間係数に応じて、処理済み画像データを圧縮することを特徴とする請求項１に記載の画像処理装置。
【請求項９】
前記全方位画像データの処理には、処理済み画像に重ね合わせるイベント・トリガー領域の追加が含まれるものであり、
前記イベント・トリガー領域は、前記全方位画像データの処理により得られたサラウンド画像の予め定めたの位置に配置され、該領域がユーザ操作により選択されると予め定めたイベントがトリガーされるよう構成されることを特徴とする請求項１に記載の画像処理装置。
【請求項１０】
前記全方位画像データの処理には、前記全方位画像データの処理により得られたサラウンド画像上への、動画テクスチャ及び／又は三次元オブジェクトのマッピングが含まれることを特徴とする請求項１に記載の画像処理装置。
【請求項１１】
全方位画像撮像部と画像処理部とを備える装置において、
前記画像処理部は請求項１に記載の画像処理装置を備えていることを特徴とする請求項１に記載の画像処理装置。
【請求項１２】
全方位画像データを処理するための画像処理方法において、
前記全方位画像が撮像された位置を検出し、
サラウンド環境の幾何学的構成に関連し、それについて前記検出された位置から全方位画像が撮像される、該検出した位置に対応する空間係数を算出し、
前記算出した空間係数に基づき当該画像処理装置から出力されるべき処理済み画像データの縮減を行わせるステップを備える
ことを特徴とする画像処理方法。
【請求項１３】
コンピュータにおいて全方位画像データを処理するための画像処理方法を実行させるためのコンピュータプログラムにおいて、前記画像処理方法が
前記全方位画像が撮像された位置を検出し、
サラウンド環境の幾何学的構成に関連し、それについて前記検出された位置から全方位画像が撮像される、該検出した位置に対応する空間係数を算出し、
前記算出した空間係数に基づき当該画像処理装置から出力されるべき処理済み画像データの縮減を行わせることを備える
ことを特徴とするコンピュータ・プログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明はサラウンド画像を処理する装置及び方法に係り、より具体的には、パスに沿って移動する全方位マルチヘッドカメラで撮影された注釈付ビデオ（ａｎｎｏｔａｔｅｄ  ｖｉｄｅｏ）を撮像、空間フィルタ処理及びビューイングするための装置及び方法に関する。
【０００２】
【従来の技術】
コンピュータグラフィックにおける迫真性の追求は果てしのない目標である。オブジェクト空間レンダリング・アルゴリズムが“現実世界”感覚には欠けるが驚くほど鮮明な画像を提供する一方、他方では逆レンダリング手段を使った画像ソースのモデリング及び解析による画像ベースレンダリング（Ｉｍａｇｅ−Ｂａｓｅｄ  Ｒｅｎｄｅｒｉｎｇ：ＩＢＲ）が進み、拡張性や相互作用性には欠けるものの、画像空間において衆目を引き付けるような三次元環境を提供している。
【０００３】
Ｓ．  Ｅ．  Ｃｈｅｎによる写真品質の背景描写の紹介（“Ｑｕｉｃｋｔｉｍｅ  ＶＲ  ‐  Ａｎ  Ｉｍａｇｅ−Ｂａｓｅｄ  Ａｐｐｒｏａｃｈ  ｔｏ  Ｖｉｒｔｕａｌ  Ｅｎｖｉｒｏｎｍｅｎｔ  Ｎａｖｉｇａｔｉｏｎ”  ＡＣＭ  ＳＩＧＧＲＡＰＨ，  ｐｐ．２９−３８，  １９９５）、光線空間（Ｍ．  Ｌｅｖｏｙ，  Ｐ．  Ｈａｎｒａｈａｎ，  “Ｌｉｇｈｔ  ｆｉｅｌｄ  ｒｅｎｄｅｒｉｎｇ”，  ＡＣＭ  ＳＩＧＧＲＡＰＨ，  ｐｐ．  ３１−４２，  １９９６；  Ｓ．  Ｊ．  Ｇｏｒｔｌｅｒ，  Ｒ．  Ｇｒｚｅｓｚｃｚｕｋ，  Ｒ．  Ｓｚｅｌｉｓｋｉ，  Ｍ．  Ｆ．  Ｃｏｈｅｎ，  “Ｔｈｅ  ｌｕｍｉｇｒａｐｈ”，  ＡＣＭ  ＳＩＧＧＲＡＰＨ，  ｐｐ．  ４３−５４，  １９９６）、圧縮された光線空間平面（Ｗ．  Ｃ．  Ｃｈｅｎ，  Ｊ．  Ｙ．  Ｂｏｕｇｕｅｔ，  Ｍ．  Ｈ．  Ｃｈｕ，  Ｒ．  Ｇｒｚｅｓｚｃｚｕｋ，  “Ｌｉｇｈｔ  Ｆｉｅｌｄ  Ｍａｐｐｉｎｇ：  Ｅｆｆｉｃｉｅｎｔ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ａｎｄ  Ｈａｒｄｗａｒｅ  Ｒｅｎｄｅｒｉｎｇ  ｏｆ  Ｓｕｒｆａｃｅ  Ｌｉｇｈｔ  Ｆｉｅｌｄｓ”，  ＡＣＭ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ｇｒａｐｈｉｃｓ．  ２１（３），  ｐｐ．  ４４７−４５６，  ２００２）、及び、静的環境における写真品質の仮想通り抜け（Ｄ．  Ｇ．  Ａｌｉａｇａ，  Ｔ．  Ｆｕｎｋｈｏｕｓｅｒ，  Ｄ．  Ｙａｎｏｖｓｋｙ，  Ｉ．  Ｃａｒｌｂｏｍ，  “Ｓｅａ  Ｏｆ  Ｉｍａｇｅｓ”，  ＩＥＥＥ  Ｖｉｓｕａｌｉｚａｔｉｏｎ，  ｐｐ．  ３３１−３３８，  ２００２）により、ＩＢＲは一般的になっている。未だその揺籃期にはあるものの、多くの場合そのアルゴリズムは、最初パノラマフレームの位置参照（ｇｅｏ−ｒｅｆｅｒｅｎｃｅ）を行い、続いて特徴一致処理（ｆｅａｔｕｒｅ  ｍａｔｃｈｉｎｇ）に基づきソース画像を歪ませて組み合わせ、新しい視点を合成するように進む。
【０００４】
本出願と同一出願人により出願された日本特許公開２００３−１４１５６２号公報には、三次元座標にマッピングされた円筒あるいは球状全方位画像の圧縮、蓄積及び再生に適用できる画像処理装置及び方法が開示されている。
【０００５】
【発明が解決しようとする課題】
仮想通り抜け（Ｖｉｒｔｕａｌ  Ｗａｌｋｔｈｒｏｕｇｈ）システムの用途によっては、仮想サラウンド環境（Ｖｉｒｔｕａｌ  ｓｕｒｒｏｕｎｄ  ｅｎｖｉｒｏｎｍｅｎｔ）をレンダリングするために、ビルのような屋内環境の全領域を撮影することが必要になる。例えば、ビルの屋内環境を撮像するために全方位ビデオカメラを使用した場合、全方位ビデオカメラが毎秒６０フレームを撮影し、ビル内を移動するのに６０分かかるとすれば、画像フレームの総枚数は２１６０００枚に達する。
【０００６】
また、撮像されたサラウンド画像の中には、その他のものに比べてあまり新しい情報をもたらさないものが存在する。例えば、壁で囲まれた廊下の途中を移動している場合、そのサラウンド環境には視認可能な大きな変化はあまり存在しない。このような場所での仮想通り抜けシステムの廊下のレンダリングには、廊下の回り角あるいは部屋の入口等、より多くの環境変化が見られるビルのその他の場所と比べて、より少ない全方位画像データが必要とされる。
【０００７】
本発明は上記状況を考慮して構想されたものである。全方位画像データを処理でき、かつ、全方位画像データを処理して得られるサラウンド画像のデータサイズを効率的に削減できる装置及び方法を提供することが望ましい。
【０００８】
さらに、全方位画像データをサンプリング／フィルタ処理することができる、あるいは、アプリケーションで使用されるサラウンド画像データを適切に圧縮することができる装置及び方法を提供することが望ましい。
【０００９】
【課題を解決するための手段】
本発明の一実施形態によれば、全方位画像データ処理用の画像処理装置が提供される。本画像処理装置は、全方位画像が撮像された位置を検出する位置検出部と；サラウンド環境の幾何学的構成に関するものであり、それについて該検出位置から全方位画像が撮像される、該検出された位置に対応する空間係数を算出する空間係数検出部と；該算出された空間係数に基づき本画像処理装置から出力されるべき処理済み画像データの縮減を行わせるフィルタ部とを備える。
【００１０】
空間係数は、全方位画像が撮像されるパスの曲線長（ｃｕｒｖｅ  ｌｅｎｇｔｈ）であっても良く、あるいは該パス内で算出された複数のビジビリティ・エンベロープ（ｖｉｓｉｂｉｌｉｔｙ  ｅｎｖｅｌｏｐｅｓ）又はセル（ｃｅｌｌｓ）に基づき決定されてもよい。あるいは、空間係数が、上記パス内で算出されるビジビリティ多面体の集合（ａ  ｓｅｔ  ｏｆ  ｐｏｌｙｈｅｄｒａ）に対応するサラウンド画像のテクスチャのパラメータ表現（ｐａｒａｍｅｔｅｒｉｚａｔｉｏｎ）に応じて決定されてもよい。
【００１１】
フィルタ部は、空間係数に応じて、全方位画像のサンプリングレートの決定あるいは全方位画像の選択をしてもよい。あるいは、フィルタ部が、空間係数に応じて、処理済み画像データを圧縮してもよい。
【００１２】
さらに、上記画像処理装置における処理では、処理済画像に重ね合わせるイベント・トリガー領域の追加を含んでいてもよい。イベント・トリガー領域は、全方位画像データの処理により得られたサラウンド画像の予め定めた位置に配置され、該領域がユーザ操作により選択されると予め定めたイベントがトリガーされるよう構成される。さらに本処理では、全方位画像データの処理により得られたサラウンド画像上への、動画テクスチャ及び／又は三次元オブジェクトのマッピングが含まれていてもよい。
【００１３】
上記画像処理装置には全方位画像撮像部が設けられていても良い。
【００１４】
本発明の他の実施形態によれば、全方位画像データ処理用の画像処理方法あるいはコンピュータプログラムが提供される。本画像処理法あるいはコンピュータプログラムは、全方位画像が撮像された位置を検出し；サラウンド環境の幾何学的構成に関連し、それについて該検出された位置から全方位画像が撮像される、該検出した位置に対応する空間係数を算出し；該算出した空間係数に基づき当該画像処理装置から出力されるべき処理済み画像データの縮減を行わせるステップを含む。
【００１５】
【発明の実施の形態】
本発明の一実施形態による装置を図面を参照して説明する。
【００１６】
図１は全方位カメラ（全方向カメラ）１０の一例を示す。全方位カメラ１０は１２個の五角形面からなる略正十二面体形状のフレームと、異なる面上に別々に積載された１１個のカメラとを含む。各カメラはサラウンド場面内での対応領域を撮影し、サラウンド画像の一部としてデータ出力する。これらの画像部分を張り合わせることにより、全天球型の全方位画像が得られる。
【００１７】
図２は全方位カメラ１０と全方位画像処理装置１００とを含むシステムの模式図を示す。図２に示すように、全方位カメラ１０は、複数のカメラ１１に加えて、複数のＶＴＲ１２とマイク１３とを備え、複数のビデオストリームと音声信号を記録する。記録されたビデオストリームは切換器１４によりビデオキャプチャーされ、コンピュータデータ（例えば、ビットマップファイル）として画像処理装置１００へ出力される。画像処理装置１００は、次の画像処理のための撮像画像の準備、画像貼り付け、処理済み画像の蓄積等の画像処理を行う。
【００１８】
さらに本発明において上記装置１００は、撮像した画像の重要度に応じて、撮像した画像のフィルタ処理又は処理済み画像の圧縮を行う。本実施形態においては、上記重要度は全方位カメラ１０のパスに沿って算出された空間係数により測られる。本実施形態によるフィルタ処理／圧縮方法の詳細は後述する。
【００１９】
画像処理装置１００は図３に示す構成を備えるコンピュータシステムにより実現できる。本装置１００は、ＣＰＵ１０１と、メモリ１０２と、表示コントローラ１０３と、入力装置インタフェース１０４と、ネットワークインタフェース１０５と、外部装置インタフェース１０７と、バス１０８と、ビデオキャプチャカード１０９と、表示装置１１１と、キーボード１１２と、マウス１１３と、ハードデスク駆動装置１１４と、メデアドライブ１１５とを含む。
【００２０】
画像処理装置１００は、画像処理用の多様なアプリケーションのダウンロードや、ビデオキャプチャカード１０９を介して受信する代わりに全方位画像をダウンロードしたり、あるいは処理済み画像データをネットワーク上で配信するために、ネットワークインタフェース１０５を介してＬＡＮあるいはインターネット１２０に接続されていても良い。
【００２１】
上記ＣＰＵ１０１はビデオキャプチャカード１０９を介して全方位カメラ１０から出力された複数画像の貼り付けや、空間係数に従っての画像フィルタ処理／圧縮等、多様なアプリケーションを実行する。
【００２２】
図４は、複数の撮像された画像を処理してサラウンド画像を算出する操作モード中のＣＰＵ１０１の機能模式図の一例を示す。本操作モードにおいて、複数の撮像された画像データからなる全方位画像データが全方位カメラ１０からサラウンド画像計算部４０１へ提供される。
【００２３】
サラウンド画像計算部４０１は全方位画像データからパノラマ画像あるいはサラウンド画像を計算し出力する。コンピュータグラフィック（ＣＧ）スクリプトを使用する場合には、この部４０１は該ＣＧスクリプトから直接サラウンド画像を算出する。
【００２４】
位置検出部４０２はカメラ１０の位置決めのため、パノラマ画像を使ってエゴモーション・リカバリ（ｅｇｏｍｏｔｉｏｎ  ｒｅｃｏｖｅｒｙ）を行う。エゴモーション・リカバリ処理は、一定高さのカメラを使用することでかなり簡略化できる。エゴモーション・リカバリの詳細説明は後述する。
【００２５】
カメラ１０の位置は空間係数検出部４０３へ出力される。空間係数検出部４０３は位置検出部４０２により検出された位置における空間係数を検出する。本発明においては、空間係数はパノラマ画像が撮影されたサラウンド環境の重要性（有意性）レベルを計測するために導入された。空間係数は、例えば、（ａ）曲線長さ単位、（ｂ）ビジビリティ・セル、（ｃ）ビジビリティ・エンベロープ、あるいは（ｄ）テクスチャのパラメータ表現、に基づき算出される。ビジビリティ・セルあるいはエンベロープを使う場合、パスの全ての位置に対する容積及び面積属性が算出される。エンベロープの組合せ変更はビジビリティ図（ｖｉｓｉｂｉｌｉｔｙ  ｇｒａｐｈ）（図８を参照）により定義される臨界的なビジビリティ・ベントの箇所だけで発生する。ビジビリティ・セル及びエンベロープの詳細説明は本明細書の後半部分で行う。
【００２６】
フィルタ処理部４０４は、空間係数検出部４０３において算出された空間係数に基づき、サラウンド画像のフィルタ処理を行う。例えば、最初にサラウンド画像を多めにサンプリングして、次にフィルタ処理部４０４で削減させてもよい。あるいは、フィルタ処理の代わりに、全方位カメラ１０から提供される全方位画像データのサンプリングするタイミングを空間係数に基づき制御するようにしてもよい。更には、各全方位画像を空間係数に応じて重み付けし、該重み付けに応じて他の画像と一緒に圧縮するようにしてもよい。
【００２７】
次に、本発明の他の実施形態による方法を説明する。本方法は、パスに沿って移動する全方位マルチヘッドカメラで撮影した注釈付きビデオを撮像、空間的にフィルタ処理し、ビューイングするステップを含んでいる。
【００２８】
以下の章節において、全方位カメラの軌道パス算出用に設計されたエゴモーション・リカバリ・アルゴリズム、及び幾何学的ビジビリティ・ベントに基づくプレノプティックパス（ｐｌｅｎｏｐｔｉｃ  ｐａｔｈ）の効率的サンプリングについて詳細に説明する。適切なサンプリングによりパノラマ画像をフィルタし圧縮することが可能になり、冗長が避けられ、画像データベース内のメモリ領域の節約が可能になる。また、屋内撮影により得られた、あるいは、コンピュータグラフィックにより完全にレンダリングされたプレノプティックパスの幾つかのアプリケーション及び結果を説明する。
【００２９】
１．プレノプティック関数及びパス
プレノプティックの概念（Ｍ．  Ｌｅｖｏｙ，  Ｐ．  Ｈａｎｒａｈａｎ．  “Ｌｉｇｈｔ  ｆｉｅｌｄ  ｒｅｎｄｅｒｉｎｇ”，  ＡＣＭ  ＳＩＧＧＲＡＰＨ，  ｐｐ．  ３１−４２，  １９９６；  Ｓ．  Ｊ．  Ｇｏｒｔｌｅｒ，  Ｒ．  Ｇｒｚｅｓｚｃｚｕｋ，  Ｒ．  Ｓｚｅｌｉｓｋｉ，  Ｍ．  Ｆ．  Ｃｏｈｅｎ，  “Ｔｈｅ  Ｌｕｍｉｇｒａｐｈ”，  ＡＣＭ  ＳＩＧＧＲＡＰＨ，  ｐｐ．  ４３−５４，  １９９６）は、任意の時間ｔ、任意の方向（θ，φ）及び任意の波長λのスペクトル応答において、三次元空間Ｅ３での各デカルト座標点（Ｘ，Ｙ，Ｚ）と関連する７次関数Ｌ（・）＝Ｌ（Ｘ，Ｙ，Ｚ，θ，φ，ｔ，λ）を把握できれば、三次元の幾何学的モデリングをバイパスすることが可能となり、プレノプティック関数Ｌ（・）から直接“レンダリング”することによりインタラクテイブな通り抜け（ｗａｌｋｔｈｒｏｕｇｈ）を提供することができる、という観察に基づいている。
【００３０】
実用上は、時間を凍結し（即ち、静的環境を考える）、一つの波長（一つのカラーチャンネル、例えば赤色）を選択し、レイ・サンプリング（Ｘ，Ｙ，Ｚ，θ，φ）をカメラパスに限定することで、この関数の高次元性を緩和する、即ち一次元プレノプティックパスＰ＝｛Ｐｉ＝（ｘ，ｙ，ｚ）ｉ｝に限定することができる。
【００３１】
パス沿いに全方位カメラを移動させることで、強制的にＰのサンプリングが実施でき、これによってＰを点ｐの集合Ｐ＝｛Ｐｉ｝ｉ＝１，，ｐとして離散化する。Ｌ｜Ｐ（・）の３次元不連続サンプリングから、逆レンダリング問題（例えば、マクロ／メソ（Ｍａｃｒｏ／Ｍｅｓｏ）幾何及びテクスチャ属性、照明条件等の解明）を考慮するか、あるいは、視野合成（ｖｉｅｗ  ｓｙｎｔｈｅｓｉｓ）のための関数の外挿処理を進めるかの何れかが可能になる。大量のサンプリング撮影は時間がかかり面倒であるため、全方位カメラを備えるパノラマヘッドを移動させる動力ロボットを使ってこの仕事をさせてもよい。このようなシステムの事例は次の文献に提示されている（Ｄ．  Ｇ．  Ａｌｉａｇａ，  Ｔ．  Ｆｕｎｋｈｏｕｓｅｒ，  Ｄ．  Ｙａｎｏｖｓｋｙ，  Ｉ．  Ｃａｒｌｂｏｍ，  “Ｓｅａ  Ｏｆ  Ｉｍａｇｅｓ”，  ＩＥＥＥ  Ｖｉｓｕａｌｉｚａｔｉｏｎ，  ｐｐ．  ３３１−３３８，  ２００２；  Ｄ．  Ｇ．  Ａｌｉａｇａ，  Ｄ．  Ｙａｎｏｖｓｋｙ，  Ｔ．  Ｆｕｎｋｈｏｕｓｅｒ，  Ｉ．  Ｃａｒｌｂｏｍ，  “Ｉｎｔｅｒａｃｔｉｖｅ  Ｉｍａｇｅ−Ｂａｓｅｄ  ｒｅｎｄｅｒｉｎｇ  Ｕｓｉｎｇ  Ｆｅａｔｕｒｅ  Ｇｌｏｂａｌｉｚａｔｉｏｎ”，  ＡＣＭ  Ｓｙｍｐ．  Ｏｎ  ３Ｄ  Ｇｒａｐｈｉｃｓ，  ２００３）。
【００３２】
２．プレノプティックパスの捕捉
２．１  マルチヘッドカメラ
全方位カメラとして、図１に示すようなマルチヘッドカメラが全天球ビデオ撮影のために使用できる。パノラマヘッドは、略同一の光学的中心点（即ち、節点（ｎｏｄａｌ  ｐｏｉｎｔ））を共有する１０個のＣＣＤ  ＮＴＳＣブロックカメラからなり、互いに重なり合う視野の全方位画（４πステラジアン角度）を毎秒６０枚のインターレースフレームで撮影する。
【００３３】
本実施形態では全方位カメラが使用されているが、必ずしも４πステラジアン角を網羅する完全な全方位カメラを備える必要はない。最終的なアプリケーション次第では、本発明で使用されるカメラあるいは画像データがカバーする角度範囲は４πステラジアン角以下であってもよい。
【００３４】
カメラ及び記録システムを運搬車に搭載し、バッテリーで駆動することで、自由にサラウンド環境を撮影してもよい。その運搬車にはモータと駆動機構を備えるか、あるいは、人間の手で押してもよい。サラウンド環境マップの縫い合わせ、ビューイング及び符号化のアルゴリズムはＦ．Ｎｉｅｌｓｅｎによる次の文献に詳細に記載されている（“Ｈｉｇｈ  Ｒｅｓｏｌｕｔｉｏｎ  Ｆｕｌｌ  Ｓｐｈｅｒｉｃａｌ  Ｖｉｄｅｏｓ”，  ＩＥＥＥ  Ｉｎｔｌ．  Ｃｏｎｆ．  ｏｎ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｅｃｈｎｏｌｏｇｙ；  Ｃｏｄｉｎｇ  ａｎｄ  Ｃｏｍｐｕｔｉｎｇ，  ｐｐ．  ２６０−２６７，  ２００２）。ｐ∝１００００のオーダの高解像度パノラマフレームＩｉ、ｉ∈｛１，・・・，ｐ｝が記録される。例えば、２０４８×１０２４画像寸法を正矩形（ｅｑｕｉｒｅｃｔａｎｇｕｌａｒ）パノラマとして使用してもよい。図５（ａ）及び図５（ｂ）は、マルチヘッドカメラで撮影した全方位画像データから生成した正六面体サラウンド環境マップと正矩形サラウンド環境マップとの例を示す。
【００３５】
２．２  コンピュータグラフィックス
また、レイ・トレーシングあるいはラジオシティソフトを使って全方位画像及びプレノプティックパスを算出してもよい。例えば、そのソースコードが開示されており、かなりなＣＧスクリプトも入手可能であるため、ＰＯＶ−Ｒａｙ（商標）を使ってサラウンド画像を算出してもよい。即ち、ＣＧ画像の各画素（ｘ、ｙ）に対しその対応する角座標（θ、ψ）をマッピングする全単射写像関数（ｂｉｊｅｃｔｉｖｅ  ｆｕｎｃｔｉｏｎ）を定義して、我々の画像フォーマットを出力するためにファイル“ｒｅｎｄｅｒ．  Ｃｐｐ”の工程“ｃｒｅａｔｅ＿ｒａｙ”を変更する。図１８に示すサラウンド画像の例は、サイトＩｎｔｅｒｎｅｔ  Ｒａｙ  Ｔｒａｃｉｎｇ  Ｃｏｍｐｅｔｉｔｉｏｎ（ＩＲＴＣ）から入手したＣＧスクリプトから算出された。
【００３６】
コンピュータグラフィックス産業界で使用されているＡｌｉａｓ  Ｗａｖｅｆｒｏｎｔ  Ｍａｙａ（商標）あるいはＤｉｓｃｒｅｅｔ  ３ＤＭＡＸ（商標）のような従来のツールも、それらのレンダリング装置あるいはＡＰＩを使って、サラウンド画像を出力するのに使用できる。
【００３７】
ＣＧ画像は完全な仮想サラウンドカメラ（即ち、装置間の物理的干渉がなく、実際のカメラ装置も必要としない）と正確な像（一定の照明で、視差がなく、ノイズも無く、振動等もない）を生成するという特徴があり、ＣＧ画像を使っての作業は相互性能評価（ベンチマーク）等には有用である。
【００３８】
３．エゴモーション・リカバリ（ｅｇｏｍｏｔｉｏｎ  ｒｅｃｏｖｅｒｙ）
本実施形態によるカメラの外的（ｅｘｔｒｉｎｓｉｃ）位置を再捕捉（ｒｅｃｏｖｅｒｙ）するためのアルゴリズムを説明する。パノラマ画像には内的（ｉｎｓｔｒｉｎｓｉｃ）パラメータが無いため、結局我々は、空間的にインデックス付けされたパノラマ画像のユークリッドパス（倍率係数まで定義される）を得ることになる。
【００３９】
屋外環境のような大規模パノラマパスのビデオに、概略的な注釈を加えるのには、ＧＰＳシステムを使用してもよい。但し、一般的なＧＰＳシステムはあまりにも粗い位置しか与えられないので視野合成には使用できない（Ｍ．Ｈｉｒｏｓｅ，  “Ｓｐａｃｅ  Ｒｅｃｏｒｄｉｎｇ  Ｕｓｉｎｇ  Ａｕｇｍｅｎｔｅｄ  Ｖｉｒｔｕａｌｉｔｙ  Ｔｅｃｈｎｏｌｏｇｙ”，  Ｉｎｔｌ．  Ｍｉｘｅｄ  Ｒｅａｌｉｔｙ  Ｓｙｍｐ．，  ｐｐ１０５−１１０，  ２００１；  Ｄ．  Ｋｉｍｂｅｒ，  Ｊ．  Ｆｏｏｔｅ，  Ｓ．  Ｌｅｒｔｓｉｔｈｉｃｈａｉ，  “ＦｌｙＡｂｏｕｔ；  Ｓｐａｔｉａｌｌｙ  Ｉｎｄｅｘｅｄ  Ｐａｎｏｒａｍｉｃ  Ｖｉｄｅｏ”，  ＡＣＭ  Ｍｕｌｔｉｍｅｄｉａ  ２００１，  ｐｐ．  ３３９−３４１，  ２００１）。視覚効果を生むために仮想及び現実のカメラパスを一致させなければならない、移動一致を必要とする産業界（ｍａｔｃｈｍｏｖｉｎｇ  ｉｎｄｕｓｔｒｙ）において、ビジョン・アルゴリズムが有用であるのが最近証明された。
【００４０】
特徴トラッキングに基づき、全方位画像の位置タグ（ｘ、ｙ、θ）ｉ、ｉ∈｛１，・・・，ｐ｝が算出される。以下に、全方位カメラが固定高さの面の上を移動するように限定された場合の簡易かつ高速なグローバルエゴモーションアルゴリズムについて説明する。本エゴモーションアルゴリズムによれば、パス上での位置がサラウンド画像に登録される。
【００４１】
本アルゴリズムは次のステップを含む。
・概略回転シーケンスθｉの算出（画素をベースとした方法）、
・概略並行移動シーケンス（ｘ、ｙ）ｉの算出（特徴をベースとした方法）、
・初期推定値に基づく密度の高い広域最適化を実施することによる（ｘ、ｙ、θ）ｉの微調整（全てのパラメータを同時に適切に考慮した特徴をベースとした方法：相対パス）、
・２又はそれ以上のランドマークを用いてのパスの固定化（絶対パス）。
【００４２】
我々はトラッキングするランドマークを指示する必要も無く、パスを事前に初期設定する必要も無いため、捕捉システムが柔軟で、拡張可能に、かつ、使用し易くなる。
【００４３】
３．１  粗方位測定
絶対方位はパノラマ画像の“北”を指す。簡単ではあるが、本アルゴリズムは特徴マッチングを行わなくとも十分に機能する。例えば、複数の画像が寸法ｗ×ｈの正矩形フォーマット（緯度−経度とも呼ばれる）の場合、各パノラマフレームＩｉに対して、各カラム画素は平均化されて対応する一次元のリング画像Ｒｉとなる。
【００４４】
次に、リング画像Ｒｉ、Ｒｉ＋１は連続的に登録されて方位シフト（結果的にはサブ画素の精度で（Ｂ．Ｄ．Ｌｕｃａｓ，  Ｔ．  Ｋａｎａｄｅ，  “Ａｎ  ｉｔｅｒａｔｉｖｅ  Ｉｍａｇｅ  Ｒｅｇｉｓｔｒａｔｉｏｎ  Ｔｅｃｈｎｉｑｕｅ  ｗｉｔｈ  ａｎｄ  Ａｐｐｌｉｃａｔｉｏｎ  ｔｏ  Ｓｔｅｒｅｏ  Ｖｉｓｉｏｎ，”  ７ｔｈ  Ｉｎｔｌ  Ｊｏｉｎｔ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ａｒｔｉｆｉｃｉａｌ  Ｉｎｔｅｌｌｉｇｅｎｃｅ  （ＩＪＣＡＩ），  ｐｐ．６７６−６７９，  １９８１））を得る。リング画像内の画素単位が２π／ωラジアンのシフトに対応。画素に対応した垂直方向に内在する角度長に従って画素の重み付けを行うことにより、限定された緯度範囲内でのカラムの平均が可能となる。
【００４５】
３．２  粗並行移動
一旦、画像の略方位が決定されると、シーケンス（ｘ、ｙ）ｉが決定される。モーションアルゴリズムでの殆どの構成と同様に、ユークリッド３次元点集合が再構成される。先ず、一次元並行移動がまとめて以下のように算出される。最初、方位があまり大きく変わらないところでは、（調整されたしきい値を用いて）そのパスがセグメント（連続画像シーケンス）に区分される。セグメント長λｉが未だ算出されていない場合にはポリラインが定義される。算出アルゴリズムの詳細は図８を参照して後述する。
【００４６】
まとまった長さｋ＋１の両端の画像Ｉｄ及びＩｄ＋ｋについて、Ｉｄ、…、Ｉｄ＋ｋ（図６を参照）で共通に追跡される特徴から並行移動パラメータλｄが標準数値解析法を用いて算出される。極からデカルトへの変換を行うことにより（θ、λ）ｉからシーケンス（ｘ、ｙ）ｉが求められる。図６（ａ）−６（ｃ）はプレノプティックパスシーケンスから追跡された、画像中にマーキングされた特徴の例を示す。
【００４７】
３．３  パラメータ微調整
シーケンス（ｘ、ｙ、θ）ｉは次の文献に記載された方法と同様な方法で回転及び並行移動を適切に相関付けることにより数値的に改善される（Ｃ．Ｊ．Ｔａｙｌｏｒ，  “ＶｉｄｅｏＰｌｕｓ；  Ａ  Ｍｅｔｈｏｄ  ｆｏｒ  Ｃａｐｔｕｒｉｎｇ  ｔｈｅ  Ｓｔｒｕｃｔｕｒｅ  ａｎｄ  Ａｐｐｅａｒａｎｃｅ  ｏｆ  Ｉｍｍｅｒｓｉｖｅ  Ｅｎｖｉｒｏｎｍｅｎｔｓ”，  ＩＥＥＥ  Ｔｒａｎｓ．  ｏｎ  Ｖｉｓｕａｌｉｚａｔｉｏｎ  ａｎｄ  Ｃｏｍｐｕｔｅｒ  Ｇｒａｐｈｉｃｓ，  Ｖｏｌ．  ８（２），  ｐｐ．  １７１−１８２，  ２００２；  Ｍ．  Ａｎｔｏｎｅ，  Ｓ．  Ｔｅｌｌｅｒ，  “Ｓｃａｌａｂｌｅ  Ｅｘｔｒｉｎｓｉｃ  Ｃａｌｉｂｒａｔｉｏｎ  ｏｆ  Ｏｍｎｉ−Ｄｉｒｅｃｔｉｏｎａｌ  Ｉｍａｇｅ  Ｎｅｔｗｏｒｋｓ”，  Ｉｎｔｌ．  Ｊｏｕｒｎａｌ  ｏｆ  Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ，  Ｖｏｌ．  ４９（２／３），  ｐｐ．  １４３−１７４，  ２００２）。ビジビリティ合成アプリケーションにおいて重要ではあるが、ここではパスに沿って発生する組合せイベント（ｃｏｍｂｉｎａｔｏｒｉａｌ  ｅｖｅｎｔ）の概略分析が行われており、この最終ステップはフィルタ処理プロセスを大きく改善するものではない。
【００４８】
３．４  絶対位置決定
ユーザが設定する２つ以上のランドマークを使って（例えば、基準フロア地図を使って）、フロア地図、概略再構成等により提供された利用可能な幾何学的情報の大きさ及び原点に一致するよう、回転及び並行移動パラメータを用いてパスが固定される。
【００４９】
本発明においては、エゴモーション・リカバリは上記の方法に限定されるものではなく、その方法が全てのサラウンド画像の基準角（例えば北極）及び（ｘ、ｙ）位置を定義できるものであれば、物理的装置、視点追跡装置、基準線（ｆｉｄｕｃｉａｌ）、距離計等を用いたその他の方法を用いてもよい。注意すべきは、このステップはコンピュータグラフィックススクリプトには不要である点である。なぜならば各ＣＧサラウンド画像は予め定めた位置ごとに算出されるからである。
【００５０】
４．  プレノプティックパスの空間フィルタ処理
一旦、プレノプティックパスが求められると、“冗長”画像（新たな情報をそれ程もたらさない画像）やあまり重要でない画像を取り除けるように、該プレノプティックパスは適切にサンプリング／注釈付けが行われる。そのサンプリングはプレノプティックパス等のプログレッシブ・コーデングにも有用である。
【００５１】
プレノプティック関数のサンプリングはＣｈａｉ等によって研究された（Ｊ．−Ｘ．Ｃｈａｉ，  Ｈ．−Ｙ．Ｓｈｕｍ，  Ｘ．Ｔ．  “Ｐｌｅｎｏｐｔｉｃ  ｓａｍｐｌｉｎｇ”，ＡＣＭ  ＳＩＧＧＲＡＰＨ，  ｐｐ．３０７−３１８，２０００）。Ｃｈａｉ等は光照射野レンダリング用の最小サンプリングレート決定のためにスペクトル解析を用いてＬ（・）のサンプリング法を研究した。一方、本発明はプレノプティック関数の部分集合であり、かつ幾何学的分割が行われた、プレノプティックパスに対して特に適合させたものである。
【００５２】
サラウンド画像の数を削減する一つの方法は、曲線長に比例して、パスＰに沿って視点Ｐｉを選択／配分することである（パス長のパラメータ表現）。この方法は幾何学的情報が利用できない場合には効率的である。ｌがパスの長さＰを示すものとすると、ｌはサラウンド画像の相対並行移動パラメータから、Σｉ｛（ｔｘｉ＋１−ｔｘｉ）２＋（ｔｙｉ＋１−ｔｙｉ）２｝１／２を持つとして、定義される。
【００５３】
幾何学的情報が利用できない場合には、ｌに従ってサンプリングすることが好ましい。例えば、記録されたｎ個のサラウンド画像の中からｍ個の部分集合画像を選択する必要がある場合、パスＰはｍ個の等しい長さの間隔に分割されて、各間隔内において一つのサラウンド画像が選択される。そうすることにより、捕捉中に発生した非均一的な人為的影響に対する補正が可能になる。例えば、全方位カメラの運搬車の速度を増せば粗いデータが得られ、他方、速度を落とせばサンプリングレートが増加する。
【００５４】
サラウンド画像の数を削減するもう一つの方法はビジビリティセル（ｖｉｓｉｂｉｌｉｔｙ  ｃｅｌｌ）を用いることである。以下、Ｐに沿って発生する組合せイベントの幾何学解析手法を紹介する。
【００５５】
Ｆが“自由”空間を表す、すなわち、その空間が場面Ｓ＝｛Ｓ１，．．．，  Ｓｎ｝のｎ個のオブジェクトの何れによっても遮られていないものとする。Ｆ＝Ｅ３＼∪ｎｉ＝１Ｓｉ（Ｅ３はユークリッド３次元空間）。ν⊆Ｆを“視認可能な”空間、即ちユーザが相互作用を行いながら移動できる自由空間の一部とする。位置Ｐ∈νが与えられると、ε（Ｐ）はＰを囲む下限エンベロープを示すものとする（幾何学用語に関しては、Ｊ．Ｄ．Ｂｏｉｓｓｏｎｎａｔ，  Ｍ．  Ｙｖｉｎｅｃ著  “Ａｌｇｏｒｉｔｈｍｉｃ  ｇｅｏｍｅｔｒｙ”，  Ｃａｍｂｒｉｄｇｅ  Ｕｎｉｖｅｒｓｉｔｙ  Ｐｒｅｓｓ，  １９９８を参照）。即ち、ε（Ｐ）は、ある与えられた（θ、φ）角座標に対し、位置Ｐから方向（θ、φ）に発する光線が最初にヒットするオブジェクトＳまでの距離、そのオブジェクトが存在する場合、その距離を求める動径関数ｒ（θ、φ）として定義される。なお、ε（・）は必ずしも連続である必要はない。
【００５６】
図７はエンベロープε（Ｏ）の例を示すもので、Ｏは中心を示している。太い実線７００は場面（ｓｃｅｎｅｓ）を記述するポリラインである。点線星型形状の多角形は中心Ｏから生ずるエンベロープε（Ｏ）である。プレノプティックパス内の位置の移動に伴ってエンベロープε（・）は変化する。例えば図９（ａ）及び９（ｂ）はエンベロープε（・）の変化を示す。図の陰影部分はビル９００内のプレノプティックパスの異なる位置でのエンベロープε（・）を示す。
【００５７】
Ｐを僅かに移動させると、ビジビリティ・イベント（閉鎖（ｏｃｃｌｕｓｉｏｎ）／非閉鎖（ｄｉｓｏｃｃｌｕｓｉｏｎ））で定義された臨界的な組合せイベントに到達するまで、エンベロープε（Ｐ）はなめらかに変化する。Ａ（Ｓ）をビジビリティ・セル要素へのνの分割であるとする。図８はビジビリティ図とそのセル分解を示す模式図である。図中、数字８００はビジビリティ・セルの一つを示す。
【００５８】
ＳがＥ３の三角形ｎ個からなるとすると、Ａ（Ｓ）はＯ（ｎ９）の複雑さを持つ。しかし、直線で切断された２次元セルに限定すると、その複雑さはＯ（ｎ３）まで下がり、御しやすくなる。ゾーン理論（Ｚｏｎｅ  ｔｈｅｏｒｅｍ）（Ｊ．Ｄ．Ｂｏｉｓｓｓｏｎｎａｔ，  Ｍ．  Ｙｖｉｎｅｃ，
“Ａｌｇｏｒｉｔｈｍｉｃ  ｇｅｏｍｅｔｒｙ”，  Ｃａｍｂｒｉｄｇｅ  Ｕｎｉｖｅｒｓｉｔｙ  Ｐｒｅｓｓ，  １９９８）によれば，直線でカットされた全てのエンベロープの組合せのサイズはＯ（ｎ３）になる。
【００５９】
ここでビジビリティ・セルが最小の“幅”を持つように制限されると、その複雑さは線形、すなわち、上記パス長に比例することに注目すべきである。屋内撮影に対して、ビルのフロア地図はしばしば図面交換フォーマット（ＤＸＦフォーマット）で利用であり、図８に示すようなビジビリティ図が算出できるようになる。ここで、小さいｎに対しては、素二次方程式アルゴリズム（ｎａｉｖｅ  ｑｕａｄｒａｔｉｃ  ａｌｇｏｒｉｔｈｍ）を適用してポリラインに対する制限を算出できることに注目すべきである。体積ｖ、長さｌでそれと交差するプレノプティックパス長を持つ、あるビジビリティ・セルに対しては、このセル内のパスは比率ｌ３／ｖに従ってサンプリングしてもよい。
【００６０】
更に、ビジビリティ情報が大きく変わる部分では（即ち、一つの大きなビジビリティセルから他のセルに移動する場合）、サンプリングレートを局所的に増やすことで、移行がよりスムースになるようにしてもよい。（例えば、ある壁面が現在の視点の接線となるような場合、カメラが少しでも並行移動すると、その壁面の一方があきらかになるため、我々はより多くのサンプルを必要とする。）
このようにして画像データベースは、その意味合い（ｓｅｍａｎｔｉｃｓ）を維持したまま、一桁あるいは二桁のオーダーで削減できる。
【００６１】
極めて大きなｎの、非自明（ｎｏｎ−ｔｒｉｖｉａｌ）なビジビリティ図を持つ複雑なＣＧスクリプトに対してもやはり、現状のビジビリティセル容積ｖが以下のように概略推定される。
【００６２】
各画素の色及び深さ情報ｄｉ，ｊが格納されている、ＲＧＢＺ環境画像の各画素ｅｉ，ｊ、は対応する立体角ａｉ，ｊを張る。その立体角は全単位球を小区分するから、それらの区分は単純加算されてｖ＝（１／４π）Σｉ，ｊａｉ，ｊｄｉ，ｊを得る。
【００６３】
容積が大きく変化する場合、これは視点が一つのビジビリティ・セルから他のビジビリティ・セルへの移動を意味するが、ある与えられたプレノプティックパスに沿って最初の組合せイベントが検索され、サンプリングされる（即ちＰをレンダリングする）。ＣＧスクリプトに対するサンプリングは、次の最善の視点がそのプレノプティックパスＰに沿って逐次付加的に決定されるため、オンラインで行っても良い。
【００６４】
ビジビリティ・セルを用いた上記のアルゴリズムは、例えば、図１０に示すステップにより実現される。この例示ステップにおいては、最初、プレノプティックパス上で全方位画像Ｉが撮影される（ステップ１００１）。次に、ステップ１００２において、例えば前述したエゴモーション・リカバリ手法を用いて、プレノプティックパスの位置が決定される。ステップ１００３において、プレノプティックパスに沿ったビジビリティ・セルが算出される。ステップ１００４において、対応するビジビリティ・セルに画像が割り当てられる。最後に、ｖ及びｌに応じて画像が選択される。ここで、ｖはビジビリティ・セルの容積であり、ｌはビジビリティ・セルと交差するプレノプティックパスの長さである。その設定において、画像の重要度はその場面で起こる組合せ変化に応じて設定される。
【００６５】
もう一つの可能性は、取得された画像の位置（ｔｘ、ｔｙ）で全てのエンベロープの体積を算出して、そのエンベロープの体積あるいはエンベロープの導関数に応じて画像を選択あるいは重み付けすることである。エンベロープ体積がより大きくなれば、より多くのサンプルあるいはより良い品質の画像を得ることが望ましく、一方エンベロープ体積がより少なくなれば、より少ない画像あるいは画像当たりの品質をより下げることが好ましい。更に、連続及び組合せサンプリング手法の組み合わせを組み合わせてもよい。
【００６６】
オブジェクト集合のビジビリティ図を算出する簡単で効率的な方法は、最初プリミテイブ（線分、弧等）をカラー画像にラスタリングすることである。ここで各プリミテイブは異なるカラー番号を持つ（図１１のステップ１１０１）。次に、（背景カラーとして検出された）オブジェクトの描かれていない箇所の、画像の各画素位置（ｐｘ、ｐｙ）に対して、図１２に示すような離散的エンベロープが算出される（ステップ１１０２）。各エンベロープはオブジェクト・シーケンスによって注釈付けされる。そのシーケンスは循環数列なので逓増順に分類される。２つのビジビリティ・セルの境界上ではエンベロープが異なる注釈を持つことが分かる。従って、その算出は注釈（線毎に）走査線内で行われる。連続する注釈間の注釈が異なる度に、ビジビリティ図と対応するカラーの画素が書き込まれる（ステップ１１０３）。一旦、個別のビジビリティ図が算出されると、個別の面積あるいは体積がそれぞれのセルに対して算出できる（ステップ１１０４）。
【００６７】
ビジビリティ・セルの体積ｖを算出して比率ｌ３／ｖに比例したサンプリングを行う代わりに、ビジビリティ・セルの面積ａを算出してＩ２／ａに比例してプレノプティックパスをサンプリングしてもよい。
【００６８】
更に、ビジビリティ多面体に対するテクスチャのパラメータ表現を、サラウンド画像のフィルタ処理／選択の制御に用いてもよい。テクスチャのパラメータ表現は次のように行われる。ある与えられたビジビリティ多面体及び精度δに対し、そのビジビリティ多面体に該当する全ての画像がマッピングされる。各ビジビリティ多面体はトポロジーの種数（ｇｅｎｕｓ）が０であり、それに対するテクスチャにおいて概略δの精度のパラメータ表現が存在する。そのビジビリティ多面体に該当するサラウンド画像各々について、そのサラウンド画像がそのテクスチャのパラメータ表現へ逆マッピングされる。最後に、全ての逆マッピングを平均化する。
【００６９】
テクスチャのパラメータ表現の利用は、粗い三次元再構成でも十分な品質が提供できる（廊下のような）プレノプティックパス領域において役立つ。
【００７０】
あるいは、パノラマ画像の数を削減する代わりに、各画像ｉに対し、曲線長さあるいはエンベロープ体積／面積に応じた重み付け要素ｗｉを割り当て、次に全ての画像をそれらｗｉに応じて非可逆的に圧縮してもよい。
【００７１】
５．アプリケーション及び結果
捕捉／合成したシーケンスに関する実験結果が図１３に示されている。図１３はプレノプティックパス１３００と、幾つかの主要フレーム１３０２と、その対応位置１３０１とを示す。
【００７２】
実施にあたっては、Ｗｉｎｄｏｗｓ（商標）／Ｉｎｔｅｌ（商標）の一般ＰＣ上でＯｐｅｎＧＬ（商標）を使用するＣ＋＋で行った。図１４に示すようなビューイング／地図ウインドウでマウスを使ったり、あるいは、ジャイロを備えたヘッドマウンティング表示装置（ＨＭＤ）を使って、ユーザは相互作用を行いながら、６０ｆｐｓのリフレッシュレートにて、プレノプティックパス上を移動できる。
【００７３】
例えば、図１４に示すように、ビューイング／地図ウインドウ１４００はビューイング・ウインドウ１４０１と、地図ウインドウ１４０２と、ナビゲーション・ウインドウ１４０３とを備えてもよい。ビューイング・ウインドウ１４０１は現在の視点位置と角度に対する画像を表示する。地図ウインドウ１４０２はフロア地図上に重ね合わせたプレノプティックパス及び現在位置を表示する。ナビゲーション・ウインドウ１４０３は現在位置でのサラウンド画像とパノラマ画像に重畳された擬似フレーム１４０５とを表示して、ビューイング・ウインドウ１４０１の対応領域を示す。ＨＭＤを使用する場合、そのＨＭＤの傾きを利用して、視点を前進させるか後退させるかを示してもよい。
【００７４】
ムービーテクスチャ（ホモグラフィを使って補正し重畳されたもの）あるいはイベントに応じてトリガーされた画像ベース操作のようなマルチメデア・アドオンを用いることにより、仮想通り抜け経験をより豊かなものにできる。例えば、エレベータのボタンを押すことでエレベータのドアを開閉する等も選択できる。
【００７５】
そのようなマルチメデア・アドオンの例が図１５（ａ）〜１５（ｂ）に示されている。図１５（ａ）では、あるサラウンド画像のトリガーされた領域がポリゴン区域１５０１（ここでは四角形）により設定される。ポリゴン区域１５０１はサラウンド画像からホモグラフィを使って合成された仮想ピンホール視野のトリガー領域を示す。対応するトリガー区域同士が交差すると（即ち、図１５（ｂ）に示すように、区域１５０１と区域１５１１が交差すると）、予め定めたイベントが発生する。これらのイベントは音楽の演奏でも、３次元オブジェクトの描画等であってもよい。
【００７６】
図１６はサラウンド画像の集合に対し区域１５０１をどのように定義するかを説明するフローチャートである。最初、ユーザが最初のサラウンド画像内に４つの点を初期設定する（ステップ１６０１）。次いでその４点がサラウンド画像シーケンスに沿ってトラッキングされる（ステップ１６０２）。最終的に、そのトラッキングは、それぞれの画像で得られる４角形を一緒に登録することにより、よりしっかりと行われる（ステップ１６０３）。このステップによりジッタ効果が避けられる。最後にそれらの四角形座標と対応するサラウンド画像の数がＸＭＬファイルフォーマットで保存される（ステップ１６０４）。
【００７７】
このようなマルチメデア・アドオンのもう一つの例が図１７に示されている。プレノプティックパス上に視点ｐ及び位置ｑに３次元オブジェクト１７０２が与えられると、次の合成ステップが行われる。
【００７８】
・視点ｐから見える範囲のオブジェクト１７０２の部分を算出する。このステップは大雑把な再構成、フロア地図等から得られた概略的なビジビリティ情報に基づいて行われる。ＩＯをそのオブジェクト画像とする。ＩＯは、そのオブジェクトの部分が描画されているＩＯ内の箇所を特定し、そのオブジェクトを背景から分離するための、アルファチャンネル（マスク画像）を備える。
【００７９】
・視点位置ｐに関するサラウンド画像からの仮想カメラ視野を生成する（例えば、仮想ピンホールカメラ視野）。ＩＣをその画像とする。
【００８０】
・最初ＩＣを描画し、次にアルファチャネルを用いてＩＯを描画する。そうすることにより、例えば窓ガラスの描画などの透明効果を得ることも可能になる。
【００８１】
ここで述べられた技法は多くのオブジェクトに拡張できる。例えば、この技法を用いて廊下内に入り込む数体のロボット（ＣＧ画像による）を追加することも可能である。
【００８２】
上記の技法は、サラウンド画像をトラッキングしてその上にホモグラフィーにより他の画像をマッピングする機能とは異なるものである。ここでは、重畳されるＣＧオブジェクトは３次元である。
【００８３】
本発明の実施形態を用いて説明したように、空間係数に基づきサンプリングが制御されるプレノプティックパスの捕捉あるいは合成のフレームワーク。本発明においては、ユーザがそれらプレノプティックパスに沿って相互作用しながら通り抜けできるように、画像ベースによるレンダリング・ブラウザーが導入される。上述された実施形態は大部分が仮想通り抜けシステムに関するものであるが、本発明はそれ以外の如何なるアプリケーション、例えばゲームやテレプレゼンス（ｔｅｌｅｐｒｅｓｅｎｃｅ）のようなアプリケーションにも適用可能である。
【００８４】
【発明の効果】
本発明によれば、全方位画像データを処理でき、かつその全方位画像データの処理により得られたサラウンド画像のデータサイズを効果的に削減できる装置及び方法が提供される。
【００８５】
さらに、本発明によれば、全方位画像データのサンプリング／フィルタ処理が可能な、あるいはアプリケーションで使用されるサラウンド画像データの圧縮が可能な装置及び方法が提供される。
【図面の簡単な説明】
【図１】全方位カメラの例を示す概観図である。
【図２】全方位画像処理システムを示すブロック図である。
【図３】本発明による全方位処理装置の構成を示すブロック図である。
【図４】図３の全方位処理装置における本発明の一実施形態による機能ブロックを示す模式機能図である。
【図５】図５（ａ）：立方体環境マップ画像の一例を示す図である。
図５（ｂ）：正矩形環境マップ画像の一例を示す図である。
【図６】図６（ａ）：画像内にマーキングされ、プレノプティックパス・シーケンスからトラッキングされた特徴例を示す図である。
図６（ｂ）：画像内にマーキングされ、プレノプティックパス・シーケンスからトラッキングされた特徴例を示す図である。
図６（ｃ）：画像内にマーキングされ、プレノプティックパス・シーケンスからトラッキングされた特徴例を示す図である。
【図７】パス内のある位置で算出されたエンベロープの一例を示す模式図である。
【図８】パスに沿って算出されたビジビリティ図の一例を示す模式図である。
【図９】図９（ａ）：パス内のある位置で算出された図７のエンベロープを示す模式図である。
図９（ｂ）：図９（ａ）の同じパス内の別の位置で算出された図７のエンベロープを示す模式図である。
【図１０】パスに沿って算出されたビジビリティ・セル毎の画像フィルタ処理のステップ例を示すフローチャートである。
【図１１】オブジェクト集合のビジビリティ図を算出するためのステップ例を示すフローチャートである。
【図１２】個別エンベロープ内にどのように注釈付けがなされるかの一例を示す模式図である。
【図１３】プレノプティックパス例及び対応する位置における幾つかの主要なフレーム画像例を示す模式図である。
【図１４】本発明の実施形態によるビューイング／マッピング・ウインドウの一例を示す概要図である。
【図１５】図１５（ａ）：本発明の実施形態によるイベント・トリガーされる領域の一例を示す模式図である。
図１５（ｂ）：あるイベントがトリガーされるときの、図１５（ａ）のイベント・トリガーされる領域を示す模式図である。
【図１６】図１５（ａ）のイベントトリガーされる領域の設定ステップの一例を示すフローチャートである。
【図１７】本発明の実施形態による３次元オブジェクト画像をどのようにサラウンド画像内に合成するかに関する一例を示す模式図である。
【図１８】ＣＧスクリプトから算出されたサラウンド画像の一例を示す模式図である。
【記号の説明】
４０１：サラウンド画像合成装置、４０２：位置検出部、４０３：空間係数検出部、４０４：フィルタ部。
2005004487.tif 000002
2005004487.tif 000003
2005004487.tif 000004
2005004487.tif 000005
2005004487.tif 000006
2005004487.tif 000007
2005004487.tif 000008
2005004487.tif 000009
2005004487.tif 000010
2005004487.tif 000011
2005004487.tif 000012
2005004487.tif 000013
2005004487.tif 000014
2005004487.tif 000015
2005004487.tif 000016
【外国語明細書】
2005004487.tif 000017
2005004487.tif 000018
2005004487.tif 000019
2005004487.tif 000020
2005004487.tif 000021
2005004487.tif 000022
2005004487.tif 000023
2005004487.tif 000024
2005004487.tif 000025
2005004487.tif 000026
2005004487.tif 000027
2005004487.tif 000028
2005004487.tif 000029
2005004487.tif 000030
2005004487.tif 000031
2005004487.tif 000032
2005004487.tif 000033
2005004487.tif 000034
2005004487.tif 000035
2005004487.tif 000036
2005004487.tif 000037
2005004487.tif 000038
2005004487.tif 000039
2005004487.tif 000040
2005004487.tif 000041
2005004487.tif 000042
2005004487.tif 000043
2005004487.tif 000044
2005004487.tif 000045
2005004487.tif 000046
2005004487.tif 000047
2005004487.tif 000048
2005004487.tif 000049
2005004487.tif 000050
2005004487.tif 000051
2005004487.tif 000052
2005004487.tif 000053
2005004487.tif 000054
2005004487.tif 000055
2005004487.tif 000056
2005004487.tif 000057
2005004487.tif 000058
2005004487.tif 000059
2005004487.tif 000060
2005004487.tif 000061
2005004487.tif 000062
2005004487.tif 000063
2005004487.tif 000064
2005004487.tif 000065
2005004487.tif 000066
2005004487.tif 000067
2005004487.tif 000068
2005004487.tif 000069
2005004487.tif 000070
2005004487.tif 000071
2005004487.tif 000072
2005004487.tif 000073
2005004487.tif 000074
2005004487.tif 000075
2005004487.tif 000076
2005004487.tif 000077
2005004487.tif 000078
2005004487.tif 000079
2005004487.tif 000080
2005004487.tif 000081
2005004487.tif 000082
2005004487.tif 000083