(57)【特許請求の範囲】
【請求項１】
被写体を当該被写体と識別可能な既知のパターンとともに複数の視点位置から撮像する撮像工程と、
前記撮像工程において撮像された複数の画像それぞれについて、前記既知のパターンの画像中の複数の特徴点を用いて撮像時における撮像手段の位置、姿勢、焦点距離に関する撮像パラメータを検出する検出工程と、
前記検出工程において検出された前記撮像パラメータを記録するヘッダ部と、当該撮像パラメータで撮像した画像データを記録するための後続の画像データ領域とからなる所定のフォーマットで記録する記録工程とからなることを特徴とする画像計測方法。
【請求項２】
前記既知のパターンは形状が少なくとも部分的に既知な被写体上に存在することを特徴とする請求項１に記載の画像計測方法。
【請求項３】
前記既知のパターンは互いに異なる特徴を有する複数のパターンからなることを特徴とする請求項１に記載の画像計測方法。
【請求項４】
被写体を当該被写体と識別可能な既知のパターンとともに複数の視点位置から撮像された複数の画像を入力する入力手段と、
前記入力手段によって入力された複数の画像それぞれについて、前記既知のパターンの画像中の複数の特徴点を用いて撮像時における撮像手段の位置、姿勢、焦点距離に関する撮像パラメータを検出する検出手段と、
前記複数の画像と前記検出手段によって検出された撮像パラメータを用いて前記被写体の三次元形状情報を抽出する三次元形状情報抽出手段と、
前記検出手段によって検出された前記撮像パラメータを記録するヘッダ部と、前記三次元形状情報抽出手段によって抽出された前記被写体の三次元形状情報を記録するための後続の画像データ領域とからなる所定のフォーマットで記録する記録手段と、
からなることを特徴とする画像計測装置。
【請求項５】
前記入力手段は、被写体を撮像する撮像手段および画像の記憶手段とからなることを特徴とする請求項４に記載の画像計測装置。
【請求項６】
前記三次元形状情報抽出手段は、前記既知のパターン上の所定の点を原点とする基準座標系を設定する基準座標系設定手段と、該基準座標系における前記被写体の三次元形状情報を抽出する抽出手段とからなることを特徴とする請求項４に記載の画像計測装置。
【請求項７】
前記撮像手段は、複数の光路手段と少なくとも一つの結像手段及び光電変換手段とからなることを特徴とする請求項４に記載の画像計測装置。
【請求項８】
前記撮像手段は基線長調整手段、または輻輳角調整手段、または焦点距離調整手段の少なくとも一つを有する複眼カメラであることを特徴とする請求項７に記載の画像計測装置。
【請求項９】
前記撮像手段は、複数の光路手段の一方と他方とで異なる固定焦点距離を有し、一方が前記既知パターン画像の取得に他方は前記被写体画像の取得に用いることを特徴とする請求項４に記載の画像計測装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、複数視点からの画像を用いて簡便かつ高精度に被写体撮像時の撮像パラメータ、例えばカメラの姿勢、位置、基線長、輻輳角、焦点距離収差情報などを抽出する画像計測方法、および撮像パラメータに基づいて物体の三次元形状を計測かつ表示する画像計測装置の技術分野に属するものである。
【０００２】
【従来の技術】
従来、画像から物体の三次元形状データを計測する方法として複眼カメラによるステレオ計測法、例えば尾上他編、「画像処理ハンドブック」昭晃堂、１９８７年発行が知られており、これに基づく物体の全形状データの相対位置（平行移動量、回転移動量）抽出および統合方法が特開平５−３０３６２９号公報、特開平６−２０８６１０号公報、電子情報通信学会論文誌Ｄ−II（Ｖｏｌ．Ｊ７５−Ｄ−II，ｐｐ．７３７−７４８，１９９２）などに開示されている。
【０００３】
これらは物体の画像のみを用いて複数の部分形状データ間の相対位置を算出するもので、順次部分形状データを接続することにより物体とカメラとの相対位置を直接計測せずに全三次元形状を求めようとするものである。またカメラにその姿勢検出用センサを搭載し、姿勢データと画像データとを併用する方法が特開平６−２４１７３１号公報に開示されている。また、撮像手段の三次元位置、姿勢を画像計測により較正する方法が特開平６−２５９５３６号公報に開示されている。
【０００４】
【発明が解決しようとする課題】
しかしながら上記従来例のうち、特開平５−３０３６２９号公報、特開平６−２０８６１０号公報、電子情報通信学会論文誌Ｄ−II（Ｖｏｌ．Ｊ７５−Ｄ−II，ｐｐ．７３７−７４８，１９９２）はカメラの位置および部分形状間の相対位置を物体の形状、物体面上の模様などによらず常に正確に求めることは困難であり、形状データ統合の際の誤差が蓄積する、演算量が大きい、などの問題点がある。
【０００５】
また特開平６−２４１７３１号公報ではカメラの姿勢以外は画像データに基づいているため同様の問題点があり、いずれの例もカメラの基線長、輻輳角、焦点距離、および歪みなどの収差情報を予め高精度に較正しておく必要があった。従ってカメラの位置、姿勢を変えながら被写体を撮像する際にこれらカメラ固有のパラメータを調整することができないという問題がある。
【０００６】
また特開平６−２５９５３６号公報では一つの視点位置での画像を用いるために精度、計算の安定性などに欠けるという点、或は撮像手段の焦点距離を抽出しないために三次元形状計測に適用する際、前記従来例と同様の問題点がある。
【０００７】
本発明は、上記従来例の問題点を解消するためになされたもので、被写体画像の入力により容易に高精度な撮像パラメータの抽出、画像計測ができる画像計測方法及び画像計測装置の提供を目的とするものである。
【０００８】
【課題を解決するための手段】
このため、本発明に係る画像計測方法は、被写体を当該被写体と識別可能な既知のパターンとともに複数の視点位置から撮像する撮像工程と、
前記撮像工程において撮像された複数の画像それぞれについて、前記既知のパターンの画像中の複数の特徴点を用いて撮像時における撮像手段の位置、姿勢、焦点距離に関する撮像パラメータを検出する検出工程と、
前記検出工程において検出された前記撮像パラメータを記録するヘッダ部と、当該撮像パラメータで撮像した画像データを記録するための後続の画像データ領域とからなる所定のフォーマットで記録する記録工程とからなることを特徴とする。
【０００９】
また本発明に係る画像計測装置は、被写体を当該被写体と識別可能な既知のパターンとともに複数の視点位置から撮像された複数の画像を入力する入力手段と、
前記入力手段によって入力された複数の画像それぞれについて、前記既知のパターンの画像中の複数の特徴点を用いて撮像時における撮像手段の位置、姿勢、焦点距離に関する撮像パラメータを検出する検出手段と、
前記複数の画像と前記検出手段によって検出された撮像パラメータを用いて前記被写体の三次元形状情報を抽出する三次元形状情報抽出手段と、
前記検出手段によって検出された前記撮像パラメータを記録するヘッダ部と、前記三次元形状情報抽出手段によって抽出された前記被写体の三次元形状情報を記録するための後続の画像データ領域とからなる所定のフォーマットで記録する記録手段と、
からなることを特徴とする。
【００２２】
【発明の実施の形態】
上記目的を達成するため、本出願に係る第１の発明は、既知のパターンおよび被写体を含む複数視点位置からの画像に基づき画像の撮像パラメータを抽出することを特徴とする。これにより被写体撮像時に撮像手段の位置、姿勢を含む撮像パラメータを記録せずに、画像から直接必要なパラメータを高精度に計測可能とするものである。
【００２３】
本出願に係る第２の発明の画像計測方法は、位置関係が互いに既知のパターンを第一被写体、所定の物体を第二被写体として二つの被写体の複数視点位置からの画像に基づき撮像パラメータを抽出することを特徴とする。これにより第一被写体と第二被写体、撮像手段との位置関係、および撮像時の撮像パラメータを画像のみから高精度に計測可能とするものである。
【００２４】
本出願に係る第３の発明の画像計測方法は、既知のパターンは形状が少なくとも部分的に既知な被写体上に存在することを特徴とする。これにより常に既知パターンを有する被写体を別途用意しなくても撮像パラメータを高精度に計測可能とするものである。
【００２５】
本出願に係る第４の発明の画像計測装置は、位置関係が互いに既知の特徴を有する第一被写体、少なくとも部分的に三次元形状が未知の第二被写体とを複数視点位置において未知被写体画像の入力手段、被写体画像に対応する撮像パラメータを抽出する撮像パラメータ抽出手段及び第二被写体の三次元形状情報抽出手段、三次元形状情報の記録手段、画像表示手段からなることを特徴とする。これより視点位置、或は物体の種類、照明条件などにより撮像パラメータを変化させても入力された画像からパラメータ推定、特に撮像手段の姿勢、位置の推定を高精度に行うことができ、簡便かつ高精度な立体情報抽出が可能となる。
【００２６】
本出願に係る第５の発明の画像計測装置は、入力手段が撮像手段と該撮像手段からの画像の記憶手段とからなることを特徴とする。これにより既知パターンを含む複数視点位置からの被写体画像を予め撮っておくだけで撮像パラメータの抽出、三次元形状情報の抽出を後処理として行うことが可能となる。
【００２７】
本出願に係る第６の発明の画像計測装置は、三次元形状抽出手段が第一被写体上の所定の点を原点とする基準座標系設定手段および基準座標系における第二被写体の三次元形状抽出手段からなることを特徴とする。これにより同一被写体を異なる角度から複数回撮像して得られる複数の部分形状を高精度に統合することが可能となる。
【００２８】
本出願に係る第７の発明の画像計測方法は、撮像パラメータが撮像手段の位置、姿勢、焦点距離、収差情報の少なくとも一つを含むことを特徴とする。これにより高精度な三次元形状情報の抽出と任意の仕手に地からの物体画像生成を簡便に行うことができる。
【００２９】
本出願に係る第８の発明の画像計測装置は、撮像手段が複数の光路手段と少なくとも一つの結像手段および光電変換手段からなることを特徴とする。これにより三次元形状データの抽出用の画像入力の撮像条件を安定に制御することができる。
【００３０】
本出願に係る第９の発明の画像計測装置は、撮像手段が基線長調整手段、または輻輳角調整手段、または焦点距離調整手段の少なくとも一つを有する複眼カメラであることを特徴とする。これにより最適な撮像条件で既知パターンと被写体とを撮像して、異なる視点位置で得られる三次元形状を高精度に統合することが可能となる。
【００３１】
本出願に係る第１０の発明の画像計測装置は、位置関係が互いに既知の特徴を有する第一被写体、所定の第二被写体とを複数視点位置において見た被写体画像の入力手段、該被写体画像に対応する撮像パラメータを抽出する撮像パラメータ抽出手段、第二被写体の二次元的画像記録手段、該第二被写体の二次元的画像に対応する撮像パラメータの記録手段、および画像表示手段からなることを特徴とする。これにより任意視点位置から見た物体画像の簡便かつスムーズな再生または合成を入力画像データのみを用いて行うことが可能となる。
【００３２】
本出願に係る第１１の発明の画像計測方法は、既知パターンが互いに異なる二次元的特徴を有する複数のパターンからなることを特徴とする。これにより画像から容易に特徴点の位置を求めることができ、安定的かつ高精度な撮像パラメータおよび三次元形状抽出処理が可能となる。
【００３３】
本出願に係る第１２の発明の画像計測装置の撮像手段は、複眼の一方と他方とで異なる固定焦点距離を有し、一方が前記第一被写体画像の取得に他方は前記第二被写体画像の取得に用いることを特徴とする。これより未知形状物体と既知パターンとを同じ視野に収めて撮像した場合に片方がぼやけて写ることによって生じる撮像パラメータまたは三次元形状データの誤差を抑制することができた。
【００３４】
本出願に係る第１３の発明の画像計測装置は、第一被写体上に発光素子を配列してなることを特徴とする。これより、撮像パラメータおよび、三次元形状データの抽出を更に高精度に行うことができた。
【００３５】
【実施例】
以下、図面を参照して本発明の実施例を説明する。
【００３６】
（実施例１）
図１は本実施例の基本構成図であり、１は複眼カメラである撮像手段、２は既知のパターンを有する平面状物体、３は平面状物体２の上に置かれた三次元形状を測定すべて物体、４は画像処理手段、５は複眼カメラ１からの画像のモニタ、１２は形状データ記憶手段である。
【００３７】
撮像手段１は図１（ｂ）に示すように、基本的に左カメラ１L と右カメラ１R 、および１L と１R の光軸方向調整手段６、基線長（例えば１L と１R の結像系の主点位置間距離）調整手段７、光電変換手段８L ，８R 、焦点距離調整手段９L ，９R 、主制御部１０、およびＡ／Ｄ変換機能を備えた画像記憶部１１を有する。撮像手段としては手ぶれによる画像の流れ、ボケなどを補正し、画像を安定化するための手ぶれ補正機構（不図示）を搭載してもよい。
【００３８】
測定者は複眼カメラ１を手に持って平面状物体２および三次元形状物体３の写った画像をモニタ５で確認しながら複数の位置で物体３を撮像する。なお、画像処理手段４は撮像手段１に内蔵しても良い。
【００３９】
図２（ａ），（ｂ）および図３（ｃ），（ｄ）は本実施例で用いる平面状物体２上のパターン例を示す。図２（ａ）のパターンでは特徴点Ｐ1 ，Ｐ2 ，Ｐ3 ，……は互いに異なる色相を有する色付きドットパターンで、所定の分布密度で複数の同心円状に配列されている。このタイプの変形例としては中心が共通の長軸サイズ、短軸サイズの異なる楕円状にドットを配列しても良い。また同図では半径方向にドットのサイズが異なり、同一半径上では同じ輝度を有するが（色相は異なるものとする）、これに限らずサイズ、輝度、色相などの定め方は任意であり、互いにこれら属性が異なればよい。図２（ｂ）では（ａ）と同様の色付きドットパターンは重心が共通でサイズの異なる矩形上に所定の分布密度で配列する。このタイプの変形例として重心が共通でサイズの異なる多角形上に配列してもよい。
【００４０】
図３（ｃ）では所定のピッチと交差角度を有する格子パターンで、それぞれのラインは輝度、色相、彩度の少なくとも一つが互いに異なる。同図では交差点が特徴点となる。図３（ｄ）では互いに異なる色相を有するＸ字型クロスパターンを所定の分布密度で図３（ｃ）と同様な格子上に配列したものである。その他、互いに異なる二次元的パターン要素（例えば向き、交差角の異なるＬ字型コーナ要素、あるいは文字など）を所定の分布密度で格子または矩形、同心円などの上に配列してもよい。また、以上のパターンは発光素子を配列して構成しても良い。
【００４１】
このように既知パターンとしては互いに位置関係（相対座標）が既知であり、かつ互いに画像上で識別が容易であるように異なる色を有する、或は異なる二次元的パターン要素を含むものが特に望ましい。基準直交座標系としては、例えば複眼カメラ１を用いて物体２，３を含む最初の画像を撮像した時に観測される隣接する特徴点を二つ選び、その二つの特徴点の一方を原点に原点から他方の特徴点へ伸びる直線をＸ軸とし、Ｙ軸は平面状物体面内に、Ｚ軸はＸ，Ｙ軸に直交し、右手系となるように設定するものとし、特徴点Ｐ1 ，Ｐ2 ，……の位置を（Ｘ1 ，Ｙ1 ，０），（Ｘ2 ，Ｙ2 ，０），……で表すものとする。
【００４２】
【数１】
0003869876.tif 000002
【００４３】
【数２】
0003869876.tif 000003
【００４４】
上式による表記の特徴は未知パラメータの推定を一旦、線形問題として記述したことにより演算量が低減化される点にある。本実施例では式（４），（５）に基づき一つの撮像位置において得られる多数の特徴点データを与えて最小二乗法、或はカルマンフィルタなどにより撮像パラメータ（カメラ位置、姿勢、基線長、輻輳角、焦点距離など）の推定を行う。以下、αL ，βL ，γL とα0 ，β0 ，γ0 を用いて撮像パラメータを推定することを左カメラ基準撮像パラメータの抽出という。尚、本発明においては撮像パラメータの抽出処理は上述した方法に限定するものではない。
【００４５】
図４は主たる画像計測動作の処理フローを示す。以下、各処理の概要を説明する。
【００４６】
撮像系の収差情報計測処理（Ｓ１）はレンズの歪曲収差を計測するもので本発明では既知の位置関係を有する特徴パターン２を用いて既存の画像処理による方法( 例えばIEEEJournal of Robotics and Automation, vol. RA-3,pp. 323-344,1987、或はIEEE  Proceedings of International Conference on Pattern Recognition, 1990,pp.246-253)を用いて測定する（この時、左右カメラの焦点距離も合わせて計測してもよい）。この段階では必ずしも物体３と既知パターン２とを同じ視野に収めて撮像する必要はない。
【００４７】
図５は撮像パラメータ計測処理（図４のＳ２）のフローを示す。ここでは既知パターン２と物体３とを撮像し、式（４），（５）に基づき最小二乗法、或はカルマンフィルタなどを用いて撮像パラメータ（カメラ位置、姿勢、基線長、輻輳角、焦点位置など）の推定を行う。尚、測定者は被写体画像をモニタ５で確認しながら適切な視野を保って（例えば所定基線長、輻輳角で両被写体を同時に同じ視野範囲に収めるなど）撮像すれば、確実な撮像パラメータ抽出が可能となる。
【００４８】
先ず、初期設定処理（Ｓ２−０）として各カメラ１L ，１R に搭載された合焦判定用の光学的測距手段からの合焦状態信号、或はその他の大まかな被写体距離情報に基づいて基線長、輻輳角の制御、またはズーミングを行って撮像し、静止画または動画として記憶手段１１に記録する。
【００４９】
次に、画像中から既知パターン画像領域と被写体画像領域の識別処理（Ｓ２−１）を行う。本実施例では説明のために既知パターン例として図２（ａ）に示すように平板の上に所定の分布密度で存在し、複数の同心円状に並んだ色付きドット（互いに異なる色相を有する）パターンを使うものとする。（Ｓ２−１）はこの平板上に置かれた物体３の画像から色付きドットパターン領域を切り出すためものである。ここでは既知パターンの下地の色または輝度が物体３の平均的な色または輝度と異なるものとし、色または輝度レベルに基づいて領域成長法などを用いて切り出し処理を行う。尚、切り出し処理としては特にこの方式に限定しないが、既知パターンの配列の特性、各々のパターン要素（ここではドット）の構造的特徴、平均的色相、平均的輝度のうち、物体３の属性と異なるものを活用して行うことは云うまでもない。また切り出し処理の前にこれら属性を測定した結果に基づき、最適な属性を選び出す処理を行ってもよい。
【００５０】
処理ステップ（Ｓ２−２）は既知パターン領域から基準点をとり、それを原点として撮像パラメータ、および部分的三次元形状抽出のための基準座標系を予め定めた方法に従って設定する。例えばｉ番目の撮像位置での座標系（Ｘi ，Ｙi ，Ｚi ）は原点を通り、同心円の中心方向にＹi 軸、平面内でそれと直交する方向にＸi 軸を、更にＸi ，Ｙi 軸と直交しかつ右手系となるようにＺi 軸を設定すればよい。次に左、右カメラの画像中の既知パターン画像領域の複数の特徴点を使って撮像パラメータを抽出する。その際、基線長調整手段、輻輳角調整手段、焦点距離調整手段からの計測データをそれぞれを推定する際の初期値として用いてもよい。また固定されたパラメータに対してはそれを固定データとして他の撮像パラメータ（特に撮像手段の位置、姿勢）推定に用いてもよい。
【００５１】
更に本実施例では左カメラ画像基準の撮像パラメータ推定を行った後、それらを初期値として右カメラ画像基準の撮像パラメータの推定、或は推定値のバラツキが閾値以下となるまでの反復を行う。これは高精度化と推定値検証のための処理であり、順序は問わない。また（Ｓ２−１）を安定的かつ確実に行うために、既知パターン領域は物体３上の面と異なる特徴（例えば色相、反射率、空間周波数などが異なること）を有することが望ましい。
【００５２】
撮像パラメータ記録処理（Ｓ２−４）は被写体画像データに対応する撮像パラメータを所定記憶手段１２の不図示の記録媒体、例えば（光）磁気ディスク、テープなどに画像データとともにそれらの対応付けが明らかな所定のフォーマットで記録する。
【００５３】
図６，図７は本実施例の記録フォーマットの例を示す。図６はヘッダ部において後続する画像データの撮像パラメータ、および対応する画像データのアドレスが一括して書き込まれ、データ部では一つの撮像パラメータに対応する左右画像データが順次書き込まれる。図７は個々の画像データの直前に撮像パラメータと必要があれば画像データ量が記録されたヘッダ部が存在する。尚、画像データは適切な方法で圧縮してもよい。またヘッダ部は撮像パラメータ以外の付帯情報、例えば日時、測定場所、測定者の名前、被写体の種類などを記録してもよい。尚、図４に示す処理ステップ（Ｓ１）と（Ｓ２）の順序を逆にしたり、或は反復しても本実施例の効果は損なわれるものではない。
【００５４】
図８は三次元形状計測処理（図４のＳ３）のフローを示す。（Ｓ３−０）は記憶手段１１からの画像データおよび付帯情報（撮像パラメータを含む）の読み出し処理である。次に、（Ｓ２）と同じ撮像条件での複眼カメラ１からの物体３の左右画像の対応点間視差抽出処理（Ｓ３−１）、および（Ｓ２）で得られた撮像パラメータに基づく各点の距離情報（例えばカメラ座標系のＺ軸座標値）抽出処理（Ｓ３−２）を行う。尚、（Ｓ３−１）、（Ｓ３−２）は既存の方法を用いてよいが、本実施例では（Ｓ３−１）において対応点の信頼度も求めておく。
【００５５】
信頼度の例としては、（Ｓ３−１）でブロック分割を行って左右画像ブロック間の相関値ベースで対応点抽出を行う場合、対応する画素を中心としたブロック間の相関値を信頼度としたり、或は視差連続性の仮定に基づいて定義され、視差の不連続度が高いほど値の低くなるように設定された所定の関数値を信頼度としてもよい。更には所定の方法で検出される遮蔽エッジからの距離に応じて定まる所定の関数値（遮蔽エッジに近いほど値が小さい）を用いてもよい。尚、このような信頼度の設定は遮蔽エッジ付近では一般的に対応点が存在しないことに基づいている。また信頼度としては、これらに限らず複数の信頼度パラメータの複合関数でもよい。
【００５６】
本実施例では各撮像位置で得られる画像中の既知パターン２から所定の方法（例えば左右画像の重複領域の中心付近の特徴点など）で基準点を抽出し、その基準点を原点とする直交座標系（図２，図３の説明で用いた基準座標系と同様な設定法でよい）において物体３の部分的三次元形状を得る。更に部分形状データ、および対応する撮像パラメータを前述したようなフォーマットで所定の記憶手段（媒体）に記録する（Ｓ３−３）。但し、本発明では記憶手段（媒体）の種類は特に限定しない。
【００５７】
図９は三次元形状統合処理（図４のＳ４）のフローを示す。三次元形状統合処理（Ｓ４）は異なる撮像位置で得られた物体３の複数の部分的三次元形状データを（Ｓ３）で設定した各基準点を介して高精度に繋ぎあわせて統合するものである。各基準点の絶対座標系（初めに設定された基準座標系とする）上の位置および各軸の方向は既知であるから絶対座標系で三次元形状データを統合する際、先ずそれぞれのデータに対して次のような座標変換処理（Ｓ４−１）を行う。
【００５８】
Ｐ＝ＲL(i)-1（Ｃi −ＴL(i)）                （６）
上記Ｃi 、ＲL(i)、ＴL(i)はｉ番目の撮像位置でのパラメータを示し、それぞれ画像に対応する左カメラ座標系での形状でデータ各点の三次元位置（ベクトル）、各座標軸の絶対座標系に対する回転行列、原点の位置（ベクトル）を表す（右カメラ座標系に対しても同様に求められるがいずれか一方を用いればよい）。更に形状誤差補正処理（Ｓ４−２）として、統合時に部分形状データ間で重なり合う領域間の三次元データのいずれか一方を（Ｓ３）で求めた信頼度に基づいて選択する。例えば（Ｘ，Ｙ，Ｚ）座標値を所定の量子化サイズで量子化して得られる格子点座標が一致すれば互いに重なりあうと見做して（Ｓ４−２）を適用し、量子化される前の座標値のいずれか一方をとればよい。尚、重なり判定法はこれに限定されるものではないことはいうまでもない。また、いずれの信頼度も一定基準を満たしている場合はどちらを用いてもよいが、基本的には値の高い方を選ぶものとする。以上のようにして統合された形状データはデータ記憶手段１２に記録される。
【００５９】
形状データ表示処理（図４のＳ５）は形状データ記憶手段１２から三次元形状データを読み出し、ワイアフレームなどの手法でモニタ５に表示するための表示用データを生成する処理である。他の表示方法としては、左右カメラからの画像を合成してパノラマ表示したり、或は左右カメラの画像をヘッドマウンテッドディスプレイ（複眼ディスプレイ）に視差付きで立体表示してもよい。
【００６０】
本実施例では平面上基板の上に物体３を置いただけでは物体３の底面を含むその近傍の三次元形状を抽出できないので、測定可能な範囲で（Ｓ３）までの処理をひととおり行った後、例えば物体３の上下を逆にして既知パターン上に置いて（Ｓ* ）から同様に（Ｓ３）までの処理を行ってもよい。この場合には（Ｓ４）までの統合済み形状データ間を最終的に統合する際、互いに重なりがあるようにしておくことが特に望ましい。複数の統合済み形状データを最終的に全三次元データとして統合する方法の一例としては、先ず一つの統合済形状データを基準に他の形状データに対して絶対座標系において種々のパラメータ値を用いて上記座標変換処理（Ｓ４−１）を行った後、重なる度の判定処理を行い、最も重なり度の高い座標変換を採用して重なり部分の一方を選択すればよい。他の方法としては予め重なり領域において特徴点を抽出しておき、特徴点どうしが整合するような形状データどうしの位置合わせを実現する上記座標変換（Ｓ４−１）パラメータを求めてもよい。
【００６１】
（実施例２）
図１０は実施例２の撮像パラメータ抽出処理のフロー図である。各ステップは前記実施例１の図５と対応している。
【００６２】
本実施例では撮像手段が単眼のカメラである以外は実施例１と同じ構成である。ここでは互いに画像上で既知パターンおよび物体が重複して存在するようなｉ番目とｉ＋１番目（またはｉ＋ｋ番目；ｋ≠１）の撮像位置における画像を使って撮像パラメータの抽出処理、およびそれに基づく物体の三次元形状抽出処理を行う。本実施例では、複数の特徴点データを与えてパラメータを
【００６３】
【数３】
0003869876.tif 000004
【００６４】
（実施例３）
図１１は本実施例３で使用する非平面の既知形状物体、およびその表面にある互いに識別可能で位置関係が既知の特徴パターンの例を示す説明図である。
【００６５】
図１１の（ａ）は円錐台上に既知の特徴パターンが形成されている場合を、（ｂ）はお椀型物体の内面に既知パターンがある場合を示す。本実施例のように非平面上に既知パターンを配列することにより、未知形状物体の設置の仕方を変えずに撮像パラメータ抽出可能な撮像位置、姿勢の範囲を拡張することができる。また撮像パラメータ抽出処理（図４のＳ２）の際の縮退解の回避等が可能であり、安定性、精度向上が実現される。
【００６６】
（実施例４）
図１２は本実施例４で使用する既知パターンで、（半）透明基板上に位置関係が既知の特徴パターンが形成されている。形状が未知の物体３を載せた状態で裏面からも撮像可能であることが特徴である。本実施例のように（半）透明基板上の特徴パターンを用いることにより実施例３より更に広範囲での撮像位置が設定可能となる。
【００６７】
本実施例では既知パターンは物体３と接する面に存在しないことが望ましい。また基板の表面と裏面とで（分光）反射特性が異なるか、或は既知パターンの属性が異なるようにしておくことが望ましい。
【００６８】
このようにして上述した実施例ではカバーできない物体３の底面付近の形状、或は下側からでないと撮像不可能な部分形状データを撮像手段の位置、姿勢データと共に得ることができる。従って前述した実施例のような物体３の姿勢変更と複数統合データの位置合わせなどの処理が不要となり、より少ない演算ステップ数で物体の全形状を得ることができる。
【００６９】
（実施例５）
図１３に本実施例５の主な処理フローを示す。本実施例では既知パターンは主に撮像手段の位置、姿勢パラメータの抽出に用いる以外は撮像パラメータ抽出処理（図４のＳ２）は実施例１と同様に行うが、三次元形状の抽出と統合は行わず、撮像手段の位置、姿勢と対応する２Ｄ画像を記憶手段１２に記録する（Ｓ６）。
【００７０】
その際、既知パターンと物体画像との分離、切り出し処理を行って物体画像のみを所定記録媒体に視点位置とともに記録してもよい。再生時はユーザが指定した視点位置と撮像位置、姿勢の比較処理（Ｓ７）を行い、両者が一致するか、または最も近い撮像パラメータ（ここでは撮像手段の位置および姿勢データ）を付帯情報として有する画像を記憶手段１２から呼び出して（Ｓ８）、ディスプレイに適合した表示用データに加工する（Ｓ５）。
【００７１】
例えば、一方のカメラからの２Ｄ画像を表示してもよいし、左右カメラからの画像を合成してパノラマ表示したり、或は左右カメラの画像をヘッドマウンテッドディスプレイ（複眼ディスプレイ）に視差付き立体表示を行ってもよい。また任意視点位置からの物体画像をほぼ同じ大きさでスムーズに再生するためには物体と撮像手段との距離をなるべく一定に保って撮像、記録することが望ましい。そこで撮像手段としては焦点距離調整手段を搭載せず、特に複眼カメラの場合は基線長、輻輳角とも固定することが望ましい。但し、合焦判定用の光学的測距手段を搭載して非合焦状態では撮像動作およびパラメータ抽出は行わないように系を制御する、などの処理が必要となる。
【００７２】
本実施例５では以上のような撮像手段の位置、姿勢を画像のみから安定的かつ高精度に抽出するので、物体をいろいろな角度から撮像し、ユーザの指定する任意視点位置からの物体画像を再生するための簡便な撮像記録再生手段として用いることができる。
【００７３】
（実施例６）
図１４は本実施例６の構成図である。図１４中の投光手段６０は所定角度から構造パターンを無地の平面とその上におかれた物体３に投影する。投影されるパターンの例としては平面上では図２，図３に示すような所定の分布密度で配列するドット、格子または二次元的特徴パターン要素の配列でよい。物体上では投影パターンは物体の形状を反映するような分布密度または分布形状となる。従って、各撮像位置で撮像して得られる画像から平面上の規則的な構造パターンを使って撮像パラメータを抽出し、物体面上の投影パターンのみから既存の手法（「三次元画像計測」井口、佐藤  著；昭晃堂１９９０）によりおおまかな三次元形状を算出することが出来る。更に複眼カメラを撮像手段として用い、投影パターンを含む左右画像の対応点（視差）抽出（いわゆるステレオ画像計測）を行って細密かつ高精度な三次元形状データを得ることができる。
【００７４】
本実施例では特に、投影パターンを使った大まかな形状データを初期形状データとしてステレオ画像計測の際に用いることにより表面が無地の物体に対しても安定して形状データを抽出することが可能となる。例えば初期形状データから特徴点以外の点の形状データを補間処理により生成し、それを用いてステレオ画像計測の際の対応点探索範囲や視差値の上限または下限を設定することにより高速に三次元形状データを抽出することができる。
【００７５】
尚、一つの投光手段では撮像位置によってパターンが投影されないことが起こる場合には複数の投光手段を物体の周囲に設置し、撮像位置に応じて投光手段を切り替えてもよい。また物体３を載せる台としては表面が平面状である必要はなく既知の形状であればよい。但し表面はなるべく無地であることが望ましい。
【００７６】
（実施例７）
本実施例７では、物体３の形状が部分的に予め既知である場合、そこに所定のシート上に形成された既知パターンを貼りつけ、既知部分と未知形状部分とを同じ視野に収めて撮像し、観測された特徴点から撮像パラメータの抽出を行う。更に未知の三次元形状部分を撮像パラメータに基づいて実施例１と同様にして抽出する。
【００７７】
撮像位置を変えて部分形状を得る場合は、既に撮像した位置での画像中に存在する形状データ既知部分にパターンを貼りつけて同様の処理を繰り返す。本実施例の場合は物体３が滑らかな面、即ち平面または曲率の小さい曲面からなることが望ましい。
【００７８】
本実施例７によれば、サイズの比較的大きな物体でも三次元形状抽出を簡便に行うことができる。
【００７９】
（実施例８）
本実施例８において不図示の複眼撮像手段は複眼の一方と他方とで異なる固定焦点距離を有し、主制御部１０は一方が既知パターン画像の取得に他方は未知形状物体画像の取得に用いるように制御した。
【００８０】
他の構成は実施例１と同じであるが、このようにすることにより未知形状物体と既知パターンとを同じ視野に収めて撮像した場合に片方がぼやけて写ることによって生じる撮像パラメータまたは三次元形状データの誤差を抑制することが出来た。尚、本実施例の場合、撮像パラメータ抽出処理は実施例２と同様になる。
【００８１】
【発明の効果】
以上説明したように、本発明によれば、既知のパターンおよび被写体を含む複数視点位置からの画像に基づき画像の撮像パラメータを抽出することにより、被写体撮像時に撮像手段の位置、姿勢を含む撮像パラメータを記録せずに、画像から直接必要なパラメータを高精度に計測可能となる。
また視点位置、物体の種類、照明条件などにより撮像パラメータを変化させても入力された画像からパラメータ推定、特に撮像手段の姿勢、位置の推定を高精度に行うことができ、簡便かつ高精度な全立体情報抽出が可能となる。
【００９４】
【図面の簡単な説明】
【図１】  （ａ）は実施例１の構成図、（ｂ）は撮像手段の構成図である。
【図２】  実施例で用いる既知パターンの例を示す説明図である。
【図３】  実施例で用いる既知パターンの例を示す説明図である。
【図４】  実施例の全体処理のフロー図である。
【図５】  撮像パラメータ抽出処理のフロー図である。
【図６】  画像データと対応する撮像パラメータの記録フォーマット例を示す説明図である。
【図７】  画像データと対応する撮像パラメータの記録フォーマット例を示す説明図である。
【図８】  三次元形状データ抽出処理フロー図である。
【図９】  部分形状データ統合処理フロー図である。
【図１０】  実施例２の撮像パラメータ抽出処理フロー図である。
【図１１】  実施例３で用いた既知形状の既知パターン付き撮像パラメータ抽出用物体の例を示す説明図である。
【図１２】  実施例４において（半）透明な既知パターンを用いる場合のパターンと撮像手段の配置図である。
【図１３】  実施例５で既知パターンを用いて撮像手段の位置、姿勢を抽出し、画像再生に用いる場合の全体処理フロー図である。
【図１４】  実施例６で補助投光手段を用いた場合のシステム部分構成図で有る。
【図１５】  カメラ座標系の説明図である。
【符号の説明】
１  撮像手段
２  既知のパターンを有する平面状物体
３  平面状物体２の上に置かれた三次元形状を測定すべき物体
４  画像処理手段
５  撮像手段からの画像のモニタ
６  光軸方向調整手段
７  基線長調整手段
８  光電変換手段
９  焦点距離調整手段
１０  撮像手段の主制御部
１１  画像記憶部
１２  データ記憶手段
【図１】
0003869876.tif 000005
【図２】
0003869876.tif 000006
【図３】
0003869876.tif 000007
【図４】
0003869876.tif 000008
【図５】
0003869876.tif 000009
【図６】
0003869876.tif 000010
【図７】
0003869876.tif 000011
【図８】
0003869876.tif 000012
【図９】
0003869876.tif 000013
【図１０】
0003869876.tif 000014
【図１１】
0003869876.tif 000015
【図１２】
0003869876.tif 000016
【図１３】
0003869876.tif 000017
【図１４】
0003869876.tif 000018
【図１５】
0003869876.tif 000019