(57)【特許請求の範囲】
【請求項１】
物体クラスからの物体の新たな画像を合成するための方法であって、前記物体クラスは既知であり、
前記物体クラスからのトレーニング物体の反射フィールドを得るステップと、
前記トレーニング物体の前記反射フィールドの結合を使用して、前記物体クラスの反射フィールドモデルを構築するステップと、
前記反射フィールドモデルのパラメーターを最適化することによって、前記物体クラスからの特定の物体に前記反射フィールドモデルを適合させるステップであって、前記特定の物体の１つ又は複数の入力画像に基づいて特定の反射フィールドを推定する、適合させるステップと、
前記特定の反射フィールドの照射入力を変更することによって、前記特定の物体の新たな画像を合成するステップと
を含み、
構築された前記反射フィールドモデルは、前記トレーニング物体の前記反射フィールドの平均と、前記トレーニング物体の前記反射フィールドの主成分の線形結合とを加えたものとして定義され、
構築された前記反射フィールドモデルは、線形照射フィールドモデルと別個の線形テクスチャーモデルとの積としてさらに定義される
物体クラスからの物体の新たな画像を合成するための方法。
【請求項２】
前記線形照射フィールドモデルは、前記トレーニング物体の照射フィールドの線形結合として定義される
請求項１記載の方法。
【請求項３】
前記線形照射フィールドモデルは、前記トレーニング物体の照射フィールドの平均と、前記トレーニング物体の照射フィールドの主成分の線形結合とを加えたものとして定義される
請求項１記載の方法。
【請求項４】
前記線形テクスチャーモデルは、テクスチャー画像のセットの線形結合として定義される
請求項１記載の方法。
【請求項５】
前記線形テクスチャーモデルは、テクスチャー画像のセットの平均と、前記テクスチャー画像のセットの主成分の線形結合とを加えたものとして定義される
請求項１記載の方法。
【請求項６】
前記テクスチャー画像のセットは、前記トレーニング物体の反射フィールドから導出される
請求項４記載の方法。
【請求項７】
前記テクスチャー画像のセットは、前記トレーニング物体の反射フィールドから導出される
請求項５記載の方法。
【請求項８】
各テクスチャー画像は、前記物体クラスからの物体の正面から照明された画像から得られる
請求項４記載の方法。
【請求項９】
各テクスチャー画像は、前記物体クラスからの物体の正面から照明された画像から得られる
請求項５記載の方法。
【請求項１０】
各テクスチャー画像は、全ての照射方向にわたって反射フィールドを平均化することによって、前記トレーニング物体の反射フィールドから得られる
請求項６記載の方法。
【請求項１１】
各テクスチャー画像は、全ての照射方向にわたって反射フィールドを平均化することによって、前記トレーニング物体の反射フィールドから得られる
請求項７記載の方法。
【請求項１２】
前記反射フィールドは、テンソルスプラインによって表される
請求項１記載の方法。
【請求項１３】
前記反射フィールドの反射関数は、球面調和関数によって表される
請求項１記載の方法。
【請求項１４】
前記反射フィールドの反射関数は、直接光結合法によって表される
請求項１記載の方法。
【請求項１５】
前記照射フィールドは、テンソルスプラインによって表される
請求項２記載の方法。
【請求項１６】
前記照射フィールドは、テンソルスプラインによって表される
請求項３記載の方法。
【請求項１７】
前記照射フィールドの照射関数は、球面調和関数によって表される
請求項２記載の方法。
【請求項１８】
前記照射フィールドの照射関数は、球面調和関数によって表される
請求項３記載の方法。
【請求項１９】
前記照射フィールドの照射関数は、直接光結合法によって表される
請求項２記載の方法。
【請求項２０】
前記照射フィールドの照射関数は、直接光結合法によって表される
請求項３記載の方法。
【請求項２１】
前記合成するステップは、
前記新たな画像に商マッピングを適用するステップをさらに含む
請求項１記載の方法。
【請求項２２】
前記合成するステップを、異なる照射入力を用いて反復するステップであって、複数の新たな画像を生成する、反復するステップと、
前記新たな画像を前記１つ又は複数の入力画像と共に格納するステップであって、拡張ギャラリーを形成する、格納するステップとをさらに含む
請求項１記載の方法。
【請求項２３】
前記拡張ギャラリーは、前記物体クラス内の物体を認識するために使用される
請求項２２記載の方法。
【請求項２４】
前記物体クラスからの２つ以上の特定の物体について前記適合させるステップ及び合成するステップを反復するステップをさらに含む
請求項１記載の方法。
【請求項２５】
前記物体クラスは、顔である
請求項１記載の方法。
【請求項２６】
前記特定の物体の入力画像のうちの少なくとも１つは、実質的に正面方向から照明される
請求項１記載の方法。
【請求項２７】
前記特定の物体の入力画像の全ては、互いにピクセルごとにアラインされる
請求項１記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、包括的には画像を処理することに関し、より詳細には、カメラによって取得された画像又は合成的に生成された画像において、顔のような既知の物体クラスからの物体の画像を再照明することに関するものである。
【背景技術】
【０００２】
多くのコンピューターグラフィックス、コンピューターアニメーション、コンピュータービジョン、ロボット工学、仮想現実、及び仮想エフェクトの用途において、既知の物体クラスからの物体の画像を再照明することが多くの場合に必要である。画像は実際のカメラによって取得されることもあれば、たとえばコンピューターグラフィックス及びコンピューターアニメーションにおいて、仮想カメラによって合成的に生成されることもある。物体クラスは、人間の顔、身体、自動車、金属ねじ等のような、形状及び外観において類似している物体のセットを指す。
【０００３】
画像内の特定の顔又は人の識別のような、物体クラス内の物体を認識するための方法が既知である。この方法は通常、クラスからの未知の物体の画像を、データベース内のクラスからの既知の物体の画像と比較する。本明細書において定義される場合、画像のギャラリーとは、データベース内に格納されているクラスからの既知の物体の画像のセットを指し、プローブ画像とは、クラスからの未知の物体の画像を指す。２つの画像が同じ物体のものであるか否かを判断することは、それらの画像が非常に異なる照射の下で撮られた場合に特に困難な問題である。これは顔認識システムにとって特に困難な問題である。
【０００４】
照射が変動するというこの問題に対処する３つの主な手法が存在する。第１の手法は、照射不変画像特徴量を使用する分類器を構築することに基づくものである。第２の手法は、変動する照射の効果を明示的に低減又は除去することを試みて画像を正規化するものである。第２の手法による技法は、反射モデルを想定して光の効果の除去を試みるか、又は所望の出力を提供するために様々なステップが経験的に選択される画像処理手法を採用する。第３の手法は、プローブ画像における広範にわたる可能性のある照射変動に合致するように画像の所与のギャラリーからの一般化を行う合成再照明画像を生成することを試みる。合成画像はギャラリーに追加され、拡張データベースが生成される。各プローブ画像が拡張ギャラリー内の画像のうちの少なくとも１つとの近い合致を見つけることが予期される。この第３の手法は、良好な品質の再照明画像を生成するのに効果的であり得るが、従来技術の再照明方法は、手作業による初期化、及び煩雑な最適化の要件に悩まされ、これによって、顔認識、及び高速な性能を必要とするか又は大きなギャラリーを有する他の用途に対するそれらの方法の魅力が低減する。
【発明の概要】
【０００５】
本発明は、人間の顔のような、物体クラスからの複数の物体の反射フィールドのセット（トレーニング反射フィールドと呼ぶ）を使用し、次に、物体クラスからの物体の新たな画像（又は画像のセット）の反射フィールドを、トレーニング反射フィールドの結合を適合させることによって推定する方法を説明する。次に、適合された反射フィールドを使用して、様々な照射下でその物体の新たな画像を合成することができる。
【図面の簡単な説明】
【０００６】
【図１】本発明の実施の形態による、顔認識に使用される顔の画像のギャラリーを、変動する照射を有する合成画像を用いて拡張するための方法の流れ図である。
【図２Ａ】本発明の実施の形態による、それぞれ異なる照射に対応する、物体の４次元（４Ｄ）反射フィールドの２次元（２Ｄ）スライス例である。
【図２Ｂ】本発明の実施の形態による、物体のテクスチャー画像例である。
【図２Ｃ】本発明の実施の形態による、図２Ａに示す照射フィールドを、図２Ｂのテクスチャー画像によって正規化することによって得られた、物体の４Ｄ照射フィールドの２Ｄスライスの例である。
【図３】本発明の実施の形態による、反射フィールドモデルを定義するためのプロセスの擬似コードのブロック図である。
【図４】本発明の実施の形態による、反射フィールドモデルをギャラリー内の入力画像に適合させるためのプロセスの擬似コードのブロック図である。
【発明を実施するための形態】
【０００７】
本発明の実施の形態は、物体クラスからの物体の画像を、変動する照射を有するように見えるように合成するための方法を提供する。本明細書において説明する本方法のステップは、メモリ及び入力／出力インターフェースを備えるプロセッサにおいて実行することができる。通常、プロセッサは画像内のピクセルを操作して、変動する照射を有する画像を合成する。
【０００８】
物体クラスは、外観が類似しているが同一でない物体のセットである。例には、人間の顔、心臓若しくは他の臓器、自動車、同様の機械部品、又は物体のクラスの多数のインスタンスのＣＡＤ（コンピューター支援設計）モデルを含む。唯一の要件は、物体クラスのインスタンスが類似の形状及びテクスチャーを有することである。他の応用例では、物体は人間の顔である。いかなる２つの顔も、それらのうちの一方が顔でないランダムな物体に類似しているよりもはるかに互いに類似しているため、全ての顔は類似の形状及びテクスチャーを有していると断言することができる。しかしながら、照明変動によって、顔の外観に大きな差異が生じ得る。本発明の１つの目的は、画像の照射が変動し、照明における自然な変動の効果を模倣するように、任意の顔の画像を合成することである。
【０００９】
本発明は、顔認識の目的のために顔画像を合成する観点から説明されているが、本方法を他の物体クラス及び他の用途に適用することができることが理解される。
【００１０】
反射フィールド
本発明者らの反射フィールドモデルを説明することから始める。反射フィールドは、物体の表面に到達する４Ｄ入射光フィールドと、表面によって反射される４Ｄ放射光フィールドとの８次元関数である。遠隔点光源及び正面図を想定する。このため、従来の反射フィールドの４Ｄスライスのみを考察する。この４Ｄ反射フィールドは、放射光の表面座標の２つの次元（ｘ，ｙ）及び入射光の方向の２つの角度（θ、φ）を有する。
【００１１】
従来技術は表面座標を表面上の３Ｄ点の２Ｄパラメーター化となるように定義したが、本発明者らは、物体の表面を２Ｄ平面としてモデル化する。このため、本発明者らの表面座標は厳密に２Ｄ画像座標に対応する。便宜上、反射フィールドの出力を、従来の放射輝度値（radiance value)ではなく、明度値(brightness value)として定義する。
【００１２】
本明細書において、用語「反射フィールド」を使用して、入力が画像座標（ｘ，ｙ）及び入射光の方向（θ、φ）であり出力が明度値であるこの４Ｄ関数を表す。
【００１３】
用語「反射関数」を使用して、反射フィールドを画像内の固定ロケーション（ピクセル）に限定することによって得られる２Ｄ球関数を指す。このため、本明細書において、反射フィールドは、ピクセルごとに１つの、反射関数の２Ｄフィールドである。
【００１４】
反射フィールド及び反射関数のこれらの定義において、入射光は単一点光源としてモデル化される。しかしながら、本発明者らの方法はこれよりも普遍性があり、複数の光源を有する照射条件、及び非点状光源（non-point light source)を含む、任意の照射条件について使用することができる。そのような場合、照射条件は、２つ以上の次元を有する場合がある、（θ，φ）とは異なるパラメーター化を使用して表すことができる。照射条件を２つ以上の次元を用いてパラメーター化することによって、反射フィールドが入力の４つ以上の次元を有すると共に、反射関数が入力の２つ以上の次元を有することになる。
【００１５】
応用例：拡張ギャラリー
図１に示すように、物体クラスからの物体の画像のギャラリー１０１を拡張することによる物体認識１４０のための本発明者らの方法は、以下の主要部分を含む。
【００１６】
第１に、トレーニング画像１０２を使用して、顔のような物体クラスのモーフィング可能な反射フィールドモデル３００を構築する（１１０）。トレーニング画像からトレーニング反射フィールド１０３を得る。
【００１７】
次に、１つ又は複数の照射条件下の、ギャラリー１０１内の画像を有するクラスからの任意の選択された物体について、モデル３００を物体の（ギャラリー１０１からの）画像に適合させ（１２０）、物体の推定反射フィールド１２１を得る。次にその推定反射フィールド１２１を使用して、変動する照射条件１２９下の物体の出力画像１３１を合成する（１３０）。次に、合成画像をギャラリー１０１に追加して画像の拡張ギャラリー１０５を形成することができる。
【００１８】
拡張ギャラリーを物体認識１４０（顔認識等）に使用することができる。物体認識１４０は、物体クラスからの物体の１つ又は複数のプローブ画像１４１の所与のセットについて、該物体のアイデンティティ１４２を求めることを含む。これは、ギャラリー内に表される物体が存在する場合、それらのうちのいずれがプローブ画像（複数可）に対応するのかを求めることから成る。拡張ギャラリーを、物体クラスからの物体の画像のギャラリー（顔画像のギャラリー等）を使用する任意の認識システムに供給することができるため、物体認識のための本発明者らの方法は、認識に使用される分類器から独立している。
【００１９】
本発明者らの方法の第１の部分は、反射フィールドモデル３００を構築すること（１１０）を含む。モデルは、物体クラス内の物体の実際の反射フィールドにおいて見られる十分な量の変動を捕捉し、それによって、モデルは、様々な照明条件下のクラスからの任意の物体の画像に容易に適合することができる。
【００２０】
任意の照射の下でのクラス内の任意の物体の画像を近似するのに十分な表現力がある反射フィールドモデルを得た後、該モデル３００をギャラリー１０１からの入力画像に適合させる（１２０）。物体の推定反射フィールド１２１を得るために、後述するように、モデルは１つ又は複数の照射条件下で物体のギャラリー画像１０１に適合される（１２０）。
【００２１】
モデルを物体に適合させた後、適合されたモデルの照射入力を変更して様々な照明条件１２９下の物体の新たな合成画像１３１をレンダリングする（１３０）ことができる。ギャラリー１０１内の物体の合成画像１３１をギャラリーに追加して、拡張ギャラリー１０５を得ることができる。
【００２２】
本発明者らのモデルは、従来技術の技法によって使用される従来のモデルと異なる。本発明者らのモデルは３Ｄ形状情報を組み込むが、該情報は球関数の２Ｄフィールドによって完全に定義される。これによって、本発明のモデルを、３Ｄから２Ｄへの投影を一切行うことなく入力画像に適合させることが可能になる。
【００２３】
反射フィールドモデル
３つの異なるタイプのモーフィング可能な反射フィールドモデルを考える。各モデルは物体の集団にわたるほぼ全範囲の可能な反射フィールドを包含することができる。好ましい実施の形態は本明細書において列挙される３つのタイプのモデルのうちの第３のものを利用する。
【００２４】
後述するように、第１のタイプのモーフィング可能な反射フィールドモデルは、物体クラスからの複数の物体の任意の数のトレーニング画像１０２から得られる反射フィールド１０３から開始する。次に、クラスからの任意の入力物体の反射フィールドが、これらのトレーニング反射フィールドの線形結合として近似される。このモデルをより効率的かつ潜在的により信頼性の高いものにするために、主成分分析（ＰＣＡ）のような次元削減技法を使用して、線形反射フィールドモデルの次元を削減することができる。
【００２５】
第２のタイプのモーフィング可能な反射フィールドモデルも同様に、トレーニング画像から得られた反射フィールド１０３から開始する。これらのトレーニング反射フィールドのそれぞれは、まず照射フィールド（以下で定義される）とテクスチャー画像との積に因数分解される。これによって、トレーニング照射フィールドのセット及びトレーニングテクスチャー画像のセットが生じる。次に、２つの線形モデルを構築する。１つは照射フィールドの線形モデル（任意の照射フィールドをトレーニング照射フィールドの線形結合として近似することができる）であり、１つはテクスチャー画像の線形モデル（任意のテクスチャー画像がトレーニングテクスチャー画像の線形結合としてモデル化される）である。これらの線形モデルのいずれか又は双方を、ＰＣＡ又は何らかの他の次元削減技法を使用して次元削減することができる。次に、クラスからの任意の物体の反射フィールドが、（物体の１つ又は複数の画像の所与のセットから）照射フィールド及びテクスチャー画像の積として近似される。照射フィールド及びテクスチャー画像のそれぞれは、それぞれの線形モデルを使用して推定される。
【００２６】
第３のタイプのモーフィング可能な反射フィールドモデルは、トレーニング画像のセットから得られる反射フィールドのみでなく、トレーニング画像の（異なる可能性がある）セットから得られるテクスチャー画像からも開始する。これらの反射フィールドのそれぞれは、対応するテクスチャー画像によって正規化され、トレーニング照射フィールドが得られる。これ以降、本方法は第２のタイプの反射フィールドモデルと全く同様に機能する。照射フィールド及びテクスチャー画像について別個の線形モデルを構築する。次に、クラスからの任意の物体の反射フィールドが、（物体の１つ又は複数の画像の所与のセットから）照射フィールド（線形照射フィールドモデルを使用して表現される）とテクスチャー画像（線形テクスチャー画像モデルを使用して表現される）との積として近似される。
【００２７】
本明細書において詳細に説明される好ましい実施の形態では、この第３のタイプのモーフィング可能な反射フィールドモデルを使用する。これを行う１つの理由は、多数のトレーニング反射フィールド（したがって多数のトレーニング照射フィールド）を得ることができる大量のデータを取得することは困難であり得るが、大量のテクスチャー画像データ（多数のトレーニングテクスチャー画像）を得るのは比較的簡単であるためである。このため、トレーニング反射フィールドの数（したがってトレーニング照射フィールドの数）が厳しく制限されている場合であっても、線形テクスチャーモデルにより多くのトレーニング画像（及びより多くの次元）を使用することによって、豊富な（rich）モーフィング可能な反射フィールドモデルを得ることが可能である。
【００２８】
驚くべきことに、照射モデルへの所与の反射フィールドとテクスチャーとの分離は従来技術において十分に定義されていない。ほとんどの場合、テクスチャーの定義及び照射モデルの定義は、想定される双方向反射分布関数（ＢＲＤＦ）に依拠する。たとえば、ランバートモデルでは、各ピクセルにおける定数スケーリングファクターであるアルベドは、一般的にテクスチャーとして受けとられる一方で、コサイン項は、照射関数（ランバート物体の表面にわたって一定である）であるとみなされる。ピクセルにおけるランバート反射関数は、アルベドと照射関数との積である。
【００２９】
用語「照射関数」を使用して、照射パラメーター（たとえば照射方向）を入力として取り、スカラー明度値を出力する、各ピクセルにおける関数を指す。照射フィールドは、ピクセルごとに１つの、そのような照射関数のフィールドである。いかなる特定のＢＲＤＦとも無関係のテクスチャーの定義及び照射モデルの定義を使用することを選択した。
【００３０】
本発明者らの方法では、反射フィールドを、テクスチャー画像と照射フィールドとの積に因数分解する。照射フィールドは、反射フィールドをテクスチャー画像で除算することによって得られる商として定義される。特に、ピクセルごとの照射関数は、ピクセルの反射関数（全ての照明方向にわたる）が該ピクセルにおけるテクスチャー画像の値で除算されるときに得られる商関数として定義される（式（１）を参照されたい）。
【００３１】
用語「正規化」を使用して、反射フィールドをテクスチャー画像で除算して照射フィールドを得るプロセスを指す。テクスチャー画像は、複数の方法で定義することができる。ここでは２つの可能性を与える。第１の方法は、物体クラスからの任意の物体のテクスチャー画像を、物体の正面から照明された画像として定義することである。第２の方法は、物体のテクスチャー画像を、全ての照射方向にわたって物体の反射フィールドを平均化することによって得られる画像として定義することである。
【００３２】
好ましい実施の形態では、照明条件は、無限遠の１つ又は複数の点光源の組み合わせとして定義される。このため、物体の反射フィールドと、照射フィールドと、テクスチャー画像との間の関係は、
【００３３】
【数１】
0005554260.tif 000002
【００３４】
によって与えられる。ここで、Ｒ（ｘ，ｙ，θ，φ）は反射フィールドであり、Ｌ（ｘ，ｙ，θ，φ）は照射フィールドであり、Ｔ（ｘ，ｙ）はテクスチャー画像であり、（ｘ，ｙ）はピクセルロケーションであり、（θ，φ）は照射方向である。
【００３５】
好ましい実施の形態では、テクスチャーを正面から照明された画像であると定義する（上述したテクスチャーを定義する第１の方法）。大部分は実際的な理由から、テクスチャーのその定義を使用する。本発明者らのモデルを（後述するように）構築するために、テクスチャー画像の大きな収集物を必要とするので、概ね正面から照明された画像（たとえば正面から照明された顔）の大きな収集物を得るのは非常に簡単である。全ての照射方向にわたる反射フィールドの平均のような何らかの他の形で物体のテクスチャー画像を定義することもできるが、この平均を求めることができる反射フィールドの大きなセットを得ることは実際困難である場合がある。
【００３６】
図２Ａ〜図２Ｃは、本発明の実施の形態による、反射フィールド例の因数分解をテクスチャーと照射フィールドとの積として示す画像である。
【００３７】
図２Ａは、本発明の実施の形態による、それぞれが異なる照射に対応する物体の４次元（４Ｄ）反射フィールドの２次元（２Ｄ）スライスの例である。
【００３８】
図２Ｂは、本発明の実施の形態による物体のテクスチャー画像の例である。
【００３９】
図２Ｃは、本発明の実施の形態による、図２Ａに示す照射フィールドを図２Ｂのテクスチャー画像によって正規化することによって得られた、物体の４Ｄ照射フィールドの２Ｄスライスの例である。
【００４０】
照射モデル
上述した第１のタイプのモーフィング可能な反射フィールドモデルは、反射フィールドの表現を必要とする（該表現は各ピクセルにおける反射関数を含む）。上述した第２のタイプのモーフィング可能な反射フィールドモデル及び第３のタイプのモーフィング可能な反射フィールドモデルは、照射フィールドの表現を必要とする（該表現は各ピクセルにおける照射関数から成る）。各反射関数、及び同様に各照射関数は、照明条件（たとえば照明方向）を入力としてとり、スカラー出力（ピクセルの明度値）を生成する。これより、反射フィールド及び照射フィールドを表す３つの異なる方法、すなわちテンソルスプラインを使用する方法、球面調和関数を使用する方法、又は直接光結合法（direct light combination method）と呼ばれるものを使用する方法を説明する。
【００４１】
好ましい実施の形態では、照射フィールドをモデル化するのにテンソルスプラインを使用する。好ましい実施の形態におけるテンソルスプライン及びそれらの役割を以下でより詳細に説明する。
【００４２】
球面調和関数を使用して照射関数及び反射関数をモデル化することもできる。球面調和関数は、任意の球面関数を少数の基底関数の線形結合として近似する方法を提供する。従来技術では、球面調和関数は照射条件をモデル化するのに使用されてきた。
【００４３】
しかしながら、本発明者らは球面調和関数を異なる目的、すなわち反射関数及び照射関数をモデリングするのに使用する。個々のピクセルの全ての反射関数及び照射関数が結合され、反射フィールド又は照射フィールドがそれぞれ生成される。
【００４４】
球面調和関数を使用して反射フィールド及び照射フィールドをモデル化することは、照明条件が好ましい実施の形態におけるように個々の点光源を使用してモデル化されるか、又は個々の点光源の線形結合としてモデル化されるときに効果的である。しかし、照明条件自体が球面調和関数を使用してモデル化されるとき、より一層効果的である。なぜなら、その場合、反射フィールドの表現が照明条件の表現に正確に合致するためである。
【００４５】
反射関数又は照射関数を表現する第３の方法は、直接光結合法と呼ばれるものである。この場合、任意の照明条件が、トレーニング反射フィールドを生成するのに使用したトレーニング画像内にあった光源の線形結合として推定される。
【００４６】
この直接光結合法では、反射関数又は照射関数は、従来の平滑球関数として表されるのではなく、トレーニング反射フィールド又はトレーニング照射フィールドが得られたトレーニング画像において提供された入力照明方向ごとに１つの、明度出力値の離散集合として表される。
【００４７】
この直接光結合法は、トレーニングデータに最も近い可能な合致を提供する。トレーニング照明方向の数が特定の用途には大きすぎる場合、次元削減技法（ＰＣＡ等）を使用して、反射フィールド及び照射フィールドの直接光結合モデルの次元を削減することができる。
【００４８】
好ましい実施の形態では、トレーニング反射フィールドを求めるのに使用されるトレーニング画像は、まずピクセルごとの対応にワープされる。トレーニング反射フィールドを使用してモーフィング可能な反射フィールドモデルを構築した後、該モーフィング可能な反射フィールドモデルを任意の画像又は画像のセットに適合させる前に、同じ方法（後述する２Ｄモーフィング可能なモデル）を使用して画像（複数可）もピクセルごとの対応にワープする。
【００４９】
好ましい実施の形態では、３次テンソルスプラインを使用して各反射フィールド及び照射フィールドをモデル化する。このフレームワークでは、ピクセル（ｘ，ｙ）における反射関数は、照射方向を入力としてとり、スカラーを出力する球関数である。反射フィールドは、
【００５０】
【数２】
0005554260.tif 000003
【００５１】
によって与えられる。ここで、γｋｌｍ（ｘ，ｙ）は実数値のテンソル係数であり、インデックスｋ、ｌ、及びｍは非負の整数であり、デカルト座標における照射方向は、ν１＝ｓｉｎ（θ）ｃｏｓ（φ）、ν２＝ｓｉｎ（θ）ｓｉｎ（φ）、及びν３＝ｃｏｓ（θ）によって与えられる。この反射関数の記述は、各ピクセル（ｘ，ｙ）において１０個のテンソル係数を必要とする。
【００５２】
【数３】
0005554260.tif 000004
【００５３】
反射関数が複数のピクセルロケーションにわたって平滑に変動するというさらなる制約を課す。クマール（Kumar）他に従って、トレーニング物体の反射フィールドを、９個以上のトレーニング画像（９個以上の照明条件の下での物体の画像）から回復することができる。平滑性制約は、Ｂスプライン基底を使用して課されるため、用語「テンソルスプライン」を使用して反射フィールドの本発明者らの表現を指すことができる。
【００５４】
これらのテンソル係数（ピクセルごとに１０個のテンソル係数）は、物体の反射フィールドを記述する。物体のテクスチャー画像によってテンソルをスケールダウン（正規化）して、物体の照射フィールド（テクスチャーから概ね独立している）のテンソル係数を得る。テンソルスプライン表現によって、本発明者らの照射モデルは、従来のランバートモデルの能力を超えて、鏡面性、及び投じられた付随する影を捕捉することが可能になる。
【００５５】
テンソルスプラインのフレームワークは、３Ｄ形状モデルを物体に適合させる必要なく、投じられた影のような、全体形状によって生じる光効果を計上する方法を提供する。
【００５６】
物体の９個以上のトレーニング画像を使用して、物体のトレーニング反射フィールドを得ることができる。好ましい実施の形態では、物体ごとに９個の照射画像を必要とする方法を使用して、トレーニング画像の反射フィールドがオフラインで一度習得される。上述したように、物体クラスからの多数の物体のトレーニング反射フィールドを使用して、物体クラスのモーフィング可能な反射フィールドモデルを構築する。この反射フィールドモデルを構築した後、本発明は、モデルをクラスからの任意の物体に適合させるために、９個の画像を必要としない。実際、本発明者らの方法は、入力として物体の単一の画像しか必要としないが、より多くの画像を使用してもよい。
【００５７】
好ましい実施の形態における効率性のために、トレーニング照射フィールドに主成分分析（ＰＣＡ）を適用し、第１のいくつかの主成分の線形結合及びトレーニング照射フィールドの平均を使用してギャラリー内の任意の物体画像の照射フィールドを表す。
【００５８】
照射フィールドの３次テンソルスプライン表現は、ピクセルごとに１０個の係数を含む。ｊ番目のトレーニング照射フィールドについて、Ｍ個のピクセルの全てにおいて１０個全ての係数を連結して、長さ１０Ｍの単一のベクトルＬｊにする。ＰＣＡを適用することによって、照射モデルの正規直交基底ｌｉ［ハット］がもたらされ、任意の照射フィールドを、なお、ｌｉ［ハット］は、ｌｉの上に＾（ハット）があることを表現している。
【００５９】
【数４】
0005554260.tif 000005
【００６０】
として近似することができる。ここで、この線形モデルにおいて、スカラーαｉはｉ番目の照射基底ベクトルの係数であり、Ｌ［アッパーライン］はトレーニング照射フィールドの平均である。なお、Ｌ［アッパーライン］は、Ｌの上にラインがあることを表現している。
【００６１】
テクスチャーモデル
好ましい実施の形態では、物体のテクスチャーを、物体の正面から照明された画像であると定義する。本発明者らのモデルを任意の画像に適合させるために、物体のテクスチャーが大きな集団にわたってどのように変動し得るかをモデル化する。これを行うために、全て正面照射の下で取得されたトレーニングテクスチャーのセットにＰＣＡを適用する。これらは最初にピクセルごとに対応される。
【００６２】
次に、任意のテクスチャー画像Ｔを、ＰＣＡを使用して得られた基底テクスチャーｔｊ［ハット］の線形結合と、平均トレーニングテクスチャーＴ［アッパーライン］とを加えたものとして近似することができる。
【００６３】
【数５】
0005554260.tif 000006
【００６４】
ここで、βｊはｊ番目のテクスチャー基底ベクトルの係数であり、Ｔ［アッパーライン］はトレーニングテクスチャーの平均である。
【００６５】
最小の固有値を有するＰＣＡ成分を取り除くことによって、テクスチャー及び照射モデルにおける項の数を、計算要件及び品質要件に従って選択することができる。集合
【００６６】
【数６】
0005554260.tif 000007
【００６７】
は本発明者らのモーフィング可能な反射フィールドモデル３００である。
【００６８】
図３は、モデル３００を構築するためのプロセスの擬似コードを要約している。
【００６９】
ピクセルごとの対応
好ましい実施の形態では、本発明者らのモーフィング可能な反射フィールドモデルの照射フィールド及びテクスチャーの全てがピクセルごとの対応している。これによって、照射フィールド及びテクスチャーの線形結合が、より現実的な照射フィールド及びテクスチャーをもたらすことが可能になる。本発明者らの方法はまた、ピクセルごとの対応と対照的に概算のアラインメントのみで使用することができるが、合成画像の品質は劣化する。ピクセルごとの対応を達成するために、２Ｄのモーフィング可能なモデル（２ＤＭＭ）を使用する。２ＤＭＭは、基準画像、物体の２Ｄ形状がどのように変動し得るかを表すワープフィールドのセット、及び物体の形状自在の外観がどのように変動し得るかを表すテクスチャー画像のセットを含む。
【００７０】
２ＤＭＭは、テクスチャーの最適な線形結合を見つける非線形最適化を使用して入力画像に適合され、それによって、入力画像は、形状の最適な線形結合によってワープされると、最小Ｌ２誤りで再構築される。形状の最適な線形結合の結果生じるワープフィールドＷ＝（Ｗｘ，Ｗｙ）によって、２ＤＭＭの基準画像と入力画像との間のピクセルごとの対応が与えられる。Ｗｘ（ｘ，ｙ）は基準画像内のピクセルをとり、入力画像内の対応するｘ位置を出力する。Ｗｙ（ｘ，ｙ）は入力画像内の対応するｙ位置を出力する。
【００７１】
２ＤＭＭを入力画像に適合させる前に、物体検出器及び特徴検出器を実行して少なくとも２つの特徴点を見つけることによって画像がクロッピング及び修正される。次に、これらの特徴点を使用して、物体を標準のスケール、回転、及び位置にアラインする類似度変換を求める。全ての照射フィールド及びテクスチャーはこのようにしてクロッピング及び修正され、その結果、初期の粗いアラインメントが行われる。
【００７２】
２ＤＭＭは、２ＤＭＭ基準画像と、トレーニング反射フィールドを計算するのに使用されるトレーニング画像のそれぞれとの間のピクセルごとの対応を見つけるのにも使用された。このため、トレーニング画像の全てが対応されたため、照射フィールド固有ベクトルは、全て対応している。同様にまた、トレーニングテクスチャー画像の全てが２ＤＭＭ基準画像とのピクセルごとの対応にワープされ、全てが対応しているテクスチャー固有ベクトルがもたらされた。
【００７３】
モデル適合
未知の照射条件下（好ましい実施の形態では、各未知の照射条件は未知の方向の点光源である）での物体クラスからの物体のＫ個の画像Ｉｋを所与とすると（１≦ｋ≦Ｋ）、ここでの問題は、本発明者らの照射フィールドモデルを入力画像（複数可）に適合させることである。未知のものには、入力画像をモデルにアラインする非剛性変形Ｗ、Ｋ個の画像のそれぞれにおける照射方向、テクスチャーモデル係数、及び照射フィールドモデル係数が含まれる。
【００７４】
これらの未知のパラメーターを、以下の目的関数を最小化することによって回復する。
【００７５】
【数７】
0005554260.tif 000008
【００７６】
ここで、Ｗｘ及びＷｙは、基準画像から入力画像への対応を与える非剛性変形のｘ成分及びｙ成分であり、（θｋ，φｋ）はｋ番目の入力画像の照射方向であり、αｉは照射係数であり、βｊはテクスチャー係数である。関数Ｄは、（ｘ，ｙ）における推定照射関数の１０個のテンソル係数、（ｘ，ｙ）における推定スカラーテクスチャー値、及び照射方向（θｋ，φｋ）をとり、テンソルスプライン基底を使用して各ピクセルにおける明度を求める。
【００７７】
【数８】
0005554260.tif 000009
【００７８】
ここで、Ｓは１０個のテンソルスプライン基底関数のベクトルであり、以下のように定義される。
【００７９】
【数９】
0005554260.tif 000010
【００８０】
ここで、（ν１，ν２，ν３）は照射方向のデカルト座標である。
【００８１】
上記で定義した目的関数に加えて、以下のチーホノフ正則化を式（５）にさらに加えることによって照射モデルの探索空間を制約する。
【００８２】
【数１０】
0005554260.tif 000011
【００８３】
ここで、λは正則化パラメーターである。リッジ回帰としても知られるチーホノフ正則化は、不良設定問題（ill-posed problem）の正則化の一般的に使用される方法である。この制約は、推定照射フィールドが、トレーニング照射フィールドから導出されるモデルから過度に逸れないようにし、制約の結果としてアーチファクトのない再照明された合成画像が生じる。
【００８４】
未知のものを回復するためのプロセスは４つのステップで実行される。
【００８５】
第１のステップにおいて、入力画像が照射モデルとアラインされる。好ましい実施の形態では、各物体の少なくとも１つの入力画像が（２ＤＭＭの良好な性能を保証するために）実質的に正面から照明されると想定する。各物体の１つの入力画像しか必要とされない。しかしながら、物体の２つ以上の入力画像が提供される場合、画像間のピクセルごとのアラインメントを想定する。上述した自動物体検出器及び２ＤＭＭを使用して、実質的な正面照射を有する入力画像から非剛性変形パラメーターを求める。このステップの出力は、変形パラメーターＷｘ及びＷｙであり、これらを使用して、入力画像（複数可）を、本発明者らのモーフィング可能な反射フィールドモデルの固有照射フィールド及び固有テクスチャーとのピクセルごとの対応にワープする。
【００８６】
第２のステップにおいて、非線形最適化手順を使用して、
【００８７】
【数１１】
0005554260.tif 000012
【００８８】
を最小化することによって、残りの未知のものを求める。
【００８９】
未知のものが回復された後、入力画像の反射フィールドの推定値を得るが、該推定値は基準画像とピクセルごとにアラインされるようにさらにワープされる。
【００９０】
本発明者らのモデル適合プロセスの第３のステップにおいて、反射フィールドを入力画像とピクセルごとに対応させるために以前に求められた変形パラメーターを使用して、推定反射フィールドをワープする。プロセス全体が２つの登録ステップ（ワープ）を含むため、結果としての反射フィールドは粒子が粗く見える画像を提供する。
【００９１】
これらの補間アーチファクトを除去するために、適合プロセスに、商マッピングと呼ばれる最終ステップを組み込んでいる。実質的に正面から照明された入力画像と同じ照射方向を使用して、推定反射フィールドから合成画像を生成する。この画像の照射方向は、上述した最適化手順の一部として求められた。次に、ほぼ正面から照明された画像を、該画像の合成推定値で除算することによって、商マップを求める。商マップを使用して、推定反射フィールド全体をスケーリングする。これは、反射フィールドのワープ中に補間及び補外によってもたらされるアーチファクトを抑圧する。
【００９２】
上述したモデルを適合させるためのプロセスの擬似コードが図４に要約されている。
【００９３】
本発明を好ましい実施の形態の例として説明してきたが、本発明の精神及び範囲内で様々な他の適合及び変更を行うことができることを理解されたい。したがって、添付の特許請求の範囲の目的は、本発明の真の精神及び範囲に入る全ての変形形態及び変更形態を包含することである。
【図１】
0005554260.tif 000013
【図２Ａ】
0005554260.tif 000014
【図２Ｂ】
0005554260.tif 000015
【図２Ｃ】
0005554260.tif 000016
【図３】
0005554260.tif 000017
【図４】
0005554260.tif 000018