(57)【要約】【課題】物体の変形に応じた繊細なテクスチャを生成できるようにする。【解決手段】予め複数の異なる形状に変形した状態で物体を計測しておき、更に計測した物体をパッチに分割して、データベースに登録する。データベースに登録されたパッチの距離情報を利用し、物体の形状と最も誤差が小さくなるパッチを選択することにより、その時々の物体形状に最も則したテクスチャを推定する。このとき、パッチに分割した形状同士で誤差計算を行い、最も形状誤差が少ないパッチを選択する。【選択図】図１
2017122993.tif 000002
【特許請求の範囲】
【請求項１】
複数の変形に対応する、物体の形状情報及び輝度情報に係るマップを複数の領域に分割したパッチを、領域ごとに関連付けて記憶する記憶手段と、
前記複数の変形とは異なる変形に対応する前記物体の形状情報を取得する取得手段と、
前記取得手段によって取得された前記物体の形状情報に係るマップを前記複数の領域に分割したパッチを生成するパッチ生成手段と、
前記パッチ生成手段によって生成されたパッチと前記記憶手段に記憶された前記物体の形状情報に係るマップを分割したパッチとの誤差を領域ごとに算出する誤差算出手段と、
前記誤差算出手段によって算出された誤差に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択する選択手段と、
前記選択手段によって選択されたパッチに対応する前記物体の輝度情報に係るマップを分割したパッチを領域ごとに貼り合わせて、前記取得手段によって取得された前記物体の形状情報に対応するテクスチャを生成するテクスチャ生成手段と、
を有することを特徴とする画像処理装置。
【請求項２】
前記取得手段は、前記記憶手段に記憶されたパッチに係る前記物体の形状のさらなる変形に対応した形状情報を取得することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記取得手段は、さらに前記複数の変形とは異なる変形に対応する前記物体の輝度情報を取得し、
前記パッチ生成手段は、さらに前記取得手段によって取得された前記物体の輝度情報に係るマップを前記複数の領域に分割したパッチを生成し、
前記誤差算出手段は、前記物体の形状情報及び輝度情報に対し、それぞれパッチの誤差を領域ごとに算出し、
前記選択手段は、前記誤差算出手段によって算出された前記物体の形状情報及び輝度情報に係るパッチの誤差に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択することを特徴とする請求項１に記載の画像処理装置。
【請求項４】
前記選択手段は、さらに前記物体の特定領域における形状の変化が前記特定領域の周辺領域に及ぼす影響度に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択することを特徴とする請求項１に記載の画像処理装置。
【請求項５】
前記選択手段は、さらに物体の特定領域における形状及び輝度の変化が前記特定領域の周辺領域に及ぼす影響度に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択することを特徴とする請求項１に記載の画像処理装置。
【請求項６】
前記物体が、顔、人体、動物または植物であることを特徴とする請求項１〜５の何れか１項に記載の画像処理装置。
【請求項７】
複数の変形に対応する、物体の形状情報及び輝度情報に係るマップを複数の領域に分割したパッチを、領域ごとに関連付けて記憶する記憶手段を有する画像処理装置の画像処理方法であって、
前記複数の変形とは異なる変形に対応する前記物体の形状情報を取得する取得工程と、
前記取得工程において取得された前記物体の形状情報に係るマップを前記複数の領域に分割したパッチを生成するパッチ生成工程と、
前記パッチ生成工程において生成されたパッチと前記記憶手段に記憶された前記物体の形状情報に係るマップを分割したパッチとの誤差を領域ごとに算出する誤差算出工程と、
前記誤差算出工程において算出された誤差に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択する選択工程と、
前記選択工程において選択されたパッチに対応する前記物体の輝度情報に係るマップを分割したパッチを領域ごとに貼り合わせて、前記取得工程において取得された前記物体の形状情報に対応するテクスチャを生成するテクスチャ生成工程と、
を有することを特徴とする画像処理方法。
【請求項８】
複数の変形に対応する、物体の形状情報及び輝度情報に係るマップを複数の領域に分割したパッチを、領域ごとに関連付けて記憶する記憶手段を有する画像処理装置を制御するためのプログラムであって、
前記複数の変形とは異なる変形に対応する前記物体の形状情報を取得する取得工程と、
前記取得工程において取得された前記物体の形状情報に係るマップを前記複数の領域に分割したパッチを生成するパッチ生成工程と、
前記パッチ生成工程において生成されたパッチと前記記憶手段に記憶された前記物体の形状情報に係るマップを分割したパッチとの誤差を領域ごとに算出する誤差算出工程と、
前記誤差算出工程において算出された誤差に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択する選択工程と、
前記選択工程において選択されたパッチに対応する前記物体の輝度情報に係るマップを分割したパッチを領域ごとに貼り合わせて、前記取得工程において取得された前記物体の形状情報に対応するテクスチャを生成するテクスチャ生成工程と、
をコンピュータに実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、特に、データベース等に蓄積された複数の異なる物体の形状から新たな形状のモデルを生成するために用いて好適な画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【０００２】
近年、映画制作の現場やエンターテイメント分野において、仮想キャラクターにアクターの表情を転移させるパフォーマンスキャプチャと呼ばれる技術が盛んに研究開発されている。パフォーマンスキャプチャでは、予めアクターの異なる複数の表情を計測し、その表情がデータベースに予め登録される。そして、データベース上に再構築したアクターの顔モデルを利用し、後から所望の表情に変形させるという技術である（例えば、非特許文献１参照）。
【０００３】
非特許文献１に記載されているパフォーマンスキャプチャの手法では、まず、予めLightStageと呼ばれる特殊な照明装置を用いて、あらゆる照明環境下でのアクターの肌色情報を取得する。次に、３３個程度のアクターの表情を取得し、アクターの表情空間をデータベース上に顔モデルとして再構築する。顔モデルは、顔の形状を構成する３次元頂点と頂点とを結んでできるポリゴン情報、微細凹凸変化を示すディスプレイスメントマップ、並びにテクスチャとしての輝度情報等の情報を有している。そして、３３個の表情から任意の表情を選択し、表情の配合率をデザイナーが設定することにより中間表情を生成する。更に、前記顔モデルに顔の表情筋の配置に合わせて制御点を配置することにより、デザイナーは表情の微調整を行うことが可能である。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開平８−８８８５０号公報
【非特許文献】
【０００５】
【非特許文献１】"The Digital Emily Project: Achieving a Photoreal Digital Actor", Oleg Alexander, Mike Rogers, William Lambeth, Jen-Yuan Chiang, Wan-Chun Ma, Chuan-Chang Wang, Paul Debevec, IEEE Computer Graphics and Applications July/August 2010
【非特許文献２】"High Resolution Passive Facial Performance Capture", D. Bradley, W. Heidrich, T. Popa, A. Sheffer, ACM Transactions on Graphics (Proceedings of SIGGRAPH). 2010.
【非特許文献３】"Efficient Variants of the ICP Algorithm", Szymon Rusinkiewicz and Marc Levoy, Presented at the Third International Conference on 3D Digital Imaging and Modeling (3DIM 2001)
【非特許文献４】A Morphable Model For The Synthesis Of 3D Faces. Volker Blanz Thomas Vetter. SIGGRAPH'99. 2/14/2001
【非特許文献５】"A Facial Rigging Survey", Veronica Orvalho, Pedro Bastos, Frederic Parke, Bruno Oliveira, and Xenxo Alvarez, Eurographics 2012
【非特許文献６】"Active Appearance Models Revisited," Iain Matthews and Simon Baker, International Journal of Computer Vision, Vol. 60, No. 2, November, 2004, pp. 135 - 164.
【非特許文献７】"A fast 3D-AAM method using the estimated depth information", Myung-Ho Ju and Hang-Bong Kang, IEEE International Conference on Progress in Informatics and Computing (PIC), 2010 Volume 2 Page 941 - 945.
【非特許文献８】"Poisson Image Editing", Patrick Perez, Michel Gangnet, Andrew Blake, ACM Transactions on Graphics (SIGGRAPH'03), 22(3):313-318, 2003.
【非特許文献９】"Realtime Performance-based Facial Animation", Thibaut Weise, Sofien Bouaziz, Hao Li, Mark Pauly, ACM Transactions on Graphics, Proceedings of the 38th ACM SIGGRAPH Conference and Exhibition 2011, 08/2011 SIGGRAPH 2011
【非特許文献１０】"OpenGL Programming Guide: The Official Guide to Learning OpenGL, Versions 3.0 and 3.1", Dave The Khronos OpenGL ARB Working Group Shreiner, Addison-Wesley Professional, 7th edition, ISBN-10: 0321552628
【非特許文献１１】" Rapid Object Detection using a Boosted Cascade of Simple Features", Paul Viola and Michael J. Jones., IEEE CVPR, 2001.
【非特許文献１２】"詳解 OpenCV――コンピュータビジョンライブラリを使った画像処理・認識", Gary Bradski, Adrian Kaehler著, 松田 晃一 訳, 2009年08月発行, ISBN978-4-87311-413-2, 原書: Learning OpenCV, page204-207.
【非特許文献１３】"Visual information for categorizing facial expression of emotions", Applied Cognitive Psychology, 7, 257-270.
【非特許文献１４】P. Viola and M. Jones (2001). "Rapid Object Detection using a Boosted Cascade of Simple Features", IEEE Conference on Computer Vision and Pattern Recognition.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
上述の非特許文献１に記載の手法では、データベース上の顔モデルを利用して任意の表情に変形させ、LightStageで取得したあらゆる照明環境下での顔の輝度情報を利用して、任意の照明環境下での顔テクスチャを推定することが可能である。しかしながら、表情を変形した際には、デザイナーがデータベースに登録されている３３個の表情群から手作業で選択し、その時々の表情の形状に合うように顔テクスチャを手作業で変形する必要がある。
【０００７】
そこで、表情の変形に伴い、顔モデルに貼るテクスチャを生成する手法が提案されている（特許文献１参照）。この手法は、表情の変形の度合いをパラメータで表し、そのパラメータによって予め取得済みのテクスチャの混合比を変更し、新たな表情のテクスチャを生成する。しかし、特許文献１に記載の手法では、テクスチャを構成する画素の加算平均で画素値が算出されるため、テクスチャが有する肌の微細な凹凸変化や輝度変化がぼやけ、詳細情報が失われてしまうという課題がある。
【０００８】
本発明は前述の問題点に鑑み、物体の変形に応じた繊細なテクスチャを生成できるようにすることを目的としている。
【課題を解決するための手段】
【０００９】
本発明に係る画像処理装置は、複数の変形に対応する、物体の形状情報及び輝度情報に係るマップを複数の領域に分割したパッチを、領域ごとに関連付けて記憶する記憶手段と、前記複数の変形とは異なる変形に対応する前記物体の形状情報を取得する取得手段と、前記取得手段によって取得された前記物体の形状情報に係るマップを前記複数の領域に分割したパッチを生成するパッチ生成手段と、前記パッチ生成手段によって生成されたパッチと前記記憶手段に記憶された前記物体の形状情報に係るマップを分割したパッチとの誤差を領域ごとに算出する誤差算出手段と、前記誤差算出手段によって算出された誤差に基づいて、前記記憶手段から前記物体の形状情報に係るマップを分割したパッチを領域ごとに選択する選択手段と、前記選択手段によって選択されたパッチに対応する前記物体の輝度情報に係るマップを分割したパッチを領域ごとに貼り合わせて、前記取得手段によって取得された前記物体の形状情報に対応するテクスチャを生成するテクスチャ生成手段と、を有することを特徴とする。
【発明の効果】
【００１０】
本発明によれば、物体の変形に応じた繊細なテクスチャを生成することができる。
【図面の簡単な説明】
【００１１】
【図１】第１の実施形態に係るテクスチャ生成装置の機能構成例を示すブロック図である。
【図２】デプスマップをグリッド線でパッチに分割した一例を示す図である。
【図３】第１の実施形態においてデータベースに複数のキーシェイプに係るパッチを蓄積する処理手順の一例を示すフローチャートである。
【図４】第１の実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。
【図５】ＩＮデプスパッチとＤＢデプスパッチとを比較して、ＤＢテクスチャパッチを選択する処理を説明するための図である。
【図６】第２の実施形態に係るテクスチャ生成装置の機能構成例を示すブロック図である。
【図７】第２の実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。
【図８】第３の実施形態において、特定領域を含むデプスマップ及びテクスチャマップを模式的に説明するための図である。
【図９】第３の実施形態に係るテクスチャ生成装置の機能構成例を示すブロック図である。
【図１０】第３の実施形態において、影響度マップを生成する処理手順の一例を示すフローチャートである。
【図１１】特定領域のパッチと周辺領域のパッチとの間における変形量の相関を計算する方法を模式的に示す図である。
【図１２】第３の実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。
【図１３】第４の実施形態に係るテクスチャ生成装置の機能構成例を示すブロック図である。
【図１４】第４の実施形態において、影響度マップを生成する処理手順の一例を示すフローチャートである。
【図１５】第４の実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【００１２】
（第１の実施形態）
以下、本発明の第１の実施形態について、図面を参照して説明する。
本実施形態は、物体の形状が変形した場合に、その変形を加味してテクスチャデータを生成する。本実施形態の特徴は、形状が変形する物体を対象として、物体の３次元情報あるいはテクスチャ情報と、予めデータベースに登録された異なる複数の物体形状の部分情報とを比較し、新たなテクスチャを生成する点である。ここで、対象となる物体は、例えば、顔、人体、動物、植物などの変形可能な物体である。ここで、３次元情報とは、カメラからの距離情報（デプス情報）、形状を構成する３次元の頂点群・線群・ポリゴン情報のいずれかである。
【００１３】
一般的にコンピュータグラフィックスにおけるテクスチャは、３次元物体の表面に貼り付けられる模様を指すが、本実施形態におけるテクスチャは、物体情報の計測時にカメラから得られる透視投影の２次元画像を指す。市販の３次元計測装置を用いて物体の形状を計測した場合、形状の計測と同時にカメラから得られる透視投影画像をそのままテクスチャとしてマッピングすることもあるため、本実施形態においても透視投影画像をテクスチャと呼んでいる。
【００１４】
本実施形態では、予め複数の異なる形状に変形した状態で物体を計測しておき、更に計測した物体を部分小領域（以下、パッチと呼ぶ）に分割して、データベースに登録する。ここでパッチとは、２次元画像（距離画像なども含む）をグリッド（格子形状）もしくは任意の領域分割曲線などで区切った部分小領域のことを指す。
【００１５】
そして、データベースに登録されたパッチの距離情報を利用し、物体の形状と最も誤差が小さくなるパッチを選択することにより、その時々の物体形状に最も則したテクスチャを推定する。これにより、物体の幾何形状が変化した場合においても、その変化に応じたテクスチャを選択して生成することが可能になる。
【００１６】
本実施形態では、このようにパッチに分割した形状同士で誤差計算を行い、最も形状誤差が少ないパッチを選択する。これは、所望の表情に対して、表情毎に顔全体で形状誤差を求めてパッチを選択するよりも、部分領域毎に誤差最小となるパッチを選び出す方が、所望の表情に対して誤差を小さくすることができるためである。
【００１７】
以下、本実施形態の詳細を説明するために、対象物体を顔とし、その変形を顔に表出する表情として説明する。一般的に人は、その時々の感情や生理現象を、意図的、もしくは無意識に顔の形状や色を変化させ、表情という形で表出している。例えば"笑み"は、無表情を基準とした顔の形状の状態から、目尻が下がり、口角が上がるという形状に変形することで観測することができる。本実施形態に係るテクスチャ生成装置は、この笑みの形状変化が生じた際に、形状変形によって生じる輝度情報の変化や目尻のシワといった微細な凹凸の変化を予めデータベースに登録されたテクスチャ情報を利用することによって再現する。
【００１８】
図１は、本実施形態に係るテクスチャ生成装置１０の機能構成例を示すブロック図である。
図１において、テクスチャ生成装置１０は、データベース構築部１００と、テクスチャ生成部１１０とを備えている。
【００１９】
（データベース構築部１００）
物体情報計測部１０１は、テクスチャ生成部１１０においてテクスチャを生成するための顔を構成するモデル情報を計測する。ここで、モデル情報とは、顔の３次元情報（形状情報）及び輝度情報（テクスチャ）である。具体的に、顔の３次元情報とは、顔の位置、姿勢、スケール、顔を構成する３次元頂点群、線群、ポリゴン、距離情報、２次元画像上での座標等の情報であり、輝度情報はＲＧＢのカラー画像などの情報である。また、本実施形態に係るテクスチャは、物体のモデル情報の計測時にカメラから得られる透視投影の２次元画像を指している。
【００２０】
ここで、本実施形態では、モデル情報を、例えば市販の３次元計測装置を利用して計測してもよく、非特許文献２に記載された手法を利用して計測してもよい。非特許文献２に記載されている３次元の顔形状を計測する手法は、予め既存手法でキャリブレーションを行った複数のカメラで顔を撮影し、３次元再構成の際に顔の物理的な拘束条件を活用することによって精度良く３次元計測を行うことができる。なお、テクスチャ生成部１１０においてテクスチャを生成するためには、複数の異なる表情の情報を予め取得しておく必要があり、物体情報計測部１０１は、複数の表情バリエーションのモデル情報を計測する。
【００２１】
本実施形態に係る顔のモデル情報として、顔を構成する３次元頂点群の情報と共に、それらの形状にテクスチャをマッピングするためのＵＶ座標の情報も同時に保存される。一般的なＣＧ技術において顔のテクスチャは、ＵＶ展開された状態でテクスチャマップとして保存されている。一方、本実施形態の場合は、テクスチャのＵＶ展開にかかる手間を簡略化するために、カメラで撮影した透視投影画像をＵＶ展開せずにそのまま利用することを想定している。なお、カメラから得られる顔のテクスチャは、透視投影画像から一度ＵＶ座標に展開するなどしてもよく、構築するシステムによって好適な手段を選択してもよい。
【００２２】
物体情報補正部１０２は、物体情報計測部１０１で計測した複数の異なる表情のモデル情報における顔の位置、姿勢、スケール及び照明条件の正規化を行う。理想的には物体情報計測部１０１で様々な表情を計測する際に、頭部の位置、姿勢及び照明条件を固定して計測することが望ましい。しかし、現実には頭部を固定した状態で表情を変化させるのは困難であり、自然な表情を計測することができなくなってしまう。また、長期間に亘ってデータベースの構築を行う場合は、照明条件を常に一定に保つのも困難となる。
【００２３】
そのため、まず、頭部を固定せずに物体情報を計測することを前提に、物体情報補正部１０２で顔の位置、姿勢及びスケールの補正を行う。物体情報計測部１０１で計測した顔のモデル情報は、両目頭、両目尻、鼻の先端など表情による変動に対して普遍な点をランドマーク（特徴点）とし、顔の位置、姿勢及びスケールが補正される。ランドマーク（特徴点）を利用した物体の位置合わせは、非特許文献３に記載の手法により、一般的にＩＣＰ（Iterative Closest Point）のアルゴリズムを利用して実現することができる。
【００２４】
次に、物体情報補正部１０２は、照明条件の補正として顔の輝度情報を補正する。顔の計測環境に変化が生じた場合には、計測前にカラーチャートなどを用いて照明環境の変化をパラメータ（ＲＧＢのチェンネル毎のレベル補正値など）を取得しておき、輝度情報を補正する必要がある。ただし、顔の計測環境に変化が無ければ補正する必要は無い。本実施形態に係るテクスチャ生成装置１０は、被計測者の計測前後もしくは計測時に、予め取得しておいたパラメータを利用して画像の輝度補正を行う。
【００２５】
デプスパッチ登録部１０３は、物体情報補正部１０２で補正したモデル情報の３次元情報から、例えばカメラから顔までの距離情報を２次元画像に投影した情報（以下、デプスマップ）を計算し、パッチに分割した後、データベース１０５に登録する。ここで、デプスマップを利用したパッチの分割方法及びパッチの比較方法について説明する。なお、パッチに分割する際に、距離情報以外にも３次元の頂点群情報、線群情報、ポリゴン情報などを利用してもよい。
【００２６】
図２は、デプスパッチ登録部１０３において、デプスマップ２０１をグリッド線２０２でパッチに分割した一例を示す図である。ここで、通常の２次元画像には１画素毎に色及び濃淡の値が格納されているのに対し、デプスマップは、１画素単位でカメラなどの撮影装置から対象物までの距離の値を格納した画像のことである。デプスマップは、画素毎に距離の値を白黒の濃淡値として格納することにより、図２に示すようにカメラから顔までの距離を可視化することができる。なお、図２に示すデプスマップ２０１は、カメラから３０ｃｍ〜８０ｃｍまでの距離を１６ｂｉｔの濃淡値で表したデプスマップである。以下、デプスマップをＤＢデプスパッチと呼ぶ。
【００２７】
また、パッチに分割する際のグリッドの間隔は、図２のグリッド線２０２に示すように予め設定した固定値で等間隔に区切ってもよく、例えば顔を対象とする場合は、被撮影者の両目もしくは口角の間隔を基準にグリッドの間隔を設定してもよい。パッチの分割方法は、対象とする物体または構築するシステムによって好適な手段を選択すればよい。以下、データベース１０５に登録されたＤＢデプスマップのパッチをＤＢデプスパッチと呼ぶ。
【００２８】
テクスチャパッチ登録部１０４は、物体情報補正部１０２により補正されたモデル情報における顔の輝度情報に基づくテクスチャマップを、デプスパッチ登録部１０３で設定したグリッドの間隔で分割する。そして、デプスマップのパッチに対応するテクスチャパッチを生成する。そして、データベース１０５に登録する。以下、データベース１０５に登録されたテクスチャパッチをＤＢテクスチャパッチと呼ぶ。
【００２９】
なお、ＤＢデプスパッチ及びＤＢテクスチャパッチは、それぞれが存在していた２次元マップ上での位置のラベル（ＩＤ）が付けられ、同じ位置のラベルが付けられたパッチ毎にデータベース１０５に登録される。更に、データベース１０５では、同一個人の異なる複数の表情（キーシェイプ）を表情毎に関連付けて分類管理されるようにするため、表情の参照番号（reference number）も同時に付与される。
【００３０】
ここで、キーシェイプは、データベース１０５に登録される異なる複数の顔形状（表情）および輝度情報である。本実施形態では、表情の変形を行う際にデータベース１０５に登録済みのキーシェイプを利用し、複数のキーシェイプを混合することにより所望の形状（表情）に変化させる。なお、この処理の詳細については後述する。
【００３１】
デプスマップの解像度よりも高解像度な画像が物体情報計測部１０１で計測される場合は、パッチに分割するグリッドのアスペクト比を固定したまま、テクスチャマップの解像度に合わせて、テクスチャマップをパッチに分割する。このようにして、データベース１０５には、ＤＢデプスマップよりも高解像度なテクスチャをパッチに分割して蓄積しておくことが可能である。
【００３２】
以上のように、データベース１０５には、同一個人の複数の異なる表情（キーシェイプ）における顔の３次元情報および輝度情報がパッチに分割された状態で、それぞれのパッチ位置のラベルとキーシェイプ毎の参照番号が付与され、登録されている。このようにして、データベース構築部１００では、個々人の様々な表情が正規化され、グリッドで分割されたパッチは、位置のラベルおよび表情の参照番号でカテゴリに分類された状態で保管されている。すなわち、データベース１０５に登録されたパッチは、２次元画像上での位置と、表情の参照番号とから読み出すことが可能である。
【００３３】
次に、テクスチャ生成部１１０の詳細を説明する。
表情生成部１１１は、例えば不図示の操作部からの指示に基づいて、データベース１０５に登録されている異なる複数の表情（キーシェイプ）を組み合わせて、新たに表情を生成する。具体的には、例えば非特許文献４に記載のBlend Shape法により、新たな表情を構成する頂点群の３次元座標を計算する。一般的にBlend Shape法と呼ばれる手法は、正規化された異なる複数の表情（特に、各表情の顔のモデル情報をキーシェイプと呼ぶ）の対応する全ての頂点に対して、重み付き線形和を計算することにより、表情を合成する手法である。正規化は、基準の顔の位置、姿勢及びスケールに各表情の顔を合わせる処理のことを指す。また、重みは、ユーザーが設定した各表情の形状を示すキーシェイプの混合率である。例えば、泣きのキーシェイプを５０％、笑いのキーシェイプ５０％に設定し、各頂点の座標値を重み付き線形和で計算すると、泣き笑いのような表情を作り出すことが可能である。
【００３４】
また、表情生成部１１１における表情の生成方法は、Blend Shape法以外にも、表情筋に相当するリグと呼ばれるマニピュレータを顔に設定し、それらのマニピュレータを制御することで表情を作り出すことも可能である（非特許文献５参照）。
【００３５】
入力データ処理部１１２は、新たにテクスチャを生成する対象となる顔のモデル情報を入力データとして入力する。本実施形態に係る入力データ処理部１１２で処理するデータの一例は、予めデータベース１０５に登録されている顔に変形を加えて作り出した新たな表情の距離情報である。
【００３６】
データベース１０５に登録されている顔に変形を加えて新たな表情を作り出す例としては、非特許文献１に記載の手法が挙げられる。非特許文献１に記載の表情生成システムでは、予め計測した同一人物の異なる３３個の表情を混合することにより、所望の表情へ大まかな変形を顔全体に対して行うことができる。ただし、表情を混合する手法では、一般的に局所領域に対して細かな変形を加えることができない。顔の局所領域を変形させる場合は、デザイナーが表情筋に相当する箇所に、一般的にリグと呼ばれるマニピュレータを顔に設定し、そのマニピュレータを手作業で操作することにより局所領域を変形する。なお、非特許文献１のシステムでは、予め撮影しておいた被撮影者の複数の異なる顔テクスチャを基にデザイナーが手作業で修正することにより、表情の変形に応じたテクスチャを用意している。
【００３７】
入力データ処理部１１２は、入力データとして得られる顔のモデル情報が、データベース１０５に登録されているモデル情報と比較及び照合ができるように、顔の位置、姿勢及びスケールを補正し、デプスマップを生成する。ただし、本実施形態に係る入力データは、物体情報補正部１０２によってデータベース１０５に登録される前に、位置、姿勢及びスケールが補正されている。そのため、データベース１０５に登録されているモデル情報から新たに表情を作り出す場合は、位置、姿勢及びスケールを改めて補正する必要はない。補正が必要な場合は、例えば入力データとして、市販の距離情報計測センサーで生成されたデータを利用する場合などである。
【００３８】
市販の距離情報計測センサーを利用する場合、仮に同一個人が計測対象であることがわかっている場合には、一旦、対象となる個人の３次元顔モデル（顔を構成する頂点群）を入力データの距離情報に当てはめ、位置、姿勢及びスケールの補正を行う。この場合も非特許文献３に記載のＩＣＰアルゴリズムを利用することにより補正パラメータを計算することができる。
【００３９】
また、距離情報計測センサーが輝度情報も同時に取得可能な場合は、ＩＣＰアルゴリズム以外に他の方法を用いてもよい。例えば、非特許文献６に記載のActive Appearance Modelや、非特許文献７に記載の距離情報とＡＡＭとの併用といった手法で抽出した顔の特徴点から、入力データの補正パラメータを算出してもよい。そして、入力データ処理部１１２では、入力データの補正が完了した顔のデプスマップを生成する。なお、本実施形態では、形状情報として距離情報のみを利用してテクスチャを生成するため、入力データは顔までの距離情報だけでもよい。以下、入力データ処理部１１２で計算したデプスマップを、ＤＢデプスマップと区別するためにＩＮデプスマップと呼ぶ。
【００４０】
パッチ生成部１１３は、入力データ処理部１１２によって処理された入力データからＩＮデプスマップのパッチを生成する。パッチに分割するためのグリッドの幅は、デプスパッチ登録部１０３で設定した幅と同様とする。更に、デプスパッチ登録部１０３でラベル付けした位置と同じ位置に同様のラベルを付け、データベース１０５に格納されている比較対象となるパッチのラベルを確定する。以降、入力データから得られるＩＮデプスマップのパッチをＩＮデプスパッチと呼ぶ。
【００４１】
デプス誤差算出部１１４は、パッチ生成部１１３で設定した入力データの各位置のラベル毎にデータベース１０５からＤＢデプスパッチを参照し、デプスパッチを比較して誤差計算を行う。
【００４２】
誤差計算は、同じ位置のラベル（ＩＤ）が付いたパッチ毎に、データベース１０５に登録されている表情の参照番号（ref）で、データベース１０５よりＤＢデプスパッチの情報を参照し、個々に計算する。具体的な計算方法を以下の式（１）に示す。式（１）の誤差DerrrefIDは、パッチの位置のラベル（ＩＤ）における参照番号（ref）のＤＢデプスパッチと、ＩＮデプスパッチとを比較した誤差を示している。パッチ内の各画素（ｉ，ｊ）に対して、デプス値（距離値）の差の絶対値を計算し、それを全画素に対して集計することにより、デプス値の誤差計算を行う。この作業をデータベース１０５に登録されている全てのキーシェイプに対して行う。
【００４３】
【数１】
2017122993.tif 000003
【００４４】
パッチ選択部１１５は、デプス誤差算出部１１４においてラベル毎に全キーシェイプのDerrrefID、を比較し、デプス値の誤差が最も小さくなる表情のＤＢデプスパッチを選択する。ここで、本実施形態では、表情生成部１１１でキーシェイプとしては登録されていない中間的な表情を生成し、その形状に合うテクスチャを生成することが可能である。その場合も基本的には新たに生成される中間的な表情のデプスパッチと、ＤＢデプスパッチとを比較し、誤差が最も小さくなるＤＢデプスパッチをデータベース１０５から選択する。ただし、表情生成部１１１は、データベース１０５に登録されているキーシェイプを利用して表情を生成するため、表情の生成に利用したキーシェイプ群から優先的にパッチを選択するなどしてもよい。
【００４５】
テクスチャパッチ合成部１１６は、パッチ選択部１１５により選択されたＤＢデプスパッチと対になるＤＢテクスチャパッチをデータベース１０５から参照し、繋ぎ合わせる処理を行う。ただし、異なる表情に由来するＤＢテクスチャパッチを単に並べて繋ぎ合わせた場合、繋ぎ目が不連続になるという問題が生じる。そこで、非特許文献８に記載の画像の繋ぎ合せ手法を利用することにより、繋ぎ目に生じる不自然さを緩和する。
【００４６】
以上のように、本実施形態に係るテクスチャ生成装置１０は、データベース１０５に格納されている異なる複数の表情（キーシェイプ）において、入力データとのデプス値の誤差が最小となるパッチを選択して表情の変動に応じたテクスチャを生成する。
【００４７】
図３は、本実施形態においてデータベースに複数のキーシェイプに係るパッチを蓄積する処理手順の一例を示すフローチャートである。
まず、ステップＳ３０１において、物体情報計測部１０１は、ある表情の顔の３次元情報および輝度情報を計測する。
【００４８】
本実施形態に係るテクスチャ生成装置１０では、データベース１０５に登録されている異なる複数の表情（キーシェイプ）の形状を利用して、所望の表情に変形し、その形状に応じた表情のテクスチャを再構成するため、予め個人毎に複数の表情を登録する。登録する表情は、予め再構成したい表情が決まっている場合には、その表情を再構成するのに十分な数の表情のモデル情報を計測しておけばよい。一方、再構成したい表情が決まっていない場合は、できるだけ多くの表情のモデル情報を計測しておく。また、予め全てのキーシェイプの形状に対して主成分分析を行い、表情による変動の主成分パラメータを抽出しておいてもよい。
【００４９】
次に、ステップＳ３０２において、物体情報補正部１０２は、物体情報計測部１０１で計測したモデル情報における顔の位置、姿勢、スケール及び輝度情報を補正する。まず、ステップＳ３０１で計測した顔の形状から、両目の目頭、目尻、鼻の先端など表情の変化によって変動し難い箇所をランドマークとして検出する。これらのランドマークは、表情変動による皮膚の伸び縮みで多少の位置ずれが生じるものの、頭蓋骨の両目の位置が変動で、鼻の先端には筋肉が存在しないため、それらの周辺部位に比べれば表情による変動が少ない箇所である。
【００５０】
そして、基準顔（ここでは無表情の顔）のランドマークの位置に合わせるように、前述のＩＣＰアルゴリズムを用い、ステップＳ３０１で計測した顔の位置、姿勢及びスケールを補正する。なお、モデル情報の位置、姿勢及びスケールの補正は、非特許文献９に記載されているような顔の鼻から上半分の領域を剛体と仮定してＩＣＰアルゴリズムで位置合わせを行う手法を利用して補正してもよい。
【００５１】
また、ステップＳ３０２においては、顔の輝度情報の補正が必要な場合は、輝度情報に関しても補正を行う。本実施形態に係るテクスチャ生成装置１０は、顔のモデル情報の計測前後または計測時にカラーチャートなどを用いて計測時の照明条件を記録しておくようにしておき、計測時の照明条件の変化に応じて輝度情報を補正する。輝度情報の補正は、既存の画像処理の手法で一般的に使われるホワイトバランスやガンマ補正などを利用して行う。
【００５２】
次に、ステップＳ３０３において、物体情報補正部１０２は、顔のモデル情報が補正された際に、テクスチャを補正するか否かを判定する。ステップＳ３０２の補正により物体の位置およびスケールが変化した場合は、対応するテクスチャも位置およびスケールの補正が必要になる。この判定の結果、テクスチャを補正する場合はステップＳ３０４に進み、テクスチャを補正しない場合はステップＳ３０５に進む。
【００５３】
ステップＳ３０４においては、物体情報補正部１０２は、テクスチャの再レンダリング（描画処理）による補正を行う。具体的には、顔の姿勢以外の３次元情報（すなわち位置及びスケール）が変化した場合は、２次元画像上での被写体の位置補正もしくはスケール補正をアフィン変換などの画像処理を利用して行う。
【００５４】
更に、姿勢情報が変更されている場合は、テクスチャが大きく変化するため、補正済みのモデル情報を利用して、標準的なコンピュータグラフィックスの描画処理（レンダリング）でテクスチャを更新する。ここでの標準的なコンピュータグラフィックスの描画処理は、例えば非特許文献１０に記載のＣＧ技術に特化した汎用的なソフトウェアライブラリーを利用して描画処理を行う。非特許文献１０に記載のライブラリーによる描画処理は、ＣＧ技術の分野で広く一般的に利用されている手法である。
【００５５】
ステップＳ３０４では、まず、ステップＳ３０１で取得した輝度情報（２次元の透視投影画像）と補正済みの物体のモデル情報とから、特徴点を３点以上抽出する。特徴点は、例えば顔の右目及び左目の重心位置と口の重心位置との３点を計算によって求める。なお、両目および口の重心位置は、非特許文献１１に記載のHaar-like特徴を利用することによって計算することができる。また、両目や口の重心位置以外にも顔の目頭や目尻、口角といった自然特徴点を利用して、顔の特徴的な座標値を獲得してもよい。
【００５６】
このようにして抽出した３点以上の顔特徴点を利用し、補正前から補正後のアフィン変換行列を算出する。そして、算出した変換行列を利用して補正前のテクスチャをアフィン変換で変形してテクスチャマップを取得する。
【００５７】
次に、ステップＳ３０２でモデル情報における姿勢が補正された場合は、ステップＳ３０１で取得したテクスチャと比べて見た目が大きく変化する。そのため、物体情報計測部１０１で用いるカメラパラメータと顔との相対位置関係に基づき、ＣＧ技術を利用して再度顔を描画処理することによりテクスチャを補正する。
【００５８】
具体的には、まず、予め取得しておいた物体情報計測部１０１で使用するカメラパラメータをＣＧの仮想カメラのパラメータに設定する。更に、計測時の照明条件を光源環境として設定し、補正済みの顔を非特許文献１０に記載されている標準的なレンダリング処理により描画する。この処理を行うことにより、顔の姿勢変動によって生じる陰影の情報を更新することができる。
【００５９】
なお、本実施形態では、標準的なレンダリング処理によりテクスチャを補正したが、モデル情報の計測時に得られるテクスチャと同様の画質でテクスチャを再描画することが好ましい。したがって、構築するシステムによっては、レイトレーシングやパストレーシングといった高品質なＣＧ描画処理を採用し、より写実的なテクスチャを用意してもよい。
【００６０】
ここで、位置、姿勢及びスケールの全てのパラメータが補正されている場合は、前述のＣＧによる描画処理を利用してテクスチャを補正する。なお、位置及びスケールのみが補正された場合でも、前述のＣＧによる再描画処理によりテクスチャを補正してもよいが、画像処理を利用した方が計算速度も速く、画像の劣化も少ない。
【００６１】
したがって、本実施形態に係るテクスチャ生成装置１０では、補正されたパラメータの種類によってテクスチャの補正方法を変更する。このようにテクスチャの補正方法を、構築するシステムによって好適な手段で選択すればよい。
【００６２】
次に、ステップＳ３０５において、デプスパッチ登録部１０３は、ステップＳ３０２で補正されたモデル情報からＤＢデプスマップを生成し、パッチに分割する。なお、物体情報計測部１０１において外部の計測装置から直接的にデプスマップを取得することが可能な場合は、そのデプスマップをそのまま利用する。一方、物体情報計測部１０１で取得された３次元情報が、点群情報あるいはポリゴン情報だった場合は、非特許文献１０に記載の標準的なレンダリング処理を利用する。具体的には、顔の隠面消去等の処理を行った後に、仮想カメラから顔までの距離を算出することによりＤＢデプスマップを計算することができる。なお、物体情報計測部１０１で取得された３次元情報が点群情報である場合は、ポリゴンを貼る処理や形状を滑らかにするためのポリゴンの再分割処理などの処理を追加してもよい。
【００６３】
そして、デプスパッチ登録部１０３は、算出されたＤＢデプスマップをパッチに分割する。パッチ分割に用いるグリッドの幅は、予めユーザーが設定した固定幅としてもよく、基準顔（無表情顔）の目頭と目尻との間隔、もしくは両口角の間隔を利用して適応的に間隔を変更してもよい。
【００６４】
更に、ステップＳ３０５では、デプスパッチ登録部１０３は、分割したパッチの位置でラベル付けを行う。例えば、図２に示すように、左上のパッチから順に１から数字のラベルが付けられる。このラベル付け作業により、両目、鼻及び口のパッチの位置をラベルで符号化することができる。
【００６５】
次に、ステップＳ３０６において、テクスチャパッチ登録部１０４は、テクスチャマップをパッチに分割する。この処理では、ステップＳ３０５で設定したグリッド間隔、もしくはパッチの分割方法に従い、ＤＢデプスマップの各パッチと対応するようにテクスチャマップをパッチに分割する。
【００６６】
次に、ステップＳ３０７において、デプスパッチ登録部１０３及びテクスチャパッチ登録部１０４は、ステップＳ３０５およびＳ３０６でラベル付けされたデプスパッチおよびテクスチャパッチに更に表情のラベルを付ける。そして、データベース１０５に登録する。なお、表情のラベルは、パッチを表情毎に管理するためのラベルであり、任意の数字もしくは文字列を設定する。
【００６７】
次に、ステップＳ３０８において、デプスパッチ登録部１０３及びテクスチャパッチ登録部１０４は、データベース１０５に登録する予定の全ての表情（キーシェイプ）に関して、データが登録されたか否かを確認する。この確認の結果、データの登録が終了した場合は、データベースの構築作業を終了し、表情を追加する場合は、ステップＳ３０１に戻って、処理を繰り返す。
【００６８】
図４は、本実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。
まず、ユーザーからの指示等に基づいて、表情生成部１１１が新たな表情を生成すると、処理を開始する。そして、ステップＳ４０１において、入力データ処理部１１２は、表情生成部１１１によって生成された表情の３次元情報を入力する。このとき、物体情報計測部１０１で計測した新たな表情の３次元情報を入力データとして入力してもよい。
【００６９】
具体的には、まず、ユーザーの操作に応じて表情生成部１１１は、データベース１０５に登録されているキーシェイプの混合率を設定し、非特許文献４に記載されているBlend Shape法などを用いて新たな表情に変形する。そして、入力データ処理部１１２は、表情生成部１１１から新たな表情の顔を構成する頂点群の情報、ポリゴン情報などの３次元情報を入力する。
【００７０】
なお、本実施形態では、テクスチャを生成する対象となる顔の形状を計測するために、物体情報計測部１０１の計測装置を利用する例について説明した。しかし、構築するシステムによっては、物体情報計測部１０１で用いた計測装置とは違う計測装置を利用して、入力データ処理部１１２に出力してもよい。例えば、物体情報計測部１０１では、計測時間に時間がかかるが高精度に形状を計測できる装置を採用し、テクスチャ生成部１１０では、３次元形状の計測の精度は落ちるがリアルタイムで形状を計測できる装置を採用するなどしてもよい。
【００７１】
次に、ステップＳ４０２において、入力データ処理部１１２は、ステップＳ４０１で入力された入力データについて補正が必要か否かを判定する。ステップＳ４０１において、表情生成部１１１から入力データを入力した場合は、データベース１０５に登録されたモデル情報が全て補正されているため、位置、姿勢、スケール等の補正を行う必要はない。したがって、この場合は、ステップＳ４０４に進む。一方、物体情報計測部１０１で新たに計測した表情の３次元情報を入力データとして入力した場合は、新たに取得した３次元情報が前述のように補正されていない。そのため、この場合は３次元情報の補正が必要となるのでステップＳ４０３に進む。
【００７２】
ステップＳ４０３においては、入力データ処理部１１２は、物体情報補正部１０２の処理手順と同様に、顔のランドマーク（３次元座標）を利用して、ＩＣＰアルゴリズムにより位置、姿勢及びスケールを補正する。このとき、顔の上部（鼻よりも上側の頭部）を剛体として頭部の位置合わせを行う方法などにより物体の３次元情報を補正してもよい。
【００７３】
次に、ステップＳ４０４において、入力データ処理部１１２は、顔の３次元情報を利用し、ＩＮデプスマップを計算する。ＩＮデプスマップの計算方法は、前述のステップＳ３０５と同様の方法とする。
【００７４】
次に、ステップＳ４０５において、パッチ生成部１１３は、ステップＳ４０４で計算されたＩＮデプスマップを、デプスパッチ登録部１０３で設定されたパッチの分割方法と同一の方法で、ＩＮデプスパッチに分割する。
【００７５】
次に、ステップＳ４０６において、デプス誤差算出部１１４は、特定のラベルの位置において、ＩＮデプスパッチとデータベース１０５に登録されているあるキーシェイプのＤＢデプスパッチのデプス誤差を計算する。計算方法は、式（１）を用いてステップＳ３０７で設定した位置のラベル（ＩＤ）に属する表情（キーシェイプ）のＤＢデプスパッチを参照し、ＩＮデプスパッチとの誤差平均を計算する。
【００７６】
次に、ステップＳ４０７において、デプス誤差算出部１１４は、特定の位置のラベル（ＩＤ）に属する全キーシェイプのＤＢデプスパッチとＩＮデプスパッチとのデプス誤差の計算が終了したか否かを判定する。この判定の結果、ＩＮデプスマップ上の特定のラベルの位置において、全てのキーシェイプに対してデプス誤差の計算が終了していない場合はステップＳ４０６に戻り、終了していないキーシェイプのＤＢデプスパッチを参照してデプス誤差を計算する。一方、ＩＮデプスマップ上の特定のラベルの位置において、全てのキーシェイプに対してデプス誤差の計算が終了している場合はステップＳ４０８に進む。
【００７７】
次に、ステップＳ４０８において、パッチ選択部１１５は、デプス誤差が最小となるＤＢデプスパッチをデータベース１０５から選択する。ただし、構築するシステムによっては、デプス誤差が最小となるものを選択せず、隣接するパッチと最も形状の繋がりが滑らかなＤＢデプスパッチを選択するなど、異なる基準を採用してもよい。
【００７８】
次に、ステップＳ４０９において、パッチ選択部１１５は、ＩＮデプスマップの全てのパッチの位置において、パッチの選択が終了したか否かを判定する。全てのパッチの位置において、パッチの選択が終了していない場合は、次のパッチの位置でデプス誤差を計算するために、ステップＳ４０６に戻る。一方、全てのパッチの位置でパッチの選択が終了した場合は、ステップＳ４１０に進む。
【００７９】
次に、ステップＳ４１０において、テクスチャパッチ合成部１１６は、選択された全てのＤＢデプスパッチに対応するＤＢテクスチャパッチを合成し、テクスチャを生成する。ＤＢテクスチャパッチの合成では、非特許文献８に記載の手法などを利用して合成する。
【００８０】
図５は、本実施形態におけるＩＮデプスパッチとＤＢデプスパッチとを比較して、ＤＢテクスチャパッチを選択する処理を説明するための図である。
ＩＮデプスマップ５０１は、ＤＢデプスマップ５０２と同じ解像度でかつ同じグリッド幅で分割され、同じパッチの位置にラベルが付与されている。
【００８１】
本実施形態に係るテクスチャ生成装置１０は、パッチ位置ラベル毎に、最も３次元形状の誤差が小さいパッチを異なる複数の表情群のパッチから選び出す。ＤＢデプスマップ５０２は、パッチの位置を表すラベルの"８"に着目した場合に、最も形状誤差が小さくなる表情（キーシェイプ）のＤＢデプスマップである。そして、この時に選択されたキーシェイプに対応するテクスチャマップ５０３のラベル"８"に属するＤＢテクスチャパッチを、当該パッチの位置におけるＩＮデプスパッチのテクスチャとして利用する。この作業を全てのパッチの位置に対して行うことにより、個々のパッチの位置における形状誤差が最小となるＤＢテクスチャパッチを選択してテクスチャを生成することができる。
【００８２】
以上のように本実施形態によれば、データベース１０５に蓄積されたＤＢデプスパッチと、新たな表情に係るＩＮデプスパッチとを比較し、最も適合するテクスチャパッチを参照して新たな表情のテクスチャを生成することができる。
【００８３】
なお、本実施形態では、主に物体のカメラからの距離情報に基づき、最適なＤＢテクスチャパッチをデータベース１０５より選択した。しかし、構築するシステムによっては距離情報の代わりに、他の形状情報として、物体を構成する３次元頂点群またはポリゴン群の情報で、最適なＤＢテクスチャパッチを選択するようにしてもよい。
【００８４】
（第２の実施形態）
第１の実施形態では、物体の対象を顔に特定し、表情を生成した顔の３次元形状、あるいは物体情報計測装置によって計測した顔までの距離情報のみを利用し、所望の顔形状に最も適合するテクスチャを生成した。これに対して本実施形態では、距離情報に加え、テクスチャの情報を併用することにより、所望の表情に最も適合し、かつ高解像度なテクスチャを生成する例について説明する。なお、第１の実施形態で説明した内容と同じ構成および処理については説明を省略する。
【００８５】
図６は、本実施形態に係るテクスチャ生成装置６０の機能構成例を示すブロック図である。
本実施形態において、第１の実施形態と比べて、物体情報計測部６１１で新たに計測した３次元情報の解像度を、データベース１０５に登録されているＤＢデプスマップおよびテクスチャマップの解像度に合わせる点が異なる。また、ＤＢテクスチャパッチの誤差も併用してパッチを選択する点も異なっている。なお、図１と同じ構成については同一の符号が付されており、これらの構成については説明を省略する。
【００８６】
物体情報計測部６１１は、新たな顔を構成するモデル情報を計測し、その顔の３次元情報及びテクスチャを取得し、ＩＮデプスマップ及びテクスチャマップを取得する。なお、ＩＮデプスマップの生成方法は、デプスパッチ登録部１０３が行う方法と同様である。
【００８７】
物体情報計測部１０１が計測時間を要しても高精度に計測を行う装置であるのに対し、物体情報計測部６１１は、例えば精度は低下するものの実時間でモデル情報を計測できる装置である。つまり、物体情報計測部６１１で取得されるテクスチャマップは、データベース１０５に登録されているテクスチャマップよりも低解像度である。以下、物体情報計測部６１１で取得されるテクスチャマップをＩＮテクスチャマップと呼ぶ。
【００８８】
パッチ生成部６１２は、ＩＮデプスマップおよびＩＮテクスチャマップをデータベース１０５に登録されたＤＢデプスマップおよびＤＢテクスチャマップの解像度に合わせる。そして、デプスパッチ登録部１０３の処理で用いられたグリッドの間隔でそれぞれのマップをパッチに分割する。
【００８９】
パッチ誤差算出部６１４は、ＩＮデプスパッチおよびＩＮテクスチャパッチとＤＢデプスパッチおよびＤＢテクスチャパッチとの誤差をそれぞれ計算する。デプスパッチの誤差の算出方法は、第１の実施形態と同様である。一方、テクスチャパッチの誤差の算出方法としては、ＤＢテクスチャパッチの解像度をＩＮテクスチャパッチの解像度に合わせた状態で、一般的な画像処理で用いられるテクスチャの比較方法を用いる（非特許文献１２参照）。非特許文献１２に記載の方法では、例えば輝度ヒストグラムや輝度勾配ヒストグラムでテクスチャの特徴（Ｈ1、Ｈ2）を表し、以下の式（２）により相関を計算する。この場合、スコアｄcorrel（Ｈ1，Ｈ2）が高いほどテクスチャが近いことになる。なお、スコアの計算方法には、相関以外にもカイ二乗やBhattacharrya距離で計算する方法を採用してもよい。
【００９０】
【数２】
2017122993.tif 000004
【００９１】
パッチ選択部６１５は、パッチ誤差算出部６１４で算出されたデプスパッチの誤差およびテクスチャパッチの誤差を評価してＤＢデプスパッチをデータベース１０５から選択する。本実施形態において物体情報計測部６１１で得られるテクスチャマップは、低解像度ではあるものの既に所望の表情であることが前提となっている。そこで、デプスパッチの誤差およびテクスチャパッチの誤差の重み付き線形和が最小となる基準でＤＢデプスパッチを選択する。ここで、着目している表情のカテゴリ（例えば、無表情、喜び、悲しみ、恐れなど）に応じてパッチの位置毎に異なる重み係数をテーブルとして保持しておき、パッチの位置に応じて重み係数を変更するようにしてもよい。
【００９２】
このようにして、ＩＮテクスチャマップに含まれる所望の表情に、最も近い高解像度なＤＢテクスチャマップを利用することにより、より高解像度のテクスチャを生成することができる。一方、データベース１０５に登録されているキーシェイプから大きく異なる表情のモデル情報が物体情報計測部６１１から入力されると、所望の表情に合致しないテクスチャを生成されてしまう可能性がある。したがって、出来るだけ多くの種類のキーシェイプを予めデータベース１０５に登録しておくことが好ましい。
【００９３】
また、図６に示すように、テクスチャ生成部６１０に第１の実施形態の表情生成部１１１が含まれていないが、図１の表情生成部１１１を含むようにしてもよい。この場合、表情生成部１１１において生成される表情の形状変化に応じたテクスチャを新たに生成することができる。
【００９４】
また、表情生成部１１１において生成される表情の変動が大きい場合は、パッチ誤差算出部６１４は、無表情である画像を基準にパッチ誤差を算出する。そして、パッチ選択部６１５は、デプスパッチのパッチ誤差が最小で、かつテクスチャパッチのパッチ誤差が最大（見た目がなるべく無表情のテクスチャパッチと異なるもの）となるＤＢデプスパッチを選択する。
【００９５】
表情変動の強度が小さい場合は、仮に無表情の顔のテクスチャを利用しても生成される最終的なＣＧ画像にはそれほど影響が出ない。しかし、表情変動の強度が大きくなるにつれ、テクスチャ上の変化も大きくなるため、無表情のテクスチャから出来るだけパッチ誤差の大きい（表情変動が大きいテクスチャ）を選択することが好ましい。したがって、表情生成部１１１によって生成される表情の変動が大きい場合には、デプス誤差が最小で、無表情顔テクスチャからの誤差が最大となるように重み付き線形和の係数を設定し、ＤＢデプスパッチを選択する。
【００９６】
このように、デプスマップに加え、テクスチャマップを併用することにより、所望の表情に最も適合し、かつ高解像度な顔のテクスチャを生成する。
【００９７】
図７は、本実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。なお、データベースに複数のキーシェイプに係るパッチを蓄積する処理手順については図３と同様であるため、説明は省略する。また、図７において、図４と同じ処理については同じ符号を付しており、これらの処理の説明は省略する。
【００９８】
まず、ステップＳ７０１において、物体情報計測部６１１は、顔のモデル情報を計測する。モデル情報を計測する手順は前述した手順である。
ステップＳ４０２〜ステップＳ４０４の処理は、物体情報計測部６１１が行う処理であるが、それぞれ図４と同じ処理である。但し、本実施形態ではＩＮテクスチャマップも生成するため、ステップＳ４０４の処理によりＩＮデプスマップ及びＩＮテクスチャマップを取得する。
【００９９】
次に、ステップＳ７０２において、パッチ生成部６１２は、ＩＮデプスマップおよびＤＢテクスチャマップをデータベース１０５に登録されたＤＢデプスマップおよびＤＢテクスチャマップの解像度に合わせる。そして、所定のグリッドの間隔でそれぞれパッチに分割する。
【０１００】
次に、ステップＳ７０３において、パッチ誤差算出部６１４は、ＤＢデプスパッチとＩＮデプスパッチとの間の誤差を算出する。さらに、ＤＢテクスチャパッチとＩＮテクスチャパッチとの間の誤差を算出する。
【０１０１】
続いてステップＳ７０４において、データベース１０５に登録されている全てのキーシェイプに対して、デプス誤差及びテクスチャ誤差の計算は終了したか否かを判定する。この判定の結果、すべてのキーシェイプに対して誤差の計算が終了した場合はステップＳ７０５に進み、そうでない場合はステップＳ７０３に戻る。
【０１０２】
ステップＳ７０５においては、パッチ選択部６１５は、デプス誤差とテクスチャ誤差とを重み付けしてＤＢデプスパッチを選択する。
そして、ステップＳ７０６において、パッチ選択部６１５は、全てのパッチの位置に対してパッチの選択処理が終了したか否かを判定する。この判定の結果、全てのパッチの位置に対してパッチの選択処理が終了していない場合は、ステップＳ７０３に戻る。一方、全てのパッチの位置に対してパッチの選択処理が終了した場合はステップＳ４１０に進むステップＳ４１０の処理は図４と同様であるため、説明は省略する。
【０１０３】
以上のように本実施形態によれば、全てのパッチ位置に対して、形状の差に加え、見た目の差を加味してパッチを選択するため、より高繊細なテクスチャを得ることができる。
【０１０４】
（第３の実施形態）
第１の実施形態では、単純に顔のデプス誤差を比較することによって、所望の３次元顔形状に最も適合する表情のテクスチャを生成する例について説明した。これに対して本実施形態では、顔の目や口の周辺などの特定領域の形状変化の度合いに着目し、その変化の度合いによる周辺領域への影響を加味してパッチを選択する例について説明する。
【０１０５】
第１の実施形態では、デプスパッチの誤差が最小となる基準で画面を構成する各パッチの位置において形状が最も適合するパッチを選択していた。そのため、特にシワなどの微細な凹凸が存在する場合、ＤＢデプスパッチは高精度に形状の詳細な情報を保持するのに対し、ＩＮデプスパッチは詳細な情報を保持しないため、その詳細な情報が誤差要因となり、所望のパッチが選択されない可能性がある。そこで本実施形態では、微細な凹凸の変化が生じる場合であっても表情の変化に応じて所望のパッチを選択できるようにする。
【０１０６】
一般的に、人が他人の表情を認識する際の認知過程において、非特許文献１３には以下のことが報告されている。つまり、人が他人の表情を認識する際には、眉、目及び口の「傾斜性（slantedness）」及び「湾曲性及び開口性（curvedness/openness）」という物理量が大きく関与している。ここで「傾斜性」とは、眉及び眼が釣り上がったり垂れ下がったり、或いは口の形が"への字"になったり逆の形になったりすることである。また「湾曲性及び開口性」は、眉が曲線的に湾曲すること、及び目や口が開かれる度合いを指している。
【０１０７】
非特許文献１３に記載の方法では、被験者には眉、目及び口の上に設定した８つの特徴点を操作することにより、基本６感情を表す線画を作成させ、その線画に対する表情の判断実験を実施している。これらの実験からも分かるように、人間は表情を認識する過程で、特定領域（眉、目及び口）の形状変化に大きく左右されることが分かっている。また、表情筋においても、それらの特定領域の周辺は、特定領域の形状変化の影響を受け、周辺領域の形状変化が引き起こされる。つまり、特定領域及び周辺領域の形状変化は相関が非常に高いと言える。
【０１０８】
本実施形態では、非特許文献１３の知見に基づき、特定領域の「傾斜性」及び「湾曲度・開口性」と周辺領域の形状の変形量との関係を、影響度マップとして計算する。そして、影響度マップを重みとしてパッチ誤差の計算に利用することにより、最適なパッチを選択する。
【０１０９】
図８は、第３の実施形態において、特定領域を含むデプスマップ及びテクスチャマップを模式的に説明するための図である。
図８において、基準表情デプスマップ８０１は、無表情の状態を基準表情とした場合のデプスマップである。基準表情テクスチャマップ８０２は、基準表情デプスマップ８０１に対応するテクスチャマップである。そして、表情付きデプスマップ８０３は、既に３次元情報の補正が施された表情付きのデプスマップである。表情付きテクスチャマップ８０４は、表情付きデプスマップに対応するテクスチャマップである。
【０１１０】
基準表情デプスマップ８０１は、眼窩の上下端の間隔および目頭と目尻との間隔を基準にグリッド単位で分割され、パッチが生成されれている。なお、基準表情テクスチャマップ８０２、表情付きデプスマップ８０３および表情付きテクスチャマップ８０４においても、同様のグリッド間隔でパッチが生成されている。
【０１１１】
ここで、眼窩の上下端で間隔を設定するのは、表情変化によって眼窩の上下端の間隔が変化しないためである。眼窩の上下端の間隔および目頭と目尻との間隔は、非特許文献１４に記載の方法を用いることによって、顔の中から目の位置を検出することができる。この方法では、学習画像の目領域のHaar-Like特徴量を収集し、AdaBoostにより統計的に目らしい特徴を識別できるようにすることにより目検出器を学習することができる。同様に、予め口や鼻領域の学習用画像を用意しておくことにより、口および鼻検出器を学習によって生成することもできる。
【０１１２】
このように学習によって得られる目検出器を利用し、顔の中から目領域を検出する。更に検出した領域の重心位置、及び目頭、目尻といった特徴点の位置（座標）を計算によって求め、グリッド間隔（幅）を決定する。
【０１１３】
次に、眼窩の上下端に関しては、カメラで直接的に観測することは困難である。しかし、眼窩の左右端はそれぞれ目頭及び目尻の位置にほぼ重なるため、目頭から目尻までの幅を眼球の大きさとして設定し、眼窩の上下端の距離として流用してもよい。もしくは、眉の両端に表れる特徴点から中点を求め、その位置を眼窩の上端と設定して、下端を算出するなどしてもよい。更に、目頭と目尻とを結ぶ直線を基準として、固定アスペクト比の矩形を予め設定しておき、その矩形を目領域に当てはめることにより目領域を分割する上下の間隔を設定してもよい。
【０１１４】
第１の実施形態と同様に各パッチには、画面上での位置がラベルとして付与されている。更に、目や口などの特定領域には、特定領域である旨のラベルも別途付与されている。
【０１１５】
基準表情デプスマップ８０１および基準表情テクスチャマップ８０２において、グリッド分割された目周辺のパッチには、それぞれ値として"０"が設定されている。これは表情変化による形状の変動が生じないことを示している。そして、表情変化による形状の変化が生じている場合は、パッチ毎に基準表情からの変動強度が計算によって求められる。そして、これらの変動強度が数値化されたマップが各キーシェイプとともにデータベースに格納される。なお、変動強度の計算方法については後述する。
【０１１６】
このように、表情が変化した際の目や口などの特定領域における形状変化の影響が、周辺パッチに及ぼす影響を数値化したマップを影響度マップと呼ぶ。なお、本実施形態では、無表情を基準表情に設定しているが、構築するシステムによっては、無表情以外の所望の表情を基準表情に設定してもよい。
【０１１７】
図９は、本実施形態に係るテクスチャ生成装置９０の機能構成例を示すブロック図である。なお、図１と同じ構成については同一の符号が付されており、これらの構成については説明を省略する。
【０１１８】
影響度マップ生成部９０１は、デプスパッチ登録部１０３およびテクスチャパッチ登録部によってそれぞれ分割されたデプスパッチおよびテクスチャパッチから、基準表情に表情変化を加えた場合の各パッチ位置における変形の影響度を計算する。そして、影響度マップをデータベース１０５に登録する。なお、影響度マップ生成部９０１において、デプスパッチ登録部１０３で設定されたグリッド幅と同じグリッド幅で各パッチ位置における表情の影響度を算出する場合は、デプスパッチ登録部１０３から出力されるパッチ情報をそのまま利用する。
【０１１９】
テクスチャ生成部９１０において、特定領域変形量算出部９１１は、パッチ生成部１１３で生成されたＩＮデプスパッチの情報から、特定のパッチ位置における変形量を算出する。影響度算出部９１２は、特定領域周辺の影響度を算出する。パッチ適合度算出部９１３は、特定領域の変形量及び特定領域周辺の影響度を加味して、各表情のパッチ適合度を算出する。このようにして得られるパッチ適合度を参照して、本実施形態に係るテクスチャ生成装置９０は、テクスチャを構成するＤＢデプスパッチを選択する。
【０１２０】
図１０は、本実施形態において、データベース構築部９００の影響度マップ生成部９０１が影響度マップを生成する処理手順の一例を示すフローチャートである。なお、データベースに複数のキーシェイプに係るパッチを蓄積する処理手順については図３と同様であるため、説明は省略する。
【０１２１】
まず、ステップＳ１００１において、デプスパッチ登録部１０３からＤＢデプスパッチを入力する。なお、デプスパッチ登録部１０３でパッチ分割された分割方法とは異なる方法でパッチ分割する場合は、物体情報補正部１０２の出力を利用し、所望のグリッド幅ないしパッチ分割の方法により再度パッチ分割を行う。
【０１２２】
次に、ステップＳ１００２において、特定領域のデプス値（距離値）を基準値として設定し、特定領域における変形量を計算する。変形量は、パッチ内の画素毎に、基準表情のデプス値と、比較対象となる表情（キーシェイプ）のデプス値との誤差を計算することによって求めることができる。誤差計算は、前述の式（１）を利用して画素毎の誤差平均を計算してもよく、Ｎで割らずに誤差の総和を変形量としてもよい。
【０１２３】
ここで、本実施形態では説明を簡単にするために特定領域を目領域に絞って説明するが、構築するシステムによっては、口領域や他の顔部位を特定領域として設定してもよい。なお、本実施形態における目のパッチ位置は、前述の目検出器によって既に算出済みであり、データベース１０５には、パッチ位置のラベルと共に、目領域である旨のラベルが付与された状態で登録される。
【０１２４】
次に、ステップＳ１００３において、データベース１０５に登録されている全てのキーシェイプに対して特定領域における変形量を計算したか否かを判定する。この判定の結果、全てのキーシェイプで特定領域における変形量を計算していない場合は、ステップＳ１００２に戻り、全てのキーシェイプで特定領域における変形量を計算した場合はステップＳ１００４に進む。
【０１２５】
ステップＳ１００４においては、全てのキーシェイプの特定領域における変形量を正規化する。変形量を正規化する際には、まず変形量の最大値を求める。例えば、驚きの表情のように目が見開いた状態では変形量が最大となる可能性がある。そこで、変形量を最大値が"１"となるように以下の式（３）を用いて計算し、他の変形量についても正規化を行う。
【０１２６】
【数３】
2017122993.tif 000005
【０１２７】
式（３）のＶiIDは、パッチ位置のあるラベルＩＤにおけるキーシェイプｉの変形量を表しており、デプスパッチの誤差DeeriIDを全キーシェイプ中の最大誤差DeerkIDで割ることによって算出される。ここで、ｉは、データベース１０５に登録済みのキーシェイプの参照番号を示し、ｋは、最大誤差になったキーシェイプの参照番号を示している。この処理は、個人によって表情の表出強度が異なるため、個人毎に変形量を正規化する必要があるためである。
【０１２８】
このようにして、特定領域におけるキーシェイプの変形量を計算し、正規化することにより、特定領域に限定して見た時に、各キーシェイプが基準表情からどの程度変形しているかを数値化することができる。そして、特定領域の正規化された変形量と周辺領域におけるキーシェイプの変形量との関係を計算することによって、影響度マップを生成することができる。
【０１２９】
次に、ステップＳ１００５において、全てのキーシェイプにおける特定領域の周辺領域に属するパッチの変形量を計算する。周辺領域の選択は、例えば画面左上のパッチから順に変形量を計算してもよく、パッチの隣接関係を考慮しながら変形量の関係を求める場合は、特定領域を中心として螺旋状に外側のパッチを順に選択する方法などを選択してもよい。
【０１３０】
次に、ステップＳ１００６において、周辺領域に該当する全てのパッチに対して変形量の計算が終了したかどうかを判定する。全てのパッチに対して変形量の計算が終了していない場合は、ステップＳ１００５に戻り、全てのパッチに対して変形量の計算が終了した場合はステップＳ１００７に進む。
【０１３１】
次に、ステップＳ１００７において、ステップＳ１００４と同様に、周辺領域においてパッチ位置が同じラベルのパッチに対して、全てのキーシェイプの変形量で正規化する。具体的には、ステップＳ１００４と同様の方法により、最も変形量の多いキーシェイプを選択し、その変形量を最大値の"１"に設定し、他のキーシェイプの変形量を正規化する。
【０１３２】
次に、ステップＳ１００８において、周辺領域におけるすべてのパッチ位置において変形量を正規化したか否かを判定する。この判定の結果、周辺領域におけるすべてのパッチ位置において変形量を正規化していない場合は、ステップＳ１００７に戻り、周辺領域におけるすべてのパッチ位置において変形量を正規化した場合はステップＳ１００９に進む。
【０１３３】
ステップＳ１００９においては、特定領域における変形量と各パッチ位置における変形量との相関を計算し、影響度マップを生成する。以下、この具体例について説明する。
【０１３４】
図１１は、特定領域のパッチと周辺領域のパッチとの間における変形量の相関を計算する方法を模式的に示す図である。図１１において、プロット点１１０１は、画面上のパッチ位置ＩＤ14に着目した際の特定領域の変形量を縦軸にとり、各キーシェイプにおける周辺領域のパッチ位置での変形量を横軸として、変形量をプロットした点である。グラフ１１０２は、各キーシェイプにおけるパッチ位置ＩＤ7での変形量をグラフにしたものである。グラフ１１０３は、同様にパッチ位置ＩＤ13での変形量をグラフにしたものである。このように各パッチ位置での変形量のグラフを生成する。
【０１３５】
そして、直線１１０４は、データベース１０５に登録されている全てのキーシェイプに対して同様にプロットした点から、最小二乗法などを用いて算出した直線である。この直線を求める処理を全てのパッチ位置に対して行う。このようにして、画面を構成する全てのパッチ位置における影響度マップを生成する。なお、影響度マップを生成する際に計算した各パッチ位置におけるＤＢデプスパッチの変形量も同時にデータベース１０５に記録しておく。これは、後段のテクスチャ生成部９１０において評価スコアを計算する際に利用するためである。この処理の詳細については後述する。
【０１３６】
本実施形態では、特定領域の変形量と周辺領域のパッチの変形量との相関を求めることにより、特定領域に顕著な変形が生じた場合に、その影響が周辺領域にも及ぶようにパッチを選択する。一方、相関を求める代わりに、特定領域の変形量と周辺領域の変形量との関係を共起確率に基づいて計算し、特定領域の表情変形が周辺に及ぼす影響を確率で表現するようにしてもよい。
【０１３７】
このようにして、本実施形態に係るテクスチャ生成装置９０は、影響度マップ生成部９０１において、データベース１０５に登録される全てのキーシェイプに対して、基準表情からの影響度マップを生成する。
【０１３８】
図１２は、本実施形態において、新たにテクスチャを生成する処理手順の一例を示すフローチャートである。なお、図１２のステップＳ４０１からＳ４０５までの処理は、図４で説明した処理と同様の処理であるため説明を省略する。
【０１３９】
ステップＳ１２０１においては、特定領域変形量算出部９１１は、ステップＳ４０５でパッチ分割されたＩＮデプスマップの特定領域におけるＩＮデプスパッチの変形量を算出する。変形量の算出方法は、前述のステップＳ１００２で説明したデプスパッチの誤差算出方法と同じ方法を用いる。そして、ステップＳ１００４の正規化処理で求めた変形量が最大となったパッチの誤差DeerkIDで、ＩＮデプスパッチの誤差DerrINIDを割ることにより、計算することができる。
【０１４０】
次に、ステップＳ１２０２において、影響度算出部９１２は、ステップＳ１２０１で算出した特定領域における変形量と、ステップＳ１００９で生成した影響度マップとから、周辺領域における変形量を推定する。そして、各パッチ位置における影響度を算出する。ステップＳ１００９の処理で算出した各パッチ位置における変形量の相関を示す直線によって、ステップＳ１２０１で求められた特定領域の変形量から、周辺領域における各パッチ位置における変形量を推定することができる。ここで、特定領域における表情の変形が及ぼす当該パッチで推定した変形量を表情の影響度ＥIDで表す。影響度ＥIDは、特定領域の変形量によって各パッチ位置に対して設定される値である。この処理を全てのパッチ位置に対して行い、各パッチ位置における影響度ＥIDを算出する。
【０１４１】
次に、ステップＳ１２０３において、影響度算出部９１２は、全てのパッチ位置に対して影響度を算出したか否かを判定する。この判定の結果、全てのパッチ位置に対して影響度を算出してない場合はステップＳ１２０２に戻り、全てのパッチ位置に対して影響度を算出した場合はステップＳ１２０４に進む。
【０１４２】
ステップＳ１２０４においては、パッチ適合度算出部９１３は、あるパッチ位置において、ＩＮデプスパッチとキーシェイプｉに属するＤＢデプスパッチとのデプス誤差DerriIDを算出する。そして、以下の式（４）に従ってＤＢデプスパッチの変形量ＶiIDと影響度ＥIDとの差を用いて、適合度である評価スコアScoreiIDを算出する。
【０１４３】
【数４】
2017122993.tif 000006
【０１４４】
式（４）中の変形量ＶiIDは、表情の影響度マップを生成する際に計算されるデプス誤差を正規化した値である。評価スコアScoreiIDにおいて、デプス誤差DerriIDが"０"であれば、形状が一致していることを示す。そして、影響度ＥIDと変形量ＶiIDとの差が"０"に近ければ、その分望ましい変形量であることが評価できる。従って、評価スコアScoreiIDは評価が高いほど"０"に近づくことになる。つまり、式（４）によって、デプス誤差に加え、影響度ＥIDで求められる数値を期待値として、その値にできるだけ近い変形量を持つＤＢデプスパッチを選択することが可能になる。
【０１４５】
次に、ステップＳ１２０５は、パッチ適合度算出部９１３は、全てのキーシェイプに対して評価スコアScoreiIDの計算が終了したかどうかを判定する。この判定の結果、全てのキーシェイプに対して計算が終了していない場合はステップＳ１２０４に戻り、全てのキーシェイプに対して計算が終了した場合はステップＳ１２０６に進む。
【０１４６】
ステップＳ１２０６においては、パッチ選択部１１５は、該当するラベルにおける最も適合するＤＢデプスパッチをデータベース１０５から選択する。この処理では、ステップＳ１２０４において算出された評価スコアの中でも最も"０"に近い値のキーシェイプのラベルを参照し、ＤＢデプスパッチを選択する。
【０１４７】
続いてステップＳ１２０７において、全てのパッチ位置においてパッチの選択処理が終了したか否か判定する。この判定の結果、パッチの選択処理が終了していない場合はステップＳ１２０４に戻り、全てのパッチを選択した場合はステップＳ４１０に進む。なお、ステップＳ４１０は、図４のステップＳ４１０と同様の処理であるため、説明は省略する。
【０１４８】
以上のように本実施形態によれば、デプス誤差に加え、特定領域の表情の変形量から周辺領域の変形量を推定することによって、表情変化の影響度を加味した表情のテクスチャを生成することができる。これにより、単純なデプス誤差の比較では選択されなかった微細な凹凸変化を含むＤＢデプスパッチを選択することができる。
【０１４９】
なお、本実施形態では、顔の特定領域として目領域を例に説明したが、構築するシステムによっては、目領域に加え、眉、口、鼻、頬などの顔の各部位を特定領域に設定して影響度マップを生成してもよい。また、本実施形態は、顔に限らずそれ以外の特定領域と周辺領域との間で変形の相関が高い場合に適用することが可能である。
【０１５０】
（第４の実施形態）
第３の実施形態では、特定領域のデプス誤差から変形量を算出し、特定領域が周辺領域に及ぼす表情の影響度を計算することにより、表情変形に応じたテクスチャを生成した。これに対して本実施形態では、特定領域のデプス情報に加え、アピアランス情報も併用することによって、周辺領域への表情変化の影響を推定してパッチを選択する。ここで、本実施形態に係るテクスチャが画像の輝度パターンを意味しているのに対して、アピアランス情報は、特定領域における見た目（テクスチャ）の変化を指すものとする。
【０１５１】
図１３は、本実施形態に係るテクスチャ生成装置１３０の機能構成例を示すブロック図である。本実施形態に係るテクスチャ生成装置１３０の構成は、第２及び第３の実施形態に係る構成を組み合わせた構成になっている。そのため各部の説明については省略する。また、第２または第３の実施形態で説明した内容と同じ構成および処理については説明を省略する。
【０１５２】
図１４は、本実施形態において、データベース構築部１３００の影響度マップ生成部９０１が影響度マップを生成する処理手順の一例を示すフローチャートである。本実施形態に係る影響度マップの算出処理では、第３の実施形態で説明した処理に加え、アピアランス情報としてテクスチャの変化量を計算する。テクスチャの変化量は、前述の輝度ヒストグラム等の特徴量を利用して計算する。なお、データベースに複数のキーシェイプに係るパッチを蓄積する処理手順については図３と同様であるため、説明は省略する。
【０１５３】
まず、ステップＳ１４０１において、デプスパッチ登録部１０３からパッチ分割されたデプスマップの距離情報を入力するとともに、テクスチャパッチ登録部１０４から輝度情報を入力する。
【０１５４】
次に、ステップＳ１４０２において、前述のステップＳ１００２で説明した特定領域の距離情報の変形量を算出する処理に加え、輝度情報（テクスチャ）の変化量を計算する。具体的には、パッチ内の輝度情報から、輝度ヒストグラムや輝度勾配ヒストグラムを計算し、前述の式（２）を利用して基準表情の輝度情報と比較することによって変化量を見積もることができる。また、楕円近似の方法などを用いて目や口の開口度を計算してアピアランスの変化量を計算するなどしてもよい。
【０１５５】
続いて、ステップＳ１４０３において、全てのキーシェイプに対して特定領域の距離情報の変形量及び輝度情報の変化量を計算したか否かを判定する。この判定の結果、全てのキーシェイプで特定領域の距離情報の変形量及び輝度情報の変化量を計算していない場合はステップＳ１４０２に戻り、全てのキーシェイプで特定領域の距離情報の変形量及び輝度情報の変化量を計算した場合はステップＳ１４０４に進む。
【０１５６】
ステップＳ１４０４においては、全てのキーシェイプの特定領域における距離情報の変形量及び輝度情報の変化量を正規化する。正規化を行う手順については、ステップＳ１００４と同様である。
【０１５７】
次に、ステップＳ１４０５において、全てのキーシェイプにおける特定領域の周辺領域に属するパッチの変形量を計算するとともに、周辺領域に属するパッチの輝度情報の変化量を計算する。周辺領域の選択方法については、ステップＳ１００５と同様である。
【０１５８】
次に、ステップＳ１４０６において、周辺領域に該当する全てのパッチに対して距離情報の変形量及び輝度情報の変化量の計算が終了したかどうかを判定する。全てのパッチに対して距離情報の変形量及び輝度情報の変化量の計算が終了していない場合はステップＳ１４０５に戻り、全てのパッチに対して距離情報の変形量及び輝度情報の変化量の計算が終了した場合はステップＳ１４０７に進む。
【０１５９】
次に、ステップＳ１４０７において、ステップＳ１００４と同様に、周辺領域においてパッチ位置が同じラベルのパッチに対して、距離情報の変形量及び輝度情報の変化量を全てのキーシェイプで正規化する。具体的には、ステップＳ１００７と同様の方法で、周辺領域の距離情報及び輝度情報の変化量を正規化する。
【０１６０】
次に、ステップＳ１４０８において、周辺領域におけるすべてのパッチ位置において距離情報の変形量及び輝度情報の変化量を正規化したか否かを判定する。この判定の結果、周辺領域におけるすべてのパッチ位置において距離情報の変形量及び輝度情報の変化量を正規化していない場合はステップＳ１４０７に戻る。一方、周辺領域におけるすべてのパッチ位置において距離情報の変形量及び輝度情報の変化量を正規化した場合はステップＳ１４０９に進む。
【０１６１】
次に、ステップＳ１４０９において、物体の距離情報による影響度マップを生成するとともに、輝度情報による影響度マップを生成する。
【０１６２】
図１５は、本実施形態において、テクスチャ生成部１３１０により新たにテクスチャを生成する処理手順の一例を示すフローチャートである。まず、ステップＳ７０１〜Ｓ７０２までの処理については、図７と同様であるため、説明は省略する。
【０１６３】
ステップＳ１５０１においては、特定領域変形量算出部９１１は、ＩＮデプスパッチにおける距離情報を用いた特定領域の変形量、及び同領域の輝度情報の変化量を計算する。距離情報を用いた特定領域の変形量の算出方法についてはステップＳ１２０１と同様である。
【０１６４】
一方、輝度情報の変化量は、ステップＳ７０１で入力される輝度情報と基準表情の輝度情報とを比較することによって計算することができる。具体的な輝度情報の比較方法としては、輝度ヒストグラムや輝度勾配ヒストグラムで各ＩＮテクスチャパッチの特徴量を抽出し、相関やカイ２乗等の計算方法で抽出した特徴量がどれだけ近いかを評価値として計算する。そして、算出された評価値をデータベース１０５に登録される当該パッチ位置での最大輝度変化量で割ることによって、輝度情報の変化量を正規化する。
【０１６５】
次に、ステップＳ１５０２において、影響度算出部９１２は、特定領域における距離情報の変形量および輝度情報の変化量から、それぞれ表情の影響度を計算する。距離情報の影響度の計算方法は、ステップＳ１２０２で説明した方法と同様の処理であるため、説明を省略する。一方、輝度情報の影響度は、ステップＳ１４０９で生成した影響度マップを利用して、周辺領域における各パッチ位置の輝度情報の変化量を推定する。そして、この周辺領域における輝度情報の変化量を輝度情報の影響度とする。
【０１６６】
次に、ステップＳ１５０３において、影響度算出部９１２は、全てのパッチ位置に対して影響度を計算したか否かを判定する。この判定の結果、全てのパッチ位置に対して影響度の計算が終了していない場合はステップＳ１５０２に戻り、全てのパッチ位置に対して影響度の計算が終了した場合はステップＳ１５０４に進む。なお、本実施形態では、画面を構成する全てのパッチ位置に対して、同様の処理を行うことを想定している。しかし、構築するシステムによっては、例えば顔の上部にあるパッチは目領域の影響のみを計算し、下部にあるパッチは口領域の影響を計算するというようにパッチ位置に応じて影響を受ける特定領域を決めておいてもよい。
【０１６７】
次に、ステップＳ１５０４において、パッチ適合度算出部９１３は、あるキーシェイプについて、適合度である評価スコアScoreiIDを算出する。具体的には、距離情報による表情の影響度を加味したDscoreiIDと輝度情報による表情の影響度を加味したTscoreiIDとの線形加算によって評価スコアを計算する。具体的な計算方法を以下の式（５）に示す。
【０１６８】
【数５】
2017122993.tif 000007
【０１６９】
式（５）中のＤＶiID，ＴＶiIDは、それぞれＤＢデプスパッチ（距離情報）の変形量およびＤＢテクスチャパッチ（輝度情報）の変化量である。また、ＤＥID，ＴＥIDは、それぞれ距離情報及び輝度情報の影響度である。また、重みα及びβは、構築するシステムによって自由に設定可能な重み係数である。
【０１７０】
次に、ステップＳ１５０５において、パッチ適合度算出部９１３は、全てのキーシェイプに対して前述の評価スコアの計算が終了したか否かを判定する。この判定の結果、全てのキーシェイプに対して評価スコアの計算が終了していない場合はステップＳ１５０４に戻り、全てのキーシェイプに対して評価スコアの計算が終了した場合はステップＳ１５０６に進む。
【０１７１】
次に、ステップＳ１５０６において、パッチ選択部１１５は、ステップＳ１５０４で算出された評価スコアが最小となるキーシェイプのＤＢデプスパッチをデータベース１０５から選択する。選択されたＤＢデプスパッチは、デプス誤差およびテクスチャ誤差が最小であり、距離情報の変形量および輝度情報の変化量の期待値が最も近いパッチである。
【０１７２】
次に、ステップＳ１５０７において、パッチ選択部１１５は、全てのパッチ位置に対してパッチの選択処理が終了したか否かを判定する。この判定の結果、全てのパッチ位置に対してパッチの選択処理が終了していない場合はステップＳ１５０４に戻り、全てのパッチ位置に対してパッチの選択処理が終了した場合はステップＳ４１０に進む。なお、ステップＳ４１０は、図４のステップＳ４１０と同様の処理であるため、説明は省略する。
【０１７３】
以上のように本実施形態によれば、特定領域における距離情報の変形量および輝度情報の変化量を鑑みて、特定領域周辺の表情変化を推定し、表情変化に応じたテクスチャを生成することができる。
【０１７４】
（その他の実施形態）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【０１７５】
１０５  データベース
１１２  入力データ処理部
１１３  パッチ生成部
１１４  デプス誤差算出部
１１５  パッチ選択部
１１６  テクスチャパッチ合成部
【図１】
2017122993.tif 000008
【図２】
2017122993.tif 000009
【図３】
2017122993.tif 000010
【図４】
2017122993.tif 000011
【図５】
2017122993.tif 000012
【図６】
2017122993.tif 000013
【図７】
2017122993.tif 000014
【図８】
2017122993.tif 000015
【図９】
2017122993.tif 000016
【図１０】
2017122993.tif 000017
【図１１】
2017122993.tif 000018
【図１２】
2017122993.tif 000019
【図１３】
2017122993.tif 000020
【図１４】
2017122993.tif 000021
【図１５】
2017122993.tif 000022