(57)【要約】【課題】ユーザが希望する人形を作成することを目的とする。【解決手段】シーンを選択する第１の選択手段と、シーンに含まれる人形化の対象のオブジェクトを選択する第２の選択手段と、人形化の対象のオブジェクトの三次元モデルを生成する生成手段と、三次元モデルに基づいて人形を造形する造形手段と、を有する。【選択図】図２
2020062322.tif 000002
【特許請求の範囲】
【請求項１】
シーンを選択する第１の選択手段と、
前記シーンに含まれる人形化の対象のオブジェクトを選択する第２の選択手段と、
前記人形化の対象のオブジェクトの三次元モデルを生成する生成手段と、
前記三次元モデルに基づいて人形を造形する造形手段と、
を有する人形造形システム。
【請求項２】
前記造形手段は三次元プリンタである請求項１に記載の人形造形システム。
【請求項３】
前記三次元モデルを編集するためのパーツ一覧を表示し、表示したパーツ一覧の中から選択された情報に基づいて前記三次元モデルを編集する第１の編集手段をさらに有する請求項１又は２に記載の人形造形システム。
【請求項４】
前記シーンに含まれていないオブジェクトの情報を入力する入力手段と、
前記オブジェクトの情報に基づいて前記三次元モデルを変更する変更手段と、
をさらに有する請求項１乃至３の何れか１項に記載の人形造形システム。
【請求項５】
前記入力手段により入力されたオブジェクトの情報を編集する第２の編集手段をさらに有する請求項４に記載の人形造形システム。
【請求項６】
前記第２の編集手段は、前記オブジェクトの情報を編集するためのパーツ一覧を表示し、表示したパーツ一覧の中から選択された情報に基づいて前記オブジェクトの情報を編集する請求項５に記載の人形造形システム。
【請求項７】
前記人形の重心より自立困難であると判定された場合、前記人形が自立可能な候補シーンを提示する第１の提示手段をさらに有する請求項１乃至６の何れか１項に記載の人形造形システム。
【請求項８】
前記人形の重心より自立困難であると判定された場合、前記人形の自立を可能とする支持部材の設置位置と前記支持部材構成との候補一覧を提示する第２の提示手段をさらに有する請求項１乃至６の何れか１項に記載の人形造形システム。
【請求項９】
前記人形の重心より自立困難であると判定された場合、前記人形の自立を可能とする支持部材の設置位置と前記支持部材構成とを設定する設定手段をさらに有する請求項１乃至８の何れか１項に記載の人形造形システム。
【請求項１０】
過去のシーンに基づいて作成された表情と姿勢との組合せの辞書に基づいて作成される前記人形の表情と姿勢とを選択する選択手段をさらに有する請求項１乃至９の何れか１項に記載の人形造形システム。
【請求項１１】
前記オブジェクトは人物とボールのうち、少なくともいずれかを含む請求項１乃至１０の何れか１項に記載の人形造形システム。
【請求項１２】
人形造形システムが実行する情報処理方法であって、
シーンを選択する第１の選択工程と、
前記シーンに含まれる人形化の対象のオブジェクトを選択する第２の選択工程と、
前記人形化の対象のオブジェクトの三次元モデルを生成する生成工程と、
前記三次元モデルに基づいて人形を造形する造形工程と、
を含む情報処理方法。
【請求項１３】
コンピュータを、
シーンを選択する第１の選択手段と、
前記シーンに含まれる人形化の対象のオブジェクトを選択する第２の選択手段と、
前記人形化の対象のオブジェクトの三次元モデルを生成する生成手段と、
して機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、人形造形システム、情報処理方法及びプログラムに関する。
【背景技術】
【０００２】
被写体の立体的特徴を測定して立体物を作成するための立体物作成装置が特許文献１に開示されている。
また、立体形状の顔型に利用者の顔写真が印刷された人形を制作可能な方法が特許文献２に開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００５−１１０８２０号公報
【特許文献２】特開２００６−０３５５６２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら特許文献１に示された技術は、モデルの立体的形状を忠実に再現するものではなく、またユーザが希望するシーンを再現できるものではなかった。
また特許文献２に示された技術は、やはり既定の形状を有する人間をベースとしており、ユーザが希望するシーンを再現できるものではなかった。また、既定の顔型に写真を印刷する方法であることから、目、鼻、口、耳及び髪型等の個人の特徴を決定づける立体形状を再現することは難しかった。
【課題を解決するための手段】
【０００５】
本発明の人形造形システムは、シーンを選択する第１の選択手段と、前記シーンに含まれる人形化の対象のオブジェクトを選択する第２の選択手段と、前記人形化の対象のオブジェクトの三次元モデルを生成する生成手段と、前記三次元モデルに基づいて人形を造形する造形手段と、を有する。
【発明の効果】
【０００６】
本発明によれば、ユーザが希望する人形を作成することができる。
【図面の簡単な説明】
【０００７】
【図１】ＰＣのハードウェア構成の一例を示す図である。
【図２】実施形態１の人形作成システムのシステム構成の一例を示す図である。
【図３】実施形態１の情報処理の一例を示すフローチャートである。
【図４】タブレット端末から人形作成システムにアクセスする一例を示す図である。
【図５Ａ】実施形態１のタブレット端末の画面の一例を示す図（その１）である。
【図５Ｂ】実施形態１のタブレット端末の画面の一例を示す図（その２）である。
【図５Ｃ】実施形態１のタブレット端末の画面の一例を示す図（その３）である。
【図５Ｄ】実施形態１のタブレット端末の画面の一例を示す図（その４）である。
【図５Ｅ】実施形態１のタブレット端末の画面の一例を示す図（その５）である。
【図５Ｆ】実施形態１のタブレット端末の画面の一例を示す図（その６）である。
【図５Ｇ】実施形態１のタブレット端末の画面の一例を示す図（その７）である。
【図５Ｈ】実施形態１のタブレット端末の画面の一例を示す図（その８）である。
【図６】実施形態２の人形作成システムのシステム構成の一例を示す図である。
【図７】実施形態２の情報処理の一例を示すフローチャートである。
【図８Ａ】実施形態２のタブレット端末の画面の一例を示す図（その１）である。
【図８Ｂ】実施形態２のタブレット端末の画面の一例を示す図（その２）である。
【図８Ｃ】実施形態２のタブレット端末の画面の一例を示す図（その３）である。
【図８Ｄ】実施形態２のタブレット端末の画面の一例を示す図（その４）である。
【図８Ｅ】実施形態２のタブレット端末の画面の一例を示す図（その５）である。
【図８Ｆ】実施形態２のタブレット端末の画面の一例を示す図（その６）である。
【図９】実施形態３の人形作成システムのシステム構成の一例を示す図である。
【図１０】実施形態３の情報処理の一例を示すフローチャートである。
【図１１Ａ】実施形態３のタブレット端末の画面の一例を示す図（その１）である。
【図１１Ｂ】作成された人形の一例を示す図（その１）である。
【図１１Ｃ】作成された人形の一例を示す図（その２）である。
【図１１Ｄ】実施形態３のタブレット端末の画面の一例を示す図（その２）である。
【図１１Ｅ】三次元モデルの形状の変更の一例を示す図である。
【図１１Ｆ】実施形態３のタブレット端末の画面の一例を示す図（その３）である。
【図１１Ｇ】実施形態３のタブレット端末の画面の一例を示す図（その４）である。
【図１１Ｈ】支持部材を加えた一例を示す図（その１）である。
【図１１Ｉ】支持部材を加えた一例を示す図（その２）である。
【図１１Ｊ】実施形態３のタブレット端末の画面の一例を示す図（その５）である。
【図１１Ｋ】実施形態３のタブレット端末の画面の一例を示す図（その６）である。
【図１１Ｌ】実施形態３のタブレット端末の画面の一例を示す図（その７）である。
【図１１Ｍ】実施形態３のタブレット端末の画面の一例を示す図（その８）である。
【図１１Ｎ】実施形態３のタブレット端末の画面の一例を示す図（その９）である。
【図１２】実施形態４の人形作成システムのシステム構成の一例を示す図である。
【図１３】実施形態４の情報処理の一例を示すフローチャートである。
【図１４】表情／姿勢辞書のデータ構成の一例を示す図である。
【図１５Ａ】実施形態４のタブレット端末の画面の一例を示す図（その１）である。
【図１５Ｂ】実施形態４のタブレット端末の画面の一例を示す図（その２）である。
【発明を実施するための形態】
【０００８】
以下、本発明の実施形態について図面に基づいて説明する。
＜実施形態１＞
本実施形態では、ユーザが希望するシーンに基づいて三次元モデルを生成し、三次元モデル情報を基にして三次元プリンタによりユーザが希望する人形を作成する人形作成システムの例を示す。人形作成システムは、人形造形システムの一例である。
また本実施形態では、人形を作成する対象とするシーンをスポーツの試合（特に例としてサッカー）であるものとして説明するが、シーンはこれに限るものではない。
例えば、シーンは、映画、又はＴＶ放送におけるシーンであってもよい。
【０００９】
図１は、ＰＣ２００のハードウェア構成の一例を示す図である。
ＰＣ２００は、ハードウェア構成として、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）２０１、記憶部２０２、入力部２０４、表示部２０３、通信部２０５、を含む。
ＣＰＵ２０１は、ＰＣ２００の全体を制御する。表示部２０３は、液晶画面等で構成され、ＣＰＵ２０１による情報処理等の結果を表示する。入力部２０４は、スイッチ及びタッチパネル等によって構成され、利用者による操作を感知して操作情報を入力する。タッチパネルの代わりにマウス、トラックボール等の他のポインティングデバイスが用いられてもよい。記憶部２０２は、メモリ、又はハードディスク等の記録メディアによって構成され、プログラム、画像等を記憶する。記録メディアの代わりに、ＰＣ２００は、記憶部２０２としてＮＡＳ（Ｎｅｔｗｏｒｋ  Ａｔｔａｃｈｅｄ  Ｓｔｏｒａｇｅ）、又はＳＡＮ（Ｓｔｏｒａｇｅ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）等のネットワーク上のストレージを用いてもよい。通信部２０５は、ＰＣ２００をネットワーク等に接続し、他の装置との通信等を制御する。ＣＰＵ２０１が記憶部２０２に記録されたプログラムに基づき処理を実行することによって、後述する図２、図６、図９、図１２に示すＰＣ２００の機能構成、及び図３、図７、図１０、図１３のフローチャートのＰＣ２００の情報処理が実現される。他の例としては、ＰＣ２００の機能の少なくとも一部は、例えば複数のＣＰＵ、記憶部を協働させることにより実現してもよい。また、他の例としては、ＰＣ２００の機能の少なくとも一部は、ハードウェア回路を用いて実現されてもよい。また、他の例としては、ＰＣ２００の機能は、複数の装置が協働して実現されてもよい。
三次元プリンタ３００も少なくともＣＰＵ、記憶部、通信部等を有する。三次元プリンタ３００のＣＰＵが三次元プリンタ３００の記憶部に記憶されたプログラムに基づき処理を実行することによって三次元プリンタ３００の機能が実現される。
【００１０】
図２は、人形作成システム１００のシステム構成の一例を示す図である。
図２に示すように、本実施形態における人形作成システム１００は、シーン選択部１と、人形化対象選択部２と、三次元モデル生成部３と、三次元モデル編集部４と、三次元造形部５とを含んでいる。
より具体的には、シーン選択部１は、ＰＣ２００上で動作するアプリケーションとして実現され、ユーザがモニタ画面に表示される指示に従い、動画及び画像より所望のシーンを選択することを可能とする機能を果たす。
人形化対象選択部２は、ＰＣ２００上で動作するアプリケーションとして実現され、特にユーザがモニタ画面に表示される指示に従い、所望のシーンに含まれる、ユーザが人形化を希望する対象人物及びオブジェクトを選択することを可能とする機能を果たす。
三次元モデル生成部３は、ＰＣ２００上で動作するアプリケーションとして実現され、ユーザにより選択された、ユーザが人形化を希望する対象人物及びオブジェクトの情報を基に、三次元モデルを生成する機能を果たす。
三次元モデル編集部４は、ＰＣ２００上で動作するアプリケーションとして実現され、特にユーザが、モニタ画面に表示される指示に従い、人形化対象人物及びオブジェクトの三次元モデルの情報を編集することを可能とする機能を果たす。
三次元造形部５は、三次元プリンタ３００により構成されており、三次元モデルに基づいて人形を製造する機能を果たす。
【００１１】
図３は、人形作成システム１００により、ユーザが希望するシーンに基づいて三次元モデルを生成し、三次元モデル情報を基にして三次元プリンタ３００によりユーザが希望する人形を作成する情報処理の一例を示すフローチャートである。
図３に示すように、情報処理は、Ｓ６からＳ１０までの工程を含んでいる。
Ｓ６とＳ７とＳ８とＳ９とＳ１０とに関しては、それぞれシーン選択部１と人形化対象選択部２と三次元モデル生成部３と三次元モデル編集部４と三次元造形部５とに対応しており、それぞれに対応する部によって処理が実現される。
図３を用いて、さらに処理の詳細を説明する。
まず本実施形態においては、ユーザは人形作成システム１００に対して各種入力を実行する際に、各自が所有する端末機器を利用するものとする。
例えば図４には、ユーザ１２がタブレット端末１１を使用し、通信回線１３を介して人形作成システム１００にアクセスする例を示している。
この場合、シーン選択部１、人形化対象選択部２、三次元モデル生成部３、三次元モデル編集部４は、ＷＥＢアプリケーションとして実現されており、ユーザは各自の端末上に表示される指示に基づき、各種データの入力及び操作を行うことができる。
まずユーザは、ＷＥＢアプリケーション上で、人形作成処理を開始するために、図５Ａに示されたスタートボタンをタップする。
ここでタップとは、通常のタブレット端末における操作方法である、指で端末画面をタッチする操作を意味している。
以降の説明では、タブレット端末において情報の入力及び操作を行うための方法として、一般的なタブレット端末における操作方法を想定しており、特に断りが無ければユーザはそれらの操作により情報の入力及び操作を行うものとする。
【００１２】
Ｓ６において、シーン選択部１は、ハイライト動画リストからユーザによる希望の動画及び動画のシーンの選択操作を受け付ける。
例えば図５Ｂに示すように、タブレット端末の画面に表示されたＷＥＢアプリケーション上に、サッカーの試合の動画リストが表示され、ユーザはその中から自分が希望する動画を選択する。
例えば本実施形態では、ユーザは自分がスタジアムで実際に観戦した動画Ａを選択するものとする。
ユーザは、選択した動画を再生し、自分が人形を作成したい選手及びオブジェクトを含むシーンを選択する。
例えば本実施形態では、ユーザは図５Ｃに示すシーンにおける選手とボールとを人形化対象としたいと希望したものとする。
より具体的には、ユーザは動画を希望するシーンにおいて一時停止することで、シーンの選択を行うことができる。
【００１３】
Ｓ７において、人形化対象選択部２は、ユーザによる人形化を希望する対象選手及びオブジェクトの選択を受け付ける。
より具体的には、例えば図５Ｄに示すように、ユーザはＷＥＢアプリケーションの画面上で点線枠を描画することにより、人形化対象選手を指定し、一点鎖線枠を描画することにより人形化対象オブジェクトを指定する。
選択が完了した後に、ユーザが画面上のＯＫボタンをタップすると、ユーザが希望した選手及びボールの領域が切り出され、画面に表示される。
ここでユーザが希望した選手及びボールを切り出す処理は、画像から人体又はオブジェクトを認識し、その領域を切り出す処理により実現される。
例えば、人形化対象選択部２は、事前に撮影した背景画像をシーンの画像から差し引くことにより、背景画像に含まれていない選手及びボールのみを切り出すことができる。
又は本実施形態では、試合の状況を複数台のカメラで撮影していることを想定しており、人形化対象選択部２は、該当する選手を同時に撮影している複数台のカメラによる画像から、三角測量の原理に基づく手法により、選手及びボールの空間的な三次元情報を算出することもできる。
この場合は、ユーザが指定した領域に含まれる選手及びボールは、端末画面に表示されている画像を撮影したカメラとの位置関係により容易に特定することができる。
ユーザが指定した選手及びボールを画像中から抽出する手法に関しては本実施形態の主眼とするものではなく、同様の効果が得られるものであればどのような手法を用いるものであってもよい。
表示された画像が、ユーザが人形化を希望する人物及びオブジェクトとして間違いがない場合、ユーザはさらに画面上のＯＫボタンをタップする。
【００１４】
ユーザがＯＫをタップした場合、Ｓ８において、三次元モデル生成部３は、選択された選手とボールとの三次元モデルを生成する。
ここで三次元モデルとは、ユーザが選択した人物及びオブジェクトの立体形状を所定の縮尺で縮小した形状の情報を意味しており、三次元プリンタ３００に対する入力データとなる。
三次元モデルを生成する手法としては、例えば上述したように本実施形態で想定している複数台のカメラによって撮像された画像から三角測量の原理に基づく手法により、選手及びボールの空間的な三次元情報（即ち立体形状のデータ）を得ることができる。
またそれ以外にも、測距センサ等をカメラと組み合わせて用いることにより、三次元モデルを生成することもできる。
三次元モデルを生成する手法に関しては本実施形態の主眼とするものではなく、同様の効果が得られるものであればどのような手法を用いるものであってもよい。
三次元モデル生成部３により人形化対象人物及びオブジェクトの三次元モデルが生成されると、図５Ｅに示すように、タブレット端末の画面上に三次元モデルが表示される。
ここでは、複数のカメラにより撮像された画像から抽出された色情報に基づいて、三次元モデルに対して対応する着色が施されている。
またユーザは、タブレット端末の画面上を指でタッチしてドラッグすることにより、表示されている三次元モデルを自由に回転させることができる。
これにより、ユーザは人形化対象人物及びオブジェクトを任意の方向から確認することができる。
またここでは、ユーザは人物及びオブジェクトの位置関係を変更することもできる。
例えば本実施形態では、オブジェクトであるボールに対して画面上で２回連続してタップすることにより選択し、さらに選択したボールを指でタッチしたままドラッグすることにより三次元モデル空間内でのボールの位置を変更することができる。
ここでユーザは、タブレット端末の画面上を指でタッチしてドラッグすることで三次元モデルを回転させる操作を組み合わせることで、二次元的な画面上の操作によって、オブジェクトの三次元空間内での位置を変更することができる。
人物及びオブジェクトの位置関係を変更するための操作方法は、その他の方法によるものであってもよく、上述した操作方法は一例に過ぎない。
ユーザは、画面に表示された三次元モデルを確認した後、人形として作成することを選択した選手及びオブジェクトの三次元モデルを編集するかどうかを入力する。
より具体的には、図５Ｅの画面において選手及びオブジェクトの情報を編集するのであればＹＥＳのボタンを、編集しないのであればＮＯのボタンをタップする。
ここではまず、ユーザが編集を希望して、ＹＥＳをタップした場合について説明を行う。
【００１５】
Ｓ９において、三次元モデル編集部４は、前三次元モデルの編集を行う。
より具体的には、例えば図５Ｆに示すように、ユーザはＷＥＢアプリケーションの画面上に表示された三次元モデルに関して、編集を行いたいパーツの情報をリストから選択してタップにより入力する。
本実施形態においては、編集対象とするパーツとして、ユーザが"表情"と"肌の色"とを選択するものとする。
まずユーザがパーツのリストから"表情"を選択すると、三次元モデル編集部４は、図５Ｇに示すように三次元モデルの顔領域を拡大表示し、さらに表情に関わるより詳細なパーツリストを画面に表示する。パーツリストはパーツ一覧の一例である。
本実施形態の場合、ユーザが選択したシーンにおいて選手の眼が閉じているため、ユーザは選手の眼を開いた状態で、かつ、ボールに視線を向けた状態に変更したいものとする。
そこでユーザがパーツリストから眼を選択すると、三次元モデル編集部４は、ユーザが選択した選手の眼に関する複数の画像情報を、図５Ｇに示すように画面下部に表示する。
ここで、該当する選手の眼の画像情報は、過去の試合の映像より、例えば、顔器官検出機能及び顔認識機能を用いて、事前に抽出されたものをリスト化したものである。
本実施形態においては、眼に関する画像情報を参照する際に、顔認識機能を用いて当該選手であることを識別している。
これに関しては、必ずしも顔認識機能により自動で該当する選手を識別するものでなくても、例えばユーザが出場選手リストの中から、該当する選手に対応する選手名を選択する等の他の手法を用いるものであってもよい。
本実施形態では、ユーザは眼のリストの中から、眼が開いていてボールに視線を向けている左端に表示されたパーツを選択する。
その結果、三次元モデル編集部４は、顔認識機能において既に認知されている眼の領域の三次元モデルを、ユーザが選択した眼の三次元モデルによって、図５Ｈに示すように置き換える。
【００１６】
置き換えられた三次元モデルをユーザが確認し、ＯＫボタンがタップされると、三次元モデル編集部４は、画面を再びユーザが編集対象とするパーツを選択する画面に戻す。今度は、ユーザは"肌の色"を選択したものとする。
本実施形態の場合、試合が夜間に行われたものであり、映像から抽出した選手の肌の色が三次元モデル上で暗く見えるため、ユーザは肌の色を明るく変更したいものとする。
そこでユーザがパーツリストから"肌の色"を選択すると、三次元モデル編集部４は、画面上に"肌の色"に関わる色リストを表示する。
ユーザが、色リストから所望のものを選択してタップすると、三次元モデル編集部４は、三次元モデルの肌色を選択した色に変更する。
三次元モデルにおいて、変更対象とする肌色の領域は、例えば、顔認識機能により識別した顔領域の色を基準の肌色とし、三次元モデル上の色に関して、色空間上で基準の肌色から所定の範囲内に収まる肌色の部分を変更対象とする手法を用いることができる。
又は三次元モデルから、ユニフォーム、靴、ソックス等の領域を推定し、肌が露出している領域を特定することにより、変更対象とする肌色の領域を決定するものであってもよい。
置き換えられた三次元モデルをユーザが確認し、ＯＫボタンがタップされると、三次元モデル編集部４は、画面を再びユーザが編集対象とするパーツを選択する画面に戻す。ユーザは変更後の三次元モデルに満足すればさらにＯＫボタンをタップすることで、生成された三次元モデルを人形化することを決定する。
本実施形態では、編集対象とするパーツとして、ユーザが"表情"と"肌の色"とを選択した場合に関して説明を行ったが、それ以外のパーツを編集対象とする場合に関しても同様の処理を行うことにより実現することができる。
編集対象とするパーツに関して特に限定するものではない。
【００１７】
該当する三次元モデルを人形化することをユーザが承認すると、ユーザによる人形作成代金の支払いが行われる。
また、上述した図５Ｅの画面において、選手及びオブジェクトの情報を編集しないものとして、ユーザがＮＯのボタンをタップした場合も、同様に人形作成代金の支払いが行われる。
例えば本実施形態では、ユーザはＷＥＢアプリケーション上でクレジットカードによる支払い処理を実行する。
人形代金の支払い処理に関しては、人形作成システムの運用形態によって変更される可能性がある。
例えば、ユーザが人形を引き取る際に支払いを行うように変更することも可能であるし、又は人形作成サービスを無料で提供する場合等は支払い工程自体が必要なくなる。この様に、人形代金の支払い処理に関しては様々な形態が考えられるため、詳細な説明は割愛し、かつ、図３のフローチャートにも記載してしない。
【００１８】
Ｓ１０において、三次元造形部５は、生成された三次元モデルを人形として造形する処理を実行する。
本実施形態で想定している三次元プリンタ３００は、入力された三次元モデルを基にして着色された三次元形状を造形する機能を有するものを想定している。
三次元プリンタ３００の機能に関しては、本実施形態の主眼とするところではないため、詳細な説明は割愛する。
造形された人形は、必要に応じて一部パーツの組み立てが行われ、ユーザに対して郵送等により引き渡される。
以上説明したように、人形作成システム１００により、ユーザは動画及び画像から所望のシーンを選択し、さらにシーンの中から所望の人物及びオブジェクトを選択し、さらに希望に応じて所望の編集を行った上で人物及びオブジェクトの人形を作成することができる。
【００１９】
＜実施形態２＞
本実施形態における人形作成システム４００は、ユーザが選択した所望のシーンには含まれていない人物及びオブジェクトの情報をユーザが追加で入力することを可能とする点が実施形態１と相違しており、その他の構成及び処理に関しては実施形態１と同様である。
したがって、本実施形態では実施形態１と相違する部分について説明を行い、その他の部分に関しては実施形態１と同様として説明を省略する。
【００２０】
図６は、人形作成システム４００のシステム構成の一例を示す図である。
図６の人形作成システム４００は、実施形態１で説明した図２に示す人形作成システム１００に対して、さらに追加情報入力部１４と、三次元モデル変更部１５と、追加情報編集部１６と、が追加されている。
より具体的には、追加情報入力部１４は、ＰＣ２００上で動作するアプリケーションとして実現され、特にユーザが選択した所望のシーンには含まれていない人物及びオブジェクトの情報をユーザが追加で入力することを可能とする機能を果たす。
三次元モデル変更部１５は、ＰＣ２００上で動作するアプリケーションとして実現され、特に追加で入力した人物及びオブジェクトの情報を基にして、ユーザが人形化対象人物及びオブジェクトの三次元モデルの一部を変更することを可能とする機能を果たす。
追加情報編集部１６は、ＰＣ２００上で動作するアプリケーションとして実現され、特に追加で入力した情報に基づいて変更された三次元モデルの一部を変更することを可能とする機能を果たす。
【００２１】
図７は、人形作成システム４００により、ユーザが希望するシーンに基づいて三次元モデルを生成し、さらにシーンには含まれていない情報を追加して三次元モデルを修正し、三次元モデル情報を基にして三次元プリンタによりユーザが希望する人形を作成する情報処理の一例を示すフローチャートである。
図７に示すように、実施形態１で説明した図３に示す人形作成システム１００のフローチャートに対して、さらにＳ１７からＳ１９までの工程が追加されている。
Ｓ１７とＳ１８とＳ１９とに関しては、それぞれ追加情報入力部１４と三次元モデル変更部１５と追加情報編集部１６とに対応しており、それぞれに対応する部によって処理が実現される。
図７を用いて、さらに処理の詳細を説明する。
まず本実施形態においては、図７に示したＳ６からＳ９までの処理及びＳ１０の処理は、実施形態１と同様に実行される。
したがって、以降では、実施形態１と異なるＳ１７からＳ１９までに関して説明を行う。
【００２２】
実施形態１と同様にユーザが編集後の三次元モデルに満足し、図５ＨのＯＫボタンをタップすると、追加情報入力部１４は、ユーザが選択したシーンには含まれていない情報を入力するかどうかの入力を即す画面を表示する。
より具体的には、ユーザが選択したシーンには含まれていない選手及びオブジェクトの情報を入力するのであればＹＥＳのボタンを、入力しないのであればＮＯのボタンをタップする。
ここではまず、ユーザがＹＥＳをタップした場合について説明を行う。
ユーザがＹＥＳをタップすると、Ｓ１７において、追加情報入力部１４は、追加情報入力処理を実行する。
追加情報入力部１４は、まず図８Ａに示すようにＷＥＢアプリケーションの画面上に、三次元モデルに関して入れ替え可能なパーツリストを表示する。
ここでユーザは、三次元モデルに関して入れ替えを希望するパーツを選択する。
例えば本実施形態においては、ユーザは選択したシーンにおける選手の顔をユーザ自身の顔に変更することを希望しているとする。
そこでユーザは、画面上のリスト中の"顔"というアイコンをタップすると、追加情報入力部１４は、画面上には、ユーザが入れ替えを希望する顔（この場合はユーザ自身の顔）が含まれる画像を入力するように指示を表示する。
ユーザは、自分の顔を異なる方向より撮影した複数の画像を入力するか、又はタブレットに付属するカメラにより自分の顔を異なる方向より複数回撮影してＷＥＢアプリケーション上でアップロードする。
本実施形態では、例えばユーザは図８Ｂに示すように、自分の顔を異なる方向より撮影した５種類の画像をＷＥＢアプリケーション上にアップロードしたものとする。
追加情報入力部１４は、ユーザが入力した５種類の画像情報を基にして、ＰＣ２００上でユーザの顔の三次元モデルを生成する。
本実施形態における三次元モデルを生成する手法としては、まず５種類の画像のそれぞれに対して、認識手法である顔器官検出を適用し、画像中のユーザの顔領域、及び眼、鼻、口、耳等の顔器官の位置を検出する。
追加情報入力部１４は、各画像から求められた顔器官位置の情報を基にして、三次元モデル生成手法である三角測量を応用した手法により、ユーザの顔に関する三次元モデルを生成する。
【００２３】
さらに、追加情報入力部１４は、入れ替え対象である選手の三次元モデルを参照し、生成した三次元モデルを適切なサイズに縮小（又は拡大）する。
三次元モデルを生成する手法は、上述した顔検出手法を用いるものに限ることはなく、例えばアップロードした画像に対して、ＷＥＢアプリケーション上の画像編集ツールを用いて、ユーザ自身が顔領域を線分で区切る等して指定したり、眼、鼻、口、耳等の顔器官の位置を同様に手動で指定したりするものであってもよい。
また三次元モデルの算出手法自体もどのような手法を用いてもよい。
また本実施形態では、追加で入力するデータに関して、ユーザ自身が撮影する場合に関して説明を行ったが、その他に人形作成システムとして専用の撮影ブースを有するものであってもよい。
この場合、ユーザは専用ブースにおいて、例えばレンジファインダー等によって三次元モデルの生成に必要な立体形状を測定する。
以上の三次元モデルの生成方法に関しては、本実施形態の主眼とするものではなく、その他のものであってもよい。
【００２４】
Ｓ１８において、三次元モデル変更部１５は、図８Ｃに示す画面を表示し、ユーザが選択した選手の三次元モデルに関して、選手の頭部と、上述したように生成したユーザ自身の顔（頭部）の三次元モデルとを入れ替える。
三次元モデル変更部１５は、選手の顔器官位置とユーザの顔器官位置とのずれの総和値が最小となるように自動で位置合わせを行い、入れ替え後の三次元モデルを図８Ｃに示すように表示する。
ここでユーザは、入れ替え後の頭部の位置をＷＥＢアプリケーションの画面上で調整することが可能である。
例えば、三次元モデルにおける首と胴体の接続部を支点として、画面に表示された三次元モデルの頭部を指でタッチしドラッグすることにより、頭部の方向・傾き等を希望するように変更することができる。
ユーザは、画面に表示された指示に基づき、変更した三次元モデルの情報（本実施形態では自分の顔・頭部の三次元モデル）を編集するかどうかを入力する。
より具体的には、図８Ｄの画面において自分の顔、頭部の三次元モデルの情報を編集するのであればＹＥＳのボタンを、編集しないのであればＮＯのボタンをタップする。
ここではまず、ユーザが編集を希望して、ＹＥＳをタップした場合について説明を行う。
【００２５】
Ｓ１９において、追加情報編集部１６は、三次元モデルの編集を行う。
より具体的には、追加情報編集部１６は、図８Ｅに示す画面を表示する。ユーザはＷＥＢアプリケーションの画面上に表示された三次元モデルに追加された顔、頭部の情報に関して、編集を行いたいパーツの情報をリストから選択してタップにより入力する。
本実施形態においては、編集対象とするパーツとして、ユーザが"鼻"を選択するものとする。
ユーザがパーツリストから"鼻"を選択すると、追加情報編集部１６は、"鼻"に関する複数の画像情報を、図８Ｅに示すように画面に表示する。
ここで、"鼻"に関する複数の画像情報は、バリエーションを有する鼻の画像情報を事前に人形作成システム４００にリスト化して登録したものである。
本実施形態では、ユーザは鼻のリストの中から、所望の鼻のパーツを選ぶ。
その結果、上述した顔器官検出機能において既に認知されている鼻の領域の三次元モデルが、図８Ｆに示すようにユーザが選択した鼻の三次元モデルによって置き換えられる。
置き換えられた三次元モデルをユーザが確認し、ＯＫボタンをタップすると、追加情報編集部１６は、画面を再びユーザが編集対象とするパーツを選択する画面に戻す。ユーザは変更後の三次元モデルに満足すればさらにＯＫボタンをタップすることで、生成された三次元モデルを人形化することを決定する。
これ以降の、支払い処理を含む三次元造形処理は実施形態１と同様であるため説明を省略する。
【００２６】
本実施形態では、追加した三次元モデルにおいて変更対象とするパーツとして、ユーザが"顔"を選択した場合に関して説明を行ったが、それ以外のパーツを編集対象とする場合に関しても同様に変更を行うことができる。
例えば、選手の胴体をユーザ自身の胴体に変更したい場合には、ユーザは選択したシーンにおける選手と同様の姿勢を取り、それを異なる方向から撮像した複数の画像として入力することで、胴体を入れ替えた三次元モデルを生成することができる。
その際、入れ替え前に選手が来ていたユニフォームを入れ替え後のユーザの胴体に合成することもできる。
また例えば、選手のユニフォームをユーザが希望するデザインのユニフォームに変更したい場合は、変更対象となるユニフォームを撮影した複数の画像を登録し、選手のユニフォームの領域の三次元モデルと置き換えることにより実現できる。
また、オブジェクトの変更を選択し、例えば異なるデザインのボールに変更することもできる。
また、追加した情報の変さらに関しても、本実施形態ではユーザが"鼻"を変更することを選択した場合に関して説明を行ったが、それ以外のパーツを編集対象とする場合に関しても同様に行うことができる。
これは、実施形態１において説明した、選手のパーツを変更する場合と同様である。
以上説明したように、人形作成システム４００により、動画及び画像から選択した人物及びオブジェクトに対して、ユーザ自身が希望する追加情報を用いて変更を加えることにより、選択シーンには実際には含まれない人物及びオブジェクトの情報が含まれる人形を作成することができる。
【００２７】
＜実施形態３＞
本実施形態における人形作成システム５００は、作成される人形の重心を事前に算出し、人形が自立困難な場合には人形が自立可能となるように所定の処理を実行する点が実施形態１及び２と相違しており、その他の構成及び処理に関しては実施形態１及び２と同様である。
したがって、本実施形態では実施形態１及び２と相違する部分について説明を行い、その他の部分に関しては実施形態１及び２と同様として説明を省略する。
【００２８】
図９は、人形作成システム５００のシステム構成の一例を示す図である。
図９の人形作成システム５００は、実施形態２で説明した図６に示す人形作成システム４００に対して、さらに変更シーン候補提示部２０と、修正三次元モデル候補提示部２１と、支持部材候補提示部２２と、支持部材設定部２３と、が追加されている。
より具体的には、変更シーン候補提示部２０は、ＰＣ２００上で動作するアプリケーションとして実現され、特に作成される人形の重心を事前に算出し、人形が自立困難な場合、人形が自立可能な変更候補シーンをユーザに対して提示することを可能とする機能を果たす。
修正三次元モデル候補提示部２１は、ＰＣ２００上で動作するアプリケーションとして実現され、特に作成される人形の重心を事前に算出し、人形が自立困難な場合、人形が自立可能な姿勢となるように三次元モデルに対して修正を加え、ユーザに対して修正三次元モデル候補として提示することを可能とする機能を果たす。
支持部材候補提示部２２は、ＰＣ２００上で動作するアプリケーションとして実現され、特に作成される人形の重心を事前に算出し、人形が自立困難な場合、人形の自立を可能とする支持部材の設定設置及び支持部材構成の候補リストをユーザに対して提示することを可能とする機能を果たす。候補リストは、候補一覧の一例である。
支持部材設定部２３は、ＰＣ２００上で動作するアプリケーションとして実現され、特に作成される人形の重心を事前に算出し、人形が自立困難な場合、ユーザが支持部材設定位置及び支持部材構成を設定することを可能とする機能を果たす。
【００２９】
図１０は、人形作成システム５００により、作成される人形の重心を事前に算出し、人形が自立困難な場合には人形が自立可能となるように所定の処理を実行し、三次元プリンタによりユーザが希望する人形を作成する情報処理の一例を示すフローチャートである。
図１０に示すように、実施形態２で説明した図７に示す人形作成システム４００のフローチャートに対して、さらにＳ２４〜Ｓ２７の工程が追加されている。
Ｓ２４とＳ２５とＳ２６とＳ２７とに関しては、それぞれ変更シーン候補提示部２０と修正三次元モデル候補提示部２１と支持部材候補提示部２２と支持部材設定部２３とに対応しており、それぞれに対応する部によって処理が実現される。
図１０を用いて、さらに処理の詳細を説明する。
まず本実施形態においては、図１０に示したＳ６からＳ８まで、Ｓ９及びＳ１０は、実施形態２と同様に実行される。
したがって、以降では、実施形態２と異なるＳ２４からＳ２７までの処理に関して説明を行う。
Ｓ８において、三次元モデル生成部３は、図１１Ａに示すように、タブレット端末の画面上に表示されたＷＥＢアプリケーション上に、生成された三次元モデルを表示する。
【００３０】
ユーザが三次元モデルを確認してＯＫボタンをタップすると、図１０に示すＳ２４が実行される。
Ｓ２４において、変更シーン候補提示部２０は、決定した三次元モデルと、Ｓ１０で人形を作成するために用いられる材料の特性を基にして、完成状態における人形の重心位置を算出し、人形が自立可能かどうか判定をする。
例えば、仮に図１１Ｂに示すような人形が作成される場合、重心位置３０（図中黒三角部）が、接地点２８・２９（図中黒塗り部）となる人形の両足を結ぶ直線状に存在するため、特に支持部材を用いることなく人形は自立可能である。
この場合は、Ｓ２５からＳ２７までの処理はスキップされて、Ｓ９に処理が進む。
これに対して、図１１Ｃに示すような人形が作成される場合、重心位置３２（図中黒三角部）は接地点３１（図中黒塗り部）である人形の足裏を外れており、人形は自立不可能である。
この場合、変更シーン候補提示部２０は、ユーザが選択したシーンの近傍（例えば前後３秒以内）のシーンにおける人形化対象選手の三次元モデルを生成し、それを基に作成される人形の重心位置を算出することで、自立可能な姿勢を取るシーンを探索する。
例えば、変更シーン候補提示部２０は、図１１Ｃに示した、ボールを蹴るために足を振り上げたシーンに対して、近傍シーンの中から、図１１Ｂに示したボールを蹴る瞬間のシーンを選択する。
近傍シーンにおいて自立可能な姿勢を取るシーンが見つかった場合は、変更シーン候補提示部２０は、図１１Ｄに示すように、ＷＥＢアプリケーションの画面上に該当するシーンにおける選手の三次元モデルを表示し、ユーザに対して人形化対象を三次元モデルに変更するかどうかを確認する。
ここでユーザが変更を承認した場合は、以降のＳ２５からＳ２７までの処理はスキップされて、Ｓ９に処理が進む。
ユーザが変更を承認しない場合は、Ｓ２５に処理が進む。
ここで、仮に近傍シーンにおいて自立可能な姿勢を取るシーンが見つからない場合は、同様にＳ２５に処理が進む。
【００３１】
Ｓ２５において、修正三次元モデル候補提示部２１は、現状では自立が不可能と推定される人形の三次元モデルに対して、自立を可能とするように修正を加える。
例えば、図１１Ｃに示すような人形に対して、図１１Ｅに示すように重心３４が人形の足裏接地面３３上に存在するように三次元モデルの形状を変更すれば、特に支持部材を用いることなく人形は自立可能である。
この場合、例えば三次元モデルの高さ方向の中心点から上の部位（上半身）を接地点方向に移動させることにより三次元モデルの重心３４の位置を修正することができる。
三次元モデルの重心位置の変更方法は上述のように、事前にルールベースで決定しておいてもよいし、又は三次元モデルの部位ごとに微小な変形を加え、人形が自立可能となる重心位置を探索するシミュレーションベースの手法を用いるものであってもよい。
本実施形態は、重心位置の変更を方法に関して限定するものではなく、どのような手法を用いるものであってもよい。
修正三次元モデル候補提示部２１は、図１１Ｅに示すように、人形が自立可能な重心位置を有する三次元モデル変更案を決定した後、三次元モデル変更案をＷＥＢアプリケーションの画面に表示する。そして、修正三次元モデル候補提示部２１は、図１１Ｆに示すように、ユーザに対して三次元モデルを三次元モデル変更案のように変更するかどうかを確認する。
ここでユーザが変更を承認した場合は、以降のＳ２６及びＳ２７はスキップされて、Ｓ９に処理が進む。
ユーザが変更を承認しない場合は、図１０に示す次のＳ２６に処理が進む。
また例えば、図１１Ｇに示すように、選手が空中に飛び上がっているシーンにおける三次元モデルの場合、ルールベース及びシミュレーションベースのどちらであっても、三次元モデル形状の修正では人形が自立可能な重心位置の変更が困難である。
このように、人形が自立可能な三次元モデル変更案を見つけられなかった場合も、自動的に次のＳ２６に処理が進む。
【００３２】
Ｓ２６において、支持部材候補提示部２２は、現状では自立が不可能と推定される人形の三次元モデルに対して、自立を可能とするように支持部材を加える。
例えば、図１１Ｈに示すような人形に対して、足の裏に丸い板３５を設置し、重心位置３２の鉛直方向の延長線が丸い板３５の範囲に入るようにすれば、人形を自立させることができる。
又は、図１１Ｉに示すように、三次元モデルの重心位置の近傍である人形の腰の位置に支持棒３６を設置することによっても人形を自立させることができる。
以上のように、支持部材候補提示部２２は、人形を自立可能とする支持部材を付加した三次元モデル変更案を決定した後、三次元モデル変更案をＷＥＢアプリケーションの画面に表示する。そして、支持部材候補提示部２２は、ユーザに対して三次元モデルを三次元モデル変更案のように変更するかどうかを確認する。
本実施形態の場合は、支持部材候補提示部２２は、上述した２種類の変更案を提示する。
ここでユーザがどちらかの変更を承認した場合は、以降のＳ２７はスキップされて、Ｓ９に処理が進む。
また、ユーザが変更を承認しない場合は、図１０に示す次のＳ２７に処理が進む。
【００３３】
Ｓ２７において、支持部材設定部２３は、現状では自立が不可能と推定される人形の三次元モデルに対して、自立を可能とするように支持部材を加える。このことはＳ２６と同様であるが、Ｓ２７では、支持部材設定部２３は、支持部材の構成及び設置位置をユーザ自身に選択させる。
まず、支持部材設定部２３は、ＷＥＢアプリケーションの画面上に、例えば設置可能な支持部材のリストを図１１Ｊのように表示する。
図１１Ｊでは、足裏に設置するための丸板及び角板と、人形に設置するための２種類の支持棒とのリストが表示されている。
ユーザが、リストの中から希望する支持部材をタップして選択すると、支持部材設定部２３は、画面上に選択された支持部材の三次元モデルを表示する。
支持部材の三次元モデルはユーザが指で画面にタッチし、ドラッグすることで元の三次元モデルの好きな位置に対して、適当な長さとして付加することができる。
例えば本実施形態では、ユーザは図１１Ｋに示すように、人形の膝に対して角棒からなる支持部材３７を設置し、表示された三次元モデルを確認したら、画面上のＯＫボタンをタップする。
ＯＫボタンがタップされると、支持部材設定部２３は、三次元モデルの重心位置を算出し、作成される人形が自立可能であるかどうかを判定する。
支持部材設定部２３は、人形が自立不可能と判定した場合、図１１Ｌに示すように支持部材を変更又は設置し直すようにユーザに対してメッセージを表示する。支持部材設定部２３は、人形が自立可能な三次元モデルとなるまで処理を繰り返す。
最終的に人形が自立可能と判定されると、次のＳ９に処理が進む。
Ｓ９以降の処理工程は全て実施形態２と同様であるため説明を省略する。
【００３４】
Ｓ２３において、支持部材を取り外し可能とするかどうかに関して、又は支持部材の色等に関しても、ユーザが好みに応じて選択可能とするものであってもよい。
また、以上説明した処理工程の処理の順番も、上述したものに限定することなく、必要に応じて変更することができる。
また、処理の途中において、随時以前の処理工程、又は以降の処理工程に処理を移行させるようにしてもよい。
図１１Ｇのように、三次元モデルが空中に存在する場合には、該当するシーンを再現するためには図１１Ｍに示すように支持部材４１の設置が必要となるが、この場合は支持部材４１の色を透明として選択することにより、より自然に見える人形を作成することができる。
また図１１Ｎに示すように、オブジェクト（ボール）４２が人物４３と分離して空中に存在する場合には、実施形態１で示した操作により、人物とオブジェクトの位置関係を図１１Ｇのように変更し、両者を一体化することによりオブジェクト（ボール）に対する個別の支持部材の設置を回避することができる。
人物とオブジェクトとの位置関係を変更しない場合には、オブジェクトに対する個別の支持部材（人物との接続用、又は接地用）の設置が必要となる。
以上説明したように、人形作成システム５００により、動画及び画像から選択した人物及びオブジェクトに対して、ユーザの希望に基づいて、シーン又は三次元モデルの変更を行い、又は支持部材の情報を追加することにより、自立可能な人形を作成することができる。
【００３５】
＜実施形態４＞
本実施形態における人形作成システム６００は、過去のシーン情報を基に作成した、適切な表情と姿勢との組合せ辞書を基にして、作成される人形の表情と姿勢との組合せを自動で選択する処理を実行する点が実施形態１〜３と相違しており、その他の構成及び処理に関しては実施形態１〜３と同様である。
したがって、本実施形態では実施形態１〜３と相違する部分について説明を行い、その他の部分に関しては実施形態１〜３と同様として説明を省略する。
【００３６】
図１２は、人形作成システム６００のシステム構成の一例を示す図である。
図１２の人形作成システム６００は、実施形態３で説明した図９に示す人形作成システム５００に対して、さらに表情姿勢組合せ選択部３８が追加されている。
より具体的には、表情姿勢組合せ選択部３８は、ＰＣ２００上で動作するアプリケーションとして実現され、過去のシーン情報を基に作成した、適切な表情と姿勢との組合せ辞書を基にして、作成される人形の表情と姿勢との組合せを自動で選択することを可能とする機能を果たす。
即ち、実施形態１〜３で説明したように動画中からあるシーンを選択する場合、そのシーンにおける人物の表情と姿勢とが適切でない場合が生じ得る。
例えばサッカーにおいて、ゴールを決めたキックにおける選手の表情が、たまたま目を閉じていたり、笑っているように見えたりすることがしばしば生じる。
本実施形態で説明する表情姿勢組合せ選択部３８は、これらの表情と姿勢との不適切な組み合わせを解消するものである。
【００３７】
図１３は、人形作成システム６００により、過去のシーン情報を基に作成した、適切な表情と姿勢との組合せ辞書を基にして、作成される人形の表情と姿勢との組合せを自動で選択し、三次元プリンタによりユーザが希望する人形を作成する情報処理の一例を示すフローチャートである。
図１３に示すように、実施形態３で説明した図１０に示す人形作成システム６００のフローチャートに対して、さらにＳ３９の工程が追加されている。
Ｓ３９は、表情姿勢組合せ選択部３８によって処理が実現される。
図１３を用いて、さらに処理の詳細を説明する。
まず本実施形態においては、図１３に示したＳ６からＳ２７まで、及びＳ９からＳ１０までは、実施形態３と同様に実行される。
したがって、以降では、実施形態３と異なる本実施形態におけるＳ３９に関して説明を行う。
Ｓ２７でユーザが人形化を希望する人物及びオブジェクトの三次元モデルが生成されると、Ｓ３９において、表情姿勢組合せ選択部３８は、人形の表情と姿勢との組合せを判定する。
【００３８】
表情姿勢組合せ選択部３８は、事前に過去の類似のシーン（本実施形態ではサッカーシーン）を集めたデータベースから、ハイライトシーンにおける選手の表情と姿勢との組合せの尤度をマッピングした表情／姿勢辞書を有している。
ここで、まず表情／姿勢辞書の作成方法に関して説明する。
表情／姿勢辞書４０は、例えば図１４に示すようなデータにより構成されている。
まず選手の姿勢は、サッカーの試合においてよく見られる複数の姿勢カテゴリ（キック、ヘディング、トラップ、ガッツポーズ等）に分けられている。
これらのカテゴリ分けは、例えば一般的な認識アルゴリズムである姿勢推定アルゴリズムを用いて、過去の試合の動画から選手の姿勢を抽出することにより実現することができる。
動画より抽出された姿勢における選手の表情が複数の表情カテゴリに分類されている。
本実施形態では、例えば表情カテゴリを（笑顔、集中、閉眼）の３種類に分けるものとする。
表情の識別に関しては、例えば一般的な認識アルゴリズムである表情認識アルゴリズムを用いて、それぞれの姿勢における表情を画像より抽出することで実現することができる。
以上の処理により、過去の動画より各姿勢カテゴリとそのときの選手の表情とに関する、複数の組合せが得られる。
【００３９】
それらの複数の組合せを用いて、各姿勢カテゴリに対応して識別された表情の尤度（発生確率）を算出することができる。
例えば、過去の複数の試合から算出された各姿勢カテゴリに対応した３種類の表情カテゴリの尤度分布が図１４のように算出され、これが表情／姿勢辞書４０として設定されている。
姿勢及び表情のカテゴリ分けに関しては、人間が動画を確認しながら手動で実行することも可能であり、本実施形態は特にその手法を限定するものではない。
また姿勢及び表情のそれぞれのカテゴリ種別に関しても、上述したものはあくまで一例であり、これに限るものではない。
表情姿勢組合せ選択部３８は、表情／姿勢辞書４０を用いて人形の表情と姿勢との組合せを判定する。
Ｓ３９において、まず、表情姿勢組合せ選択部３８は、既に生成された、ユーザが人形化を希望する人物及びオブジェクトの三次元モデルに関して、表情と姿勢とのそれぞれのカテゴリ推定を実行する。
これは、例えば上述した表情認識アルゴリズム、及び姿勢推定アルゴリズムにより実現される。
ここで例えば、図１５Ａに示す三次元モデルに関して、姿勢は"キック"、表情は"笑顔"と推定されたとする。
表情姿勢組合せ選択部３８は、表情／姿勢辞書４０を用いて、推定した姿勢における各表情カテゴリの尤度を参照する。
この場合は、各表情カテゴリは、図１４より（笑顔：０．０５、集中：０．８、閉眼：０．１５）であることが分かる。
一方、三次元モデルより推定された表情カテゴリは"笑顔"であるが、その尤度は０．０５であり、過去の試合では起こりにくい表情であったことが分かる。
本実施形態では、推定された表情カテゴリが、表情／姿勢辞書４０における尤度が１位の表情カテゴリと異なる場合、表情姿勢組合せ選択部３８は、ユーザに対して、三次元モデルの表情を変更することを促すものとする。
【００４０】
より具体的には、推定された姿勢カテゴリに対して、表情／姿勢辞書４０において尤度が１位の表情カテゴリは"集中"となっているため、表情姿勢組合せ選択部３８は、表情／姿勢辞書４０の作成時に"集中"と判定された同一選手の画像より作成された顔領域の三次元モデルを用いて、現状の三次元モデルの顔領域を変換し、図１５Ｂに示すようにＷＥＢアプリケーションの表示画面に表示する。
表情／姿勢辞書４０の作成時に"集中"と判定された画像から、同一の選手の画像を探索する手法としては、顔認識技術が用いられている。
ユーザは、表示された修正後の三次元モデルを画面上で確認し、その三次元モデルを人形化することを承認すればＯＫボタンをタップし、もしも修正前の三次元モデルを人形化することを希望するのであればＮＯボタンをタップする。
又は、別の修正用の表情の三次元モデルを探索することを希望する場合には、Ｒｅｔｒｙボタンをタップすることで、表情／姿勢辞書４０の作成時に"集中"と判定された同一選手の異なる画像より作成された顔領域の三次元モデルを用いて、再度三次元モデルを修正することもできる。
【００４１】
また上述した例では、表情／姿勢辞書において尤度が１位の表情カテゴリに対応する修正案を提示するものとしたが、さらに１位以下の表情カテゴリに対応する修正案を提示するものであってもよい。
また上述した例では、表情／姿勢辞書の作成時に同一表情カテゴリと判定された顔領域の三次元モデル（即ち過去のデータ）を用いて変換を行ったが、これ以外にもユーザが選択した動画中で同一表情カテゴリと判定される顔領域の三次元モデルを用いて変換を行うものであってもよい。
また、辞書の内容や表情と姿勢との組合せに関する評価方法（本実施形態では尤度）等は、あくまで一例に過ぎず、人形の表情と姿勢とを適切な組み合わせに変換することが可能であればその他の方法であってもよい。
以上説明したように、人形作成システム６００により、動画及び画像から選択した人物に関して、表情と姿勢とが適切な組み合わせである人形を作成することができる。
【００４２】
＜その他の実施形態＞
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給する。そして、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読み出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【００４３】
以上、本発明の実施形態の一例について詳述したが、本発明は係る特定の実施形態に限定されるものではない。
上述した実施形態を任意に組み合わせて実施してもよい。
【００４４】
以上、上述した各実施形態によれば、ユーザが希望する人形を作成することができる。なお、本実施形態では、人物とオブジェクトを分けて説明したが、人物もオブジェクトの一種ととらえることもできる。
【符号の説明】
【００４５】
２００  ＰＣ
２０１  ＣＰＵ
【図１】
2020062322.tif 000003
【図２】
2020062322.tif 000004
【図３】
2020062322.tif 000005
【図４】
2020062322.tif 000006
【図５Ａ】
2020062322.tif 000007
【図５Ｂ】
2020062322.tif 000008
【図５Ｃ】
2020062322.tif 000009
【図５Ｄ】
2020062322.tif 000010
【図５Ｅ】
2020062322.tif 000011
【図５Ｆ】
2020062322.tif 000012
【図５Ｇ】
2020062322.tif 000013
【図５Ｈ】
2020062322.tif 000014
【図６】
2020062322.tif 000015
【図７】
2020062322.tif 000016
【図８Ａ】
2020062322.tif 000017
【図８Ｂ】
2020062322.tif 000018
【図８Ｃ】
2020062322.tif 000019
【図８Ｄ】
2020062322.tif 000020
【図８Ｅ】
2020062322.tif 000021
【図８Ｆ】
2020062322.tif 000022
【図９】
2020062322.tif 000023
【図１０】
2020062322.tif 000024
【図１１Ａ】
2020062322.tif 000025
【図１１Ｂ】
2020062322.tif 000026
【図１１Ｃ】
2020062322.tif 000027
【図１１Ｄ】
2020062322.tif 000028
【図１１Ｅ】
2020062322.tif 000029
【図１１Ｆ】
2020062322.tif 000030
【図１１Ｇ】
2020062322.tif 000031
【図１１Ｈ】
2020062322.tif 000032
【図１１Ｉ】
2020062322.tif 000033
【図１１Ｊ】
2020062322.tif 000034
【図１１Ｋ】
2020062322.tif 000035
【図１１Ｌ】
2020062322.tif 000036
【図１１Ｍ】
2020062322.tif 000037
【図１１Ｎ】
2020062322.tif 000038
【図１２】
2020062322.tif 000039
【図１３】
2020062322.tif 000040
【図１４】
2020062322.tif 000041
【図１５Ａ】
2020062322.tif 000042
【図１５Ｂ】
2020062322.tif 000043