(57)【要約】【課題】撮像画像の再生における利便性の向上を図ることが可能な、情報処理装置、情報処理方法、およびプログラムを提供する。【解決手段】被写体に関するタグ情報と、複数のタグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する再生処理部を備える、情報処理装置が、提供される。【選択図】図３
2019187493.tif 000002
【特許請求の範囲】
【請求項１】
被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する再生処理部を備える、情報処理装置。
【請求項２】
前記再生条件には、前記タグ情報に関する条件と前記識別情報に関する条件との一方または双方が、含まれる、請求項１に記載の情報処理装置。
【請求項３】
前記再生条件は、ユーザの操作に基づき設定される、請求項１に記載の情報処理装置。
【請求項４】
前記再生条件は、前記撮像画像に関連するメタ情報に基づき設定される、請求項１に記載の情報処理装置。
【請求項５】
前記再生処理部は、選択された撮像装置により撮像された前記撮像画像を再生する、請求項１に記載の情報処理装置。
【請求項６】
前記撮像装置は、ユーザの操作に基づき選択される、請求項５に記載の情報処理装置。
【請求項７】
前記撮像装置は、前記タグ情報と前記識別情報との一方または双方が選択されることによって選択される、請求項５に記載の情報処理装置。
【請求項８】
前記再生処理部は、再生する前記撮像画像から、再生する前記撮像画像に対応付けられている前記タグ情報に対応する被写体を含む一部の領域を切り出す、請求項１に記載の情報処理装置。
【請求項９】
撮像装置により撮像された撮像画像に対して、前記タグ情報と前記識別情報とを対応付ける対応付け処理部を、さらに備える、請求項１に記載の情報処理装置。
【請求項１０】
撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とを対応付ける対応付け処理部を備える、情報処理装置。
【請求項１１】
前記対応付け処理部は、
前記撮像画像から被写体を抽出し、
所定期間内に撮像された前記撮像画像に基づいて、前記撮像画像それぞれから抽出される前記被写体の軌跡を推定し、
推定された前記被写体の軌跡に基づき前記タグ情報を生成し、
生成された前記タグ情報を前記撮像画像に対応付ける、請求項１０に記載の情報処理装置。
【請求項１２】
前記対応付け処理部は、設定されている前記タグ情報の生成規則に従って、前記タグ情報を生成する、請求項１１に記載の情報処理装置。
【請求項１３】
前記対応付け処理部は、機械学習により前記タグ情報を生成する、請求項１１に記載の情報処理装置。
【請求項１４】
前記対応付け処理部は、設定されている前記タグ情報の関連付け規則に従って複数の前記タグ情報を関連付け、関連付られた複数の前記タグ情報に対する前記識別情報を生成し、
生成された前記識別情報を前記撮像画像に対応付ける、請求項１１に記載の情報処理装置。
【請求項１５】
前記対応付け処理部は、機械学習により複数の前記タグ情報を関連付け、関連付られた複数の前記タグ情報に対する前記識別情報を生成し、
生成された前記識別情報を前記撮像画像に対応付ける、請求項１１に記載の情報処理装置。
【請求項１６】
被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生するステップを有する、情報処理装置により実行される情報処理方法。
【請求項１７】
撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とを対応付けるステップを有する、情報処理装置により実行される情報処理方法。
【請求項１８】
被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する機能を、コンピュータに実現させるためのプログラム。
【請求項１９】
撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とを対応付ける機能を、コンピュータに実現させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
【背景技術】
【０００２】
プレーごとに区切られた複数の動画像をダイジェスト再生する際に、各動画像を適切な再生時間で再生するための技術が開発されている。上記技術としては、例えば下記の特許文献１に記載の技術が挙げられる。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１７−１５７９５２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
スポーツを例に挙げると、バスケットボールや、テニス、バレーボール、サッカー、卓球などの様々なスポーツの中継を行うために、スポーツが行われる領域を、撮像装置で撮像することが、行われている。スポーツが行われる領域には、例えば、コートなどのスポーツが行われる領域と、観客席などスポーツを行う者以外の者が存在しうる領域とが含まれる。【０００５】
また、上記のように撮像装置により撮像される撮像画像（動画像または静止画像。以下、同様とする。）の再生に着目すると、撮像画像（動画像または静止画像。以下、同様とする。）全体だけではなく、撮像画像が示す特定のシーンを再生させたいというニーズがある。【０００６】
ここで、上記特許文献１に技術では、複数の動画像をダイジェスト再生する際に、適切な再生時間での再生が図られている。しかしながら、上記特許文献１に技術に係る手法では、スポーツのプレーに関する情報と再生時間の対応関係が既知である必要があり、事前に再生時間を決めることが難しいプレー（例えば、バスケットボールにおけるドリブルやパス回しなど）では、適切な再生時間で再生することが困難である。【０００７】
本開示では、撮像画像の再生における利便性の向上を図ることが可能な、新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提案する。
【課題を解決するための手段】
【０００８】
本開示によれば、被写体に関するタグ情報と、複数の上記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する再生処理部を備える、情報処理装置が、提供される。【０００９】
また、本開示によれば、撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の上記タグ情報の関連付けを示す識別情報とを対応付ける対応付け処理部を備える、情報処理装置が、提供される。【００１０】
また、本開示によれば、被写体に関するタグ情報と、複数の上記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生するステップを有する、情報処理装置により実行される情報処理方法が、提供される。【００１１】
また、本開示によれば、撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の上記タグ情報の関連付けを示す識別情報とを対応付けるステップを有する、情報処理装置により実行される情報処理方法が、提供される。【００１２】
また、本開示によれば、被写体に関するタグ情報と、複数の上記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する機能を、コンピュータに実現させるためのプログラムが、提供される。【００１３】
また、本開示によれば、撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の上記タグ情報の関連付けを示す識別情報とを対応付ける機能を、コンピュータに実現させるためのプログラムが、提供される。
【発明の効果】
【００１４】
本開示によれば、撮像画像の再生における利便性の向上を図ることができる。【００１５】
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
【図面の簡単な説明】
【００１６】
【図１】本実施形態に係る情報処理方法の概要を説明するための説明図である。
【図２】本実施形態に係る情報処理方法が適用される情報処理システムの一例を示す説明図である。
【図３】本実施形態に係る情報処理装置の機能構成の一例を示すブロック図である。
【図４】本実施形態に係る情報処理装置のハードウェア構成の一例を示す説明図である。
【図５】本実施形態に係る情報処理方法に係る対応付け処理の一例を示す流れ図である。
【図６】本実施形態に係るタグ情報の一例を示す説明図である。
【図７】本実施形態に係る情報処理方法に係る対応付け処理におけるタグ情報の生成処理の一例を示す説明図である。
【図８】本実施形態に係る情報処理方法に係る対応付け処理における識別情報の生成処理の一例を示す説明図である。
【図９】本実施形態に係る情報処理方法に係る対応付け処理における識別情報の生成処理の一例を示す説明図である。
【図１０】本実施形態に係る情報処理方法に係る対応付け処理における識別情報の生成処理の一例を示す説明図である。
【図１１】本実施形態に係る情報処理方法に係る再生処理における切り出し処理の一例を示す説明図である。
【発明を実施するための形態】
【００１７】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００１８】
また、以下では、下記に示す順序で説明を行う。
１．本実施形態に係る情報処理方法
［１］本実施形態に係る情報処理方法の概要
［２］本実施形態に係る情報処理方法に係る処理の一例
［３］本実施形態に係る情報処理方法が用いられることにより奏される効果の一例
［４］本実施形態に係る情報処理システムを構成する各装置の適用例
２．本実施形態に係るプログラム
【００１９】
（本実施形態に係る情報処理方法）
以下では、本実施形態に係る情報処理方法に係る処理を、本実施形態に係る情報処理装置が行う場合を例に挙げる。本実施形態に係る情報処理装置の構成の一例については、本実施形態に係る情報処理方法に係る処理の一例の説明と共に、説明する。
【００２０】
また、以下では、本実施形態に係る情報処理方法が、バスケットボールが行われる領域（スポーツが行われる領域の一例）を、撮像装置で撮像する場合に適用される例を、主に説明する。なお、本実施形態に係る情報処理方法の適用例は、係る例に限定されない。
【００２１】
なお、本実施形態に係る情報処理方法が適用される例は、バスケットボールが行われる領域を撮像装置で撮像する例に限られない。例えば、本実施形態に係る情報処理方法は、“テニスや、バレーボール、卓球などの球技”や、“アイススケート、柔道などの、球技以外のスポーツ”など、任意のスポーツに適用することが可能である。
【００２２】
また、本実施形態に係る情報処理方法が適用される例は、スポーツが行われる領域を撮像装置で撮像する例に限られない。例えば、本実施形態に係る情報処理方法は、防犯の対象となる領域を撮像装置で撮像する場合など、任意の所定の領域（３次元空間）を撮像装置で撮像する場合に、適用することが可能である。
【００２３】
また、以下では、撮像画像が動画像である場合を主に例に挙げる。なお、上述したように、本実施形態に係る撮像画像は、動画像に限られず、静止画像であってもよい。また、本実施形態に係る撮像画像には、マイクロホンなどの音声入力装置により生成された音声などの音声（音楽も含みうる。）が、所定の画像フォーマットに従って対応付けられていてもよい。撮像画像に対応付けられる音声は、例えば、後述する盛り上がり情報の生成などに用いることが可能である。
【００２４】
［１］本実施形態に係る情報処理方法の概要
上述したように、撮像画像全体だけではなく、撮像画像が示す特定のシーンを再生させたいというニーズがある。
【００２５】
そこで、本実施形態に係る情報処理装置は、タグ情報と識別情報とが対応付けられている撮像画像を、再生対象の撮像画像とし、当該撮像画像を、設定される再生条件に基づき再生する（再生処理）。
【００２６】
本実施形態に係るタグ情報は、撮像画像に含まれる被写体に関するデータであり、タグ情報は、被写体と当該被写体の動作内容とを示す。タグ情報の具体例については、後述する。
【００２７】
本実施形態に係る識別情報は、複数のタグ情報の関連付けを示すデータである。識別情報としては、例えば、関連付けられているタグ情報に対して付与される固有のＩＤが、挙げられる。
【００２８】
例えば、タグ情報と識別情報とが撮像画像のメタデータとして記録されることによって、タグ情報と識別情報とは、撮像画像に対応付けられる。なお、タグ情報と識別情報は、撮像画像のメタデータとして記録されることに限られず、撮像画像と関連付けることが可能な任意の方法によって、撮像画像に対応付けられてもよい。
【００２９】
図１は、本実施形態に係る情報処理方法の概要を説明するための説明図であり、タグ情報と識別情報とが対応付けられている撮像画像を再生する再生画面の一例を示している。図１に示すＡは、撮像画像に対応付けられているタグ情報の内容を示しており、例えば、撮像画像に対応付けられているタグ情報の内容が時系列で表示される。図１に示すＢは、撮像画像に対応付けられている識別情報の内容を示している。図１に示すように、例えば、撮像画像に対応付けられている識別情報の内容と、当該識別情報に関連付けられている複数のタグ情報の内容とは、視覚的に認識可能であるように表示される。
【００３０】
なお、タグ情報と識別情報とが対応付けられている撮像画像を再生する再生画面の一例が、図１に示す例に限られないことは、言うまでもない。
【００３１】
タグ情報と識別情報とが撮像画像に対応付けられることによって、タグ情報と識別情報との一方または双方を指標として、撮像画像を再生することが可能となる。つまり、撮像画像に対応付けられるタグ情報と識別情報とは、再生を行う指標となる情報であるといえる。
【００３２】
つまり、本実施形態に係る再生条件としては、タグ情報に関する条件と識別情報に関する条件との一方または双方が、挙げられる。なお、本実施形態に係る再生条件には、撮像画像全体を生成する条件のように、タグ情報に関する条件と識別情報に関する条件との一方または双方を含まない条件が、含まれうる。
【００３３】
タグ情報に関する条件としては、例えば、指定されているタグ情報のＡＮＤ条件、指定されているタグ情報のＮＯＲ条件、指定されているタグ情報のＮＡＮＤ条件などが、挙げられる。なお、タグ情報に関する条件の例が、上記に示す例に限られないことは、言うまでもない。
【００３４】
識別情報に関する条件としては、例えば、指定されている識別情報のＡＮＤ条件、指定されている識別情報のＮＯＲ条件、指定されている識別情報のＮＡＮＤ条件などが、挙げられる。なお、識別情報に関する条件の例が、上記に示す例に限られないことは、言うまでもない。
【００３５】
再生条件は、例えば、ユーザの操作に基づき設定される。再生条件の設定に係る操作としては、例えば、操作部（後述する）を用いた操作や、リモートコントローラなどの外部の操作デバイスを用いた操作、ジェスチャによる操作、音声による操作のうちの１または２以上などが、挙げられる。
【００３６】
なお、再生条件は、ユーザの操作に基づき設定されることに限られない。再生条件は、撮像画像に関連するメタ情報に基づき設定されてもよい。撮像画像に関連するメタ情報としては、例えば、撮像画像が示す内容に対する盛り上がりの状態が数値化されている盛り上がり情報や、撮像画像の再生履歴を示すデータなどが、挙げられる。盛り上がり情報は、例えば、ＳＮＳ（Social  Networking  Service）のデータを解析すること、撮像画像に対応する音声データを解析することなど、撮像画像が示す内容に対する盛り上がりを数値化することが可能な任意の技術を用いて生成される。盛り上がり情報を生成する処理は、本実施形態に係る情報処理装置が行ってもよいし、本実施形態に係る情報処理装置の外部装置において行われてもよい。
【００３７】
再生条件がユーザの操作に基づき設定されることによって、ユーザは、撮像画像における所望のシーンを、本実施形態に係る情報処理装置に再生させることができる。また、再生条件が撮像画像に関連するメタ情報に基づき設定されることによって、例えばループ再生などのような、自動的な撮像画像の再生が、実現される。なお、再生条件は、ユーザの操作と撮像画像に関連するメタ情報との双方により設定されてもよい。ユーザの操作と撮像画像に関連するメタ情報との双方により設定される再生条件の一例としては、“撮像画像に関連するメタ情報により設定された後、ユーザの操作に基づき変更される再生条件”が、挙げられる。
【００３８】
上記のように、本実施形態に係る情報処理装置は、タグ情報と識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する。撮像画像に対応付けられるタグ情報と識別情報とは、再生を行う指標として機能するので、タグ情報に関する条件と識別情報に関する条件との一方または双方が再生条件として設定される場合には、撮像画像が示す特定のシーン（再生条件に合致するシーン）が再生される。
【００３９】
よって、本実施形態に係る情報処理装置は、撮像画像が示す特定のシーンを再生させたいというニーズを満たすことができるので、撮像画像の再生における利便性の向上を図ることができる。
【００４０】
なお、本実施形態に係る情報処理方法に係る処理は、上記再生処理に限られない。例えば、本実施形態に係る情報処理装置は、撮像画像に対してタグ情報と識別情報とを対応付ける処理（対応付け処理）を、さらに行ってもよい。本実施形態に係る対応付け処理の一例については、後述する。
【００４１】
また、本実施形態に係る情報処理方法は、対応付け処理を行う第１の情報処理装置と、再生処理を行う第２の情報処理装置とを有する、情報処理システムに適用されてもよい。再生処理を行う第２の情報処理装置は、外部装置（対応付け処理を行う第１の情報処理装置）においてタグ情報と識別情報とが対応付けられた撮像画像、または、タグ情報と識別情報と手動で対応付けられた撮像画像を、再生処理の処理対象とする。
【００４２】
［２］本実施形態に係る情報処理方法に係る処理の一例
次に、上述した本実施形態に係る情報処理方法に係る処理の一例を、本実施形態に係る情報処理方法が適用される情報処理システムの一例を示しつつ説明する。以下では、１つの情報処理装置が、本実施形態に係る情報処理方法に係る対応付け処理および再生処理の双方を行う場合を例に挙げる。
【００４３】
なお、上述したように、本実施形態に係る情報処理方法に係る対応付け処理と、本実施形態に係る情報処理方法に係る再生処理とは、別体の情報処理装置において行われてもよい。また、本実施形態に係る情報処理方法に係る再生処理を行う情報処理装置は、タグ情報と識別情報と手動で対応付けられた撮像画像を、再生処理の処理対象とすることも可能である。
【００４４】
図２は、本実施形態に係る情報処理方法が適用される情報処理システム１０００の一例を示す説明図である。情報処理システム１０００は、例えば、情報処理装置１００と、撮像装置２００Ａ、２００Ｂ、２００Ｃとを有する。以下では、撮像装置２００Ａ、２００Ｂ、２００Ｃのうちの１つを指して、または、撮像装置２００Ａ、２００Ｂ、２００Ｃを総称して、「撮像装置２００」と示す場合がある。
【００４５】
情報処理装置１００と撮像装置２００とは、例えば、ネットワーク３００を介して無線または有線で接続され、ネットワーク３００を介した通信によって、通信を行う。本実施形態に係るネットワーク３００としては、例えば、ＬＡＮ（Local  Area  Network）やＷＡＮ（Wide  Area  Network）などの有線ネットワーク、ＷＬＡＮ（Wireless  Local  Area  Network）などの無線ネットワーク、あるいは、ＴＣＰ／ＩＰ（Transmission  Control  Protocol/Internet  Protocol）などの通信プロトコルを用いたインターネットなどが挙げられる。なお、本実施形態に係る情報処理システムでは、情報処理装置１００と撮像装置２００とは、ネットワーク３００を介さずに、直接的に通信を行うことも可能である。
【００４６】
なお、本実施形態に係る情報処理システムの構成は、図１に示す例に限られない。
【００４７】
例えば、図１では３つの撮像装置２００を有する構成を示しているが、本実施形態に係る情報処理システムは、１つの撮像装置２００、２つの撮像装置、あるいは、４つ以上の撮像装置２００を有する構成であってもよい。つまり、本実施形態に係る情報処理システムは、１または２以上の撮像装置２００を有しうる。
【００４８】
また、本実施形態に係る情報処理システムは、情報処理装置１００と撮像装置２００との間の通信を中継する中継装置（図示せず）を、さらに有していてもよい。また、本実施形態に係る情報処理システムにおいて、中継装置（図示せず）は、例えば、画像データなどの様々なデータを集約する機能と、様々なデータを分配する機能とを有する、データ集約・分配装置の役目を果たしていてもよい。中継装置（図示せず）としては、例えばルータなどが挙げられる。
【００４９】
また、本実施形態に係る情報処理システムは、例えば、第１の記憶装置、パラメータ記憶装置、撮像装置２００のキャリブレーション処理装置、入力装置、表示装置、第２の記憶装置のうちの、一部または全部をさらに有していてもよい。なお、これらの装置が有する機能のうちの一部または全部は、本実施形態に係る情報処理装置が有していてもよい。
【００５０】
第１の記憶装置は、撮像装置２００において撮像された撮像画像を記憶する機能を有する装置である。第１の記憶装置で撮像画像が記憶されることによって、本実施形態に係る情報処理方法に係る処理などの、本実施形態に係る情報処理システムおける後段の処理を撮像現場で必ずしも実施する必要がなくなる。また、第１の記憶装置で撮像画像が記憶されることによって、ユーザが好きなタイミングで撮像画像を再生させて見ることが、可能となる。また、本実施形態に係る情報処理システムが第１の記憶装置を有さない場合、撮像装置２００は、撮像画像を示す信号（デジタル信号またはアナログ信号）を、本実施形態に係る情報処理装置などの他の装置に対して、ストリーミング送信してもよい。
【００５１】
パラメータ記憶装置は、撮像装置２００の内部パラメータ（例えば、焦点距離、レンズの補正量など）を記憶する機能を有する装置である。パラメータ記憶装置における内部パラメータの記憶は、例えば、第１の記憶装置における撮像画像の記憶と同期して行われる。パラメータ記憶装置における内部パラメータの記憶が、第１の記憶装置における撮像画像の記憶と同期して行われることによって、例えばユーザが好きなタイミングで撮像画像を再生させて見ることが、より容易に可能となる。
【００５２】
撮像装置２００のキャリブレーション処理装置は、撮像装置２００の位置、視点方向などを示す撮像装置２００の状態情報を取得する機能を有する装置である。撮像装置２００のキャリブレーション処理装置は、撮像装置２００の内部パラメータに基づいて任意のキャリブレーションを実施して、撮像装置２００の位置、視点方向などを示すパラメータを取得する。そして、撮像装置２００のキャリブレーション処理装置は、取得したパラメータを示す状態情報を、撮像装置２００の撮像画像（撮像装置２００それぞれの視点に対応する撮像画像）と対応付けて記憶する。
【００５３】
入力装置は、撮像装置２００により撮像される領域を示す領域情報を、本実施形態に係る情報処理装置などに入力する装置である。領域情報としては、例えば、コートやグラウンド、ゴール位置などの位置を三次元で示す三次元データが、挙げられる。入力装置としては、例えば、キーボード、マウス、タッチパネルなどが挙げられる。領域情報は、例えば、マウスロールや、ドラッグアンドドロップ、ピンチ操作、フリック操作、ダブルタッチ操作などの、任意の操作によって、生成される。キーボードやマウスが入力装置として用いられる場合には、タッチパネルのような表示と操作とが可能なデバイスが入力装置として用いられる場合と比較して、細かな入力が可能であるという利点がある。一方、タッチパネルのような表示と操作とが可能なデバイスが入力装置として用いられる場合には、キーボードやマウスが入力装置として用いられる場合と比較して、入力のための別途のデバイスを必要としないため、導入のための必要機材が少ないという利点がある。
【００５４】
表示装置は、本実施形態に係る情報処理装置により再生された撮像画像など、様々な画像を表示画面に表示することが可能な装置である。
【００５５】
第２の記憶装置は、本実施形態に係る情報処理装置における処理後のデータ（例えば、タグ情報および識別情報が対応付けられている撮像画像など）を記憶する装置である。なお、第１の記憶装置と第２の記憶装置とは、同一の装置であってもよい。
【００５６】
ここで、例えば図１に示す情報処理システム１０００のように、複数の撮像装置２００で撮像が行われる場合（すなわち、複数視点で撮像が行われる場合）には、記憶される撮像画像のデータ容量が大きくなる傾向にある。そのため、第２の記憶装置には、撮像画像を示すデータのうちの一部のデータのみが記憶されてもよい。一例を挙げると、第２の記憶装置には、再生条件として設定されたタグ情報と識別情報との一方または双方が対応付けられている撮像画像を示すデータが、上記一部のデータとして記憶される。なお、上記一部のデータの例が、上記に示す例に限られないことは、言うまでもない。また、第２の記憶装置に全ての撮像画像のデータが記憶されるか、または、第２の記憶装置に一部の撮像画像のデータが記憶されるかは、第２の記憶装置が記憶可能なデータ容量（例えば、第２の記憶装置が備える記録媒体の記憶容量）に基づき、手動でまたは自動的に選択されてもよい。
【００５７】
［２−１］情報処理装置１００
情報処理装置１００は、本実施形態に係る情報処理方法に係る処理を行う装置である。以下では、情報処理装置１００が、本実施形態に係る情報処理方法に係る対応付け処理および再生処理の双方を行う場合を例に挙げる。
【００５８】
図３は、本実施形態に係る情報処理装置１００の機能構成の一例を示すブロック図である。情報処理装置１００は、例えば、通信部１０２と、制御部１０４とを備える。
【００５９】
また、情報処理装置１００は、例えば、ＲＯＭ（Read  Only  Memory。図示せず）や、ＲＡＭ（Random  Access  Memory。図示せず）、記憶部（図示せず）、情報処理装置１００の使用者が操作可能な操作部（図示せず）、様々な画面を表示画面に表示する表示部（図示せず）などを備えていてもよい。情報処理装置１００は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。
【００６０】
ＲＯＭ（図示せず）は、制御部１０４が使用するプログラムや演算パラメータなどの制御用データを記憶する。ＲＡＭ（図示せず）は、制御部１０４により実行されるプログラムなどを一時的に記憶する。
【００６１】
記憶部（図示せず）は、情報処理装置１００が備える記憶手段であり、例えば、本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなどの、様々なデータを記憶する。ここで、記憶部（図示せず）としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記憶部（図示せず）は、情報処理装置１００から着脱可能であってもよい。
【００６２】
操作部（図示せず）としては、後述する操作入力デバイスが挙げられる。また、表示部（図示せず）としては、後述する表示デバイスが挙げられる。
【００６３】
［情報処理装置１００のハードウェア構成例］
図４は、本実施形態に係る情報処理装置１００のハードウェア構成の一例を示す説明図である。情報処理装置１００は、例えば、ＭＰＵ１５０と、ＲＯＭ１５２と、ＲＡＭ１５４と、記録媒体１５６と、入出力インタフェース１５８と、操作入力デバイス１６０と、表示デバイス１６２と、通信インタフェース１６４とを備える。また、情報処理装置１００は、例えば、データの伝送路としてのバス１６６で各構成要素間を接続する。また、情報処理装置１００は、例えば、情報処理装置１００が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
【００６４】
ＭＰＵ１５０は、例えば、ＭＰＵ（Micro  Processing  Unit）などの演算回路で構成される、１または２以上のプロセッサや、各種処理回路などで構成され、情報処理装置１００全体を制御する制御部１０４として機能する。また、ＭＰＵ１５０は、情報処理装置１００において、例えば、後述する対応付け処理部１１０および再生処理部１１２の役目を果たす。なお、対応付け処理部１１０と再生処理部１１２との一方または双方は、専用の（または汎用の）回路（例えば、ＭＰＵ１５０とは別体のプロセッサなど）で構成されていてもよい。
【００６５】
ＲＯＭ１５２は、ＭＰＵ１５０が使用するプログラムや演算パラメータなどの制御用データなどを記憶する。ＲＡＭ１５４は、例えば、ＭＰＵ１５０により実行されるプログラムなどを一時的に記憶する。
【００６６】
記録媒体１５６は、記憶部（図示せず）として機能し、例えば、本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなどの、様々なデータを記憶する。ここで、記録媒体１５６としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリが挙げられる。また、記録媒体１５６は、情報処理装置１００から着脱可能であってもよい。
【００６７】
入出力インタフェース１５８は、例えば、操作入力デバイス１６０や、表示デバイス１６２を接続する。操作入力デバイス１６０は、操作部（図示せず）として機能し、また、表示デバイス１６２は、表示部（図示せず）として機能する。ここで、入出力インタフェース１５８としては、例えば、ＵＳＢ（Universal  Serial  Bus）端子や、ＤＶＩ（Digital  Visual  Interface）端子、ＨＤＭＩ（High-Definition  Multimedia  Interface）（登録商標）端子、各種処理回路などが挙げられる。
【００６８】
また、操作入力デバイス１６０は、例えば、情報処理装置１００上に備えられ、情報処理装置１００の内部で入出力インタフェース１５８と接続される。操作入力デバイス１６０としては、例えば、ボタンや、方向キー、ジョグダイヤルなどの回転型セレクタ、あるいは、これらの組み合わせなどが挙げられる。
【００６９】
また、表示デバイス１６２は、例えば、情報処理装置１００上に備えられ、情報処理装置１００の内部で入出力インタフェース１５８と接続される。表示デバイス１６２としては、例えば、液晶ディスプレイや有機ＥＬディスプレイ（Organic  Electro-Luminescence  Display。または、ＯＬＥＤディスプレイ（Organic  Light  Emitting  Diode  Display）ともよばれる。）などが挙げられる。
【００７０】
なお、入出力インタフェース１５８が、情報処理装置１００の外部の操作入力デバイス（例えば、キーボードやマウスなど）や外部の表示デバイスなどの、外部デバイスと接続することも可能であることは、言うまでもない。また、表示デバイス１６２は、例えばタッチパネルなど、表示とユーザ操作とが可能なデバイスであってもよい。
【００７１】
通信インタフェース１６４は、情報処理装置１００が備える通信手段であり、ネットワーク３００を介して（あるいは、直接的に）、撮像装置２００などの外部装置と、無線または有線で通信を行うための通信部１０２として機能する。ここで、通信インタフェース１６４としては、例えば、通信アンテナおよびＲＦ（Radio  Frequency）回路（無線通信）や、ＩＥＥＥ８０２．１５．１ポートおよび送受信回路（無線通信）、ＩＥＥＥ８０２．１１ポートおよび送受信回路（無線通信）、あるいはＬＡＮ（Local  Area  Network）端子および送受信回路（有線通信）などが挙げられる。また、通信インタフェース１６４は、ネットワーク３００に対応する任意の構成であってもよい。
【００７２】
情報処理装置１００は、例えば図４に示す構成によって、本実施形態に係る情報処理方法に係る処理を行う。なお、本実施形態に係る情報処理装置１００のハードウェア構成は、図４に示す構成に限られない。
【００７３】
例えば、情報処理装置１００は、接続されている外部の通信デバイスを介して外部装置などと通信を行う場合には、通信インタフェース１６４を備えていなくてもよい。また、通信インタフェース１６４は、複数の通信方式によって、１または２以上の外部装置などと通信を行うことが可能な構成であってもよい。
【００７４】
また、情報処理装置１００は、例えば、撮像デバイスをさらに備えていてもよい。情報処理装置１００が撮像デバイスを備える場合、当該撮像デバイスは、撮像により撮像画像（動画像または静止画像）を生成する撮像部（図示せず）として機能する。また、情報処理装置１００が撮像デバイスを備える場合、情報処理装置１００は、撮像装置２００の役目を果たしうる。
【００７５】
また、情報処理装置１００は、例えば、スピーカなどの音声出力デバイスをさらに備えていてもよい。
【００７６】
また、情報処理装置１００は、例えば、記録媒体１５６、操作入力デバイス１６０、表示デバイス１６２のうちの一部または全部を備えない構成をとることが可能である。
【００７７】
また、情報処理装置１００は、例えば、後述する情報処理装置１００の適用例に応じた構成をとることが可能である。
【００７８】
また、例えば、図４に示す構成（または変形例に係る構成）の一部または全部は、１、または２以上のＩＣ（Integrated  Circuit）で実現されてもよい。
【００７９】
再度図３を参照して、情報処理装置１００の構成の一例について説明する。通信部１０２は、情報処理装置１００が備える通信手段であり、ネットワーク３００を介して（あるいは、直接的に）、撮像装置２００などの外部装置と、無線または有線で通信を行う。また、通信部１０２は、例えば制御部１０４により通信が制御される。
【００８０】
ここで、通信部１０２としては、例えば、通信アンテナおよびＲＦ回路や、ＬＡＮ端子および送受信回路などが挙げられるが、通信部１０２の構成は、上記に限られない。例えば、通信部１０２は、ＵＳＢ端子および送受信回路などの通信を行うことが可能な任意の規格に対応する構成や、ネットワーク３００を介して外部装置と通信可能な任意の構成をとることができる。また、通信部１０２は、複数の通信方式によって、１または２以上の外部装置などと通信を行うことが可能な構成であってもよい。
【００８１】
制御部１０４は、例えばＭＰＵなどで構成され、情報処理装置１００全体を制御する役目を果たす。また、制御部１０４は、例えば、対応付け処理部１１０と、再生処理部１１２とを有し、本実施形態に係る情報処理方法に係る処理を主導的に行う役目を果たす。
【００８２】
［２−１−１］対応付け処理部１１０
対応付け処理部１１０は、本実施形態に係る情報処理方法に係る対応付け処理を主導的に行う役目を果たし、撮像画像にタグ情報と識別情報とを対応付ける。
【００８３】
対応付け処理部１１０は、例えば下記の（Ａ）、（Ｂ）、（Ｃ）、（Ｄ）に示す４つの処理を行うことによって、撮像画像にタグ情報と識別情報とを対応付ける。
【００８４】
図５は、本実施形態に係る情報処理方法に係る対応付け処理の一例を示す流れ図である。以下、図１に示す情報処理システム１０００のように複数の撮像装置２００により複数の視点で撮像された、複数の撮像画像を処理する場合を例に挙げて、本実施形態に係る対応付け処理の一例を説明する。
【００８５】
（Ａ）被写体抽出処理（被写体解析処理）：図５のＳ１００
対応付け処理部１１０は、撮像画像から被写体を抽出する。
【００８６】
対応付け処理部１１０は、複数の撮像画像と、各撮像画像を撮像した撮像装置２００の状態情報に基づいて、各撮像画像に含まれるオブジェクトを三次元空間上のオブジェクトとして統合し、三次元データを生成する。
【００８７】
対応付け処理部１１０は、生成された三次元データに基づいて、例えば、ボールや選手などの被写体の位置推定に係る処理や、顔認識や背番号認識などの任意のオブジェクト認識技術に係る処理を行ない、被写体の位置の推定結果を示す位置情報と、被写体の認識結果を示す被写体情報とを生成する。また、対応付け処理部１１０は、三次元データに基づいて被写体の姿勢推定に係る処理を行なうことによって、被写体の姿勢の推定結果を示す姿勢情報を、さらに生成してもよい。姿勢情報が生成されることによって、後述するタグ情報の生成処理において、より精度が高い内容を示すタグ情報を生成することが可能となる。
【００８８】
なお、対応付け処理部１１０は、例えば、情報処理装置１００におけるプロセッサの処理能力、当該プロセッサの負荷状態、およびタグ情報が示す内容に対して求められる精度の設定のうちの一部または全部に基づいて、三次元データに基づき生成する情報の種類を変えてもよい。
【００８９】
三次元データに基づき生成される位置情報、被写体情報、および姿勢情報それぞれは、撮像画像に含まれる被写体に関連する情報である。また、三次元データは、撮像画像に基づき生成されたデータである。よって、三次元データに基づき位置情報、被写体情報、および姿勢情報が生成されることによって、撮像画像から被写体を抽出することができる。
【００９０】
対応付け処理部１１０は、例えば上記のような処理を行うことによって、撮像画像から被写体を抽出する。なお、上記では、撮像画像に基づき三次元データを生成する例を示したが、被写体抽出処理が、三次元データを生成する例に限られないことは、言うまでもない。
【００９１】
（Ｂ）被写体の軌跡の推定処理：図５のＳ１０２、Ｓ１０４
対応付け処理部１１０は、所定期間内に撮像された撮像画像に基づいて、撮像画像それぞれから抽出される被写体の軌跡を推定する。図５に示す例では、ボール（被写体の一例）の軌跡が推定され（Ｓ１０２）、選手（被写体の他の例）の軌跡が推定される（Ｓ１０４）。
【００９２】
所定期間内に撮像された撮像画像としては、例えば、所定期間内に撮像されたフレーム画像（撮像画像が動画像の場合）と、所定期間内に撮像された静止画像（撮像画像が静止画像の場合）との一方または双方が、挙げられる。所定期間は、予め設定されている固定の期間（例えば、撮像画像の撮像開始時間から撮像終了時間までの期間など）であってもよいし、ユーザの操作などに基づき設定された可変の期間であってもよい。
【００９３】
撮像画像が動画像である場合を例に挙げると、対応付け処理部１１０は、例えば、被写体の位置情報および被写体情報を一定の複数フレーム分の情報として処理することによって、ボールの軌跡および選手の軌跡それぞれを推定する。
【００９４】
なお、対応付け処理部１１０は、例えば推定された被写体の軌跡を微分することによって、被写体の動きを示す動き情報をさらに生成してもよい。動き情報を生成することによって、後述するタグ情報の生成処理において、より精度が高い内容を示すタグ情報を生成することが可能となる。一例を挙げると、本実施形態に係る情報処理方法が、テニスが行われる領域（スポーツが行われる領域の一例）を撮像装置で撮像する場合に適用される場合、対応付け処理部１１０は、生成されたボールの動き情報を用いることによって、ストロークの瞬間を判定することが可能である。具体的には、ボールの速度ベクトルが、速度の大きさと方向との双方が変化したときに、ストロークの瞬間を判定することができる。
【００９５】
（Ｃ）タグ情報の生成処理：図５のＳ１０６
対応付け処理部１１０は、推定された被写体の軌跡に基づきタグ情報を生成し、生成されたタグ情報を撮像画像に対応付ける。対応付け処理部１１０は、例えば生成したタグ情報を撮像画像のメタデータとして記録することによって、タグ情報を撮像画像に対応付ける。
【００９６】
本実施形態に係る情報処理方法が、バスケットボールが行われる領域を撮像装置２００で撮像する場合に適用される場合、タグ情報の生成処理は、ステップＳ１０６に示すように、撮像されたプレーに対してタグ情報を対応付ける処理に該当する。
【００９７】
図６は、本実施形態に係るタグ情報の一例を示す説明図であり、バスケットボールが行われる領域が撮像装置２００により撮像される場合におけるタグ情報の一例を示している。図６は、複数のタグ情報がテーブル形式で記録されているデータである例を示しており、図６に示すテーブルの各行が、タグ情報に該当する。
【００９８】
タグ情報には、例えば、時間（図６のＡ）、抽出された被写体それぞれの位置（図６のＢ、図６のＣ）、およびタグ情報の内容（図６のＤ）が、対応付けて記録される。抽出された被写体は、被写体情報が示す被写体に該当し、抽出された被写体それぞれの位置は、位置情報が示す位置に該当する。タグ情報に時間（図６のＡ）とタグ情報の内容（図６のＤ）とが含まれることによって、撮像画像とタグ情報の内容（図６のＤ）とが対応付けられる。また、タグ情報に抽出された被写体それぞれの位置（図６のＢ、図６のＣ）が含まれることによって、後述する再生処理において、被写体を含む一部の領域を切り出す処理などを容易に行うことが可能となる。
【００９９】
なお、本実施形態に係るタグ情報は、図６に示す例に限られない。
【０１００】
例えば、タグ情報には、抽出された被写体それぞれの位置（図６のＢ、図６のＣ）が含まれていなくてもよい。抽出された被写体それぞれの位置（図６のＢ、図６のＣ）がタグ情報に含まれない場合であっても、時間（図６のＡ）とタグ情報の内容（図６のＤ）とによって、撮像画像とタグ情報の内容（図６のＤ）とを対応付けることが可能である。
【０１０１】
また、タグ情報がテーブル形式のデータに限られないこと、およびタグ情報に記録される被写体の数およびタグ情報の内容が、図６に示すようなバスケットボールに対応するものに限られないことは、言うまでもない。
【０１０２】
対応付け処理部１１０は、例えば、設定されているタグ情報の生成規則に従って、タグ情報を生成する。つまり、対応付け処理部１１０は、例えばルールベースでタグ情報を生成する。タグ情報の生成規則は、予め設定されている固定の規則であってもよいし、ユーザの操作などに基づき変更可能な可変の規則であってもよい。
【０１０３】
図７は、本実施形態に係る情報処理方法に係る対応付け処理におけるタグ情報の生成処理の一例を示す説明図である。図７のＡは、最終的に生成されるタグ情報の内容の一例を示している。図７のＢは、中間的に生成されるタグ情報の内容の一例を示している。図７では、複数フレームのフレーム画像における被写体の位置情報を扱う処理ウィンドウの一例を示している。
【０１０４】
本実施形態に係る情報処理方法が、バスケットボールが行われる領域を撮像装置２００で撮像する場合に適用される場合を例に挙げると、タグ情報の生成規則としては、例えば下記に示す例が挙げられる。バスケットボールが行われる領域が撮像される撮像画像に対しては、例えば、ボールキープ、ドリブル、パス、シュート、スローイン、タッチラインアウト、ゴール、ファウルという８つのプレーに対して、タグ情報が生成される。ここで、ボールキープ、ドリブル、パス、シュートは、関連が続くプレーであると捉えることができ、スローイン、タッチラインアウト、ゴール、ファウルそれぞれは、他のプレーとの関連が途切れるプレーであると捉えることができる。なお、バスケットボールが行われる領域を撮像装置２００で撮像する場合に適用される場合におけるタグ情報の生成規則が、下記に示す例に限られないことは、言うまでもない。
・ボールキープ：処理ウィンドウ内の半分以上のフレームで、ボールの位置と選手の位置が一定の閾値以内の距離に存在し、選手が移動していない
・ドリブル：処理ウィンドウ内の半分以上のフレームで、ボールの位置と選手の位置が一定の閾値以内の距離に存在し、選手が移動している
・パス：処理ウィンドウ内のフレームで、ボールの位置が二人の選手の間を移動し、それぞれの選手が1フレーム以上ボールキープしている
・シュート：処理ウィンドウ内のフレームで、ボールの位置が選手とゴールの間を移動し、選手が1フレーム以上ボールキープしている
・スローイン：処理ウィンドウ内のフレームで、ボールの位置がコート外からコート内へ入ったフレームを含んでいる
・タッチラインアウト：処理ウィンドウ内のフレームで、ボールの位置がコート内からコート外へ出たフレームを含んでいる
・ゴール：処理ウィンドウ内のフレームで、ボールの位置がゴールの位置と完全に重なるフレームを含んでいる
・ファウル：処理ウィンドウ内の半分以上のフレームで、ボールの位置と審判の位置が一定の閾値以内の距離に存在している
【０１０５】
複数フレームの位置情報を扱う処理ウィンドウの中で、ボール位置と選手位置から上記の各プレーに対応するタグ情報が中間的に付与される。対応付け処理部１１０は、各時間で複数のプレーに対応するタグ情報を生成し、付与されたプレーに対応するタグ情報が一番多いものを、その該当時間のプレーに対応するタグ情報とする。付与された数が一番多いプレーに対応するタグ情報が、複数存在する場合、対応付け処理部１１０は、例えば、その該当時間のプレーに対応するタグ情報が示す内容を“タグなし”とする。なお、付与された数が一番多いプレーに対応するタグ情報が、複数存在する場合、対応付け処理部１１０は、付与された数が一番多いプレーに対応するタグ情報の一部または全部を、その該当時間のプレーに対応するタグ情報としてもよい。
【０１０６】
なお、タグ情報の生成処理は、ルールベースでタグ情報を生成する処理に限られない。例えば、対応付け処理部は、機械学習によりタグ情報を生成してもよい。タグ情報の生成に係る機械学習としては、例えば、Ｄｅｅｐ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋの一種であるＲＮＮ（Recurrent  Neural  Network）や、弱学習器を組み合わせたＲａｎｄｏｍ  Ｆｏｒｅｓｔ、線形識別器であるＳＶＭ（Support  Vector  Machine）などを用いた学習が、挙げられる。これらの機械学習は、非常に幅広く応用が利く一方、十分な判定性能を得るためには数多くの学習データと同時に正解ラベリングデータが必要になることがある。タグ情報の生成処理に機械学習を用いる場合、必要な判定精度と汎用性に応じて、機械学習方法を選択すればよい。
【０１０７】
（Ｄ）識別情報の生成処理：図５のＳ１０８
対応付け処理部１１０は、タグ情報の生成処理において生成された複数のタグ情報を関連付け、関連付られた複数のタグ情報に対する識別情報を生成する。そして、対応付け処理部１１０は、生成された識別情報を撮像画像に対応付ける。対応付け処理部１１０は、例えば生成した識別情報を撮像画像のメタデータとして記録することによって、識別情報を撮像画像に対応付ける。
【０１０８】
関連付られた複数のタグ情報に対して共通の識別情報が付与されることによって、タグ情報を固有の識別情報で関連付けて管理することが可能となる。また、関連付られた複数のタグ情報に対して共通の識別情報が付与されることによって、後述する再生処理などにおいて、タグ情報のつながりを利用する処理を行うことが可能となる。
【０１０９】
本実施形態に係る情報処理方法が、バスケットボールが行われる領域を撮像装置２００で撮像する場合に適用される場合、識別情報の生成処理は、ステップＳ１０８に示すように、撮像されたプレーに対して識別情報を対応付ける処理に該当する。
【０１１０】
対応付け処理部１１０は、例えば、設定されているタグ情報の関連付け規則に従って複数のタグ情報を関連付ける。つまり、対応付け処理部１１０は、例えばルールベースで識別情報を生成する。識別情報の関連付け規則は、予め設定されている固定の規則であってもよいし、ユーザの操作などに基づき変更可能な可変の規則であってもよい。
【０１１１】
図８〜図１０は、本実施形態に係る情報処理方法に係る対応付け処理における識別情報の生成処理の一例を示す説明図であり、タグ情報の関連付け規則に従った関連付けの一例をそれぞれ示している。
【０１１２】
図８に示すように、同一の選手においてドリブルとシュートが連続しているときに、当該ドリブルに対応するタグ情報と当該シュートに対応するタグ情報とに対して、同一のＩＤ（識別情報の一例）を付与する。つまり、図８は、“ドリブル＋シュート”のパターンを関連付ける関連付け規則に従った、関連付けの一例である。
【０１１３】
図９に示すように、選手、およびチームの異同に関わらず、ゴール判定前のプレーに対しては、設定されるタグ情報の数分、タグ情報を関連付け、これらに対して同一のＩＤ（識別情報の一例）を付与する。図９では、設定されるタグ情報の数が３である例を示しているが、関連付け規則に係るタグ情報の数は、図９に示す例に限られない。つまり、図９は、ゴール判定されたときに設定されるタグ情報の数分のタグ情報を関連付ける関連付け規則に従った、関連付けの一例である。
【０１１４】
図１０は、“パスが異なるチームの選手に出されたときは関連付けを行わない”という関連付け規則に従った、関連付けの一例である。図１０に示すように、タグ情報の関連付け規則には、タグ情報を関連付けない規則が含まれていてもよい。
【０１１５】
対応付け処理部１１０は、例えば図８〜図１０に示すような関連付け規則に従って、タグ情報を関連付け、関連付けられたタグ情報に対する識別情報を生成する。ここで、関連付け規則には優先度が設定され、対応付け処理部１１０は、優先度がより高い関連付け規則に従って、タグ情報を関連付けてもよい。
【０１１６】
なお、本実施形態に係るタグ情報の関連付け規則は、上記に示す例に限られない。
【０１１７】
例えば、対応付け処理部１１０は、“一のタグ情報に含まれるプレーの終了時刻と、他のタグ情報に含まれるプレーの開始時刻の差、および”“当該一のタグ情報に含まれる被写体の位置と、当該他のタグ情報に含まれる被写体の位置との距離”それぞれが、設定されている閾値以内であるときに、これらのタグ情報を関連するタグ情報としてもよい。
【０１１８】
なお、識別情報の生成処理は、ルールベースで識別情報を生成する処理に限られない。例えば、対応付け処理部は、機械学習により識別情報を生成してもよい。識別情報の生成に係る機械学習としては、例えば、Ｄｅｅｐ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋの一種であるＲＮＮや、弱学習器を組み合わせたＲａｎｄｏｍ  Ｆｏｒｅｓｔ、線形識別器であるＳＶＭなどを用いた学習が、挙げられる。識別情報の生成処理に機械学習を用いる場合、タグ情報の生成処理に機械学習を用いる場合と同様に、必要な判定精度と汎用性に応じて、機械学習方法を選択すればよい。
【０１１９】
対応付け処理部１１０は、例えば上記の（Ａ）、（Ｂ）、（Ｃ）、（Ｄ）に示す４つの処理を行うことによって、撮像画像にタグ情報と識別情報とを対応付ける。なお、上記の（Ａ）、（Ｂ）、（Ｃ）、（Ｄ）に示す４つの処理は、本実施形態に係る対応付け処理を便宜上切り分けたものであり、本実施形態に係る対応付け処理の切り分け方は、上記に示す例に限られない。
【０１２０】
［２−１−２］再生処理部１１２
再生処理部１１２は、上述した本実施形態に係る情報処理方法に係る再生処理を主導的に行う役目を果たし、タグ情報と識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する。
【０１２１】
上述したように、再生条件は、ユーザの操作に基づき設定され、または、撮像画像に関連するメタ情報に基づき設定される。また、上述したように、再生条件には、タグ情報に関する条件と識別情報に関する条件との一方または双方が、含まれうる。
【０１２２】
ユーザの操作に基づいて、タグ情報に関する条件が再生条件として設定される場合を例に挙げると、ユーザは、細かく再生条件を設定することができるため、ユーザが再生させたいシーンを再生させることができる。このとき、ゴールやフリースローなどのキーとなるイベントを選択させた後に、個別のプレーに対応するタグ情報を選択させるようにすれば、ユーザが再生条件の設定に係る操作を行う上での煩雑さを、軽減することが可能である。
【０１２３】
ユーザの操作に基づいて、識別情報に関する条件が再生条件として設定される場合を例に挙げると、ユーザは、識別情報に関する条件を設定すれば、識別情報により関連付けられている一連のプレーに対応するシーンを再生させることができる。よって、識別情報に関する条件が再生条件として設定される場合には、上記タグ情報に関する条件が再生条件として設定される場合よりも、より簡便にユーザが再生させたいシーンを再生させることが可能となる。このとき、ゴールやフリースローなどのキーとなるイベントを選択させた後に、識別情報を選択させるようにすれば、イベントにつながったプレーを途切れることなく再生させることができる。
【０１２４】
ユーザの操作に基づいて、タグ情報に関する条件および識別情報に関する条件が再生条件として設定される場合には、ユーザは、識別情報により関連付けられている一連のプレーに対応するシーンのうちの、タグ情報に対応する一部のプレーを再生させることができる。
【０１２５】
ユーザ操作に基づき上記のような再生条件が設定されることによって、ユーザは、時間方向のアナログ的な再生領域の設定をする煩雑さから解放され、撮像画像の再生における利便性は向上する。
【０１２６】
撮像画像に関連するメタ情報に基づき再生条件が設定される場合を一例に挙げると、再生処理部１１２は、盛り上がり情報（メタ情報の一例）に基づいて、盛り上がっていると判定された時点に対応する識別情報に関する条件を自動的に設定する。上記のように自動的に再生条件が設定されることによって、再生処理部１１２は、ユーザの操作を必要とせずに、盛り上がっているところから一連のプレーに対応するシーンを再生することができる。また、上記のように自動的に再生条件が設定されることによって、撮像画像の自動的なループを実現することが可能である。
【０１２７】
撮像画像に関連するメタ情報に基づき再生条件が設定される場合を他の例に挙げると、再生処理部１１２は、撮像画像の再生履歴を示すデータに基づいて、基準となるイベントや当該イベントからどの位のタグ情報単位のプレーが再生されているかを特定し、特定結果に対応する再生条件を自動的に設定する。上記のように自動的に再生条件が設定されることによって、再生処理部１１２は、自動的にお薦めのシーンを再生することができる。また、上記のように自動的に再生条件が設定されることによって、撮像画像の自動的なループを実現することが可能である。
【０１２８】
なお、本実施形態に係る再生処理は、上記に示す例に限られない。再生処理部１１２は、再生処理として、例えば下記の（ａ）の処理と下記の（ｂ）の処理の一方または双方を、さらに行ってもよい。
【０１２９】
（ａ）撮像装置２００の選択処理
例えば、図１に示す情報処理システム１０００のように異なる視点で撮像を行う複数の撮像装置２００が存在する場合には、再生処理部１１２は、選択された撮像装置２００により撮像された撮像画像を再生してもよい。
【０１３０】
撮像装置２００は、例えばユーザの操作に基づき選択される。この場合、再生処理部１１２は、ユーザの操作に基づき選択された撮像装置２００により撮像された撮像画像を再生する。
【０１３１】
また、撮像装置２００は、タグ情報と識別情報との一方または双方が選択されることによって選択されてもよい。上述したように、再生条件には、タグ情報に関する条件と識別情報に関する条件との一方または双方が含まれうる。よって、再生処理部１１２は、再生条件の設定と連動して自動的に撮像装置２００を選択し、選択された撮像装置２００により撮像された撮像画像を再生することも可能である。
【０１３２】
ここで、タグ情報（識別情報から間接的に特定されるタグ情報も含む）に基づき撮像装置２００を選択する場合、再生処理部１１２は、例えば、位置情報が示す被写体の位置と、被写体情報が示す内容との一方または双方に基づいて、被写体が近い撮像装置２００や、被写体の顔が撮像されている撮像装置２００を、選択する。上記のように撮像装置２００が選択されることによって、再生処理部１１２は、プレーが映っている可能性がより高い撮像画像を再生することができる。
【０１３３】
なお、撮像装置２００は、ユーザの操作と、タグ情報と識別情報との一方または双方が選択されることとの双方により選択されてもよい。ユーザの操作と、タグ情報と識別情報との一方または双方が選択されることとの双方により選択される撮像装置２００の一例としては、“タグ情報と識別情報との一方または双方が選択されることにより設定された後、ユーザの操作に基づき変更される撮像装置２００”が、挙げられる。
【０１３４】
（ｂ）切り出し処理（画像クロッピング処理）
再生処理部１１２は、再生する撮像画像から、再生する撮像画像に対応付けられているタグ情報に対応する被写体を含む一部の領域を切り出す。
【０１３５】
図１１は、本実施形態に係る情報処理方法に係る再生処理における切り出し処理の一例を示す説明図である。図１１のＡは、ある時点に撮像された撮像画像（フレーム画像または静止画像）の一例を示している。図１１のＢは、図１１のＡに示す撮像画像から切り出された画像（静止画像）の一例を示している。
【０１３６】
例えば図６に示すように、タグ情報には、抽出された被写体それぞれの位置が含まれうる。再生処理部１１２は、例えば再生する撮像画像に対応付けられているタグ情報に含まれる抽出された被写体それぞれの位置を参照して、撮像画像から特定の領域を切り出すこと（撮像画像から特定の領域をクロッピングすること）によって、図１１のＡに示す撮像画像から図１１のＢに示す画像を得る。
【０１３７】
再生処理部１１２が上記のような切り出し処理を行うことによって、例えば、自動記事生成における見出し画像の生成を、実現することができる。なお、切り出し処理が適用される用途が、上記に示す例に限られないことは、言うまでもない。
【０１３８】
制御部１０４は、例えば、対応付け処理部１１０を有することにより、本実施形態に係る情報処理方法に係る対応付け処理を主導的に行う役目を果たす。また、制御部１０４は、例えば、再生処理部１１２を有することにより、本実施形態に係る情報処理方法に係る再生処理を主導的に行う役目を果たす。
【０１３９】
なお、制御部１０４の機能構成は、図３に示す例に限られない。
【０１４０】
例えば、制御部１０４は、本実施形態に係る情報処理方法に係る処理の切り分け方に応じた構成など、情報処理装置１００が有する機能の切り分け方に応じた、任意の構成を有することが可能である。
【０１４１】
一例を挙げると、情報処理装置１００が対応付け処理を行う機能を有さない場合、制御部１０４は、対応付け処理部１１０を有していなくてもよい。他の例を挙げると、情報処理装置１００が再生処理を行う機能を有さない場合、制御部１０４は、再生処理部１１２を有していなくてもよい。
【０１４２】
情報処理装置１００は、例えば図３に示す構成によって、本実施形態に係る情報処理方法に係る処理を行う。したがって、情報処理装置１００は、例えば図３に示す構成によって、撮像画像の再生における利便性の向上を図ることができる。
【０１４３】
また、例えば図３に示す構成によって、情報処理装置１００は、本実施形態に係る情報処理方法に係る処理が行われることにより奏される効果を、奏することができる。
【０１４４】
なお、本実施形態に係る情報処理装置の構成は、図３に示す構成に限られない。
【０１４５】
例えば、本実施形態に係る情報処理装置は、図３に示す対応付け処理部１１０と再生処理部１１２との一方または双方を、制御部１０４とは個別に備える（例えば、別の処理回路で実現する）ことができる。
【０１４６】
また、本実施形態に係る情報処理方法に係る処理を実現するための構成は、図３に示す構成に限られず、本実施形態に係る情報処理方法に係る処理の切り分け方に応じた構成など、情報処理装置１００が有する機能の切り分け方に応じた、任意の構成を有することが可能である。
【０１４７】
一例を挙げると、本実施形態に係る情報処理装置は、図３に示す対応付け処理部１１０と再生処理部１１２との一方を有さない構成をとることが可能である。
【０１４８】
他の例を挙げると、本実施形態に係る情報処理装置は、上述した“第１の記憶装置、パラメータ記憶装置、撮像装置２００のキャリブレーション処理装置、入力装置、表示装置、および第２の記憶装置それぞれが有する機能”のうちの一部または全部を行う構成を、有していてもよい。
【０１４９】
また、例えば、通信部１０２と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本実施形態に係る情報処理装置は、通信部１０２を備えていなくてもよい。
【０１５０】
［２−２］撮像装置２００
撮像装置２００は、例えばスポーツが行われる領域などの、撮像対象の領域を撮像するように配置される撮像装置であり、撮像により撮像画像（動画像または静止画像）を生成する。
【０１５１】
撮像装置２００は、例えば、レンズ／撮像素子と信号処理回路とを含んで構成される。レンズ／撮像素子は、例えば、光学系のレンズと、ＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）などの撮像素子を複数用いたイメージセンサとで構成される。信号処理回路は、例えば、ＡＧＣ（Automatic  Gain  Control）回路やＡＤＣ（Analog  to  Digital  Converter）を備え、撮像素子により生成されたアナログ信号をデジタル信号（画像データ）に変換する。また、信号処理回路は、例えばＲＡＷ現像に係る各種処理を行う。さらに、信号処理回路は、例えば、Ｗｈｉｔｅ  Ｂａｌａｎｃｅ補正処理や、色調補正処理、ガンマ補正処理、ＹＣｂＣｒ変換処理、エッジ強調処理など各種信号処理を行ってもよい。さらに、撮像装置２００では、信号処理回路の演算リソースを利用して、任意の画像処理を行うことが可能であってもよい。
【０１５２】
また、撮像装置２００は、例えば、通信デバイスを備え、または、外部の通信デバイスが接続される。撮像装置２００は、備えている通信デバイス、または、接続されている外部の通信デバイスによって、ネットワーク３００を介して（あるいは、直接的に）、情報処理装置１００などの外部装置と、無線または有線で通信を行う。
【０１５３】
また、撮像装置２００は、表示デバイスを備えていてもよいし、外部の表示デバイスが接続されていてもよい。
【０１５４】
なお、撮像装置２００の構成は、上記に示す例に限られず、後述する撮像装置２００の適用例に応じた構成をとることが可能である。
【０１５５】
［３］本実施形態に係る情報処理方法が用いられることにより奏される効果の一例
本実施形態に係る情報処理方法が用いられることによって、例えば下記に示す効果が奏される。なお、本実施形態に係る情報処理方法が用いられることにより奏される効果が、下記に示す例に限られないことは、言うまでもない。
・ボール位置と選手位置からスポーツのプレーを自動でデータ化することが可能になり、ユーザの手間を軽減することが可能になる。
・スポーツのプレーをデータ化することによって、試合内容のスコアリングを自動で行うことが可能になる。また、試合の勝敗を分けるプレーなど、より抽象的なタグ情報の撮像画像への対応付け、また当該タグ情報を利用した自動記事生成の見出し画像やプレーの振り返り動画像を、簡易に撮像画像から生成することが可能になる。
・スポーツのプレーをタグ情報としてデータ化することによって、一つ一つ時間の長さが異なるプレーを一つのデータ単位として扱えるようになる。よって、ダイジェスト再生やプレー振り返りのためのループ再生を、より簡易に実現することができる。
【０１５６】
［４］本実施形態に係る情報処理システムを構成する各装置の適用例
以上、本実施形態に係る情報処理システムの構成要素として、情報処理装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、“ＰＣ（Personal  Computer）やサーバなどのコンピュータ”や、“タブレット型の装置”、“ゲーム機”、“デジタルスチルカメラやデジタルビデオカメラなどのカメラ”など、本実施形態に係る情報処理方法に係る処理を行うことが可能な、様々な機器に適用することができる。また、本実施形態は、例えば、上記のような機器に組み込むことが可能な、処理ＩＣに適用することもできる。
【０１５７】
また、本実施形態に係る情報処理装置は、例えばクラウドコンピューティングなどのように、ネットワークへの接続（または各装置間の通信）を前提とした処理システムに適用されてもよい。本実施形態に係る情報処理方法に係る処理が行われる処理システムの一例としては、例えば“処理システムを構成する一の装置によって本実施形態に係る情報処理方法に係る処理の一部の処理が行われ、処理システムを構成する他の装置によって本実施形態に係る情報処理方法に係る処理の当該一部の処理以外の処理が行われるシステム”などが、挙げられる。
【０１５８】
また、本実施形態に係る情報処理システムの構成要素として、撮像装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、“デジタルスチルカメラやデジタルビデオカメラなどのカメラ”や、“スマートホンや携帯電話などの撮像を行うことが可能な通信装置”、“撮像を行うことが可能なタブレット型の装置”、“撮像を行うことが可能なゲーム機”など、撮像機能を有する任意の装置が、挙げられる。また、上述したように、本実施形態に係る情報処理システムでは、本実施形態に係る情報処理装置が撮像装置の役目を果たしてもよい。
【０１５９】
（本実施形態に係るプログラム）
コンピュータシステムを、本実施形態に係る情報処理装置として機能させるためのプログラム（例えば、“対応付け処理”、“再生処理”、または、“対応付け処理および再生処理”などの、本実施形態に係る情報処理方法に係る処理を実行することが可能なプログラム）が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、撮像画像の再生における利便性の向上を図ることができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、本実施形態に係る情報処理方法に係る一連の処理が行われる。
【０１６０】
また、コンピュータシステムを、本実施形態に係る情報処理装置として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る情報処理方法に係る処理によって奏される効果を、奏することができる。
【０１６１】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【０１６２】
例えば、上記では、コンピュータシステムを、本実施形態に係る情報処理装置として機能させるためのプログラム（コンピュータプログラム）が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も併せて提供することができる。
【０１６３】
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
【０１６４】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
【０１６５】
なお、以下のような構成も本開示の技術的範囲に属する。
（１）
被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する再生処理部を備える、情報処理装置。
（２）
前記再生条件には、前記タグ情報に関する条件と前記識別情報に関する条件との一方または双方が、含まれる、（１）に記載の情報処理装置。
（３）
前記再生条件は、ユーザの操作に基づき設定される、（１）または（２）に記載の情報処理装置。
（４）
前記再生条件は、前記撮像画像に関連するメタ情報に基づき設定される、（１）〜（３）のいずれか１つに記載の情報処理装置。
（５）
前記再生処理部は、選択された撮像装置により撮像された前記撮像画像を再生する、（１）〜（４）のいずれか１つに記載の情報処理装置。
（６）
前記撮像装置は、ユーザの操作に基づき選択される、（５）に記載の情報処理装置。
（７）
前記撮像装置は、前記タグ情報と前記識別情報との一方または双方が選択されることによって選択される、（５）または（６）に記載の情報処理装置。
（８）
前記再生処理部は、再生する前記撮像画像から、再生する前記撮像画像に対応付けられている前記タグ情報に対応する被写体を含む一部の領域を切り出す、（１）〜（７）のいずれか１つに記載の情報処理装置。
（９）
撮像装置により撮像された撮像画像に対して、前記タグ情報と前記識別情報とを対応付ける対応付け処理部を、さらに備える、（１）〜（８）のいずれか１つに記載の情報処理装置。
（１０）
撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とを対応付ける対応付け処理部を備える、情報処理装置。
（１１）
前記対応付け処理部は、
前記撮像画像から被写体を抽出し、
所定期間内に撮像された前記撮像画像に基づいて、前記撮像画像それぞれから抽出される前記被写体の軌跡を推定し、
推定された前記被写体の軌跡に基づき前記タグ情報を生成し、
生成された前記タグ情報を前記撮像画像に対応付ける、（１０）に記載の情報処理装置。
（１２）
前記対応付け処理部は、設定されている前記タグ情報の生成規則に従って、前記タグ情報を生成する、（１１）に記載の情報処理装置。
（１３）
前記対応付け処理部は、機械学習により前記タグ情報を生成する、（１１）に記載の情報処理装置。
（１４）
前記対応付け処理部は、設定されている前記タグ情報の関連付け規則に従って複数の前記タグ情報を関連付け、関連付られた複数の前記タグ情報に対する前記識別情報を生成し、
生成された前記識別情報を前記撮像画像に対応付ける、（１１）〜（１３）のいずれか１つに記載の情報処理装置。
（１５）
前記対応付け処理部は、機械学習により複数の前記タグ情報を関連付け、関連付られた複数の前記タグ情報に対する前記識別情報を生成し、
生成された前記識別情報を前記撮像画像に対応付ける、（１１）〜（１３）のいずれか１つに記載の情報処理装置。
（１６）
被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生するステップを有する、情報処理装置により実行される情報処理方法。
（１７）
撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とを対応付けるステップを有する、情報処理装置により実行される情報処理方法。
（１８）
被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とが対応付けられている撮像画像を、設定される再生条件に基づき再生する機能を、コンピュータに実現させるためのプログラム。
（１９）
撮像装置により撮像された撮像画像に、被写体に関するタグ情報と、複数の前記タグ情報の関連付けを示す識別情報とを対応付ける機能を、コンピュータに実現させるためのプログラム。
【符号の説明】
【０１６６】
１００    情報処理装置
１０２    通信部
１０４    制御部
１１０    対応付け処理部
１１２    再生処理部
２００、２００Ａ、２００Ｂ、２００Ｃ    撮像装置
３００    ネットワーク
１０００    情報処理システム
【図１】
2019187493.tif 000003
【図２】
2019187493.tif 000004
【図３】
2019187493.tif 000005
【図４】
2019187493.tif 000006
【図５】
2019187493.tif 000007
【図６】
2019187493.tif 000008
【図７】
2019187493.tif 000009
【図８】
2019187493.tif 000010
【図９】
2019187493.tif 000011
【図１０】
2019187493.tif 000012
【図１１】
2019187493.tif 000013
【国際調査報告】
2019187493.tif 000014
2019187493.tif 000015