(57)【特許請求の範囲】
【請求項１】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記視野遷移パス決定部は、前記遷移元出力対象領域から前記遷移先出力対象領域に向かって一方向に進行する候補パスと、前記一方向とは逆方向に進行する候補パスの一方を、前記視野遷移パスとして決定する情報処理装置。
【請求項２】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記視野遷移パス決定部は、複数の候補パス毎の前記遷移元出力対象領域から前記遷移先出力対象領域までの移動距離を示す移動距離情報を、前記視野遷移パスの決定に用いる情報処理装置。
【請求項３】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定部は、前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる情報処理装置。
【請求項４】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定部は、前記遷移先出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる情報処理装置。
【請求項５】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定部は、前記遷移先出力対象領域に存在する被写体又は前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動速度を示す移動速度情報を、前記視野遷移パスの決定に用いる情報処理装置。
【請求項６】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定部は、遷移所要時間経過後のフレームにおける前記遷移先出力対象領域に存在する被写体の位置を示す被写体位置情報を、前記視野遷移パスの決定に用いる情報処理装置。
【請求項７】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記全体画像は動画であり、
前記特定部は、
夫々前記動画に含まれる部分領域であって複数の被写体それぞれの前記動画内での存在位置を示す複数の被写体領域を一覧で表現する遷移設定画像に対するユーザによる選択指示に基づいて、前記遷移元出力対象領域と、前記遷移先出力対象領域とを特定する情報処理装置。
【請求項８】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備え、
前記特定部は、
前記全体画像内で出力対象領域とされている一部領域の画像とともに、前記全体画像としての静止画又は動画内に存在する表示候補画像を提示する存在提示画像を含む表示データに基づく表示に対して行われた、表示候補画像を指定するユーザ操作に基づいて、前記遷移先出力対象領域または前記遷移元出力対象領域を特定する情報処理装置。
【請求項９】
前記存在提示画像は、前記表示候補画像のサムネイル画像であり、
前記表示データは、現在の出力対象領域の画像と、前記表示候補画像のサムネイル画像を含む
請求項８に記載の情報処理装置。
【請求項１０】
前記存在提示画像は、その存在提示画像が示す表示候補画像の、前記一部領域の画像に対する位置関係に応じた位置に配置される
請求項８または請求項９に記載の情報処理装置。
【請求項１１】
前記表示データは、前記出力対象領域とされた前記一部領域の画像において指定された時間軸位置に対応する、前記指定された時間軸位置に存在する表示候補画像に対応する存在提示画像を含む
請求項８から請求項１０の何れかに記載の情報処理装置。
【請求項１２】
前記表示データは、表示候補画像と前記出力対象領域とされた前記一部領域の画像との位置関係を示す存在提示画像を含む
請求項８から請求項１１の何れかに記載の情報処理装置。
【請求項１３】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記視野遷移パス決定手順では、前記遷移元出力対象領域から前記遷移先出力対象領域に向かって一方向に進行する候補パスと、前記一方向とは逆方向に進行する候補パスの一方を、前記視野遷移パスとして決定する
情報処理方法。
【請求項１４】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記視野遷移パス決定手順では、複数の候補パス毎の前記遷移元出力対象領域から前記遷移先出力対象領域までの移動距離を示す移動距離情報を、前記視野遷移パスの決定に用いる情報処理方法。
【請求項１５】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる情報処理方法。
【請求項１６】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、前記遷移先出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる情報処理方法。
【請求項１７】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、前記遷移先出力対象領域に存在する被写体又は前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動速度を示す移動速度情報を、前記視野遷移パスの決定に用いる情報処理方法。
【請求項１８】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、遷移所要時間経過後のフレームにおける前記遷移先出力対象領域に存在する被写体の位置を示す被写体位置情報を、前記視野遷移パスの決定に用いる情報処理方法。
【請求項１９】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記全体画像は動画であり、
前記特定手順では、
夫々前記動画に含まれる部分領域であって複数の被写体それぞれの前記動画内での存在位置を示す複数の被写体領域を一覧で表現する遷移設定画像に対するユーザによる選択指示に基づいて、前記遷移元出力対象領域と、前記遷移先出力対象領域とを特定する情報処理方法。
【請求項２０】
情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備え、
前記特定手順では、
前記全体画像内で出力対象領域とされている一部領域の画像とともに、前記全体画像としての静止画又は動画内に存在する表示候補画像を提示する存在提示画像を含む表示データに基づく表示に対して行われた、表示候補画像を指定するユーザ操作に基づいて、前記遷移先出力対象領域または前記遷移元出力対象領域を特定する情報処理方法。
【請求項２１】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記視野遷移パス決定手順では、前記遷移元出力対象領域から前記遷移先出力対象領域に向かって一方向に進行する候補パスと、前記一方向とは逆方向に進行する候補パスの一方を、前記視野遷移パスとして決定する処理を情報処理装置に実行させるプログラム。
【請求項２２】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記視野遷移パス決定手順では、複数の候補パス毎の前記遷移元出力対象領域から前記遷移先出力対象領域までの移動距離を示す移動距離情報を、前記視野遷移パスの決定に用いる処理を情報処理装置に実行させるプログラム。
【請求項２３】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる処理を情報処理装置に実行させるプログラム。
【請求項２４】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、前記遷移先出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる処理を情報処理装置に実行させるプログラム。
【請求項２５】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、前記遷移先出力対象領域に存在する被写体又は前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動速度を示す移動速度情報を、前記視野遷移パスの決定に用いる処理を情報処理装置に実行させるプログラム。
【請求項２６】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記全体画像は動画であり、
前記視野遷移パス決定手順では、遷移所要時間経過後のフレームにおける前記遷移先出力対象領域に存在する被写体の位置を示す被写体位置情報を、前記視野遷移パスの決定に用いる処理を情報処理装置に実行させるプログラム。
【請求項２７】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記全体画像は動画であり、
前記特定手順では、
夫々前記動画に含まれる部分領域であって複数の被写体それぞれの前記動画内での存在位置を示す複数の被写体領域を一覧で表現する遷移設定画像に対するユーザによる選択指示に基づいて、前記遷移元出力対象領域と、前記遷移先出力対象領域とを特定する処理を情報処理装置に実行させるプログラム。
【請求項２８】
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させ、
前記特定手順では、
前記全体画像内で出力対象領域とされている一部領域の画像とともに、前記全体画像としての静止画又は動画内に存在する表示候補画像を提示する存在提示画像を含む表示データに基づく表示に対して行われた、表示候補画像を指定するユーザ操作に基づいて、前記遷移先出力対象領域または前記遷移元出力対象領域を特定する処理を情報処理装置に実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は情報処理装置、情報処理方法、プログラムに関し、特に３６０度連続する視野を有する画像について一部領域を出力対象領域として表示等させる際に用いる技術に関する。
【背景技術】
【０００２】
撮像装置で撮像される静止画や動画としての画像コンテンツ、或いはコンピュータグラフィックス等で制作された画像コンテンツなどにおいて、３６０度の視野が連続する画像が知られている。いわゆる全天球画像、半天球画像、３６０度パノラマ画像などである。
これらの３６０度の連続する視野を有する画像を表示装置に表示させる場合において、その全体画像の一部を出力対象領域として切り出して表示することが行われる。【０００３】
特許文献１では、広い画角を有する画像、例えば全天球画像等の視聴時において、特定の被写体を追尾するように切り出しを行って表示することが記載されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１４−２２０７２４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、全天球画像等において一部の出力対象領域を表示させているときに、表示画像を他の出力対象領域に遷移させる際には、視聴者にとって望ましい遷移が行われることが求められる。視聴者が全天球画像等から切り出された一部の画像を見ているときに、表示上でむやみに出力対象領域を変化させると、視聴者によって不自然な画像となるように感じられたり、被写体の行動が違和感のある画像となることがあるためである。
そこで本技術は、出力対象領域を遷移させる際にも、視聴者にとって快適で見やすく、不自然とならない画像を提供できるようにすることを目的とする。
【課題を解決するための手段】
【０００６】
本技術に係る情報処理装置は、少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部とを備える。
視聴者の視点移動を模した出力対象領域（全体画像から切り出して表示対象とする領域）の遷移について、３６０度連続する全体画像における遷移元と遷移先を想定すると、遷移元出力対象領域から連続する画像として遷移先出力対象領域に至る視野遷移パスは多様に考えられるため、その視野遷移パスを自動決定する。
なお全体画像とは、全天球画像、半天球画像、３６０度パノラマ画像など、少なくとも３６０度連続する部分が存在する画像である。換言すると、３６０度の視野を有する画像である。【０００７】
上記した本技術に係る情報処理装置においては、前記視野遷移パス決定部は、前記全体画像内の前記遷移元出力対象領域から前記遷移先出力対象領域に向かって一方向に進行する候補パスと、前記一方向とは逆方向に進行する候補パスの一方を、前記視野遷移パスとして決定することが考えられる。
出力対象領域の遷移について、３６０度連続する全体画像における遷移元と遷移先を想定すると、遷移元から連続する画像として遷移先に遷移するパスは複数想定される。特に３６０度連続する全体画像内での遷移元と遷移先の位置関係を考えると、遷移元から遷移先への遷移（視点移動）は、その全体画像の３６０度円周上の一方向と逆方向とが考えられる。これらの一方を自動的に選択するものとする。そこで一方向に進行する候補パスと、その逆方向に進行する候補パスのうちで、例えば視認上望ましいパスを視野遷移パスに自動決定する。【０００８】
上記した本技術に係る情報処理装置においては、前記視野遷移パス決定部は、複数の候補パス毎の前記全体画像上での前記遷移元出力対象領域から前記遷移先出力対象領域までの移動距離を示す移動距離情報を、前記視野遷移パスの決定に用いることが考えられる。
例えば移動距離が短い方の候補パスを視野遷移パスとして選択する。【０００９】
上記した本技術に係る情報処理装置においては、前記全体画像は動画であり、前記視野遷移パス決定部は、前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いることが考えられる。
即ち遷移元出力対象領域において被写体となっている人物その他の移動体が、動画上で或る方向に移動している場合、その移動方向を、視野遷移パス決定のための一要素とする。【００１０】
上記した本技術に係る情報処理装置においては、前記全体画像は動画であり、前記視野遷移パス決定部は、前記遷移先出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いることが考えられる。
即ち遷移先出力対象領域において被写体となっている人物その他の移動体が、動画上で或る方向に移動している場合、その移動方向を、視野遷移パス決定のための一要素とする。【００１１】
上記した本技術に係る情報処理装置においては、前記全体画像は動画であり、前記視野遷移パス決定部は、前記遷移先出力対象領域に存在する被写体又は前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動速度を示す移動速度情報を、前記視野遷移パスの決定に用いることが考えられる。
即ち遷移元、遷移先の各画像（被写体となっている人物その他の移動体）の一方又は両方が動画上で移動している場合、その移動速度を、視野遷移パス決定のための一要素とする。【００１２】
上記した本技術に係る情報処理装置においては、前記全体画像は動画であり、前記視野遷移パス決定部は、遷移所要時間経過後のフレームにおける前記遷移先出力対象領域に存在する被写体の位置を示す被写体位置情報を、前記視野遷移パスの決定に用いることが考えられる。
遷移元から遷移先への連続的な遷移（視点移動）には、その遷移時間を要する。遷移先の被写体に動きがある場合、遷移所要時間後における当該被写体の全体画像内での位置は、遷移開始時点のフレームでの位置とは異なることが想定される。そこで遷移所要時間を経過したときの遷移先の被写体位置を考慮して視野遷移パス決定を行う。【００１３】
上記した本技術に係る情報処理装置においては、前記全体画像は動画であり、前記特定部は、夫々前記動画に含まれる部分領域であって複数の被写体それぞれの前記動画内での存在位置を示す複数の被写体領域を一覧で表現する遷移設定画像に対するユーザによる選択指示に基づいて、前記遷移元出力対象領域と、前記遷移先出力対象領域とを特定することが考えられる。
画像の視認者であるユーザに対して、全体画像内での各被写体について、各時点での位置を一覧表示させ、当該一覧としての遷移設定画像上で例えば被写体を選択できるようにする。これにより動画進行に応じた出力対象領域の移動、即ち視点移動を行うことで、ユーザが見たい被写体を視点移動しながら提示することを可能とする。【００１４】
上記した本技術に係る情報処理装置においては、前記特定部は、前記全体画像内で出力対象領域とされている一部領域の画像とともに、前記全体画像としての静止画又は動画内に存在する表示候補画像を提示する存在提示画像を含む表示データに基づく表示に対して行われた、表示候補画像を指定するユーザ操作に基づいて、前記遷移先出力対象領域または前記遷移元出力対象領域を特定することが考えられる。
表示している画像上で、他の表示候補の被写体の存在を、存在提示画像として提示する。そしてユーザが、存在提示画像に対する操作等により或る表示候補画像を選択する操作を行うことで、その表示候補画像が含まれる領域に視点移動するような画像表示を実現する。【００１５】
上記した本技術に係る情報処理装置においては、前記存在提示画像は、前記表示候補画像のサムネイル画像であり、前記表示データは、現在の出力対象領域の画像と、前記表示候補画像のサムネイル画像を含むことが考えられる。
つまり存在する表示候補画像を、たとえば均一サイズのサムネイル画像として、現在の出力対象領域の一部に重畳させるなどの手法で、存在提示する。【００１６】
上記した本技術に係る情報処理装置においては、前記存在提示画像は、その存在提示画像が示す表示候補画像の、前記一部領域の画像に対する位置関係に応じた位置に配置されることが考えられる。
例えば現在の出力対象領域に対して画面上の上方に存在する表示候補画像についての存在提示画像は、現在の画面上の上方に提示する。現在の出力対象領域に対して画面上の右方に存在する表示候補画像についての存在提示画像は、現在の画面上の右方に提示する。【００１７】
上記した本技術に係る情報処理装置においては、前記表示データは、前記出力対象領域とされた前記一部領域の画像において指定された時間軸位置に対応する、前記指定された時間軸位置に存在する表示候補画像に対応する存在提示画像を含むことが考えられる。
動画コンテンツの場合、各表示候補画像は、時間軸方向においても存在状況が変動する。そこで時間軸上で、表示候補画像の存在が確認できるようにする。【００１８】
上記した本技術に係る情報処理装置においては、前記表示データは、表示候補画像と前記出力対象領域とされた前記一部領域の画像との位置関係を示す存在提示画像を含むことが考えられる。
例えば現在の出力対象領域に対する各表示候補画像の相対位置を示すような画像を存在提示画像とする。【００１９】
本技術に係る情報処理方法は、少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順とを備える。
これにより情報処理装置が視野遷移パスの自動決定を行うようにする。
本技術に係るプログラムは、以上の特定手順と視野遷移パス決定手順を情報処理装置に実行させるプログラムである。これにより視野遷移パスの自動決定を行うことのできる情報処理装置を実現する。
【発明の効果】
【００２０】
本技術によれば、遷移元出力対象領域から遷移先出力対象領域への遷移として視点移動を模した表示上で、視認上スムースな遷移が視認者に提供されるようにすることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００２１】
【図１】本技術の実施の形態で表示される画像の視野の説明図である。
【図２】実施の形態の出力対象領域の遷移の説明図である。
【図３】実施の形態の情報処理装置及び周辺装置のブロック図である。
【図４】実施の形態の情報処理装置のハードウエア構成のブロック図である。
【図５】実施の形態の情報処理装置の機能構成のブロック図である。
【図６】実施の形態の移動距離情報を用いた視野遷移パス決定の説明図である。
【図７】実施の形態の遷移中の出力対象領域の説明図である。
【図８】実施の形態の球面上で補間する視線方向の説明図である。
【図９】実施の形態の遷移元の移動方向情報を用いた視野遷移パス決定の説明図である。
【図１０】実施の形態の遷移先の移動方向情報を用いた視野遷移パス決定の説明図である。
【図１１】実施の形態の遷移先の被写体位置情報を用いた視野遷移パス決定の説明図である。
【図１２】実施の形態の出力対象領域の遷移の様子の説明図である。
【図１３】実施の形態のパス決定処理I、IIのフローチャートである。
【図１４】実施の形態のパス決定処理III、IVのフローチャートである。
【図１５】実施の形態のパス決定処理Vのフローチャートである。
【図１６】実施の形態の遷移設定画像の説明図である。
【図１７】実施の形態の遷移設定画像に基づく視野遷移パス決定の説明図である。
【図１８】実施の形態の遷移設定画像に基づく視野遷移パス決定の説明図である。
【図１９】実施の形態の遷移設定画像を用いる処理のフローチャートである。
【図２０】実施の形態の３点以上の補間の説明図である。
【図２１】実施の形態の存在提示画像を用いた指定入力の説明図である。
【図２２】実施の形態の存在提示画像を用いた指定入力の説明図である。
【図２３】実施の形態の存在提示画像を用いた指定入力の説明図である。
【図２４】実施の形態の存在提示画像の表示を含む処理のフローチャートである。
【発明を実施するための形態】
【００２２】
以下、実施の形態を次の順序で説明する。
＜１．実施の形態の処理対象の画像＞
＜２．情報処理装置の構成＞
＜３．出力対象領域の遷移処理＞
＜４．遷移設定画像を用いた処理＞
＜５．存在提示画像を用いた処理＞
＜６．まとめ及び変形例＞
【００２３】
＜１．実施の形態の処理対象の画像＞
まず本実施の形態の情報処理装置が処理の対象とする画像について説明する。処理対象とする画像は、少なくとも一方向に３６０度の連続する視野を有する画像である。換言すると３６０度の視野を有する画像である。一方向とは、直線的な方向である。球面上の方向としての直線（三次元における球面で生ずる湾曲は無視した場合の直線）も含む。
このような画像の具体例としては、図１Ａの半天球画像、図１Ｂの全天球画像、図１Ｃの３６０度パノラマ画像などがある。
【００２４】
図１ＡにおいてＰ０は視線の基準となる位置である。画像の撮像時の撮像装置の位置ととらえても良いし、画像の表示の際の視認者の位置ととらえることもできる。
位置Ｐ０において、例えば撮像装置の魚眼レンズ等の広角レンズを真上に向けて撮像を行うと、図１Ａのように、一点鎖線で示す光軸Ｌ１と天頂が交わる半天球状の範囲の静止画や動画を得ることができる。すなわち、水平方向に３６０度、垂直方向に１８０度の画角を有する半天球画像である。
【００２５】
また、図１Ｂの位置Ｐ０において、例えば撮像装置の広角レンズを真上向き及び真下向きに配置して撮像を行うと、一点鎖線で示す真上向きの光軸Ｌ１側の半天球状の範囲と、同じく一点鎖線で示す真下向きの光軸Ｌ２側の半天球状の範囲の画像が得られる。そして上面の広角レンズを介して撮像された画像と下面の広角レンズを介して撮像された画像を合成すると、１つの全天球状の範囲を撮像した静止画が生成される。また、動画撮像の場合、上面の広角レンズを介して撮像された画像と下面の広角レンズを介して撮像された画像について、同時刻に撮像されたフレーム同士を合成することで、全天球状の範囲を撮像した動画が生成される。
このような静止画や動画が、水平方向に３６０度、垂直方向に３６０度の画角を有する全天球画像である。
【００２６】
図１Ｃは、いわゆる３６０度パノラマ画像である。撮像装置が周囲３６０度の範囲を撮像することで、３６０度パノラマ画像としての静止画や動画を得ることができる。即ち水平方向に３６０度の画角を有する画像である。
なお、ここでは水平方向の画角の例を挙げたが、垂直方向に３６０度の画角を有する３６０度パノラマ画像も想定される。
【００２７】
本実施の形態では、このような、少なくとも一方向に３６０度の視野が連続する画像を処理対象として、表示出力等のための制御を行う。
以下、図１Ｂの全天球画像を例に用いて実施の形態の説明を行っていくが、説明する処理は半天球画像や３６０度パノラマ画像を処理対象としても適用できるものである。
【００２８】
実施の形態の情報処理装置は、全天球画像を表示装置で表示させる際に、全天球画像の全体画像（つまり水平方向及び垂直方向を含むいずれの方向にも３６０度の画角を有する全天球画像の全体）の一部領域である出力対象領域を切り出して表示することができる。
【００２９】
図２Ａに全天球画像における表示用の領域切り出しの様子を示している。全天球画像としての全体画像ＨＰは、球体の内側周面全部の画像と考えることができる。つまり位置Ｐ０から見ることのできる画像全体である。
この全体画像ＨＰにおける一部の領域を切り出して出力対象領域９０とする。実線で示す出力対象領域９０は、位置Ｐ０に居る視認者が視線方向Ｅ１で視認する画像となる。例えばこのような或る視線方向における一部の領域を出力対象領域９０として、表示装置で表示させる。
なお、ここでは表示用に領域を切り出す例を説明しているが、表示用に限らず、編集済みのコンテンツを作成する目的で、一部の領域を切り出して編集したり記録することも想定される。そのような場合でも後述する本実施の形態の処理、特に遷移パスの決定に関する処理は適用できる。
【００３０】
出力対象領域９０は、任意に変更することができる。例えば出力対象領域９０を破線で示すように、視線方向Ｅ２で視認できる領域の画像とすることができる。
このように出力対象領域９０は、全体画像ＨＰのうちで任意の領域として選択できる。従って、静止画の場合は、ユーザの操作によって出力対象領域９０を変更したり、情報処理装置が自動的に出力対象領域９０を変更することができる。
また動画の場合、ユーザ操作や自動制御によって出力対象領域９０を選択したり、動画の進行に応じて出力対象領域９０を変更していくようなことも可能である。
図示しないが、出力対象領域９０のサイズ、アスペクト比なども、ユーザ操作に応じて、或いは自動制御により、設定したり変更したりすることができる。
【００３１】
また出力対象領域９０は、例えば全体画像ＨＰの中で人物、動物、指定した対象物等が被写体として含まれている領域とすることが想定される。
例えば全体画像ＨＰの中に人物Ａと人物Ｂが被写体として含まれているときに、最初に人物Ａが含まれている領域を出力対象領域９０として切り出して表示装置で表示させ、その後、出力対象領域９０を人物Ｂが含まれている領域に変更して切り出しを行って表示装置で表示させる等の処理となる。
【００３２】
実施の形態の情報処理装置は、このような出力対象領域９０の遷移の際に、視野遷移パス決定処理を行う。
図２Ｂに被写体１００、１０１を示している。出力対象領域９０を被写体１００を含む領域から被写体１０１を含む領域に遷移させる場合、いきなり表示画面を切り替えることは不自然である場合が多い。そこで被写体１００を含む領域から被写体１０１を含む領域に至るまで、徐々に表示される領域が変化していくようにする。
全天球画像の場合、このような遷移の際の視野遷移パスとして、直線（この場合も、上述のように球面としての湾曲は無視する）を考えると、パスＰＴ１，ＰＴ２が想定される。
本実施の形態の情報処理装置は、このように複数のパス（候補パス）のうちで、視認者にとって快適な遷移を実現できるように、視野遷移パス決定を行う。例えばパスＰＴ１，ＰＴ２のうちで一方を視野遷移パスとして選択する。
【００３３】
＜２．情報処理装置の構成＞
本実施の形態の情報処理装置は、撮像装置、画像表示装置、画像編集装置、表示制御装置等の機器に内蔵されたり、或いはコンピュータ装置等により実現される。
図３は実施の形態の情報処理装置１とその周辺の構成として撮像装置２，記憶装置３，通信装置４，操作装置５，表示装置６を示している。
情報処理装置１は、周辺各部の機器として示す撮像装置２，記憶装置３，通信装置４，操作装置５，表示装置６の全部又は一部とともに一体の機器として構成される場合がある。例えばカメラ、モニタディスプレイ装置、テレビジョン装置、画像編集装置、コンピュータ装置、端末装置などとして一体化される場合がある。
また情報処理装置１は、図示する周辺機器とは別体の機器とされ、有線又は無線の通信路により各周辺機器と互いに通信を行う構成とされる場合もある。
【００３４】
図３に示す撮像装置２は、静止画や動画としての画像撮像を行い、撮像により得られた画像データを出力する。
例えば撮像装置２は、カバーレンズ、ズームレンズ、フォーカスレンズ等のレンズや絞り機構を備えた光学系により、被写体からの光を、ＣＭＯＳ（Complementary Metal OxideSemiconductor）型、ＣＣＤ（Charge Coupled Device）型などの撮像素子に集光する。
撮像装置２は、３６０度の連続する視野を有する画像を撮像するために、光学系において広角レンズを有していることが想定される。例えば魚眼レンズ、３６０度レンズを備えることが想定される。また撮像装置２が全方位撮像光学系、全周囲撮像光学系を備えていたり、或いは着脱式の全方位撮像光学系、全周囲撮像光学系を有するアダプタを取り付けられる構成とされていてもよい。全方位撮像光学系、全周囲撮像光学系としては周囲反射ミラーを用いたものや、ＰＡＬレンズ（Panoramic Annular Lens：パノラマ環状レンズ）を用いたものなどが考えられる。
そして撮像装置２では、これらの光学系によって撮像素子に集光された被写体光についての、撮像素子での光電変換で得た電気信号に対し、例えばＣＤＳ(Correlated Double Sampling)処理、ＡＧＣ(Automatic Gain Control)処理などを実行し、さらにＡ／Ｄ(Analog/Digital)変換処理を行う。そしてデジタルデータとしての撮像信号について、Ｒ，Ｇ，Ｂの黒レベルを所定のレベルにクランプするクランプ処理や、Ｒ，Ｇ，Ｂの色チャンネル間の補正処理、Ｒ，Ｇ，Ｂの画像データから、輝度（Ｙ）信号および色（Ｃ）信号を生成（分離）する処理を行う。また、これらの各種の信号処理が施された画像データに対して解像度変換処理や、例えば記録用や通信用の符号化処理を行う。
そして撮像装置２は、符号化処理により生成された画像データや、或いは符号化前の画像データ（いわゆるＲＡＷ画像データ）を情報処理装置１に出力する。
【００３５】
記憶装置３は、情報処理装置１からの要求に応じて、画像データの記憶媒体への記憶や、記憶媒体から読み出した画像データの情報処理装置１への供給を行う。
記憶装置３は、記憶媒体として例えば不揮発性メモリを用い、静止画データや動画データ等の画像ファイルや、画像ファイルの属性情報、サムネイル画像等を記憶する。
画像ファイルは、例えばＪＰＥＧ（Joint Photographic Experts Group）、ＴＩＦＦ（Tagged Image File Format）、ＧＩＦ（Graphics Interchange Format）、ＭＰＥＧ（Moving Picture Experts Group）−２、ＭＰＥＧ−４、ＡＶＩ（Audio Video Interleave）、ＡＶＣＨＤ（登録商標：Advanced Video Codec High Definition）等の形式で記憶される。
また記憶装置３は、静止画データや動画データとしてＲＡＷ画像データを記録する場合もある。
記憶装置３の実際の形態は多様に考えられる。例えば記憶装置３は、フラッシュメモリを記憶媒体として用いた記憶装置でもよいし、情報処理装置１を備えた機器に着脱できるメモリカード（例えば可搬型のフラッシュメモリ）と該メモリカードに対して記録再生アクセスを行うカード記録再生部による形態でもよい。また記憶装置３はＨＤＤ（Hard Disk Drive）などとして実現されることもある。もちろん光ディスク、光磁気ディスク、ホログラムメモリ媒体、磁気テープ、光テープ、体積記録媒体など、各種の記憶媒体に対応する記録再生部としてもよい。
【００３６】
通信装置４は、情報処理装置１からの要求に応じて、図示しない外部機器との間の有線又は無線による通信を行う。例えば画像データや制御データの送信や受信を行う。これにより情報処理装置１は図示しない外部機器に画像データや制御データの送信を行ったり、外部機器から供給される画像データを取得して処理を行うことができる。
通信装置４は、例えばＷＩＦＩ（Wireless Fidelity）やブルートゥース等の無線通信規格等の通信方式による通信を行うことが考えられる。
また通信装置４は、ネットワーク通信部として、例えばインターネット、ホームネットワーク、ＬＡＮ（Local Area Network）等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末等との間で各種データ送受信を行うようにしてもよい。
【００３７】
操作装置５は、ユーザの操作を入力する入力機能を有し、入力された操作に応じた信号を情報処理装置１へ送る。
この操作装置５としては、例えば機器の筐体上に設けられた各種操作子や、タッチパッド、表示部３４に形成されたタッチパネルなどとして実現される。
またタッチパネルと表示装置６に表示させるアイコンやメニュー等を用いたタッチパネル操作により、各種の操作が可能とされてもよい。
或いはタッチパッド等によりユーザのタップ操作を検出する形態もある。
また周辺画像認識により、ユーザのいわゆるジェスチャ操作を認識したり、音声入力機能を備えて音声操作を認識するようにしてもよい。
【００３８】
表示装置６はユーザに対して各種表示を行う。表示装置６は例えばＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electro-Luminescence）ディスプレイ等の表示部と、その表示駆動装置を有するものとする。
また表示装置６は、情報処理装置１によって例えば全天球画像から切り出された出力対象領域９０の画像データの供給を受け、動画や静止画の表示を行う。また表示装置６は、情報処理装置１の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちＧＵＩ（Graphical User Interface）としての表示を画面上に実行させる。
【００３９】
情報処理装置１は、ＣＰＵ（Central Processing Unit）、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）などを有して構成される。
撮像装置２，記憶装置３，通信装置４，操作装置５，表示装置６等の周辺各部の全部又は一部と一体の機器とされる場合、情報処理装置１は制御部として機能し、プログラムに基づき、動作状態やユーザ操作等に応じて周辺各部の動作制御を行う。
情報処理装置１は、周辺各部と別体機器とされる場合は、周辺各部の機器との間で画像データや制御データの通信等を行う。
本実施の形態では、情報処理装置１は、全天球画像等の３６０度の視野を有する画像についての出力対象領域９０の視野遷移パスを決定する処理を少なくとも行う。
情報処理装置１は、撮像装置２で撮像された画像データ、記憶装置３で記憶媒体から読み出された画像データ、或いは外部機器から送信されて通信装置４により受信された画像データを対象として、出力対象領域９０の視野遷移パス決定処理を行うことができる。
また情報処理装置１は、表示装置６で表示させている画像について、視野遷移パス決定処理で決定した視野遷移パスに沿って、出力対象領域９０の遷移を行う表示制御を行うことができる。
また情報処理装置１は視野遷移パス決定処理で決定した視野遷移パスの情報を、画像データに対応させて記憶装置３により記憶媒体に記憶させることができる。
また情報処理装置１は視野遷移パス決定処理で決定した視野遷移パスの情報を、画像データに付加して（例えばメタデータとして付加して）、通信装置４により外部機器に送信させることができる。
【００４０】
情報処理装置１のハードウエア構成例を図４に示す。ここではコンピュータ装置としての例を示している。
情報処理装置１のＣＰＵ５１は、ＲＯＭ５２に記憶されているプログラム、または記憶部５９からＲＡＭ５３にロードされたプログラムに従って各種の処理を実行する。ＲＡＭ５３にはまた、ＣＰＵ５１が各種の処理を実行する上において必要なデータなども適宜記憶される。
ＣＰＵ５１、ＲＯＭ５２、およびＲＡＭ５３は、バス５４を介して相互に接続されている。このバス５４にはまた、入出力インタフェース５５も接続されている。
【００４１】
入出力インタフェース５５には、液晶パネル或いは有機ＥＬパネルなどよりなるディスプレイ５６、キーボード、マウスなどよりなる入力部５７、スピーカ５８、ＨＤＤなどより構成される記憶部５９、通信部６０が接続されている。
図３の表示装置６が情報処理装置１と一体機器の場合、ディスプレイ５６は表示装置６を意味する。表示装置６が情報処理装置１とは別体機器の場合、ディスプレイ５６はコンピュータ装置としてのディスプレイであり、オペレータに対するユーザインタフェースのための各種情報表示を行う。
図３の操作装置５が情報処理装置１と一体機器の場合、入力部５７は操作装置５を意味する。操作装置５が情報処理装置１とは別体機器の場合、入力部５７はコンピュータ装置においてオペレータが使用する入力デバイスを意味する。
通信部６０は、インターネットを含むネットワークを介しての通信処理や、図３の周辺各部の機器との間の通信を行う。
【００４２】
入出力インタフェース５５にはまた、必要に応じてドライブ６１が接続され、メモリカード６２が装着され、メモリカード６２から読み出されたコンピュータプログラムが、必要に応じて記憶部５９にインストールされたり、ＣＰＵ５１で処理したデータが記憶される。もちろんドライブ６１は、磁気ディスク、光ディスク、光磁気ディスク等のリムーバブル記憶媒体に対する記録再生ドライブとされてもよい。
【００４３】
このようなコンピュータ装置の場合、実施の形態の情報処理装置としての処理、即ち視野遷移パス決定処理等は、ＣＰＵ５１で起動されるソフトウエアにより実現される。そのソフトウエアを構成するプログラムは、ネットワークからダウンロードされたり、リムーバブル記憶媒体から読み出されたりして図４のコンピュータ装置にインストールされる。或いはそのプログラムが記憶部５９としてのＨＤＤ等に予め記憶されていてもよい。
そしてＣＰＵ５１において当該プログラムが起動されることで、後述する各種処理を行うことができるようにされる。
なお、実施の形態の情報処理装置１は、図４のようなコンピュータ装置が単一で構成されることに限らず、複数のコンピュータ装置がシステム化されて構成されてもよい。複数のコンピュータ装置は、ＬＡＮ等によりシステム化されていてもよいし、インターネット等を利用したＶＰＮ等により遠隔地に配置されたものでもよい。複数の情報処理装置には、クラウドコンピューティングサービスによって利用可能なコンピュータ装置などの情報処理装置が含まれてもよい。
【００４４】
図５Ａ、図５Ｂに１又は複数のコンピュータ装置等により形成される実施の形態の情報処理装置１の機能構成例を示す。
なお、図５Ａ、図５Ｂで説明する各機能は、情報処理装置１においてＣＰＵ５１でプログラムに応じて実行される処理により実現される機能である。但し以下説明する全部又は一部の各構成の処理をハードウエアにより実現してもよい。
また各機能をソフトウエアで実現する場合に、各機能がそれぞれ独立したプログラムで実現される必要はない。１つのプログラムにより複数の機能の処理が実行されてもよいし、１つの機能が複数のプログラムモジュールの連携で実現されてもよい。
また各機能は複数のコンピュータ装置に分散されていてもよい。さらに機能の１つが、複数のコンピュータ装置によって実現されてもよい。各機能は別筐体で構成される複数のコンピュータ装置により実現されてもよい。
【００４５】
情報処理装置１は図５Ａに示すように画像データ取得部１０、物体検知部１１、パス生成部１２、切り出し枠生成部１３、表示データ生成部１４、入力情報取得部１５、表示制御部１６、記憶制御部１７、通信制御部１８を備える。
【００４６】
画像データ取得部１０は、少なくとも一方向に３６０度の視野が連続する画像としての画像データ（動画データや静止画データ）を取得する。即ち撮像装置２、記憶装置３、或いは通信装置４から供給される例えば全天球画像等の画像データを取得する。
例えば画像データ取得部１０は、撮像装置２から送信される画像データを受信する受信装置、インタフェース装置、入力バファリング装置であったり、記憶装置３で再生された画像データを受信する受信装置、インタフェース装置、入力バファリング装置であったり、通信装置４で受信した画像データを入力するインタフェース装置、入力バファリング装置等が想定される。
【００４７】
物体検知部１１は、画像データ取得部１０が取得した画像データの画像解析を行い、被写体となっている特定の物体を検知する。例えば人、動物、その他の移動体、人の顔検出、特定の建造物や物体等を画像データ内で検出する。
このような物体検知は、出力対象領域９０となる切り出し領域の設定のために行う。例えば人の顔が写っている領域を出力対象領域９０とするためなどである。
画像データ及び物体検知部１１で検知された被写体の情報は、切り出し枠（出力対象領域９０）の指定の情報として、パス生成部１２、切り出し枠生成部１３、表示データ生成部１４の処理で用いられる。
なお、切り出し枠の指定情報は、物体検知部１１から取得されるものに限らず、人手によってラベリングされたメタ情報や、撮像時に画像データに付与されたマーカー情報、顔検出や人検出などの他の画像処理を用いて取得された認識情報でもよい。
【００４８】
パス生成部１２は図２Ｂで説明したように或る被写体１００の領域から他の被写体１０１の領域へ出力対象領域９０を遷移させる際の視野遷移パス決定処理を行う。
パス生成部１２は、複数の切り出し枠（出力対象領域９０）の指定情報から、全天球画像の特性を用いて、視野遷移パスを生成する。
このときにパス生成部１２は、遷移元の出力対象領域９０と遷移先の出力対象領域９０の位置関係、移動方向、移動速度、指定領域の信頼性の情報等に基づいて視野遷移方向を決定するなどして視野遷移パスを決定する。
このためパス生成部１２には、図５Ｂに示すように、特定部２１と視野遷移パス決定部２２を有する。
特定部は、取得した画像データとしての全体画像ＨＰの一部領域である出力対象領域９０について、遷移元の出力対象領域９０と遷移先の出力対象領域９０とを特定する処理を行う。
視野遷移パス決定部２２は、遷移元の出力対象領域から遷移先の出力対象領域に至る視野遷移パスを決定する処理を行う。例えば図２Ｂで説明したパスＰＴ１，ＰＴ２のうちから１つを選択して視野遷移パスと決定する。
パス生成部１２の処理について、詳しくは後述する。
【００４９】
切り出し枠生成部１３は、全体画像ＨＰのうちで出力対象領域９０として切り出しを行う領域の情報を生成する。
例えば物体検知部１１で検出された特定の被写体を含む領域を切り出し枠とする。
また或る出力対象領域９０から他の出力対象領域９０に遷移する場合は、パス生成部１２で決定された視野遷移パスに応じて、その遷移過程の各時点で出力対象領域９０となる各切り出し枠の情報を生成する。
【００５０】
表示データ生成部１４は、切り出し枠生成部１３で生成された切り出し枠の情報に基づいて、全体画像ＨＰからの切り出し画像出力のためのレンダリング処理等を行う。
また表示データ生成部１４は、切り出した出力対象領域９０の画像に対して、各種画像（アイコン、サムネイル、その他の操作用の画像）等の重畳表示するための処理や、別途表示させるメニュー画像、操作用の画像の表示データ生成処理を行ってもよい。
また表示データ生成部１４は、後述する遷移設定画像や存在提示画像等を含む表示データ生成処理を行ってもよい。
【００５１】
入力情報取得部１５は、図３の操作装置５や図４の入力部５７からのユーザの操作情報を取得する。例えばユーザによる各種操作情報や、被写体の指定情報等を取得する。取得した情報は、物体検知部１１、パス生成部１２、表示データ生成部で用いられる。
【００５２】
表示制御部１６は、表示データ生成部で生成された出力対象領域９０の表示データを表示装置６で表示させる制御を行う。
記憶制御部１７は、表示データ生成部生成された表示データや、パス生成部１２で決定された視野遷移パスの情報等を記憶装置３に記憶させる制御を行う。
通信制御部１８は、表示データ生成部生成された表示データや、パス生成部１２で決定された視野遷移パスの情報等を通信装置４から外部機器に送信させる制御を行う。
【００５３】
＜３．出力対象領域の遷移処理＞
以上の情報処理装置１による出力対象領域９０の遷移処理について説明する。
ここでは、全体画像ＨＰのうちで異なる複数の切り出し領域の間を、全天球の球面上で移動する場合の処理として説明する。例えば図２Ａにおいて視線方向Ｅ１の出力対象領域９０から、視線方向Ｅ２の出力対象領域９０に遷移させるために、図２ＢのようにパスＰＴ１，ＰＴ２が考えられる状況において、一方を視野遷移パスとして決定する場合の例である。
【００５４】
まず、視野遷移パスの決定のために移動距離情報を用いる例を図６で説明する。
図６Ａは、全天球画像の全体画像ＨＰを仮想的に長方形状で示したものである。なお図６Ａの右端と左端は連続しているものとする。後述する図７Ａ〜図７Ｆ、図９Ａ、図１０Ａ、図１１Ａも同様である。
図６Ａにおいて、現在、被写体１００を含む出力対象領域９０を表示しているとする。このときに被写体１０１を含む切り出し枠が出力対象領域９０となるように、出力対象領域９０を遷移させることを想定する。
【００５５】
ここで遷移パスの決定に先立って、出力対象領域９０の遷移について説明しておく。
図７は出力対象領域９０の遷移の様子を示している。図７Ａの出力対象領域９０は被写体１００を含む画像領域である。表示装置６では、この出力対象領域９０が表示され、ユーザ（視認者）は被写体１００を視認している状態である。この状態から、図７Ｆに示すように、被写体１０１を含む切り出し領域が出力対象領域９０となるようにする。つまりユーザが表示装置６で被写体１０１を視認できる状態である。
例えば図７Ａの状態から図７Ｆの状態に瞬間的に切り換えることもできるが、ユーザに全天球画像であることによる表示効果を与えると共に、全天球画像内でのより自然な視認環境を与えるには、全体画像ＨＰ内で表示装置６で表示される領域を徐々に移動させて、被写体１０１に至るようにするとよい。これによりユーザは、自分が周囲を見渡すような感覚で、表示されるシーンの遷移を感じることができる。
そのため、図７Ａの状態から、図７Ｂ→図７Ｃ→図７Ｄ→図７Ｅと徐々に出力対象領域９０を遷移させ、最終的に図７Ｆの状態に至るようにする。このような経路を視野遷移パスと呼んでいる。
【００５６】
なお、遷移元の出力対象領域９０から遷移先の出力対象領域９０への遷移過程では、図７Ｂ〜図７Ｅのように、途中の出力対象領域９０が設定されるが、これらの出力対象領域９０をどのように決定するかの一例を示しておく。
図８は球面上の２点間の補間のモデルを示している。被写体１００の位置と被写体１０１の位置を２つの点として、その間を補間する。
視線方向Ｅｓは被写体１００に対する遷移開始時点の視線方向である。視線方向Ｅｅは被写体１０１に対する遷移終了時の視線方向である。
位置Ｐ０及び被写体１００、１０１の位置を含むように球体を切断した平面を補間平面ＨＨとする。補間平面ＨＨは、遷移開始点、遷移終了点の視線方向のなす平面である。
【００５７】
直交平面ＶＨは補間平面ＨＨに直交する平面である。この直交平面ＶＨの方向ベクトルをベクトルｃとする。
また遷移開始時点の視線方向Ｅｓのベクトルａ、遷移終了時の視線方向Ｅｅのベクトルｂを示している。
破線で示す補間する視線方向はベクトルｄとする。
なお、ベクトルａ，ｂ，ｃ，ｄについては、図面及び下記の数式ではベクトル記号“→”を付加している。
【００５８】
遷移開始点と遷移終了点の視線方向を補間する制御パラメータを“ｔ”とする。
ｔ＝０〜１とする。ｔ＝０は遷移開始点、ｔ＝１は遷移終了点での値である。
まず、ベクトルの外積を使って、
【００５９】
【数１】
0006787394.tif 000002
【００６０】
ここで、ベクトルａ，ｂは、それぞれ遷移開始時の視線方向Ｅｓと遷移終了時の視線方向Ｅｅのベクトルで正規化されているとする。
また遷移開始時の視線方向Ｅｓと遷移終了時の視線方向Ｅｅのなす角θは次の通りである。
【００６１】
【数２】
0006787394.tif 000003
【００６２】
このとき、補間する視線方向（ベクトルｄ）は、制御パラメータｔを用いて、次のように表すことができる。
【００６３】
【数３】
0006787394.tif 000004
【００６４】
このようなベクトルｄを、制御パラメータｔについて０〜１の範囲における各値を選択して求めることで、遷移過程の出力対象領域９０として補間すべき切り出し領域が決定できる。
視野遷移を行う場合、遷移する距離に関わらず遷移時間を一定にすることや、或いは遷移速度を一定にすることが考えられる。さらには遷移開始時と遷移終了時間際はゆっくり移動するが、途中は早めに移動することなども考えられる。このような制御は制御パラメータｔの選択により可能となる。
【００６５】
視野（視線方向）遷移の時刻に対して、制御パラメータｔの値の増加を一定速度にすると、等間隔の補間となり、つまり一定速度での遷移が実現される。出力対象領域９０が一定速度で移動することで、ユーザは自然な感じで画像の変化を視認できる。
制御パラメータｔの値を、一定の遷移時間内を所定回数に分割して設定すると、遷移時間が一定になり、つまり距離が近い遷移の場合はゆっくり、距離が遠い遷移の場合は速い移動となるような視野遷移が行われる。
さらに、遷移開始時と遷移終了時の視線方向の近く（つまり制御パラメータｔについてｔ＝０の近く及びｔ＝１の近く）で、制御パラメータｔの増加を緩やかにすると、遷移開始終了時は緩やかな移動というような遷移も設定できる。遷移の開始終了近辺で出力対象領域９０の移動を緩やかにすると、ユーザにとって画像変化がより心地よいものとなると考えられている。
もちろん制御パラメータｔの増加の設定により、移動速度の加速、減速も可能である。
【００６６】
以上を踏まえ、図６に戻って、視野遷移パスの決定手法について説明する。
図６Ａの全体画像ＨＰにおいて、被写体１００を含む出力対象領域９０から被写体１０１を含む出力対象領域９０に至るように、出力対象領域９０を遷移させるパスとしては、図示するパスＰＴ１，ＰＴ２が想定される。
図６Ｂは、このパスＰＴ１，ＰＴ２を球体の上方から見た様子として示している。即ち図８のベクトルｃ側の上方から補間平面ＨＨを見た状態である。
この場合に、視線方向Ｅｓから視線方向Ｅｅへの視点移動の距離が球面上で短くなるようにパスを決定する。つまりパスＰＴ１，ＰＴ２の移動距離情報を取得し、短い方のパスＰＴ２を視野遷移パスとして選択する。
【００６７】
次に遷移元の出力対象領域９０の被写体の移動方向情報を用いて視野遷移パスを決定する例を図９で説明する。図６Ａと同じく、図９Ａの全体画像ＨＰにおいて、被写体１００を含む出力対象領域９０から被写体１０１を含む出力対象領域９０に至るように、出力対象領域９０を遷移させるパスとしては、パスＰＴ１，ＰＴ２が想定される。図９Ｂは上方から補間平面ＨＨを見た状態である。
ここで、全体画像ＨＰは動画であり、被写体１００は人物その他の移動体であって、例えば矢印Ｍ方向に移動しているとする。つまり動画のフレームの進行に伴って、被写体１００の位置は矢印Ｍ方向に変化している。
なお、動画の場合、図７、図８で説明した補間により選択される、遷移過程の各時刻の出力対象領域９０は、その各時刻に対応するフレームから切り出される領域である。つまりユーザ（視認者）は、動画シーン上で、徐々に視線方向が移動していく感覚で表示を見ることになる。
【００６８】
この場合に、視野遷移パスは、遷移元の出力対象領域９０における動きの方向、例えば出力対象領域９０の主たる被写体１００の動きの方向と同じ方向となるように決定する。
即ちこの例の場合、パスＰＴ１はＤＲ１方向の遷移、パスＰＴ２はＤＲ２方向の遷移であって、被写体１００はＤＲ１方向に動いているため、パスＰＴ１を視野遷移パスとして選択する。これにより、ユーザが視線方向を矢印ＥｓＭに移動させて、当初、被写体１００を目で追いながら、シーンが変化していくような遷移が行われる。
【００６９】
なお情報処理装置１は、出力対象領域９０に存在する被写体の動きの方向は、例えば複数フレームの被写体認識と位置比較によって解析してもよいし、画像データに付加されているメタデータを参照して把握してもよい。また切り出し領域についてのグローバルベクトルを解析して、それを主たる被写体の動き方向としてもよい。
【００７０】
また、被写体１００の動き方向は、必ずしも補間平面ＨＨに対しての水平方向とは限らない。例えば図９Ｃに示すように、補間平面ＨＨとは水平ではない方向Ｍ１，Ｍ２，Ｍ３のような各場合が想定される。なお補間平面ＨＨは図８で説明したように遷移開始点、遷移終了点の視線方向のなす平面であり、図９Ｃは遷移元と遷移先が水平となるように座標を回転して考えた場合の図である。
情報処理装置１は、例えば遷移開始時点の被写体１００の位置を含む直交平面ＶＨ１００を基準として、被写体１００の動きがＤＲ１方向かＤＲ２方向かを判定すればよい。つまりＤＲ１方向のベクトル成分を有するか、ＤＲ２方向のベクトル成分を有するかで判別すればよい。従って図示する方向Ｍ１，Ｍ２，Ｍ３のいずれの場合も、被写体１００の動き方向はＤＲ１方向とする。
換言すれば、方向Ｍ１，Ｍ２，Ｍ３等について、いずれの候補パスの方向（ＤＲ１，ＤＲ２）と共通のベクトル成分を有するかを判別すればよい。
【００７１】
次に遷移先の出力対象領域９０の被写体の移動方向情報を用いて視野遷移パスを決定する例を図１０で説明する。図６Ａと同じく、図１０Ａの全体画像ＨＰにおいて、被写体１００を含む出力対象領域９０から被写体１０１を含む出力対象領域９０に至るように、出力対象領域９０を遷移させるパスとしては、パスＰＴ１，ＰＴ２が想定される。図１０Ｂは上方から補間平面ＨＨを見た状態である。
この例の場合も全体画像ＨＰは動画であり、被写体１０１は人物その他の移動体であって、例えば矢印Ｍ方向に移動しているとする。つまり動画のフレームの進行に伴って、被写体１０１の位置は矢印Ｍ方向に変化している。
【００７２】
視野遷移パスは、遷移先の出力対象領域９０における動きの方向、例えば遷移先の出力対象領域９０の主たる被写体１０１の動きの方向と同じ方向となるように決定する。
この例の場合、パスＰＴ１はＤＲ１方向の遷移、パスＰＴ２はＤＲ２方向の遷移であって、被写体１０１はＤＲ１方向に動いているため、パスＰＴ１を視野遷移パスとして選択する。これにより、ユーザが視線方向Ｅｓから徐々に移動させていった後、最終的に被写体１０１を目で追いかけるようにして被写体１０１の出力対象領域９０に至るような遷移が行われる。
【００７３】
この場合も情報処理装置１は、被写体１０１の動き方向は、必ずしも補間平面ＨＨに対しての水平方向とは限らない。例えば図１０Ｃに示すように、補間平面ＨＨとは水平でない方向Ｍ１，Ｍ２，Ｍ３のような各場合が想定される。しかし情報処理装置１は、例えば遷移開始時点の被写体１０１の位置を含む直交平面ＶＨ１０１を基準として、ＤＲ１方向とＤＲ２方向のいずれのベクトル成分を有するかにより、被写体１０１の動きがＤＲ１方向かＤＲ２方向かを判定すればよい。従って図示する方向Ｍ１，Ｍ２，Ｍ３のいずれの場合も、被写体１０１の動き方向はＤＲ１方向とする。
【００７４】
ところで、遷移元の出力対象領域９０に含まれる被写体１００と、遷移元の出力対象領域９０に含まれる被写体１０１の両方が動いている場合もある。
その場合において、動き方向が互いに異なる場合、移動速度の速いほうの被写体に合わせて視野遷移パスを決定することが考えられる。
即ち情報処理装置１は、遷移元の出力対象領域９０の被写体１００の移動速度情報Ｖｓを取得し、また遷移先の出力対象領域９０の被写体１０１の移動速度情報Ｖｅを取得する。簡単には、連続するフレーム間、例えば遷移開始時のフレームと次のフレームでの被写体１００の全体画像ＨＰ内での位置の差分（位置差分に相当する画素数又は距離）を移動速度情報Ｖｓとし、同じく被写体１０１の位置差分を移動速度情報Ｖｅとすればよい。
もちろん実際の速度値を算出して移動速度情報Ｖｓ，Ｖｅとしてもよい。
そして移動速度情報Ｖｓ，Ｖｅを比較し、速い方を判断する。もし被写体１００の方が速ければ、図９で説明したように、被写体１００の動き方向に合わせてパスＰＴ１，ＰＴ２のうちで視野遷移パスを選択する。被写体１０１の方が速ければ、図１０で説明したように、被写体１０１の動き方向に合わせてパスＰＴ１，ＰＴ２のうちで視野遷移パスを選択する。
【００７５】
なお、被写体１００の動き方向が同方向の場合は、それらの動き方向に合わせて視野遷移パスを決定すればよいことは言うまでもない。
【００７６】
次に、遷移所要時間経過後のフレームにおける遷移先の出力対象領域９０に存在する被写体１０１の位置を示す被写体位置情報を、視野遷移パスの決定に用いる例を図１１で説明する。
図６Ａと同じく、図１１Ａの全体画像ＨＰにおいて、被写体１００を含む出力対象領域９０から被写体１０１を含む出力対象領域９０に至る遷移を考える。図１１Ｂは上方から補間平面ＨＨを見た状態である。
ここで、遷移開始時点では、遷移先として目的とする被写体１０１は、全体画像ＨＰ内で被写体１０１ｃとして示す位置に存在するとする。しかし、被写体１０１は図中のＭ方向に移動しており、遷移終了時点の位置を考えると、図示する被写体１０１の位置に存在しているとする。
この場合に情報処理装置１は、遷移終了時の被写体１０１の位置を確認し、その被写体１０１を基準にして、候補となるパスＰＴ１，ＰＴ２を想定する。そして、パスＰＴ１，ＰＴ２のうちで、距離が短い方を、視野遷移パスとして選択する。
【００７７】
なお、遷移終了時の被写体１０１の位置は、仮に遷移時間を一定にするという前提で考えれば、その遷移時間に相当するフレーム数分の後のフレームでの被写体１０１の位置を判定すればよい。
また例えば遷移の際の移動速度を一定とする場合は、出力対象領域９０の移動速度と被写体１０１の移動速度を考慮して、パスＰＴ１の場合に出力対象領域９０が被写体１０１に到達する時間Ｔ１と、パスＰＴ２の場合に出力対象領域９０が被写体１０１に到達する時間Ｔ２を算出し、短い時間となるパスの方を選択すればよい。結果的に選択されるパスは、遷移終了時の被写体１０１の位置に対して、移動距離が短いパスとなる。
【００７８】
以上、視野遷移パス決定の例を説明してきたが、もちろん例示以外の決定手法も考えられる。
視野遷移パス決定処理には、切り出し指定領域の信頼性情報に基づいて、遷移元と遷移先の被写体うちで信頼性の高い方を選択し、その被写体の移動方向に応じて視点移動方向（つまり遷移方向）を決定することも考えられる。
信頼性情報の具体例として、切り出し指定領域が「物体検知」や「顔検出」などの画像処理で取得された場合はその検出精度の尤度を利用する。切り出し指定領域が「ラベリング」や「マーカー」などのユーザ入力によって取得された場合はその優先度を信頼性として利用する。例えばユーザ入力による切り出し指定領域については物体検知等の場合よりも優先度を高くしたり、或いはラベリングの場合は優先度もユーザが入力できるようにし、その優先度に応じて信頼性の高い方を選択することなども考えられる。
【００７９】
図１２は、動画としての全体画像ＨＰ内での出力対象領域９０の遷移の例を示している。図の上段には、全体画像ＨＰとしてのフレームＨＰ（ｔ０）、ＨＰ（ｔ１）、ＨＰ（ｔ２）、ＨＰ（ｔ３）を示している。これらはそれぞれ時点ｔ０，ｔ１，ｔ２，ｔ３のフレームである。
図の下段は、それぞれの時点でフレームＨＰ（ｔ０）、ＨＰ（ｔ１）、ＨＰ（ｔ２）、ＨＰ（ｔ３）から切り出されて出力対象領域９０（ｔ０）、９０（ｔ１）、９０（ｔ２）、９０（ｔ３）とされている画像を示している。つまりユーザが実際に視認している画像である。
【００８０】
時点ｔ０では、被写体１００としての自動車を含む出力対象領域９０（ｔ１）が表示されている。この被写体１００から被写体１０１の他の自動車に遷移するとする。
なお、被写体１００、１０１の各自動車は、ともに紙面左方向に移動しているとする。そのため、視線方向が左側に移動するように視野遷移パスが決定され、出力対象領域９０の遷移が行われる。
例えば時点ｔ１では、出力対象領域９０（ｔ１）が、全体画像ＨＰ内で左側に移動される。３６０度連続している画像であるため、切り出される領域は、全体画像ＨＰのフレームＨＰ（ｔ１）の左端部分と右端部分にかけての領域となる。出力対象領域９０（ｔ１）内には、遷移元の被写体１００の自動車の先端のみが含まれている。
時点ｔ２では、出力対象領域９０（ｔ２）は、さらに全体画像ＨＰ内で左側に移動される。出力対象領域９０（ｔ２）には、被写体１０１としての自動車の一部が含まれる状態となっている。
時点ｔ３では、出力対象領域９０（ｔ３）は、さらに全体画像ＨＰ内で左側に移動され、出力対象領域９０（ｔ３）が被写体１０１としての自動車の全体を含む状態となっている。つまり遷移が終了した状態である。
例えばこのように、被写体１００，１０１の動きを考慮して視野遷移パス決定を行うことで、ユーザに自然な感覚の視線移動を与えることができる。
【００８１】
以上のような視野遷移パスの決定を行うための情報処理装置１の各種の処理例を、パス決定処理I〜Vとして説明していく。以下の処理例は情報処理装置１のパス生成部１２が、図５Ｂに示した特定部２１及び視野遷移パス決定部２２の機能により実行する処理である。
【００８２】
図１３Ａにパス決定処理Iを示す。これは図６で説明した移動距離情報を用いて視野遷移パスを決定する例である。
パス生成部１２はステップＳ１００で遷移元、遷移先を特定する。例えば遷移元の出力対象領域９０は、現在表示中の出力対象領域９０とする。遷移先の出力対象領域９０は、物体検知部１１で検出された特定の被写体が含まれる領域であるとする。
なお、後述するが、遷移元の出力対象領域９０をユーザの指定操作等に応じて特定する場合もある。
【００８３】
ステップＳ１０１でパス決定部２２は、決定した遷移元の出力対象領域９０から遷移先の出力対象領域９０に至るパスとして上述した候補となるパスＰＴ１，ＰＴ２（以下、パスＰＴ１，ＰＴ２について「候補パス」とも表記する）を特定する。
ステップＳ１０２でパス生成部１２は、候補パスＰＴ１について視点移動距離Ｄ１を算出する。候補パスＰＴ１を採用した場合の移動距離である。
ステップＳ１０３でパス生成部１２は、候補パスＰＴ２について視点移動距離Ｄ２を算出する。候補パスＰＴ２を採用した場合の移動距離である。
ステップＳ１０４でパス生成部１２は、視点移動距離Ｄ１、Ｄ２を比較する。
そしてステップＳ１０５でパス生成部１２は、候補パスＰＴ１、ＰＴ２のうちで視点移動距離が短い方のパスを選択し、それを視野遷移パスとして決定する。
【００８４】
図１３Ｂにパス決定処理IIを示す。これは図９で説明した遷移元の被写体１００の移動方向情報を用いて視野遷移パスを決定する例である。
なお、以降のフローチャートにおいて既説明の処理については同一のステップ番号を付して、詳細な説明は省略する。
【００８５】
パス生成部１２はステップＳ１００で遷移元、遷移先を特定し、ステップＳ１０１で候補パスＰＴ１，ＰＴ２を特定する。
ここでパス生成部１２はステップＳ１１０で、遷移元の出力対象領域９０の被写体１００について動きがあるか否かにより処理を分岐する。
もし被写体１００について動きがなければ、ステップＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５により、図１３Ａと同様の処理、つまり候補パスＰＴ１、ＰＴ２のうちで視点移動距離が短い方のパスを選択し、それを視野遷移パスとして決定する。
【００８６】
一方、遷移元の出力対象領域９０の被写体１００について動きがある場合は、パス生成部１２はステップＳ１１０からＳ１１１に進み、遷移元の被写体１００の移動方向を判別する。つまり図９におけるＤＲ１方向かＤＲ２方向かを判別する。
そしてパス生成部１２はステップＳ１１２で、判別した動き方向に合わせて候補パスＰＴ１、ＰＴ２の一方を選択し、それを視野遷移パスとして決定する。
例えば候補パスＰＴ１がＤＲ１方向の視点移動を行うパス、候補パスＰＴ２がＤＲ２方向の視点移動を行うパスで、被写体１００の移動方向がＤＲ１方向であれば候補パスＰＴ１を選択する。
【００８７】
図１４Ａにパス決定処理IIIを示す。これは図１０で説明した遷移先の被写体１０１の移動方向情報を用いて視野遷移パスを決定する例である。
パス生成部１２はステップＳ１００で遷移元、遷移先を特定し、ステップＳ１０１で候補パスＰＴ１，ＰＴ２を特定する。
ここでパス生成部１２はステップＳ１２０で、遷移先の出力対象領域９０の被写体１０１について動きがあるか否かにより処理を分岐する。
もし被写体１０１について動きがなければ、ステップＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５により、図１３Ａと同様の処理、つまり候補パスＰＴ１、ＰＴ２のうちで視点移動距離が短い方のパスを選択し、それを視野遷移パスとして決定する。
【００８８】
一方、遷移先の出力対象領域９０の被写体１０１について動きがある場合は、パス生成部１２はステップＳ１２０からＳ１２１に進み、遷移先の被写体１０１の移動方向を判別する。つまり図１０におけるＤＲ１方向かＤＲ２方向かを判別する。
そしてパス生成部１２はステップＳ１２２で、判別した動き方向に合わせて候補パスＰＴ１、ＰＴ２の一方を選択し、それを視野遷移パスとして決定する。
例えば候補パスＰＴ１がＤＲ１方向の視点移動を行うパス、候補パスＰＴ２がＤＲ２方向の視点移動を行うパスで、被写体１０１の移動方向がＤＲ１方向であれば候補パスＰＴ１を選択する。
【００８９】
図１４Ｂにパス決定処理IVを示す。これは図１１で説明した遷移先の被写体１０１の遷移終了時点の被写体位置情報を用いて視野遷移パスを決定する例である。
パス生成部１２はステップＳ１００で遷移元、遷移先を特定したら、続いてステップＳ１２０で遷移先の被写体１０１ついて動きがあるか否かを判断する。
もし動きがある場合は、ステップＳ１２５で、時間Ｔｍ後の遷移先の被写体１０１の全体画像ＨＰ内での位置を判定してからステップＳ１０１に進む。時間Ｔｍとは、遷移に要する時間である。パス生成部１２は具体的には、現在のフレームより時間Ｔｍ後に相当するフレームにおける被写体１０１の位置を判定する。
被写体１０１に動きがなければステップＳ１２５は行わずにステップＳ１０１に進む。
【００９０】
パス生成部１２はステップＳ１０１で候補パスＰＴ１，ＰＴ２を特定する。但しこの場合、被写体１０１に動きがある場合は、遷移先を、時間Ｔｍ後の被写体１０１が含まれる切り出し領域に変更し、その上で候補パスＰＴ１、ＰＴ２を設定する。
そしてパス生成部１２はステップＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５により、図１３Ａと同様の処理、つまり候補パスＰＴ１、ＰＴ２のうちで視点移動距離が短い方のパスを選択し、それを視野遷移パスとして決定する。
従って、遷移先の被写体１０１に動きがある場合は、遷移に要する時間後の被写体１０１の位置を基準に、遷移距離の短い方のパスが選択されることになる。
【００９１】
図１５にパス決定処理Vを示す。これは遷移元の被写体１００と遷移先の被写体１０１の両方が動いている被写体である場合に、移動速度情報を用いて視野遷移パスを決定する例である。
【００９２】
パス生成部１２は、ステップＳ１５１として視野遷移パスを仮選択する。例えばパス生成部１２は、図１３Ａで説明したパス決定処理I（Ｓ１００〜Ｓ１０５）を実行し、その処理で選択したパス、つまり視点移動距離が短いパスを、仮に視野遷移パスとする仮選択を行う。
【００９３】
ステップＳ１５２でパス生成部１２は、遷移元の被写体１００の移動方向成分が、仮選択パスと共通であるか否かを判断する。即ち被写体１００の移動方向が、図９，図１０に示したＤＲ１方向又はＤＲ２方向の成分のいずれを有しているかを判別し、その移動方向成分と、仮選択パスの移動方向が共通か否かを確認する。
【００９４】
遷移元の被写体１００の移動方向成分が仮選択パスの移動方向と共通の場合、パス生成部１２はステップＳ１５３に進み、今度は遷移先の被写体１０１の移動方向成分（ＤＲ１方向／ＤＲ２方向）が仮選択パスと共通か否かを確認する。
もし、共通であれば、遷移元の被写体１００と遷移先の被写体１０１の両方の移動方向成分が共通で、しかも仮選択パスの移動方向とも共通していることになる。従ってその場合はステップＳ１５６に進み、仮選択パスを視野遷移パスとして決定する。
【００９５】
ステップＳ１５３で遷移先の被写体１０１の移動方向成分が仮選択パスと共通ではない場合、被写体１００と被写体１０１の動きの方向（ＤＲ１方向／ＤＲ２方向の方向成分）が、一致していないことになる。
その場合は、ステップＳ１５４で遷移元の被写体１００の移動速度情報Ｖｓと、遷移先の被写体１０１の移動速度情報Ｖｅを算出する。例えば実際の移動速度を算出して移動速度情報Ｖｓ、Ｖｅとする。そしてステップＳ１５５でＶｓ≧Ｖｅであるか否かを判断する。
Ｖｓ≧Ｖｅ、つまり遷移元の被写体１００の方が速い場合は、被写体１００の移動方向に応じてパスを選択する。この場合、被写体１００の移動方向成分は仮選択パスと共通であるため、ステップＳ１５６に進み、仮選択パスを視野遷移パスとして決定する。
一方、Ｖｓ≧Ｖｅではない場合、つまり遷移先の被写体１０１の方が速い場合は、被写体１０１の移動方向に応じてパスを選択する。この場合、被写体１０１の移動方向成分は仮選択パスとは共通ではない。そこでステップＳ１５７に進み、ステップＳ１５１で仮選択パスには選択しなかった方のパスを視野遷移パスとして決定する。
【００９６】
ステップＳ１５２で遷移元の被写体１００の移動方向成分が仮選択パスの移動方向と共通ではない場合、パス生成部１２はステップＳ１５８に進み、今度は遷移先の被写体１０１の移動方向成分（ＤＲ１方向／ＤＲ２方向）が仮選択パスと共通か否かを確認する。
もし、共通でなければ、遷移元の被写体１００と遷移先の被写体１０１の両方とも、移動方向成分が、仮選択パスの移動方向とは一致していないことになる。
従ってその場合はステップＳ１６１に進み、ステップＳ１５１で仮選択パスには選択しなかった方のパスを視野遷移パスとして決定する。
【００９７】
ステップＳ１５８で遷移先の被写体１０１の移動方向成分が仮選択パスと共通の場合、被写体１００と被写体１０１の動きの方向（ＤＲ１方向／ＤＲ２方向の方向成分）が、一致していないことになる。
その場合は、ステップＳ１５９で遷移元の被写体１００の移動速度情報Ｖｓと、遷移先の被写体１０１の移動速度情報Ｖｅを算出する。
そしてステップＳ１６０でＶｓ≧Ｖｅであるか否かを判断する。
Ｖｓ≧Ｖｅ、つまり遷移元の被写体１００の方が速い場合は、被写体１００の移動方向に応じてパスを選択する。この場合、被写体１００の移動方向成分は仮選択パスと共通ではないため、ステップＳ１６１に進み、ステップＳ１５１で仮選択パスには選択しなかった方のパスを視野遷移パスとして決定する。
一方、Ｖｓ≧Ｖｅではない場合、つまり遷移先の被写体１０１の方が速い場合は、被写体１０１の移動方向に応じてパスを選択する。この場合、被写体１０１の移動方向成分は仮選択パスと共通のため、ステップＳ１６２に進み、仮選択パスを視野遷移パスとして決定する。
【００９８】
なおステップＳ１５５，Ｓ１６０の処理ではＶｓ≧Ｖｅの判断を行うとしたが、Ｖｓ＞Ｖｅの判断としてもよい。
また移動速度情報Ｖｓ、Ｖｅを実際の速度値ではなく、被写体１００、１０１の所定フレーム間の移動距離の値とする場合は、ステップＳ１５５，Ｓ１６０はＶｓ≦Ｖｅ又はＶｓ＜Ｖｅの判断とする。
以上の図１５の処理例では、被写体１００、１０１の両方が動いている場合に、その両者の移動方向成分が異なる場合に、移動速度情報が用いられて視野遷移パスが決定される。
【００９９】
ここまで各種のパス決定処理を説明したが、これら以外にも処理例は考えられる。もちろん、パス決定処理I〜Vを組み合わせて用いることも想定される。
即ちパス生成部１２は、遷移元、遷移先を特定したら、被写体１００、１０１の両者に動きが無い場合は図１３ＡのステップＳ１０１〜Ｓ１０５の処理、遷移元の被写体１００が動いている場合は、図１３ＢのステップＳ１１１，Ｓ１１２の処理、遷移先の被写体１０１が動いている場合には図１４ＡのステップＳ１２１，Ｓ１２２の処理、もしくは図１４Ｂの処理、両者が動いている場合は図１５の処理などとして処理を切り換えることも考えられる。
【０１００】
＜４．遷移設定画像を用いた処理＞
続いて、情報処理装置１が、複数の被写体それぞれの動画内での存在位置（時間的及び３６０度画像内の視野的な存在位置）を示す複数の被写体領域を一覧で表現する遷移設定画像を表示させ、遷移設定画像に対するユーザによる選択指示に基づいて、遷移元の出力対象領域９０と、遷移先の出力対象領域９０とを特定する例を説明する。
即ち一覧表示を利用した視野遷移パス決定手法である。
【０１０１】
情報処理装置１は、全天球画像に映っている被写体のタグ情報や検出情報によって、例えば図１６Ａに示すような遷移設定画像を生成し、表示装置６で表示させることができる。この遷移設定画像は、横軸は被写体が映っている時間で、縦軸は被写体が映っている位置である。縦軸の０度と３６０度は、３６０度画像内の視野として同じ位置である。
横軸の時間は、動画のフレームの進行に相当する。縦軸の位置とは、全体画像ＨＰ内の、例えば水平方向の３６０度範囲内で示した位置である。
この遷移設定画像には、例えば物体検知部１１が検出する、人物等の特定の被写体１００，１０１，１０２の存在位置が示される。つまり各被写体１００，１０１，１０２について、時間軸上、及び３６０度範囲における位置としての存在位置を、俯瞰的に示して一覧表示したものである。各被写体１００，１０１，１０２は、例えばそれらの被写体のサムネイル画像などとする。人物の場合、顔画像としてのサムネイル画像とすることが考えられる。
この図１６Ａの例の場合、被写体１００は、時間を経過してもほぼ移動を行わずに同じような位置にいることが示されている。
被写体１０１は、時点ｔ２以降、移動を開始している。
被写体１０２は、時点ｔ３において全体画像ＨＰ内に登場し、その後、少々位置を移動している。
【０１０２】
情報処理装置１は、例えばこのような遷移設定画像を表示データ生成部１４が生成して表示装置６で表示させる。
表示データ生成部１４は、物体検知部１１からの各被写体１００，１０１，１０２の検出情報に基づいて、遷移設定画像を生成することができる。
【０１０３】
この遷移設定画像の表示に対して、ユーザは任意に視点移動を指定できる。
図１６Ｂに例を示す。例えばユーザは、各被写体１００，１０１，１０２について、斜線を付したサムネイル画像を指定する操作を行う。例えば時点ｔ０における被写体１００、時点ｔ３における被写体１０１、時点ｔ６における被写体１０２である。
これによって情報処理装置１は、ユーザの希望する視点移動を把握する。即ちユーザが、時点ｔ０からの画像再生時には、まず被写体１００を含む領域を出力対象領域９０として表示させ、時点ｔ３に、出力対象領域９０を被写体１０１の位置に遷移させ、さらに時点ｔ６に出力対象領域９０を被写体１０２の位置に遷移させることを指示したと、情報処理装置１は把握する。
これに基づいて情報処理装置１（パス生成部１２）は、図１６Ｂに実線矢印で示すような、時間軸に応じた出力対象領域９０の遷移を設定する。
そして情報処理装置１は画像再生時には、この設定に応じてフレーム毎の切り出し範囲を設定し、切り出し範囲を出力対象領域９０として表示出力する。
【０１０４】
なお、各被写体１００，１０１，１０２についてのサムネイル画像を表示する時間間隔は画像コンテンツの再生時間長や遷移設定画像サイズ、サムネイルサイズなどにより異なる。例えば時点ｔ１，ｔ２・・・の間隔は、視野遷移の際の遷移時間長に相当するとは限らない。従って、例えば時点ｔ３において被写体１００から被写体１０１に遷移する視野遷移が開始される時刻は、時点ｔ２の場合もあるし、時点ｔ２よりは後の時点の時点ｔ３の直前であることもある。
【０１０５】
ユーザは、このような遷移設定画像を見ることで全天球画像に映っている被写体の位置と時間を把握しながら、出力対象領域９０の遷移を設定することができる。
このようなユーザの指定によれば、或る時点で、或る被写体から他の被写体に遷移することが設定される。その遷移に関して、パス生成部１２は視野遷移パス決定処理を行うことになる。
【０１０６】
図１７に例示する。図１７では時点ｔ３に、被写体１００を含む出力対象領域９０から被写体１０２を含む出力対象領域９０に遷移することが指定された場合を示している。
このときの視野遷移パスとしては、候補パスＰＴ１、ＰＴ２が想定される。候補パスＰＴ１、ＰＴ２は例えば図６，図９，図１０等に示したパスＰＴ１，ＰＴ２に相当する。
この図１７の場合、遷移元の被写体１００は動いていないが、遷移先の被写体１０２は動いていることが検出される。例えば図１０で説明した手法（図１４Ａのパス決定処理III）で視野遷移パスが決定されるとすると、この場合、被写体１０２はＤＲ２方向へ移動しているため、ＤＲ２方向の遷移を行うパスＰＴ２が視野遷移パスとされる。
【０１０７】
図１８Ａは、時点ｔ３に、被写体１０１を含む出力対象領域９０から被写体１０２を含む出力対象領域９０に遷移することが指定された場合を示している。
このときの視野遷移パスとしては、候補パスＰＴ１、ＰＴ２が想定される。
この図１８Ａの場合、遷移元の被写体１００と、遷移先の被写体１０２はともに動いていることが検出される。例えば図１５のパス決定処理Vで視野遷移パスが決定されるとすると、この場合、被写体１０１，１０２はともにＤＲ２方向へ移動しているため、ＤＲ２方向の遷移を行うパスＰＴ２が視野遷移パスとされる。
【０１０８】
図１８Ｂは、時点ｔ５に、被写体１０１を含む出力対象領域９０から被写体１０２を含む出力対象領域９０に遷移することが指定された場合を示している。
このときの視野遷移パスとしては、候補パスＰＴ１、ＰＴ２が想定される。
この図１８Ｂの場合、遷移元の被写体１００は動いていないが、遷移先の被写体１０２は動いていることが検出される。
例えば図１４Ａのパス決定処理IIIで視野遷移パスが決定されるとする。この場合、被写体１０２はともにＤＲ１方向へ移動しているため、ＤＲ１方向の遷移を行うパスＰＴ１を視野遷移パスとする。
或いは、パス決定処理IVを用いて、時点ｔ５における被写体１０２の位置を考慮した処理を行えば、移動距離が短いパスＰＴ２が視野遷移パスとされる。
【０１０９】
以上のような遷移設定画像を用いた情報処理装置１の処理例を図１９で説明する。図１９の処理は、情報処理装置１における各部の機能（主に画像データ取得部１０、物体検知部１１、パス生成部１２、切り出し枠生成部１３、表示データ生成部１４、入力情報取得部１５、表示制御部１６）により実行される処理である。
【０１１０】
ステップＳ２０１で情報処理装置１は、遷移設定画像としての表示データを生成する。即ち物体検知部１１で検知した、特定の被写体１００，１０１，１０２等についての時間及び位置の情報を用いて、表示データ生成部１４が遷移設定画像の表示データを生成する。そしてステップＳ２０２で情報処理装置１（表示制御部１６）が、表示装置６で遷移設定画像を表示させる。
【０１１１】
遷移設定画像の表示中は、情報処理装置１はステップＳ２０３でユーザの指定入力を待機し、またステップＳ２０４で遷移設定画像の表示終了を待機する。
情報処理装置１は、ユーザの指定入力、例えば図１６Ｂのようなサムネイルの指定操作を入力情報取得部１５により検知したら、ステップＳ２０５で当該指定情報を記憶する。
またユーザの操作や所定時間の経過により遷移設定画像の表示終了となったタイミングで、ステップＳ２０４からＳ２０６に進む。
【０１１２】
ステップＳ２０６で情報処理装置１は、記憶しておいた指定情報に基づいて、各遷移イベントを設定する。例えば図１６Ｂの例示の場合、時点ｔ３の被写体１００から被写体１０１への遷移、時点ｔ６の被写体１０１から被写体１０２への遷移を、それぞれ遷移イベントとする。
【０１１３】
ステップＳ２０７では、遷移イベントの１つを選択して処理対象とする。そしてステップＳ２０８のパス決定処理で、当該遷移イベントにおける視野遷移パスを決定する。即ちステップＳ２０８では、上述したパス選択処理I〜Vのような処理を行って視野遷移パスを決定する。
ステップＳ２０９では、全ての遷移イベントについて視野遷移パス決定を終えたか否かを確認し、終えていなければステップＳ２０７で、未処理の遷移イベントを選択して、同様に視野遷移パス決定を行う。
全ての遷移イベントについて視野遷移パス決定を終えたらステップＳ２０９からＳ２１０に進み、各遷移イベントの視野遷移を記憶する。
【０１１４】
なおステップＳ２０５での記憶、ステップＳ２１０での記憶は、記憶制御部１７によって記憶装置３に記憶させてもよいし、図４のＲＡＭ５３，記憶部５９に記憶させてもよい。
また、ステップＳ２１０で記憶する視野遷移パスの情報は、画像データにメタデータとして付加して記憶させてもよい。そのようにすることで、再生時に、再生装置がメタデータによってすでに各遷移イベントについて決定されている視野遷移パスを認識することができ、適切な遷移表示を行うことができる。
【０１１５】
ところで、このような遷移の指定を可能とする場合、比較的短い期間に、複数の遷移イベントが生ずることも想定される。例えば被写体１００→被写体１０１→被写体１０２と続けて遷移するような場合である。この場合も、各遷移の過程において視線方向の補間が行われて経過的な出力対象領域９０が切り出されて表示される。
【０１１６】
球面上で３つの点以上（例えば被写体１００，１０１，１０２等）を対象として、その間の補間を行うことを考える。
３点以上の補間を行う場合、各２点間で、上述の図８で説明した２点間の補間を行うことが通常想定される。
図２０Ａは、球面を平面に開いた状態で被写体１００，１０１，１０２を示している。この場合、被写体１００，１０１間、被写体１０１，１０２間で、２点間の補間を行う。しかしその場合、破線で囲った結合箇所において、不連続な視線方向の転換が生じてしまう。この際、ユーザ（視認者）に不自然な画像遷移を感じさせる場合がある。
【０１１７】
このような不連続な方向転換を緩和する手法として、制御点の追加及びスプライン補間を採用する。
まず図２０Ｂのように、上述の２点間の補間で得られた補間曲線上に等間隔に制御点Ｐを追加する。例えば補間曲線を４分割する制御点Ｐを示している。
そして被写体１００，１０１，１０２としての視線方向の位置と、制御点Ｐを全て通るようなスプライン曲線を求める。図２０Ｃにスプライン曲線ＳＣを示している。簡単な例としては、全天球画像を平面に開いた座標系で二次元的に補間を行うことで可能である。
このようなスプライン曲線ＳＣに沿って、補間すべき視線方向を設定し、その各視線方向に応じて出力対象領域９０を切り出して表示させていくことで、より自然な視線移動を感じさせる遷移が可能となる。
【０１１８】
＜５．存在提示画像を用いた処理＞
続いて、存在提示画像を用いた処理について説明する。
情報処理装置１（表示データ生成部１４）は、出力対象領域９０として切り出した画像とともに、全体画像ＨＰ内に存在する表示候補画像を提示する存在提示画像を表示させる表示データを生成する。
そして情報処理装置１は、表示候補画像を指定する入力情報を取得した場合、パス生成部１２が表示中の出力対象領域９０を遷移元とし、入力情報に基づいて遷移先を特定して、視野遷移パス決定を行う例である。
例えばユーザに、出力対象領域９０として切り出す候補領域を提示し、その領域に遷移可能であることを提示する。そしてユーザが選択した場合、その選択した領域に遷移させるものである。
【０１１９】
図２１Ａに表示候補画像を提示する存在提示画像を含む表示例を示している。
全体画像ＨＰ内の或る人物（バイクに乗る人物）を含む出力対象領域９０が切り出されて表示されている。この表示中のフレームにおいて、全体画像ＨＰ内には、他の表示候補（例えば他の人物）が存在しており、その表示候補画像のサムネイル画像８０が、存在提示画像として重畳表示されている。
表示候補画像とは、例えば人物等、物体検知部１１で検知した特定被写体である。或いはユーザの指定操作にかかる被写体や、或いは再生中の画像データに付加されたメタデータで示される被写体などでもよい。
【０１２０】
出力対象領域９０は全体画像ＨＰの一部領域であり、ユーザは、全体画像ＨＰ内の他の領域を見ることができないため、存在提示画像として表示候補画像が存在することをユーザに提示する。
例えば図２１Ａのようにサムネイル画像８０を、それぞれの表示候補画像についての存在提示画像とした場合、ユーザは、表示候補画像の内容（例えば人物の別）を知ることができる。また、その表示候補画像をみたい場合は、存在提示画像としてのサムネイル画像８０を指定操作することで、表示の視野遷移を行わせることができる。
例えば図２１Ａの３つのサムネイル画像８０のうちの１つを選択する操作により、その指定されたサムネイル画像８０にかかる表示候補画像としての被写体の領域が遷移先に設定され、現在の被写体の出力対象領域９０から遷移先の被写体の出力対象領域９０への遷移が行われる。
なお、現在の被写体の出力対象領域９０からの遷移先を指定するものとして説明しているが、サムネイル画像８０の選択により遷移元を指定することも考えられる。例えば現在の被写体は、あくまで遷移元や遷移先を指定するための画像とする。そしてサムネイル画像８０により遷移元と遷移先の両方を指定したり、遷移元のみを指定する（例えば現在の画像を遷移先とする）ことなども考えられる。以降の各例の場合も遷移元を指定することが考えられる。
【０１２１】
図２１Ｂは、動画の時間軸上に合わせて存在提示画像としてのサムネイル画像８０を提示する例である。
現在の出力対象領域９０の表示上に、トラックバー８１を表示させる。ユーザがトラックバー８１にマウスなどを当てると、その位置に相当するタイムコードのフレームに存在する被写体（表示候補画像）についてのサムネイル画像８０が表示される。
トラックバー８１へのポインティング手法はマウスによるものに限らず、画面に対するタップ操作であったり、バーチャルリアリティ（ＶＲ）などにおいて手の位置を認識させることによってもよい。
そしてこのように表示されたサムネイル画像８０の１つを選択する操作を行うことで、その指定されたサムネイル画像８０にかかる表示候補画像としての被写体の領域が遷移先に設定され、現在の被写体の領域からの出力対象領域９０の遷移が行われる。この場合の出力対象領域９０は、トラックバー８１で指定された時点のフレームの出力対象領域９０となる。
この場合、時間軸方向にフレームが切り替わることになるが、時間軸方向の遷移が位置的な遷移とともに同時に、或いは順次行われてもよいし、或いは、指定された表示候補画像としての被写体が登場するフレームを探索として、そのフレームの該当領域に、時間的及び位置的に遷移してもよい。
【０１２２】
図２２Ａは出力対象領域９０の表示上に、存在提示画像としての矢印マーク８３を重畳表示させた例である。この矢印マーク８３は、全天球画像における矢印方向に、表示候補画像としての被写体が存在することを提示するものとする。
ユーザが図２２Ｂのように、ポインタ８２等により或る矢印マーク８３を指定する操作、例えばマウスオーバーのような操作を行うと、情報処理装置１は、矢印マーク８３で示す方向に存在する表示候補画像としての被写体のサムネイル画像８０を表示させる。
その状態でユーザがサムネイル画像８０を指定する操作を行うと、情報処理装置１は、その指定されたサムネイル画像８０にかかる表示候補画像としての被写体の領域を遷移先に設定し、現在の被写体の領域から出力対象領域９０の遷移を実行させる。
この例の場合、常にサムネイル画像８０を表示するわけではないので、画面上が煩雑にならない。
【０１２３】
図２３Ａは、存在提示画像として、レーダー画像７０を提示する例である。レーダー画像７０は、例えば球体を切断したイメージの円形とされ、直上方向に現在表示中の出力対象領域９０における被写体を示すマーク７１が表示されている。即ちバイクに乗っている人物の位置を３６０度範囲内で示しているものである。
またレーダー画像７０は、現フレームの他の表示候補画像としての被写体の位置を、それぞれマーク７２，７３，７４により示している。
ユーザが図２３Ｂのように、ポインタ８２等により或るマーク７２を指定する操作を行うと、情報処理装置１はマーク７２で示される表示候補画像としての被写体のサムネイル画像８０を表示させる。
その状態でユーザがサムネイル画像８０を指定する操作を行うと、情報処理装置１は、その指定されたサムネイル画像８０にかかる表示候補画像としての被写体の領域を遷移先に設定し、現在の被写体の領域から出力対象領域９０の遷移を実行させる。
この例の場合も、常にサムネイル画像８０を表示するわけではないので、画面上が煩雑にならない。
【０１２４】
このような存在提示画像の表示及びユーザの指定による視野遷移にかかる情報処理装置１の処理例を図２４に示す。図２４の処理は情報処理装置１が図５Ａの各機能により実行する処理である。
【０１２５】
ステップＳ３０１で情報処理装置１は、表示装置６に対して存在提示画像を重畳した出力対象領域９０の表示データの供給を開始し、表示装置６での表示出力を開始させる。例えば図２２Ａ、或いは図２３Ａのような表示を開始させる。
【０１２６】
情報処理装置１はステップＳ３０２，Ｓ３０３，Ｓ３０４，Ｓ３０５で、入力情報取得部１５の機能により、ユーザ操作等を監視する。
例えば図２２Ｂの矢印マーク８３の指定や、図２３Ｂのマーク７２の指定のようなサムネイル要求操作が検知された場合、情報処理装置１はステップＳ３１０に進み、対応するサムネイル画像８０の表示を開始させる。
その後、サムネイル要求操作が終了した場合は、情報処理装置１はステップＳ３０３からＳ３１１に進み、サムネイル画像８０の表示を終了させる。例えば図２２Ｂや図２３Ｂのようにサムネイル画像８０を表示させた状態で、ユーザがそのサムネイル画像８０の指定操作を行わずに、ポインタ８２の位置を他の位置に移動させたような場合である。
【０１２７】
サムネイル画像８０の表示中に、そのサムネイル画像８０を指定する操作が検知された場合、情報処理装置１は、それを、当該サムネイル画像８０の対応する表示候補画像の被写体に対する視野遷移の指定と認識し、ステップＳ３０４からＳ３１２に進む。
ステップＳ３１２では、例えば上述のパス決定処理I〜Vのいずれかの処理で、現在の出力対象領域９０から、サムネイル画像８０で指定された被写体の出力対象領域９０に遷移するための視野遷移パス決定を行う。
そしてステップＳ３１３で情報処理装置１は、決定されたパスにおいて、視野方向の補間を行いながら順次、切り出し領域を移動させた出力対象領域９０の表示データを出力していくことで、表示装置６における視野遷移を実行させる。ステップＳ３１４で遷移完了と判断した時点で、遷移処理を終える。
【０１２８】
ユーザの操作、もしくは全天球画像としての表示コンテンツの再生終了等により表示終了タイミングとなったことを検知した場合は、情報処理装置１はステップＳ３０５からＳ３１５に進み、表示出力を終了させ、一連の処理を終える。
【０１２９】
以上の処理により、存在提示画像によって、ユーザに、他の表示候補画像の存在を明示した状態で、全体画像ＨＰの一部である出力対象領域９０を表示させていくことができる。
なお、以上の処理例は、図２２，図２３の場合を想定したが、図２１Ａのように存在提示画像として最初からサムネイル画像８０を表示する場合、図２４のステップＳ３０２，Ｓ３０３、Ｓ３１０，Ｓ３１１が不要となる。
また図２１Ｂのようにトラックバー８１を表示する場合、トラックバー８１上におけるタイムコード指定がステップＳ３０２のサムネイル要求操作で、トラックバー８１上でのタイムコード指定の終了が、ステップＳ３０３でのサムネイル要求終了と考えればよい。
【０１３０】
＜６．まとめ及び変形例＞
以上の実施の形態では、次のような効果が得られる。
実施の形態の情報処理装置１は、少なくとも一方向に３６０度の連続する視野を有する画像である全体画像ＨＰの一部領域である出力対象領域９０のうち、遷移元の出力対象領域９０と遷移先の出力対象領域９０とを特定する特定部２１と、遷移元の出力対象領域９０から遷移先の出力対象領域９０に至る視野遷移パスを自動的に決定する視野遷移パス決定部２２を備えている。
視聴者の視点移動を模した出力対象領域９０の遷移について、３６０度連続する全体画像における遷移元と遷移先を想定すると、遷移元の出力対象領域から連続する画像として遷移先の出力対象領域に至る視野遷移パスは多様に考えられる。そこで視野遷移パスを自動決定することで、遷移元から遷移先への遷移として視点移動を模した表示上で、視認上スムースな遷移が視認者に提供されるようにすることができる。
【０１３１】
実施の形態の情報処理装置１においては、パス生成部１２（視野遷移パス決定部２２）は、全体画像ＨＰ内の遷移元の出力対象領域９０から遷移先の出力対象領域９０に向かって一方向に進行する候補パス（例えばパスＰＴ１）と、一方向とは逆方向に進行する候補パス（例えばパスＰＴ２）の一方を、視野遷移パスとして決定するようにしている。
出力対象領域の遷移について、３６０度連続する全体画像における遷移元と遷移先を想定すると、遷移元から連続する画像として遷移先に遷移するパスは複数想定される。特に３６０度連続する全体画像内での遷移元と遷移先の位置関係を考えると、遷移元から遷移先への遷移（視点移動）は、その全体画像の３６０度円周上の一方向と逆方向とが考えられる。これらの一方を自動的に選択するものとする。そこで一方向に進行する候補パスと、その逆方向に進行する候補パスのうちで、例えば視認上望ましいパスを視野遷移パスに自動決定する。
特に円周方向での一方向と逆方向の遷移を比較して、いずれの方向での遷移がより円滑な視点移動となるかという判断により、比較的容易な処理で、適切な視野遷移パスを決定できる。
【０１３２】
実施の形態の遷移パス決定処理I、II、III、IVでは、例えば複数の候補パス毎の全体画像上での遷移元の出力対象領域から遷移先の出力対象領域までの移動距離を示す移動距離情報（Ｄ１，Ｄ２）を、視野遷移パスの決定に用いている。
例えば移動距離が短い方のパスを選択することで、遷移元から遷移先への視点移動を効率的に提示することができる。視認上、冗長にならない円滑な遷移が実現できる。例えばこのように移動距離情報を視野遷移パスの決定に用いることで、ユーザの視認時の快適性を実現できる場合がある。
【０１３３】
実施の形態の遷移パス決定処理II、Vでは、動画の全体画像ＨＰについて、遷移元の出力対象領域９０に存在する被写体１００の、動画の進行上での全体画像ＨＰ内での移動方向を示す移動方向情報を、視野遷移パスの決定に用いている。
即ち遷移元の出力対象領域９０において被写体１００となっている人物その他の移動体が、動画上で或る方向に移動している場合、その移動方向を、視野遷移パス決定のための一要素とする。
遷移元の被写体１００の動きは、視認者の視点に影響を与える。
従って遷移元から遷移先に視点を移す場合、それまで見ている遷移元の被写体１００の移動方向を考慮して遷移の際の視野遷移パスを決定することで、視認者に円滑な視点移動感を与えることができる。
【０１３４】
実施の形態の遷移パス決定処理III、IV、Vでは、遷移先の出力対象領域９０に存在する被写体１０１の、動画の進行上での全体画像ＨＰ内での移動方向を示す移動方向情報を、視野遷移パスの決定に用いている。
即ち遷移先の出力対象領域９０において被写体１０１となっている人物その他の移動体が、動画上で或る方向に移動している場合、その移動方向を、視野遷移パス決定のための一要素とする。
被写体の動きが視認者の視点に影響を与えることは、遷移先の被写体１０１についても言える。遷移元から遷移先に視点を移す場合、遷移によって登場してくる遷移先の被写体１０１の移動方向を考慮して遷移の際の視野遷移パスを決定することで、視認者に円滑な視点移動感を与えることができる。
【０１３５】
実施の形態の遷移パス決定処理Vでは、遷移先の出力対象領域９０に存在する被写体１０１又は遷移元の出力対象領域９０に存在する被写体１００の、動画の進行上での全体画像ＨＰ内での移動速度を示す移動速度情報（Ｖｓ，Ｖｅ）を、視野遷移パスの決定に用いている。
即ち遷移元、遷移先の各画像（被写体となっている人物その他の移動体）の一方又は両方が動画上で移動している場合、その移動速度を、視野遷移パス決定のための一要素とする。
被写体１００，１０１の動きは、視認者の視点移動に影響を与えるが、特に速い動き、遅い動きにより視点への影響具合は異なる。そこで被写体１００，１０１の移動速度を考慮して遷移の際の視野遷移パスを決定することで、視認者に円滑な視点移動感を与える遷移を実現できる。
【０１３６】
実施の形態の遷移パス決定処理IVでは、遷移所要時間経過後のフレームにおける遷移先の出力対象領域９０に存在する被写体１０１の位置を示す被写体位置情報を、視野遷移パスの決定に用いている。
遷移元から遷移先への連続的な遷移（視点移動）には、その遷移時間を要する。遷移先の被写体に動きがある場合、遷移所要時間後における当該被写体の全体画像内での位置は、遷移開始時点のフレームでの位置とは異なることが想定される。そこで遷移所要時間を経過したときの遷移先の被写体位置を考慮して視野遷移パス決定を行う。
これにより、視認者に遷移先の被写体１０１の動きを想定した上での円滑な視点移動感を与える遷移を実現できる。
【０１３７】
実施の形態では、図１６等に説明した遷移設定画像の表示や遷移設定を可能としている。即ち、情報処理装置１は、動画としての全体画像ＨＰについて、動画に含まれる部分領域であって、複数の被写体それぞれの動画内での存在位置を示す複数の被写体領域を一覧で表現する遷移設定画像をユーザに提示する。そして情報処理装置１（パス生成部１２）はユーザによる選択指示に基づいて、遷移元の出力対象領域９０と、遷移先の出力対象領域９０とを特定する（図１９参照）。
即ち画像の視認者であるユーザに対して、全体画像内での各被写体について、各時点での位置を一覧表示させ、当該一覧としての遷移設定画像上で例えば被写体を選択できるようにしている。これにより動画進行に応じた出力対象領域の移動、即ち視点移動を行うことで、ユーザが見たい被写体を視点移動しながら提示することを可能とする。
この場合に、被写体間の遷移（視点移動）のときの視野遷移パスを適切に決定することで、ユーザにとって円滑で自然な視点移動感を与えることができる。
また遷移設定画像によっては、ユーザにとっては、全天球映像の全体を俯瞰しながら、視聴する画角を設定することが可能になり、被写体の位置関係と時間を考慮した視聴パスの設定が容易になる。
【０１３８】
実施の形態では、図２１〜図２４で説明したように、存在提示画像を用いた処理を行うようにしている。即ち情報処理装置１は、全体画像ＨＰ内で出力対象領域９０とした一部領域の画像とともに、全体画像ＨＰとしての静止画又は動画内に存在する表示候補画像を提示する存在提示画像（８０，８１，８３，７０等）を表示させる表示データを生成する表示データ生成部１４を備える。また情報処理装置１は、表示データに基づく表示に対して行われた、表示候補画像を指定する入力情報を取得する入力情報取得部１５を備える。そしてパス生成部１２（特定部２１）は、全体画像内で出力対象領域とされている一部領域の画像とともに、全体画像としての静止画又は動画内に存在する表示候補画像を提示する存在提示画像を含む表示データに基づく表示に対して行われた、表示候補画像を指定するユーザ操作に基づいて、遷移先の出力対象領域９０または遷移元の出力対象領域９０を特定する（図２４のステップＳ３１２）。
即ち表示している画像上で、他の表示候補の被写体の存在を、存在提示画像として提示する。そしてユーザが、存在提示画像に対する操作等により或る表示候補画像を選択する操作を行うことで、その表示候補画像が含まれる領域に視点移動するような画像表示を実現する。
この場合に、現在表示中の領域から表示候補画像の領域までの遷移（視点移動）のときの視野遷移パスを適切に決定することで、ユーザにとって円滑で自然な視点移動感を与えることができる。
また、実際には表示候補画像としての被写体は、各種サイズが異なる。これを実施の形態では、同一サイズのサムネイル画像８０として提示するようにしている。これにより、各表示候補を均等に確認でき、ユーザの自由な選択を促進できる。またむやみに大きな画像として表示候補を提示することもなく、なるべく現在の出力対象領域９０の画像を邪魔しないようにすることができる。
【０１３９】
実施の形態では、表示候補画像のサムネイル画像８０を存在提示画像とし、１又は複数のサムネイル画像８０を現在の出力対象領域９０の画像とともに表示させるようにした（図２１〜図２３参照）。
つまり存在する表示候補画像を、たとえば均一サイズのサムネイル画像８０として、現在の出力対象領域の一部に重畳させるなどの手法で、存在提示する。これによりユーザは、他にも注目すべき画像が存在することや、その画像内容を容易に認識でき、たとえば視点移動を求める操作もわかりやすいものとなる。
【０１４０】
実施の形態では、現在の出力対象領域９０の表示画像上で、存在提示画像を、その存在提示画像が示す表示候補画像の現在の出力対象領域９０に対する位置関係に応じた位置に表示させる画像とした例を挙げた（図２２、図２３参照）。
例えば現在の出力対象領域９０に対して画面上の上方に存在する表示候補画像についての存在提示画像は、図２２の矢印マーク８３のように現在の画面上の上方に提示する。現在の出力対象領域９０に対して画面上の右方に存在する表示候補画像についての存在提示画像は、同じく矢印マーク８３のように現在の画面上の右方に提示する。
これにより現在の画像からの表示候補画像の位置関係をユーザが認識しやすいものとすることができる。但し３６０度画像の場合であるので、例えば右方とされる表示候補画像は、左側からでも連続した遷移が可能である。そこで位置関係とは、右方・左方のうちで、近い方を示すようにすることが適切となる。
また、矢印マーク８３の指定に応じてサムネイル画像８０を表示することで、当該位置に存在する被写体をユーザが容易に判別でき、望みの視野遷移を選択しやすいものとなる。
さらに、常時サムネイル画像８０を表示するものではないため、画面上が煩雑にならず、快適な視認環境を提供できる。
【０１４１】
実施の形態では、図２１Ｂのように、存在提示画像としてのサムネイル画像８０を、その存在提示画像が対応する表示候補画像の動画コンテンツの時間軸位置（トラックバー８１上の位置）に対応して表示させるようにした例を挙げた。
動画コンテンツの場合、各表示候補画像は、時間軸方向においても存在状況が変動する。そこで時間軸上で、表示候補画像の存在が確認できるようにする。
これによりユーザは、時間軸上での各表示候補画像の存在を認識しやすくなる。そして視聴しているフレームと同時刻に限らず、映っている物体を把握しやすくし、遷移先の指定の多様性や、時間的方向への遷移指定の容易性をユーザに提供できる。
【０１４２】
上記した本技術に係る情報処理装置においては、前記表示データ生成部は、表示候補画像と現在の出力対象領域の位置関係を示す存在提示画像を含む表示データを生成することが考えられる。
例えば図２３のレーダー画像７０上でのマーク７１，７２，７３，７４により現在の出力対象領域９０に対する各表示候補画像の相対位置を示すような画像を存在提示画像とする。
これによりユーザは、各表示候補画像の位置関係をより容易に明確に認識できる。そしてこれにより視点移動を擬した遷移も、より違和感なく感じられやすくなる。
また、マーク７２，７３，７４等の指定に応じてサムネイル画像８０を表示することで、当該位置に存在する被写体をユーザが容易に判別でき、望みの視野遷移を選択しやすいものとなる。
さらに、常時サムネイル画像８０を表示するものではないため、画面上が煩雑にならず、快適な視認環境を提供できる。
【０１４３】
実施の形態のプログラムは、少なくとも一方向に３６０度の連続する視野を有する画像である全体画像ＨＰの一部領域である出力対象領域９０のうち、遷移元の出力対象領域９０と遷移先の出力対象領域９０とを特定する特定手順と、遷移元の出力対象領域９０から遷移先の出力対象領域９０に至る視野遷移パスを自動的に決定する視野遷移パス決定手順とを情報処理装置に実行させるプログラムである。例えば図１３Ａ，図１３Ｂ，図１４Ａ，図１４Ｂ，図１５，図１９，図２４等の処理を情報処理装置（マイクロコンピュータやＤＳＰ（Digital Signal Processor）等）に実行させるプログラムである。
このプログラムにより、実施の形態の情報処理装置１としての機能を備えた演算処理装置を実現できる。
【０１４４】
このようなプログラムは各種の記録媒体に記録しておくことができる。またプログラムはコンピュータ装置などの機器に内蔵されている記録媒体としてのＨＤＤや、ＣＰＵを有するマイクロコンピュータ内のＲＯＭなどに予め記録しておくことができる。或いはまた、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスクなどのリムーバブル記録媒体に、一時的或いは永続的に記録しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータなどにインストールする他、ダウンロードサイトから、ＬＡＮ、インターネットなどのネットワークを介してダウンロードすることもできる。
【０１４５】
本技術は実施の形態の例や、実施の形態の説明で言及した変形例等に限らず、さらに多様な変形例が想定される。
遷移パス決定処理で決定される視野遷移パスの情報は、その時点の表示制御として使用するほか、画像データに対応して記憶したり、メタデータとして画像データに付加することで、後の再生時にも使用できるようにすることが考えられる。
また視野遷移パスの決定情報の外部機器への送信も想定される。
また実施の形態のパス決定処理では、候補パスを算出してから一方を選択する処理例としたが、候補パスとしての算出を行わずに、直接的に最終的な視野遷移パスを決定してもよい。例えば被写体の動き方向を用いて視野遷移パスを決定する場合は、複数の候補パスを求めるという処理を行わずに、その被写体の移動方向に応じた最終的な視野遷移パス決定が可能である。
【０１４６】
上述したように情報処理装置１は１つの機器で構成される必要は無い。実施の形態の情報処理装置１の機能の一部がシステム接続された他の情報処理装置で行われたり、いわゆるクラウドコンピューティングにより外部の情報処理装置において実行されてもよい。
【０１４７】
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
【０１４８】
なお本技術は以下のような構成も採ることができる。
（１）少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域として、遷移元出力対象領域と遷移先出力対象領域とを特定する特定部と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定部と、を備えた
情報処理装置。
（２）前記視野遷移パス決定部は、前記遷移元出力対象領域から前記遷移先出力対象領域に向かって一方向に進行する候補パスと、前記一方向とは逆方向に進行する候補パスの一方を、前記視野遷移パスとして決定する
上記（１）に記載の情報処理装置。
（３）前記視野遷移パス決定部は、複数の候補パス毎の前記遷移元出力対象領域から前記遷移先出力対象領域までの移動距離を示す移動距離情報を、前記視野遷移パスの決定に用いる
上記（１）又は（２）に記載の情報処理装置。
（４）前記全体画像は動画であり、
前記視野遷移パス決定部は、前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる
上記（１）乃至（３）のいずれかに記載の情報処理装置。
（５）前記全体画像は動画であり、
前記視野遷移パス決定部は、前記遷移先出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動方向を示す移動方向情報を、前記視野遷移パスの決定に用いる
上記（１）乃至（４）のいずれかに記載の情報処理装置。
（６）前記全体画像は動画であり、
前記視野遷移パス決定部は、前記遷移先出力対象領域に存在する被写体又は前記遷移元出力対象領域に存在する被写体の、前記動画の進行上での前記全体画像内での移動速度を示す移動速度情報を、前記視野遷移パスの決定に用いる
上記（１）乃至（５）のいずれかに記載の情報処理装置。
（７）前記全体画像は動画であり、
前記視野遷移パス決定部は、遷移所要時間経過後のフレームにおける前記遷移先出力対象領域に存在する被写体の位置を示す被写体位置情報を、前記視野遷移パスの決定に用いる
上記（１）乃至（６）のいずれかに記載の情報処理装置。
（８）前記全体画像は動画であり、
前記特定部は、
夫々前記動画に含まれる部分領域であって複数の被写体それぞれの前記動画内での存在位置を示す複数の被写体領域を一覧で表現する遷移設定画像に対するユーザによる選択指示に基づいて、前記遷移元出力対象領域と、前記遷移先出力対象領域とを特定する
上記（１）乃至（７）のいずれかに記載の情報処理装置。
（９）前記特定部は、
前記全体画像内で出力対象領域とされている一部領域の画像とともに、前記全体画像としての静止画又は動画内に存在する表示候補画像を提示する存在提示画像を含む表示データに基づく表示に対して行われた、表示候補画像を指定するユーザ操作に基づいて、前記遷移先出力対象領域または前記遷移元出力対象領域を特定する
上記（１）乃至（８）のいずれかに記載の情報処理装置。
（１０）前記存在提示画像は、前記表示候補画像のサムネイル画像であり、
前記表示データは、現在の出力対象領域の画像と、前記表示候補画像のサムネイル画像を含む
上記（９）に記載の情報処理装置。
（１１）前記存在提示画像は、その存在提示画像が示す表示候補画像の、前記一部領域の画像に対する位置関係に応じた位置に配置される
上記（９）又は（１０）に記載の情報処理装置。
（１２）前記表示データは、前記出力対象領域とされた前記一部領域の画像において指定された時間軸位置に対応する、前記指定された時間軸位置に存在する表示候補画像に対応する存在提示画像を含む
上記（９）乃至（１１）のいずれかに記載の情報処理装置。
（１３）前記表示データは、表示候補画像と前記出力対象領域とされた前記一部領域の画像との位置関係を示す存在提示画像を含む
上記（９）乃至（１２）のいずれかに記載の情報処理装置。
（１４）情報処理装置が実行する情報処理方法として、
少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、を備えた
情報処理方法。
（１５）少なくとも一方向に３６０度の連続する視野を有する画像である全体画像の一部領域である出力対象領域のうち、遷移元出力対象領域と遷移先出力対象領域とを特定する特定手順と、
前記遷移元出力対象領域から前記遷移先出力対象領域に至る視野遷移パスを自動的に決定する視野遷移パス決定手順と、
を情報処理装置に実行させるプログラム。
【符号の説明】
【０１４９】
１…情報処理装置１、２…撮像装置、３…記憶装置、４…通信装置、５…操作装置、６…表示装置、１０…画像データ取得部、１１…物体検知部、１２…パス生成部、１３…切り出し枠生成部、１４…表示データ生成部、１５…入力情報取得部、１６…表示制御部、１７…記憶制御部、１８…通信制御部、２１…特定部、２２…視野遷移パス決定部、９０…出力対象領域、１００，１０１…被写体
【図１】
0006787394.tif 000005
【図２】
0006787394.tif 000006
【図３】
0006787394.tif 000007
【図４】
0006787394.tif 000008
【図５】
0006787394.tif 000009
【図６】
0006787394.tif 000010
【図７】
0006787394.tif 000011
【図８】
0006787394.tif 000012
【図９】
0006787394.tif 000013
【図１０】
0006787394.tif 000014
【図１１】
0006787394.tif 000015
【図１２】
0006787394.tif 000016
【図１３】
0006787394.tif 000017
【図１４】
0006787394.tif 000018
【図１５】
0006787394.tif 000019
【図１６】
0006787394.tif 000020
【図１７】
0006787394.tif 000021
【図１８】
0006787394.tif 000022
【図１９】
0006787394.tif 000023
【図２０】
0006787394.tif 000024
【図２１】
0006787394.tif 000025
【図２２】
0006787394.tif 000026
【図２３】
0006787394.tif 000027
【図２４】
0006787394.tif 000028