(57)【特許請求の範囲】
【請求項１】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムの映像伝送方法であって、
前記映像伝送装置に、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxとの前提条件が入力されるステップと、
前記映像伝送装置が、前記前提条件に基づいた式（Ａ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、
前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップと
を含むことを特徴とする映像伝送方法。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【請求項２】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムの映像伝送方法であって、
前記映像伝送装置に、Ｍ×Ｎ［画素］の注視領域サイズと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件が入力されるステップと、
前記映像伝送装置が、前記前提条件に基づいた式（Ｂ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、
前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップと
を含むことを特徴とする映像伝送方法。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【請求項３】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムの映像伝送方法であって、
前記映像伝送装置に、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件が入力されるステップと、
前記映像伝送装置が、前記前提条件に基づいた式（Ａ）及び式（Ｂ）をともに満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、
前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップと
を含むことを特徴とする映像伝送方法。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【請求項４】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置であって、
Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxとの前提条件を入力する設定手段と、
前記前提条件に基づいた式（Ａ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出する算出手段と、
前記全体映像を、前記算出手段で算出されたタイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化する分割符号化手段と、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送する伝送手段と
を備えることを特徴とする映像伝送装置。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【請求項５】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置であって、
Ｍ×Ｎ［画素］の注視領域サイズと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件を入力する設定手段と、
前記前提条件に基づいた式（Ｂ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出する算出手段と、
前記全体映像を、前記算出手段で算出されたタイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化する分割符号化手段と、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送する伝送手段と
を備えることを特徴とする映像伝送装置。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【請求項６】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置であって、
Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件を入力する設定手段と、
前記前提条件に基づいた式（Ａ）及び式（Ｂ）をともに満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出する算出手段と、
前記全体映像を、前記算出手段で算出されたタイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化する分割符号化手段と、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送する伝送手段と
を備えることを特徴とする映像伝送装置。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【請求項７】
全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置のコンピュータに、
Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxとの前提条件が入力されるステップと、
前記前提条件に基づいた式（Ａ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、
前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、
前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップと、
を実行させるプログラム。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザがインタラクティブに指定する注視領域に応じて、高解像度映像を切り出し、端末上でデコード、ディスプレイ上に表示するシステムにおいて、高解像度映像をタイル分割し、符号化し、注視領域の映像を伝送する映像伝送方法、映像伝送装置、及びプログラムに関する。
【背景技術】
【０００２】
複数のカメラ映像をまとめて圧縮する符号化方式として、国際標準符号化方式Ｈ．２６４  Ａｎｎｅｘ  Ｈとして多視点映像符号化（ＭＶＣ）が標準化されている（例えば、非特許文献１参照）。ＭＶＣでは、複数の映像符号化データが多重化された形で圧縮符号化される。同じタイムスタンプのフレームの符号化データが連続して多重化される。すなわち、符号化データは、複数の映像データが多重化されたストリームになる。同じタイムスタンプのフレームが連続して多重化されているため、復号器は、ＭＶＣの符号化データを復号することで、同じタイムスタンプの複数のカメラ映像を連続して復号して出力することができる。
【０００３】
図１３は、従来技術による映像伝送システムの構成を示すブロック図である。図１４は、入力映像データのタイル分割、及びタイルＩＤの付与例を示す概念図である。また、図１５は、映像符号化後の映像データに付与されるデータＩＤを示す概念図である。多重化装置１０において、映像分割部１００は、映像データを複数の解像度に変換した後に、各解像度の映像データをタイル分割し（例えば、図１４）、小領域の映像データからなるタイル映像を作成する。符号化部１０１は、これらタイル映像を複数の符号化レートで符号化し、図１５に示すように、符号化後のデータにデータＩＤを付与する。その後、ＭＶＣにて多重化して映像データを作成する。
【０００４】
データ蓄積部１０２には、タイル分割情報（例えば、図１４）、符号化前のタイル映像データ、タイル映像毎の符号化及び多重化した映像データ、及び符号化処理の過程で作成されるタイル映像ローカルデコード映像データを蓄積する。評価値計算部１０３は、データ蓄積部１０２に蓄積されている映像データを用いて、１フレーム単位（または所定のフレーム単位）ごとの評価値を計算し、これら評価値、各タイル映像と映像符号化データの対応表を対応テーブル＆評価値蓄積部１０４に蓄積する。なお、評価値の計算終了後、不要になった符号化前のタイル映像データが消去される。
【０００５】
映像伝送サーバ２０において、データ管理部１０５は、コマンド受信部１０６で受信した、映像再生クライアント３０からのコマンド（データＩＤを用いたストリーム要求）に従って、データ蓄積部１０２へＮ（≦Ｍ）本のストリーム要求を行うことで、データ蓄積部１０２に蓄積されたＭ本のストリームからＮ本のストリームを取り出し、データ送信部１０７へ転送する。データ送信部１０７は、Ｎ本のストリームを映像再生クライアント３０へ送出する。コマンド受信部１０６は、映像再生クライアント３０からのコマンドを受信する。なお、映像再生クライアント３０へデータ送信前に、データ送信部１０７は、タイル分割情報（例えば、図１４）をデータ受信部１１２へ送出する。また、対応テーブル＆評価値送信部１０８は、評価値蓄積部１０４から対応テーブル、及び評価値情報を取り出し、映像再生クライアントの評価値受信部１１５へ送出する。
【０００６】
映像再生クライアント３０において、データ受信部１１２は、タイル分割情報、及びＮ本のストリームを受信する。復号化部１１３は、Ｎ本のストリームを復号する。映像表示部１１４は、復号化された部分映像をタイル分割情報に基づき再構成し表示する。対応テーブル＆評価値受信部１１５は、映像伝送サーバ２０から送信される対応テーブル及び評価値情報を受信し、対応テーブル＆評価値蓄積部１１６に蓄積する。
【０００７】
タイルＩＤリスト作成部１１８は、ユーザの注視領域の指定に変更があった場合に、注視領域からタイルＩＤリストを決定し、該当のタイルＩＤに対応するデータＩＤを対応テーブルから決定し、該当のデータＩＤに関連する評価値を対応テーブル＆評価値蓄積部１１６から取出し、補正評価値計算部１１０にて評価値の補正（例えば、各フレーム単位の評価値を一定区間ごとに平均化するなどの補正処理）を行う。
【０００８】
注視領域指定部１１７は、ユーザから注視領域の変更を受付ける。コマンド変換部１１１は、注視領域指定の変更、及び補正評価値の変更があった場合に、補正評価値とタイルＩＤとに基づきサーバに要求するデータＩＤを決定する。コマンド送信部１０９は、コマンド変換部１１１で決定されたデータＩＤ基づくコマンドを送信する。
【０００９】
なお、多重化装置１０におけるデータ蓄積部１０２と対応テーブル＆評価値蓄積部１０４とを機能統合し、映像伝送サーバ２０におけるデータ送信部１０７と対応テーブル＆評価値送信部１０８とを機能統合し、映像再生クライアント３０におけるデータ受信部１１２と対応テーブル＆評価値受信部１１５とを機能統合するような構成も可能である。
【００１０】
また、ここでは、Ｍ本のストリーム（全体ストリーム）から構成される映像を「全体映像」、Ｎ（≦Ｍ）本のストリーム（部分ストリーム）から構成される映像を「部分映像」、１本のストリームから構成される映像を「単位映像」と定義する。つまり、全体映像は、Ｍ個の単位映像、部分映像は、Ｎ個の単位映像から構成される（Ｍ≧Ｎ）。
【００１１】
図１６（ａ）、（ｂ）は、タイルＩＤリスト作成部１１８にて作成されるタイルＩＤリストの例を示す概念図である。タイルＩＤリストは、ユーザによりインタラクティブに操作され、平行移動、及び拡大縮小する注視領域を包含する最小のタイルＩＤのリストとして作成される。図１６（ａ）、（ｂ）に示す例において、注視領域位置では、タイルＩＤリストは（１，２，３，４，９，１０，１１，１２，１７，１８，１９，２０，２５，２６，２７，２８）と作成される。
【００１２】
なお、ここでは、注視領域の位置が「タイルＩＤリストに含まれるタイル数が最大になる位置」を「ワーストケースの位置」、「タイルＩＤリストに含まれるタイル数が最大になる位置になったとき」を「ワーストケース時」と呼ぶこととする。
【先行技術文献】
【非特許文献】
【００１３】
【非特許文献１】井上雅之，木全英明，深澤勝彦，松浦宣彦，"インタラクティブ・パノラマ映像配信システムにおける配信方式の検討," 情報処理学会，オーディオビジュアル複合情報処理研究会，Vol.2010-AVM-69 No.9, 2010.
【発明の概要】
【発明が解決しようとする課題】
【００１４】
上述した非特許文献１のように、タイル同士で重なりがないように分割し、符号化するような映像フォーマットでは、伝送帯域や、映像再生クライアントの制約が大きいときに、タイルサイズが小さくなってしまい、画質が大きく劣化するという問題があった。
【００１５】
本発明は、このような事情を考慮してなされたものであり、その目的は、画質劣化を改善する映像フォーマットにより映像を符号化して映像を伝送することができる映像伝送方法、映像伝送装置、及びプログラムを提供することにある。
【課題を解決するための手段】
【００１６】
上述した課題を解決するために、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムの映像伝送方法であって、前記映像伝送装置に、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxとの前提条件が入力されるステップと、前記映像伝送装置が、前記前提条件に基づいた式（Ａ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップとを含むことを特徴とする映像伝送方法である。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【００１７】
また、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムの映像伝送方法であって、前記映像伝送装置に、Ｍ×Ｎ［画素］の注視領域サイズと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件が入力されるステップと、前記映像伝送装置が、前記前提条件に基づいた式（Ｂ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップとを含むことを特徴とする映像伝送方法である。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【００１８】
また、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムの映像伝送方法であって、前記映像伝送装置に、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件が入力されるステップと、前記映像伝送装置が、前記前提条件に基づいた式（Ａ）及び式（Ｂ）をともに満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップとを含むことを特徴とする映像伝送方法である。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【００１９】
また、上述した課題を解決するために、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置であって、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxとの前提条件を入力する設定手段と、前記前提条件に基づいた式（Ａ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出する算出手段と、前記全体映像を、前記算出手段で算出されたタイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化する分割符号化手段と、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送する伝送手段とを備えることを特徴とする映像伝送装置である。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【００２０】
また、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置であって、Ｍ×Ｎ［画素］の注視領域サイズと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件を入力する設定手段と、前記前提条件に基づいた式（Ｂ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出する算出手段と、前記全体映像を、前記算出手段で算出されたタイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化する分割符号化手段と、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送する伝送手段とを備えることを特徴とする映像伝送装置である。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【００２１】
また、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置であって、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxと所定の品質が得られる前記注視領域サイズの符号化ビットレートＲと伝送帯域上限Ｒmaxとの前提条件を入力する設定手段と、前記前提条件に基づいた式（Ａ）及び式（Ｂ）をともに満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出する算出手段と、前記全体映像を、前記算出手段で算出されたタイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化する分割符号化手段と、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送する伝送手段とを備えることを特徴とする映像伝送装置である。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｒ／ｘ２）≦Ｒmax…（Ｂ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【００２２】
また、上述した課題を解決するために、本発明は、全体映像を複数のタイル映像に分割し、映像再生端末から指定される注視領域に応じて、前記全体映像のうち当該注視領域が含まれる前記タイル映像を符号化して前記映像再生端末に送信する映像伝送装置と、当該映像伝送装置から送信される複数の前記タイル映像を復号化して表示する前記映像再生端末とを備えた映像伝送システムにおける前記映像伝送装置のコンピュータに、Ｍ×Ｎ［画素］の注視領域サイズと前記映像再生端末における前記注視領域サイズを基準にしたデコード面積上限Ｄmaxとの前提条件が入力されるステップと、前記前提条件に基づいた式（Ａ）を満たすｘを算出し、前記タイル映像のタイルサイズ（Ｍ／ｘ）×（Ｎ／ｘ）［画素］を算出するステップと、前記全体映像を、前記タイルサイズ幅分ずらしながらタイル分割し、分割された映像を符号化するステップと、前記注視領域が前記タイルサイズ幅分移動する毎に、符号化された新規のタイル部分の映像を伝送するステップと、を実行させるプログラムである。
（ｃｅｉｌ（Ｍ／（Ｍ／ｘ））＋１）×（ｃｅｉｌ（Ｎ／（Ｎ／ｘ））＋１）
×（Ｍ／ｘ）×（Ｎ／ｘ）≦Ｄmax（Ｍ×Ｎ）…（Ａ）
ただしｃｅｉｌ（）は小数点を切り上げる関数である。
【発明の効果】
【００２３】
この発明によれば、画質劣化を改善する映像フォーマットにより映像を符号化して映像を伝送することができる。
【図面の簡単な説明】
【００２４】
【図１】本第１実施形態による映像伝送方法を説明するためのフローチャートである。
【図２】本第１実施形態において、注視領域と配信するタイル映像との関係を示す概念図である。
【図３】本第１実施形態において、重なりのないタイル分割による映像フォーマットを説明するための概念図である。
【図４】本第１実施形態での映像フォーマットを説明するための概念図である。
【図５】本第２実施形態による映像伝送方法を説明するためのフローチャートである。
【図６】本第２実施形態での映像フォーマットを説明するための概念図である。
【図７】本第３実施形態による映像伝送方法を説明するためのフローチャートである。
【図８】本第３実施形態での映像フォーマットを説明するための概念図である。
【図９】本第４実施形態による映像伝送方法を説明するためのフローチャートである。
【図１０】本第４実施形態において、注視領域と配信するタイル映像との関係を示す概念図である。
【図１１】本第４実施形態において、重なりのないタイル分割による映像フォーマットを説明するための概念図である。
【図１２】本第４実施形態での映像フォーマットを説明するための概念図である。
【図１３】従来技術による映像伝送システムの構成を示すブロック図である。
【図１４】入力映像データのタイル分割、及びタイルＩＤの付与例を示す概念図である。
【図１５】映像符号化後の映像データに付与されるデータＩＤを示す概念図である。
【図１６】タイルＩＤリスト作成部１１８にて作成されるタイルＩＤリストの例を示す概念図である。
【発明を実施するための形態】
【００２５】
本発明は、パノラマ映像伝送システムにおけるパノラマ映像のタイル分割方法に関するものである。本発明では、ユーザ操作により、注視領域がタイルＩＤリスト最大になる位置になったときのタイル数、映像再生クライアントがデコードできるデコード上限値、映像の伝送帯域上限を利用し、タイルサイズを決定し、該決定したタイルサイズにて映像を符号化することにより、従来のタイル分割方法を用いた場合に比して、画質の劣化を防ぐことできるものである。
【００２６】
なお、ここでは、注視領域の位置が「タイルＩＤリスト最大になる位置」を「ワーストケースの位置」、「タイルＩＤリスト最大になる位置になったとき」を「ワーストケース時」と呼ぶこととする。
【００２７】
以下、本発明の一実施形態を、図面を参照して説明する。なお、本発明の映像伝送システムの構成は、図１１に示す従来技術による構成と基本的に同様である。すなわち、本実施形態の映像伝送システムは、全体映像を定められたタイルサイズに応じた複数のタイル映像に分割し、映像再生クライアント３０から指定される注視領域に応じて、全体映像のうち指定された注視領域が含まれるタイル映像を符号化する多重化装置１０と、多重化装置１０によって符号化された映像を映像再生クライアント３０に送信する映像伝送サーバ２０と、映像伝送サーバ２０から送信される複数のタイル映像を復号化して表示する映像再生端末３０とを備えている。
【００２８】
Ａ．第１実施形態
図１は、本第１実施形態による映像伝送方法を説明するためのフローチャートである。図２は、本第１実施形態において、注視領域と配信するタイル映像との関係を示す概念図である。また、図３は、重なりのないタイル分割による映像フォーマットを説明するための概念図である。
【００２９】
一般的に、タイルサイズ：ａ×ｂ［画素］、注視領域サイズ：Ｍ×Ｎ［画素］のとき、ワーストケースの位置にあるときの配信タイル数：Ｎａ×Ｎｂと表す。ここで、Ｎａ＝ｃｅｉｌ（Ｍ／ａ）＋１、Ｎｂ＝ｃｅｉｌ（Ｎ／ｂ）＋１である。なお、ｃｅｉｌ（）は、小数点切り上げ関数である。デコード面積は、（Ｎａ×Ｎｂ）×（ａ×ｂ）で表現することができる。
【００３０】
まず、前提条件として、デコード面積上限：１．５ＨＤ（ＨＤ＝ＨＤｈ×ＨＤｖ、ＨＤｈ：ＨＤ横幅、ＨＤｖ：ＨＤ縦幅）、注視領域サイズ：ＨＤ（ＨＤ解像度のディスプレイ表示を想定）を設定する（ステップＳ１）。ここで、前提条件は、例えば環境に応じた値が多重化装置１０または映像伝送サーバ２０に予め記憶されているようにしても良いし、映像再生クライアント３０から前提条件がユーザ端末１０に送信されるようにしても良い。このような情報が多重化装置１０に入力され、映像分割部１００の記憶領域に記憶されることにより、前提条件が設定される。次に、多重化装置１０の映像分割部１００は、この条件のとき、タイルサイズを、ａ＝ＨＤｈ／ｘ、ｂ＝ＨＤｖ／ｘ（ここで、ｘは実数）とし、デコード面積上限を満たすようなｘを求める（ステップＳ２）。
【００３１】
ここで、注視領域サイズ条件は、ＨＤであり、Ｍ＝ＨＤｈ、Ｎ＝ＨＤｖと表現する。
このとき、
Ｎａ＝ｃｅｉｌ（ＨＤｈ／（ＨＤｈ／ｘ））＋１＝ｘ＋１，
Ｎｂ＝ｃｅｉｌ（ＨＤｖ／（ＨＤｖ／ｘ））＋１＝ｘ＋１
となるので、次式（１）〜（６）から、ｘ＞＝４．５であれば、注視領域をデコード可能と分かる。
【００３２】
【数１】
0005603841.tif 000002
【００３３】
【数２】
0005603841.tif 000003
【００３４】
【数３】
0005603841.tif 000004
【００３５】
【数４】
0005603841.tif 000005
【００３６】
【数５】
0005603841.tif 000006
【００３７】
【数６】
0005603841.tif 000007
【００３８】
ここでは、以後の説明を簡単にするため、ｘ＝５と決定する（ステップＳ３）。この結果、注視領域と配信するタイル映像との関係は、図２に示すようになる。これは、注視領域サイズをＨＤサイズとしたときに、デコード可能とするためには、タイルサイズを横幅ＨＤｈ／５、縦幅ＨＤｖ／５とし、タイル映像を符号化すればよいことを示している（ＨＤｈ＝１９２０、ＨＤｖ＝１０８０）。同時に、注視領域に対して、横幅ＨＤｈ／５、縦幅ＨＤｖ／５のデコードはみ出し幅であれば、デコード可能であることも意味している。
【００３９】
但し、図３に示すように、重なりのないタイル分割による映像フォーマットでは、各タイル重なりがないようにタイル分割し、符号化されるため、タイルサイズ横幅：ＨＤｈ／５、タイルサイズ縦幅：ＨＤｖ／５でタイル分割する必要がある。このタイルサイズは、ＨＤ面積の１／２５であり、小さいタイルサイズであり、符号化効率は悪くなり、画質劣化の原因となってしまう。
【００４０】
そこで、本発明では、重なりのある３パターンの分割による映像フォーマットにより映像を蓄積して伝送することにより、分割のタイルサイズを大きくすることができ、分割による符号化効率の低下を抑制することができる。
【００４１】
すなわち、タイルサイズ横：ＨＤｈ／５、タイルサイズ縦：（１＋（１／５））ＨＤｖとし、縦方向にＨＤｖ／５ずつタイルをずらしながら、タイル分割、符号化する（ステップＳ４）。そして、注視領域サイズがＨＤサイズ（ＨＤｈ＝１９２０、ＨＤｖ＝１０８０）のとき、注視領域が縦ＨＤｖ／５、横ＨＤｈ／５移動毎に新規のタイル部分の映像を伝送する（ステップＳ５）。
【００４２】
図４は、本第１実施形態での映像フォーマットを説明するための概念図である。本第１実施形態は、上述したように、タイルサイズ横：ＨＤｈ／５、タイルサイズ縦：（１＋（１／５））ＨＤｖとし、縦方向にＨＤｖ／５ずつタイルをずらしながら、タイル分割、符号化する映像フォーマット（ｘ＝５とした場合の例）の例である（ＨＤｈ＝１９２０，ＨＤｖ＝１０８０）。そして、注視領域サイズがＨＤサイズのとき、注視領域が縦ＨＤｖ／５、横ＨＤｈ／５移動毎に新規のタイル部分の映像を伝送する。
【００４３】
このような映像フォーマットにすることで、ユーザ操作により注視領域が動いても、映像再生クライアント端末でのはみ出し幅は、横幅ＨＤｈ／５、縦幅ＨＤｖ／５とずらさない場合と同じであるにもかかわらず、タイルサイズを、大きくすることができる。これにより、タイルを符号化するときの符号化効率が向上し、結果として映像品質が向上するという効果が得られる。
【００４４】
この映像フォーマットにより蓄積された映像データは、従来の映像伝送システムと同様にして、注視領域と重なるタイル部分の横、縦ともに、横幅ＨＤｈ／５、縦幅ＨＤｖ／５ずれるごとに、新規のタイル部分の映像が伝送されることになる。
【００４５】
Ｂ.第２実施形態
次に、本発明の第２実施形態について説明する。
図５は、本第２実施形態による映像伝送方法を説明するためのフローチャートである。前提条件として、デコード面積上限：１．５ＨＤ（ＨＤ＝ＨＤｈ×ＨＤｖ、ＨＤｈ：ＨＤ横幅、ＨＤｖ：ＨＤ縦幅）、注視領域サイズ：ＨＤ（ＨＤ解像度のディスプレイ表示を想定）を設定する（ステップＳ１０）。次に、この条件のとき、タイルサイズを、ａ＝ＨＤｈ／ｘ、ｂ＝ＨＤｖ／ｘ（ここで、ｘは実数）とし、デコード面積上限を満たすようなｘを求める（ステップＳ１１）。ここでは、前述同様、ｘ＝５と決定する（ステップＳ１２）。
【００４６】
次に、タイルサイズ横：（１＋（１／５））ＨＤｈ、タイルサイズ縦：ＨＤｖ／５とし、横方向にＨＤｈ／５ずつタイルをずらしながら、タイル分割、符号化する（ステップＳ１３）。そして、注視領域サイズがＨＤサイズ（ＨＤｈ＝１９２０、ＨＤｖ＝１０８０）のとき、注視領域が縦ＨＤｖ／５、横ＨＤｈ／５移動毎に新規のタイル部分の映像を伝送する（ステップＳ１４）。
【００４７】
図６は、本第２実施形態での映像フォーマットを説明するための概念図である。本第２実施形態では、上述したように、タイルサイズ横：（１＋（１／５））ＨＤｈ、タイルサイズ縦：ＨＤｖ／５とし、横方向にＨＤｈ／５ずつタイルをずらしながら、タイル分割、符号化するようになっている。そして，注視領域サイズがＨＤサイズ（ＨＤｈ＝１９２０、ＨＤｖ＝１０８０）のとき、注視領域が縦ＨＤｖ／５、横ＨＤｈ／５移動毎に新規のタイル部分の映像を伝送する。
【００４８】
Ｃ．第３実施形態
次に、本発明の第３実施形態について説明する。
図７は、本第３実施形態による映像伝送方法を説明するためのフローチャートである。前提条件として、デコード面積上限：１．５ＨＤ（ＨＤ＝ＨＤｈ×ＨＤｖ、ＨＤｈ：ＨＤ横幅、ＨＤｖ：ＨＤ縦幅）、注視領域サイズ：ＨＤ（ＨＤ解像度のディスプレイ表示を想定）を設定する（ステップＳ２０）。次に、この条件のとき、タイルサイズを、ａ＝ＨＤｈ／ｘ、ｂ＝ＨＤｖ／ｘ（ここで、ｘは実数）とし、デコード面積上限を満たすようなｘを求める（ステップＳ２１）。ここでは、前述同様、ｘ＝５と決定する（ステップＳ２２）。
【００４９】
次に、タイルサイズ横：（１＋（１／５））ＨＤｈ、タイルサイズ縦：（１＋（１／５））ＨＤｖとし、縦方向にＨＤｖ／５ずつ、横方向にＨＤｈ／５ずつタイルをずらしながら、タイル分割、符号化する（ステップＳ２３）。そして、注視領域サイズがＨＤサイズ（ＨＤｈ＝１９２０、ＨＤｖ＝１０８０）のとき、注視領域が縦ＨＤｖ／５、横ＨＤｈ／５移動毎に新規のタイル部分の映像を伝送する（ステップＳ２４）。
【００５０】
図８は、本第３実施形態での映像フォーマットを説明するための概念図である。本第３実施形態では、上述したように、タイルサイズ横：（１＋（１／５））ＨＤｈ、タイルサイズ縦：（１＋（１／５））ＨＤｖとし、縦方向にＨＤｖ／５ずつ、横方向にＨＤｈ／５ずつタイルをずらしながらタイル分割、符号化するようになっている。そして、注視領域サイズがＨＤサイズのとき、注視領域が縦ＨＤｖ／５、横ＨＤｈ／５移動毎に新規のタイル部分の映像を伝送する。
【００５１】
Ｄ．第４実施形態
次に、本発明の第４実施形態について説明する。
図９は、本第４実施形態による映像伝送方法を説明するためのフローチャートである。図１０は、本第４実施形態において、注視領域と配信するタイル映像との関係を示す概念図である。まず、前提条件として、注視領域サイズ、伝送帯域上限、及び十分な品質が得られるＨＤ映像の符号化ビットレートを設定する（ステップＳ３０）。例えば、注視領域サイズ：ＨＤ（ＨＤ解像度のディスプレイ表示を想定：Ｍ×Ｎ）、伝送帯域上限を１１［Ｍｂｐｓ］、十分な品質が得られるＨＤ映像の符号化ビットレートを６［Ｍｂｐｓ］とする。次に、タイルサイズを、ａ＝ＨＤｈ／ｘ、ｂ＝ＨＤｖ／ｘ（ここでｘは実数）とし、伝送帯域上限を満たすようなｘを求める（ステップＳ３１）。
【００５２】
ここで、注視領域サイズ条件は、ＨＤであり、Ｍ＝ＨＤｈ、Ｎ＝ＨＤｖと表現する。
このとき、
Ｎａ＝ｃｅｉｌ（ＨＤｈ／（ＨＤｈ／ｘ））＋１＝ｘ＋１，
Ｎｂ＝ｃｅｉｌ（ＨＤｖ／（ＨＤｖ／ｘ））＋１＝ｘ＋１
１タイル当たりのビットレート＝（Ｒ／（ｃｅｉｌ（Ｍ／ａ）×ｃｅｉｌ（Ｎ／ｂ））＝（６／（ｘ×ｘ）
となるので、次式（７）〜（１２）から、Ｘ＞＝２．８であれば、注視領域をデコード可能と分かる。なお、Ｒは、十分な品質が得られるＨＤ映像の符号化ビットレートである。
【００５３】
【数７】
0005603841.tif 000008
【００５４】
【数８】
0005603841.tif 000009
【００５５】
【数９】
0005603841.tif 000010
【００５６】
【数１０】
0005603841.tif 000011
【００５７】
【数１１】
0005603841.tif 000012
【００５８】
【数１２】
0005603841.tif 000013
【００５９】
ここでは、以後の説明を簡単にするため、ｘ＝３と決定する（ステップＳ３２）。この結果、注視領域と配信するタイル映像との関係は、図１０に示すようになる。
【００６０】
なお、十分な品質が得られるＨＤ映像の符号化ビットレートは、タイル分割することで符号化効率が落ちることを考慮し、タイル分割しない場合のＨＤ映像の符号化ビットレートより多少大きく設定するほうがよい。例えば、タイル分割しない場合のＨＤ映像の符号化ビットレートが６［Ｍｂｐｓ］であれば、７［Ｍｂｐｓ］に設定して、ｘを算出するなどの考慮が必要である。
【００６１】
図１１は、本第４実施形態において、重なりのないタイル分割による映像フォーマットを説明するための概念図である。但し、図１１に示すように、重なりのないタイル分割による映像フォーマットでは、各タイル重なりがないようにタイル分割し、符号化されるため、タイルサイズ横幅：ＨＤｈ／３、タイルサイズ縦幅：ＨＤｖ／３でタイル分割する必要がある。このタイルサイズは、ＨＤ面積の１／９であり、小さいタイルサイズであり、符号化効率は悪くなり、画質劣化の原因となってしまう。
【００６２】
そこで、本発明では、タイルサイズ横：ＨＤｈ／３、タイルサイズ縦：（１＋（１／３））ＨＤｖとし、縦方向にＨＤｖ／３ずつタイルをずらしながら、タイル分割、符号化する（ステップＳ３３）。そして、注視領域サイズがＨＤサイズ（ＨＤｈ＝１９２０、ＨＤｖ＝１０８０）のとき、注視領域が縦ＨＤｖ／３、横ＨＤｈ／３移動毎に新規のタイル部分の映像を伝送する（ステップＳ３４）。
【００６３】
図１２は、本第４実施形態での映像フォーマットを説明するための概念図である。本第４実施形態は、上述したように、タイルサイズ横：ＨＤｈ／３、タイルサイズ縦：（１＋（１／３））ＨＤｖとし、縦方向にＨＤｖ／３ずつタイルをずらしながら、タイル分割、符号化する映像フォーマット（ｘ＝３とした場合の例）の例である。そして、注視領域サイズがＨＤサイズ（ＨＤｈ＝１９２０，ＨＤｖ＝１０８０）のとき、注視領域が縦ＨＤｖ／３、横ＨＤｈ／３移動毎に新規のタイル部分の映像を伝送する。
【００６４】
なお、ここでは省略するが、タイルサイズ横：（１＋（１／３））ＨＤｈ、タイルサイズ縦：ＨＤｖ／３や、タイルサイズ横：（１＋（１／３））ＨＤｈ、タイルサイズ縦：（１＋（１／３））ＨＤｖの場合の映像フォーマットも、図６、図８と同様に考えることができる。
【００６５】
また、デコード面積上限と伝送帯域上限の２つの上限が存在するときは，これら２つの上限による制約を満たすｘを求めればよい．たとえば，図５と図１０を満たすｘは，より制約の厳しいデコード面積を満たすｘ＞＝４．５となる．
【００６６】
また、上述した第１から第４実施形態において、デコード面積上限と伝送帯域上限との２つの上限が存在するとき、これら２つの上限による制約を満たすｘを求めればよい。例えば、第１実施形態（図１）と第４実施形態（図９）を満たすｘは、より制約の厳しいデコード面積を満たすｘ＞＝４．５となる。
【００６７】
上述した第１から第４実施形態によれば、ユーザがインタラクティブに指定する注視領域に応じて、高解像度映像を切り出し、端末上でデコード、ディスプレイ上に表示するシステムにおいて、高解像度映像をタイル分割し、符号化することで、高品質な映像を伝送することができる。
【符号の説明】
【００６８】
１０  多重化装置
２０  映像伝送サーバ
３０  映像再生クライアント
１００  解像度変換＆映像分割部
１０１  符号化部
１０２  データ蓄積部
１０３  評価値計算部
１０４  対応テーブル＆評価値蓄積部
１０５  データ管理部
１０６  コマンド受信部
１０７  データ送信部
１０８  対応テーブル＆評価値送信部
１０９  コマンド送信部
１１０  補正評価値計算部
１１１  コマンド変換部
１１２  データ受信部
１１３  復号化部
１１４  映像表示部
１１５  対応テーブル＆評価値受信部
１１６  対応テーブル＆評価値蓄積部
１１７  注視領域指定部
１１８  タイルＩＤリスト作成部
【図１】
0005603841.tif 000014
【図２】
0005603841.tif 000015
【図３】
0005603841.tif 000016
【図４】
0005603841.tif 000017
【図５】
0005603841.tif 000018
【図６】
0005603841.tif 000019
【図７】
0005603841.tif 000020
【図８】
0005603841.tif 000021
【図９】
0005603841.tif 000022
【図１０】
0005603841.tif 000023
【図１１】
0005603841.tif 000024
【図１２】
0005603841.tif 000025
【図１３】
0005603841.tif 000026
【図１４】
0005603841.tif 000027
【図１５】
0005603841.tif 000028
【図１６】
0005603841.tif 000029