(57)【要約】【課題】動画像データの復号処理の負荷を軽減する技術を提供する。【解決手段】画面を複数の領域に分割して領域ごとに符号化された動画像データを復号する復号手段と、前記画面の所定の位置にサブ画像を合成する合成手段と、前記複数の領域それぞれが前記サブ画像によって完全に隠れるか否かを判定する判定手段と、を備え、前記復号手段は、前記サブ画像によって完全に隠れる領域については復号を行わないことを特徴とする画像復号装置を提供する。【選択図】図３
2015106837.tif 000002
【特許請求の範囲】
【請求項１】
画面を複数の領域に分割して領域ごとに符号化された動画像データを復号する復号手段と、
前記画面の所定の位置にサブ画像を合成する合成手段と、
前記複数の領域それぞれが前記サブ画像によって完全に隠れるか否かを判定する判定手段と、
を備え、
前記復号手段は、前記サブ画像によって完全に隠れる領域については復号を行わない
ことを特徴とする画像復号装置。
【請求項２】
前記判定手段は、前記サブ画像によって完全に隠れる領域が他の領域の符号化時に予測画像の生成のために参照されたか否かを判定し、
前記復号手段は、前記サブ画像によって完全に隠れる領域が他の領域の符号化時に予測画像の生成のために参照された場合は、当該領域を復号する
ことを特徴とする請求項１に記載の画像復号装置。
【請求項３】
前記複数の領域それぞれは、ＨＥＶＣ（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）規格のタイルであり、
前記判定手段は、前記動画像データの全体がイントラ予測で符号化されている場合、前記サブ画像によって完全に隠れる領域が他の領域の符号化時に予測画像の生成のために参照されていないと判定する
ことを特徴とする請求項２に記載の画像復号装置。
【請求項４】
前記判定手段は、前記サブ画像によって完全に隠れる領域が他の領域の符号化時に動きベクトルの探索範囲として参照されていない場合、前記サブ画像によって完全に隠れる領域が他の領域の符号化時に予測画像の生成のために参照されていないと判定する
ことを特徴とする請求項３に記載の画像復号装置。
【請求項５】
動画像データの画面を複数の領域に分割する分割手段と、
前記複数の領域それぞれを符号化する符号化手段であって、前記複数の領域それぞれの符号化時に予測画像の生成のために参照する領域を制限する、符号化手段と、
を備え、
前記符号化手段は、前記参照する領域を、符号化対象の領域に制限する
ことを特徴とする画像符号化装置。
【請求項６】
前記複数の領域それぞれは、ＨＥＶＣ（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）規格のタイルであり、
前記符号化手段は、前記動画像データの全体をイントラ予測で符号化する
ことを特徴とする請求項５に記載の画像符号化装置。
【請求項７】
前記複数の領域それぞれは、ＨＥＶＣ（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）規格のタイルであり、
前記符号化手段は、前記複数の領域それぞれについて、インター予測を行う場合は動きベクトルの探索範囲として前記符号化対象の領域のみを参照する
ことを特徴とする請求項５に記載の画像符号化装置。
【請求項８】
前記画面の所定の範囲を指定する指定手段を更に備え、
前記符号化手段は、前記参照する領域を、前記所定の範囲を含まない領域及び前記符号化対象の領域に制限する
ことを特徴とする請求項５に記載の画像符号化装置。
【請求項９】
前記分割手段は、前記複数の領域のうちの少なくとも１つが前記所定の範囲に完全に含まれるように、前記分割を行う
ことを特徴とする請求項８に記載の画像符号化装置。
【請求項１０】
請求項５乃至９のいずれか１項に記載の画像符号化装置と、
前記動画像データを生成する撮像手段と、
を備えることを特徴とする撮像装置。
【請求項１１】
画像復号装置による画像復号方法であって、
前記画像復号装置の復号手段が、画面を複数の領域に分割して領域ごとに符号化された動画像データを復号する復号工程と、
前記画像復号装置の合成手段が、前記画面の所定の位置にサブ画像を合成する合成工程と、
前記画像復号装置の判定手段が、前記複数の領域それぞれが前記サブ画像によって完全に隠れるか否かを判定する判定工程と、
を備え、
前記復号工程では、前記サブ画像によって完全に隠れる領域については復号を行わない
ことを特徴とする画像復号方法。
【請求項１２】
画像符号化装置による画像符号化方法であって、
前記画像符号化装置の分割手段が、動画像データの画面を複数の領域に分割する分割工程と、
前記画像符号化装置の符号化手段が、前記複数の領域それぞれを符号化する符号化工程であって、前記複数の領域それぞれの符号化時に予測画像の生成のために参照する領域を制限する、符号化工程と、
を備え、
前記符号化工程では、前記参照する領域を、符号化対象の領域に制限する
ことを特徴とする画像符号化方法。
【請求項１３】
コンピュータを、請求項１乃至４のいずれか１項に記載の画像復号装置の各手段として機能させるためのプログラム。
【請求項１４】
コンピュータを、請求項５乃至９のいずれか１項に記載の画像符号化装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像復号装置、画像符号化装置、撮像装置、画像復号方法、画像符号化方法、及びプログラムに関する。
【背景技術】
【０００２】
近年、ストリーム再生時にユーザの操作に応じて複数のストリームをシームレスに切り換えることができるマルチアングルのコンテンツが収められているメディアや、そのようなコンテンツを再生する機能を有する機器が増えている。このマルチアングル機能を用いる場合、例えば、任意の物体や人物をアングルが相違する複数台のカメラで同時に撮影し、撮影した動画データを、編集を施すことなくカメラ単位の別ストリームとして圧縮、多重化記録することが行われる。これにより、ユーザは、再生時において多重化されたストリームを自由に切り換え、好みの視点を選ぶことが可能となる。
【０００３】
ユーザが選択したアングル以外のアングルにおいてどのような画像が記録されているのかを知ることができるように、画面全体を複数に分割した分割画面にそれぞれのマルチアングル映像を表示する技術が提案されている（特許文献１参照）。
【０００４】
特許文献１は、記録時にマルチアングルで生成された複数の動画データをそれぞれ分割画面の大きさに縮小し、複数の縮小された動画データを合成したインデックス動画データを生成することを開示している。これにより、再生時に複数のアングルのストリームをデコードすることなく、インデックス動画データを再生することができる。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００９−２３２３１９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、特許文献１の技術では、動画再生装置は、ユーザが選択したメイン動画のデコードに加え、インデックス動画を更にデコードする必要がある。そのため、動画再生装置の消費電力及びコストの増大が問題となる。
【０００７】
本発明はこのような状況に鑑みてなされたものであり、動画像データの復号処理の負荷を軽減する技術を提供することを目的とする。
【課題を解決するための手段】
【０００８】
上記課題を解決するために、本発明は、画面を複数の領域に分割して領域ごとに符号化された動画像データを復号する復号手段と、前記画面の所定の位置にサブ画像を合成する合成手段と、前記複数の領域それぞれが前記サブ画像によって完全に隠れるか否かを判定する判定手段と、を備え、前記復号手段は、前記サブ画像によって完全に隠れる領域については復号を行わないことを特徴とする画像復号装置を提供する。
【０００９】
なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。
【発明の効果】
【００１０】
本発明によれば、動画像データの復号処理の負荷を軽減することが可能となる。
【図面の簡単な説明】
【００１１】
【図１】第１の実施形態に係る画像復号装置１００の構成、及び、画像復号装置１００による表示画像を示すブロック図。
【図２】メイン画像の符号化における領域分割例を示す図。
【図３】復号処理判定部１０２の処理を示すフローチャート。
【図４】メイン画像の一部の領域がサブ画像によって隠れる様子を示す図。
【図５】第２の実施形態に係る画像符号化装置５００を含む撮像装置の構成を示すブロック図。
【図６】メイン画像ストリームの構成を示す図。
【発明を実施するための形態】
【００１２】
以下、添付図面を参照して、本発明の実施形態を説明する。なお、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。また、実施形態の中で説明されている特徴の組み合わせすべてが、本発明に必須とは限らない。
【００１３】
［第１の実施形態］
図１は、第１の実施形態に係る画像復号装置１００の構成、及び、画像復号装置１００による表示画像を示すブロック図である。図１において、本実施形態の説明に不要な構成要素については、省略又は簡略化して示す。
【００１４】
復号部１０１は、複数のストリームを取得し、後述する復号処理判定部１０２の指示に基づいて、各ストリームを復号して復号画像を生成する。本実施形態では、復号部１０１は、メイン画像ストリーム及びサブ画像ストリームの２つのストリームを取得するように構成されている。メイン画像ストリームは、操作部（不図示）をユーザが操作することによって選択される。サブ画像ストリームは、メイン画像ストリームに関連して自動的に選択されてもよいし、ユーザの操作に従って選択されてもよい。メイン画像ストリーム及びサブ画像ストリームの復号により、メイン画像１０５及びサブ画像１０６が得られる。サブ画像１０６は、動画像であってもよいし、静止画像であってもよい。
【００１５】
メイン画像ストリームは、例えば、ＨＥＶＣ（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）規格に従っている。本実施形態では、メイン画像ストリームは、例えば図２に示すように、画面を複数の領域（領域２０１〜２１２）に分割した状態で符号化されており、各領域はＨＥＶＣ規格のタイルに対応する。但し、本実施形態はＨＥＶＣ規格に限定される訳ではない。
【００１６】
図６は、メイン画像ストリームの構成を示す図である。ここに示す構成は一例であり、また、本実施形態の説明に不要な構成要素については、省略又は簡略化して示す。メイン画像ストリームは、１フレームあたりの水平画像数や垂直画素数などのパラメータを格納するＳＰＳ（Ｓｅｑｕｅｎｃｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ）を含んでいる。また、参照画像の枚数や画面の領域分割の仕方などのパラメータを格納するＰＰＳ（Ｐｉｃｔｕｒｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ）を含んでいる。また、独自のパラメータを格納するＵｓｅｒ  Ｄａｔａ部を含んでいる。更に、符号化データを格納するＳｌｉｃｅ  Ｄａｔａ部を含んでいる。なお、Ｓｌｉｃｅ  Ｄａｔａ部は、領域ごとに格納されている。
【００１７】
ＰＰＳは、領域分割情報を含む。領域分割情報は、画面を領域分割するか否かを示すフラグ（ｔｉｌｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇ）を含む。ｔｉｌｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇの値が１の場合は、領域分割が行われていることを示し、以降に領域分割情報の詳細が格納される。具体的には、水平方向の領域分割数（ｎｕｍ＿ｔｉｌｅ＿ｃｏｌｕｍｎｓ＿ｍｉｎｕｓ１）、及び、垂直方向の領域分割数（ｎｕｍ＿ｔｉｌｅ＿ｒｏｗｓ＿ｍｉｎｕｓ１）が格納される。また、領域分割数に応じて画面を均等に分割するか否かを示すフラグ（ｕｎｉｆｏｒｍ＿ｓｐａｃｉｎｇ＿ｆｌａｇ）も格納される。ｕｎｉｆｏｒｍ＿ｓｐａｃｉｎｇ＿ｆｌａｇの値が０の場合は、画面が均等には分割されていないことを示し、以降に各領域の大きさを示す情報が格納される。具体的には、水平方向に分割したそれぞれの領域について、領域の水平方向の大きさ（ｃｏｌｕｍｎ＿ｗｉｄｔｈ＿ｍｉｎｕｓ１［ｉ］）が格納される。また、垂直方向に分割したそれぞれの領域について、領域の垂直方向の大きさ（ｒｏｗ＿ｈｅｉｇｈｔ＿ｍｉｎｕｓ１［ｉ］）が格納される。また、領域分割情報には、領域の境界部分にループ内フィルタを実施するか否かを示すフラグ（ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｔｉｌｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇ）が格納されている。
【００１８】
ＰＰＳのｔｉｌｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇの値が１の場合、Ｕｓｅｒ  Ｄａｔａ部には、領域分割に関する追加パラメータ（領域情報）が格納される。Ｕｓｅｒ  Ｄａｔａ部は、動きベクトルの探索範囲を領域内に制限するか否かを示すフラグ（ｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇ）を含む。ｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇが１の場合は、動きベクトルの探索範囲が領域内に制限されていることを示す。ＨＥＶＣ規格では、タイル境界ではイントラ予測の依存関係が断ち切られる。従って、ｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇが１の場合は、イントラ予測／インター予測のいずれであっても、各領域は、他の領域の符号化のために参照されることはない。その結果、メイン画像ストリームの各領域は独立に復号可能（即ち、仮に一部の領域が復号されない場合でも残りの領域は復号可能）である。
【００１９】
また、Ｕｓｅｒ  Ｄａｔａ部の領域情報は、各々の領域に対して、イントラ予測／インター予測を問わず他の領域から参照されるか否かを示すフラグ（ｔｉｌｅ＿ｒｅｆ＿ｆｌａｇ［ｉ］［ｊ］）が格納される。例えば、図２の領域２０１に対応するｔｉｌｅ＿ｒｅｆ＿ｆｌａｇ［０］［０］＝０の場合、領域２０１が他の領域から参照されないことを示す。この場合、ｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇ＝０であったとしても、領域２０１に関しては他の領域から参照されないため、領域２０１を復号しなくても他の領域を復号可能である。
【００２０】
図１に戻り、画像合成部１０３は、復号部１０１により復号されたメイン画像１０５及びサブ画像１０６を取得する。そして、画像合成部１０３は、後述する合成制御部１０４の指示に基づいて、メイン画像１０５及びサブ画像１０６から合成画像１０７を生成して表示装置（不図示）へ出力する。
【００２１】
合成制御部１０４は、操作部（不図示）をユーザが操作することによって、メイン画像１０５とサブ画像１０６を合成して表示することが選択されると、メイン画像１０５においてサブ画像１０６を合成する位置を決定する。合成制御部１０４は、決定した位置を、画像合成部１０３及び復号処理判定部１０２へ通知する。
【００２２】
復号処理判定部１０２は、合成制御部１０４から通知された合成位置に基づき、メイン画像１０５において合成位置に対応する領域を特定する。また、復号処理判定部１０２は、メイン画像ストリームのＰＰＳ及びＵｓｅｒ  Ｄａｔａ部（図６参照）に基づき、メイン画像１０５において合成位置に対応する領域が他の領域から参照されるか否かを判定する。そして、復号処理判定部１０２は、メイン画像１０５の各領域を復号するか否かを復号部１０１に指示する。以下、図３のフローチャートを用いて、復号処理判定部１０２の処理の詳細を説明する。
【００２３】
Ｓ３０１で、復号処理判定部１０２は、合成制御部１０４から、メイン画像１０５においてサブ画像１０６を合成する位置を取得する。Ｓ３０２で、復号処理判定部１０２は、メイン画像１０５における処理対象の領域を示す変数Ｎを１に初期化する（例えば、Ｎ＝１〜１２が図２の領域２０１〜２１２に対応する）。
【００２４】
Ｓ３０３で、復号処理判定部１０２は、領域Ｎがサブ画像によって完全に隠れるか否かを判定する。図４を参照して判定処理の詳細を説明する。図４において、サブ画像１０６の合成位置を斜線で示す。例えば、図４（ａ）のように合成を行う場合、領域２０７はサブ画像１０６によって完全に隠される。また、図４（ｂ）のように合成を行う場合、領域２１２はサブ画像１０６によって完全に隠される。また、領域２０７、２０８、２１１は、サブ画像１０６によって一部が隠されるが、完全には隠されない。Ｓ３０３では、処理対象の領域が図４（ａ）の領域２０７や図４（ｂ）の領域２１２のような場合に、サブ画像によって完全に隠れると判定される。領域Ｎがサブ画像によって完全に隠れると判定された場合、処理はＳ３０４に進み、そうでない場合、処理はＳ３０６に進む。
【００２５】
Ｓ３０４で、復号処理判定部１０２は、メイン画像ストリームのＵｓｅｒ  Ｄａｔａ部の領域情報（図６参照）に基づき、領域Ｎが他の領域の復号時に参照されるか否か（領域Ｎが他の領域の符号化時に予測画像の生成のために参照されたか否か）を判定する。ＨＥＶＣ規格の場合、他の領域がイントラ予測のみで符号化されているか、ｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇが１であるか、又は、領域Ｎに対応するｔｉｌｅ＿ｒｅｆ＿ｆｌａｇが０であれば、領域Ｎが他の領域の復号時に参照されないと判定される。また、領域の境界でイントラ予測の依存関係が断ち切られない規格の場合であっても、領域Ｎに対応するｔｉｌｅ＿ｒｅｆ＿ｆｌａｇが０であれば、領域Ｎが他の領域の復号時に参照されないと判定される。領域Ｎが他の領域の復号時に参照されないと判定された場合、処理はＳ３０５に進み、そうでない場合、処理はＳ３０６に進む。
【００２６】
処理がＳ３０５に進んだ場合、領域Ｎはサブ画像１０６によって完全に隠れるため、領域Ｎを復号しても表示されることはない。また、領域Ｎは他の領域の復号時に参照されないため、領域Ｎを復号しなくても他の領域を復号可能である。従って、Ｓ３０５で、復号処理判定部１０２は、領域Ｎは復号しないと決定する。これにより、無駄な復号を省略し、復号処理の負荷を軽減することができる。
【００２７】
一方、Ｓ３０３又はＳ３０４からＳ３０６に進んだ場合、領域Ｎの復号が必要である。従って、Ｓ３０６で、復号処理判定部１０２は、領域Ｎは復号すると決定する。
【００２８】
Ｓ３０７では、復号処理判定部１０２は、メイン画像１０５内の全領域について判定処理が終了したか否かを判定する。全領域の判定処理が終了していない場合、処理はＳ３０８（ここでＮが１だけ加算される）を経由してＳ３０３に戻り、次の領域を対象に同様の判定処理が行われる。全領域の判定処理が終了した場合、処理はＳ３０９に進む。
【００２９】
Ｓ３０９で、復号処理判定部１０２は、Ｓ３０５又はＳ３０６における決定に従い、復号部１０１に対して、メイン画像１０５の各領域の復号の有無を指示する。その結果、復号部１０１は、メイン画像ストリームの復号時に、復号が不要な領域（サブ画像１０６によって完全に隠され、且つ、他の領域の復号時に参照されない領域）の復号を行わない。
【００３０】
以上説明したように、第１の実施形態によれば、画像復号装置１００は、メイン画像１０５において復号が不要な領域（サブ画像１０６によって完全に隠され、且つ、他の領域の復号時に参照されない領域）を検出する。そして、メイン画像ストリームの復号時に、このような領域の復号を行わない。これにより、動画像データの復号処理の負荷を軽減することが可能となる。
【００３１】
［第２の実施形態］
第１の実施形態で説明した画像復号装置１００のためのメイン画像ストリームを生成可能な画像符号化装置について説明する。図５は、第２の実施形態に係る画像符号化装置５００を含む撮像装置の構成を示すブロック図である。本発明の撮像装置に特に関係のない構成については、省略又は簡略化して示す。
【００３２】
図５の撮像装置は、画像符号化装置５００、撮像部５０１、及び記録部５１７を含み、記録媒体５１８を装着可能に構成されている。撮像部５０１は、レンズやＣＣＤ等のカメラ部を含み、画像データを取得する。画像符号化装置５００は、ＨＥＶＣ規格に従って画像データを符号化するものとするが、これに限定されない。
【００３３】
画像符号化装置５００において、システムコントローラ５２３は、画像符号化装置５００の全体を制御する。フレームメモリ５０２は、インター予測に用いる参照画像を記憶する参照画像メモリ５１４を含む。被写体を撮像部５０１で撮像して得られた動画像データは、フレームメモリ５０２に順次格納される。格納された動画像データのフレームは、符号化を行う順序で領域分割部５２０に入力される。
【００３４】
領域分割部５２０は、動画像データを例えば図２に示すように複数の領域（ＨＥＶＣ規格のタイル）に分割し、符号化ブロック分割部５２１に入力する。符号化ブロック分割部５２１は、入力された分割画像を、符号化の単位となる符号化ブロック（ＣＵ：Ｃｏｄｉｎｇ  Ｕｎｉｔ）に分割する。なお、領域の分割位置は、符号化の開始から終了までのシーケンス中は一定とする。
【００３５】
動き探索部５０３は、動き探索範囲の参照画像データを参照画像メモリ５１４から読み出す。そして、符号化ブロック分割部５２１から入力される符号化対象のＣＵの画像データと、参照画像データとの相関に基づいて動きベクトルを検出し、イントラ・インター選択部５０５へ通知する。本実施形態では、動きベクトルを探索する範囲は、参照画像の中で、符号化対象の領域と同じ範囲に制限される。従って、画像符号化装置５００が生成する画像ストリームのｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇ（図６参照）は１に設定される。
【００３６】
イントラ予測部５０４は、後述する加算器５１２から出力される再構成画像データを蓄積しておく。そして、符号化対象のＣＵの周辺画素のデータを取得し、符号化対象のＣＵの画像データと、その符号化対象のＣＵの周辺画素のデータから生成される複数のイントラ予測画像データとの相関に基づいてイントラ予測方式を選択する。イントラ予測部５０４は、選択したイントラ予測方式をイントラ・インター選択部５０５へ通知する。なお、周辺画素のデータは、フレームメモリ５０２から読み出してもよい。
【００３７】
なお、画像符号化装置５００がＨＥＶＣ規格ではなく領域の境界でイントラ予測の依存関係が断ち切られない規格に従う場合、イントラ予測部５０４は、符号化対象の領域以外の領域を参照しないようにイントラ予測方式を選択する。この場合、画像符号化装置５００が生成する画像ストリームのｔｉｌｅ＿ｒｅｆ＿ｆｌａｇ（図６参照）は０に設定される。
【００３８】
イントラ・インター選択部５０５は、動き探索部５０３の結果とイントラ予測部５０４の結果とを取得し、例えば、差分値が小さい方の予測方式を選択して、予測画像生成部５０６へ通知する。
【００３９】
予測画像生成部５０６は、イントラ・インター選択部５０５から通知された予測方式に従って予測画像を生成する。予測方式がインター予測の場合には、予測画像生成部５０６は、動きベクトルなどの予測情報に従って参照画像メモリ５１４から該当データを読み出して予測画像を生成する。一方、予測方式がイントラ予測の場合には、予測画像生成部５０６は、イントラ予測方式に従って、加算器５１２から出力される再構成画像データから予測画像を生成する。
【００４０】
減算器５０７には、フレームメモリ５０２から読み出される符号化対象のＣＵの画像データと予測画像データとが入力され、符号化対象のＣＵの画像と予測画像との画素値の差分データを整数変換部５０８へ出力する。整数変換部５０８は、画素値の差分データに整数変換を施す。整数変換は、整数変換の単位となる整数変換ブロック（ＴＵ：Ｔｒａｎｓｆｏｒｍ  Ｕｎｉｔ）の単位で行われる。量子化部５０９は、整数変換により生成した変換係数を、量子化制御部５１６から通知される量子化係数で量子化し、量子化後の変換係数をエントロピー符号化部５１５へ出力する。
【００４１】
量子化制御部５１６は、エントロピー符号化部５１５が生成した符号量の通知に基づいて、システムコントローラ５２３から予め指示されている符号量（ストリームのビットレート）となるように量子化係数を制御する。
【００４２】
また、量子化部５０９により量子化された変換係数は、逆量子化部５１０にも入力される。逆量子化部５１０は、入力された変換係数を逆量子化し、逆整数変換部５１１は、逆量子化された信号に対して逆整数変換処理を施す。
【００４３】
加算器５１２には、逆整数変換されたデータと、予測画像生成部５０６により生成された予測画像データとが入力されて加算される。加算後のデータは、復号された再構成画像データとなり、予測画像生成部５０６に入力されてイントラ予測画像データの生成に用いられる。また、再構成画像データは、ループ内フィルタ５１３によって符号化歪の軽減処理が施された後、適応オフセット処理部５２２により更に符号化歪みが軽減されて、インター符号化の際に用いる参照画像データとして参照画像メモリ５１４に記憶される。
【００４４】
エントロピー符号化部５１５は、符号化対象のＣＵの量子化された変換係数や、予測方式などの情報をエントロピー符号化し、ストリームとして記録部５１７に出力する。また、エントロピー符号化部５１５は、生成した符号量を量子化制御部５１６へ通知する。記録部５１７は、エントロピー符号化部５１５から出力されたストリームを記録媒体５１８に記録する。なお、記録処理は、音声データとの多重化ストリームを生成した後に行うなどしてもよい。
【００４５】
なお、画像符号化装置５００が生成する画像ストリームのＳＰＳ、ＰＰＳ、及びＵｓｅｒ  Ｄａｔａ部などは、システムコントローラ５２３によって記録部５１７を介して記録媒体５１８に記録される。
【００４６】
以上説明したように、第２の実施形態によれば、画像符号化装置５００は、動画像データの画面を複数の領域に分割して符号化を行う。そして、各領域の符号化の際は、イントラ予測／インター予測のいずれであっても、他の領域を参照しないように符号化を行う。これにより、第１の実施形態で説明した画像復号装置１００のためのメイン画像ストリームを生成することができる。
【００４７】
なお、サブ画像の合成位置がメイン画像の右端や右下など特定の位置に限られている場合には、動き探索部５０３が動きベクトルを探索する範囲の制限を緩和して、符号化効率を向上させることができる。そのためには、例えば、画像符号化装置５００のシステムコントローラ５２３は、操作部５２４を介してサブ画像の合成位置（厳密には、位置及びサイズによって特定可能な所定の範囲）の指定を受け付ける。ここでは、図４（ｂ）に示すように、領域２０７、２０８、２１１、２１２に跨る領域がサブ画像の合成位置として指定されたものとする。
【００４８】
この場合、動き探索部５０３は、符号化対象の領域でなくても、サブ画像で完全に隠れる領域以外の領域（即ち、領域２１２以外の領域）については、探索範囲に含める。また、システムコントローラ５２３は、ｃｏｎｓｔｒａｉｎｅｄ＿ｍｖ＿ｆｌａｇ（図６参照）は０に設定すると共に、領域２１２に対応するｔｉｌｅ＿ｒｅｆ＿ｆｌａｇを０に設定することにより、領域２１２が他の領域から参照されないことを示す。
【００４９】
また、領域分割部５２０は、分割される領域のうちの少なくとも１つがサブ画像の合成位置（厳密には、位置及びサイズによって特定可能な所定の範囲）に完全に含まれるように領域の分割を行ってもよい。これにより、第１の実施形態で説明した画像復号装置１００は、少なくとも１つの領域について、サブ画像の合成時には復号を省略できるようになる。
【００５０】
なお、サブ画像の合成位置として、複数の位置が指定されてもよい。この場合、いずれかの合成位置と少なくとも部分的に重複する領域について、他の領域からの参照が制限される。
【００５１】
［その他の実施形態］
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア（プログラム）を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（又はＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。
【図１】
2015106837.tif 000003
【図２】
2015106837.tif 000004
【図３】
2015106837.tif 000005
【図４】
2015106837.tif 000006
【図５】
2015106837.tif 000007
【図６】
2015106837.tif 000008