(57)【要約】  画像復号装置は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号装置であって、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部（１１１）と、複数のブロックに対して複数の処理のうち第１の処理を順次行い、第１の記憶部（１１１）に第１の処理が行われたブロックを格納することにより第１の記憶部（１１１）に複数のブロックを順次格納する第１の処理部（１０１）と、第１の記憶部（１１１）から複数のブロックを順次抽出し、抽出された複数のブロックに対して複数の処理のうち第２の処理を順次行う第２の処理部（１０２）とを備える。
2013108330.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号装置であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える
画像復号装置。
【請求項２】
前記画像復号装置は、さらに、第２の記憶部を備え、
前記第２の処理部は、
前記第１の記憶部に前記第１の処理が行われたブロックが格納されているか否か、および、前記第２の記憶部に前記第２の処理が行われたブロックを格納するための領域が空いているか否かを判定し、
前記第１の記憶部に前記第１の処理が行われた前記ブロックが格納されていると判定され、かつ、前記第２の記憶部に前記第２の処理が行われた前記ブロックを格納するための前記領域が空いていると判定されたタイミングで、前記第１の記憶部から前記ブロックを抽出して、抽出された前記ブロックに対して前記第２の処理を行い、前記第２の記憶部に前記第２の処理が行われた前記ブロックを格納する
請求項１に記載の画像復号装置。
【請求項３】
前記画像復号装置は、さらに、前記複数のブロックのそれぞれのサイズを判定する判定部を備え、
前記第１の処理部は、前記第１の処理が行われたブロックのサイズに従って、前記ブロックが前記第１の記憶部において専有する領域を決定し、決定された前記領域に前記ブロックを格納する
請求項１または２に記載の画像復号装置。
【請求項４】
前記第１の記憶部は、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを３つ以上記憶可能な容量を有する
請求項１〜３のいずれか１項に記載の画像復号装置。
【請求項５】
前記複数のブロックは、複数の符号化ユニット、複数の変換ユニット、または、複数の予測ユニットであり、
前記第１の処理部または前記第２の処理部は、前記複数の符号化ユニットに対する可変長復号処理、前記複数の変換ユニットに対する逆周波数変換処理、または、前記複数の予測ユニットに対する予測処理を前記第１の処理または前記第２の処理として行う
請求項１〜４のいずれか１項に記載の画像復号装置。
【請求項６】
前記第１の処理部は、可変長復号処理を前記第１の処理として行い、
前記第２の処理部は、逆量子化処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項７】
前記第１の処理部は、逆量子化処理を前記第１の処理として行い、
前記第２の処理部は、逆周波数変換処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項８】
前記第１の処理部は、逆周波数変換処理を前記第１の処理として行い、
前記第２の処理部は、再構成処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項９】
前記第１の処理部は、面内予測処理を前記第１の処理として行い、
前記第２の処理部は、再構成処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項１０】
前記第１の処理部は、動き補償処理を前記第１の処理として行い、
前記第２の処理部は、再構成処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項１１】
前記第１の処理部は、再構成処理を前記第１の処理として行い、
前記第２の処理部は、インループフィルタ処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項１２】
前記第１の処理部は、参照画像転送処理を前記第１の処理として行い、
前記第２の処理部は、動き補償処理を前記第２の処理として行う
請求項１〜５のいずれか１項に記載の画像復号装置。
【請求項１３】
前記第２の処理部は、前記第１の処理部とは非同期に、前記第１の記憶部から前記複数のブロックを順次抽出して、抽出された前記複数のブロックに対して前記第２の処理を順次行う
請求項１〜１２のいずれか１項に記載の画像復号装置。
【請求項１４】
前記第２の処理部は、前記第１の処理部が第１のブロックに対して前記第１の処理を行うことに並行して、前記複数のブロックの処理順序で前記第１のブロックから２つ以上離れた第２のブロックに対して前記第２の処理を行う
請求項１〜１３のいずれか１項に記載の画像復号装置。
【請求項１５】
画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する画像符号化装置であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える
画像符号化装置。
【請求項１６】
少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号方法であって、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理ステップと、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理ステップとを含む
画像復号方法。
【請求項１７】
画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する画像符号化方法であって、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理ステップと、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理ステップとを含む
画像符号化方法。
【請求項１８】
請求項１６に記載された画像復号方法に含まれるステップをコンピュータに実行させるための
プログラム。
【請求項１９】
請求項１７に記載された画像符号化方法に含まれるステップをコンピュータに実行させるための
プログラム。
【請求項２０】
少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する集積回路であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える
集積回路。
【請求項２１】
画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する集積回路であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える
集積回路。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号装置に関する。
【背景技術】
【０００２】
画像を復号する画像復号装置に関する技術として、特許文献１、非特許文献１および非特許文献２に記載の技術がある。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平９−８４００５号公報
【非特許文献】
【０００４】
【非特許文献１】Ｔｈｏｍａｓ  Ｗｉｅｇａｎｄ  ｅｔ  ａｌ、“Ｏｖｅｒｖｉｅｗ  ｏｆ  ｔｈｅ  Ｈ．２６４／ＡＶＣ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ  Ｓｔａｎｄａｒｄ”、ＩＥＥＥ  ＴＲＡＮＳＡＣＴＩＯＮＳ  ＯＮ  ＣＩＲＣＵＩＴＳ  ＡＮＤ  ＳＹＳＴＥＭＳ  ＦＯＲ  ＶＩＤＥＯ  ＴＥＣＨＮＯＬＯＧＹ、ＪＵＬＹ  ２００３、ＰＰ．５６０−５７６
【非特許文献２】「Ｗｏｒｋｉｎｇ  Ｄｒａｆｔ  ３  ｏｆ  Ｈｉｇｈ−Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ」、［ｏｎｌｉｎｅ］、Ｊｏｉｎｔ  Ｃｏｌｌａｂｏｒａｔｉｖｅ  Ｔｅａｍ  ｏｎ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ  （ＪＣＴ−ＶＣ）、２０１１年９月８日、［２０１１年９月２２日検索］、インターネット＜ＵＲＬ：ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｔ−ｓｕｄｐａｒｉｓ．ｅｕ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／６＿Ｔｏｒｉｎｏ／ｗｇ１１／ＪＣＴＶＣ−Ｆ８０３−ｖ３．ｚｉｐ＞
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、画像復号装置が、パイプライン処理で画像を復号する際、無駄な待ち時間が発生する可能性がある。【０００６】
そこで、本発明は、無駄な待ち時間を低減させることができる画像復号装置を提供する。
【課題を解決するための手段】
【０００７】
本発明の一態様に係る画像復号装置は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号装置であって、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える。【０００８】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの非一時的な記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【０００９】
本発明により、パイプライン処理における無駄な待ち時間が低減する。したがって、処理効率が向上する。
【図面の簡単な説明】
【００１０】
【図１】図１は、パイプライン処理を示す説明図である。
【図２】図２は、可変サイズのブロックを示す説明図である。
【図３】図３は、可変サイズのブロックに対してパイプライン処理が適用された場合の動作を示す説明図である。
【図４】図４は、実施の形態１に係る画像復号装置を示す構成図である。
【図５】図５は、実施の形態１に係る複数の構成要素の間の接続を示す構成図である。
【図６】図６は、実施の形態１に係る画像復号装置の可変長復号部、逆量子化部および逆周波数変換部を示す詳細構成図である。
【図７Ａ】図７Ａは、実施の形態１に係るシーケンスを示す図である。
【図７Ｂ】図７Ｂは、実施の形態１に係るピクチャを示す図である。
【図７Ｃ】図７Ｃは、実施の形態１に係る符号化ストリームを示す図である。
【図８Ａ】図８Ａは、実施の形態１に係る符号化ユニットの第１構成例を示す図である。
【図８Ｂ】図８Ｂは、実施の形態１に係る符号化ユニットの第２構成例を示す図である。
【図９Ａ】図９Ａは、実施の形態１に係る変換ユニットの第１構成例を示す図である。
【図９Ｂ】図９Ｂは、実施の形態１に係る変換ユニットの第２構成例を示す図である。
【図１０Ａ】図１０Ａは、実施の形態１に係る符号化ユニットのヘッダを示す図である。
【図１０Ｂ】図１０Ｂは、実施の形態１に係る予測ユニットを示す図である。
【図１１Ａ】図１１Ａは、実施の形態１に係る動作の説明に用いられる複数の符号化ユニットの構成例を示す図である。
【図１１Ｂ】図１１Ｂは、実施の形態１に係る動作の説明に用いられる複数の符号化ユニットの詳細を示す図である。
【図１２】図１２は、実施の形態１に係る画像復号装置の動作を示すフローチャートである。
【図１３】図１３は、実施の形態１に係る画像復号装置が符号化ユニットを復号する処理を示すフローチャートである。
【図１４Ａ】図１４Ａは、実施の形態１に係る可変長復号部の動作を示すフローチャートである。
【図１４Ｂ】図１４Ｂは、実施の形態１に係る逆量子化部の動作を示すフローチャートである。
【図１４Ｃ】図１４Ｃは、実施の形態１に係る逆周波数変換部の動作を示すフローチャートである。
【図１４Ｄ】図１４Ｄは、実施の形態１に係る動き補償部の動作を示すフローチャートである。
【図１４Ｅ】図１４Ｅは、実施の形態１に係る面内予測部の動作を示すフローチャートである。
【図１４Ｆ】図１４Ｆは、実施の形態１に係る再構成部の動作を示すフローチャートである。
【図１４Ｇ】図１４Ｇは、実施の形態１に係るインループフィルタ部の動作を示すフローチャートである。
【図１５】図１５は、実施の形態１に係る画像復号装置の動作を示すタイムチャートである。
【図１６】図１６は、実施の形態１に係るＦＩＦＯ部の状態の例を時系列で示す図である。
【図１７】図１７は、実施の形態１に係るＦＩＦＯ部の状態の別の例を時系列で示す図である。
【図１８】図１８は、実施の形態２に係る画像復号装置の可変長復号部、逆量子化部および逆周波数変換部を示す詳細構成図である。
【図１９Ａ】図１９Ａは、実施の形態２に係る可変長復号部の動作を示すフローチャートである。
【図１９Ｂ】図１９Ｂは、実施の形態２に係る逆量子化部の動作を示すフローチャートである。
【図１９Ｃ】図１９Ｃは、実施の形態２に係る逆周波数変換部の動作を示すフローチャートである。
【図１９Ｄ】図１９Ｄは、実施の形態２に係る動き補償部の動作を示すフローチャートである。
【図１９Ｅ】図１９Ｅは、実施の形態２に係る面内予測部の動作を示すフローチャートである。
【図１９Ｆ】図１９Ｆは、実施の形態２に係る再構成部の動作を示すフローチャートである。
【図１９Ｇ】図１９Ｇは、実施の形態２に係るインループフィルタ部の動作を示すフローチャートである。
【図２０】図２０は、実施の形態２に係るＦＩＦＯ部の状態を時系列で示す図である。
【図２１Ａ】図２１Ａは、実施の形態３に係る画像復号装置を示す構成図である。
【図２１Ｂ】図２１Ｂは、実施の形態３に係る画像復号装置の動作を示すフローチャートである。
【図２２Ａ】図２２Ａは、実施の形態３に係る画像符号化装置を示す構成図である。
【図２２Ｂ】図２２Ｂは、実施の形態３に係る画像符号化装置の動作を示すフローチャートである。
【図２３Ａ】図２３Ａは、実施の形態４に係る画像復号装置を示す構成図である。
【図２３Ｂ】図２３Ｂは、実施の形態４に係る画像復号装置の動作を示すフローチャートである。
【図２４Ａ】図２４Ａは、実施の形態４に係る画像符号化装置を示す構成図である。
【図２４Ｂ】図２４Ｂは、実施の形態４に係る画像符号化装置の動作を示すフローチャートである。
【図２５Ａ】図２５Ａは、実施の形態５に係る画像復号装置を示す構成図である。
【図２５Ｂ】図２５Ｂは、実施の形態５に係る画像復号装置の処理部の動作を示すフローチャートである。
【図２６Ａ】図２６Ａは、実施の形態５に係る画像符号化装置を示す構成図である。
【図２６Ｂ】図２６Ｂは、実施の形態５に係る画像符号化装置の処理部の動作を示すフローチャートである。
【図２７】図２７は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。
【図２８】図２８は、デジタル放送用システムの全体構成図である。
【図２９】図２９は、テレビの構成例を示すブロック図である。
【図３０】図３０は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。
【図３１】図３１は、光ディスクである記録メディアの構造例を示す図である。
【図３２】図３２は、画像復号処理を実現する集積回路の構成例を示す構成図である。
【図３３】図３３は、画像復号処理および画像符号化処理を実現する集積回路の構成例を示す構成図である。
【発明を実施するための形態】
【００１１】
（本発明の基礎となった知見）
本発明者は、「背景技術」の欄において記載した、画像を復号する画像復号装置に関して、課題の存在を見出した。以下に詳しく説明する。
【００１２】
動画像を符号化する画像符号化装置は、動画像を構成する各ピクチャを１６ｘ１６画素でそれぞれが構成される複数のマクロブロック（Ｍａｃｒｏｂｌｏｃｋ、略してＭＢと呼ぶこともある）に分割する。そして、画像符号化装置は、ラスタースキャン順に各マクロブロックを符号化する。画像符号化装置は、動画像を符号化し圧縮することにより、符号化ストリームを生成する。画像復号装置は、この符号化ストリームをラスタースキャン順でマクロブロック毎に復号し、元の動画像の各ピクチャを再生する。
【００１３】
従来の画像符号化方式の１つとしてＩＴＵ−Ｔ  Ｈ．２６４規格がある（例えば、非特許文献１を参照）。画像復号装置は、Ｈ．２６４規格で符号化された画像を復号するため、まず、符号化ストリームを読み込む。そして、画像復号装置は、各種ヘッダ情報の復号後、可変長復号を行う。画像復号装置は、可変長復号により得られた係数情報を逆量子化して、逆周波数変換する。これにより、差分画像が生成される。
【００１４】
次に、画像復号装置は、可変長復号により得られたマクロブロックタイプに応じて、面内予測または動き補償を行う。これにより、画像復号装置は、予測画像を生成する。その後、画像復号装置は、予測画像に差分画像を加算することにより、再構成処理を行う。そして、画像復号装置は、再構成画像にインループフィルタ処理を行うことで復号対象画像を復号する。
【００１５】
このようにして、画像復号装置は、可変長復号処理からインループフィルタ処理までをマクロブロック毎に行うことで、符号化された画像を復号していく。この復号処理を高速化する手法として、マクロブロック単位のパイプライン処理によって復号処理を実行する手法が一般に用いられている（例えば、特許文献１を参照）。マクロブロック単位のパイプライン処理では、可変長復号処理からインループフィルタ処理までの一連の処理がいくつかのステージに分割される。そして、各ステージの処理がマクロブロックのデータ単位で同期して並列に実行される。
【００１６】
なお、次世代の画像符号化方式において、データ単位をより柔軟に設定することが提案されている（例えば、非特許文献２を参照）。
【００１７】
しかしながら、複数の処理が同期して実行されるパイプライン処理では、無駄な待ち時間が発生する可能性がある。例えば、パイプライン処理に含まれる複数の処理のうちのひとつの処理だけが長い時間を必要とする場合でも、他の処理は、そのひとつの処理の完了を待たなければならない。この無駄な待ち時間は、処理効率に悪い影響を与える。また、データ単位が可変である次世代の画像符号化規格では、この影響はさらに大きくなる。以下、より具体的に説明する。
【００１８】
図１は、復号処理を５つのステージに分割した場合のパイプライン処理の例を示す。図１に示す例では、１つのマクロブロックに対して、第１ステージから第５ステージまでの処理が、順次行われる。そして、互いに異なる複数のマクロブロックに対して、第１ステージから第５ステージまでの処理が、同時に行われる。
【００１９】
第１ステージでは、画像復号装置は、符号化ストリームを可変長復号して、動きベクトルなどの符号化情報、および、各画素データに対応する係数情報を出力する。第２ステージでは、画像復号装置は、第１ステージで得られた係数情報に対して逆量子化および逆周波数変換を行い、差分画像を生成する。
【００２０】
第３ステージでは、画像復号装置は、可変長復号して得られたマクロブロックタイプに応じて、動き補償を行って予測画像を生成する。第４ステージでは、画像復号装置は、第３ステージで得られた動き補償の予測画像、および、第４ステージで行う面内予測処理の予測画像のいずれかと、第２ステージで得られた差分画像とを用いて、再構成処理を行う。第５ステージでは、画像復号装置は、インループフィルタ処理を行う。
【００２１】
このように、画像復号装置は、パイプライン処理を用いて、各ステージで異なる複数のマクロブロックを同時に処理する。これにより、画像復号装置は、並列処理を実現し、復号処理を高速化することができる。
【００２２】
この時、パイプライン処理のタイムスロット（ＴＳ）のサイクルは、最も処理サイクルが長いステージの処理サイクルによって決定される。そのため、あるステージの処理サイクルだけが長くなってしまうと、他のステージは、その最長ステージの処理が完了するまで次のマクロブロックの処理を開始できない状態となる。したがって、無駄な空きが発生してしまう。パイプライン処理を効率的に動作させるには、パイプライン処理を構成する各処理に無駄な空きが発生しないように構成することが重要である。
【００２３】
Ｈ．２６４規格に係る画像符号化装置は、先ほど述べた通り、１６ｘ１６画素で構成されるマクロブロック単位で画像を符号化する。しかし、符号化の単位として１６ｘ１６画素が、必ずしも最適とは限らない。一般に、画像の解像度が高くなるにつれて、隣接ブロック間の相関が高くなる。そのため、符号化の単位を大きくした方が、より圧縮効率を向上させることができる。
【００２４】
近年、４Ｋ２Ｋ（３８４０ｘ２１６０画素）等のように、超高精細なディスプレイの開発が行われてきている。したがって、扱う画像の解像度がますます高くなっていくことが予想される。Ｈ．２６４規格に係る画像符号化装置は、このように画像の高解像度化が進むにつれて、これらの高解像度の画像を効率的に符号化することができなくなってきている。
【００２５】
一方、次世代の画像符号化規格として提案されている技術の中には、このような課題を解決する技術がある（非特許文献２）。この技術では、従来のＨ．２６４規格に対応するブロックのサイズが可変になる。そして、この技術に係る画像符号化装置は、従来の１６ｘ１６画素よりも大きなブロックで画像を符号化することも可能であり、超高精細画像を適切に符号化することができる。
【００２６】
具体的には、非特許文献２では、符号化のデータ単位として、符号化ユニットが定義されている。この符号化ユニットは、従来の符号化規格におけるマクロブロックと同様に、面内予測を行うイントラ予測と、動き補償を行うインター予測とを切り替えることが可能なデータ単位であり、符号化の最も基本的なブロックとして規定されている。
【００２７】
この符号化ユニットのサイズは、４ｘ４画素、８ｘ８画素、１６ｘ１６画素、３２ｘ３２画素、６４ｘ６４画素、および、１２８ｘ１２８画素のいずれかである。最も大きな符号化ユニットは、最大符号化ユニット（ＬＣＵ：Ｌａｒｇｅｓｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ）と呼ばれる。
【００２８】
６４ｘ６４画素の符号化ユニットには、４０９６画素のデータが含まれる。１２８ｘ１２８画素の符号化ユニットには、１６３８４画素のデータが含まれる。すなわち、１２８ｘ１２８画素の符号化ユニットには、６４ｘ６４画素の符号化ユニットの４倍のデータが含まれる。
【００２９】
図２は、１２８ｘ１２８画素と６４ｘ６４画素とで構成される複数の符号化ユニットの例を示す。非特許文献２において、さらに、変換ユニット（ＴＵ：Ｔｒａｎｓｆｏｒｍ  Ｕｎｉｔ、周波数変換ユニットとも呼ばれる）が定義されている。変換ユニットは、周波数変換のブロックサイズとして規定されている。具体的には、この変換ユニットのサイズは、４ｘ４画素、８ｘ８画素、１６ｘ１６画素、３２ｘ３２画素、および、６４ｘ６４画素のいずれかである。
【００３０】
また、さらに、面内予測またはインター予測のデータ単位として、予測ユニット（ＰＵ：Ｐｒｅｄｉｃｔｉｏｎ  Ｕｎｉｔ）が定義されている。予測ユニットは、符号化ユニットの内部において、１２８ｘ１２８画素、６４ｘ１２８画素、１２８ｘ６４画素、または、６４ｘ６４画素など、４ｘ４画素以上の様々な矩形サイズから、選択される。
【００３１】
以上のように、非特許文献２では、符号化ユニットすなわちマクロブロックのサイズを可変にすることにより符号化効率を向上させる技術が、述べられている。しかしながら、このような可変の符号化ユニットに対して、特許文献１で示されるパイプライン処理が適用された場合、符号化ユニットに含まれる画素数に比例して必要な処理量が増大する。また、処理サイクル数も同様に大きくなる。
【００３２】
すなわち、符号化ストリーム内に異なるサイズの符号化ユニットが混在している場合、パイプライン処理の各ステージの処理サイクルが、符号化ユニットのサイズによって大きく変動してしまう。そのため、小さい符号化ユニットを処理するステージでは、何も処理できない待ち時間が発生する。そして、パイプラインの処理効率が低下してしまう。つまり、可変のサイズの符号化ユニットは、画像復号装置の処理効率の低下を招く原因となってしまう。
【００３３】
例えば、図３には、５つのステージのパイプライン処理で符号化ストリームを復号する例が示されている。この例では、図２のように、ＣＵ０が１２８ｘ１２８画素の符号化ユニットであり、次にＣＵ１〜ＣＵ４がそれぞれ６４ｘ６４画素の符号化ユニットである。この場合、ＣＵ０が、ＣＵ１〜ＣＵ４の４倍の画素数で構成される符号化ユニットであるため、ＣＵ０の処理サイクルが、他の符号化ユニットの処理サイクルの４倍になる。
【００３４】
そのため、第１ステージのＣＵ１の処理が完了してから、第２ステージのＣＵ０の処理が完了するまで、第１ステージにおいて空き時間が生じている。同様に、第２ステージのＣＵ１の処理が完了してから、第３ステージのＣＵ０の処理が完了するまで、第２ステージにおいて空き時間が生じている。また、第３ステージのＣＵ１の処理が完了してから、第４ステージのＣＵ０の処理が完了するまで、第３ステージにおいて空き時間が生じている。すなわち、それぞれのステージで、処理が行われない空き時間が生じている。
【００３５】
このように、符号化ユニットのサイズが変動すると、処理する画素データ量が増減する。符号化ストリームがパイプライン処理で復号される場合、画素データ量の大きい符号化ユニットによってパイプライン処理の単位時間が決定される。その結果、画素データ量の少ない符号化ユニットの処理後に空き時間が生じてしまう。したがって、処理効率および処理性能が低下する。
【００３６】
このような課題を解決するため、本発明の一態様に係る画像復号装置は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号装置であって、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える。
【００３７】
これにより、第１の処理部が、最も大きいサイズのブロックを処理して、当該ブロックを第１の記憶部に書き込みつつ、第２の処理部が、最も大きいサイズの別のブロックを第１の記憶部から抽出して、当該別のブロックを処理できる。また、第１の記憶部は、３つ以上のブロックをそれらのサイズ次第で保持することができる。したがって、第１の処理部および第２の処理部が互いに処理の終了を待つ無駄な待ち時間が低減し、処理効率が向上する。
【００３８】
例えば、前記画像復号装置は、さらに、第２の記憶部を備え、前記第２の処理部は、前記第１の記憶部に前記第１の処理が行われたブロックが格納されているか否か、および、前記第２の記憶部に前記第２の処理が行われたブロックを格納するための領域が空いているか否かを判定し、前記第１の記憶部に前記第１の処理が行われた前記ブロックが格納されていると判定され、かつ、前記第２の記憶部に前記第２の処理が行われた前記ブロックを格納するための前記領域が空いていると判定されたタイミングで、前記第１の記憶部から前記ブロックを抽出して、抽出された前記ブロックに対して前記第２の処理を行い、前記第２の記憶部に前記第２の処理が行われた前記ブロックを格納してもよい。
【００３９】
これにより、第２の処理部は、処理のための準備が完了したタイミングで、処理を行うことができる。したがって、無駄な待ち時間が低減する。
【００４０】
また、例えば、前記画像復号装置は、さらに、前記複数のブロックのそれぞれのサイズを判定する判定部を備え、前記第１の処理部は、前記第１の処理が行われたブロックのサイズに従って、前記ブロックが前記第１の記憶部において専有する領域を決定し、決定された前記領域に前記ブロックを格納してもよい。
【００４１】
これにより、第１の処理部は、複数のブロックをそれらのサイズに応じて適切に第１の記憶部に格納できる。したがって、第１の処理部は、少ない容量に、多くのブロックを格納できる。
【００４２】
また、例えば、前記第１の記憶部は、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを３つ以上記憶可能な容量を有してもよい。
【００４３】
これにより、第１の処理部は、第１の記憶部に、より多くのブロックを格納できる。したがって、画像復号装置は、より確実に待ち時間を低減させることができる。
【００４４】
また、例えば、前記複数のブロックは、複数の符号化ユニット、複数の変換ユニット、または、複数の予測ユニットであり、前記第１の処理部または前記第２の処理部は、前記複数の符号化ユニットに対する可変長復号処理、前記複数の変換ユニットに対する逆周波数変換処理、または、前記複数の予測ユニットに対する予測処理を前記第１の処理または前記第２の処理として行ってもよい。
【００４５】
これにより、様々なデータ単位が用いられるパイプライン処理において、無駄な待ち時間が低減する。
【００４６】
また、例えば、前記第１の処理部は、可変長復号処理を前記第１の処理として行い、前記第２の処理部は、逆量子化処理を前記第２の処理として行ってもよい。
【００４７】
これにより、可変長復号処理と逆量子化処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００４８】
また、例えば、前記第１の処理部は、逆量子化処理を前記第１の処理として行い、前記第２の処理部は、逆周波数変換処理を前記第２の処理として行ってもよい。
【００４９】
これにより、逆量子化処理と逆周波数変換処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００５０】
また、例えば、前記第１の処理部は、逆周波数変換処理を前記第１の処理として行い、前記第２の処理部は、再構成処理を前記第２の処理として行ってもよい。
【００５１】
これにより、逆周波数変換処理と再構成処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００５２】
また、例えば、前記第１の処理部は、面内予測処理を前記第１の処理として行い、前記第２の処理部は、再構成処理を前記第２の処理として行ってもよい。
【００５３】
これにより、面内予測処理と再構成処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００５４】
また、例えば、前記第１の処理部は、動き補償処理を前記第１の処理として行い、前記第２の処理部は、再構成処理を前記第２の処理として行ってもよい。
【００５５】
これにより、動き補償処理と再構成処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００５６】
また、例えば、前記第１の処理部は、再構成処理を前記第１の処理として行い、前記第２の処理部は、インループフィルタ処理を前記第２の処理として行ってもよい。
【００５７】
これにより、再構成処理とインループフィルタ処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００５８】
また、例えば、前記第１の処理部は、参照画像転送処理を前記第１の処理として行い、前記第２の処理部は、動き補償処理を前記第２の処理として行ってもよい。
【００５９】
これにより、参照画像転送処理と動き補償処理との間で生じる待ち時間が低減される。したがって、処理効率が向上する。
【００６０】
また、例えば、前記第２の処理部は、前記第１の処理部とは非同期に、前記第１の記憶部から前記複数のブロックを順次抽出して、抽出された前記複数のブロックに対して前記第２の処理を順次行ってもよい。
【００６１】
これにより、第１の処理部と第２の処理部とが非同期で独立して動作する。したがって、第１の処理部と第２の処理部とは、適切なタイミングで各処理を行う。よって、無駄な待ち時間が低減され、処理効率が向上する。
【００６２】
また、例えば、前記第２の処理部は、前記第１の処理部が第１のブロックに対して前記第１の処理を行うことに並行して、前記複数のブロックの処理順序で前記第１のブロックから２つ以上離れた第２のブロックに対して前記第２の処理を行ってもよい。
【００６３】
これにより、第１の処理部は、第２の処理部における処理の進行状況によらず、処理を行える。したがって、無駄な待ち時間が低減される。
【００６４】
また、本発明の一態様に係る画像符号化装置は、画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する画像符号化装置であって、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部と、前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備える画像符号化装置でもよい。
【００６５】
これにより、画像符号化装置において、画像復号装置と同様の効果が得られる。すなわち、画像符号化装置において、無駄な待ち時間が低減され、処理効率が向上する。
【００６６】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの非一時的な記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
【００６７】
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置および接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００６８】
また、１２８ｘ１２８画素、および、６４ｘ６４画素等の表現は、それぞれ、１２８画素ｘ１２８画素、および、６４画素ｘ６４画素等のサイズを意味する。
【００６９】
また、以下において、ブロック、データ単位および符号化ユニット（ＣＵ：Ｃｏｄｉｎｇ  Ｕｎｉｔ）等の表現は、それぞれ、まとまった領域を意味する。それらは、それぞれ、画像領域を意味する場合もある。あるいは、それらは、それぞれ、符号化ストリームにおけるデータ領域を意味する場合もある。
【００７０】
また、画像は、動画像、静止画像、動画像を構成する複数のピクチャ、１つのピクチャ、および、ピクチャの一部等のいずれでもよい。
【００７１】
（実施の形態１）
（１−１．概要）
まず、本実施の形態に係る画像復号装置の概要について説明する。本実施の形態に係る画像復号装置は、符号化された画像である符号化ストリームを復号する。符号化ストリームを構成する符号化ユニットのサイズは可変である。また、画像復号装置は、復号処理に含まれる複数の処理を複数のステージに分割して、パイプライン方式で並列に複数の処理を行う。
【００７２】
その際、画像復号装置は、符号化ストリームにおいて定義された符号化ユニットのサイズで、パイプライン方式で並列に複数の処理を行う。画像復号装置を構成する複数の処理部には、入出力バッファが接続される。この入出力バッファは、少なくとも３つの最大符号化ユニットに対応するデータを保持することのできるＦＩＦＯ（Ｆｉｒｓｔ  Ｉｎ  Ｆｉｒｓｔ  Ｏｕｔ）部で構成される。なお、最大符号化ユニットは、符号化ストリームを構成する複数の符号化ユニットのうち最も大きい符号化ユニットである。
【００７３】
これにより、複数の符号化ユニットが様々なサイズで構成されている場合でも、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。したがって、パイプライン処理における空き時間が削減され、効率的にパイプライン処理が行われる。よって、処理性能が向上する。
【００７４】
そして、ＦＩＦＯ部の容量が大きければ大きいほど、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。
【００７５】
以上が、本実施の形態に係る画像復号装置の概要についての説明である。
【００７６】
（１−２．構成）
次に、本実施の形態に係る画像復号装置の構成について説明する。
【００７７】
図４は、本実施の形態に係る画像復号装置の構成図である。本実施の形態に係る画像復号装置は、制御部５０１、フレームメモリ５０２、再構成画像メモリ５０９、可変長復号部５０３、逆量子化部５０４、逆周波数変換部５０５、動き補償部５０６、面内予測部５０７、再構成部５０８およびインループフィルタ部５１０を備える。
【００７８】
制御部５０１は、画像復号装置の全体を制御する。フレームメモリ５０２は、復号された画像データを記憶するためのメモリである。再構成画像メモリ５０９は、生成された再構成画像の一部を記憶するためのメモリである。可変長復号部５０３は、符号化ストリームを読み込み、可変長符号を復号する。逆量子化部５０４は、逆量子化を行う。逆周波数変換部５０５は、逆周波数変換を行う。
【００７９】
動き補償部５０６は、フレームメモリ５０２から参照画像を読み出して、動き補償を行い、予測画像を生成する。面内予測部５０７は、再構成画像メモリ５０９から参照画像を読み出して、面内予測（イントラ予測ともいう）を行い、予測画像を生成する。再構成部５０８は、差分画像と予測画像とを加算して再構成画像を生成し、その一部を再構成画像メモリ５０９に格納する。インループフィルタ部５１０は、インループフィルタ処理により、再構成画像のノイズを除去し、再構成画像を高画質化する。
【００８０】
インループフィルタは、再構成画像がフレームメモリ５０２に参照画像として格納される前に適用されるフィルタである。インループフィルタとして、デブロックフィルタ、サンプルアダプティブオフセットフィルタおよびアクティブループフィルタが用いられる場合がある。一方、表示の際に適用されるフィルタは、アウトループフィルタと呼ばれる。
【００８１】
図５は、複数の処理部の間の接続を示す構成図である。図４と同様の構成要素には同じ符号を割り当て、説明を省略する。
【００８２】
本実施の形態に係る可変長復号部５０３への符号化ストリームの入力は、ＦＩＦＯ部５００を介して行われる。また、可変長復号部５０３と逆量子化部５０４とは、係数を記憶するためのＦＩＦＯ部５１１を介して接続される。また、逆量子化部５０４と逆周波数変換部５０５とは、量子化後の係数を記憶するためのＦＩＦＯ部５１２を介して接続される。
【００８３】
また、逆周波数変換部５０５と再構成部５０８とは、逆周波数変換処理後の残差画像を記憶するためのＦＩＦＯ部５１３を介して接続される。また、フレームメモリ５０２と動き補償部５０６とは、参照画像を記憶するためのＦＩＦＯ部５１４を介して接続される。また、動き補償部５０６と再構成部５０８とは、予測画像を記憶するためのＦＩＦＯ部５１５を介して接続される。
【００８４】
また、再構成部５０８と面内予測部５０７は、予測画像を記憶するためのＦＩＦＯ部５１７を介して接続される。また、再構成部５０８とインループフィルタ部５１０とは、再構成画像を記憶するためのＦＩＦＯ部５１８を介して接続される。また、インループフィルタ部５１０とフレームメモリ５０２は、復号画像を記憶するためのＦＩＦＯ部５１９を介して接続される。各ＦＩＦＯ部は、最大符号化ユニット３個分以上のデータを保持することができる。
【００８５】
図６は、可変長復号部５０３、逆量子化部５０４、逆周波数変換部５０５、ＦＩＦＯ部５００、ＦＩＦＯ部５１１、ＦＩＦＯ部５１２およびＦＩＦＯ部５１３の接続について、詳細に記載された図である。図５で示された構成に、可変長復号部５０３の周辺において、ＦＩＦＯ管理部５００１および起動部５０１１が加えられている。
【００８６】
ＦＩＦＯ管理部５００１は、ＦＩＦＯ部５００の保持しているデータの管理と、ＦＩＦＯ部５１１の空き領域の管理を行う。起動部５０１１は、ＦＩＦＯ管理部５００１で管理された情報から、可変長復号部５０３に接続される入力用のＦＩＦＯ部５００、および、出力用のＦＩＦＯ部５１１の状態を判定する。そして、起動部５０１１は、ＦＩＦＯ部５００およびＦＩＦＯ部５１１の状態に基づいて、可変長復号部５０３を起動する。すなわち、起動部５０１１は、可変長復号部５０３に可変長復号処理を実行させる。
【００８７】
また、図５で示された構成に、逆量子化部５０４の周辺において、ＦＩＦＯ管理部５００２および起動部５０１２が加えられている。ＦＩＦＯ管理部５００２は、ＦＩＦＯ部５１１の保持しているデータの管理と、ＦＩＦＯ部５１２の空き領域の管理を行う。
【００８８】
起動部５０１２は、ＦＩＦＯ管理部５００２で管理された情報から、逆量子化部５０４に接続される入力用のＦＩＦＯ部５１１、および、出力用のＦＩＦＯ部５１２の状態を判定する。そして、起動部５０１２は、ＦＩＦＯ部５１１およびＦＩＦＯ部５１２の状態に基づいて、逆量子化部５０４を起動する。すなわち、起動部５０１２は、逆量子化部５０４に逆量子化処理を実行させる。
【００８９】
また、図５で示された構成に、逆周波数変換部５０５の周辺において、ＦＩＦＯ管理部５００３および起動部５０１３が加えられている。ＦＩＦＯ管理部５００３は、ＦＩＦＯ部５１２の保持しているデータの管理と、ＦＩＦＯ部５１３の空き領域の管理を行う。
【００９０】
起動部５０１３は、ＦＩＦＯ管理部５００３で管理された情報から、逆周波数変換部５０５に接続される入力用のＦＩＦＯ部５１２、および、出力用のＦＩＦＯ部５１３の状態を判定する。そして、起動部５０１３は、ＦＩＦＯ部５１２およびＦＩＦＯ部５１３の状態に基づいて、逆周波数変換部５０５の起動を行う。すなわち、起動部５０１３は、逆周波数変換部５０５に逆周波数変換処理を実行させる。
【００９１】
図５で示されたその他の各処理部についても、同様に、ＦＩＦＯ管理部および起動部が備え付けられている。これにより、各処理部は、ＦＩＦＯ部の状態に基づいて、処理を行う。なお、各処理部は、ＦＩＦＯ管理部および起動部を含んでいてもよい。以降の説明では、ＦＩＦＯ管理部の動作および起動部の動作が、ＦＩＦＯ管理部および起動部を含む各処理部の動作として示される場合がある。
【００９２】
なお、画像復号装置は、参照画像転送処理を行う参照画像転送処理部を備えていてもよい。参照画像転送処理部は、フレームメモリ５０２からＦＩＦＯ部５１４へ参照画像を転送する。動き補償部５０６は、参照画像転送処理部によって転送された参照画像を用いて、動き補償を行う。
【００９３】
以上が、本実施の形態に係る画像復号装置の構成についての説明である。
【００９４】
（１−３．動作）
次に、本実施の形態に係る画像復号装置の動作を説明する。本実施の形態に係る画像復号装置が復号する符号化ストリームは、符号化ユニットと、変換ユニットと、予測ユニットとで構成される。
【００９５】
符号化ユニットは、１２８ｘ１２８画素〜８ｘ８画素のサイズで設定され、面内予測とインター予測とを切り替え可能なデータ単位である。変換ユニットは、符号化ユニットの内部で６４ｘ６４画素〜４ｘ４画素のサイズで設定される。予測ユニットは、符号化ユニットの内部で１２８ｘ１２８画素〜４ｘ４画素のサイズで設定され、面内予測のモード、または、インター予測の動きベクトルを有する。以下、図７Ａ〜図１０Ｂを用いて符号化ストリームの構成について説明する。
【００９６】
図７Ａおよび図７Ｂは、本実施の形態に係る画像復号装置が復号する符号化ストリームの、階層的な構成を示している。図７Ａに示すように、複数のピクチャをひとまとまりにしたものをシーケンスと呼ぶ。また、図７Ｂに示すように、各ピクチャはスライスに分割され、各スライスはさらに符号化ユニットに分割される。ピクチャはスライスに分割されない場合もある。
【００９７】
本実施の形態において、最大符号化ユニットのサイズは、１２８ｘ１２８画素である。また、１２８ｘ１２８画素の符号化ユニットと、６４ｘ６４画素の符号化ユニットとが混在している。
【００９８】
図７Ｃは、本実施の形態に係る符号化ストリームを示す図である。図７Ａおよび図７Ｂに示されたデータが階層的に符号化されることにより、図７Ｃに示された符号化ストリームが得られる。
【００９９】
図７Ｃに示された符号化ストリームは、シーケンスを制御するシーケンスヘッダ、ピクチャを制御するピクチャヘッダ、スライスを制御するスライスヘッダ、および、符号化ユニットレイヤデータ（ＣＵレイヤデータ）で構成される。Ｈ．２６４規格では、シーケンスヘッダをＳＰＳ（Ｓｅｑｕｅｎｃｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ）、ピクチャヘッダをＰＰＳ（Ｐｉｃｔｕｒｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ）と呼んでいる。
【０１００】
次に、本実施の形態の説明に使用する符号化ユニットと符号化ストリームの構成について、図８Ａおよび図８Ｂを用いて説明する。符号化ストリームは、ＣＵ分割フラグとＣＵデータで構成される。このＣＵ分割フラグは、「１」の場合、ブロックを４分割することを示し、「０」の場合、ブロックを４分割しないことを示す。図８Ａのように、１２８ｘ１２８画素の符号化ユニットの場合、ブロックは分割されない。すなわち、ＣＵ分割フラグは「０」である。
【０１０１】
図８Ｂに示すように６４ｘ６４画素の４つの符号化ユニットの場合、最初のＣＵ分割フラグは「１」である。この最初のＣＵ分割フラグにより、１２８ｘ１２８画素のブロックが少なくとも６４ｘ６４画素の４つのブロックに分割されることが示される。そして、６４ｘ６４画素の４つのブロックのそれぞれは分割されないため、後続のＣＵ分割フラグは、「０」である。このようにして、符号化ユニットのサイズは、ＣＵ分割フラグによって、１２８ｘ１２８画素から４ｘ４画素までのいずれかに特定される。
【０１０２】
図９Ａおよび図９Ｂは、それぞれ、本実施の形態に係る変換ユニットの構成例を示す。各符号化ユニットのＣＵデータは、さらに、ＣＵヘッダ、ＴＵ分割フラグおよび係数情報で構成される。ＣＵヘッダについては後述する。ＴＵ分割フラグは、符号化ユニットの中で変換ユニットのサイズを示し、ＣＵ分割フラグと同様に、階層的にそのサイズを４分割するか否かを示す。
【０１０３】
図９Ａは、１２８ｘ１２８画素の符号化ユニットが、６４ｘ６４画素の４つの変換ユニットで構成される場合の例を示す。１２８ｘ１２８画素の符号化ユニットの場合、変換ユニットは最大が６４ｘ６４画素であるので、必ず４分割される。図９Ａの場合、それぞれの６４ｘ６４画素のブロックは分割されない。そのため、ＴＵ分割フラグは、全て「０」である。
【０１０４】
図９Ｂは、１２８ｘ１２８画素の符号化ユニットが、６４ｘ６４画素の３つの変換ユニット、および、３２ｘ３２画素の４つの変換ユニットで構成される例を示す。この場合、「１」の値を有するＴＵ分割フラグが存在する。
【０１０５】
図９Ａおよび図９Ｂの各変換ユニットには、輝度データ（輝度情報）および色差データ（色差情報）が含まれている。つまり、符号化ストリームにおいて、輝度データおよび色差データの両方を含む係数情報が変換ユニット毎にまとめられている。
【０１０６】
次に、ＣＵヘッダについて説明する。図１０Ａに示すように、ＣＵヘッダは、ＣＵタイプを含み、さらに、動きベクトルまたは面内予測モードを含む。ＣＵタイプによって、予測ユニットのサイズが決定される。図１０Ｂは、１２８ｘ１２８画素、６４ｘ１２８画素、１２８ｘ６４画素、および、６４ｘ６４画素の予測ユニットを示す。予測ユニットのサイズは、４ｘ４画素以上のサイズから選択可能である。また、予測ユニットの形状は、長方形でもよい。予測ユニット毎に動きベクトルまたは面内予測モードが指定される。
【０１０７】
次に、本実施の形態に係る画像復号装置の動作を具体的に説明する。図１１Ａおよび図１１Ｂは、動作の説明に用いられる複数の符号化ユニットの構成例を示す。図１１Ａに示された８つの符号化ユニット（ＣＵ０〜ＣＵ７）が、本実施の形態に係る画像復号装置の動作の説明に用いられる。
【０１０８】
図１１Ｂに示すように、ＣＵ０、ＣＵ５〜ＣＵ７は、１２８ｘ１２８画素で構成される符号化ユニットである。ＣＵ１〜ＣＵ４は、６４ｘ６４画素で構成される符号化ユニットである。ＣＵ４の変換ユニットのサイズは３２ｘ３２画素である。他の変換ユニットのサイズは全て６４ｘ６４画素である。ＣＵ０の予測ユニットのサイズは、１２８ｘ１２８画素であり、ＣＵ１〜ＣＵ４の予測ユニットのサイズは、６４ｘ６４画素であり、ＣＵ５〜ＣＵ７の予測ユニットのサイズは、１２８ｘ１２８画素である。
【０１０９】
次に、図１２に示すフローチャートを用いて、図４に示した画像復号装置の動作を説明する。図１２は、符号化ストリームに含まれる１シーケンスの復号動作を示すフローチャートである。図１２に示すように、画像復号装置は、まず、シーケンスヘッダを復号する（Ｓ９０１）。その際、可変長復号部５０３は、制御部５０１の制御に基づいて、符号化ストリームを復号する。次に、画像復号装置は、同様に、ピクチャヘッダを復号し（Ｓ９０２）、スライスヘッダを復号する（Ｓ９０３）。
【０１１０】
次に、画像復号装置は、符号化ユニットを復号する（Ｓ９０４）。符号化ユニットの復号については後で詳しく説明する。画像復号装置は、符号化ユニットの復号後、復号された符号化ユニットがスライス最後の符号化ユニットであるか否かを判定する（Ｓ９０５）。そして、復号された符号化ユニットがスライス最後の符号化ユニットでない場合、再度、画像復号装置は、次の符号化ユニットを復号する（Ｓ９０４）。
【０１１１】
さらに、画像復号装置は、復号された符号化ユニットを含むスライスがピクチャ最後のスライスであるか否かを判定する（Ｓ９０６）。そして、ピクチャ最後のスライスでない場合、画像復号装置は、再度、スライスヘッダを復号する（Ｓ９０３）。
【０１１２】
さらに、画像復号装置は、復号された符号化ユニットを含むピクチャがシーケンス最後のピクチャであるか否かを判定する（Ｓ９０７）。そして、シーケンス最後のピクチャでない場合、画像復号装置は、再度、ピクチャヘッダを復号する（Ｓ９０２）。画像復号装置は、シーケンスの全てのピクチャの復号後、一連の復号動作を終了する。
【０１１３】
次に、図１３に示すフローチャートを用いて、図１２の符号化ユニットの復号（Ｓ９０４）の動作を説明する。図１３は、１つの符号化ユニットの復号動作を示すフローチャートである。
【０１１４】
まず、可変長復号部５０３は、入力された符号化ストリームに含まれる処理対象の符号化ユニットについて、可変長復号を行う（Ｓ１００１）。可変長復号処理（Ｓ１００１）では、可変長復号部５０３は、符号化ユニットタイプ、面内予測（イントラ予測）モード、動きベクトル情報および量子化パラメータなどの符号化情報を出力し、各画素データに対応する係数情報を出力する。符号化情報は、制御部５０１に出力され、その後、各処理部に入力される。係数情報は、次の逆量子化部５０４に出力される。次に、逆量子化部５０４は、逆量子化処理を行う（Ｓ１００２）。その後、逆周波数変換部５０５は、逆周波数変換を行って差分画像を生成する（Ｓ１００３）。
【０１１５】
次に、制御部５０１は、処理対象の符号化ユニットにインター予測が用いられるか、面内予測が用いられるかの判定を行う（Ｓ１００４）。インター予測が用いられる場合、制御部５０１により動き補償部５０６が起動し、動き補償部５０６が１／２画素精度または１／４画素精度等の予測画像を生成する（Ｓ１００５）。一方、インター予測が用いられない場合、すなわち、面内予測が用いられる場合、制御部５０１により面内予測部５０７が起動し、面内予測部５０７が面内予測の処理を行い、予測画像を生成する（Ｓ１００６）。
【０１１６】
再構成部５０８は、動き補償部５０６または面内予測部５０７が出力する予測画像と、逆周波数変換部５０５が出力する差分画像とを加算することにより、再構成画像を生成する（Ｓ１００７）。
【０１１７】
生成された再構成画像は、インループフィルタ部５１０に入力される。同時に、面内予測で用いられる部分は、再構成画像メモリ５０９に格納される。最後に、インループフィルタ部５１０は、得られた再構成画像に対して、ノイズを低減するためのインループフィルタ処理を行う。そして、インループフィルタ部５１０は、フレームメモリ５０２に結果を格納する（Ｓ１００８）。以上で、符号化ユニットの復号動作が終了する。
【０１１８】
ここで、図１３に示された複数の処理は、点線で複数のステージに分割される。画像復号装置は、これらの第１ステージから第５ステージまでの複数のステージにおいて、ステージ毎にそれぞれ異なる複数の符号化ユニットに対して、複数の処理を同時に行う。これにより、並列処理が実現され、性能が向上する。このような処理をパイプライン処理と呼ぶ。
【０１１９】
図１３の例では、第１ステージは、可変長復号処理（Ｓ１００１）を含む。第２ステージは、逆量子化処理（Ｓ１００２）と逆周波数変換処理（Ｓ１００３）とを含む。第３ステージは、動き補償処理（Ｓ１００５）を含む。第４ステージは、面内予測処理（Ｓ１００６）と再構成処理（Ｓ１００７）とを含む。第５ステージは、インループフィルタ処理（Ｓ１００８）を含む。
【０１２０】
これらの複数のステージに分割された複数の処理が、ステージ毎に互いに異なる複数の符号化ユニットに対して、パイプライン方式で並行して実行される。このとき、各処理部に接続されたＦＩＦＯ部に十分な容量があれば、画像復号装置は、全ステージの処理を同期して実行する必要がない。そして、画像復号装置は、各ステージの処理を他のステージの処理とは非同期で実行できる。
【０１２１】
図１４Ａは、図５に示された可変長復号部５０３の動作を示すフローチャートである。まず、可変長復号部５０３は、ＣＵ０のヘッダがＦＩＦＯ部５００に入力された後、ＣＵ０のヘッダの可変長復号処理を行う（Ｓ１０１０）。
【０１２２】
次に、可変長復号部５０３は、ＣＵ０のデータの可変長復号処理に必要な入力データがＦＩＦＯ部５００に入力されたことを確認する（Ｓ１０１１）。また、可変長復号部５０３は、ＣＵ０のデータの可変長復号処理により得られる係数を出力するための空き領域が出力先のＦＩＦＯ部５１１にあることを確認する（Ｓ１０１２）。そして、確認後、可変長復号部５０３は、ＣＵ０のデータの可変長復号処理を行う（Ｓ１０１３）。
【０１２３】
同様に、可変長復号部５０３は、ＣＵ１のヘッダがＦＩＦＯ部５００に入力された後、ＣＵ１のヘッダの可変長復号処理を行う（Ｓ１０１０）。
【０１２４】
次に、可変長復号部５０３は、ＣＵ１のデータの可変長復号処理に必要な入力データがＦＩＦＯ部５００に入力されたことを確認する（Ｓ１０１１）。また、可変長復号部５０３は、ＣＵ１のデータの可変長復号処理により得られる係数を出力するための空き領域が出力先のＦＩＦＯ部５１１にあることを確認する（Ｓ１０１２）。そして、確認後、可変長復号部５０３は、ＣＵ１のデータの可変長復号処理を行う（Ｓ１０１３）。
【０１２５】
可変長復号部５０３は、以降の符号化ユニットについても同様の動作を行う。そして、可変長復号部５０３は、スライスの最後の符号化ユニットの可変長復号処理を終了した場合、スライスの可変長復号処理を終了する（Ｓ１０１４）。
【０１２６】
図１４Ｂは、図５に示された逆量子化部５０４の動作を示すフローチャートである。まず、逆量子化部５０４は、ＣＵ０の逆量子化処理に必要な入力データがＦＩＦＯ部５１１に入力されたことを確認する（Ｓ１０２１）。また、逆量子化部５０４は、ＣＵ０の逆量子化処理により得られる結果を出力するための空き領域が出力先のＦＩＦＯ部５１２にあることを確認する（Ｓ１０２２）。そして、確認後、逆量子化部５０４は、ＣＵ０の逆量子化処理を行う（Ｓ１００２）。
【０１２７】
同様に、逆量子化部５０４は、ＣＵ１の逆量子化処理に必要な入力データがＦＩＦＯ部５１１に入力されたことを確認する（Ｓ１０２１）。また、逆量子化部５０４は、ＣＵ１の逆量子化処理により得られる結果を出力するための空き領域が出力先のＦＩＦＯ部５１２にあることを確認する（Ｓ１０２２）。そして、確認後、逆量子化部５０４は、ＣＵ１の逆量子化処理を行う（Ｓ１００２）。
【０１２８】
逆量子化部５０４は、以降の符号化ユニットについても同様の動作を行う。そして、逆量子化部５０４は、スライスの最後の符号化ユニットの逆量子化処理を終了した場合、スライスの逆量子化処理を終了する（Ｓ１０２３）。
【０１２９】
図１４Ｃは、図５に示された逆周波数変換部５０５の動作を示すフローチャートである。まず、逆周波数変換部５０５は、ＣＵ０の逆周波数変換処理に必要な入力データがＦＩＦＯ部５１２に入力されたことを確認する（Ｓ１０３１）。また、逆周波数変換部５０５は、ＣＵ０の逆周波数変換処理により得られる結果を出力するための空き領域が出力先のＦＩＦＯ部５１３にあることを確認する（Ｓ１０３２）。そして、確認後、逆周波数変換部５０５は、ＣＵ０の逆周波数変換処理を行う（Ｓ１００３）。
【０１３０】
同様に、逆周波数変換部５０５は、ＣＵ１の逆周波数変換処理に必要な入力データがＦＩＦＯ部５１２に入力されたことを確認する（Ｓ１０３１）。また、逆周波数変換部５０５は、ＣＵ１の逆周波数変換処理により得られる結果を出力するための空き領域が出力先のＦＩＦＯ部５１３にあることを確認する（Ｓ１０３２）。そして、確認後、逆周波数変換部５０５は、ＣＵ１の逆周波数変換処理を行う（Ｓ１００３）。
【０１３１】
逆周波数変換部５０５は、以降の符号化ユニットについても同様の動作を行う。そして、逆周波数変換部５０５は、スライスの最後の符号化ユニットの逆周波数変換処理を終了した場合、スライスの逆周波数変換処理を終了する（Ｓ１０３３）。
【０１３２】
図１４Ｄは、図５に示された動き補償部５０６の動作を示すフローチャートである。ここでは、図１１Ｂの例の通り、ＣＵ０〜ＣＵ７の予測モードがインター予測であると仮定する。
【０１３３】
まず、動き補償部５０６は、ＣＵ０の動き補償処理に必要な入力データがＦＩＦＯ部５１１、５１４に入力されたことを確認する（Ｓ１０４１）。また、動き補償部５０６は、ＣＵ０の動き補償処理により得られる結果を出力するための空き領域が出力先のＦＩＦＯ部５１５にあることを確認する（Ｓ１０４２）。そして、確認後、動き補償部５０６は、ＣＵ０の動き補償処理を行う（Ｓ１００４）。
【０１３４】
同様に、動き補償部５０６は、ＣＵ１の動き補償処理に必要な入力データがＦＩＦＯ部５１１、５１４に入力されたことを確認する（Ｓ１０４１）。また、動き補償部５０６は、ＣＵ１の動き補償処理により得られる結果を出力するための空き領域が出力先のＦＩＦＯ部５１５にあることを確認する（Ｓ１０４２）。そして、確認後、動き補償部５０６は、ＣＵ０の動き補償処理を行う（Ｓ１００４）。
【０１３５】
動き補償部５０６は、以降の符号化ユニットについても同様の動作を行う。そして、動き補償部５０６は、スライスの最後の符号化ユニットの動き補償処理を終了した場合、スライスの動き補償処理を終了する（Ｓ１０４３）。
【０１３６】
図１４Ｅは、図５に示された面内予測部５０７の動作を示すフローチャートである。ここでは、図１１Ｂの例とは異なり、ＣＵ０〜ＣＵ７の予測モードがイントラ予測であると仮定する。
【０１３７】
まず、面内予測部５０７は、ＣＵ０の面内予測処理に必要な入力データがＦＩＦＯ部５１１および再構成画像メモリ５０９に入力されたことを確認する（Ｓ１０５１）。また、面内予測部５０７は、ＣＵ０の面内予測処理により得られる予測画像を出力するための空き領域が出力先のＦＩＦＯ部５１７にあることを確認する（Ｓ１０５２）。そして、確認後、面内予測部５０７は、ＣＵ０の面内予測処理を行う（Ｓ１００５）。
【０１３８】
同様に、面内予測部５０７は、ＣＵ１の面内予測処理に必要な入力データがＦＩＦＯ部５１１および再構成画像メモリ５０９に入力されたことを確認する（Ｓ１０５１）。また、面内予測部５０７は、ＣＵ１の面内予測処理により得られる予測画像を出力するための空き領域が出力先のＦＩＦＯ部５１７にあることを確認する（Ｓ１０５２）。そして、確認後、面内予測部５０７は、ＣＵ１の面内予測処理を行う（Ｓ１００５）。
【０１３９】
面内予測部５０７は、以降の符号化ユニットについても同様の動作を行う。そして、面内予測部５０７は、スライスの最後の符号化ユニットの面内予測処理を終了した場合、スライスの面内予測処理を終了する（Ｓ１０５３）。
【０１４０】
図１４Ｆは、図５に示された再構成部５０８の動作を示すフローチャートである。まず、再構成部５０８は、ＣＵ０の再構成処理に必要な入力データがＦＩＦＯ部５１３、５１５、５１７に入力されたことを確認する（Ｓ１０６１）。また、再構成部５０８は、ＣＵ０の再構成処理により得られる再構成画像を出力するための空き領域が出力先のＦＩＦＯ部５１８にあることを確認する（Ｓ１０６２）。そして、確認後、再構成部５０８は、ＣＵ０の再構成処理を行う（Ｓ１００６）。
【０１４１】
同様に、再構成部５０８は、ＣＵ１の再構成処理に必要な入力データがＦＩＦＯ部５１３、５１５、５１７に入力されたことを確認する（Ｓ１０６１）。また、再構成部５０８は、ＣＵ１の再構成処理により得られる再構成画像を出力するための空き領域が出力先のＦＩＦＯ部５１８にあることを確認する（Ｓ１０６２）。そして、確認後、再構成部５０８は、ＣＵ１の再構成処理を行う（Ｓ１００６）。
【０１４２】
再構成部５０８は、以降の符号化ユニットについても同様の動作を行う。そして、再構成部５０８は、スライスの最後の符号化ユニットの再構成処理を終了した場合、スライスの再構成処理を終了する（Ｓ１０６３）。
【０１４３】
図１４Ｇは、図５に示されたインループフィルタ部５１０の動作を示すフローチャートである。
【０１４４】
まず、インループフィルタ部５１０は、ＣＵ０のインループフィルタ処理に必要な入力データがＦＩＦＯ部５１８に入力されたことを確認する（Ｓ１０７１）。また、インループフィルタ部５１０は、ＣＵ０のインループフィルタ処理により得られる復号画像を出力するための空き領域が出力先のＦＩＦＯ部５１９にあることを確認する（Ｓ１０７２）。そして、確認後、インループフィルタ部５１０は、ＣＵ０のインループフィルタ処理を行う（Ｓ１００７）。
【０１４５】
同様に、インループフィルタ部５１０は、ＣＵ１のインループフィルタ処理に必要な入力データがＦＩＦＯ部５１８に入力されたことを確認する（Ｓ１０７１）。また、インループフィルタ部５１０は、ＣＵ１のインループフィルタ処理により得られる復号画像を出力するための空き領域が出力先のＦＩＦＯ部５１９にあることを確認する（Ｓ１０７２）。そして、確認後、インループフィルタ部５１０は、ＣＵ１のインループフィルタ処理を行う（Ｓ１００７）。
【０１４６】
インループフィルタ部５１０は、以降の符号化ユニットについても同様の動作を行う。そして、インループフィルタ部５１０は、スライスの最後の符号化ユニットのインループフィルタ処理を終了した場合、スライスのインループフィルタ処理を終了する（Ｓ１０７３）。
【０１４７】
図１３の第１ステージにおいて、可変長復号部５０３が上述の可変長復号処理を行う。第２ステージにおいて、逆量子化部５０４が上述の逆量子化処理を行い、逆周波数変換部５０５が上述の逆周波数変換処理を行う。第３ステージにおいて、動き補償部５０６が上述の動き補償処理を行う。第４ステージにおいて、面内予測部５０７が上述の面内予測処理を行い、再構成部５０８が上述の再構成処理を行う。第５ステージにおいて、インループフィルタ部５１０が上述のインループフィルタ処理を行う。
【０１４８】
画像復号装置は、前のステージの出力結果を次のステージの入力データとして用いて、一連の複数の処理を行う。画像復号装置は、上述の通り、複数のステージにおいて、互いに異なる複数の符号化ユニットに対して複数の処理を並行して実行する。そして、画像復号装置は、必要な準備が整ったタイミングで、複数の処理のそれぞれを他の処理とは非同期で実行する。
【０１４９】
図１５は、本実施の形態に係る画像復号装置の時系列の動作を示すタイムチャートである。図１５は、図１３のように複数の処理が複数のステージに分割され、かつ、複数の符号化ユニットが図１１Ａのように構成されている場合の動作を示す。図１５のように、複数のステージのそれぞれにおいて、必要な準備が整ったタイミングで、他のステージとは独立して、処理対象の符号化ユニットが切り替えられる。したがって、図３のように、無駄な待ち時間の発生が抑制される。
【０１５０】
図１６は、本実施の形態に係るＦＩＦＯ部５１３の状態を時系列で示す図である。ＦＩＦＯ部５１３は、逆周波数変換処理により得られた残差画像を記憶するための構成要素である。図１６の例では、ＦＩＦＯ部５１３は、最大符号化ユニット４個分のデータを記憶可能な容量を有する。そして、図１６には、時刻Ａ〜Ｊにおいて、ＦＩＦＯ部５１３に記憶されたデータの状態が示されている。
【０１５１】
時刻Ａは、図１５において、ＣＵ０の逆周波数変換処理が完了する前の時点に対応する。時刻Ｂは、図１５において、ＣＵ０の逆周波数変換処理が完了した時点に対応する。時刻Ｃは、図１５において、ＣＵ１の逆周波数変換処理が完了した時点に対応する。時刻Ｄは、図１５において、ＣＵ２の逆周波数変換処理が完了した時点に対応する。時刻Ｅは、図１５において、ＣＵ３の逆周波数変換処理が完了する前にＣＵ０の再構成処理が完了した時点に対応する。
【０１５２】
時刻Ｆは、図１５において、ＣＵ３の逆周波数変換処理が完了した時点に対応する。時刻Ｇは、図１５において、ＣＵ４の逆周波数変換処理が完了する前にＣＵ１の再構成処理が完了した時点に対応する。時刻Ｈは、図１５において、ＣＵ４の逆周波数変換処理が完了した時点に対応する。時刻Ｉは、図１５において、ＣＵ５の逆周波数変換処理が完了する前にＣＵ２の再構成処理が完了した時点に対応する。時刻Ｊは、図１５において、ＣＵ５の逆周波数変換処理が完了した時点に対応する。
【０１５３】
また、ＷＰは、ライトポインタを表し、入力データを書き込む位置を示す。ＲＰは、リードポインタを表し、出力データを読み出す位置を示す。
【０１５４】
保持ＣＵカウンタ値は、ＦＩＦＯ部５１３が保持している符号化ユニットの数を示す。例えば、再構成部５０８は、再構成処理を行う際に、保持ＣＵカウンタ値が１以上か否かに基づいて、符号化ユニット１個分の入力データがあるか否かを判定する（図１４ＦのＳ１０６１）。また、逆周波数変換部５０５は、逆周波数変換処理を行う際に、保持ＣＵカウンタ値が３以下であるか否かに基づいて、符号化ユニット１個分の出力領域があるか否かを判定する（図１４ＣのＳ１０３２）。
【０１５５】
特定のＦＩＦＯ部にデータを格納する処理部が、当該ＦＩＦＯ部の保持ＣＵカウンタ値を増加させる。また、当該ＦＩＦＯ部からデータを抽出する処理部が、当該ＦＩＦＯ部の保持ＣＵカウンタ値を減少させる。例えば、逆周波数変換部５０５が、データの格納後、ＦＩＦＯ部５１３の保持ＣＵカウンタ値を増加させる。そして、再構成部５０８が、データの抽出後、ＦＩＦＯ部５１３の保持ＣＵカウンタ値を減少させる。
【０１５６】
図１６の例では、時刻Ｂ以降、ＦＩＦＯ部５１３の保持ＣＵカウンタ値は、１以上３以下である。したがって、無駄な待ち時間が発生しない。
【０１５７】
図１７は、本実施の形態に係るＦＩＦＯ部５１３の状態の別の例を時系列で示す図である。図１７の例では、ＦＩＦＯ部５１３は、最大符号化ユニット３個分のデータを記憶可能な容量を有する。その他の条件は、図１６の例と同様である。
【０１５８】
図１７の例の場合、逆周波数変換部５０５は、逆周波数変換処理を行う際に、保持ＣＵカウンタ値が２以下であるか否かに基づいて、符号化ユニット１個分の出力領域があるか否かを判定する（図１４ＣのＳ１０３２）。したがって、保持ＣＵカウンタ値が３である場合、逆周波数変換処理において、待ち時間が発生する。しかし、ＦＩＦＯ部５１３が無い場合よりも、待ち時間の発生は抑制される。また、他の可変長復号処理および逆量子化処理等は、非同期で行われるため、処理遅延は全体として低減される。
【０１５９】
本実施の形態では、上述の通り、パイプライン処理に含まれる複数の処理の開始および完了のタイミングが同期していない。そのため、無駄な待ち時間が削減され、効率的にパイプライン処理が実行される。
【０１６０】
以上が、本実施の形態に係る画像復号装置の動作についての説明である。
【０１６１】
（１−４．効果）
本実施の形態に係る画像復号装置は、複数の処理部のそれぞれに接続される入出力バッファとして、少なくとも最大符号化ユニット３個分のデータを保持することのできるＦＩＦＯ部を備える。格納処理および抽出処理のそれぞれに、最大符号化ユニット１個分の領域が用いられる。そして、最大符号化ユニット１個分以上の領域が、処理時間の変動を吸収するためのバッファとして用いられる。
【０１６２】
これにより、複数の符号化ユニットが様々なサイズで構成されている場合でも、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。したがって、パイプライン処理における空き時間が削減され、効率的にパイプライン処理が行われる。よって、処理性能が向上する。
【０１６３】
また、ＦＩＦＯ部の容量が大きければ大きいほど、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。その結果、処理性能がより向上する。また、効率的に回路が動作するため、必要な消費電力が減少する。
【０１６４】
（１−５．補足）
なお、本実施の形態では、符号化および復号に用いられるデータ単位として、符号化ユニットが用いられている。しかし、符号化および復号に用いられるデータ単位は、マクロブロックであってもよい。また、符号化および復号に用いられるデータ単位は、スーパーマクロブロックと呼ばれるブロックであってもよい。
【０１６５】
また、本実施の形態では、非特許文献２に示された符号化方式に基づいて、パイプライン処理における各処理が示されている。しかし、パイプライン処理における各処理は、本実施の形態の例に限定されない。
【０１６６】
また、本実施の形態では、最大符号化ユニットのサイズは１２８ｘ１２８画素である。しかし、最大符号化ユニットのサイズは、どのようなサイズであっても構わない。また、本実施の形態では、符号化ユニットのサイズは１２８ｘ１２８画素〜８ｘ８画素である。しかし、符号化ユニットのサイズは、これら以外のサイズであってもよい。
【０１６７】
また、本実施の形態に示されたパイプライン処理の構成は一例である。必ずしも本実施の形態のように、複数の処理が複数のステージに分割されなくてもよい。例えば、複数の処理が１つのステージで実現されてもよいし、１つの処理がいくつかのステージに分割されても構わない。
【０１６８】
また、本実施の形態では、可変長符号が用いられている。可変長符号の符号化方式は、ハフマン符号、ランレングス符号または算術符号など、どのような符号化方式であっても構わない。
【０１６９】
また、各処理部の一部あるいは全てが、専用ハードウェアによる回路で実現されてもよいし、プロセッサ上のプログラムで実現されてもよい。
【０１７０】
また、ＦＩＦＯ部５００、ＦＩＦＯ部５１１、ＦＩＦＯ部５１２、ＦＩＦＯ部５１３、ＦＩＦＯ部５１４、ＦＩＦＯ部５１５、ＦＩＦＯ部５１７、ＦＩＦＯ部５１８、ＦＩＦＯ部５１９、フレームメモリ５０２および再構成画像メモリ５０９は、メモリに限られない。これらは、データの記憶が可能な記憶素子であればよい。例えば、これらは、フリップフロップまたはレジスタなどであっても構わない。さらには、プロセッサのメモリ領域の一部、または、キャッシュメモリの一部がこれらに用いられてもよい。
【０１７１】
また、本実施の形態では、再構成画像メモリ５０９が明示的に示されている。しかし、各処理部内のメモリが再構成画像メモリ５０９として用いられてもよいし、フレームメモリ５０２が再構成画像メモリ５０９として用いられてもよい。
【０１７２】
また、本実施の形態では、復号処理の例が示されている。しかし、本実施の形態と同様の構成が、復号処理以外に適用されてもよい。例えば、復号処理の逆の処理である符号化処理に、本実施の形態と同様の構成が適用されてもよい。すなわち、画像符号化装置が、複数の処理部のそれぞれに接続される入出力バッファとして、少なくとも最大符号化ユニット３個分のデータを保持できるＦＩＦＯ部を備えてもよい。これにより、本実施の形態と同様に効率的にパイプライン処理が実行される。
【０１７３】
また、本実施の形態では、ＣＵ分割フラグは、分割ブロックの先頭に存在する。しかし、ＣＵ分割フラグは、必ずしもこのような位置に存在する必要はなく、符号化ストリームに存在すればよい。例えば、ＣＵ分割フラグは、最大符号化ユニットの先頭に存在してもよい。
【０１７４】
また、本実施の形態では、ＴＵ分割フラグは、各係数情報の先頭に存在する。しかし、ＴＵ分割フラグは、必ずしもこのような位置に存在する必要はなく、符号化ストリームに存在すればよい。例えば、ＴＵ分割フラグは、符号化ユニットまたは最大符号化ユニットの先頭に存在してもよい。
【０１７５】
また、本実施の形態では、画像復号装置は、符号化ユニット毎に複数の処理を行う。しかし、画像復号装置は、符号化ユニットとは異なる利用可能なデータセット毎に複数の処理を行ってもよい。すなわち、画像復号装置は、変換ユニット毎に複数の処理を行ってもよいし、予測ユニット毎に複数の処理を行ってもよいし、それ以外のデータセット毎に複数の処理を行ってもよい。
【０１７６】
また、本実施の形態では、全ての処理が、符号化ユニット毎に行われる。しかし、例えば、逆周波数変換処理は変換ユニット毎に行われ、動き補償処理は予測ユニット毎に行われてもよい。すなわち、必ずしも全ての処理において、データ単位が同じである必要はない。
【０１７７】
また、本実施の形態では、画像復号装置は、複数の処理部のそれぞれに接続される入出力バッファとして、少なくとも最大符号化ユニット３個分のデータを保持できるＦＩＦＯ部を備える。しかし、画像復号装置は、利用可能な最大データセット３個分以上のデータを保持できるＦＩＦＯ部を備えていてもよい。
【０１７８】
例えば、画像復号装置は、最大変換ユニット３個分以上のデータを保持できるＦＩＦＯ部を備えてもよい。また、画像復号装置は、最大予測ユニット３個分以上のデータを保持できるＦＩＦＯ部を備えてもよい。また、画像復号装置は、それ以外の最大データセット３個分以上のデータを保持できるＦＩＦＯ部を備えてもよい。
【０１７９】
（実施の形態２）
（２−１．概要）
まず、本実施の形態に係る画像復号装置の概要について説明する。本実施の形態に係る画像復号装置は、符号化された画像である符号化ストリームを復号する。符号化ストリームを構成する符号化ユニットのサイズは可変である。また、画像復号装置は、復号処理に含まれる複数の処理を複数のステージに分割して、パイプライン方式で並列に複数の処理を行う。
【０１８０】
その際、画像復号装置は、符号化ストリームにおいて定義された符号化ユニットのサイズで、複数の処理をパイプライン方式で並列に行う。画像復号装置を構成する複数の処理部には、入出力バッファが接続される。この入出力バッファは、少なくとも２つの最大符号化ユニットに対応するデータを保持することのできるＦＩＦＯ部で構成される。また、符号化ユニットサイズに基づいて、ＦＩＦＯ部のデータが管理される。
【０１８１】
これにより、複数の符号化ユニットが様々なサイズで構成されている場合でも、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。したがって、パイプライン処理における空き時間が削減され、効率的にパイプライン処理が行われる。よって、処理性能が向上する。
【０１８２】
そして、ＦＩＦＯ部の容量が大きければ大きいほど、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。また、処理対象の符号化ユニットが、想定されている最大符号化ユニットよりも小さい場合も、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。また、実施の形態１に比べて、複数の処理部の間のメモリに必要な容量が削減される。
【０１８３】
以上が、本実施の形態に係る画像復号装置の概要についての説明である。
【０１８４】
（２−２．構成）
図４は、本実施の形態に係る画像復号装置の構成図である。本実施の形態に係る画像復号装置の全体構成は、実施の形態１と同様であるので、説明を省略する。
【０１８５】
図５は、複数の処理部の間の接続を示す構成図である。接続の構成は、実施の形態１と同様であるので、説明を省略する。
【０１８６】
図１８は、可変長復号部５０３、逆量子化部５０４、逆周波数変換部５０５、ＦＩＦＯ部５００、ＦＩＦＯ部５１１、ＦＩＦＯ部５１２およびＦＩＦＯ部５１３の接続について、詳細に記載された図である。図６と同様の構成要素については説明を省略する。本実施の形態では、サイズ判定部５０２０が追加されている。このサイズ判定部５０２０は、可変長復号部５０３により復号されたヘッダ情報に基づいて、符号化ユニットのサイズを判定する。
【０１８７】
サイズ判定部５０２０で判定されたサイズは、各処理部の入力用のＦＩＦＯ部、および、出力用のＦＩＦＯ部を管理するＦＩＦＯ管理部に入力される。そして、ＦＩＦＯ管理部は、サイズに応じて、ＦＩＦＯ部を管理し、処理部を起動する。
【０１８８】
なお、サイズ判定部５０２０は、可変長復号部５０３に含まれていてもよい。以降の説明では、サイズ判定部５０２０の動作が、サイズ判定部５０２０を含む可変長復号部５０３の動作として示される場合がある。
【０１８９】
以上が、本実施の形態に係る画像復号装置の構成についての説明である。
【０１９０】
（２−３．動作）
本実施の形態では、実施の形態１と同様に、図７Ａ〜図１０Ｂに示された符号化ストリームの構造が用いられる。また、実施の形態１と同様に、図１１Ａおよび図１１Ｂに示された複数の符号化ユニットの構成が例として用いられる。本実施の形態に係る画像復号装置全体の動作フローは、図１２および図１３に示された実施の形態１の動作フローと同様であるので、説明を省略する。
【０１９１】
本実施の形態に係る画像復号装置は、実施の形態１と異なり、入力データの有無、および、出力領域の有無の判定に、符号化ユニットのサイズを用いる。
【０１９２】
図１９Ａは、本実施の形態に係る可変長復号部５０３の動作を示すフローチャートである。まず、可変長復号部５０３は、符号化ユニットのヘッダの可変長復号処理を行う（Ｓ２０１０）。
【０１９３】
次に、可変長復号部５０３は、符号化ユニットのサイズを判定する（Ｓ２０１１）。次に、可変長復号部５０３は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０１２）。次に、可変長復号部５０３は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０１３）。そして、確認後、可変長復号部５０３は、符号化ユニットのデータの可変長復号処理を行う（Ｓ２０１４）。そして、可変長復号部５０３は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０１５）。
【０１９４】
図１９Ｂは、本実施の形態に係る逆量子化部５０４の動作を示すフローチャートである。まず、逆量子化部５０４は、可変長復号部５０３によって判定された結果に基づいて、符号化ユニットのサイズを取得する（Ｓ２０２０）。
【０１９５】
次に、逆量子化部５０４は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０２１）。次に、逆量子化部５０４は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０２２）。そして、確認後、逆量子化部５０４は、符号化ユニットの逆量子化処理を行う（Ｓ１００２）。そして、逆量子化部５０４は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０２３）。
【０１９６】
図１９Ｃは、本実施の形態に係る逆周波数変換部５０５の動作を示すフローチャートである。まず、逆周波数変換部５０５は、可変長復号部５０３によって判定された結果に基づいて、符号化ユニットのサイズを取得する（Ｓ２０３０）。
【０１９７】
次に、逆周波数変換部５０５は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０３１）。次に、逆周波数変換部５０５は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０３２）。そして、確認後、逆周波数変換部５０５は、符号化ユニットの逆周波数変換処理を行う（Ｓ１００３）。そして、逆周波数変換部５０５は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０３３）。
【０１９８】
図１９Ｄは、本実施の形態に係る動き補償部５０６の動作を示すフローチャートである。まず、動き補償部５０６は、可変長復号部５０３によって判定された結果に基づいて、符号化ユニットのサイズを取得する（Ｓ２０４０）。
【０１９９】
次に、動き補償部５０６は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０４１）。次に、動き補償部５０６は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０４２）。そして、確認後、動き補償部５０６は、符号化ユニットの動き補償処理を行う（Ｓ１００４）。そして、動き補償部５０６は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０４３）。
【０２００】
図１９Ｅは、本実施の形態に係る面内予測部５０７の動作を示すフローチャートである。まず、面内予測部５０７は、可変長復号部５０３によって判定された結果に基づいて、符号化ユニットのサイズを取得する（Ｓ２０５０）。
【０２０１】
次に、面内予測部５０７は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０５１）。次に、面内予測部５０７は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０５２）。そして、確認後、面内予測部５０７は、符号化ユニットの面内予測処理を行う（Ｓ１００５）。そして、面内予測部５０７は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０５３）。
【０２０２】
図１９Ｆは、本実施の形態に係る再構成部５０８の動作を示すフローチャートである。まず、再構成部５０８は、可変長復号部５０３によって判定された結果に基づいて、符号化ユニットのサイズを取得する（Ｓ２０６０）。
【０２０３】
次に、再構成部５０８は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０６１）。次に、再構成部５０８は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０６２）。そして、確認後、再構成部５０８は、符号化ユニットの面内予測処理を行う（Ｓ１００６）。そして、再構成部５０８は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０６３）。
【０２０４】
図１９Ｇは、本実施の形態に係るインループフィルタ部５１０の動作を示すフローチャートである。まず、インループフィルタ部５１０は、可変長復号部５０３によって判定された結果に基づいて、符号化ユニットのサイズを取得する（Ｓ２０７０）。
【０２０５】
次に、インループフィルタ部５１０は、符号化ユニットのサイズに対応する入力データがあることを確認する（Ｓ２０７１）。次に、インループフィルタ部５１０は、符号化ユニットのサイズに対応する出力領域があることを確認する（Ｓ２０７２）。そして、確認後、インループフィルタ部５１０は、符号化ユニットのインループフィルタ処理を行う（Ｓ１００７）。そして、インループフィルタ部５１０は、スライスの最後の符号化ユニットまで、上述の動作を繰り返す（Ｓ２０７３）。
【０２０６】
上述の通り、本実施の形態では、符号化ユニットのサイズに基づいて、各処理が実行される。その他の動作は、実施の形態１と同様である。
【０２０７】
図１５は、本実施の形態に係る画像復号装置の時系列の動作を示すタイムチャートである。本実施の形態においても、実施の形態１と同様に、パイプライン処理が実行される。
【０２０８】
図２０は、本実施の形態に係るＦＩＦＯ部５１３の状態を時系列で示す図である。図２０の例では、ＦＩＦＯ部５１３は、最大符号化ユニット２個分のデータを記憶可能な容量を有する。そして、図２０には、時刻Ａ〜Ｊにおいて、ＦＩＦＯ部５１３に記憶されたデータの状態が示されている。時刻Ａ〜Ｊは、それぞれ、実施の形態１で示された各時点と同じである。また、図１６と同様に、ＷＰは、ライトポインタを表し、入力データを書き込む位置を示す。ＲＰは、リードポインタを表し、出力データを読み出す位置を示す。
【０２０９】
また、図２０の保持ＣＵカウンタ値は、ＦＩＦＯ部５１３が最小符号化ユニット何個分に相当する情報を保持しているかを示している。例えば、ＣＵ１、ＣＵ２、ＣＵ３およびＣＵ４が符号化ユニットの最小サイズである場合、ＣＵ０は最小符号化ユニット４個分に相当する。つまり、図２０の時刻Ｂのように、ＣＵ０の処理が完了した時点で、保持ＣＵカウンタ値に最小符号化ユニット４個分の値が追加される。
【０２１０】
例えば、再構成部５０８は、１ＣＵ分の入力データがあるかどうかを判定する前に、実施の形態１とは異なり、処理対象の符号化ユニットのサイズを取得する（図１９ＦのＳ２０６０）。そして、再構成部５０８は、ＦＩＦＯ部５１３の保持ＣＵカウンタ値がサイズに相当する値以上であるか否かに基づいて、ＦＩＦＯ部５１３に入力データがあるか否かを判定する（図１９ＦのＳ２０６１）。
【０２１１】
また、逆周波数変換部５０５は、符号化ユニットのサイズに相当する値と保持ＣＵカウンタ値との加算結果が８以下であるか否かに基づいて、ＦＩＦＯ部５１３に空き領域があるか否かを判定する（図１９ＣのＳ２０３２）。
【０２１２】
実施の形態１と同様に、特定のＦＩＦＯ部に符号化ユニットのデータを格納する処理部が、符号化ユニットのサイズに基づいて、当該ＦＩＦＯ部の保持ＣＵカウンタ値を増加させる。また、当該ＦＩＦＯ部から符号化ユニットのデータを抽出する処理部が、符号化ユニットのサイズに基づいて、当該ＦＩＦＯ部の保持ＣＵカウンタ値を減少させる。
【０２１３】
本実施の形態に係る画像復号装置は、上述の通り、符号化ユニットのサイズに基づいて、ＦＩＦＯ部のデータ入出力を管理する。したがって、画像復号装置は、様々なサイズの複数の符号化ユニットに対して、パイプライン方式で並行して複数の処理を実行できる。そして、画像復号装置は、複数の処理部の間を接続するＦＩＦＯ部の領域を有効に活用できる。
【０２１４】
以上が、本実施の形態に係る画像復号装置の動作についての説明である。
【０２１５】
（２−４．効果）
本実施の形態に係る画像復号装置は、符号化ストリームにおいて定義された符号化ユニットのサイズで、複数の処理をパイプライン方式で並列に行う。また、画像復号装置は、複数の処理部のそれぞれに接続される入出力バッファとして、少なくとも最大符号化ユニット２個分のデータを保持できるＦＩＦＯ部を備える。また、画像復号装置は、符号化ユニットのサイズに基づいて、ＦＩＦＯ部の入出力データを管理する。
【０２１６】
これにより、複数の符号化ユニットが様々なサイズで構成されている場合でも、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。したがって、パイプライン処理における空き時間が削減され、効率的にパイプライン処理が行われる。よって、処理性能が向上する。
【０２１７】
そして、ＦＩＦＯ部の容量が大きければ大きいほど、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。また、処理対象の符号化ユニットが、想定されている最大符号化ユニットよりも小さい場合も、各処理において、データの入力を待つ時間、および、出力バッファの空きを待つ時間が減少する。
【０２１８】
その結果、処理性能がより向上する。また、効率的に回路が動作することにより、必要な消費電力が減少する。また、実施の形態１に比べて、複数の処理部の間のメモリ容量を削減することが可能である。これにより、回路規模を小さくすることが可能になる。
【０２１９】
（２−５．補足）
なお、本実施の形態では、符号化および復号に用いられるデータ単位として、符号化ユニットが用いられている。しかし、符号化および復号に用いられるデータ単位は、マクロブロックであってもよい。また、符号化および復号に用いられるデータ単位は、スーパーマクロブロックと呼ばれるブロックであってもよい。
【０２２０】
また、本実施の形態では、非特許文献２に示された符号化方式に基づいて、パイプライン処理における各処理が示されている。しかし、パイプライン処理における各処理は、本実施の形態の例に限定されない。
【０２２１】
また、本実施の形態では、最大符号化ユニットのサイズは１２８ｘ１２８画素である。しかし、最大符号化ユニットのサイズは、どのようなサイズであっても構わない。また、本実施の形態では、符号化ユニットのサイズは１２８ｘ１２８画素〜８ｘ８画素である。しかし、符号化ユニットのサイズは、これら以外のサイズであってもよい。
【０２２２】
また、本実施の形態に示されたパイプライン処理の構成は一例である。必ずしも本実施の形態のように、複数の処理が複数のステージに分割されなくてもよい。例えば、複数の処理が１つのステージで実現されてもよいし、１つの処理がいくつかのステージに分割されても構わない。
【０２２３】
また、本実施の形態では、可変長符号が用いられている。可変長符号の符号化方式は、ハフマン符号、ランレングス符号または算術符号など、どのような符号化方式であっても構わない。
【０２２４】
また、各処理部の一部あるいは全てが、専用ハードウェアによる回路で実現されてもよいし、プロセッサ上のプログラムで実現されてもよい。
【０２２５】
また、ＦＩＦＯ部５００、ＦＩＦＯ部５１１、ＦＩＦＯ部５１２、ＦＩＦＯ部５１３、ＦＩＦＯ部５１４、ＦＩＦＯ部５１５、ＦＩＦＯ部５１７、ＦＩＦＯ部５１８、ＦＩＦＯ部５１９、フレームメモリ５０２および再構成画像メモリ５０９は、メモリに限られない。これらは、データの記憶が可能な記憶素子であればよい。例えば、これらは、フリップフロップまたはレジスタなどであっても構わない。さらには、プロセッサのメモリ領域の一部、または、キャッシュメモリの一部がこれらに用いられてもよい。
【０２２６】
また、本実施の形態では、再構成画像メモリ５０９が明示的に示されている。しかし、各処理部内のメモリが再構成画像メモリ５０９として用いられてもよいし、フレームメモリ５０２が再構成画像メモリ５０９として用いられてもよい。
【０２２７】
また、本実施の形態では、復号処理の例が示されている。しかし、本実施の形態と同様の構成が、復号処理以外に適用されてもよい。例えば、復号処理の逆の処理である符号化処理に、本実施の形態と同様の構成が適用されてもよい。
【０２２８】
すなわち、画像符号化装置が、複数の処理部のそれぞれに接続される入出力バッファとして、少なくとも最大符号化ユニット２個分のデータを保持できるＦＩＦＯ部を備え、符号化ユニットサイズに基づいてＦＩＦＯ部のデータの管理を行えればよい。これにより、本実施の形態と同様に効率的にパイプライン処理が実行される。
【０２２９】
また、本実施の形態では、ＣＵ分割フラグは、分割ブロックの先頭に存在する。しかし、ＣＵ分割フラグは、必ずしもこのような位置に存在する必要はなく、符号化ストリームに存在すればよい。例えば、ＣＵ分割フラグは、最大符号化ユニットの先頭に存在してもよい。
【０２３０】
また、本実施の形態では、ＴＵ分割フラグは、各係数情報の先頭に存在する。しかし、ＴＵ分割フラグは、必ずしもこのような位置に存在する必要はなく、符号化ストリームに存在すればよい。例えば、ＴＵ分割フラグは、符号化ユニットまたは最大符号化ユニットの先頭に存在してもよい。
【０２３１】
また、本実施の形態では、画像復号装置は、符号化ユニット毎に複数の処理を行う。しかし、画像復号装置は、符号化ユニットとは異なる利用可能なデータセット毎に複数の処理を行ってもよい。すなわち、画像復号装置は、変換ユニット毎に複数の処理を行ってもよいし、予測ユニット毎に複数の処理を行ってもよいし、それ以外のデータセット毎に複数の処理を行ってもよい。
【０２３２】
また、本実施の形態では、全ての処理が、符号化ユニット毎に行われる。しかし、例えば、逆周波数変換処理は変換ユニット毎に行われ、動き補償処理は予測ユニット毎に行われてもよい。すなわち、必ずしも全ての処理において、データ単位が同じである必要はない。
【０２３３】
また、本実施の形態では、画像復号装置は、複数の処理部のそれぞれに接続される入出力バッファとして、少なくとも最大符号化ユニット２個分のデータを保持できるＦＩＦＯ部を備える。しかし、画像復号装置は、利用可能な最大データセット２個分以上のデータを保持できるＦＩＦＯ部を備えていてもよい。
【０２３４】
例えば、画像復号装置は、最大変換ユニット２個分以上のデータを保持できるＦＩＦＯ部を備えてもよい。また、画像復号装置は、最大予測ユニット２個分以上のデータを保持できるＦＩＦＯ部を備えてもよい。また、画像復号装置は、それ以外の最大データセット２個分以上のデータを保持できるＦＩＦＯ部を備えてもよい。
【０２３５】
（実施の形態３）
本実施の形態に係る画像復号装置および画像符号化装置は、実施の形態１および実施の形態２で示された複数の構成要素のうち、特徴的な構成要素を備える。
【０２３６】
図２１Ａは、本実施の形態に係る画像復号装置を示す構成図である。図２１Ａに示された画像復号装置１００は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する。そして、画像復号装置１００は、２つの処理部１０１、１０２、および、記憶部１１１を備える。記憶部１１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する。
【０２３７】
図２１Ｂは、図２１Ａに示された画像復号装置１００の動作を示すフローチャートである。まず、処理部１０１は、複数のブロックに対して複数の処理のうち第１の処理を順次行う。そして、処理部１０１は、記憶部１１１に第１の処理が行われたブロックを格納することにより記憶部１１１に複数のブロックを順次格納する（Ｓ１０１）。次に、処理部１０２は、記憶部１１１から複数のブロックを順次抽出する。そして、処理部１０２は、抽出された複数のブロックに対して複数の処理のうち第２の処理を順次行う（Ｓ１０２）。
【０２３８】
これにより、処理部１０１が、最も大きいサイズのブロックを処理して、当該ブロックを記憶部１１１に書き込みつつ、処理部１０２が、最も大きいサイズの別のブロックを記憶部１１１から抽出して、当該別のブロックを処理できる。また、記憶部１１１は、３つ以上のブロックをそれらのサイズ次第で保持することができる。したがって、処理部１０１および処理部１０２が互いに処理の終了を待つ無駄な待ち時間が低減し、処理効率が向上する。
【０２３９】
図２２Ａは、本実施の形態に係る画像符号化装置を示す構成図である。図２２Ａに示された画像符号化装置２００は、画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された画像を複数の処理を含むパイプライン処理で符号化する。そして、画像符号化装置２００は、２つの処理部２０１、２０２、および、記憶部２１１を備える。記憶部２１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する。
【０２４０】
図２２Ｂは、図２２Ａに示された画像符号化装置２００の動作を示すフローチャートである。まず、処理部２０１は、複数のブロックに対して複数の処理のうち第１の処理を順次行う。そして、処理部２０１は、記憶部２１１に第１の処理が行われたブロックを格納することにより記憶部２１１に複数のブロックを順次格納する（Ｓ２０１）。次に、処理部２０２は、記憶部２１１から複数のブロックを順次抽出する。そして、処理部２０２は、抽出された複数のブロックに対して第２の処理を順次行う（Ｓ２０２）。
【０２４１】
これにより、画像符号化装置２００は、画像復号装置１００と同様の効果を得ることができる。
【０２４２】
なお、記憶部１１１および記憶部２１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを３つ以上記憶可能な容量を有してもよい。
【０２４３】
また、複数のブロックは、複数の符号化ユニット、複数の変換ユニット、または、複数の予測ユニットでもよい。
【０２４４】
この場合、処理部１０１または処理部１０２は、複数の符号化ユニットに対する可変長復号処理、複数の変換ユニットに対する逆周波数変換処理、または、複数の予測ユニットに対する予測処理を第１の処理または第２の処理として行う。そして、処理部２０１または処理部２０２は、複数の符号化ユニットに対する可変長符号化処理、複数の変換ユニットに対する周波数変換処理、または、複数の予測ユニットに対する予測処理を第１の処理または第２の処理として行う。
【０２４５】
また、処理部１０１は、可変長復号処理を第１の処理として行い、処理部２０２は、逆量子化処理を第２の処理として行ってもよい。また、処理部２０１は、周波数変換処理を第１の処理として行い、処理部２０２は、量子化処理を第２の処理として行ってもよい。また、処理部２０１は、量子化処理を第１の処理として行い、処理部２０２は、可変長符号化処理を第２の処理として行ってもよい。
【０２４６】
また、処理部１０１および処理部２０１は、逆量子化処理を第１の処理として行い、処理部１０２および処理部２０２は、逆周波数変換処理を第２の処理として行ってもよい。また、処理部１０１および処理部２０１は、逆周波数変換処理を第１の処理として行い、処理部１０２および処理部２０２は、再構成処理を第２の処理として行ってもよい。
【０２４７】
また、処理部１０１および処理部２０１は、面内予測処理を第１の処理として行い、処理部１０２および処理部２０２は、再構成処理を第２の処理として行ってもよい。また、処理部１０１および処理部２０１は、動き補償処理を第１の処理として行い、処理部１０２および処理部２０２は、再構成処理を第２の処理として行ってもよい。また、処理部１０１および処理部２０１は、再構成処理を第１の処理として行い、処理部１０２および処理部２０２は、インループフィルタ処理を第２の処理として行ってもよい。
【０２４８】
また、処理部１０１および処理部２０１は、参照画像転送処理を第１の処理として行い、処理部１０２および処理部２０２は、動き補償処理を第２の処理として行ってもよい。
【０２４９】
例えば、処理部１０１は、復号対象ブロックの参照画像を転送して記憶部１１１に格納する。処理部１０２は、記憶部１１１から復号対象ブロックの参照画像を抽出して、抽出された参照画像を用いて、復号対象ブロックの動き補償処理を実行する。同様に、処理部２０１は、符号化対象ブロックの参照画像を転送して記憶部２１１に格納する。処理部２０２は、記憶部２１１から符号化対象ブロックの参照画像を抽出して、抽出された参照画像を用いて、符号化対象ブロックの動き補償処理を実行する。
【０２５０】
また、処理部１０２は、処理部１０１とは非同期に、記憶部１１１から複数のブロックを順次抽出して、抽出された複数のブロックに対して第２の処理を順次行ってもよい。同様に、処理部２０２は、処理部２０１とは非同期に、記憶部２１１から複数のブロックを順次抽出して、抽出された複数のブロックに対して第２の処理を順次行ってもよい。
【０２５１】
また、処理部１０２は、処理部１０１が第１のブロックに対して第１の処理を行うことに並行して、複数のブロックの処理順序で第１のブロックから２つ以上離れた第２のブロックに対して第２の処理を行ってもよい。同様に、処理部２０２は、処理部２０１が第１のブロックに対して第１の処理を行うことに並行して、複数のブロックの処理順序で第１のブロックから２つ以上離れた第２のブロックに対して第２の処理を行ってもよい。
【０２５２】
また、処理部１０２は、典型的には、複数のブロックが記憶部１１１に格納された順序で、記憶部１１１から複数のブロックを順次抽出する。同様に、処理部２０２は、典型的には、複数のブロックが記憶部２１１に格納された順序で、記憶部２１１から複数のブロックを順次抽出する。
【０２５３】
（実施の形態４）
本実施の形態に係る画像復号装置および画像符号化装置は、実施の形態１および実施の形態２で示された複数の構成要素のうち、特徴的な構成要素を備える。また、本実施の形態では、実施の形態３の構成に新たな構成要素が追加されている。
【０２５４】
図２３Ａは、本実施の形態に係る画像復号装置を示す構成図である。図２３Ａに示された画像復号装置３００は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する。そして、画像復号装置３００は、２つの処理部３０１、３０２、記憶部３１１、および、判定部３２０を備える。記憶部３１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する。判定部３２０は、複数のブロックのそれぞれのサイズを判定する。
【０２５５】
図２３Ｂは、図２３Ａに示された画像復号装置３００の動作を示すフローチャートである。まず、判定部３２０は、ブロックのサイズを判定する（Ｓ３０１）。
【０２５６】
処理部３０１は、ブロックに対して第１の処理を行う。そして、処理部３０１は、記憶部３１１に第１の処理が行われたブロックを格納する（Ｓ３０２）。この時、処理部３０１は、第１の処理が行われたブロックのサイズに従って、ブロックが記憶部３１１において専有する領域を決定し、決定された領域にブロックを格納する。次に、処理部３０２は、記憶部３１１からブロックを抽出する。
【０２５７】
そして、処理部３０２は、抽出されたブロックに対して複数の処理のうち第２の処理を行う（Ｓ３０３）。
【０２５８】
これにより、処理部３０１は、複数のブロックをそれらのサイズに応じて適切に記憶部３１１に格納できる。したがって、処理部３０１は、少ない容量に、多くのブロックを格納できる。
【０２５９】
図２４Ａは、本実施の形態に係る画像符号化装置を示す構成図である。図２４Ａに示された画像符号化装置４００は、画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された画像を複数の処理を含むパイプライン処理で符号化する。そして、画像符号化装置４００は、２つの処理部４０１、４０２、記憶部４１１、および、判定部４２０を備える。記憶部４１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する。判定部４２０は、複数のブロックのそれぞれのサイズを判定する。
【０２６０】
図２４Ｂは、図２４Ａに示された画像符号化装置４００の動作を示すフローチャートである。まず、判定部４２０は、ブロックのサイズを判定する（Ｓ４０１）。
【０２６１】
処理部４０１は、ブロックに対して第１の処理を行う。そして、処理部４０１は、記憶部４１１に第１の処理が行われたブロックを格納する（Ｓ４０２）。この時、処理部４０１は、第１の処理が行われたブロックのサイズに従って、ブロックが記憶部４１１において専有する領域を決定し、決定された領域にブロックを格納する。次に、処理部４０２は、記憶部４１１からブロックを抽出する。
【０２６２】
そして、処理部４０２は、抽出されたブロックに対して複数の処理のうち第２の処理を行う（Ｓ４０３）。
【０２６３】
これにより、画像符号化装置４００は、画像復号装置３００と同様の効果を得ることができる。
【０２６４】
（実施の形態５）
本実施の形態に係る画像復号装置および画像符号化装置は、実施の形態１および実施の形態２で示された複数の構成要素のうち、特徴的な構成要素を備える。また、本実施の形態では、実施の形態３の構成に新たな構成要素が追加されている。
【０２６５】
図２５Ａは、本実施の形態に係る画像復号装置を示す構成図である。図２５Ａに示された画像復号装置７００は、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する。そして、画像復号装置７００は、２つの処理部７０１、７０２、および、２つの記憶部７１１、７１２を備える。記憶部７１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する。
【０２６６】
本実施の形態の処理部７０１、７０２は、実施の形態３の処理部１０１、１０２と同様に動作する。本実施の形態の処理部７０２は、第２の処理を行う際、図２５Ｂの動作を追加で行う。
【０２６７】
図２５Ｂは、図２５Ａに示された処理部７０２の動作を示すフローチャートである。処理部７０２は、第２の処理を行う前に、記憶部７１１に第１の処理が行われたブロックが格納されているか否か、および、記憶部７１２に第２の処理が行われたブロックを格納するための領域が空いているか否かを判定する（Ｓ７０１）。
【０２６８】
そして、処理部７０２は、記憶部７１１に第１の処理が行われたブロックが格納されていると判定され、かつ、記憶部７１２に第２の処理が行われたブロックを格納するための領域が空いていると判定されたタイミングで、記憶部７１１からブロックを抽出する。そして、処理部７０２は、抽出されたブロックに対して第２の処理を行い、記憶部７１２に第２の処理が行われたブロックを格納する（Ｓ７０２）。
【０２６９】
これにより、処理部７０２は、処理のための準備が完了したタイミングで、処理を行うことができる。したがって、無駄な待ち時間が低減する。
【０２７０】
図２６Ａは、本実施の形態に係る画像符号化装置を示す構成図である。図２６Ａに示された画像符号化装置８００は、画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された画像を複数の処理を含むパイプライン処理で符号化する。そして、画像符号化装置８００は、２つの処理部８０１、８０２、および、２つの記憶部８１１、８１２を備える。記憶部８１１は、少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する。
【０２７１】
本実施の形態の処理部８０１、８０２は、実施の形態３の処理部８０１、８０２と同様に動作する。本実施の形態の処理部８０２は、第２の処理を行う際、図２６Ｂの動作を追加で行う。
【０２７２】
図２６Ｂは、図２６Ａに示された処理部８０２の動作を示すフローチャートである。処理部８０２は、第２の処理を行う前に、記憶部８１１に第１の処理が行われたブロックが格納されているか否か、および、記憶部８１２に第２の処理が行われたブロックを格納するための領域が空いているか否かを判定する（Ｓ８０１）。
【０２７３】
そして、処理部８０２は、記憶部８１１に第１の処理が行われたブロックが格納されていると判定され、かつ、記憶部８１２に第２の処理が行われたブロックを格納するための領域が空いていると判定されたタイミングで、記憶部８１１からブロックを抽出する。そして、処理部８０２は、抽出されたブロックに対して第２の処理を行い、記憶部８１２に第２の処理が行われたブロックを格納する（Ｓ８０２）。
【０２７４】
これにより、画像符号化装置８００は、画像復号装置７００と同様の効果を得ることができる。
【０２７５】
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の画像復号装置などを実現するソフトウェアは、次のようなプログラムである。
【０２７６】
すなわち、このプログラムは、コンピュータに、少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号方法であって、前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理ステップと、前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理ステップとを含む画像復号方法を実行させる。
【０２７７】
また、このプログラムは、コンピュータに、画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する画像符号化方法であって、前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記少なくとも２種類のサイズのうち最も大きいサイズのブロックを２つ以上記憶可能な容量を有する第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理ステップと、前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理ステップとを含む画像符号化方法を実行させてもよい。
【０２７８】
また、各構成要素は、回路でもよい。これらの回路は、全体として１つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。
【０２７９】
以上、一つまたは複数の態様に係る画像復号装置および画像符号化装置について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【０２８０】
例えば、特定の処理部が実行する処理を別の処理部が実行してもよい。また、処理を実行する順番が変更されてもよいし、複数の処理が並行して実行されてもよい。
【０２８１】
また、本発明は、画像復号装置または画像符号化装置として実現できるだけでなく、画像復号装置または画像符号化装置を構成する処理手段をステップとする方法として実現できる。例えば、それらのステップは、コンピュータによって実行される。そして、本発明は、それらの方法に含まれるステップを、コンピュータに実行させるためのプログラムとして実現できる。さらに、本発明は、そのプログラムを記録したＣＤ−ＲＯＭ等の非一時的なコンピュータ読み取り可能な記録媒体として実現できる。
【０２８２】
また、画像復号装置または画像符号化装置に含まれる複数の構成要素は、集積回路であるＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）として実現されてもよい。これらの構成要素は、個別に１チップ化されてもよいし、一部または全部を含むように１チップ化されてもよい。例えば、メモリ以外の構成要素が、１チップ化されてもよい。ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ（Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）、システムＬＳＩ、スーパーＬＳＩまたはウルトラＬＳＩと呼称されることもある。
【０２８３】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、または、ＬＳＩ内部の回路セルの接続および設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０２８４】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて、画像復号装置または画像符号化装置に含まれる構成要素の集積回路化を行ってもよい。
【０２８５】
（実施の形態６）
上記各実施の形態で示した画像符号化方法および画像復号方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【０２８６】
さらに、ここで、上記各実施の形態で示した画像符号化方法および画像復号方法の応用例とそれを用いたシステムを説明する。
【０２８７】
図２７は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６〜ｅｘ１１０が設置されている。
【０２８８】
このコンテンツ供給システムｅｘ１００では、電話網ｅｘ１０４、および、基地局ｅｘ１０６〜ｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が相互に接続される。また、各機器が、インターネットサービスプロバイダｅｘ１０２を介して、インターネットｅｘ１０１に接続されている。
【０２８９】
しかし、コンテンツ供給システムｅｘ１００は、図２７のような構成に限定されず、いずれかの要素を組み合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６〜ｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【０２９０】
カメラｅｘ１１３は、デジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６は、デジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ  Ｓｙｓｔｅｍ  ｆｏｒ  Ｍｏｂｉｌｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、ＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）方式、若しくは、ＨＳＰＡ（Ｈｉｇｈ  Ｓｐｅｅｄ  Ｐａｃｋｅｔ  Ａｃｃｅｓｓ）方式の携帯電話、または、ＰＨＳ（Ｐｅｒｓｏｎａｌ  Ｈａｎｄｙｐｈｏｎｅ  Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
【０２９１】
コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して、上記各実施の形態で説明したように符号化処理を行い、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は、要求のあったクライアントに対して、送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号処理して再生する。
【０２９２】
なお、撮影したデータの符号化処理は、カメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号処理は、クライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理は、カメラｅｘ１１６、コンピュータｅｘ１１１およびストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【０２９３】
また、これら符号化処理および復号処理は、一般的にコンピュータｅｘ１１１および各機器が有するＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）ｅｘ５００において実行される。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、画像符号化用のソフトウェアまたは画像復号用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化処理または復号処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画像データを送信してもよい。このときの動画像データは、携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
【０２９４】
また、ストリーミングサーバｅｘ１０３は、複数のサーバまたは複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【０２９５】
以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号し、再生することができ、特別な権利および設備を有さないユーザでも個人放送を実現できる。
【０２９６】
なお、コンテンツ供給システムｅｘ１００の例に限らず、図２８に示すように、デジタル放送用システムｅｘ２００にも、上記各実施の形態の少なくとも画像符号化装置および画像復号装置のいずれかを組み込むことができる。具体的には、放送局ｅｘ２０１では映像情報のビットストリームが電波を介して通信または衛星ｅｘ２０２に伝送される。このビットストリームは、上記各実施の形態で説明した画像符号化方法により符号化された符号化ビットストリームである。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ２０４が受信する。受信したビットストリームを、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７等の装置が復号して再生する。
【０２９７】
また、記録媒体であるＣＤおよびＤＶＤ等の記録メディアｅｘ２１４に記録したビットストリームを読み取り、復号する再生装置ｅｘ２１２にも上記実施の形態で示した画像復号装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１３に表示される。
【０２９８】
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した符号化ビットストリームを読み取り復号する、または、記録メディアｅｘ２１５に映像信号を符号化し書き込むリーダ／レコーダｅｘ２１８にも上記各実施の形態で示した画像復号装置または画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示され、符号化ビットストリームが記録された記録メディアｅｘ２１５により他の装置およびシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に画像復号装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでもよい。
【０２９９】
図２９は、上記各実施の形態で説明した画像復号方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像情報のビットストリームを取得または出力するチューナｅｘ３０１と、受信した符号化データを復調する、または外部に送信する符号化データに変調する変調／復調部ｅｘ３０２と、復調した映像データ、音声データを分離する、または符号化された映像データ、音声データを多重化する多重／分離部ｅｘ３０３を備える。
【０３００】
また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号する、またはそれぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５を有する信号処理部ｅｘ３０６と、復号した音声信号を出力するスピーカｅｘ３０７、復号した映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインタフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。
【０３０１】
インタフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお、記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。
【０３０２】
テレビｅｘ３００の各部は、同期バスを介して互いに接続されている。
【０３０３】
まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得したデータを復号し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した映像データ、音声データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号し、分離した映像データを映像信号処理部ｅｘ３０５で上記各実施の形態で説明した復号方法を用いて復号する。復号した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から符号化された符号化ビットストリームを読み出してもよい。
【０３０４】
次に、テレビｅｘ３００が音声信号および映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。
【０３０５】
なお、バッファｅｘ３１８〜ｅｘ３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２および多重／分離部ｅｘ３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【０３０６】
また、テレビｅｘ３００は、放送および記録メディア等から音声データおよび映像データを取得する以外に、マイクおよびカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号処理、外部出力のみが可能な構成であってもよい。
【０３０７】
また、リーダ／レコーダｅｘ２１８で記録メディアから符号化ビットストリームを読み出す、または、書き込む場合には、上記復号処理または符号化処理はテレビｅｘ３００とリーダ／レコーダｅｘ２１８とのいずれで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８とが互いに分担して行ってもよい。
【０３０８】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図３０に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１〜ｅｘ４０７を備える。
【０３０９】
光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は、記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。
【０３１０】
システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しおよび書き込みの処理はシステム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成および追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３、サーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は、例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【０３１１】
以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【０３１２】
図３１に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録および再生を行う装置において情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３より内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。
【０３１３】
情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した符号化データの読み書きを行う。
【０３１４】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりするなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【０３１５】
また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図２９に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１および携帯電話ｅｘ１１４等でも考えられる。また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器および復号器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号器のみの受信端末という３通りの実装形式が考えられる。
【０３１６】
このように、上記各実施の形態で示した画像符号化方法あるいは画像復号方法を上述したいずれの機器またはシステムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
【０３１７】
また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【０３１８】
（実施の形態７）
本実施の形態では、実施の形態１に示した画像復号装置を、典型的には半導体集積回路であるＬＳＩとして実現する。実現した形態を図３２に示す。フレームメモリ５０２をＤＲＡＭ上に実現し、その他の回路およびメモリをＬＳＩ上に構成している。符号化ストリームを格納するビットストリームバッファをＤＲＡＭ上に実現してもよい。
【０３１９】
これらは個別に１チップ化されてもよいし、一部または全てを含むように１チップ化されても良い。ここではＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０３２０】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現しても良い。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、または、ＬＳＩ内部の回路セルの接続および設定を再構成可能なリコンフィギュラブル・プロセッサを利用しても良い。
【０３２１】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行っても良い。バイオ技術の適応などが可能性として有り得る。
【０３２２】
さらに加えて、本実施の形態の画像復号装置を集積化した半導体チップと、画像を描画するためのディスプレイとを組み合せて、様々な用途に応じた描画機器を構成することができる。携帯電話、テレビ、デジタルビデオレコーダー、デジタルビデオカメラおよびカーナビゲーション等における情報描画手段として、本発明を利用することが可能である。ディスプレイとしては、ブラウン管（ＣＲＴ）の他、液晶、ＰＤＰ（プラズマディスプレイパネル）および有機ＥＬなどのフラットディスプレイ、プロジェクターを代表とする投射型ディスプレイなどと組み合わせることが可能である。
【０３２３】
また、本実施の形態におけるＬＳＩは、符号化ストリームを蓄積するビットストリームバッファ、および、画像を蓄積するフレームメモリ等を備えるＤＲＡＭ（Ｄｙｎａｍｉｃ  Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）と連携することにより、符号化処理または復号処理を行ってもよい。また、本実施の形態におけるＬＳＩは、ＤＲＡＭではなく、ｅＤＲＡＭ（ｅｍｂｅｄｅｄ  ＤＲＡＭ）、ＳＲＡＭ（Ｓｔａｔｉｃ  Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、または、ハードディスクなど他の記憶装置と連携しても構わない。
【０３２４】
（実施の形態８）
上記各実施の形態で示した画像符号化装置、画像復号装置、画像符号化方法および画像復号方法は、典型的には集積回路であるＬＳＩで実現される。一例として、図３３に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０２〜ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【０３２５】
例えば、符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＡＶ  Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７およびカメラｅｘ１１３等からＡＶ信号の入力を受け付ける。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ、信号処理部ｅｘ５０７に送られる。信号処理部ｅｘ５０７は、音声信号の符号化および／または映像信号の符号化を行う。ここで映像信号の符号化処理は、上記実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７では、さらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０４から外部に出力する。この出力されたビットストリームは、基地局ｅｘ１０７に向けて送信されたり、または、記録メディアｅｘ２１５に書き込まれたりする。
【０３２６】
また、例えば、復号処理を行う場合には、ＬＳＩｅｘ５００は、マイコン（マイクロコンピュータ）ｅｘ５０２の制御に基づいて、ストリームＩ／Ｏｅｘ５０４によって、基地局ｅｘ１０７から得られた符号化データ、または、記録メディアｅｘ２１５から読み出して得た符号化データを一旦メモリｅｘ５１１等に蓄積する。マイコンｅｘ５０２の制御に基づいて、蓄積したデータは処理量および処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られ、信号処理部ｅｘ５０７において音声データの復号および／または映像データの復号が行われる。ここで映像信号の復号処理は上記各実施の形態で説明した復号処理である。さらに、場合により復号された音声信号と復号された映像信号を同期して再生できるようそれぞれの信号を一旦メモリｅｘ５１１等に蓄積するとよい。復号された出力信号はメモリｅｘ５１１等を適宜介しながら、ＡＶＩ／Ｏｅｘ５０９からモニタｅｘ２１９等に出力される。メモリｅｘ５１１にアクセスする際にはメモリコントローラｅｘ５０３を介する構成である。
【０３２７】
なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。
【０３２８】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０３２９】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、または、ＬＳＩ内部の回路セルの接続および設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０３３０】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【産業上の利用可能性】
【０３３１】
本発明は、様々な用途に利用可能である。例えば、テレビ、デジタルビデオレコーダー、カーナビゲーション、携帯電話、デジタルカメラ、デジタルビデオカメラ等の高解像度の情報表示機器、または、撮像機器に利用可能であり、利用価値が高い。
【符号の説明】
【０３３２】
１００、３００、７００  画像復号装置
１０１、１０２、２０１、２０２、３０１、３０２、４０１、４０２、７０１、７０２、８０１、８０２  処理部
１１１、２１１、３１１、４１１、７１１、７１２、８１１、８１２  記憶部
２００、４００、８００  画像符号化装置
３２０、４２０  判定部
５００、５１１、５１２、５１３、５１４、５１５、５１７、５１８、５１９  ＦＩＦＯ部
５０１、ｅｘ３１０  制御部
５０２  フレームメモリ
５０３  可変長復号部
５０４  逆量子化部
５０５  逆周波数変換部
５０６  動き補償部
５０７  面内予測部
５０８  再構成部
５０９  再構成画像メモリ
５１０  インループフィルタ部
５００１、５００２、５００３  ＦＩＦＯ管理部
５０１１、５０１２、５０１３  起動部
５０２０  サイズ判定部
ｅｘ１００  コンテンツ供給システム
ｅｘ１０１  インターネット
ｅｘ１０２  インターネットサービスプロバイダ
ｅｘ１０３  ストリーミングサーバ
ｅｘ１０４  電話網
ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０  基地局
ｅｘ１１１  コンピュータ
ｅｘ１１２  ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）
ｅｘ１１３、ｅｘ１１６  カメラ
ｅｘ１１４  携帯電話
ｅｘ１１５  ゲーム機
ｅｘ１１７  マイク
ｅｘ２００  デジタル放送用システム
ｅｘ２０１  放送局
ｅｘ２０２  放送衛星（衛星）
ｅｘ２０３  ケーブル
ｅｘ２０４、ｅｘ２０５  アンテナ
ｅｘ２１０  車
ｅｘ２１１  カーナビゲーション（カーナビ）
ｅｘ２１２  再生装置
ｅｘ２１３、ｅｘ２１９  モニタ
ｅｘ２１４、ｅｘ２１５、ｅｘ２１６  記録メディア
ｅｘ２１７  セットトップボックス（ＳＴＢ）
ｅｘ２１８  リーダ／レコーダ
ｅｘ２２０  リモートコントローラ
ｅｘ２３０  情報トラック
ｅｘ２３１  記録ブロック
ｅｘ２３２  内周領域
ｅｘ２３３  データ記録領域
ｅｘ２３４  外周領域
ｅｘ３００  テレビ（受信機）
ｅｘ３０１  チューナ
ｅｘ３０２  変調／復調部
ｅｘ３０３  多重／分離部
ｅｘ３０４  音声信号処理部
ｅｘ３０５  映像信号処理部
ｅｘ３０６、ｅｘ５０７  信号処理部
ｅｘ３０７  スピーカ
ｅｘ３０８  表示部
ｅｘ３０９  出力部
ｅｘ３１１、ｅｘ５０５  電源回路部
ｅｘ３１２  操作入力部
ｅｘ３１３  ブリッジ
ｅｘ３１４  スロット部
ｅｘ３１５  ドライバ
ｅｘ３１６  モデム
ｅｘ３１７  インタフェース部
ｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１、ｅｘ４０４  バッファ
ｅｘ４００  情報再生／記録部
ｅｘ４０１  光ヘッド
ｅｘ４０２  変調記録部
ｅｘ４０３  再生復調部
ｅｘ４０５  ディスクモータ
ｅｘ４０６  サーボ制御部
ｅｘ４０７  システム制御部
ｅｘ５００  ＬＳＩ
ｅｘ５０２  マイコン（マイクロコンピュータ）
ｅｘ５０３  メモリコントローラ
ｅｘ５０４  ストリームＩ／Ｏ
ｅｘ５０９  ＡＶ  Ｉ／Ｏ
ｅｘ５１０  バス
ｅｘ５１１  メモリ
【図１】
2013108330.tif 000003
【図２】
2013108330.tif 000004
【図３】
2013108330.tif 000005
【図４】
2013108330.tif 000006
【図５】
2013108330.tif 000007
【図６】
2013108330.tif 000008
【図７Ａ】
2013108330.tif 000009
【図７Ｂ】
2013108330.tif 000010
【図７Ｃ】
2013108330.tif 000011
【図８Ａ】
2013108330.tif 000012
【図８Ｂ】
2013108330.tif 000013
【図９Ａ】
2013108330.tif 000014
【図９Ｂ】
2013108330.tif 000015
【図１０Ａ】
2013108330.tif 000016
【図１０Ｂ】
2013108330.tif 000017
【図１１Ａ】
2013108330.tif 000018
【図１１Ｂ】
2013108330.tif 000019
【図１２】
2013108330.tif 000020
【図１３】
2013108330.tif 000021
【図１４Ａ】
2013108330.tif 000022
【図１４Ｂ】
2013108330.tif 000023
【図１４Ｃ】
2013108330.tif 000024
【図１４Ｄ】
2013108330.tif 000025
【図１４Ｅ】
2013108330.tif 000026
【図１４Ｆ】
2013108330.tif 000027
【図１４Ｇ】
2013108330.tif 000028
【図１５】
2013108330.tif 000029
【図１６】
2013108330.tif 000030
【図１７】
2013108330.tif 000031
【図１８】
2013108330.tif 000032
【図１９Ａ】
2013108330.tif 000033
【図１９Ｂ】
2013108330.tif 000034
【図１９Ｃ】
2013108330.tif 000035
【図１９Ｄ】
2013108330.tif 000036
【図１９Ｅ】
2013108330.tif 000037
【図１９Ｆ】
2013108330.tif 000038
【図１９Ｇ】
2013108330.tif 000039
【図２０】
2013108330.tif 000040
【図２１Ａ】
2013108330.tif 000041
【図２１Ｂ】
2013108330.tif 000042
【図２２Ａ】
2013108330.tif 000043
【図２２Ｂ】
2013108330.tif 000044
【図２３Ａ】
2013108330.tif 000045
【図２３Ｂ】
2013108330.tif 000046
【図２４Ａ】
2013108330.tif 000047
【図２４Ｂ】
2013108330.tif 000048
【図２５Ａ】
2013108330.tif 000049
【図２５Ｂ】
2013108330.tif 000050
【図２６Ａ】
2013108330.tif 000051
【図２６Ｂ】
2013108330.tif 000052
【図２７】
2013108330.tif 000053
【図２８】
2013108330.tif 000054
【図２９】
2013108330.tif 000055
【図３０】
2013108330.tif 000056
【図３１】
2013108330.tif 000057
【図３２】
2013108330.tif 000058
【図３３】
2013108330.tif 000059
【手続補正書】
【提出日】平成25年5月13日(2013.5.13)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号装置であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロック２つ分の記憶領域を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備え、
前記第１の処理部は、前記第１の記憶部に前記複数のブロックを順次格納する際、前記最も大きいサイズのブロック２つ分の記憶領域に、当該記憶領域における空き領域に応じて、３つ以上のブロックを一時点において格納する
画像復号装置。
【請求項２】
前記画像復号装置は、さらに、第２の記憶部を備え、
前記第２の処理部は、
前記第１の記憶部に前記第１の処理が行われたブロックが格納されているか否か、および、前記第２の記憶部に前記第２の処理が行われたブロックを格納するための領域が空いているか否かを判定し、
前記第１の記憶部に前記第１の処理が行われた前記ブロックが格納されていると判定され、かつ、前記第２の記憶部に前記第２の処理が行われた前記ブロックを格納するための前記領域が空いていると判定されたタイミングで、前記第１の記憶部から前記ブロックを抽出して、抽出された前記ブロックに対して前記第２の処理を行い、前記第２の記憶部に前記第２の処理が行われた前記ブロックを格納する
請求項１に記載の画像復号装置。
【請求項３】
前記画像復号装置は、さらに、前記複数のブロックのそれぞれのサイズを判定する判定部を備え、
前記第１の処理部は、前記第１の処理が行われたブロックのサイズに従って、前記ブロックが前記第１の記憶部において専有する領域を決定し、決定された前記領域に前記ブロックを格納する
請求項１または２に記載の画像復号装置。
【請求項４】
（削除）
【請求項５】
前記複数のブロックは、複数の符号化ユニット、複数の変換ユニット、または、複数の予測ユニットであり、
前記第１の処理部または前記第２の処理部は、前記複数の符号化ユニットに対する可変長復号処理、前記複数の変換ユニットに対する逆周波数変換処理、または、前記複数の予測ユニットに対する予測処理を前記第１の処理または前記第２の処理として行う
請求項１〜３のいずれか１項に記載の画像復号装置。
【請求項６】
前記第１の処理部は、可変長復号処理を前記第１の処理として行い、
前記第２の処理部は、逆量子化処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項７】
前記第１の処理部は、逆量子化処理を前記第１の処理として行い、
前記第２の処理部は、逆周波数変換処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項８】
前記第１の処理部は、逆周波数変換処理を前記第１の処理として行い、
前記第２の処理部は、再構成処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項９】
前記第１の処理部は、面内予測処理を前記第１の処理として行い、
前記第２の処理部は、再構成処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項１０】
前記第１の処理部は、動き補償処理を前記第１の処理として行い、
前記第２の処理部は、再構成処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項１１】
前記第１の処理部は、再構成処理を前記第１の処理として行い、
前記第２の処理部は、インループフィルタ処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項１２】
前記第１の処理部は、参照画像転送処理を前記第１の処理として行い、
前記第２の処理部は、動き補償処理を前記第２の処理として行う
請求項１〜３および５のいずれか１項に記載の画像復号装置。
【請求項１３】
前記第２の処理部は、前記第１の処理部とは非同期に、前記第１の記憶部から前記複数のブロックを順次抽出して、抽出された前記複数のブロックに対して前記第２の処理を順次行う
請求項１〜３および５〜１２のいずれか１項に記載の画像復号装置。
【請求項１４】
前記第２の処理部は、前記第１の処理部が第１のブロックに対して前記第１の処理を行うことに並行して、前記複数のブロックの処理順序で前記第１のブロックから２つ以上離れた第２のブロックに対して前記第２の処理を行う
請求項１〜３および５〜１３のいずれか１項に記載の画像復号装置。
【請求項１５】
画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する画像符号化装置であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロック２つ分の記憶領域を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備え、
前記第１の処理部は、前記第１の記憶部に前記複数のブロックを順次格納する際、前記最も大きいサイズのブロック２つ分の記憶領域に、当該記憶領域における空き領域に応じて、３つ以上のブロックを一時点において格納する
画像符号化装置。
【請求項１６】
少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する画像復号方法であって、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記少なくとも２種類のサイズのうち最も大きいサイズのブロック２つ分の記憶領域を有する第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理ステップと、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理ステップとを含み、
前記第１の処理ステップでは、前記第１の記憶部に前記複数のブロックを順次格納する際、前記最も大きいサイズのブロック２つ分の記憶領域に、当該記憶領域における空き領域に応じて、３つ以上のブロックを一時点において格納する
画像復号方法。
【請求項１７】
画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する画像符号化方法であって、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記少なくとも２種類のサイズのうち最も大きいサイズのブロック２つ分の記憶領域を有する第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理ステップと、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理ステップとを含み、
前記第１の処理ステップでは、前記第１の記憶部に前記複数のブロックを順次格納する際、前記最も大きいサイズのブロック２つ分の記憶領域に、当該記憶領域における空き領域に応じて、３つ以上のブロックを一時点において格納する
画像符号化方法。
【請求項１８】
請求項１６に記載された画像復号方法に含まれるステップをコンピュータに実行させるための
プログラム。
【請求項１９】
請求項１７に記載された画像符号化方法に含まれるステップをコンピュータに実行させるための
プログラム。
【請求項２０】
少なくとも２種類のサイズが存在する複数のブロックに分割され符号化された画像を複数の処理を含むパイプライン処理で復号する集積回路であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロック２つ分の記憶領域を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備え、
前記第１の処理部は、前記第１の記憶部に前記複数のブロックを順次格納する際、前記最も大きいサイズのブロック２つ分の記憶領域に、当該記憶領域における空き領域に応じて、３つ以上のブロックを一時点において格納する
集積回路。
【請求項２１】
画像を少なくとも２種類のサイズが存在する複数のブロックに分割し、分割された前記画像を複数の処理を含むパイプライン処理で符号化する集積回路であって、
前記少なくとも２種類のサイズのうち最も大きいサイズのブロック２つ分の記憶領域を有する第１の記憶部と、
前記複数のブロックに対して前記複数の処理のうち第１の処理を順次行い、前記第１の記憶部に前記第１の処理が行われたブロックを格納することにより前記第１の記憶部に前記複数のブロックを順次格納する第１の処理部と、
前記第１の記憶部から前記複数のブロックを順次抽出し、抽出された前記複数のブロックに対して前記複数の処理のうち第２の処理を順次行う第２の処理部とを備え、
前記第１の処理部は、前記第１の記憶部に前記複数のブロックを順次格納する際、前記最も大きいサイズのブロック２つ分の記憶領域に、当該記憶領域における空き領域に応じて、３つ以上のブロックを一時点において格納する
集積回路。
【国際調査報告】
2013108330.tif 000060
2013108330.tif 000061
2013108330.tif 000062
2013108330.tif 000063