(57)【要約】  本発明は、動き補償にAIFを採用した場合において、動きベクトルの演算回数を制限することにより、符号化時の処理負荷を軽減することができる画像処理装置および方法に関する。  ステップＳ１１で、動きベクトル演算部は、メモリに保持されている演算済みのフィルタ係数を１つ選択する。ステップＳ１２で、動きベクトル演算部は、選択した演算済みのフィルタ係数を用いるAIRの分数精度の補間画素を用いて、符号化対象の画像の各マクロブロックの動きベクトルを演算する。ステップＳ１３で、動きベクトル演算部は、演算された動きベクトルを用い、予測誤差が最小となる、符号化対象の画像に対応するフィルタ係数を演算する。演算されたフィルタ係数は、メモリに供給されて保持され、次以降の画像の動きベクトルの演算に利用される。本発明は、画像符号化装置に適用できる。
2010038858.tif 000002
【特許請求の範囲】
【請求項１】
符号化対象の画像に対してインター予測処理を行う画像処理装置において、
前記符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数を選択する選択手段と、
前記選択手段により選択されたフィルタ係数を用いる補間フィルタの補間結果を用いて、前記符号化対象画像の動きベクトルを演算する動きベクトル演算手段と、
前記動きベクトル演算手段により演算された動きベクトルを用いて、前記符号化画像に対する補間フィルタのフィルタ係数を算出する係数算出手段と
を備える画像処理装置。
【請求項２】
前記選択手段は、符号化対象画像と予測画像との位置関係に応じて前記フィルタ係数を選択する
請求項１に記載の画像処理装置。
【請求項３】
前記選択手段は、前記符号化対象の画像に時間的に最も近い位置にある画像に対して、前記フィルタ係数を選択する
請求項２に記載の画像処理装置。
【請求項４】
前記選択手段は、前記符号化対象画像又は前記予測画像のピクチャ対応に応じて、前記フィルタ係数を選択する
請求項１に記載の画像処理装置。
【請求項５】
前記符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数を保持する保持手段を更に備え、
前記選択手段は、前記保持手段により保持されたフィルタ係数を選択する
請求項１に記載の画像処理装置。
【請求項６】
符号化対象の画像に対してインター予測処理を行う画像処理装置の画像処理方法であって、
前記符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数を選択し、
選択されたフィルタ係数を用いる補間フィルタの補間結果を用いて、前記符号化対象画像の動きベクトルを演算し、
演算された動きベクトルを用いて、前記符号化画像に対する補間フィルタのフィルタ係数を算出する
画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置および方法に関し、特に、画像の圧縮符号化処理における動き補償にアダプティブ・インタポレーション・フィルタを用いた場合における、処理量を削減するようにした画像処理装置および方法に関する。
【背景技術】
【０００２】
従来、動画像を圧縮符号化する技術として、離散コサイン変換等の直交変換と動き補償を用いたMPEGやH.26x等が知られている。【０００３】
MPEG2は、汎用画像符号化方式として定義されており、飛び越し走査画像と順次走査画像の双方に対応するとともに、標準解像度と高解像度の双方の画像にも標準的な仕様でも対応できる技術として、プロフェッショナル用途およびコンシューマ用途の広範なアプリケーションに現在広く用いられている。【０００４】
MPEG2を用いることにより、例えば720×480画素の標準解像度であって飛び越し走査画像の場合には４乃至８Mbps、1920×1088画素の高解像度であって飛び越し走査画像である場合には１８乃至２２Mbpsの符号量（ビットレート）を割り当てることで、高い圧縮率と良好な画質の実現が可能である。【０００５】
一方、H.26xは、当初、テレビ会議用の画像符号化技術として開発が進められた。例えば、H.26Lは、MPEG2やMPEG4などに比べ、その符号化、復号化により多くの演算量が要求される。しかしながら、H.26Lは、より高い符号化効率が実現されることが知られている。【０００６】
また、MPEG4の活動の一環として、H.26Lをベースとし、H.26Lではサポートされない機能をも取り入れて、より高い符号化効率を実現する技術の標準化が行なわれ、H．264およびMPEG-4 Part10（Advanced Video Coding）として規格化されている。この規格を、以下においては、AVC規格と称する。【０００７】
図１は、入力される動画像をAVC規格に基づいて圧縮符号化し、その結果得られる画像圧縮情報（符号化信号）を出力する画像符号化装置の構成の一例を示している。【０００８】
この画像符号化装置１０は、アナログディジタル変換部（A/D）１１、画像並替バッファ１２、加算器１３、直交変換部１４、量子化部１５、可逆符号化部１６、蓄積バッファ１７、およびレート制御部２５から構成される。さらに、画像符号化装置１０は、逆量子化部１８、逆直交変換部１９、加算器２０、デブロックフィルタ２１、フレームメモリ２２、イントラ予測部２３、および動き予測・補償部２４から構成される。【０００９】
画像符号化装置１０において、符号化対象として入力される動画像（以下、入力画像と称する）は、A/D１１によってデジタル信号に変換されて、画像並替バッファ１２に入力される。画像並替バッファ１２では、出力時のGOP(Group of Pictures)構造に応じ、画像の順序並び替えられて、後段に供給される。【００１０】
画像並替バッファ１２から出力される画像がイントラ符号化される場合、加算器１３に、符号化対象の画像の画素値とイントラ予測部２３でイントラ予測された予測画像の画素値とが供給され、これらの差分値が算出されて直交変換部１４に出力される。【００１１】
直交変換部１４では、加算器１３の出力が直交変換（離散コサイン変換、カルーネン・レーベ変換等）され、その結果得られる変換係数が量子化部１５によって量子化される。なお、量子化部１５による量子化のレートは、レート制御部２５により、蓄積バッファ１７の蓄積量に応じて制御される。量子化された変換係数は、可逆符号化部１６および逆量子化部１８に供給される。【００１２】
可逆符号化部１６では、量子化された変換係数が可逆符号化（可変長符号化、算術符号化等）され、この結果が蓄積バッファ１７に蓄積された後に画像圧縮情報として後段に出力される。【００１３】
一方、逆量子化部１８では、量子化された変換係数に対して、量子化部１５による量子化に対応する逆量子化が行なわれて逆直交変換部１９に出力される。逆直交変換部１９では、逆量子化結果の得られた変換係数に対し、直交変換部１４による直交変換に対応する逆直交変換が行なわれて、その結果が加算器２０に出力される。【００１４】
加算器２０では、逆直交変換の結果と符号化対象の画像とが加算されて、符号化対象の画像を符号化して復号したときの復号画像が生成される。生成された復号画像は、デブロックフィルタ２１によりブロック歪が除去された後にフレームメモリ２２に蓄積される。【００１５】
イントラ予測部２３では、符号化対象の画像の各マクロブロックに対して適用されたイントラ予測モードを示す情報が可逆符号化部１６に出力される。このイントラ予測モードを示す情報は、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。【００１６】
なお、イントラ予測モードは、H.264の場合、輝度信号に対してイントラ4×4予測モード、イントラ8×8予測モードおよびイントラ16×16予測モードが定義されている。また、色差信号に対しては、各マクロブロックに、輝度信号とは独立した予測モードを定義することが可能である。例えば、イントラ4×4予測モードについては、各4×4輝度ブロックに対して１つのイントラ予測モードが定義される。イントラ8×8予測モードについては、各8×8輝度ブロックに対して、１つのイントラ予測モードが定義されることになる。イントラ16×16予測モードに対しては、各マクロブロックに対して、１つの予測モードが定義されることになる。また、色差信号に対しては、各マクロブロックに対して、１つの予測モードが定義されることになる。【００１７】
画像並替バッファ１２から出力される画像がインター符号化される場合、符号化対象の画像が動き予測・補償部２４に入力される。これと同時に、フレームメモリ２２から復号画像が参照画像として読み出されて、符号化対象の画像と参照画像により動き予測・補償処理が施され、その結果得られる予測画像が加算器１３に供給され、符号化対象の画像との差分信号に変換され、直交変換部１４に出力される。直交変換部１４以降の後段の処理については、イントラ符号化の場合と同様なので、その説明は省略する。【００１８】
なお、動き予測・補償部２４では、上述した予測画像の生成と同時に各マクロブロックの動きベクトルが検出されて可逆符号化部１６に出力される。この動きベクトルは、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。【００１９】
ここで、動き予測・補償部２４における動き補償について説明する。動き補償とは、符号化対象の画像の一部を、フレームメモリ２２に蓄積されている復元画像の一部を用いて充てる処理であり、復元画像のどの位置の一部を参照するかについては、動き予測・補償部２４によって検出される動きベクトルによって表される。【００２０】
この動きベクトルは、予測精度を向上させるために、1/２ Pel、1/4 Pelなどの整数以下の分数精度で演算されることが多い。このように、分数精度で動き補償を行うためには、画像上に実在する画素と画素の間に、すなわち、画素が実在していない位置に、補間処理（インターポーレーション）によって新たに画素を設定する必要がある。【００２１】
インターポーレーションによって画素数を増やす場合の例について、図２を参照して説明する。図２は、画素数を縦横それぞれ４倍に増やす場合の例を示している。図２において、白丸○は実在する画素の位置を示し、白四角形□は補間画素の位置を示している。【００２２】
各補間画素は、例えば、以下に示す補間式に示すように、実在する複数の画素、および算出済みの補間画素と所定のフィルタ係数との線形結合によって補間演算される。【００２３】
ｂ＝（Ｅ−５Ｆ＋２０Ｇ＋２０Ｈ−５Ｉ＋Ｊ）／３２
ｈ＝（Ａ−５Ｃ＋２０Ｇ＋２０Ｍ−５Ｒ＋Ｔ)／３２
ｊ＝（aa−５bb＋２０ｂ＋２０ｓ−５gg＋hh）／３２
ａ＝（Ｇ＋ｂ）／２
ｄ＝（Ｇ＋ｈ）／２
ｆ＝（ｂ＋ｊ）／２
ｒ＝（ｍ＋ｓ）／２【００２４】
なお、補間画素aa，bb，s，gg，hhは、補間画素ｂを算出する上式と同様の式により算出される。補間画素cc，dd，ｍ，ee，ffは、補間画素ｈを算出する上式と同様の式により算出される。補間画素ｃは、補間画素ａを算出する上式と同様の式により算出される。補間画素ｉ，ｋ，ｑは、補間画素ｄを算出する上式と同様の式により算出される。補間画素ｅ，ｇ，ｏは、補間画素ｒを算出する上式と同様の式により算出される。【００２５】
なお、上記の補間式は、H．264およびAVC規格などで採用されているものであり、この補間式は偶数のタップを有するFIR(Finite Impulse Response)フィルタによって実現される。【００２６】
ところで、FIRフィルタの代わりに、補間式におけるフィルタ係数をフレーム毎に適応的に変更することができるアダプティブ・インターポーレーション・フィルタ（以下、AIFと称する）を用いて補間処理を行うことにより、エイリアシングの影響や符号化歪みを低減し、動き補償の誤差を小さくすることができる技術が提案されている（例えば、非特許文献１および２参照）。
【先行技術文献】
【非特許文献】
【００２７】
【非特許文献１】「Motion- and Aliasing-Compensated Prediction for Hybrid Video Coding」Thomas Wedi and Hans Georg Musmann, IEEE Transactions on circuits and systems for video technology, Vol.13, No.7, July 2003
【非特許文献２】「Prediction of P- and B-Frames Using a Two-dimensional Non-separable Adaptive Wiener Interpolation Filter for H.264/AVC」Yuri Vatis, Joern Ostermann, ITU-T SG16 VCEG 30th Meeting, Hangzhou China, October 2006
【発明の概要】
【発明が解決しようとする課題】
【００２８】
動き補償に上述したAIFを用いる上で問題となることは処理量の増大である。すなわち、フレーム内の各マクロブロックの動きベクトルを算出するためには、当該フレームに適したフィルタ係数を用いたAIFによる補間結果が必要であり、AIFのフィルタ係数を算出するためには動きベクトルが必要である。【００２９】
このように、動きベクトルとAIFのフィルタ係数には相関があるので、従来においては、例えば、図３に示すように、動きベクトルとAIFのフィルタ係数とを決定していた。図３は、フレーム内の各マクロブロックの動きベクトルと当該フレーム適したAIFのフィルタ係数を決定する処理を説明するフローチャートである。【００３０】
ステップＳ１として、予め決定されているフィルタ係数の初期値を用いてAIFによる分数精度の画素補間が行なわれ、この補間結果を用いて各マクロブロックの動きベクトルが演算される。次に、ステップＳ２において、ステップＳ１で得られた動きベクトルを用いて、予測誤差が最小となるフィルタ係数が演算され、ステップＳ３において、ステップＳ２で得られたフィルタ係数を用いてAIFによる分数精度の画素補間が行なわれ、この補間結果を用いて、再び各マクロブロックの動きベクトルが演算される。【００３１】
ステップＳ４において、ステップＳ２で得られたフィルタ係数と、ステップＳ３で得られた動きベクトルを採用した場合の画質改善を示す値が所定の閾値以上であるか否かが判定され、当該値が所定の閾値以上となるまで、ステップＳ２以降が繰り返される。そして、ステップＳ４において、画質改善を示す値が所定の閾値以上であると判定された場合、直前のステップＳ２で得られたフィルタ係数と、ステップＳ３で得られた動きベクトルが採用される。なお、ステップＳ４の処理が省略される場合もある。【００３２】
以上説明したように、動きベクトルとAIFのフィルタ係数とを決定する従来の処理では、動きベクトルの演算処理を、少なくとも２回（ステップＳ１およびＳ３）実行する必要があった。上述したように、動きベクトルの演算を分数精度で行なうと、その演算量が非常に増加するので、動きベクトルの演算処理を分数精度で２回以上実行すると、符号化処理の負荷が大きくなってしまうことになる。【００３３】
本発明はこのような状況に鑑みてなされたものであり、動き補償にAIFを採用した場合において、動きベクトルの演算回数を制限することにより、符号化時の処理負荷を軽減するようにするものである。
【課題を解決するための手段】
【００３４】
本発明の一側面である画像処理装置は、符号化対象の画像に対してインター予測処理を行う画像処理装置であって、前記符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数を選択する選択手段と、前記選択手段により選択されたフィルタ係数を用いる補間フィルタの補間結果を用いて、前記符号化対象画像の動きベクトルを演算する動きベクトル演算手段と、前記動きベクトル演算手段により演算された動きベクトルを用いて、前記符号化画像に対する補間フィルタのフィルタ係数を算出する係数算出手段とを備える。【００３５】
前記選択手段は、符号化対象画像と予測画像との位置関係に応じて前記フィルタ係数を選択することができる。【００３６】
前記選択手段は、前記符号化対象の画像に時間的に最も近い位置にある画像に対して、前記フィルタ係数を選択することができる。【００３７】
前記選択手段は、前記符号化対象画像又は前記予測画像のピクチャ対応に応じて、前記フィルタ係数を選択することができる。【００３８】
前記符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数を保持する保持手段を更に備え、
前記選択手段は、前記保持手段により保持されたフィルタ係数を選択することができる。【００３９】
本発明の一側面である画像符号化方法は、符号化対象の画像に対してインター予測処理を行う画像処理装置の画像処理方法であって、前記符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数を選択し、選択されたフィルタ係数を用いる補間フィルタの補間結果を用いて、前記符号化対象画像の動きベクトルを演算し、演算された動きベクトルを用いて、前記符号化画像に対する補間フィルタのフィルタ係数を算出する。【００４０】
本発明の一側面においては、符号化対象の画像およびインター予測処理に伴う予測画像の画素を分数精度で補間する補間フィルタの補間結果を用いて演算することによって得られる動きベクトルに基づいて算出された補間フィルタのフィルタ係数が選択され、選択されたフィルタ係数を用いる補間フィルタの補間結果を用いて、符号化対象画像の動きベクトルが演算され、演算された動きベクトルを用いて、符号化画像に対する補間フィルタのフィルタ係数が算出される。
【発明の効果】
【００４１】
本発明の一側面によれば、動き補償にAIFを採用した場合において、動きベクトルの演算回数を制限することにより、符号化時の処理負荷を軽減することができる。
【図面の簡単な説明】
【００４２】
【図１】従来の画像符号化装置の構成の一例を示すブロック図である。
【図２】画素の補間を説明するための図である。
【図３】従来の、動きベクトルとフィルタ係数を演算する処理を説明するフローチャートである。
【図４】本発明を適用した画像符号化装置の構成例を示すブロック図である。
【図５】本発明を適用した画像符号化装置による、動きベクトルとフィルタ係数を演算する処理を説明するフローチャートである。
【図６】本発明を適用したテレビジョン受像機の主な構成例を示すブロック図である。
【図７】本発明を適用した携帯電話機の主な構成例を示すブロック図である。
【図８】本発明を適用したハードディスクレコーダの主な構成例を示すブロック図である。
【図９】本発明を適用したカメラの主な構成例を示すブロック図である。
【図１０】マクロブロックサイズの例を示す図である。
【発明を実施するための形態】
【００４３】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
【００４４】
図４は、本発明の一実施の形態である画像符号化装置の構成例を示している。この画像符号化装置４０は、入力される動画像（以下、入力画像を称する）を圧縮符号化し、その結果得られる画像圧縮情報を出力するものである。また、動き補償には、AIFを採用しているので、出力される画像圧縮情報には、AIFのフィルタ係数が含まれる。
【００４５】
画像符号化装置４０は、図１の画像符号化装置１０の動き予測・補償部２４に代えて動き予測・補償部４１が設けられている点、および動き予測・補償部２４において演算されるAIFのフィルタ係数を記憶するフィルタ係数メモリ４５が設けられている点で画像符号化装置１０と相違する。その他の構成要素については、図１に示された従来の画像符号化装置１０と共通であり、同一の符号をつけているので、その説明は適宜省略する。
【００４６】
動き予測・補償部４１は、AIF４２、動きベクトル演算部４３、および係数演算部４４を内蔵する。動きベクトル演算部４３は、動き補償処理において、AIFのフィルタ係数に基づき、各マクロブロックの動きベクトルを演算する。係数演算部４４は、各マクロブロックに対して演算された動きベクトルに基づいて、符号化対象の画像に対するAIFのフィルタ係数を演算する。係数演算部４４によって演算されたAIFのフィルタ係数は、フィルタ係数メモリ４５に供給されて保持され、次フレーム以降の動きベクトルの演算に利用される。なお、フィルタ係数メモリ４５は、動き予測・補償部４１が内蔵するようにしてもよい。
【００４７】
次に、画像符号化装置４０の動作について説明する。
【００４８】
画像符号化装置４０において、入力画像はA/D１１によってデジタル信号に変換されて、画像並替バッファ１２に入力される。画像並替バッファ１２では、出力時のGOP構造に応じ、画像の順序並び替えられて、後段に供給される。
【００４９】
画像並替バッファ１２から出力される画像がイントラ符号化される場合、加算器１３に、符号化対象の画像の画素値とイントラ予測部２３でイントラ予測された予測画像の画素値とが供給され、これらの差分値が算出されて直交変換部１４に出力される。
【００５０】
加算器１３の出力は、直交変換部１４により直交変換（離散コサイン変換、カルーネン・レーベ変換等）され、その結果得られた変換係数が量子化部１５により量子化される。量子化された変換係数は、可逆符号化部１６および逆量子化部１８に供給される。
【００５１】
可逆符号化部１６では、量子化された変換係数が可逆符号化（可変長符号化、算術符号化等）され、この結果が蓄積バッファ１７に蓄積された後に画像圧縮情報として後段に出力される。
【００５２】
一方、逆量子化部１８では、量子化された変換係数に対して、量子化部１５による量子化に対応する逆量子化が行なわれ、逆直交変換部１９により、逆量子化によって得られた変換係数に対し、直交変換部１４による直交変換に対応する逆直交変換が行なわれて、その結果が加算器２０に出力される。
【００５３】
加算器２０では、逆直交変換の結果と符号化対象の画像とが加算されて、符号化対象の画像を符号化して復号したときの復号画像が生成される。生成された復号画像は、デブロックフィルタ２１によりブロック歪が除去された後にフレームメモリ２２に蓄積される。
【００５４】
イントラ予測部２３では、符号化対象の画像の各マクロブロックに対して適用されたイントラ予測モードを示す情報が可逆符号化部１６に出力される。このイントラ予測モードを示す情報は、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。
【００５５】
画像並替バッファ１２から出力される画像がインター符号化される場合、符号化対象の画像は動き予測・補償部４１に入力される。これと同時に、フレームメモリ２２から復号画像が参照画像として読み出されて、符号化対象の画像と参照画像により動き予測・補償処理が施され、その結果得られる予測画像が加算器１３に供給され、符号化対象の画像との差分信号に変換され、直交変換部１４に出力される。直交変換部１４以降の後段の処理については、イントラ符号化の場合と同様なので、その説明は省略する。
【００５６】
なお、動き予測・補償部４１では、上述した予測画像の生成に際して、動きベクトル演算部４３により、符号化対象の画像の各マクロブロックの動きベクトルが分数精度で演算されるとともに、係数演算部４４により、符号化対象の画像に対するAIFのフィルタ係数が演算されて可逆符号化部１６に出力される。この動きベクトルとAIFのフィルタ係数は、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。また、係数演算部４４によって演算されたAIFのフィルタ係数は、フィルタ係数メモリ４５に供給されて保持される。
【００５７】
ここで、動き予測・補償部４１による動きベクトルとAIFのフィルタ係数を演算する処理について、図５のフローチャートを参照して説明する。
【００５８】
ステップＳ１１において、動きベクトル演算部４３は、フィルタ係数メモリ４５に保持されている演算済みのフィルタ係数を１つ選択する。この選択は、例えば、符号化対象の画像に時間的に最も近い画像に対して演算されたフィルタ係数を選択するようにする。すなわち、この選択は、符号化対象の画像に対して最適なフィルタ係数は、時間的に最も近い画像に対して演算済みのフィルタ係数と類似しているという仮定に基づいている。
【００５９】
ただし、フィルタ係数メモリ４５に演算済みのフィルタ係数が保持されていない場合や、符号化対象の画像と、フィルタ係数メモリ４５に保持されているフィルタ係数が演算された画像との間にシーンチェンジなどがあり、画像間の差異が大きい場合などには、予め設定されているフィルタ係数の初期値を選択するようにする。
【００６０】
また、この選択では、例えば、符号化対象の画像のピクチャタイプと同じピクチャタイプの画像であって、時間的に最も近い画像に対して演算済みのフィルタ係数を選択するようにしてもよい。
【００６１】
ステップＳ１２において、動きベクトル演算部４３は、ステップＳ１１で選択されたフィルタ係数を用いるAIF４２による分数精度の補間画素を用いて、符号化対象の画像の各マクロブロックの動きベクトルを演算する。
【００６２】
ステップＳ１３において、動きベクトル演算部４３は、ステップＳ１２で演算された動きベクトルを用い、予測誤差が最小となる、符号化対象の画像に対応するフィルタ係数を演算する。演算されたフィルタ係数は、動きベクトルとともに可逆符号化部１６に出力される。また、演算されたフィルタ係数は、フィルタ係数メモリ４５に供給されて保持され、次以降の画像の動きベクトルの演算に利用される。
【００６３】
以上説明したように、本発明の画像符号化装置４０の動き予測・補償部４１による動きベクトルとAIFのフィルタ係数を演算する処理によれば、比較的演算量が多い、分数精度の動きベクトルの演算回数を１回だけに制限しているので、符号化時の処理負荷を軽減することができる。
【００６４】
本発明は、時間軸上で近い位置関係にあるフレームはフィルタ係数が似ている(相関が高い)点に着目し、インター予測を行う際に、近い位置関係にあるフレームに対して、過去に算出されたフィルタ係数(1st Pass)を保存しておき、保存されたフィルタ係数を再利用する(2nd Pass)。これにより、1st Pass におけるフィルタ係数の算出を省略することができる(2nd Passのみでフィルタ係数を算出することができる)。
【００６５】
なお、位置関係に対して閾値を設けておき、時間軸上の距離が閾値内のフレームに対してのみフィルタ係数再利用することも可能である。また、符号化対象画像又は前記予測画像のピクチャ対応に応じて、フィルタ係数を再利用するか否かを適用的に行うことも可能である。
【００６６】
また、選択するフィルタ係数についても、符号化対象の画像と時間的に最も近い画像に対して演算済みのフィルタ係数を選ぶので、適切な動きベクトルを演算できることが期待できる。
【００６７】
ところで、上述した画像符号化装置４０は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできるソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【００６８】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【００６９】
また、プログラムは、１台のコンピュータにより処理されるものであってもよいし、複数のコンピュータによって分散処理されるものであってもよい。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであってもよい。
【００７０】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【００７１】
例えば、上述した画像符号化装置４０は、任意の電子機器に適用することができる。以下にその例について説明する。
【００７２】
図６は、テレビジョン受像機の主な構成例を示すブロック図である。
【００７３】
図６に示されるテレビジョン受像機１０００は、地上波チューナ１０１３、ビデオデコーダ１０１５、映像信号処理回路１０１８、グラフィック生成回路１０１９、パネル駆動回路１０２０、および表示パネル１０２１を有する。
【００７４】
地上波チューナ１０１３は、地上アナログ放送の放送波信号を、アンテナを介して受信し、復調し、映像信号を取得し、それをビデオデコーダ１０１５に供給する。ビデオデコーダ１０１５は、地上波チューナ１０１３から供給された映像信号に対してデコード処理を施し、得られたデジタルのコンポーネント信号を映像信号処理回路１０１８に供給する。
【００７５】
映像信号処理回路１０１８は、ビデオデコーダ１０１５から供給された映像データに対してノイズ除去などの所定の処理を施し、得られた映像データをグラフィック生成回路１０１９に供給する。
【００７６】
グラフィック生成回路１０１９は、表示パネル１０２１に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成し、生成した映像データや画像データをパネル駆動回路１０２０に供給する。また、グラフィック生成回路１０１９は、項目の選択などにユーザにより利用される画面を表示するための映像データ（グラフィック）を生成し、それを番組の映像データに重畳したりすることによって得られた映像データをパネル駆動回路１０２０に供給するといった処理も適宜行う。
【００７７】
パネル駆動回路１０２０は、グラフィック生成回路１０１９から供給されたデータに基づいて表示パネル１０２１を駆動し、番組の映像や上述した各種の画面を表示パネル１０２１に表示させる。
【００７８】
表示パネル１０２１はLCD（Liquid Crystal Display）などよりなり、パネル駆動回路１０２０による制御に従って番組の映像などを表示させる。
【００７９】
また、テレビジョン受像機１０００は、音声A/D（Analog/Digital)変換回路１０１４、音声信号処理回路１０２２、エコーキャンセル／音声合成回路１０２３、音声増幅回路１０２４、およびスピーカ１０２５も有する。
【００８０】
地上波チューナ１０１３は、受信した放送波信号を復調することにより、映像信号だけでなく音声信号も取得する。地上波チューナ１０１３は、取得した音声信号を音声A/D変換回路１０１４に供給する。
【００８１】
音声A/D変換回路１０１４は、地上波チューナ１０１３から供給された音声信号に対してA/D変換処理を施し、得られたデジタルの音声信号を音声信号処理回路１０２２に供給する。
【００８２】
音声信号処理回路１０２２は、音声A/D変換回路１０１４から供給された音声データに対してノイズ除去などの所定の処理を施し、得られた音声データをエコーキャンセル／音声合成回路１０２３に供給する。
【００８３】
エコーキャンセル／音声合成回路１０２３は、音声信号処理回路１０２２から供給された音声データを音声増幅回路１０２４に供給する。
【００８４】
音声増幅回路１０２４は、エコーキャンセル／音声合成回路１０２３から供給された音声データに対してD/A変換処理、増幅処理を施し、所定の音量に調整した後、音声をスピーカ１０２５から出力させる。
【００８５】
さらに、テレビジョン受像機１０００は、デジタルチューナ１０１６およびMPEGデコーダ１０１７も有する。
【００８６】
デジタルチューナ１０１６は、デジタル放送（地上デジタル放送、BS（Broadcasting Satellite）／CS（Communications Satellite）デジタル放送）の放送波信号を、アンテナを介して受信し、復調し、MPEG-TS（Moving Picture Experts Group-Transport Stream）を取得し、それをMPEGデコーダ１０１７に供給する。
【００８７】
MPEGデコーダ１０１７は、デジタルチューナ１０１６から供給されたMPEG-TSに施されているスクランブルを解除し、再生対象（視聴対象）になっている番組のデータを含むストリームを抽出する。MPEGデコーダ１０１７は、抽出したストリームを構成する音声パケットをデコードし、得られた音声データを音声信号処理回路１０２２に供給するとともに、ストリームを構成する映像パケットをデコードし、得られた映像データを映像信号処理回路１０１８に供給する。また、MPEGデコーダ１０１７は、MPEG-TSから抽出したEPG（Electronic Program Guide)データを図示せぬ経路を介してCPU１０３２に供給する。
【００８８】
MPEGデコーダ１０１７から供給された映像データは、ビデオデコーダ１０１５から供給された映像データの場合と同様に、映像信号処理回路１０１８において所定の処理が施され、グラフィック生成回路１０１９において、生成された映像データ等が適宜重畳され、パネル駆動回路１０２０を介して表示パネル１０２１に供給され、その画像が表示される。
【００８９】
MPEGデコーダ１０１７から供給された音声データは、音声A/D変換回路１０１４から供給された音声データの場合と同様に、音声信号処理回路１０２２において所定の処理が施され、エコーキャンセル／音声合成回路１０２３を介して音声増幅回路１０２４に供給され、D/A変換処理や増幅処理が施される。その結果、所定の音量に調整された音声がスピーカ１０２５から出力される。
【００９０】
また、テレビジョン受像機１０００は、マイクロホン１０２６、およびA/D変換回路１０２７も有する。
【００９１】
A/D変換回路１０２７は、音声会話用のものとしてテレビジョン受像機１０００に設けられるマイクロホン１０２６により取り込まれたユーザの音声の信号を受信し、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データをエコーキャンセル／音声合成回路１０２３に供給する。
【００９２】
エコーキャンセル／音声合成回路１０２３は、テレビジョン受像機１０００のユーザ（ユーザＡ）の音声のデータがA/D変換回路１０２７から供給されている場合、ユーザＡの音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路１０２４を介してスピーカ１０２５より出力させる。
【００９３】
さらに、テレビジョン受像機１０００は、音声コーデック１０２８、内部バス１０２９、SDRAM（Synchronous Dynamic Random Access Memory)１０３０、フラッシュメモリ１０３１、CPU１０３２、USB（Universal Serial Bus) I/F１０３３、およびネットワークI/F１０３４も有する。
【００９４】
A/D変換回路１０２７は、音声会話用のものとしてテレビジョン受像機１０００に設けられるマイクロホン１０２６により取り込まれたユーザの音声の信号を受信し、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データを音声コーデック１０２８に供給する。
【００９５】
音声コーデック１０２８は、A/D変換回路１０２７から供給された音声データを、ネットワーク経由で送信するための所定のフォーマットのデータに変換し、内部バス１０２９を介してネットワークI/F１０３４に供給する。
【００９６】
ネットワークI/F１０３４は、ネットワーク端子１０３５に装着されたケーブルを介してネットワークに接続される。ネットワークI/F１０３４は、例えば、そのネットワークに接続される他の装置に対して、音声コーデック１０２８から供給された音声データを送信する。また、ネットワークI/F１０３４は、例えば、ネットワークを介して接続される他の装置から送信される音声データを、ネットワーク端子１０３５を介して受信し、それを、内部バス１０２９を介して音声コーデック１０２８に供給する。
【００９７】
音声コーデック１０２８は、ネットワークI/F１０３４から供給された音声データを所定のフォーマットのデータに変換し、それをエコーキャンセル／音声合成回路１０２３に供給する。
【００９８】
エコーキャンセル／音声合成回路１０２３は、音声コーデック１０２８から供給される音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路１０２４を介してスピーカ１０２５より出力させる。
【００９９】
SDRAM１０３０は、CPU１０３２が処理を行う上で必要な各種のデータを記憶する。
【０１００】
フラッシュメモリ１０３１は、CPU１０３２により実行されるプログラムを記憶する。フラッシュメモリ１０３１に記憶されているプログラムは、テレビジョン受像機１０００の起動時などの所定のタイミングでCPU１０３２により読み出される。フラッシュメモリ１０３１には、デジタル放送を介して取得されたEPGデータ、ネットワークを介して所定のサーバから取得されたデータなども記憶される。
【０１０１】
例えば、フラッシュメモリ１０３１には、CPU１０３２の制御によりネットワークを介して所定のサーバから取得されたコンテンツデータを含むMPEG-TSが記憶される。フラッシュメモリ１０３１は、例えばCPU１０３２の制御により、そのMPEG-TSを、内部バス１０２９を介してMPEGデコーダ１０１７に供給する。
【０１０２】
また、テレビジョン受像機１０００は、リモートコントローラ１０５１から送信される赤外線信号を受光する受光部１０３７も有する。
【０１０３】
受光部１０３７は、リモートコントローラ１０５１からの赤外線を受光し、復調して得られたユーザ操作の内容を表す制御コードをCPU１０３２に出力する。
【０１０４】
CPU１０３２は、フラッシュメモリ１０３１に記憶されているプログラムを実行し、受光部１０３７から供給される制御コードなどに応じてテレビジョン受像機１０００の全体の動作を制御する。CPU１０３２とテレビジョン受像機１０００の各部は、図示せぬ経路を介して接続されている。
【０１０５】
USB I/F１０３３は、USB端子１０３６に装着されたUSBケーブルを介して接続される、テレビジョン受像機１０００の外部の機器との間でデータの送受信を行う。ネットワークI/F１０３４は、ネットワーク端子１０３５に装着されたケーブルを介してネットワークに接続し、ネットワークに接続される各種の装置と音声データ以外のデータの送受信も行う。
【０１０６】
このようなテレビジョン受像機１０００に対応する、放送局等より送信されるMPEG-TSを、画像符号化装置４０によって符号化する。これにより、符号化時の処理負荷を軽減することができる。
【０１０７】
図７は、本発明を適用した画像符号化装置を用いる携帯電話機の主な構成例を示すブロック図である。
【０１０８】
図７に示される携帯電話機１１００は、各部を統括的に制御するようになされた主制御部１１５０、電源回路部１１５１、操作入力制御部１１５２、画像エンコーダ１１５３、カメラI/F部１１５４、LCD制御部１１５５、画像デコーダ１１５６、多重分離部１１５７、記録再生部１１６２、変復調回路部１１５８、および音声コーデック１１５９を有する。これらは、バス１１６０を介して互いに接続されている。
【０１０９】
また、携帯電話機１１００は、操作キー１１１９、CCD（Charge Coupled Devices）カメラ１１１６、液晶ディスプレイ１１１８、記憶部１１２３、送受信回路部１１６３、アンテナ１１１４、マイクロホン（マイク）１１２１、およびスピーカ１１１７を有する。
【０１１０】
電源回路部１１５１は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話機１１００を動作可能な状態に起動する。
【０１１１】
携帯電話機１１００は、CPU、ROMおよびRAM等でなる主制御部１１５０の制御に基づいて、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
【０１１２】
例えば、音声通話モードにおいて、携帯電話機１１００は、マイクロホン（マイク）１１２１で集音した音声信号を、音声コーデック１１５９によってデジタル音声データに変換し、これを変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（音声信号）は、公衆電話回線網を介して通話相手の携帯電話機に供給される。
【０１１３】
また、例えば、音声通話モードにおいて、携帯電話機１１００は、アンテナ１１１４で受信した受信信号を送受信回路部１１６３で増幅し、さらに周波数変換処理およびアナログデジタル変換処理し、変復調回路部１１５８でスペクトラム逆拡散処理し、音声コーデック１１５９によってアナログ音声信号に変換する。携帯電話機１１００は、その変換して得られたアナログ音声信号をスピーカ１１１７から出力する。
【０１１４】
更に、例えば、データ通信モードにおいて電子メールを送信する場合、携帯電話機１１００は、操作キー１１１９の操作によって入力された電子メールのテキストデータを、操作入力制御部１１５２において受け付ける。携帯電話機１１００は、そのテキストデータを主制御部１１５０において処理し、LCD制御部１１５５を介して、画像として液晶ディスプレイ１１１８に表示させる。
【０１１５】
また、携帯電話機１１００は、主制御部１１５０において、操作入力制御部１１５２が受け付けたテキストデータやユーザ指示等に基づいて電子メールデータを生成する。携帯電話機１１００は、その電子メールデータを、変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（電子メール）は、ネットワークおよびメールサーバ等を介して、所定のあて先に供給される。
【０１１６】
また、例えば、データ通信モードにおいて電子メールを受信する場合、携帯電話機１１００は、基地局から送信された信号を、アンテナ１１１４を介して送受信回路部１１６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機１１００は、その受信信号を変復調回路部１１５８でスペクトラム逆拡散処理して元の電子メールデータを復元する。携帯電話機１１００は、復元された電子メールデータを、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示する。
【０１１７】
なお、携帯電話機１１００は、受信した電子メールデータを、記録再生部１１６２を介して、記憶部１１２３に記録する（記憶させる）ことも可能である。
【０１１８】
この記憶部１１２３は、書き換え可能な任意の記憶媒体である。記憶部１１２３は、例えば、RAMや内蔵型フラッシュメモリ等の半導体メモリであってもよいし、ハードディスクであってもよいし、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、またはメモリカード等のリムーバブルメディアであってもよい。もちろん、これら以外のものであってもよい。
【０１１９】
さらに、例えば、データ通信モードにおいて画像データを送信する場合、携帯電話機１１００は、撮像によりCCDカメラ１１１６で画像データを生成する。CCDカメラ１１１６は、レンズや絞り等の光学デバイスと光電変換素子としてのCCDを有し、被写体を撮像し、受光した光の強度を電気信号に変換し、被写体の画像の画像データを生成する。CCDカメラ１１１６は、その画像データを、カメラI/F部１１５４を介して、画像エンコーダ１１５３で符号化し、符号化画像データに変換する。
【０１２０】
携帯電話機１１００は、このような処理を行う画像エンコーダ１１５３として、上述した画像符号化装置４０を用いる。画像エンコーダ１０５３は、画像符号化装置４０の場合と同様に、時間軸上で近い位置関係にあるフレームはフィルタ係数が似ている(相関が高い)点に着目し、インター予測を行う際に、近い位置関係にあるフレームに対して、過去に算出されたフィルタ係数(1st Pass)を保存しておき、保存されたフィルタ係数を再利用する(2nd Pass)。これにより、画像エンコーダ１０５３は、1st Pass におけるフィルタ係数の算出を省略することができる(2nd Passのみでフィルタ係数を算出することができる)。
【０１２１】
なお、携帯電話機１１００は、このとき同時に、CCDカメラ１１１６で撮像中にマイクロホン（マイク）１１２１で集音した音声を、音声コーデック１１５９においてアナログデジタル変換し、さらに符号化する。
【０１２２】
携帯電話機１１００は、多重分離部１１５７において、画像エンコーダ１１５３から供給された符号化画像データと、音声コーデック１１５９から供給されたデジタル音声データとを、所定の方式で多重化する。携帯電話機１１００は、その結果得られる多重化データを、変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（画像データ）は、ネットワーク等を介して、通信相手に供給される。
【０１２３】
なお、画像データを送信しない場合、携帯電話機１１００は、CCDカメラ１１１６で生成した画像データを、画像エンコーダ１１５３を介さずに、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示させることもできる。
【０１２４】
また、例えば、データ通信モードにおいて、簡易ホームページ等にリンクされた動画像ファイルのデータを受信する場合、携帯電話機１１００は、基地局から送信された信号を、アンテナ１１１４を介して送受信回路部１１６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機１１００は、その受信信号を変復調回路部１１５８でスペクトラム逆拡散処理して元の多重化データを復元する。携帯電話機１１００は、多重分離部１１５７において、その多重化データを分離して、符号化画像データと音声データとに分ける。
【０１２５】
携帯電話機１１００は、画像デコーダ１１５６において符号化画像データをデコードすることにより、再生動画像データを生成し、これを、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる動画データが液晶ディスプレイ１１１８に表示される。
【０１２６】
このとき、携帯電話機１１００は、同時に、音声コーデック１１５９において、デジタルの音声データをアナログ音声信号に変換し、これをスピーカ１１１７より出力させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
【０１２７】
なお、電子メールの場合と同様に、携帯電話機１１００は、受信した簡易ホームページ等にリンクされたデータを、記録再生部１１６２を介して、記憶部１１２３に記録する（記憶させる）ことも可能である。
【０１２８】
また、携帯電話機１１００は、主制御部１１５０において、撮像されてCCDカメラ１１１６で得られた２次元コードを解析し、２次元コードに記録された情報を取得することができる。
【０１２９】
さらに、携帯電話機１１００は、赤外線通信部１１８１で赤外線により外部の機器と通信することができる。
【０１３０】
携帯電話機１１００は、画像エンコーダ１１５３として画像符号化装置４０を用いることにより、比較的演算量が多い、分数精度の動きベクトルの演算回数を１回だけに制限する。その結果として、携帯電話機１１００は、例えばCCDカメラ１１１６において生成された画像データを符号化して伝送する際の、符号化時の処理負荷を軽減することができる。
【０１３１】
なお、以上において、携帯電話機１１００が、CCDカメラ１１１６を用いるように説明したが、このCCDカメラ１１１６の代わりに、CMOS（Complementary Metal Oxide Semiconductor）を用いたイメージセンサ（CMOSイメージセンサ）を用いるようにしてもよい。この場合も、携帯電話機１１００は、CCDカメラ１１１６を用いる場合と同様に、被写体を撮像し、被写体の画像の画像データを生成することができる。
【０１３２】
また、以上においては携帯電話機１１００として説明したが、例えば、PDA（Personal Digital Assistants）、スマートフォン、UMPC（Ultra Mobile Personal Computer）、ネットブック、ノート型パーソナルコンピュータ等、この携帯電話機１１００と同様の撮像機能や通信機能を有する装置であれば、どのような装置であっても携帯電話機１１００の場合と同様に、画像符号化装置４０を適用することができる。
【０１３３】
図８は、本発明を適用した画像符号化装置を用いるハードディスクレコーダの主な構成例を示すブロック図である。
【０１３４】
図８に示されるハードディスクレコーダ（HDDレコーダ）１２００は、チューナにより受信された、衛星や地上のアンテナ等より送信される放送波信号（テレビジョン信号）に含まれる放送番組のオーディオデータとビデオデータを、内蔵するハードディスクに保存し、その保存したデータをユーザの指示に応じたタイミングでユーザに提供する装置である。
【０１３５】
ハードディスクレコーダ１２００は、例えば、放送波信号よりオーディオデータとビデオデータを抽出し、それらを適宜復号し、内蔵するハードディスクに記憶させることができる。また、ハードディスクレコーダ１２００は、例えば、ネットワークを介して他の装置からオーディオデータやビデオデータを取得し、それらを適宜復号し、内蔵するハードディスクに記憶させることもできる。
【０１３６】
さらに、ハードディスクレコーダ１２００は、例えば、内蔵するハードディスクに記録されているオーディオデータやビデオデータを復号してモニタ１２６０に供給し、モニタ１２６０の画面にその画像を表示させ、モニタ１２６０のスピーカよりその音声を出力させることができる。また、ハードディスクレコーダ１２００は、例えば、チューナを介して取得された放送波信号より抽出されたオーディオデータとビデオデータ、または、ネットワークを介して他の装置から取得したオーディオデータやビデオデータを復号してモニタ１２６０に供給し、モニタ１２６０の画面にその画像を表示させ、モニタ１２６０のスピーカよりその音声を出力させることもできる。
【０１３７】
もちろん、この他の動作も可能である。
【０１３８】
図８に示されるように、ハードディスクレコーダ１２００は、受信部１２２１、復調部１２２２、デマルチプレクサ１２２３、オーディオデコーダ１２２４、ビデオデコーダ１２２５、およびレコーダ制御部１２２６を有する。ハードディスクレコーダ１２００は、さらに、EPGデータメモリ１２２７、プログラムメモリ１２２８、ワークメモリ１２２９、ディスプレイコンバータ１２３０、OSD（On Screen Display）制御部１２３１、ディスプレイ制御部１２３２、記録再生部１２３３、D/Aコンバータ１２３４、および通信部１２３５を有する。
【０１３９】
また、ディスプレイコンバータ１２３０は、ビデオエンコーダ１２４１を有する。記録再生部１２３３は、エンコーダ１２５１およびデコーダ１２５２を有する。
【０１４０】
受信部１２２１は、リモートコントローラ（図示せず）からの赤外線信号を受信し、電気信号に変換してレコーダ制御部１２２６に出力する。レコーダ制御部１２２６は、例えば、マイクロプロセッサなどにより構成され、プログラムメモリ１２２８に記憶されているプログラムに従って、各種の処理を実行する。レコーダ制御部１２２６は、このとき、ワークメモリ１２２９を必要に応じて使用する。
【０１４１】
通信部１２３５は、ネットワークに接続され、ネットワークを介して他の装置との通信処理を行う。例えば、通信部１２３５は、レコーダ制御部１２２６により制御され、チューナ（図示せず）と通信し、主にチューナに対して選局制御信号を出力する。
【０１４２】
復調部１２２２は、チューナより供給された信号を、復調し、デマルチプレクサ１２２３に出力する。デマルチプレクサ１２２３は、復調部１２２２より供給されたデータを、オーディオデータ、ビデオデータ、およびEPGデータに分離し、それぞれ、オーディオデコーダ１２２４、ビデオデコーダ１２２５、またはレコーダ制御部１２２６に出力する。
【０１４３】
オーディオデコーダ１２２４は、入力されたオーディオデータをデコードし、記録再生部１２３３に出力する。ビデオデコーダ１２２５は、入力されたビデオデータをデコードし、ディスプレイコンバータ１２３０に出力する。レコーダ制御部１２２６は、入力されたEPGデータをEPGデータメモリ１２２７に供給し、記憶させる。
【０１４４】
ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５またはレコーダ制御部１２２６より供給されたビデオデータを、ビデオエンコーダ１２４１により、例えばNTSC（National Television Standards Committee）方式のビデオデータにエンコードし、記録再生部１２３３に出力する。また、ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５またはレコーダ制御部１２２６より供給されるビデオデータの画面のサイズを、モニタ１２６０のサイズに対応するサイズに変換し、ビデオエンコーダ１２４１によってNTSC方式のビデオデータに変換し、アナログ信号に変換し、ディスプレイ制御部１２３２に出力する。
【０１４５】
ディスプレイ制御部１２３２は、レコーダ制御部１２２６の制御のもと、OSD（On Screen Display）制御部１２３１が出力したOSD信号を、ディスプレイコンバータ１２３０より入力されたビデオ信号に重畳し、モニタ１２６０のディスプレイに出力し、表示させる。
【０１４６】
モニタ１２６０にはまた、オーディオデコーダ１２２４が出力したオーディオデータが、D/Aコンバータ１２３４によりアナログ信号に変換されて供給されている。モニタ１２６０は、このオーディオ信号を内蔵するスピーカから出力する。
【０１４７】
記録再生部１２３３は、ビデオデータやオーディオデータ等を記録する記憶媒体としてハードディスクを有する。
【０１４８】
記録再生部１２３３は、例えば、オーディオデコーダ１２２４より供給されるオーディオデータを、エンコーダ１２５１によりエンコードする。また、記録再生部１２３３は、ディスプレイコンバータ１２３０のビデオエンコーダ１２４１より供給されるビデオデータを、エンコーダ１２５１によりエンコードする。記録再生部１２３３は、そのオーディオデータの符号化データとビデオデータの符号化データとをマルチプレクサにより合成する。記録再生部１２３３は、その合成データをチャネルコーディングして増幅し、そのデータを、記録ヘッドを介してハードディスクに書き込む。
【０１４９】
記録再生部１２３３は、再生ヘッドを介してハードディスクに記録されているデータを再生し、増幅し、デマルチプレクサによりオーディオデータとビデオデータに分離する。記録再生部１２３３は、デコーダ１２５２によりオーディオデータおよびビデオデータをデコードする。記録再生部１２３３は、復号したオーディオデータをD/A変換し、モニタ１２６０のスピーカに出力する。また、記録再生部１２３３は、復号したビデオデータをD/A変換し、モニタ１２６０のディスプレイに出力する。
【０１５０】
レコーダ制御部１２２６は、受信部１２２１を介して受信されるリモートコントローラからの赤外線信号により示されるユーザ指示に基づいて、EPGデータメモリ１２２７から最新のEPGデータを読み出し、それをOSD制御部１２３１に供給する。OSD制御部１２３１は、入力されたEPGデータに対応する画像データを発生し、ディスプレイ制御部１２３２に出力する。ディスプレイ制御部１２３２は、OSD制御部１２３１より入力されたビデオデータをモニタ１２６０のディスプレイに出力し、表示させる。これにより、モニタ１２６０のディスプレイには、EPG（電子番組ガイド）が表示される。
【０１５１】
また、ハードディスクレコーダ１２００は、インターネット等のネットワークを介して他の装置から供給されるビデオデータ、オーディオデータ、またはEPGデータ等の各種データを取得することができる。
【０１５２】
通信部１２３５は、レコーダ制御部１２２６に制御され、ネットワークを介して他の装置から送信されるビデオデータ、オーディオデータ、およびEPGデータ等の符号化データを取得し、それをレコーダ制御部１２２６に供給する。レコーダ制御部１２２６は、例えば、取得したビデオデータやオーディオデータの符号化データを記録再生部１２３３に供給し、ハードディスクに記憶させる。このとき、レコーダ制御部１２２６および記録再生部１２３３が、必要に応じて再エンコード等の処理を行うようにしてもよい。
【０１５３】
また、レコーダ制御部１２２６は、取得したビデオデータやオーディオデータの符号化データを復号し、得られるビデオデータをディスプレイコンバータ１２３０に供給する。ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５から供給されるビデオデータと同様に、レコーダ制御部１２２６から供給されるビデオデータを処理し、ディスプレイ制御部１２３２を介してモニタ１２６０に供給し、その画像を表示させる。
【０１５４】
また、この画像表示に合わせて、レコーダ制御部１２２６が、復号したオーディオデータを、D/Aコンバータ１２３４を介してモニタ１２６０に供給し、その音声をスピーカから出力させるようにしてもよい。
【０１５５】
さらに、レコーダ制御部１２２６は、取得したEPGデータの符号化データを復号し、復号したEPGデータをEPGデータメモリ１２２７に供給する。
【０１５６】
以上のようなハードディスクレコーダ１２００は、エンコーダ１２５１として画像符号化装置４０を用いる。エンコーダ１２５１は、画像符号化装置４０の場合と同様に、時間軸上で近い位置関係にあるフレームはフィルタ係数が似ている(相関が高い)点に着目し、インター予測を行う際に、近い位置関係にあるフレームに対して、過去に算出されたフィルタ係数(1st Pass)を保存しておき、保存されたフィルタ係数を再利用する(2nd Pass)。したがって、エンコーダ１２５１は、1st Pass におけるフィルタ係数の算出を省略することができる(2nd Passのみでフィルタ係数を算出することができる)。
【０１５７】
したがって、ハードディスクレコーダ１２００は、例えば、ハードディスクに符号化データを記録する際の、フ符号化時の処理負荷を軽減することができる。
【０１５８】
なお、以上においては、ビデオデータやオーディオデータをハードディスクに記録するハードディスクレコーダ１２００について説明したが、もちろん、記録媒体はどのようなものであってもよい。例えばフラッシュメモリ、光ディスク、またはビデオテープ等、ハードディスク以外の記録媒体を適用するレコーダであっても、上述したハードディスクレコーダ１２００の場合と同様に、画像符号化装置４０を適用することができる。
【０１５９】
図９は、本発明を適用した画像符号化装置を用いるカメラの主な構成例を示すブロック図である。
【０１６０】
図９に示されるカメラ１３００は、被写体を撮像し、被写体の画像をLCD１３１６に表示させたり、それを画像データとして、記録メディア１３３３に記録したりする。
【０１６１】
レンズブロック１３１１は、光（すなわち、被写体の映像）を、CCD/CMOS１３１２に入射させる。CCD/CMOS１３１２は、CCDまたはCMOSを用いたイメージセンサであり、受光した光の強度を電気信号に変換し、カメラ信号処理部１３１３に供給する。
【０１６２】
カメラ信号処理部１３１３は、CCD/CMOS１３１２から供給された電気信号を、Ｙ，Ｃｒ，Ｃｂの色差信号に変換し、画像信号処理部１３１４に供給する。画像信号処理部１３１４は、コントローラ１３２１の制御の下、カメラ信号処理部１３１３から供給された画像信号に対して所定の画像処理を施したり、その画像信号をエンコーダ１３４１で符号化したりする。画像信号処理部１３１４は、画像信号を符号化して生成した符号化データを、デコーダ１３１５に供給する。さらに、画像信号処理部１３１４は、オンスクリーンディスプレイ（OSD）１３２０において生成された表示用データを取得し、それをデコーダ１３１５に供給する。
【０１６３】
以上の処理において、カメラ信号処理部１３１３は、バス１３１７を介して接続されるDRAM（Dynamic Random Access Memory）１３１８を適宜利用し、必要に応じて画像データや、その画像データが符号化された符号化データ等をそのDRAM１３１８に保持させる。
【０１６４】
デコーダ１３１５は、画像信号処理部１３１４から供給された符号化データを復号し、得られた画像データ（復号画像データ）をLCD１３１６に供給する。また、デコーダ１３１５は、画像信号処理部１３１４から供給された表示用データをLCD１３１６に供給する。LCD１３１６は、デコーダ１３１５から供給された復号画像データの画像と表示用データの画像を適宜合成し、その合成画像を表示する。
【０１６５】
オンスクリーンディスプレイ１３２０は、コントローラ１３２１の制御の下、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを、バス１３１７を介して画像信号処理部１３１４に出力する。
【０１６６】
コントローラ１３２１は、ユーザが操作部１３２２を用いて指令した内容を示す信号に基づいて、各種処理を実行するとともに、バス１３１７を介して、画像信号処理部１３１４、DRAM１３１８、外部インタフェース１３１９、オンスクリーンディスプレイ１３２０、およびメディアドライブ１３２３等を制御する。FLASH ROM１３２４には、コントローラ１３２１が各種処理を実行する上で必要なプログラムやデータ等が格納される。
【０１６７】
例えば、コントローラ１３２１は、画像信号処理部１３１４やデコーダ１３１５に代わって、DRAM１３１８に記憶されている画像データを符号化したり、DRAM１３１８に記憶されている符号化データを復号したりすることができる。このとき、コントローラ１３２１は、画像信号処理部１３１４やデコーダ１３１５の符号化・復号方式と同様の方式によって符号化・復号処理を行うようにしてもよいし、画像信号処理部１３１４やデコーダ１３１５が対応していない方式により符号化・復号処理を行うようにしてもよい。
【０１６８】
また、例えば、操作部１３２２から画像印刷の開始が指示された場合、コントローラ１３２１は、DRAM１３１８から画像データを読み出し、それを、バス１３１７を介して外部インタフェース１３１９に接続されるプリンタ１３３４に供給して印刷させる。
【０１６９】
さらに、例えば、操作部１３２２から画像記録が指示された場合、コントローラ１３２１は、DRAM１３１８から符号化データを読み出し、それを、バス１３１７を介してメディアドライブ１３２３に装着される記録メディア１３３３に供給して記憶させる。
【０１７０】
記録メディア１３３３は、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアである。記録メディア１３３３は、もちろん、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触ICカード等であっても良い。
【０１７１】
また、メディアドライブ１３２３と記録メディア１３３３を一体化し、例えば、内蔵型ハードディスクドライブやSSD（Solid State Drive）等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
【０１７２】
外部インタフェース１３１９は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタ１３３４と接続される。また、外部インタフェース１３１９には、必要に応じてドライブ１３３１が接続され、磁気ディスク、光ディスク、あるいは光磁気ディスクなどのリムーバブルメディア１３３２が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、FLASH ROM１３２４にインストールされる。
【０１７３】
さらに、外部インタフェース１３１９は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。コントローラ１３２１は、例えば、操作部１３２２からの指示に従って、DRAM１３１８から符号化データを読み出し、それを外部インタフェース１３１９から、ネットワークを介して接続される他の装置に供給させることができる。また、コントローラ１３２１は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース１３１９を介して取得し、それをDRAM１３１８に保持させたり、画像信号処理部１３１４に供給したりすることができる。
【０１７４】
以上のようなカメラ１３００は、エンコーダ１３４１として画像符号化装置４０を用いる。エンコーダ１３４１は、画像符号化装置４０の場合と同様に、時間軸上で近い位置関係にあるフレームはフィルタ係数が似ている(相関が高い)点に着目し、インター予測を行う際に、近い位置関係にあるフレームに対して、過去に算出されたフィルタ係数(1st Pass)を保存しておき、保存されたフィルタ係数を再利用する(2nd Pass)。したがって、エンコーダ１３４１は、1st Pass におけるフィルタ係数の算出を省略することができる(2nd Passのみでフィルタ係数を算出することができる)。
【０１７５】
したがって、カメラ１３００は、例えば、DRAM１３１８や記録メディア１３３３に符号化データを記録する際や、符号化データを他の装置に提供する際の、符号化時の処理負荷を軽減することができる。
【０１７６】
なお、コントローラ１３２１が行う符号化処理に画像符号化装置４０の符号化方法を適用するようにしてもよい。
【０１７７】
また、カメラ１３００が撮像する画像データは動画像であってもよいし、静止画像であってもよい。
【０１７８】
もちろん、画像符号化装置４０は、上述した装置以外の装置やシステムにも適用可能である。
【０１７９】
また、マクロブロックの大きさは任意である。本発明は、例えば図１０に示されるようなあらゆる大きさのマクロブロックに対して適用することができる。例えば、本発明は、通常の１６×１６画素のようなマクロブロックだけでなく、３２×３２画素のような拡張されたマクロブロック（拡張マクロブロック）にも適用することができる。
【０１８０】
図１０において、上段には、左から、３２×３２画素、３２×１６画素、１６×３２画素、および１６×１６画素のブロック（パーティション）に分割された３２×３２画素で構成されるマクロブロックが順に示されている。また、中段には、左から、１６×１６画素、１６×８画素、８×１６画素、および８×８画素のブロックに分割された１６×１６画素で構成されるブロックが順に示されている。さらに、下段には、左から、８×８画素、８×４画素、４×８画素、および４×４画素のブロックに分割された８×８画素のブロックが順に示されている。
【０１８１】
すなわち、３２×３２画素のマクロブロックは、上段に示される３２×３２画素、３２×１６画素、１６×３２画素、および１６×１６画素のブロックでの処理が可能である。
【０１８２】
上段の右側に示される１６×１６画素のブロックは、H．264/AVC方式と同様に、中段に示される１６×１６画素、１６×８画素、８×１６画素、および８×８画素のブロックでの処理が可能である。
【０１８３】
中段の右側に示される８×８画素のブロックは、H．264/AVC方式と同様に、下段に示される８×８画素、８×４画素、４×８画素、および４×４画素のブロックでの処理が可能である。
【０１８４】
これらのブロックは、以下の３階層に分類することができる。すなわち、図１０の上段に示される３２×３２画素、３２×１６画素、および１６×３２画素のブロックを第１階層と称する。上段の右側に示される１６×１６画素のブロック、並びに、中段に示される１６×１６画素、１６×８画素、および８×１６画素のブロックを、第２階層と称する。中段の右側に示される８×８画素のブロック、並びに、下段に示される８×８画素、８×４画素、４×８画素、および４×４画素のブロックを、第３階層と称する。
【０１８５】
このような階層構造を採用することにより、１６×１６画素のブロック以下に関しては、H．264/AVC方式と互換性を保ちながら、そのスーパーセットとして、より大きなブロックを定義することができる。
【０１８６】
例えば、画像符号化装置４０が、階層毎にフィルタ係数を算出するようにしてもよい。また、例えば、画像符号化装置４０が、第２の階層よりブロックサイズが大きい階層である第１階層に対応するフィルタ係数を、第２階層に対しても設定するようにしてもよい。さらに、例えば、画像符号化装置４０が、過去の同一の階層に対するフィルタ係数を設定するようにしてもよい。
【０１８７】
第１階層や第２階層のように、比較的大きなブロックサイズを用いて符号化が行われるマクロブロックは、比較的高周波成分を含んでいない。これに対して、第３階層のように、比較的小さなブロックサイズを用いて符号化が行われるマクロブロックは、比較的、高周波成分を含んでいると考えられる。
【０１８８】
そこで、ブロックサイズの異なる各階層に応じて、別々にフィルタ係数を算出することにより、画像の持つ、局所的性質に適した符号化性能向上を実現させることが可能である。
【０１８９】
なお、フィルタのタップ数も、階層毎に異なるものであってもよい。
【符号の説明】
【０１９０】
４０  画像符号化装置，  ４１  動き予測・補償部，  ４２  AIF，  ４３  動きベクトル演算部，  ４４  係数演算部，  ４５  フィルタ係数メモリ
【図１】
2010038858.tif 000003
【図２】
2010038858.tif 000004
【図３】
2010038858.tif 000005
【図４】
2010038858.tif 000006
【図５】
2010038858.tif 000007
【図６】
2010038858.tif 000008
【図７】
2010038858.tif 000009
【図８】
2010038858.tif 000010
【図９】
2010038858.tif 000011
【図１０】
2010038858.tif 000012
【国際調査報告】
2010038858.tif 000013
2010038858.tif 000014