(57)【要約】【課題】エンコードの効率化をはかる。【解決手段】デコード部１１によりデコードされたデコード画像は、エフェクト処理部１２に供給され、符号化パラメータは、エンコード部１３に供給される。フラグ設定部１４は、エフェクト処理部１２によりデコード画像に対してエフェクト処理が施されていない場合、またはエフェクト処理が施されたが、所定のエフェクトである場合、フラグを立てる。フラグが立てられた場合、エンコード部１３は、デコード部１１から供給される符号化パラメータを用いて、エフェクト処理部１２から供給されるデコード画像をエンコードする。本技術は、編集機に適用できる。【選択図】図１
2012199877.tif 000002
【特許請求の範囲】
【請求項１】
エンコードされた画像である圧縮画像データをデコードし、デコードされたデコード画像と、エンコード時に算出されたエンコードに関するパラメータを生成するデコード部と、
前記デコード画像に少なくとも色調整処理を含む画像処理を施す画像処理部と、
前記画像処理部の処理に応じて、前記画像処理部により画像処理が施された前記デコード画像を、前記パラメータを用いてエンコードするか、または前記パラメータを用いずにエンコードするかを制御する制御部と
前記制御部の制御に従って前記デコード画像をエンコードするエンコード部と
を備える画像処理装置。
【請求項２】
前記制御部は、
前記画像処理部により前記デコード画像に画像処理が施されたか否かを判定し、前記デコード画像に画像処理が施されていないと判定された場合、前記パラメータを用いたエンコードを実行するよう前記エンコード部を制御する
請求項１に記載の画像処理装置。
【請求項３】
前記制御部は、
前記画像処理部が施した前記画像処理が、前記色調整処理のみであるか否かを判定し、前記画像処理が色調整処理のみであると判定された場合、前記パラメータを用いたエンコードを実行するよう前記エンコード部を制御する
請求項２に記載の画像処理装置。
【請求項４】
前記デコード部でデコードされた前記デコード画像が、前記画像処理部により画像処理が施されることにより変化した変化量を演算する変化量演算部をさらに備え、
前記制御部は、前記変化量が所定の閾値以上であるか否かに基づいて、エンコード部の処理を制御する
請求項１に記載の画像処理装置。
【請求項５】
前記デコード部によりデコードされた前記パラメータを、前記エンコード部に供給するか否かを切り換える切り換え部をさらに備え、
前記制御部は、前記変化量が所定の閾値以上であるか否かに基づき、前記切り換え部を制御する
請求項４に記載の画像処理装置。
【請求項６】
前記エンコード部によるエンコードの処理対象とされる画像が、エンコード時に参照する参照画に、変化があるか否かを判断する参照画判断部と
をさらに備え、
前記制御部は、前記変化量が所定の閾値以上であるか否かに基づき、かつ前記参照画判断部による判断結果に基づき、エンコード部の処理を制御する
請求項４に記載の画像処理装置。
【請求項７】
前記制御部は、
前記変化量が所定の閾値以上である場合、前記パラメータを用いずにエンコードを実行するよう前記エンコード部を制御し、
前記変化量が所定の閾値以下であり、かつ前記参照画判断部による判断が、エンコードの処理対象とされる画像が、エンコード時に参照する参照画に、変化があるとの判断である場合、前記パラメータを用いずにエンコードを実行するよう前記エンコード部を制御し、
前記変化量が所定の閾値以下であり、かつ前記参照画判断部による判断が、エンコードの処理対象とされる画像が、エンコード時に参照する参照画に、変化がないとの判断である場合、前記パラメータを用いたエンコードを実行するよう前記エンコード部を制御する
請求項６に記載の画像処理装置。
【請求項８】
前記パラメータに含まれる量子化ステップの値を、前記変化量演算部により演算された前記変化量に応じた変更量で変更する量子化ステップ変更部と
をさらに備え、
前記エンコード部は、前記量子化ステップ変更部により変更された前記量子化ステップを含むパラメータを用いて前記デコード画像をエンコードする
請求項４に記載の画像処理装置。
【請求項９】
デコード部、画像処理部、制御部、およびエンコード部を備える画像処理装置の画像処理方法において、
前記デコード部は、エンコードされた画像である圧縮画像データをデコードし、デコードされたデコード画像と、エンコード時に算出されたエンコードに関するパラメータを生成し、
前記画像処理部は、前記デコード画像に少なくとも色調整処理を含む画像処理を施し、
前記制御部は、前記画像処理部の処理に応じて、前記画像処理部により画像処理が施された前記デコード画像に対して、前記パラメータを用いたエンコードを実行するように前記エンコード部を制御するか、または前記エンコード部により前記パラメータを用いないエンコードを実行するように前記エンコード部を制御する
ステップを含む画像処理方法。
【請求項１０】
デコード部、画像処理部、制御部、およびエンコード部を備える画像処理装置を制御するコンピュータに、
前記デコード部は、エンコードされた画像である圧縮画像データをデコードし、デコードされたデコード画像と、エンコード時に算出されたエンコードに関するパラメータを生成し、
前記画像処理部は、前記デコード画像に少なくとも色調整処理を含む画像処理を施し、
前記制御部は、前記画像処理部の処理に応じて、前記画像処理部により画像処理が施された前記デコード画像に対して、前記パラメータを用いたエンコードを実行するように前記エンコード部を制御するか、または前記エンコード部により前記パラメータを用いないエンコードを実行するように前記エンコード部を制御する
ステップを含む処理を実行させるためのコンピュータ読み込み可能なプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は画像処理装置、画像処理方法、並びにプログラムに関し、特に、映像の編集時に処理を効率的に行うことができるようにした画像処理装置、画像処理方法、並びにプログラムに関する。
【背景技術】
【０００２】
動画像信号をライン相関やフレーム間相関を利用してエンコードすることが行われている。エンコード方式としては、ＭＰＥＧ（Moving Picture Experts Group）方式がある。例えば、テレビ会議システム、テレビ電話システムなどのように、動画像信号を遠隔地に伝送するシステムにおいては、伝送路を効率良く利用するため、映像信号のライン相関やフレーム間相関を利用して、画像信号がエンコードされる。
【０００３】
画像信号がエンコードされる場合、生成されるビットストリームが、所定のビットレートになるようにエンコードが行われる。しかしながら、伝送路により、ビットストリームのビットレートを変換する必要が生じることがある。このような場合、エンコードされている情報が一旦復号され、ビットレートが所定の値になるように、再びエンコードすることが行われることがある。このような再エンコードを行う場合、過去に演算した動きベクトルを用いて再エンコードを行うことが提案されている。（例えば、特許文献１参照）
【０００４】
またデコード後の画像に編集を加え、その後再度エンコードするとき、所定の条件として、Ｉピクチャである、以前と今回の符号化とのマクロブロックの位相があっているなどの条件がみたされるとき、パラメータが再利用されることが提案されている（例えば、特許文献２参照）。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特許03817952号
【特許文献２】特開2007-235989号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
特許文献１においては、再エンコードを行うとき、過去に演算した動きベクトルを用いて再エンコードを行っても、画質劣化を防げることが提案されている。しかしながら、例えば、画像に編集を加え、画像を変えたとき、編集前の画像をエンコードしたときに算出されたパラメータを、そのまま編集処理を施した画像の再エンコードのときに使用すると、編集をかけた部分に画質の劣化が起こる可能性がある。
【０００７】
そのために、編集を行うときには、編集前の画像をエンコードしたときに算出されたパラメータを用いた再エンコードは行わずに、編集後の画像に対して通常のエンコードを行い、パラメータを算出するといった処理が行われていた。このようにすると、再度エンコードを行うための処理時間、処理能力が必要となる。
【０００８】
本技術は、このような状況に鑑みてなされたものであり、再エンコードのときに、最適なパラメータを用いたエンコードを行い、かつ効率良いエンコードをすることができるようにするものである。
【課題を解決するための手段】
【０００９】
本技術の一側面の画像処理装置は、エンコードされた画像である圧縮画像データをデコードし、デコードされたデコード画像と、エンコード時に算出されたエンコードに関するパラメータを生成するデコード部と、前記デコード画像に少なくとも色調整処理を含む画像処理を施す画像処理部と、前記画像処理部の処理に応じて、前記画像処理部により画像処理が施された前記デコード画像を、前記パラメータを用いてエンコードするか、または前記パラメータを用いずにエンコードするかを制御する制御部と前記制御部の制御に従って前記デコード画像をエンコードするエンコード部とを備える。
【００１０】
前記制御部は、前記画像処理部により前記デコード画像に画像処理が施されたか否かを判定し、前記デコード画像に画像処理が施されていないと判定された場合、前記パラメータを用いたエンコードを実行するよう前記エンコード部を制御するようにすることができる。
【００１１】
前記制御部は、前記画像処理部が施した前記画像処理が、前記色調整処理のみであるか否かを判定し、前記画像処理が色調整処理のみであると判定された場合、前記パラメータを用いたエンコードを実行するよう前記エンコード部を制御するようにすることができる。
【００１２】
前記デコード部でデコードされた前記デコード画像が、前記画像処理部により画像処理が施されることにより変化した変化量を演算する変化量演算部をさらに備え、前記制御部は、前記変化量が所定の閾値以上であるか否かに基づいて、エンコード部の処理を制御するようにすることができる。
【００１３】
前記デコード部によりデコードされた前記パラメータを、前記エンコード部に供給するか否かを切り換える切り換え部をさらに備え、前記制御部は、前記変化量が所定の閾値以上であるか否かに基づき、前記切り換え部を制御するようにすることができる。
【００１４】
前記エンコード部によるエンコードの処理対象とされる画像が、エンコード時に参照する参照画に、変化があるか否かを判断する参照画判断部とをさらに備え、前記制御部は、前記変化量が所定の閾値以上であるか否かに基づき、かつ前記参照画判断部による判断結果に基づき、エンコード部の処理を制御するようにすることができる。
【００１５】
前記制御部は、前記変化量が所定の閾値以上である場合、前記パラメータを用いずにエンコードを実行するよう前記エンコード部を制御し、前記変化量が所定の閾値以下であり、かつ前記参照画判断部による判断が、エンコードの処理対象とされる画像が、エンコード時に参照する参照画に、変化があるとの判断である場合、前記パラメータを用いずにエンコードを実行するよう前記エンコード部を制御し、前記変化量が所定の閾値以下であり、かつ前記参照画判断部による判断が、エンコードの処理対象とされる画像が、エンコード時に参照する参照画に、変化がないとの判断である場合、前記パラメータを用いたエンコードを実行するよう前記エンコード部を制御するようにすることができる。
【００１６】
前記パラメータに含まれる量子化ステップの値を、前記変化量演算部により演算された前記変化量に応じた変更量で変更する量子化ステップ変更部とをさらに備え、前記エンコード部は、前記量子化ステップ変更部により変更された前記量子化ステップを含むパラメータを用いて前記デコード画像をエンコードするようにすることができる。
【００１７】
本技術の一側面の画像処理方法、またはプログラムは、デコード部、画像処理部、制御部、およびエンコード部を備える画像処理装置の画像処理方法において、前記デコード部は、エンコードされた画像である圧縮画像データをデコードし、デコードされたデコード画像と、エンコード時に算出されたエンコードに関するパラメータを生成し、前記画像処理部は、前記デコード画像に少なくとも色調整処理を含む画像処理を施し、前記制御部は、前記画像処理部の処理に応じて、前記画像処理部により画像処理が施された前記デコード画像に対して、前記パラメータを用いたエンコードを実行するように前記エンコード部を制御するか、または前記エンコード部により前記パラメータを用いないエンコードを実行するように前記エンコード部を制御するステップを含む。
【００１８】
本技術の一側面の画像処理装置、画像処理方法、およびプログラムにおいては、エンコードされた画像である圧縮画像データがデコードされ、デコードされたデコード画像と、エンコード時に算出されたエンコードに関するパラメータが生成され、デコード画像に少なくとも色調整処理を含む画像処理が施され、その画像処理に応じて、デコード画像に対して、パラメータを用いたエンコードがされるか、またはパラメータを用いないエンコードが実行される。
【発明の効果】
【００１９】
本技術によれば、エンコードを行うことができる。また、適切なパラメータを用いたエンコードを行うことができる。
【図面の簡単な説明】
【００２０】
【図１】第１の実施の形態における編集機の構成を示す図である。
【図２】第１の実施の形態における編集機の動作について説明するためのフローチャートである。
【図３】エフェクトによる影響について説明するための図である。
【図４】第２の実施の形態における編集機の構成を示す図である。
【図５】第２の実施の形態における編集機の動作について説明するためのフローチャートである。
【図６】第３の実施の形態における編集機の構成を示す図である。
【図７】第３の実施の形態における編集機の動作について説明するためのフローチャートである。
【図８】第４の実施の形態における編集機の構成を示す図である。
【図９】参照画について説明するための図である。
【図１０】第４の実施の形態における編集機の動作について説明するためのフローチャートである。
【図１１】第５の実施の形態における編集機の構成を示す図である。
【図１２】第５の実施の形態における編集機の動作について説明するためのフローチャートである。
【図１３】記録媒体について説明するための図である。
【発明を実施するための形態】
【００２１】
以下に、本発明の実施の形態について図面を参照して説明する。
【００２２】
［第１の実施の形態における画像処理装置としての編集機について］
図１は、画像処理装置としての編集機１０の一実施の形態の構成を示す図である。図１に示した編集機１０は、デコード部１１、エフェクト処理部１２、エンコード部１３、およびフラグ設定部１４から構成される。デコード部１１には、エンコードされた画像信号（ストリーム）が入力される。デコード部１１は、入力されたストリームをデコードし、デコードされた画像（以下、デコード画像と記述する）と、デコードされたエンコード時に算出されストリームに含まれていたパラメータを出力する。デコード部１１からのデコード画像は、エフェクト処理部１２に供給され、パラメータは、エンコード部１３に供給される。
【００２３】
エフェクト処理部１２は、入力されたデコード画像に対して、ユーザからの指示に基づきエフェクト処理を施す。エフェクト処理とは、例えば、色の明暗などを変えるカラーコレクション、文字を画像上に重畳して表示させるテロップ、文字、画像、ＣＧなどを所定のシーンに入れ込むインサートなどの画像処理である。エフェクト処理部１２によりエフェクト処理が施されたデコード画像、またはエフェクト処理が指示されていないために、エフェクト処理は施されていないデコード画像は、エンコード部１３に供給される。また、エフェクト処理部１２からエフェクト処理に関する情報が、フラグ設定部１４に供給される。
【００２４】
フラグ設定部１４は、エフェクト処理に関する情報から、所定のエフェクトが施されたことを認識するとフラグを操作し、そのフラグの情報をエンコード部１３に供給する。エンコード部１３は、エフェクト処理部１２から供給されるデコード画像をエンコードする。エンコードする際、フラグ設定部１４から供給されるフラグが立てられているときには、デコード部１１からのパラメータを用いたエンコードを行い、フラグ設定部１４から供給されるフラグが立てられていないときには、デコード部１１からのパラメータを用いずに、通常のエンコードを行う。このように、フラグ設定部１４は、エンコード部１３のエンコードを制御する制御部としての機能を有する。
【００２５】
編集機１０は、エンコードされている画像信号を、デコードし、そのデコード画像に編集（エフェクト）を加え、再度エンコードするという処理を行う。編集機１０の処理について、図２のフローチャートを参照して説明する。
【００２６】
ステップＳ１１において、編集機１０にストリームが入力される。ステップＳ１２において、入力されたストリームは、デコード部１１に供給され、デコードされる。入力されるストリームは、例えば、ビデオカメラなどで撮影された動画像信号であり、ＭＰＥＧなどの所定のエンコード方式によりエンコードされている圧縮データである。デコード部１１は、入力されるストリームのエンコード方式に対応するデコード方式でデコードする。デコード部１１によりデコードされたデコード画像は、エフェクト処理部１２に供給される。
【００２７】
ステップＳ１３において、エフェクト処理部１２によりエフェクト処理がデコード画像に対して施される。エフェクト処理部１２は、図示していないディスプレイやキーボードなどから構成されるユーザインタフェースが用いられたユーザからの指示に基づくエフェクトを、デコード画像に対して施す。例えば、ユーザは、ディスプレイ上に表示されたデコード画像に対して、所定の文字を重畳させるテロップというエフェクトを施したい場合、キーボードやマウスなど、所定の入力装置を用いて、重畳したい文字を、重畳したい位置に重畳させるための指示を行う。そのような指示がなされた場合、エフェクト処理部１２は、ユーザからの指示に対応するエフェクトを、デコード画像に施す。
【００２８】
エフェクトが施されたデコード画像は、エンコード部１３に供給される。編集機１０には、エンコードされている画像（以下、適宜、第１のエンコード画像と記述する）が入力され、第１のエンコード画像がデコードされ、デコード画像が生成され、そのデコード画像にエフェクトが施される。さらに編集機１０は、エフェクトを施したデコード画像をエンコードし、第２のエンコード画像を生成し、図示していない後段の処理部に出力する。
【００２９】
編集機１０に入力されるエンコードされた画像である圧縮画像データがデコード部１１によりデコードされたことにより生成された画像をデコード画像と記述する。編集機１０に入力されるエンコードされた画像である圧縮画像データを第１のエンコード画像と記述する。また、エンコード部１３でエンコードされた画像である圧縮画像データを第２のエンコード画像と記述する。
【００３０】
第１のエンコード画像は、他の装置でエンコードされた画像であるが、そのエンコード時に用いられたパラメータ（第１のパラメータとする）がある。第１のパラメータとしては、Ｑ値や予測モードなどがある。第１のパラメータは、第１のエンコード画像のデータと共に、ストリームに含まれ、デコード部１１によりデコードされる。この第１のパラメータは、デコード部１１からエンコード部１３に供給されるように、図１に示した編集機１０は構成される。エンコード部１３は、エフェクトが施されたデコード画像を、第１のパラメータを用いてエンコードを行うことができる構成にされる。
【００３１】
例えば、第１のエンコード画像をデコードし、エフェクト処理を施さずに、再度エンコード部１３によりエンコードし、第２のエンコード画像を生成する場合、エンコード部１３が第１のパラメータを用いたエンコードをすることで、第１のエンコード画像と同じ状態のエンコードとなり、結果として第１のエンコード画像に近い第２のエンコード画像を生成することができる。
【００３２】
よって、エフェクト処理部１２によりエフェクト処理が施されない場合、第１のパラメータを用いることで、再エンコードによる画質の劣化を抑えることができる。また、第１のパラメータを用いて再エンコードが行われることで、パラメータを設定するなどの処理にかかる時間を削減することができるため、エンコードに係る時間を短縮することができ、処理速度の向上をはかることができる。
【００３３】
しかしながら、エフェクト処理部１２によりエフェクト処理が施されたデコード画像に対して、第１のパラメータを用いた再エンコードを行うと、第２のエンコード画像は、正しくエンコードされずに、第２のエンコード画像をデコードしたときに、画質が劣化する可能性がある。よって、エフェクト処理部１２によりエフェクト処理が施されたデコード画像に対して、第１のパラメータを用いたエンコードはせずに、エンコード部１３は、通常のエンコード、すなわち、第２のエンコード画像に適した第２のパラメータを生成するエンコード処理を行う。
【００３４】
エンコード部１３は、このように、エフェクト処理部１２によるエフェクト処理が施されていない画像に対しては、デコード部１１によりデコードされた第１のパラメータを用いたエンコードを行い、その結果生成された第２のエンコード画像の画像データと第１のパラメータを含むストリームを生成し、後段の処理に出力する。また、エンコード部１３は、エフェクト処理部１２によりエフェクト処理が施された画像に対しては、デコード部１１によりデコードされた第１のパラメータを用いたエンコードを行わず、通常のエンコードを行った結果生成された第２のエンコード画像の画像データと第２のパラメータを含むストリームを生成し、後段の処理に出力する。
【００３５】
第１のパラメータや第２のパラメータとしては、以下のようなパラメータがある。特に再エンコード時に再利用されるパラメータ（第１のパラメータ）について説明する。最初のエンコード条件を再現するのに必要な、 ＡＶＣ規格書でシンタックス要素をパラメータと呼んでいる。主なものとしては、マクロブロックのタイプ（mb_type）、予測モード（Intra4x4PredMode, Intra8x8PredMode）、量子化パラメータ、動きベクトルなどがある。
【００３６】
このようなパラメータがエンコーダのときに、再利用されるパラメータの候補とされる。こられの候補以外の符号化に関するパラメータも、本実施の形態における再エンコード時に再利用されるパラメータとすることができる。また、ここにあげたパラメータの全てが、再利用されるパラメータとしてもよいし、その一部が再利用されるパラメータとされてもよい。
【００３７】
エンコード部１３はエフェクト処理部１２によるエフェクト処理の有無により、第１のパラメータを用いたエンコードを行うか、または第１のパラメータを用いないエンコード（通常のエンコード）を行うかを決定する。そのために、ステップＳ１４において、エンコードのパラメータに影響のあるエフェクトであるか否かの判断が行われる。この判断は、フラグ設定部１４が行う。フラグ設定部１４は、エフェクト処理部１２から、エフェクト処理部１２が行ったエフェクト処理に関する情報、例えば、テロップというエフェクト処理を施したといった情報を取得する。
【００３８】
フラグ設定部１４は、エフェクト処理部１２からの情報から、エンコードのパラメータに影響のあるエフェクトであるか否かの判断を行う。フラグ設定部１４は、エフェクト処理部１２からの情報が、エフェクト処理を実行していないことを示しているとき、エンコードのパラメータに影響のあるエフェクトではないと判断する。また、フラグ設定部１４は、エフェクト処理部１２からの情報が、エフェクト処理を実行しているが、所定のエフェクトである場合、エンコードのパラメータに影響のあるエフェクトではないと判断する。ここで、エンコードのパラメータに影響のあるエフェクトではないと判断される所定のエフェクトについて説明を加える。
【００３９】
まず、エンコードのパラメータに影響ないエフェクトとは、上記した説明において、第１のパラメータを用いたエンコードを行っても画質の劣化を伴わないエフェクトである。上記したように、エフェクトが施されたデコード画像を再度エンコードするとき、第１のパラメータを用いて行うと、画質の劣化を伴う可能性があるが、第１のパラメータを用いて画質の劣化を伴わない（無視できるほどの画質の劣化しかおきない）エフェクトがあることが、本出願人により確認されている。このようなエフェクトの一例として、カラーコレクションがある。
【００４０】
図３に、本出願人が行った実験による結果を示す。図３に示したグラフは以下のようにして生成された画像のＰＳＮＲ(Peak Signal-to-Noise Ratio)をグラフ化したものである。ＰＳＮＲは、画像の圧縮等を行い、その変換後の画像がどれ程劣化したかを客観的に評価する指標の一つである。
【００４１】
まず、第１のエンコード画像がデコードされ、そのデコード画像に、カラーコレクションのエフェクトが施され、そのデコード画像が再度、通常のエンコードでエンコードされ、第２のエンコード画像（以下、通常エンコード画像と記述する）が生成される。そして、その通常エンコード画像がデコードされた画像（以下、通常デコード画像と記述する）が生成される。通常デコード画像が生成されると、その通常デコード画像と、第１のエンコード画像をデコードしたデコード画像とのＰＳＮＲが算出される。このＰＳＮＲは、輝度信号Ｙ、色差信号Ｃｂ、色差信号Ｃｒのそれぞれに対して算出される。
【００４２】
図３において、第１のエンコード画像をデコードしたデコード画像と、通常デコード画像とのＰＳＮＲのうち、輝度信号ＹのＰＳＮＲは、Normal Yと表記し、バツ印でプロットしたグラフとし、色差信号ＣｂのＰＳＮＲは、Normal Cbと表記し、アスタリスクでプロットしたグラフとし、色差信号ＣｒのＰＳＮＲは、Normal Crと表記し、丸印でプロットしたグラフとしている。
【００４３】
同様に第１のエンコード画像がデコードされ、そのデコード画像に、先ほどと同様のカラーコレクションのエフェクトが施され、そのデコード画像が再度、第１のパラメータが用いられてエンコードがされ、第２のエンコード画像（以下、パラエンコード画像と記述する）が生成される。そして、そのパラエンコード画像がデコードされた画像（以下、パラデコード画像と記述する）が生成される。パラデコード画像が生成されると、そのパラデコード画像と、第１のエンコード画像をデコードしたデコード画像とのＰＳＮＲが算出される。このＰＳＮＲも、輝度信号Ｙ、色差信号Ｃｂ、色差信号Ｃｒのそれぞれに対して算出される。
【００４４】
図３において、第１のエンコード画像をデコードしたデコード画像と、パラデコード画像とのＰＳＮＲのうち、輝度信号ＹのＰＳＮＲは、Para Yと表記し、菱形でプロットしたグラフとし、色差信号ＣｂのＰＳＮＲは、Para Cbと表記し、四角形でプロットしたグラフとし、色差信号ＣｒのＰＳＮＲは、Para Crと表記し、三角形でプロットしたグラフとしている。
【００４５】
図３を参照するに、Normal CbのグラフとPara Cbのグラフは、ほぼ重なっており、プロットされている点が重なっていることが読み取れる。同様に、Normal CrのグラフとPara Crのグラフは、ほぼ重なっており、プロットされている点が重なっていることが読み取れる。
【００４６】
このことから、エフェクトして、色差信号Ｃｂまたは色差信号Ｃｒを変更するエフェクトであれば、第１のパラメータを用いてエンコードを行っても、通常のエンコードを行っても、ほぼ同一の画質の画像を生成できることがわかる。よって、このようなエフェクトの場合、デコードされ、エフェクト処理が施された画像を、再度エンコードするようなときに、デコードされる前のエンコード時に用いられていたパラメータ（第１のパラメータ）を用いてエンコードしても、特に問題がないことがわかる。
【００４７】
また、図３を参照するに、Normal YのグラフとPara Yのグラフは、重なりが少なく、プロットされている点も離れている。このことから、変化量が大きくなるとパラメータを使えなくなる場合が生じるが、エフェクトとして、輝度信号Ｙを変更するエフェクトである場合には、デコードされ、エフェクト処理が施された画像を、再度エンコードするようなときに、デコードされる前のエンコード時に用いられていたパラメータを用いてエンコードするときにも、パラメータを再利用することにより画質劣化を抑えた再エンコードが可能となることがわかる。
【００４８】
このように、色差信号Ｃｂ、色差信号Ｃｒ、輝度信号Ｙを変化させるカラーコレクションの場合、パラメータの再利用をしたエンコードを行っても悪影響がないわけを一考察するに、クロマの予測モードは４つ存在するが、他の予測モードに比較すると少なく、クロマの色相を変化させたときには、その予測モード自体も変化してしまうことは少ないからであると考えられる。
【００４９】
このようにエフェクトによっては、再エンコード時にデコード前のエンコード時に用いられたパラメータを再利用しても、画質の劣化を伴わないエフェクトもある。明るさ調整や色調整などの波形を変化させる編集は、比較的パラメータを再利用しても画質の劣化を伴わないエフェクトであり、文字や画像の挿入のような異なる波形に置き換える編集は、パラメータを再利用すると画質の劣化を伴うエフェクトである。画質の劣化を伴わないと判断されるエフェクトが施された場合には、エンコード部１３は、エフェクト処理部１２からのデコード画像を、デコード部１１から供給されるパラメータを用いてエンコードすることで、エンコードに係る時間の削減や処理能力の削減を行う。
【００５０】
図２のフローチャートの説明に戻る。ステップＳ１４において、エンコードのパラメータに影響のあるエフェクトであるか否かが判断される。この“エンコードのパラメータに影響のあるエフェクト”とは、デコード部１１によりデコードされたパラメータを用いてエンコード部１３がエンコードを行ったとしても、悪影響がないことが確認されているエフェクト以外のエフェクトのことである。換言すれば、第１のパラメータが変化する可能性のあるエフェクトのことである。
【００５１】
なお、上述した説明および以下の説明においては、“エンコードのパラメータに影響のあるエフェクト”は、色差信号を変更するカラーコレクションのエフェクト以外のエフェクトであるとして説明するが、色差信号を変更するカラーコレクションのエフェクトは一例であり、限定を示す記載ではない。
【００５２】
ステップＳ１４において、フラグ設定部１４が、エフェクト処理部１２からの情報から、どのようなエフェクトが加えられたかを判断し、そのエフェクトがエンコードのパラメータに影響があるエフェクトであると判断した場合、ステップＳ１５に処理が進められる。ステップＳ１５において、フラグ設定部１４は、フラグを“０”にセットし、エンコード部１３にフラグを出力する。
【００５３】
ステップＳ１６において、エンコード部１３はエフェクト処理部１２からのエフェクト処理が施されたデコード画像に対してエンコードの処理を施す。このとき、エンコード部１３は、フラグ設定部１４から供給されるフラグが“０”の場合、通常のエンコードを行う。すなわち、デコード部１１から供給される第１のパラメータを用いないエンコードを行う。このように、エンコードのパラメータに影響があるエフェクトが行われたときには、パラメータの再利用を行わずに、エンコードが行われる。
【００５４】
一方、ステップＳ１４において、エンコードのパラメータに影響があるエフェクトではないと判断された場合、ステップＳ１７に処理が進められる。ステップＳ１７において、フラグ設定部１４は、フラグを“１”にセットし（フラグを立て）、エンコード部１３にフラグを出力する。
【００５５】
ステップＳ１８において、エンコード部１３はエフェクト処理部１２からのエフェクト処理が施されたデコード画像に対してエンコードの処理を施す。このとき、エンコード部１３は、フラグ設定部１４から供給されるフラグが“１”の場合、パラメータを再利用するエンコードを行う。すなわち、デコード部１１から供給される第１のパラメータを用いたエンコードを行う。このように、エンコードのパラメータに影響がないエフェクトが行われたときには、パラメータの再利用を行い、エンコードが行われる。
【００５６】
このような処理が繰り返されることで、編集機１０における編集処理（デコード、編集、エンコードといった一連処理）が行われる。
【００５７】
なお、フラグが０のとき（フラグが立っていないとき）には通常エンコードがされるとし、フラグが１のとき（フラグが立っているとき）にはパラメータを再利用したエンコードがされるとしたが、フラグが１のときには通常エンコードがされるとし、フラグが０のときにはパラメータを再利用したエンコードがされるとしても良い。
【００５８】
また、フラグの０か１といった情報は、エンコード部１３によりエンコードされた第２のエンコード画像や第１のパラメータ（第２のパラメータ）とともに、ストリームに含まれるようにしても良い。ストリームに含まれることで、さらに他の装置などで編集が行われる場合などに、編集が加えられた箇所を特定したりする際の処理に用いることができるようになる。
【００５９】
また、フラグではなく、エフェクト毎にエフェクトを識別する値をエフェクト毎に割り振り、その値がストリームに含まれるようにしても良い。そして、エフェクトを識別する値に基づき、第１のパラメータを再利用するエンコードが行われるか否かが判断されるように構成することも可能である。
【００６０】
また、図６を参照して後述するが、フラグが立っているか否かにより、デコード時にデコードされたパラメータを用いたエンコードを行うか否かを判断するため、フラグを用いずに、デコードされたパラメータをエンコード部１３に供給する、または供給しないを切り換えるスイッチなどを設け、そのスイッチを制御することで、デコードされたパラメータを用いたエンコード、またはデコードされたパラメータを用いないエンコードが切り換えられるような構成に、編集機１０を構成することも可能である。
【００６１】
編集機１０において上記したように、パラメータを再利用することで、編集機１０における処理に係る時間を短縮でき、処理能力の削減もはかれる。従来は、エフェクト（編集）が行われる場合にはパラメータを再利用するといったことは行われていなかったため、デコード、編集、エンコードに係る実時間を短縮するのは困難であった。
【００６２】
エフェクトが行われた画に対しパラメータを再利用すると、画の変化により必ずしもそのパラメータがエンコードの条件に最適ではなくなり、結果として画質劣化が引き起こされる場合がある。画質劣化を引き起こす原因の一つとして、編集による画像挿入により、今まで参照されていたマクロブロック（ＭＢ）が変わるが、その参照を変えずにエンコードを行うことで誤差が大きくなり、結果そのようなエンコード画像をデコードしたデコード画像は画質が劣化した画像となる。
【００６３】
よって、エフェクトが行われた場合にはパラメータを再利用しないという処理が行われていた。これに対して、本技術においては、上記したように、パラメータを再利用しても、悪影響が発生することがないエフェクトに対して、パラメータを再利用することが可能となり、処理時間の短縮などが可能となる。
【００６４】
上記した実施の形態において、図２のフローチャートの処理は、例えば、１枚の画像（フレーム）単位毎に行われるようにすることができる。１枚の画像単位毎に行われるようにした場合、１枚のデコード画像に対して施されたエフェクトが、どのようなエフェクトであるかが判断され、そのエフェクトが、第１のパラメータに影響があるようなエフェクトであるか否かが判断される（ステップＳ１４の処理）。そして、１枚のデコード画像に対して、第１のパラメータを用いたエンコードまたは第１のパラメータを用いないエンコードが行われる。
【００６５】
このように構成することも可能であるが、マクロブロック単位で図２のフローチャートの処理が実行されるように構成することも可能である。マクロブロック単位で行われるようにした場合、処理対象とされているマクロブロックに対して施されたエフェクトが、どのようなエフェクトであるかが判断され、そのエフェクトが、第１のパラメータに影響があるようなエフェクトであるか否かが判断される（ステップＳ１４の処理）。そして、処理対象とされているマクロブロックに該当するデコード画像内の領域内の画像に対して、第１のパラメータを用いたエンコードまたは第１のパラメータを用いないエンコードが行われる。
【００６６】
例えば、テロップなどのエフェクトが施される場合、画像全体にテロップが入れられるわけではなく、下側の領域、左上や右上の領域など、画像の一部分の領域に入れられる。換言すれば、画像全体にエフェクトが施されるのではなく、画像の一部分の領域に対してエフェクトが施される。このような画像内の一部分の領域に対してエフェクトがかけられるような場合、マクロブロック単位で図２のフローチャートが実行されるように構成すると、より細かく第１のパラメータを用いたエンコードを行うか否かを判断し、エンコードを行うことが可能となる。
【００６７】
上述した説明および以下の説明において、ブロックとは、マクロブロックに限定される記載ではなく、処理単位とされる所定の大きさの領域であり、１つのマクロブロック、複数のマクロブロック、１枚の画像などを総称する記載であるとする。
【００６８】
［第２の実施の形態における画像処理装置としての編集機について］
第１の実施の形態においては、ステップＳ１４において、エンコードのパラメータに影響のあるエフェクトであるか否かを判断することで、パラメータを再利用したエンコード、またはパラメータを再利用しないエンコードが行われる例を挙げて説明した。次に、エフェクトが施される前の画像と後の画像との変化量に基づいて、パラメータを再利用したエンコード、またはパラメータを再利用しないエンコードが行われる実施の形態について説明する。
【００６９】
図４は、第２の実施の形態における画像処理装置としての編集機の構成を示す図である。図４に示した編集機５０は、デコード部５１、エフェクト処理部５２、エンコード部５３、フラグ設定部５４、および変化量演算部５５から構成される。図４に示した編集機５０は、図１に示した編集機１０と比較し、変化量演算部５５が追加された構成とされている。すなわち、図４に示した編集機５０のデコード部５１、エフェクト処理部５２、エンコード部５３、フラグ設定部５４は、それぞれ、図１に示した編集機１０のデコード部１１、エフェクト処理部１２、エンコード部１３、フラグ設定部１４に対応している。よって、重複する説明は適宜省略する。
【００７０】
変化量演算部５５には、デコード部５１でデコードされたデコード画像と、エフェクト処理部５２によりエフェクト処理が施されたデコード画像（以下、エフェクトデコード画像と記述する）が供給される。変化量演算部５５は、デコード画像とエフェクトデコード画像との変化量を演算し、その変化量を、フラグ設定部５４に供給する。変化量は、デコード画像にエフェクトが施されたことにより、デコード画像がどの程度変化したかを表す値である。
【００７１】
フラグ設定部５４は、変化量演算部５５からの変化量が、所定の閾値以上であった場合、すなわちエフェクトが施されたことにより、デコード画像が変化したことを表している場合、フラグを立てず、所定の閾値以上ではなかった場合、フラグを立てる。この場合のフラグは、第１の実施の形態と同じく、デコード部５１でデコードされた第１のパラメータを用いたエンコードをする場合に立てられるフラグである。この場合も、第１の実施の形態と同じく、デコード部５１でデコードされた第１のパラメータを用いたエンコードをする場合には立てられないフラグとして構成することも可能である。
【００７２】
図５に示したフローチャートを参照し、図４に示した編集機５０の処理について説明する。ステップＳ５１において、デコード部５１は、ストリームを入力し、ステップＳ５２において、入力したストリームをデコードし、デコード画像と第１のパラメータを生成する。ステップＳ５３において、エフェクト処理部５２は、デコード画像に対して、ユーザの指示に基づきエフェクト処理を施す。このステップＳ５１乃至Ｓ５３の処理は、図２のステップＳ１１乃至Ｓ１３の処理と同様に行われる。
【００７３】
ステップＳ５４において、変化量が演算される。変化量演算部５５は、デコード部５１でデコードされたデコード画像と、エフェクト処理部５２によりエフェクト処理が施されたエフェクトデコード画像との変化量を演算する。変化量は、処理対象とされるマクロブロック同士の輝度値の変化量を、画素毎に演算し、その絶対値の和を変化量とする。
【００７４】
または、相関係数を演算し、その相関係数を変化量としたり、変化量の分散を変化量としたりするようにしても良い。また画素同士の変化量を演算し、平均値を演算し、その平均値を変化量としても良い。さらに、エフェクト処理部５２により施されたエフェクトの種類により、変化量の演算の仕方を切り換えるようにし、施されたエフェクトに適した演算で変化量が演算されるようにしても良い。演算の仕方については、適宜、設計の段階などで設定される。
【００７５】
ステップＳ５４において、変化量演算部５５により変化量が演算されると、その変化量は、フラグ設定部５４に供給される。ステップＳ５５において、フラグ設定部５４は、変化量が所定の閾値以上であるか否かを判断する。フラグ設定部５４により、変化量が所定の閾値以上であると判断された場合、ステップＳ５６に処理が進められ、フラグが０に設定される。そして、ステップＳ５７において、エンコード部５３により、デコード画像に対して通常のエンコードが行われる。
【００７６】
すなわちこの場合、デコード画像に対して加えられたエフェクトにより、デコード画像の変化が大きく、パラメータを再利用したエンコードを行うと、画質劣化が生じる可能性があるため、通常のエンコードが行われる。このステップＳ５６，Ｓ５７の処理は、図１におけるステップＳ１５，Ｓ１６の処理と同様に行われる。
【００７７】
一方、ステップＳ５５において、フラグ設定部５４が、変化量が所定の閾値以上ではないと判断した場合、ステップＳ５８に処理が進められ、フラグが１に設定される。そして、ステップＳ５９において、エンコード部５３により、デコード画像に対して第１のパラメータを用いたエンコードが行われる。すなわちこの場合、デコード画像に対してエフェクトが加えられていても、デコード画像の変化が小さいために、パラメータを再利用したエンコードを行っても、画質劣化が生じる可能性は低いため、第１のパラメータを再利用したエンコードが行われる。このステップＳ５８，Ｓ５９の処理は、図１におけるステップＳ１７，Ｓ１８の処理と同様に行われる。
【００７８】
このように変化量が閾値よりも大きいか否かにより、第１のパラメータを再利用したエンコードを行うか否かが決定されるため、閾値を適切に設定することで、効率良いエンコードを行うことができる。例えば、デコード画像にエフェクトが加えられることにより、デコード画像に変化があったとしても、その変化量がどの程度以内であれば、第１のパラメータを再利用したエンコードを行ったとしても画質の劣化ないということを予め検証しておき、その検証結果に基づいて、閾値が設定される。
【００７９】
このような閾値を用いることで、エフェクトが施されているデコード画像に対しても、そのエフェクトが弱く、第１のパラメータを用いてエンコードを行っても画質劣化を起こさない場合には、第１のパラメータを用いてエンコードを行うことが可能となる。
【００８０】
［第３の実施の形態における画像処理装置としての編集機について］
第２の実施の形態においては、エフェクトが施される前の画像と後の画像との変化量に基づいて、フラグを立てるか否かを判断し、そのフラグの状態により、パラメータを再利用したエンコード、またはパラメータを再利用しないエンコードが行われる実施の形態について説明した。以下に第３の実施の形態として、第２の実施の形態のフラグの代わりにスイッチを用いて、第１のパラメータをエンコード部５３に供給するか否かを切り換える実施の形態について説明する。
【００８１】
図６は、第３の実施の形態における画像処理装置としての編集機の構成を示す図である。図６に示した編集機１００は、デコード部１０１、エフェクト処理部１０２、エンコード部１０３、スイッチ制御部１０４、変化量演算部１０５、およびスイッチ１０６から構成される。図６に示した編集機１００は、図４に示した編集機５０と比較し、フラグ設定部５４の代わりに、スイッチ制御部１０４とスイッチ１０６が追加された構成とされている。すなわち、図６に示した編集機１００のデコード部１０１、エフェクト処理部１０２、エンコード部１０３、変化量演算部１０５は、それぞれ、図４に示した編集機５０のデコード部５１、エフェクト処理部５２、エンコード部５３、変化量演算部５５に対応している。よって、重複する説明は適宜省略する。
【００８２】
スイッチ制御部１０４は、変化量演算部１０５からの変化量が、所定の閾値以上であった場合、すなわちエフェクトが施されたことにより、デコード画像が変化したことを表している場合、スイッチ１０６を開く制御を行う。またスイッチ制御部１０４は、変化量演算部１０５からの変化量が、所定の閾値以内であった場合、すなわちエフェクトが施されていない、またはエフェクトが施されていても、デコード画像があまり変化していないことを表している場合、スイッチ１０６を閉じるための制御を行う。
【００８３】
スイッチ１０６の一端は、デコード部１０１と接続され、他端は、エンコード部１０３に接続されている。スイッチ１０６が閉じられることにより、デコード部１０１によりデコードされた第１のパラメータが、エンコード部１０３に供給されるように構成されている。エンコード部１０３は、第１のパラメータが供給されたときには、その供給された第１のパラメータを用いたエンコードを実行し、供給されないときには通常のエンコードを実行するように構成されている。
【００８４】
なお、図６においては、物理的なスイッチをイメージするような図を示したが、スイッチ１０６の構成は、図６に示したような構成に限らず、デコード部１０１からのパラメータを、エンコード部１０３に供給するか否かを切り換える機能を有していれば良い。またスイッチ制御部１０４も、そのような切り換えを制御する機能を有していれば良い。
【００８５】
図７に示したフローチャートを参照し、図６に示した編集機１００の処理について説明する。ステップＳ１０１において、デコード部１０１は、ストリームを入力し、ステップＳ１０２において、入力したストリームをデコードし、デコード画像と第１のパラメータを生成する。ステップＳ１０３において、エフェクト処理部１０２は、デコード画像に対して、ユーザの指示に基づきエフェクト処理を施す。さらにステップＳ１０４において、変化量演算部１０５は、デコード部１０１でデコードされたデコード画像と、エフェクト処理部１０２によりエフェクト処理が施されたエフェクトデコード画像との変化量を演算する。
【００８６】
変化量演算部１０５により変化量が演算されると、その変化量は、スイッチ制御部１０４に供給される。ステップＳ１０５において、スイッチ制御部１０４は、変化量が所定の閾値以上であるか否かを判断する。スイッチ制御部１０４により、変化量が所定の閾値以上であると判断された場合、ステップＳ１０６に処理が進められる。このステップＳ１０１乃至Ｓ１０５の処理は、図５のステップＳ５１乃至Ｓ５５の処理と同様に行われる。
【００８７】
ステップＳ１０６において、スイッチ制御部１０４は、スイッチ１０６を開く制御を行う。スイッチ制御部１０４は、スイッチ１０６が開かれている状態のときには、その状態を維持する制御を行い、スイッチ１０６が閉じられている状態のときには、開く制御を行う。スイッチ１０６が開かれることで、エンコード部１０３には、デコード部１０１によりデコードされた第１のパラメータが供給されない状態となる。
【００８８】
すなわちこの場合、デコード画像に対して加えられたエフェクトにより、デコード画像の変化が大きく、パラメータを再利用したエンコードを行うと、画質劣化が生じる可能性があるため、第１のパラメータが供給されない状態とされ、エンコード部１０３において通常のエンコードが行われる。このステップＳＳ１０７の処理は、図１におけるステップＳ１６の処理と同様に行われる。
【００８９】
一方、ステップＳ１０５において、スイッチ制御部１０４が、変化量が所定の閾値以上ではないと判断した場合、ステップＳ１０８に処理が進められる。ステップＳ１０８において、スイッチ制御部１０４は、スイッチ１０６を閉じる制御を行う。スイッチ制御部１０４は、スイッチ１０６が閉じている状態のときには、その状態を維持する制御を行い、スイッチ１０６が開かれている状態のときには、閉じる制御を行う。スイッチ１０６が閉じられることで、エンコード部１０３には、デコード部１０１によりデコードされた第１のパラメータが供給される状態となる。
【００９０】
ステップＳ１０９において、エンコード部１０３により、デコード画像に対して第１のパラメータを再利用したエンコードが行われる。すなわちこの場合、デコード画像に対してエフェクトが加えられていても、デコード画像の変化が小さいために、パラメータを再利用したエンコードを行っても、画質劣化が生じる可能性は低いため、第１のパラメータを再利用したエンコードが行われる。このステップＳＳ１０９の処理は、図１におけるステップＳ１８の処理と同様に行われる。
【００９１】
このように変化量が閾値よりも大きいか否かにより、第１のパラメータを再利用したエンコードを行うか否かが決定されるため、閾値を適切に設定することで、さらなる効率良いエンコードを行うことができる。
【００９２】
図示はしないが、図１に示した編集機１０の構成を、フラグ設定部１４の代わりに、スイッチ制御部１０４とスイッチ１０６を設ける構成とすることも可能である。エフェクト処理部１２からのエフェクトに関する情報がスイッチ制御部１０４に供給されるように構成され、スイッチ１０６の一端がデコード部１１に接続され、他端がエンコード部１３に接続されるように構成される。また、そのように構成されたときにはスイッチ制御部１０４が、エンコードのパラメータに影響のあるエフェクトが施されたか否かを判断し、施されていないと判断したときだけ、スイッチ１０６が閉じられるように制御するように構成される。
【００９３】
［第４の実施の形態における画像処理装置としての編集機について］
第２、第３の実施の形態においては、エフェクトが施される前の画像と後の画像との変化量に基づいて、フラグを立てるか否か、またはスイッチを閉じるか否かを判断し、そのフラグやスイッチの状態により、パラメータを再利用したエンコード、またはパラメータを再利用しないエンコードが行われる実施の形態について説明した。以下に説明する第４の実施の形態は、上記した処理に加え、さらに参照している画に変化があるか否かを判断し、パラメータの再利用をするエンコードを行うか否かを判断する実施の形態である。
【００９４】
図８は、第４の実施の形態における画像処理装置としての編集機の構成を示す図である。図８に示した編集機１５０は、デコード部１５１、エフェクト処理部１５２、エンコード部１５３、フラグ設定部１５４、変化量演算部１５５、および参照画判断部１５６から構成される。図８に示した編集機１５０は、図４に示した編集機５０と比較し、参照画判断部１５６が追加された構成とされている。すなわち、図８に示した編集機１５０のデコード部１５１、エフェクト処理部１５２、エンコード部１５３、フラグ設定部１５４、変化量演算部１５５は、それぞれ、図４に示した編集機５０のデコード部５１、エフェクト処理部５２、エンコード部５３、フラグ設定部５４、変化量演算部５５に対応している。よって、重複する説明は適宜省略する。
【００９５】
参照画判断部１５６は、処理対象とされているブロックが、エンコード時に参照するブロックに変化があるか否かを判断し、その判断結果を、フラグ設定部１５４に供給する。このような判断を行うために、参照画判断部１５６は、処理対象とされている画が参照する画を記憶する機能を有し、デコード部１５１からのデコード画像を入力し、一時的に記憶する機能を有する。または、後述するように、参照画判断部１５６は、処理対象とされている画が参照する画に変化があるか否かを判断するための情報として、フラグ設定部１５４からの情報を記憶する機能を有する。
【００９６】
フラグ設定部１５４は、変化量演算部１５５からの変化量が、所定の閾値以上であった場合、フラグを立てない。またフラグ設定部１５４は、変化量演算部１５５からの変化量が、所定の閾値以上ではなく、参照画判断部１５６からの判断結果が、処理対象とされているブロックが参照するブロックも変化がないという結果であった場合、フラグを立てる。この場合のフラグは、第１,第２の実施の形態と同じく、デコード部１５１でデコードされた第１のパラメータを用いたエンコードをする場合に立てられるフラグである。この場合も、第１の実施の形態と同じく、デコード部１５１でデコードされた第１のパラメータを用いたエンコードをする場合には立てられないフラグとして構成することも可能である。
【００９７】
ここで、参照画判断部１５６が行う判断について図９を参照して説明する。エンコードの方式としてＭＰＥＧ方式などでは、フレーム内予測、フレーム間予測が行われる。フレーム内予測は、１枚の画像（フレーム）内の隣接画素同士の相関が高いことを利用した予測であり、フレーム間予測は、フレーム間の相関を利用した予測である。図９Ａは、フレーム内予測の参照関係を説明するための図であり、図９Ｂは、フレーム間予測の参照関係を説明するための図である。
【００９８】
図９Ａにおいて、ブロックＡは、編集（エフェクト）が施されたブロックである。このブロックＡをエンコード時に参照するのがブロックＢである。また、ブロックＢをエンコード時に参照するのがブロックＣである。同様に、図９Ｂにおいて、ブロックＡは、編集（エフェクト）が施されたブロックである。このブロックＡをエンコード時に参照するのがブロックＢである。また、ブロックＢをエンコード時に参照するのがブロックＣである。
【００９９】
図９Ａ、図９Ｂに示した参照関係は、一例であり、予測モードなどにより参照するブロックが異なるため、図９Ａに示した参照関係に限定を示すものではない。また、参照画とは、処理対象とされるブロックが、エンコード時に、参照する画ということであり、参照する画が処理対象とされているブロックと同一の大きさのブロックである場合であっても良いし、異なる大きさのブロックである場合であっても良い。
【０１００】
ブロックＡは、エフェクトが施されているために、デコードされたパラメータを用いた再エンコードは行われない。ブロックＢは、ブロックＢ自体にエフェクトが施されていない場合であっても、デコードされたパラメータを用いた再エンコードは行われない。これは、ブロックＡが変化しているため、そのようなブロックＡを参照することで算出されるパラメータ自体も変化する可能性が高い。仮にデコードされたパラメータを用いた再エンコードを、ブロックＡを参照するブロックＢに対して行うと、エフェクト前の誤差が少ないブロック用のパラメータで、誤差が大きいブロックにエンコードをする可能性があり、結果的に画質劣化をまねく恐れがある。よって、ブロックＢに対しても、デコードされたパラメータを用いた再エンコードは行わずに、通常のエンコードが行われる。
【０１０１】
ブロックＣは、ブロックＢを参照してエンコードがされるが、ブロックＢにエフェクトが施されていなければ、換言すれば、ブロックＢに変更がなければ、そのようなブロックＢを参照することで算出されるパラメータ自体が変化する可能性は低い。よって、ブロックＣに対しては、デコードされたパラメータを用いた再エンコードを行う。
【０１０２】
次に、このようなエンコードを行う編集機１５０（図８）の処理について、図１０のフローチャートを参照して説明する。ステップＳ１５１において、デコード部１５１は、ストリームを入力し、ステップＳ１５２において、入力したストリームをデコードし、デコード画像と第１のパラメータを生成する。ステップＳ１５３において、エフェクト処理部１５２は、デコード画像に対して、ユーザの指示に基づきエフェクト処理を施す。さらにステップＳ１５４において、変化量演算部１５５は、デコード部１５１でデコードされたデコード画像と、エフェクト処理部１５２によりエフェクト処理が施されたエフェクトデコード画像との変化量を演算する。
【０１０３】
変化量演算部１５５により変化量が演算されると、その変化量は、フラグ設定部１５４に供給される。ステップＳ１５５において、フラグ設定部１５４は、変化量が所定の閾値以上であるか否かを判断する。フラグ設定部１５４により、変化量が所定の閾値以上であると判断された場合、ステップＳ１５６に処理が進められる。ステップＳ１５６において、フラグ設定部１５４は、フラグを０に設定する。そして、ステップＳ１５７において、エンコード部１５３により、デコード画像に対して通常のエンコードが行われる。このステップＳ１５１乃至Ｓ１５７の処理は、図５のステップＳ５１乃至Ｓ５７の処理と同様に行われる。
【０１０４】
すなわちこの場合、デコード画像に対して加えられたエフェクトにより、デコード画像の変化が大きく、パラメータを再利用したエンコードを行うと、画質劣化が生じる可能性があるため、通常のエンコードが行われる。このステップＳ１５１からステップＳ１５７へと流れる処理は、図９Ａ、図９Ｂにおいて、ブロックＡが処理対象とされたときに行われる処理である。
【０１０５】
一方、ステップＳ１５５において、フラグ設定部１５４が、変化量は所定の閾値以上ではないと判断した場合、ステップＳ１５８に処理が進められる。ステップＳ１５８において、参照している画に変化があるか否かが判断される。参照画判断部１５６は、フラグ設定部１５４が、変化量が所定の閾値以上ではないと判断したときに、参照画に変化があるか否かの判断結果を供給する。参照画判断部１５６は、処理対象とされているブロックが、エンコード時に参照しているブロック（フレーム内予測のときに参照しているブロック、フレーム間予測のときに参照しているブロック）を調べ、そのブロックに変化があるか否かを判断する。
【０１０６】
このように、参照画判断部１５６は、処理対象とされているブロック以外のブロックの情報も必要とするため、そのような情報を記憶する機能を有する。例えば、フラグ設定部１５４によりフラグが立てられたブロックの情報を記憶する。フラグが立てられたブロックは、この場合、変化量が所定の値以上ではないと判断されたブロックである。よって、フラグが立てられたブロックを参照するブロックは、参照している画に変化がないブロックであると判断することができる。
【０１０７】
ステップＳ１５８において、処理対象としているブロックが参照している画（ブロック）に変化があると判断された場合、ステップＳ１５６に処理が進められる。このような処理の流れは、例えば、図９Ａ,図９ＢにおけるブロックＢが処理対象とされているときの処理の流れである。すなわち、ブロックＢ自体は、エフェクトが施されていないために、ステップＳ１５５において、変化量が所定の値以上ではないと判断されるが、ブロックＡを参照しているため、ステップＳ１５８において、参照している画（ブロックＡ）に変化があると判断され、ステップＳ１５６に処理が進められる。
【０１０８】
ステップＳ１５６において、フラグが０に設定されるため、ステップＳ１５７において、通常のエンコードが行われる。このように、処理対象とされているブロック自体に変化がないような場合であっても、参照しているブロックに変化があったような場合には、通常のエンコードが行われる。
【０１０９】
一方、ステップＳ１５８において、処理対象としているブロックが参照している画（ブロック）に変化はないと判断された場合、ステップＳ１５９に処理が進められる。このような処理の流れは、例えば、図９Ａ,図９ＢにおけるブロックＣが処理対象とされているときの処理の流れである。すなわち、ブロックＣ自体は、エフェクトが施されていないために、ステップＳ１５５において、変化量が所定の値以上ではないと判断され、さらに変化がないと判断されているブロックＢを参照しているため、ステップＳ１５８において、参照している画（ブロックＢ）にも変化はないと判断され、ステップＳ１５９に処理が進められる。
【０１１０】
ステップＳ１５８における判断結果は、参照画判断部１５６からフラグ設定部１５４に供給される。フラグ設定部１５４は、参照画判断部１５６からの判断結果に基づき、ステップＳ１５９において、フラグを１に設定する。そして、ステップＳ１６０において、エンコード部１５３により、デコード画像に対して第１のパラメータを用いたエンコードが行われる。すなわちこの場合、デコード画像に対してエフェクトが加えられていても、デコード画像の変化が小さいために、また、参照している画も変化が小さいために、パラメータを再利用したエンコードが行われても、画質劣化が生じる可能性が低いため、第１のパラメータを再利用したエンコードが行われる。
【０１１１】
このように変化量が閾値よりも大きいか否か、かつ参照している画に変化があるか否かにより、第１のパラメータを再利用したエンコードを行うか否かが決定されるため、効率良い、かつ適切なエンコードを行うことができる。
【０１１２】
［第５の実施の形態における画像処理装置としての編集機について］
以下に、量子化ステップ（量子化パラメータ）以外のパラメータは、再利用するときにはそのまま再利用し、量子化ステップは、再利用するときであっても、その値を処理対象とされている画に合わせて変更する実施の形態について説明する。
【０１１３】
図１１は、第５の実施の形態における画像処理装置としての編集機の構成を示す図である。図１１に示した編集機２００は、デコード部２０１、エフェクト処理部２０２、エンコード部２０３、フラグ設定部２０４、変化量演算部２０５、および量子化ステップ変更部２０６から構成される。
【０１１４】
図１１に示した編集機２００は、図４に示した編集機５０と比較し、量子化ステップ変更部２０６が追加された構成とされている。すなわち、図１１に示した編集機２００のデコード部２０１、エフェクト処理部２０２、エンコード部２０３、フラグ設定部２０４、変化量演算部２０５は、それぞれ、図４に示した編集機５０のデコード部５１、エフェクト処理部５２、エンコード部５３、フラグ設定部５４、変化量演算部１５５に対応している。よって、重複する説明は適宜省略する。
【０１１５】
量子化ステップ変更部２０６は、デコード部２０１によりデコードされたパラメータが供給される構成とされている。また、量子化ステップ変更部２０６には、フラグ設定部２０４により設定されたフラグも供給される。量子化ステップ変更部２０６は、フラグ設定部２０４からのフラグが、再エンコード時にパラメータを再利用することを表している場合、供給されたパラメータのうち量子化ステップに係るパラメータを、画に合わせた値に変更し、エンコード部２０３に供給する。
【０１１６】
次に、このようなエンコードを行う編集機２００（図１１）の処理について、図１２のフローチャートを参照して説明する。ステップＳ２０１において、デコード部２０１は、ストリームを入力し、ステップＳ２０２において、入力したストリームをデコードし、デコード画像と第１のパラメータを生成する。ステップＳ２０３において、エフェクト処理部２０２は、デコード画像に対して、ユーザの指示に基づきエフェクト処理を施す。さらにステップＳ２０４において、変化量演算部２０５は、デコード部２０１でデコードされたデコード画像と、エフェクト処理部２０２によりエフェクト処理が施されたエフェクトデコード画像との変化量を演算する。
【０１１７】
変化量演算部２０５により変化量が演算されると、その変化量は、フラグ設定部２０４に供給される。ステップＳ２０５において、フラグ設定部２０４は、変化量が所定の閾値以上であるか否かを判断する。フラグ設定部２０４により、変化量が所定の閾値以上であると判断された場合、ステップＳ２０６に処理が進められる。ステップＳ２０６において、フラグ設定部２０４は、フラグを０に設定する。そして、ステップＳ２０７において、エンコード部２０３により、デコード画像に対して通常のエンコードが行われる。このステップＳ２０１乃至Ｓ２０７の処理は、図５のステップＳ５１乃至Ｓ５７の処理と同様に行われる。
【０１１８】
すなわちこの場合、デコード画像に対して加えられたエフェクトにより、デコード画像の変化が大きく、パラメータを再利用したエンコードを行うと、画質劣化が生じる可能性があるため、通常のエンコードが行われる。
【０１１９】
一方、ステップＳ２０５において、フラグ設定部２０４が、変化量は所定の閾値以上ではないと判断した場合、ステップＳ２０８に処理が進められる。ステップＳ２０８において、フラグ設定部２０４は、フラグを１に設定する。そして、ステップＳ２０９において、量子化ステップが変更される。量子化ステップ変更部２０６は、変化量演算部２０５により演算された変化量に適した量子化ステップを設定する。
【０１２０】
そのために、変化量演算部２０５は、以下のようにして変化量を算出する。エフェクトのうち、特に、ガンマ変換を用いた明るさ調整に関しては、次式に基づいて変化量が算出される。
変化量＝デコード画と編集画の差分画のＤＲ（最大値―最小値）
すなわち、変化量は、デコード画像と、エフェクトデコード画像との差分が計算され、その差分値の最大値と最小値との差分がさらに演算され、その最大値と最小値の差分値が変化量とされる。
【０１２１】
この変化量は、フラグ設定部２０４を介して、量子化ステップ変更部２０６に供給される。なお、変化量演算部２０５から直接、量子化ステップ変更部２０６に変化量が供給されるように構成することも可能である。または、フラグ設定部２０４によりフラグが１にセットされたときだけ、変化量演算部２０５からの変化量が量子化ステップ変更部２０６に供給されるように構成することも可能である。
【０１２２】
量子化ステップ変更部２０６は、デコード部２０１から供給される第１のパラメータに含まれる量子化ステップを抽出し、その値を、供給された変化量、この場合、ＤＲの値により設定されている変更量分だけ、変更した値に変更する。以下に、ＤＲと変更量の関係の一例を示す。
ＤＲ        変更量
≧２５６  ：  −４
≧１９２  ：  −３
≧１２８  ：  −２
≧  ６４  ：  −１
【０１２３】
上記関係が設定されている場合、例えば、ＤＲが６４以上で、１２８未満の場合、量子化ステップは、１だけ減算した値に変更される。同様に、ＤＲが１２８以上で、１９２未満の場合、量子化ステップは、２だけ減算した値に変更され、ＤＲが１９２以上で、２５６未満の場合、量子化ステップは、３だけ減算した値に変更され、ＤＲが２５６以上の場合、量子化ステップは、４だけ減算した値に変更される。但し、変更後の量子化ステップの下限は超えないように制限される。ここでのＤＲの値はフラグ設定部１５４で判定に用いた所定の閾値より小さい値が上限である。
【０１２４】
この関係は、一例であり限定を示すものではない。このように、量子化ステップをＤＲの値により変更するのは、編集が施されることによりエッジがたつ部分が、元の量子化ステップでは高域成分が落ちてぼけた画になってしまうのを防ぐためである。
【０１２５】
また逆に編集が施されることでぼけるところもあるが、高域成分がなくなる変化なので、量子化ステップを下げても問題が生じることはない。さらに、差分画のＤＲが６４以上のブロックが存在しない場合には、量子化ステップを変更しない処理と等価となる。
【０１２６】
このように、フラグが１にセットされた場合、量子化ステップの値が、ＤＲの値（変化量の値）に基づく変更量だけ変更される。そして、この変更後の量子化ステップと、量子化ステップ以外の第１のパラメータが用いられ、ステップＳ２１０において、エンコード部２０３において、エンコードが行われる。
【０１２７】
このように変化量が閾値よりも大きいか否かにより、第１のパラメータを再利用したエンコードを行うか否かが決定されるため、効率良いエンコードを行うことができる。また、第１のパラメータを再利用するエンコードが行われるとき、量子化ステップの値は、その編集画に適した値に変更されるため、第１のパラメータを再利用することで、画質が劣化するようなことをより防ぐことが可能となる。
【０１２８】
［記録媒体について］
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【０１２９】
図１３は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。コンピュータにおいて、ＣＰＵ（Central Processing Unit）１００１、ＲＯＭ（Read Only Memory）１００２、ＲＡＭ（Random Access Memory）１００３は、バス１００４により相互に接続されている。バス１００４には、さらに、入出力インタフェース１００５が接続されている。入出力インタフェース１００５には、入力部１００６、出力部１００７、記憶部１００８、通信部１００９、及びドライブ１０１０が接続されている。
【０１３０】
入力部１００６は、キーボード、マウス、マイクロフォンなどよりなる。出力部１００７は、ディスプレイ、スピーカなどよりなる。記憶部１００８は、ハードディスクや不揮発性のメモリなどよりなる。通信部１００９は、ネットワークインタフェースなどよりなる。ドライブ１０１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア１０１１を駆動する。
【０１３１】
以上のように構成されるコンピュータでは、ＣＰＵ１００１が、例えば、記憶部１００８に記憶されているプログラムを、入出力インタフェース１００５及びバス１００４を介して、ＲＡＭ１００３にロードして実行することにより、上述した一連の処理が行われる。
【０１３２】
コンピュータ（ＣＰＵ１００１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア１０１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０１３３】
コンピュータでは、プログラムは、リムーバブルメディア１０１１をドライブ１０１０に装着することにより、入出力インタフェース１００５を介して、記憶部１００８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部１００９で受信し、記憶部１００８にインストールすることができる。その他、プログラムは、ＲＯＭ１００２や記憶部１００８に、あらかじめインストールしておくことができる。
【０１３４】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０１３５】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【０１３６】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【０１３７】
１０  編集機，  １１  デコード部，  １２  エフェクト処理部，  １３  エンコード部，  １４  フラグ設定部，  ５０  編集機，  ５１  デコード部，  ５２  エフェクト処理部，  ５３  エンコード部，  ５４  フラグ設定部，  ５５  変化量演算部，  １００  編集機，  １０１  デコード部，  １０２  エフェクト処理部，  １０３  エンコード部，  １０４  スイッチ制御部，  １０５  変化量演算部，  １０６  スイッチ，  １５０  編集機，  １５１  デコード部，  １５２  エフェクト処理部，  １５３  エンコード部，  １５４  フラグ設定部，  １５５  変化量演算部，  １５６  参照画判断部，  ２００  編集機，  ２０１  デコード部，  ２０２  エフェクト処理部，  ２０３  エンコード部，  ２０４  フラグ設定部，  ２０５  変化量演算部，  ２０６  参照画判断部，  ２０６  量子化ステップ変更部
【図１】
2012199877.tif 000003
【図２】
2012199877.tif 000004
【図３】
2012199877.tif 000005
【図４】
2012199877.tif 000006
【図５】
2012199877.tif 000007
【図６】
2012199877.tif 000008
【図７】
2012199877.tif 000009
【図８】
2012199877.tif 000010
【図９】
2012199877.tif 000011
【図１０】
2012199877.tif 000012
【図１１】
2012199877.tif 000013
【図１２】
2012199877.tif 000014
【図１３】
2012199877.tif 000015