(57)【特許請求の範囲】
【請求項１】
画像信号を可変長符号化する符号化手段と、
上記画像信号の画面内で所望のエリアを指定するエリア指定手段と、
初期値で与えられている量子化、或いは、それよりも粗くした量子化を行って符号化を行い符号化されたデータが一定のレートで出力されるように制御する第１のモードと、前記初期値で与えられている量子化を行って符号化を行い符号化されたデータがそのデータ量に応じたレートで出力されるように制御する第２のモードとを、上記指定されたエリアの内か外かに応じて選択的に行う制御手段とを備えたこと特徴とする画像処理装置。
【請求項２】
上記符号化されたデータを記録媒体に記録する記録処理手段を設け、上記制御手段は、符号化されたデータが一定の記録レートで記録媒体に記録されるように制御する第１のモードと、所定の画質となる符号化を行い符号化されたデータがそのデータ量に応じた記録レートで記録媒体に記録されるように制御する第２のモードとを選択的に行うことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
上記制御手段は、上記エリアの外では上記第１のモードを選択し、上記エリアの内では上記第２のモードを選択することを特徴とする請求項１又は２に記載の画像処理装置。
【請求項４】
上記画像信号は撮像手段から得られるものであり、上記エリア指定手段は、上記撮像手段の撮像画面内の所望のエリアを指定可能になされていることを特徴とする請求項１〜３のいずれか１項に記載の画像処理装置。
【請求項５】
画像信号を可変長符号化する手順と、
上記画像信号の画面内で所望のエリアを指定する手順と、
初期値で与えられている量子化、或いは、それよりも粗くした量子化を行って符号化を行い符号化されたデータが一定のレートで出力されるように制御する第１のモードと、前記初期値で与えられている量子化を行って符号化を行い符号化されたデータがそのデータ量に応じたレートで出力されるように制御する第２のモードとを、上記指定されたエリアの内か外かに応じて選択的に行う手順とを有することを特徴とする画像処理方法。
【請求項６】
画像信号を可変長符号化する手順と、
上記画像信号の画面内で所望のエリアを指定する手順と、
初期値で与えられている量子化、或いは、それよりも粗くした量子化を行って符号化を行い符号化されたデータが一定のレートで出力されるように制御する第１のモードと、前記初期値で与えられている量子化を行って符号化を行い符号化されたデータがそのデータ量に応じたレートで出力されるように制御する第２のモードとを、上記指定されたエリアの内か外かに応じて選択的に行う手順とをコンピュータに実行させるためのプログラムを記憶したことを特徴とするコンピュータ読み取り可能な記憶媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、画像信号を圧縮符号化処理して記録するのに用いて好適な画像処理装置、方法、及びそれらに用いられるコンピュータ読み取り可能な記憶媒体に関するものである。
【０００２】
【従来の技術】
従来の画像処理装置では、画像信号を量子化、可変長符号化した上で、そのデータを記録媒体に記録する。
その際、記録媒体に記録する目標時間を優先するために、記録媒体への記録レートが一定となるよう制御することが行われている。すなわち、データ容量が目標容量より多い場合は次の量子化を粗くし、データ容量が目標容量又はそれ以下の場合は初期値で与えられている通常の量子化を行うように制御して、一定の符号量が発生するよう量子化テーブルを制御するようにしている。
【０００３】
【発明が解決しようとする課題】
しかしながら、上記従来の技術では、記録媒体に記録する目標時間を優先すべく、記録レートを一定に制御するため、動きの速い画像が入力されたり、複雑な絵柄の画像が入力されたりした場合は、量子化が粗くなり、画質が劣化するという問題があった。
【０００４】
特に、きれいに撮影したい被写体に対して、画面内の重要でない部分の画像の動きが速かったり、複雑な絵柄であったりした場合には、その重要でない部分に影響されて、きれいに撮影したい被写体の画質までもが劣化してしまうことになる。
【０００５】
本発明は、上記の問題を解決するために成されたもので、画像の所望のエリアの画質をよくしながらも、十分な目標記録時間を確保できるようにすることを目的としている。
【０００６】
【課題を解決するための手段】
上記目的を達成するために、本発明による画像処理装置においては、画像信号を可変長符号化する符号化手段と、上記画像信号の画面内で所望のエリアを指定するエリア指定手段と、初期値で与えられている量子化、或いは、それよりも粗くした量子化を行って符号化を行い符号化されたデータが一定のレートで出力されるように制御する第１のモードと、前記初期値で与えられている量子化を行って符号化を行い符号化されたデータがそのデータ量に応じたレートで出力されるように制御する第２のモードとを、上記指定されたエリアの内か外かに応じて選択的に行う制御手段とを備えた点に特徴を有する。
【０００８】
また、本発明による画像処理方法においては、画像信号を可変長符号化する手順と、上記画像信号の画面内で所望のエリアを指定する手順と、初期値で与えられている量子化、或いは、それよりも粗くした量子化を行って符号化を行い符号化されたデータが一定のレートで出力されるように制御する第１のモードと、前記初期値で与えられている量子化を行って符号化を行い符号化されたデータがそのデータ量に応じたレートで出力されるように制御する第２のモードとを、上記指定されたエリアの内か外かに応じて選択的に行う手順とを有する点に特徴を有する。
【０００９】
また、本発明によるコンピュータ読み取り可能な記憶媒体においては、画像信号を可変長符号化する手順と、上記画像信号の画面内で所望のエリアを指定する手順と、初期値で与えられている量子化、或いは、それよりも粗くした量子化を行って符号化を行い符号化されたデータが一定のレートで出力されるように制御する第１のモードと、前記初期値で与えられている量子化を行って符号化を行い符号化されたデータがそのデータ量に応じたレートで出力されるように制御する第２のモードとを、上記指定されたエリアの内か外かに応じて選択的に行う手順とをコンピュータに実行させるためのプログラムを記憶した点に特徴を有する。
【００１０】
以上述べた本発明では、例えば、きれいに撮影したい被写体のエリアを指定しておけば、そのエリアにおいて第２のモードで制御され、所定の画質となる符号化を行い符号化されたデータがそのデータ量に応じた記録レートで記録媒体に記録される。したがって、量子化が粗くなることがなく、画質が劣化するのを防ぐことができる。また、当該エリア外においては第１のモードで制御され、符号化されたデータが一定の記録レートで記録媒体に記録される。したがって、十分な目標記録時間を確保することができる。
【００１１】
【発明の実施の形態】
以下、本発明の実施の形態を図面と共に説明する。
図１は本発明の実施の形態による画像処理装置を含むビデオカメラを示すブロック図である。
図１において、１０１はレンズ、１０２は撮像素子、１０３はカメラ信号処理回路、１０４は画面並び替え回路、１０５はスイッチ、１０６は減算器、１０７はＤＣＴ回路、１０８は量子化回路、１０９は可変長符号化回路、１１０は逆量子化回路、１１１はＩＤＣＴ回路、１１２は加算器、１１３は動き補償予測回路、１１６は記録レート制御回路、１１７は記録処理回路、１１８は記録媒体、１２３は遅延回路である。
【００１２】
さらに、１１９はエリア選択処理部、１２０はジョイスティック、１２１は視線入力部、１２２はキー入力部である。
【００１３】
次に、本実施の形態の画像処理装置の動作について説明する。
レンズ１０１から入力された光画像は、撮像素子１０２で１フレーム単位のディジタルの画像信号に変換されてカメラ信号処理回路１０３に入力される。カメラ信号処理回路１０３では、画像信号を用いて補正値を決定し、画像信号を補正した画像データを色差信号、輝度信号に変換して１フレーム単位に画面並び替え回路１０４へ出力する。画面並び替え回路１０４は、複数フレームを記憶できるメモリを持っており、入力されたフレームの順番を入れ替えて出力する。
【００１４】
図２を用いて画面並び替え回路１０４による並び替えについて説明する。図２は、画面並べ替えの順番の一例を示す。
画面並び替え回路１０４には、第１フレーム、第２フレーム、第３フレーム、…と入力され、画面並び替えを行って第３フレーム、第１フレーム、第２フレーム、…と出力される。
【００１５】
上記画面入れ替えは、図３に表わす符号化のように、イントラ符号化及びインター符号化を行うために必要な並び替えである。イントラ符号化とは、フレーム内のデータのみで符号化するものであり、図３のＩピクチャを生成する符号化である。また、インター符号化とは、フレーム間予測も含めて符号化するものであり、図３のＰ及びＢピクチャを生成する符号化である。
【００１６】
図１に戻り、本実施の形態の動作をイントラ符号化とインター符号化に分けて説明する。
イントラ符号化する場合は、スイッチ１０５はＡ側に接続される。したがって、画面並び替え回路１０４から出力された画像データは、ＤＣＴ回路１０７に入力され直交変換される。直交変換された画像データは、量子化回路１０８で量子化され、量子化された画像データは逆量子化回路１１０と可変長符号化回路１０９にと入力される。
【００１７】
上記量子化されたデータは逆量子化回路１１０で逆量子化され、さらにＩＤＣＴ回路１１１で逆直交変換される。逆直交変換された復元画像データは、動き補償予測回路１１３に入力される。このときスイッチ１１４はＯＦＦにしておく。
動き補償予測回路１１３は、後でインター符号化する場合に現在の処理フレームの復元画像を参照できるようにデータを蓄積する。このとき動き補償予測回路１１３から可変長符号化回路１０９への動き情報はゼロである。
【００１８】
また、可変長符号化回路１０９に入力された上記量子化されたデータは可変長符号化され、バッファ１１５へ出力される。バッファ１１５内の画像データは、記録処理回路１１７から読み出されて処理された後、記録媒体１１８に記録される。
【００１９】
記録レート制御回路１１６は、バッファ１１５のデータ量、エリア選択処理部１１９からのエリア情報に基づいて、量子化回路１０８の量子化テーブルの選択と、記録処理回路１１７の記録レートとを制御する。この制御方法については後述する。
【００２０】
一方、インター符号化する場合は、スイッチ１０５はＢ側に接続される。したがって、画面並び替え回路１０４から出力された画像データからは、動き補償予測回路１１３から出力された予測画像のデータが減算器１０６を介して減算される。減算器１０６は、時間軸方向の冗長度を落とすためのものである。減算器１０６で時間軸方向の冗長度を落とした画像データは、ＤＣＴ回路１０７に入力され直交変換される。直交変換された画像データは量子化回路１０８で量子化され、量子化された画像データは、逆量子化回路１１０と可変長符号化回路１０９に入力される。
【００２１】
画面並び替え回路１０４から出力された画像データは、遅延回路１２３で遅延されて動き補償予測回路１１３に入力される。遅延回路１２３では、ＤＣＴ回路１０７、量子化回路１０８、逆量子化回路１１０，ＩＤＣＴＴ回路１１１の処理にかかる時間だけデータが遅延される。
【００２２】
上記量子化されたデータは逆量子化回路１１０で逆量子化され、１ＤＣＴ回路１１１で逆直交変換される。スイッチ１１４をＯＮにして、逆直交変換された画像データと動き補償予測回路１１３からの予測画像とを加算器１１２で加算して復号画像を生成し、次の画像符号化のために動き補償予測回路１１３に入力して蓄積する。動き補償予測回路１１３は、予測画像と動きベクトルを出力し、動きベクトルは可変長符号化回路１０９に入力され符号化される。また、次のインター符号化のために予測画像を蓄積しておく。
【００２３】
また、可変長符号化回路１０９に入力された上記量子化されたデータは可変長符号化され、バッファ１１５へ出力される。バッファ１１５内の画像データは、記録処理回路１１７から読み出されて処理された後、記録媒体１１８に記録される。
【００２４】
記録レート制御回路１１６は、バッファ１１５のデータ量、エリア選択処理部１１９からのエリア情報に基づいて、量子化回路１０８の量子化テーブル（量子化パラメータ）の選択と、記録処理回路１１７の記録レートとを制御する。この制御方法については後述する。
【００２５】
次に、エリア選択処理部１１９について説明する。
画像内にきれいに撮影したい被写体があった場合、カメラ信号処理回路１０３からの撮影画像に基づいて、ジョイスティック１２０、視線入力部１２１、キー入力部１２２等を使って、きれいに撮影したい被写体に合わせて形状、大きさを選択することにより、きれいに撮影したい被写体のエリアを指定する。そして、上記撮影画像が上記エリア内か否かを判定して記録レート制御回路１１６へ出力する。
【００２６】
次に、図４を参照して上記エリアの指定について説明する。
図４（Ａ）〜（Ｈ）における枠は画像信号のフレームを示しており、（Ａ）はエリアの形状を円にした場合、（Ｂ）はエリアの形状を楕円にした場合、（Ｃ）はエリアの形状を正方形にした場合、（Ｄ）はエリアの形状を長方形にした場合を示している。なお、指定できる形状は、図４に示す限りではない。
【００２７】
また、エリアの位置を変えられるようにすれば、例えば（Ｅ）に示すように、（Ａ）の円形状の位置を変えることができる。また、エリアの大きさを変えられるようにすれば、例えば（Ｆ）に示すように、（Ａ）の円形状の大きさを変えることができる。また、複数のエリアを同時に指定してもよく、円形状のエリア及び正方形のエリアを選別した例が（Ｇ）である。
【００２８】
これらエリアの形状、大きさ、位置は、ジョイスティック１２０、視線入力部１２１、キー入力部１２２等を用いて指定する。もちろん、エリアの形状、大きさ、位置の選択順はどの順でもよい。図４（Ｈ）は画像を実際に選択している様子を示している。
【００２９】
次に、記録レート制御回路１１６の動作について、上記エリア外とエリア内についてそれぞれ説明する。
カメラ信号処理回路１０３からの画像信号が上記エリア外のものである場合は、記録レート制御回路１１６は、一定の記録レートで記録媒体１１８に記録するように記録処理回路１１７を制御する。従って、バッファ１１５から記録処理回路１１７へのデータの読み出しも一定のレートになる。
【００３０】
またこのとき、記録レート制御回路１１６は、バッファ１１５のデータ容量が目標容量より多い場合は次の量子化を粗くし、容量が目標容量又はそれ以下の場合は、初期値で与えられている通常の量子化を行うように量子化回路１０８を制御する。即ち、一定の符号量が発生するように量子化テーブル（量子化パラメータ）を制御する。
【００３１】
一方、上記画像信号がエリア内のものである場合は、記録レート制御回路１１６は初期値で与えられている通常の量子化を行うように量子化回路１０８を制御する。また、記録レート制御回路１１６は、バッファ１１５のデータ容量を見て、目標容量より多くならないように、記録処理回路１１７へ記録レートを可変するように制御する。従って、符号化で発生したデータ量に応じた記録レートで記録媒体１１８に記録される。
【００３２】
記録媒体１１８への最大記録レートに達しても、バッファ１１５のデータ容量が目標容量以下にならない場合は、次の量子化を粗くするように量子化回路１０８を制御することにより、バッファの破綻は避けられる。
【００３３】
本実施の形態によれば、一定の記録レートになるように量子化係数テーブルを制御して符号化を行い記録を行うモードＡと、所定の符号化により発生した符号量に応じた記録レートで記録を行うモードＢの２モードを選択できるように構成されているので、きれいに撮影したい被写体のエリアを指定すれば、そのエリアにおいてモードＢの制御を行い、上記エリア外においてはモードＡの符号化を行うことができる。これによって、きれいに撮影したい被写体の画像の劣化を防ぐことができ、なおかつ、記録媒体に記録する時間も十分に確保できる。
【００３４】
次に、他の実施の形態としての記憶媒体について説明する。
上述した実施の形態による図１に示すシステムは、ハードウェアで構成することもできるが、ＣＰＵとメモリを有するコンピュータシステムで構成することもできる。コンピュータシステムで構成する場合、上記メモリは、本発明による記憶媒体を構成する。この記憶媒体には、上記実施の形態で説明した動作及び処理を実行するためのプログラムがそれぞれ記憶される。
【００３５】
また、この記憶媒体としては、ＲＯＭ、ＲＡＭ等の半導体メモリ、光ディスク、光磁気ディスク、磁気記憶媒体等を用いてよく、これらをＣＤ−ＲＯＭ、ＦＤ、磁気カード、磁気テープ、不揮発性メモリカード等に構成して用いてよい。
【００３６】
従って、この記憶媒体を上記実施の形態によるシステム以外の他のシステムあるいは装置で用い、そのシステムあるいはコンピュータがこの記憶媒体に格納されたプログラムコードを読み出し、実行することによっても、上記各実施の形態と同等の機能を実現できると共に、同等の効果を得ることができ、本発明の目的を達成することができる。
【００３７】
また、コンピュータ上で稼働しているＯＳ等が処理の一部又は全部を行う場合、あるいは記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された拡張機能ボードやコンピュータに接続された拡張機能ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づいて、上記拡張機能ボードや拡張機能ユニットに備わるＣＰＵ等が処理の一部又は全部を行う場合にも、上記各実施の形態と同等の機能を実現できると共に、同等の効果を得ることができ、本発明の目的を達成することができる。
【００３８】
【発明の効果】
以上説明したように、本発明によれば、画像中の所望のエリア、例えば撮像画像中のきれいに撮影したい被写体等の画像の劣化を防ぎながらも、その画像を記録するための目標時間も十分に確保することができる。
【図面の簡単な説明】
【図１】本発明の実施の形態による画像処理装置を含むビデオカメラのブロック図である。
【図２】フレーム画像の画像並び替えの様子を示した構成図である。
【図３】符号化順序を示す構成図である。
【図４】エリア選択の様子を示す構成図である。
【符号の説明】
１０４      画像並び替え回路
１０５      スイッチ
１０６      減算器
１０７      ＤＣＴ回路
１０８      量子化回路
１０９      可変長符号化回路
１１０      逆量子化回路
１１１      ＩＤＣＴ回路
１１２      加算器
１１３      動き補償予測回路
１１４      スイッチ
１１５      バッファ
１１６      記録レート制御回路
１１７      記録処理回路
１１９      エリア選択処理部
１２０      ジョイスティック
１２１      視線入力部
１２２      キー入力部
１２３      遅延回路
【図１】
0004006139.tif 000002
【図２】
0004006139.tif 000003
【図３】
0004006139.tif 000004
【図４】
0004006139.tif 000005