(57)【特許請求の範囲】
【請求項１】
撮像素子の出力をデジタル信号に変換するＡ／Ｄ変換手段と、
前記Ａ／Ｄ変換器から出力された信号の色キャリアを除去する色キャリア除去手段と、
前記Ａ／Ｄ変換器から出力された信号の高域成分を除去する補間手段と、
前記補間手段から出力された信号から第１の低域輝度信号を作成する第１の作成手段と、
補色系の信号をＲＧＢからなる純色系の信号に変換するマトリクス係数を用いて、前記補間手段から出力された信号をマトリクス変換する変換手段と、
前記変換手段から出力された信号から第２の低域輝度信号を作成する第２の作成手段と、
前記第２の低域輝度信号から前記第１の低域輝度信号を減算する減算手段と、
前記減算手段から出力された信号に対して変更可能である係数を掛ける乗算手段と、
前記乗算手段から出力された信号と、前記色キャリア除去手段にて色キャリアを除去された信号とを加算する加算手段と
を有することを特徴とする信号処理装置。
【請求項２】
前記乗算手段は、前記撮像素子の出力が前記ＲＧＢからなる補色系の信号であった場合に、前記係数を零に設定することを特徴とする請求項１に記載の信号処理装置。
【請求項３】
撮像素子の出力をデジタル信号に変換するＡ／Ｄ変換工程と、
前記Ａ／Ｄ変換工程にて変換された信号の色キャリアを除去する色キャリア除去工程と、
前記Ａ／Ｄ変換工程にて変換された信号の高域成分を除去する補間工程と、
前記補間工程にて高域成分が除去された信号から第１の低域輝度信号を作成する第１の作成工程と、
補色系の信号をＲＧＢからなる純色系の信号に変換するマトリクス係数を用いて、前記補間工程にて高域成分が除去された信号をマトリクス変換する変換工程と、
前記変換工程にてマトリクス変換された信号から第２の低域輝度信号を作成する第２の作成工程と、
前記第２の低域輝度信号から前記第１の低域輝度信号を減算する減算工程と、
前記減算工程にて得られた信号に対して変更可能である係数を掛ける乗算工程と、
前記乗算工程にて得られた信号と、前記色キャリア除去工程にて色キャリアを除去された信号とを加算する加算工程と
を有することを特徴とする信号処理方法。
【請求項４】
前記乗算工程では、前記撮像素子の出力が前記ＲＧＢからなる補色系の信号であった場合に、前記係数を零に設定することを特徴とする請求項３に記載の信号処理方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、信号処理装置、信号処理方法及び記憶媒体に関し、特に補色のカラーフィルターからのデータを処理する信号処理装置に関する。
【０００２】
【従来の技術】
従来の信号処理装置の概略構成を図３に示す。同図において、１０１はＣＣＤを示し、光学レンズを通った画像がこのＣＣＤの受光部で結像される。１０２はＣＣＤ１０１の駆動用パルスやその他のタイミング信号を発生するＴＧ（タイミングジェネレータ）である。１０３はＣＣＤ１０１からの補色の画像データをデジタル信号に変換するＡ／Ｄ変換器である。この画像データは未処理の生データであり、この後にホワイトバランスやディレイライン等の回路を通って、輝度処理と色処理で、その後の処理が分れて行く。
【０００３】
１０４は色補間回路、１０５は色処理系のリニアマトリクス回路であり、これらにより色補間処理やＲＧＢへのマトリクス処理が行われ、比較的低域のＲＧＢの色信号に変換される。このようにＲＧＢの色信号に変換しておくことにより、後段の色ガンマ回路や、色差信号への変換を行えるようにする。１０６は色系のガンマ処理や色差信号へ変換するための色差マトリクス回路である。これは、ＴＶモニターやディスプレイ等の特性に合わすためにノンリニアーな信号処理を行う回路である。１０７は輝度処理系の色キャリア除去回路であり、主にＡ／Ｄ変換器１０３の出力について色キャリア成分の除去が行なわれる。１０８は輝度信号のアパーチャ補正やガンマ処理を行う回路である。
【０００４】
即ち、ＣＣＤ１０１で取り込まれた映像信号は輝度と色に分かれて処理される。輝度信号処理系においては、色キャリア除去回路１０７で色キャリア成分が除去された後、回路１０８でアパーチャ補正やガンマ処理が行なわれ、輝度信号となる。
【０００５】
色信号処理系においては、色補間回路１０４で補間処理され、比較的低帯域の補色（Ｙｅ，Ｃｙ，Ｇ，Ｍｚ）の信号になる。そしてリニアマトリクス回路１０５でＲＧＢの３色に変換され、色差マトリクス回路１０６で色差信号が作成される。
【０００６】
【発明が解決しようとする課題】
例えば、図４に示すような補色のカラーフィルター配列とされている場合、図３に示す回路１０８の出力から得られる輝度信号の色成分は、単純にＹｅ＝Ｇ＋Ｒ、Ｃｙ＝Ｇ＋Ｂ、Ｍｚ＝Ｂ＋Ｒとすると、
Ｙ＝（０．２８６＊Ｒ）＋（０．４２８＊Ｇ）＋（０．２８６＊Ｂ）
となり、正しい輝度信号の色成分の比率
Ｙ＝（０．３＊Ｒ）＋（０．５９＊Ｇ）＋（０．１１＋Ｂ）
と異なる。そのため通常は、カラーフィルターの分光感度特性を正しい輝度信号の色成分の比率に近づくように合わせ込んでいる。
【０００７】
しかしながら、被写体がＣＣＤの設定色温度と大きくずれた時には、輝度信号中の色成分のバランスが崩れ、画質の劣化が生じていた。
特に、アパーチャ補正回路等の入力輝度信号も、色成分のバランスが崩れた輝度信号から補正信号を作っていたため、誤ったアパーチャ補正を行うことがあり、著しく画質を劣化させていた。
【０００８】
そこで、本発明の目的は、被写体の色温度がＣＣＤの設定色温度と大きくずれても、色成分のバランス崩れのない輝度信号を作成することを可能とし、更にまた、ＣＣＤのカラーフィルタの変更に対しても回路変更を行うことなく容易に対応でき、更に、被写体の色温度変化に対して、色再現性と輝度信号中の色成分バランスが別々に適応的に対応でき、より最適な映像信号を作成することを可能とする信号処理装置、信号処理方法及び記憶媒体を提供することにある。
【０００９】
【課題を解決するための手段】
本発明の信号処理装置は、撮像素子の出力をデジタル信号に変換するＡ／Ｄ変換手段と、前記Ａ／Ｄ変換器から出力された信号の色キャリアを除去する色キャリア除去手段と、前記Ａ／Ｄ変換器から出力された信号の高域成分を除去する補間手段と、前記補間手段から出力された信号から第１の低域輝度信号を作成する第１の作成手段と、補色系の信号をＲＧＢからなる純色系の信号に変換するマトリクス係数を用いて、前記補間手段から出力された信号をマトリクス変換する変換手段と、前記変換手段から出力された信号から第２の低域輝度信号を作成する第２の作成手段と、前記第２の低域輝度信号から前記第１の低域輝度信号を減算する減算手段と、前記減算手段から出力された信号に対して変更可能である係数を掛ける乗算手段と、前記乗算手段から出力された信号と、前記色キャリア除去手段にて色キャリアを除去された信号とを加算する加算手段とを有する。
本発明の信号処理装置の一態様において、前記乗算手段は、前記撮像素子の出力が前記ＲＧＢからなる補色系の信号であった場合に、前記係数を零に設定する。
本発明の信号処理方法は、撮像素子の出力をデジタル信号に変換するＡ／Ｄ変換工程と、前記Ａ／Ｄ変換工程にて変換された信号の色キャリアを除去する色キャリア除去工程と、前記Ａ／Ｄ変換工程にて変換された信号の高域成分を除去する補間工程と、前記補間工程にて高域成分が除去された信号から第１の低域輝度信号を作成する第１の作成工程と、補色系の信号をＲＧＢからなる純色系の信号に変換するマトリクス係数を用いて、前記補間工程にて高域成分が除去された信号をマトリクス変換する変換工程と、前記変換工程にてマトリクス変換された信号から第２の低域輝度信号を作成する第２の作成工程と、前記第２の低域輝度信号から前記第１の低域輝度信号を減算する減算工程と、前記減算工程にて得られた信号に対して変更可能である係数を掛ける乗算工程と、前記乗算工程にて得られた信号と、前記色キャリア除去工程にて色キャリアを除去された信号とを加算する加算工程とを有する。
本発明の信号処理方法の一態様において、前記乗算工程では、前記撮像素子の出力が前記ＲＧＢからなる補色系の信号であった場合に、前記係数を零に設定する。
【００２２】
【作用】
本発明においては、色信号を補間し、補色からＲＧＢ純色へマトリクス変換した後、色処理系のＲＧＢ信号から輝度信号中の色成分のバランス崩れのない低域の輝度信号ＹL を作成し、同時にマトリクス変換前の補色（Ｙｅ，Ｃｙ，Ｇ，Ｍｚ）の４色を加算して平均化した低域の輝度信号Ｙi を作る。そして輝度信号ＹL から輝度信号Ｙi を減算し、それに所定の係数（Ｋ）を乗じて低域置換信号とし、それを輝度信号処理系の色キャリア成分が除去された広帯域の輝度信号に足し合わせる構成（低域置換）により、極めて色成分バランスに優れた輝度信号を作成することが可能となる。
【００２３】
【発明の実施の形態】
本発明の実施形態に係る信号処理装置の概略構成を図１に示す。同図において、１はＣＣＤを示し、光学レンズを通った映像がこのＣＣＤ１の受光部で結像される。また、ＣＣＤ１のカラーフィルタには補色系（Ｙｅ：イエロー，Ｃｙ：シアンＧ：グリーン，Ｍｚ：マゼンタ）や純色系（Ｒ：レッド，Ｇ：グリーン，Ｂ：ブルー）があり、その配列の組み合わせなどを考慮すると様々な種類のＣＣＤがあるが、ここでは特に図４に示すような補色のカラーセンサを使用した場合を述べる。２はＣＣＤ１の駆動用パルスやその他のタイミング信号を発生するＴＧ（タイミングジェネレータ）である。
【００２４】
３はＣＣＤ１からの画像データを補色の状態でデジタル信号に変換するＡ／Ｄ変換器である。このデジタル信号は未処理のデジタル生データであり、この後にホワイトバランスやディレイライン等の回路を通って、輝度処理系と色処理系へ分かれてゆく。
【００２５】
４は色処理系の色補間回路であり、ここで色補間処理が行われ各画素毎の色データが揃い、高域成分が除去され、低域の色信号が作られる。５は色補間回路４の色補間処理後のデータをＲＧＢの３色の信号に変換するマトリクス変換回路である。ここで、被写体の色温度によって適応的にマトリクス係数を変えて、ＲＧＢの純色に変換することにより、マトリクス変換回路５からの出力は、色再現性良く色ガンマ処理や色差信号への変換を行うことができる。更に、本実施形態の重要ポイントとなる色成分バランスの良い低域の輝度信号を作るための元の信号でもある。
【００２６】
６は色系のガンマ処理や色差信号へ変換するための色差マトリクス回路である。これは、ＴＶモニター等のブラウン管の特性にマッチングした映像信号を作成するためのノンリニアーな処理回路である。また、ＴＶモニターばかりでなく、プリンター出力やＪＰＥＧ圧縮する場合も、高画質を維持するために重要な回路である。
【００２７】
７は輝度処理系の色キャリア除去回路であり、Ａ／Ｄ変換器３のデジタル信号の色キャリア成分の除去が行なわれる。例えば、垂直と水平の２次元に対して、ＬＰＦ（ローパスフィルタ）処理が行われる。
【００２８】
８は輝度信号のアパチャー補正やガンマ処理等を行う回路である。この回路８にて、色差マトリクス回路６と同様に輝度信号をＴＶモニター等に映し出すための処理を行なう。
【００２９】
本実施形態では、この前段の回路（図１中、破線で囲む。）でマトリクス変換回路５のＲＧＢ出力信号から作成された低域の輝度信号ＹL で、色キャリア除去回路７の輝度信号出力の低域部分を置換する。
【００３０】
９はマトリクス変換回路５のＲＧＢ信号から低域輝度信号ＹL を作成するためのマトリクス変換回路である。１０は低域置換のための減算回路と係数倍回路である。１２はマトリクス変換前の低域信号から輝度信号Ｙi を作成する作成回路である。ここで、輝度信号Ｙi は色補間回路４の出力（Ｙｅ，Ｃｙ，Ｇ，Ｍｚ）を平均化して輝度信号としたものであり、色キャリア除去回路７の輝度信号出力の低域部分に相当する。そして、マトリクス変換回路９の低域輝度信号出力である輝度信号ＹL からＹi を減算し、その出力を係数倍回路で係数（Ｋ）倍して、色キャリア除去回路７の光輝度信号出力に加算している。
【００３１】
この回路構成により、係数（Ｋ）の変更により低域置換量を任意に変更することができる。そして、この係数（Ｋ）を適応的に変えることにより、最終的に出力する輝度信号の色成分バランスや輝度信号の特性補正を最適なものとすることが可能となる。例えば、係数（Ｋ）をＫ＝０にすることにより、ＣＣＤ１を純色のセンサーに置き換えても回路変更をする必要がなく、低域置換しない場合にも対応できるようになっている。
【００３２】
１１は、低域置換信号を色キャリア除去回路７の輝度信号出力に加算する加算器である。
【００３３】
以下、本実施例に係る信号処理装置の主要動作を説明する。図２は、この主要動作を示すフローチャートである。
【００３４】
先ず、ＣＣＤ１で取り込まれた映像信号は、Ａ／Ｄ変換（ステップＳ１）後、輝度と色で別々に処理される。
【００３５】
色信号処理系による色信号処理プロセスにおいて、色補間回路４で補間処理され（ステップＳ２）、比較的低帯域の補色（Ｙｅ，Ｃｙ，Ｇ，Ｍｚ）の信号になる。そして、リニアマトリクス回路５で補色の（Ｙｅ，Ｃｙ，Ｇ，Ｍｚ）４色からＲＧＢの３色に変換を行う（ステップＳ３）。更に、色差マトリクス回路６でガンマ処理や色差マトリクス変換を行い色差信号を作成する（ステップＳ４）。
【００３６】
この色信号処理プロセスでは、ステップＳ３と同時に、補色の４色を加算して平均化することにより低域の輝度信号Ｙi を作成する（ステップＳ５）。そしてマトリクス変換回路９で、マトリクス変換回路５の出力のＲＧＢから輝度信号中の色成分のバランス崩れのない低域の輝度信号ＹL を作成する（ステップＳ６）。そして、この輝度信号ＹL から前述の輝度信号Ｙi を減じ（ステップＳ７）、それに係数（Ｋ）を乗じることにより、低域置換用の輝度信号を作成する（ステップＳ８）。
【００３７】
他方、輝度信号処理系による輝度信号処理プロセスにおいて、色キャリア除去回路７で色キャリア成分が除去された（ステップＳ９）後、加算器１１で上記の低域置換用の輝度信号を足し合わせることにより低域置換を行う（ステップＳ１０）。そして、回路８でアパーチャ補正やガンマ処理を行い、輝度信号を作成する（ステップＳ１１）。
【００３８】
即ち、色キャリア除去７の輝度出力から低域部分のＹi を減じ、ＲＧＢからの輝度信号ＹL を加算することにより、低域部分を輝度信号中の色成分のバランス崩れのない輝度信号に置換することが可能となる。
【００３９】
なお、本実施形態において説明した信号処理装置の機能を実現するように、各種のデバイス（手段）を動作させるためのプログラムコード自体及びそのプログラムコードをコンピュータに供給するための手段や、信号処理方法の各動作（ステップＳ１〜Ｓ１１）を実行するための手段、例えば、かかるプログラムコードを格納した記憶媒体は本発明の範疇に属する。
【００４０】
またこの場合、所定の記憶再生装置により、記憶媒体に格納されているプログラムコードが読み出され、ＥＥＰＲＯＭが動作する。かかるプログラムコードを記憶する記憶媒体としては、例えばフロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、ＣＤ−ＲＯＭ、磁気テープ、不揮発性のメモリカード、ＲＯＭ等を用いることができる。
【００４１】
また、コンピュータが供給されたプログラムコードを実行することにより、本実施形態の機能が実現されるだけでなく、そのプログラムコードがコンピュータにおいて稼働しているＯＳ（オペレーティングシステム）或いは他のアプリケーションソフト等と共同して本実施形態の機能が実現される場合にもかかるプログラムコードは本発明に含まれる。
【００４２】
更に、供給されたプログラムコードがコンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納された後、そのプログラムコードの指示に基づいてその機能拡張ボードや機能拡張ユニットに備わるＣＰＵ等が実際の処理の一部または全部を行い、その処理によって本実施形態の機能が実現されるシステムも本発明に含まれる。
【００４３】
【発明の効果】
本発明によれば、色処理系のＲＧＢ信号から輝度信号中の色成分のバランス崩れのない低域の輝度信号ＹL を作成し、同時に補色（Ｙｅ，Ｃｙ，Ｇ，Ｍｚ）の４色を加算して平均化することにより低域の輝度信号Ｙi を作成して、輝度信号ＹL から前述の輝度信号Ｙi を減じ、それに係数（Ｋ）を乗じて、それを輝度信号処理系の色キャリア成分が除去された広帯域の輝度信号に足し合わせる構成（低域置換）により、被写体の色温度がＣＣＤの設定色温度と大きくずれても、色成分のバランス崩れのない輝度信号を作成することができる。更にまた、前記低域置換量を係数（Ｋ）を用いて調節することにより、ＣＣＤのカラーフィルタの変更にも回路変更を行うことなく容易に対応できる。更に、被写体の色温度変化に対して、色再現性と輝度信号中の色成分バランスが別々に適応的に対応でき、より最適な映像信号を作り出すことが可能となる。
【００４４】
そして、これらにより、後段のアパーチャー補正回路等でも、色成分のバランス崩れのない輝度信号から正確な補正信号を作成することができ、高画質な映像が得られるようになる。
【図面の簡単な説明】
【図１】本発明の実施形態に係る信号処理装置の主要構成を示すブロック図である。
【図２】本発明の実施形態に係る信号処理方法の主要構成を示すフローチャートである。
【図３】従来の信号処理装置の主要構成を示すブロック図である。
【図４】補色のＣＣＤカラーフィルター配列の一例を示す模式図である。
【符号の説明】
１  ＣＣＤ
２  タイミングジェネレータ
３  Ａ／Ｄ変換器
４  色補間回路
５  マトリクス変換回路
６  色差マトリクス回路
７  色キャリア除去回路
８  （アパチャー補正やガンマ処理等を行う）回路
９  マトリクス変換回路
１０  係数倍回路
１１  加算器
１２  作成回路
【図１】
0004306832.tif 000002
【図２】
0004306832.tif 000003
【図３】
0004306832.tif 000004
【図４】
0004306832.tif 000005