(57)【特許請求の範囲】
【請求項１】
(a)画像情報を入力するための入力機構と、
(b)前記入力機構より受け取る画像により得られた値から輝度を表すV値を入力するV入力機構と、
(c)前記入力機構より受け取る画像により得られた値からR値とG値の色差であるCR-G値を入力するR-G入力機構と、
(d)前記入力機構より受け取る画像により得られた値からY値とB値の色差であるCY-B値を入力するY-B入力機構と、
(e)前記V入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のVの画素値を取り出すV近傍画像抽出機構と、
(f)前記R-G入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のCR-Gの画素値を取り出すR-G近傍画像抽出機構と、
(g)前記Y-B入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のCY-Bの画素値を取り出すY-B近傍画像抽出機構と、
(h)前記V近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のVの局所的変域を測定するV近傍画像画素値変域解析機構と、
(i)前記R-G近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のCR-G値の局所的変域を測定するR-G近傍画像画素値変域解析機構と、
(j)前記Y-B近傍抽出機構から近傍画像を受け取り、当該画素近傍のCY-B値の局所的変域を測定するY-B近傍画像画素値変域解析機構と、
(k)前記V入力機構及び前記V近傍画像画素値変域解析機構の結果に基づき、画像の下限値、標準偏差値、画像全体の平均値、画像の近傍の平均値によって前記V近傍中心の画素値の補正量を決定するVOn-center画像画素値変量決定機構と、
(l) 前記V入力機構及び前記V近傍画像画素値変域解析機構の結果に基づき、画像の上限値、標準偏差値、画像全体の平均値、画像の近傍の平均値によって前記V近傍中心の画素値の補正量を決定するVOff-center画像画素値変量決定機構と、
(m)前記VOn-center画像画素値変量決定機構とVOff-center画像画素値変量決定機構で得られた変数とによって、前記VOn-center画像画素値とVOff-center画像画素値を修正し、これらの比の対数で得られる逆S字型の曲線を描く関数で、前記V近傍中心画素の画素値を決定するV画素値補正機構と、
(n)前記V画素値補正機構で得られた画素値を正規化するV画素値正規化機構と、
(o)前記R-G入力機構および前記R-G近傍画像画素値変域解析機構の結果に基づき、S字型を描く曲線で全体的な補正量を決定するR-G画素値補正機構と、
(p) 前記R-G画素値補正機構で得られて画素値を正規化するR-G画素値正規化機構と、
(q)前記R-G近傍画像抽出機構から得られた変数によりRの補正変量ROn+Offを決定し、前記R-G正規化機構で得られた値を微調整するR近傍画像画素値調節機構と、
(r)前記R-G近傍画像抽出機構から得られたG近傍中心の画素値および近傍のR平均値に基づき、Gの補正変量GOn+Offを決定し、前記R-G画素値正規化機構より得られたG値を微調整するG近傍画像画素値調節機構と、
(s)前記R近傍画像画素値調節機構とG近傍画像画素値調節機構で得られたRとGの画素値から、RとG値の色差に変換するCr-g変換機構と、
(t)前記Y-B入力機構及び前記Y-B近傍画像画素値変域解析機構の結果に基づき、S字型を描く曲線で全体的な補正量を決定するY-B画素値補正機構と、
(u) 前記Y-B画素値補正機構で得られて画素値を正規化するY-B画素値正規化機構と、
(v)前記Y-B近傍画像抽出機構から得られたY近傍中心の画素値を含む局所間のY平均とB近傍中心の画素値を含む局所間のB平均に基づき、B値の補正変数量BOnを決定し、前記Y-B画素値正規化機構より得られたB値を微調整するB近傍画像画素値調節機構と、
(w) 前記Y-B近傍画像抽出機構から得られたY近傍中心の画素値を含む局所間のY平均とB近傍中心の画素値を含む局所間のB平均に基づき、Y値の補正変数量YOffを決定し、前記Y-B画素値正規化機構より得られたY値を微調整するY近傍画像画素値調節機構と、
(x) 前記B近傍画像画素値調節機構と前記Y近傍画像画素値調節機構で得られたYとB値の画素値から、YとB値の色差に変換するCy-b変換機構と、
(y) 前記V画素値正規化機構で得られたVの画素値と前記Cr-g変換機構で得られたCr-gの画素値と前記Cy-b変換機構で得られたCy-bの画素値を統合し、修正されたrgb値を求めるrgb変換機構と、 
(z)前記rgb変換機構から各画素の画素値を受け取り、画像全体を構成して出力する出力機構とを備えたことを特徴とする画質改善装置。
【請求項２】
コンピュータを、
(a)画像情報を入力するための入力機構と、
(b)前記入力機構より受け取る画像により得られた値から輝度を表すV値を入力するV入力機構と、
(c)前記入力機構より受け取る画像により得られた値からR値とG値の色差であるCR-G値を入力するR-G入力機構と、
(d)前記入力機構より受け取る画像により得られた値からY値とB値の色差であるCY-B値を入力するY-B入力機構と、
(e)前記V入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のVの画素値を取り出すV近傍画像抽出機構と、
(f)前記R-G入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のCR-Gの画素値を取り出すR-G近傍画像抽出機構と、
(g)前記Y-B入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のCY-Bの画素値を取り出すY-B近傍画像抽出機構と、
(h)前記V近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のVの局所的変域を測定するV近傍画像画素値変域解析機構と、
(i)前記R-G近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のCR-G値の局所的変域を測定するR-G近傍画像画素値変域解析機構と、
(j)前記Y-B近傍抽出機構から近傍画像を受け取り、当該画素近傍のCY-B値の局所的変域を測定するY-B近傍画像画素値変域解析機構と、
(k)前記V入力機構及び前記V近傍画像画素値変域解析機構の結果に基づき、画像の下限値、標準偏差値、画像全体の平均値、画像の近傍の平均値によって前記V近傍中心の画素値の補正量を決定するVOn-center画像画素値変量決定機構と、
(l) 前記V入力機構及び前記V近傍画像画素値変域解析機構の結果に基づき、画像の上限値、標準偏差値、画像全体の平均値、画像の近傍の平均値によって前記V近傍中心の画素値の補正量を決定するVOff-center画像画素値変量決定機構と、
(m)前記VOn-center画像画素値変量決定機構とVOff-center画像画素値変量決定機構で得られた変数とによって、前記VOn-center画像画素値とVOff-center画像画素値を修正し、これらの比の対数で得られる逆S字型の曲線を描く関数で、前記V近傍中心画素の画素値を決定するV画素値補正機構と、
(n)前記V画素値補正機構で得られた画素値を正規化するV画素値正規化機構と、
(o)前記R-G入力機構および前記R-G近傍画像画素値変域解析機構の結果に基づき、S字型を描く曲線で全体的な補正量を決定するR-G画素値補正機構と、
(p) 前記R-G画素値補正機構で得られて画素値を正規化するR-G画素値正規化機構と、
(q)前記R-G近傍画像抽出機構から得られた変数によりRの補正変量ROn+Offを決定し、前記R-G正規化機構で得られた値を微調整するR近傍画像画素値調節機構と、
(r)前記R-G近傍画像抽出機構から得られたG近傍中心の画素値および近傍のR平均値に基づき、Gの補正変量GOn+Offを決定し、前記R-G画素値正規化機構より得られたG値を微調整するG近傍画像画素値調節機構と、
(s)前記R近傍画像画素値調節機構とG近傍画像画素値調節機構で得られたRとGの画素値から、RとG値の色差に変換するCr-g変換機構と、
(t)前記Y-B入力機構及び前記Y-B近傍画像画素値変域解析機構の結果に基づき、S字型を描く曲線で全体的な補正量を決定するY-B画素値補正機構と、
(u) 前記Y-B画素値補正機構で得られて画素値を正規化するY-B画素値正規化機構と、
(v)前記Y-B近傍画像抽出機構から得られたY近傍中心の画素値を含む局所間のY平均とB近傍中心の画素値を含む局所間のB平均に基づき、B値の補正変数量BOnを決定し、前記Y-B画素値正規化機構より得られたB値を微調整するB近傍画像画素値調節機構と、
(w) 前記Y-B近傍画像抽出機構から得られたY近傍中心の画素値を含む局所間のY平均とB近傍中心の画素値を含む局所間のB平均に基づき、Y値の補正変数量YOffを決定し、前記Y-B画素値正規化機構より得られたY値を微調整するY近傍画像画素値調節機構と、
(x) 前記B近傍画像画素値調節機構と前記Y近傍画像画素値調節機構で得られたYとB値の画素値から、YとB値の色差に変換するCy-b変換機構と、
(y) 前記V画素値正規化機構で得られたVの画素値と前記Cr-g変換機構で得られたCr-gの画素値と前記Cy-b変換機構で得られたCy-bの画素値を統合し、修正されたrgb値を求めるrgb変換機構と、 
(z)前記rgb変換機構から各画素の画素値を受け取り、画像全体を構成して出力する出力機構として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、色彩のついたカラー画像の画質、特にデジタルカメラ、携帯電話のカメラ、スキャナ装置、監視カメラ等で入力したカラー画像の輝度と色彩を自動的に有効な強度で調節し、元の画像の雰囲気を保ちつつ、画像がきれいに見えるように改善する方法とその装置及びプログラムに関する。
【背景技術】
【０００２】
画像処理の分野、および画像を利用した視覚的インターフェイス技術の分野では、高精度の画像入力機構と共に、入力された画像を人間の特殊な操作を介さずに人間がきれいだと感じる画質に変換する必要性が高まっている。
【０００３】
本発明が考えるきれいな画像とは、元の画像の雰囲気を保ちつつ、画像の輝度および色彩の視認性を上げ、自然な補正がされた画像である。
【０００４】
この種の画質改善方法としては、画像の各画素値を線形変換する方法、ガンマ補正に代表される指数変換方法及び対数変換方法がある。また、極端に画像を強調したい場合、ヒストグラム平坦化により、画像の画素値をコントラスト強調する方法などがある。
【０００５】
更に、人の輝度感度特性曲線に合わせて、レンジを幾つかの区間に分割し、各区間毎に曲線に近似した線分を求め、それらの線分を結合させて、画素値を変換する区分的線形変換方法等がある（高木、下田（監修）「画像解析ハンドブック」、東京大学出版会、1991年） 。
【０００６】
図１は、線形変換による画像のコントラスト強調の手法を説明するための図であり、図２は、指数変換による画像のコントラスト強調の手法を説明するための図であり、図３は、対数変換による画像のコントラスト強調の手法を説明するための図である。
【０００７】
図１，図２および図３を参照しながら、従来の手法を説明する。
【０００８】
線形変換による画像のコントラスト強調の手法は、図１に見るように、入力画像の画素値ｖの区間をｖ≦ｂ，ｂ≦ｖ≦ａ，ａ≦ｖ等の幾つかに分けて、それぞれの区間で画素値を変換する１次変換式を
【数１】
0004719559.tif 000002
のように定義し、この線形変換によって入力画像の画素値ｖをｆ（ｖ）に変換する。この際、利用者は強調したい画素値の区間（例えばｂ≦ｖ≦ａ）での１次変換式の傾きを大きく設定することが、行われている。
【０００９】
指数変換による画像のコントラスト強調の手法は、テレビジョン技術の分野ではガンマ補正と呼ばれ、図２に見るように、指数関数に基づいて入力画像の画素値ｖをｇ（ｖ）に変換する。この際、コントラストの強調の度合いは、図２の指数関数の各点における曲線の傾きで定まり、画素値ｖの大きな範囲（図２の例ではｂ≦ｖ≦ａ）でコントラストが強調される。この指数変換の式は入力画像全体に対して同じ形で適用されることが、行われている。
【００１０】
対数変換による画像のコントラスト強調の手法は、図３に見られるように、対数関数に基づいて入力画像の画素値ｖをｈ（ｖ）に変換する。この際、コントラスト強調の度合いは、図３の対数関数の各点における曲線の傾きで定まり、画素値ｖの小さな範囲（図３の例ではｂ≦ｖ≦ａ）でコントラストが強調される。この曲線の形状すなわち対数変換の式は入力画像全体に対して同じ形で適用される。
【００１１】
ヒストグラム平坦化による方法は、画素値の分布の塊を周囲に適切に分散させて、分布に則してコントラスト強調を実行する方法であり、実際に種々の画像強調手法の中でも強調効果が著しい手法となっている。
【００１２】
【特許文献１】特公平７−３７０８４号公報
【特許文献２】特開平１０−１９８８０１号公報
【非特許文献１】高木、下田（監修）「画像解析ハンドブック」、東京大学出版会、1991年
【発明の開示】
【発明が解決しようとする課題】
【００１３】
しかしながら、線形変換による方法では、入力された個々の画像を利用者が観察しながらその画質に応じて、図１に示した折れ線のように、入力画素値に対する出力画素値の写像を一次変換式の組として定義しなければならず、変換式の一般性は得られない。
【００１４】
指数変換による方法では、あらかじめ定義された変換式に従って画素値を変換するが、画素値の大きい値の区間（図２の例ではｂ≦ｖ≦ａ）のコントラストは強調されるが、一方、画素間の小さい値の区間（図２の例ではｖ≦ｂ）のコントラストは劣化する。
【００１５】
同様に、対数変換による方法では、あらかじめ定義された変換式に従って画素値を変換するが、画素値の小さい値の区間（図３の例ではｂ≦ｖ≦ａ）のコントラストは強調されるが、一方、画素値の大きい値の区間（図３の例ではａ≦ｖ）のコントラストは劣化する。
【００１６】
ヒストグラム平坦化による方法では、大域的なコントラストの強調効果が著しく、一方領域内部での変化等を示す比較的に小さい局所的なコントラストが抑制される問題がある。したがって、処理結果が不自然な仕上がりとなり、元の画像の雰囲気を失ってしまうことがある。
【００１７】
これらの問題を解決し、従来の変換関数では得られなかった非線形の補正をし、人間にとって見づらい局所的に暗い部分や局所的に明るい部分のコントラストを強調して人間に違和感なく画質を改善した画質改善方法及び装置が提案されている（特公平7-37084 号公報） 。
【００１８】
また、上記非線形の補正を実現し、且つ局所コントラストばかりでなく、大域的コントラストも強調し、全自動的に適応的に画像を処理する画質改善方法、エッジ強度計算方法及びその装置が提案されている（特願平9-2773号）
【００１９】
上記の方法は、輝度情報を補正の対象とするものであり、色度情報を考慮しないため、上記の方法をカラー画像には適用できない。また、人間の視細胞のR値、G値、B値にあたるLMS色空間では、明度対比に対する処理と色対比に対する処理が異なるため、上記の手法と同じ手法でカラー画像に適用できるようにしようとしても有効な画像補正をすることができない。
【００２０】
さらにこの手法で用いられる入力値に対する出力値の対応関係が逆S字型の曲線を描く関数(図４)は、人間の視覚感度が低下する暗い部分と明るい部分の感度を手助けする効果があり、白黒画像の処理には大変有効であるが、その手法を色彩を含むカラー画像に適用した場合、色彩を落としてしまうという問題点があるため、同じ手法をカラー画像にも適応させるのは難しい。
【課題を解決するための手段】
【００２１】
人間の視細胞のLMS空間では、図５のような受容野で、輝度に対する処理と色相に対する処理を行っている。人間には、この受容野の働きによって生じる、側抑制という視覚特性機能がある。人間は、側抑制の働きによって、輝度や色相のコントラストを自然に調節している。本発明の画像改善方法は、人間の側抑制と呼ばれる視覚特性の働きに着目し、その働きを数理的なモデルにすることで、デジタルセンサーによって入力されたカラー画像を、その画像の分布に応じて、元の画像の雰囲気を保ちつつ、自動的に明度対比（輝度のコントラスト）および色対比（色彩のコントラスト）を有効な強度で強調することを特徴とする。
【００２２】
輝度に対する受容野は明度対比型と呼ばれている。色相に対する受容野は色対比型と呼ばれている。どちらの受容野もOn-center型とOff-center型があり、相互作用をしている。例えば、明度対比型では、On-center型の働きによって、ある点に明るい光が入ってくると、周囲の明るさを抑制する働きをする。それとは逆に、Off-center型の働きによって、ある点の周囲の光が興奮すると、ある点の光が抑制される。一方、色対比型では、On-center型の働きによって、ある点に赤の光が入ると周囲の赤の光を抑制するのではなく、周囲の緑の光を抑制する。それとは逆に、Off-center型の働きによって、ある点の周囲の赤い光が興奮すると、ある点の赤い光が抑制されるのではなく、ある点の緑の光が抑制される。このように、色対比に関しては、人間の視細胞では、RGB値にあたるLMS錐体細胞を単独に処理しているのではなく、L錐体とM錐体（つまりR値：赤とG値：緑）およびL錐体・M錐体とS錐体（つまりY値：黄とB値：青）の組み合わせで処理を行っている。本発明では、V回路、R-G回路、Y-B回路をそれぞれ独立に補正し、V回路は人間の視覚感度が低下する暗い部分や明るい部分の感度を助けるような逆S字型の曲線を描く関数を用いることで（図４）、輝度のコントラストおよびシャープさを強調し、R-G回路とY-B回路はそれぞれR値とG値のコントラスト、Y値とB値のコントラストが大きくなるようなS字型の曲線を描く関数を用いることで（図６）、色相のコントラスト及び鮮やかさを強調する。したがって、本発明では、RGB値を、明るさを表すV値、RとGの色差を表すCR-G値及びYとBの色差を表すCY-B値に変換し、それぞれの回路ごとに補正をおこなう。
【００２３】
なお、図６（ａ）は、色差（CR-G値）の強調に使用されるＳ字型の曲線を示しており、横軸がオリジナルの画像のCR-G値であり、縦軸が補正されたCR-G値である（縦軸、横軸とも、−２５５は緑（Ｇ）であり２５５は赤（Ｒ）に対応する）。図６（ｂ）は、色差（CY-B値）の強調に使用されるＳ字型の曲線を示しており、横軸がオリジナルの画像のCY-B値であり、縦軸が補正されたCY-B値である（縦軸、横軸とも、−２５５は青（Ｂ）であり２５５は黄（Ｙ）に対応する）。
【００２４】
すなわち本発明は、オリジナルの画像から色差を導出する色差導出ステップと、色差導出ステップにおいて導出された前記色差をＳ字型の曲線を用いて補正することで補正色差を導出する補正色差導出ステップと、補正色差導出ステップにおいて導出された前記補正色差を用いて画質の改善された画像を生成する画質改善画像生成ステップとを有することを特徴とする画質改善方法である。
【００２５】
上記発明は、オリジナルの画像から輝度Vを導出する輝度導出ステップと、前記輝度導出ステップにおいて導出された前記輝度Vを逆Ｓ字型の曲線を用いて補正することで補正輝度を導出する補正輝度導出ステップとを更に備え、前記画質改善画像生成ステップは、前記補正色差と前記補正輝度を用いて画質の改善された画像を生成するものとすることも可能である。
【００２６】
上記発明における前記色差は、RとGの色差を表すCR-G値及びYとBの色差を表すCY-B値とすることができる。この場合、前記色差導出ステップは、前記前記オリジナルの画像のRGB値からの変換により前記CR-G値及び前記CY-B値を導出するものとすることができる。同様に、前記輝度Vは、前記前記オリジナルの画像のRGB値からの変換により導出するものとすることができる。この場合、オリジナルの画像の全ての画素から抽出されるRGB値の全てについて色差及び／又は輝度の導出及び補正を行うことも可能であり、オリジナルの画像の一部の画素から抽出されるRGB値についてのみ、色差及び／又は輝度の導出及び補正を行うことも可能である。
【００２７】
上記発明における補正色差導出ステップは、前記色差の変域の上限及び下限を用いて前記Ｓ字型の曲線を決定するステップを更に備えることができる。
【００２８】
上記発明における補正色差導出ステップは、前記色差をＳ字型の曲線を用いて補正した後に、例えばオリジナルの画像の色差の最小値から最大値の範囲に、正規化することで補正色差を導出するものとすることができる。更には、注目画素及びその近傍の画素から得られるＲＧＢ値に基づいて補正変量（ＲOn+Off、ＧOn+Off、BOn、ＹOff）を決定し、上記により正規化された値をこの補正変量（ＲOn+Off、ＧOn+Off、BOn、ＹOff）を用いて更に微調整することで補正色差を導出するものとすることもできる。
【００２９】
上記発明における補正輝度導出ステップは、画像画素値変量αOn及びαOffを導出し、この画像画素値変量αOn及びαOffを用いて前記逆Ｓ字型の曲線を決定するステップを更に備えることができる。
【００３０】
上記発明における補正輝度導出ステップは、前記輝度を逆Ｓ字型の曲線を用いて補正した後に、例えば前記輝度が取り得る変域の下限から上限に、正規化することで前記補正輝度を導出するものとすることができる。
【００３１】
本発明は、上記各発明における各ステップを処理装置に実行させる画質改善プログラムとして構成することも可能である。
【００３２】
本発明は、上記各発発明における各ステップを実行するそれぞれの機構を備える画質改善装置として構成することも可能である。
なお、本発明におけるＳ字型の曲線とは、色差（ｕ）の変域の最小値から最大値を補正色差（Ｕ）に変換する曲線（Ｕ＝ｆ（ｕ））であって、前記色差（ｕ）が前記最小値からゼロである範囲では、前記曲線の２回微分（ｄ２ｆ（ｕ）／ｄ２ｕ）が非負（即ち、ゼロ又は正）となり、前記色差（ｕ）がゼロから前記最大値である範囲では、前記曲線の２回微分（ｄ２ｆ（ｕ）／ｄ２ｕ）が非正（即ち、ゼロ又は負）となる曲線をいう。
【００３３】
本発明における逆Ｓ字型の曲線とは、輝度（ｖ）の変域の最小値から最大値を補正輝度（Ｖ）に変換する曲線（Ｖ＝ｇ（ｖ））であって、前記輝度（ｖ）が前記最小値からある中間の値の範囲では、前記曲線の２回微分（ｄ２ｇ（ｖ）／ｄ２ｖ）が非正となり、前記輝度（ｖ）が前記中間の値から前記最大値である範囲では、前記曲線の２回微分（ｄ２ｇ（ｖ）／ｄ２ｖ）が非負となる曲線をいう。
【００３４】
本発明の画像改善装置は、(a)画像情報を入力するための入力機構と、(b)前記入力画像により得られた値から輝度を表すV値を入力するV入力機構と、(c)前記入力画像により得られた値からR値とG値の色差であるCR-G値を入力するR-G入力機構と、(d)前記入力画像により得られた値からY値とB値の色差であるCY-B値を入力するY-B入力機構と、(e)前記V入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のVの画素値を取り出すV近傍画像抽出機構と、(f)前記R-G入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のCR-Gの画素値を取り出すR-G近傍画像抽出機構と、(g)前記Y-B入力機構から画像を受け取り、各画素毎に当該画素を含む近傍のCY-Bの画素値を取り出すY-B近傍画像抽出機構と、(h)前記V近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のVの局所的変域を測定するV近傍画像画素値変域解析機構と、(i)前記R-G近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のCR-G値の局所的変域を測定するR-G近傍画像画素値変域解析機構と、(j)前記Y-B近傍抽出機構から近傍画像を受け取り、当該画素近傍のCY-B値の局所的変域を測定するY-B近傍画像画素値変域解析機構と、(k)前記V入力機構及び前記V近傍画像画素値変域解析機構の結果に基づき、画像の下限値、標準偏差値、画像全体の平均値、画像の近傍の平均値によって前記V近傍中心の画素値の補正量を決定するVOn-center画像画素値変量決定機構と、(l) 前記V入力機構及び前記V近傍画像画素値変域解析機構の結果に基づき、画像の上限値、標準偏差値、画像全体の平均値、画像の近傍の平均値によって前記V近傍中心の画素値の補正量を決定するVOff-center画像画素値変量決定機構と、(m)前記VOn-center画像画素値変量決定機構とVOff-center画像画素値変量決定機構で得られた変数とによって、前記VOn-center画像画素値とVOff-center画像画素値を修正し、これらの比の対数で得られるような、逆S字型の曲線を描く関数で、前記V近傍中心画素の画素値を決定するV画素値補正機構と、(n)前記V画素値補正機構で得られた画素値を正規化するV画素値正規化機構と、(o)前記R-G入力機構および前記R-G近傍画像画素値変域解析機構の結果に基づき、シグモイド関数のようなS字型を描く曲線で全体的な補正量を決定するR-G画素値補正機構と、(p) 前記R-G画素値補正機構で得られて画素値を正規化するR-G画素値正規化機構と、(q)前記R-G近傍画像抽出機構から得られた変数によりRの補正変量ROn+Off-centerを決定し、前記R-G正規化機構で得られた値を微調整するR近傍画像画素値調節機構と、(r)前記R-G近傍画像抽出機構から得られたG近傍中心の画素値および近傍のR平均値に基づき、Gの補正変量GOn+Off-centerを決定し、前記R-G画素値正規化機構より得られたG値を微調整するG近傍画像画素値調節機構と、(s)前記R画素値調節機構とG画素値調節機構で得られたRとGの画素値から、RとG値の色差に変換するCr-g変換機構と、(t)前記Y-B入力機構及び前記Y-B近傍画像画素値変域解析機構の結果に基づき、シグモイド関数のようなS字型を描く曲線で全体的な補正量を決定するY-B画素値補正機構と、(u) 前記Y-B画素値補正機構で得られて画素値を正規化するY-B画素値正規化機構と、(v)前記Y-B近傍画像抽出機構から得られたY近傍中心の画素値を含む局所間のY平均とB近傍中心の画素値を含む局所間のB平均に基づき、B値の補正変数量BOn-centerを��定し、前記Y-B画素値正規化機構より得られたB値を調整するB近傍素画像画素値決定機構と、(u) 前記Y-B近傍画像抽出機構から得られたY近傍中心の画素値を含む局所間のY平均とB近傍中心の画素値を含む局所間のB平均に基づき、Y値の補正変数量YOff-centerを決定し、前記Y-B画素値正規化機構より得られたY値を微調整するY近傍素画像画素値調節機構と、 (w) 前記B近傍画像素値決定機構と前記Y近傍画像画素値調節機構で得られたYとB値の画素値から、YとB値の色差に変換するCy-b変換機構と、(x) V画素値正規化機構で得られたVの画素値とCr-g変換機構で得られたCr-gの画素値とCy-b変換機構で得られたCy-bの画素値を統合し、修正されたrgb値を求めるrgb変換機構と、 (y)前期rgb変換機構から各画素の画素値を受け取り、画像全体を構成して出力する出力機構とを備えたことを特徴とする画質改善装置。
【発明の効果】
【００３５】
以上の画質改善方法及び装置によれば、入力されたカラー画像を入力された画像の輝度、R値とG値の色差、Y値とB値の色差のそれぞれの画素値の分布に適応して、画像全体の画素値の分布と、局所的な画素値の分布の両方を考慮した調節が可能となり、画素値の小さい値の区間の明度対比及び色対比が強調されると同時に、画素値の大きい値の区間の明度対比および色対比も自動的に強調することができる。
【発明を実施するための最良の形態】
【００３６】
以下、図面を参照して本発明の実施例を詳細に説明する。
【００３７】
図７は、本発明の第一の実施例にかかる画質改善方法を説明するための流れ図であり、図８は、この画質改善方法を実施する装置のブロック図である。
【００３８】
まず、イメージセンサ、モニタカメラ等の入力機構により画像を入力する。この入力機構が、例えば次式のようにR,G,B値からV,CR-G,CY-B値へ変換する。
【数２】
0004719559.tif 000003
【００３９】
V入力機構は、入力機構より画像を受け取る。このV入力画像の各画素値が、取り得る変域の下限をVL、上限をVU、入力画像全体のV値の平均値をVgmean、入力画像全体のV値の標準偏差をVhensaで表すものとする。
【００４０】
V近傍画像抽出機構は、V入力画像より画像を受け取り、この画像中の各画像毎にその近傍領域を含む部分画像を抽出し、近傍のVOn-center画像とする。近傍の一例として注目する画素の画素値をV0とし、その８近傍の画素の画素値(図９)をそれぞれV1, V2, V3, V4, V5, V6, V7, V8中の最大値Vmax=max(V0,・・・, V8)、最小値Vmin=min(V0,・・・, V8)、平均値Vlmean=(V0+・・・+ V8) /9を用いて説明する。
【００４１】
VOn-center画像画素値変量決定機構は、V近傍画像画素値変域解析機構より、画素値の局所的変域の最小値Vminを受け取る。例えば次式によって、VOn-center画像画素値変量αOnを計算する。
【数３】
0004719559.tif 000004
【００４２】
VOff-center画像画素値変量決定機構は、V近傍画像画素値変域解析機構より、画素値の局所的変域の最大値Vmaxを受け取る。例えば次式によって、VOff-center画像画素値変量αOffを計算する。
【数４】
0004719559.tif 000005
【００４３】
V画素値補正機構は、V近傍画像画素値変域解析機構より、注目する画素の画素値V0を受け取り、VOff-center画像画素値変量決定機構よりVOn-center画像画素値変量αOnを受け取り、VOff-center画像画素値変量決定機構よりVOff-center画像画素値変量αOffを受け取る。例えば次式で定義される画素値の関数k(V)
【数５】
0004719559.tif 000006
によって注目する画素の画素値V0を補正する。この式は、VOn-center画像画素値変量αOnによって補正されたVOn-center画像の画素値と、VOff-center画像画素値変量αOffによって補正されたVOff-center画像画素値の比の対数を求めていることに相当している。
【数６】
0004719559.tif 000007
同様に、以下の諸量、すなわち、各画素値が取り得る変域の下限VLおよび上限VUに関してもk(VL),k(VU)を求める。
【数７】
0004719559.tif 000008
【００４４】
V画素値正規化機構は、V画素値補正機構より、VL,VUの範囲に正規化された各画素値の画素値K(V0)を受け取り、次式によって、画素値k(V0)をVLからVUの範囲に正規化しK(V0)とする。
【数８】
0004719559.tif 000009
V画素値正規化機構は、上式によって正規化された画素値K(V0)を次の３式によってさらに正規化することも可能であり、これにより、画素値K(V0)がより確実にVLからVUの範囲内に収まようにできる。得られる値によって補正されたV値（v値）が求まる。
【数９】
0004719559.tif 000010
【００４５】
R-G入力機構は、入力機構より画像を受け取る。このR-G入力画像の各画素値が、取り得る変域の下限をCR-G L、上限をCR-G Uを表すものとする。
【００４６】
R-G近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のCR-G値の局所的変域を測定するR-G近傍画像画素値変域解析機構により、近傍のR-G画像とする。近傍の一例として、注目する画像の画素値をCR-G0とし、その８近傍の画像のRの画素値をそれぞれR o, R 2,R 3, R 4, R 5, R 6, R 7, R 8中の最大値Rmax=max(R 0,・・・, R 8)、最小値Rmin=min(R 0,・・・, R 8)、平均値Rlmean=(R 1+・・・+ R 8) /8と８近傍の画像のGの画素値をそれぞれG 1 , G 2,G 3, G 4, G 5, G 6, G 7, G 8中の最大値Gmax=max(G 0,・・・, G 8)、最小値Gmin=min(G 0,・・・, G 8)、平均値Glmean=(G 1+・・・+ G 8) /8を用いて説明する。
【００４７】
R-G画素値補正機構は、画像の全体的な補正強度をシグモイド関数のようなS字型の曲線を描く関数l(CR-G)
【数１０】
0004719559.tif 000011
（λは定数）
によって注目する画素の画素値CR-G0を補正する。この式は、R-G近傍画像画素値変域解析機構より、注目する画素の画素値CR-G0を受け取り、CR-G L, CR-G Un により、関数の曲率が定めている。
【数１１】
0004719559.tif 000012
（λは定数）  
同様に、以下の諸量、すなわち、各画素値が取り得る変域の下限CR-G L ,および上限CR-G Uに関してもl(CR-G L),l(CR-G U),l(CR-G 0)を求める。
【数１２】
0004719559.tif 000013
（λは定数）
【００４８】
R-G画素値正規化機構
R-G画素値正規化機構は、R-G画素値補正機構より、CR-G L, CR-G Unの範囲に正規化された各画素値の画素値l(CR-G)を受け取り、例えば次式によって、画素値l(CR-G 0)をCR-G LからCR-G Uの範囲に正規化しL(CR-G 0)とする。
【数１３】
0004719559.tif 000014
【００４９】
R近傍画像画素値調節機構は、R-G近傍画像抽出機構から得られたR近傍中心の画素値および近傍のG平均値に基づき、Rの補正変量を決定し、色対比型の受容野のRの働きを表すような式により、R-G画素値正規化機構で得られた画像の全体的な補正を局所的な面から微調整する。例えば次式によって、R近傍画像画素値変量ROn+Off値を決定する。RON+OFF値を入力画像によって得られた元のR値に加えることで、R-G回路によって補正したR値（r’値）を求める。
【数１４】
0004719559.tif 000015
【００５０】
G近傍画像画素値調節機構は、R-G近傍画像抽出機構から得られたG近傍中心の画素値および近傍のR平均値に基づき、Gの補正変量を決定し、色対比型の野のGの働きを表すような式により、R-G画素値正規化機構で得られた画像の全体的な補正を局所的な面から微調整する。例えば次式によって、G近傍画像画素値変量GOn+Off値を決定する。GON+OFF値を入力画像によって得られた元のG値に加えることで、R-G回路によって補正したG値（g’値）を求める。
【数１５】
0004719559.tif 000016
【００５１】
Cr-g変換機構は、R近傍画像画素値変量とG近傍画像画素値変量で得られた値より、次式を用いてRとG値の色差に変換する。
【００５２】
Y-B入力機構は、入力機構より画像を受け取る。このY-B入力画像の各画素値が、取り得る変域の下限をCY-B L、上限をCY-B Uで表すものとする。
【００５３】
Y-B近傍画像抽出機構から近傍画像を受け取り、当該画素近傍のCY-B値の局所的変域を測定するY-B近傍画像画素値変域解析機構により、近傍のY-B画像とする。近傍の一例として、Y-B回路にある細胞の数はR-G回路にある細胞に比べて非常に少ないので、注目する画像の画素値をCY-B 0とし、そのBの画素値とその８近傍の画素のBの画素値をそれぞれB 0 ,B 1 , B 2, B 3, B 4, B 5, B 6, B 7, B 8とその平均値Blmean=(B 0+・・・+ B8) /9及びそのYの画素値とその８近傍の画素のYの画素値をそれぞれY 0 ,Y 1 , Y 2, Y 3, Y 4, Y 5, Y 6, Y 7, Y 8とその平均値Ylmean=(Y 0+・・・+ Y8) /9を用いて説明する。
【００５４】
Y-B画素値補正機構は、画像の全体的な補正強度をシグモイド関数のようなS字型の曲線を描く関数により決定する。Y-B近傍画像画素値変域解析機構より、注目する画素の画素値CY-B 0を受け取り、CY-B L, CY-B U により、関数の曲率が定められる。例えば次式で定義される画素値の関数l(CY-B)
【数１６】
0004719559.tif 000017
（λは定数）
同様に、以下の諸量、すなわち、各画素値が取り得る変域の下限CR-G L ,および上限CR-G Uに関してもl(CR-G L),l(CR-G U),l(CR-G 0)を求める。
【数１７】
0004719559.tif 000018
（λは定数）
【００５５】
Y-B画素値正規化機構
Y-B画素値正規化機構は、Y-B画素値補正機構より、CY-B L, CY-B U範囲に正規化された各画素値の画素値l(CY-B)を受け取り、例えば次式によって、画素値L(CY-B 0)をCY-B LからCY-B Uの範囲に正規化しL(CY-B 0)とする。
【数１８】
0004719559.tif 000019
【００５６】
B近傍画像画素値調節機構は、Y-B近傍画像抽出機構から得られたB近傍中心を含むB近傍平均画素値およびY近傍中心を含むY近傍平均画素値により、Bの補正変量を決定し、色対比型の受容野のBの働きを表すような式により、Y-B画素値正規化機構で得られた画像の全体的な補正を局所的な面から微調整する。例えば次式によって、B近傍画像画素値変量BOn値を決定するBON値を入力画像によって得られた元のB値に加えることで、Y-B回路によって補正したB値（g’値）を求める。
【数１９】
0004719559.tif 000020
【００５７】
Y近傍画像画素値調節機構は、Y-B近傍画像抽出機構から得られたY近傍中心を含むY近傍平均画素値およびB近傍中心を含むB近傍平均画素値により、Yの補正変量を決定し、色対比型の受容野のYの働きを表すような式により、Y-B画素値正規化機構で得られた画像の全体的な補正を局所的な面から微調整する。例えば次式によって、Y近傍画像画素値変量YOff値を決定する。YOFF値を入力画像によって得られた元のY値に加えることで、Y-B回路によって補正したY値（y’値）を求める。
【数２０】
0004719559.tif 000021
【００５８】
Cy-b変換機構は、B近傍画像画素値変量とY近傍画像画素値変量で得られた値より、例えば次式を用いてYとB値の色差に変換する。
【数２１】
0004719559.tif 000022
【００５９】
rgb変換機構は、V画素値正規化機構、CR-G変換機構、CY-B変換機構で得られた補正後の輝度（v値）及び色差（Cr-g,Cy-b値）から、rgb値に変換する。例えば次式のような連立方程式により求める。
【数２２】
0004719559.tif 000023
【００６０】
画像出力機構は、rgb変換機構より正規化済の各画素の画素値(r値,g値,b値)を受け取り、画像全体を構成して出力する。
【００６１】
参考のために、図１０に本実施例で画像の輝度のコントラストとシャープさ及び色相のコントラスト、鮮やかさがどのように改善されるかをヒストグラム平滑化を用いて処理をした結果と比べることで示す。図１０は携帯電話のカメラで撮った写真で、ポスターの一部分の絵である。図８は（a）はオリジナル画像（b）本発明で提案した装置で補正を行った出力画像（c）ヒストグラム平滑化を用いて処理を行った出力画像である。
(c)は、右側の女の子の画像の部分等に（a）では存在しなかった青色が出現してしまっているのに対し、（b）は、左上のビルの輪郭がはっきりし、全体的に鮮やかさも増し、視認性が上がり、元の雰囲気を保ちつつ自然な補正がされていることがわかる。
【００６２】
以上説明したように、この実施例によれば、側抑制の働きに基づいてモデルを構築することによって、入力された原画像を、元の画像の雰囲気を保ちつつ自然な補正が可能となり、例えば携帯電話で撮った写真を即座に補正したり、輝度や色相のコントラストが悪い画像を即座に、自動的に補正するなどの効果がある。
【００６３】
V回路、R-G回路、Y-B回路をそれぞれ独立に補正しているため、輝度のみを変化させたり、特定の色相のみを変化させたり、輝度と色相を同時に変化させたりすることも可能であり、画像の輝度・色相・彩度を自由に変化させるなどの効果がある。
【００６４】
以上説明したように本発明によれば、例えばイメージセンサやモニタカメラ等から入力した色彩を含むカラー画像の輝度および色相のコントラストを、元の雰囲気を変えずに自然な補正をすることができる。
【図面の簡単な説明】
【００６５】
【図１】線形変換による画像のコントラスト強調の手法を説明するための図。
【図２】指数変換による画像のコントラスト強調の手法を説明するための図。
【図３】対数変換による画像のコントラスト強調の手法を説明するための図。
【図４】輝度値補正に用いられる入力値に対する出力値の対応関係が逆S字型の曲線を描く関数。
【図５】人間の視細胞において行われる輝度や色相のコントラストの調節機構を示す説明図
【図６】色差（CR-G値及びCY-B値）の補正に用いられる入力値に対する出力値の対応関係がS字型の曲線を描く関数を示す説明図。
【図７】本発明の一の実施形態にかかる画質改善方法を説明するための流れ図。
【図８】本発明の一の実施形態にかかる画質改善装置の構成を示すブロック図。
【図９】注目画素(V0)及び近傍画素(V0,・・・, V8)の取り方の一例を示す説明図。
【図１０】本発明による処理画像とヒストグラム平滑化による処理画像を対比を示す説明図。
【図１】
0004719559.tif 000024
【図２】
0004719559.tif 000025
【図３】
0004719559.tif 000026
【図４】
0004719559.tif 000027
【図５】
0004719559.tif 000028
【図６】
0004719559.tif 000029
【図７】
0004719559.tif 000030
【図８】
0004719559.tif 000031
【図９】
0004719559.tif 000032
【図１０】
0004719559.tif 000033