(57)【特許請求の範囲】
【請求項１】
入力画像を所定サイズの判定領域ごとに、水平方向に順次走査し水平走査ラインを順次垂直方向に移動して、前記判定領域が特定領域であるか否かを判定する画像処理装置であって、
前記判定領域が特定色の領域であるか否かを判定する特定色判定手段と、
前記特定色判定手段により判定された判定結果に従って、前記判定領域を第１から第３のいずれかの領域に分類する分類手段と、
前記分類に応じて前記特定領域を判定する特定領域判定手段とを有し、
前記分類手段は、前記特定色判定手段により判定された判定結果に従って、前記ラインごとに、特定色の領域である前記第１の領域と、特定色の領域ではない前記第３の領域と、特定色の領域ではないが、分類中のラインの上のラインにおける隣接する判定領域の分類が前記第１の領域である前記第２の領域とに分類し、前記分類中のラインの下の分類処理を開始する前に、前記分類中のラインにおいて前記第１の領域に分類された領域によって挟まれる前記第２の領域に分類された領域を第１の領域に再分類し、
前記特定領域判定手段は、前記第１の領域に分類された領域を前記特定領域であると判定することを特徴とする画像処理装置。
【請求項２】
入力画像を所定サイズの判定領域ごとに所定のライン順に特定領域であるか否かを判定する画像処理装置であって、
前記判定領域が特定色の領域であるか否かを判定する特定色判定手段と、
前記特定色判定手段により判定された判定結果に従って、前記判定領域を第１から第３のいずれかの領域に分類する分類手段と、
前記分類に応じて前記特定領域を判定する特定領域判定手段とを有し、
前記分類手段は、前記特定色判定手段により判定された判定結果に従って、前記ラインごとに、特定色の領域である前記第１の領域と、特定色の領域ではない前記第３の領域と、特定色の領域ではないが、分類中のラインより前に分類処理の完了した隣接するラインにおける隣接する判定領域の分類が前記第１の領域である第２の領域とに分類し、前記分類中のラインに隣接するラインの分類処理を開始する前に、前記分類中のラインにおいて前記第１の領域に分類された領域によって挟まれる前記第２の領域に分類された領域を前記第１の領域に再分類し、
前記特定領域判定手段は、前記第１の領域に分類された領域を前記特定領域であると判定することを特徴とする画像処理装置。
【請求項３】
前記特定色判定手段と前記特定領域判定手段は平行して処理をすることを特徴とする請求項１または２記載の画像処理装置。
【請求項４】
前記特定色判定手段は、前記判定領域内の色差信号と前記特定色の色相とに基づいて、前記判定領域が特定色の領域であるか否かを判定することを特徴とする請求項１から３のいずれか１項記載の画像処理装置。
【請求項５】
前記特定色判定手段は、前記判定領域内の色差信号と前記特定色の色相と明度とに基づいて、前記判定領域が特定色の領域であるか否かを判定することを特徴とする請求項４記載の画像処理装置。
【請求項６】
前記前記特定色の色相と明度を調整することができることを特徴とする請求項５記載の画像処理装置。
【請求項７】
前記入力画像に対して所定の画像処理を施す画像処理手段をさらに備えたことを特徴とする請求項１から６のいずれか１項に記載の画像処理装置。
【請求項８】
前記画像処理手段は前記入力画像の圧縮符号化を行うものであって、前記特定領域には、前記特定領域ではない領域よりも細かい量子化ステップサイズを設定することを特徴とする請求項７に記載の画像処理装置。
【請求項９】
前記画像処理手段は前記入力画像の圧縮符号化を行うものであって、前記領域は前記圧縮符号化の処理単位であるマクロブロックと同じサイズとすることを特徴とする請求項７に記載の画像処理装置。
【請求項１０】
前記特定領域が人物の顔を示す顔領域であることを特徴とする請求項１から９のいずれか１項に記載の画像処理装置。
【請求項１１】
前記特定色が肌色であることを特徴とする請求項１から１０のいずれか１項記載の画像処理装置。
【請求項１２】
入力画像を、所定サイズの判定領域ごとに所定のライン順に特定領域であるか否かを判定方法であって、
前記判定領域を、特定色の領域である第１の領域と、特定色の領域ではない第３の領域と、特定色の領域ではないが、分類中のラインより前に処理された隣接するラインにおける隣接する判定領域の分類が第１の領域である第２の領域とに分類し、前記分類中のラインに隣接するラインの分類処理を開始する前に、前記分類中のラインにおいて前記第１の領域に分類された領域によって挟まれる前記第２の領域を第１の領域に再分類し、
前記第１の領域に分類された領域を前記特定領域であると判定する判定方法。
【請求項１３】
入力画像を、所定サイズの判定領域ごとに所定のライン順に特定領域であるか否かを判定する画像処理装置であって、
前記判定領域を、特定色の領域である第１の領域と、特定色の領域ではない第３の領域と、特定色の領域ではないが、分類中のラインより前に処理された隣接するラインにおける隣接する判定領域の分類が第１の領域である第２の領域とに分類し、前記分類中のラインに隣接するラインの分類処理を開始する前に、前記分類中のラインにおいて前記第１の領域に分類された領域によって挟まれる前記第２の領域を第１の領域に再分類し、
前記第１の領域に分類された領域を前記特定領域であると判定する処理手段を有することを特徴とする画像処理装置。
【請求項１４】
前記処理手段は、前記判定領域が特定色の領域であるかの判定と、前記判定領域が前記特定領域であるかの判定を平行して実行することを特徴とする請求項１３記載の画像処理装置。
【請求項１５】
前記入力画像に対して所定の画像処理を施す画像処理手段をさらに備えたことを特徴とする請求項１３または１４に記載の画像処理装置。
【請求項１６】
前記画像処理手段は前記入力画像の圧縮符号化を行うものであって、前記特定領域には、前記特定領域ではない領域よりも細かい量子化ステップサイズを設定することを特徴とする請求項１５に記載の画像処理装置。
【請求項１７】
前記画像処理手段は前記入力画像の圧縮符号化を行うものであって、前記領域は前記圧縮符号化の処理単位であるマクロブロックと同じサイズとすることを特徴とする請求項１５に記載の画像処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、人物の顔などの特定領域を検出し、検出された特定領域と、その他の領域とで異なる画像処理を施す技術に関する。
【背景技術】
【０００２】
近年、動画像データの高解像度化が進み、例えば１９２０画素×１０８０画素の画素数を有するＨｉｇｈ−Ｄｅｆｉｎｉｔｉｏｎ（ＨＤ）映像を扱う製品が開発されている。また、今後も画素数は増えていく見通しで、将来的には４０００画素×２０００画素、或いはそれ以上の画素数まで達すると予想される。
【０００３】
高精細な動画像データを処理する装置として、ＨＤ映像対応のデジタルビデオカメラなどが知られている。民生用のデジタルビデオカメラでは、情報量の多いＨＤ映像を効率的に記録メディアに記録するため、動画像データの圧縮符号化を行っている。
【０００４】
動画像圧縮方式として、ＭＰＥＧ方式（ＭＰＥＧ２及びＭＰＥＧ４）や、Ｈ．２６４が良く知られている。これら動画像圧縮方式の中には、視覚的に目立ちにくい画像領域の画質を低下することによって符号量の節減を行い、結果として高い符号化効率を実現しているものがある。
【０００５】
しかしながら、装置自身が、視覚的に目立ちやすい画像領域や、目立ちにくい画像領域を識別することは簡単なことではない。そこで、多くの場合、画像を細かい画素ブロックに分割し、画素ブロック単位で、エッジの有無や色の情報などの特徴に基づいて、領域を識別している。
【０００６】
ところで、処理対象のブロックが人間の肌色の特徴を有するブロックである場合、装置は、「顔」の可能性が高いとみなして、当該ブロックの発生符号量を減らさないか、もしくは増やすような制御を行うことがある。すなわち、画像の圧縮符号化によって、画像中の人物の顔など目立ちやすい部分にノイズ等が発生すると画質劣化が顕著となるため、顔領域に対しては、それ以外の領域よりも多くの符号量を割り当てるようにすることで、画質向上を図るものである。そのためには、処理対象のブロックが、顔領域であるか否かを精度良く検出する技術が必要である。
【０００７】
顔領域検出の方法として、特許文献１の方法が知られている。特許文献１には、特徴領域（顔）の輪郭に忠実に沿った領域を検出する方法が記載されている。
【特許文献１】特開平０７−０８７５１０号
【発明の開示】
【発明が解決しようとする課題】
【０００８】
しかしながら、上記の特許文献１の方法では、肌色部分と、肌色に隣接する部分を別々に調べるものであり、判定対象の画素の周りの画素が肌色であるか否かを事前に判定しておかなければならない。即ち、顔領域かどうかの判定を２パスで行わなければならず、処理負荷が高く、結果を得るのに時間がかかるという問題があった。
【０００９】
本発明は前述の問題点に鑑み、短時間で顔などの特定領域を検出し、検出された特定領域と、その他の領域とで異なる内容の画像処理を施す画像処理装置を提示することを目的とする。
【００１０】
さらに、肌色等の特定色で囲まれた部位も特定領域として検出するための特定領域検出方法を提示することを目的とする。
【課題を解決するための手段】
【００１１】
上記目的を達成するために、本発明の画像処理装置は、入力画像を所定サイズの判定領域ごとに、水平方向に順次走査し水平走査ラインを順次垂直方向に移動して、前記判定領域が特定領域であるか否かを判定する画像処理装置であって、前記判定領域が特定色の領域であるか否かを判定する特定色判定手段と、前記特定色判定手段により判定された判定結果に従って、前記判定領域を第１から第３のいずれかの領域に分類する分類手段と、前記分類に応じて前記特定領域を判定する特定領域判定手段とを有し、前記分類手段は、前記特定色判定手段により判定された判定結果に従って、前記ラインごとに、特定色の領域である前記第１の領域と、特定色の領域ではない前記第３の領域と、特定色の領域ではないが、分類中のラインの上のラインにおける隣接する判定領域の分類が前記第１の領域である前記第２の領域とに分類し、前記分類中のラインの下の分類処理を開始する前に、前記分類中のラインにおいて前記第１の領域に分類された領域によって挟まれる前記第２の領域に分類された領域を第１の領域に再分類し、前記特定領域判定手段は、前記第１の領域に分類された領域を前記特定領域であると判定することを特徴とする。
【発明の効果】
【００１５】
本発明によれば、短時間で顔などの特定領域を検出できるようになる。さらに、顔の内部の目のように、特定色（肌色）ではないが特定色で囲まれている部分をも特定領域（顔領域）として検出できる。
【発明を実施するための最良の形態】
【００１６】
以下、図面を参照しながら、本発明の実施形態を詳細に説明する。
【００１７】
図１は、本発明の実施形態に係る特定領域検出装置の構成例を示すブロック図である。本実施形態の特定領域検出装置は、画像処理装置に適用されるものである。
【００１８】
本実施形態に係る特定領域検出装置は、肌色判定部１０と、肌色判定結果記憶部１２と、肌色判定結果変更部１４と、顔領域判定部１６とを具備する。なお、顔領域を検出するのは一例であり、顔以外の、特定色を有する特定領域を検出することに用いても良い。特定色を判定することを考慮して、肌色判定部１０を特定色判定部、肌色判定結果記憶部１２を特定色判定結果記憶部、肌色判定結果変更部１４を特定色判定結果変更部、顔領域判定部１６を特定領域判定部として、それぞれ表わすことができる。
【００１９】
肌色判定部１０は、入力画像のある領域（判定領域）が、肌色であるか否かを判定する。本実施形態の肌色の判定方法は、基準とする肌色の色相の範囲を定義しておき、判定領域内の色差信号が示す色相と比較することによって判定する。なお、肌色の色相は人種にかかわらず共通であるが、人種や個人差によって明度が異なるので、色相とともに明度も定義し、さらに明度を調整できるようにしても良い。
【００２０】
肌色判定結果記憶部１２は、肌色判定部１０によって判定された肌色判定結果を、判定領域ごとに、肌色部分（特定色領域）、肌色近接部分（特定色近接領域）及び非肌色部分（非特定色領域）の何れかに分類して順次記憶する。肌色判定結果変更部１４は、肌色判定結果記憶部１２に記憶された分類結果のうち、肌色部分に囲まれる肌色近接部分を再評価し、肌色部分を示す分類結果に変更する。本実施形態の作用上、肌色判定結果記憶部１２は、少なくとも、現在の判定領域の垂直方向の上側に隣接する判定領域からの分類結果を１ライン分記憶するための容量があればよい。
【００２１】
顔領域判定部１６は、肌色判定結果記憶部１２に記憶された分類結果および変更結果に基づいて、肌色部分と、肌色部分に囲まれた肌色ではない閉領域とを、顔領域（特定領域）と判定し、顔領域判定結果（特定領域判定結果）を出力する。
【００２２】
本実施形態に係る特定領域検出装置の動作を詳細に説明する。図２は、本発明の実施形態で処理する入力画像の例である。入力画像は、例えば、１９２０画素×１０８０画素から成るＨＤ映像である。これを１６画素×１６画素の画素ブロック（符号化の処理単位となるブロックサイズ。マクロブロックとも称す。）で分割すると、横１２０個×縦６８個のマクロブロックが形成される。
【００２３】
本実施形態では、上記の１６画素×１６画素のブロック（マクロブロック）のように、あるまとまった矩形領域を一つの判定領域（肌色判定単位）とする。そして、画面内で順次、判定領域を水平及び垂直方向に走査し、各判定領域が肌色か否かを判定する。このとき、先ず水平方向に走査し、この水平走査のラインを順次、垂直方向に移動する。ただし、先ず垂直方向に走査し、この垂直走査のラインを順次、水平方向に移動するように構成しても良い。また、肌色判定単位となる各判定領域の画素数は、１６×１６以外に、８×８や、４×４、１６×８等の異なるサイズを設定しても良いし、同一画面内で異なるサイズを適応的に用いてもよい。さらに、各判定領域は部分的に重なっても良いとする。
【００２４】
具体的には、肌色判定部１０は、入力画像から順に肌色判定単位の判定領域を切り出し、当該判定領域に含まれる色差信号の成分から、この判定領域が肌色か否かを判定する。判定領域は、水平方向と垂直方向に走査される。通常は画面の左上から始まり、水平方向に先ず走査され、水平方向の終端に到達したら、垂直方向にシフトした別のラインに沿って、走査される。ここでの水平走査ライン（水平ラインと称する）は、判定領域の垂直方向の画素数（例えば、１６画素）に相当する幅を有する。肌色判定部１０は、判定結果を肌色判定結果記憶部１２に供給する。
【００２５】
図３は、肌色判定に係る処理のフローチャートである。肌色判定部１０が判定領域ごとに出力した肌色か否かの情報（判定結果）に従って、肌色判定結果記憶部１２は、図３に示す処理フローのように、肌色判定部１０の判定結果を、肌色部分、肌色近接部分及び非肌色部分の３種類に分類して記憶する。具体的に、ある判定領域について、肌色判定部１０の判定結果が肌色を示す場合（Ｓ１１でＹＥＳ）、肌色判定結果記憶部１２は、その判定領域を肌色部分と評価する。そして、肌色部分と評価した判定領域を「１」に分類して記憶する（Ｓ１２）。
【００２６】
一方、ある判定領域について、肌色判定部１０の判定結果が肌色ではないが（Ｓ１１でＮＯ）、垂直方向の上側に隣接する判定領域の分類結果が肌色部分である場合（Ｓ１３でＹＥＳ）、肌色判定結果記憶部１２は、その判定領域を肌色近接部分と評価する。そして、肌色近接部分と評価した判定領域を「２」に分類して記憶する（Ｓ１４）。
【００２７】
ここで、肌色判定結果変更部１４は、肌色判定結果記憶部１２の分類結果に対して更に、水平ライン上で肌色部分により挟まれる肌色近接部分を肌色部分に分類変更する。図４は、肌色判定結果変更部１４による肌色判定結果の変更に係る動作説明図である。図４の（Ａ）は、肌色判定結果記憶部１２による記憶値（初期状態）を示す。図４において、「１」又は「２」又は「３」と書かれたブロックが、それぞれ判定領域である。「１」は肌色部分に分類された判定領域であり、「２」は肌色近接部分に分類された判定領域である。なお、後述するが、「３」は非肌色部分に分類された判定領域である。図４の（Ａ）に示す記憶値の後に、図４の（Ｂ）に示すように、肌色判定結果記憶部１２が肌色部分を示す値「１」を記憶したとする。この結果、肌色判定結果記憶部１２内の記憶値（分類結果）では、肌色近接部分「２」に分類された３つの判定領域が、肌色部分「１」によって左右から挟まれる。肌色判定結果変更部１４は、このように１水平ライン上で、肌色近接部分「２」が肌色部分「１」で挟まれたことを検知すると、図４（Ｃ）に示すように、肌色近接部分の分類結果を、肌色部分を示す値「１」に変更する。さらに、この水平ラインの次の水平ラインでは、肌色判定結果変更部１４による変更後の分類結果をもとにして、肌色判定結果記憶部１２による肌色近接部分の判定が行われる。このように、肌色部分「１」により左右から挟まれた、連続する複数の肌色近接部分「２」を一括して肌色部分に変更することができる。
【００２８】
図３のフローチャートの説明に戻る。ある判定領域について、肌色判定部１０の判定結果が肌色ではなく（Ｓ１１でＮＯ）、垂直方向の上側に隣接する判定領域の分類結果が肌色部分ではない場合（Ｓ１３でＮＯ）、肌色判定結果記憶部１２は、その判定領域を非肌色部分と評価する。そして、非肌色部分と評価した判定領域を「３」に分類して記憶する（Ｓ１５）。
【００２９】
以上のとおり、判定領域が、肌色部分「１」又は肌色近接部分「２」又は非肌色部分「３」に分類されると、肌色判定結果記憶部１２は、次の判定領域へと判定領域の更新を行い（Ｓ１６）、本フローはリターンとなる。なお、本実施形態では、便宜的に、肌色部分に「１」を割り当て、肌色近接部分に「２」を割り当て、非肌色部分に「３」を割り当てているが、これは一例である。
【００３０】
図５は、顔領域判定に係る処理のフローチャートである。顔領域判定部１６は、図５に示す処理フローに従って、図２の如き入力画像に含まれる顔領域（又は特定領域）を判定する。顔領域判定部１６は、肌色判定結果記憶部１２に記憶されている各判定領域の分類結果を参照し、肌色部分「１」に分類された領域であるならば（Ｓ２１でＹＥＳ）、その領域を顔領域（特定領域）の一部と判定する（Ｓ２２）。
【００３１】
顔領域判定部１６は、肌色部分ではないが（Ｓ２１でＮＯ）、肌色判定結果変更部１４の再評価によって肌色近接部分「２」から肌色部分「１」に変更された領域であるならば（Ｓ２３でＹＥＳ）、その判定領域を顔領域（特定領域）の一部と判定する（Ｓ２２）。ここで、肌色近接部分「２」から肌色部分「１」に変更された領域とは、少なくとも上、左及び右の三方向に肌色部分が存在する領域、すなわち、肌色に囲まれた肌色以外の部分であり、例えば、顔の中の「目」や「口」などを抽出することに適用できる。顔領域判定部１６は、肌色判定結果変更部１４による変更結果を受け取ることで、肌色部分「１」により左右から挟まれた、連続する複数の肌色近接部分「２」を一括して顔領域と判定することができる。
【００３２】
また、顔領域判定部１６は、肌色部分ではなく（Ｓ２１でＮＯ）、肌色に囲まれた肌色以外の部分でもない領域ならば（Ｓ２３でＮＯ）、その判定領域を非顔領域（非特定領域）の一部と判定する（Ｓ２４）。なお、非顔領域（非特定領域）としては、肌色判定結果記憶部１２に記憶された分類結果のうち、非肌色部分「３」と、肌色近接部分「２」のまま残された判定領域であるということができる。
【００３３】
以上のとおり、ある判定領域について顔領域か非顔領域かの判定が完了したならば、肌色判定結果記憶部１２に記憶された次の判定領域の結果について顔領域判定するべく、判定領域の更新を行う（Ｓ２５）。そして、本フローはリターンとなる。
【００３４】
このようにして、顔領域判定部１６は、肌色部分と、肌色部分に上、左及び右の三方向を囲まれた肌色ではない領域とを、顔領域（特定領域）と判定し、入力画像に対する顔領域判定結果（特定領域判定結果）を出力する。
【００３５】
続いて、上述した本実施形態の顔領域判定に係る動作内容を、図６乃至図１１を用いてさらに説明する。
【００３６】
図６は、図２の入力画像の顔部分を拡大した例である。さらに、図７は、図６に示す例に対する目の周辺部の肌色部分を示す図である。図７に示すように、上述の肌色判定単位の判定領域毎に、肌色か否かで分類すると、目は肌色部分ではなく、目の周辺部分が肌色部分となる。また、顔の外側の部分も肌色部分とはならない。以降、このような目と目の周辺部分を例に説明する。
【００３７】
本実施形態の肌色判定処理は、図６に示す画像を左上から右下に向かい、肌色判定単位の判定領域で走査しながら、逐次、肌色か否かを判定していく。図８乃至図１１は、図６に示す例に対する肌色判定及び顔領域判定の結果の変遷例である。図８、図９，図１０及び図１１には、肌色判定結果記憶部１２及び肌色判定結果変更部１４による分類結果を示す値が付記されている。各判定領域に付記される数値は、「１」が肌色部分、「２」が肌色近接部分、「３」が非肌色部分を示す。
【００３８】
図８において、肌色判定部１０が、画像の左上から順次、判定領域を切り出して、判定領域ごとに肌色か否かを判定する。目の周辺部の判定領域は肌色であるので、肌色判定結果記憶部１２によって、肌色部分「１」に分類される。また、顔の外側の判定領域に関しては、非肌色部分「３」に分類される。
【００３９】
一方、目の部分の判定領域は肌色ではないが、垂直方向の上側に隣接する判定領域が肌色部分「１」に分類されているので、肌色判定結果記憶部１２によって、肌色近接部分「２」に分類される。
【００４０】
図８では、目の部分が肌色近接部分と分類されている。さらに、図９のように、目の向かって右側に位置する判定領域が肌色部分「１」に分類される。この状態になると、目の左右の部分が肌色部分という評価になったので、肌色判定結果変更部１４が、目の部分の肌色部分「１」に囲まれた肌色近接部分「２」を、肌色部分「１」に変更する。
【００４１】
図９では、目の１ライン目の領域が肌色判定結果変更部１４により肌色部分「１」に変更された。さらに、図１０のように、目の２ライン目を評価する際には、上側に隣接する目の１ライン目の各判定領域を肌色部分「１」であるとみなして、肌色判定結果記憶部１２は、目の部分を肌色近接部分「２」に分類する。さらに、目の１ライン目と同様に、肌色判定結果変更部１４によって肌色近接部分「２」を肌色部分「１」に変更する処理が行われる。
【００４２】
このような処理を、目の３ライン目以降も繰り返すことによって、図１１のように、全ての判定領域に対する分類が完了する。
【００４３】
本実施形態では、特定領域検出装置に含まれる肌色判定部１０と、肌色判定結果記憶部１２と、肌色判定結果変更部１４と、顔領域判定部１６とを同時に動かすことによって、肌色判定処理と顔領域判定処理を並行して、１パスで処理することができる。顔領域判定部１６は、１水平ライン毎に肌色判定結果記憶部１２に記憶される分類結果および変更結果に基づいて、顔領域判定を判定領域ごとに逐次行うことになる。よって、短時間で顔領域を判定することができる。
【００４４】
こうして、本実施形態では、図１１に示す結果のように、肌色部分と、目などの肌色に囲まれた肌色以外の部分（閉領域）とを、短時間で顔領域として判定することができる。なお、図２の例のようなＨＤ画像や、それ以上の高精細な映像を入力画像とする場合、顔のアップを対象にすると、目、鼻、口、眉といった、顔の内部の肌色以外の領域はかなり存在し、そこには多数のマクロブロックが割り当てられている。肌色の部分だけ特殊な画像処理、例えば符号化時の高画質化処理を施したとすると、目、鼻、口、眉といった部位の画質が低下したように見えることになろう。そこで、本実施形態の方法を採ることによって顔の内部の、目、鼻、口、眉といった部位に対しても、肌色部分と同じ顔領域として処理することができる。例えば、顔領域と、その他の領域とで異なる内容の所定の画像処理を施すことができる。所定の画像処理の一例として、顔領域を高画質に符号化するための構成を後述する。
【００４５】
図１２は、本発明の実施形態に係る特定領域検出装置を適用した画像処理装置の構成例を示すブロック図である。例として、Ｈ．２６４方式による圧縮符号化を行う画像処理装置に適用したものである。
【００４６】
符号化の対象である入力画像データがフレームバッファ２０２に格納される。フレームバッファから符号化される入力画像データがマクロブロック単位で左上からラスター順に読み出され、顔領域検出部２０１と動き予測部２０３に並列に入力される。ここで、顔領域検出部２０１が、上述した特定領域検出装置の構成及び機能を有するものである。
【００４７】
顔領域検出部２０１は、先に説明した方法によって、入力画像に含まれる顔領域を、入力画像データの符号化処理と並行してリアルタイムに判定し、顔領域判定結果を量子化制御部２１２に供給する。
【００４８】
量子化制御部２１２は、後述するエントロピー符号化部２０６からマクロブロックごとの発生符号量の情報を受け取り、目標とする符号量になるようにベースとなる量子化ステップサイズを決定する。このとき、量子化制御部２１２は、顔領域検出部２０１から顔領域判定結果が入力されているならば、その顔領域判定結果に基づき、顔領域と判定された領域に対応するマクトブロックとその他のマクロブロックとで異なる量子化制御を行う。具体的には、顔領域と判定された領域に対応するマクロブロックと、非顔領域と判定された領域に対応するマクロブロックとを比較し、その比較結果に応じてベースとなる量子化ステップサイズを調整する。特に、顔領域と判定された領域に対応するマクロブロックについては、細かい量子化ステップサイズによって量子化されるようにベースとなる量子化ステップサイズを調整し、最終的な量子化ステップサイズを決定する。このようにして決定された量子化ステップサイズを量子化部２０５に出力する。
【００４９】
動き予測部２０３は、フレーム内の予測（イントラ予測）またはフレーム間の予測（インター予測）を行う。予測の際に参照されるローカルデコード画像（参照画像）は、参照フレームバッファ２１１に格納されている。動き予測部２０３は、フレームバッファ２０２から受け取った入力画像と、参照フレームバッファ２１１に格納されている参照画像とから符号化を行うマクロブロックの動きを予測し、動きベクトルを算出する。そして、算出した動きベクトル位置から、入力画像と参照画像の差分を取り、差分画像を直交変換部２０４に出力する。
【００５０】
直交変換部２０４は、入力された差分画像に対して離散コサイン変換を行い、変換係数データを量子化部２０５に出力する。量子化部２０５では量子化制御部２１２から受け取った量子化ステップサイズに従い、入力された変換係数データの量子化を行う。量子化後の係数データはエントロピー符号化部２０６、ならびに逆量子化部２０７に送られる。
【００５１】
エントロピー符号化部２０６は、入力された量子化後の係数データに対してジグザグスキャン、オルタネートスキャン等を行い、可変長符号化を行う。また、エントロピー符号化部２０６によって、量子化後の係数データ以外にも、動きベクトル、量子化ステップサイズ、マクロブロック分割サイズ等の符号化方式の情報も可変長符号化され、符号化ストリームが形成され、出力される。また、エントロピー符号化部２０６は、符号化の際にマクロブロックごとの発生符号量を算出し、量子化制御部２１２に出力する。
【００５２】
逆量子化部２０７は、入力された量子化後の係数データに対して逆量子化を行い、ローカルデコード用の変換係数を生成し、逆直交変換部２０８に出力する。逆直交変換部２０８は、入力された変換係数に対して、逆離散コサイン変換を行い、差分画像データを生成する。差分画像データは動き補償部２０９に出力される。動き補償部２０９は、動きベクトル位置の参照画像を参照フレームバッファ２１１から取得し、参照画像のデータと、入力された差分画像データとを加算することにより、ローカルデコード画像のデータを作成する。
【００５３】
動き補償部２０９によって作成された画像データは、ループフィルタ部２１０に出力される。ループフィルタ部２１０は、入力された画像データに対してデブロッキングフィルタ処理を行う。すなわち、マクロブロック境界にしばしば発生するブロック歪を除去するためのフィルタリング処理を施すことによって、ブロック境界を目だなくすることができる。ループフィルタ部２１０によるデブロッキングフィルタ処理後の画像が、ローカルデコード画像として後続の符号化のため参照フレームバッファ２１１に格納される。
【００５４】
以上の動作により、符号化ストリーム、ローカルデコード画像が作成される。このようにして符号化動作を行うことにより、生成される符号化ストリーム、及び、ローカルデコード画像においては、顔領域と判定された部分は他の領域と比較して符号量が多く割り当てられているため、良好な画質の画像を得ることができる。
【００５５】
以上のように、本実施形態によれば、顔の内部の目のように、肌色ではないが肌色で囲まれている部分を顔領域として検出できる。これを人物の顔を含む画像の圧縮符号化に利用することにより、肌色ではない顔部分であっても、顔領域の一部として高画質に圧縮符号化することが可能になる。
【００５６】
本発明の一実施形態をハードウエアとして説明したが、その処理の一部又は全部をソフトウエアにより実現できることは明らかである。
【図面の簡単な説明】
【００５７】
【図１】本発明の実施形態に係る特定領域検出装置の構成例を示すブロック図である。
【図２】本発明の実施形態で処理する入力画像の例である。
【図３】肌色判定に係る処理のフローチャートである。
【図４】肌色判定結果の変更に係る動作説明図である。
【図５】顔領域判定に係る処理のフローチャートである。
【図６】入力画像の顔部分を拡大した例である。
【図７】図６に示す例に対する目の周辺部の肌色部分を示す図である。
【図８】図６に示す例に対する肌色判定及び顔領域判定の結果の変遷例である。
【図９】図６に示す例に対する肌色判定及び顔領域判定の結果の変遷例である。
【図１０】図６に示す例に対する肌色判定及び顔領域判定の結果の変遷例である。
【図１１】図６に示す例に対する肌色判定及び顔領域判定の結果の変遷例である。
【図１２】本発明の実施形態に係る画像処理装置の構成例を示すブロック図である。
【符号の説明】
【００５８】
１０  肌色判定部
１２  肌色判定結果記憶部
１４  肌色判定結果変更部
１６  顔領域判定部
【図１】
0005111260.tif 000002
【図２】
0005111260.tif 000003
【図３】
0005111260.tif 000004
【図４】
0005111260.tif 000005
【図５】
0005111260.tif 000006
【図６】
0005111260.tif 000007
【図７】
0005111260.tif 000008
【図８】
0005111260.tif 000009
【図９】
0005111260.tif 000010
【図１０】
0005111260.tif 000011
【図１１】
0005111260.tif 000012
【図１２】
0005111260.tif 000013