(57)【特許請求の範囲】
【請求項１】
原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備え、
前記立体データ生成部は、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとする、
ことを特徴とする画像処理装置。
【請求項２】
原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備え、
前記立体データ生成部は、
前記一のクラスターと前記他のクラスターとの、前記一定の向きに直交する方向における幅が異なる場合に、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする画像処理装置。
【請求項３】
原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備え、
前記立体データ生成部は、
前記他のクラスターが前記一のクラスターの周囲を囲んでいる場合に、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする画像処理装置。
【請求項４】
原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備え、
前記立体データ生成部は、
前記一のクラスターに対し、一定の向きにおける終点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする画像処理装置。
【請求項５】
前記一定の向きは、その始点側に光源が存在する向きであることを特徴とする請求項２〜４のいずれか一項に記載の画像処理装置。
【請求項６】
原画像データから高さ情報を含む立体画像データを生成する立体画像データ生成方法であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割するステップと、
前記第１の複数のクラスターに分割するステップにおいて分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成するステップと、
を有し、
前記第１の高さ情報を生成するステップは、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとすることを含む、
ことを特徴とする立体データ生成方法。
【請求項７】
原画像データから高さ情報を含む立体画像データを生成する立体画像データ生成方法であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割するステップと、
前記第１の複数のクラスターに分割するステップにおいて分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成するステップと、
を有し、
前記第１の高さ情報を生成するステップは、
前記一のクラスターに対し、一定の向きにおける終点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを含む、
ことを特徴とする立体データ生成方法。
【請求項８】
前記一定の向きは、その始点側に光源が存在する向きであることを特徴とする請求項７に記載の立体データ生成方法。
【請求項９】
原画像データから高さ情報を含む立体画像データを生成する画像処理装置に、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する手順と、
前記第１の複数のクラスターに分割する手順により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する手順と、
を実行させ、
前記第１の高さ情報を生成する手順は、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとすることを含む、
ことを特徴とするプログラム。
【請求項１０】
原画像データから高さ情報を含む立体画像データを生成する画像処理装置に、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する手順と、
前記第１の複数のクラスターに分割する手順により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する手順と、
を実行させ、
前記第１の高さ情報を生成する手順は、
前記一のクラスターに対し、一定の向きにおける終点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを含む、
ことを特徴とするプログラム。
【請求項１１】
前記一定の向きは、その始点側に光源が存在する向きであることを特徴とする請求項１０に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、高低差を持つ立体画像データを自動生成する、画像処理装置、立体データ生成方法、及びプログラムに関する。
【背景技術】
【０００２】
粉末石膏や発泡剤を使って立体物を作製する立体成型技術において、二次元方向に広がる非立体画像データしかない場合、高低差を持つ立体画像データを自動生成する必要がある。このため、従来、２眼カメラにより対象物を複数の方向から同時に撮影してその奥行き方向のデータ（高低差）を演算により推定する方法、あるいは、フォーカス位置をずらして連続撮影を行い、その奥行き方向のデータを演算により推定する方法があった。
【０００３】
また、例えば、特許文献１には、原画像が持つ色相等の特徴量に応じた高低差を持つ立体表現効果の高い立体画像を容易に形成できるようにする技術が開示されている。特許文献１によれば、その立体画像データは各画素に対する高さ情報を含み、その高さ情報は、原画像データの色相に対応して設定される。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００５−２２９１８９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、従来技術によれば、立体成型処理の方法によっては表現できる高さに制限があり、実物と同じ高さまで造形できない場合がある。また、特許文献１に開示された技術によれば、高さと色相とを単純に対応付けているため、例えば、暗い色は後退色に相当するため比較的遠くに位置するように表現され、人間の視覚認識とは異なる表現になる場合があった。
【０００６】
本発明は上記した課題を解決するためになされたものであり、高さ表現が限られる中で人間の視覚認識に合致した立体データを生成する、画像処理装置、立体データ生成方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記した課題を解決するために本発明の画像処理装置は、原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、を備え、
前記立体データ生成部は、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとすることを特徴とする。
また、本発明の別の画像処理装置は、原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備え、
前記立体データ生成部は、
前記一のクラスターと前記他のクラスターとの、前記一定の向きに直交する方向における幅が異なる場合に、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする。
また、本発明のさらに別の画像処理装置は、原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備え、
前記立体データ生成部は、
前記他のクラスターが前記一のクラスターの周囲を囲んでいる場合に、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする。
【０００８】
本発明の立体画像データ生成方法は、原画像データから高さ情報を含む立体画像データを生成する立体画像データ生成方法であって、前記原画像データを、輝度に基づいて第１の複数のクラスターに分割するステップと、前記第１の複数のクラスターに分割するステップにおいて分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成するステップと、を有し、
前記第１の高さ情報を生成するステップは、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとすることを含む、ことを特徴とする。
また、本発明の別の立体画像データ生成方法は、原画像データから高さ情報を含む立体画像データを生成する立体画像データ生成方法であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割するステップと、
前記第１の複数のクラスターに分割するステップにおいて分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成するステップと、
を有し、
前記第１の高さ情報を生成するステップは、
前記一のクラスターに対し、一定の向きにおける終点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを含む、ことを特徴とする。
【０００９】
本発明のプログラムは、原画像データから高さ情報を含む立体画像データを生成する画像処理装置に、前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する手順と、前記第１の複数のクラスターに分割する手順により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する手順と、を実行させ、
前記第１の高さ情報を生成する手順は、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとすることを含む、ことを特徴とする。
また、本発明の別のプログラムは、原画像データから高さ情報を含む立体画像データを生成する画像処理装置に、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する手順と、
前記第１の複数のクラスターに分割する手順により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する手順と、
を実行させ、
前記第１の高さ情報を生成する手順は、
前記一のクラスターに対し、一定の向きにおける終点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを含む、ことを特徴とする。
【発明の効果】
【００１０】
本発明によれば、高さ表現が限られる中で人間の視覚認識に合致した立体データを生成する、画像処理装置、立体データ生成方法、及びプログラムを提供することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の実施の形態の画像処理装置の構成を示すブロック図である。
【図２】実施例１の動作を示すフローチャートである。
【図３】実施例１の立体データ生成のイメージを模式的に示した図である。
【図４】撮影画像に対する陰影と色相の影響を説明するために引用した図である。
【図５】実施例１の立体データ生成の例外パターンを説明するために引用した図である。
【図６】実施例２の動作を示すフローチャートである。
【図７】実施例２の撮影画像に対する陰影の影響を説明するために引用した図である。
【発明を実施するための形態】
【００１２】
以下、添付図面を参照して、本発明を実施するための形態（以下、本実施形態という）について詳細に説明する。なお、本実施形態の説明の全体を通して同じ要素には同じ番号を付している。
【００１３】
(実施形態の構成)
図１によれば、本実施形態の画像処理装置２０は、撮像装置や記録媒体等から撮影画像を取得する画像入力装置１０と、画像処理装置２０により生成される立体画像データに基づき処理画像を出力する画像形成装置３０に接続される。
【００１４】
本実施形態の画像処理装置２０は、撮影画像等の原画像から高低差を持つ立体画像データを生成して画像形成装置３０へ出力する。本実施形態の画像処理装置２０は、限られた高さの中で立体感を再現するため、例えば、撮影画像を明暗あるいは色相により領域分割し、明るい領域の下に位置する暗い領域（陰影）の高さ情報を低く、あるいは、後退色の領域の高さ情報を低く設定することで高低差を持つ立体データを作成する。
【００１５】
このため、本実施形態の画像処理装置２０は、画像変換部２１と、クラスタリング処理部Ａ（２２）と、立体データ生成部２３と、記憶部２４とを含み構成される。また、クラスタリング処理部Ｂ（２５）を含んでもよい。
【００１６】
画像変換部２１は、画像入力装置１０から取り込まれた撮影画像等の原画像をグレースケール階調に変換してクラスタリング処理部Ａ（２２）へ出力する。クラスタリング処理部Ａ（２２）は、画像変換部２１から出力されるグレースケール階調画像に対して輝度によるクラスタリング処理を実行し、立体データ生成部２３へ出力する。ここで、輝度によるクラスタリング処理とは、分類対象の画像（画素の集合）を輝度値に基づいて部分集合に分割することをいう。ここで、分割後の部分集合をクラスターという。即ち、輝度値が取り得る値の全範囲を複数の範囲（輝度グループ）に分け、各画素の輝度値に基づいて、各画素が属する輝度グループを判定する。隣接する画素が同じ輝度グループに属している場合には、それらの画素の集合が、平面的な拡がりを持ったひと繋がりのクラスターになる。ここで、輝度グループの数は、例えば数個（１０個以下）として良いが、この数に限るものではない。
【００１７】
立体データ生成部２３は、クラスタリング処理部Ａ（２２）により分割されたクラスター毎、一定の向きに明るさを比較し、明から暗に変化するクラスターを特定し、特定されたクラスターの高さが比較元のクラスターに比べて低く設定される陰影高さマップ２４ａ（高さ情報）を生成して画像形成装置３０へ出力する。即ち、注目したあるクラスターに対し、前述の一定の向きにおける始点側に隣接して配置されたクラスターの明るさよりも、該注目クラスターの明るさの方が暗い場合、陰影高さマップ２４ａにおいて、該注目クラスターの高さが周囲のクラスターよりも低く設定される。
【００１８】
クラスタリング処理部Ｂ（２５）は、原画像に対して色相によるクラスター処理を実行して立体データ生成部２３へ出力する。このとき、立体データ生成部２３は、クラスター処理により分割されたクラスター毎に周辺クラスターの色テーブル２４ｂを作成し、周囲の色との関係から進出色から後退色に変化するクラスターを特定し、特定したクラスターの高さが比較元のクラスターに比較して低く設定される色高さマップ２４ｃ（高さ情報）を生成して画像形成装置３０へ出力する。即ち、注目したあるクラスターの周囲のクラスターの色が進出色であり、該注目クラスターの色が後退色である場合、色高さマップ２４ｃにおいて、該注目クラスターの高さが周囲のクラスターよりも低く設定される。
【００１９】
立体データ生成部２３は、陰影高さマップ２４ａ（第１の高さ情報）と色高さマップ２４ｃ（第２の高さ情報）とを重ね合わせ処理（合成）して合成高さマップ２４ｄを生成し、この合成高さマップ２４ｄにより得られる高さ情報を画像形成装置３０で再現可能な階調に正規化して出力するか、陰影高さマップ２４ａ（第１の高さ情報）と色高さマップ２４ｃ（第２の高さ情報）に示される高さ情報をそれぞれ画像形成装置３０で再現可能な階調に正規化し、合成して出力する。このとき、立体データ生成部２３は、陰影高さマップ２４ａ（第１の高さ情報）を色高さマップ２４ｃ（第２の高さ情報）に比べて高い重量比（比率）で合成してもよい。
【００２０】
なお、上記した画像変換部２１、クラスタリング処理部Ａ（２２）、立体データ生成部２３、クラスタリング処理部Ｂ（２５）は、それぞれ別ブロックとして独立して存在するものとして説明したが、例えば、これら各ブロック２１，２２，２３，２５が持つ機能を、記憶部２４に格納されたプログラムを逐次読み出し実行するプロセッサにより実現してもよい。
【００２１】
この場合、記憶部２４には、上記したプログラムが格納されるプログラム領域の他、プログラムの実行過程で生成される各種データが格納される作業データ領域が割り当てられ記憶される。この作業データ領域には、立体データ生成のために必要な、例えば、陰影高さマッブ２４ａ，色テーブル２４ｂ，色高さマップ２４ｃ、合成高さマップ２４ｄ等が格納される。これらマップやテーブルの詳細は後述する。
【００２２】
（実施例１）
以下、図２のフローチャート、および図３〜図５の模式図を参照しながら実施例１の画像処理装置２０の動作について詳細に説明する。
【００２３】
実施例１の画像処理装置２０では、まず、画像変換部２１が、画像入力装置１０から取り込まれた撮影画像等の２次元の原画像をグレースケール階調に変換してクラスタリング処理部Ａ（２２）へ出力する。ここで、撮影画像は、例えば、図３に示すように、飾り棚に置かれた花入りの花瓶を撮影したものであると想定している。このように、被写体は、実際は側面図として示されるように奥行き方向に厚みを持っている。クラスタリング処理部Ａ（２２）は、画像変換部２１から出力される正面のグレースケール階調画像に対し、輝度によるクラスタリング処理を実行して立体データ生成部２３へ出力する（ステップＳ１０１：輝度クラスタリング）。
【００２４】
立体データ生成部２３は、クラスタリング処理部Ａ（２２）により分割されたクラスター毎、一定の向き、ここでは、上から下に向かって明るさを比較し、明から暗に変化するクラスターを特定する（ステップＳ１０２：輝度クラスター間上下関係取得）。そして、特定されたクラスターの高さが比較対象のクラスターに比べて低く設定される陰影高さマップ２４ａを生成する（ステップＳ１０３：陰影高さマップ変換）。図３に示す例では、花瓶、花、そしてその背景は、いずれも明暗差がない（予め定めた閾値に満たない）ため、陰影高さマップ２４ａでは、高さの差が現れない。飾り棚の天板と底板に影が生じて明暗差がある（上記の閾値を超える）ため高さの差がある程度現れる。
【００２５】
ステップＳ１０２の「輝度クラスター間上下関係取得」処理について、図４（ａ）、ならびに図５（ａ）（ｂ）を参照しながら詳述する。図４（ａ）には、人間の立体認識に対する陰影の影響が、図５（ａ）（ｂ）には、陰影の影響の例外パターンがそれぞれ示されている。現実の世界では、光源（太陽）が真上にある状況が通常であることから、人間は明るいところの下に暗い領域があると、この暗い領域は陰であると錯覚しやすい。つまり、明るいところが手前に突出した形状であると錯覚する。そこで、立体データ生成部２３は、上から下に向かって明るさを比較するものとする。ここでは、飾り棚の天板と底板部分に影が生じるため、この部分で明暗の差が生じる。また、飾り棚の背景と、花と、花瓶との間には特に明暗差がない。このため、立体データ生成部２３により生成される陰影高さマップ２４ａに設定される高さ情報は、明暗の変化があったクラスターの高さが比較元のクラスターに比べて低く設定される。
【００２６】
なお、図５（ａ）の撮影画像にＡとして示すように、明るいクラスターの上に位置する暗いクラスターは高低差がないものと判定され、したがって影とは見なさず、また、明るいクラスターの下の領域に位置する暗いクラスターでも、明るいクラスターが暗いクラスターの周囲を囲んでいる場合には高低差がないものと判定され、したがって影とはみなされない。また、図５（ｂ）の撮影画像にＤとして示すように、明るいクラスターの下に暗いクラスターがあっても、上のクラスターが下のクラスターと幅が異なる（Ｄの場合、上のクラスターの幅が下のクラスターより小さい）場合には高低差がないものと判定され、したがって影とは見なさない。この場合、陰影高さマップ２４ａにおいて、上のクラスターの高さは下のクラスターと同じになる。なお、図５（ａ）（ｂ）にＣとして示すように、飾り棚の天板の下の領域は、輝度クラスターが周囲を囲むことなく、明るいクラスターの下に同じ幅の暗い領域が位置するために影とみなされ、したがって、陰影高さマップ２４ａには高さ情報が低く設定される。
【００２７】
説明を図２のフローチャートに戻す。上記したステップＳ１０３の立体データ生成部２３による陰影高さマップ変換処理後、クラスタリング処理部Ｂ（２５）は、原画像に対して色相によるクラスタリング処理を実行して立体データ生成部２３へ出力する（ステップＳ１０４）。ここで、進出色か後退色かは、周囲の色との暖色あるいは寒色度合いの差により決定されるため、立体データ生成部２３は、分割されたクラスター（注目クラスター）に対する周辺クラスターの色テーブル２４ｂを作成することにより判定する（ステップＳ１０５）。すなわち、立体データ生成部２３は、注目クラスター毎、色テーブル２４ｂを参照して周囲の色との関係から進出色と後退色の判定を行ない（ステップＳ１０６）、周辺クラスターとの暖色寒色の差を高低差とする色高さマップ２４ｃに変換する（ステップＳ１０７）。
【００２８】
ステップＳ１０７の「色高さマップ変換処理」について、図４（ｂ）（ｃ）を参照しながら詳述する。図４（ｂ）（ｃ）には、人間の立体認識に対する色相の影響が示されている。すなわち、周囲の色によって色の錯覚、色立体視の影響が変化する様子を示している。例えば、図４（ｂ）において、背景が水色で花瓶が赤色であれば、赤い花瓶が立体視における進出色になるため輪郭に高低差が発生する。また、図４（ｃ）において、背景が橙で花瓶が水色の場合、色立体視の影響で花瓶が奥に見えるため輪郭に高低差が発生する。したがって、立体データ生成部２３により生成される色高さマップ２４ｃは、奥行き方向において奥の方に見える箇所が低く設定され、例えば、図３に示すように、立体データ生成部２３により生成される色高さマップ２４ｃは、進出色から後退色に変化する箇所において、後退色であるクラスターの高さ情報が低く設定される。
【００２９】
最後に、立体データ生成部２３は、陰影高さマップ２４ａと色高さマップ２４ｃとを重ね合わせ処理することにより合成高さマップ２４ｄを生成し、その結果得られる合成高さ情報（明るい箇所は高く、暗い箇所は低い）を画像形成装置３０で再現可能な階調（例えば、０〜２５５）に正規化して上記した一連の立体データの生成処理を終了する（ステップＳ１０８）。陰影高さマップ２４ａ，色高さマップ２４ｃは、いずれも高い箇所が大きな数値（白に近い）で表現されるため、立体データ生成部２３は、単純加算するか、あるいは陰影と色それぞれの高さにゲインを掛けた数値に変換した後に加算する重ね合わせ処理により合成高さマップ２４ｄを生成する。
【００３０】
また、立体データ生成部２３は、陰影高さマップ２４ａと色高さマップ２４ｃとを画像形成装置３０で再現可能な階調（例えば、０〜２５５）に正規化した後、上記した重ね合わせ処理してもよい。また、立体データ生成部２３は、陰影高さマップ２４ａと色高さマップ２４ｃとを重ね合わせる場合に、陰影高さマップ２４ａを優先し、例えば、陰影高さマップ２４ａに示される高さ情報を色高さマップ２４ｃの高さ情報に比べて高い比率（重量比）で重ね合わせてもよい。
【００３１】
（実施例２）
次に図６のフローチャート、および図７の模式図を参照しながら実施例２の画像処理装置２０の動作について詳細に説明する。
【００３２】
図６に示す実施例２と図２に示す実施例１との差異は、実施例１では、立体データ生成部２３が、輝度クラスター間の上下関係を取得して陰影高さマップ２４ａに変換して高さ情報を表現したのに対し（ステップＳ１０２，Ｓ１０３）、実施例２では、輝度クラスターの輝度高低方向を取得し（ステップＳ２０２）、かつ輝度クラスター間の最多輝度高低方向を取得して（ステップＳ２０３）、陰影高さマップ２４ａに変換（ステップＳ２０４）することにある。その後、色クラスタリング処理が行なわれ、周辺の色テーブル２４ｂを作成して進出色後退色の判定を行なって色高さマップ２４ｃを作成し、重ね合わせ、合成高さマップを作成する処理は実施例１と同様である（ステップＳ２０５〜Ｓ２０９）。
【００３３】
図７に、光源が斜め方向（影の方向が上下以外の陰影）にある場合の撮影画像と陰影高さマップ２４ａの内容が示されている。図７において、撮影画像中にＥとして示したように、光源が斜め方向にある場合、ステップＳ２０２とＳ２０３で、明るいクラスターと暗いクラスターの位置関係が同じ向き（図７の場合、左上から右下の向き）になっていることが複数検出される。このような場合に、影の方向が上下関係になくても影と見なし、陰影高さマップ２４ａに反映させている。この時、上下のクラスターの幅は、検出した明暗方向で補正する。即ち、検出した向きに対して直交する方向に沿った長さを、クラスターの幅であるとみなす。このため、立体データ生成部２３は、クラスタリング処理部Ａ（２２）から輝度により領域分割されたクラスターを取得すると、輝度の高低向きを取得し、更に、輝度クラスター間で最多輝度の高低向きを取得し、陰影高さマップ２４ａに変換する（ステップＳ２０４）。即ち、注目したあるクラスターとそれに隣接するクラスターの輝度を比較し、隣接クラスターよりも注目クラスターの方が暗い場合に、隣接クラスターから注目クラスターへの向きの始点側に光源が存在するものとし、この向きを、上記の輝度の高低向きとする。また、注目クラスターと隣接クラスターとの複数の組に対して同様の判定を行い、輝度の高低向きが同じである場合には該向きについてカウントアップし、その合計が最大となる輝度の高低向き（最多輝度の高低向き）を取得し、陰影高さマップ２４ａに変換する。以降の動作は実施例１と同様である。
【００３４】
（実施形態の効果）
本実施形態の画像処理装置２０によれば、クラスタリング処理により分割されたクラスター毎、一定の向きに明るさを比較し、明から暗に変化するクラスターを特定し、特定したクラスターの高さを比較元のクラスターに比較して低く設定した第１の高さ情報（陰影高さマップ２４ａ）を生成することにより人の視覚認識と合致した立体情報を生成することができ、また、クラスタリング処理により分割されたクラスター毎に周辺クラスターとの色相を比較して、進出色から後退色に変化するクラスターを特定し、特定したクラスターの高さを比較元のクラスターに比較して低く設定した第２の高さ情報（色高さマップ２４ｃ）を生成することにより、輪郭を強調した表現が可能になる。このことにより、制限された高さの中で立体感の再現が可能になり、不足する立体量を補うことができる。また、１枚の画像から取得できる単眼立体情報にあった立体造形を行うことができる。
【００３５】
また、本実施形態の画像処理装置２０によれば、第１の高さ情報（陰影高さマップ２４ａ）と第２の高さ情報（色高さマップ２４ｃ）とを重ね合わせ、合成して得られる高さ情報（合成高さマップ３４ｄ）を画像形成装置３０で再現可能な階調に正規化して出力することにより、あるいは、第１の高さ情報と第２の高さ情報とをそれぞれ画像形成装置３０で再現可能な階調に正規化し、合成して出力することにより、一層、人の視覚認識と合致した立体情報を生成することができる。このとき、第１の高さ情報を第２の高さ情報に比べて高い比率で合成することにより、立体感を強調することができる。
【００３６】
なお、本実施形態の画像処理装置２０によれば、輝度クラスターの上下関係を取得して陰影高さマップ２４ａを生成する他に、輝度クラスターの輝度高低方向を取得して陰影高さマップ２４ａを生成することにより、光源が上方にある場合はもちろんのこと、斜め方向にあっても同様に立体データの作成が可能になる。
【００３７】
（変形例）
上述の各実施例では、注目したあるクラスターの周囲のクラスターの色が進出色であり、該注目クラスターの色が後退色である場合、色高さマップ２４ｃにおいて、該注目クラスターの高さが周囲のクラスターよりも低く設定したが、逆に、注目したあるクラスターの周囲のクラスターの色が後退色であり、該注目クラスターの色が進出色である場合、色高さマップ２４ｃにおいて、該注目クラスターの高さが周囲のクラスターよりも高く設定するようにしてもよい。
【００３８】
以上、本発明の好ましい実施形態について詳述したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されないことは言うまでもない。上記実施形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。またその様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【００３９】
以下に、本願出願時の特許請求の範囲を付記する。
［請求項１］
原画像データから高さ情報を含む立体画像データを生成する画像処理装置であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する第１のクラスタリング処理部と、
前記第１のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する立体データ生成部と、
を備えたことを特徴とする画像処理装置。
［請求項２］
前記原画像データを、色相に基づいて第２の複数のクラスターに分割する第２のクラスタリング処理部を更に備え、
前記立体データ生成部は、
前記第２のクラスタリング処理部により分割された複数のクラスターのうちの一のクラスターの色が後退色であり、該一のクラスターの周囲の他のクラスターが進出色である場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第２の高さ情報を生成することを特徴とする請求項１記載の画像処理装置。
［請求項３］
前記原画像データを、色相に基づいて第２の複数のクラスターに分割する第２のクラスタリング処理部を更に備え、
前記立体データ生成部は、
前記第２のクラスタリング処理により分割された複数のクラスターのうちの一のクラスターの色が進出色であり、該一のクラスターの周囲の他のクラスターが後退色である場合、前記一のクラスターの高さを前記他のクラスターに比較して高く設定した第２の高さ情報を生成することを特徴とする請求項１記載の画像処理装置。
［請求項４］
前記立体データ生成部は、
前記一のクラスターと前記他のクラスターとの、前記一定の向きに直交する方向における幅が異なる場合に、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする請求項１〜３の何れか一項に記載の画像処理装置。
［請求項５］
前記立体データ生成部は、
前記他のクラスターが前記一のクラスターの周囲を囲んでいる場合に、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする請求項１〜４の何れか一項に記載の画像処理装置。
［請求項６］
前記立体データ生成部は、
前記一のクラスターに対し、一定の向きにおける終点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターと同じに設定した前記第１の高さ情報を生成することを特徴とする請求項１〜５の何れか一項に記載の画像処理装置。
［請求項７］
前記立体データ生成部は、
前記一のクラスターの輝度が前記他のクラスターよりも暗い場合に、前記他のクラスターから前記一のクラスターへの向きの始点側に光源が存在するとして、該向きを高低向きとする高低向き検出処理を、前記一のクラスターと前記他のクラスターとの複数の組について複数回行い、該高低向きが一致した場合に、一致した高低向きについてカウントアップし、前記高低向きのうち、カウント数が最大となった前記高低向きを、前記一定の向きとすることを特徴とする請求項１〜６の何れか一項に記載の画像処理装置。
［請求項８］
前記立体データ生成部は、
前記第１の高さ情報と前記第２の高さ情報とを合成し、前記合成して得られる高さ情報を画像形成装置で再現可能な階調に正規化して出力することを特徴とする請求項１〜７の何れか一項に記載の画像処理装置。
［請求項９］
前記立体データ生成部は、
前記第１の高さ情報と前記第２の高さ情報とをそれぞれ画像形成装置で再現可能な階調に正規化し、合成して出力することを特徴とする請求項１〜８の何れか一項に記載の画像処理装置。
［請求項１０］
前記立体データ生成部は、
前記第１の高さ情報を前記第２の高さ情報に比べて高い比率で合成することを特徴とする請求項９に記載の画像処理装置。
［請求項１１］
原画像データから高さ情報を含む立体画像データを生成する立体画像データ生成方法であって、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割するステップと、
前記第１の複数のクラスターに分割するステップにおいて分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成するステップと、
を有することを特徴とする立体データ生成方法。
［請求項１２］
原画像データから高さ情報を含む立体画像データを生成する画像処理装置に、
前記原画像データを、輝度に基づいて第１の複数のクラスターに分割する手順と、
前記第１の複数のクラスターに分割する手順により分割された複数のクラスターのうちの一のクラスターに対し、一定の向きにおける始点側に隣接して配置された他のクラスターのよりも、前記一のクラスターの明るさの方が暗い場合、前記一のクラスターの高さを前記他のクラスターに比較して低く設定した第１の高さ情報を生成する手順と、
を実行させるプログラム。
【符号の説明】
【００４０】
１０  画像入力装置
２０  画像処理装置
２１  画像変換部
２２  クラスタリング処理部Ａ（第１のクラスタリング処理部）
２３  立体データ生成部
２４  記憶部
２４ａ  陰影高さマップ（第１の高さ情報）
２４ｂ  色テーブル
２４ｃ  色高さマップ（第２の高さ情報）
２４ｄ  合成高さマップ
２５  クラスタリング処理部Ｂ（第２のクラスタリング処理部）
３０  画像形成装置
【図１】
0005862635.tif 000002
【図２】
0005862635.tif 000003
【図６】
0005862635.tif 000004
【図３】
0005862635.tif 000005
【図４】
0005862635.tif 000006
【図５】
0005862635.tif 000007
【図７】
0005862635.tif 000008