(57)【要約】【課題】  物体の反射特性を取得する際のノイズの影響を抑制するための画像処理を提供することを目的とする。【解決手段】  本願発明に係る画像処理装置は、撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像することによって得られた複数の画像データを取得する第１取得手段と、前記複数の画像データが表す各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となるように、前記複数の画像データが表す各画像の解像度を下げる変換手段と、前記変換手段によって解像度が下げられた前記各画像を表す複数の画像データに基づいて、前記物体の反射特性を表す反射特性データを生成する生成手段と、を有することを特徴とする。【選択図】  図３
2020071613.tif 000002
【特許請求の範囲】
【請求項１】
撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像することによって得られた複数の画像データを取得する第１取得手段と、
前記複数の画像データが表す各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となるように、前記複数の画像データが表す各画像の解像度を下げる変換手段と、
前記変換手段によって解像度が下げられた前記各画像を表す複数の画像データに基づいて、前記物体の反射特性を表す反射特性データを生成する生成手段と、
を有することを特徴とする画像処理装置。
【請求項２】
前記変換手段によって解像度が下げられた前記各画像においては、所定の閾値以下の数の画素に対応する前記物体上の位置において、前記ピークの数が１つ以下となることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記複数の画像データが表す各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下であるか否かを判定する判定手段と、
前記判定手段による判定の結果に基づいて、前記反射特性データを出力する出力手段と、
をさらに有することを特徴とする請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記判定手段は、前記ピークの数を算出し、算出した前記ピークの数に基づいて、前記複数の画像データが表す各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下であるか否かを判定することを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記判定手段は、最大値フィルタを用いたフィルタ処理によって、前記ピークの数を算出することを特徴とする請求項４に記載の画像処理装置。
【請求項６】
前記変換手段は、前記ピークの数が２つ以上になるまで前記各画像の解像度を下げ、
前記出力手段は、前記ピークの数が２つ以上になる前の前記各画像に基づいて生成された前記反射特性データを出力することを特徴とする請求項３乃至請求項５のいずれか一項に記載の画像処理装置。
【請求項７】
前記変換手段は、ユーザによって指定された解像度に、前記各画像の解像度を下げることを特徴とする請求項１に記載の画像処理装置。
【請求項８】
前記変換手段は、画像における領域に含まれる画素の画素値を平均化することによって、前記各画像の解像度を局所的に下げることを特徴とする請求項１乃至請求項７のいずれか一項に記載の画像処理装置。
【請求項９】
前記変換手段は、前記ピークの数と、前記ピークの方向と、に基づいて、画像において、画素値を平均化する対象の領域を特定することを特徴とする請求項８に記載の画像処理装置。
【請求項１０】
前記変換手段は、前記ピークの数と、前記ピークの方向と、反射強度と、に基づいて、画像において、画素値を平均化する対象の領域を特定することを特徴とする請求項８に記載の画像処理装置。
【請求項１１】
前記生成手段は、解像度が下げられた前記画像の画素値に反射モデルをフィッティングすることによって、前記物体の反射特性を算出することを特徴とする請求項１乃至請求項１０のいずれか一項に記載の画像処理装置。
【請求項１２】
前記反射モデルは、ガウス関数によって表される反射モデルであることを特徴とする請求項１１に記載の画像処理装置。
【請求項１３】
前記反射モデルは、Ｔｏｒｒａｎｃｅ−Ｓｐａｒｒｏｗモデルであることを特徴とする請求項１１に記載の画像処理装置。
【請求項１４】
前記反射モデルは、Ｐｈｏｎｇモデルであることを特徴とする請求項１１に記載の画像処理装置。
【請求項１５】
前記物体の表面から撮像装置の方向を表す観測ベクトルと、前記物体の表面から光源の方向を表す光源ベクトルと、前記光源が照射する光の強度を表す照明強度と、を取得する第２取得手段をさらに有し、
前記生成手段は、さらに、前記観測ベクトルと、前記光源ベクトルと、前記照明強度と、に基づいて、前記物体の反射特性を算出することを特徴とする請求項１乃至請求項１４のいずれか一項に記載の画像処理装置。
【請求項１６】
前記物体は、表面に金属フレークを含む物体であることを特徴とする請求項１乃至請求項１５のいずれか一項に記載の画像処理装置。
【請求項１７】
撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像することによって得られた複数の画像データを取得する第１取得手段と、
前記複数の画像データが表す各画像を複数の解像度に変換した場合に、前記複数の解像度のうち、前記各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となる解像度を特定する特定手段と、
前記特定された解像度に変換された前記各画像を表す複数の画像データに基づいて、前記物体の反射特性を表す反射特性データを生成する生成手段と、
を有することを特徴とする画像処理装置。
【請求項１８】
コンピュータを請求項１乃至請求項１７のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
【請求項１９】
撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像することによって得られた複数の画像データを取得する取得ステップと、
前記複数の画像データが表す各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となるように、前記複数の画像データが表す各画像の解像度を下げる変換ステップと、
前記変換ステップにおいて解像度が下げられた前記各画像を表す複数の画像データに基づいて、前記物体の反射特性を表す反射特性データを生成する生成ステップと、
を有することを特徴とする画像処理方法。
【請求項２０】
撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像することによって得られた複数の画像データを取得する取得ステップと、
前記複数の画像データが表す各画像を複数の解像度に変換した場合に、前記複数の解像度のうち、前記各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となる解像度を特定する特定ステップと、
前記特定された解像度に変換された前記各画像を表す複数の画像データに基づいて、前記物体の反射特性を表す反射特性データを生成する生成ステップと、
を有することを特徴とする画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、物体の反射特性を得るための画像処理技術に関する。
【背景技術】
【０００２】
物体の質感を再現するため、物体における反射光のふるまいを反射特性として取得する技術が知られている。特許文献１は、光源方向又は観測方向を変えながらの撮像によって得られた複数の画像データを用いることによって、物体の反射特性を取得する技術を開示している。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００３−２０３２２０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
撮像の条件や物体の反射特性によっては、撮像画像の１画素に対応する光量が小さい場合がある。この場合、撮像画像における各画素の画素値に対するノイズの割合が高くなる。特許文献１のような従来技術においては、ノイズの影響を大きく受けた画素値を有する撮像画像を基に、物体の反射特性を高精度に取得することができない場合があった。
【０００５】
そこで本発明は、ノイズを含む画像を基に、高精度に物体の反射特性を取得するための画像処理を提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記課題を解決するために、本発明に係る画像処理装置は、撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像することによって得られた複数の画像データを取得する第１取得手段と、前記複数の画像データが表す各画像における前記物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となるように、前記複数の画像データが表す各画像の解像度を下げる変換手段と、前記変換手段によって解像度が下げられた前記各画像を表す複数の画像データに基づいて、前記物体の反射特性を表す反射特性データを生成する生成手段と、を有することを特徴とする。
【発明の効果】
【０００７】
本発明により、ノイズを含む画像を基に、高精度に物体の反射特性を取得することができる。
【図面の簡単な説明】
【０００８】
【図１】画像処理装置のハードウェア構成を示すブロック図
【図２】画像処理装置の機能構成を示すブロック図
【図３】画像処理装置が実行する処理を示すフローチャート
【図４】画像の解像度と反射特性との関係を説明するための図
【図５】画像処理装置の機能構成を示すブロック図
【図６】画像処理装置が実行する処理を示すフローチャート
【図７】反射強度のピークの数を算出する処理を示すフローチャート
【図８】反射強度のピークの数を算出する処理を説明するための図
【図９】画像処理装置が実行する処理を示すフローチャート
【図１０】画像処理装置が実行する処理を示すフローチャート
【発明を実施するための形態】
【０００９】
［第１実施形態］
まず、撮像画像の解像度とノイズとの関係について説明する。物体を撮像する際の解像度が高い場合、同じ物体をより低い解像度で撮像する場合よりも撮像画像の１画素に対応する物体表面上の領域が小さい。このため、物体を撮像する際の解像度が高い場合、同じ物体をより低い解像度で撮像する場合よりも１画素における受光量は小さくなりやすい。デジタルな撮像画像において、１画素における受光量を画素値に変換する際には、撮像時の条件に応じたノイズを含む画素値に変換される。このため、物体を撮像する際の解像度が高い場合、同じ物体をより低い解像度で撮像する場合よりも画素値におけるノイズの割合が相対的に大きくなる。よって、解像度が高い撮像画像を基に算出された反射特性は、ノイズの影響を大きく受けた精度の低い反射特性となってしまう。そこで、本実施形態においては、撮像画像の解像度を低下させることによって、撮像画像を基に算出する反射特性に対するノイズの影響を抑制する。
【００１０】
＜画像処理装置のハードウェア構成＞
本実施形態における画像処理装置のハードウェア構成について、図１を参照して説明する。図１は、画像処理装置１のハードウェア構成を示すブロック図である。画像処理装置１は、例えばコンピュータであり、ＣＰＵ１０１、ＲＯＭ１０２、ＲＡＭ１０３を備える。また、画像処理装置１は、ＶＣ（ビデオカード）１０４、汎用Ｉ／Ｆ（インターフェース）１０５、ＳＡＴＡ（シリアルＡＴＡ）Ｉ／Ｆ１０６、ＮＩＣ（ネットワークインターフェースカード）１０７を備える。ＣＰＵ１０１は、ＲＡＭ１０３をワークメモリとして、ＲＯＭ１０２、ＨＤＤ（ハードディスクドライブ）１１３などに格納されたＯＳ（オペレーティングシステム）や各種プログラムを実行する。また、ＣＰＵ１０１は、システムバス１０８を介して各構成を制御する。尚、後述するフローチャートによる処理は、ＲＯＭ１０２やＨＤＤ１１３などに格納されたプログラムコードがＲＡＭ１０３に展開され、ＣＰＵ１０１によって実行される。ＶＣ１０４には、ディスプレイ１１５が接続される。汎用Ｉ／Ｆ１０５には、シリアルバス１０９を介して、マウスやキーボードなどの入力デバイス１１０や撮像装置１１１が接続される。ＳＡＴＡＩ／Ｆ１０６には、シリアルバス１１２を介して、ＨＤＤ１１３や各種記録メディアの読み書きを行う汎用ドライブ１１４が接続される。ＮＩＣ１０７は、外部装置との間で情報の入力及び出力を行う。ＣＰＵ１０１は、ＨＤＤ１１３や汎用ドライブ１１４にマウントされた各種記録メディアを各種データの格納場所として使用する。ＣＰＵ１０１は、プログラムによって提供されるＧＵＩ（グラフィカルユーザインターフェース）をディスプレイ１１５に表示し、入力デバイス１１０を介して受け付けるユーザ指示などの入力を受信する。
【００１１】
＜画像処理装置の機能構成＞
図２は、画像処理装置１の機能構成を示すブロック図である。画像処理装置１は、ＣＰＵ１０１がＲＯＭ１０２に格納されたプログラムをＲＡＭ１０３をワークメモリとして実行することによって、図２に示す機能構成として機能する。尚、以下に示す処理の全てがＣＰＵ１０１によって実行される必要はなく、処理の一部または全てがＣＰＵ１０１以外の一つまたは複数の処理回路によって行われるように画像処理装置１が構成されていてもよい。
【００１２】
画像処理装置１は、画像データ取得部２０１、幾何条件データ取得部２０２、解像度取得部２０３、解像度変換部２０４、反射特性データ生成部２０５を有する。画像データ取得部２０１は、物体を撮像することによって得られた画像データを取得する。本実施形態における画像データ取得部２０１は、光源及び撮像装置１１１の位置及び向きを変化させながら物体を撮像することによって得られる複数の画像データをＨＤＤ１１３等の記憶装置から取得する。画像データが表す画像の画素値をＩｎ（ｘ，ｙ）とする。ここで、ｎは撮像画像の識別番号であり、ｃ枚の撮像画像に対して１〜ｃの番号が割り当てられる。尚、本実施形態における画像データはグレースケール画像データであり、画素値はＲ値、Ｇ値、Ｂ値から公知の方法によって算出される輝度値である。また、画像データには、メタデータとして、画像データが表す画像の解像度が記録されている。
【００１３】
幾何条件データ取得部２０２は、光源による光の照射及び撮像装置１１１による受光の幾何条件を表す幾何条件データを取得する。幾何条件は光源及び撮像装置１１１の位置及び向きによって決まる。具体的に、幾何条件データ取得部２０２は、幾何条件データとして、物体の表面から撮像装置１１１の方向を表す観測ベクトル、物体の表面から光源の方向を表す光源ベクトル、光源が照射する光の強度を表す照明強度を各撮像画像について取得する。ここで、ｎ番の撮像画像に対応する観測ベクトルをｖｎ、ｎ番の撮像画像に対応する光源ベクトルをｌｎ、ｎ番の撮像画像に対応する照明強度をｓｎとする。解像度取得部２０３は、ユーザによって指定された解像度を取得する。
【００１４】
解像度変換部２０４は、解像度取得部２０３が取得した解像度に基づいて、画像データ取得部２０１が取得した画像データが表す画像の解像度を変換する。反射特性データ生成部２０５は、解像度が変換された画像を表す画像データと、幾何条件データと、に基づいて、物体の反射特性を表す反射特性データを生成する。
【００１５】
＜画像処理装置が実行する処理＞
図３は、画像処理装置１が実行する処理のフローチャートである。以下、図３を用いて画像処理装置１が実行する処理の詳細を説明する。尚、下記処理は、ユーザからの処理を開始する指示を受け付けることによって開始する。以下、各ステップ（工程）は符号の前にＳをつけて表す。
【００１６】
Ｓ３０１において、画像データ取得部２０１は、複数の画像データを取得する。また、幾何条件データ取得部２０２は、複数の画像データに対応する観測ベクトルｖｎ、光源ベクトルｌｎ、照明強度ｓｎを取得する。また、解像度取得部２０３は、ユーザによって指定された解像度を取得する。本実施形態における解像度取得部２０３は、ＵＩを介してユーザにより入力された解像度を取得するが、ＨＤＤ１１３等の記憶装置に記憶された解像度を取得してもよい。ここで取得される解像度は画像の解像度を下げるために用いられる解像度であるため、画像データ取得部２０１が取得する画像データが表す画像の解像度よりも低い値とする。一方で、画像の解像度を下げすぎると算出すべき反射特性が高精度に得られなくなってしまうため、ノイズの抑制を行いつつ反射特性を高精度に算出できる解像度を物体の形状などから予め特定しておく必要がある。例えば、物体の表面における法線の方向を基に、１画素に対応する領域に複数の反射強度のピークが含まれないような解像度を算出することが考えられる。
【００１７】
Ｓ３０２において、解像度変換部２０４は、画像データが表す画像の解像度Ａと、解像度取得部２０３が取得した解像度Ｂと、を取得する。Ｓ３０３において、解像度変換部２０４は、解像度Ａと解像度Ｂとに基づいて、複数の画像データが表す画像それぞれの解像度を変換する。具体的に、解像度変換部２０４は、画像の縦の画素数と横の画素数とがＢ／Ａの倍率をかけた値となるように、公知のバイキュービック補間法を用いて画像の解像度を下げる。例えば、Ｂ／Ａ＝１／４であった場合、解像度変換によって、縦１００画素×横１００画素の画像は縦２５画素×横２５画素の画像となる。尚、解像度変換の方法は、バイキュービック補間法に限られず、公知のバイリニア補間法など他の方法であってもよい。
【００１８】
Ｓ３０４において、反射特性データ生成部２０５は、解像度が変換された画像を表す画像データと、幾何条件データと、に基づいて、物体の反射特性を表す反射特性データを生成する。具体的に、反射特性データ生成部２０５は、画像の画素値に対して反射モデルをフィッティングすることにより、反射特性パラメータを算出する。ここで、フィッティングを行う反射モデルをｆ（ｐ，ｖｎ，ｌｎ）とする場合、式（１）により反射特性パラメータｐ（ｘ，ｙ）を算出する。
【００１９】
【数１】
2020071613.tif 000003
【００２０】
ここで、ｐは、反射モデルｆ（ｐ，ｖｎ，ｌｎ）が有するパラメータ群を表すベクトルであり、本実施形態において用いる反射モデルは、平均、分散、スケールの３つのパラメータを有するガウス関数によって表される反射モデルである。ａｒｇｍｉｎｐ（Ｚ）は、Ｚを最小にするパラメータｐを返す関数である。尚、反射特性パラメータの算出は、全ての画素位置（ｘ，ｙ）に対して実行される。
【００２１】
反射特性データ生成部２０５は、算出した反射特性パラメータｐ（ｘ，ｙ）を、反射特性データにおける画素位置（ｘ，ｙ）の画素に保持させる。ここで、反射特性データは、各画素に反射特性パラメータを保持するデータである。尚、１つの反射特性データの各画素に複数のパラメータを保持させてもよいし、平均データ、分散データ、スケールデータのように、それぞれのパラメータを各画素に保持するデータを生成してもよい。反射特性データ生成部２０５は、生成した反射特性データを、ＨＤＤ１１３などの記憶装置に出力する。尚、反射特性データの出力先は記憶装置に限らず、反射特性データに基づいて処理を行う他の装置などであってもよい。
【００２２】
＜第１実施形態の効果＞
以上説明したように、本実施形態における画像処理装置は、撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において物体を撮像することによって得られた複数の画像データを取得する。複数の画像データが表す各画像における物体上の同一の位置に対応する、画素値の幾何条件に応じた変化において画素値のピークの数が１つ以下となるように、複数の画像データが表す各画像の解像度を下げる。解像度が下げられた各画像を表す複数の画像データに基づいて、物体の反射特性を表す反射特性データを生成する。よって、画像の解像度を下げる処理により、ノイズ低減のための平滑化処理と同等の効果が得られる。したがって、物体の反射特性を取得する際のノイズの影響を抑制することができる。また、画像の解像度を下げることにより、画像データのデータ量を減らすことができるため、処理にかかるコストを削減することができる。
【００２３】
［第２実施形態］
第１実施形態においては、ユーザによって指定された解像度に基づいて、反射特性を算出するために用いる撮像画像の解像度を変換した。一方で、画像の解像度を下げすぎると算出すべき反射特性が高精度に得られなくなってしまう物体がある。例えば、金属フレークを含む塗料を用いてメタリック塗装された表面を有する物体や、表面に凹凸を付与するように加工が施された金属などが該当する。図４に、メタリック塗装された物体を撮像することによって得られた画像の解像度と、画像に基づいて算出される反射特性と、の関係を示す。
【００２４】
図４（ａ）のように、画像の解像度が高く、物体において１画素に対応する領域が小さい場合、画素値がノイズの影響を受けやすい。このノイズの影響によって、反射特性を高精度に算出することができない。図４（ｂ）のように、画像の解像度が低く、１画素に対応する領域に異なる方向を向いた複数のフレークが含まれる場合、その領域に含まれる各フレークの向きに応じた方向に反射強度のピークが現れる。反射特性を算出する際には、第１実施形態のように、光の入射方向に対して正反射の方向において最も高い反射率を有する単峰性（反射率のピークが１つ）の関数を画素値に近似させる。このため、反射特性を算出する際に、図４（ｂ）のように複数のピークが１画素において観測されていると、画素値が反射モデルの形にあてはまらず、算出結果に誤差が生じてしまう。したがって、図４（ｃ）に示すように、１画素において複数のピークが観測されない解像度まで画像の解像度を下げてから、反射特性を算出することが望ましい。
【００２５】
そこで、本実施形態においては、物体の反射特性に基づいて画像の解像度をどこまで下げるべきかを特定し、１画素において複数のピークが観測されないように解像度が下げられた画像に基づいて物体の反射特性を算出する。尚、本実施形態における画像処理装置のハードウェア構成は第１実施形態のものと同様であるため、説明を省略する。以下において、本実施形態と第１実施形態とで異なる部分を主に説明する。尚、同一の構成については、同じ符号を付して説明する。
【００２６】
＜画像処理装置の機能構成＞
図５は、画像処理装置１の機能構成を示すブロック図である。画像処理装置１は、画像データ保持部５０１、幾何条件データ保持部５０２、反射特性データ生成部５０３、反射特性データ保持部５０４、判定部５０５、解像度変換部５０６を有する。画像データ保持部５０１は、光源及び撮像装置１１１の位置及び向きを変化させながら物体を撮像することによって得られる複数の画像データ、及び、解像度変換部５０６によって解像度が変換された画像を表す画像データを保持するための保持部である。幾何条件データ保持部５０２は、光源による光の照射及び撮像装置１１１による受光の幾何条件を表す幾何条件データを保持するための保持部である。反射特性データ生成部５０３は、複数の画像データと、幾何条件データと、に基づいて、物体の反射特性を表す反射特性データを生成する。反射特性データ保持部５０４は、反射特性データ生成部５０３によって生成された反射特性データを保持するための保持部である。判定部５０５は、複数の画像データと、幾何条件データと、反射特性データと、に基づいて、画像の解像度を下げるべきか否かを判定する。解像度変換部５０６は、画像データが表す画像の解像度を下げる。
【００２７】
＜画像処理装置が実行する処理＞
図６は、画像処理装置１が実行する処理のフローチャートである。以下、図６を用いて画像処理装置１が実行する処理の詳細を説明する。尚、下記処理は、ユーザからの処理を開始する指示を受け付けることによって開始する。
【００２８】
Ｓ６０１において、反射特性データ生成部５０３は、画像データ保持部５０１から、複数の画像データを取得する。また、反射特性データ生成部５０３は、幾何条件データ保持部５０２から、観測ベクトル、光源ベクトル、照明強度を各撮像画像について取得する。Ｓ６０２において、反射特性データ生成部５０３は、複数の画像データと幾何条件データとに基づいて、反射特性データを生成する。反射特性データの生成方法は、第１実施形態のＳ３０４と同じであるため説明を省略する。反射特性データ生成部５０３は、生成した反射特性データを反射特性データ保持部５０４に出力する。尚、本実施形態においては、複数の反射特性データを生成する場合があるため、反射特性データ生成部５０３は、反射特性データに番号を付けて反射特性データ保持部５０４に出力する。本ステップにおいて反射特性データ保持部５０４に出力する反射特性データはＮ番目であるとする。
【００２９】
Ｓ６０３において、判定部５０５は、複数の画像データと幾何条件データとに基づいて、ピーク数算出用データを生成する。具体的に、判定部５０５は、各画素位置（ｘ，ｙ）について、各画素に画素値Ｉ（φ，θ）を記録した画像を表す画像データを生成する。ここで生成する画像データは、横方向をφ軸、縦方向をθ軸とした画像データであり、φは観測ベクトルの方位角、θは観測ベクトルの天頂角を表している。判定部５０５は、ある画素位置（ｘ，ｙ）について、複数の画像データから複数の画素値Ｉｎ（ｘ，ｙ）を取得する。さらに、判定部５０５は、取得した複数の画素値Ｉｎ（ｘ，ｙ）それぞれに対応する観測ベクトルの方位角φ及び天頂角θを参照することによって、取得した複数の画素値Ｉｎ（ｘ，ｙ）をピーク数算出用データの画素にそれぞれ記録する。このピーク数算出用データの生成処理を、全ての画素位置（ｘ，ｙ）に対して行う。生成したピーク数算出用データの一例を図８（ａ）に示す。図８（ａ）に示すピーク数算出用データは、画素位置が（ｘ，ｙ）の、ある１画素に対応するピーク数算出用データである。
【００３０】
Ｓ６０４において、判定部５０５は、各画素位置（ｘ，ｙ）について、観測された反射強度のピークの数を算出する。反射強度のピークの数は、ピーク数算出用データの局所的な領域における画素値の最大値に対応しているため、判定部５０５は、ピーク数算出用データに基づいて反射強度のピークの数を算出する。図７は、観測された反射強度のピークの数を算出する処理を示すフローチャートである。以下、図７を用いてＳ６０４における反射強度のピークの数を算出する処理について説明する。
【００３１】
Ｓ６０４１において、判定部５０５は、注目画素（ｘ，ｙ）に対応するピーク数算出用データに対して、最大値フィルタを畳み込む。最大値フィルタのフィルタサイズは、Ｓ６０２において生成された反射特性データが表す分散の値に基づいて決定する。分散の値は正反射光の広がりの度合いを表す値であるため、どの範囲の値を１つの反射強度のピークとしてみなすことができるかを特定することができる。例えば、分散の値が大きい場合は、最大値フィルタのフィルタサイズを大きくする。フィルタサイズを３×３画素とした場合のフィルタ処理結果を図８（ｂ）に示し、フィルタサイズを５×５画素とした場合のフィルタ処理結果を図８（ｃ）に示す。フィルタサイズを３×３画素とした場合には、太枠で囲われた画素値が２００の画素と１８０の画素とが２つのピークとして検出されるが、フィルタサイズを５×５画素とした場合には、太枠で囲われた画素値が２００の画素１つがピークとして検出される。フィルタサイズに応じて、算出されるピークの数が変わることがわかる。尚、最大値フィルタのフィルタサイズは予め決められた値であってもよい。また、ピーク数算出用データにおいて複数のピークの角度が近い場合に、その複数のピークを１つのピークとしてみなす処理を追加してもよい。図８（ｄ）に、図８（ａ）の画像の解像度を下げた結果を示し、図８（ｅ）に、図８（ｄ）の画像にフィルタサイズが３×３画素の最大値フィルタを畳み込んだ結果を示す。解像度の変換により、算出されるピークの数が１つになることがわかる。
【００３２】
Ｓ６０４２において、判定部５０５は、ピーク数算出用データにおいて、Ｓ６０４１の処理前と処理後とで画素値が変わらない画素の画素位置（φ，θ）を特定する。Ｓ６０４３において、判定部５０５は、Ｓ６０４２において特定した画素位置（φ，θ）の画素のうち、画素値が所定の閾値以上である画素の画素位置（φ，θ）を特定する。Ｓ６０４３において用いる閾値は、ノイズの影響などによる微弱な画素値のピークを反射強度のピークとしてカウントしないために予め決められた閾値である。Ｓ６０４４において、判定部５０５は、Ｓ６０４３において特定した画素位置（φ，θ）の数を、反射強度のピークの数としてカウントする。
【００３３】
Ｓ６０４５において、判定部５０５は、全ての画素位置（ｘ，ｙ）に対して、反射強度のピークの数を算出したか否かを判定する。全ての画素位置（ｘ，ｙ）に対して反射強度のピークの数を算出した場合は、Ｓ６０４の処理を終了してＳ６０５に進む。全ての画素位置（ｘ，ｙ）に対して反射強度のピークの数を算出していない場合は、注目画素の画素位置（ｘ，ｙ）を更新してＳ６０４１に戻る。
【００３４】
Ｓ６０５において、判定部５０５は、反射強度のピークの数が１つとなる画素位置（ｘ，ｙ）の数が所定の閾値以上であるか否かを判定する。本実施形態において、Ｓ６０５において用いる所定の閾値は、画像の全画素の数とする。反射強度のピークの数が１つとなる画素位置（ｘ，ｙ）の数が所定の閾値以上である場合は、Ｓ６０６に進む。反射強度のピークの数が１つとなる画素位置（ｘ，ｙ）の数が所定の閾値未満である場合は、Ｓ６０７に進む。
【００３５】
Ｓ６０６において、解像度変換部５０６は、公知の方法により画像の解像度を下げて、解像度変換後の画像データを画像データ保持部５０１に出力し、処理をＳ６０１に戻す。Ｓ６０７において、判定部５０５は、反射特性データ保持部５０４に保持されているＮ−１番目の反射特性データをＨＤＤ１１３などの記憶装置に出力する。Ｎが１である場合は、１番目の反射特性データを出力する。
【００３６】
＜第２実施形態の効果＞
以上説明したように、本実施形態における画像処理装置は、画像の各画素に対応する反射強度のピークの数に基づいて、反射特性を高精度に算出するために撮像画像の解像度をどの程度まで下げられるかを決定する。これにより、物体の反射特性を取得する際のノイズの影響を抑制することができ、高精度に物体の反射特性を取得することができる。
【００３７】
［第３実施形態］
第２実施形態においては、画像の各画素に対応する反射強度のピークの数に基づいて画像の解像度を下げるか否かを判定し、判定結果に応じて画像全体の解像度を下げた。本実施形態においては、画像の各画素に対応する反射強度のピークの数及び方向に基づいて、画像の領域ごとに画素値を平均化することにより局所的に解像度を下げる。尚、本実施形態における画像処理装置のハードウェア構成及び機能構成は第２実施形態のものと同様であるため、説明を省略する。以下において、本実施形態と第２実施形態とで異なる部分を主に説明する。尚、同一の構成については、同じ符号を付して説明する。
【００３８】
＜画像処理装置が実行する処理＞
図９は、画像処理装置１が実行する処理のフローチャートである。以下、図９を用いて画像処理装置１が実行する処理の詳細を説明する。尚、下記処理は、ユーザからの処理を開始する指示を受け付けることによって開始する。Ｓ９０１〜Ｓ９０３の処理は、第２実施形態におけるＳ６０１〜Ｓ６０３の処理と同じであるため説明を省略する。
【００３９】
Ｓ９０４において、判定部５０５は、各画素位置（ｘ，ｙ）について、観測された反射強度のピークの数を算出する。ピークの数の算出方法は第２実施形態と同様である。さらに、判定部５０５は、各画素位置（ｘ，ｙ）の画素にピークの数を記録したピーク数マップを生成する。Ｓ９０５において、判定部５０５は、ピーク算出用データとピーク数マップとに基づいて、各画素位置（ｘ，ｙ）の画素に反射強度のピークの方向（φｐ、θｐ）を記録したピーク方向マップを生成する。尚、ピーク数が複数の画素位置はピーク方向を取得せずに、ピーク方向マップにおける画素値を（−１，−１）とする。
【００４０】
Ｓ９０６において、判定部５０５は、ピーク数マップに基づいて、ピークの数が１つとなる画素位置（ｘ，ｙ）が１つ以上あるか否かを判定する。ピークの数が１つとなる画素位置（ｘ，ｙ）が１つ以上ある場合は、Ｓ９０７に進む。ピークの数が１つとなる画素位置（ｘ，ｙ）が１つもない場合は、Ｓ９０９に進む。
【００４１】
Ｓ９０７において、解像度変換部５０６は、ピーク数マップにおいて、ピークの数が１つである画素が隣接する領域を連結領域として特定する。さらに、解像度変換部５０６は、ピーク方向マップにおいて、ピークの方向が同じである画素が隣接する領域を連結領域として特定する。尚、ピーク方向マップにおいて、１つの連結領域に含まれる画素はピークの方向が必ずしも完全に一致する必要はなく、反射特性データが表す分散の値に応じて決まる範囲内を同じピーク方向としてみなしてもよい。さらに、解像度変換部５０６は、ピーク数マップにおいて特定した連結領域とピーク方向マップにおいて特定した連結領域との共通する連結領域を特定する。つまり、ここで特定する連結領域それぞれは、ピークの数が１つ、かつ、ピークの方向が同じである画素から成る。連結領域にはそれぞれラベルを付ける。
【００４２】
Ｓ９０８において、解像度変換部５０６は、Ｓ９０７において特定した連結領域に対応する撮像画像の領域において画素値を平均化する。つまり、同じ方向に１つの反射強度のピークを有する画素が隣接する領域において、その領域に含まれる画素の画素値を平均値に変換する。画素値を平均化した画像を表す画像データを画像データ保持部５０１に出力し、処理をＳ９０１に戻す。Ｓ９０９において、判定部５０５は、反射特性データ保持部５０４に保持されているＮ−１番目の反射特性データをＨＤＤ１１３などの記憶装置に出力する。Ｎが１である場合は、１番目の反射特性データを出力する。
【００４３】
＜第３実施形態の効果＞
以上説明したように、本実施形態における画像処理装置は、画像の各画素に対応する反射強度のピークの数及び方向に基づいて、画像の領域ごとに画素値を平均化することにより局所的に解像度を下げる。これにより、物体の反射特性を取得する際のノイズの影響を抑制することができ、高精度に物体の反射特性を取得することができる。
【００４４】
［第４実施形態］
第３実施形態においては、画像の各画素に対応する反射強度のピークの数及び方向に基づいて連結領域を特定し、連結領域ごとに画素値を平均化することにより局所的に解像度を下げた。本実施形態においては、画像の各画素に対応する反射強度のピークの数、反射強度のピークの方向、反射強度の３つに基づいて連結領域を特定する。尚、本実施形態における画像処理装置のハードウェア構成及び機能構成は第３実施形態のものと同様であるため、説明を省略する。以下において、本実施形態と第３実施形態とで異なる部分を主に説明する。尚、同一の構成については、同じ符号を付して説明する。
【００４５】
＜画像処理装置が実行する処理＞
図１０は、画像処理装置１が実行する処理のフローチャートである。以下、図１０を用いて画像処理装置１が実行する処理の詳細を説明する。尚、下記処理は、ユーザからの処理を開始する指示を受け付けることによって開始する。Ｓ１００１〜Ｓ１００５の処理は、第２実施形態におけるＳ９０１〜Ｓ９０５の処理と同じであるため説明を省略する。
【００４６】
Ｓ１００６において、判定部５０５は、反射特性データに基づいて、各画素位置（ｘ，ｙ）の画素に反射強度のピークにおける反射強度を記録した反射強度マップを生成する。Ｓ１００７において、判定部５０５は、ピーク数マップに基づいて、ピークの数が１つとなる画素位置（ｘ，ｙ）が１つ以上あるか否かを判定する。ピークの数が１つとなる画素位置（ｘ，ｙ）が１つ以上ある場合は、Ｓ１００８に進む。ピークの数が１つとなる画素位置（ｘ，ｙ）が１つもない場合は、Ｓ１０１０に進む。
【００４７】
Ｓ１００８において、解像度変換部５０６は、ピーク数マップにおいて、ピークの数が１つである画素が隣接する領域を連結領域として特定する。さらに、解像度変換部５０６は、ピーク方向マップにおいて、ピークの方向が同じである画素が隣接する領域を連結領域として特定する。さらに、解像度変換部５０６は、反射強度マップにおいて、ピークの反射強度が同じである画素が隣接する領域を連結領域として特定する。尚、反射強度マップにおいて、１つの連結領域に含まれる画素は反射強度が必ずしも完全に一致する必要はなく、予め決められた閾値よりも反射強度の差が小さい画素を反射強度が同じ画素としてみなしてもよい。さらに、解像度変換部５０６は、ピーク数マップにおいて特定した連結領域と、ピーク方向マップにおいて特定した連結領域と、反射強度マップにおいて特定した連結領域と、の共通する連結領域を特定する。つまり、ここで特定する連結領域それぞれは、ピークの数が１つ、かつ、ピークの方向が同じ、かつ、ピークの反射強度が同じである画素から成る。連結領域にはそれぞれラベルを付ける。
【００４８】
Ｓ１００９において、解像度変換部５０６は、Ｓ１００８において特定した連結領域に対応する撮像画像の領域において画素値を平均化する。つまり、同じ方向に同じ反射強度の１つのピークを有する画素が隣接する領域において、その領域に含まれる画素の画素値を平均値に変換する。画素値を平均化した画像を表す画像データを画像データ保持部５０１に出力し、処理をＳ１００１に戻す。Ｓ１０１０において、判定部５０５は、反射特性データ保持部５０４に保持されているＮ−１番目の反射特性データをＨＤＤ１１３などの記憶装置に出力する。Ｎが１である場合は、１番目の反射特性データを出力する。
【００４９】
＜第４実施形態の効果＞
以上説明したように、本実施形態における画像処理装置は、画像の各画素に対応する反射強度のピークの数、反射強度のピークの方向、反射強度に基づいて、画像の領域ごとに画素値を平均化することにより局所的に解像度を下げる。これにより、物体の反射特性を取得する際のノイズの影響を抑制することができ、高精度に物体の反射特性を取得することができる。
【００５０】
［その他の実施形態］
上述した実施形態においては、反射特性の算出に用いる反射モデルを、ガウス関数によって表される反射モデルとしたが、Ｔｏｒｒａｎｃｅ−ＳｐａｒｒｏｗモデルやＰｈｏｎｇモデルなどの他の反射モデルを用いて反射特性の算出を行ってもよい。
【００５１】
上述した実施形態においては、画像処理により画像の解像度を変換したが、異なる解像度において再度撮像を行った画像を取得することによって画像の解像度を変換してもよい。
【００５２】
上述した実施形態においては、ピークの数が２つ以上になるまで画像の解像度を下げたが、解像度の下げ方は上記一例に限定されない。例えば、画像を複数の解像度に下げ、それぞれの解像度の画像に対するピークの数の判定を並行して行う。判定の結果、反射特性を算出するために用いるべき画像の解像度を特定し、特定した解像度の画像に基づいて生成された反射特性データを出力してもよい。  第１実施形態においては、ユーザによって直接指定された解像度に画像の解像度を変換したが、ユーザによって指定される情報と解像度とが対応付けられたルックアップテーブルを用いて解像度を取得し、取得した解像度に画像の解像度を変換してもよい。ユーザによって指定される情報には、例えば、対象とする物体の素材に関する情報や、塗装などの表面加工に関する情報など、物体の反射特性に影響を与える要因に関する情報が考えられる。
【００５３】
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００５４】
１  画像処理装置
２０１  画像データ取得部
２０４  解像度変換部
２０５  反射特性データ生成部
【図１】
2020071613.tif 000004
【図２】
2020071613.tif 000005
【図３】
2020071613.tif 000006
【図４】
2020071613.tif 000007
【図５】
2020071613.tif 000008
【図６】
2020071613.tif 000009
【図７】
2020071613.tif 000010
【図８】
2020071613.tif 000011
【図９】
2020071613.tif 000012
【図１０】
2020071613.tif 000013
【手続補正書】
【提出日】令和1年9月4日(2019.9.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像して得られる複数の画像の解像度を変換する画像処理装置であって、
前記複数の画像の各画素位置において画素値と幾何条件との対応関係に表れる画素値のピークの数が１つとなる解像度を決定する決定手段と、
前記複数の画像の解像度を、前記決定された解像度に変換する変換手段と、
を有することを特徴とする画像処理装置。
【請求項２】
前記変換手段によって解像度が変換された前記複数の画像においては、所定の閾値以上の数の画素位置において、前記ピークの数が１つとなることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記変換手段によって解像度が変換された前記複数の画像に基づいて、前記物体の反射特性を表す反射特性データを生成する生成手段をさらに有することを特徴とする請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記複数の画像において前記ピークの数が１つ以下であるか否かを判定する判定手段をさらに有し、
前記生成手段は、前記判定手段による判定の結果に基づいて、前記反射特性データを出力することを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記判定手段は、前記複数の画像に基づいて前記ピークの数を算出し、算出した前記ピークの数に基づいて、前記複数の画像において前記ピークの数が１つ以下であるか否かを判定することを特徴とする請求項４に記載の画像処理装置。
【請求項６】
前記判定手段は、最大値フィルタを用いたフィルタ処理によって、前記ピークの数を算出することを特徴とする請求項５に記載の画像処理装置。
【請求項７】
前記決定手段は、ユーザの指示に基づいて、前記解像度を決定することを特徴とする請求項１乃至請求項６のいずれか一項に記載の画像処理装置。
【請求項８】
前記変換手段は、前記複数の画像の解像度を、前記決定された解像度に下げることを特徴とする請求項１乃至請求項７のいずれか一項に記載の画像処理装置。
【請求項９】
前記変換手段は、画像における領域に含まれる画素の画素値を平均化することによって、前記複数の画像の解像度を局所的に下げることを特徴とする請求項８に記載の画像処理装置。
【請求項１０】
前記変換手段は、前記ピークの数と、前記ピークの方向と、に基づいて、画像において、画素値を平均化する対象の領域を特定することを特徴とする請求項９に記載の画像処理装置。
【請求項１１】
前記変換手段は、前記ピークの数と、前記ピークの方向と、反射強度と、に基づいて、画像において画素値を平均化する対象の領域を特定することを特徴とする請求項１０に記載の画像処理装置。
【請求項１２】
前記生成手段は、前記変換手段によって解像度が変換された前記複数の画像の画素値に反射モデルをフィッティングすることによって、前記反射特性データを生成することを特徴とする請求項３に記載の画像処理装置。
【請求項１３】
前記物体の表面から撮像装置の方向を表す観測ベクトルと、前記物体の表面から光源の方向を表す光源ベクトルと、前記光源が照射する光の強度を表す照明強度と、を取得する取得手段をさらに有し、
前記生成手段は、さらに、前記観測ベクトルと、前記光源ベクトルと、前記照明強度と、に基づいて、前記反射特性データを生成することを特徴とする請求項３に記載の画像処理装置。
【請求項１４】
前記物体は、表面に金属フレークを含む物体であることを特徴とする請求項１乃至請求項１３のいずれか一項に記載の画像処理装置。
【請求項１５】
コンピュータを請求項１乃至請求項１４のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
【請求項１６】
撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像して得られる複数の画像の解像度を変換する画像処理方法であって、
前記複数の画像の各画素位置において画素値と幾何条件との対応関係に表れる画素値のピークの数が１つとなる解像度を決定する決定ステップと、
前記複数の画像の解像度を、前記決定された解像度に変換する変換ステップと、
を有することを特徴とする画像処理方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】変更
【補正の内容】
【０００６】
上記課題を解決するために、本発明に係る画像処理装置は、撮像の位置と物体に光を照射する光源の位置とに応じた複数の幾何条件において前記物体を撮像して得られる複数の画像の解像度を変換する画像処理装置であって、前記複数の画像の各画素位置において画素値と幾何条件との対応関係に表れる画素値のピークの数が１つとなる解像度を決定する決定手段と、前記複数の画像の解像度を、前記決定された解像度に変換する変換手段と、を有することを特徴とする。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００４５
【補正方法】変更
【補正の内容】
【００４５】
＜画像処理装置が実行する処理＞
図１０は、画像処理装置１が実行する処理のフローチャートである。以下、図１０を用いて画像処理装置１が実行する処理の詳細を説明する。尚、下記処理は、ユーザからの処理を開始する指示を受け付けることによって開始する。Ｓ１００１〜Ｓ１００５の処理は、第３実施形態におけるＳ９０１〜Ｓ９０５の処理と同じであるため説明を省略する。