(57)【特許請求の範囲】
【請求項１】
対象画像を前景領域と背景領域に分ける領域抽出処理の結果を表示するための方法であって、
コンピュータが、対象画像に対する領域抽出処理の結果を取得する結果取得ステップと、
コンピュータが、前記取得した結果に基づいて、領域抽出処理により推定された推定前景領域、推定背景領域、又は、推定前景領域と推定背景領域の間の境界、を表す抽出結果画像を生成する抽出結果画像生成ステップと、
コンピュータが、前記対象画像に前記抽出結果画像を合成した合成画像を生成し、前記合成画像を表示装置に表示する表示ステップと、を含み、
前記抽出結果画像生成ステップは、
推定前景領域と推定背景領域の間の境界を含み且つ推定前景領域と推定背景領域の両方にまたがる境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出する色抽出ステップと、
候補色のうち、所定の色空間における色差又は色相の差が前記色抽出ステップで抽出された前記複数の色のいずれとも可及的に大きくなる色を、前記抽出結果画像の色として選択する色決定ステップと、を含む
ことを特徴とする領域抽出結果の表示方法。
【請求項２】
前記抽出結果画像は、推定前景領域又は推定背景領域が前記色決定ステップで決定された色を用いて塗りつぶされた画像であり、
前記合成画像は、前記対象画像に所定の透過率で前記抽出結果画像をオーバーレイした画像である
ことを特徴とする請求項１に記載の領域抽出結果の表示方法。
【請求項３】
前記合成画像において、前記抽出結果画像における塗りつぶし領域の輪郭線が描画される
ことを特徴とする請求項２に記載の領域抽出結果の表示方法。
【請求項４】
前記輪郭線は、前記塗りつぶし領域の塗りつぶし色と同じ色を用い、前記塗りつぶし領
域よりも低い透過率で描画される
ことを特徴とする請求項３に記載の領域抽出結果の表示方法。
【請求項５】
前記輪郭線は、前記塗りつぶし領域の塗りつぶし色と色相が同じで、彩度と輝度の少なくとも一方が異なる色で描画される
ことを特徴とする請求項３に記載の領域抽出結果の表示方法。
【請求項６】
前記色決定ステップでは、前記候補色のうち、前記所定の色空間における色差が前記色抽出ステップで抽出された前記複数の色のいずれとも可及的に大きくなる色が２つ選択され、
選択された２つの色のうちの一方が、前記抽出結果画像における塗りつぶし領域の塗りつぶし色として用いられ、他方が、前記塗りつぶし領域の輪郭線の色として用いられる
ことを特徴とする請求項３に記載の領域抽出結果の表示方法。
【請求項７】
前記輪郭線の太さが、前記表示装置の表示解像度、又は、前記対象画像の画像サイズに応じて決定される
ことを特徴とする請求項３〜６のうちいずれか１項に記載の領域抽出結果の表示方法。
【請求項８】
前記合成画像において、前記抽出結果画像における塗りつぶし領域の色又は透過率が、塗りつぶし領域の輪郭に近い部分と遠い部分とで異なるか、又は、輪郭に近い部分から遠い部分に向けて変化している
ことを特徴とする請求項２〜７のうちいずれか１項に記載の領域抽出結果の表示方法。
【請求項９】
前記抽出結果画像は、推定前景領域と推定背景領域の間の境界線が前記色決定ステップで決定された色を用いて描画された画像であり、
前記境界線の太さが、前記表示装置の表示解像度、又は、前記対象画像の画像サイズに応じて決定される
ことを特徴とする請求項１に記載の領域抽出結果の表示方法。
【請求項１０】
対象画像を前景領域と背景領域に分ける領域抽出処理の結果を表示するための方法であって、
コンピュータが、対象画像に対する領域抽出処理の結果を取得する結果取得ステップと、
コンピュータが、前記取得した結果に基づいて、領域抽出処理により推定された推定前景領域のみを表示するために、他の領域をマスクするマスク画像を生成する抽出結果画像生成ステップと、
コンピュータが、前記対象画像に前記マスク画像を合成した合成画像を生成し、前記合成画像を表示装置に表示する表示ステップと、を含み、
前記抽出結果画像生成ステップは、
推定前景領域のうち推定背景領域に隣接する部分を少なくとも含む境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出する色抽出ステップと、
候補色のうち、所定の色空間における色差又は色相の差が前記色抽出ステップで抽出された前記複数の色のいずれとも可及的に大きくなる色を、前記マスク画像の色として選択する色決定ステップと、を含む
ことを特徴とする領域抽出結果の表示方法。
【請求項１１】
対象画像を前景領域と背景領域に分ける領域抽出処理の結果を表示するための方法であって、
コンピュータが、対象画像に対する領域抽出処理の結果を取得する結果取得ステップと、
コンピュータが、前記取得した結果に基づいて、領域抽出処理により推定された推定背景領域のみを表示するために、他の領域をマスクするマスク画像を生成する抽出結果画像生成ステップと、
コンピュータが、前記対象画像に前記マスク画像を合成した合成画像を生成し、前記合成画像を表示装置に表示する表示ステップと、を含み、
前記抽出結果画像生成ステップは、
推定背景領域のうち推定前景領域に隣接する部分を少なくとも含む境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出する色抽出ステップと、
候補色のうち、所定の色空間における色差又は色相の差が前記色抽出ステップで抽出された前記複数の色のいずれとも可及的に大きくなる色を、前記マスク画像の色として選択する色決定ステップと、を含む
ことを特徴とする領域抽出結果の表示方法。
【請求項１２】
前記色決定ステップでは、前記候補色のうち、前記色抽出ステップで抽出された前記複数の色のそれぞれに対する色差の絶対値の合計が最大となる色が、前記抽出結果画像の色として選択される
ことを特徴とする請求項１〜１１のうちいずれか１項に記載の領域抽出結果の表示方法。
【請求項１３】
前記色決定ステップでは、前記候補色のうち、前記色抽出ステップで抽出された前記複数の色を色相環にマッピングしたときに前記色相環上でマッピング点が最も疎になっている部分の色相をもつ色が、前記抽出結果画像の色として選択される
ことを特徴とする請求項１〜１１のうちいずれか１項に記載の領域抽出結果の表示方法。
【請求項１４】
前記表示ステップでは、前記抽出結果画像の表示／非表示が所定の周期で自動的に切り替えられる
ことを特徴とする請求項１〜１３のうちいずれか１項に記載の領域抽出結果の表示方法。
【請求項１５】
請求項１〜１４のうちいずれか１項に記載の領域抽出結果の表示方法の各ステップをコンピュータに実行させることを特徴とするプログラム。
【請求項１６】
対象画像を前景領域と背景領域に分ける領域抽出処理の結果を表示するための画像を生成する画像処理装置であって、
対象画像に対する領域抽出処理の結果を取得する結果取得手段と、
前記取得した結果に基づいて、領域抽出処理により推定された推定前景領域、推定背景領域、又は、推定前景領域と推定背景領域の間の境界、を表す抽出結果画像を生成する抽出結果画像生成手段と、
前記対象画像に前記抽出結果画像を合成した合成画像を生成し、前記合成画像を表示装置に出力する出力手段と、を有し、
前記抽出結果画像生成手段は、
推定前景領域と推定背景領域の間の境界を含み且つ推定前景領域と推定背景領域の両方にまたがる境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出する色抽出手段と、
候補色のうち、所定の色空間における色差又は色相の差が前記色抽出手段で抽出された前記複数の色のいずれとも可及的に大きくなる色を、前記抽出結果画像の色として選択する色決定手段と、を有する
ことを特徴とする画像処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像に対する領域抽出の結果を分かりやすく表示するための技術に関する。
【背景技術】
【０００２】
コンピュータによるデジタル画像処理の一つに領域抽出（セグメンテーション）と呼ばれる処理がある。領域抽出処理とは、色やエッジなどの画像特徴に基づいて、対象画像を前景（抽出すべき部分）と背景（それ以外の部分）に分離する処理であり、例えば、画像処理や画像認識の対象となる物体や人物の部分を抽出する目的等に利用される。
【０００３】
領域抽出処理のアルゴリズムには様々なものが提案され、その抽出精度も向上してはいるが、１回の処理でユーザの意図した部分のみを間違いなく抽出できるという保証はない。そのためほとんどのシステムでは、抽出結果を画面表示し、抽出した前景領域の過不足や処理のやり直しの要否などをユーザに確認させる機能が用意されている。抽出結果の表示方法としては、抽出した前景領域の輪郭線を元画像の上に描画する方法（非特許文献１参照）、背景領域をマスク画像で覆い隠し前景領域のみを表示する方法（非特許文献２参照）、前景領域や背景領域を示す単色のマスク画像を元画像の上にオーバーレイ表示する方法（非特許文献３参照）などがある。
【０００４】
従来のシステムでは、抽出結果を示す輪郭線やマスク画像の視認性を良くするため、輪郭線やマスク画像の描画色としてマゼンタやイエローといった目立つ色が用いられることが多い。しかし、元画像の前景や背景に輪郭線やマスク画像の描画色と類似する色が含まれていた場合には、輪郭線やマスク画像の範囲が判然とせず、抽出した領域の過不足の判断が不可能もしくは困難となる。このような場合、従来は、ユーザが輪郭線やマスク画像の表示／非表示を何度か切り替えて輪郭線やマスク画像の色か元画像の色かを確認するか、描画色を変更できるシステムの場合は、視認しやすそうな色をユーザ自身が選択する、という方法で対処していた。しかしながら、このような従来の方法は、ユーザに余計な操作負担をかけるものであるため、好ましくない。また、元画像に多様な色相が含まれていた場合には、どの描画色が適切なのかを判断するのが難しいこともある。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】Carsten Rother, Vladimir Kolmogorov and Andrew Blake, "GrabCut": interactive foreground extraction using iterated graph cuts, in proceedings of ACM SIGGRAPH 2004 Papers, pp. 309-314, 2004
【非特許文献２】O. Duchenne, J.-Y. Audibert,Fast interactive segmentation using color and textural information <http://imagine.enpc.fr/%7Eaudibert/RR0626.pdf>, CERTIS Technical report 06-26, 2006
【非特許文献３】Interactive image segmentation by maximal similarity based region merging, Jifeng Ning, Lei Zhang, David Zhan, Chengke Wu. Pattern Recognition 43 (2010) 445 - 456
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本発明は上記実情に鑑みてなされたものであり、その目的とするところは、ユーザに余計な操作負担をかけることなく、どのような対象画像の場合でも領域抽出処理の結果を視認しやすい色で表示することのできる技術を提供することにある。
【課題を解決するための手段】
【０００７】
上記目的を達成するために、本発明では、元画像に抽出結果を合成して表示するに際し、前景と背景の境界周辺の色をピックアップし、それらの色とできるだけ違う色になるように、抽出結果画像の色を自動的に決定するという構成を採用する。
【０００８】
具体的には、本発明は、対象画像を前景領域と背景領域に分ける領域抽出処理の結果を表示するための方法であって、コンピュータが、対象画像に対する領域抽出処理の結果を取得する結果取得ステップと、コンピュータが、前記取得した結果に基づいて、領域抽出処理により推定された推定前景領域、推定背景領域、又は、推定前景領域と推定背景領域の間の境界、を表す抽出結果画像を生成する抽出結果画像生成ステップと、コンピュータが、前記対象画像に前記抽出結果画像を合成した合成画像を生成し、前記合成画像を表示装置に表示する表示ステップと、を含み、前記抽出結果画像生成ステップは、推定前景領域と推定背景領域の間の境界を含み且つ推定前景領域と推定背景領域の両方にまたがる境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出する色抽出ステップと、候補色のうち、所定の色空間における色差又は色相の差が前記色抽出ステップで抽出された前記複数の色のいずれとも可及的に大きくなる色を、前記抽出結果画像の色として選択する色決定ステップと、を含むことを特徴とする。
【０００９】
このように抽出結果画像の色を決定すれば、対象画像に抽出結果画像を合成したときに、少なくとも境界周辺領域内においては抽出結果画像の色と対象画像の色の間に明らかな違いがでる。そうすると、抽出結果画像の外延、すなわち推定前景領域と推定背景領域の境目が明りょうに視認できるため、抽出された領域がユーザの意図するものと一致しているかどうかを容易に判断することができる。また、本発明によれば、抽出結果画像の最適な色が自動で選ばれるため、ユーザに余計な操作負担をかけることがない。
【００１０】
前記抽出結果画像は、推定前景領域又は推定背景領域が前記色決定ステップで決定された色を用いて塗りつぶされた画像であり、前記合成画像は、前記対象画像に所定の透過率で前記抽出結果画像をオーバーレイした画像であることが好ましい。このようなオーバーレイ表示により、抽出された推定前景領域がユーザの意図するものと一致しているかどうかを一目で把握することができる。
【００１１】
前記合成画像において、前記抽出結果画像における塗りつぶし領域の輪郭線が描画されるとなおよい。輪郭線があることで、推定前景領域と推定背景領域の境目がより明りょうになる。輪郭線は塗りつぶし領域と区別がつけばどのような色で描画してもよい。例えば、塗りつぶし領域の塗りつぶし色と同じ色を用い、前記塗りつぶし領域よりも低い透過率で輪郭線を描画してもよい。また、塗りつぶし領域の塗りつぶし色と色相が同じで、彩度と輝度の少なくとも一方が異なる色で輪郭線を描画してもよい。或いは、前記色決定ステップで、前記候補色のうち、前記所定の色空間における色差が前記色抽出ステップで抽出された前記複数の色のいずれとも可及的に大きくなる色を２つ選択し、その一方を塗りつぶし領域の塗りつぶし色として用い、他方を輪郭線の色として用いてもよい。
【００１２】
また、前記輪郭線の太さが、前記表示装置の表示解像度に応じて決定されるとよい。これにより、どのような表示解像度の表示装置を用いたとしても良好な視認性を確保することができる。また、前記輪郭線の太さが、前記対象画像の画像サイズに応じて決定されることも好ましい。
【００１３】
前記合成画像において、前記抽出結果画像における塗りつぶし領域の色又は透過率が、塗りつぶし領域の輪郭に近い部分と遠い部分とで異なるか、又は、輪郭に近い部分から遠い部分に向けて変化していることが好ましい。これにより、輪郭に近い部分が相対的に目立つため、抽出結果画像の外延が明りょうになるという視覚効果が得られる。
【００１４】
オーバーレイ表示以外にも、次のような表示態様を採ることもできる。例えば、前記抽出結果画像は、推定前景領域と推定背景領域の間の境界線が前記色決定ステップで決定された色を用いて描画された画像であることも好ましい。このように境界線のみを表示するだけでも、抽出された領域がユーザの意図するものと一致しているかどうかを確認することが可能である。また、この場合も表示解像度に応じて境界線の太さを決定することで、表示装置の表示解像度によらず良好な視認性を確保できる。また、対象画像の画像サイズに応じて境界線の太さを決定してもよい。
【００１５】
或いは、前記抽出結果画像として、推定前景領域のみを表示するために他の領域をマスクするマスク画像を用いることもできる。この場合は、推定前景領域のうち推定背景領域に隣接する部分を少なくとも含む境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出し、候補色のうち、所定の色空間における色差又は色相の差が前記複数の色のいずれとも可及的に大きくなる色を、前記マスク画像の色として選択するとよい。このときの境界周辺領域は、「推定前景領域のうち推定背景領域に隣接する部分」を含んでいればよいが、「推定背景領域のうち推定前景領域に隣接する部分」を含むように設定しても構わない。これにより、抽出された推定前景領域の過不足を詳細に確認するのが容易になる。
【００１６】
また、前記抽出結果画像として、推定背景領域のみを表示するために他の領域をマスクするマスク画像を用いることもできる。この場合は、推定背景領域のうち推定前景領域に隣接する部分を少なくとも含む境界周辺領域内のピクセル群から、全ての又は代表的な複数の色を抽出し、候補色のうち、所定の色空間における色差又は色相の差が前記複数の色のいずれとも可及的に大きくなる色を、前記マスク画像の色として選択するとよい。このときの境界周辺領域は、「推定背景領域のうち推定前景領域に隣接する部分」を含んでいればよいが、「推定前景領域のうち推定背景領域に隣接する部分」を含むように設定しても構わない。これにより、抽出された推定背景領域の過不足を詳細に確認するのが容易になる。
【００１７】
また、前記色決定ステップでは、前記候補色のうち、前記色抽出ステップで抽出された前記複数の色のそれぞれに対する色差の絶対値の合計が最大となる色が、前記抽出結果画像の色として選択されるとよい。或いは、前記色決定ステップでは、前記候補色のうち、前記色抽出ステップで抽出された前記複数の色を色相環にマッピングしたときに前記色相環上でマッピング点が最も疎になっている部分の色相をもつ色が、前記抽出結果画像の色として選択されることも好ましい。後者の場合、前記候補色の輝度及び彩度は任意に設定してよい。
【００１８】
また、前記表示ステップでは、前記抽出結果画像の表示／非表示が所定の周期で自動的に切り替えられることが好ましい。抽出結果画像の表示／非表示が切り替わることで、対象画像と抽出結果の見比べをより詳しく行うことができる。しかも、表示／非表示の切り替えが自動で行われるので、ユーザに操作負担をかけることがない。
【００１９】
なお、本発明は、上記処理の少なくともいずれかを含む領域抽出結果の表示方法として捉えることもできるし、この表示方法を含む領域抽出方法として捉えることもできる。また、本発明は、これらの方法の各ステップをコンピュータに実行させるためのプログラムやこのプログラムを記録した記憶媒体として捉えることもできる。さらに本発明は、上記処理を行う手段の少なくともいずれかを有する画像処理装置や領域抽出装置として捉えることもできる。
【発明の効果】
【００２０】
本発明によれば、ユーザに余計な操作負担をかけることなく、どのような対象画像の場合でも領域抽出処理の結果を視認しやすい色で表示することができる。
【図面の簡単な説明】
【００２１】
【図１】領域抽出機能をもつ画像処理装置の構成を模式的に示す図。
【図２】領域抽出処理のフローチャート。
【図３】領域抽出処理の操作画面の一例を示す図。
【図４】第１実施形態における抽出結果画像生成処理の詳細を示すフローチャート。
【図５】第１実施形態における抽出結果画像の表示色を決定するアルゴリズムを説明するための図。
【図６】第１実施形態における抽出結果表示方法の効果を説明するための模式図。
【図７】第２実施形態における抽出結果画像生成処理の詳細を示すフローチャート。
【図８】第２実施形態における抽出結果画像の表示色を決定するアルゴリズムを説明するための図。
【図９】第３実施形態の表示方法を説明するための図。
【図１０】第４実施形態の表示方法を説明するための図。
【図１１】第５実施形態の表示方法を説明するための図。
【図１２】第６実施形態の表示方法を説明するための図。
【発明を実施するための形態】
【００２２】
本発明は、対象画像を前景領域と背景領域に分ける領域抽出処理（セグメンテーション、領域分割処理ともいう）の結果を分かりやすく表示するための方法に関するものである。領域抽出処理は、例えば、画像検査において元画像の中から検査対象物の領域を抽出する処理、画像編集で背景合成を行うにあたり元画像の中から前景部分のみをトリミングする処理、医用画像の中から診断対象の臓器や部位のみ抽出する処理など、様々な分野で利用されており、本発明の方法は領域抽出処理を利用するあらゆるシステムに適用が可能である。
【００２３】
＜第１実施形態＞
（装置構成）
図１は、領域抽出機能をもつ画像処理装置の構成を模式的に示している。
【００２４】
画像処理装置１は、装置本体１０、表示装置１１、記憶装置１２、入力装置１３などのハードウエアから構成される。表示装置１１は、領域抽出処理の対象となる画像、抽出処理の結果、領域抽出処理に関わるＧＵＩ画面等を表示するためのデバイスであり、例えば液晶ディスプレイなどを用いることができる。記憶装置１２は、画像データ、処理結果などを格納するデバイスであり、例えばＨＤＤ、ＳＳＤ、フラッシュメモリ、ネットワークストレージなどを利用可能である。入力装置１３は、ユーザが装置本体１０に対し指示を入力するために操作するデバイスであり、例えばマウス、キーボード、タッチパネル、専用コンソールなどを利用可能である。
【００２５】
装置本体１０は、ハードウエアとして、ＣＰＵ（中央演算処理装置）、主記憶装置（ＲＡＭ）、補助記憶装置（ＲＯＭ、ＨＤＤ、ＳＳＤなど）を備えたコンピュータで構成することができ、その機能として、画像取得部１４、領域抽出部１５、抽出結果表示部１６を有している。これらの機能は、補助記憶装置又は記憶装置１２に格納されたコンピュータ・プログラムが主記憶装置にロードされ、ＣＰＵによって実行されることで実現される。なお、図１は装置構成の一例を示すものにすぎず、表示装置１１、記憶装置１２、入力装置１３の全部又は一部を装置本体１０に一体化してもよい。なお装置本体１０は、パーソナルコンピュータやスレート型端末のようなコンピュータで構成してもよいし、或いは、専用チップやオンボードコンピュータなどで構成することもできる。
【００２６】
（領域抽出処理）
図２及び図３を参照して、領域抽出処理の全体の流れを説明する。図２は領域抽出処理のフローチャートであり、図３は領域抽出処理の操作画面である。
【００２７】
領域抽出機能が起動すると、表示装置１１に図３の操作画面が表示される。この操作画面には、画像ウィンドウ３０、画像取込ボタン３１、前景指定ボタン３２、背景指定ボタン３３、実行ボタン３４、自動切替ボタン３５、終了ボタン３６が設けられている。ボタンの選択や後述する前景・背景の指定などは入力装置１３を用いて行うことができる。なおこの操作画面はあくまでも一例にすぎず、以下に述べる入力操作や画像及び抽出結果の確認などを行うことができればどのようなＵＩを用いてもよい。
【００２８】
ユーザにより画像取込ボタン３１が押されると、画像取得部１４が処理の対象となる元画像（対象画像）を読み込む（ステップＳ２０）。画像データの取得先としては、例えば、装置本体１０の補助記憶装置、記憶装置１２、他のコンピュータ、ネットワークストレージ、カメラ、スキャナ等が考えられる。画像取得部１４は、必要に応じて、取得先や取得するデータをユーザに指定させる処理も行う。
【００２９】
ステップＳ２０で取り込まれた画像は、図３の上段に示すように、操作画面の画像ウィンドウ３０に表示される（ステップＳ２１）。
【００３０】
ステップＳ２２では、領域抽出部１５が、ユーザに前景と背景の初期値を指定させる。前景の初期値を指定するには、ユーザは、操作画面の前景指定ボタン３２を押して前景指定モードにした後、画像ウィンドウ３０に表示された画像上で前景とすべき部分を指定する。ここでの指定は、前景の代表的な色をピックアップすることが目的なので、ユーザが前景として抽出したいと思っている物体の一部のピクセル又はピクセル群を適当に選択すればよい。もし前景の中に模様、陰影、色の大きく異なる部分などが含まれている場合には、それらの色をできるだけ網羅するようにピクセル群を選択することが好ましい。例えば、図３に示す画像の中から手前のミルフィーユケーキの領域のみを抽出したいのであれば、パイ生地、クリーム、イチゴそれぞれのピクセルを指定するとよい。背景の初期値を入力する場合は、背景指定ボタン３３を押して背景指定モードに切り替えた後、同様の操作を行う。なお、前景と背景の初期値の入力は必須ではない。前景と背景のいずれか一方のみを入力してもよいし、代表色が既知の場合や、画像の色分布などから自動で代表色を算出できる場合には、ステップＳ２２を省略してよい。
【００３１】
ユーザにより実行ボタン３４が押されると、領域抽出部１５は、ステップＳ２２で指定された前景・背景を初期値として用い、対象画像に対して領域抽出処理を適用する（ステップＳ２３）。なお、領域抽出処理については数多くのアルゴリズムが提案されており、領域抽出部１５はいずれのアルゴリズムも利用することができるため、ここでは詳しい説明を割愛する。領域抽出部１５による抽出結果（領域推定結果）は、抽出結果表示部１６に渡される。なお、抽出結果のデータ形式は任意であり、例えば前景領域と背景領域とでラベルを変えたビットマスクや、前景領域と背景領域の間の境界をベジェ曲線やスプライン曲線で表現したベクタデータなどを用いることができる。
【００３２】
抽出結果表示部１６は、ステップＳ２３で取得した情報に基づき抽出結果画像を生成し（ステップＳ２４）、対象画像に抽出結果画像を合成した合成画像を生成して表示装置１１に表示する（ステップＳ２５）。図３の下段は、抽出結果画像３７（ハッチング部分）を対象画像の上にオーバーレイ表示した例を示している。ユーザはこのような合成画像を見ることで、意図していた部分（例：ミルフィーユケーキの部分）が過不足なく前景領域として抽出されているかどうか、つまり、意図していた部分と抽出結果画像との間にずれがないかを確認することができる。抽出結果の表示方法については、後ほど詳しく説明する。
【００３３】
抽出結果画像が表示された状態のときに、ユーザにより自動切替ボタン３５が押される
と、抽出結果表示部１６は、抽出結果画像の表示／非表示を所定の周期（例えば数秒ごと）で自動的に切り替える。つまり、図３の下段のような画面と上段のような画面が交互に切り替わる。抽出結果画像の表示／非表示が切り替わることで、対象画像と抽出結果の見比べをより詳しく行うことができる。しかも、この方法であれば、表示／非表示の切り替えが自動で行われるので、ユーザに操作負担をかけることがない。
【００３４】
その後、ユーザにより終了ボタン３６が押されると、領域抽出部１５は抽出結果のデータを記憶装置１２に格納し（ステップＳ２６）、処理を終了する。なお、ステップＳ２３の領域抽出処理の結果が適切でなかった場合には、前景・背景の再指定（ステップＳ２２）やその他のパラメタの調整（不図示）等を行った後、領域抽出処理をやり直せばよい。また、図３の下段に示すような画面において、前景領域の境界を手動で修正できるようなインターフェースを設けることも好ましい。
【００３５】
（抽出結果の表示）
次に、図４及び図５を参照して、第１実施形態における抽出結果の表示方法を説明する。図４は、図２のステップＳ２４に示した抽出結果画像生成処理の詳細を示すフローチャートであり、図５は、抽出結果画像の表示色を決定するアルゴリズムを説明するための図である。以下、領域抽出処理によって推定された前景領域を「推定前景領域」と呼び、領域抽出処理によって推定された背景領域を「推定背景領域」と呼ぶ。
【００３６】
抽出結果表示部１６は、ステップＳ２３で取得した抽出結果に基づいて、対象画像の上に境界周辺領域を設定する（ステップＳ２４０）。図５に示すように、境界周辺領域５０は、推定前景領域５１と推定背景領域５２の間の境界５３（破線部）を含み、且つ、推定前景領域５１と推定背景領域５２の両方にまたがるように設定される。本実施形態では、境界５３を中心とする所定の幅（例えば、前景側と背景側にそれぞれ５ピクセルで、合計１０ピクセルの幅）の範囲を境界周辺領域５０とする。
【００３７】
次に、抽出結果表示部１６は、境界周辺領域５０内のピクセル群を順に調べ、境界周辺領域５０に含まれる全ての色を抽出する（ステップＳ２４１）。図４の処理は、どのような色空間を使って計算してもよいが、本実施形態では、対象画像としてＲＧＢ画像を用い、画像のピクセル値（ＲＧＢ値）をそのまま計算に用いる。図５には、境界周辺領域５０から抽出されたｍ個の色を、（ｒ１，ｇ１，ｂ１），（ｒ２，ｇ２，ｂ２），…，（ｒｍ，ｇｍ，ｂｍ）で示している。以下、これらを抽出色ｃ１〜ｃｍと呼ぶ。また本実施形態では、抽出結果画像の表示色として選べる色の候補が予め用意されている。図５の、（Ｒ１，Ｇ１，Ｂ１），（Ｒ２，Ｇ２，Ｂ２），…，（Ｒｎ，Ｇｎ，Ｂｎ）はｎ個の候補色Ｃ１〜Ｃｎを示している。
【００３８】
次に、抽出結果表示部１６は、ｎ個の候補色Ｃ１〜Ｃｎのそれぞれについて、ｍ個の抽出色ｃ１〜ｃｍとの差を計算する（ステップＳ２４２）。ここでは、下記式のように、ある候補色Ｃｉとｍ個の抽出色ｃ１〜ｃｍそれぞれとの色差ΔＥ（Ｃｉ，ｃｋ）の絶対値の合計を、その候補色Ｃｉのｍ個の抽出色ｃ１〜ｃｍとの差Ｄｉと定義する。なお、色差は色空間上の距離で求まる。
【数１】
0005962083.tif 000002
【００３９】
そして、抽出結果表示部１６は、差Ｄｉが最大となる候補色を、抽出結果画像の表示色として選ぶ（ステップＳ２４３）。これにより、境界周辺領域内のいずれの色とも可及的に異なる色が表示色として選ばれる。
【００４０】
次に、抽出結果表示部１６は、ステップＳ２４３で決定した表示色で推定前景領域内を塗りつぶした画像を抽出結果画像として生成する（ステップＳ２４４）。このとき、推定前景領域（塗りつぶし領域）が半透明となり（例えば透過率５０％）、推定背景領域が透明（透過率１００％）となるように、抽出結果画像のαチャンネルを設定する。以上の処理によって生成した抽出結果画像が、図２のステップＳ２５にて対象画像の上に合成（αブレンド）される。
【００４１】
（本実施形態の利点）
図６は、本実施形態の抽出結果表示方法の効果を説明するための模式図である。（ａ）は、対象画像であり、シアン色の背景６０の中に赤色の三角物体６１がある。この画像から三角物体６１を前景として抽出することが目的であると仮定する。（ｂ）は、領域抽出処理により得られた推定前景領域６２と推定背景領域６３の一例である。推定前景領域６２として矩形の形状が抽出されており、ユーザの意図する前景領域（三角物体６１）とは異なっている。
【００４２】
（ｃ）は、従来例として、予め決められた表示色（マゼンタ色）で推定前景領域６２を塗りつぶした画像を半透明でオーバーレイ表示した例を示すものである。この場合、表示色と三角物体６１との色が類似しているために、推定前景領域６２の範囲が視認しづらいことが分かる。
【００４３】
（ｄ）は、本実施形態の方法で求めた表示色を用いた場合の表示例を示すものである。この表示色は、対象画像の背景６０の色と三角物体６１の色のいずれとも異なる色が選ばれている。それゆえ、対象画像の背景６０、三角物体６１、抽出された推定前景領域６２それぞれが明りょうに視認できる。これにより、推定前景領域６２が過大である部分６４も、推定前景領域６２が不足である部分６５も確認が可能となり、抽出された推定前景領域６２がユーザの意図する前景領域である三角物体６１と一致しているかどうかを一目で把握することができる。
【００４４】
言うまでもないが、図６のような単純な画像でなく、カメラで撮影された画像のように多くの色が含まれている画像に対しても、同様の効果が得られる。すなわち、本実施形態の方法で抽出結果画像の表示色を決定すれば、対象画像に抽出結果画像を合成したときに、少なくとも境界周辺領域内においては抽出結果画像の色と対象画像の色の間に明らかな違いがでる。そうすると、抽出結果画像の外延、すなわち推定前景領域と推定背景領域の境目が明りょうに視認できるため、抽出された領域がユーザの意図するものと一致しているかどうかを容易に判断することができる。また、この方法によれば、抽出結果画像の最適な表示色が自動で選ばれるため、ユーザに余計な操作負担をかけることがない。
【００４５】
ここで、対象画像全体の色を参照するのでなく、境界周辺領域内の色のみと比較して抽出結果画像の表示色を決定している点も、特徴の一つである。例えば対象画像の中に多種多様な色相が含まれていた場合、それらの全てと明確に異なる色を設定することができず、抽出結果画像の表示色が対象画像中の一部の色と類似してしまうことは避け得ない。もし、抽出結果画像の輪郭上やその周辺に類似色のピクセル群が存在すると、抽出結果画像の外延が不明りょうになる可能性がある。その点、本実施形態のように境界周辺領域に限定すれば、対象画像全体をみる場合よりも比較対象の色数が格段に少なくなり、抽出結果画像の表示色を設定しやすい。しかも、少なくとも抽出結果画像の輪郭及びその周辺（つまり、境界周辺領域内）には抽出結果画像の色に類似する色は存在しないことが保証されるので、抽出結果画像の外延が不明りょうになることはない。なお、境界周辺領域の外側では抽出結果画像と対象画像の色の類似が起こる可能性があるが、抽出結果画像の外延さえ明りょうであれば、抽出された領域の是非を確認することができるため、境界周辺領域
の外側での色の類似は特に問題とならない。
【００４６】
＜第２実施形態＞
次に、本発明の第２実施形態について説明する。第１実施形態では境界周辺領域からの抽出色に対する色差の絶対値の合計が最大となるように表示色を決定したのに対し、第２実施形態では境界周辺領域からの抽出色と最も色相が異なる色を表示色に選ぶ点が異なる。すなわち、図２のフローにおけるステップＳ２４の処理の内容が置き換わるだけで、それ以外の構成及び処理については第１実施形態のものと同じである。
【００４７】
図７及び図８に第２実施形態における抽出結果の表示方法を示す。図７は、図２のステップＳ２４に示した抽出結果画像生成処理の詳細を示すフローチャートであり、図８は、抽出結果画像の表示色を決定するアルゴリズムを説明するための図である。なお、図７のフローの中で第１実施形態における図４のフローと同じ処理については、同一のステップ番号を付している。
【００４８】
抽出結果表示部１６は、第１実施形態の処理と同様に、境界周辺領域を設定する（ステップＳ２４０）。
【００４９】
次に、抽出結果表示部１６は、境界周辺領域５０内の各々のピクセルについて色相角Ｈを計算し、その色相角Ｈを色相環上にマッピングする（ステップＳ７００）。ピクセルのＲＧＢ値（ｒ，ｇ，ｂ）から色相角Ｈへの変換は例えば下記式により行うことができる。
【数２】
0005962083.tif 000003
【００５０】
全ての点のマッピングが終わったら、抽出結果表示部１６は、度数が少ない（閾値に満たない）色相角におけるマッピング点を除去する（ステップＳ７０１）。このようにして得られた色相環ヒストグラムの一例を図８に示す。この色相環ヒストグラムは、円周方向時計回りに色相角０〜３６０°をとり（１２時の位置が０°）、径方向外側にマッピング点の度数をとったものである。この例では、色相角１２０°の周辺（グリーン）と色相角２４０°の周辺（ブルー）の２箇所にマッピング点が集中していることが分かる。
【００５１】
次に、抽出結果表示部１６は、色相環ヒストグラム上でマッピング点が最も疎になっている部分の色相を計算する（ステップＳ７０２）。例えば、マッピング点が存在しない色相範囲の中で最も範囲の広いところを検出し、その中心の色相を求めればよい。図８の例では、約２４０°〜０°〜約１２０°の色相範囲が最も広く空いているので、その中心である約０°（レッド）が表示色の色相として選択される。
【００５２】
次に、抽出結果表示部１６は、表示色の輝度と彩度を決定する（ステップＳ７０３）。本発明者らが実験したところ、視認性向上に最も効果があるのは色相の違いであり、輝度と彩度は（よほど輝度や彩度が低くない限りは）視認性に与える影響はさほど大きくないことが分かった。したがって、輝度と彩度についてはある程度の高さとなるように設定すればよい。例えば、表示色の輝度と彩度を固定値にすることもできる。或いは、境界周辺領域内のピクセルの平均輝度と平均彩度を計算し、この平均輝度や平均彩度との差が可及的に大きくなるように表示色の輝度と彩度を決定してもよい（ただし、輝度と彩度の下限値は予め定めておく）。
【００５３】
次に、抽出結果表示部１６は、ステップＳ７０２、Ｓ７０３で決定した色相・輝度・彩度から表示色のＲＧＢ値を計算する（ステップＳ７０４）。その後、抽出結果表示部１６
は、第１実施形態と同様、抽出結果画像を生成し（ステップＳ２４４）、対象画像にオーバーレイ表示する。
【００５４】
以上述べた方法によれば、第１実施形態と同様の作用効果に加え、次のような利点がある。すなわち、境界周辺領域内に含まれる色相と補色的な関係にある色相が表示色に選ばれるので、第１実施形態の方法よりもさらに視認性に優れた表示が可能になる。また、ステップＳ７０１において度数の少ない色相を除外し、境界周辺領域内の代表的な（支配的な）色相との比較で表示色の色相を決定しているので、ノイズを含む画像や多様な色相が混在する画像の場合であっても、視認性に優れた妥当な表示色を求めることができる。
【００５５】
＜第３実施形態＞
次に本発明の第３実施形態を説明する。第１及び第２実施形態では対象画像の上に塗りつぶし領域（推定前景領域）をオーバーレイ表示したが、第３実施形態ではそれに加えて塗りつぶし領域の輪郭線を描画する。
【００５６】
図９（ａ）に、輪郭線付きの塗りつぶし領域からなる抽出結果画像の表示例を示す。このような輪郭線９０を描画することで、推定前景領域と推定背景領域の境目がより明りょうになる。これは、推定前景領域と推定背景領域の境界が複雑な形状であったり、入り組んでいたりする場合に、特に効果的である。
【００５７】
輪郭線９０の描画色の決定方法の一例を以下に挙げる。
（１）塗りつぶし領域９１の塗りつぶし色と同じ色を、輪郭線９０の描画色として用いる。ただし、対象画像に合成するときの透過率を塗りつぶし領域９１と輪郭線９０とで異ならせる。輪郭線９０の視認性は高い方がよいので、塗りつぶし領域９１よりも輪郭線９０の透過率を低くするとよく、典型的には輪郭線９０の透過率をゼロにするとよい。
【００５８】
（２）塗りつぶし領域９１の塗りつぶし色と色相が同じで、輝度もしくは彩度、又はその両方が異なる色を、輪郭線９０の描画色として用いる。このとき、境界周辺領域の平均輝度や平均彩度に基づいて輪郭線９０の描画色の輝度や彩度を決定するとよい。例えば、境界周辺領域の平均輝度が高い（明るいピクセルが多い）場合には、低輝度の輪郭線９０のほうが目立つし、平均輝度が低い場合には、高輝度の輪郭線９０のほうが目立つ。
【００５９】
（３）第１実施形態や第２実施形態の方法で塗りつぶし色を決める際に、輪郭線９０の描画色も決める。第１実施形態の方法であれば、差Ｄｉが最大となる候補色を塗りつぶし色に選び、差Ｄｉが２番目に大きい候補色を輪郭線の描画色に選ぶことができる。第２実施形態の方法であれば、図９（ｂ）に示すように、マッピング点が存在しない色相範囲の中で最も範囲の広いところを検出し、その色相範囲を三等分するように２つの色相を選び、一方を塗りつぶし色に、他方を輪郭線の描画色に用いればよい。図９（ｂ）の例では、約２４０°〜０°〜約１２０°の色相範囲が最も広く空いているので、約３２０°と約４０°の２つの色相が選ばれる。このような方法により、輪郭線９０と塗りつぶし領域９１の両方に視認性の高い色を設定できる。
【００６０】
輪郭線９０の太さ（ピクセル数）は任意であるが、太すぎるとかえって推定前景領域の形状が分かりづらくなるので、１〜１０ピクセル程度に設定するとよい。また、輪郭線９０の太さは、表示装置の表示解像度に応じて決定するとよい。つまり、低解像度の表示装置の場合はピクセル数を相対的に少なく、高解像度の表示装置の場合はピクセル数を相対的に多くする。これにより、どのような表示解像度の表示装置を用いたとしても良好な視認性を確保することができる。或いは、輪郭線９０の太さを、対象画像の画像サイズに応じて決定してもよい。つまり、画像サイズが小さい場合はピクセル数を相対的に少なく、画像サイズが大きい場合はピクセル数を相対的に多くする。これにより、対象画像の画像
サイズによらず、良好な視認性を確保することができる。
【００６１】
＜第４実施形態＞
図１０に、本発明の第４実施形態を示す。図１０（ａ）は、抽出結果画像における塗りつぶし領域１００の色を、塗りつぶし領域１００の輪郭に近い部分１０１と遠い部分１０２とで異ならせた表示例である。例えば、色相は変えずに、輪郭に近い部分１０１の方の彩度や輝度を相対的に高くするとよい。このように塗りつぶし領域１００内の色に変化をつけることで、輪郭に近い部分１０１が相対的に目立つため、抽出結果画像の外延がより明りょうになるという視覚効果が得られる。図１０（ｂ）は、図１０（ａ）にさらに輪郭線１０３を描画した表示例である。これにより、視認性を一層高めることができる。なお、図１０（ａ）、（ｂ）では２段階に色を変えたが、３段階以上に色を変えたり、連続的に色を変えることも好ましい。図１０（ｃ）は、輪郭に近い部分から遠い部分に向けて連続的に色を変えた表示例である（グラデーション表示）。色の境目が目立つと、ユーザが対象画像中のエッジや模様と勘違いするおそれがあるが、グラデーション表示の場合はそのような視覚的な錯覚の発生を抑えることができるという利点がある。グラデーション表示の場合も図１０（ｂ）のように輪郭線を描画してもよい。なお、本実施形態では塗りつぶし色を変えたが、色は変えずにαチャンネルに設定する透過率を変えることでも、同じような視覚効果を得ることができる。
【００６２】
＜第５実施形態＞
図１１に、本発明の第５実施形態を示す。第１〜第４実施形態では、前景領域を塗りつぶした画像を表示したが、第５実施形態では、前景領域と背景領域の間の境界線のみを描画するという表示方法を採る。
【００６３】
図１１（ａ）は、境界線１１０を１本の線で描画した例である。境界線１１０の描画色については、第１及び第２実施形態で述べたのと同じ方法により、境界周辺領域内のピクセル群の色と可及的に異なる色になるよう設定する。このように抽出結果画像として境界線１１０を表示するだけでも、前景領域と背景領域の境目が明りょうに視認できるので、抽出された領域の是非を確認することができる。この方法は、前景領域と背景領域の境界が複雑な形状であったり、入り組んでいたりする場合に、特に効果的である。なお、境界線１１０の透過率はゼロでもよいし、半透明で表示してもよい。
【００６４】
境界線１１０の太さ（ピクセル数）は任意であるが、太すぎるとかえって前景領域や背景領域の形状が分かりづらくなるので、１〜１０ピクセル程度に設定するとよい。また、境界線１１０の太さは、表示装置の表示解像度に応じて決定するとよい。つまり、低解像度の表示装置の場合はピクセル数を相対的に少なく、高解像度の表示装置の場合はピクセル数を相対的に多くする。これにより、どのような表示解像度の表示装置を用いたとしても良好な視認性を確保することができる。或いは、境界線１１０の太さを、対象画像の画像サイズに応じて決定してもよい。つまり、画像サイズが小さい場合はピクセル数を相対的に少なく、画像サイズが大きい場合はピクセル数を相対的に多くする。これにより、対象画像の画像サイズによらず、良好な視認性を確保することができる。
【００６５】
図１１（ｂ）は境界線１１０を平行な２本の線で描画した例である。２本の線の間には数ピクセルの間隔が設けられており、その間隔のちょうど真ん中に推定前景領域と推定背景領域の境界がくるように描画される。このような表示方法により、境界線の形状だけでなく、境界上のピクセルの色等も確認できるため、抽出された領域の是非をより正確に判断できる。なお、２本の線は同じ色・同じ太さで描画してもよいし、色、透過率、太さ、形状（実線／破線）等を違えてもよい。後者の方法により、推定前景領域側の線と推定背景領域側の線の区別がつくようにすれば、境界線で区分けされた領域のどちらが前景なのかを容易に判断つけられるという利点がある。
【００６６】
＜第６実施形態＞
図１２に、本発明の第６の実施形態を示す。第１〜第４実施形態では、推定前景領域を塗りつぶした画像をオーバーレイ表示したが、第６実施形態では、推定背景領域（又は推定前景領域）をマスクして推定前景領域のみ（又は推定背景領域のみ）を表示するという表示方法を採る。
【００６７】
図１２（ａ）は、推定背景領域をマスクした表示例である。このとき用いるマスク画像（抽出結果画像）の色を、第１及び第２実施形態で述べたのと同じ方法により、境界周辺領域内のピクセル群の色と可及的に異なる色になるよう設定する。これにより、マスクされた領域と推定前景領域の境目が明りょうになる。そして、画面には推定前景領域のピクセルのみが表示されるため、推定前景領域が過大である部分（ユーザの意図としては背景領域と判定されるべきピクセルが、推定前景領域に含まれている状態）が発見しやすくなる。
【００６８】
図１２（ｂ）は、推定前景領域をマスクした表示例である。このとき用いるマスク画像（抽出結果画像）の色についても、第１及び第２実施形態で述べたのと同じ方法により設定する。このように推定背景領域のピクセルのみを表示した場合には、推定前景領域が不足である部分（ユーザの意図としては前景領域と判定されるべきピクセルが、背景領域に含まれている状態）が発見しやすくなる。
【００６９】
＜その他＞
上述した実施形態は本発明の一具体例を示したものであり、本発明の範囲をそれらの具体例に限定する趣旨のものではない。例えば、第１実施形態では、境界周辺領域内に含まれる全ての色との差を計算したが、第２実施形態のように境界周辺領域内の代表的な色だけを考慮するようにしてもよい。また、境界周辺領域の幅は一定でなくてもよい。例えば、境界が入り組んでいる箇所では、視認性を重視するために、境界が単調な箇所（まっすぐな境界など）に比べて幅を広くとってもよい。また、上記実施形態では、推定前景領域と推定背景領域の境界を中心にして境界周辺領域を設定したが、必ずしも境界が中心になくてもよい。例えば、推定前景領域に塗りつぶし画像をオーバーレイ表示するのであれば、塗りつぶし画像と推定背景領域との区別の方が重要なため、背景領域側の幅を広くとってもよい。また、図１２（ａ）のように推定前景領域とマスク画像を合成表示する場合は、推定前景領域側だけに境界周辺領域を設定することで、境界周辺における推定前景領域内の色と可及的に異なるようにマスク画像の色を決めてもよい。逆に、図１２（ｂ）のように推定背景領域とマスク画像を合成表示する場合は、推定背景領域側だけに境界周辺領域を設定してもよい。
【００７０】
第１〜第４実施形態では、前景領域を塗りつぶした画像を抽出結果画像として用いたが、逆に、推定背景領域を塗りつぶした画像を抽出結果画像としてオーバーレイ表示することもできる。この方法によっても、上述した実施形態と同じ作用効果を得ることができる。さらに、上述した各実施形態の表示方法を、ユーザが自由に選択し、切り替えられるようにすることも好ましい。
【符号の説明】
【００７１】
１：画像処理装置
１０：装置本体、１１：表示装置、１２：記憶装置、１３：入力装置、１４：画像取得部、１５：領域抽出部、１６：抽出結果表示部
３０：画像ウィンドウ、３１：画像取込ボタン、３２：前景指定ボタン、３３：背景指定ボタン、３４：実行ボタン、３５：自動切替ボタン、３６：終了ボタン、３７：抽出結果画像
５０：境界周辺領域、５１：推定前景領域、５２：推定背景領域、５３：境界
６０：背景、６１：三角物体、６２：推定前景領域、６３：推定背景領域、６４：推定前景領域が過大である部分、６５：推定前景領域が不足である部分
９０：輪郭線、９１：塗りつぶし領域
１００：塗りつぶし領域、１０１：輪郭に近い部分、１０２：輪郭から遠い部分、１０３：輪郭線
１１０：輪郭線
【図１】
0005962083.tif 000004
【図２】
0005962083.tif 000005
【図３】
0005962083.tif 000006
【図４】
0005962083.tif 000007
【図５】
0005962083.tif 000008
【図６】
0005962083.tif 000009
【図７】
0005962083.tif 000010
【図８】
0005962083.tif 000011
【図９】
0005962083.tif 000012
【図１０】
0005962083.tif 000013
【図１１】
0005962083.tif 000014
【図１２】
0005962083.tif 000015