(57)【要約】      （修正有）【課題】背景領域中の前景領域が類似色の画素で構成されている場合に、その前景領域の色を、選択された１つの色で置換する。【解決手段】背景領域中の前景領域が類似色の画素で構成されている場合に、その前景領域の色を、選択された１つの色で置換する。具体的には、マーカー部抽出処理Ｓ５１０は、入力画像内からマーカーで記載された領域を抽出する。次に、マーカー部色置換処理Ｓ５２０は抽出されたマーカー領域の色を別の色に置換する。次に、マーカー部スムージング処理Ｓ５３０は、マーカーで記載された領域の輪郭のスムージング処理を行う。【選択図】図５
2018018173.tif 000002
【特許請求の範囲】
【請求項１】
背景領域中の類似色の画素で構成される前景領域を、画像から特定する特定手段と、
前記特定された領域の色に基づいて、予め定められた複数の色から１つの色を選択する選択手段と、
前記特定された領域の色を、前記選択された色で置き換える置換手段と、
を有することを特徴とする画像処理装置。
【請求項２】
前記特定手段は、所定の輝度以上の領域を背景領域として特定し、前記所定の輝度未満の輝度を持つ画素で構成される領域を前景領域として特定することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記特定手段は、
前記所定の輝度未満の輝度を持つ画素が連続する領域を前景領域として抽出する抽出手段と、
前記抽出された前景領域を構成する複数の画素の色値の分散値を求め、所定の閾値未満である前記分散値を持つ当該前景領域を、背景領域中の類似色の画素で構成される前景領域であると判定する判定手段と、
を有することを特徴とする請求項２に記載の画像処理装置。
【請求項４】
前記判定手段は、
前記分散値が前記所定の閾値以上、かつ、前記閾値とは異なる所定の閾値未満であるかを判定し、
前記所定の閾値以上かつ前記異なる所定の閾値未満の前記分散値を持つ前記抽出された前景領域の内部を構成する画素の数に基づいて、当該前景領域を、類似色の画素の色を前記１色で置き換えるか否かを判定し、
前記置換手段は、前記１色で置き換えると判定された、前記所定の閾値以上かつ前記異なる所定の閾値未満の前記分散値を持つ前記抽出された前景領域の色を、前記１色で置き換えることを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記判定手段は、前記所定の閾値以上の前記分散値を少なくとも持つ前記抽出された前景領域の色を、前記１色で置き換えないと判定することを特徴とする請求項３または４に記載の画像処理装置。
【請求項６】
前記判定手段は、前記抽出された前景領域の大きさに基づいて、当該前景領域の色を前記１色で置き換えないと判定することを特徴とする請求項３乃至５の何れか１項に記載の画像処理装置。
【請求項７】
前記複数の色を記憶する記憶手段を有することを特徴とする請求項１乃至６の何れか１項に記載の画像処理装置。
【請求項８】
前記選択手段は、
前記前景領域の色が、前記複数の色の何れかに該当するか、何れにも該当しないか、を判定し、
前記前景領域の色が前記複数の色の何れにも該当しないと判定された場合に、前記前景領域の色に基づいて前記複数の色とは異なる色を決定し、
前記前景領域の色を、前記決定された色で置き換えることを特徴とする請求項７に記載の画像処理装置。
【請求項９】
前記選択手段は、前記前景領域を構成する少なくとも１つの画素の色に基づいて前記１つの色を選択することを特徴とする請求項１乃至８の何れか１項に記載の画像処理装置。
【請求項１０】
前記特定手段は、所定の輝度未満の輝度を持つ画素どうしが互いに隣接していることに基づいて当該画素どうしを同じ前景領域に分類することを特徴とする請求項１乃至９の何れか１項に記載の画像処理装置。
【請求項１１】
前記置換手段によって前記置き換えの処理が行われた前記前景領域を含む前記画像を表示部に表示する表示制御手段を有することを特徴とする請求項１乃至１０のいずれか１項に記載の画像処理装置。
【請求項１２】
背景領域中の類似色の画素で構成される前記前景領域に隣接する少なくとも１つの画素の色を、前記置き換えが行われた当該前景領域の輪郭を平滑化するための色に置き換える平滑化手段をさらに有することを特徴とする請求項１乃至１１の何れか１項に記載の画像処理装置。
【請求項１３】
前記平滑化手段は、前記平滑化するための色は、前記隣接する少なくとも１つの画素が隣接する箇所における前記輪郭の形状に基づいて決定することを特徴とする請求項１２に記載の画像処理装置。
【請求項１４】
背景領域中の前景領域を構成する複数の画素の色を複数のクラスタにクラスタリングする手段を有し、
前記置換手段は、
背景領域中の前景領域を構成する複数の画素の色値の分散値が所定の閾値以上である場合に、前記クラスタリングによって形成された各クラスタに対応する色で、当該前景領域を構成する前記複数の画素の色を置き換えることを特徴とする請求項１に記載の画像処理装置。
【請求項１５】
前記１つの色は、前記背景領域中の別の前景領域の色に依存しないことを特徴とする請求項１乃至１４の何れか１項に記載の画像処理装置。
【請求項１６】
前記画像は、撮像手段によって撮像されたホワイトボードの画像であり、
色が置き換えられる前記前景領域は、ユーザーによってマーカーで描かれた、前記ホワイトボード中の部分に対応することを特徴とする請求項１乃至１５の何れか１項に記載の画像処理装置。
【請求項１７】
背景領域中の類似色の画素で構成される前景領域を、画像から特定する特定工程と、
前記特定された領域の色に基づいて、予め定められた複数の色から１つの色を選択する選択工程と、
前記特定された領域の色を、前記選択された色で置き換える置換工程と、
を有することを特徴とする画像処理方法。
【請求項１８】
請求項１乃至１６の何れか１項に記載の各手段としてコンピュータを機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画素の色を置換する画像処理技術に関する。
【背景技術】
【０００２】
近年、スマートフォンやタブレットＰＣといった高度な情報処理機能を持つ携帯端末が普及してきている。これら携帯端末は、カメラを備え、撮影機能（カメラ機能）を有している。このような携帯端末のカメラ機能を用いて、ホワイドボードマーカーペン（以下、マーカー）によって文字や図が書かれたホワイトボード面を撮影し、携帯端末のメモリ上に画像データとして保存することが行われるようになってきた。
【０００３】
携帯端末のカメラ機能を用いたホワイトボード面の撮影は、撮影時の環境に影響を受ける。例えば、ホワイトボード面を照らす光源の影響で、ホワイトボード面上のマーカーによって書かれた文字や図が、マーカーの本来の色とは異なる色で撮影されてしまうことがある。例えば青のマーカーで書かれた文字と黒のマーカーで書かれた文字との区別が撮影画像上で区別がつきにくいことがある。
【０００４】
原稿画像中のマーカーで書かれた部分の色を補正する技術として、特許文献１がある。特許文献１では、画像中の画素の色が蛍光色の色範囲に含まれるか否かに基づいて、色が置換される画素を抽出し、その抽出された画素の色を所定の色に置き換えることを開示する。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１５−２０７９６１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
特許文献１の方法は、画素の色が所定の色範囲内にあるか否かに基づいてその画素の色を置換する。そのため、例えば撮影画像中に写真など複数の色からなる画像領域中に所定の色範囲内に該当する画素と該当しない画素とが混在すると、該当する画素の色だけが特定の色に置換されてしまう。その結果、色が置換された画素が目立ってしまい、画質が低下してしまう。
【課題を解決するための手段】
【０００７】
本発明の画像処理装置は、背景領域中の類似色の画素で構成される前景領域を、画像から特定する特定手段と、前記特定された領域の色に基づいて、予め定められた複数の色から１つの色を選択する選択手段と、前記特定された領域の色を、前記選択された色で置き換える置換手段と、を有することを特徴とする。
【発明の効果】
【０００８】
本発明によれば、背景領域中の類似色の画素で構成される前景領域の色を置換することができる。
【図面の簡単な説明】
【０００９】
【図１】システム構成図の例。
【図２】携帯端末１０１の外観の例
【図３】携帯端末１０１のハードウェア構成図の例
【図４】携帯端末１０１のソフトウェア構成図の例
【図５】実施例１の全体フローチャート
【図６】実施例１のマーカー部抽出処理のフローチャート
【図７】実施例１のマーカー部色置換処理のフローチャート
【図８】実施例１のマーカー部スムージング処理のフローチャート
【図９】実施例１の処理の例を示す図
【図１０】実施例１のマーカー部抽出処理の例を示す図
【図１１】実施例１の属性判定処理のフローチャート
【図１２】実施例１の属性判定処理の例を示す図
【図１３】実施例１のマーカー部スムージング処理の例を示す図
【図１４】実施例２のマーカー部色置換処理のフローチャート
【図１５】実施例３のマーカー部色置換処理のフローチャート
【発明を実施するための形態】
【００１０】
（実施例１）
図１に本実施例で利用するシステムの全体構成を示す。ＬＡＮ１１０には、無線ルータ１０２、プリンタ１０３が接続されている。携帯端末１０１は無線ルータ１０２およびＬＡＮ１１０を介して、プリンタ１０３に接続することができる。なお携帯端末１０１は、以下の実施例において画像処理装置として機能する。
【００１１】
＜携帯端末の構成＞
図２に本実施例で利用する携帯端末１０１の外観を示す。携帯端末１０１は様々な種類が存在するが、図２（ａ）は、携帯端末１０１の表面である。表面には、タッチパネルディスプレイ２０１、操作ボタン２０２を持つ。タッチパネルディスプレイ２０１は詳細には操作に必要な情報やボタン、画像などを表示するための表示装置と、人体の指などで触れることにより画面上で触れた位置の座標入力をする装置とが組み合わされた装置である。図２（ｂ）は携帯端末１０１の裏面である。裏面には撮影部２０３が配置されている。なお、本発明は撮影部２０３を含むカメラ機能を持つ端末装置ならば利用が可能である。すわなち、適用されるのはカメラ機能を持ったスマートフォンや携帯電話でも、通信機能を持ったデジタルカメラでも構わない。また、非接触にホワイトボード面を撮影可能な書画カメラにも適用可能である。
【００１２】
＜携帯端末１０１のハードウェア構成＞
図３に、携帯端末１０１の内部のハードウェア構成を示す。但し、この構成図は本実施例を実施するための構成の一例である。図３において、ＣＰＵ３０１、ＲＡＭ３０２、ＲＯＭ３０３がデータバス３１１を介してプログラムやデータを送受信する。また、データバス３１１には、フラッシュメモリ３０４、データ送受信部３０５、撮像部３０６、表示部３０７、操作部３０８が接続され、ＣＰＵ３０１、ＲＡＭ３０２、ＲＯＭ３０３も併せて、互いにプログラムやデータの送受信を行っている。
【００１３】
フラッシュメモリ３０４は、内蔵されたフラッシュメモリや外付けのＳＤフラッシュメモリカードであり、画像データや各種プログラムを格納する。
【００１４】
データ送受信部３０５は、無線ＬＡＮコントローラを有し、無線ルータ１０２を介して、プリンタ１０３とのデータの送受信を実現する。尚、無線ＬＡＮ以外にもＢｌｕｅｔｏｏｔｈ（登録商標）やＮＦＣ（Ｎｅａｒ  Ｆｉｅｌｄ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ）など、データの送受信を実現できるものであればよい。
【００１５】
撮像部３０６は、前述のカメラ２０３であり、ホワイトボード面の撮影を行って撮影画像を取得する。取得された撮影画像のデータはフラッシュメモリ３０４やＲＡＭ３０２に格納され、ＣＰＵ３０１で処理される。処理された画像データは、ＣＰＵ３０１により、表示部３０７での表示、フラッシュメモリ部３０４への保存、データ送受信部３０５を介した外部への送信等の後処理が施される。
【００１６】
表示部３０７は、タッチパネルディスプレイ２０１を構成するディスプレイであり、カメラ機能を用いてホワイトボード面を撮影する際のライブビューによる表示のほか、本実施例の画像処理結果の表示、処理過程の通知や操作に必要な情報などを表示する。
【００１７】
操作部３０８は、前述のタッチパネルディスプレイ２０１を構成するタッチパネルや操作ボタン２０２であり、ユーザーからの操作を受け付けて各部へ該操作の情報を送信する。
【００１８】
なお、ＣＰＵ３０１がＲＯＭ３０３やフラッシュメモリ３０４が保持するプログラム（例えばカメラ撮影アプリケーション４０３、画像補正アプリケーション４０４）を実行することで、以下で説明される各フローチャートの処理が実行される。また、ＣＰＵ３０１が携帯端末１０１内の構成要素の制御を行う。
【００１９】
＜携帯端末１０１のソフトウェア構成＞
図４に、携帯端末１０１の処理を行うソフトウェア構成を示す。但し、この構成図は本実施例を実施するための構成の一例である。これらソフトウェアモジュールは、携帯端末１０１のフラッシュメモリ３０４に格納され、ＣＰＵ３０１が実行する。
【００２０】
ＯＳ４０２は、システム全体を管理し、携帯端末の動作を管理や、後述のカメラ撮影アプリケーション４０３や画像補正アプリケーション４０４の制御を行う。
【００２１】
カメラ撮影アプリケーション４０３は、ＯＳ４０２からの指示により、撮像部３０６を動作させ、カメラ２０３が駆動し画像を撮影する。また、カメラ２０３から画像データを受け取りフラッシュメモリ３０４に画像データを保存する。
【００２２】
画像補正アプリケーション４０４は、撮影アプリ呼出部４０５、画像処理部４０６、表示制御部４０７、データ保存部４０８からなる。画像補正アプリケーション４０４は、ＯＳ４０２からの指示により、撮影アプリケーションの呼び出し処理、撮影した画像の画像処理、画像処理済みの画像のディスプレイへの描画、保存を行う。なお、この画像補正アプリケーション４０４は、ＯＳ４０２の指示にしたがって、不図示の外部サーバーから受信されてインストールされたたものである。ＣＰＵ３０１は、ＲＡＭ３０２およびフラッシュメモリ３０４を用いて、この画像補正アプリケーション４０４を実行する。
【００２３】
撮影アプリ呼出部４０５は、画像補正アプリケーション４０３内で呼び出され、ＯＳ４０２に対しカメラ撮影アプリケーション４０３の実行を指示する。撮影アプリ呼出部４０５からＯＳ４０２を介しカメラ撮影アプリケーション４０３を呼び出し、画像を撮影する。
【００２４】
画像処理部４０６は、画像補正アプリケーション４０３内で呼び出され、撮影した画像や、フラッシュメモリ３０４に格納されている画像に対し、画像処理を行う。
【００２５】
表示制御部４０７は、画像補正アプリケーション４０３内で呼び出され、撮影した画像や、フラッシュメモリ３０４に格納されている画像及び、画像処理部４０６で処理（色置換）を行った画像を表示部３０７に表示する。
【００２６】
データ保存部４０８は、画像補正アプリケーション４０３内で呼び出され、画像処理部４０６で処理を行った画像をフラッシュメモリ３０４保存する。
【００２７】
＜処理の流れの詳細説明＞
図５、図６、図７、図８は本実施例における入力画像を補正する処理を説明するフローチャートである。これらフローチャートは、画像処理部４０６によって実行される。
【００２８】
以下で説明する処理の概要は次の通りである。入力画像中の前景の画素群の隣接関係に基づいて１つ以上の前景画素群を抽出し、画素群ごとに、その画素群が類似色の画素で構成されているかを判定して、類似色の画素で構成されている画素群をマーカーで記載された領域と見なして色を置換する。このようにすることで、マーカーで記載された箇所と、写真などの箇所とを区別して、マーカーで記載された箇所を選択的に補正することができる。
【００２９】
図５は入力画像の補正処理の全体の流れを表している。撮影部２０３を含むカメラ機能によってホワイトボード面を撮影した画像やフラッシュメモリ３０４に保存されている画像が入力画像として処理される。あるいは、外部から受信した画像などが入力画像として処理される。カメラ機能の指示は、カメラ撮影アプリケーション４０３の指示により撮影が実行される。入力画像はホワイトボード面の画像が含まれていることが前提となる。撮影画像にホワイトボード面以外の背景領域が含まれている場合は、ホワイトボード面の領域を検出し、その領域が長方形の領域になるように台形補正を行ったものを入力画像とすればよい。ホワイトボード面は、撮影画像内で最も外側にある４辺で構成されていると考えられる。そこで、画像処理部４０６は、撮影画像にエッジ抽出処理を行い、抽出されたエッジのうち、既定の長さ以上の長さを持ち、且つ、撮影画像中の上下左右それぞれで最も外側にある４辺を特定する。そして画像処理部４０６は、その特定された上下左右の４辺からなる矩形をホワイトボード面の画像として抽出する。そして、画像処理部４０６は、その抽出された画像に対して射影変換（台形補正）を行うことで、長方形の画像を処理対象の入力画像として得る。
【００３０】
図９（ａ）は、入力画像の例である。また、図９（ｂ）に図９（ａ）内のそれぞれの属性を記している。符号６００は、ホワイトボード面の枠を示す。符号６０１〜６０４は、マーカーで記載された文字を示し、それぞれ、黒色で記載された文字、赤色で記載された文字、青色で記載された文字、緑色で記載された文字を示す。符号６０５、６０６は、マーカーで記載された線画である。符号６０７は、ホワイトボード面上に貼られたカラー写真である。符号６０１〜６０６のマーカーで記載された箇所は、マーカーの状態や記載方法によって記載されている濃度はまばらであり、濃い部分や薄い部分が混在している。尚、撮影環境により文字部や写真部の背景に影があることが分かる。背景に影については、影除去技術を用いることで除去することができる。
【００３１】
図９（ｃ）は、図９（ａ）から影を除去した画像であり、本実施例で説明する入力画像として扱う画像である。影除去技術は、例えば画像から長周期の輝度成分（影成分）を抽出し、その画像から抽出した影成分を差し引くことで影の除去をする方法や、明るさやコントラストを調整など、公知の影除去技術でよい。図９（ｃ）では、符号６０１〜６０６のマーカーで記載された領域は、マーカーの状態や記載方法によって記載されている濃度はまばらであり、濃度が薄く視認性が低い箇所があるのがわかる。
【００３２】
ステップＳ５１０のマーカー部抽出処理は、入力画像内からマーカーで記載された領域を抽出する。このマーカー部抽出処理の詳細は図６のフローチャートにより後述する。図９（ｄ）の黒実線部は、図９（ｃ）の入力画像から抽出したマーカーで記載された領域を示す。符号６０１〜６０６のマーカーで記載された領域だけが抽出されており、符号６０７の写真部が抽出されていないことが分かる。
【００３３】
次にステップＳ５２０のマーカー部色置換処理は、Ｓ５１０で抽出されたマーカーの領域の色を別の色に置換する。このマーカー部色置換処理の詳細は図７のフローチャートにより後述する。図９（ｅ）は、図９（ｄ）に示されるマーカーで記載された領域の色を特定の色で置換した画像を示す。この図９（ｅ）は、マーカー部色置換処理によって、マーカーによって記載されている部分の視認性が向上することを表している。カラー信号値の違いを説明するため図９（ｆ）に、処理前（図９（ｃ）の一部領域拡大）と処理後（図９（ｅ）の一部領域拡大）の信号値を示す。
【００３４】
符号６０１で示される黒色のマーカーについて、処理前の場合にはＲＧＢ信号値が８ｂｉｔで｛Ｒ、Ｇ、Ｂ｝＝｛５０、６０、４０｝や、｛Ｒ、Ｇ、Ｂ｝＝｛１００、１２０、９０｝と文字ごとに色が異なっている。また、黒色であっても厳密な黒色ではなく、グレーの状態や有彩色の状態になっている。一方、処理後の場合にはＲＧＢの信号値が８ｂｉｔで｛Ｒ、Ｇ、Ｂ｝＝｛０、０、０｝と文字間で色の差はない。更に、色も無彩色の状態になっていることがわかる。同様に、符号６０２で示される赤色のマーカーで記載した文字も文字間で色の差はなく、明確な赤色に変換されていることがわかる。
【００３５】
最後にステップＳ５３０のマーカー部スムージング処理は、マーカーで記載された領域の色置換を行った画像を処理することで、そのマーカーで記載された領域の輪郭のスムージング処理を行う。このマーカー部スムージング処理の詳細は図８のフローチャートにより後述する。マーカー部スムージング処理によって、色が置換されたマーカー領域の輪郭がスムージングされて、より見た目の良い画像を生成することができる。
【００３６】
＜マーカー部抽出処理＞
図６はマーカー部抽出処理を説明するフローチャートである。また、図１０は処理のイメージ図である。領域７０１はマーカーで記載した文字の領域、領域７０２はマーカーで記載した線画の領域、領域７０３は写真が貼られた領域、領域７０４は記載されていないホワイトボード面領域を示している。領域７０１から７０４のそれぞれの画像に対してＳ５１１、Ｓ５１２、Ｓ５１４、Ｓ５１５の処理を行った結果のイメージを示す。
【００３７】
以下のステップＳ５１１およびＳ５１２は、所定の輝度未満の輝度を有する画素を前景画素とみなし、それら前景画素のうちで互いに隣接する画素どうしを同じ画素群（ラベル）に分類する。これによって、複数の前景画素からなる画素群（つまり背景領域中の前景領域）を、１つ以上、抽出する。
【００３８】
ステップＳ５１１は、入力画像に対して、所定の輝度を閾値とした二値化処理を行い、二値画像を生成する。二値化処理は、所定の輝度未満の画素を、前景画素を示す黒画素に置き換え、所定の輝度以上の画素を、背景画素を示す白画素に置き換える。この二値化処理によって、マーカーで記載された文字や図形の領域や写真が貼られた領域と、文字の記載や写真の貼付のないホワイトボードの領域との切り分けを行う。すなわち、二値化処理は、入力画像を、前景画素（有色画素、非白色画素）で構成される前景領域と、背景画素（白色画素）で構成される背景領域とに分離する。なお、画像の二値化処理の手法は、白と黒の二階調に変換できる手法であれば、公知の技術でよい。
【００３９】
領域７０１から７０４に対し、二値化処理したそれぞれの結果を二値画像７０５から７０８に示す。階調を持つ画像が白と黒の二階調に変換されていることがわかる。入力画像は、ＲＧＢ信号を持つ３チャンネル画像の場合でも、グレー信号しか持たない１チャンネル画像の場合でもよい。二値化処理後に出力される画像は、入力画像がＲＧＢ信号を持つ３チャンネル画像の場合には各チャンネルで二値化処理を行い１チャンネルの画像に合成してもよいし、ＲＧＢ信号を輝度信号に変換し二値化処理を行ってもよい。二値化処理を行う際の閾値の決定方法は、どの画像に対しても同一の固定値を用いてもよいし、入力画像ごとにヒストグラムから判別分析法を用いて閾値を決める方法でもよい。また、画像面内一律の固定閾値としてもよいし、画素ごとに閾値を切り替える手法であってもよい。尚、本ステップは、二値化処理に限定するものではなく、例えばエッジ抽出処理などのエッジ画素と非エッジ画素を切り分ける処理など、入力画像を白と黒の二階調に変換できる手法であればよい。また、処理する入力画像も、本実施例では影除去後の画像としたが、影除去前の画像から二値化する構成であっても良い。
【００４０】
ステップＳ５１２は、二値画像に対してラベリング処理を行う。このラベリング処理は、黒画素が互いに隣接することに基づいてそれら隣接する黒画素を、同一のラベル（画素群）に分類する処理である。ラベリング処理は、黒画素の隣接関係、つまり前景画素の隣接関係に基づいて画素群を抽出するので、マーカーで手書きされたサイズが不揃いの文字なども画素群として好適に抽出することができる。また画素をラベルに分類することで、後述するように同一ラベルの画素群ごとにそのサイズや色分散値などの特徴量を取得でき、画素群ごとの属性判定を可能にする。
【００４１】
画像のラベリング処理の手法は、二階調の画素の内、黒画素（または、白画素）が縦、横、斜め方向に連続している画素に同一ラベルを付与し、一つの画素群とする。連続していない画素群には別のラベルを付与することができればよい。また、連続する画素を検出する方法は、縦、横方向の連続ラベルを検出する４連結でも、縦、横、斜め方向のラベルを検出する８連結でもよい。図１０の二値画像７０５から７０８に対し、ラベリング処理したそれぞれの結果をラベル付き二値画像７０９から７１２に示す。二値化された画素の内、連結する画素ごとに同一ラベルが付与されていることがわかる。
【００４２】
ステップＳ５１３は、後述のステップＳ５１４でのラベルごと（画素群ごと）の特徴量抽出のために、入力画像に対して色空間変換処理を行うことで色変換後の画像を生成する。具体的には、ＲＧＢ信号の色空間を持つ入力画像を、ＹＵＶ信号の色空間に変換する。ＹＵＶ信号の色空間に変換することで、輝度（Ｙ）と色差（輝度と青の差Ｕ、輝度と赤の差Ｖ）の組み合わせで色を表現することができ、色差信号値から精度よく色種を判定することができる。
【００４３】
尚、変換する色空間は、本実施例ではＹＵＶ色空間としたが、ＹＣｂＣｒ色空間など輝度と色差を使って表現される色空間であればよいし、色種の判定が可能であればＲＧＢ色空間のままであってもよい。本実施例では画像全画素に対し、色空間変換処理を行うが、画像全画素に行う必要はなく、Ｓ５１１の二値化処理で前景画素と判定した画素のみに対し行うだけでもよい。
【００４４】
以上のように入力画像、ラベル付き二値画像、ＹＵＶ色空間の多値画像は、互いに対応している。すなわち、ある座標上の入力画像の画素は、その画素の属性として、その座標と同一の座標上のラベル付き二値画像の画素が持つラベルと、その座標と同一座標上のＹＵＶ多値画像の画素のＹＵＶ信号値を持つと言える。
【００４５】
ステップＳ５１４は、ラベル付き二値画像およびＹＵＶ多値画像を参照することで、同一ラベルの画素群ごとに特徴量の抽出処理を行う。抽出された特徴量は、後述の同一ラベルごとの属性判定を行う際に用いられる。この抽出処理により、具体的には、ラベルごとに、ラベルの外接矩形のサイズや、ラベルを構成する画素の数、ラベルに対応する平均色および色分散値などの特徴量が抽出される。図１０のラベル付き二値画像７０９から７１２のそれぞれのラベルに対し、ラベルごとに特徴量を抽出した結果を、特徴量抽出結果７１３から７１６に示す。同一ラベルごとに特徴量が取得できていることがわかる。
【００４６】
ラベルの外接矩形サイズは、同一ラベルを持つ画素群の外接矩形を求め、その外接矩形の幅および高さとして求められる。
【００４７】
ラベルの画素数は、ラベルを構成する画素の数を数え上げることで求められる。
【００４８】
ラベルの平均色は、色変換後の画像における、同一ラベルに対応する各画素のＹＵＶ信号値（色値）を累積し、その同一ラベルを持つ画素群に含まれる画素の数で除算することで求められる。なお、この平均色は、同一ラベルを持つ画素群に含まれる画素のＹＵＶ信号値のヒストグラムを作成し、各ヒストグラムの最大頻度を持つＹＵＶの各信号値としても良い。
【００４９】
ラベルの色分散値は、色変換後の画像における、同一ラベルに対応する各画素のＹＵＶ信号値の各分散値を求めることで算出することができる。
【００５０】
尚、ＹＵＶ信号値の平均値や色分散は、Ｙ、Ｕ、Ｖの各チャンネル（３チャンネル）で算出を行ってもよいし、色判定に最も寄与するＵ、Ｖの２チャンネルだけを求めるだけであってもよい。また、この色分散値は、同一ラベルを持つ画素群における、色の散らばりの程度（言い換えると、類似の程度）が分かる指標であれば、他の方法によって求められる特徴量でも良い。例えば、散の正の平方根を求めた標準偏差であっても良いし、Ｕ信号とＶ信号の共分散値であっても良い。
【００５１】
ステップＳ５１５は、Ｓ５１４でラベルごとに抽出した特徴量に基づいて、各ラベルに対して属性判定処理を行う。図１１に示される属性判定処理を行うことにより、同一ラベルごとにマーカーで記載された領域と、写真が貼られた領域などのマーカーで記載していない領域とに属性を区別することができる。属性判定処理は、同一ラベルごとにマーカーで記載された領域とそれ以外の領域を判定できる属性判定処理であればよい。
【００５２】
図１１に属性判定処理の詳細なフローチャートを示し、属性判定処理の詳細を説明する。属性判定処理は、特徴量の抽出処理で取得した特徴量に基づいて、ラベルごとにマーカーで記載された前景部分（マーカー属性）か、マーカーで記載された部分ではない、写真などの前景部分（非マーカー属性）かを判定する。
【００５３】
ホワイトボードには、白い面上にマーカーで文字が描かれたり、写真などの紙面が貼られたりする。属性判定処理は、撮影された画像中の有色の前景画素群が、単色で描かれたマーカーによる記載なのか、使用色数が多い写真なのかを、画素群の外接矩形サイズ、画素群を構成する画素数、画素群の平均色、画素群の色分散値に基づいて判別する。
【００５４】
以下の処理は処理対象のラベルが無くなるまで、ラベルの外接矩形のサイズが小さい順に、ラベルごとに繰返し行われる。
【００５５】
ステップＳ８０１は、ラベルの外接矩形サイズと入力画像のサイズの比較判定を行う。具体的には、矩形サイズの幅と入力画像サイズの幅の差分の絶対値が閾値未満であり、且つ、矩形サイズの高さと入力画像サイズの高さの差分の絶対値が閾値未満であるかが判定される。この判定によって、入力画像のサイズとほぼ一致するような外接矩形を持つラベルは、ホワイトボード中のマーカーで書かれた部分ではないとみなされ、幅の差分の絶対値および高さの差分の絶対値がともに閾値未満の場合には、ステップＳ８０８へ進む。そうでない場合には、そのラベルの画素群は、ホワイトボード中のマーカーで書かれた部分である可能性があるので、更なる判定のためにステップＳ８０２へ進む。
【００５６】
ステップＳ８０２は、ラベルの色分散値が第１閾値未満かを判定する。具体的には、Ｕ信号値の分散値が第１閾値未満であり、且つ、Ｖ信号値の分散値が第１閾値未満であるかが判定される。Ｕ信号値の分散値およびＶ信号値の分散値がともに第１閾値未満である場合には、ステップＳ８０７へ進む。そうでない場合には、ステップＳ８０３へ進む。
【００５７】
つまりステップＳ８０２は、Ｕ信号値およびＶ信号値の分散値がともに第１閾値未満であるような、類似色の画素で構成されている画素群を、マーカー属性と判定する。言い換えると、ステップＳ８０２は、ほぼ白色の領域（つまり、背景領域）に囲まれた、ほぼ単色の領域（つまり、連続する類似色の画素で構成される前景領域）を、後述の色置換処理が行われる領域として特定する。ホワイトボード面に記載されている１色しか使われていない文字や図形を撮影した場合、ラベルごとに見ると色分散値が非常に小さくなる。一方、ホワイトボード面にカラーの写真が貼られていると、そのラベルはＵ信号値かＶ信号値のいずれかの分散値が大きくなるため、その場合には非マーカー属性と判定する。
【００５８】
なお、Ｕ信号値の分散値と比較される閾値と、Ｖ信号値の分散値と比較される閾値とを異なる閾値にしても良い。また、人の目にとって、Ｕ信号値（およびＶ信号値）の変化（分散具合）の認識しやすさは、Ｙ信号値によって異なるので、Ｕ信号値（およびＶ信号値）の閾値をＹ信号値に応じて変えても良い。
【００５９】
ステップＳ８０３は、Ｓ８０２と同様に、ＹＵＶの色分散値が第２閾値未満であるかを判定する。色分散値が第２閾値未満の場合（つまり色分散値が、第１閾値以上、かつ、第２閾値未満の場合）には、ステップＳ８０４へ進む。この第２閾値はＳ８０２で用いられた第１閾値よりも大きい。つまりＳ８０３の判定によって、画素群が類似色の画素で構成されているとも構成されていないとも判断がつきにくい画素群について、ステップＳ８０４以降の処理が行われることになる。色分散値が第２閾値以上の場合には、ステップＳ８０８へ進む。すなわち、第２閾値以上の色分散値を持つラベルの画素群については、後述するように非マーカー属性として扱うことで、後述の色置換を行わない。
【００６０】
ステップＳ８０４は、Ｓ５１１で生成された二値画像中の処理対象のラベルの画素群を抽出し、その抽出された画素群に対して細線化処理を行う。図１２（ａ）に示す同一ラベルの二値画像に対して、細線化処理（黒画素の収縮化処理または、白画素の膨張化処理）を行い、図１２（ｂ）を生成する。ステップＳ８０４において細線化処理を行い、ステップＳ８０５に進む。
【００６１】
ステップＳ８０５は、細線化後の黒画素の数（残画素数）をカウントし、元のラベルの画素群を構成する画素数に対する残画素数の割合（残画素率）を算出する。この処理は、ホワイトボードに書かれたマーカーの線は所定の細さをもっているという仮定の下、残画素率が閾値未満であれば、その画素群はマーカーで書かれた部分に対応するだろうという考え方に基づいている。
【００６２】
例えば、図１２（ｂ）に示す細線化後の残画素数がカウントされ、以下の式を用いて、残画素率が求められる。
【００６３】
残画素率＝（細線化後の残画素数／同一ラベルの画素数）＊１００
ステップＳ８０６は、求められた残画素率が第３閾値未満か否かを判定する。残画素率が第３閾値未満の場合には、ステップＳ８０７へ進む。そうでなければステップＳ８０８へ進む。この第３閾値としては、例として５０％とし、残画素率＜５０％が成り立つラベルをマーカー属性、成り立たないラベルを非マーカー属性とする。マーカーで記載した線幅３画素の文字の場合、１画素の細線化を行うと残画素率は５０％を下回るため、マーカー属性と判定することができる。尚、本実施例では細線化処理を行い、残画素率を求める方法を説明したが、限定するものではなく、ラベルの線幅を抽出でき、かつ、その線幅が太いか否かを判定できる処理であればよい。
【００６４】
ステップＳ８０６において、残画素率が第３閾値以上の場合には、ステップＳ８０８へ進む。
【００６５】
ステップＳ８０７は、処理対象のラベルの属性をマーカー属性と判定する。
【００６６】
ステップＳ８０８は、処理対象のラベルの属性を非マーカー属性と判定する。
【００６７】
ステップＳ８０９は、非マーカー属性と判定された処理対象のラベルに囲まれている領域内部に、マーカー属性がついたラベルが存在するか否かを判定する。非マーカー属性と判定されたラベルに囲まれた別ラベルも非マーカー属性である可能性が高いため、その別ラベルの属性を修正するためにこの判定処理が行われる。
【００６８】
図１２（ｃ）を用いて説明する。図１２（ｃ）内の処理中のラベルに囲まれている領域内部にマーカー属性のラベルと、非マーカー属性のラベルが存在する。処理中のラベルに囲まれている領域内部の判定は、処理中のラベルの外接矩形を求め、その領域内部に処理中以外のラベルがあるか否かで判定することができる。囲まれている領域内部に、マーカー属性のラベルが存在する場合には、ステップＳ８１０に進む。非マーカー属性のラベルについては、処理をしない。
【００６９】
ステップＳ８１０は、Ｓ８０９の判定によって見つかったマーカー属性のラベルの属性を、非マーカー属性に修正する。この処理は、処理対象の非マーカー属性のラベルに囲まれている領域内部のマーカー属性の全てのラベルの属性が修正されるまで繰り返される。
【００７０】
ステップＳ８１１は、全ラベルの判定が終了しているか判定し、まだ未判定のラベルがある場合には、次のラベルの属性判定を行う。全ラベルの判定が終了している場合には図１１の処理を終了する。
【００７１】
上記の処理により、図１０の７１３に示すマーカーで記載した文字や、７１４に示すマーカーで記載した線画は、色分散値も低く、かつ細いオブジェクトのため、マーカー属性へと判定することができる。一方、７１５に示す写真を張り付けた領域の色分散値は高く、残画素率も高くなり、非マーカー属性へと判定することができる。
【００７２】
このように、ステップＳ５１１からステップＳ５１５の処理を行い、Ｓ５１０のマーカー部抽出処理が終了し、続くＳ５２０のマーカー部色置換処理が行われる。
【００７３】
図７はマーカー部色置換処理を説明するフローチャートである。この処理は、マーカー属性を持つ、同一ラベルの画素群に含まれる画素の色に基づく色の信号値（階調値）で、その画素群に含まれる各画素の信号値（階調値）を置き換える。言い換えるとこの処理は、類似色の画素で構成されていると判定された画素群の色を、その画素群を構成する少なくとも１つの画素の色に基づいて求められる１色で置き換える。
【００７４】
ステップＳ５２１は、ラベルごとに（つまり画素群ごとに）同一ラベル色判定処理する。ここでは、前述のＳ５１４で抽出されたラベルごとのＹＵＶ色空間での平均色と、予め定められた複数の基準色（黒色、赤色、青色、緑色）との距離（類似度）を求め、その平均色はどの基準色に近いかを判定する。
【００７５】
例えば、あるラベルの平均色の色差（Ｕチャンネル、Ｖチャンネル）の信号値と、各基準色に対応する色差（Ｕチャンネル、Ｖチャンネル）の信号値との差分をそれぞれ計算し、それら差分をそれぞれ２乗した値の和の平方根を計算する。各基準色に対応する色差信号値は、画像処理部４０６に記憶されている。すなわち、平均色の色差と各基準色の色差の距離が計算される。そして計算された各基準色までの距離のうちで最も近い距離の基準色（つまり最も平方根が小さい基準色）を、そのラベルの色と判定する。例えば、図９（ｂ）で示した６０１から６０４の各ラベルをそれぞれ黒色、赤色、青色、緑色と判定する。
【００７６】
ステップＳ５２２は、ラベルごとに置換色選択処理する。この処理は、Ｓ５２１で判定した基準色に対応するＲＧＢ値を、ラベルごとに選択し、ラベルに割り当てる。そのためあるラベルに対して割り当てられた色（ＲＧＢ値）は、別のラベルの画素群（背景領域中の別の前景領域）の色に依存しないで決まる。例えば、黒色であると判定されたラベルの場合、ラベルにＲＧＢ信号値｛Ｒ、Ｇ、Ｂ｝＝｛０、０、０｝が割り当てられる。赤色の場合、ＲＧＢ信号値｛Ｒ、Ｇ、Ｂ｝＝｛２５５、０、０｝が割り当てられる。緑色の場合、ＲＧＢ信号値｛Ｒ、Ｇ、Ｂ｝＝｛０、２５５、０｝が割り当てられる。青色の場合、ＲＧＢ信号値｛Ｒ、Ｇ、Ｂ｝＝｛０、２５５、０｝が割り当てられる。このＲＧＢ信号値は、基準色ごとに予めテーブルに記憶されている。このテーブルは、画像処理部４０６が持っている。
【００７７】
図９（ｆ）の上図に示されるように、ＲＧＢ信号値｛Ｒ、Ｇ、Ｂ｝＝｛５０、６０、４０｝や｛１００、１２０、９０｝のように信号値が異なっている場合でも、Ｓ５２１で黒色と判定されると、一律にＲＧＢ信号値を｛０、０、０｝に変換される。同様に、図９（ｆ）の下図にしめされるように、ＲＧＢ信号値｛Ｒ、Ｇ、Ｂ｝＝｛２００、３０、２０｝や｛１８０、４０、４０｝であった入力画像の部分のＲＧＢ信号値は、Ｓ５２１で赤色と判定されると、｛２５５、０、０｝に変換される。
【００７８】
ステップＳ５２３は、ラベルごとに色置換処理する。この色置換処理は、各ラベルの画素群に対応する入力画像中の画素群を構成する各画素の色を、Ｓ５２２で割り当てられた色で置き換える。具体的に色置換処理は、ラベル付き二値画像中の同一ラベルの画素群の対応する入力画像中の画素群のＲＧＢ信号値（階調値）を、そのラベルに割り当てられたＲＧＢ信号値で置き換える。この色置換処理により、同一ラベルの信号値が統一化され、１色に置き換えられるため、ホワイトボードに描かれたマーカーの色を、写真と区別して鮮やかに補正できる。
【００７９】
このようにステップＳ５２１からステップＳ５２３の処理を行い、Ｓ５２０のマーカー部置換処理が終了し、続くＳ５３０のマーカー部スムージング処理が行われる。
【００８０】
図８はマーカー部スムージング処理を説明するフローチャートである。Ｓ５２０のマーカー部置換処理は、ラベル付き二値画像中の同一ラベルの画素群に対応する入力画像中の画素のＲＧＢ信号値を、１色のＲＧＢ信号値に置き換える。この同一ラベルの画素群（ラベル付き二値画像）は、Ｓ５１１の二値化処理によって生成された二値画像に基づいて形成されている。そのため、色が置き換えられた入力画像中の画素群の輪郭形状には、図１３（ａ）に示されるように、ジャギー（段差）が目立つ。そこでマーカー部スムージング処理は、図１３（ｂ）に示されるように、その段差を平滑化する。
【００８１】
ステップＳ５３１とＳ５３２を、図１３を用い説明する。このステップＳ５３１、Ｓ５３２は、属性判定処理の判定結果と、同一ラベルを持つ画素群の輪郭形状とに基づいて、色置換処理が行われた画素群の輪郭に多値画素を付加することで、スムージング処理を行う。つまりＳ５３１、Ｓ５３２は、マーカー属性を持つ同一ラベルを持つ画素群の輪郭形状に基づいて、多値画素付加される輪郭上の位置および付加される画素の階調値を決定し、その位置にその階調値を持つ画素を付加する。
【００８２】
ステップＳ５３１は、ラベル輪郭段差検出処理を行う。Ｓ５３１は、マーカー属性のラベルの画素群の輪郭をパターンマッチングにより追跡しながら特定の段差を検出する。図１３（ａ）は、ラベル付き二値画像中の画素群の輪郭を黒画素で示しており、パターン９０１で示す黒画素の一画素の段差を、特定の段差としている。輪郭を追跡し、パターン９０１で示す３画素×３画素パターンを検出するパターンマッチングを実施する。パターン９０１を検出すると、更にそこからＸ方向にパターンマッチングの検出を進め、パターン９０２で示す３画素×３画素パターンを検出する。その際、パターン９０１から、パターン９０２までの画素数９０３をカウントしておく。
【００８３】
ステップＳ５３２は、ラベル付き二値画像から検出された段差に基づいて、スムージング処理を行う。Ｓ５３１において検出した段差に対し、ピンポイントでフィルタや多値画素の付加による高精細化を行う事で、ジャギーを軽減させる。言い換えると、Ｓ５３２は、入力画像中のＳ５２３の色置換処理が行われた画素群に隣接する少なくとも１つの画素の色を、画素群の輪郭を平滑化するための色に置き換える。図１３（ｂ）は、パターン９０１からパターン９０２の間をスムージングした結果を示す。図１３（ｂ）は、Ａ座標の画素のＲＧＢ信号値（信号値Ａ）と、Ｂ座標の画素のＲＧＢ信号値（信号値Ｂ）と、画素数９０３と、から、画素群の輪郭の領域９０４付加される多値画素の信号値が決まることを示す。この決められた信号値が、画素群の輪郭を平滑化するための色である。例えば、Ａ座標からＢ座標までの間の画素数９０３が５画素であれば、輪郭の領域９０４内の４画素の階調値を信号値Ａから信号値Ｂまで段階的に変化する階調値にすればよい。すなわち輪郭の領域９０４はグラデーション状に階調値が変化する。
【００８４】
ステップＳ５３１からステップＳ５３２の処理を行い、Ｓ５３０のマーカー部スムージング処理が終了する。
【００８５】
なお、以上では、マーカーで記載した領域の内、特定の段差を検出してスムージングする処理を説明したが、マーカー属性を持つ画素に対する一律のスムージングフィルタによるスムージング処理を行ってもよい。
【００８６】
以上のような処理をすることにより、入力画像内からマーカーで記載された領域とマーカーで記載されていない領域とに精度よく分けることができる。領域に分けた上で、マーカーで記載された領域に対し、色の置換処理など専用の画像処理を行うことが可能になり、マーカー記載領域の視認性を向上さることが可能となり、マーカーの色がわかりにくいといった課題を解決できる。また、マーカーで記載されていない領域に対しては、処理を行わないので非マーカー記載領域に対しての画質低下を防ぐことが可能となる。
【００８７】
なお本実施例では、入力画像に対して、マーカー部色置換処理（Ｓ５２０）、マーカー部スムージング処理（Ｓ５３０）を順に行ったが、次のようにしても良い。すなわち、Ｓ５２３は、ラベル付き二値画像のうちのマーカー属性の黒画素群がＳ５２１およびＳ５２２によって選択された多値の信号値を持つ画素群に変換された多値画像を生成する。そして、Ｓ５３１は、生成されたその多値画像から多値の信号値を持つ画素群の輪郭を追跡することで段差を検出し、Ｓ５３２は、検出された段差とその形状に基づいて、その段差を、画素群の色（信号値）で決まる色（信号値）で平滑化する。そしてさらにＳ５３２は、全ての画素群について平滑化が行われた多値画像を、入力画像と合成する。この合成では、平滑化が行われた多値画像のうち、白色以外の画素、ならびに、その画素に隣接する白色の画素だけが、入力画像の該当する画素に上書きされる。このようにすることで、スムージング処理済みの単色置き換え後の画素群を、入力画像に合成できる。
【００８８】
（実施例２）
実施例１においては、同一ラベルに対しラベルごとに決めた色を、事前に決めた色へ置き換え処理を行った。しかしながら、事前に決めた色はマーカーの色としてよく使われる色（例えば、黒色、赤色、青色、緑色など）は決めているが、特殊な色で事前に決めた色以外の色がある場合には、置き換えを行うことができない場合がある。
【００８９】
そこで、実施例２では、事前に置き換え色が決まっていない場合に、置き換え色を自動的に決めることが可能な構成を説明する。
【００９０】
図１４はマーカー部色置換処理を説明するフローチャートであり、本実施例における事前に置き換え色が決まっていない場合に、置き換え色を自動的に決める処理が含まれている。図１４は、図７の構成に加えＳ５２４置換色生成処理がある。
【００９１】
ステップＳ５２１は、ラベルごとに同一ラベル色判定処理を行う。このＳ５２１は、ラベルの平均色が基準色のいずれとも所定の距離内にない場合、そのラベルの置換色が無いと判定する。
【００９２】
続いて、ステップＳ５２２は、実施例１と同様に、ラベル毎に置換色を事前に決めた置き換え色テーブルの中から選択する。しかしこのＳ５２２は、ラベルの置換色が無いとＳ５２１で判定されている場合、そのラベルの置換色をテーブルの中から選択しない。このようなラベルの置換色は、次のＳ５２４の置換色生成処理で決定される。
【００９３】
ステップＳ５２４は、置換色が無いとＳ５２１で判定されたラベルに対して置換色生成処理を行う。具体的にはステップＳ５２４は、そのラベルの置換色を、そのラベルのＹＵＶ空間での平均色に基づいて決定する。その決定方法には次のようなものが例としてある。ラベルの平均色（ＹＵＶ信号値）をＲＧＢ信号値に変換したものを置換色とする方法がある。また、平均色（ＹＵＶ信号値）をＨＳＶ色空間の信号値（ＨＳＶ信号値）に変換し、彩度の信号値を所定量だけ上げ、そのＨＳＶ信号値をＲＧＢ信号値に変換したものを置換色とする方法がある。
【００９４】
そして、ステップＳ５２３は、実施例１と同様に、ラベルごとの置換色を用いて、色置換処理を行う。
【００９５】
以上のような処理をすることにより、マーカーで記載された領域に対し、色の置換処理する際に、置換する色が定まっていない場合においても自動で生成し、マーカー記載領域の色を置換することが可能となる。
【００９６】
（実施例３）
実施例１及び、実施例２においては、同一ラベルに対し１色の色を決め、置き換え処理を行った。しかしながら、同一ラベルに異なる色の画素群が複数、存在する場合には、１色に置き換えてしまうと、色情報が欠落してしまう可能性がある。また実施例１のＳ８０２の第１閾値近傍の色分散値を持つラベルの画素群については、２色の画素群で構成されているものの同一ラベルが割り当てられている可能性がある。そこで、実施例３では、同一ラベルに対し複数色を設定し置き換えを行うことが可能な構成を説明する。
【００９７】
図１５はマーカー部色置換処理を説明するフローチャートであり、本実施例における複数色の選択処理と、複数色への置き換え処理が含まれている。図１５は、図７の構成に加えＳ５２５、Ｓ５２６、Ｓ５２７が追加されている。
【００９８】
ステップＳ５２１は、ラベルごとに同一ラベル色判定処理を行う。このＳ５２１は、ラベルの平均色が基準色のいずれとも所定の距離内にない場合、そのラベルについて次のクラスタリング処理を行う。そのラベルの画素群を構成する各画素に対応する、ＹＵＶ色空間の多値画像中の画素ＵＶ信号値のクラスタリングを行う。このクラスタリングには、例えば、ｋ−ｍｅａｎｓ法やＤＢＳＣＡＮ（Ｄｅｎｓｉｔｙ−Ｂａｓｅｄ  Ｓｐａｔｉａｌ  Ｃｌｕｓｔｅｒｉｎｇ）と呼ばれる公知のクラスタリング方法が用いられる。クラスタリングの結果得られる１つ以上のクラスタの重心のＵＶ信号値が、そのラベルの画素群を構成する画素の色の置換色のＵＶ信号値となる。
【００９９】
ステップＳ５２５は、色数判定処理する。色数判定処理では、処理対象のラベルのＹＵＶ色空間の色分散値と、ステップＳ５２１のクラスタリングを行った結果のクラスタ数に基づいて、そのラベル内で用いられている色の色数が１色か複数色かを判定する。色分散値が閾値以上である場合、または、クラスタ数が２つ以上である場合、複数色で置換すべきと判定され、Ｓ５２６へ進む。そうではなく、色分散値が閾値未満であり、かつ、クラスタ数が１つのみである場合、１色で置換すべきと判定され、実施例１、２と同様に、Ｓ５２２へと進む。
【０１００】
ステップＳ５２６は、複数置換色選択処理を行う。この処理は、Ｓ５２１で行われたクラスタリングの結果得られた各クラスタの中心のＵＶ信号値に基づいて決まる各ＲＧＢ信号値を複数の置換色として決定する。
【０１０１】
ステップＳ５２７は、複数色置換処理を行う。複数色置換処理では、同一ラベルを１色に置き換えるのではなく、そのラベルの画素群を複数色で置き換えていく。具体的には、Ｓ５２６で決定された複数色のＲＧＢ値のうち、ラベルに対応する入力画像中の画素群を構成する各画素がどのＲＧＢ値に近いのかを判定し、その判定されたＲＧＢ値で入力画像中の画素のＲＧＢ値を置き換える。
【０１０２】
尚、本処理を色置換時に複数色を設定する構成を説明したが、Ｓ５１２ラベリング処理時に色情報を用いてラベリングすることで、色の差が閾値以上あるところでラベルを分割することができる。
【０１０３】
以上のような処理をすることにより、マーカーで記載された領域に対し、色の置換処理する際に、同一ラベルを複数の色に置換することが可能となる。
【０１０４】
（その他の実施例）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【図１】
2018018173.tif 000003
【図２】
2018018173.tif 000004
【図３】
2018018173.tif 000005
【図４】
2018018173.tif 000006
【図５】
2018018173.tif 000007
【図６】
2018018173.tif 000008
【図７】
2018018173.tif 000009
【図８】
2018018173.tif 000010
【図９】
2018018173.tif 000011
【図１０】
2018018173.tif 000012
【図１１】
2018018173.tif 000013
【図１２】
2018018173.tif 000014
【図１３】
2018018173.tif 000015
【図１４】
2018018173.tif 000016
【図１５】
2018018173.tif 000017