(57)【要約】【課題】  処理対象が多値（カラー）画像であっても、短い処理時間で誤りなく文字行の抽出を行うことを可能にする。【解決手段】  入力カラー画像を二値化し（Ｓ１０２）、二値化した画像に対し、黒画素のランの抽出、連結成分（ランを連結）の生成処理を行うことにより、従来、連結成分の抽出に同色を条件としたために要した処理の増大を抑える。その後、求めた連結成分をもとに文字行候補への外接矩形統合及び文字行候補の尤度判定を行う行抽出段階（Ｓ１０３）で、抽出処理の一部にカラー画像に適応する処理として、前者では連結成分の同色性を統合条件にし不適正な行候補を生成せず、後者では行候補と周囲の色差による行尤度判定を行い、文字行として不適当な行候補を削除する。【選択図】        図１
2005301672.tif 000002
【特許請求の範囲】
【請求項１】
処理対象の多値画像を二値化する手段と、二値化した画像の黒画素のランを連ねた連結成分を取得する手段と、連結成分間の水平・垂直方向の距離を求める手段と、連結成分間の距離がそれぞれ所定の閾値以下の連結成分同士を行候補として統合する手段と、行候補から行の特徴を表す値を算出する手段と、行の特徴を表す値をもとに行尤度の低い行候補を削除する手段とを備えたことを特徴とする画像処理装置。
【請求項２】
請求項１に記載された画像処理装置において、連結成分を構成する画素に対応する原処理対象多値画像の画素値を取得する手段と、取得した画素値をもとに連結成分ごとに連結成分を代表する画素値を決定する手段と、取得した画素値をもとに行候補ごとに行候補を代表する画素値を決定する手段とを備えたことを特徴とする画像処理装置。
【請求項３】
請求項２に記載された画像処理装置において、前記連結成分同士を行候補として統合する手段が、決定した連結成分を代表する画素値と行候補を代表する画素値の差を算出する手段を備え、算出した差が所定の閾値以下であることを統合条件に加えて行候補の統合を行う手段であることを特徴とする画像処理装置。
【請求項４】
請求項１乃至３のいずれかに記載された画像処理装置において、前記行の特徴を表す値を算出する手段が、行候補の縦横比を算出する手段、行候補を構成する連結成分数を計数する手段、行候補の周囲の黒画素数を計数する手段の中の少なくとも１つであることを特徴とする画像処理装置。
【請求項５】
請求項１乃至４のいずれかに記載された画像処理装置において、前記行の特徴を表す値を算出する手段が、行候補の周囲画素に対応する原処理対象多値画像の画素値を取得する手段と、取得した画素値をもとに行候補の周囲を代表する画素値を決定する手段と、決定した行候補の周囲を代表する画素値と前記行候補を代表する画素値を比較する手段を備えることを特徴とする画像処理装置。
【請求項６】
請求項１乃至５のいずれかに記載された画像処理装置において、前記二値化画像を反転させる手段を備えたことを特徴とする画像処理装置。
【請求項７】
請求項６に記載された画像処理装置において、反転及び非反転の二値化画像をもとにそれぞれ求めた行候補の間で重複する行候補を抽出する手段と、重複する行候補の小さいサイズの方を削除する手段、重複する行候補の特徴を表す値を比較して行尤度の小さい方を削除する手段の中の少なくとも一方を備えたことを特徴とする画像処理装置。
【請求項８】
処理対象の多値画像を二値化するステップと、二値化した画像の黒画素のランを連ねた連結成分を取得するステップと、連結成分間の水平・垂直方向の距離を求めるステップと、連結成分間の距離がそれぞれ所定の閾値以下の連結成分同士を行候補として統合するステップと、行候補から行の特徴を表す値を算出するステップと、行の特徴を表す値をもとに行尤度の低い行候補を削除するステップを行うようにしたことを特徴とする画像処理方法。
【請求項９】
請求項８に記載された画像処理方法において、連結成分を構成する画素に対応する原処理対象多値画像の画素値を取得するステップと、取得した画素値をもとに連結成分ごとに連結成分を代表する画素値を決定するステップと、取得した画素値をもとに行候補ごとに行候補を代表する画素値を決定するステップを行うようにしたことを特徴とする画像処理方法。
【請求項１０】
請求項９に記載された画像処理方法において、連結成分同士を行候補として統合する前記ステップが、連結成分を代表する画素値と行候補を代表する画素値の差を算出するステップを行い、算出した差が所定の閾値以下であることを統合条件に加えて行候補の統合を行うステップであることを特徴とする画像処理方法。
【請求項１１】
請求項８乃至１０のいずれかに記載された画像処理方法において、行の特徴を表す値を算出する前記ステップが、行候補の縦横比を算出するステップ、行候補を構成する連結成分数を計数するステップ、行候補の周囲の黒画素数を計数するステップの中の少なくとも１つを行うようにしたことを特徴とする画像処理方法。
【請求項１２】
請求項８乃至１１のいずれかに記載された画像処理方法において、行の特徴を表す値を算出する前記ステップが、行候補の周囲画素に対応する原処理対象多値画像の画素値を取得するステップと、取得した画素値をもとに行候補の周囲を代表する画素値を決定するステップと、決定した行候補の周囲を代表する画素値と前記行候補を代表する画素値を比較するステップを行うようにしたことを特徴とする画像処理方法。
【請求項１３】
請求項８乃至１２のいずれかに記載された画像処理方法において、前記二値化ステップを経た二値化画像を反転させるステップを行い、反転させた二値化画像を対象に連結成分の取得ステップ以降の処理ステップを行うようにしたことを特徴とする画像処理方法。
【請求項１４】
請求項１３に記載された画像処理方法において、反転及び非反転の二値化画像をもとにそれぞれ求めた行候補の間で重複する行候補を抽出するステップと、重複する行候補の小さいサイズの方を削除するステップ、重複する行候補の特徴を表す値を比較して行尤度の小さい方を削除するステップの中の少なくとも一方を行うようにしたことを特徴とする画像処理方法。
【請求項１５】
請求項８乃至１４のいずれかに記載された画像処理方法の各処理ステップをコンピュータに行わせるための手順を記載したプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、カラー文書画像に含まれる文字・文書を認識する処理に関し、より詳細には、対象画像中に存在する文字・文書画像が占める文字領域（例えば文字行）を表す情報を取得するための画像処理装置、画像処理方法、及び該方法をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【０００２】
画像処理では、文字・文書画像の認識処理が従来から行われている。この認識処理を行う際に、処理対象画像中に存在する文字・文書画像が占める文字領域（文字行）を正しく把握することは、文字認識を行う場合にも高い認識精度を得るために不可欠である。仮に、文書画像のどこに文字があるのか不明な状態で認識処理を行った場合、文字認識の必要のない写真、図などの領域に文字認識処理を行ってしまうことになるため、時間を不要な処理に費やすだけでなく、文字の存在しない領域に無理に文字認識を実行した結果として、大量にエラーが出力されることになり、認識結果の利用を困難にする。
このため、文字領域の正しい情報を取得する方法として、例えば、下記特許文献１に示すような二値画像の黒連結成分を用いた方法が提案された。特許文献１記載の方法では、黒連結成分に外接した矩形を抽出し、抽出した矩形を大きさと標準文字サイズ（ヒストグラムにより決定）との大小関係に基づいて、文字とそれ以外の矩形に分類し、分類した文字矩形について矩形間距離と前記標準文字サイズとに基づいて統合するか否かを決定し、統合するとした矩形群の外接矩形を行として抽出し、文字領域情報を得るとしている。また、特許文献１には、統合条件を適応させることによって、いわゆるブック原稿から読取られた画像に生じる中折れ部や周辺部の黒領域の影響、或いは文書中の罫線等による抽出誤りを無くすことができる、としている。
【０００３】
ところで、近年カラープリンタなどの普及に伴い、急速にカラー原稿が文字認識の対象として処理されるケースが増加してきている。カラー原稿に適応した文字領域（文字行）の抽出方法として、例えば、下記特許文献２，３に示すような同色画素ランの連結成分を用いた方法が提案されている。
特許文献２記載の方法では、黒に限らず同色画素ランの連結成分を抽出し、文字の特徴を持つ連結成分を文字行として統合し、文字の特徴を持たない連結成分（罫線）を排除し、行に統合することを防ぎ、文字行の抽出精度を向上させるようにしている。
特許文献３には、カラー画像入力にも適用可能な方法として、同色画素が連なる連結成分を求め、連結成分の相対的位置及び太さの類似性に基づいてグループに分け、文字認識処理を行ってグループの認識度を求め、矩形領域の面積によって重み付けした（この例では、特に見だし文字列を抽出対象としているので）ものの総和をグループ評価値とし、全てのグループの組み合わせについて求めた評価値から、組み合わせの評価値が最も高いグループの組み合わせを文字列として抽出し、文字色を見誤ることや線幅が細い線分を見落とすことのない方法を実現できる、としている。
【特許文献１】特許第3278471号公報
【特許文献２】特開2003-208568号公報
【特許文献３】特開平11-238098号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１記載の方法は、処理対象画像が二値画像のみである場合に適用し得る方法であり、カラー画像には適用できない。また、連結成分の統合条件で行が決められるので、統合結果として得られる中に偽の行が含まれていても、排除できない。さらに、黒連結成分を抽出する、としていることから、白抜き文字には対処できない、といった問題点を生む。
また、特許文献２，３記載の方法は、いずれも、上記した特許文献１記載の方法における問題点である統合結果（グループ）に含まれる偽の行を排除することや白抜き文字への対処が可能であるが、カラー画像に対応するために、同色とみなせる画素ランを抽出する際及び画素ランを統合して連結成分を生成する際のいずれも、原画像において画素データのレベルで色比較を行う必要があり、この処理に多くの時間を費やす、という問題点を有する。
本発明は、文字行の抽出処理における上記した従来技術の問題点に鑑み、これを解決するためになされたもので、その解決課題は、対象画像から画素ランの連結成分を抽出し、文字の特徴を持つ連結成分を文字行として統合し、文字行を抽出する処理において、処理対象が多値画像（カラー画像）であっても、より短い処理時間で誤りなく文字行の抽出を行うことを可能とする画像処理装置、画像処理方法、及び該方法をコンピュータに実行させるためのプログラムを提供することにある。
【課題を解決するための手段】
【０００５】
請求項１の発明は、処理対象の多値画像を二値化する手段と、二値化した画像の黒画素のランを連ねた連結成分を取得する手段と、連結成分間の水平・垂直方向の距離を求める手段と、連結成分間の距離がそれぞれ所定の閾値以下の連結成分同士を行候補として統合する手段と、行候補から行の特徴を表す値を算出する手段と、行の特徴を表す値をもとに行尤度の低い行候補を削除する手段とを備えたことを特徴とする画像処理装置である。
【０００６】
請求項２の発明は、請求項１に記載された画像処理装置において、連結成分を構成する画素に対応する原処理対象多値画像の画素値を取得する手段と、取得した画素値をもとに連結成分ごとに連結成分を代表する画素値を決定する手段と、取得した画素値をもとに行候補ごとに行候補を代表する画素値を決定する手段とを備えたことを特徴とするものである。
請求項３の発明は、請求項２に記載された画像処理装置において、前記連結成分同士を行候補として統合する手段が、決定した連結成分を代表する画素値と行候補を代表する画素値の差を算出する手段を備え、算出した差が所定の閾値以下であることを統合条件に加えて行候補の統合を行う手段であることを特徴とするものである。
【０００７】
請求項４の発明は、請求項１乃至３のいずれかに記載された画像処理装置において、前記行の特徴を表す値を算出する手段が、行候補の縦横比を算出する手段、行候補を構成する連結成分数を計数する手段、行候補の周囲の黒画素数を計数する手段の中の少なくとも１つであることを特徴とするものである。
請求項５の発明は、請求項１乃至４のいずれかに記載された画像処理装置において、前記行の特徴を表す値を算出する手段が、行候補の周囲画素に対応する原処理対象多値画像の画素値を取得する手段と、取得した画素値をもとに行候補の周囲を代表する画素値を決定する手段と、決定した行候補の周囲を代表する画素値と前記行候補を代表する画素値を比較する手段を備えることを特徴とするものである。
【０００８】
請求項６の発明は、請求項１乃至５のいずれかに記載された画像処理装置において、前記二値化画像を反転させる手段を備えたことを特徴とするものである。
請求項７の発明は、請求項６に記載された画像処理装置において、反転及び非反転の二値化画像をもとにそれぞれ求めた行候補の間で重複する行候補を抽出する手段と、重複する行候補の小さいサイズの方を削除する手段、重複する行候補の特徴を表す値を比較して行尤度の小さい方を削除する手段の中の少なくとも一方を備えたことを特徴とするものである。
【０００９】
請求項８の発明は、処理対象の多値画像を二値化するステップと、二値化した画像の黒画素のランを連ねた連結成分を取得するステップと、連結成分間の水平・垂直方向の距離を求めるステップと、連結成分間の距離がそれぞれ所定の閾値以下の連結成分同士を行候補として統合するステップと、行候補から行の特徴を表す値を算出するステップと、行の特徴を表す値をもとに行尤度の低い行候補を削除するステップを行うようにしたことを特徴とする画像処理方法である。
【００１０】
請求項９の発明は、請求項８に記載された画像処理方法において、連結成分を構成する画素に対応する原処理対象多値画像の画素値を取得するステップと、取得した画素値をもとに連結成分ごとに連結成分を代表する画素値を決定するステップと、取得した画素値をもとに行候補ごとに行候補を代表する画素値を決定するステップを行うようにしたことを特徴とする方法である。
請求項１０の発明は、請求項９に記載された画像処理方法において、連結成分同士を行候補として統合する前記ステップが、連結成分を代表する画素値と行候補を代表する画素値の差を算出するステップを行い、算出した差が所定の閾値以下であることを統合条件に加えて行候補の統合を行うステップであることを特徴とする方法である。
【００１１】
請求項１１の発明は、請求項８乃至１０のいずれかに記載された画像処理方法において、行の特徴を表す値を算出する前記ステップが、行候補の縦横比を算出するステップ、行候補を構成する連結成分数を計数するステップ、行候補の周囲の黒画素数を計数するステップの中の少なくとも１つを行うようにしたことを特徴とする方法である。
請求項１２の発明は、請求項８乃至１１のいずれかに記載された画像処理方法において、行の特徴を表す値を算出する前記ステップが、行候補の周囲画素に対応する原処理対象多値画像の画素値を取得するステップと、取得した画素値をもとに行候補の周囲を代表する画素値を決定するステップと、決定した行候補の周囲を代表する画素値と前記行候補を代表する画素値を比較するステップを行うようにしたことを特徴とする方法である。
【００１２】
請求項１３の発明は、請求項８乃至１２のいずれかに記載された画像処理方法において、前記二値化ステップを経た二値化画像を反転させるステップを行い、反転させた二値化画像を対象に連結成分の取得ステップ以降の処理ステップを行うようにしたことを特徴とする方法である。
請求項１４の発明は、請求項１３に記載された画像処理方法において、反転及び非反転の二値化画像をもとにそれぞれ求めた行候補の間で重複する行候補を抽出するステップと、重複する行候補の小さいサイズの方を削除するステップ、重複する行候補の特徴を表す値を比較して行尤度の小さい方を削除するステップの中の少なくとも一方を行うようにしたことを特徴とする方法である。
請求項１５の発明は、請求項８乃至１４のいずれかに記載された画像処理方法の各処理ステップをコンピュータに行わせるための手順を記載したプログラムである。
【発明の効果】
【００１３】
本発明によると、処理対象の多値画像を二値化し、二値化画像をもとに画素ラン、連結成分を得、文字行候補の統合を行うようにしたことにより、文字行候補を短い処理時間で求めることができ、その後、文字行候補を行の特徴を表す値としての、行候補の縦横比、行候補を構成する連結成分数、行候補の周囲の黒画素数、行候補と行候補周囲の代表画素値（代表色）の比較結果、を吟味し、不適当な文字行を削除するようにしたことにより、誤りの少ない文字行の切り出し処理を迅速に行うことが可能となる。
また、請求項２，３，９，１０，１５の発明によると、連結成分の統合条件として、連結成分と行候補の代表画素値（代表色）の差を算出し、算出した差が所定の閾値以下であること、を加えるようにしたので、多値画像における文字行候補の抽出精度を上げることが可能になる。
また、請求項６，７，１３〜１５の発明によると、二値化画像を反転させ、反転画像に対しても、二値化画像と同様の文字行の切り出し処理を行い、原画像と反転画像に対する処理結果に生じる重複の排除を行うようにしたので、白抜き文字の切り出し漏れも無く、適正な文字行の切り出しが可能となる。
【発明を実施するための最良の形態】
【００１４】
本発明を添付する図面とともに示す以下の実施形態に基づき説明する。
なお、本願では、本発明の「画像処理装置」を本発明の「画像処理方法」の処理ステップを実現するための装置として位置付けているので、下記の「実施形態１」「実施形態２」それぞれにおいて、本願に係わる方法発明と装置発明の実施形態を併せて説明する。
「実施形態１」
本実施形態は、画素ランの外接矩形を統合する方法を用いる公知の文字行の切り出し処理（例えば、上記で従来技術として示した特開2003-208568号公報、参照）に示される、一連の基本処理ステップ、即ち「画素ランの抽出」、「連結成分の生成」、「文字行候補への外接矩形統合」、「文字行候補の吟味」、「不適当な文字行候補の削除」に順じて、その処理を行うが、短い処理時間で対象となる多値画像（カラー画像）から誤りなく文字行の切り出しを行うために、本実施形態に特有の処理過程として、先ず多値画像を二値化し、二値化した画像に対し「画素ランの抽出」、「連結成分の生成」処理を行い、その後、求めた連結成分をもとに「文字行候補への外接矩形統合」、「文字行候補の吟味」を行う段階で、原多値画像（カラー画像）に適応する処理を行うようにする。
【００１５】
図１及び図２は、本実施形態に係る画像処理方法の処理フローを示す図で、図２は、図１における行抽出処理（Ｓ１０３）の詳細フローを示す。また、図３は、本実施形態に係る画像処理装置の構成を示すブロック図である。
図３を参照して本実施形態に係る画像処理装置を説明すると、多値画像入力手段１０１は、処理対象の原画像を取得し、格納しておく手段（例えば、カラー画像データを出力するスキャナや撮像装置などの原稿読み取り装置により実施し得る）であり、多値画像入力手段１０１で取得した原多値画像データを二値化手段１０３と、連結成分生成手段１０７と、代表色決定手段１０９と、文字行判定手段１１３に送出する。なお、多値画像は、濃淡画像でも良いが、ここでは、カラー画像として以下の説明をする。
二値化手段１０３は、カラー画像（Ｒ，Ｇ，Ｂ）データを二値化データに変換し、変換した二値画像データをラン生成手段１０５に出力する。なお、カラー画像（ＲＧＢ）データを二値化する手段は、例えば、Ｇ色のデータに所定の閾値処理をかける等、種々の方式を用いることによって実施可能であり、特定の方式に限定されない。
ラン生成手段１０５は、二値化画像から画素ランを生成する手段であり、ここでは黒画素から生成したランを連結成分生成手段１０７に送出する。
連結成分生成手段１０７は、画素ランから連結成分を生成する手段であり、生成した連結成分は代表色決定手段１０９と外接矩形統合手段１１１に送出する。
代表色決定手段１０９は、連結成分生成手段１０５で得られた連結成分を構成する画素に対応する原処理対象多値画像の画素値（Ｒ，Ｇ，Ｂ）を取得し、取得した画素値をもとに連結成分ごとに連結成分を代表する画素値を決定する手段であり、決定した代表画素値を外接矩形統合手段１１１と文字行判定手段１１３に送出する。
外接矩形統合手段１１１は、連結成分生成手段１０７で生成した連結成分の外接矩形を統合して、文字行判定手段１１３に送出する。
文字行判定手段１１３は、外接矩形統合手段１１１で統合した外接矩形（文字行候補）の行尤度を求め、行尤度が低いと判定した文字行を削除して、得られた適正な文字行を文字領域出力手段１１５に送出する。
文字領域出力手段１１５は、文字行と判定された座標を出力する手段である。
【００１６】
次に、本実施形態に係る画像処理方法を図１及び図２のフロー図を参照して説明する。なお、以下の説明は、上記画像処理装置（図３）の動作説明を兼ねる。
図１のフローによると、まず、処理したい原稿を多値画像入力手段１０１により原画像（カラー画像）として取得する（ステップＳ１０１）。ここで取得するカラー画像は、イメージセンサにより主・副走査方式により検出したＲ，Ｇ，Ｂの各画素データの形式をとる。
次いで、処理対象となるカラー（多値）画像を二値化手段１０３により二値化画像を得る（ステップＳ１０２）。二値化の方法は、固定閾値を設定し、その閾値と画素値（例えば、Ｇ色の画素データ）を比べ、閾値よりも明るい画素は白、暗い画素は黒とするなどの方法を採用することにより実施できる。
このように、まず、処理対象となるカラー（多値）画像を二値化し、取得した黒画素データをもとに、以降の文字行の抽出処理を行うが、このような手順をとっても、白抜きの文字に対して、例外的に抽出漏れが生じる（なお、白抜き文字への対応は、後記「実施形態２」にて示す）が、ほとんどの文字については抽出漏れを起こす可能性はきわめて少ない。
【００１７】
文字行の抽出は、図２に示すフローに従う。先ず、二値画像データをもとに黒画素の連結成分を取得する（ステップＳ２０１）。この処理は、ラン生成手段１０５が、二値画像データをもとに、水平方向に隣接する黒画素の並びを黒画素のランとして生成し（なお、「ラン」は、連続画素データが同一値をとる場合に、この連続画素の並びを指す概念で、フアクシミリなどで扱う２値画像において、一次元方向に連続する白画素、あるいは黒画素のかたまりを「ラン」として符号化の単位とする例により、良く知られるところである）、次いで、連結成分生成手段１０７が、生成した水平方向に並ぶ黒画素のランについて、垂直方向に接するもの同士を連ねることにより生まれるグループを連結成分として生成する。このようにして、文字を構成する画素のかたまりが連結成分として抽出されることになる。
次に、代表色決定手段１０９は、各連結成分の代表色を決定するためのデータとして、連結成分を構成する黒画素に対応する原処理対象多値（カラー）画像の画素値（黒画素に対応した位置のＲ，Ｇ，Ｂ３成分の画素データ）を取得し（ステップＳ２０２）、取得した画素値をもとに連結成分の代表色の定義に従い各連結成分の代表色データを決定する（ステップＳ２０３）。このとき、連結成分の代表色は、例えば、連結成分を構成する画素全ての色画素データの平均値として定義し、この定義に従い連結成分の代表色を算出し、連結成分１つに対し、代表色を１つ決定する。こうして決定した連結成分の代表色は、後段で、連結成分同士を行候補として統合するときの統合条件として用い、さらに、文字行の尤度を求めるためにも用いる。
【００１８】
次に、外接矩形統合手段１１１により連結成分から文字行候補を求める一連の処理を行う。この処理は、前段までの処理ステップで得た連結成分には文字の構成要素を含むので、連結成分を対象にして、文字行候補として統合するための条件に従って連結成分が統合可能か否かを判断し、文字行候補の矩形領域を生成していく処理である。統合条件は、連結成分同士の関係が、距離が接近し、色がそれぞれ似ていること、とする。
処理の手順としては、図２のフローに示すように、連結成分を１つ選んで、行候補として初期登録し（ステップＳ２０４）、この初期行候補の統合対象として、もう１つの連結成分を取り出して（ステップＳ２０５）、両者が統合条件を満たすか、否かを判断していく。
ここでは、連結成分同士が近くにあるか、否かを、連結成分の外接矩形（連結成分に外接する矩形を定義し、最終的に行として切り出す領域もこの外接矩形の領域で表す）間の距離を求め、求めた距離に閾値処理を行うことにより判断し、近くにあれば、統合可能とする（ステップＳ２０６-YES）。
また、連結成分同士の色が似ているか、否かを、上記ステップＳ２０３で決定した各々の連結成分の代表色データを比較し、求めた比較値に閾値処理を行うことにより判断し、色が似ていれば、統合可能とする（ステップＳ２０７-YES）。
【００１９】
上記のようにして、連結成分が統合可能か否かを判断した結果を受けて、外接矩形統合手段１１１は、行候補に連結成分を統合する（ステップＳ２０８）。図６は、行候補に連結成分を統合する処理の様子を示す図で、同図に示すように、連結成分を統合した行候補は、連結成分の外接矩形（破線で表す）をその領域とするので、対象とする行候補に加えた連結成分の矩形領域分だけその存在範囲が広がることになる。
なお、統合条件を判断するステップＳ２０６、Ｓ２０７では、行候補と連結成分間で対比判断を行うが、上記のように、行候補は統合結果によって変化していくので、行候補の外接矩形及び代表色には、統合結果を反映させる必要がある。つまり、行候補は複数の連結成分から構成されるので、その位置は構成する連結成分の外接矩形となり、また、行候補の色は、構成する連結成分の色の平均値により決定する。
行候補に連結成分を統合する処理は、原稿ページの所定の処理領域毎に行うので、処理領域内に統合条件をチェックすべき連結成分が残っていないことを確認する（ステップＳ２０９-YES）。また、原稿ページにおける所定の領域毎に上記ステップＳ２０４〜２０９を繰り返すので、原稿ページ内に、初期登録すべき連結成分が存在する未処理の領域がないことを確認して（ステップＳ２１０-YES）、この連結成分の統合処理を抜ける。なお、処理領域内に未処理の連結成分がある場合（ステップＳ２０９-NO）、初期登録すべき連結成分が存在する未処理の領域がある場合（ステップＳ２１０-NO）は、それぞれの処理ループの先頭に戻し、連結成分の統合処理を繰り返す。
【００２０】
上記のようにして、グループ化（統合）した連結成分の外接矩形領域を文字行候補として求めたら、次に、文字行判定手段１１３によって、前段で求めた行候補の文字行らしさを吟味し、文字行らしくない行候補を判定し、その結果に従い行候補を削除する処理を行う。
文字行らしさを吟味する工程では、文字行らしさを表す文字行の特徴量を算出し、求めた特徴量を総合的に行尤度として求め、行尤度により削除すべき行候補を判断する。
本実施形態では、次に示すように特徴量を４つ算出し、その結果から行尤度を求める。
特徴量１として、行候補の縦横比を計算する（ステップＳ２１１）。これは、行候補をグループ化（統合）した連結成分の外接矩形領域として求めていることから、細長ければ、より行らしいと考えられるので、これを行尤度の判断に用いる特徴量とする。
特徴量２として、行候補を構成する連結成分の数をカウントする（ステップＳ２１２）。行内にある連結成分の数があまり少ないと、行らしいとは言いにくいので、これを行尤度の判断に用いる特徴量とする。
【００２１】
特徴量３として、行候補周囲の黒画素数をカウントする（ステップＳ２１３）。図７は、行候補への統合処理の様子を示す図で、同図中の（Ａ）は文字画像における例を、また（Ｂ）は写真画像における例を示す図である。同図中の（Ａ）、（Ｂ）はそれぞれ原画像を処理した結果、破線にて囲まれた行候補を抽出したことを示している。（Ａ）は文字画像であり、行候補の周囲は白画素に囲まれて白画素が多く、文字行としての特徴を有している。これに対し、（Ｂ）は写真画像で、写真画像の一部を行候補として抽出した例であり、この場合、行内に入り込んだ連結成分がある可能性が高く、行候補の周囲には黒画素が比較的多く、文字行としての特徴を有していない。従って、文字行らしくない（Ｂ）の写真画像における行候補は削除の対象とすることが適当で、行候補周囲の黒画素数を行尤度の判断に用いる特徴量とする。ただし、この特徴量の取り出し方では、長い行はその分周囲の画素数が多いので、長さや周囲長で正規化することが望ましい。
特徴量４として、行候補の色と周囲の色の差を求める（ステップＳ２１４）。行候補の色（上記ステップＳ２０３で決定した連結成分の代表色データを用いることができる）を(R1,G1,B1)、周囲の画素の平均色を(R2,G2,B2)として取得し、周囲との色差Dを、
D = |R1-R2|+|G1-G2|+|B1-B2|
などと計算することができる。文字は一般に背景とは違う色であるほうが読みやすいので一般には周囲との色差Dは大きい傾向にある。従って、色差Dが小さい行候補は削除の対象とすることが適当で、色差Dを行尤度の判断に用いる特徴量とする。
【００２２】
以上の行らしさをあらわす特徴量１〜４を算出した後、算出値をもとに、総合的に行らしさ表す１つの行尤度値を算出する（ステップＳ２０５）。
行尤度は、特徴量iの値をFi、それぞれに乗じる係数をWi、行らしさをあらわす尤度をFとすると、
F = SUM(Fi ＊ Wi)     （ここに、 i = 1〜4、SUMは和を表す）
として算出する。各特徴量Fiの行尤度に対する重要度（寄与度）を表す重みWiは、予め実験的に正しい結果を導き得る適当な係数値を定めておく。
次いで、算出した行尤度値に対し、行候補として残すか、削除するかの限界を予め定めた閾値との比較を行うことにより、文字行判定の最終結果を導く（ステップＳ２１６）。ここでは、求めた行尤度値が閾値よりも大きい場合に文字行と判断し、それ以外は文字行と判断しない。
上記のようにして得た文字行判定の最終結果に従い、文字行と判断できなかった行データを抽出した行候補から削除する（ステップＳ２１７）。なお、ここでは、全ての特徴量を計算してから行らしさを総合的に求めたが、例えばある特徴量を計算した時点で、その値が行らしい値からかけ離れており、明らかに行でないと判断できる場合は、当該行候補はその時点で削除してしまっても良い。
行候補の文字行らしさを判定し、その結果に従い行候補を削除する処理は、行候補毎に行うので、チェックすべき全ての行候補の判定を終えたことを確認し（ステップＳ２１８）、未判定の行候補がある場合には、上記の処理ステップＳ２１１〜２１７を繰り返すので、未処理の行候補がないことを確認して（ステップＳ２１８-YES）、この文字行の判定処理を抜ける。
上記の様にして図１のフローにおける行抽出処理（ステップＳ１０３、即ち図２のフロー）を実行することにより、行候補に発生し得る誤抽出とみなされる行を削除し、適正な文字行データを抽出することができるので、文字領域出力手段１１５は、得られた文字行データから、対応する行領域の座標値を処理結果として出力し（Ｓ１０４）、処理フローを終了する。
【００２３】
「実施形態２」
本実施形態は、上記実施形態１に生じる白抜き文字の抽出漏れをなくすための改良を加えた実施形態を示す。
上記実施形態１に記したように、処理対象となるカラー（多値）画像を二値化し、取得した黒画素データをもとに文字行の抽出処理を行う場合に、ほとんどの文字については抽出漏れを起こす可能性はきわめて少ないが、例外的に白抜きの文字に対して抽出漏れが生じる。この点を改良するために、本実施形態では、二値化画像を反転させ、反転させた二値化画像を対象に行の抽出処理を行い、非反転の抽出処理と併用する。さらに、反転及び非反転の二値化画像をもとにそれぞれ求めた行候補の間で重複する行候補を抽出し、重複する行候補の一方を削除する処理を付加することにより、誤抽出を防ぐようにするものである。
上記した改良を実現するために新たに必要になる手段は、装置にあっては、画像反転手段と重複領域排除手段、方法にあっては、二値画像反転処理ステップと反転画像に対する行抽出処理ステップと重複行の排除処理ステップであるが、いずれも構成の付加によるもので、付加する構成以外の要素は、上記実施形態１の要素をそのまま用いる。
【００２４】
図４は、本実施形態に係る画像処理方法の処理フローを示す図で、図４中の行抽出処理（Ｓ３０３，Ｓ３０５）の詳細フローは、先の図２に示す。また、図５は、本実施形態に係る画像処理装置の構成を示すブロック図である。
図５を参照して本実施形態に係る画像処理装置を説明する。なお、本実施形態において新たに付加した画像反転手段と重複領域排除手段以外の構成については、上記実施形態の説明と重複するので、上記の説明を参照することとし、ここでは記載を省略する。
画像反転手段１０４は、二値化手段１０３により変換した二値画像データの白黒を反転する手段であり、反転した画像データをラン生成手段１０５に出力する。
重複領域排除手段１１４は、文字行判定手段１１３による反転及び非反転の２種類の画像に対する行候補抽出結果を受けて、行候補の間で重複する行候補の一方を排除し、その結果を文字領域出力手段１１５に送出する。
【００２５】
次に、本実施形態に係る画像処理方法を図４のフロー図を参照して説明する。なお、以下の説明は、上記画像処理装置（図５）の画像反転手段１０４及び重複領域排除手段１１４に関する動作説明を兼ねる。
図４のフローによると、まず、処理したい原稿を多値画像入力手段１０１により原画像（カラー画像）として取得する（ステップＳ３０１）。ここで取得するカラー画像は、イメージセンサにより主・副走査方式により検出したＲ，Ｇ，Ｂの各画素データの形式をとる。
次いで、処理対象となるカラー（多値）画像を二値化手段１０３により二値化画像を得る（ステップＳ３０２）。二値化の方法は、固定閾値を設定し、その閾値と画素値（例えば、Ｇ色の画素データ）を比べ、閾値よりも明るい画素は白、暗い画素は黒とするなどの方法を採用することにより実施できる。
このように、まず、処理対象となるカラー（多値）画像を二値化し、取得した黒画素データをもとに、文字行の抽出処理を行う（ステップＳ３０３）。文字行の抽出は、上記実施形態１で示した通りに、図２に示すフローに従って行う。
【００２６】
次に、原画像に白抜き文字が含まれている場合にも、抽出漏れを防ぐために、ステップＳ３０２の二値化処理で得た二値画像データを画像反転手段１０４によて白黒の反転を行う（ステップＳ３０４）。白黒の反転処理は、公知の方法を適用することに実施し得る。
白黒を反転した二値画像データをもとに、文字行の抽出処理を行う（ステップＳ３０３）。文字行の抽出は、上記実施形態１で示した通りに、図２に示すフローに従って行う（ステップＳ３０５）。
ステップＳ３０３及びＳ３０５で、それぞれ反転及び非反転の２種類の画像に対する行候補抽出を行い、反転及び非反転画像間で位置の重複する行候補を抽出した場合、重複領域排除手段１１４は、一つを正解とし、それ以外には誤りがあると推定して、重複のない抽出結果となるまで、一方を排除する処理を行う。
例えば、図８に示すように、「田中君」を処理対象画像（Ａ）とした場合、通常（非反転）の処理では、文字行領域は、図中（Ａ’）の破線で囲んだ領域となり、抽出行候補として（Ａ”）のデータが得られる。他方、二値画像を反転すると、文字を構成する白画素の連結成分が黒画素に変換して反転画像（Ｂ）となり、行として抽出される。即ち、「田」という字であれば、原画像の４つの小さな白い四角が反転画像（Ｂ）を構成する。従って、文字行領域は、図中（Ｂ’）の破線で囲んだ領域となり、（Ｂ”）を行候補として抽出する可能性がある。図８の例に示すように、反転画像（Ｂ）から抽出した行候補（Ｂ”）は、誤りであるからこの場合には、非反転画像の行候補（Ａ”）を残し、反転画像の行候補（Ｂ”）を削除する必要がある。この場合の削除条件としては、図８に示すように、削除が必要な反転画像の行候補（Ｂ”）の方が、非反転画像の行候補（Ａ”）のサイズより小さいので、この性質を利用することにより条件を定めることが可能である。
【００２７】
従って、両者の行サイズを比較し、小さいほうを削除することにより、誤ったデータを除くことが可能になる。また、上記実施形態１に示したように、行らしさ（行尤度）の計算も行う（図２、ステップＳ２１５、参照）ので、これを比較して、行らしくない方を削除しても良いし、これらを併用してもかまわない。
図４のフローに示す重複行の排除処理ステップでは、排除処理を適用する対象行の抽出を行う（ステップＳ３０６）。即ち、ステップＳ３０３，Ｓ３０５で反転及び非反転の２種類の画像に対する行抽出を行って得た行候補の間において、位置の重複する行候補を抽出する。次いで、抽出した重複行候補の行サイズを比較し、小さいサイズを有する方の行候補を削除する（ステップＳ３０７）。この処理は、重複行を１組づつ抽出して行っていくので、重複する行がなくなるまで（ステップＳ３０８-YES）、ステップＳ３０６〜Ｓ３０８の排除処理ステップを繰り返し行う。
このようにして、反転及び非反転画像に対する行抽出を行う場合、行候補に発生し得る誤抽出とみなされる行を削除し、適正な文字行データを抽出することができるので、文字領域出力手段１１５は、得られた文字行データから、対応する行領域の座標値を処理結果として出力し（Ｓ３０９）、処理フローを終了する。
【００２８】
「実施形態３」
本実施形態は、上記「実施形態１」，「実施形態２」に示した文字領域抽出を行う画像処理フローの各処理ステップを実行する手段として、汎用の処理装置（コンピュータ）を利用する実施形態を示すものである。
図９は、本実施形態の処理装置の構成を示す。図９に示すように、本実施形態は、汎用の処理装置（コンピュータ）により実施する例を示すものであり、構成要素としてＣＰＵ４０１、メモリ４０２、ハードディスクドライブ４０３、入力装置４０４、ＣＤ−ＲＯＭドライブ４０５、ディスプレイ４０６、マウスなどを備える。また、ＣＤ−ＲＯＭドライブ４０５が用いるＣＤ−ＲＯＭなどの記録媒体４０７には、本発明に係わる文字領域（文字行）抽出処理の手順をコンピュータに実行させるためのプログラム（ソフトウェア）が記録されている。
処理対象のカラー（多値）画像は、スキャナー等の入力装置６０４により入力され、例えばハードディスク６０３などに格納されているものである。ＣＰＵ６０１は、記録媒体６０７から上記した文字領域抽出処理の手順を実現するプログラムを読み出し、プログラムに従ってカラー（多値）画像の文字領域の抽出処理を実行し、抽出結果として得た文字領域データを文字認識処理など、このデータを必要とする文字画像処理の手順に利用するために出力する。
このように、コンピュータに文字領域抽出処理を行うためのプログラムに従う動作を行わせることにより、該コンピュータを本発明の画像処理装置を構成する手段として機能させる。
【図面の簡単な説明】
【００２９】
【図１】本発明の実施形態に係る画像処理方法の処理フロー（実施形態１）を示す図である。
【図２】図１の処理フローにおける行抽出処理ステップの詳細フローを示す図である。
【図３】本発明の実施形態に係る画像処理装置の構成（実施形態１）を示すブロック図である。
【図４】本発明の実施形態に係る画像処理方法の処理フロー（実施形態２）を示す図である。
【図５】本発明の実施形態に係る画像処理装置の構成（実施形態２）を示すブロック図である。
【図６】行候補に連結成分を統合する処理の様子を示す図である。
【図７】文字画像（Ａ）と写真画像（Ｂ）における行候補への統合処理の様子を示す図である。
【図８】反転及び非反転の画像に対する行候補抽出と重複行の削除条件を説明する図である。
【図９】本発明の画像処理装置を実施し得る汎用コンピュータの構成を示すブロック図である。
【符号の説明】
【００３０】
１０１…多値画像入力手段、
１０３…二値化手段、
１０４…画像反転手段、
１０５…ラン生成手段、
１０７…連結成分生成手段、
１０９…代表色決定手段、
１１１…外接矩形統合手段、
１１３…文字行判定手段、
１１４…重複領域排除手段
１１５…文字領域出力手段
４０１…ＣＰＵ、                ４０２…メモリ、
４０３…ハードディスクドライブ、
４０４…入力装置、
４０５…ＣＤ−ＲＯＭドライブ、
４０６…ディスプレイ、
４０７…ＣＤ−ＲＯＭ。
【図１】
2005301672.tif 000003
【図２】
2005301672.tif 000004
【図３】
2005301672.tif 000005
【図４】
2005301672.tif 000006
【図５】
2005301672.tif 000007
【図６】
2005301672.tif 000008
【図７】
2005301672.tif 000009
【図８】
2005301672.tif 000010
【図９】
2005301672.tif 000011