(57)【要約】【課題】  入力画像自体の性質から画像の傾斜角を検出すると共に、入力画像中の斜線等の影響を除く。【解決手段】  入力画像からエッジを抽出する。抽出したエッジを二値化すると共に、連結された有効画素を除去するように縮退処理を施す。縮退処理により、例えば線分は２個の有効画素まで単純化される。縮退処理を施した画像をハフ変換することにより、複数の線分を抽出する。抽出した複数の線分の傾斜から、入力画像の傾斜角を検出する。  【選択図】    図３
2010244354.tif 000002
【特許請求の範囲】
【請求項１】
入力画像の傾斜角を決定する装置であって、
線分を点へと単純化する縮退処理を、入力画像に施すための縮退処理部と、
縮退処理後の画像をハフ変換するハフ変換部と、
ハフ変換により抽出した線分の向きから入力画像の傾斜角を決定する傾斜角決定部、とを備えたことを特徴とする画像処理装置。
【請求項２】
前記ハフ変換部と傾斜角決定部を、縮退処理を施した入力画像にハフ変換を施して第１の傾斜角を決定し、かつ縮退処理を施さなかった入力画像にハフ変換を施して第２の傾斜角を決定するように構成すると共に、
第１の傾斜角と第２の傾斜角との比較部を設けて、差が所定範囲内の場合は第２の傾斜角を入力画像の傾斜角とし、差が所定範囲外の場合は第１の傾斜角を入力画像の傾斜角とするように構成したことを特徴とする、請求項１の画像処理装置。
【請求項３】
前記差が前記所定範囲外の場合、
縮退処理を施した入力画像からハフ変換により抽出した第１の線分群と、縮退処理を施さなかった入力画像からハフ変換により抽出した第２の線分群との間に、傾きが近似した線分がない場合は、前記第１の傾斜角を入力画像の傾斜角とし、
前記第１の線分群と第２の線分群の間に、傾きが近似した線分がある場合は、少なくとも第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分の傾きに基づいて、入力画像の傾斜角を決定するように、
前記傾斜角検出部を構成したことを特徴とする、請求項２の画像処理装置。
【請求項４】
前記ハフ変換部は、縮退処理を施した入力画像から第１の線分群を抽出すると共に、縮退処理を施さなかった入力画像から第２の線分群を抽出し、
前記傾斜角検出部は、少なくとも第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分の傾きに基づいて、入力画像の傾斜角を決定することを特徴とする、請求項１の画像処理装置。
【請求項５】
前記傾斜角検出部は、第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分が所定本数以上有る場合は、該所定本数以上の線分の傾きに基づいて入力画像の傾斜角を決定し、第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分が所定本数未満の場合は、前記所定本数未満の線分に第１の線分群の線分を加えた線分群の傾きに基づいて入力画像の傾斜角を決定することを特徴とする、請求項４の画像処理装置。
【請求項６】
入力画像を有効画素と無効画素とに二値化する二値化部を設けると共に、前記縮退処理部は、二値化した入力画像中の互いに連結された有効画素を端部から無効画素に置換するためのフィルタを備えていることを特徴とする、請求項１〜５のいずれかの画像処理装置。  
【請求項７】
入力画像の傾斜角を決定する方法であって、
線分を点へと単純化する縮退処理を入力画像に施すステップと、
縮退処理後の画像をハフ変換するステップと、
ハフ変換により抽出した線分の向きから入力画像の傾斜角を決定するステップ、とを備えたことを特徴とする画像処理方法。
【請求項８】
情報処理装置により入力画像の傾斜角を決定するために、
前記情報処理装置を、
線分を点へと単純化する縮退処理を、入力画像に施すための縮退処理部と、
縮退処理後の画像をハフ変換するハフ変換部と、
ハフ変換により抽出した線分の向きから入力画像の傾斜角を決定する傾斜角決定部、として機能させる、画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は入力画像の傾斜角の検出に関する。
【背景技術】
【０００２】
スキャナで画像を読み取ると、画像が僅かに傾斜した状態で読み取られることがある。これを補正するため、原稿用紙の辺などを検出することが行われている。原稿用紙が方形であれは、辺の向きは主走査方向あるいは副走査方向に平行なはずで、これらの方向からのずれは原稿用紙の傾斜を表している。しかしこの手法で傾斜を検出できるのはスキャン時に限られ、蓄積済みの画像及び外部から転送された画像の傾斜は検出できない。また原稿用紙の傾斜を検出するので、切り抜きのように用紙が定型でないものは傾斜を検出できない。さらにハードカバーの書籍を見開きでスキャンすると、カバーは傾斜していないものの、見開いたページが傾斜していることがある。この場合も傾斜の検出は難しい。これらの問題を解決するには、原稿用紙の傾斜を検出するのではなく、画像自体の傾斜を検出する必要がある。
【０００３】
ここで関連する先行技術を示すと、特許文献１：JPH10-283476Aは、画像中の直線をハフ変換により検出することを記載している。しかしながら特許文献１は、画像の傾斜自体をハフ変換により検出することを示していない。例えば画像中に写真あるいは図形があり、これらに斜線が含まれていれば、ハフ変換により斜線が抽出され、画像自体の傾斜とは異なる斜線角が検出される。  
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】JPH10-283476A
【発明の概要】
【発明が解決しようとする課題】
【０００５】
この発明の課題は、入力画像自体の性質を用いて、かつ入力画像中の斜線等の影響を受けずに、入力画像の傾斜角を求めることにある。  
【課題を解決するための手段】
【０００６】
この発明の画像処理装置は、入力画像の傾斜角を決定する装置であって、
線分を点へと単純化する縮退処理を、入力画像に施すための縮退処理部と、
縮退処理後の画像をハフ変換するハフ変換部と、
ハフ変換により抽出した線分の向きから入力画像の傾斜角を決定する傾斜角決定部、とを備えたことを特徴とする。
【０００７】
またこの発明の画像処理方法は、入力画像の傾斜角を決定するために、
線分を点へと単純化する縮退処理を入力画像に施すステップと、
縮退処理後の画像をハフ変換するステップと、
ハフ変換により抽出した線分の向きから入力画像の傾斜角を決定するステップ、とを備えたことを特徴とする。
【０００８】
またこの発明の画像処理プログラムは、情報処理装置により入力画像の傾斜角を決定するために、
前記情報処理装置を、
線分を点へと単純化する縮退処理を、入力画像に施すための縮退処理部と、
縮退処理後の画像をハフ変換するハフ変換部と、
ハフ変換により抽出した線分の向きから入力画像の傾斜角を決定する傾斜角決定部、として機能させる。
【０００９】
この明細書において、画像処理装置に関する記載はそのまま画像処理方法及び画像処理プログラムにも当てはまり、画像処理方法に関する記載はそのまま画像処理装置及び画像処理プログラムにも当てはまる。
この明細書において、点は画像中の１画素に限らず、複数の画素で点と見えるものを含んでいる。
【００１０】
縮退処理により、入力画像中の線分は単純な点へ変換されるが、文字の行は保存される。このため斜線等の影響を受けずに、入力画像中の文字の行により傾斜角を決定できる。さらに縮退処理により入力画像中の有効画素数が削減されるので、ハフ変換をより高速で実行できる。
【００１１】
好ましくは、前記ハフ変換部と傾斜角決定部を、縮退処理を施した入力画像にハフ変換を施して第１の傾斜角を決定し、かつ縮退処理を施さなかった入力画像にハフ変換を施して第２の傾斜角を決定すると共に、
第１の傾斜角と第２の傾斜角との比較部を設けて、差が所定範囲内の場合は第２の傾斜角を入力画像の傾斜角とし、差が所定範囲外の場合は第１の傾斜角を入力画像の傾斜角とする。
ここで第１の傾斜角は文字の行のみを用いて得た傾斜角を表し、第２の傾斜角は文字の行以外に、表や下線、斜線などを用いて得た傾斜角を表している。そこで第１の傾斜角と第２の傾斜角とが近似する場合、表あるいは下線で、文字の行と平行あるいは直角な線分が寄与していると推定できる。仮に、共に文字の行から傾斜角を求めている場合でも、第２の傾斜角は、縮退処理による入力画像の変化を受けていないので、第１の傾斜角よりも精度が高いと言える。そこで高精度に傾斜角を決定できる。
第１の傾斜角と第２の傾斜角とが著しく異なる場合、第１の傾斜角を入力画像の傾斜角とすると、入力画像中の図形部分あるいは写真部分等での斜線の影響を受けずに、傾斜角を決定できる。
【００１２】
第１の傾斜角と第２の傾斜角との整合性が上記の中間の場合、例えば縮退処理を施した画像をハフ変換したものから、複数の線分を第１のセットとして取り出し、縮退処理を施こさなかった画像をハフ変換したものから、複数の線分を第２のセットとして取り出す。第２のセットから、向きの差が所定範囲内の線分が第１のセットに有るもの、より好ましくは、向きの差が第１の所定範囲内でかつハフ変換での距離の差が第２の所定範囲内の線分が第１のセットに有るものを抽出して、傾斜角を決定する。このような線分は１本でも良いが、複数の線分を用いて傾斜角を決定する方が、信頼性が高い。そこで抽出した線分の本数が少ない場合、信頼性を増すため好ましくは、例えば第１のセットの線分で第２のセットに対応するものが無い線分を抽出した線分に加えて、これらの線分の傾斜から入力画像の傾斜角を決定する。
【００１３】
そこで好ましくは、前記差が前記所定範囲外の場合、
縮退処理を施した入力画像からハフ変換により抽出した第１の線分群と、縮退処理を施さなかった入力画像からハフ変換により抽出した第２の線分群との間に、傾きが近似した線分がない場合は、前記第１の傾斜角を入力画像の傾斜角とし、
前記第１の線分群と第２の線分群の間に、傾きが近似した線分がある場合は、少なくとも第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分の傾きに基づいて、入力画像の傾斜角を決定する。
【００１４】
あるいはまた第１の傾斜角と第２の傾斜角を求めずに、
前記ハフ変換部は、縮退処理を施した入力画像から第１の線分群を抽出すると共に、縮退処理を施さなかった入力画像から第２の線分群を抽出し、
前記傾斜角検出部は、少なくとも第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分の傾きに基づいて、入力画像の傾斜角を決定しても良い。
【００１５】
より好ましくは、前記傾斜角検出部は、第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分が所定本数以上有る場合は、該所定本数以上の線分の傾きに基づいて入力画像の傾斜角を決定し、第２の線分群の線分で、第１の線分群に傾きが近似するものがある線分が所定本数未満の場合は、前記所定本数未満の線分に第１の線分群の線分を加えた線分群の傾きに基づいて入力画像の傾斜角を決定する。
【００１６】
また好ましくは、入力画像を有効画素と無効画素とに二値化する二値化部を設けると共に、前記縮退処理部は、二値化した入力画像中の互いに連結された有効画素を端部から無効画素に置換するためのフィルタで、縮退処理を実行する。
このようにすると、簡単に縮退処理を施すことができる。
【図面の簡単な説明】
【００１７】
【図１】実施例の複合機のブロック図
【図２】実施例での前処理部のブロック図
【図３】実施例の縮退処理で用いるフィルタを示す図
【図４】実施例で、表及び下線から傾斜角を決定するか、文字を用いて傾斜角を決定するかのアルゴリズムを示す図
【図５】実施例での前処理アルゴリズムを示す図
【図６】実施例でのハフ変換部〜画像回転部のブロック図
【図７】実施例での投票テーブルを模式的に示す図
【図８】実施例での傾斜角検出のアルゴリズムを示す図
【図９】実施例で文字の行を直線と見なすことを示す図
【図１０】入力画像を直接二値化した例を示す図
【図１１】実施例での入力画像の縮小画像を示す図
【図１２】実施例で、縮小画像からノイズを除去した画像を示す図
【図１３】実施例で、ノイズの除去後の画像から抽出したエッジを示す図
【図１４】実施例で用いた、エッジ抽出フィルタを示す図
【図１５】実施例で、エッジの画像を二値化した画像を示す図
【図１６】実施例で、二値化画像から孤立点を除いた画像を示す図
【図１７】実施例で、孤立点を除いた後に、縮退処理を施した画像を示す図
【図１８】偽の最大投票線を示す図
【図１９】投票テーブルでの近傍点が有効線として複数選択される状況を示す図
【図２０】実施例で、抽出済みの有効線の近傍をマスクした際の、有効線の抽出状況を示す図で、明度は投票テーブルでの投票数を示す
【図２１】実施例での抽出した有効線を模式的に示す図
【図２２】実施例での傾斜角の決定手法を模式的に示す図
【発明を実施するための形態】
【００１８】
以下に本発明を実施するための最適実施例を示す。
【実施例】
【００１９】
図１〜図２２に、複合機２を例に実施例を示す。４はＬＡＮで、６はパーソナルコンピュータで、情報処理装置の例であり、８はルータで、インターネット１０と複合機２及びパーソナルコンピュータ６を接続する。実施例での傾斜角の検出及び補正は複合機２で行うが、パーソナルコンピュータ６などで行っても良く、例えば、複合機２のスキャナ２０で読み取った画像をパーソナルコンピュータ６へ転送して、パーソナルコンピュータ６で傾斜角を検出して補正しても良い。
【００２０】
複合機２の構造を説明する。１２はＬＡＮインターフェースで、１４はバス、１６は画像メモリで、ページメモリとして画像データを記憶する。メモリ１８は汎用のメモリで、プログラム及び中間的なデータなどを記憶する。スキャナ２０は、原稿用紙から画像を、モノクロのグレイスケールあるいはフルカラーで読み取り、プリンタ２２は画像をプリントし、Ｇ３ファクシミリ部２４は画像のＧ３ファクシミリ送信と受信とを行う。e-mail部２６は、e-mailの添付ファイルとして画像の送受信を行い、ネットワークサーバ部２８は、文書管理サーバあるいはリモートプリンタなどとして複合機２を動作させる。ユーザインターフェース３０はユーザのマニュアル入力などを受け付け、画像処理部３２は種々の画像処理を行う。スキャンした画像あるいは受信画像もしくは蓄積済みの画像の傾斜角を検出するため、前処理部４０とハフ変換部５０並びに傾斜角検出部６０を設ける。そして検出した傾斜角と反対向きに同じ角度だけ、画像回転部７０で画像を回転させ、傾斜を補正する。
【００２１】
図２に前処理部４０の構成を示す。画像メモリ１６から画像データが縮小処理部４１へ入力され、画像の解像度を１／ｎ(ｎは２以上の自然数で、好ましくは４〜８，特に４〜６)に縮小する。これによって画像データの量は１／ｎ2に減少し、縮小は例えばｎ×ｎ画素のブロック毎に、画素の値の平均値を求めればよい。またより単純に、縮小処理部４１では、ｎ×ｎ画素のブロックの内の代表点、例えばブロックの左上の頂点の、１画素のデータをそのまま出力しても良い。このためハフ変換は、ｎ2倍高速になる。同じ画像データで、データの内容と解像度は一定でも、縮小処理部４１での縮小率が異なると、傾斜角の検出結果が異なることがあった。そこでスキャン時の解像度によらず、縮小処理部４１で一定の解像度まで解像度を低下させると、解像度の違いによる傾斜角の検出値の差を解消できる。
【００２２】
複合機２でスキャンした画像以外でも、ファクシミリの受信データなどのように、スキャン時の解像度が既知の場合、同様に一定の解像度に画像を縮小する。スキャン時の解像度は、通信のプロトコルあるいは画像ファイルのヘッダなどから判明することが多い。なおjpeg画像のようにヘッダに解像度が記載されていない場合、１／４あるいは１／８などの一定の縮小率で、画像を縮小する。
【００２３】
スムージング部４２は、平滑化フィルタなどにより縮小画像からノイズを除去し、画像中のランダムなデータをハフ変換によって直線として抽出しないようにする。次にエッジ抽出部４３は、スムージング済みの画像から、ラプラシアンフィルタあるいはソーベルフィルタなどのエッジ抽出用フィルタにより、エッジを抽出する。これによって地色の影響が解消し、また白抜きの文字などでも、文字の輪郭に対応するエッジを抽出できる。
【００２４】
二値化部４４は抽出したエッジを二値化する。二値化の閾値は、一定でも良く、あるいは抽出したエッジでの明度もしくはカラー値の分布などから定めても良い。さらに全てのエッジを二値化する必要があるのではなく、例えば画像中の文字部分と、写真部分及び図形部分を判別できる場合、文字部分のみを二値化することが好ましい。
【００２５】
扱う画像データは実施例ではモノクロのグレイスケール画像とするが、ＲＧＢ画像などでもよい。この場合、ＲＧＢデータを、明度画像に変換して傾斜角を検出してもよく、またＲ，Ｇ，Ｂの各成分毎に傾斜角を検出し、その平均値などを用いてもよい。
【００２６】
孤立点除去部４５は二値化画像から孤立点を除去し、二値化前のエッジ画像に対して孤立点を除去しても良い。孤立点の除去によりデータ量が減り、かつ偽の傾斜角を検出する確率が減少する。なお孤立点は写真画像中に特に多く、画像本来の傾きとは無関係なデータである。
【００２７】
縮退処理部４６は、孤立点を除去した後の二値化画像に対し、縮退処理を行う。ただし孤立点の除去は省略しても良い。ここに縮退処理とは、上下，左右，斜めなどの方向に有効画素が連続して並んでいる、即ち有効画素が縦／横／斜めなどに連結している場合に、有効画素を連結部分の端から削除する処理のことである。縮退処理では、有効画素が連結されて線分を構成している場合に、線分の端部から有効画素を削除し、線分を１画素あるいは２画素などからなる点へと単純化する。なお有効画素とは二値化画像においてデータのある画素をいい、白であるか黒であるかは問題にしない。縮退処理により線分は例えば２画素まで単純化される。円、方形、及び十字なども、有効画素が互いに連結されたものであれば、例えば２画素、あるいは４画素等に単純化される。この結果、画像中の図形部分及び写真部分の斜線が実質的に消滅し、これらのものが傾斜角の検出に影響することを防止できる。なお縮退処理では、文字も有効画素数が小さくなるが、文字の行がなす直線は失われない。また縮退処理により、ハフ変換の対象となる画素の数を減らして、処理を高速化する。
【００２８】
図３に縮退処理に用いるフィルタ３４〜３８を示し、処理対象の画像は二値化済みで、６角形の画素が有効画素から無効画素（有効でない画素）へ置き換えるかどうかの対象画素である。○の画素が有効画素で、かつ△の画素のいずれかが有効画素の場合、対象画素を無効画素に置き換える。そして縮退処理では、主走査方向に沿って１ライン処理すると、副走査方向に１画素移動して、次のラインを処理する。また縮退処理では、例えば５個のフィルタ３４〜３８で並列に処理し、いずれかのフィルタのパターンに該当する対象画素は、無効画素に置き換える。ただし処理の順序や向きは任意である。
【００２９】
フィルタ３４〜３８は、縦／横／斜め連結された３個の有効画素から端部の１画素を無効画素とする。縮退処理に用いるフィルタは一般に、縦、横あるいは斜めなどに連結された複数の有効画素から、少なくとも端部の１画素を無効画素とするものである。縮退処理では、連結された２個の有効画素から１画素を無効画素としても、あるいは縦横斜めに限らず任意の向きに連結された、４個以上の有効画素から端部の１画素もしくは複数画素を無効画素としても良い。
【００３０】
二値化済みの画像に縮退処理を施すのは容易であるが、例えばスムージング後、あるいはエッジ抽出後などの二値化前の画像にも、縮退処理を施すことができる。例えば明度ｐを二値化の閾値とし、明度がｐ以下の画素を有効画素とすることを考える。フィルタ３４〜３８では、対象画素の位置の画素が明度ｐ以下であれば対象画素とし、図の○及び△の位置の画素が明度ｐ以下で有れば有効画素であるとすればよい。すると、縮退と二値化とを一括して処理できる。縮退処理は画素数を減らす点でエッジ抽出と類似の作用を持ち、スムージング後の画像に施しても良い。この場合、エッジ抽出を省略できる。また縮退処理は、縮小後でスムージング前の画像に施しても良い。極端な場合、縮小前の画像に縮退処理を施し、二値化してハフ変換しても良い。この場合、縮小、スムージング、エッジ抽出、孤立点の除去は省略する。
【００３１】
縮退処理により、画像中の直線から求めた傾斜角Ａと、文字の行から求めた傾斜角Ｂとを比較できる。ここで角度Ａ，Ｂがほぼ一致する場合、角度Ａは、画像中にある文字の行と平行あるいは垂直な罫線の向き、下線の向き、あるいは文字の行の向きを表している。一方角度Ｂは、画像中にある文字の行の向きのみを表している。そして角度Ａと角度Ｂとがほぼ一致する場合、例えば角度Ａが表あるいは下線の向きを表していれば、角度Ａの方が角度Ｂよりも意味がある。角度Ａ，Ｂを比較し、傾斜角を決定するアルゴリズムを図４に示す。
【００３２】
ステップ１で画像を二値化し、ステップ２でハフ変換し、ステップ３で画像中の線分を複数抽出（例えば８本あるいは１６本抽出）して線分のセットＡとし、ステップ４で画像の傾斜角Ａを決定する。一方、二値化した画像をステップ５で縮退処理した後に、ステップ６でハフ変換し、ステップ７で画像中の線分を複数抽出（例えば８本あるいは１６本抽出）して線分のセットＢとし、ステップ８で画像の傾斜角Ｂを決定する。ステップ９で角度Ａ，Ｂがほぼ等しいか否か、例えば差が±１°以内、より広くは±３°以内か否かを判断し、角度Ａ，Ｂがほぼ等しい場合、角度Ａを画像の傾斜角とする（ステップ１０）。角度Ａ，Ｂがほぼ等しくは無い場合、ステップ１１，１２で、縮退処理を施さなかったものと施したものとで、近似する線分が所定本数以上、例えば３本以上あるかどうかを判断する。近似する線分とは、例えばθの差が１°以内で、ρの差が所定値以内、例えば１０画素以内の線分である。
【００３３】
所定本数以上近似する線分がある場合は、縮退処理を施さなかった側での近似する線分の角度から傾斜角を決定する（ステップ１３）。ステップ１３では、好ましくは縮退処理を施さなかった側から抽出した線分を用い、各線分への投票数を重み等に加味して、角度を決定する。近似する線分があるが所定本数未満の場合は、縮退処理を施さなかった側での近似する線分の角度及び縮退処理を施した側での他の線分から、傾斜角を決定する（ステップ１４）。ただし縮退処理を施した側の線分で、近似する線分が縮退処理を施さなかった側に近似する線分があるものは、類似のデータを重ねて使用することを避けるために用いないことが好ましい。またステップ１４では、例えば縮退処理を施さなかった側の線分か否かで定まるパラメータと、線分毎の投票数との積を、各線分への重みとし、縮退処理を施さなかった側の線分には例えば２倍〜４倍等の重みをパラメータとして付加する。近似する線分が無い場合は、縮退処理を施さなかった側では図形部分あるいは写真中の斜線を抽出したものとして、角度Ｂを出力する（ステップ１５）。なお角度Ａ，Ｂ自体の決定アルゴリズムは図８に示し、ステップ１３，１４で角度の決定に用いる線分が定まると、図８のアルゴリズムを再度実行する。ここで図４での線分は、図８での(ρ，θ)空間での点に対応する。
【００３４】
実施例では、図８のアルゴリズムに従い、複数の線分から傾斜角を決定することにより信頼性を増すが、１本の線分から傾斜角を決定しても良い。その場合、ステップ１１がyesであれば、角度Ａ側（縮退処理を施さなかった側）の例えば１本の線分から傾斜角を決定し、ステップ１２，１４は不要である。
【００３５】
角度Ａ，Ｂを求めず、図４のステップ３とステップ７の次に、ステップ１１を実行することができる。この場合、図４で、ステップ４，８，９，１０，１５を省略し、ステップ１１でＡ，Ｂに近似する線分が無い場合に、始めてステップ８を実行し、角度Ｂを出力する。
【００３６】
図５は前処理部４０の制御アルゴリズムを示す。ステップ２１でスキャナ２０により画像を読み取り、ステップ２２で一定の解像度へ画像を縮小し、これによってハフ変換の処理速度をｎ2倍に向上させる。ステップ２３でスムージングによりノイズを減らし、ステップ２４でエッジを抽出して地色の影響などを除き、また白抜き文字なども検出できるようにする。そしてステップ２５で二値化し、ステップ２６で孤立点を除く。これによって、写真画像中などの孤立点の、傾斜角の検出への影響を小さくできる。なお孤立点の除去は二値化の前に行っても良い。そしてステップ２７で縮退処理によりデータを単純化し、特に写真部分及び図形部分の直線を例えば２画素へ単純化する。ステップ２７は、ステップ２２〜ステップ２６のいずれかの前に実行しても良い。
【００３７】
ステップ２２〜ステップ２７の前処理は、画像のスキャンと同期して行い、またハフ変換部５０でのハフ変換、傾斜角検出部６０での傾斜角の検出、画像回転部７０での傾斜角の補正も、スキャンと同期して行えるようにする。ここに同期とは、これらの処理速度がスキャナ２０の読み込み速度以上であることを意味し、このようにすると画像のスキャンと同時にリアルタイムに画像の傾斜を補正できる。
【００３８】
図６はハフ変換部５０〜画像回転部７０の構造を示し、ハフ変換部５０は例えば１６個〜３２個の実行ユニット５１を備えて、ハフ変換を並列に実行する。また縮退処理後の画像と処理前の画像の双方に対して、ハフ変換を施す。実行ユニット５１はρ値計算部５２とsin及びcosに対するテーブル５３とから成る。３２個のテーブル５３で、０°〜１８０°をカバーできるように、１個のテーブル５３が記憶する角度の範囲は例えば５.６２５°(１８０／３２)で、角度の刻みは例えば０.１７６°(１８０°／１０２４)などである。ρ値計算部５２はテーブル５３からsinθ及びcosθの値を読み出し、縮退処理部４６及び孤立点除去部４５から出力された有効画素の位置(ｘ，ｙ)に対し、ρ値を  ρ＝ｘcosθ＋ｙsinθ  として計算する。投票テーブル５４はθとρの２次元のテーブルで、管理部５５は複数の実行ユニット５１を管理する。
【００３９】
図７に、ρ値計算部５２と投票テーブル５４との関係を示す。テーブル５４の各点はρとθとの組み合わせを示し、これは線分を表している。仮にρとθとがそれぞれ１０２４レベルに分割されているものとし、ｘ，ｙの値が入力されると、θ毎にρの値を計算し、表の該当する位置のデータを１加算する。なおθは１８０°の範囲を例えば２５６〜４０９６レベル、好ましくは１０２４〜２０４８レベルに分解し、傾斜角を０.０５°〜０.３°、好ましくは０.１°〜０.２°程度の精度で検出できるようにする。またρの分解能は、θの分解能よりも低くても良い。実行ユニット５１は例えば３２ユニット有り、各ρ値計算部５２は３２レベル(１０２４／３２)分のθを担当する。その結果、例えば左から３つめのカラムに○で示すように、(ρ，θ)値が投票される。また５７はマスクで、テーブル５４から有効線(抽出する直線)として抽出済みの点の周囲をマスクし、マスク５７の外部から次の有効線が抽出されるようにする。
【００４０】
図６に戻り、有効線抽出部６１は投票テーブル５４から例えば上位ｍ位の点を抽出する。投票テーブル５４で投票数の多い点は、画像での有効線である可能性が高い。そして抽出済みの点の周囲にマスク５７を施し、マスク５７内からの他の点が抽出されないようにする。候補角抽出部６２は、抽出した有効線から傾斜角の候補(ｋ個で例えばｍ／２個以上)を抽出し、決定部６３はこれらの候補角に基づいて傾斜角θdを決定する。決定した傾斜角θdを座標計算部７１へ入力し、画像メモリ１６の記憶画像の各画素に対し、傾斜補正後の座標(アドレス)を計算する。アドレス生成部７２は、傾斜補正前の座標に基づいて、画像メモリ１６への読み出しアドレスを生成する。bicubic処理部７３は読み出したデータを補間し、傾斜補正後の座標に基づいて、補間後のデータを画像メモリ１６へ書き戻す。これらの処理によって、画像メモリ１６の画像は、傾斜を補正するように回転する。なお回転には単純なアフィン変換などを用いてもよい。
【００４１】
図８に傾斜角検出部６０でのアルゴリズムを示し、投票テーブルから上位ｍ位、例えば１６位あるいは８位の(ρ，θ)からなる点を抽出する(ステップ３１)。そして抽出済みの点の近傍、例えば１辺が５〜４０レベルの正方形からなる近傍をマスクし(ステップ３２)、同じ近傍内から２点以上が抽出されないようにする。なお最大投票数の１／２以上の投票数のある(ρ，θ)のみを抽出する。従ってｍ位目の点の投票数が最大投票数の１／２未満の場合はエラーとし、傾斜角の検出を行わず、画像回転部７０は画像を回転させない(ステップ３３)。ステップ３２，３３はステップ３１を実行するための補助的な処理である。このようにして、他の点の近傍に入らず、かつ最大投票数の１／２以上の点をｍ個抽出する。１／２以上は例であり、例えば２／３以上あるいは０.４以上などとしても良い。ステップ３１〜３３が、有効線抽出部６１の処理に対応する。
【００４２】
次に傾斜角の候補を求めるための角度をθｘとし、その直交角をφｘとする。ここに  φｘは正または０で、かつ  φｘ＝θｘ＋π／２  もしくは  φｘ＝θｘ−π／２  である。δを許容範囲とし、例えばδは１°あるいは０.５°などであり、θｘ±δ及びφｘ±δの範囲に入る点(ρ，θ)の個数が最大となるように、θｘを決定する。そしてθｘ±δ及びφｘ±δの範囲に入る点を出力する(ステップ３４)。言い換えると、ｍ個の点に対し、角度θ成分が±δの範囲で一致する点の数が最大となる角度をθｘとする。なお単純にθ成分が±δの範囲で一致する点の数を問題とする代わりに、θｘ±δ及びφｘ±δの範囲に入る点に対する、投票数の和が最大となるようにしても良い。そしてこれらの点の数ｋが閾値未満の場合、例えばｍ／２未満もしくはｍ／３未満の場合、ステップ３５でエラーとする。エラーの場合、傾斜角の検出を行わず、画像回転部７０は画像を回転させない。ステップ３４，３５が、候補角抽出部６２の処理に対応する。
【００４３】
ステップ３６は決定部６３の処理に対応し、ステップ３４で求めたｋ個の点(ρ，θ)に対し、例えばθの単純平均値を傾斜角θdとして出力する。あるいはｋ個の点でのθの加重平均を用い、重みには投票数ｖiを用いても良い。これらに代えて、ｋ個のθの候補θ1〜θkの中で、投票数ｖiが最大のθを傾斜角θdとしてもよい。ステップ３６ではθdを出力し、θdがπ／２を越える場合、θd−π／２、即ちφdを出力する。
【００４４】
図９〜図２２に実施例の動作を示す。図９の上部は原稿画像を示し、画像中の文字の列を直線と見なして、その傾斜を検出する。従って実施例の目的は、図９の上部の画像を図９の下部の画像に変換し、これに対するハフ変換を行うことにある。
【００４５】
図１０は入力画像(画像メモリ１６の画像)を、縮小もスムージングもエッジ抽出も行わずに、直接二値化した例を示し、円でマークしたように、文字以外の写真部分などの黒画素(この場合の有効画素)が多くなり、ハフ変換の負担が増すと共に、写真中の斜線などの影響が強くなり、検出精度が低下する。そこで入力画像をグレースケールで取り扱い、縮小、スムージング、エッジ抽出等の画像処理を施した後に、二値化する。ハフ変換を高速で行うため、入力画像を１／ｎに縮小し、これによって以降の計算時間を１／ｎ2に減少させる(図１１)。
【００４６】
次にスムージングによりノイズを除去し(図１２)、エッジを抽出すると図１３の画像が得られる。エッジの抽出により、地色の影響が無くなり、また白抜き文字にも対応でき、さらにデータを単純化して、ハフ変換を容易にする。
【００４７】
図１４に、エッジの抽出フィルタ８０を示す。被処理画像８１に対し、フィルタ８０を左上側から適用することにより、被処理画像８１の下側と右側のエッジ８２を抽出する。これによって被処理画像８１のエッジ全体を検出する場合に比べ、エッジの量を１／２にできる。以上のように、好ましくは、上下左右４種類のエッジの内で、下と右、下と左、上と右、上と左のように、２種類のエッジを抽出する。エッジ抽出後の画像を二値化すると、図１５の画像が得られる。図１５の画像から孤立点を除去すると、図１６の画像が得られる。なお孤立点の除去は、図１３のエッジの画像に対して行っても良い。
【００４８】
図１５，図１６のように、図形部分の線あるいは写真部分の線が残っていると、傾斜角の誤検出の原因となる。そこで縮退処理を行うと図１７の画像が得られ、写真及び図形中の線は孤立点に変換され、文字の列からなる行は保存される。そこで縮退処理後の画像に対しハフ変換を行うことにより、文字の行から成る直線のみを検出できる。ただし図４のステップ１０のように、文字の行と向きが揃った表あるいは下線がある場合、表あるいは下線を用いて傾斜角を検出することが好ましい。このため、実装上は縮退処理後の画像と縮退処理前の画像の双方に対し、ハフ変換を行うことが好ましい。
【００４９】
ハフ変換により投票テーブルにデータが蓄積され、投票テーブルから投票数が最大の点のみを単純に取り出すと、誤った検出が行われることがある。図１８はこのような例を示し、図１８では画像の一部のみを表示するので、「最大投票直線」がどこから抽出されたのか分かり難いが、画像中の写真部分等から抽出されたものである。このため投票数が上位の点を複数抽出する。ここで単純に上位ｍ位までの点を抽出すると、投票テーブル内での近傍の点が複数抽出されることが多い。そこで投票テーブル５４から最上位の点を抽出し、抽出した点の近傍をマスクし、次の投票数の点を抽出し、再度その近傍の点を抽出するようにして、上位ｍ位の点を抽出する。ここで抽出した上位ｍ位のうち、最下位の点が最上位の点の例えば１／２以上の投票数を持たない場合、検出をエラーとする。文字から成る行を抽出している場合、最大投票数の点と、上からｍ位の点とで、投票数に余り大きな差はないはずである。これにもかかわらず大きな差があるのは、最上位の点が図形中の直線部分などである可能性が高い。あるいはまた、上位ｍ位(例えば１６位)のうちから、最上位の点に対して所定の割合以上(例えば１／２以上)の投票数を持つ点を抽出し、抽出した点の数が所定値ｋ(例えば４)以下の場合は、エラーとして傾斜角を未検出としても良い。  
【００５０】
図２０に投票テーブルの状況を模式的に示し、ここでは投票数を明度で表している。そして選択済みの点の近傍を、黒い四角形のマスクで覆っている。図２０では上位８点を抽出済みである。
【００５１】
抽出された上位ｍ位の点に対し、傾斜角を決定する。この手続を図２１，図２２に模式的に示し、ここではｍは例えば８とする。文字の行を検出している場合、文字ブロックの上下の列も同時に検出できるので、傾斜角θdと、その直交角φdとに意味がある。また候補を抽出する際の許容誤差をδ(０.５°あるいは１°程度)とし、角θｘ±δと      φｘ±δの範囲内に入る点の数ｋが最大となるように、θｘを決定する。ここでどの角度に対してもｋの値が閾値(例えばｍ／２)未満の場合、例えばエラーとする。閾値以上の点を含む角θｘが得られた場合、含まれる点の角度の単純加算平均、あるいは加重平均などにより、候補角を決定する。これは図８のステップ３６の処理である。
【００５２】
以上のようにして傾斜角θdを例えば±０.１°程度の精度で決定すると、画像回転部７０により画像を回転させて傾斜を補正する。画像の回転自身は単純な処理であり、例えばスキャンと同期して実行できる。
【００５３】
実施例では傾斜角の回転と補正とを複合機２の内部で行う例を示したが、パーソナルコンピュータ６などで行っても良い。その場合、実施例の画像処理プログラムをパーソナルコンピュータなどの情報処理装置で実行すると、情報処理装置はこの発明の画像処理装置となる。
本の見開きの傾斜を検出する場合、例えばスキャン前に原稿の種類が見開きであることを入力すると、左右別々の傾斜角を検出できる。あるいは入力画像を左右に分割して、傾斜角を求め、左右の傾斜角が異なると、見開きの画像であると推定しても良い。
【符号の説明】
【００５４】
２            複合機
４            ＬＡＮ
６            パーソナルコンピュータ
８            ルータ
１０          インターネット
１２          ＬＡＮインターフェース
１４          バス
１６          画像メモリ
１８          メモリ
２０          スキャナ
２２          プリンタ
２４          Ｇ３ファクシミリ部
２６          e-mail部
２８          ネットワークサーバ部
３０          ユーザインターフェース
３２          画像処理部
３４〜３８    フィルタ
４０          前処理部
４１          縮小処理部
４２          スムージング部
４３          エッジ抽出部
４４          二値化部
４５          孤立点除去部
４６          縮退処理部
５０          ハフ変換部
５１          実行ユニット
５２          ρ値計算部
５３          テーブル
５４          投票テーブル
５５          管理部
５６          データ
５７          マスク
６０          傾斜角検出部
６１          有効線抽出部
６２          候補角抽出部
６３          決定部  
７０          画像回転部
７１          座標計算部
７２          アドレス生成部
７３          bicubic処理部
８０          フィルタ
８１          被処理画像
８２          エッジ
【図１】
2010244354.tif 000003
【図２】
2010244354.tif 000004
【図３】
2010244354.tif 000005
【図４】
2010244354.tif 000006
【図５】
2010244354.tif 000007
【図６】
2010244354.tif 000008
【図７】
2010244354.tif 000009
【図８】
2010244354.tif 000010
【図１３】
2010244354.tif 000011
【図１４】
2010244354.tif 000012
【図１７】
2010244354.tif 000013
【図２１】
2010244354.tif 000014
【図２２】
2010244354.tif 000015
【図９】
2010244354.tif 000016
【図１０】
2010244354.tif 000017
【図１１】
2010244354.tif 000018
【図１２】
2010244354.tif 000019
【図１５】
2010244354.tif 000020
【図１６】
2010244354.tif 000021
【図１８】
2010244354.tif 000022
【図１９】
2010244354.tif 000023
【図２０】
2010244354.tif 000024