(57)【要約】【課題】  細い罫線・スキューの残った罫線の存在を正しく判定することができ、結果として補正画像の画質を向上させることができる画像歪み補正装置を提供する。【解決手段】  罫線を構成する主走査方向に予め定めた閾値以下の長さの黒画素を対象として矩形抽出を行い、副走査方向に細長い矩形の中からスキャン画像の歪み補正に利用するための罫線を包摂する矩形を選択する。これにより、細い罫線・スキューの残った罫線の存在を正しく判定することができ、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることができるので、結果として補正画像の画質を向上させることができる。【選択図】    図１８
2005229192.tif 000002
【特許請求の範囲】
【請求項１】
画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する画像歪み補正装置において、
前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する手段と、
抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する手段と、
抽出した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する手段と、
選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を選択する手段と、
を備えることを特徴とする画像歪み補正装置。
【請求項２】
画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する画像歪み補正装置において、
前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する手段と、
抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する手段と、
抽出した矩形の中で副走査方向における距離が予め定めた閾値以下の矩形同士を互いに統合する手段と、
抽出または統合した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する手段と、
選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を決定する手段と、
を備えることを特徴とする画像歪み補正装置。
【請求項３】
ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する、
ことを特徴とする請求項１または２記載の画像歪み補正装置。
【請求項４】
副走査方向の長さが最も長い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する、
ことを特徴とする請求項１または２記載の画像歪み補正装置。
【請求項５】
前記スキャン画像のページ外形に最も近い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する、
ことを特徴とする請求項１または２記載の画像歪み補正装置。
【請求項６】
前記スキャン画像の歪み補正に利用するための罫線を、ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線、副走査方向の長さが最も長い矩形に包摂される罫線、前記スキャン画像のページ外形に最も近い矩形に包摂される罫線の順に決定する、
ことを特徴とする請求項１または２記載の画像歪み補正装置。
【請求項７】
選択した閾値以上の矩形が前記スキャン画像の上端や下端に接している場合は、前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形とはみなさない、
ことを特徴とする請求項１ないし６の何れか一記載の画像歪み補正装置。
【請求項８】
統合した矩形がページ綴じ部を跨いで存在する場合には、ページ綴じ部を境にその矩形を分割する、
ことを特徴とする請求項２ないし６の何れか一記載の画像歪み補正装置。
【請求項９】
画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する処理をコンピュータに実行させるプログラムであって、前記コンピュータに、
前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する機能と、
抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する機能と、
抽出した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する機能と、
選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を選択する機能と、
を実行させることを特徴とするプログラム。
【請求項１０】
画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する処理をコンピュータに実行させるプログラムであって、前記コンピュータに、
前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する機能と、
抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する機能と、
抽出した矩形の中で副走査方向における距離が予め定めた閾値以下の矩形同士を互いに統合する機能と、
抽出または統合した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する機能と、
選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を決定する機能と、
を実行させることを特徴とするプログラム。
【請求項１１】
ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する、
ことを特徴とする請求項９または１０記載のプログラム。
【請求項１２】
副走査方向の長さが最も長い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する、
ことを特徴とする請求項９または１０記載のプログラム。
【請求項１３】
前記スキャン画像のページ外形に最も近い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する、
ことを特徴とする請求項９または１０記載のプログラム。
【請求項１４】
前記スキャン画像の歪み補正に利用するための罫線を、ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線、副走査方向の長さが最も長い矩形に包摂される罫線、前記スキャン画像のページ外形に最も近い矩形に包摂される罫線の順に決定する、
ことを特徴とする請求項９または１０記載のプログラム。
【請求項１５】
選択した閾値以上の矩形が前記スキャン画像の上端や下端に接している場合は、前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形とはみなさない、
ことを特徴とする請求項９ないし１４の何れか一記載のプログラム。
【請求項１６】
統合した矩形がページ綴じ部を跨いで存在する場合には、ページ綴じ部を境にその矩形を分割する、
ことを特徴とする請求項１０ないし１４の何れか一記載のプログラム。
【請求項１７】
請求項９ないし１６のいずれか一記載のプログラムを記憶することを特徴とする記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、書籍原稿画像を画像読取手段により読み取ったスキャン画像の歪みを補正する画像歪み補正装置、プログラム及び記憶媒体に関する。
【背景技術】
【０００２】
フラットベッドスキャナを用いて読み取る原稿の多くはシート状の原稿であり、コンタクトガラス上に開閉自在の圧板を設け、コンタクトガラス上に原稿を載置した後に圧板を閉じて原稿をスキャンするようにしている。しかし、原稿としてはシート状のものに限られず、書籍原稿（本、冊子など）も原稿として扱われることがあり、そのような場合にもコンタクトガラス上に書籍原稿を載置し、原稿をスキャンすることになる。
【０００３】
ところが、原稿として書籍原稿を用いた場合には、図５９に示すように、書籍原稿１００のページ綴じ部１０１がコンタクトガラス１０２から浮き上がってしまう。このように書籍原稿１００のページ綴じ部１０１がコンタクトガラス１０２から浮き上がってしまった場合には、ページ綴じ部１０１が焦点面から離れてしまうため、浮き上がった部分のスキャン画像には、画像歪み、影、文字ぼけなどの画像劣化が発生する。劣化した画像のページ綴じ部１０１は読みにくく、ＯＣＲにより文字認識処理を行うときの認識率が著しく低下する。特に、厚手製本ではその割合が高く、また、書籍原稿１００のページ綴じ部１０１を焦点面から離れないように加圧作業した場合には、書籍原稿１００自体を破損してしまうこともある。
【０００４】
このような問題を解決すべく、画像の濃度情報から物体の３次元形状を推定する方法を用いて、画像の歪みを補正する方法が提案されている。このような画像の濃度情報から物体の３次元形状を推定する方法としては、非特許文献１に記載されているShape from Shadingと呼ばれる方法が代表的な例である。
【０００５】
また、特許文献１には、三角測量方式により書籍の形状を測定し、歪みを補正する方法が提案されている。
【０００６】
さらに、特許文献２には、読み取りスキャン画像のページ外形の形状を用いて書籍表面の３次元形状を推定する方法が提案されている。
【０００７】
しかしながら、前述したShape from Shadingと呼ばれる方法によれば、計算量が多く、歪み補正処理の計算時間が長いので、実用化は困難である。
【０００８】
また、特許文献１に記載されている方法によれば、三角測量方式により書籍の形状を測定するための特別な形状計測装置が必要になるため、適当ではない。
【０００９】
さらに、特許文献２に記載されている方法によれば、少ない計算量で歪み補正ができるが、ページ外形が画像中に完全に収まりきれずに途中で切れているような場合には有効な補正ができない。
【００１０】
そこで、本出願人は、ページ外形が途中で切れているような読み取りスキャン画像であっても、その歪みを少ない計算量で有効に補正することができる画像歪み補正装置を特願2002-247643にて提案している。特願2002-247643によれば、ページ外形だけではなく文字行情報および罫線情報を用いて画像の歪みを補正し、しかも、スキャナ（画像読取手段）の固有パラメータ（レンズの焦点面距離、スキャン光軸の位置（アドレス））を利用していないので、任意のスキャナの出力画像を補正できる。
【００１１】
【非特許文献１】T. Wada, H. Uchida and T. Matsuyama, “Shape from Shading with Interreflections under a Proximal Light Source: Distortion-Free Copying of an Unfolded Book”, International Journal Computer Vision 24（2）, 125-135（1997）
【特許文献１】特開平5-161002号公報
【特許文献２】特開平11-41455号公報
【発明の開示】
【発明が解決しようとする課題】
【００１２】
しかしながら、上述したようなページ外形が途中で切れているような読み取りスキャン画像であっても、その歪みを少ない計算量で有効に補正することができる画像歪み補正装置によれば、ページ外形ではなく、文字行情報および罫線情報を用いて画像の歪みを補正するようにしているが、まだ、完全とはいえず、解決されねばならない課題が存在する。
【００１３】
例えば、罫線が存在していても、細かったり、かすれていたり、スキューが残っている場合には主走査方向に黒画素数が分散される形となるため、黒画素数のヒストグラム上にピークが表れにくくなる。また、黒画素数のヒストグラム上にピークが表れていても、黒画素数が予め定めた一定値以上となる可能性は低減する。仮に、その黒画素数の閾値を甘くすると、罫線がない箇所を罫線があると判定する誤認識が生じてしまう。その結果、罫線が存在するにもかかわらず罫線が存在していないと判定され、補正には文字行が使われるため、補正に罫線の情報を利用できず補正結果の精度が低下してしまう場合がある。
【００１４】
本発明は、細い罫線・スキューの残った罫線の存在を正しく判定することができ、結果として補正画像の画質を向上させることができる画像歪み補正装置、プログラム及び記憶媒体を提供することを目的とする。
【００１５】
本発明は、細い罫線・かすれた罫線・スキューの残った罫線の存在を正しく判定することができ、結果として補正画像の画質を向上させることができる画像歪み補正装置、プログラム及び記憶媒体を提供することを目的とする。
【課題を解決するための手段】
【００１６】
請求項１記載の発明の画像歪み補正装置は、画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する画像歪み補正装置において、前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する手段と、抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する手段と、抽出した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する手段と、選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を選択する手段と、を備える。
【００１７】
したがって、罫線を構成する主走査方向に予め定めた閾値以下の長さの黒画素を対象として矩形抽出が行われ、副走査方向に細長い矩形の中からスキャン画像の歪み補正に利用するための罫線を包摂する矩形が選択される。これにより、細い罫線・スキューの残った罫線の存在を正しく判定することが可能になり、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることが可能になるので、結果として補正画像の画質を向上させることが可能になる。
【００１８】
請求項２記載の発明の画像歪み補正装置は、画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する画像歪み補正装置において、前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する手段と、抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する手段と、抽出した矩形の中で副走査方向における距離が予め定めた閾値以下の矩形同士を互いに統合する手段と、抽出または統合した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する手段と、選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を決定する手段と、を備える。
【００１９】
したがって、罫線を構成する主走査方向に予め定めた閾値以下の長さの黒画素を対象として矩形抽出が行われ、副走査方向に細長い矩形の中からスキャン画像の歪み補正に利用するための罫線を包摂する矩形が選択される。また、表など副走査方向の罫線と主走査方向の罫線とが交差している画像、かすれた罫線や点線に対して矩形抽出を行うと、主走査方向の罫線はランとして登録されないため、副走査方向に矩形が細切れに抽出されてしまうことになるが、副走査方向における距離が予め定めた閾値以下の矩形同士を統合することにより、罫線全体が１つの矩形として抽出することが可能になる。これにより、細い罫線・かすれた罫線・スキューの残った罫線の存在を正しく判定することが可能になり、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることが可能になるので、結果として補正画像の画質を向上させることが可能になる。
【００２０】
なお、選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を決定する手段においては、請求項３記載の発明のように、ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定し、または、請求項４記載の発明のように、副走査方向の長さが最も長い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定し、もしくは、請求項５記載の発明のように、前記スキャン画像のページ外形に最も近い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する。また、請求項６記載の発明のように、前記スキャン画像の歪み補正に利用するための罫線を、ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線、副走査方向の長さが最も長い矩形に包摂される罫線、前記スキャン画像のページ外形に最も近い矩形に包摂される罫線の順に決定するようにしても良い。
【００２１】
請求項７記載の発明は、請求項１ないし６の何れか一記載の画像歪み補正装置において、選択した閾値以上の矩形が前記スキャン画像の上端や下端に接している場合は、前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形とはみなさない。
【００２２】
したがって、副走査方向に細長い矩形の位置が画像の上端や下端に接している場合は、その矩形がノイズである可能性があることから、スキャン画像の歪み補正に利用するための罫線とはみなさないようにすることにより、補正画像の画質向上を図ることが可能になる。
【００２３】
請求項８記載の発明は、請求項２ないし６の何れか一記載の画像歪み補正装置において、統合した矩形がページ綴じ部を跨いで存在する場合には、ページ綴じ部を境にその矩形を分割する。
【００２４】
したがって、左右のページそれぞれで細長い矩形が抽出された場合（例えば、左上と右上、左下と右下）、画像によってはページ綴じ部をまたがる形で左右ページの矩形が統合されることがあり、水平方向画像全体に細長い矩形が抽出されることから、抽出された矩形にそのような特徴が見られた場合は、ページ綴じ部位置を境にその矩形を分割することにより、補正画像の画質向上を図ることが可能になる。
【００２５】
請求項９記載の発明のプログラムは、画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する処理をコンピュータに実行させるプログラムであって、前記コンピュータに、前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する機能と、抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する機能と、抽出した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する機能と、選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を選択する機能と、を実行させる。
【００２６】
したがって、罫線を構成する主走査方向に予め定めた閾値以下の長さの黒画素を対象として矩形抽出が行われ、副走査方向に細長い矩形の中からスキャン画像の歪み補正に利用するための罫線を包摂する矩形が選択される。これにより、細い罫線・スキューの残った罫線の存在を正しく判定することが可能になり、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることが可能になるので、結果として補正画像の画質を向上させることが可能になる。
【００２７】
請求項１０記載の発明のプログラムは、画像読取手段の主走査方向に対してページ綴じ部がほぼ平行となるようにスキャン面の上もしくは下に接触した書籍原稿画像を前記画像読取手段により読み取ったスキャン画像の歪みを当該スキャン画像内の罫線の形状を基に補正する処理をコンピュータに実行させるプログラムであって、前記コンピュータに、前記スキャン画像から主走査方向に予め定めた閾値以下の長さの黒画素が連結する黒画素ランのみを抽出する機能と、抽出した黒画素ランの中で副走査方向に互いに接している黒画素ラン同士を連結し、連結した黒画素全体を包摂する矩形を抽出する機能と、抽出した矩形の中で副走査方向における距離が予め定めた閾値以下の矩形同士を互いに統合する機能と、抽出または統合した矩形の中から、（矩形の副走査方向の長さ）／（矩形の主走査方向の長さ）が予め定めた閾値以上の矩形を選択する機能と、選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を決定する機能と、を実行させる。
【００２８】
したがって、罫線を構成する主走査方向に予め定めた閾値以下の長さの黒画素を対象として矩形抽出が行われ、副走査方向に細長い矩形の中からスキャン画像の歪み補正に利用するための罫線を包摂する矩形が選択される。また、表など副走査方向の罫線と主走査方向の罫線とが交差している画像、かすれた罫線や点線に対して矩形抽出を行うと、主走査方向の罫線はランとして登録されないため、副走査方向に矩形が細切れに抽出されてしまうことになるが、副走査方向における距離が予め定めた閾値以下の矩形同士を統合することにより、罫線全体が１つの矩形として抽出することが可能になる。これにより、細い罫線・かすれた罫線・スキューの残った罫線の存在を正しく判定することが可能になり、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることが可能になるので、結果として補正画像の画質を向上させることが可能になる。
【００２９】
なお、選択した閾値以上の矩形の中から前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形を決定する機能においては、請求項１１記載の発明のように、ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定し、または、請求項１２記載の発明のように、副走査方向の長さが最も長い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定し、もしくは、請求項１３記載の発明のように、前記スキャン画像のページ外形に最も近い矩形に包摂される罫線を前記スキャン画像の歪み補正に利用するための罫線と決定する。また、請求項１４記載の発明のように、前記スキャン画像の歪み補正に利用するための罫線を、ページ綴じ部付近まで最も食い込んでいる矩形に包摂される罫線、副走査方向の長さが最も長い矩形に包摂される罫線、前記スキャン画像のページ外形に最も近い矩形に包摂される罫線の順に決定するようにしても良い。
【００３０】
請求項１５記載の発明は、請求項９ないし１４の何れか一記載のプログラムにおいて、選択した閾値以上の矩形が前記スキャン画像の上端や下端に接している場合は、前記スキャン画像の歪み補正に利用するための罫線を包摂する矩形とはみなさない。
【００３１】
したがって、副走査方向に細長い矩形の位置が画像の上端や下端に接している場合は、その矩形がノイズである可能性があることから、スキャン画像の歪み補正に利用するための罫線とはみなさないようにすることにより、補正画像の画質向上を図ることが可能になる。
【００３２】
請求項１６記載の発明は、請求項１０ないし１４の何れか一記載のプログラムにおいて、統合した矩形がページ綴じ部を跨いで存在する場合には、ページ綴じ部を境にその矩形を分割する。
【００３３】
したがって、左右のページそれぞれで細長い矩形が抽出された場合（例えば、左上と右上、左下と右下）、画像によってはページ綴じ部をまたがる形で左右ページの矩形が統合されることがあり、水平方向画像全体に細長い矩形が抽出されることから、抽出された矩形にそのような特徴が見られた場合は、ページ綴じ部位置を境にその矩形を分割することにより、補正画像の画質向上を図ることが可能になる。
【００３４】
請求項１７記載の発明の記憶媒体は、請求項９ないし１６のいずれか一記載のプログラムを記憶する。
【００３５】
したがって、請求項９ないし１６のいずれか一記載のプログラムを有体物の形態で取り扱うことが可能となる。
【発明の効果】
【００３６】
本発明によれば、細い罫線・スキューの残った罫線の存在を正しく判定することができ、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることができるので、結果として補正画像の画質を向上させることができる。
【００３７】
本発明によれば、細い罫線・かすれた罫線・スキューの残った罫線の存在を正しく判定することができ、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることができるので、結果として補正画像の画質を向上させることができる。
【発明を実施するための最良の形態】
【００３８】
本発明の実施の一形態を図１ないし図５８に基づいて説明する。本実施の形態の画像歪み補正装置は画像形成装置であるデジタル複写機に備えられており、画像読取装置としてはデジタル複写機のスキャナ部が適用されている。
【００３９】
ここで、図１はスキャナ部１の構成を示す縦断正面図である。図１に示すように、スキャナ部１は、原稿を載置するコンタクトガラス２と、原稿の露光用の露光ランプ３および第一反射ミラー４からなる第一走行体５と、第二反射ミラー６および第三反射ミラー７からなる第二走行体８と、原稿の画像を読み取る撮像素子としてのＣＣＤ（Charge Coupled Device）９と、このＣＣＤ９に結像させるためのレンズユニット１０と、原稿を載置する基準になるとともにコンタクトガラス２のズレや外れを防止する原稿スケール１１と、この原稿スケール１１の下側に設置されたシェーディング補正用の白基準板１２と、フレーム１４とを備えている。ＣＣＤ９はセンサボード１３上に形成されている。
【００４０】
原稿の走査時には、第一走行体５および第二走行体８はステッピングモータ２４（図３参照）によって副走査方向に移動する。すなわち、第一走行体５および第二走行体８がコンタクトガラス２の下を走行して、露光ランプ３で原稿を露光走査し、その反射光を第一反射ミラー４、第二反射ミラー６および第三反射ミラー７で反射して、レンズユニット１０を通してＣＣＤ９に結像させる。ここに、画像読取手段が実現されている。
【００４１】
このようなスキャナ部１は、このスキャナ部１で読み取られた原稿の画像に基づく画像データに応じ、例えば電子写真方式で用紙上に画像の形成を行う画像印刷装置であるプリンタ部（図示せず）を備えるデジタル複写機１６に搭載されている。図２は、スキャナ部１を搭載したデジタル複写機１６の上部部分を示す斜視図である。図２に示すように、スキャナ部１には、コンタクトガラス２に対して開閉自在な圧板１７と、この圧板１７の開閉を検出する開閉センサ１８とが設けられている。なお、デジタル複写機１６に備えられるプリンタとしては、電子写真方式のほか、インクジェット方式、昇華型熱転写方式、銀塩写真方式、直接感熱記録方式、溶融型熱転写方式など、種々の印刷方式を適用することができる。その具体的な構成については周知であるため、詳細な説明は省略する。
【００４２】
図３は、スキャナ部１の制御系の電気的な接続を示すブロック図である。図３に示すように、この制御系は、スキャナ部１の全体を制御するメイン制御部１９に、ＣＣＤ９で読み取った画像データに各種の画像処理を施す回路である画像処理部２０と、第一走行体５および第二走行体８を制御する回路である走行体制御部２１と、デジタル複写機１６への各種操作を受け付け、また、各種メッセージを表示する操作パネル２２と、ＣＣＤ９で読み取った画像データや所定のデータ等を記憶するメモリ２３とが接続されている。なお、操作パネル２２には、コピー開始を宣言するためのコピースタートキー等が設けられている。また、走行体制御部２１には、露光ランプ３と、第一走行体５および第二走行体８を駆動するステッピングモータ２４と、第一走行体５および第二走行体８がホームポジションにあるか否かを検出するスキャナホームポジションセンサ（ＨＰセンサ）２５と、開閉センサ１８とが接続されている。
【００４３】
ここで、図４は画像処理部２０の基本的な内部構成を示すブロック図である。図４に示すように、画像処理部２０は、原稿をＣＣＤ９により読み取ったアナログ画像信号の増幅処理やデジタル変換処理等を行うアナログビデオ処理部２６、シェーディング補正処理を行うシェーディング補正処理部２７、シェーディング補正処理後のデジタル画像信号に、ＭＴＦ補正、変倍処理、γ補正等の各種画像データ処理を行いスキャン画像を生成する画像データ処理部２８から構成されている。以上のような画像処理後のデジタル画像信号は、メイン制御部１９を介してプリンタ部に送信されて、画像形成に供される。
【００４４】
メイン制御部１９は、図５に示すように、各部を集中的に制御するＣＰＵ（Central Processing Unit）３１を備えており、このＣＰＵ３１には、ＢＩＯＳなどを記憶した読出し専用メモリであるＲＯＭ（Read Only Memory）３２と、各種データを書換え可能に記憶してＣＰＵ３１の作業エリアとして機能するＲＡＭ（Random Access Memory）３３とがバス３４で接続されており、マイクロコンピュータを構成している。さらにバス３４には、制御プログラムが記憶されたＨＤＤ３５と、ＣＤ（Compact Disc）−ＲＯＭ３７を読み取るＣＤ−ＲＯＭドライブ３６と、プリンタ部等との通信を司るインタフェース（Ｉ／Ｆ）３８とが接続されている。
【００４５】
図５に示すＣＤ−ＲＯＭ３７は、この発明の記憶媒体を実施するものであり、所定の制御プログラムが記憶されている。ＣＰＵ３１は、ＣＤ−ＲＯＭ３７に記憶されている制御プログラムをＣＤ−ＲＯＭドライブ３６で読み取り、ＨＤＤ３５にインストールする。これにより、メイン制御部１９は、後述するような各種の処理を行うことが可能な状態となる。
【００４６】
なお、記憶媒体としては、ＣＤ−ＲＯＭ３７のみならず、ＤＶＤなどの各種の光ディスク、各種光磁気ディスク、フレキシブルディスクなどの各種磁気ディスク、半導体メモリ等、各種方式のメディアを用いることができる。また、インターネットなどのネットワークからプログラムをダウンロードし、ＨＤＤ３５にインストールするようにしてもよい。この場合に、送信側のサーバでプログラムを記憶している記憶装置も、この発明の記憶媒体である。なお、プログラムは、所定のＯＳ（Operating System）上で動作するものであってもよいし、その場合に後述の各種処理の一部の実行をＯＳに肩代わりさせるものであってもよいし、ワープロソフトなど所定のアプリケーションソフトやＯＳなどを構成する一群のプログラムファイルの一部として含まれているものであってもよい。
【００４７】
次に、メイン制御部１９に設けられたＣＰＵ３１が制御プログラムに基づいて実行する各種処理の内容について説明する。ここでは、ＣＰＵ３１が実行する処理のうち、本実施の形態のスキャナ部１が備える特長的な機能であるスキャン画像の歪み補正機能を実現するスキャン画像の歪み補正処理についてのみ説明する。すなわち、メイン制御部１９は画像歪み補正装置として機能するものである。
【００４８】
図６は、スキャン画像の歪み補正処理の流れを概略的に示すフローチャートである。なお、ここでは、図７に示すように、書籍原稿４０がそのページ綴じ部４１とスキャナ部１の画像読み取りの主走査方向とが平行になるように位置させてコンタクトガラス２に載置されている場合について説明する。
【００４９】
まず、ステップＳ１において、画像データ処理部２８から出力されたコンタクトガラス２に載置されている書籍原稿４０のスキャン画像を入力する。ここで、図８は入力した画像の一例を示したものである。そして、図９に示すように、入力された書籍原稿４０のスキャン画像には、ページ綴じ部４１の近傍において歪みが生じている。
【００５０】
次いで、書籍原稿４０のスキャン画像（例えば、モノクロ多値画像）の最適２値化処理を実行し（ステップＳ２）、副走査方向の黒画素（スキャン画像の画素の中でその濃度値が予め定めた濃度値よりも濃い画素）数のヒストグラムを求める（ステップＳ３）。図１０は、図８に示した画像の綴じ部境界線左側の黒画素ヒストグラムである。図１０中の横軸は、主走査方向の黒画素（スキャン画像の画素の中でその濃度値が予め定めた濃度値よりも濃い画素）の位置を示し、図１０中の縦軸は、その位置毎の黒画素数を示すものである。なお、ページ綴じ部４１のスキャン画像である綴じ部境界線としては、スキャン画像中の画素の中でその濃度値が元も濃い画素が位置する副走査方向の位置が選択される。
【００５１】
なお、スキャン画像がカラー多値画像の場合における２値化処理は、例えばＲＧＢ成分の何れか一つの成分に着目し（例えばＧ成分）、Ｇ成分の所定の濃度閾値よりも大きいものを黒画素とし、Ｇ成分の所定の濃度閾値よりも小さいものを白画素とすれば良い。また、ＲＧＢを色変換して輝度成分と色差成分とに分け、輝度成分で閾値処理を行うようにしても良い。
【００５２】
続くステップＳ４においては、ページ外形／罫線／文字行の抽出処理を実行する。ここで、図１１は、ページ外形／罫線／文字行の抽出処理の流れを概略的に示すフローチャートである。
【００５３】
［スキャン画像からのページ外形の抽出］
まず、ステップＳ４１におけるスキャン画像からのページ外形の抽出処理について説明する。ここで、図１２は上端にページ外形が存在するスキャン画像の一例を示す説明図、図１３は図１２に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムである。図１３に示すヒストグラムのｘ軸はスキャン画像の主走査方向（図１２の上下方向）を示すものであり、スキャン画像の上端はヒストグラムの左端に対応付けられている。なお、ページ外形が下端に存在するスキャン画像の場合には、スキャン画像の下端がヒストグラムの右端に対応付けられることになる。したがって、図１２に示すようにスキャン画像の上端にページ外形が存在する場合、スキャン画像の上部に黒い帯が現れることから、図１３に示すヒストグラムの左端には高い縦棒が現れることになる。本実施の形態では、このような特性を利用して、スキャン画像にページ外形が存在するか否かの判断を行う。
【００５４】
より具体的には、図１３に示すように、綴じ部境界線からスキャン画像の左端（図１２の左端）までの距離ＡＯ、ヒストグラム縦棒の高さＢＯとし、その比率を下記に示す式（１）により算出し、
【数１】
2005229192.tif 000003
算出された比率ｋが、予め定められた閾値よりも大きい場合に、スキャン画像にページ外形が存在すると判断する。
【００５５】
なお、スキャン画像の上下にページ外形が存在する場合には、ヒストグラムの左右両端に高い縦棒が現れることになるので、このような場合には、ヒストグラムの左右両端の高い縦棒に基づいてスキャン画像にページ外形が存在するか否かの判断がそれぞれ実行される。
【００５６】
以上の処理により、スキャン画像にページ外形が存在すると判断された場合には、左右ページの上下辺のいずれにページ外形が存在しているのかという情報とともにページ外形を抽出し、ＲＡＭ３３に一時的に記憶する。
【００５７】
なお、このスキャン画像にページ外形が存在するか否かの判断処理は、スキャン画像の綴じ部境界線を境にした左右ページ毎に実行される。
【００５８】
［スキャン画像からの罫線の抽出］
続くステップＳ４２においては、スキャン画像からの罫線の抽出処理を実行する。ステップＳ４２におけるスキャン画像からの罫線の抽出処理について説明する。
【００５９】
［罫線候補の検出］
ここで、図１４は罫線が存在するスキャン画像の一例を示す説明図である。本実施の形態では、罫線の矩形抽出を導入し、図１４に示すようなスキャン画像に存在する罫線を１つの矩形として抽出する。なお、詳細については後述するが、ただ単に矩形抽出を行うだけでは罫線が単独で抽出できない場合もあるために、本実施の形態では、ランの登録に制限を設けた矩形抽出を行う。
【００６０】
図１５は、２値化した画像に矩形抽出を施した結果を示す説明図である。図１５に示すように、黒画素が連結している箇所が１つの矩形として抽出される。図１５に示すように、罫線が存在していれば、副走査方向に細長い矩形として抽出されることから、細長い矩形の有無や抽出した矩形の形状（長さ・縦横比）や位置を基に罫線の有無の判定を行う。
【００６１】
ただし、ただ単に矩形抽出を行うだけでは、罫線が単独で抽出できない場合もある。図１６に示すように、罫線がノイズと接触している場合、ノイズを含む矩形が抽出されてしまう。また、図１７のような表が含まれる画像の場合は、副走査方向の罫線は主走査方向の罫線と交差するため、表全体が１つの矩形として抽出され罫線が単独で抽出できない。
【００６２】
［ランの登録に制限を設けた矩形抽出］
そこで、罫線を単独で抽出するために、ランの登録に制限を設けた矩形抽出を行う。図１６に示すような罫線とノイズが接触している画像に対して、主走査方向（垂直方向）に一定値未満のランのみを登録し矩形を抽出すると、図１８に示すように罫線を構成する黒画素は登録対象のランとなるが、ノイズを構成する黒画素はランとして登録されない。罫線を構成する黒画素を対象として矩形抽出を行うため、罫線を単独で抽出することができる。
【００６３】
なお、罫線を矩形抽出するにあたって、副走査方向（水平方向）に長いランのみを対象に矩形抽出を行う方法もあるが、この方法だと綴じ部付近の歪み部分は矩形内に含まれない。ところが、本実施の形態の方式を用いることにより、罫線の綴じ部付近の歪み部分も矩形内に含めることが可能となり、より正確な罫線の位置や長さを検出することが出来る。
【００６４】
［矩形統合］
表など、副走査方向（水平方向）の罫線と主走査方向（垂直方向）の罫線とが交差している画像に矩形抽出を行うと、主走査方向の罫線はランとして登録されないため、副走査方向に矩形が細切れに抽出されてしまう。すると、図１９に示すように、副走査方向に長い罫線があるにもかかわらず、その罫線は１つの矩形として抽出されず、複数の細切れの矩形となって抽出される。
【００６５】
そこで、矩形統合を行う。副走査方向における距離が一定値以下の矩形同士を統合する。図２０は、矩形統合を施した例である。矩形統合は、図２０に示すように、細切れになっていた矩形を１つの矩形に統合し、罫線の矩形を抽出するものである。この矩形統合は、かすれた罫線や点線の罫線に対して行っても、罫線全体が１つの矩形として抽出されるため有効な方法である。
【００６６】
［最適罫線の選択］
次いで、一定値未満のランのみを登録した矩形抽出を行い、副走査方向に細長い矩形の有無にて罫線の有無を判定する。このような罫線の有無の判定は、画像の左上・左下・右上・右下の４箇所それぞれにおいて行う。例えば、図２１に示す画像の場合、左上にのみ罫線が存在しないということになる。ある箇所にて複数罫線が存在する場合は、補正に利用する罫線を以下の優先順位で決定する。
１．綴じ部付近まで食い込んでいる罫線
例えば、図２１に示す画像の右下の場合、綴じ部付近まで食い込んでいる罫線が補正に利用される。
２．長さが長い方の罫線
例えば、図２１に示す画像の右上の場合、双方の罫線は綴じ部付近まで食い込んでいるため、長さが長い方の罫線が補正に利用される。
３．位置が外側の罫線
例えば、図２１に示す画像の左下の場合、双方の罫線は綴じ部付近まで食い込んでいて、なおかつ、長さがほぼ同じため、画像の外側に位置する罫線が補正に利用される。
【００６７】
［最適罫線の座標値検出］
以上のようにして最適罫線を選択した後、各罫線の座標値を検出する。罫線の位置座標は、抽出された矩形の座標から得ることができる。なお、特殊な例として、副走査方向に細長い矩形の位置が画像の上端や下端に接している場合は、その矩形がノイズである可能性を考慮して、罫線とはみなさないものとする。また、左右のページそれぞれで細長い矩形が抽出された場合（例えば、左上と右上、左下と右下）、画像によっては、綴じ部をまたがる形で左右ページの矩形が統合されることがある。すると、水平方向画像全体に細長い矩形が抽出されることから、抽出された矩形にそのような特徴が見られた場合は、綴じ部位置を境にその矩形を分割する。
【００６８】
以上の処理により、スキャン画像に罫線が存在すると判断された場合には、左右各ページのいずれの位置に罫線が存在しているのかという情報とともに罫線を抽出し、ＲＡＭ３３に一時的に記憶する。
【００６９】
［スキャン画像からの文字行の抽出］
続くステップＳ４３においては、スキャン画像からの文字行の抽出処理を実行する。ステップＳ４３におけるスキャン画像からの文字行の抽出処理について説明する。本実施の形態においては、まず、スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別を行う。
【００７０】
［文字行の判別］
スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別手法について説明する。ここで、図２２は図８に示した画像の副走査方向の黒白反転数ヒストグラムである。図２２中の横軸は、副走査方向（左右方向）の黒画素（スキャン画像を黒白反転させた画素の中でその濃度値が予め定めた濃度値よりも濃い画素）の主走査方向上での位置を示し、図２２中の縦軸は、その位置毎の黒画素数を示すものである。また、図２３は図８に示した画像の主走査方向の黒白反転数ヒストグラムである。図２３中の横軸は、主走査方向（上下方向）の黒画素（スキャン画像を黒白反転させた画素の中でその濃度値が予め定めた濃度値よりも濃い画素）の副走査方向上での位置を示し、図２３中の縦軸は、その位置毎の黒画素数を示すものである。画像中の文字が横書きの図８に示したようなスキャン画像の場合、図２２に示すような副走査方向のヒストグラムは激しく変化するが、図２３に示すような主走査方向のヒストグラムの変化は少ない。また、特に図示しないが、スキャン画像中の文字行が縦書き文字行である場合には、主走査方向のヒストグラムは激しく変化するが、副走査方向のヒストグラムの変化は少ない。
【００７１】
上述したような判別手法は、具体的には下記に示す各式により実現される。まず、下記に示す式（２）により、
【数２】
2005229192.tif 000004
主走査方向ｙの位置でのヒストグラム値Pnt（ｙ）の平均値meanＨが算出される。ここで、heightは画像の高さである。
そして、下記に示す式（３）により、
【数３】
2005229192.tif 000005
副走査方向のヒストグラムの主走査方向に関する分散σＨが得られる。
同様に、下記に示す式（４）により、
【数４】
2005229192.tif 000006
副走査方向ｘの位置でのヒストグラム値Pnt（ｘ）の平均値meanＶが算出される。ここで、widthは画像の幅である。
そして、下記に示す式（５）により、
【数５】
2005229192.tif 000007
主走査方向のヒストグラムの副走査方向に関する分散σｖが得られる。
【００７２】
上述したようにスキャン画像中の文字行が横書き文字行である場合には、副走査方向のヒストグラムの主走査方向に関する分散σＨが、主走査方向のヒストグラムの副走査方向に関する分散σｖより大きい。逆に、スキャン画像中の文字行が縦書き文字行である場合には、主走査方向のヒストグラムの副走査方向に関する分散σｖが、副走査方向のヒストグラムの主走査方向に関する分散σＨより大きい。つまり、分散σＨと分散σｖとの比較により、スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別が可能になっている。
【００７３】
なお、スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別に、黒白反転数ヒストグラムを用いたのは、文字行と写真部分との混同を避けるためである。一般に、黒画素ヒストグラムの値が同程度の場合、文字領域のほうが写真領域よりも黒白反転数ヒストグラムの値が大きくなるからである。
【００７４】
［横書き文字行の座標検出］
以上のようにして文字行を判別した後、まず、各横書き文字行の座標を検出する。横書き文字行の座標の検出にあたっては、文字単位の外接矩形抽出処理を行うとともに、横書き文字行の抽出処理を行う。なお、文字認識処理については周知の技術であるので、その説明は省略する。ここで、スキャン画像の文字外接矩形抽出処理および文字行抽出処理の結果の一例を図２４に示す。そして、各文字の外接矩形の中心点の座標をその文字の座標とみなし、横書き文字行の座標を検出する。
【００７５】
［最適横書き文字行の選択］
次に、抽出した横書き文字行の中から歪み補正に最適な横書き文字行を選択する。複数の横書き文字行が検出される場合、どの横書き文字行を用いて歪み補正するかを選択する必要がある。最適な横書き文字行の選択基準の一例としては、前述した最適な罫線の選択基準と基本的に同様であって、図２５に示すように横書き文字行の長さＢＣが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内（図２５の網掛け領域）に横書き文字行の一部Ｃがかかっていることを条件とし、その中で上下何れかのページ外形に最も近い横書き文字行を選択するようにする。ここで、Ｂは文字行の一番左の矩形の中心であり、Ｃは一番右の矩形の中心である。なお、最適な横書き文字行の選択は、左右ページから各１本ずつのページ外形に最も近い横書き文字行を選択するものであっても良いし、左右ページをさらに上下部分に分け、その各４ブロックにおいて１本ずつのページ外形に最も近い横書き文字行を選択するものであっても良い。
【００７６】
なお、上記２条件（横書き文字行の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内に横書き文字行の一部がかかっている）については、その両方ではなく何れか一方のみを満足するものであっても良い。また、選択基準として上例では「ページ外形に最も近い」を用いているが、これに限るものではなく、「横書き文字行の湾曲が最も大きい」を用いても良い。ここで、「横書き文字行の湾曲」は横書き文字行の両端の文字外接矩形の中心座標の主走査方向の座標値の差で表すものとする。
【００７７】
［最適横書き文字行の座標値の決定］
最適な横書き文字行が選択された場合には、横書き文字行の（主走査方向の）座標値を決定する。横書き文字行の（主走査方向の）座標値は、横書き文字行内の各文字外接矩形の中心点を連結し、直線部分と曲線部分とを近似して抽出することにより横書き文字行の（主走査方向の）座標値を決定することになる。より詳細には、図２５に示すＤは綴じ部境界線であり、ＢＤの間は多項式近似曲線で（主走査方向の）座標値を推定し、一番左端のＡとＢとの間は近似直線の値で（主走査方向の）座標値を推定する。
【００７８】
［不適切な横書き文字行の排除］
最後に不適切な横書き文字行を排除する。これは、前述したように多項式近似により座標値を推定する際に、多項式近似による推定曲線の形状が不適切である場合には補正の際にかえって歪みが増大する恐れがあるので、このような横書き文字行を排除するものである。不適切な近似曲線形状の例としては、前述した罫線の場合と同様であって、特に図示しないが、曲線が書籍の外側へ向かうような場合や、中心線を超えて大きく内側へ食い込むような場合である。
【００７９】
なお、推定曲線の形状が不適切であるとして横書き文字行を排除した場合には、再び最適な横書き文字行を選択し、上記の処理を繰り返すことになる。
【００８０】
以上の処理により、スキャン画像に横書き文字行が存在すると判断された場合には、左右各ページのいずれの位置に横書き文字行が存在しているのかという情報とともに横書き文字行を抽出し、ＲＡＭ３３に一時的に記憶する。
【００８１】
［縦書き文字行に基づく横書き文字行の抽出］
次に、各縦書き文字行から横書き文字行を抽出する。
【００８２】
図２６は、各縦書き文字行からの横書き文字行の抽出処理の流れを概略的に示すフローチャートである。図２６に示すように、まず、縦書き文字行の行切り出し矩形を抽出する（ステップＳ２０１）。なお、縦書き文字行の行切り出し矩形の抽出処理は、ＯＣＲ等で一般に用いられている周知の技術をそのまま利用することができるので、その説明は省略する。図２７は、抽出した行切り出し矩形を例示的に示す説明図である。
【００８３】
次いで、縦書き文字行の先頭（もしくは末尾）のｙ座標が最大（もしくは最小）の縦書き文字行を抽出し、さらに、そこから予め定めた距離範囲内に先頭（もしくは末尾）が存在する縦書き文字行を抽出する（ステップＳ２０２）。より具体的には、図２７に示した例においては、図２８に示すように、縦書き文字行の先頭文字のｙ座標が最大の縦書き文字行はＡで示した縦書き文字行である。そして、その先頭位置から予め定めた距離範囲ｈ内に存在する行先頭文字は、図２８中、黒丸“●”で示した文字である。すなわち、黒丸“●”で示す文字を含む縦書き文字行のみを抽出し、それ以外の縦書き文字行Ｂ，Ｃは除外する。なお、ｈはスキャン画像の解像度によって定められる定数である。
【００８４】
次に、抽出した縦書き文字行の先頭（もしくは末尾）のｙ座標に関してヒストグラムを構成する（ステップＳ２０３）。図２９では、ページの左端に近い縦書き文字行Ｄを基準行とし、その先頭のｙ座標（ｙＤ）を基準座標としている。以後、ｙＤに対して一定幅ｄ（例えば抽出した縦書き文字行の平均幅の１／２）の範囲内に先頭が存在する縦書き文字行の数を、ｙＤに関するヒストグラムの値とする。図２９では、ｙＤを示す直線を上下に挟む点線の範囲内に先頭が存在する縦書き文字行がその対象となる。したがって、ページの左端に近い縦書き文字行Ｄの右隣の縦書き文字行Ｅは、その範囲外である。このように、既存の基準座標の対象範囲に先頭が含まれない縦書き文字行が出現した場合は、その縦書き文字行を新たな基準行とし、その先頭座標を新たな基準座標（ここでは、ｙＥ）とする。また、縦書き文字行Ｅの右隣の縦書き文字行Ｆの行先頭座標はｙＤの対象範囲に含まれるので、新たな基準座標を設けることなく、ｙＤに関するヒストグラムの値を１だけカウントアップする。
【００８５】
以下、同様の処理を綴じ部境界線に向かって続けて行く。その結果、図２９に示す例では、ｙＤの対象範囲に含まれる縦書き文字行は斜線を施した矩形で囲まれた７つで、ｙＥの対象範囲に含まれる縦書き文字行は網掛けを施した矩形で囲まれた４つとなる（これら以外の矩形で囲まれた縦書き文字行に関しても、基準行、基準座標と対象範囲がそれぞれ定められるが、図２９では省略している）。なお、ｙＤの対象範囲には本来無関係であるべき縦書き文字行Ｇも含まれているが、次のステップＳ２０４にてこれは除外される。
【００８６】
続いて、ステップＳ２０３にて構成したヒストグラムの中で、最大の値に対応する基準行の対象範囲に含まれる縦書き文字行の中で、最もページの左端（もしくは右端）にある縦書き文字行（基準行）を開始行として、綴じ部境界線へ向かって、先頭（もしくは末尾）のｙ座標が近接した縦書き文字行を抽出する（ステップＳ２０４）。図２９では、基準座標ｙＤの対象範囲に含まれる文字行が７つと最大であったので、その中の左端の縦書き文字行Ｄを開始行とし、開始行（縦書き文字行Ｄ）から綴じ部境界線へ向かって先頭のｙ座標が近接した縦書き文字行を抽出していく。
【００８７】
ところで、開始行（縦書き文字行Ｄ）から綴じ部境界線へ向かって先頭のｙ座標が近接した縦書き文字行を抽出する際には、画像の歪みを生じていない部分と歪みを生じている部分とで処理内容を切り替える。
【００８８】
まず、画像の歪みを生じていない部分における処理について図３０を参照しつつ説明する。画像の歪みを生じていない部分では、着目行Ｈを基準として、次の２条件を満足する縦書き文字行を抽出する。
１．ｙ座標の正方向（図３０中、上方へ向かう方向）に関して、着目行Ｈの先頭位置から一定範囲内ｂ１（例えば平均文字行幅の１／２）に抽出する縦書き文字行の先頭が存在すること
２．ｙ座標の負方向（図３０中、下方へ向かう方向）に関して、着目行Ｈの先頭位置から見てｘ座標の正方向（綴じ部境界線へ向かう方向）に対して予め定めた一定角度（ここでは、角度を直線の傾き（ｂ２／ａ１）で表している）の範囲内に抽出する縦書き文字行の先頭が存在すること
すなわち、着目行Ｈの次の縦書き文字行Ｉの先頭は上記の範囲外なので除外することになるが、さらに次の縦書き文字行Ｊの先頭は範囲内に存在するので抽出することになる。以下、縦書き文字行Ｊを新たな着目行として同様の処理を続ける。
【００８９】
次に、画像の歪みを生じている部分における処理について図３１を参照しつつ説明する。画像の歪みを生じている部分では、着目行Ｌを基準として、次の２条件を満足する縦書き文字行を抽出する。
１．ｙ座標の負方向（図３１中、下方へ向かう方向）に関して、着目行Ｌの先頭位置から見てｘ座標の正方向（綴じ部境界線へ向かう方向）に対して予め定めた一定角度（ここでは、角度を直線の傾き（ｂ３／ａ２）で表しているが、歪みを生じている部分では基本的にページの内側へ文字行の先頭が食い込んでいくのを考慮して、ｂ２／ａ１＜ｂ３／ａ２とする）の範囲内に抽出する縦書き文字行の先頭が存在すること
２．着目行Ｌの先頭位置と抽出する縦書き文字行の先頭位置を結ぶ直線の傾き（ｂ４／ａ２）が、着目行Ｌの先頭位置と直前の抽出行Ｋの先頭位置を結ぶ直線の傾き（ｂ５／ａ３）から一定値αを引いた値よりも大きい。すなわち、“ｂ４／ａ２＞ｂ５／ａ３−α”を満足すること（基本的には、“ｂ４／ａ２＞ｂ５／ａ３”で良いが、誤差を考慮して一定値αを導入する。一定値αは予め定めた値である）
すなわち、着目行Ｌの次の縦書き文字行Ｍの先頭はこの条件外なので除外することになるが、さらに次の縦書き文字行Ｎの先頭は条件を満足するので抽出することになる。以下、縦書き文字行Ｎを新たな着目行として同様の処理を続ける。
【００９０】
さて、ここで問題となるのは、歪みを生じていない部分と歪みを生じている部分をいかに識別するかであるが、これは次のように行っている。すなわち、着目行と次の抽出行の先頭のｙ座標をそれぞれｙＣ，ｙＮとすると、“ｙＮ−ｙＣ”が一定値（例えば、平均文字行幅の１／４）以上となれば、それ以降を歪みを生じている部分とする。
【００９１】
以上の方法により図２９から抽出した縦書き文字行を、図３２において斜線を施した矩形で囲んで示す。
【００９２】
最後に、抽出した縦書き文字行の先頭（もしくは末尾）の位置座標に関する近似曲線多項式を算出する（ステップＳ２０５）。抽出した各縦書き文字行の行切り出し矩形の先頭を連結して外形を形成する場合には、図３３に示すように、連結する各縦書き文字行の行切り出し矩形の上辺中心点に基づき、抽出した縦書き文字行の先頭の位置座標に関する近似曲線多項式を算出する。また、抽出した各縦書き文字行の行切り出し矩形の末尾を連結して外形を形成する場合には、図３３に示すように、連結する各縦書き文字行の行切り出し矩形の下辺中心点に基づき、抽出した縦書き文字行の末尾の位置座標に関する近似曲線多項式を算出する。
【００９３】
なお、最後に不適切な縦書き文字行の外形を排除する。これは、前述したように多項式近似により座標値を推定する際に、多項式近似による推定曲線の形状が不適切である場合には補正の際にかえって歪みが増大する恐れがあるので、このような縦書き文字行の外形を排除するものである。不適切な近似曲線形状の例としては、前述した罫線や横書き文字行の場合と同様であって、特に図示しないが、曲線が書籍の外側へ向かうような場合や、中心線を超えて大きく内側へ食い込むような場合である。
【００９４】
なお、推定曲線の形状が不適切であるとして縦書き文字行の外形を排除した場合には、歪み補正用の縦書き文字行の外形は無いということになる。
【００９５】
以上の処理により、スキャン画像に縦書き文字行の外形が存在すると判断された場合には、左右各ページのいずれの位置に縦書き文字行の外形が存在しているのかという情報とともに縦書き文字行の外形を抽出し、ＲＡＭ３３に一時的に記憶する。
【００９６】
なお、以下においては、横書き文字行及び縦書き文字行の外形を文字行として扱うものとする。
【００９７】
以上、ステップＳ４１〜Ｓ４３の処理により、ページ外形／罫線／文字行の抽出処理（ステップＳ４）が終了する。
【００９８】
続くステップＳ５（図６参照）においては、画像歪み補正処理を実行する。画像歪み補正処理は、図３４に示すように、概略的には、歪み補正（伸長）に際しての基準となる線（基準線）としてスキャン画像の上辺（もしくは下辺）の近傍に位置するページ外形／罫線／文字行の何れかを選択する処理（ステップＳ５１：基準線選択処理）、基準線に対応するものであって補正率（伸長率）の算出用の参照線としてスキャン画像の上辺（もしくは下辺）の近傍に位置するページ外形／罫線／文字行の何れかを選択する処理（ステップＳ５２：参照線選択処理）、基準線が罫線や文字行の場合に、基準線より下部の画像情報の欠落を最小限にするための仮想的なページ外形を算出する処理（ステップＳ５３：仮想ページ外形算出処理）、仮想的なページ外形に基づいてスキャン画像に伸長処理を施して主走査方向の歪みを補正する処理（ステップＳ５４：主走査方向歪み補正処理）、補正画像の文字外接矩形に基づいてスキャン画像に伸長処理を施して副走査方向の歪みを補正する処理（ステップＳ５５：副走査方向歪み補正処理）により構成されている。
【００９９】
ここで、基準線選択処理（ステップＳ５１）及び参照線選択処理（ステップＳ５２）においては、基準線または参照線として、スキャン画像の上辺（もしくは下辺）の近傍に位置するページ外形／罫線／文字行の何れかを選択することになるが、本実施の形態におけるページ外形、罫線、文字行の選択の優先順位は、
ページ外形＞罫線＞文字行
とされている。このような選択優先順位にしたのは、文字行はページ外形や罫線に比べて抽出精度が低く、また、画像の外側にあるページ外形を利用する方が精度の高い歪み補正率を得ることができるためである。ただし、本実施の形態においては、ページ外形は一般に左右ページにまたがるが、罫線や文字行は両ページにあるとは限らないので、スキャン画像の上辺または下辺からの基準線選択の優先順位は、下記に示すようになる。
【０１００】
１．「ページ外形」（ページ外形は、常に左右両ページに存在する）
２．左右両ページともに「罫線」
３．一方のページが「罫線」、他方のページが「文字行」
４．左右両ページともに「文字行」
５．一方のページのみに「罫線」、他方のページには「手がかりなし」
６．一方のページのみに「文字行」、他方のページには「手がかりなし」
ここで、「手がかりなし」とは、ページ外形、罫線、文字行のいずれも抽出できなかった場合を言う。
【０１０１】
次に、仮想ページ外形算出処理（ステップＳ５３）及び主走査方向歪み補正処理（ステップＳ５４）の例について、上記優先順位に基づいて順に説明する。
【０１０２】
１．スキャン画像の上辺及び下辺のいずれにも「ページ外形」が存在する場合
ここでは、スキャン画像の上辺及び下辺のいずれにも「ページ外形」が存在する場合について説明する。図３５に示すように、スキャン画像の上辺及び下辺のいずれにも「ページ外形」が存在する場合は、いずれを基準線、参照線にしても構わない。なお、本実施の形態においては、基準線として選択した「ページ外形」、「罫線」、「文字行」は、下辺に位置させるものとする。この場合においては、基準線と仮想ページ外形とは一致していることから、仮想ページ外形算出処理（ステップＳ５３）においては特に処理を実行しなくても良い。
【０１０３】
次いで、主走査方向歪み補正処理（ステップＳ５４）について説明する。ここで、ｘ０は「ページ外形」の直線部分と曲線部分との境界点である。主走査方向歪み補正処理としては、まず、この境界点ｘ０における基準線と参照線間の距離ｈ０（図３６参照）に基づいて歪み補正率を算出する。歪み補正率は、主走査方向に画像を伸長して補正する際に、基準線と参照線との間の距離を副走査方向の全ての位置において等しくさせるためのものである。すなわち、位置ｘにおける基準線と参照線間の距離をｈ（図３６参照）とした場合には、位置ｘにおける歪み補正率は、
ｈ０／ｈ
として表すことができる。即ち、歪み補正率とは、主走査方向に画像を伸長して補正する際に、基準線と参照線との間の距離を副走査方向の全ての位置ｘにおいて等しくなるように、各ｘに関して算出した値である。
【０１０４】
次に、実際に補正をする際は、まず、図３６に示すように仮想ページ外形（ここでは基準線）が直線（最下辺）になるように、主走査方向に各画素をシフトする。その後、副走査方向の全ての位置ｘにおいて、画像を主走査方向の上辺側にｈ０／ｈで伸長すれば、図３６の上辺の「ページ外形」ＥがＲＥとなるように画像が補正される。
【０１０５】
２．スキャン画像の上辺及び下辺の何れか一方に「ページ外形」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合
ここでは、スキャン画像の上辺及び下辺の何れか一方に「ページ外形」が存在し、他方の辺ではページ外形が途中で切れているが「罫線」と「文字行」とが存在する場合について説明する。図３７に示すように、スキャン画像の上辺及び下辺の何れか一方に「ページ外形」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合は、「ページ外形」を基準線として下辺に位置させ、「文字行」と「罫線」とを参照線とする（図３７に示す例では、左ページが「文字行」、右ページが「罫線」である）。この場合においても、基準線と仮想ページ外形とは一致していることから、仮想ページ外形算出処理（ステップＳ５３）においては特に処理を実行しなくても良い。
【０１０６】
次いで、主走査方向歪み補正処理（ステップＳ５４）について説明する。ここで、ｘ０は「ページ外形」の直線部分と曲線部分との境界点である。主走査方向歪み補正処理としては、まず、この境界点ｘ０における基準線と参照線間の距離ｈ０（図３８参照）に基づいて歪み補正率を算出する。位置ｘにおける基準線と参照線間の距離をｈ（図３８参照）とした場合には、位置ｘにおける歪み補正率は、
ｈ０／ｈ
として表すことができる。
【０１０７】
次に、実際に補正をする際は、まず、図３８に示すように仮想ページ外形（ここでは基準線）が直線（最下辺）になるように、主走査方向に各画素をシフトする。その後、副走査方向の全ての位置ｘにおいて、画像を主走査方向の上辺側にｈ０／ｈで伸長すれば、図３８の右ページでは、上辺の「罫線」ＬＵがＲＬＵとなるように画像が補正される。左ページ上辺の「文字行」についても同様に行う。
【０１０８】
３．スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合
ここでは、スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合について説明する。スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合は、図３９に示すように、左右両ページに「罫線」が存在する側を下辺に位置させ、その２本の「罫線」を基準線とし、他方の辺に位置する「文字行」と「罫線」とを参照線とする（図３９に示す例では、左ページが「文字行」、右ページが「罫線」である）。ところで、このように、基準線が「ページ外形」ではない場合は、基準線をそのまま仮想ページ外形と見なしてはならない。なぜなら、両者を一致させた場合、後の主走査方向歪み補正処理において仮想ページ外形（基準線）を最下辺に画素シフトする際、基準線より下方の画像情報が全て欠落してしまうからである。
【０１０９】
そこで、基準線が「ページ外形」でない場合は、図３９において点線で示すような仮想ページ外形ＶＥを求める仮想ページ外形算出処理（ステップＳ５３）を実行する。ここで、ｘ０は下辺の「罫線」ＬＤの直線部分と曲線部分との境界点である。仮想ページ外形算出処理は、境界点ｘ０における「罫線」ＬＤからスキャン画像の最下辺までの距離ａ０と、境界点ｘ０における「罫線」ＬＤから上辺の「罫線」ＬＵまでの距離ｂ０とに基づいて仮想ページ外形ＶＥを算出するものである。すなわち、「罫線」ＬＤ上の位置ｘから上辺の「罫線」ＬＵまでの距離ｂが解かれば、
ａ／ｂ＝ａ０／ｂ０
であることから、「罫線」ＬＤ上の位置ｘから仮想ページ外形ＶＥまでの距離ａを算出することができる。したがって、「罫線」ＬＤ上の位置から仮想ページ外形ＶＥまでの距離を副走査方向の全ての位置ｘにおいて算出することにより、仮想ページ外形ＶＥを求めることができる。このような処理は、左右ページについてそれぞれ独立に行われる。
【０１１０】
次いで、主走査方向歪み補正処理（ステップＳ５４）について説明する。主走査方向歪み補正処理としては、まず、前述した境界点ｘ０における「罫線」ＬＤからスキャン画像の最下辺までの距離ａ０と、境界点ｘ０における「罫線」ＬＤから上辺の「罫線」ＬＵまでの距離ｂ０とを加算した距離ｈ０（ｈ０＝ａ０＋ｂ０）に基づいて歪み補正率を算出する。位置ｘにおける上辺の「罫線」ＬＵからスキャン画像の最下辺までの距離をｈ（ｈ＝ａ＋ｂ）とした場合には、位置ｘにおける歪み補正率は、
ｈ０／ｈ
として表すことができる。
【０１１１】
次に、実際に補正をする際は、まず、図４０に示すように仮想ページ外形ＶＥが直線（最下辺）になるように、主走査方向に各画素をシフトする。その後、副走査方向の全ての位置ｘにおいて、画像を主走査方向の上辺側にｈ０／ｈで伸長すれば、図３４の右ページでは、上辺の「罫線」ＬＵがＲＬＵ（厳密には、ｘの位置は「罫線」ＬＵの直線部と曲線部との境界には一致しないが、ここでは「罫線」ＬＤの境界をそのまま用いる）となるように画像が補正される。左ページ上辺の「文字行」についても同様に行う。
【０１１２】
このように、仮想ページ外形ＶＥを利用することで、シフトによる画像の欠落を最小限に抑えることができる。
【０１１３】
４．スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」と「文字行」とが存在し、他方の辺の一方のページのみに「罫線」が存在する場合
ここでは、スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」と「文字行」とが存在し、他方の辺の一方のページのみに「罫線」が存在する場合について説明する。スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」と「文字行」とが存在し、他方の辺の一方のページのみに「罫線」が存在する場合（他方のページは「手がかりなし」）は、図４１に示すように、「罫線」と「文字行」とが存在する側を下辺に位置させ、それらの「罫線」と「文字行」とを基準線とし、他方の辺に位置する「罫線」とスキャン画像を副走査方向に貫く中心線Ｃとを参照線とする（図４１に示す例では、左ページが「罫線」、右ページが「手がかりなし」である）。なお、中心線Ｃは、スキャン画像の主走査方向の中心を副走査方向に横切る線であり、書籍原稿４０の中心線ではない。
【０１１４】
このように基準線が「ページ外形」でない場合は、前述したように、図４１において点線で示すような仮想ページ外形ＶＥを求める仮想ページ外形算出処理（ステップＳ５３）を実行する。ここで、ｘ０は下辺の「罫線」ＬＤの直線部分と曲線部分との境界点である。仮想ページ外形算出処理は、境界点ｘ０における「罫線」ＬＤからスキャン画像の最下辺までの距離ａ０と、境界点ｘ０における「罫線」ＬＤから中心線Ｃまでの距離ｂ０とに基づいて仮想ページ外形ＶＥを算出するものである。すなわち、「罫線」ＬＤ上の位置ｘから中心線Ｃまでの距離ｂが解かれば、
ａ／ｂ＝ａ０／ｂ０
であることから、「罫線」ＬＤ上の位置ｘから仮想ページ外形ＶＥまでの距離ａを算出することができる。したがって、「罫線」ＬＤ上の位置から仮想ページ外形ＶＥまでの距離を副走査方向の全ての位置ｘにおいて算出することにより、仮想ページ外形ＶＥを求めることができる。このような処理は、左右ページについてそれぞれ独立に行われる。なお、右ページのように上辺に「罫線」が存在する場合については、中心線Ｃに代えて、前述したように上辺の「罫線」を用いる。
【０１１５】
次いで、主走査方向歪み補正処理（ステップＳ５４）について説明する。主走査方向歪み補正処理としては、まず、前述した境界点ｘ０における「罫線」ＬＤからスキャン画像の最下辺までの距離ａ０と、境界点ｘ０における「罫線」ＬＤから中心線Ｃまでの距離ｂ０とを加算した距離ｈ０（ｈ０＝ａ０＋ｂ０）に基づいて歪み補正率を算出する。位置ｘにおける中心線Ｃからスキャン画像の最下辺までの距離をｈ（ｈ＝ａ＋ｂ）とした場合には、位置ｘにおける歪み補正率は、
ｈ０／ｈ
として表すことができる。
【０１１６】
次に、実際に補正をする際は、まず、図４２に示すように仮想ページ外形ＶＥが直線（最下辺）になるように、主走査方向に各画素をシフトする。その後、副走査方向の全ての位置ｘにおいて、画像を主走査方向の上辺側にｈ０／ｈで伸長して補正する。左ページ上辺の「罫線」についても同様に行う。なお、右ページについては、補正によってシフトにより一旦歪んだ中心線Ｃが元の直線ＲＣに戻るが、Ｃがスキャナ部１の光軸と一致する場合以外は、画像全体の補正は不完全となる。
【０１１７】
５．スキャン画像の左右何れかのページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺の他方のページのみに「文字行」が存在する場合
ここでは、スキャン画像の左右何れかのページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺の他方のページのみに「文字行」が存在する場合について説明する。スキャン画像の左右何れかのページの上辺及び下辺の何れか一方に「罫線」が存在し（他方のページは「手がかりなし」）、他方の辺の他方のページのみに「文字行」が存在する場合（一方のページは「手がかりなし」）は、図４３に示すように、「罫線」が存在する側を下辺に位置させ、その「罫線」を基準線とし、「罫線」が存在しない方のページ（「文字行」が存在する方のページ）については、文字行Ｌを中心線Ｃを挟んで線対称の位置に移動させた曲線ＳＬを基準線とする。参照線については、「罫線」が存在するページは中心線Ｃを、「文字行」が存在するページはその「文字行」を、それぞれ参照線とする。
【０１１８】
なお、歪み補正率の算出や画素シフト、補正（伸長）処理についてはこれまでの例と同様であるため、それらの説明は省略する。
【０１１９】
最後に、副走査方向歪み補正処理（ステップＳ５５）について説明する。まず、スキャナ部１（画像読取手段）の固有パラメータ（レンズの焦点面距離、スキャン光軸の位置（アドレス））が未知の場合における副走査方向歪み補正処理について説明する。
【０１２０】
図４４は、固有パラメータが未知の場合における副走査方向歪み補正処理の流れを概略的に示すフローチャートである。図４４に示すように、ステップＳ１０１においては、主走査方向歪み補正されたスキャン画像に基づいて文字の外接矩形Ａ（図４５参照）を抽出する。ここで、文字認識処理については周知の技術であるので、その説明は省略する。このように文字の外接矩形Ａを抽出するのは、この文字の外接矩形Ａの形状の変化を基に、副走査方向の歪みを補正するためである。ここでは、図４５に示すように、文字外接矩形Ａの横辺の長さｗ、縦辺の長さｈ、および、文字の中心Ｂを定義する。ここで、文字の中心Ｂは、外接矩形Ａの対角線の交点である。
【０１２１】
続いて、図４６に示すように、スキャン画像を書籍原稿４０のページ綴じ部４１に平行な方向の複数の短冊状の領域Ｃに分割した後（ステップＳ１０２）、各短冊領域Ｃについて、そこに含まれる文字外接矩形Ａに関する特徴量を求める（ステップＳ１０３）。ここで、ある短冊領域Ｃに含まれる文字外接矩形Ａとは、その中心が当該短冊領域Ｃに含まれるような外接矩形Ａのことである。例えば、図４６の短冊領域Ｃ１に含まれる外接矩形Ａは、図中の網掛けを施した矩形である。
【０１２２】
さて、上記の文字外接矩形Ａに関する特徴量は、
（文字の横辺の長さ）／（文字の縦辺の長さ）＝ｗ／ｈ
を基に求められる。すなわち、各短冊領域Ｃについて、そこに含まれる全ての文字外接矩形Ａのｗ／ｈの値の平均値をその短冊領域Ｃの特徴量とするのである。
【０１２３】
しかしながら、単に、ｗ／ｈの平均値を算出すると不適切な場合がある。文字の中には、句読点や数式中の記号のようにそのサイズが元々小さく、ｗ／ｈの値が不安定なものがある。また、矩形抽出の際に隣接する文字同士がくっついて抽出されてしまい、ｗが極端に大きい文字外接矩形Ａが生じる場合もある。特徴量を求める場合は、このような特殊な文字や極端にｗが大きいものを予め排除しておく必要がある。そこで、続くステップＳ１０４においては、予め閾値を定めておいて、ｈの値がその閾値より小さな文字外接矩形Ａを予め排除するとともに、ｗ／ｈの比率に関する閾値を予め定めておき、ｗ／ｈの値が其の閾値よりも大きい文字外接矩形Ａも予め排除する。例えば、図４７中に示した網掛けを施した文字外接矩形Ａが予め排除されることになる。
【０１２４】
続くステップＳ１０５においては、前述したように極端な文字外接矩形Ａを排除した後に、各短冊領域Ｃ内の文字外接矩形Ａのｗ／ｈの平均値を求める。図４８に各短冊領域Ｃ内の外接矩形Ａのｗ／ｈの平均値の一例を示す。なお、図４８中の短冊領域Ｃ２は、書籍原稿４０のページ綴じ部４１を含む短冊領域である。
【０１２５】
続いて、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２に文字外接矩形Ａが存在するか否かを判断する（ステップＳ１０６）。これは、図４７に示すように、一般には書籍原稿４０のページ綴じ部４１付近には文字外接矩形Ａが存在しない場合が多いからである。書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２に文字外接矩形Ａが存在する場合は（ステップＳ１０６のＹ）、その文字外接矩形Ａを利用して特徴量は算出されているのでそのままステップＳ１０８に進む。
【０１２６】
一方、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２に文字外接矩形Ａが存在しない場合は（ステップＳ１０６のＮ）、ステップＳ１０７に進み、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の特徴量を求める。なお、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の識別は、例えば、スキャン画像（例えば、モノクロ多値画像）の地肌濃度変化を各短冊領域Ｃごとに求め、短冊領域Ｃ内の最も濃度の薄い濃度値を求めることにより実現される。図４９は地肌濃度変化を求めた一例を示したものであり、地肌濃度が最も濃い短冊領域が、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２であるとみなされる。
【０１２７】
なお、スキャン画像がカラー多値画像の場合における書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の識別は、例えばＲＧＢ成分の何れか一つの成分（例えばＧ成分）に着目し、そのＧ成分の地肌濃度を使用して識別するようにすれば良い。また、ＲＧＢを色変換して輝度成分と色差成分とに分け、輝度成分を使用して書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２を識別するようにしても良い。
【０１２８】
書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の特徴量は、次のようにして定められる。ここでは、統計的特徴量の算出対象となり得る文字外接矩形Ａが存在し、かつ、ページ綴じ部４１を含む短冊領域Ｃ２の最近傍である短冊領域Ｃの特徴量に対して予め定めた定数値を乗じることにより算出された値が、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２における特徴量とみなされるものである。つまり、図４８に示した例では、書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の左右何れの短冊領域Ｃ３，Ｃ４にも文字外接矩形Ａが存在するので、どちらか適当な方の特徴量を選択し（ここでは右側の○印の方）、それに予め定めた定数値（ここでは０．５）を乗じて、これを書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の特徴量としている。
【０１２９】
続くステップＳ１０８においては、各短冊領域Ｃの特徴量に対する適切なフィルタリング処理、例えば、短冊領域Ｃの位置の変化方向（即ち副走査方向）に関する移動平均を求める処理を施すなどして、短冊領域Ｃの位置の変化に対する（副走査方向の）特徴量の変化がなだらかになるようにする。ただし、ここでも書籍原稿４０のページ綴じ部４１付近は特別な処理が必要となる。なぜなら、副走査方向に関して長さが全て等しいウィンドウを用いてフィルタリングを行うと、書籍原稿４０のページ綴じ部４１付近の特徴量の変化の鋭さが失われてしまうからである。
【０１３０】
ここで、長さが全て５であるウィンドウを用いて図４８に示した各短冊領域Ｃの特徴量に対してフィルタリング処理を施した結果を図５０に示す。図５０に示すように、長さが全て５であるウィンドウを用いてフィルタリング処理を施した場合には、書籍原稿４０のページ綴じ部４１付近の特徴量（ｗ／ｈ）の変化がなだらかになり過ぎてしまう。このような場合には、書籍原稿４０のページ綴じ部４１付近での適切な画像補正が不可能になってしまう。
【０１３１】
そこで、本実施の形態においては、フィルタリング処理の際には、フィルタのウィンドウが書籍原稿４０のページ綴じ部４１を含む短冊領域Ｃ２の両側の短冊領域Ｃ３，Ｃ４に跨がらないように、ページ綴じ部４１付近でウィンドウ長を調整する。ここで、図５１はページ綴じ部４１付近でウィンドウ長を調整してフィルタリング処理を施した結果を示すグラフである。図５１に示すように、ページ綴じ部４１付近でウィンドウ長を調整した場合には、ページ綴じ部４１付近の特徴量（ｗ／ｈ）の変化を適切に表現できるので、良好な画像補正が実現できる。
【０１３２】
続くステップＳ１０９においては、各短冊領域Ｃの推定歪み量を算出する。各短冊領域Ｃの推定歪み量の算出手法は、以下に示す通りである。
【０１３３】
まず、短冊領域の歪み量を算出するための基準となる短冊領域（基準短冊領域）を定める。ここでは、歪みが最も小さいと考えられる短冊領域Ｃ、例えば、特徴量（ｗ／ｈ）が最大である短冊領域Ｃを基準短冊領域とする。この処理は左右ページで共通に行っても良いが、左右独立に基準短冊領域を定めても構わない。図５１においては、左右独立に基準短冊領域を定めた例を示しており、○印を施した短冊領域Ｃが基準短冊領域であり、左側の基準特徴量を“Ｌｗ０／Ｌｈ０”、右側の基準特徴量を“Ｒｗ０／Ｒｈ０”、でそれぞれ示している。
【０１３４】
次に、基準短冊領域の特徴量ｗ０／ｈ０をスキャン画像全体の基準特徴量とし、
（各短冊領域の特徴量）／（基準特徴量）＝（ｗ／ｈ）／（ｗ０／ｈ０）
の値を、各短冊領域の推定歪み量として算出する。
【０１３５】
なお、書籍原稿４０のページ綴じ部４１から外れたページ外側付近の短冊領域Ｃを基準短冊領域とすると、書籍原稿４０のページ綴じ部４１付近とはフォントや活字のサイズの違いが大きくて、適切な推定歪み量が算出できない場合も考えられる。そのような画像を対象とする場合は、基準短冊領域の探索範囲を予め書籍原稿４０のページ綴じ部４１付近に限定しておくのが有効である。これを実現するためには、地肌濃度が予め定めた濃度よりも濃い短冊領域Ｃのみから基準短冊領域を求めるようにすれば良い。
【０１３６】
最後に、スキャン画像に対して、短冊領域Ｃの短辺方向（副走査方向）の拡大処理を行い、書籍原稿４０のページ綴じ部４１付近の歪みを補正する（ステップＳ１１０）。その場合の拡大率は、ステップＳ１０９において算出した推定歪み量の逆数、すなわち、
（基準特徴量）／（各短冊領域の特徴量）＝（ｗ０／ｈ０）／（ｗ／ｈ）
とする。ここで、上記の基準短冊領域を左右共通に定めた場合には、この拡大率も左右共通の基準特徴量によって算出し、独立に定めた場合には、左右それぞれの基準特徴量で独立に算出するようにする。図５２は、図５１に示した特徴量に基づいて算出した補正拡大率を示したものである。
【０１３７】
なお、ここでも、書籍原稿４０のページ綴じ部４１付近から離れた短冊領域Ｃはもともと画像の歪みが無い領域である可能性が高いので、拡大処理の対象としない方が良い場合がある。拡大処理を行ったために、かえって不自然な歪みが生じてしまう可能性があるからである。これを防ぐために、地肌濃度が予め定めた濃度よりも薄い短冊領域Ｃについては、推定歪み量を“１”とする。
【０１３８】
また、短冊領域Ｃ内において共通の補正拡大率を適用した場合、隣接する短冊領域Ｃの境界部での補正拡大率が不連続となるため、補正画像が不自然となる。そこで、隣接する短冊領域Ｃの境界部での補正拡大率が連続的に変化するように、補正拡大率を予め補正しておく。これは、例えば図５２に示す短冊領域Ｃの中央部分の補正拡大率を推定歪み量の逆数を示す点としてプロットし、これらの点を線分で結んで直線補完することで、他の部分の補正拡大率とすることで実現できる。以上の処理により、スキャン画像の副走査方向の補正拡大率が確定する。
【０１３９】
なお、画像の拡大処理は、例えばコピーの変倍機能として良く使われる３次関数のコンボリューション法等を用いて実行される。
【０１４０】
次に、スキャナ部１（画像読取手段）の固有パラメータ（レンズの焦点面距離、スキャン光軸の位置（アドレス））が既知の場合における副走査方向歪み補正処理について説明する。
【０１４１】
スキャンの主走査方向と書籍原稿４０のページ綴じ部４１の境界線が平行な場合、レンズユニット１０等のスキャナーレンズによる書籍原稿４０を読み取るとき、結像系は次の特性を持つ。主走査方向は中心投影であり、副走査方向は平射投影である。ここで、これらの特性を利用して、３次元形状復元を行う。
【０１４２】
中心投影する場合、図５３と図５４に示すように書籍原稿４０の表面はコンタクトガラス２の表面から浮いて結像距離が遠くなり、画像の拡大倍率は小さくなるので、外形エッジの直線はだんだん内側に湾曲していく。図５４の縮む量ＡＢを測定すれば、図５３に浮いた本の表面の高さｈを計算できる。従って、直線の内側への歪み量を測定すれば、３次元形状（書籍原稿４０のコンタクトガラス２からの浮き上がりの量）を復元できる。
【０１４３】
ここで、書籍原稿４０を水平にコンタクトガラス２上に置くことを仮定する。そうすると、３次元の形状は２次元になる。スキャナーレンズの結像関係を図５５に示す。ＯＯ´はレンズの光軸であり、０はレンズの中心である。Ｆはレンズの中心０からスキャナ表面（コンタクトガラス２）までの距離で、これを、スキャナの焦点距離と言う。スキャナ表面上の点Ｂは結像面でＤに結像する。浮いた製本（書籍原稿４０）の表面上の点ＣはＥに結像する。それぞれの結像面の中心０との距離はｙ´とｙである（第一走行体５および第二走行体８が副走査方向に移動することによって、中心０も移動するが、その軌跡を結像中心線と呼ぶことにする）。三角形の相似関係により次の関係式（６），（７）が得られる。
ｈ／Ｆ＝ＡＢ／ＡＯ´                        ・・・（６）
ＡＢ／ＡＯ´＝（ｙ´−ｙ）／ｙ              ・・・（７）
また、式（６），（７）により、書籍原稿４０の浮き上がりの量ｈが次式（８）により得られる。
ｈ＝Ｆ×（（ｙ´−ｙ）／ｙ）                ・・・（８）
この式（８）により２次元の歪み量から３次元形状が求められることがわかる。ここで、歪み量（ｙ´−ｙ）と距離yは画像から求められるが、本実施の形態では、これを文字行あるいは罫線の直線成分と曲線部分との距離から求めるものである。レンズの焦点距離Ｆはスキャナ部１によって定まる既知量であり、スキャナ部１の設定値かレンズの校正値を用いる。
【０１４４】
したがって、スキャナ部１（画像読取手段）の固有パラメータ（レンズの焦点面距離、スキャン光軸の位置（アドレス））が既知の場合には、ページ外形／罫線／文字行の湾曲の度合いから書籍表面のスキャン面からの浮きの高さｈを求め、図５６に示すように、副走査方向の１画素分をｍ倍に伸張して継ぎ足すことにより、副走査方向の歪みを補正することができる。
【０１４５】
以上により副走査方向歪み補正処理（ステップＳ５５）が終了し、図６に示すスキャン画像の歪み補正処理が終了する。ここで、図５７は歪みを補正した画像を示す平面図である。以上の処理によれば、図８に示したような書籍原稿４０のページ綴じ部４１の近傍において生じていたスキャン画像の歪みが、図５７に示すように補正されることになる。
【０１４６】
ここに、罫線を構成する主走査方向に予め定めた閾値以下の長さの黒画素を対象として矩形抽出が行われ、副走査方向に細長い矩形の中からスキャン画像の歪み補正に利用するための罫線を包摂する矩形が選択される。また、表など副走査方向の罫線と主走査方向の罫線とが交差している画像、かすれた罫線や点線に対して矩形抽出を行うと、主走査方向の罫線はランとして登録されないため、副走査方向に矩形が細切れに抽出されてしまうことになるが、副走査方向における距離が予め定めた閾値以下の矩形同士を統合することにより、罫線全体が１つの矩形として抽出することが可能になる。これにより、細い罫線・かすれた罫線・スキューの残った罫線の存在を正しく判定することが可能になり、罫線が存在する画像では、罫線を利用して歪み補正を行う頻度を向上させることが可能になるので、結果として補正画像の画質を向上させることが可能になる。
【０１４７】
なお、本実施の形態においては、画像読取装置としてデジタル複写機のスキャナ部１を適用したが、これに限るものではなく、例えば自動ページ捲り機能を搭載したスキャナ等に適用するようにしても良い。
【０１４８】
また、本実施の形態においては、書籍原稿４０のページ綴じ部４１とスキャナ部１の画像読み取りの主走査方向とが平行になるように位置させて書籍原稿４０をコンタクトガラス２上に下向きに載置した場合について説明したが、これに限るものではない。例えば、図５８に示すように、上向きの書籍原稿４０をコンタクトガラス２の下方からコンタクトガラス２に対して押し付けるように接触させるものであっても良い。
【０１４９】
さらに、本実施の形態においては、画像歪み補正装置を画像形成装置であるデジタル複写機１６に備え、デジタル複写機１６のスキャナ部１で読み取ったスキャン画像に対して画像の歪み補正処理を施すようにしたが、これに限るものではない。例えば、原稿画像を読み取る画像読取手段を備えたイメージスキャナをパーソナルコンピュータに接続するとともに、このパーソナルコンピュータのＨＤＤに記憶媒体であるＣＤ−ＲＯＭ３７に格納されたプログラムをインストールすることによって画像歪み補正装置を構成しても、前述したような各種の作用効果と同様の作用効果を得ることができる。また、記憶媒体であるＣＤ−ＲＯＭ３７に格納されたプログラムをパーソナルコンピュータのＨＤＤにインストールすることによって画像歪み補正装置を構成し、予め画像読取手段により読み取られたスキャン画像に対して歪み補正処理を施すようにしても良い。
【図面の簡単な説明】
【０１５０】
【図１】本発明の実施の一形態のスキャナ部の構成を示す縦断正面図である。
【図２】スキャナ部を搭載したデジタル複写機の上部部分を示す斜視図である。
【図３】スキャナ部の制御系の電気的な接続を示すブロック図である。
【図４】画像処理部の基本的な内部構成を示すブロック図である。
【図５】メイン制御部の電気的な接続を示すブロック図である。
【図６】スキャン画像の歪み補正処理の流れを概略的に示すフローチャートである。
【図７】スキャナ部のコンタクトガラス上に書籍原稿を載置した状態を示す斜視図である。
【図８】入力した画像の一例を示す平面図である。
【図９】スキャン画像のページ綴じ部の近傍の歪みを示す説明図である。
【図１０】図８に示した画像の黒画素ヒストグラムである。
【図１１】ページ外形／罫線／文字行の抽出処理の流れを概略的に示すフローチャートである。
【図１２】上端にページ外形が存在するスキャン画像の一例を示す説明図である。
【図１３】図１２に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムである。
【図１４】長い罫線が存在するスキャン画像の一例を示す説明図である。
【図１５】２値化した画像に矩形抽出を施した結果を示す説明図である。
【図１６】罫線がノイズと接触している場合を示す説明図である。
【図１７】表が含まれる画像を示す説明図である。
【図１８】一定値未満のランのみを登録し矩形を抽出した結果を示す説明図である。
【図１９】副走査方向に矩形が細切れに抽出されてしまう場合を示す説明図である。
【図２０】矩形統合を施した例を示す説明図である。
【図２１】矩形抽出を行った結果を示す説明図である。
【図２２】図８に示した画像の副走査方向の黒白反転数ヒストグラムである。
【図２３】図８に示した画像の主走査方向の黒白反転数ヒストグラムである。
【図２４】スキャン画像の文字外接矩形抽出処理および文字行抽出処理の結果の一例を示す説明図である。
【図２５】最適な横書き文字行の選択を示す説明図である。
【図２６】各縦書き文字行からの横書き文字行の抽出処理の流れを概略的に示すフローチャートである。
【図２７】抽出した行切り出し矩形を例示的に示す説明図である。
【図２８】予め定めた距離範囲内に先頭が存在する縦書き文字行を例示的に示す説明図である。
【図２９】抽出した縦書き文字行の先頭のｙ座標に関してヒストグラムを構成する状態を示す説明図である。
【図３０】画像の歪みを生じていない部分における処理を示す説明図である。
【図３１】画像の歪みを生じている部分における処理を示す説明図である。
【図３２】抽出した縦書き文字行を示す説明図である。
【図３３】縦書き文字行の行切り出し矩形を示す説明図である。
【図３４】画像歪み補正処理の流れを概略的に示すフローチャートである。
【図３５】スキャン画像の上辺及び下辺のいずれにも「ページ外形」が存在する場合を示す説明図である。
【図３６】図３５を画素シフトした状態を示す説明図である。
【図３７】スキャン画像の上辺及び下辺の何れか一方に「ページ外形」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合を示す説明図である。
【図３８】図３７を画素シフトした状態を示す説明図である。
【図３９】スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺には「罫線」と「文字行」とが存在する場合を示す説明図である。
【図４０】図３９を画素シフトした状態を示す説明図である。
【図４１】スキャン画像の左右両ページの上辺及び下辺の何れか一方に「罫線」と「文字行」とが存在し、他方の辺の一方のページのみに「罫線」が存在する場合を示す説明図である。
【図４２】図４１を画素シフトした状態を示す説明図である。
【図４３】スキャン画像の左右何れかのページの上辺及び下辺の何れか一方に「罫線」が存在し、他方の辺の他方のページのみに「文字行」が存在する場合を示す説明図である。
【図４４】固有パラメータが未知の場合における副走査方向歪み補正処理の流れを概略的に示すフローチャートである。
【図４５】抽出された文字外接矩形を示す説明図である。
【図４６】二値化画像を書籍原稿のページ綴じ部に平行な方向の複数の短冊状の領域に分割した状態を示す説明図である。
【図４７】予め排除される文字外接矩形を示す説明図である。
【図４８】各短冊領域内の外接矩形の特徴量の平均値の一例を示すグラフである。
【図４９】各短冊領域内の地肌濃度変化の一例を示すグラフである。
【図５０】図４８に示した各短冊領域の特徴量に対して長さが全て５であるウィンドウを用いてフィルタリング処理を施した結果を示すグラフである。
【図５１】図４８に示した各短冊領域の特徴量に対してページ綴じ部付近でウィンドウ長を調整してフィルタリング処理を施した結果を示すグラフである。
【図５２】図５１に示した特徴量に基づいて算出した補正拡大率を示すグラフである。
【図５３】本の表面の浮いた高さを示す説明図である。
【図５４】画像が縮む量を示す説明図である。
【図５５】スキャナーレンズの結像関係を示す説明図である。
【図５６】固有パラメータが既知の場合における副走査方向歪み補正処理を示す説明図である。
【図５７】歪みを補正した画像を示す平面図である。
【図５８】コンタクトガラスに書籍原稿を接触させた状態を示す正面図である。
【図５９】コンタクトガラス上に書籍原稿を載置した状態を示す正面図である。
【符号の説明】
【０１５１】
１９      画像歪み補正装置
３７      記憶媒体
４０      書籍原稿
４１      ページ綴じ部
【図１】
2005229192.tif 000008
【図２】
2005229192.tif 000009
【図３】
2005229192.tif 000010
【図４】
2005229192.tif 000011
【図５】
2005229192.tif 000012
【図６】
2005229192.tif 000013
【図７】
2005229192.tif 000014
【図８】
2005229192.tif 000015
【図９】
2005229192.tif 000016
【図１０】
2005229192.tif 000017
【図１１】
2005229192.tif 000018
【図１２】
2005229192.tif 000019
【図１３】
2005229192.tif 000020
【図１４】
2005229192.tif 000021
【図１５】
2005229192.tif 000022
【図１６】
2005229192.tif 000023
【図１７】
2005229192.tif 000024
【図１８】
2005229192.tif 000025
【図１９】
2005229192.tif 000026
【図２０】
2005229192.tif 000027
【図２１】
2005229192.tif 000028
【図２２】
2005229192.tif 000029
【図２３】
2005229192.tif 000030
【図２４】
2005229192.tif 000031
【図２５】
2005229192.tif 000032
【図２６】
2005229192.tif 000033
【図２７】
2005229192.tif 000034
【図２８】
2005229192.tif 000035
【図２９】
2005229192.tif 000036
【図３０】
2005229192.tif 000037
【図３１】
2005229192.tif 000038
【図３２】
2005229192.tif 000039
【図３３】
2005229192.tif 000040
【図３４】
2005229192.tif 000041
【図３５】
2005229192.tif 000042
【図３６】
2005229192.tif 000043
【図３７】
2005229192.tif 000044
【図３８】
2005229192.tif 000045
【図３９】
2005229192.tif 000046
【図４０】
2005229192.tif 000047
【図４１】
2005229192.tif 000048
【図４２】
2005229192.tif 000049
【図４３】
2005229192.tif 000050
【図４４】
2005229192.tif 000051
【図４５】
2005229192.tif 000052
【図４６】
2005229192.tif 000053
【図４７】
2005229192.tif 000054
【図４８】
2005229192.tif 000055
【図４９】
2005229192.tif 000056
【図５０】
2005229192.tif 000057
【図５１】
2005229192.tif 000058
【図５２】
2005229192.tif 000059
【図５３】
2005229192.tif 000060
【図５４】
2005229192.tif 000061
【図５５】
2005229192.tif 000062
【図５６】
2005229192.tif 000063
【図５７】
2005229192.tif 000064
【図５８】
2005229192.tif 000065
【図５９】
2005229192.tif 000066