(57)【要約】【課題】表示領域の小さい画面で画像と文書が混在したドキュメントを画像ビューワで表示する際に、テキスト文字種の判別を行うことなく、閲覧性を向上させる。【解決手段】本発明によると、元の画像ファイルの要素の並びに沿った要素画像にて、表示部に納まるサイズの行情報が作成され、さらにその行情報がスクロール方向に並んだ段落情報が作成される。ユーザは、単純に段落情報をスクロール方向に沿ってスクロールするだけで、行情報の前後関係を確かめながら文書を読み進めることができ、複数の方向にあちこちスクロールしながら文書を読み進める必要がない。【選択図】図１
2012230623.tif 000002
【特許請求の範囲】
【請求項１】
画像を表示する表示部と、
構造化された文書ファイルを画像ファイルに変換する画像変換部と、
前記画像変換部の変換した画像ファイルから、文書を構成する個々の要素の存在領域および要素の並び方向を含むレイアウト情報を検出するレイアウト情報検出部と、
前記レイアウト情報検出部の検出したレイアウト情報に基づき、個々の要素の存在領域に相当する部分画像である要素画像を前記画像ファイルから抽出する要素画像抽出部と、
前記要素画像抽出部の抽出した各要素画像の前記要素の並び方向に沿ったサイズに基づき、前記表示部に納まる前記要素画像の集合で、行情報を作成する行情報作成部と、
前記要素の並び方向に従い、前記行情報作成部の作成した行情報のスクロール方向を決定するスクロール方向決定部と、
前記スクロール方向決定部の決定したスクロール方向に沿って複数の行情報を配列することで、段落情報を作成する段落情報作成部と、
前記段落情報作成部の作成した段落情報を、前記表示部の表示範囲内で表示する表示制御部と、
前記スクロール方向に沿った前記段落情報のスクロール表示を指示するスクロール指示部と、
を備え、
前記表示制御部は、前記スクロール指示部の指示するスクロール方向に沿って、前記段落情報を前記表示部の表示範囲内でスクロール表示する文書ファイル表示装置。
【請求項２】
前記表示制御部は、前記画像ファイルの全体を縮小表示するとともに、前記縮小表示された画像の中の各文書の存在領域を指し示す情報を表示し、
前記各文書の存在領域の中から所望の文書の存在領域を選択する領域選択部を備え、
前記レイアウト情報検出部は、前記領域選択部の選択した文書の存在領域から、個々の要素の存在領域および要素の並び方向を含むレイアウト情報を検出し、
前記表示制御部は、前記表示部の第１の領域に、前記スクロール指示部の指示するスクロール方向に沿って、前記領域選択部の選択した文書の存在領域に対応する段落情報を前記表示部の表示範囲内でスクロール表示するとともに、前記表示部の第１の領域と異なる第２の領域に、前記画像ファイルの全体を縮小表示する請求項１に記載の文書ファイル表示装置。
【請求項３】
前記スクロール方向決定部は、前記要素の並び方向と直交する方向を行情報のスクロール方向に決定する請求項１または２に記載の文書ファイル表示装置。
【請求項４】
段落情報の表示の拡縮率を指定する拡縮率指定部を備え、
前記行情報作成部は、前記要素画像抽出部の抽出した各要素画像を前記拡縮率指定部の指定した拡縮率に従って拡縮したサイズに従い、前記要素の並び方向に沿って前記表示部に納まる前記要素画像の集合で、行情報を作成する請求項１〜３のいずれか１項に記載の文書ファイル表示装置。
【請求項５】
前記行情報作成部は、所定の基準に満たない要素画像を前記行情報から削除する請求項１〜４のいずれか１項に記載の文書ファイル表示装置。
【請求項６】
前記段落情報作成部は、所定の基準に満たない行情報を前記段落情報から削除する請求項１〜５のいずれか１項に記載の文書ファイル表示装置。
【請求項７】
前記行情報作成部は、前記画像ファイル上の前記要素の並び方向に隣接する要素画像同士を同一の行情報に含める請求項１〜６のいずれか１項に記載の文書ファイル表示装置。
【請求項８】
前記行情報作成部は、所定の割合のサイズに満たない前の要素画像と前記要素方向に沿って隣接する後の要素画像を、前記前の要素画像と異なる行情報に含める請求項７に記載の文書ファイル表示装置。
【請求項９】
前記行情報作成部は、異なる行情報を結合したサイズが前記要素の並び方向に沿って前記表示部に納まる場合、前記異なる行情報を同一の行情報に統合する請求項８に記載の文書ファイル表示装置。
【請求項１０】
前記行情報作成部は、改行の直前の要素画像と改行の直後の要素画像が連続しないよう行情報を作成する請求項７または８に記載の文書ファイル表示装置。
【請求項１１】
前記段落情報作成部は、前記画像ファイル上の前記スクロール方向に隣接する要素画像を含む行情報同士を同一の段落情報に含める請求項１〜１０のいずれか１項に記載の文書ファイル表示装置。
【請求項１２】
前記要素画像抽出部は、前記レイアウト情報検出部の検出した個々の要素の存在領域を所定のサイズだけ拡張した領域を要素画像として抽出する請求項１〜１１のいずれか１項に記載の文書ファイル表示装置。
【請求項１３】
情報処理装置が、
構造化された文書ファイルを画像ファイルに変換するステップと、
前記変換した画像ファイルから、文書を構成する個々の要素の存在領域および要素の並び方向を含むレイアウト情報を検出するステップと、
前記検出したレイアウト情報に基づき、個々の要素の存在領域に相当する部分画像である要素画像を前記画像ファイルから抽出するステップと、
前記抽出した各要素画像の前記要素の並び方向に沿ったサイズに基づき、画像を表示する表示部に納まる前記要素画像の集合で、行情報を作成するステップと、
前記要素の並び方向に従い、前記作成した行情報のスクロール方向を決定するステップと、
前記決定したスクロール方向に沿って複数の行情報を配列することで、段落情報を作成するステップと、
前記作成した段落情報を、前記表示部の表示範囲内で表示するステップと、
前記スクロール方向に沿った前記段落情報のスクロール表示を指示するステップと、
前記指示するスクロール方向に沿って、前記段落情報を前記表示部の表示範囲内でスクロール表示するステップと、
を実行する文書ファイル表示方法。
【請求項１４】
請求項１３に記載の文書ファイル表示方法を情報処理装置に実行させるための文書ファイル表示プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、新聞、雑誌、書類、教科書、参考書などの文書を画像化した各種のコンテンツを表示する装置、方法およびプログラムに関する。
【背景技術】
【０００２】
近年の情報技術革新に伴い、雑誌やコミックなどの紙にプリントされることを前提とした書籍をデジタル化し、スマートフォンなどの画像ビューアで視聴するという情報配信形態が確立されてきた。
【０００３】
非特許文献１および２には、画像化された新聞を、スクロール、拡大、縮小することで、新聞記事をユーザに読ませることが開示されている。
【０００４】
特許文献１では、携帯電話においてメールの添付ファイルを視聴する技術が開示されている。
【０００５】
特許文献２では、携帯端末に合わせ文書のレイアウトを変更する技術が開示されている。
【０００６】
特許文献３では、文書データのレイアウトをメタデータ化し、それに応じてレイアウトをして印刷する技術が開示されている。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００７−１９９９８３号公報
【特許文献２】特開平１１−１２２３９８号公報
【特許文献３】特開２００８−１７６５４１号公報
【非特許文献】
【０００８】
【非特許文献１】「産経NetViewの使い方」、平成２３年４月１３日検索、ＵＲＬ<http://www.sankei.co.jp/netview/howto_1.html＞
【非特許文献２】「産経新聞（iPhone版）：操作方法」、平成２３年４月１３日検索、ＵＲＬ<http://www.sankei.co.jp/iphone/＞
【発明の概要】
【発明が解決しようとする課題】
【０００９】
近年の携帯端末の高機能化に伴い、ネットワークを介した様々なデータが取得可能になった。例えば、メールサーバ上のメールを取得したり、社内の共有サーバのファイルを取得するというような操作が可能である。テキストデータ、jpg(Joint Photographic Experts Group)などの圧縮画像データ、ＨＴＭＬデータなどのデータ形式は、ほとんどの携帯端末で視聴できる。しかし、取得するデータが、構造化された文書ファイル形式（Microsoft Word(登録商標), Microsoft Excel(登録商標), Microsoft PowerPoint(登録商標), Adobe PDF(登録商標)など、プレーンテキストファイル以外の文書ファイル）の場合、当該データを視聴できるアプリケーションを搭載した携帯端末は少ないのが現状である。このような状況の中、ビューワアプリケーションが携帯端末に搭載されていなくとも、文書ファイルを閲覧するための技術が開発されてきた。
【００１０】
例えば、サーバ側で取得要求のあった文書ファイルをレンダリング（画像化）し、画像化したデータを携帯端末に送信する。携帯端末は当該画像を再生することで、元々の文書ファイルと同じレイアウトの文書を閲覧できる。しかし、生成される画像は、紙にプリントされることを前提としたレイアウトであることが多く、携帯端末のように表示領域が小さい場合、文書を快適に閲覧できるとは言い難い。
【００１１】
特許文献１は、文書ファイルをレンダリングし、画像化するだけでなく、レイアウト情報とテキスト情報も抽出し、画像とともに携帯電話に送信することで、画像では文字が潰れて読めない領域はテキストを表示し、視聴の利便性を向上させようとしている。このためには、テキスト領域の判別に加え、文字種の判別を行う必要がある。
【００１２】
特許文献２は、画面サイズに合わせ文書画像のレイアウトを変更しているが、文書と画像が混在したオフィスドキュメントなどをそのままのレイアウトで画像化した文書には対応できない。
【００１３】
本発明はこのような問題点に鑑みてなされたもので、表示領域の小さい画面で画像と文書が混在したドキュメントを画像ビューワで表示する際に、テキスト文字種の判別を行うことなく、閲覧性を向上させることを目的とする。
【課題を解決するための手段】
【００１４】
本発明は、画像を表示する表示部と、構造化された文書ファイルを画像ファイルに変換する画像変換部と、画像変換部の変換した画像ファイルから、文書を構成する個々の要素の存在領域および要素の並び方向を含むレイアウト情報を検出するレイアウト情報検出部と、レイアウト情報検出部の検出したレイアウト情報に基づき、個々の要素の存在領域に相当する部分画像である要素画像を画像ファイルから抽出する要素画像抽出部と、要素画像抽出部の抽出した各要素画像の要素の並び方向に沿ったサイズに基づき、表示部に納まる要素画像の集合で、行情報を作成する行情報作成部と、要素の並び方向に従い、行情報作成部の作成した行情報のスクロール方向を決定するスクロール方向決定部と、スクロール方向決定部の決定したスクロール方向に沿って複数の行情報を配列することで、段落情報を作成する段落情報作成部と、段落情報作成部の作成した段落情報を、表示部の表示範囲内で表示する表示制御部と、スクロール方向に沿った段落情報のスクロール表示を指示するスクロール指示部と、を備え、表示制御部は、スクロール指示部の指示するスクロール方向に沿って、段落情報を表示部の表示範囲内でスクロール表示する文書ファイル表示装置を提供する。
【００１５】
好ましくは、表示制御部は、画像ファイルの全体を縮小表示するとともに、縮小表示された画像の中の各文書の存在領域を指し示す情報を表示し、各文書の存在領域の中から所望の文書の存在領域を選択する領域選択部を備え、レイアウト情報検出部は、領域選択部の選択した文書の存在領域から、個々の要素の存在領域および要素の並び方向を含むレイアウト情報を検出し、表示制御部は、表示部の第１の領域に、スクロール指示部の指示するスクロール方向に沿って、領域選択部の選択した文書の存在領域に対応する段落情報を表示部の表示範囲内でスクロール表示するとともに、表示部の第１の領域と異なる第２の領域に、画像ファイルの全体を縮小表示する。
【００１６】
好ましくは、スクロール方向決定部は、要素の並び方向と直交する方向を行情報のスクロール方向に決定する。
【００１７】
好ましくは、段落情報の表示の拡縮率を指定する拡縮率指定部を備え、行情報作成部は、要素画像抽出部の抽出した各要素画像を拡縮率指定部の指定した拡縮率に従って拡縮したサイズに従い、要素の並び方向に沿って表示部に納まる要素画像の集合で、行情報を作成する。
【００１８】
好ましくは、行情報作成部は、所定の基準に満たない要素画像を行情報から削除する。
【００１９】
好ましくは、段落情報作成部は、所定の基準に満たない行情報を段落情報から削除する。
【００２０】
好ましくは、行情報作成部は、画像ファイル上の要素の並び方向に隣接する要素画像同士を同一の行情報に含める。
【００２１】
好ましくは、行情報作成部は、所定の割合のサイズに満たない前の要素画像と要素方向に沿って隣接する後の要素画像を、前の要素画像と異なる行情報に含める。
【００２２】
好ましくは、行情報作成部は、異なる行情報を結合したサイズが要素の並び方向に沿って表示部に納まる場合、異なる行情報を同一の行情報に統合する。
【００２３】
好ましくは、行情報作成部は、改行の直前の要素画像と改行の直後の要素画像が連続しないよう行情報を作成する。
【００２４】
好ましくは、段落情報作成部は、画像ファイル上のスクロール方向に隣接する要素画像を含む行情報同士を同一の段落情報に含める。
【００２５】
好ましくは、要素画像抽出部は、レイアウト情報検出部の検出した個々の要素の存在領域を所定のサイズだけ拡張した領域を要素画像として抽出する。
【００２６】
本発明は、情報処理装置が、構造化された文書ファイルを画像ファイルに変換するステップと、変換した画像ファイルから、文書を構成する個々の要素の存在領域および要素の並び方向を含むレイアウト情報を検出するステップと、検出したレイアウト情報に基づき、個々の要素の存在領域に相当する部分画像である要素画像を画像ファイルから抽出するステップと、記抽出した各要素画像の要素の並び方向に沿ったサイズに基づき、画像を表示する表示部に納まる要素画像の集合で、行情報を作成するステップと、要素の並び方向に従い、作成した行情報のスクロール方向を決定するステップと、決定したスクロール方向に沿って複数の行情報を配列することで、段落情報を作成するステップと、作成した段落情報を、表示部の表示範囲内で表示するステップと、スクロール方向に沿った段落情報のスクロール表示を指示するステップと、指示するスクロール方向に沿って、段落情報を表示部の表示範囲内でスクロール表示するステップと、を実行する文書ファイル表示方法を提供する。
【００２７】
本発明は、この文書ファイル表示方法を情報処理装置に実行させるための文書ファイル表示プログラムを提供する。
【発明の効果】
【００２８】
本発明によると、元の画像ファイルの要素の並びに沿った要素画像にて、表示部に納まるサイズの行情報が構成され、さらにその行情報がスクロール方向に並んだ段落情報が作成される。ユーザは、単純に段落情報をスクロール方向に沿ってスクロールするだけで、行情報の前後関係を確かめながら文書を読み進めることができ、複数の方向にあちこちスクロールしながら文書を読み進める必要がない。
【図面の簡単な説明】
【００２９】
【図１】コンテンツ配信システムの概略構成図
【図２】画像出力部の出力した画像ファイルの一例を示す図
【図３】行レイアウト情報テーブルを示す図
【図４】文字レイアウト情報を示す図
【図５】ＯＣＲでレイアウト情報が取得されている様子を模式的に示す図
【図６】文書配信処理のフローチャート
【図７】元画像のプレビュー表示の一例を示す図
【図８】選択された文書領域の一例を示す図
【図９】文書のレイアウトの再構成（Ａ７）の詳細なフローチャート
【図１０】文字の周辺部に欠けが発生した文字認識範囲の一例を示す図
【図１１】文字の下部に欠けが発生した文字認識範囲の一例を示す図
【図１２】ＯＣＲ認識された文字の縦横サイズ値から数ピクセル分拡張した範囲を、改めて、認識された文字画像として抽出した様子を示す図
【図１３】行情報の作成を示す図
【図１４】行情報の作成（分離）を示す図
【図１５】行情報の作成（統合）を示す図
【図１６】元画像の一例を示す図
【図１７】文書閲覧用の表示画像の再構成の一例を示す図
【図１８】隣接する行情報の一例を示す図
【図１９】行頭のずれを保持しながら、２つ以上の行情報を結合した様子を示す図
【図２０】元画像の改行を保持するよう作成された段落情報の一例を示す図
【図２１】従来のＯＣＲによる文字配置を示す図
【発明を実施するための形態】
【００３０】
＜第１実施形態＞
図１は本発明の好ましい実施形態に係るコンテンツ配信システムの構成を示す。このシステムは、サーバ１とクライアント２とを含む。サーバ１は、演算装置（ＣＰＵ）、記憶装置、入出力回路などを備えたコンピュータ（情報処理装置）で構成される。クライアント２は、画像を再生可能な表示手段、通信手段、演算装置（ＣＰＵ）、記憶装置、入出力回路、操作手段などを備えた情報端末であり、例えば、スマートフォンやタブレット型コンピュータで構成される。なお、サーバ１にアクセスするクライアント２は不特定多数であってもよいものとする。
【００３１】
具体的には、サーバ１は、文書ファイル取得部１０、画像出力部１１、通信部１２、通信データ制御部１３、文書ファイル解析部１４、データベース（ＤＢ）１５を備える。
【００３２】
通信データ制御部１３、文書ファイル解析部１４は、ＣＰＵなどの情報処理装置で構成される。ＤＢ１５は、ハードディスクやメモリなどの記憶媒体で構成される。文書ファイル取得部１０、画像出力部１１、通信部１２は、入出力装置、ネットワーク通信装置などで構成される。情報の送受信の開始や終了などの通信に関する制御は通信データ制御部１３が司る。
【００３３】
通信データ制御部１３は、受信データ制御、送信データ制御を行う。受信データ制御は、通信部１２で取得したデータの解析処理を含む。また、送信データ制御は、文書ファイル解析部１４と、画像出力部１１で生成した画像やレイアウト情報、テキスト情報を特定のデータ形式に変更し、通信部１２へ送る処理を含む。
【００３４】
文書ファイル取得部１０は、ネットワークで接続された文書ストレージ３から、各種の形式(doc, txt, pdf, ppt, xlsなど)で構造化された文書ファイルを取得する。どのファイルを取得するかは、クライアント２が指定するか、サーバ１の操作手段などでユーザが指定する。
【００３５】
画像出力部１１は、クライアント２やサーバ１の各ブロックからの要求に応じ、文書ファイル取得部１０の取得した文書ファイルを、クライアント２で再生可能な画像ファイルの形式(jpg, tif, bmpなど)に変換し、文書ファイル解析部１４に出力する。図２は、画像出力部１１の出力した画像ファイルの一例を示す。以下、画像出力部１１の出力した画像ファイルは、元画像と呼ばれることもある。
【００３６】
文書ファイル解析部１４は、画像出力部１１の出力した画像ファイルから画像領域とテキスト領域を判別し、テキスト領域に含まれる各行の各文字（句読点・疑問符・括弧などの約物も含む）のレイアウトを当該行単位で解析する。この行単位の文字のレイアウトをレイアウト情報と呼ぶ。レイアウト情報は、画像ファイルとともにＤＢ１５に蓄積される。
【００３７】
図３と図４は、文書ファイル解析部１４の出力したレイアウト情報の一例を示す。このうち図３は、行レイアウト情報テーブルを示す。行レイアウト情報テーブルは、各行の識別情報、位置（縦位置、横位置）とサイズ（幅、高さ）と行の並び方向（横または縦）を示す行レイアウト情報を格納する。行とは、画像ファイルの各文字の読み方向に沿って並んだ文字群をいう。
【００３８】
領域番号は、元画像に存在する各文書の存在領域に付与されたＩＤである。横位置は、領域番号で指定された領域の左上の座標を示す。縦位置は、領域番号で指定された領域の右下の座標を示す。幅は、領域番号で指定された領域の幅（読み方向に沿った長さ）を示す。高さは、領域番号で指定された領域の高さ（読み方向と直交する方向の領域の長さ）を示す。文字方向は、領域内に含まれる文字の読み方向である。
【００３９】
図４は、文字レイアウト情報を示す。文字レイアウト情報は、各行の識別情報（領域番号）と、各行に含まれる各文字の識別情報（文字番号）、所属する行の識別情報（領域番号）、位置（縦位置、横位置）、サイズ（幅、高さ）を格納する。
【００４０】
文字番号は、各文字に付与されるＩＤである。領域番号、横位置、縦位置、幅、高さは、行レイアウト情報テーブルと共通する。
【００４１】
アプリケーションによる再生形式の文書ファイルのレイアウト情報は、画像出力部１１に組み込まれた当該文書ファイルに対応するアプリケーションで画像化したものをＯＣＲ（Optical Character Recognition）エンジンなどの文字認識ロジックを用いて精度よく取得することができる。あるいは、画像出力部１１に組み込まれた文書ファイル形式に応じたプリンタドライバにより、文書内の画像領域、テキスト領域の判別をしてもよい。レイアウト情報をレイアウト情報は、文書の単語や文節などの意味単位の区切り位置や、意味単位の文字数などを含んでもよい。ただし、文書を構成する文字自体は、レイアウト情報に含まれない。文字自体は、エラーを含むことがあるが、位置情報なら、ＯＣＲで十分に精度よく取得できる。図５はＯＣＲでレイアウト情報が取得されている様子を模式的に示す。レイアウト情報は、構造化されたテキスト情報などで記述される。
【００４２】
文書ファイル解析部１４の解析したレイアウト情報は、画像出力部１１の出力した元画像と対応づけてＤＢ１５に記憶される。
【００４３】
通信部１２は、通信データ制御部１３の制御に従い、ＤＢ１５の元画像とレイアウト情報をクライアント２に送信する。
【００４４】
クライアント２は、通信部２１、通信データ制御部２２、表示部２３、入力部２４、画像処理部２５、レイアウト処理部２６、入力情報制御部２７を備える。
【００４５】
通信データ制御部２２、画像処理部２５、レイアウト処理部２６、入力情報制御部２７は、ＣＰＵなどの情報処理装置で構成される。
【００４６】
通信データ制御部２２は、受信データ制御、送信データ制御を行う。受信データ制御は、通信部２１で取得したデータの分類・解析処理を含む。分類・解析の結果、レイアウト情報はレイアウト処理部２６に送られ、元画像は画像処理部２５に送られる。また、送信データ制御は、ユーザから入力された指令などの各種要求を特定のデータ形式に変更し、通信部２１へ送る処理を含む。
【００４７】
通信部２１は、入出力装置、ネットワーク通信装置などで構成され、サーバ１の通信部１２とインターネットなどのネットワークを介して接続し、各種の情報を送受信する。情報の送受信の開始や終了などの通信に関する制御は通信データ制御部２２が司る。
【００４８】
入力部２４は、表示部２３に積層されたタッチパネルなどのユーザインターフェースで構成され、表示画像のスクロール、拡大、縮小、次頁、前頁の取得、高解像度の元画像の取得、領域選択などの各種操作を受け付ける。
【００４９】
入力情報制御部２７は、入力部２４に入力された操作に対応する指令を解釈し、その指令の実行に関係するブロック、例えば、画像処理部２５、レイアウト処理部２６、通信データ制御部２２に該指令を送る。この指令は、表示画像のスクロール、拡大、縮小、次頁、前頁の取得、高解像度の元画像の取得、領域選択などを含む。画像処理部２５などは、これらの指示に応じて、表示画像のスクロール、拡大、縮小、領域選択の着色ハイライト表示、次頁、前頁の取得、高解像度の元画像の取得などを行う。
【００５０】
画像処理部２５は、通信データ制御部２２から取得した画像データの処理（拡大、縮小、平行移動、スクロール）やレイアウトの再構築処理を行う。
【００５１】
レイアウト処理部２６は、画像処理部２５から取得した処理済み画像データ、通信データ制御部２２から取得したレイアウト情報により、表示部２３に送る表示画像を作成する。
【００５２】
レイアウト処理部２６は、サーバ１から送信されたレイアウト情報と、表示部２３属性（画面高さ、画面幅、解像度など）に基づき、画像ファイルに含まれる文書の配置を決定する。
【００５３】
表示部２３はＬＣＤモニタなどで構成され、その表示の制御は画像処理部２７が統括する。
【００５４】
図６はコンテンツ配信システムの実行する文書配信処理のフローチャートである。この処理を実行するためのプログラムはサーバ１およびクライアント２のメモリに記憶され、サーバ１およびクライアント２の各ブロックによって実行される。以下、クライアント２はＡ１〜Ａ８の処理、サーバ１はＢ１〜Ｂ６の処理を実行する。
【００５５】
Ａ１では、クライアント２の入力情報制御部２７は、入力部２４への入力に基づき、文書ストレージ３に蓄積された文書の中から所望の文書ファイルを選択する。通信データ制御部２２は、該選択された文書ファイルの取得を通信部２１経由でサーバ１に要求する。例えば、文書ストレージ３から提供されたファイル名の一覧のＵＲＬなどから、クライアント２の入力部２４および入力情報制御部２７が所望の文書ファイルを選択することで、文書取得要求が発生する。あるいは、クライアント２は、ＤＢ１５に蓄積された文書の中から所望の画像ファイルを選択し、その取得をサーバ１に要求することもできる。
【００５６】
Ｂ１では、サーバ１の通信データ制御部１３は、通信部１２経由でクライアント２からの文書取得要求を受信すると、Ｂ２に進む。
【００５７】
Ｂ２では、サーバ１の通信データ制御部１３は、受信した文書取得要求を解析・分類し、要求元のクライアント１の識別情報（ネットワークアドレスなど）、要求された文書ファイルの識別情報（ファイル名など）を取得する。
【００５８】
Ｂ３では、サーバ１の文書ファイル取得部１０は、要求された文書ファイルに対応する画像ファイルをＤＢ１５から取得する。ＤＢ１５に当該文書ファイルがなければ、サーバ１の文書ファイル取得部１０は、要求された文書ファイルを文書ストレージ３から取得し、画像出力部１１にて画像ファイルに変換する。
【００５９】
Ｂ４では、サーバ１の文書ファイル解析部１４は、文書ストレージ３から取得した文書ファイルを解析し、レイアウト情報を取得する。サーバ１の文書ファイル解析部１４は、取得したレイアウト情報を、要求された画像ファイルに対応づけてＤＢ１５に記憶する。
【００６０】
Ｂ５では、サーバ１の通信データ制御部１３は、通信部１２経由で、要求された文書ファイルの画像ファイルとそれに対応するレイアウト情報をクライアント２に送信する。
【００６１】
Ａ２では、クライアント２の通信データ制御部２２は、通信部２１経由で、サーバ１から送信されてきた画像ファイルとレイアウト情報を受信する。
【００６２】
Ａ３では、クライアント２のレイアウト処理部２６は、表示部２３の属性（サイズ）、文書の拡縮率、および文書の行方向を解析する。これらの情報のうち、表示部２３の属性（サイズ）は、クライアント２のＲＯＭなどに予め記憶されていてもよい。
【００６３】
Ａ４では、クライアント２は、画像ファイルの画像全体をプレビュー表示する。
【００６４】
Ａ５では、クライアント２は、入力部２４を介し、プレビュー表示された元画像全体の中から、表示すべき文書領域の選択を受け付ける。例えば、図７では、文書領域Ｒ１〜Ｒ６を含む元画像がプレビューされており、図８では、領域Ｒ２が表示すべき文書領域として選択されている。選択された文書領域は色分けなどで視覚的に区別される。
【００６５】
Ａ６では、クライアント２の入力情報制御部２７は、表示すべき文書領域の選択が完了したか否かを判断する。Ｙｅｓの場合はＡ７に進み、Ｎｏの場合は引き続きこの選択を待機する。
【００６６】
Ａ７では、クライアント２の画像処理部２５は、表示部２３の属性（サイズ）、文書の拡縮率、および文書の行方向に基づき、選択された文書領域の最適なレイアウトを決定し、選択された文書領域に含まれる文書のレイアウトを再構成する。この処理の詳細は後述する。
【００６７】
Ａ８では、クライアント２の画像処理部２５は、再構成された最適なレイアウトで、該選択された文書領域に含まれる文書を表示部２３に表示する。画像のプレビュー表示領域と、選択された文書領域の文書の表示領域は、それぞれ別である。
【００６８】
図９は文書のレイアウトの再構成（Ａ７）の詳細を示す。この処理は、画像処理部２５およびレイアウト処理部２６により実行される。
【００６９】
Ａ７−１では、レイアウト処理部２６は元画像の各文字のレイアウト情報を取得する。これは、サーバ１の文書ファイル解析部１４の解析の結果得られたレイアウト情報でもよいし、クライアント２のレイアウト処理部２６で実行された同様の解析の結果得られたレイアウト情報でもよい。
【００７０】
レイアウト処理部２６は、レイアウト情報に基づいて、文字認識範囲に描画されている文字画像（文字の存在範囲に相当する部分画像）を抽出する。
【００７１】
図１０に例示するように、ＯＣＲでの文字認識の際は、文字認識範囲に描画されている文字画像（文字の存在範囲に相当する部分画像）にずれが生じ、文字の周辺部に欠けが発生する。特に、図１１に例示するように、文字下部の文字欠けが頻発することが知られている。このため、図１２に例示するように、ＯＣＲ認識された文字の縦横サイズ値から数ピクセル分拡張した範囲を、改めて、認識された文字画像として抽出する。ここでは、文字そのものでなく、元画像上の文字の存在範囲が認識されることに注意を要する。なお、所定のサイズに満たない文字認識範囲からは、文字画像を抽出しないか、抽出しても、そのような文字画像を削除する。
【００７２】
Ａ７−２では、レイアウト処理部２６は、認識された各文字画像の集合から、１または複数の行情報を作成する。行の配置される方向は、レイアウト情報の文字方向に従う。
【００７３】
ここでいう文字方向は、表示画像のスクロール方向と異なる。操作性を考慮すると、スクロール方向は、行方向と直交する方向が好ましい。さらに操作性を考慮し、スクロール方向は、１つのみが望ましい。従来技術のように左右および上下方向など、スクロール方向が複数あると、あちこちにスクロールしながら文書を閲覧することになり、使いにくいからである。
【００７４】
いくつの文字画像の数nで表示部２３の１行の行情報を作成するかは、各文字画像のサイズai、表示部２３の行方向のサイズb、および文字の拡縮率cに依存する。すなわち、各文字を所望の拡縮率で拡縮し、表示部２３の文字方向のサイズを超えない最大限の範囲で、元画像の選択文書と同じ並びを保ったままその拡縮後の各文字を行方向に並べていった場合、その文字の集合が１行分の行集合となる。数式で表すと、１行分の文字集合の行方向のサイズは、
L= Σai*c*n≦b  …（１）
を満たすLの最大値Lmaxである。ここで、Σaiは、隣接する個々の文字画像の総和（行情報）である。よって、
n=Lmax/(Σai*c)  …（２）
である。bは固定値であるから、文字の拡縮率cが大きくなれば、それだけ表示部２３の１行あたりの文字数nは小さくなる。拡縮率cは、ユーザインターフェース、例えば、図７の拡縮ボタンＢを介してユーザより任意に指定される。
【００７５】
行情報Σaiは、次のようにして決定される。例えば、図１３のように、行の読み進み方向である左から右に沿って、前の文字画像である「商」の文字画像に隣接する所定のサイズαの領域、例えば当該「商」の文字画像の横幅の３０％の横幅を有する領域が、「品」の文字画像の存在領域の一部と重複したとする。この場合、レイアウト処理部２６は「商」の文字画像に隣接する文字画像は「品」の文字画像と判断し、それらは同じ行情報に含める。
【００７６】
逆に、前の文字画像の幅が所定のサイズに満たないものと、それに隣接する文字画像は、隣接しないものと判断する。例えば、図１４のような「。」の文字画像は、所定サイズαを下回り、次の文字画像「会」とは隣接しないものとする。すなわち文字画像「。」と「会」は別の行情報に分離する。
【００７７】
ただし、文字画像同士が隣接しないと判断されても、異なる文字画像の集合同士が、元画像上で共通する座標を有しており、かつそれらの結合サイズが表示部２３の表示範囲に納まるならば、それらを同じ行情報に統合する。例えば、図１５の２つの行集合Ｒ１とＲ２は、所定サイズαに満たない「、」の文字画像で分断されているが、それらの結合サイズが表示部２３の表示範囲に納まるので、これを新たな行情報Ｒとする。
【００７８】
レイアウト処理部２６は、n個分の文字画像を含む切り出し枠を元画像に設定し、１行分の文字画像の固まりを切り出す。そして、切り出した１行分の文字画像の固まりを、スクロール方向に沿って１行分ずつ配置する。
【００７９】
例えば、図１６のような元画像Ｉが存在し、数式（２）により、表示部２３の１行あたりの文字数n=12が算出されたとする。この場合、１番目の行に対する切り出し枠として、元画像Ｉの１番目の行の１２個分の文字画像を含む枠Ｔ１が画像Ｉに設定される。次に、２番目の行に対する切り出し枠として、元画像Ｉの１番目の行の５個分の文字画像を含む枠Ｔ２−１と、元画像Ｉの２番目の行の７個分の文字画像を含む枠Ｔ２−２とからなる枠Ｔ２が元画像Ｉに設定される。次に、３番目の行に対する切り出し枠として、元画像Ｉの２番目の行の１０個分の文字画像を含む枠Ｔ３−１と、元画像Ｉの３番目の行の２個分の文字画像を含む枠Ｔ３−２とからなる枠Ｔ３が元画像Ｉに設定される。以後、同様に、前のk番目の行の枠に包含されなかった直後の文字画像から、n個後の文字画像までを包含するように、k+１番目の行の枠Ｔkが設定される。
【００８０】
図１７に例示するように、レイアウト処理部２６は、枠Ｔkに包含される部分画像を、スクロール方向に沿って、k番目の行に配置する。このようにして行の配置を繰り返すことで、元画像Ｉから、クライアント２での文書閲覧用の表示画像Ｉ’を再構成する。表示画像Ｉ’がスクロールしない文字方向Ｘのサイズは、表示部２３のサイズと同じであるかそれよりも小さい。すなわち、文字方向Ｘに関し、画像Ｉ’のサイズと表示部２３のサイズと異なっていても、文字方向にスクロールの必要がないほど微細な違いしかないものとする。
【００８１】
Ａ７−３では、レイアウト処理部２６は、行集合の中から不要文字行を削除する。不要文字行とは、１文字だけの行情報である。これは、１文字だけの行情報は、文字の一部を文字として誤認識した可能性が高いためである。ただし不要文字行は、１文字だけの行情報に限られない。
【００８２】
Ａ７−４では、レイアウト処理部２６は、文字方向に基づいてスクロール方向を決定する。通常は、読む行を閲覧者に簡単に選択させるため、文字方向とスクロール方向とは直交する関係にあるとする。例えば、レイアウト処理部２６は、文字方向が横であれば、スクロール方向は縦、文字方向が縦であれば、スクロール方向は横というように、文字方向からスクロール方向を決定する。
【００８３】
レイアウト処理部２６は、決定したスクロール方向に沿って隣接した行情報を結合することで、段落情報を作成する。これは例えば図１８のように、元画像およびその文字方向を基準にすると、上流側の文字画像を含む行情報（前の行情報Ｒ１）の下端から所定の範囲β、例えば前の行情報Ｒ１の文字画像の高さの５０％の範囲に存在する文字画像を含む行情報Ｒ２（後の行情報Ｒ２）が、Ｒ１と隣接する行情報と判断される。レイアウト処理部２６は、隣接する行情報Ｒ１とＲ２を結合し、同一の段落情報とする。レイアウト処理部２６は、この隣接する行情報の判断と結合を行情報ごとに繰り返すことで、段落情報を作成する。
【００８４】
なお、図１９に例示するように、レイアウト処理部２６は、行頭のずれを保持しながら、２つ以上の行情報を結合してもよい。
【００８５】
あるいは、レイアウト処理部２６は、元画像の文書領域の改行を保持するように、行情報を作成してもよい。すなわち、図２０に例示するように、レイアウト処理部２６は、元画像の選択された文書領域Ｄの行の中に、途中で改行のある行Ｆを識別した場合、この行Ｆの末尾の文字画像には、直後の行Ｌ２の最初の文字画像を結合せず、これらが同一の行情報で連続しないよう、行情報および段落情報Ｚを作成する。
【００８６】
Ａ７−５では、レイアウト処理部２６は、段落情報の中から不要段落を判断し、削除する。不要段落は、段落面積や段落内の文字数に応じて判断される。例えば、ある段落に含まれている文字面積の総和が、元の画像の面積に対する比率（０．１％など）以下であれば、その段落は不要段落と判断される。あるいは、ある段落に含まれている文字の数がある所定の数（２個など）以下であれば、その段落は不要段落と判断される。つまり、極端に文字数が少ない段落などは、閲覧に適さないものとして削除する。
【００８７】
Ａ７−５では、レイアウト処理部２６は、不要段落削除後の段落をスクロール方向に沿って並べて結合することで、段落情報を再構成し、これを新たな表示画像Ｉ’とする。この後Ａ８に進み、表示画像Ｉ’が表示される。
【００８８】
表示画像Ｉ’の文字方向のサイズは、表示部２３のサイズと同じであり、スクロールは不要であるが、表示画像Ｉ’のスクロール方向のサイズは、表示部２３のサイズを超える場合がある。よって、表示画像Ｉ’のスクロール方向の表示範囲は、表示部２３のサイズに限定され、部分的な表示となる。
【００８９】
そのため、入力情報制御部２７は、文字方向から定まるスクロール方向の指示を受け付け、その指示を画像処理部２５に送る。画像処理部２５は、スクロールの指示どおり表示画像Ｉ’をスクロールさせ、スクロールで進んだ範囲を表示させる。ただし、入力情報制御部２７は、それ以外のスクロール方向の指示は受け付けず無視してもよい。
【００９０】
入力情報制御部２７は、表示画像Ｉ’の拡縮率の変更を受け付けると、Ａ７−１に戻り、変更された拡縮率に最適な表示画像Ｉ’が再構成される。
【００９１】
以上の処理によると、元画像の文字の並びに沿った文字画像にて、画面横サイズと同じサイズの行情報が作成され、さらにその行情報がスクロール方向に並んだ段落情報から表示画像Ｉ’が作成される。ユーザは、単純に表示画像Ｉ’を文字方向と直交するスクロール方向に沿ってスクロールするだけで、行の前後関係を確かめながら文書を読み進めることができ、複数の方向にあちこちスクロールしながら文書を読み進める必要がない。
【００９２】
従来では、ＯＣＲで文字そのものを認識し、認識された文字を並べて行を作成していくと、次のような問題が生じる。（１）微妙な文字間のバランスを再現するのが難しい。（２）句読点の正しい配置が難しい（図２１参照）。しかしながら、本処理では、画像そのものを並べて閲覧用画像を再構成するため、このような問題は起こらない。
【００９３】
また、任意に指定された拡縮率に応じて、閲覧用画像を再構成するため、どのような拡縮率でも、行の前後関係を確かめながら文書を読み進めることができる。
【符号の説明】
【００９４】
１…サーバ、２…クライアント、１０…文書ファイル取得部、１１…画像出力部、１２…通信部、１３…通信データ制御部、１４…文書ファイル解析部、１５…ＤＢ、２１…通信部、２２…通信データ制御部、２３…表示部、２４…入力部、２５…画像処理部、２６…レイアウト処理部、２７…入力情報制御部
【図１】
2012230623.tif 000003
【図２】
2012230623.tif 000004
【図３】
2012230623.tif 000005
【図４】
2012230623.tif 000006
【図５】
2012230623.tif 000007
【図６】
2012230623.tif 000008
【図７】
2012230623.tif 000009
【図８】
2012230623.tif 000010
【図９】
2012230623.tif 000011
【図１０】
2012230623.tif 000012
【図１１】
2012230623.tif 000013
【図１５】
2012230623.tif 000014
【図１６】
2012230623.tif 000015
【図１７】
2012230623.tif 000016
【図２０】
2012230623.tif 000017
【図２１】
2012230623.tif 000018
【図１２】
2012230623.tif 000019
【図１３】
2012230623.tif 000020
【図１４】
2012230623.tif 000021
【図１８】
2012230623.tif 000022
【図１９】
2012230623.tif 000023