(57)【特許請求の範囲】
【請求項１】
ハンドヘルドの携帯端末装置であって、
連続して画像を取得する取得手段と、
上記取得画像と画像中の特定位置とを表示する表示手段と、
上記取得画像中の文字行記載領域を抽出する抽出手段と、
上記抽出手段によって上記取得画像中の特定位置最近傍から抽出される文字行記載領域を確定する確定手段とを有する携帯端末であって、
上記抽出手段は、上記確定手段に入力があるまで、上記取得画像の更新に応じて上記文字行記載領域を複数回抽出し、上記表示手段上に該抽出結果に基づいて文字行記載領域を表示し、前記文字行記載領域の抽出結果の更新に伴い前記文字行記載領域の表示を更新することを特徴とする携帯端末装置。
【請求項２】
上記表示手段は上記画像中の特定位置を表示手段としてマーカーを有し、
上記抽出手段は上記取得画像中のパターンを検出し、
上記マーカーに最近傍の上記パターンを核として近接する上記パターンを連結することで文字行記載領域を抽出することを特徴とする請求項１記載の携帯端末装置。
【請求項３】
上記マーカーは移動可能であることを特徴とする請求項２に記載の携帯端末装置。
【請求項４】
上記携帯端末はさらに、
上記抽出された文字行記載領域中の文字行を認識する文字行認識手段と、
該文字行認識手段によって認識された複数の認識結果を提示する手段と、
上記複数の認識結果のうちの１を選択する手段を有することを特徴とする請求項１乃至３のいずれかに記載の携帯端末装置。
【請求項５】
上記携帯端末はさらに高精細化手段を有し、
上記高精細化手段は、上記確定された文字行記載領域を取り出して得られる部分画像に対し、画素補完し、上記画素補完された部分画像を平滑化し、さらに２値化することを特徴とする請求項１乃至４のいずれかに記載の携帯端末装置。
【請求項６】
上記パターンの連結に際しては、各パターンの外接矩形を用いて近接するパターンを判断することを特徴とする請求項２乃至５のいずれかに記載の携帯端末装置。
【請求項７】
ハンドヘルドの情報端末において連続して入力される画像データ中から文字行記載領域を抽出する文字行記載領域抽出方法であって、
画像を取得する第１のステップと、
該情報端末が有する表示部に上記取得画像と画像中の特定位置とを表示する第２のステップと、
上記取得画像中の特定位置最近傍から文字行記載領域を抽出する第３のステップとを有し、
上記第３のステップは、上記取得画像の更新に応じて上記文字行記載領域を複数回抽出し、上記表示部に該抽出結果に基づいて文字行記載領域を表示し、ユーザから確定手段に入力があるまで、前記文字行記載領域の抽出結果の更新に伴い該文字行記載領域の表示を更新することを特徴とする文字行記載領域抽出方法。
【請求項８】
請求項７記載の文字行記載領域抽出方法であって、
上記第３のステップは、上記取得画像中のパターンを検出し、
上記表示部に画像中の特定位置を示すために表示されるマーカーに最近傍の上記パターンを核として近接する上記パターンを連結することで文字行記載領域を抽出することを特徴とする文字行記載領域抽出方法。
【請求項９】
上記マーカーは移動可能であることを特徴とする請求項８記載の文字行記載領域抽出法方法。
【請求項１０】
請求項７記載の文字行記載領域抽出方法であって、
上記抽出された文字行記載領域中の文字行を認識する第４のステップと、
該認識された複数の認識結果を提示する第５のステップと、
上記複数の認識結果のうちの１を選択する第６のステップとを有することを特徴とする文字行記載領域抽出方法。
【請求項１１】
請求項７記載の文字行記載領域抽出方法であって、
上記確定された文字行記載領域を取り出して得られる部分画像に対し、画素補完し、上記画素補完された部分画像を平滑化し、さらに２値化する第７のステップを有することを特徴とする文字行記載領域抽出方法。
【請求項１２】
上記パターンは上記取得画像中の連結成分の外接矩形であることを特徴とする請求項８記載の文字行記載領域抽出方法。
【発明の詳細な説明】
【０００１】
【発明が属する技術分野】
今後，携帯端末や携帯電話に内蔵するCPUの高性能化や，CCD等の低価格化によって，撮像素子を内蔵した携帯端末が普及する。撮像素子を内蔵した携帯端末を用いて，ユーザーが着目した文字列を含んだ景観画像を採取し，その文字列を認識することにより，ネットワーク上から関連情報を引き出す事が可能になる。景観画像中から目的の文字列を選択するためには，携帯端末上の限られたユーザーインタフェースを用い，かつ，操作者が直感的に理解し易い指示方法が必要である。
また，携帯端末には構造上，高解像度画像の採取可能なデバイスを格納することは難しい。そのため携帯端末のカメラで採取した低解像度の画像を用いて，文字認識を行う。しかし，解像度と認識精度はトレードオフの関係にあり，高い認識精度を要求する場合，入力画像を加工する必要がある。
【０００２】
【従来の技術】
景観画像中からの文字認識結果を用いた情報検索は，特開2000-331006，特開平10-254622に記載がある。また，特開2000-23012は携帯端末を用いた翻訳機について記載されており，この発明中のGUIに対象文字行を当てはめる線分が画像表示部に表示される。しかし，線分は固定で，操作者が景観画像を採取する際の目安として利用するのみで，文字行の位置やサイズを操作者が合わせる必要がある。また，携帯端末内の低解像度撮像系で採取した画像を対象とする文字認識に関する発明は存在しない。
【０００３】
【発明が解決しようとする課題】
携帯電話または携帯端末にCCDカメラを内蔵し，景観画像をキャプチャして文字認識を行い，翻訳機能，検索機能などを搭載する手段は，特開2000-23012で述べられている。しかし，操作者が景観画像中から対象文字行を容易に選択する手段は存在しない。そこで本発明は，操作者に対し入力画像中からの文字行抽出結果を随時提示し，任意の対象文字行を容易に選択する事を可能にする。
また，携帯端末などに内蔵する撮像素子は，コストや設置容積の点から，高解像度の画像を採取可能に設計することは困難である。低解像度の画像を用いて認識処理を行うと，認識精度に悪影響が生じ，操作者の目的が阻害される。そこで本発明では，採取した低解像度の画像から，文字行位置の抽出処理を行った後，その文字行位置の部分画像に対し拡大処理を行うことにより，文字行部分画像を高解像度化し，認識精度の向上を図る。
【０００４】
【課題を解決するための手段】
本願において開示される発明のうち、代表的なものの概要は以下の通りである。取得画像中の文字行記載領域を抽出する手段を有する携帯端末であって、確定手段に入力があるまで上記文字行記載領域を変動させながら連続して抽出し、かつ上記抽出した文字行記載領域を表示手段上に常に表示することで抽出する文字行記載領域を確定し、上記確定された文字行記載領域に記載される文字行を認識する手段と、上記認識結果をネットワークを介して転送する手段と、上記認識結果に基づくコンテンツを受信する手段とを有する携帯端末。
さらに取得画像の高精細化手段を有し、上記確定された文字行記載領域を画素補完し、上記画素補完された部分画像を平滑化し、さらに２値化を行うことを特徴とする携帯端末。
又、上記携帯端末と、ネットワークを介して上記携帯端末と接続される計算機からなる通信システムであって、上記形態端末で取得した認識結果若しくは上記文字行抽出領域を上記ネットワークを介して上記計算機に転送し、上記計算機が転送された上記認識結果若しくは上記文字行抽出領域の情報をもとにネットワーク上の情報検索をおこなって、検索結果を上記携帯端末に転送する手段を有することを特徴とする通信システム。
【０００５】
【発明の実施の形態】
図1に本発明に用いる携帯端末と，入力データとなる文字行が記載された物体を示している。101は，携帯端末の1形態であり，102に画像表示部があり，反対側の面には撮像素子を用いたカメラが格納されている。103は操作レバーで，104はボタンである。また画像表示部はタッチパネルになっており，操作者が直接指示できるようになっている。この携帯端末を用いて，105のように物体に記載されたURLアドレスや文字行画像を採取し，文字行記載領域の抽出，文字行認識を行い106のような無線通信回線を用いてデータを転送し，107のようにネットワークに接続された計算機を用いて，ネットワーク上の対象コンテンツを選択し転送，表示する。表示されたコンテンツを操作者が参照し，再度指示を行うことにより，双方向の通信が行われる。
図2と図3に本発明の画像表示例を示す。
図2は撮像された物体に記載されたURL文字行に対し文字認識処理を行い，その認識結果からURLに対応したホームページを受信し表示した例である。まず，201の画像表示部で撮像素子により採取された物体を表示し，画像表示部内には202のようにマーカーが表示されている。マーカーは操作者が指示する事により移動可能である。このマーカーに最も近い位置に記載されているURL文字行に対し，文字行矩形抽出処理が連続して行われ，203のように抽出結果の矩形が随時更新されて表示が繰り返される。このことにより，操作者は端末を動かすか，マーカーを移動させる事により，認識対象文字行を容易に選択する事が可能となる。目的の文字行を矩形が正しく囲んだ際にユーザーが確定指示を行い，その後，確定されて矩形内の文字行に対し文字認識が行われ，204のように認識結果がポップアップで表示される。この認識結果が妥当な場合，操作者が確定指示を行い，その結果，205のようにネットワーク上の計算機から認識結果のURLに対応したコンテンツが携帯端末に転送される。その後，操作者は表示部のコンテンツを参照し，ボタン操作か206のような表示部のボタンの接触操作により，双方向の通信が可能になる。
図3は撮像された物体に記載された文字行に文字認識処理を行い，その認識結果を元にネットワーク上のコンテンツを検索し，検索結果を表示した例である。図2の場合と同様に，301で撮像された画像表示し，302のマーカーに最近傍の文字行が抽出され，303のように連続表示された文字行矩形をユーザーが確定指示すると，認識処理の後に304のように認識結果がポップアップで表示される。この認識結果が妥当な場合，操作者は確定指示を行う。その後，認識結果をネットワーク上の検索エンジンに入力し，得られた検索結果を携帯端末が受信し，305のように表示する。操作者は，表示された検索結果を参照し，ボタン操作か表示部の接触操作により，新たにコンテンツを受信することが可能である。
図4に携帯端末内のハードウエア構成を示す。携帯端末内には，制御や画像処理，文字認識を行うCPU（401），メモリ（402），表示部（403），入力データを採取するため撮像素子（404），無線通信に用いる通信部（405），スピーカー（406），マイク（407），電源部（408），ボタン（409），表示部に重ねて組み込まれるタッチパネル（410）がバスで結合されている。
図5に本発明における全体処理フローを示す。まず携帯端末において，撮像素子を用いたCCDによって501で対象物体を撮像し，撮像した画像を501において表示部で操作者に表示する。その後，図2，図3で示したようにマーカーから最近傍の文字を核として，502で文字行抽出処理を行う。その結果得られた抽出結果を矩形として503で表示部に画像と重ねて表示し，操作者が504で確定指示を行うまで501の画像採取に戻り，繰り返す。
操作者が確定指示を出した後，表示された矩形内の部分画像を用いて画像処理を行い，認識処理に入力する。撮像素子により採取した低解像度の入力画像に対し，505によって高精細化処理を行い，高精細化された部分画像を，506の文字行認識に入力する。その後，文字認識結果を507で操作者に提示し指示を仰ぎ，操作者が妥当な認識結果であると判断した場合，確定指示を行い，無線通信によりネットワーク上の計算機に転送される。妥当な認識結果でないと操作者が判断した場合は，501で撮像素子から再度画像を採取して処理をやり直す。
計算機に送られた文字行は，509で受信され，510で文字行がURLアドレスか，その他の文字行か判別される。文字行がURLアドレスであった場合，511においてインターネット上でそのURLアドレスのホームページコンテンツを採取し，512で端末に送信する。次に513で文字行がE-mailアドレス化判別し，E-mailアドレスの場合，514でそのアドレスを宛先フィールドに挿入したメール送信プログラムを端末に送信する。このメール送信プログラムはJAVA等により記述されたアプリケーションを用いることで実現できる。また一度送信されたメール送信用プログラムは携帯端末内に保管され，再度用いることも可能である。また，文字行がURLアドレスでもE-mailアドレスでもない場合，515でインターネット上のコンテンツ検索エンジンに入力し，文字行をキーワードとして検索を行う。その検索結果を，516で端末に送信し操作者に提示する。
携帯端末側では517でコンテンツを受信し，操作者が518でコンテンツを参照し，表示部の接触指示かボタン操作により，希望のコンテンツを選ぶか，メール送信等を行い，目的を達成する。
また，上記の携帯端末とネットワーク上の計算機とのデータ転送手順と，処理分担は他にも考えられる。例えば，携帯端末上で対象となる文字行記載領域を選択した後，部分画像のみネットワーク上の計算機に転送し，計算機上で画像処理と文字認識を行う。この転送手段としては，メールに部分画像を添付して送信する手段などが考えられる。文字認識処理の結果得られた複数の候補を元に，候補順位順にネットワーク上のコンテンツを検索する。複数候補を用いて検索し，妥当なコンテンツが見つかった場合，そのコンテンツを端末に送信し表示する。また，全ての候補を用いて検索しても妥当なコンテンツが見つからなかった場合，再度パラメータを変えて文字認識処理を繰り返す。
上記処理手順を用いれば，操作者が文字記載領域確定指示のみによって，希望のコンテンツを参照可能なる。ただし，文字認識結果が誤っていた場合でもコンテンツが存在すると，操作者の意図と異なったコンテンツが表示される場合がある。
また，上記のような携帯端末と計算機との送受信の際に，課金を行うサービスも考えられる。本サービスは，ネットワーク上に繋がった計算機を管理する会社が，携帯端末から認識結果である文字列や，認識対象となる部分画像を受信し携帯端末側にコンテンツを送信する際に，操作者に対してサービス料として課金を行う。操作者は，対象となる文字列の認識結果を確認後，コンテンツを受信することが可能になり，安定したサービスが可能になる。
図6に文字行抽出処理の概念図を示す。まず，601が携帯端末のカメラで採取した画像であり，602は対象文字行が記載されている物体である。画面の真中の603はマーカーであり，このマーカーの位置から最近傍に記載された文字行を抽出する処理が行われる。マーカーは操作者により，タッチパネルかボタン操作により画面上の位置を移動させる事が可能である。次に，604は入力画像を2値化した後，黒画素の塊である連結成分を生成し，それぞれの連結成分の外接矩形を表示した画像である。処理高速化のために，文字行抽出処理は連結成分の外接矩形位置情報を用いて行う。次に，マーカーの最近傍の位置にある連結成分の外接矩形を選択し，605のように太い矩形で表している。この連結成分を文字行抽出の初期状態の「核」として用いる。この「核」となる連結成分は操作者には表示されない。606は文字行抽出の途中経過を表しており，605で示した「核」を元に横方向に近傍の連結成分を統合していくことにより，文字行矩形を形成する。次に607は横方向に統合した結果，連結成分により構成された文字行矩形を表示している。608は操作者から見た文字行矩形抽出結果の表示であり，点線の矩形が文字行抽出結果である。この矩形を操作者が参照し，対象文字行を矩形が正しく囲んでいる場合，確定指示をボタンで行い，そうでない場合は端末を動かすかマーカーを移動させることにより，随時文字行抽出結果矩形が変動する。
図7は，文字行抽出処理の処理フローを示している。文字行抽出処理は，まず撮像素子から701で画像を採取し，入力画像を702で2値化し，次に703でノイズ除去を行う。その後，704で2値画像から連結成分の生成を行い，705でマーカーから最近傍の連結成分を初期値の「核」として選択する。次に706で「核」となる連結成分からある一定の近距離の連結成分を統合して，文字行矩形を形成し，矩形座標が出力される。この矩形を707の表示部において動的に表示し，708でユーザーが確定指示を出すまで701の画像採取へ戻り処理を繰り返す。ユーザーが確定指示を出した場合，高精細行抽出処理へ矩形座標が入力される。
図8は，高精細行画像生成の概念図を示している。文字行画像を認識処理に入力する前に，対象となる部分画像に対し画素補完を行い，高解像度の部分画像を生成し，認識精度の向上を狙う。801は操作者が文字行矩形を確定指示した時点での表示部を示している。この文字行矩形位置情報を元に，画像採取時に得られた濃淡画像から部分画像をくり貫いたのが802の画像である。この濃淡部分画像に対し画素補完処理を行い，高解像度化したのが803の画像である。このように画素補完により高解像度化を行うと，斜め線分に階段状の形状が現れる。そこで，画像に平滑化を施すと，804のようにノイズが減り，斜め線分の輪郭も滑らかになる。次に，2値化処理を施すと805の画像のようにノイズも無く，輪郭も鮮明な高精細文字パターン画像が生成される。この高精細行画像を認識処理に入力することにより，低解像度の撮像系を用いても高精度な認識結果が得られる。
図9に高精細行画像生成の処理フローを示す。まず文字行抽出処理で決定された文字行矩形の座標を元に，901で画像採取時に得られた濃淡画像から部分画像をくり貫く。部分画像に対して，902で画素補完により画像を拡大する。次に，903で拡大した画像に対し平滑化を行い，904で2値化を施す。その結果，高精細な2値画像が生成される。
図10に文字行認識処理の概念図を示す。1001は入力された文字行画像であり，この文字行画像に対し連結成分ごとに文字パターン候補の組み合わせを生成しネットワーク表現したのが1002である。1003は「h」のみ切出したパターンで，1004は「ht」を組み合わせたパターンである。これらの組み合わせのうち，正しい文字パターンを選んでネットワーク上をルート探索すると，文字行の認識結果が得られる。このネットワーク上のパターンを文字認識モジュールに入力した結果が，1005である。1003の「h」のパターンには1006のように「h」の認識結果が得られ，1004の「ht」の2つ文字を組み合わせたパターンに対する認識結果は1007のように「n」になっていることが分かる。このように全てのパターンに対する文字認識結果と，文字認識に用いたテンプレートとの類似度をネットワーク上に記録しておく。1008は，認識結果の記録が付加されているネットワークに対し，単語知識と認識結果の類似度を元にルート探索をした結果である。この例ではURLとして頻発する単語（http，://，www，co.jp，comなど）は単語知識でルートの制約を行い，それ以外の単語は認識結果の類似度を指標としてルートを決定する。単語知識はDNS（ドメインネームサーバ）からURLアドレスを得て活用するか，看板等を対象物とする際には地理的位置情報を用いて存在単語を限定する手段も考えられる。決定されたルート上の文字をつなぎ合わせたのが1009の文字行であり，これが文字行画像に対する認識結果である。
図11に文字行認識の処理フローを示す。まず，入力された文字行画像に対し，1101で文字パターンの候補になる組み合わせを生成しネットワークを構築する。次に1102でそれぞれの文字パターンの候補に対し文字認識を行い，それぞれに対応した認識結果と類似度を情報として付加しておく。次に1103で予め蓄積されている単語知識を用いて，ネットワーク上のルート制約を行う。次に1104で単語知識制約と，文字認識結果の類似度を用いてネットワーク上の最適なルートを決定する。その結果，文字行の認識結果が得られる。
上記の手段を用いることにより，操作者が着目する文字行を選択し，文字認識結果から情報コンテンツを得ることが可能になる。
【０００６】
【発明の効果】
本発明を用いると撮像素子を内蔵した携帯端末を用いて，任意の文字行が記載された物体を撮影し，その文字行を元にした情報を入手する事が可能になる。また，任意の文字行を操作者が選択する際に，携帯端末の操作を容易にする事が出来る。また，解像度の低い撮像素子を用いた場合でも，擬似的に高解像度画像を生成し文字認識処理を行う事により，認識精度を高める事が可能となる。
【図面の簡単な説明】
【図１】認識機能付き携帯端末を用いた情報収集の概念図である。
【図２】本発明を用いた携帯端末の表示画面の図である。
【図３】本発明を用いた携帯端末の表示画面の図である。
【図４】携帯端末のハードウエア構成図である。
【図５】携帯端末内とネットワーク上計算機の処理フローの図である。
【図６】文字行抽出の概念図である。
【図７】文字行抽出の処理フローである。
【図８】高解像度画像生成の概念図である。
【図９】高解像度画像生成の処理フローである。
【図１０】文字行認識の概念図である。
【図１１】文字行認識の処理フローである。
【符号の説明】
201・・・画面表示部  202・・・マーカー  203・・・文字行抽出矩形  204・・・文字行認識結果  205・・・画面表示部  206・・・操作キー。
【図１】
0004240859.tif 000002
【図２】
0004240859.tif 000003
【図３】
0004240859.tif 000004
【図４】
0004240859.tif 000005
【図５】
0004240859.tif 000006
【図６】
0004240859.tif 000007
【図７】
0004240859.tif 000008
【図８】
0004240859.tif 000009
【図９】
0004240859.tif 000010
【図１０】
0004240859.tif 000011
【図１１】
0004240859.tif 000012