(57)【要約】【課題】すべての入力について判定手段の判定結果の正解不正解を別の方法で判定することでその判定手段の正解率を求める方式よりも、より低いコストでその判定手段の正解率を求める。【解決手段】選択部１６は、ＯＣＲ１０の認識確度が閾値以上であれば、ＯＣＲ１０の文字認識結果をこの装置の最終的な認識結果として出力し、閾値未満であれば確認処理部１８に確認を求める。確認処理部１８は、ＯＣＲ１０の文字認識結果を例えば人間が確認し、間違っていれば正しい文字列に修正し、正しいと確認された文字列をこの装置の最終的な認識結果として出力する。低確度域正解率算出部２２は、確認処理部１８により得られる文字認識結果の正解、不正解の情報に基づき、認識確度が閾値未満の場合のＯＣＲ１０の正解率を算出する。高確度域正解率推定部２４は、認識確度が閾値未満の正解率から、線形補間等により認識確度が閾値以上の範囲の正解率を推定する。【選択図】図１
2019164687.tif 000002
【特許請求の範囲】
【請求項１】
入力について判定し、判定結果を求める判定手段と、
前記判定結果が正解か誤りかを確認し、判定結果が正解の場合はその判定結果を採用し、誤りの場合に前記入力についての正しい判定結果を求め、求めた判定結果を採用する確認手段と、
各入力について、前記判定手段が正解する可能性を示す度合いを求める手段と、
前記度合いが閾値以上である入力については前記確認手段を介在させずに前記判定手段の判定結果を出力し、閾値未満であれば前記確認手段が採用した判定結果を出力する制御を行う出力制御手段と、
前記度合いが前記閾値未満の範囲のうちの第１範囲内である入力のうち前記確認手段で正解と確認されたものの比率を、前記第１範囲における前記判定手段の正解率として算出する正解率算出手段と、
前記第１範囲における前記正解率に基づき、前記閾値以上の範囲のうちの第２範囲における前記判定手段の正解率を推定する推定手段と、
を含む情報処理装置。
【請求項２】
前記第１範囲は、所定基準に従い決まる０より大きい値から前記閾値までの範囲である、請求項１に記載の情報処理装置。
【請求項３】
前記推定手段は、前記正解率算出手段が算出した前記正解率が前記第１範囲における前記度合いの第１の代表値に対応するものであるとし、前記第２範囲における前記度合いの第２の代表値に対応する正解率を、前記第１の代表値に対応する正解率と、前記度合いが取り得る最大値における所定の最大正解率と、の間の線形補間により推定する、請求項１又は２に記載の情報処理装置。
【請求項４】
前記正解率算出手段は、前記度合いが前記閾値未満である複数の範囲についてそれぞれ前記正解率を求め、
前記推定手段は、前記複数の範囲の各々の前記正解率の前記度合いに応じた変化の傾向に基づき、前記第２範囲における前記正解率を推定する、請求項１又は２に記載の情報処理装置。
【請求項５】
前記正解率算出手段は、前記度合いが前記閾値未満である複数の範囲についてそれぞれ前記正解率を求め、
前記推定手段は、前記複数の範囲の各々の前記正解率と前記度合いとの関係から、前記度合いに対応する前記正解率を求める関数を推定し、推定した関数を用いて前記第２範囲における前記正解率を推定する、請求項１又は２に記載の情報処理装置。
【請求項６】
前記推定手段は、前記度合いの発生頻度の分布から前記度合いの確率密度関数を求め、前記確率密度関数を用いて前記第２範囲における前記正解率を推定する請求項１に記載の情報処理装置。
【請求項７】
入力について判定し、判定結果を求める判定手段と、
前記判定結果が正解か誤りかを確認し、判定結果が正解の場合はその判定結果を採用し、誤りの場合に前記入力についての正しい判定結果を求め、求めた判定結果を採用する確認手段と、
各入力について、前記判定手段が正解する可能性を示す度合いを求める手段と、
前記度合いが閾値以上である入力については前記確認手段を介在させずに前記判定手段の判定結果を出力し、閾値未満であれば前記確認手段が採用した判定結果を出力する制御を行う出力制御手段と、
前記度合いが前記閾値未満の範囲のうちの第１範囲内である入力のうち前記確認手段で正解と確認されたものの比率を、前記第１範囲における前記判定手段の正解率として算出する正解率算出手段と、
前記第１範囲における前記正解率に基づき、前記閾値以上の範囲のうちの第２範囲における前記判定手段の正解率を推定する推定手段と、
を含む情報処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置に関する。
【背景技術】
【０００２】
特許文献１に開示された方法は、入力された帳票上の画像に対し文字認識を行ない、その文字認識結果としての類似度を得て、この得られた類似度とあらかじめ登録された当該文字認識に要求する確信度とを比較し、この比較の結果に基づき文字認識結果に対し人手によるベリファイ処理を必要としない出力を行なうか、あるいは、上記比較の結果に基づき文字認識結果に対し文字認識候補の選択肢を提示して人手によるベリファイ処理を促す出力を行なうか、あるいは、上記比較の結果に基づき文字認識結果に対し人手による新規入力および確定を提示して手入力処理を促す出力を行なう。
【０００３】
特許文献２に開示された方法は、旧版の文字認識ソフトウェアから新版の文字認識ソフトウェアに変更するに際し、旧版ソフトウェアから新版ソフトウェアへの移行時における期間、実システムにおいて、新版及び旧版の双方のソフトウェアにより文字の認識を行う。その結果、新版及び旧版双方のソフトウェアの認識精度に関する情報を統計的に収集し、両者の認識精度を比較する。そして新版の精度が旧版の精度よりも高い場合に、新版ソフトウェアの導入を確定するようにするものである。一方、旧版ソフトウェアの認識精度の方が良かった場合には、新版ソフトウェアへの全面的な変更は行わず、旧版及び新版双方のソフトウェアの良い所を用いて並行的に運用することもできる。
【０００４】
特許文献３に開示された方法は、入力原稿より文字情報をＯＣＲで読み取り、認識処理部で認識処理する。オペレータによって入力原稿上の文字情報をキーボードよりキー入力させ、キー入力された文字データと文字認識された認識データとをＣＰＵで比較し、誤りの可能性があるキー入力データの部分をＣＲＴ１５にて異常表示させることで、ベリファイ入力を行う構成とする。たとえばキー入力された文字データが入力原稿と一致し、認識データに誤りがあると判断される文字データ、および認識データだけでなくキー入力された文字データにも誤りがあると判断される文字データを反転（しろ抜き）により異常表示し、入力ミスの可能性が高い入力データを自動的に検出できる。
【０００５】
特許文献４に開示された装置は、データの記入されたフォーム（帳票）を電子画像フォームとして読み取る画像読取手段と、読み取った電子画像フォームを性質の異なる、すなわち、誤認識を共通にしない或いは共通にすることの少ない２種類（以上）のＯＣＲエンジンでＯＣＲ認識するＯＣＲ認識手段と、認識結果が一致した文字は自動的にデータベースへ保存し、一致しない文字及び一致してもいずれか一方のＯＣＲエンジンの認識の信頼性の低い文字は確認修正後にデータベースへ保存するデータベース保存手段と、を備える。
【０００６】
特許文献５に開示された情報処理装置の分類手段は、文字認識対象を３種類のいずれかに分類し、抽出手段は、前記分類手段によって第１の種類に分類された場合に、前記文字認識対象の文字認識結果を抽出し、第１の制御手段は、前記分類手段によって第２の種類に分類された場合に、前記文字認識対象の文字認識結果を抽出し、該文字認識対象を人手で入力させるように制御し、第２の制御手段は、前記分類手段によって第３の種類に分類された場合に、前記文字認識対象を複数人の人手で入力させるように制御する。
【０００７】
特許文献６〜１１には、文字認識の認識確度についての様々な算出方式が示されている。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特開２００３−３４６０８０号公報
【特許文献２】特開２００４−１７１３２６号公報
【特許文献３】特開平０５−２７４４６７号公報
【特許文献４】特開２０１０−０７３２０１号公報
【特許文献５】特開２０１６−２１２８１２号公報
【特許文献６】特開平５−４０８５３号公報
【特許文献７】特開平５−２０５００号公報
【特許文献８】特開平５−２９０１６９公報
【特許文献９】特開平８−１０１８８０号公報
【特許文献１０】特開平９−１３４４１０号公報
【特許文献１１】特開平９−２５９２２６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００９】
判定手段により入力を判定する場合において、その判定手段の判定の正解率を求めるには、例えば、各入力についての判定手段による判定結果を、より判定精度が高い方法（例えば人間によるチェック）で正解か否か判定し、それら入力の全てに対する正解の判定結果の割合を求める方法がある。しかし、その判定精度の高い方法での判定は、判定手段の判定よりも高コストである。そうでなければ、判定手段の代わりにその判定精度の高い方法を最初から用いればよいからである。したがって、全入力について、その方法による判定を行うのは、コスト的な負担が大きい。
【００１０】
本発明は、すべての入力について判定手段の判定結果の正解不正解を別の方法で判定することでその判定手段の正解率を求める方式よりも、より低いコストでその判定手段の正解率を求めることを目的とする。
【課題を解決するための手段】
【００１１】
請求項１に係る発明は、入力について判定し、判定結果を求める判定手段と、前記判定結果が正解か誤りかを確認し、判定結果が正解の場合はその判定結果を採用し、誤りの場合に前記入力についての正しい判定結果を求め、求めた判定結果を採用する確認手段、各入力について、前記判定手段が正解する可能性を示す度合いを求める手段と、前記度合いが閾値以上である入力については前記確認手段を介在させずに前記判定手段の判定結果を出力し、閾値未満であれば前記確認手段が採用した判定結果を出力する制御を行う出力制御手段と、前記度合いが前記閾値未満の範囲のうちの第１範囲内である入力のうち前記確認手段で正解と確認されたものの比率を、前記第１範囲における前記判定手段の正解率として算出する正解率算出手段と、前記第１範囲における前記正解率に基づき、前記閾値以上の範囲のうちの第２範囲における前記判定手段の正解率を推定する推定手段と、を含む情報処理装置である。
【００１２】
請求項２に係る発明は、前記第１範囲は、所定基準に従い決まる０より大きい値から前記閾値までの範囲である、請求項１に記載の情報処理装置である。
【００１３】
請求項３に係る発明は、前記推定手段は、前記正解率算出手段が算出した前記正解率が前記第１範囲における前記度合いの第１の代表値に対応するものであるとし、前記第２範囲における前記度合いの第２の代表値に対応する正解率を、前記第１の代表値に対応する正解率と、前記度合いが取り得る最大値における所定の最大正解率と、の間の線形補間により推定する、請求項１又は２に記載の情報処理装置である。
【００１４】
請求項４に係る発明は、前記正解率算出手段は、前記度合いが前記閾値未満である複数の範囲についてそれぞれ前記正解率を求め、前記推定手段は、前記複数の範囲の各々の前記正解率の前記度合いに応じた変化の傾向に基づき、前記第２範囲における前記正解率を推定する、請求項１又は２に記載の情報処理装置である。
【００１５】
請求項５に係る発明は、前記正解率算出手段は、前記度合いが前記閾値未満である複数の範囲についてそれぞれ前記正解率を求め、前記推定手段は、前記複数の範囲の各々の前記正解率と前記度合いとの関係から、前記度合いに対応する前記正解率を求める関数を推定し、推定した関数を用いて前記第２範囲における前記正解率を推定する、請求項１又は２に記載の情報処理装置である。
【００１６】
請求項６に係る発明は、前記推定手段は、前記度合いの発生頻度の分布から前記度合いの確率密度関数を求め、前記確率密度関数を用いて前記第２範囲における前記正解率を推定する請求項１に記載の情報処理装置である。
【００１７】
請求項７に係る発明は、入力について判定し、判定結果を求める判定手段と、前記判定結果が正解か誤りかを確認し、判定結果が正解の場合はその判定結果を採用し、誤りの場合に前記入力についての正しい判定結果を求め、求めた判定結果を採用する確認手段と、各入力について、前記判定手段が正解する可能性を示す度合いを求める手段と、前記度合いが閾値以上である入力については前記確認手段を介在させずに前記判定手段の判定結果を出力し、閾値未満であれば前記確認手段が採用した判定結果を出力する制御を行う出力制御手段と、前記度合いが前記閾値未満の範囲のうちの第１範囲内である入力のうち前記確認手段で正解と確認されたものの比率を、前記第１範囲における前記判定手段の正解率として算出する正解率算出手段、前記第１範囲における前記正解率に基づき、前記閾値以上の範囲のうちの第２範囲における前記判定手段の正解率を推定する推定手段と、を含む情報処理装置である。
【発明の効果】
【００１８】
請求項１、３又は７に係る発明によれば、すべての入力について判定手段の判定結果の正解不正解を別の方法で判定することでその判定手段の正解率を求める方式よりも、より低いコストでその判定手段の正解率を求めることができる。
【００１９】
請求項２に係る発明によれば、０から閾値までの全範囲についての正解率を算出してこれに基づいて第２範囲の正解率を推定する場合よりも、より妥当性が高い第２範囲の正解率を推定することができる。
【００２０】
請求項４、５又は６に係る発明によれば、第２範囲の正解率を線形補間により推定する場合よりも、より妥当性が高い正解率を推定することができる。
【図面の簡単な説明】
【００２１】
【図１】実施形態の情報処理装置の機能構成を例示する図である。
【図２】認識確度が閾値以上の領域における正解率の推定の方法の一例を説明するための図である。
【図３】認識確度の確率密度関数の算出の仕方を説明するための図である。
【図４】認識確度が閾値以上の領域における正解率の推定の方法の別の例を説明するための図である。
【図５】認識確度が閾値以上の領域における正解率の推定の方法の更に別の例を説明するための図である。
【図６】確認処理部の内部構成を例示する図である。
【発明を実施するための形態】
【００２２】
図１に、本発明に係る情報処理装置の一実施形態例を示す。
【００２３】
この情報処理装置は、入力される画像データ（「入力画像データ」）に含まれる文字列を、ＯＣＲ１０と確認処理部１８により判定する。
【００２４】
ＯＣＲ１０は、認識処理部１２と認識確度算出部１４を備える。認識処理部１２は、入力画像データに対して公知のＯＣＲ（光学文字認識）処理を行うことで、その入力画像データ内に含まれる文字列を認識する。認識処理部１２は、認識した文字列を示すテキストコードを出力する。認識確度算出部１４は、入力画像データから認識したテキストコードについての認識確度を算出する。認識確度は、認識結果のテキストコードがその入力画像データに含まれる文字列（手書きの場合もある）を正しく表している確からしさを示す度合いである。認識確度が高いほど、認識結果のテキストコードが正解である（すなわち入力画像データ中の文字列を正しく表している）可能性が高い。認識結果が正解である可能性を以下では、認識率又は正解率と呼ぶ。ＯＣＲ１０は、入力画像データについての異なる複数の認識結果を、認識確度が高い順に、認識確度と対応付けて出力してもよい。なお、ＯＣＲ１０が文字認識を行う単位（すなわち認識結果を出力する単位）は、特に限定されず、例えば、文字単位、行又は列（横書き又は縦書き）単位、帳票の欄単位、ページ単位、文書単位等のいずれであってもよい。
【００２５】
なお，ＯＣＲ１０が用いる文字認識の手法や認識確度の算出方法は特に限定されず、特許文献６〜１１に例示したものを初めとする従来手法や今後開発される手法のうちいずれを用いてもよい。
【００２６】
選択部１６は、認識処理部１２の文字認識結果（テキストコード）について認識確度算出部１４が算出した認識確度に基づいて、文字認識結果の出力の制御を行う。すなわち、選択部１６は、認識確度がある閾値以上であれば、その文字認識結果を情報処理装置自体の最終的な文字認識結果として出力する。認識確度が閾値以上であれば、認識処理部１２の認識が正確であると信頼するのである。
【００２７】
一方、認識確度がその閾値未満であれば、選択部１６は、その文字認識結果とこれに対応する入力画像データとを確認処理部１８に渡し、その文字認識結果が正しいかどうか確認する処理を実行する。
【００２８】
一つの例では、確認処理部１８は、人間である確認担当者に、その入力画像データと文字認識結果を提示し、その文字認識結果が入力画像データ内の文字列として正しいかどうか確認させる。確認担当者は、この情報処理装置に対してインターネット等のネットワークを介して接続された端末を操作しているものであってもよく、この場合確認処理部１８は、入力画像データと文字認識結果を表示した画面情報（例えばウェブページ）をその端末に送り、その画面情報に対する確認担当者の入力を受け付ける。確認担当者は、正しいと判断した場合はその旨を示す入力を確認処理部１８に対して行い、これに応じ確認処理部１８は、選択部１６から受け取った文字認識結果を情報処理装置自体の最終的な文字認識結果として出力する。またこのとき確認処理部１８は、認識処理部１２の文字認識結果が正解である旨を示す確認結果情報を蓄積部２０に蓄積する。
【００２９】
また確認担当者は、選択部１６から受け取った文字認識結果が入力画像データ内の文字列として正しくないと判断した場合は、その文字認識結果を修正するための入力を確認処理部１８に行う。これに応じて確認処理部１８は、修正後の文字認識結果を、情報処理装置自体の最終的な文字認識結果として出力する。またこのとき確認処理部１８は、認識処理部１２の文字認識結果が不正解である旨を示す確認結果情報を蓄積部２０に蓄積する。
【００３０】
以上では、ＯＣＲ１０の文字認識結果の確認を人間が行う場合を例示したが、この他に、例えばＯＣＲ１０よりも正確ではあるが文字認識のためのコストが高い別のＯＣＲ（例えば、情報処理装置の利用者とは別の運営主体が運営するインターネット上の有料の高精度ＯＣＲサービス）を用いて確認を行ってもよい。この場合、確認処理部１８は、入力画像データをその別のＯＣＲに認識させて認識結果を受け取り、受け取った認識結果を当該情報処理装置自体の最終的な文字認識結果として出力する。また、確認処理部１８は、選択部１６から受け取った認識処理部１２の文字認識結果と、別のＯＣＲから受け取ったその認識結果とを比較し、両者が一致する場合には、認識処理部１２の文字認識結果が正解である旨を示す確認結果情報を、両者が不一致の場合は不正解である旨を示す確認結果情報を、蓄積部２０に蓄積する。
【００３１】
このように、確認処理部１８は、認識処理部１２の文字認識結果の正解・不正解を示す確認結果情報を蓄積部２０に蓄積する。ここで、認識処理部１２の文字認識結果について確認処理部１８による正解・不正解の判定が行われるのは、その文字認識結果に対応する認識確度が閾値未満である場合である。したがって、蓄積部２０に蓄積される確認結果情報は、認識確度がその閾値未満である文字認識結果についての正解・不正解の判定結果である。
【００３２】
低確度域正解率算出部２２は、蓄積部２０に蓄積されている確認結果情報群、すなわち認識確度が閾値未満である文字認識結果についての正解・不正解の情報に基づいて、低確度域すなわち閾値未満の認識確度範囲についての、認識処理部１２の正解率を算出する。例えば、この正解率は、正解率算出の対象とする確認結果情報の総数で、そのうちの正解を示す確認結果情報の数を割ることで算出すればよい。
【００３３】
高確度域正解率推定部２４は、低確度域正解率算出部２２が算出した低確度域の正解率に基づき、高確度域すなわち閾値以上の認識確度範囲についての認識処理部１２の正解率を推定する。以下、高確度域正解率推定部２４が行う推定の例を説明する。
【００３４】
第１の例を、図２を参照して説明する。
【００３５】
認識確度を０から１までの実数値とし、低確度域の代表値をＵ、高確度域の代表値をＶとする。各領域の代表値として、その領域の中央値を用いる場合、選択部１６が用いる閾値をＴとすると、Ｕ＝Ｔ／２、Ｖ＝（Ｔ＋１）／２である。図２の例では、認識確度が１のときの正解率（認識率）が１であり、低確度域正解率算出部２２が算出した低確度域の正解率αが低確度域の代表値Ｕでの正解率であるとして、高確度域の代表値Ｖでの正解率δを線形補間により推定する。すなわち、高確度域正解率推定部２４は、次の式（１）を用いて正解率δを求める。
【数１】
2019164687.tif 000003
【００３６】
以上では、低確度域及び高確度域の代表値Ｕ及びＶとして、それら各領域自体の中央値を用いたが、これは一例に過ぎない。この代わりに、それら各領域における認識確度の度数分布（あるいは、これから求めた確率密度関数）の代表値をＵ及びＶとして用いてもよい。すなわち、認識確度算出部１４が各入力画像データについて求めた認識確度を蓄積しておき、この蓄積した情報を用いて、認識確度の区間ごとに当該区間に属する認識確度の度数（発生頻度）を求め、これにより生成できる度数の分布（ヒストグラム）から高確度域及び低確度域の代表値を求めればよい。なお、蓄積部２０には低確度域の情報しか蓄積されないので、全範囲の認識確度の分布を得るためには、これとは別に認識確度算出部１４の出力を蓄積しておく。度数分布の代表値としては、例えば、平均値、中央値、最頻値を用いてもよい。
【００３７】
また認識確度の確率密度関数ｐ（ｘ）を用い、次式（２）を用いて、平均値としての代表値Ｕ及びＶを求めてもよい。
【数２】
2019164687.tif 000004
【００３８】
ここで、確率密度関数ｐ（ｘ）は次のように求めればよい。
【００３９】
すなわち、図３に示すように、まず認識確度ｘを複数の区間に分割する。区間の数をＺ個とし、区間の幅をＷとする。各区間のインデクスをｋとする。ｋは１以上Ｚ以下の整数である。区間ｋの中央の値（すなわち区間の下限と上限を足して２で割った値）を区間代表値ｘkとする。認識確度算出部１４が各入力画像データについて求めた認識確度を蓄積しておき、この蓄積した情報から、各区間ｋに入る認識確度の発生頻度（度数）Ｙkを求める。入力画像データの個数（すなわち認識確度の個数）をＮ個とすると、区間代表値における確率密度値ｐ（ｘ）は、次式で求められる。
ｐ（ｘk）＝Ｙk／ＮＷ
【００４０】
これは離散的な確率密度関数である。これを公知の補間法で補間して連続関数としたものを確率密度関数ｐ（ｘ）として用いてもよい。
【００４１】
図２を用いて説明した高確度域正解率推定部２４の推定方法を改良したものを、図４を参照して次に説明する。
【００４２】
図２の例では、低確度域全体における正解率を用いて高確度域における正解率を算出した。しかし、認識確度が非常に低い領域での正解率は、高確度域での正解率に対する関連性が低い。そこで、この改良方法では、低確度域全体ではなく、そのうちの閾値Ｔに近い領域のみについての正解率に基づいて高確度域の正解率を推定する。
【００４３】
すなわち、１＜Ｓ＜Ｔを満たす領域下限値Ｓをあらかじめ定めておき、低確度域正解率算出部２２は、蓄積部２０に蓄積された確認結果情報のうち認識確度ｘがＳ≦ｘ≦Ｔを満たすもののみから正解率αを計算する。Ｓの値の定め方は特に限定されない。例えば、閾値Ｔに対して１未満の固定の割合となる値をＳとして定めておいてもよい。また、蓄積部２０内のデータ（確認結果情報）を、認識確度ｘの値が閾値Ｔから小さくなる方向に順に選んでいき、選んだデータの個数が、閾値Ｔ以下のデータの総数のうちの所定割合になったときの認識確度ｘを下限値Ｓとしてもよい。
【００４４】
高確度域正解率推定部２４は、認識確度がＳからＴまでの領域において認識確度の代表値Ｕを上記実施形態と同様の方法で求める。そして、その領域の正解率αがその代表値Ｕでの値であるとして、上記式（１）を用いて高確度域の正解率δを計算する。
【００４５】
この改良方法では、低確度域のうちの高確度域に近い領域の正解率から高確度域の正解率を推定するので、低確度域全域の正解率から推定するよりも、高確度域の正解率がより正確に推定できる。
【００４６】
図５を参照して、更なる変形例を説明する。
【００４７】
この変形例では、低確度域正解率算出部２２は、図５に示すように、低確度域をＮ個（Ｎは２以上の整数）の小領域に分割し、小領域ごとに、蓄積部２０に蓄積されたその小領域に属する認識確度に対応する確認結果情報から正解率を計算する。図５の例では、低確度域を４つの小領域に分割しているが、これは一例に過ぎない。そして、低確度域正解率算出部２２は、小領域の正解率αをその小領域の代表値ｘ（例えば小領域の上限と下限の中央の確度）における正解率（図５中ではＸ印で示す）とする。
【００４８】
高確度域正解率推定部２４は、正解率αが認識確度ｘの関数α（ｘ）となるとの仮定の下、多項式近似や曲線フィッティング等の公知の手法により関数α（ｘ）を推定する。そして、この関数α（ｘ）を用いて、次式（３）により高確度域の正解率δを推定する。
【数３】
2019164687.tif 000005
【００４９】
また、高確度域正解率推定部２４は、式（３）の代わりに次の式（４）を用いて高確度域の正解率δを推定してもよい。
【数４】
2019164687.tif 000006
【００５０】
式（４）においてｐ（ｘ）は、上述の確率密度関数ｐ（ｘ）である。逆に言えば、式（３）は、確率密度関数ｐ（ｘ）が一様分布であると仮定した場合の式である。
【００５１】
また、式（３）または（４）は、高確度域、すなわち認識確度ｘが閾値Ｔから１までの範囲全体についての正解率を求めるものである。これを一般化し、高確度域正解率推定部２４は、高確度域内のＴ1≦ｘ≦Ｔ2（ただしＴ≦Ｔ1＜Ｔ2）の範囲についての正解率を次の式（５）により推定してもよい。
【数５】
2019164687.tif 000007
【００５２】
図６を参照して、更なる変形例を説明する。
【００５３】
図６には、この変形例の情報処理装置のうち、確認処理部１８の内部構成の例と、蓄積部２０、低確度域正解率算出部２２及び高確度域正解率推定部２４を示している。この変形例の情報処理装置は、図１に示すのと同様のＯＣＲ１０及び選択部１６を更に備えている。
【００５４】
入力画像データに対して認識確度算出部１４が算出した認識確度が閾値未満である場合、選択部１６は、確認処理部１８に対して処理の実行を指示する。このとき選択部１６は、その入力画像データと、その入力画像データに対する認識処理部１２の文字認識結果とを確認処理部１８に入力する。文字認識結果は突合部１８４に渡され、入力画像データは人手入力部１８２に渡される。
【００５５】
人手入力部１８２は、渡された入力画像データが示す画像を人である入力者に提示し、その入力者がその画像から読み取った文字列の入力を受け付ける。人手入力部１８２は、人間を文字認識エンジンとした文字認識部と捉えることができる。文字認識を行う入力者は、この情報処理装置に対してインターネット等のネットワークを介してリモートの位置にいてもよく、この場合人手入力部１８２は、入力者が操作する端末に対してネットワーク経由で入力画像データが示す画像を例えばウェブページの形で提供し、それに対してユーザが入力した認識結果の文字列をネットワーク経由で受け取る。人手入力部１８２が入力者から受け取った文字列は、突合部１８４に入力される。
【００５６】
突合部（Ｘ）１８４は、ＯＣＲ１０の認識処理部１２の文字認識結果と、人手入力部１８２が入力者から受け取った文字列とを突き合わせて（すなわち照合して）、両者が合致（すなわち一致）するか否（非合致）かを判定する。両者が合致する場合、突合部１８４は、その合致した判定結果を当該情報処理装置の最終的な文字認識結果として出力する。両者が非合致の場合、突合部１８４は、人手入力部１８６に処理を実行させる。また突合部１８４は、その突き合わせの結果である突合結果（すなわち「合致」か「非合致」かを示す値）Ｘを、蓄積部２０へと蓄積する。突合結果Ｘの値は、合致が非合致かを示す二値の値である。以下では、一例として、計算の便宜のために、突合結果Ｘの値は合致の場合は「１」、非合致の場合は「０」とする（後述する突合部１８８Ａ及び１８８Ｂの場合も同様）。蓄積部２０に蓄積する突合結果Ｘには、入力画像データの識別情報ｉ（例えば各入力データに順に付与される通し番号）が対応付けられており、どの入力画像データに対応する突合結果であるかが識別可能となっている。
【００５７】
人手入力部１８６は、突合部１８４からの上記非合致の場合のトリガを受けると、入力画像データの示す画像を人手入力部１８２の入力者は別の第２の入力者に提示し、第２の入力者がその画像から読み取った文字列の入力を受け付ける。そして、第２の入力者から人手入力部１８６が受け付けた文字列が、入力画像データに対する当該情報処理装置の最終的な文字認識結果として出力される。
【００５８】
人手入力部１８６は、ＯＣＲ１０及び人手入力部１８２と並行に、同じ入力画像データについて常に第２の入力者からの文字列の入力を受け付ける処理を行ってもよいが、この処理を突合部１８４の判定結果が非合致の場合にのみ行うようにしてもよい。これにより、人手入力部１８６の処理のためのコスト（例えば第２の入力者のためのコスト）が低減される。
【００５９】
ＯＣＲ１０、人手入力部１８２、突合部１８４、及び人手入力部１８６が、低確度域、すなわち認識確度が閾値未満の領域についての、入力画像データに対する文字認識を担う認識機構である。
【００６０】
一方、以下に説明する突合部１８８Ａ及び１８８Ｂ、蓄積部２０及び低確度域正解率算出部２２は、上記認識機構が行った判定の結果を多数蓄積し、蓄積した情報に基づいて、低確度域におけるＯＣＲ１０及び人手入力部１８２の正解率をそれぞれ計算する。更に低確度域についての上記認識機構の正解率を計算してもよい。
【００６１】
すなわち、まず突合部１８８Ａは、ＯＣＲ１０の文字認識結果と人手入力部１８６が受け付けた文字列とを突き合わせ、その突き合わせの結果（突合結果Ａ）を、入力画像データの識別情報ｉと対応付けて蓄積部２０に蓄積する。突合部１８８Ｂは、人手入力部１８２の判定結果と人手入力部１８６の判定結果を突き合わせ、その突き合わせの結果（突合結果Ｂ）を、入力画像データの識別情報ｉと対応付けて蓄積部２０に蓄積する。
【００６２】
蓄積部２０には、入力データｉごとに、突合部１８４、１８８Ａ、１８８Ｂによる３つの突合結果Ｘi、Ａi、Ｂiが蓄積される。
【００６３】
低確度域正解率算出部２２は、蓄積部２０に蓄積されている突合結果Ｘi、Ａi、Ｂiを用いて、ＯＣＲ１０、人手入力部１８２、及び上記認識機構の低確度域での正解率を算出する。
【００６４】
低確度域正解率算出部２２による正解率の算出方法を説明する。まず、ＯＣＲ１２ａの正解率αと、人手入力部１８２の正解率βの算出方法を説明する。
【００６５】
この算出方法は、以下の２つの前提（ａ）、（ｂ）及び（ｃ）に基づいて正解率α及びβを計算する。
（ａ）突合部１８４の突合結果Ｘが「合致」の場合、ＯＣＲ１０及び人手入力部１８２の認識結果は共に正解である。
（ｂ）突合部１８８Ａの突合結果Ａが「合致」の場合、ＯＣＲ１０の認識結果が正解である。
（ｃ）突合部１８８Ｂの突合結果Ｂが「合致」の場合、人手入力部１８２が受け付けた入力者の入力正解である。
【００６６】
すなわち、ここでは、ＯＣＲの認識結果は、人手入力部１８２又は人手入力部１８６に入力された文字列と合致する場合に正解であり、人手入力部１８２に入力された文字列は、ＯＣＲ１０の認識結果又は人手入力部１８６に入力された文字列と合致する場合に正解であるとみなして、正解率α及びβを求める。これらの前提に基づいて、低確度域正解率算出部２２は、次式（６）に従って正解率α及びβを算出する。
【数６】
2019164687.tif 000008
【００６７】
ここで、ｉは入力画像データの識別情報である通し番号であり、Ｎは入力データの総数である。また「Ｐ｜Ｑ」は、Ｐ又はＱが１であれば値が１となり、Ｐ及びＱの両方が０であれば値が０となる演算である。
【００６８】
なお、突合部１８４の突合結果が「合致」の場合、人手入力部１８６に判定を行わせないようにしてもよい。この場合、人手入力部１８６の判定結果が得られないので、これを用いる突合部１８８Ａ及び１８８Ｂの突合結果は共に「０」となるようにしてもよい。このようにした場合、低確度域正解率算出部２２は、上述の式（６）の代わりに、次の式（７）により正解率を計算してもよい。
【数７】
2019164687.tif 000009
【００６９】
次に、この情報処理装置の低確度域についての認識機構（すなわちＯＣＲ１０、人手入力部１８２、突合部１８４及び人手入力部１８６からなる部分）の正解率γを求める処理について説明する。ここでは、人手入力部１８２と人手入力部１８６と同じ特性を持つものとする。すなわち、人手入力部１８２と人手入力部１８６は、統計的に見て正解率が等しいとみなす。
【００７０】
ＯＣＲ１０及び人手入力部１８２の低確度域における正解率α及びβは、上述の方法で既に計算済みであるとする。この例では、上述の通り、人手入力部１８６は、入力データの数が十分多い場合、人手入力部１８２と同じ正解率αを持つとみなすことができる。したがって、低確度域正解率算出部２２は、正解率γを次式により計算することができる。
γ＝αβ＋（１−αβ）α
【００７１】
より詳しく説明すると、判定機構全体としての正解となるケースは、（ａ）ＯＣＲ１０の認識結果が正解、かつ、人手入力部１８２が受け付けた入力が正解となるケースと、（ｂ）これ以外かつ人手入力部１８６が正解となるケースの２つである。（ａ）のケースが生じる確率はαβ、（ｂ）のケースが生じる確率は、上記（ａ）以外の確率（１−αβ）と人手入力部１８６が正解となる確率αの積（１−αβ）αなので、（ａ）と（ｂ）の確率の和が最終的な正解率γとなる。
【００７２】
高確度域正解率推定部２４は、低確度域正解率算出部が算出したＯＣＲ１０の低確度域における正解率αを用いて、上述の実施形態又は各変形例に示した方法で、ＯＣＲ１０の高確度域（すなわち認識確度が閾値以上）での正解率を推定する。また、このシステム全体の正解率を推定する場合には、低確度域の正解率として上述のγを用い、このγから述の実施形態又は各変形例に示した方法で、高確度域におけるシステム全体の正解率を推定してもよい。
【００７３】
図６に例示した確認処理部１８は、ＯＣＲ１０の文字認識結果を一人の人が確認する（すなわちその一人の人の認識結果を必ず正解とする）方式よりも、低確度域における文字認識結果（すなわち確認処理部１８の出力）の正確さを高くすることができ、ひいては低確度域におけるＯＣＲ１０の正解率の正確さを高めることができる。
【００７４】
図６の例では、ＯＣＲ１０の文字認識結果を人により確認したが、人以外の手段で確認してもよい。人以外の確認手段としては、例えばＯＣＲ１０よりも文字認識の正解率が高いと期待される文字認識システムを用いてもよい。この文字認識システムの利用コストが高く、ＯＣＲ１０で十分な正解率が見込める場合にはその文字認識システムを利用しないことでコスト削減を図るといった目的で、この仕組みは利用できる。
【００７５】
以上に説明した実施形態及び変形例は、いずれも、入力画像データ中の文字列を認識するものであったが、上記実施形態及び変形例の手法は、文字認識に限らず、入力されたデータの内容を判定してその判定結果を出力する情報処理装置全般に適用可能である。すなわち、入力されたデータの内容を判定する判定手段（その一例がＯＣＲ１０）の判定の確度、すなわちその判定の結果が正解である可能性の高さの度合い、が閾値以上であればその判定手段の判定結果をそのまま出力し、閾値未満であればその判定結果を別の手段で確認し、誤りの場合は修正するシステムにおいて、確度が閾値以上の範囲における判定手段の正解率を求めるのに、上記実施形態及び変形例の方式が適用可能である。
【００７６】
以上に例示した情報処理装置は、一つの例ではハードウェアの論理回路として構成可能である。また、別の例として、この情報処理装置は、例えば、内蔵されるコンピュータにそれらシステムまたは装置内の各機能モジュールの機能を表すプログラムを実行させることにより実現してもよい。ここで、コンピュータは、例えば、ハードウェアとして、ＣＰＵ等のプロセッサ、ランダムアクセスメモリ（ＲＡＭ）およびリードオンリメモリ（ＲＯＭ）等のメモリ（一次記憶）、ＨＤＤ（ハードディスクドライブ）を制御するＨＤＤコントローラ、各種Ｉ／Ｏ（入出力）インタフェース、ローカルエリアネットワークなどのネットワークとの接続のための制御を行うネットワークインタフェース等が、たとえばバスを介して接続された回路構成を有する。また、そのバスに対し、例えばＩ／Ｏインタフェース経由で、ＣＤやＤＶＤなどの可搬型ディスク記録媒体に対する読み取り及び／又は書き込みのためのディスクドライブ、フラッシュメモリなどの各種規格の可搬型の不揮発性記録媒体に対する読み取り及び／又は書き込みのためのメモリリーダライタ、などが接続されてもよい。上に例示した各機能モジュールの処理内容が記述されたプログラムがＣＤやＤＶＤ等の記録媒体を経由して、又はネットワーク等の通信手段経由で、ハードディスクドライブ等の固定記憶装置に保存され、コンピュータにインストールされる。固定記憶装置に記憶されたプログラムがＲＡＭに読み出されＣＰＵ等のプロセッサにより実行されることにより、上に例示した機能モジュール群が実現される。また、情報処理装置は、ソフトウェアとハードウェアの組合せで構成されてもよい。
【符号の説明】
【００７７】
１０  ＯＣＲ、１２  認識処理部、１４  認識確度算出部、１６  選択部、１８  確認処理部、２０  蓄積部、２２  低確度域正解率算出部、２４  高確度域正解率推定部、１８２，１８６  人手入力部、１８４，１８８Ａ，１８８Ｂ  突合部。
【図１】
2019164687.tif 000010
【図２】
2019164687.tif 000011
【図３】
2019164687.tif 000012
【図４】
2019164687.tif 000013
【図５】
2019164687.tif 000014
【図６】
2019164687.tif 000015