(57)【要約】【課題】認識誤りによる影響を軽減するモデル学習方法および情報抽出方法を提供する。【解決手段】識別モデルにおいて、端末装置が、モデル学習時に、抽出対象情報が付与された、誤りを含む認識単語列学習データと、同様に抽出対象情報が付与された、誤りを含まない参照単語列学習データとを用いてモデル情報を作成する。その際、認識確信度素性を２値化することで、認識単語列と参照単語列との両方を用いてモデル情報を作成する。情報抽出時には、入力データから認識された各認識単語が正しいか否かを示す認識確信度素性を認識単語列に付与する。この認識確信度素性がある閾値以上であれば、単語の認識は「正」、そうでなければ単語の認識は「誤」とする。そして、作成されたモデル情報を用いて抽出対象情報を認識単語列に付与し、付与された抽出対象情報に基づいて単語を抽出する。【選択図】図５
2007322984.tif 000002
【特許請求の範囲】
【請求項１】
入力データから情報を抽出する際に用いられる、抽出対象情報の確信度を算出するためのモデル情報を学習するモデル学習方法であって、
前記モデル情報を学習するモデル学習装置が、
学習用入力データを認識し、認識した単語から認識単語列を作成する単語列認識ステップと、
前記学習用入力データに対応する参照単語列に示される、認識誤りを含まない正解単語列、および前記認識単語列を比較することで、前記認識単語列の正誤情報を作成して、前記作成した正誤情報を、前記認識単語列に付与する単語列対応付けステップと、
前記正誤情報が付与された認識単語列、および前記参照単語列を比較し、前記参照単語列の各単語に設定されている抽出対象情報を、前記比較結果に応じて前記認識単語列に付与することで、前記正誤情報および前記抽出対象情報を備えた認識単語列学習データを作成する認識単語列学習データ作成ステップと、
前記参照単語列に、前記正誤情報のうち正の情報を付与することで、前記正の情報および前記抽出対象情報を備えた参照単語列学習データを作成する参照単語列学習データ作成ステップと、
前記認識単語列学習データおよび前記参照単語列学習データを用いて前記モデル情報を作成し、記憶手段に格納するモデル作成ステップと
を含むことを特徴とするモデル学習方法。
【請求項２】
前記モデル作成ステップは、
サポートベクトルマシン、最大エントロピーモデル、または条件付き確率場を用いて前記モデル情報を作成する
ことを特徴とする請求項１に記載のモデル学習方法。
【請求項３】
入力データから、記憶手段に予め格納されている抽出対象情報を用いて情報を抽出する情報抽出方法であって、
前記情報の抽出を行う情報抽出装置が、
前記入力データを認識し、認識した単語から単語ラティスを作成する単語列認識ステップと、
前記単語ラティスに含まれる各単語の認識確信度を２値の正誤情報として算出し、前記正誤情報を確信度情報として各単語に付与することで、確信度情報付き認識単語列を作成する単語確信度計算ステップと、
前記抽出対象情報を付与するためのモデル情報を用いて、前記確信度情報付き認識単語列の各単語に対応する前記抽出対象情報の確信度を算出し、前記算出した確信度に基づいて、前記単語ごとに最適な抽出対象情報を選択し、前記選択した抽出対象情報を前記確信度情報付き認識単語列に付与する抽出対象情報付与ステップと、
前記付与された抽出対象情報に対応する単語を前記確信度情報付き認識単語列から抽出する情報抽出ステップと
を含むことを特徴とする情報抽出方法。
【請求項４】
前記単語確信度計算ステップが、
前記単語ラティスに含まれる各単語の素性を示す情報を１つ以上抽出し、前記確信度情報付き認識単語列の素性情報として付与する
ことを特徴とする請求項３に記載の情報抽出方法。
【請求項５】
入力データから情報を抽出する際に用いられる、抽出対象情報の確信度を算出するためのモデル情報を学習するモデル学習装置であって、
学習用入力データを認識し、認識した単語から認識単語列を作成する単語列認識手段と、
前記学習用入力データに対応する参照単語列に示される、認識誤りを含まない正解単語列、および前記認識単語列を比較することで、前記認識単語列の正誤情報を作成して、前記作成した正誤情報を、前記認識単語列に付与する単語列対応付け手段と、
前記正誤情報が付与された認識単語列、および前記参照単語列を比較し、前記参照単語列の各単語に設定されている抽出対象情報を、前記比較結果に応じて前記認識単語列に付与することで、前記正誤情報および前記抽出対象情報を備えた認識単語列学習データを作成する認識単語列学習データ作成手段と、
前記参照単語列に、前記正誤情報のうち正の情報を付与することで、前記正の情報および前記抽出対象情報を備えた参照単語列学習データを作成する参照単語列学習データ作成手段と、
前記認識単語列学習データおよび前記参照単語列学習データを用いて前記モデル情報を作成し、記憶手段に格納するモデル作成手段と
を備えることを特徴とするモデル学習装置。
【請求項６】
入力データから、記憶手段に予め格納されている抽出対象情報を用いて情報を抽出する情報抽出装置であって、
前記入力データを認識し、認識した単語から単語ラティスを作成する単語列認識手段と、
前記単語ラティスに含まれる各単語の認識確信度を２値の正誤情報として算出し、前記正誤情報を確信度情報として各単語に付与することで、確信度情報付き認識単語列を作成する単語確信度計算手段と、
前記抽出対象情報を付与するためのモデル情報を用いて、前記確信度情報付き認識単語列の各単語に対応する前記抽出対象情報の確信度を算出し、前記算出した確信度に基づいて、前記単語ごとに最適な抽出対象情報を選択し、前記選択した抽出対象情報を前記確信度情報付き認識単語列に付与する抽出対象情報付与手段と、
前記付与された抽出対象情報に対応する単語を前記確信度情報付き認識単語列から抽出する情報抽出手段と
を備えることを特徴とする情報抽出装置。
【請求項７】
請求項１または請求項２に記載のモデル学習方法を、コンピュータに実行させることを特徴とするモデル学習プログラム。
【請求項８】
請求項３または請求項４に記載の情報抽出方法を、コンピュータに実行させることを特徴とする情報抽出プログラム。
【請求項９】
請求項７に記載のモデル学習プログラム、または請求項８に記載の情報抽出プログラムを記録したコンピュータに読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データの情報抽出を行う技術に関する。
【背景技術】
【０００２】
従来、音声データや画像データ（以下、「元データ」という）から言語的な情報、例えば特定のキーワードや、人名・地名等の情報抽出時には、音声認識や文字認識等の技術を用いて、元データに含まれていると推定される単語列または文字列（以下、「認識単語列」という）を得て、その後、情報の抽出が行われる。その場合、認識単語列には、音声認識や文字認識の誤り（以下、「認識誤り」という）が含まれ得るため、本来抽出されるべき情報が欠落したり、元データに含まれていない誤った情報が抽出されたりすることがある。従って、認識誤りの影響を軽減することが必要となる。
【０００３】
音声認識を用いた情報抽出の技術としては、認識結果に対して各認識単語が正しいか否かを測る、認識確信度（confidence、以下「確信度」と適宜記載）と呼ばれる値を利用して認識誤りを予測し、情報抽出時に受ける影響を軽減する方法がある（例えば、非特許文献１参照）。
【０００４】
当該技術では、公知の技術である隠れマルコフモデル（Hidden Markov Model）に類した生成モデル（generative model）を利用して、認識単語列に抽出対象の種別を示すラベル（出力ラベル）を付与する。この生成モデルでは、単語の系列Ｗと出力ラベルの系列Ｎの同時確率Ｐ（Ｗ，Ｎ）を最大化するようなＮを選択する。一般に、系列全体の同時確率の推定には、学習データが不足するため、ある位置ｉに存在する単語ｗｉとこの単語ｗｉに対応する出力ラベルｎｉとの同時確率は、直前Ｉ個の単語と直前Ｊ個の出力ラベルのみに依存する、というような近似が行われる。
【０００５】
非特許文献１における生成モデルの学習には、音声認識誤りを含み、認識誤りした単語は「誤認識した単語」として表現されたデータと、認識誤りを含まないテキストデータとを用いる。なお、それぞれのデータの各単語には、抽出対象の種別を示すラベルが付与されている。そして、情報抽出時には、各認識単語の認識確信度を用いて、その単語の認識の正誤や、付与されるラベル等の様々な可能性を考慮し、最終的に同時確率が最適となるようなラベルの系列を出力する。この生成モデルでは、認識誤りである単語には抽出対象にならないようにラベルが付与されている。そのため、生成モデルを利用した場合、認識確信度の低い認識単語に対しては、その認識単語が正しいものとして処理した場合の尤もらしさと、その認識単語が誤っているものとして処理した場合の尤もらしさとを比較してから、認識単語を選択することで、認識誤りの影響を軽減させている。
【０００６】
一方、認識誤りを考慮しない、通常の文字列データからの情報抽出に関する技術としては、自然言語処理における固有表現抽出の技術が知られている。固有表現とは、人名、地名、組織名等の固有名詞や、日付、時間、金額等の特定の実体を指す名詞句のことである。この自然言語処理における固有表現抽出では、隠れマルコフモデルのような生成モデルよりも、最大エントロピーモデル、サポートベクトルマシン（Support Vector Machine、以下「ＳＶＭ」と適宜記載）等の識別モデル（discriminative model）のほうが高い性能を示すことが知られている。
【０００７】
この識別モデルでは、単語の系列Ｗと出力ラベルの系列Ｎの同時確率Ｐ（Ｎ，Ｗ）ではなく、系列Ｗに対する系列Ｎの条件付き確率Ｐ（Ｎ｜Ｗ）を最大化するようなＮを選択する。識別モデルは、識別対象の多数の素性（feature）を利用して、その識別対象がどの種別（人名、地名、日付等）に属するかを判定するためのモデルであり、周辺の単語の情報や品詞の情報等を柔軟に利用できる利点がある。例えば非特許文献２では、ＳＶＭを用い、単語、品詞、単語の文字種（漢字のみから成る単語、数字、・・・等）を素性として利用することにより、高精度な固有表現抽出を実現している。
つまり、識別モデルは、扱われる素性が互いに独立でないような多数の情報について、統合的に用いることができる。
【０００８】
それに対して、生成モデルでは、素性の独立性を保つために、「単語表層のみ」、または「単語表層＋品詞」の組み合わせを１つの素性として用いている。この場合、素性の組み合わせによって素性数が増大し、さらにこの組み合わせ素性に統合する情報が増えると、素性数が指数関数的に増大するため、データスパースネス（学習データの不足）の問題はより大きくなる。
そのため、生成モデルにおいて、識別モデルで行われているように多数の情報を統合的に用いること、つまり、素性を生成モデルの情報として用いることは、使用できる情報の制限が大きく、理論的には可能であっても、実現は困難であった。
【０００９】
また、生成モデルにおいて、「単語表層」と「品詞」とを独立であるとみなして、それぞれ個別に素性として同時に用いることは、不自然な状態を引き起こす。
その点について具体的に説明する。独立は以下の式（１）で表される。
【数１】
2007322984.tif 000003
ここで、Ｐ（Ｘ）をＸの確率、Ｐ（Ｘ，Ｙ）をＸとＹの同時確率、Ｐ（Ｘ｜Ｙ）をＸの条件付確率とする。
【００１０】
例えば、ある単語（表層「に」、品詞「助詞・格助詞」）を考えると、両者が独立、すなわちＰ（「に」｜「助詞・格助詞」）＝Ｐ（「に」）であることは、「助詞・格助詞」である単語として「に」を観測する条件付き確率と、任意の単語として「に」を観測する確率とが等しいことになってしまう。このことから、「に」の品詞が「助詞・格助詞」である頻度の多さ（動詞「にる」の未然形、連用形等と比較して）を考えると不自然であることが分かる。
また、単語表層（例：「ＮＴＴ」（登録商標））と文字種（例：「すべてアルファベット大文字」）も同様に独立ではない。
また、階層化された品詞体系を利用し、複数の階層を素性として利用するような場合、品詞の大分類（例：「助詞」）と少し細かい分類（例：「助詞・格助詞」）も同じように独立ではない。
さらに、文字種素性の与え方として、互いに独立でない方法も考えることができる。例えば、単語「ＴＨＩＮＫ」は、「アルファベット」「アルファベット大文字で始まる」「すべてアルファベット大文字」という３つの文字種素性を持つ単語と考えることもできる。
【００１１】
素性が独立であることが必要な生成モデルにおいては、識別モデルのように独立でない素性を利用するためには、独立性を維持できる適切な素性集合を定義する、という困難な作業が要求されることになる。
このことから、自然言語処理分野では識別モデルが多く用いられている。
【００１２】
なお、非特許文献３には、識別モデルである最大エントロピーモデルを、音声認識結果に適用する技術が記載されている。
【００１３】
また、特許文献１には、識別モデルにおいて、入力ベクトルの属するクラスの判定に要する計算時間を大幅に削減する分類技術が開示されている。
【非特許文献１】D.D.Palmer and M.Ostendorf、“Improving information extraction by modeling errors in speech recognizer output”、in Proceedings of the First International Conference on Human Language Technology Research、2001
【非特許文献２】磯崎秀樹、賀沢秀人、“固有表現抽出のためのＳＶＭの高速化”、情報処理学会論文誌、2003、Vol.44、No.3、pp.970-979
【非特許文献３】L.Zhai et al.、“Using N-best lists for named entity recognition from Chinese speech”、in Proceedings of Human Language Technology Conference of the North American Chapter of the Association of Computation Linguistics、2004、pp.37-40
【特許文献１】特開２００３−３３１２５４号公報
【発明の開示】
【発明が解決しようとする課題】
【００１４】
識別モデルは、高性能であることが知られていながら、これまで生成モデルのように入力単語の確信度（正誤予測）の情報が用いられてこなかったため、音声認識結果のような誤りを含む入力に、誤りの存在を考慮しない識別モデルを利用するという形の技術しか存在していなかった（非特許文献３参照）。
【００１５】
また、非特許文献１のような、生成モデルにおいて入力単語の正誤情報を利用する場合にも、誤認識した単語の素性（単語そのもの、品詞、文字種等）の情報を利用することは、前記した素性の独立性の観点から困難であり、単に「誤認識した単語」と表現することしかできず、柔軟な素性設計が困難だった。
【００１６】
生成モデルにおける確信度は連続値である。
識別モデルにおいて、より多くの情報を用いてモデル情報を学習するために、認識誤りを含まない参照単語列と、認識誤りを含む認識単語列とをモデルの学習用データとして用いた場合、参照単語列と認識単語列とで同じ設計の素性を定義しなければならない。そして、正誤情報を付与するために、生成モデルで利用されるような確信度を用いると、参照単語列の確信度は「正」か「誤」かの２値で表現されるのに対し、認識単語列の確信度は連続値であるために、参照単語列と比較することはできなかった。つまり、識別モデルの学習に確信度を含んだ情報を利用することは困難であった。
【００１７】
そこで、本発明では、前記した問題を解決し、認識誤りによる影響を軽減することを目的とする。
【課題を解決するための手段】
【００１８】
本発明では、識別モデルの学習には、固有表現ラベル（抽出対象情報）が付与された誤りを含む認識単語列と、同様に固有表現ラベル（抽出対象情報）が付与された、誤りを含まない参照単語列（例えば、音声を人手で書き起こしたもの）を用いる。そして、各認識単語の正しさを表す認識確信度素性を２値化したことで、参照単語列は「すべての認識単語が正しいような認識単語列」として扱うことができる。これにより、参照単語列を認識単語列と同時に用いることで、識別モデルの学習効果を向上することが可能となる。
【００１９】
また、本発明では、従来技術では用いられなかった、誤認識した単語に関する素性も同時に利用する。生成モデルを利用した従来技術のように「誤認識した単語」という情報だけでなく、それがどの単語として認識されたのか、また、その単語はどのような素性を持つ単語なのか、という情報を、本発明では簡便に利用できる。このような誤認識した単語に関する情報は、誤りを含まない入力を仮定していた識別モデルを用いた従来技術では、考慮されなかった情報である。
【００２０】
そこで、前記課題を解決するため、請求項１に記載のモデル学習方法は、入力データから情報を抽出する際に用いられる、抽出対象情報の確信度を算出するためのモデル情報を学習するモデル学習方法であって、前記モデル情報を学習するモデル学習装置が、学習用入力データを認識し、認識した単語から認識単語列を作成する単語列認識ステップと、前記学習用入力データに対応する参照単語列に示される、認識誤りを含まない正解単語列、および前記認識単語列を比較することで、前記認識単語列の正誤情報を作成して、前記作成した正誤情報を、前記認識単語列に付与する単語列対応付けステップと、前記正誤情報が付与された認識単語列、および前記参照単語列を比較し、前記参照単語列の各単語に設定されている抽出対象情報を、前記比較結果に応じて前記認識単語列に付与することで、前記正誤情報および前記抽出対象情報を備えた認識単語列学習データを作成する認識単語列学習データ作成ステップと、前記参照単語列に、前記正誤情報のうち正の情報を付与することで、前記正の情報および前記抽出対象情報を備えた参照単語列学習データを作成する参照単語列学習データ作成ステップと、前記認識単語列学習データおよび前記参照単語列学習データを用いて前記モデル情報を作成し、記憶手段に格納するモデル作成ステップとを含むことを特徴とする。
【００２１】
かかる手順によれば、モデル学習装置は、正誤情報が付与された認識単語列および参照単語列を比較することが可能となり、それによってモデル情報を作成するので、情報抽出時の精度が向上する。
【００２２】
また、請求項２に記載のモデル学習方法は、請求項１に記載のモデル学習方法において、モデル作成ステップが、サポートベクトルマシン、最大エントロピーモデル、または条件付き確率場を用いて前記モデル情報を作成することが好ましい。
【００２３】
また、請求項３に記載の情報抽出方法は、入力データから、記憶手段に予め格納されている抽出対象情報を用いて情報を抽出する情報抽出方法であって、前記情報の抽出を行う情報抽出装置が、前記入力データを認識し、認識した単語から単語ラティスを作成する単語列認識ステップと、前記単語ラティスに含まれる各単語の認識確信度を２値の正誤情報として算出し、前記正誤情報を確信度情報として各単語に付与することで、確信度情報付き認識単語列を作成する単語確信度計算ステップと、前記抽出対象情報を付与するためのモデル情報を用いて、前記確信度情報付き認識単語列の各単語に対応する前記抽出対象情報の確信度を算出し、前記算出した確信度に基づいて、前記単語ごとに最適な抽出対象情報を選択し、前記選択した抽出対象情報を前記確信度情報付き認識単語列に付与する抽出対象情報付与ステップと、前記付与された抽出対象情報に対応する単語を前記確信度情報付き認識単語列から抽出する情報抽出ステップとを含むことを特徴とする。
【００２４】
かかる手順によれば、情報抽出装置は、認識単語列の確信度を正誤情報として算出して、認識単語列に付与する。それにより、正誤情報に基づいて付与された抽出対象情報を用いて、情報抽出することができる。
【００２５】
また、請求項４に記載の情報抽出方法は、請求項３に記載の情報抽出方法において、単語確信度計算ステップが、単語ラティスに含まれる各単語の素性を示す情報を１つ以上抽出し、前記確信度情報付き認識単語列の素性情報として付与することが好ましい。
【００２６】
かかる手順によれば、情報抽出装置は、単語確信度計算ステップで、入力データにおいて誤認識された単語の素性情報を、確信度情報付き認識単語列に付与する。そして、抽出対象情報付与ステップで、単語の素性情報が付与された確信度情報付き認識単語列に対し、抽出対象情報を付与する。したがって、確信度情報付き認識単語列には、単語の素性情報が付与されているので、正しく認識された単語だけでなく、誤認識された単語についても、その素性情報を利用することができる。
【００２７】
また、請求項５に記載のモデル学習装置は、入力データから情報を抽出する際に用いられる、抽出対象情報の確信度を算出するためのモデル情報を学習するモデル学習装置であって、学習用入力データを認識し、認識した単語から認識単語列を作成する単語列認識手段と、前記学習用入力データに対応する参照単語列に示される、認識誤りを含まない正解単語列、および前記認識単語列を比較することで、前記認識単語列の正誤情報を作成して、前記作成した正誤情報を、前記認識単語列に付与する単語列対応付け手段と、前記正誤情報が付与された認識単語列、および前記参照単語列を比較し、前記参照単語列の各単語に設定されている抽出対象情報を、前記比較結果に応じて前記認識単語列に付与することで、前記正誤情報および前記抽出対象情報を備えた認識単語列学習データを作成する認識単語列学習データ作成手段と、前記参照単語列に、前記正誤情報のうち正の情報を付与することで、前記正の情報および前記抽出対象情報を備えた参照単語列学習データを作成する参照単語列学習データ作成手段と、前記認識単語列学習データおよび前記参照単語列学習データを用いて前記モデル情報を作成し、記憶手段に格納するモデル作成手段とを備えることを特徴とする。
【００２８】
かかる構成によれば、モデル学習装置は、正誤情報が付与された認識単語列および参照単語列を比較することが可能となり、それによってモデル情報を作成するので、情報抽出時の精度が向上する。
【００２９】
また、請求項６に記載の情報抽出装置は、入力データから、記憶手段に予め格納されている抽出対象情報を用いて情報を抽出する情報抽出装置であって、前記入力データを認識し、認識した単語から単語ラティスを作成する単語列認識手段と、前記単語ラティスに含まれる各単語の認識確信度を２値の正誤情報として算出し、前記正誤情報を確信度情報として各単語に付与することで、確信度情報付き認識単語列を作成する単語確信度計算手段と、前記抽出対象情報を付与するためのモデル情報を用いて、前記確信度情報付き認識単語列の各単語に対応する前記抽出対象情報の確信度を算出し、前記算出した確信度に基づいて、前記単語ごとに最適な抽出対象情報を選択し、前記選択した抽出対象情報を前記確信度情報付き認識単語列に付与する抽出対象情報付与手段と、前記付与された抽出対象情報に対応する単語を前記確信度情報付き認識単語列から抽出する情報抽出手段とを備えることを特徴とする。
【００３０】
かかる構成によれば、情報抽出装置は、認識単語列の確信度を正誤情報として算出して、認識単語列に付与する。それにより、正誤情報に基づいて付与された抽出対象情報を用いて、情報抽出することができる。
【００３１】
また、請求項７に記載のモデル学習プログラムは、請求項１または請求項２に記載のモデル学習方法を、コンピュータに実行させることを特徴とする。
かかる構成によれば、モデル学習プログラムがインストールされたコンピュータは、このプログラムに基づいた各機能を実現することができる。
【００３２】
また、請求項８に記載の情報抽出プログラムは、請求項３または請求項４に記載の情報抽出方法を、コンピュータに実行させることを特徴とする。
かかる構成によれば、情報抽出プログラムがインストールされたコンピュータは、このプログラムに基づいた各機能を実現することができる。
【００３３】
また、請求項９に記載の記憶媒体は、請求項７に記載のモデル学習プログラム、または請求項８に記載の情報抽出プログラムを記録したコンピュータに読み取り可能な記録媒体であることを特徴とする。記録媒体には、例えば、ハードディスク、ＣＤ−ＲＯＭ、ＤＶＤ、フレキシブルディスク、メモリなどがある。この記憶媒体をコンピュータに読み込ませることにより、任意のコンピュータ上で情報抽出プログラムの各機能を実行することが可能となる。
【発明の効果】
【００３４】
本発明によれば、認識誤りによる影響を軽減させることができる。
【発明を実施するための最良の形態】
【００３５】
以下、図面を参照して本発明のモデル学習方法および情報抽出方法を実施するための最良の形態（以下「実施形態」という）について、詳細に説明する。
なお、本実施形態において、モデル学習とは、情報抽出時に用いるモデル情報を作成（更新）するものであり、情報抽出とは、入力されたデータに対し、抽出対象情報を用いて情報抽出を行うものである。
【００３６】
[端末装置の構成]
図１は、本発明に係る端末装置（モデル学習装置、情報抽出装置）の一例を示す機能ブロック図である。
端末装置１００は、図１に示すように、入出力手段１１０と、制御手段１３０と、記憶手段１５０とを備える。
【００３７】
入出力手段１１０は、例えば、入出力インタフェース等から構成され、入力されたデータや命令を取得したり、所定のデータを出力したりするものである。
ここでは、入出力手段１１０は、入力されたデータを取得し、制御手段１３０へ出力するデータ入力手段１１１と、制御手段１３０から送信された抽出結果の情報を取得し、ディスプレイやプリンタ等に出力するデータ出力手段１１５とを備える。
【００３８】
制御手段１３０は、例えば、ＣＰＵ（Central Processing Unit）等から構成され、入出力手段１１０および記憶手段１５０を制御すると共に、入力されたデータの情報抽出を行うものであり、図１に示すように、認識部１３１と、学習データ処理部１３３と、モデル作成部１３５と、情報抽出部１３７とを備える。
【００３９】
認識部１３１は、入力された元データをデータ入力手段１１１から取得し、認識単語列などを出力する。元データとは、モデル学習用の音声データや文字データ、情報抽出を行う対象となるデータ等である。
認識部１３１は、音声認識あるいは文字認識を行う単語列認識手段１３１０と、各認識単語の確信度を計算する単語確信度計算手段１３１１とによって構成される。
【００４０】
単語列認識手段１３１０は、モデル学習時には、入力された元データ（学習用入力データ）に対し、１またはそれ以上の認識単語列を出力する。また、情報抽出時には、入力された元データに対し、単語ラティス（複数の認識単語列をコンパクトに表現するための、有向非循環のグラフ）を作成し、単語確信度計算手段１３１１に出力する。
これらの音声認識技術の一例として、例えば参考文献１が挙げられる。
［参考文献１］
李晃伸、河原達也、堂下修司、“文法カテゴリ対制約を用いたＡ＊探索に基づく大語彙連続音声認識パーザ”、情報処理学会論文誌、1999、Vol.40，No.4，pp.1374-1382
なお、単語ラティスの具体的な説明は、後記する。
【００４１】
単語確信度計算手段１３１１は、情報抽出時に単語列認識手段１３１０から出力される情報（単語ラティス）を用いて、各認識単語の確信度（認識確信度）を計算する。具体的な計算手法としては、音声認識分野で公知の単語確信度計算技術が利用可能である。例えば、参考文献２に記載の方法では、「対象単語を含む音声認識仮説のスコアの和」と「単語グラフから得られる全音声認識仮説のスコア総和」の比として単語事後確率の計算を行う。
［参考文献２］
F.Wessel et al.、“Confidence measures for large vocabulary continuous speech recognition”、IEEE transaction on Speech and Audio Processing、2001、vol9、No.3、pp.288-298
【００４２】
単語確信度計算手段１３１１は、認識確信度を算出し、確信度付き認識単語列を作成する。算出される認識確信度の認識確信度（正解／不正解のスコア）は連続値であり、値が大きければ単語の認識は正しい可能性が高く、値が小さければ誤りである可能性が高い。そこで、単語確信度計算手段１３１１は、認識確信度について、閾値以上ならば「正」、そうでなければ「誤」という値を付与した確信度情報付き認識単語列を作成する。
なお、単語確信度計算手段１３１１を、単語列認識手段１３１０に含ませることで、単語列の認識と同時に実行することもできる。また、単語列認識手段１３１０において、認識確信度に相当する尤度等のスコアを認識単語列に付与することで、それを入力として実行することもできる。
【００４３】
学習データ処理部１３３は、入力された元データに対する認識単語列と、元データに対応する抽出対象情報（例えば、固有表現ラベル）が付与された参照単語列とを入力とし、識別モデルの学習用データを出力する。
ここで、参照単語列とは、元データに対応する正解単語列（人手による書き起こし結果等）に、各単語が抽出対象情報のどの種別に該当するかを示す識別情報に相当するラベル（固有表現ラベル）が付与されたものである。この参照単語列と、端末装置１００に入力される元データとが、学習元データベース（以下、「学習元ＤＢ」と適宜記載）に格納されており、学習元データベースが端末装置１００に入力されることで、モデル学習処理が開始される。
【００４４】
学習データ処理部１３３は、認識単語列中の認識誤りを判定する単語列対応付け手段１３３０、正誤情報付き認識単語列を用いて学習データを作成する認識単語列学習データ作成手段１３３１、参照単語列を用いて学習データを作成する参照単語列学習データ作成手段１３３２とを備える。
【００４５】
単語列対応付け手段１３３０は、認識単語列と参照単語列（正解単語列）とを、公知の技術であるＤＰ（Dynamic Programming）マッチング等により対応付けし、各認識単語について、対応付けされた参照単語と同じであれば「正」、そうでなければ「誤」とする、認識単語の正誤情報を付与した正誤情報付き認識単語列を出力する。
【００４６】
認識単語列学習データ作成手段１３３１は、単語列対応付け手段１３３０で作成された正誤情報付き認識単語列に対して、識別モデルで用いる素性の抽出を行う。さらに、正誤情報付き認識単語列と、学習元データベースの参照単語列の固有表現ラベルとを比較し、対応させて、各認識単語がどの抽出対象情報に対応するかを示すラベル（固有表現ラベル）を付与し、認識単語列学習データ１５１０としてモデル学習用データベース１５１に格納する。
【００４７】
認識確信度を除く素性の設計については、本実施形態では特に規定しないが、例としては非特許文献２に記載されている「単語」「品詞」「文字種」等が考えられる。
【００４８】
図２は、認識確信度素性を追加して格納された認識単語列学習データの例を示す図である。なお、ここで付与されるラベル（抽出対象情報）は、以下に基づく。
-------
BEGIN：固有表現の最初の単語に付与されるラベル（人名-BEGIN等）
MIDDLE：固有表現の中間の単語に付与されるラベル（人名-MIDDLE等）
END：固有表現の最後の単語に付与されるラベル（人名-END等）
SINGLE：１単語から成る固有表現に付与されるラベル（人名-SINGLE等）
-------
図２では、ラベルの情報から、抽出対象情報として「地名」「人工物名」を指定して作成されていることが分かる。
【００４９】
本実施形態において、端末装置１００は、認識単語が正しかった場合には、対応する参照単語に付与されているラベルをそのまま付与し、認識誤りであった場合には、その他のラベル（例えば、抽出すべき情報は含まれないことを示すラベル「対象外（OTHER）」等）を付与する。
抽出すべき情報が複数の単語に渡る場合には、その中に含まれる１単語でも認識誤りであれば、その中に含まれる他の単語についても同様に別種のラベル（対象外）を付与することも考えられる。例えば図２において、正しく認識された「京都」、「金閣寺」には、ラベルの情報としてそれぞれ「地名」、「人工物名」が付与されている。ここで、抽出すべき情報が「大宮」と「駅」の２語からなる「大宮駅」である場合に、「大宮駅」が誤認識によって「大宮行き」となっているので、「地名-BEGIN」の「大宮」は認識されている（認識確信度素性＝「正」）が、「地名-END」の「駅」が誤認識されている（認識確信度素性＝「誤」）ため、「地名-BEGIN」の「大宮」も含めて抽出対象外（つまり、ラベルの情報が「対象外」）となっている。
【００５０】
図１に戻り、参照単語列学習データ作成手段１３３２は、参照単語列において、識別モデルで用いる素性の抽出を行い、さらに認識確信度素性（すべての認識単語は正しいとして）を参照単語列に付与し、さらに固有表現ラベルを付与して、参照単語列学習データ１５１１としてモデル学習用ＤＢ１５１に格納する。
図３は、参照単語列学習データの例である。なお、内容は図２のものに対応している。
【００５１】
モデル作成部１３５はモデル作成手段１３５０を備え、このモデル作成手段１３５０は、識別モデルの学習用データ（符号１５１０，１５１１）を入力として、作成したモデル情報を出力する。
詳細には、モデル作成手段１３５０は、モデル学習用データベース１５１から学習データ（符号１５１０，１５１１）を読み込み、情報抽出時の入力データ中の単語列に対して、正しいラベル系列が付与できるように学習を行う。なお、識別モデルの種類およびその学習手法に関して、本実施形態では特に規定しないが、識別モデルとしてはＳＶＭ（サポートベクトルマシン）、最大エントロピーモデル、条件付き確率場（Conditional Random Fields）等が考えられる。なお、ＳＶＭを利用した技術としては、非特許文献２が挙げられる。 
【００５２】
情報抽出部１３７は、元データに対する認識単語列・確信度を入力し、学習されたモデルの情報を用いて、認識単語列から情報抽出を行う。
情報抽出部１３７は、モデル作成部１３５で作成されたモデル情報１５２０を利用して認識単語列にラベル付与を行うラベル付与手段１３７０、指定された抽出対象情報に対応する情報抽出を、認識単語列から行う情報抽出手段１３７１とを備える。
【００５３】
ラベル付与手段（抽出対象情報付与手段）１３７０は、単語確信度計算手段１３１１からの確信度情報付き認識単語列を入力として、各認識単語がどのラベルに該当するかを、モデル情報１５２０を利用して算出し、算出した結果に基づいて、最適なラベルを付与する。識別モデルの利用に関しては、ＳＶＭ、最大エントロピーモデル、条件付確率場等、モデルの種類に準じた技術を利用する。
図４は、情報抽出時の、元データの例として「アメリカの大統領官邸はホワイトハウス」を入力した場合に、ラベル付与手段１３７０によってラベル付与された結果の例を示した図である。
【００５４】
情報抽出手段１３７１は、ラベル付与手段１３７０で付与されたラベルを参照して、情報抽出を行う。例えば、図４に例示するラベル付与結果において、指定した抽出対象情報が“人工物名”であったとすると、単語「ホワイトハウス」を抽出する。
【００５５】
記憶手段１５０は、例えば、ＲＡＭ（Random Access Memory）と、ＨＤＤ（Hard Disk Drive）とを備える。この場合に、ＲＡＭは、制御手段１３０による演算処理等に利用されると共に、入出力手段１１０を介して取得した情報等を記憶し、ＨＤＤは、各種データベース、所定のプログラム、制御手段１３０の処理結果等を格納する。
【００５６】
また、記憶手段１５０は、前記した学習データ処理部１３３によって作成された、モデル学習用データベース（以下、「モデル学習用ＤＢ」と適宜記載）１５１と、モデル作成部１３５によって作成された、モデル情報データベース（以下、「モデル情報ＤＢ」と適宜記載）１５２とを備えている。
【００５７】
モデル学習用ＤＢ１５１は、認識単語列学習データ１５１０と、参照単語列学習データ１５１１とを備える。認識単語列学習データ１５１０には、認識単語列から作成された学習データが格納されている。参照単語列学習データ１５１１には、参照単語列から作成された学習データが格納されている。
【００５８】
モデル情報ＤＢ１５２は、モデル情報１５２０として、クラス、素性、パラメータ等の情報が格納されている。
【００５９】
なお、前記した制御手段１３０が備える各手段１３１０〜１３７１は、ＣＰＵが記憶手段１５０のＨＤＤに格納された所定のプログラムをＲＡＭに展開して実行することにより実現されるものである。
【００６０】
[情報抽出装置の動作] 
図１に示した端末装置１００の動作について、図５、図１４を参照（適宜図１を参照）して説明する。図５は、図１に示した端末装置が行うモデル学習方法を示すフローチャートである。図１４は、図１に示した端末装置が行う情報抽出方法を示すフローチャートである。モデル学習、情報抽出それぞれの処理について、新聞記事を読み上げた音声データからの固有表現抽出を例として説明する。
【００６１】
＜モデル学習＞
本実施形態で用いられる学習元データベース（学習元ＤＢ）には、形態素解析済みの新聞記事データ（参照単語列）、および当該新聞記事を読み上げた音声データ（元データ：１記事が１音声ファイルに対応）が含まれる。なお、学習元データベースは、請求項における学習用入力データに相当する。
【００６２】
参照単語列は、図６に例示するような形式で学習元ＤＢに格納されており、１列目は正解単語列に相当する単語の情報（表層十読み＋品詞情報）であり、２列目は抽出対象情報の例として固有表現ラベルの情報が示される。
固有表現ラベルとは、情報抽出時に用いるそれぞれの単語の特徴（属性）を示す情報であり、このラベルを参照することで、情報抽出時に単語の抽出が行われる。
【００６３】
本実施形態では、固有表現ラベルの例として、人名，地名，組織名，人工物名，日付，時間，金額，割合の８種の固有表現ラベルが付与されている。なお、いずれにも属さない単語には「OTHER」のラベルが付与されている。また、複数単語に渡る固有表現を表すために、前記８種の固有表現ラベルに加え、以下の単語の位置に関する情報も含んだラベルを利用する（「OTHER」は除く）。
-------
BEGIN：固有表現の最初の単語に付与されるラベル（人名-BEGIN等）
MIDDLE：固有表現の中間の単語に付与されるラベル（人名-MIDDLE等）
END：固有表現の最後の単語に付与されるラベル（人名-END等）
SINGLE：１単語から成る固有表現に付与されるラベル（人名-SINGLE等）
-------
従って、本実施形態では８種類×４位置＋OTHER、の３３種類のラベルが存在する。
【００６４】
端末装置１００は、データ入力手段１１１を介して学習用入力データを取得し、記憶手段１５０に学習元ＤＢとして格納する。そして、認識部１３１は、学習元ＤＢに含まれる元データ（音声データ）および参照単語列を取得する。
【００６５】
単語列認識手段１３１０は、元データ（音声データ）を入力として、公知の技術である音声認識技術を用いて認識を行う（Ｓ１：単語列認識ステップ）。認識した結果は、図７のような認識単語列の形式で得られる。
【００６６】
図７に例示した認識単語列において、符号７０１には認識１位候補の単語列が示され、符号７０２には単語列のスコア（「-30922.7」）と、その内訳（音響モデルのスコア（「AM=-35053.9」）、言語モデルのスコア（「LM=4131.28」））が示されている。
【００６７】
続いて、単語列対応付け手段１３３０が、学習元ＤＢの参照単語列（正解単語列）、およびステップＳ１で得られた認識単語列の対応付けを行い、それに基づいて正誤情報付き認識単語列を作成する（Ｓ２：単語確信度計算ステップ）。
具体的には、まず、単語列対応付け手段１３３０が、認識単語列と参照単語列（正解単語列）とを比較し、対応付けを行う。図８は、対応付け結果を示した図である。１列目が参照単語列（参照単語側）、２列目が認識単語列（認識単語側）であり、対応する単語がない部分（認識時に単語が挿入・脱落した箇所）には（null）が記されている。
そして、単語列対応付け手段１３３０は、図８に示される単語列対応付け結果の情報を用いて、参照単語側の単語と認識単語側の単語とが一致するものには「正」、そうでないもの（つまり、（null）又は不一致）には「誤」の情報を認識単語列に付与することで、図９に示す正誤情報付き認識単語列を作成する。
【００６８】
続いて、認識単語列学習データ作成手段１３３１は、参照単語列に付与された抽出対象情報を示すラベル（固有表現ラベル）と、正誤情報付き認識単語列とを、公知技術であるＤＰマッチング等の方法を用いて対応させることで、図１０に示す認識単語列学習データを作成する（Ｓ３：認識単語列学習データ作成ステップ）。
【００６９】
本実施形態で利用する単語の素性の例として、以下の４つを用いる。
-------
単語表層素性
品詞素性
文字種素性（ひらがな、カタカナ、漢字一文字、漢字、等）
認識確信度素性（学習データでは対応付け結果から得られる認識単語の正誤情報）
-------
【００７０】
つまり、認識単語列学習データ作成手段１３３１は、対応の結果、これらの素性と、固有表現ラベルとを認識単語列に付与することで、認識単語列学習データを作成する。
【００７１】
図１０に示される認識単語列学習データにおいて、１列目は単語表層素性、２列目は品詞素性、３列目は文字種素性、４列目は認識確信度素性、５列目は固有表現ラベルである。
【００７２】
本実施形態では、認識単語列において、固有表現が認識誤りを含む場合は、当該固有表現に対応する認識単語に対しては、すべて、固有表現でない（OTHER）ラベルを付与する。
【００７３】
つまり、例えば、入力データにおける「村山富市」という人名は、認識単語列において「村山」「氏」「に」「位置」「し」「使用」と図１０に示されているように、認識誤りを起こしている。この「村山富市」では、参照単語列（図６参照）の固有表現ラベルにおいて、「人名-BEGIN」から「人名-END」までが人名を示すものである。図１０で、「富市」が認識誤りを起こして別の単語に置き換わってしまっているため、「村山」は認識確信度素性で「正」となっているが、該当する「人名-BEGIN」の固有表現ラベルは付与されておらず、「OTHER」が付与されている。
【００７４】
認識単語列学習データ作成手段１３３１は、作成した認識単語列学習データを、記憶手段１５０のモデル学習用ＤＢ１５１に、認識単語列学習データ１５１０として格納する。
なお、図５に示すモデル学習用データベースの認識単語列学習データ内の情報と、図１０に示す認識単語列学習データの含む情報とは、認識単語列＝単語表層素性、素性＝（品詞素性、文字種素性）、正誤情報＝認識確信度素性、抽出対象情報＝固有表現ラベル、というように対応している。
【００７５】
参照単語列学習データ作成手段１３３２は、参照単語列に対して、認識単語列学習データ１５１０と同様の素性と、認識確信度素性を付与した参照単語列学習データを作成する（Ｓ４：参照単語列学習データ作成ステップ）。その際、参照単語列においてはすべての単語が正しい認識単語と考えられるため、すべての単語に対して認識確信度素性は「正」となる。図１１は、参照単語列学習データ作成手段１３３２が作成した参照単語列学習データの例を示す図である。
【００７６】
参照単語列学習データ作成手段１３３２は、作成した参照単語列学習データを、記憶手段１５０のモデル学習用ＤＢ１５１に、参照単語列学習データ１５１１として格納する。
なお、図５に示すモデル学習用データベースの参照単語列学習データ内の情報と、図１１に示す参照単語列学習データの含む情報とは、参照単語列＝単語表層素性、素性＝（品詞素性、文字種素性）、正誤情報＝認識確信度素性、抽出対象情報＝固有表現ラベル、というように対応している。
【００７７】
続いて、モデル作成部１３５のモデル作成手段１３５０が、認識単語列学習データ１５１０および参照単語列学習データ１５１１を用いて、モデル情報を作成する（Ｓ５：モデル作成ステップ）。
【００７８】
本実施形態では、固有表現抽出のための識別モデルとして、公知の技術であるＳＶＭを利用する。ＳＶＭの実装として、フリーソフトウェアとして公開されているTinySVMを、また、モデル作成手段１３５０を実現するために、フリーソフトウェアとして公開されているYamChaを利用する。
【００７９】
ＳＶＭは２値分類器であるため、固有表現抽出のような、多クラスヘの分類問題にそのまま適用することはできない。そのため、各クラスに属するか否かを分類するＳＶＭをクラスごとに作成し、多クラスへの分類はそれらのＳＶＭすべての結果から、最も高いスコアを示したクラスを正解とする、one-against-all（あるいはone-versus-rest）と呼ばれる方法を用いた。YamChaは、学習データから自動的にone-against-allによる各ＳＶＭごとの学習データを作成し、TinySVMによってＳＶＭを学習し、最終的に（本実施形態では３３個の）ＳＶＭのパラメータをまとめて１つのファイルに、モデル情報１５２０として格納する。また、本実施形態では、ラベル付与対象の単語の素性（４種類）に加え、前後２単語ずつの素性（４種類×４単語＝１６種類）も同時に利用する。YamChaのオプションでは、「F:-2..2:0..」ならびに「MULTI＿CLASS=2」に相当する。
【００８０】
固有表現抽出のためのＳＶＭのカーネルは２次の多項式カーネルとし、ソフトマージンは「0.1」に設定する。TinySVMのオプションでは「-d 2 -C 0.1」に相当する。
【００８１】
その結果、図１２に例示するように、モデル情報（クラス・素性記述部）がモデル情報１５２０として書き出される。
ここでは、まず、すべてのＳＶＭで共通に利用される情報が図１２のように書き出される。
ClassList:では、情報抽出のためにこのモデル情報によって付与されるラベルの一覧が出力されている。
続いて、素性番号の定義が出力されている。例えば、素性１８番は、自身の単語表層（「F」は素性であること、「+0」は単語の位置、「0」は学習データにおける列の位置を表す）が「ＡＰ通信」であることを示している。
例えば、図１１に示す参照単語列学習データにおいて、最初の単語（単語表層素性「村山」）に固有表現ラベルを付与するための素性を説明すると、その１つ後の単語（単語表層素性「富市」）の品詞素性「名詞-固有名詞」が図１２のモデル情報で表現される場合、「F:+1:1:名詞-固有名詞」と示される。同様に、２つ後の単語(単語表層素性「首相」)の文字種素性「漢字」がモデル情報で表現される場合、「F:+2:2:漢字」と示される。
【００８２】
それに続いて、図１３に例示するように、各ＳＶＭで利用される、学習データ中の各クラスに属するか否かを判別するためのＳＶＭのパラメータ（サポートベクトルとその重み等）がモデル情報１５２０に追加して書き出される。
図１３において、符号１３０１は、ある単語が「人工物名-BEGIN」というラベルに分類されるか否かを判定するＳＶＭのパラメータの一部を示している。符号１３０２は、各行がサポートベクトルを表し、最初にサポートベクトルの重み、その後にそのサポートベクトルの持つ素性番号と素性値の一覧が出力されている。
【００８３】
以上の処理により、モデル情報１５２０が作成される。なお、新たな学習元データが入力された場合には、ステップＳ１〜Ｓ５の処理を行うことで、モデル情報ＤＢ１５２に格納されるモデル情報１５２０が更新される。具体的には、図１３に示すモデル情報のパラメータ部分が更新され、新しいラベルが追加された場合や、新しい単語が追加された場合には、図１２の情報も併せて更新されることとなる。
つまり、正誤情報およびラベルの情報を含むモデル情報を作成することができ、情報抽出時の精度が向上する。この実験結果については、後記する。
【００８４】
＜情報抽出＞
ここでは、図１４を用いて情報抽出の処理を説明する。なお、端末装置１００には、図５のステップＳ１〜Ｓ５によって、予めモデル情報１５２０が格納されているものとする。なお、情報抽出のための元データ（入力データ）として「米国がアヘン戦争で香港を占領」を使用する。
【００８５】
まず、単語列認識手段１３１０が、入力手段１１０を介して取得した元データ（入力データ）を用いて、単語ラティスを作成する（Ｓ１１：単語列認識ステップ）。
【００８６】
図１５は、単語列認識手段１３１０が作成した単語ラティスの例を示す図である。本実施形態における単語ラティスは、重みつき有限状態トランスデューサ（WFST：weighted finite state transducer）の形式をとっており、各行が状態遷移を表す表記となっている。１列目は遷移元状態番号、２列目は遷移先状態番号、３〜４列目はこの状態遷移に対応する音声中の時刻フレーム（音声ファイルのスタート時点が「0」、時刻「1」が20msに対応）、５列目は入力記号（ここではすべて「eps」：入力記号なし）、６列目は出力記号（認識単語）、７列目は状態遷移重み（スコア）である。
【００８７】
続いて、単語確信度計算手段１３１１が単語ラティスを用いて確信度計算を行い、確信度情報付き認識単語列を作成する（Ｓ１２：単語確信度計算ステップ）。
ここでの単語の確信度の計算方法として、本実施形態では、ＳＶＭを用いた確信度計算方法を利用するが、正解／不正解のラベルが付与できるものであれば、この方法に限るものではない。
また、単語確信度計算のための素性は、例として以下のものを用いる。
-------
単語表層
品詞番号
単語事後確率（10段階に分割：(1)0より大きく0.1以下，(2)0.1より大きく0.2以下，…，(10)0.9より大きく1.0以下）
-------
【００８８】
本実施形態では、固有表現抽出のためのモデル作成時と同様、前後２単語についての前記素性も同時に利用する。そして、単語事後確率の計算は、前記した参考文献２に記載の、単語グラフを用いた事後確率計算方法を利用する。そして、単語事後確率素性等の情報を用いた単語確信度計算のＳＶＭの実装にも、YamChaとTinySVMを用い、各認識単語が正しい（CORRECT）か誤り（ERROR）かを判別するようなＳＶＭを、図１６に例示する単語確信度計算用ＳＶＭ学習データを用いて学習（作成）する。なお、単語事後確率および単語確信度の計算は、別の方法を用いてもよい。その場合、図１６に例示する単語確信度計算用ＳＶＭ学習データは不要としてもよい。
【００８９】
ここで、図１６に例示する単語確信度計算用ＳＶＭ学習データを認識単語列学習データ作成手段１３３１が生成する処理の一例を説明する。
モデル学習時に、単語列認識手段１３１０が、元データを用いて単語ラティスを作成する。
そして、認識単語列学習データ作成手段１３３１が、単語列認識手段１３１０から受信した単語ラティスと、正誤情報付き認識単語列（図９参照）とを用いて、単語確信度計算用ＳＶＭ学習データ（図１６参照）を作成する。なお、単語確信度計算用ＳＶＭ学習データ（図１６参照）における「正解／不正解のラベル」は、正誤情報付き認識単語列（図９参照）における正誤情報に対応して付与される。
【００９０】
単語確信度計算用ＳＶＭ学習データによる学習は、２値の分類問題であるので、one-against-allを利用する必要はなく、CORRECT（正解）か否かを判別する、１つのＳＶＭを学習すればよい。本実施形態では、単語確信度計算のためのＳＶＭのカーネルは２次の多項式カーネルとし、ソフトマージンは「0.01」に設定する。TinySVMのオプションでは、「-d 2 -C 0.01」に相当する。
【００９１】
単語確信度計算用ＳＶＭ学習データを用いて学習されたＳＶＭのパラメータは、モデル学習時のモデル作成手段１３５０の処理と同様に、モデル情報ＤＢ１５２に格納される。
【００９２】
なお、前記のとおり、単語確信度計算用ＳＶＭ学習データ（図１６参照）を生成し、モデル情報ＤＢ１５２に格納する処理は、ステップＳ１２でＳＶＭを用いたことによるために行ったものであり、他の方法を用いる場合は省略可能である。
【００９３】
情報抽出時に、単語列認識手段１３１０から単語ラティスが入力されたら、単語確信度計算手段１３１１は、単語確信度計算のための単語事後確率素性を付与した単語確信度計算用認識単語列データを作成する。図１７は、単語確信度計算用認識単語列データの例を示す図である。この単語確信度計算用認識単語列データ（「あれ」は「アヘン」の誤認識）をYamChaに入力すると、前記単語確信度計算用ＳＶＭ学習データからモデル情報が作成され、格納されたＳＶＭのパラメータを用いて、図１８の単語確信度計算結果に示す出力が得られる。図１７のデータから追加された列は、CORRECTであると判別されるスコアと、ERRORであると判別されるスコア（「CORRECT」の場合のスコアの符号反転）であり、抽出対象情報の確信度に相当する。続いて、本実施形態では、ＳＶＭの出力スコアｓを、式（２）に示すシグモイド関数を用い、スコアを０から１の範囲の値に正規化したスコアｃ（ｓ）を、認識単語の確信度として用いる。
【数２】
2007322984.tif 000004
【００９４】
図１８における「正解／不正解のスコア」の「CORRECT」のスコアを、式（２）を用いて正規化した値を、図１９に示す。
【００９５】
確信度素性の決定で利用する閾値に、本実施形態では「0.4」を用いて、正規化した値を判別し、閾値以上であれば「正」、そうでない場合は「誤」という情報を付与して、認識確信度素性として追加する。その結果を確信度情報付き認識単語列として図２０に示す。以上の手続により、単語確信度計算手段１３１１によって、単語ラティスからなる認識単語列に、認識確信度を含む素性が付与されたデータが作成される。
以上の処理によって、入力データの認識単語列に、正誤情報が付与される。
【００９６】
続いて、ラベル付与手段１３７０は、単語確信度計算手段１３１１から入力された確信度情報付き認識単語列（図２０参照）に対し、ラベル付与を行う（Ｓ１３：抽出対象情報付与ステップ）。
具体的には、単語確信度計算手段１３１１から、ラベル付与手段１３７０に、確信度情報付き認識単語列（図２０参照）が入力される。そして、ラベル付与手段１３７０は、モデル作成手段１３５０で作成した（図５のステップＳ５）モデル情報１５２０を利用して、入力された確信度情報付き認識単語列に対し、例えばＳＶＭを用いてラベル付与を行う。その結果は、図２１のように出力される。図２０と比較して追加された部分は、ラベルとそのラベルのスコア（各ＳＶＭの出力スコア）である。なお、すべての出力ラベルについてのスコアが出力されるが、図２１の例では、３位候補以降の出力ラベルについては省略して示してある。
【００９７】
図２１の出力をそのままラベル付与結果として利用すると、ラベル列として不整合が起こりうる（「米国」であれば、「地名-BEGIN」の後に「人工物名-BEGIN」が来る、等）ため、以下のようにして、ラベルの連接の制約を満たす最適なラベル系列を得る。
【００９８】
まず、シグモイド関数（式（２）参照）により、ラベルのスコアｓを０から１の範囲の値に正規化する。その後、公知のViterbiアルゴリズム等により、正規化されたスコアｃ（ｓ）の和が最大となるようなラベル系列を選択する（非特許文献２参照）。この手続きによって、前記のYamChaの出力を補正し、図２２に例示するような結果を得る。
【００９９】
続いて、情報抽出手段１３７１は、ラベル付与手段１３７０の出力から、固有表現に相当する部分（「BEGIN」から「END」まで、又は「SINGLE」）を抽出する（Ｓ１４：情報抽出ステップ）。抽出した情報を、適宜データ出力手段１１５を介して出力する。
例えば、図２２に例示したデータの場合は、固有表現ラベルが付与されている
-------
米国  地名
香港  地名
-------
が出力される。
【０１００】
本実施形態によれば、識別モデルにおいて、認識単語列学習データ１５１０および参照単語列学習データ１５１１それぞれに、各認識単語が正しいか否かを表す２値の素性（認識確信度素性）を正誤情報として含ませる構成としたことで、精度の高いモデル情報を作成し、そのモデル情報を用いた情報抽出時に、正誤情報を用いて情報抽出を実施することができる。それにより、認識誤りの影響を軽減させることができる。つまり、元データで誤認識された単語素性「あれ」は、出力ラベル（OTHER）によって固有表現として抽出されることはない。
また、正しく認識された単語だけでなく、誤認識された単語についても、単語の持つ様々な素性情報を利用することができる。
【０１０１】
なお、端末装置１００は、前記したステップＳ１〜Ｓ５を一般的なコンピュータに実行させる、モデル学習プログラム実行することでも実現できる。また、端末装置１００は、前記したステップＳ１１〜Ｓ１４を一般的なコンピュータに実行させる、情報抽出プログラム実行することでも実現できる。これらのプログラムは、通信回線を介して配布することも可能であるし、ＣＤ−ＲＯＭ等の記録媒体に書き込んで配布することも可能である。
【０１０２】
［実験］
本実施形態に示した方法による実験の方法および結果を以下に示す。
【０１０３】
＜実験条件＞
・元データ：新聞記事の読み上げ音声（1,174記事，10,718文，読み上げ者106名（1名あたり約100文））
・参照単語列：前記新聞記事の文書データ（括弧等の読まない記号は削除し、数字はすべて漢数字に置換）
・抽出対象情報：参照単語列中の固有表現（人工物名，組織名，地名，人名，日付，時間表，金額，割合）計約19,000
【０１０４】
参照単語列の文書データは、公知の日本語形態素解析器「茶筌」によって形態素解析を行い、単語区切りと品詞情報を与えたものである。
単語文字種としては、“漢字一文字”（漢字一文字）、“漢字”（一文字以上の漢字のみ）、“ひらがな”（ひらがなのみ）、“カタカナ”（カタカナのみ）、“数字”（数字のみ）、“大文字一文字”（英字大文字一文字）、“大文字”（英字大文字のみ）、“大文字開始”（英字で最初の一文字のみが大文字）、“英字”（英字のみのその他の単語）、“その他”（その他の単語）を用いた。
【０１０５】
認識単語列作成のために利用した音声認識器は、別の読み上げ音声で作成した音響モデルと、別の新聞記事データから作成した単語トライグラムモデルを利用した。音声認識時の言語モデル重みは「15」に設定した。
この条件での10,718文の読み上げ音声に対する単語認識精度は79.45％であり、音声認識結果の中には82.0％の固有表現が残っていた。
【０１０６】
＜評価指標＞
評価の指標には、当該分野で一般的に用いられている、固有表現のＦ値を用いた。Ｆ値とは適合率と再現率の調和平均であり、適合率と再現率はそれぞれ以下の式（３）、式（４）のように表される。
【数３】
2007322984.tif 000005
【数４】
2007322984.tif 000006
【０１０７】
抽出された固有表現は、音声認識が正しく行われて単語の誤りがなく、単語の過不足がなく、また、固有表現ラベル（人名、地名、等）が正しかった場合を正解とし、そうでない場合は誤りとした。
【０１０８】
＜比較した手法＞
（１）確信度情報なし：確信度の情報を用いず、テキストデータ（参照単語列）のみから固有表現抽出を行う方法（非特許文献２に相当）。音声認識結果をテキストとして利用。
（２）比較例（Ａ）：確信度の情報を利用。学習データにおいてテキストデータ（参照単語列）を用いない。
（３）比較例（Ｂ）：確信度の情報を利用。学習・テスキトデータにおいて、認識確信度素性が「誤」であるとき、単語素性・品詞素性・文字種素性を用いない（「誤認識した単語」という情報を用いた）。
（４）本実施形態：確信度の情報を利用。本実施形態の全機能を使用。
（５）本実施形態上限値：認識単語の正誤が誤りなく得られたと仮定した場合の本実施形態の方法。本実施形態で得られる性能の上限。
【０１０９】
＜実験結果＞
実験結果を図２３に示す。
確信度情報を利用しない場合（確信度情報なし）と比較して、本実施形態はＦ値で2.0％ほど高い性能を示している。この性能向上は、適合率の7.4％の向上（再現率は1.9％低下）によるものである。
【０１１０】
比較例（Ａ）は、本実施形態には劣るものの、確信度情報を利用することによってＦ値を0.7％向上できている。比較例（Ａ）が本実施形態に劣る理由として、比較例（Ａ）においてはテキストデータ（参照単語列）をモデルの学習に利用していないので、固有表現に相当する部分が、音声認識の誤りによって失われているような箇所において学習データが不足しているためと考えられる。つまり、認識確信度を識別モデルに導入することによる本実施形態の効果は、参照単語列のデータも誤りのない認識単語列のデータとしてモデルの学習に用いる（また、そのために認識確信度を連続値ではなく２値化する）という枠組みを導入することによって、さらなる改善を得られることを確認した。
【０１１１】
比較例（Ｂ）は、ほぼ本実施形態に近いが、本実施形態と比較して若干（Ｆ値で0.3％、適合率で0.6％）劣る。その理由として、本実施形態では、比較例（Ｂ）よりも多くの情報（誤認識した単語に関する素性）を利用しており、こうした素性を利用することが本実施形態の性能改善に貢献していることが認められた。こうした素性は、従来生成モデルを用いた固有表現抽出手法では用いることが難しかったため、本実施形態を用いることによって初めてその効果を得られるようになったものである。
【０１１２】
本実施形態では認識確信度の情報を利用することで、認識が誤っている可能性の高い単語を考慮して固有表現抽出を行うことができる。そのため、誤認識の単語を固有表現に含めて抽出してしまうことを防ぐことができ、それが適合率の向上につながったものと考えられる。また、認識確信度の正確性の向上により、情報抽出分野においてさらなる性能向上が期待できることを、「本実施形態上限値」の結果が示唆している。
【０１１３】
以上説明したように、本実施形態によれば、識別モデルを用いて、認識誤りを正誤の２値の素性情報とすることで、参照単語列と認識単語列との比較を行い、識別モデルの学習を行うことで、情報抽出時の精度を高めることが可能となる。また、誤認識した単語に関する素性も、利用可能である。
【０１１４】
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、その趣旨を変えない範囲で実施することができる。例えば、本実施形態において、単語の素性やラベルの種類、内容については、自由に設定可能である。
また、利用した公知技術による手法についても、これに限るものではなく、他の方法を用いて実施しても何ら問題ない。
また、適用できる技術分野においても、情報検索システム、自然言語処理システム、音声処理システム以外にも、様々な分野で適用可能である。
【図面の簡単な説明】
【０１１５】
【図１】本発明に係る端末装置（モデル学習装置、情報抽出装置）の一例を示す機能ブロック図である。
【図２】認識単語列学習データの例を示す図である。
【図３】参照単語列学習データの例を示す図である。
【図４】ラベル付与された結果を示す図である。
【図５】図１に示した端末装置が行うモデル学習方法を示すフローチャートである。
【図６】学習元データベースに格納される参照単語列の例を示す図である。
【図７】元データから作成される認識単語列の例を示す図である。
【図８】単語列対応付け手段が対応付けを行った結果を示す図である。
【図９】正誤情報付き認識単語列の例を示す図である。
【図１０】認識単語列学習データの例を示す図である。
【図１１】参照単語列学習データの例を示す図である。
【図１２】モデル情報（クラス・素性記述部）の例を示す図である。
【図１３】モデル情報（パラメータ記述部）の例を示す図である。
【図１４】図１に示した端末装置が行う情報抽出方法を示すフローチャートである。
【図１５】情報抽出時における入力データから作成される単語ラティスを示す図である。
【図１６】単語確信度計算用ＳＶＭ学習データの例を示す図である。
【図１７】情報抽出時における単語確信度計算用認識単語列データの例を示す図である。
【図１８】情報抽出時における単語確信度計算結果の例を示す図である。
【図１９】図１８におけるスコアを正規化したデータを示す図である。
【図２０】確信度情報付き認識単語列の例を示す図である。
【図２１】ラベル付与結果の例を示す図である。
【図２２】補正済みラベル付与結果を示す図である。
【図２３】実験結果を示す図である。
【符号の説明】
【０１１６】
１００  端末装置（モデル学習装置、情報抽出装置）
１１０  入出力手段
１１１  データ入力手段
１１５  データ出力手段
１３０  制御手段
１３１  認識部
１３３  学習データ処理部
１３５  モデル作成部
１３７  情報抽出部
１５０  記憶手段
１５１  モデル学習用データベース
１５２  モデル情報データベース
１３１０  単語列認識手段
１３１１  単語確信度計算手段
１３３０  単語列対応付け手段
１３３１  認識単語列学習データ作成手段
１３３２  参照単語列学習データ作成手段
１３５０  モデル作成手段
１３７０  ラベル付与手段（抽出情報付与手段）
１３７１  情報抽出手段
１５１０  認識単語列学習データ
１５１１  参照単語列学習データ
１５２０  モデル情報
【図１】
2007322984.tif 000007
【図２】
2007322984.tif 000008
【図３】
2007322984.tif 000009
【図４】
2007322984.tif 000010
【図５】
2007322984.tif 000011
【図６】
2007322984.tif 000012
【図７】
2007322984.tif 000013
【図８】
2007322984.tif 000014
【図９】
2007322984.tif 000015
【図１０】
2007322984.tif 000016
【図１１】
2007322984.tif 000017
【図１２】
2007322984.tif 000018
【図１３】
2007322984.tif 000019
【図１４】
2007322984.tif 000020
【図１５】
2007322984.tif 000021
【図１６】
2007322984.tif 000022
【図１７】
2007322984.tif 000023
【図１８】
2007322984.tif 000024
【図１９】
2007322984.tif 000025
【図２０】
2007322984.tif 000026
【図２１】
2007322984.tif 000027
【図２２】
2007322984.tif 000028
【図２３】
2007322984.tif 000029