(57)【要約】【課題】特定の話者の発話に関する過去のデータが少ない場合であっても、その特定の話者についての音声認識率を改善する。【解決手段】音声認識装置１の音声言語資源記憶部２は、複数話者の発話の音声データと、その発話の正解文を示す文書データとを記憶している。音響特徴量変換部３２は、音声データを用い、非目的話者の音声に目的話者の音声の特徴を反映するような特徴量変換写像を求める。そして、求めた変換写像を基に非目的発話の音声データの音響特徴量を変換し、音声認識を行う。言語特徴抽出部４２は、着目話題についての文書データから話題性に関する言語特徴を抽出するとともに、他の文書データから話題に依存しない大局的な言語特徴を抽出する。誤り傾向学習部５は、音響特徴量変換部３２が得た音声認識結果と、言語特徴抽出部４２が得た言語特徴を用い、目的話者及び注目話題についての単語の誤り傾向を学習する。【選択図】図４
2013117683.tif 000002
【特許請求の範囲】
【請求項１】
複数の話者の発話の音声データと、前記音声データに対応する正解文である文書データとを対応づけて記憶する音声言語資源記憶部と、
前記音声言語資源記憶部に記憶されている非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う音響特徴量変換部と、
前記音声言語資源記憶部に記憶されている前記文書データから言語的特徴を抽出する言語特徴抽出部と、
前記音響特徴量変換部により変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、前記言語特徴抽出部により抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された前記正解文候補の評価値に基づいて誤り傾向を統計的に学習する誤り傾向学習部と、
を備えることを特徴とする音声認識装置。
【請求項２】
前記言語的特徴は、正解文の単語または音素の特徴を表す素性関数であり、
前記誤り傾向学習部は、前記素性関数とその重みにより定義される誤り修正モデルを用いて認識誤りを評価する評価関数により、前記音響特徴量変換部により変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから算出された前記正解文候補の評価値に基づき前記重みを統計的に算出する、
ことを特徴とする請求項１に記載の音声認識装置。
【請求項３】
前記言語特徴抽出部は、特定の話題についての前記文書データから言語的な特徴を抽出する、
ことを特徴とする請求項１または請求項２に記載の音声認識装置。
【請求項４】
前記誤り傾向学習部によって学習された音声認識の誤り傾向を用いて前記目的話者の発話の音声認識を行う音声認識部をさらに備える、
ことを特徴とする請求項１から請求項３のいずれか１項に記載の音声認識装置。
【請求項５】
複数の話者の発話の音声データと、前記音声データに対応する正解文である文書データとを対応づけて記憶する音声言語資源記憶過程と、
前記音声言語資源記憶過程で記憶された非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う音響特徴量変換過程と、
前記音声言語資源記憶過程で記憶された前記文書データから言語的特徴を抽出する言語特徴抽出過程と、
前記音響特徴量変換過程で変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、前記言語特徴抽出過程で抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された前記正解文候補の評価値に基づき誤り傾向を統計的に学習する誤り傾向学習過程と、
を有することを特徴とする誤り傾向学習方法。
【請求項６】
コンピュータを、
複数の話者の発話の音声データと、前記音声データに対応する正解文である文書データとを対応づけて記憶する音声言語資源記憶部、
前記音声言語資源記憶部に記憶されている非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う音響特徴量変換部、
前記音声言語資源記憶部に記憶されている前記文書データから言語的特徴を抽出する言語特徴抽出部、
前記音響特徴量変換部により変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、前記言語特徴抽出部により抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された前記正解文候補の評価値に基づいて誤り傾向を統計的に学習する誤り傾向学習部、
を備える音声認識装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声認識装置、誤り傾向学習方法、及びプログラムに関する。
【背景技術】
【０００２】
非特許文献１では、音声とその書き起こし（正解文）から、言語的な特徴を用いて音声認識の誤り傾向を統計的に学習し、学習の結果得られた統計的モデルを用いることにより音声認識の単語誤り削減を図っている。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】小林ほか，「単語誤り最小化に基づく識別的スコアリングによる音声認識」，電子情報通信学会誌，vol.J93-D no.5，２０１０年，ｐ．５９８−６０９
【発明の概要】
【発明が解決しようとする課題】
【０００４】
非特許文献１の従来技術は、不特定複数の話者が発話する場合には有効であるが、あらかじめ話者がわかっている場合は、必ずしも有効な手法であるとはいえない。
話者が既知の場合、従来技術には、次のような欠点がある。
【０００５】
第一に、音声認識の誤り傾向は、さまざまな話者による音声から統計的に学習しており、認識誤りは話者に依存せず、平均的に削減される。従って、特定の話者の認識誤りを大きく削減することはできない。
第二に、特定の話者にマッチした音声や書き起こしといったデータの量は一般的に少量であるため、音声認識の誤り傾向を頑健に推定することができない。
【０００６】
図１０は、話者に依存した音声認識の誤り傾向を説明するための図である。例えば、同図に示すように、Ａさん、Ｂさんが「きょうの東京外国為替市場は」と発話する。この場合のＡさんの音声認識結果は、「きょうの東京外国『川瀬』市場は」、「きょうの東京外国為替『私情』は」である。一方、Ｂさんの音声認識結果は、「きょうの『問う共』為替市場は」、「『京』の東京外国為替市場は」である。このように、異なる話者が同じように発話しても、話者によって声の特徴（音響特徴量）が異なるため、音声認識の誤りも異なったものとなる。
【０００７】
本発明は、このような事情を考慮してなされたもので、特定の話者の発話に関する過去のデータが少ない場合であっても、その特定の話者の発話内容を音声認識する際の認識誤りを削減して音声認識率を改善することができる音声認識装置、誤り傾向学習方法、及びプログラムを提供する。
【課題を解決するための手段】
【０００８】
［１］  本発明の一態様は、複数の話者の発話の音声データと、前記音声データに対応する正解文である文書データとを対応づけて記憶する音声言語資源記憶部と、前記音声言語資源記憶部に記憶されている非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う音響特徴量変換部と、前記音声言語資源記憶部に記憶されている前記文書データから言語的特徴を抽出する言語特徴抽出部と、前記音響特徴量変換部により変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、前記言語特徴抽出部により抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された前記正解文候補の評価値に基づいて誤り傾向を統計的に学習する誤り傾向学習部と、を備えることを特徴とする音声認識装置である。
この発明によれば、音声認識装置は、非目的話者の音声データから得られる音響特徴量を目的話者の音響特徴量に近づけて音声に認識を行い、その音声認識結果と音声データが表す発話の正解文とを用いて音声認識の誤り傾向を統計的に学習する。この学習において、音声認識装置は、文書データから得られた言語的特徴を用いて認識誤りを評価する評価関数の評価値が、最も認識誤りが少ないことを示す評価値となるようにする。
これにより、音声認識装置は、学習データとして蓄積された目的話者の音声データが少ない場合であっても、大量の非目的話者の音声から目的話者を擬似した音声を生成し、この擬似した音声とその正解文を用いて、目的話者の音声認識の誤り傾向を学習することができる。
【０００９】
［２］  本発明の一態様は、上述する音声認識装置であって、前記言語的特徴は、正解文の単語または音素の特徴を表す素性関数であり、前記誤り傾向学習部は、前記素性関数とその重みにより定義される誤り修正モデルを用いて認識誤りを評価する評価関数により、前記音響特徴量変換部により変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから算出された前記正解文候補の評価値に基づき前記重みを統計的に算出する、ことを特徴とする。
この発明によれば、音声認識装置は、正解文の単語または音素の特徴を表す素性関数とその重みとで定義される誤り修正モデルを用いた評価関数により、目的話者の音響特徴に疑似した非目的話者の音声の音声認識結果である正解文候補について算出した評価値が、最も認識誤りが少ないことを示す評価値となるように重みを決定する。
これにより、音声認識装置は、目的話者の音声認識に適した誤り修正モデルを生成することができる。
【００１０】
［３］  本発明の一態様は、上述する音声認識装置であって、前記言語特徴抽出部は、特定の話題についての前記文書データから言語的な特徴を抽出する、ことを特徴とする。
この発明によれば、音声認識装置は、特定の話題について抽出された言語的特徴を用いて誤り傾向を学習する。
これにより、音声認識装置は、目的話者の特定話題にマッチした誤り修正モデルを生成することができる。
【００１１】
［４］  本発明の一態様は、上述する音声認識装置であって、前記誤り傾向学習部によって学習された音声認識の誤り傾向を用いて前記目的話者の発話の音声認識を行う音声認識部をさらに備える、ことを特徴とする。
この発明によれば、音声認識装置は、学習した目的話者の誤り傾向に基づいて、目的話者の音声認識を行う。
これにより、音声認識装置は、音声認識率のよい目的話者の音声認識結果を得ることができる。
【００１２】
［５］  本発明の一態様は、複数の話者の発話の音声データと、前記音声データに対応する正解文である文書データとを対応づけて記憶する音声言語資源記憶過程と、前記音声言語資源記憶過程で記憶された非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う音響特徴量変換過程と、前記音声言語資源記憶過程で記憶された前記文書データから言語的特徴を抽出する言語特徴抽出過程と、前記音響特徴量変換過程で変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、前記言語特徴抽出過程で抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された前記正解文候補の評価値に基づいて誤り傾向を統計的に学習する誤り傾向学習過程と、を有することを特徴とする誤り傾向学習方法である。
【００１３】
［６］  本発明の一態様は、コンピュータを、複数の話者の発話の音声データと、前記音声データに対応する正解文である文書データとを対応づけて記憶する音声言語資源記憶部、前記音声言語資源記憶部に記憶されている非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う音響特徴量変換部、前記音声言語資源記憶部に記憶されている前記文書データから言語的特徴を抽出する言語特徴抽出部、前記音響特徴量変換部により変換された音響特徴量を音声認識した結果生成された正解文候補と、前記変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、前記言語特徴抽出部により抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された前記正解文候補の評価値に基づいて誤り傾向を統計的に学習する誤り傾向学習部、を備える音声認識装置として機能させるためのプログラムである。
【発明の効果】
【００１４】
本発明によれば、特定の話者の発話に関する過去のデータが少ない場合であっても、その特定の話者の発話内容を音声認識する際の認識誤りの傾向を学習することができるため、特定話者の音声認識率を改善することができる。
【図面の簡単な説明】
【００１５】
【図１】本発明の一実施形態による音声認識装置の話者性を考慮した音声認識の誤り傾向を説明するためのである。
【図２】同実施形態による音声認識装置の話題性を考慮した音声認識の誤り傾向を説明するための図である。
【図３】同実施形態による音声認識装置の統計的誤り修正モデル作成処理の処理概要を示す図である。
【図４】同実施形態による音声認識装置の構成を示す機能ブロック図である。
【図５】同実施形態による音響特徴量変換部の処理フローを示す図である。
【図６】同実施形態による交差検定の学習と評価の関係を示す図である。
【図７】同実施形態による話題分割部の処理フローを示す図である。
【図８】同実施形態による言語特徴抽出部の処理フローを示す。
【図９】同実施形態による誤り傾向学習部の処理フローを示す図である。
【図１０】従来技術による話者に依存した音声認識の誤り傾向を説明するための図である。
【発明を実施するための形態】
【００１６】
以下、図面を参照しながら本発明の実施形態を詳細に説明する。
【００１７】
［１．本実施形態の概要］
本実施形態の音声認識装置は、ある特定の話者が、ある特定の話題に関して発話を行うが（話者と話題の情報が既知）、その実際の発話内容は不明であるという状況において、その発話について予想される音声認識の誤りを予測する。音声認識装置は、この予測した誤りを削減する統計的な誤り修正モデルを構成し、音声認識に適用する。
そこで、本実施形態の音声認識装置は、ある話者のある話題の発話について音声認識した際の誤り傾向を、その話者に関する少量の音声およびその書き起こしと、その話者を除く他の話者による大量の音声およびその書き起こしとを用いて、統計的により精度よく推測する。なお、誤り傾向とは、音声認識において、どのような単語を誤りやすいかという傾向を意味する。この推測により、音声認識装置は、仮に同じ話者が過去に同じ話題に関する発話を行っていなくても、予測された単語誤りの傾向に基づいて音声認識の認識誤りを削減し、音声認識率を改善する。以下では、音声認識率を向上させたい話者を「目的話者」、目的話者以外の話者を「非目的話者」、音声認識率を向上させたい話題を「着目話題」と記載する。
【００１８】
図１は、本実施形態の音声認識装置１による話者性を考慮した音声認識の誤り傾向を説明するための図である。また、図２は、本実施形態の音声認識装置１による話題性を考慮した音声認識誤り傾向を説明するための図である。
【００１９】
従来技術では、図１０に示すように、異なる話者が同じように発話しても、話者によって声の特徴が異なるため、音声認識の誤りも異なったものとなる。同様に、話題によっても、音声認識の誤りの傾向は異なったものとなる。従来技術では、さまざまな話者によるさまざまな話題に従った発話から誤り傾向を学習しているため、特定の話題の認識誤りを大きく削減することはできない。
特定の話者や特定の話題に応じた音声認識の誤りを頑健に予測するためには、単に話者や話題にマッチした音声データだけではなく、話者性や話題性に依存した大量のデータから音声認識の誤り傾向を得ることが重要である。
【００２０】
そこで、図１に示すように、本実施形態の音声認識装置１は、目的話者の認識誤りの傾向を頑健にするための学習において、非目的話者の音響特徴量を目的話者の音響特徴量に近づける。これにより、音声認識装置１は、本来、Ｂさんの発話であるにもかかわらず、あたかもＡさんの発話であるかのようにみなすことで、目的話者であるＡさんの発話の音声認識結果を擬似的に生成する。これは、Ｂさんの音響特徴量（ｘ１）をＡさんの音響特徴量に近づけるための変換（ｘ１’＝Ｆ（ｘ１））を行なうことによって、誤り傾向の話者性を取り除き、Ａさんの音声認識の誤り傾向を模擬することを意味する。
【００２１】
また、図２に示すように、音声認識装置１は、着目話題について予測される音声認識の誤りを学習するために、２種類の特徴を利用する。１つめの特徴は、どのような話題にも出現が期待される、話題性に依存しない言語的特徴であり、２つめの特徴は、着目話題に出現が期待される、話題性に依存した言語的特徴である。
【００２２】
つまり、本実施形態の音声認識装置１は、以下の処理を行うことを特徴としている。
【００２３】
（処理１）非目的話者の発話の音響特徴量を変換し、目的話者の認識誤りを模擬する。
（処理２）（処理１）において模擬した認識誤りから、単語の誤り傾向を話題に応じた言語的な特徴に基づいて統計的に学習する。
【００２４】
上記処理により、音声認識装置１は、目的話者に関する少量の音声データから、目的話者の音声認識の誤り傾向を頑健に予測する統計的誤り修正モデルを生成することができる。よって、従来技術に比べて特定話者による発話の音声認識の性能が向上するという顕著な効果を奏する。
加えて、音声認識装置１は、生成する統計的誤り修正モデルに、目的話者が発話する際の話題（着目話題）の依存性に応じた認識誤りの傾向を反映するため、従来技術に比べて特定話者による着目話題の発話についての音声認識の性能が向上する。
このように、音声認識装置１は、話者および話題の依存性を反映した音声誤りの傾向を学習することにより、目的話者による着目話題の発話についての認識率を改善する。
【００２５】
［２．  処理概要］
続いて、音声認識装置１の処理概要を説明する。
【００２６】
［２．１  誤り修正モデルの学習］
ベイズの定理によれば、音声入力ｘが与えられたとき、この音声入力ｘに対して尤もらしい単語列ｗ＾（「＾」は、「ハット」を表す。）は、以下の式（１）により求めることができる。
【００２７】
【数１】
2013117683.tif 000003
【００２８】
音声入力ｘ及び単語列ｗは、例えば、発話の単位に対応し、Ｐ（ｗ｜ｘ）は、音声入力ｘが発生したときに単語列（文仮説）ｗが得られる事後確率である。
また、Ｐ（ｘ｜ｗ）は、単語列ｗに対する音響的な尤もらしさを示す事後確率であり、そのスコア（音響スコア）は隠れマルコフモデル（Hidden Markov Model、ＨＭＭ）及びガウス混合分布（Gaussian Mixture Model，ＧＭＭ）に代表される統計的音響モデルに基づいて計算される。言い換えれば、ＨＭＭ等に基づくある音響特徴量が与えられたとき、複数の正解候補の単語それぞれに対する尤もらしさを表すスコアが音響スコアである。
一方、Ｐ（ｗ）は、単語列ｗに対する言語的な尤もらしさであり、そのスコア（言語スコア）は、単語ｎ−ｇｒａｍモデル等の統計的言語モデルにより計算される。言い換えれば、音声認識対象の単語の前または後の単語列、あるいは前後両方の単語列が与えられたとき、複数の正解候補単語それぞれに対する尤もらしさを表すスコアが言語スコアである。なお、単語ｎ−ｇｒａｍモデルは、Ｎ単語連鎖（Ｎは、例えば１、２、または３である。）の統計に基づいて、（Ｎ−１）単語の履歴から次の単語の生起確率を与えるモデルである。
【００２９】
式（１）のＰ（ｘ｜ｗ）Ｐ（ｗ）が最大の場合は、その対数も最大である。そこで、音声認識では、上記の式（１）に基づいて、評価関数ｇ（ｗ｜ｘ）を以下の式（２）のように定める。なお、νは、音響スコアＰ（ｘ｜ｗ）に対する言語スコアＰ（ｗ）の重みである。
【００３０】
【数２】
2013117683.tif 000004
【００３１】
そして、以下の式（３）に示すように、正解候補となる単語列ｗの集合Ｌの中から、式（２）が示す評価関数の結果が最良の単語列ｗ＾が音声入力ｘの音声認識結果として選択される。
【００３２】
【数３】
2013117683.tif 000005
【００３３】
なお、単語列ｗの事後確率Ｐ（ｗ｜ｘ）は、式（２）の評価関数を用いて、式（４）のように算出される。なお、Ｌは、音声入力ｘから得られた正解候補の単語列ｗの集合である。
【００３４】
【数４】
2013117683.tif 000006
【００３５】
目的話者と着目話題について最良の認識結果を得るためには、正解単語列に対して式（２）の値が最大になるように、そして、大量の学習音声から得られる誤り傾向を反映するように、Ｐ（ｗ）またはＰ（ｘ｜ｗ）を学習すればよい。
そこで、音声認識装置１は、音声認識の性能を向上させたい目的話者及び着目話題の音声認識性能を向上させるために、以下を行う。
【００３６】
（１）着目話題で出現が期待される単語の誤り傾向を、大量の音声データとその書き起こしである文書データとを用いて統計的に学習する。
（２）（１）の学習においては、大量の音声データ中に含まれる非目的話者の音声の特徴を変換して目的話者の特徴に近づけることにより、話者に依存した誤り傾向を統計的に学習する。
【００３７】
音声認識装置１は、上記の学習により、目的話者及び着目話題にマッチした統計的誤り修正モデルを作成する。この誤り修正モデルは、式（２）による評価関数の値を修正する。具体的には、誤り傾向を考慮した場合、音声認識のスコアは、以下の式（５）のように算出される。
【００３８】
【数５】
2013117683.tif 000007
【００３９】
Ｓ（ｗ）は、誤り修正モデルのスコアである。μｌは音響スコアに対する言語スコアの重み、μｄは誤り修正モデルのスコアの重みであり、これらは予め決められる。
つまり、音声認識においては、統計的音響モデルおよび統計的言語モデルそれぞれに基づく音響スコアおよび言語スコアを用いて各正解候補のスコアを算出するが、これらのスコアに加えて、単語の誤り傾向に基づくペナルティや報償を表す誤り修正モデルのスコアを加点することで、尤もらしい正解候補単語列を選択する。
【００４０】
誤り修正モデルのスコアは、以下の式（６）のように算出される。
【００４１】
【数６】
2013117683.tif 000008
【００４２】
式（６）に示すように、誤り修正モデルは、関数ｆｉ（ｗ）（ｉ＝１，２，…）の線形和として定義される。ｆｉ（ｗ）（ｉ＝１，２，…）は素性関数であり、認識結果（正解候補）の単語列ｗにおける誤り傾向を表現するためのルールである。素性関数は、ある事象（ここでは、単語列ｗ）がその傾向（特徴）を持つときに０以外の実数を返す。これらルールは、例えば、単語列ｗに連続する単語（品詞）ｎ項組（ｗ１，ｗ２，．．．，ｗｎ）が含まれるかどうか、単語列ｗに単語ｕ→単語ｖとなる係り受けが含まれるかどうか、などの言語特徴であり、単語列におけるその生起回数を返すような関数とする。λｉは素性関数ｆｉに関する重みであり、素性関数ｆｉがどれだけ重要であるかを示す値である。
誤り傾向を統計的に学習するとは、統計的誤り修正モデルを作成することである。つまり、用意された音声データとその正解文から式（６）の重みλｉを求めることである。
【００４３】
［２．２  統計的誤り修正モデル作成処理の処理概要］
図３は、音声認識装置１による統計的誤り修正モデル作成処理の処理概要を示す。
音声認識装置１には、目的話者の音声データとその書き起こしである文書データ、ならびに、非目的話者による大量の音声データとその書き起こしである文書データを含む音声言語資源データが予め記憶されている。音声データは、発話の周波数波形データであり、文書データは、発話内容の正解文を示す。また、各音声データには、話者の名前や、料理、旅行、健康などの話題を示すラベルデータが付与される。
音声認識装置１への入力は、認識率を向上させたい目的話者及び着目話題に関する情報である。そして、音声認識装置１の出力は、音声認識する単語の誤り傾向を目的話者と着目話題に適応させ、統計的に誤りを修正する確率モデル（統計的誤り修正モデル）である。
【００４４】
（ステップＳ１）：音声認識装置１は、認識性能を改善したい目的話者及び着目話題の指定の入力を受ける。
【００４５】
（ステップＳ２）：音声認識装置１は、音声言語資源データに含まれる音声データを用い、非目的話者の音声に、目的発話の音声の特徴を反映するような特徴量変換写像を求める。
音声認識装置１は、音声言語資源データに含まれる音声データを、目的話者（Ａさん）の音声データと、非目的話者（Ｂさん、Ｃさん、…）の音声データとに分割する。音声認識装置１は、目的話者の音声データが示す音響的な特徴を基に、非目的話者の音声データから得られる音響的な特徴を、目的話者の音響的な特徴に近づけるような特徴量変換写像を求める。音声認識装置１は、求めた変換写像を基に、非目的発話の音声データから得られる音響特徴量を変換し、変換した音響特徴量を用いた発話の音声認識結果と、文書データが示すその発話の正解文の整列結果を求める。
【００４６】
（ステップＳ３）：音声認識装置１は、音声言語資源データから、話題に関する依存性に応じた言語的な特徴（素性）を抽出する。
音声認識装置１は、ラベルデータに基づいて、音声言語資源データの中から着目話題に類似した話題を選択する。あるいは、音声認識装置１は、クラスタリングアルゴリズムを用いて、着目話題に類似した発話の集合を得る。音声認識装置１は、類似した話題の発話についての文書データである話題依存データから話題性に関する言語特徴を抽出するとともに、類似した話題以外の話題の発話についての文書データである話題非依存データから話題に依存しない大局的な言語特徴をそれぞれ抽出する。
言語特徴は、素性関数に相当し、正解文候補内の連続する単語あるいは単語を構成する音素、連続しない２単語以上の単語、音素間の共起関係、単語の構文的な情報あるいは意味的な情報といった言語的な特徴、及び、音声の音響的な特徴に基づいて定められる。
【００４７】
（ステップＳ４）：音声認識装置１は、上記ステップで得られた特徴量変換写像の音声認識結果、話題に関して分割した文書データ（正解文）、及び言語特徴を用いて単語の誤り傾向を学習する。これにより、音声認識装置１は、目的話者が着目話題で発話した際に間違えると予想される単語を正解に修正する統計的誤り修正モデルを作成する。
【００４８】
（ステップＳ５）：音声認識装置１は、ステップＳ４において作成された統計的誤り修正モデルを用い、目的話者による着目話題についての発話を音声認識する。
【００４９】
［３．  構成］
図４は、本発明の一実施形態による音声認識装置１の構成を示す機能ブロック図であり、発明と関係する機能ブロックのみ抽出して示してある。
音声認識装置１は、音声言語資源記憶部２、音響特徴抽出処理部３、言語特徴抽出処理部４、誤り傾向学習部５、誤り修正モデル記憶部６、言語モデル記憶部７、音響モデル記憶部８、及び音声認識部９を備えて構成される。
【００５０】
音声言語資源記憶部２は、音声言語資源データとして、外部から取得した放送音声字幕データＤ１を記憶する。放送音声字幕データＤ１は、ラベルデータと、放送音声の音声データと、字幕などのその放送音声の書き起こしを示す文書データとを対応付けたデータである。ラベルデータは、話者の名前や、話題などを示す。音声データは、複数の発話についての波形データを含み得る。文書データは、音声データが示す発話の正解文を示すため、１つの文書データには、複数の文を含み得る。
【００５１】
音響特徴抽出処理部３は、非目的話者の音響特徴量を変換し、目的話者の認識誤りを模擬する。音響特徴抽出処理部３は、話者分割部３１、及び音響特徴量変換部３２を備える。
話者分割部３１は、音声言語資源記憶部２に記憶されている音声データを、目的話者音声データＤ２と、非目的話者音声データＤ３とに分類する。
音響特徴量変換部３２は、目的話者音声データＤ２から得られた音響特徴量に基づいて、非目的話者音声データＤ３から得られる音響特徴量を、目的話者の音響特徴量に近づけるような変換写像を求める。音響特徴量変換部３２は、求めた変換写像を非目的話者音声データＤ３に適用した変換音声データを音声認識した結果の変換音声認識結果データＤ４を出力する。
【００５２】
言語特徴抽出処理部４は、音響特徴抽出処理部３において模擬された認識誤りの傾向を、特定の話題に依存した言語的な特徴に基づいて学習する。言語特徴抽出処理部４は、話題分割部４１、及び言語特徴抽出部４２を備える。
話題分割部４１は、音声言語資源記憶部２に記憶されている文書データを、着目話題に類似または該当する話題の文書データである話題依存データＤ５と、それ以外の文書データである話題非依存データＤ６に分割する。
言語特徴抽出部４２は、話題依存データＤ５、話題非依存データＤ６のそれぞれから言語特徴を抽出する。
【００５３】
誤り傾向学習部５は、音響特徴抽出処理部３で得られた音響特徴量、言語特徴抽出処理部４で得られた言語特徴量に基づいて、誤り傾向を学習する。具体的には、誤り傾向学習部５は、音響特徴量変換部３２から出力された変換音声認識結果データＤ４と、言語特徴抽出部４２から得られた話題依存データＤ５及び話題非依存データＤ６ぞれぞれの言語的特徴を入力とする。誤り傾向学習部５は、音声言語資源記憶部２に記憶されている音声言語資源データを学習データとして用い、入力された変換音声認識結果データＤ４と、話題依存データＤ５及び話題非依存データＤ６ぞれぞれの言語特徴とから音声認識の誤り傾向を統計的手段により学習する。誤り傾向学習部５は、この学習により得られた統計的な誤り修正モデルを示す誤り修正モデルデータを誤り修正モデル記憶部６に書き込む。
【００５４】
音声認識部９は、言語モデル記憶部７に記憶されている従来の言語モデルのデータ、音響モデル記憶部８に記憶されている従来の音響モデルのデータとともに、誤り修正モデル記憶部６に記憶されている誤り修正モデルデータを用いて音声認識を行い、音声認識結果データＤ７を出力する。
【００５５】
［４．  詳細な処理手順］
続いて、音声認識装置１の詳細な処理手順について説明する。
音声認識装置１の音声言語資源記憶部２は、予め放送音声字幕データＤ１を格納している。
【００５６】
［４．１  ステップＳ１］
図３のステップＳ１において、利用者は、音声認識の認識率を改善したい目的話者と着目話題の組合せを指定する。音声認識装置１は、キーボードなどの図示しない入力手段により、指定された目的話者の話者名を示す目的話者データと、指定された着目話題を示す着目話題データとの入力を受ける。例えば、利用者は、音声言語資源記憶部２に予め記憶されている音声言語資源データに含まれる各音声データのラベルデータに基づいて、目的話者の名前や着目話題（料理・健康・旅行など）を指定する。
【００５７】
［４．２  ステップＳ２］
［４．２．１  話者分割処理］
図３のステップＳ２において、話者分割部３１は、音声言語資源記憶部２に記憶されているラベルデータを検索し、目的話者データが示す話者名が設定されているラベルデータを特定する。話者分割部３１は、この特定したラベルデータに対応付けて音声言語資源記憶部２に記憶されている音声データを目的話者音声データＤ２と判断する。さらに、話者分割部３１は、音声言語資源記憶部２に記憶されているラベルデータを検索し、目的話者データが示す話者名が設定されていないラベルデータを特定する。話者分割部３１は、この特定したラベルデータと対応付けて記憶されている音声データを非目的話者音声データＤ３と判断する。話者分割部３１は、目的話者音声データＤ２及び非目的話者音声データＤ３を音響特徴量変換部３２へ出力する。
【００５８】
［４．２．２  音響特徴量変換処理］
図５は、音響特徴量変換部３２の処理フローを示す図である。本実施形態では、音響モデルとして、多変量ガウス混合分布を出力分布として持つ隠れマルコフモデル（ＨＭＭ）を用いる。また、音響特徴量として、メル周波数ケプストラム係数（Mel-Frequency Cepstral Coefficients，ＭＦＣＣｓ）を用いる。この音響特徴量は、ベクトルで表される。
【００５９】
ステップ３０の目的話者音響モデル作成処理において、音響特徴量変換部３２は、話者分割部３１より入力された目的話者音声データＤ２から、音声認識で用いるための音響モデルを作成する。この作成される音響モデルは、目的話者の音響特徴量と音素列との統計的関係を表す。具体的には、音響特徴量変換部３２は、予め音声言語資源記憶部２などに記憶されている話者非依存の音響モデルを、事後確率最大化（Maximum A Posteriori，ＭＡＰ）、あるいは、最尤線形回帰（Maximum Likelihood Linear Regression，ＭＬＬＲ）のような既存の手法で目的話者音声データＤ２に適応化して音響モデルを得る。最尤線形回帰は、文献「M. J. F. Gales. Maximum likelihood linear transformation for HMM-based speech recognition, In Tech. Rep. CUED, 1997.」に記載されている。得られるＨＭＭは、各音素周波数特性を反映した音響モデルである。なお、話者非依存の音響モデルは、全ての話者の音声データを用いた既存の音響モデル生成処理により得られる。
【００６０】
ステップ３１の非目的話者音響特徴量正規化処理において、音響特徴量変換部３２は、話者分割部３１から入力された非目的話者音声データＤ３のそれぞれから音響特徴量ベクトルを得ると、得られた各音響特徴量から話者性を除去する。話者性の除去は、例えば、ＳＡＴ（Speaker Adaptive Training）学習で用いられる、特徴量空間でのＭＬＬＲ（feature space MLLR，ｆＭＬＬＲ）による線形変換を適用することにより行う。この処理は、文献「Y. Li et al. Incremental on-line feature space MLLR adaptation for telephony speech recognition, In ICSLP, 2002.」に記載の技術を用いる。
【００６１】
音響特徴量変換部３２の出力である変換音声の認識結果を得るために、本実施形態では、以下のステップＳ３２〜ステップＳ３５のように、交差検定（Cross Validation）に基づく変換写像の学習を行う。
【００６２】
ステップＳ３２の音声データ分割処理において、音響特徴量変換部３２は、ステップＳ３１で得られた非目的話者音声データＤ３の音響特徴量ベクトルを、Ｎ個（Ｎは２以上の整数）の集合Ｄ１、Ｄ２、…、ＤＮに分割する。分割は、例えば、ランダムに行われる。なお、音響特徴量変換部３２が実際に使用する分割数及び分割方法は、実験的に決定してもよい。
【００６３】
ステップＳ３３の音響特徴量変換処理において、音響特徴量変換部３２は、非目的話者の音響特徴を目的話者の音声に近づけるような学習を行う。
【００６４】
音響特徴量の線形変換は、以下の式（７）により算出される。
【００６５】
【数７】
2013117683.tif 000009
【００６６】
Ａは音響特徴量ｘを写す線形変換（行列）、ｂはバイアスである。ξは、音響特徴量ｘが変換された結果である。非目的話者の音響特徴を目的話者の音声に近づけるような学習とは、非目的話者の音響特徴量ｘを、目的話者の音響特徴量に近づけるための特徴量変換写像として、Ａ及びｂの組を求めることである。以下では、簡便のために、音響特徴量変換写像Ξ＝（Ａ，ｂ）と表す。
【００６７】
ここで、ＨＭＭの状態系列あるいは音素系列から、ハミング距離δに基づくフレーム誤り率ＦＥＲ（Ｆｌａｍｅ  Ｅｒｒｏｒ  Ｒａｔｅ）を式（８）のように定める。このハミング距離δは、同じ長さの要素を持つ２つの系列ｓｒ（ｔ）とｓ（ｔ）の間で、対応するフレームにある状態の異なりの数を示す。
【００６８】
【数８】
2013117683.tif 000010
【００６９】
ｓｒは、正解の状態（音素）系列のベクトルであり、ｓは、仮説の状態（音素）系列のベクトルである。また、ｓｒ（ｔ）は、Ｔフレームからなる音響特徴量系列（ｓｒ）の第ｔフレームにおける正解系列のラベル、ｓ（ｔ）は、Ｔフレームからなる音響特徴量系列（ｓ）の第ｔフレームにおける仮説の系列ラベルである。
【００７０】
式（８）から、音響特徴ベクトルｘと音響特徴量変換写像Ξが与えられたときに、音声認識により得られる系列ｓによる期待誤り率Ｒは、以下の式（９）により定められる。
【００７１】
【数９】
2013117683.tif 000011
【００７２】
Ｐ（ｓ｜Ξ（ｘ））は、音響特徴ベクトルｘと音響特徴量変換写像Ξが与えられたときに系列ｓが得られる事後確率である。また、Ｌは、変換された音響特徴ベクトルΞ（ｘ）に対して得られる系列ｓの集合である。
【００７３】
ステップＳ３２において得られたｎ番目のデータ集合Ｄｎに、Ｍ個（Ｍは１以上の整数）の音響特徴ベクトルｘｍ（ｍは１以上Ｍ以下の整数）が含まれている場合、データ集合Ｄｎについての期待誤り率は、式（９）に基づいて、以下の式（１０）のように定められる。
【００７４】
【数１０】
2013117683.tif 000012
【００７５】
ｓｍｒは、音響特徴ベクトルｘｍの正解の状態（音素）系列のベクトルであり、ｓｍ，ｋは、変換された音響特徴ベクトルΞ（ｘｍ）に対して得られた仮説（正解候補）の状態（音素）系列であり、Ｌｍは、状態（音素）系列ｓｍ，ｋの集合である。また、Ｐ（ｓｍ，ｋ｜Ξ（ｘｍ））は、変換された音響特徴ベクトルΞ（ｘｍ）が与えられたときに、系列ｓｍ，ｋが得られる事後確率であり、以下の式（１１）により定められる。
【００７６】
【数１１】
2013117683.tif 000013
【００７７】
事後確率Ｐ（Ξ（ｘｍ）｜ｓｍ，ｋ）は、系列ｓｍ，ｋに割り当てられた音響モデルのスコアであり、ガウス混合分布から計算されるスコアである。また、Ｐ（ｓｍ，ｋ）は、系列ｓｍ，ｋの生起確率である。
【００７８】
ここで、Ｎ個に分割したデータ集合Ｄ１〜ＤＮのうち、第ｎ番目のデータ集合Ｄｎを除く残りのデータ集合をＤ−ｎとし、データ集合Ｄ−ｎを用いて学習した特徴量変換写像をΞ−ｎとする。また、ξ−ｎは、音響特徴ベクトルｘｍにΞ−ｎを用いて式（７）の線形変換を行った結果（ξ−ｎ＝Ξ−ｎ（ｘｍ））である。
【００７９】
データ集合Ｄ−ｎの期待誤り率は、以下の式（１２）により定められる。
【００８０】
【数１２】
2013117683.tif 000014
【００８１】
式（１２）の期待誤り率を最小とするようなΞ−ｎが、データ集合Ｄｎについて求める特徴量変換写像である。ステップＳ３３の音響特徴量変換写像学習処理において、音響特徴量変換部３２は、話者の音響モデルパラメータ（ガウス混合分布の平均および分散）を固定したまま期待誤り率を最小化するため、ｎ＝１、２、…、Ｎのそれぞれについて、式（１２）により算出される期待誤り率を最小とするようなΞ−ｎを求める。
【００８２】
なお、音響特徴量変換部３２は、データ集合Ｄ−ｎに含まれる全ての非目的話者の音響特徴量である音響特徴ベクトルｘｍそれぞれに、式（７）に示す線形変換を行うことによって音響特徴ベクトルξｍ−ｎを得る。また、音響特徴量変換部３２は、ステップＳ３０において得られた目的話者の音響モデルを用いて音声認識を行うことによって、既存の手法により、線形変換により得られた音響特徴ベクトルξｍ−ｎそれぞれから状態系列ｓｍ，ｋと、その事後確率Ｐ（ｓｍ，ｋ｜ξｍ−ｎ）を得る。また、ＦＥＲ（ｓｍｒ，ｓｍ，ｋ）は定数であり、予め音声言語資源記憶部２に記憶させておいてもよく、都度算出してもよい。ＦＥＲ（ｓｍｒ，ｓｍ，ｋ）を算出する場合、音響特徴量変換部３２は、式（７）に示す変換を行う前の音響特徴ベクトルｘｍが得られた音声データにより、音声認識を行う。音響特徴量変換部３２は、音声認識の結果得られたｓｍ，ｋと、音声データに対応した文書データで示される正解文より得られるｓｍｒとから式（９）を用いてＦＥＲ（ｓｍｒ，ｓｍ，ｋ）を算出する。また、｜Ｄ−ｎ｜は、データ集合Ｄ−ｎから得られる音響特徴ベクトルｘｍの個数である。
【００８３】
式（１２）の期待誤り率を最小とするような特徴量変換写像Ξ−ｎは、例えば、勾配に基づく手法により、繰り返し手続により求めることができる。この手法は、文献「B. Zhang et al. Recent progress on the discriminative region-dependent transform for speech feature extraction. In INTERSPEECH, 2006.」に記載されている。繰り返し手続におけるΞ−ｎの初期値として、例えば、Ａを単位行列とし、ｂを０とする。
【００８４】
期待誤り率を最小化する手続において、繰り返しの終了を判定するために、Ξ−ｎを用いてデータ集合Ｄｎを評価したときの期待誤り率の平均Ｒｅｖａｌを以下の式（１３）のように定める。
【００８５】
【数１３】
2013117683.tif 000015
【００８６】
つまり、音響特徴量変換部３２は、ステップＳ３３の音響特徴量変換写像学習処理において、１からＮまでのそれぞれのｎについて特徴量変換写像Ξ−ｎが得られると、ステップＳ３４の交差検定処理において、式（１３）を用いて、期待誤り率の平均Ｒｅｖａｌを算出する。
なお、音響特徴量変換部３２は、データ集合Ｄｎに含まれる全ての非目的話者の音響特徴量である音響特徴ベクトルｘｍそれぞれに、特徴量変換写像Ξ−ｎを用いて式（７）の線形変換を行うことにより、音響特徴ベクトルξｍｎを得る。また、音響特徴量変換部３２は、目的話者の音響モデルを用いて音声認識を行うことによって、音響特徴ベクトルξｍｎそれぞれから状態系列ｓｍ，ｋと、その事後確率Ｐ（ｓｍ，ｋ｜ξｍｎ）を得る。また、ＦＥＲ（ｓｍｒ，ｓｍ，ｋ）は定数であり、式（１２）の場合と同様に、予め音声言語資源記憶部２に記憶させておいてもよく、都度算出してもよい。また、｜Ｄｎ｜は、データ集合Ｄｎから得られる音響特徴ベクトルｘｍの個数である。
【００８７】
上述したように、本実施形態では、データ集合Ｄｎの期待誤り率を、データ集合Ｄｎを除くデータ集合Ｄ−ｎにより評価している。本実施形態で重要なのは、従来の手法とは異なり、これらの特徴量変換写像を、音声認識の際に直接用いず、代わりに、話者の特徴を反映した音声認識の仮説（認識結果）の生成に用いる点である。
【００８８】
図６は、交差検定による学習と評価の関係を示す図である。同図に示す例では、音声データ集合Ｄ３を除いたＮ−１個のデータ集合Ｄ−３から変換写像Ξ−３を学習し、その評価をデータ集合Ｄ３で行っている。
【００８９】
そして、図５のステップＳ３５の終了判定処理において、音響特徴量変換部３２は、ステップＳ３４において式（１３）により得られた期待誤り率の平均Ｒｅｖａｌの値と、前回ステップ３４において得られた期待誤り率の平均Ｒｅｖａｌの値とを比較する。変化が所定より大きいと判断した場合、あるいは、最初の終了判定であり、前回得られた期待誤り率の平均Ｒｅｖａｌが求められていない場合（ステップＳ３５：Ｎｏ）、音響特徴量変換部３２は、再び、ステップＳ３３からの処理を繰り返す。このときの、特徴量変換写像Ξ−ｎの初期値は、現在求められている特徴量変換写像Ξ−ｎを用いる。
そして、ステップ３５の終了判定処理において、変化が所定以下であると判断した場合（ステップＳ３５：Ｙｅｓ）、音響特徴量変換部３２は、変換写像の学習を終了する。
【００９０】
ステップＳ３６の変換音声処理において、音響特徴量変換部３２は、Ｎ個の変換写像を用いて、学習データの音響特徴量を変換する。つまり、音響特徴量変換部３２は、データ集合Ｄｎ（ｎは１以上の整数）に含まれる全ての非目的話者の音響特徴量である音響特徴ベクトルｘｍに、学習終了時に得られている特徴量変換写像Ξ−ｎを用いて、式（７）の線形変換を行う。
【００９１】
ステップＳ３７の認識結果生成処理において、音響特徴量変換部３２は、ステップＳ３６において得られた変換音声を音声認識し、音声認識結果を得る。音声認識結果として、正解文候補と、式（２）により算出された正解文候補の尤もらしさのスコアが得られる。
最後に、ステップＳ３８の正解文再整列処理において、音響特徴量変換部３２は、変換音声の正解文候補を用いて正解文再整列を行う。つまり、音響特徴量変換部３２は、非目的話者の音声データと、その音声データの変換音声から得られた正解文候補及び尤もらしさのスコアとを対応づけて誤り傾向学習部５に出力する。
【００９２】
［４．３  ステップＳ３］
次に、ステップＳ３において、音声認識装置１の話題分割部４１は、音声言語資源データに含まれる文書データを、話題に従って分割する。話題分割部４１は、文書データに対応したラベルデータに記述されている話題が、ステップＳ１において入力された着目話題データが示す着目話題と同じまたは類似していれば、話題依存データＤ５として分類し、着目話題と同じでも類似してもいない場合は、話題非依存データＤ６として分類する。例えば、単語の類似関係を示すシソーラスデータを音声言語資源記憶部２に記憶しておく。そして、着目話題が「旅行」であれば、話題分割部４１は、シソーラスデータから「旅行」に類似する単語を読み出す。話題分割部４１は、ラベルデータに「旅行」またはシソーラスデータから読み出した「旅行」と類似の単語が話題として設定されているタグの文書データと、それ以外の文書データとに２分割する。
【００９３】
図７は、ラベルデータに話題が記述されていない場合に実施される話題分割処理の処理フローを示す図である。この場合、着目話題に近い話題のテキストを、数文〜数十文程度含む文書データが放送音声字幕データＤ１に含まれている必要がある。例えば、料理の話題を音声認識させたい場合、料理に関する文書データを用意し、音声言語資源記憶部２に蓄積しておく。また、この場合、ステップＳ１において、着目話題として、着目話題を含む文書データの指定を入力する。
【００９４】
ステップＳ４０のテキストデータ読み込み処理において、話題分割部４１は、音声言語資源記憶部２に含まれる文書データに記述されている正解文の全てを入力データとして読み込む。本実施形態では、文書データに、話者が特定の話題について発声した複数の発話が含まれる。
【００９５】
ステップＳ４１の索引語抽出処理において、話題分割部４１は、ステップＳ４０において読み込んだ文書データから、文書を話題毎にクラスタリングする際に重要となる単語を抽出する。話題分割部４１は、形態素解析を行うなどして、文書データが示す正解文を単語に分割するとともに、その単語の品詞を得る。話題分割部４１は、助詞、助動詞などのいわゆる機能語を除去し、人名や地名を表す固有名詞などの内容語を抽出する。話題分割部４１は、抽出した内容語を索引語としてリストアップする。
【００９６】
ステップＳ４２の索引語×文書行列生成処理において、話題分割部４１は、文書データ中の各索引語の相対頻度を求めると、行が文書データ、列が索引語に対応し、文書データについて求めた索引語の相対頻度を要素として持つｍ×ｎの文書行列Ｅを生成する。ｍは、索引語の個数、ｎは文書数である。
【００９７】
ステップ４３の非負行列因子分解（Non-negative Matrix Factorization, NMF）処理では、文書行列Ｅを、以下の式（１４）のように分解する。この分解については、文献「W.Xu et al. Document clustering based on non-negative matrix factorization. In SIGIR'03, pp.264-273, 2003」に記載されている。
【００９８】
【数１４】
2013117683.tif 000016
【００９９】
Ｗは、ｍ×ｋ行列、Ｈは、ｎ×ｋ行列であり、ＨＴは、行列Ｈの転置を示す。また、ｋは潜在的な話題（クラスタ）の数である。Ｗは、索引語が行に、潜在的な話題が列に対応しており、Ｈは、文書データが行に、潜在的な話題が列に対応している。
ＮＭＦによれば、文書行列を分解して得られた行列Ｈの行ベクトルｈｉ（１≦ｉ≦ｋ）は、文書データがｋ個の潜在的な話題のいずれに所属しているのかを示している。従って、着目話題を含む文書データに対応した行列Ｈの行ベクトルｈ０と、他の文書データに対応した行列Ｈの行ベクトルとのコサイン距離が近ければ、他の文書データは、着目話題と類似した話題であるとして選択することができる。
【０１００】
そこで、ステップＳ４４のコサイン類似度計算処理において、話題分割部４１は、ステップＳ１においてユーザにより着目話題の文書データとして指定された文書データに対応した行列Ｈの行ベクトルｈ０と、他の文書データに対応した行列Ｈの行ベクトルそれぞれとのコサイン距離を算出する。
ステップＳ４５のテキスト集合分割処理において、話題分割部４１は、コサイン距離が所定の閾値よりも大きな行ベクトルに対応した文書データを話題依存データＤ５に分類し、コサイン距離が所定の閾値以下の行ベクトルに対応した文書データを話題非依存データＤ６に分類する。
【０１０１】
［４．４  ステップＳ４］
［４．４．１  言語特徴抽出処理］
続いて、言語特徴抽出部４２は、話題分割部４１により得られた話題依存データＤ５及び話題非依存データＤ６の２つの文書データ集合から、言語特徴を抽出する。
【０１０２】
図８は、言語特徴抽出部４２における処理フローを示す。
ステップＳ５０のテキスト集合読み込み処理において、言語特徴抽出部４２は、話題分割部４１で得られた話題依存データＤ５及び話題非依存データＤ６を読み込む。
【０１０３】
ステップＳ５１の素性関数抽出処理において、言語特徴抽出部４２は、読み込んだ話題依存データＤ５及び話題非依存データＤ６のそれぞれから、単語や品詞などの情報に基づいた素性関数ｆ１、ｆ２、…の値を得る。第ｉ番目（ｉは、１以上の整数）の素性関数をｆｉとすると、ｆｉは、単語列ｗで言語的ルールが成立すれば１、しなければ０となるような関数として定められる。本実施形態では、素性関数ｆｉに対応したルールとして、例えば、以下を用いる。
【０１０４】
（１）単語列ｗに連続する単語２項組（ｕ，ｖ）が含まれる。
（２）単語列ｗに連続しない単語２項組（ｕ，ｖ）が含まれる。
（３）単語列ｗに単語ｕ→単語ｖとなる係り受け関係が含まれる（構文的なルール）。
（４）単語列ｗに所定の音素が含まれる。
（５）単語列ｗに所定の複数の音素が共起する。
（６）単語列ｗに所定の意味的な単語が含まれる。例えば、単語列ｗに「野球」あるいは「サッカー」が含まれている場合、「スポーツ」という意味的な単語が含まれていると判断する。
【０１０５】
言語的特徴は、話題に対する依存性が顕著である。例えば、料理に関する文書であれば、料理の名前や調理方法に関する素性関数が、当該文書を特徴付けることになる。言語特徴抽出部４２は、全ての素性関数ｆｉについて、以下のステップＳ５２及びステップＳ５３の処理を行う。
【０１０６】
ステップＳ５２の相互情報量計算処理において、言語特徴抽出部４２は、相互情報量に基づいて、文書集合中における素性関数の重要度を計算する。
文書と素性関数の共起関係を相互情報量に基づいて定めると、以下の式（１５）のようになる。
【０１０７】
【数１５】
2013117683.tif 000017
【０１０８】
Ｄは、文書データの集合であり、文書ｄは、文書集合Ｄを構成する文書データ内に含まれる文書（発話の正解文）である（文書ｄ∈Ｄ）。なお、１つの文書データ内に複数の文書ｄが含まれうる。ｐ（ｄ）は、文書集合Ｄの中で文書ｄが出現する確率であり、定数である。例えば、文書ｄがＭ個であり、文書集合Ｄに同一の文書ｄが出現しない場合、ｐ（ｄ）は、１／Ｍとなる。ｐ（ｄ｜ｆｉ）＝ｐ（ｄ，ｆｉ）／ｐ（ｆｉ）であり、ｐ（ｄ，ｆｉ）は、文書ｄと素性関数ｆｉが共起する確率、ｐ（ｆｉ）は、ｆｉの出現確率である。
【０１０９】
ｐ（ｄ｜ｆｉ）は、以下のように求められる。Ｃ（ｄ，ｆｉ）を文書ｄにおける素性関数ｆｉの頻度、Ｃ（ｆｉ）を文書集合Ｄ全体での素性関数ｆｉの頻度、Ｎを文書集合Ｄで生起したすべての素性関数ｆ１、ｆ２、…の頻度の和とすると、式（１６）、式（１７）のようになる。なお、文書ｄにおける素性関数ｆｉの頻度とは、全ての文書ｄのうち、０以外の値である素性関数が得られた文書ｄの割合を示す。同様に、文書集合Ｄ全体でのｆｉの頻度とは、文書集合を構成する文書データのうち、０以外の値である素性関数が得られた文書データの割合を示す。
【０１１０】
【数１６】
2013117683.tif 000018
【０１１１】
【数１７】
2013117683.tif 000019
【０１１２】
従って、式（１８）により、ｐ（ｄ｜ｆｉ）が算出される。
【０１１３】
【数１８】
2013117683.tif 000020
【０１１４】
素性関数ｆｉについての相互情報量Ｉ（Ｄ，ｆｉ）が小さいほど、文書によらない素性であることを示す。つまり、以下のことがいえる。
（１）文書集合Ｄが話題依存文書集合であれば、これらの文書に共通の素性が抽出される。抽出された素性は、話題に依存した素性と話題に依存しない素性の両者が得られる。
（２）文書集合Ｄが話題非依存文書集合であれば、特定の話題に依存しない素性の集合が得られるが、これらは大局的な特徴である。
【０１１５】
そこで、ステップＳ５３の素性関数抽出処理において、言語特徴抽出部４２は、相互情報量の値及び、文書集合中の素性関数の頻度に基づいて誤り傾向学習部５で用いる素性を選択する。
まず、言語特徴抽出部４２は、話題依存データＤ５を文書データＤとし、全ての素性関数のうち、文書データＤでの頻度が所定の閾値以上である素性関数ｆｉを選択する。さらに、言語特徴抽出部４２は、この選択した素性関数ｆｉの相互情報量を式（１５）により算出し、算出された相互情報量が所定の閾値以上である素性関数ｆｉを、誤り傾向学習部５で用いる素性関数として決定する。
さらに、言語特徴抽出部４２は、話題非依存データＤ６を文書データＤとし、全ての素性関数のうち、文書データＤでの頻度が所定の閾値以上である素性関数ｆｉを選択する。さらに、言語特徴抽出部４２は、この選択した素性関数ｆｉの相互情報量を式（１５）により算出し、算出された相互情報量が所定の閾値以上である素性関数ｆｉを、誤り傾向学習部５で用いる素性関数として決定する。
言語特徴抽出部４２は、話題依存データＤ５、話題非依存データＤ６のそれぞれから得られた素性関数を誤り傾向学習部５に出力する。
【０１１６】
［４．４．２  誤り傾向学習処理］
本実施形態では、誤り傾向学習部５は、誤り傾向を反映した誤り修正モデルを得るために、以下で述べるリスク最小化法を用いる。
リスク最小化手法に基づく、統計的な誤り修正モデルでは、発話ｘｍ（ｍは１以上Ｍ以下の整数）と、この発話ｘｍに対応した正解単語列ｗｍ，０が与えられたとき、目的関数Ｌ（Λ）を以下の式（１９）のように定める。
【０１１７】
【数１９】
2013117683.tif 000021
【０１１８】
Ｌｍは、発話ｘｍから音声認識により生成された文仮説（正解文候補）ｗｍ，０、ｗｍ，1、…の集合であり、ｗｍ，ｋ（ｋは１以上の整数）は発話ｘｍの第ｋ番目の文仮説である。また、ｘｍ，０は発話ｘｍの正解文であり、Ｒ（ｗｍ，ｏ，ｗｍ，ｋ）は、正解文ｘｍ，０と文仮説ｗｍ，ｋとのLevenshtein編集距離である。事後確率（ｗｍ，ｋ｜ｘｍ；Λ）は、発話ｘｍが発生したときに単語列ｗｍ，ｏが得られる事後確率である。Λは、素性関数に対する重みλ１、λ２、…の集合であり、式（１９）の目的関数を最小化するΛが求める誤り修正モデルＳ（ｗ）のパラメータとなる。ただし、非目的話者の発話ｘｍは前段の音響特徴量変換写像が適用されているものとする。
【０１１９】
誤り修正モデルは、音声入力ｘに対して得られた文仮説ｗに対して、式（６）に従う誤りスコアを出力する。
従って、誤り修正モデルＳ（ｗ）によるスコアを考慮した音声認識のスコアは、以下の式（２０）のように算出される。
【０１２０】
【数２０】
2013117683.tif 000022
【０１２１】
よって、式（１９）の事後確率Ｐ（ｗｍ，ｋ｜ｘｍ；Λ）は、以下の式（２１）のように算出される。
【０１２２】
【数２１】
2013117683.tif 000023
【０１２３】
だだし、ｇ（ｗｋ，０｜ｘｋ；Λ）は、以下の式（２２）のように算出される。
【０１２４】
【数２２】
2013117683.tif 000024
【０１２５】
図９は、誤り傾向学習部５の処理フローを示す図である。
ステップＳ６０の認識結果／言語特徴読み込み処理において、誤り傾向学習部５は、話題分割部４１で生成された変換音声から得た変換音声認識結果データＤ４と、文書データより得られる変換音声の正解文、及び、言語特徴抽出部４２により得られた言語特徴である素性関数を読み込む。誤り傾向学習部５は、読み込んだこれらのデータを用いて、以下のように目的話者が着目話題についての発話を行ったときの音声認識の誤り傾向を学習する。
【０１２６】
ステップＳ６１の学習データ分割処理において、誤り傾向学習部５は、ステップＳ６０において得られた学習データを、着目話題にマッチする認識結果Ｄ０と、着目話題にマッチしない認識結果Ｄ１に分割する。つまり、誤り傾向学習部５は、話題依存データＤ５に含まれる文書データに対応した音声データの変換音声から得た変換音声認識結果データＤ４を認識結果Ｄ０とし、話題非依存データＤ６に含まれる文書データに対応した音声データの変換音声から得た変換音声認識結果データＤ４を認識結果Ｄ１とする。これは、着目話題にマッチする認識結果の誤り傾向と、マッチしない誤り傾向が異なるためである。
【０１２７】
分割した学習データに基づいて、誤り修正モデルを学習するための目的関数を、式（２３）に示す。η０及びη１は、それぞれの目的関数に対するものであり、予めユーザにより決められた値である。
【０１２８】
【数２３】
2013117683.tif 000025
【０１２９】
｜Ｄ０｜は、認識結果Ｄ０の数（発話数）である。Ｌｍは、話題依存データＤ５に含まれる発話ｘｍに対応した音声データから音声認識により生成された正解文候補ｗｍ，ｋの集合であり、ｗｍ，ｋ（ｋ＝１，．．．）は話題依存データＤ５の発話ｘｍの第ｋ番目の正解文候補である。ｗｍ，０は発話ｘｍの正解文であり、話題依存データＤ５の文書データから得られる。Ｒ（ｗｍ，ｏ，ｗｍ，ｋ）は、正解文ｗｍ，０と正解文候補ｗｍ，ｋとのLevenshtein編集距離である。事後確率Ｐ（ｗｍ，ｋ｜ｘｍ；Λ）は、音声入力（発話）ｘｍが発生したときに単語列ｗｍ，ｋが得られる事後確率であり、式（２１）、（２２）のように算出される。式（２２）のＳ（ｗｍ，ｋ）は、式（６）により算出されるが、ここでは、話題依存データＤ５から得られた素性関数のみが用いられる。
【０１３０】
また、｜Ｄ１｜は、認識結果Ｄ１の数（発話数）である。Ｌｎは、話題非依存データＤ６に含まれる発話ｘｎに対応した音声データから音声認識により生成された正解文候補ｗｎ，ｌの集合であり、ｗｎ，ｌ（ｌ＝１，．．．）は話題非依存データＤ６の発話ｘｎの第ｌ番目の正解文候補である。ｗｎ，０は発話ｘｎの正解文であり、話題非依存データＤ６の文書データから得られる。Ｒ（ｗｎ，ｌ，ｗｎ，ｌ）は、正解文ｗｎ，０と正解文候補ｗｎ，ｌとのLevenshtein編集距離である。事後確率Ｐ（ｗｎ，０｜ｘｎ；Λ）は、音声入力ｘｎが発生したときに単語列ｗｎ，ｌが得られる事後確率であり、式（２１）、（２２）のように算出される。式（２２）のＳ（ｗｎ，ｌ）は、式（６）により算出されるが、ここでは、話題非依存データＤ６から得られた素性関数のみが用いられる。
【０１３１】
ステップＳ６２のモデルパラメータ初期化処理において、誤り傾向学習部５は、入力として与えられた言語特徴に基づいて定められた全ての素性関数ｆｉの重みλｉをゼロに初期化する。
【０１３２】
ステップＳ６３の目的関数計算処理において、誤り傾向学習部５は、式（２３）に基づいて、目的関数の値を計算する。
ステップＳ６４のパラメータ更新処理において、誤り傾向学習部５は、準ニュートン法に基づいて、誤り修正モデルのパラメータΛを更新する。準ニュートン法は、適当な初期値を与えて解に近い次の値を生成し、その値からまた次の解に近い値を生成することを繰り返し、最終的に最適解に収束させるものである。準ニュートン法の詳細については、非特許文献１を参照のこと。
【０１３３】
ステップＳ６５の終了判定処理において、誤り傾向学習部５は、パラメータの更新により変更された目的関数値と、変更前の目的関数値を比較して、値の変化が所定よりも小さければ更新が収束したとみなす。誤り傾向学習部５は、誤り修正モデルΛ＝（λ０，λ１，…）を出力し、誤り修正モデル記憶部６に書き込む。なお、言語特徴抽出部４２において選択されなかった素性関数ｆｉの重みλｉは、０とする。
【０１３４】
［４．５  ステップＳ５］
ステップＳ５において、音声認識部９は、目的話者による着目話題についての音声データが入力されると、誤り修正モデル記憶部６に記憶されている誤り修正モデルΛと、音響モデル記憶部８に記憶されている音響モデル、及び、言語モデル記憶部７に記憶されている言語モデルを用い、式（５）及び式（６）により、入力された音声データの正解文候補とスコアを得る。音声認識部９は、スコアの最も良い正解文候補を音声認識結果データＤ７として出力する。
【０１３５】
上述したように、本実施形態の音声認識装置１は、複数の話者の発話の音声データと、音声データの正解文である文書データとを対応づけて記憶する音声言語資源記憶部２を有している。音響特徴量変換部３２は、音声言語資源記憶部２に記憶されている非目的話者の音声データから得られる音響特徴量を、目的話者の音響特徴量に近づける変換を行う。また、言語特徴抽出部４２は、音声言語資源記憶部２に記憶されている特定の話題の文書データから言語的特徴を抽出する。誤り傾向学習部５は、音響特徴量変換部３２により変換された音響特徴量を音声認識した結果生成された正解文候補と、変換された音響特徴量が得られた音声データに対応する文書データにより示される正解文とから、言語特徴抽出部４２により抽出された言語的特徴を用いて認識誤りを評価する評価関数により算出された正解文候補の評価値が、最も認識誤りが少ないことを示す評価値となるよう、誤り傾向を統計的に学習する。音声認識部９は、誤り傾向学習部５によって学習された音声認識の誤り傾向を用いて、目的話者の特定の話題についての発話の音声認識を行う。
【０１３６】
［５．効果］
本実施形態によれば、認識率を向上させたい話者の情報のみならず、話題などの情報が音声認識の誤り傾向に反映されるため、従来の音声認識よりも認識誤りが削減される。
例えば、番組音声を聞きながら言い直した音声の音声認識結果を利用して字幕を作成するリスピーク方式などにおいては、字幕として出力する前に音声認識結果に含まれる誤りを人手で修正しなければならない。このようなリスピーク方式では事前に発話をする人物や話題が決まっているため、本実施形態の音声認識装置１を用いることにより、音声認識結果の修正にかかる作業を軽減することが可能となる。
また、例えば、音声言語資源記憶部２にスポーツに関する話題の音声言語資源データを記憶させておき、野球などの特定のスポーツを着目話題とすることにより、音声認識装置１は、特定のスポーツについての誤り傾向を修正するのみならず、スポーツ全体の誤り傾向を修正するような修正モデルを得ることができる。
【０１３７】
［６．その他］
なお、上述の音声認識装置１は、内部にコンピュータシステムを有している。そして、音声認識装置１の動作の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータシステムが読み出して実行することによって、上記処理が行われる。ここでいうコンピュータシステムとは、ＣＰＵ及び各種メモリやＯＳ、周辺機器等のハードウェアを含むものである。
【０１３８】
また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【符号の説明】
【０１３９】
１  音声認識装置
２  音声言語資源記憶部
３  音響特徴抽出処理部
３１  話者分割部
３２  音響特徴量変換部
４  言語特徴抽出処理部
４１  話題分割部
４２  言語特徴抽出部
５  誤り傾向学習部
６  誤り修正モデル記憶部
７  言語モデル記憶部
８  音響モデル記憶部
９  音声認識部
【図１】
2013117683.tif 000026
【図２】
2013117683.tif 000027
【図３】
2013117683.tif 000028
【図４】
2013117683.tif 000029
【図５】
2013117683.tif 000030
【図６】
2013117683.tif 000031
【図７】
2013117683.tif 000032
【図８】
2013117683.tif 000033
【図９】
2013117683.tif 000034
【図１０】
2013117683.tif 000035