(57)【要約】【課題】言い換え例の登録数を増やすことなく、音声認識装置の音声認識率を高めることができる辞書作成装置を得ることを目的とする。【解決手段】正式名称ｎから言い換え例ｕが生起される生起確率Ｐ（ｕ｜ｎ）を推定する言い換え確率推定部１３を設け、その言い換え例ｕの生起確率Ｐ（ｕ｜ｎ）を正式名称ｎと言い換え例ｕを含む辞書に記録する。これにより、音声認識装置２において、入力音声が必ずしも辞書内の言い換え例と一致しない場合でも、正式名称ｎから生起される確率が高い言い換え例ｕが音声認識結果として出力されるようになる。【選択図】        図１
2005031255.tif 000002
【特許請求の範囲】
【請求項１】
音声認識対象の正式名称を格納する正式名称格納手段と、上記正式名称格納手段に格納されている正式名称の言い換え例を格納する言い換え例格納手段と、上記正式名称格納手段に格納されている正式名称から上記言い換え例格納手段に格納されている言い換え例が生起される生起確率を推定する確率推定手段と、上記正式名称と上記言い換え例を含む辞書を作成し、上記確率推定手段により推定された言い換え例の生起確率を上記辞書に記録する辞書作成手段とを備えた辞書作成装置。
【請求項２】
正式名称の局所的な書き換え規則を参照して、その正式名称から言い換え例を生成する言い換え例生成手段を設けたことを特徴とする請求項１記載の辞書作成装置。
【請求項３】
言い換え例生成手段は、複数の書き換え規則が存在する場合、参照対象の書き換え規則を選択することを特徴とする請求項２記載の辞書作成装置。
【請求項４】
言い換え例生成手段は、正式名称から言い換え例モデルを生成し、その言い換え例モデルを正式名称に適用して言い換え例を生成する場合、複数の言い換えモデルを生成することが可能であれば、複数の言い換えモデルの評価指標を考慮して、最適な言い換えモデルを選択することを特徴とする請求項２記載の辞書作成装置。
【請求項５】
正式名称の局所的な書き換え規則を生成する規則生成手段を設けたことを特徴とする請求項２記載の辞書作成装置。
【請求項６】
言い換え例生成手段は、規則生成手段により生成された書き換え規則と予め用意されている書き換え規則の中から、参照対象の書き換え規則を選択することを特徴とする請求項５記載の辞書作成装置。
【請求項７】
言い換え例生成手段は、正式名称から生成した言い換えモデルの評価指標を提示することを特徴とする請求項４記載の辞書作成装置。
【請求項８】
言い換え例生成手段は、正式名称から生成した言い換えモデルの評価指標として、その言い換えモデルから生成される言い換え例が予め用意されている言い換え例の表現を含んでいる割合を示すカバー率を用いることを特徴とする請求項４記載の辞書作成装置。
【請求項９】
言い換え例生成手段は、正式名称から生成した言い換えモデルの評価指標として、その言い換えモデルから生成される言い換え例が予め用意されている言い換え例の表現を含んでいる割合を示す尤度を用いることを特徴とする請求項４記載の辞書作成装置。
【請求項１０】
言い換え例生成手段は、削除推定法を用いて、言い換えモデルの評価指標を算出することを特徴とする請求項４記載の辞書作成装置。
【請求項１１】
言い換え例生成手段は、貧欲法を用いて、参照対象の書き換え規則を選択することを特徴とする請求項３記載の辞書作成装置。
【請求項１２】
入力音声を音響分析する音響分析手段と、正式名称と言い換え例を含む辞書を記憶する辞書記憶手段と、上記音響分析手段による音響分析結果と上記辞書記憶手段に記憶されている辞書内の正式名称及び言い換え例を照合して、その音響分析結果と最も一致度が高い正式名称又は言い換え例を特定する照合手段とを備えた音声認識装置において、上記照合手段は言い換え例の生起確率が上記辞書内に記録されている場合、上記音響分析手段による音響分析結果と言い換え例の照合結果に当該生起確率を乗算し、乗算後の照合結果を比較対象にして最も一致度が高い正式名称又は言い換え例を特定することを特徴とする音声認識装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、正式名称と言い換え例を含む辞書を作成する辞書作成装置と、入力音声を認識する音声認識装置とに関するものである。
【０００２】
【従来の技術】
音声認識装置の入力音声は、必ずしも正式名称であるとは限らず、その正式名称の言い換え例である場合がある。例えば、正式名称が「○△大学」であるとき、その言い換え例として「○△」や「○大」が入力される場合がある。
従来の音声認識装置は、入力音声が正式名称の言い換え例である場合でも、音声認識率の低下を防止するため、辞書の中に正式名称と言い換え例を記録するようにしている。
なお、音声認識の典型的な手法は、以下の非特許文献１に開示されている。
【０００３】
【非特許文献１】
「音声認識の基礎（上，下）」Ｌ．Ｒ．ＲＡＢＩＮＥＲ，Ｂ．Ｈ．ＪＵＡＮＧ（古井監訳），１９９５年１１月，ＮＴＴアドバンステクノロジ
【０００４】
【発明が解決しようとする課題】
従来の音声認識装置は以上のように構成されているので、入力音声と一致する言い換え例が予め辞書に格納されていない場合、予め辞書に格納されている言い換え例の中で、その入力音声と最も一致度が高い言い換え例が出力される。しかし、入力音声と最も一致度が高い言い換え例を特定する際、正式名称から言い換え例が生起される確率を特に問わず、単に字面上の一致度のみを考慮するため、音声認識率が低下することがある課題があった。
【０００５】
この発明は上記のような課題を解決するためになされたもので、入力音声と一致する言い換え例が予め辞書に格納されていない場合でも、音声認識率の低下を防止することができる音声認識装置を得ることを目的とする。
また、この発明は、言い換え例の登録数を増やすことなく、音声認識装置の音声認識率を高めることができる辞書作成装置を得ることを目的とする。
【０００６】
【課題を解決するための手段】
この発明に係る辞書作成装置は、正式名称から言い換え例が生起される生起確率を推定する確率推定手段を設け、その言い換え例の生起確率を正式名称と言い換え例を含む辞書に記録するようにしたものである。
【０００７】
【発明の実施の形態】
以下、この発明の実施の一形態を説明する。
実施の形態１．
図１はこの発明の実施の形態１による音声認識システムを示す構成図であり、図において、辞書作成装置１の正式名称格納部１１は音声認識対象の正式名称を格納する正式名称格納手段を構成している。言い換え例格納部１２は正式名称格納部１１に格納されている正式名称の言い換え例を格納する言い換え例格納手段を構成している。
言い換え確率推定部１３は正式名称格納部１１に格納されている正式名称から言い換え例格納部１２に格納されている言い換え例が生起される生起確率を推定する確率推定手段を構成している。辞書作成部１４は正式名称と言い換え例を含む辞書を作成し、言い換え確率推定部１３により推定された言い換え例の生起確率を辞書に記録する辞書作成手段を構成している。
【０００８】
音声認識装置２の辞書記憶部２１は辞書作成装置１の辞書作成部１４により作成された辞書を記憶する辞書記憶手段を構成している。音響分析部２２は入力音声を１フレーム分読み込んで音響分析し、１フレーム分の音響特徴量を算出する音響分析手段を構成している。
フレーム尤度計算部２４は音響標準パタン格納部２３に格納されている各音響標準パタンと音響分析部２２により算出された音響特徴量を照合し、その照合の度合を示すフレーム尤度を計算する。照合部２５は辞書記憶部２１に記憶されている辞書内の正式名称や言い換え例毎に、その正式名称や言い換え例の読み方にしたがってフレーム尤度計算部２４により計算されたフレーム尤度を累積加算し、最も累積尤度が高い正式名称又は言い換え例を音声認識結果として出力する。ただし、言い換え例の累積尤度には、当該言い換え例の生起確率を乗算し、乗算後の累積尤度を比較対象とする。
なお、音響標準パタン格納部２３、フレーム尤度計算部２４及び照合部２５から照合手段が構成されている。
【０００９】
図２はこの発明の実施の形態１による辞書作成装置の処理内容を示すフローチャートであり、図３はこの発明の実施の形態１による音声認識装置の処理内容を示すフローチャートである。
【００１０】
次に動作について説明する。
辞書作成装置１の正式名称格納部１１には、予め音声認識対象の正式名称が格納され、辞書作成装置１の言い換え例格納部１２には、予め正式名称の言い換え例が格納されているものとする。
ここで、言い換え例とは、実際にユーザが発声した内容を文字化したものである。ただし、あり得る言い換え例を人手で書き出したものであってもよい。言い換え例格納部１２に格納される言い換え例は、音声認識辞書を構成する読み方などを表す情報と、対応する正式名称を示す情報とを保持する。言い換え例は、全ての正式名称について準備されていなくてもよい。
【００１１】
まず、辞書作成装置１の言い換え確率推定部１３は、正式名称格納部１１から正式名称を読み込み（ステップＳＴ１）、言い換え例格納部１２から言い換え例を読み込む（ステップＳＴ２）。
そして、言い換え確率推定部１３は、その正式名称から言い換え例が生起される生起確率を推定する（ステップＳＴ３）。
【００１２】
以下、生起確率の推定方法を具体的に説明する。
最初に、言い換え例を考慮した音声認識の定式化について説明する。
今、正式名称ｎを意図する入力音声をｘとする。このとき、音声認識の問題は、適当なモデルに基づいて音声認識候補の中から確率Ｐ（ｎ｜ｘ）が最大となる正式名称ｎ＊を決定することである。これはベイズの定理により以下の式（１）のように表すことができる。
さらに、正式名称ｎの通りでなく、言い換え例ｕのように発声されることを考慮すれば、以下の式（２）のように変形することができる。比較の際に分母Ｐ（ｘ）は、無視できるため、分母を省略すると以下の式（３）のように表すことができる。
式（３）において、Ｐ（ｘ｜ｕ）は、発声した音声と言い換えた字面の対応の程度を表し、音響モデルにより与えられる。Ｐ（ｎ）は正式名称の事前確率分布である。
【００１３】
【数１】
2005031255.tif 000003
【００１４】
Ｐ（ｕ｜ｎ）は、正式名称ｎから言い換え例ｕが生成される確率であり、言い換え生成モデルが与えるものである。Ｐ（ｕ｜ｎ）は、大量の言い換え例ｕとその正式名称ｎの組み合わせから統計的に推定可能である。
例えば、正式名称ｎの言い換え例ｕ１とｕ２がそれぞれＣ（ｕ１），Ｃ（ｕ２）回出現したとすると、正式名称ｎから言い換え例ｕ１が生成される確率を以下の式（４）により推定することができる。また、想定される言い換え例であるが、言い換え例に出現しないものがある場合、これらに小さな確率を分配するようにしてもよい。例えば、出現しうるＮ個の言い換え例を考慮して、以下の式（５）により推定することができる。
【数２】
2005031255.tif 000004
【００１５】
辞書作成部１４は、上記のようにして言い換え確率推定部１３が言い換え例の生起確率を推定すると、正式名称格納部１１に格納されている正式名称ｎと、言い換え例格納部１２に格納されている言い換え例ｕとを含む辞書を作成し、その言い換え例ｕの生起確率Ｐ（ｕ｜ｎ）を辞書に記録する（ステップＳＴ４）。ただし、この場合、正式名称の生起確率を“１”とする。
ここでは、言い換え例の生起確率を辞書に記録するものについて示しているが、正式名称ｎの出現確率をＰ（ｎ）として、言い換え例ｕの出現確率Ｐ（ｕ）＝正式名称ｎの出現確率Ｐ（ｎ）×言い換え例ｕの生起確率Ｐ（ｕ｜ｎ）を求め、正式名称ｎの出現確率Ｐ（ｎ）と言い換え例ｕの出現確率Ｐ（ｕ）を辞書に記録するようにしてもよい。
なお、辞書作成部１４は、作成した辞書を音声認識装置２の辞書記憶部２１に格納する。
【００１６】
音声認識装置２の音響分析部２２は、入力音声を１フレーム分読み込むと、その１フレーム分の入力音声を音響分析し、音声の特徴をよく表す音響特徴量を算出する（ステップＳＴ１１）。
例えば、１６ＫＨｚで標本化された音声信号を１０ｍｓ間隔で窓長２５ｍｓのＨａｍｍｉｎｇ窓で切り出して、１４次のＬＰＣ分析を行う。ＬＰＣ分析結果から１０次のメルケプストラムや１０次のデルタメルケプストラムを求め、１次のデルタパワーと合わせた合計２１次元の音響特徴量ベクトルを計算する。
【００１７】
フレーム尤度計算部２４は、音響分析部２２が１フレーム分の入力音声の音響特徴量を算出すると、音響標準パタン格納部２３に格納されている各音響標準パタンと当該音響特徴量を照合し、その照合の度合を示すフレーム尤度を計算する（ステップＳＴ１２）。
ここで、音響標準パタンは、音声の断片について音響特徴量の性質を表す標準モデルであり、例えば、音素を単位として、ＨＭＭ（隠れマルコフモデル）によりモデル化されている。また、標準モデルの構造は、Ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型３状態、出力確率密度関数が１６混合の対角共分散行列からなるガウス分布となっている。
【００１８】
照合部２５は、入力音声が終端に到達するまで、辞書記憶部２１に記憶されている辞書内の正式名称ｎ毎に、その正式名称ｎの読み方にしたがってフレーム尤度計算部２４により計算されたフレーム尤度を累積加算する（ステップＳＴ１３，ＳＴ１４）。
また、照合部２５は、入力音声が終端に到達するまで、辞書記憶部２１に記憶されている辞書内の言い換え例ｕ毎に、その言い換え例ｕの読み方にしたがってフレーム尤度計算部２４により計算されたフレーム尤度を累積加算し、その累積尤度に言い換え例ｕの生起確率Ｐ（ｕ｜ｎ）を乗算する（ステップＳＴ１３，ＳＴ１４）。
なお、累積尤度の計算には、例えば、ビタビアルゴリズムを用いる。
【００１９】
照合部２５は、入力音声が終端に到達すると、各正式名称ｎの累積尤度と、各言い換え例ｕの累積尤度（生起確率が乗算された累積尤度）とを相互に比較し、最も累積尤度が大きい正式名称又は言い換え例を音声認識結果として出力する（ステップＳＴ１５）。
【００２０】
以上で明らかなように、この実施の形態１によれば、正式名称ｎから言い換え例ｕが生起される生起確率Ｐ（ｕ｜ｎ）を推定する言い換え確率推定部１３を設け、その言い換え例ｕの生起確率Ｐ（ｕ｜ｎ）を正式名称ｎと言い換え例ｕを含む辞書に記録するように構成したので、音声認識装置２において、入力音声が必ずしも辞書内の言い換え例と一致しない場合でも、正式名称ｎから生起される確率が高い言い換え例ｕが音声認識結果として出力されるようになる。そのため、辞書内の言い換え例の登録数を増やすことなく、音声認識装置２の音声認識率を高めることができる効果を奏する。
【００２１】
また、この実施の形態１によれば、言い換え例ｕの生起確率Ｐ（ｕ｜ｎ）が辞書内に記録されている場合、音響分析部２２による音響分析結果と言い換え例ｕの照合結果に生起確率Ｐ（ｕ｜ｎ）を乗算して、乗算後の照合結果を比較対象にして最も一致度が高い正式名称又は言い換え例を特定するように構成したので、入力音声と一致する言い換え例ｕが予め辞書に格納されていない場合でも、正式名称ｎから生起される確率が高い言い換え例ｕが音声認識結果として出力されるようになる。そのため、辞書内の言い換え例の登録数を増やすことなく、音声認識率を高めることができる効果を奏する。
【００２２】
この実施の形態１では、辞書作成装置１及び音声認識装置２の各構成要素が専用のハードウエア（例えば、集積回路）から構成されているものについて示したが、各構成要素の処理内容が記述されたソフトウェアを用意し、図示せぬＣＰＵが当該ソフトウェアを実行するようにしてもよい。
【００２３】
実施の形態２．
図４はこの発明の実施の形態２による音声認識システムを示す構成図であり、図において、図１と同一符号は同一または相当部分を示すので説明を省略する。
辞書作成装置１の正式名称格納部３１は言い換えモデル生成部３４が言い換えモデルを生成する際に使用する正式名称を格納し、言い換え例格納部３２は言い換えモデル生成部３４が言い換えモデルを生成する際に使用する言い換え例を格納している。規則格納部３３は正式名称の局所的な書き換え規則を少なくとも１以上格納している。
【００２４】
言い換えモデル生成部３４は正式名称の局所的な書き換え規則を参照して、その正式名称から言い換え例を生成する際に参照する言い換えモデルを生成する。言い換えモデル保存部３５は言い換えモデル生成部３４により生成された言い換えモデルを保存する。言い換え例生成部３６は言い換えモデルを参照して、正式名称格納部１１に格納されている正式名称から言い換え例を生成するとともに、その言い換え例が生起される生起確率を推定する。
なお、言い換えモデル生成部３４及び言い換え例生成部３６は言い換え例生成手段を構成し、言い換え例生成部３６は確率推定手段を構成している。
図９は言い換えモデル生成部３４の処理内容を示すフローチャートであり、図１０は言い換え例生成部３６の処理内容を示すフローチャートである。
【００２５】
次に動作について説明する。
上記実施の形態１では、予め正式名称の言い換え例が言い換え例格納部１２に格納されているものについて示したが、この実施の形態２では、言い換えモデル生成部３４が言い換えモデルを生成する際に使用する若干の言い換え例を言い換え例格納部３２に格納し、言い換え例生成部３６が辞書内に記録する言い換え例を生成するようにしている。
具体的には下記の通りである。
【００２６】
辞書作成装置１の言い換えモデル生成部３４は、正式名称の局所的な書き換え規則を参照して、その正式名称から言い換え例を生成する際に参照する言い換えモデルを生成し、その言い換えモデルを言い換えモデル保存部３５に保存する。
ここで、言い換えモデルとは、正式名称ｎを言い換え例ｕに変換する規則と、その正式名称ｎから言い換え例ｕが生起される生起確率Ｐ（ｕ｜ｎ）から構成されている。
なお、正式名称とその言い換え例が既知であれば、「ｎ→ｕ」という変換規則を与えることができる。下記で説明する言い換えモデルは、名称の一部分に適用することができる。また、意味や係り受けなど、特定の名称にのみ適用されるのではない一般性の高い言語情報と対応付けることができる。このため、言い換え例が存在しないような言い換えを生成することが可能である。この結果、従来法と比べて広い対象の名称の言い換え例を生成することができる。
【００２７】
以下、「○△大学菅平高原林間実験センター」という正式名称が正式名称格納部３１に格納され、「△大菅平実験センター」という言い換え例が言い換えモデル生成部３４に格納されているものを例として、言い換えモデルの具体的な生成方法を説明する。
ただし、正式名称格納部３１には正式名称の読み方の他、言語情報が格納されているものとする。言語情報とは、正式名称を文字や形態素などの言語単位へ分割する位置、言語単位毎の読み，品詞，意味，言語単位間の係り受け関係などを示す情報である。以下の説明では、形態素を言語単位とした例を示している。言語情報は、読み込む際にこれらの情報を付与してもよい。
【００２８】
言い換えモデル生成部３４は、言い換え例格納部３２から言い換え例として、例えば、図６に示すような「△大菅平実験センター」を読み込むと（ステップＳＴ２１）、正式名称格納部３１から当該言い換え例に対応する正式名称として、図５に示すような「○△大学菅平高原林間実験センター」を読み込み（ステップＳＴ２２）、その正式名称を解析する。
言い換えモデル生成部３４は、正式名称を解析すると、規則格納部３３から正式名称の局所的な書き換え規則を読み込む（ステップＳＴ２３）。
図７は「元の表記  →  書き換え後の表記」のように表した書き換え規則の例である。図７の規則（３）における「φ」は、元の表記が言い換えで省略されることを示している。
【００２９】
規則は、正式名称の表記と対応付けられるが、読み・意味・係り受けなどの言語情報や、これらの組み合わせにも対応付けることができる。例えば、規則（４）では、書き換え規則を意味表記と対応付けている（「＜・・・＞」が意味表記を表している）。
規則（４）では、図５における「菅平」の意味が＜地名＞、「高原」の意味が＜地名接尾＞であることから規則（２）と同様の言い換え例を生成することができる。
規則（５）では、「実験センター」から「実験所」という言い換え例を生成することができる。
【００３０】
言い換えモデル生成部３４は、書き換え規則を読み込むと、正式名称と言い換え例の関係をモデル化する（ステップＳＴ２４）。即ち、その書き換え規則にしたがって、任意の正式名称から言い換え例を生成する際に参照する言い換えモデルを生成する。この際、その言い換えモデルを言い換え例生成の確率モデルとすると、書き換え規則の集合Ｒによって正式名称ｎから言い換え例ｕが生成される確率Ｐ（ｕ｜ｎ，Ｒ）を推定することができる。
以下の説明では、Ｒを規則セットと呼ぶものとする。正式名称ｎから生成可能な言い換え例の集合をｕ（ｕ），言い換え例ｕを生成可能な正式名称の集合をｎ（ｕ）と表せば、Ｐ（ｕ｜ｎ，Ｒ）について下記の式（６）と式（７）が成立する。
【数３】
2005031255.tif 000005
【００３１】
規則セットＲに基づく言い換え例の生起確率Ｐ（ｕ｜ｎ，Ｒ）は、言い換え例ｕの言語的性質，正式名称ｎから言い換え例ｕへの変換，同一の言い換え例ｕとなる正式名称ｎ（ｕ）間の関係などに基づきモデル化できる。また、具体的な言い換え確率の推定には、正式名称格納部３１に格納されている正式名称と、言い換え例格納部３２に格納されている言い換え例とを用いることができる。
【００３２】
例えば、正式名称を言い換え例に変換する書き換え規則に確率を付与して、確率モデルを構成することができる。具体的には、ある正式名称ｎについて、規則セットＲ内の規則ｒを適用することにより、新たな言い換え例を生成することが可能であるとする。このとき、規則ｒを適用して言い換え例に変形する確率をＰ（ｒ）、変形しない確率を１−Ｐ（ｒ）とおけば、言い換えモデルＰ（ｕ｜ｎ）は、可能な規則適用確率の積としてモデル化できる。
確率Ｐ（ｒ）は、言い換え例格納部３２に格納されている言い換え例に対応する正式名称に規則ｒが適用可能な回数Ｎ１と、規則ｒが適用された言い換え例の回数Ｎ２の比として、Ｐ（ｒ）＝Ｎ２／Ｎ１と表すことができる。
【００３３】
図８は言い換えモデルによる確率Ｐ（ｕ｜ｎ）の算出例を示している。
ここでは、図７の５つの規則のうち、規則（４）と重複する規則（２）を除いた規則セットに規則の適用確率を付与している。
これを用いて、正式名称「○△大学菅平高原林間実験センター」から「△大菅平実験センター」という言い換え例を生成すると、適用された規則は（１）（３）（４）である。また、適用可能にも拘らず、適用されなかった規則は（５）である。言い換え例の生起確率Ｐ（ｕ｜ｎ）は、上記規則の適用あるいは非適用の確率の積で表すことができ、図８の例では０．００９となる。
【００３４】
また、適用した書き換え規則によらず、正式名称と言い換え例の一方または両方に基づいてモデル化することも可能である。例えば、正式名称から言い換え例に書き換えるコストに基づいてモデルを設定することができる。
このためには、まず、正式名称と言い換え例を言語単位で対応付けし、正式名称から言い換え例を生成した際の言語単位の脱落・挿入・置換を数える。正式名称格納部３１に格納されている正式名称と、言い換え例格納部３２に格納されている言い換え例とを用いて、脱落・挿入・置換の頻度から生起確率を求めることができる。正式名称毎に言い換え例の生起確率を合計して正規化すれば、それぞれの言い換え例の生起確率Ｐ（ｕ｜ｎ）を得ることができる。
【００３５】
さらに、音素や言語単位の接続や長さに基づいて言い換え生起確率をモデル化することもできる。接続の性質の簡単なモデル化としては、Ｎ−ｇｒａｍ言語モデルを用いる方法がある。Ｎ−ｇｒａｍ言語モデルやその派生形については、「北：統計的言語モデル，ｐ．５７」に詳述されている。また、上述した３通りのモデル化方法を組み合わせることも可能である。逆に、生成可能な全ての言い換えを均等確率としてもよい。
【００３６】
言い換え例生成部３６は、上記のようにして、言い換えモデルが言い換えモデル保存部３５に保存されると（ステップＳＴ２５）、その言い換えモデルを参照して、正式名称格納部１１に格納されている正式名称（正式名称格納部１１に格納されている正式名称は、正式名称格納部３１に格納されている正式名称と同一であってもよい）から言い換え例を生成するとともに、その言い換え例が生起される生起確率を推定する。
【００３７】
即ち、言い換え例生成部３６は、言い換えモデル保存部３５に保存されている言い換えモデルを読み込み（ステップＳＴ３１）、正式名称格納部１１から任意の正式名称を読み込む（ステップＳＴ３２）。
そして、言い換え例生成部３６は、その正式名称に言い換えモデルの書き換え規則を適用して言い換え例を生成し（ステップＳＴ３３）、その言い換えモデルの生起確率にしたがって当該言い換え例の生起確率を算出する（ステップＳＴ３４）。なお、言い換え例の生起確率は、言い換えモデル生成部３４と同様にして算出すればよいが、音声認識時の計算量や記憶量を削減するために、低確率のものは削除するなどの後処理を行ってもよい。
言い換え例生成部３６は、全ての正式名称から言い換え例を生成して、その生起確率を算出すると（ステップＳＴ３５）、その言い換え例と生起確率を辞書作成部１４に出力する（ステップＳＴ３６）。
【００３８】
以上で明らかなように、この実施の形態２によれば、正式名称の局所的な書き換え規則を参照して、その正式名称から言い換え例を生成するように構成したので、言い換えモデル生成部３４が言い換えモデルを生成する際に使用する若干の言い換え例を言い換え例格納部３２に格納するだけで、多種多様の言い換え例が得られる効果を奏する。
【００３９】
実施の形態３．
図１１はこの発明の実施の形態３による音声認識システムを示す構成図であり、図において、図４と同一符号は同一又は相当部分を示すので説明を省略する。
規則選択部３７は規則格納部３３に複数の書き換え規則が格納されている場合、言い換えモデル生成部３４が参照する書き換え規則を選択する。言い換えモデル決定部３８は言い換えモデル生成部３４により複数の言い換えモデルが生成された場合、複数の言い換えモデルの評価指標を考慮して、最適な言い換えモデルを選択する。なお、規則選択部３７及び言い換えモデル決定部３８は言い換え例生成手段を構成している。
図１２はこの発明の実施の形態３による辞書作成装置１の処理内容を示すフローチャートである。
【００４０】
次に動作について説明する。
この実施の形態３では、大量の書き換え規則が規則格納部３３に格納されている場合や、規則格納部３３に格納されている規則間に重複がある場合には、適切な書き換え規則を選択して言い換えモデルを生成できるようにしている。
【００４１】
辞書作成装置１の規則選択部３７は、規則格納部３３に複数の書き換え規則が格納されている場合、事前に設定されたアルゴリズムにしたがって言い換えモデル生成部３４が参照する書き換え規則を選択する（ステップＳＴ４１）。
即ち、規則選択部３７は、規則格納部３３から書き換え規則を読み取ると、その書き換え規則の中から、適当に部分集合である規則セットＲを抽出する。
書き換え規則がＫ個の規則から構成されている場合、Ｋ個の規則の組み合わせは全部で２のＫ乗通り存在するので、２のＫ乗通りの規則セットＲを抽出する。ただし、規則間の従属関係や無意味と考える規則セットは抽出しないようにしてもよい。
後述するように反復的な自動処理により規則セットを更新していくことが可能である。また、規則を人手で選択し、規則セットを構成することもできる。これらを組み合わせて、例えば、最初に人手で規則を選択して、残りを反復処理で自動的に取り出すこともできる。
【００４２】
言い換えモデル決定部３８は、上記実施の形態２と同様にして、言い換えモデル生成部３４が言い換えモデルを生成し（ステップＳＴ４２）、言い換えモデル生成部３４により複数の言い換えモデルが生成された場合、複数の言い換えモデルの評価指標を考慮して、最適な言い換えモデルを選択する（ステップＳＴ４３〜ＳＴ４５）。
即ち、言い換えモデル決定部３８は、言い換えモデル生成部３４により生成されたそれぞれの言い換えモデルについて、モデルの良さを表す評価指標を計算し、その評価指標が最大となる言い換えモデルを選択する。
評価指標値を規則セットＲと言い換え例Ｕの関数ｆ（Ｒ，Ｕ）とおくと、出力すべき規則セットＲ＊は以下の式（８）のように表せる。評価指標は、規則に基づいて生成したモデルが効率的かつ高い割合で必要な表現をカバーし、結果として生成した辞書を用いることで音声認識率が改善することを示すものである。
【数４】
2005031255.tif 000006
【００４３】
評価指標の例としては、カバー率と尤度関数が挙げられる。カバー率とは、規則セットＲに基づいて生成された言い換え例が、言い換え例格納部３２に格納されている言い換え例の表現を含んでいる割合である。また、尤度関数は、言い換え例の表現ができるだけ高い確率となっていることも考慮したものである。
ここで、Ｒは規則選択部３７により選択された規則セット、Ｕは言い換え例格納部３２に格納されている言い換え例の全体とし、その総頻度を＃Ｕ、Ｕに含まれる言い換え例をｕと表し、予め付与された対応する正式名称をｎ、その頻度を＃ｕとする。このとき、＃Ｕ＝Σｕ∈Ｕ＃ｕである。
関数ｄ（Ｒ，ｕ）は、規則セットＲに基づいて正式名称ｎから言い換え例ｕが生成できる場合は“１”、言い換え例ｕが生成できない場合は“０”となる。このとき、選択した規則セットＲを用いて生成した言い換え例によるカバー率Ｃｏｖ（Ｒ，Ｕ）は、以下の式（９）のように求められる。
【数５】
2005031255.tif 000007
【００４４】
また、言い換え例に対する尤度関数は、言い換え出現の確率モデルによって与えられるＰ（ｕ）の対数を頻度で重み付けたものである。ここでは、以下の式（１０）に示すように、総数＃Ｕで正規化した対数尤度Ｌ（Ｒ，Ｕ）を用いる。
式（１０）中のＰ（ｕ）は、言い換え例格納部３２に格納されている言い換え例の頻度分布＃ｕ／＃Ｕを用いることができる。しかし、言い換え例が少ない場合、多様な言い換え例を十分にカバーすることが困難である。
そこで、言い換え例と書き換え規則に基づいて算出される言い換えモデルＰ（ｕ｜ｎ，Ｒ）を用いる。以下の式（１１）を参照。求める規則セットは、以下の式（１２）によって求められる。ここで、Ｐ（Ｒ）は一定と考えて無視する。このとき、言い換え例ｕに対する正式名称ｎが既知である場合、式（１２）は式（１３）のように変形することができる。
また、Ｐ（ｕ）は辞書にない言い換え例では０となる問題がある。そこで、式（１０）と組み合わせた評価指標を設定し、尤度はカバーしている単語のみについて計算する。あるいは、カバーしていない単語は、Ｐ（ｕ）に小さい値εを割り当てる。
【００４５】
【数６】
2005031255.tif 000008
【００４６】
ただし、評価指標ｆ（Ｒ，Ｕ）において、言い換えモデルの推定と、集計対象が同一であると、学習データに閉じた指標値の算出となり、未出現の言い換え例への頑健性が考慮されない問題がある。例えば、カバー率を評価尺度とする場合、常にカバー率が１００％となる。これに対処する方法として、削除補間法や最大エントロピー法が知られている。削除補間法では、データを確率モデル推定用と集計用に分割して評価指標を求め、何通りかの平均を取ることで頑健性を向上させることができる。最大エントロピー法では、評価尺度が最大化するエントロピーが最大となるパラメータを選択することで、未出現データの問題を緩和することができる。
削除補間法については「北：統計的言語モデル，Ｐ．６５」、最大エントロピー法については同ｐ．１５５以降に詳しく説明されている。
【００４７】
また、取り得る規則の組み合わせが多い場合、全ての組み合わせから評価指標が最大となるモデルを選択することが困難である。そこで、反復的な手法を用いて準最適なモデルを選択することもできる。このために、例えば、貪欲アルゴリズム（ｇｒｅｅｄｙ  ａｌｇｏｒｉｔｈｍ）を用いることができる。
貪欲アルゴリズムに従う規則選択では、まず全規則から一つの規則を取り出して規則セットを作成し、評価指標値が最も高くなる規則セットを選択する。次に選択した規則セットに残った規則から一つ追加して、評価指標値が最も高くなる規則セットを選択する。同様に規則を繰り返し追加し、評価指標値が最大となる規則セットを選択する。
【００４８】
以上で明らかなように、この実施の形態３によれば、大量の書き換え規則が規則格納部３３に格納されている場合や、規則格納部３３に格納されている規則間に重複がある場合でも、その中で定義した評価尺度が最大となる規則を選択して言い換えモデルを生成することができる効果を奏する。
また、この実施の形態３によれば、言い換えモデル生成部３４により複数の言い換えモデルが生成された場合、複数の言い換えモデルの評価指標を考慮して、最適な言い換えモデルを選択するので、音声認識装置２の音声認識率を高めることが可能な言い換え例を生成することができる効果を奏する。
【００４９】
実施の形態４．
図１３はこの発明の実施の形態４による音声認識システムを示す構成図であり、図において、図１１と同一符号は同一または相当部分を示すので説明を省略する。
正式名称格納部３９は対応付け部４１が言い換え例と対応付けを行う正式名称を格納している。なお、正式名称格納部３９は正式名称格納部１１，３１と同一の正式名称を格納していてもよいし、一部重複している正式名称を格納していてもよい。言い換え例格納部４０は正式名称格納部３９に格納されている正式名称の言い換え例を格納している。
対応付け部４１は正式名称格納部３９に格納されている正式名称と言い換え例格納部４０に格納されている言い換え例とを言語単位で対応付を行う。規則生成部４２は対応付け部４１により得られた言語単位の対応関係を参照して、書き換え規則を生成する。なお、対応付け部４１及び規則生成部４２は規則生成手段を構成している。
図１５はこの発明の実施の形態４による辞書作成装置１の処理内容を示すフローチャートである。
【００５０】
次に動作について説明する。
この実施の形態４では、上記実施の形態３と異なり、書き換え規則を自動的に生成するようにしている。
まず、辞書作成装置１の対応付け部４１は、言い換え例格納部４０に格納されている言い換え例を１つ読み込み（ステップＳＴ５１）、正式名称格納部３９からその言い換え例に対応する正式名称を読み込むと（ステップＳＴ５２）、その正式名称と言い換え例とを言語単位で対応付を行う（ステップＳＴ５３）。
図１４は図５の正式名称と図６の言い換え例との対応付け例を示しており、元の正式名称から形態素の置換が２、脱落が２生じている。
【００５１】
対応付け方法としては、例えば、ＤＰマッチング法を用いることができる。ＤＰマッチング（Ｄｙｎａｍｉｃ  Ｐｒｏｇｒａｍｍｉｎｇ；動的計画法）は、局所的な最適解の組み合わせで、全体の最適解を求める方法である。
分割された正式名称と、その言い換え例に対してＤＰマッチングを適用すると、両者を言語単位に最も適切に対応付けした場合の対応関係が得られる。なお、局所的な対応付け指標やその組み合わせ方法は適当に決めることができる。
ＤＰマッチング法により対応付けした結果、正式名称を言い換え例に変形する操作は、言語単位の置換・脱落・挿入の組み合わせとして表すことができる。ＤＰマッチングの探索方法の変更やＤＰマッチングの後処理により、言語単位間の入れ替えや移動を検出することも可能である。例えば、ＤＰマッチング結果、言語単位の対応関係が「削除・なし・挿入」となっている部分では、削除された内容と挿入された内容が同一であれば、順序が入れ替わったものと判定することができる。
【００５２】
規則生成部４２は、対応付け部４１が言語単位の対応関係を求めると、その対応関係を参照して、書き換え規則を生成する（ステップＳＴ５４，ＳＴ５５）。
書き換え規則の生成は、予め設定された手順にしたがって完全に機械的に遂行されるが、係り受けのように、複数の言語単位間の接続関係を表す情報を利用できる場合、これと矛盾するような接続による規則仮設の生成を抑えることができる。また、係り受け関係のある言語単位全体に対して生じた削除・挿入・置換・入れ替えを扱う規則を生成してもよい。
【００５３】
図１４の例では、まず、単独言語単位の置換・脱落に対応する規則として「○△」→「△」、「大学」→「大」、「高原」→φ（省略されて空文字列となったことを表す）、「林間」→φという４規則が生成される。
さらに、「○△  大学」→「△  大」、「菅平  高原」→「菅平」、「林間  実験  センター」→「実験  センター」のように前後の文脈を含めた規則を生成する。
一方で、係り受けなどの言語単位間の関係から「大学  菅平」→「大  菅平」のような規則の生成は抑制される。
【００５４】
また、言語単位の言語情報を参照した規則を生成する。例えば、＜・・・＞が意味表記を表し、「菅平」の意味が＜地名＞、「高原」の意味が＜地名接尾＞であるとする。このとき、一部あるいは全体を意味表記に置き換え、「菅平  ＜地名接尾＞  →  菅平」、「＜地名＞  高原」→「＜地名＞」、「＜地名＞  ＜地名接尾＞」→「＜地名＞」などの規則を生成する。
また、規則の１つとして、正式名称の全体から言い換え例の全体への対応を含めることも可能である。
【００５５】
以上で明らかなように、この実施の形態４によれば、規則生成部４２が正式名称の局所的な書き換え規則を生成するように構成したので、書き換え規則を人手で作成しなくても、書き換え規則が自動的に得られる効果を奏する。
【００５６】
実施の形態５．
上記実施の形態３では、規則選択部３７が人手によって作成されて規則格納部３３に格納されている１以上の書き換え規則から、言い換えモデルを生成する際に参照する書き換え規則を選択し、上記実施の形態４では、規則選択部３７が規則生成部４２により生成された１以上の書き換え規則から、言い換えモデルを生成する際に参照する書き換え規則を選択するものについて示したが、図１６に示すように、規則選択部３７が規則格納部３３に格納されている書き換え規則と規則生成部４２により生成された書き換え規則の両者から、言い換えモデルを生成する際に参照する書き換え規則を選択するようにしてもよく、上記実施の形態３，４と同様の効果を奏することができる。
【００５７】
実施の形態６．
図１７はこの発明の実施の形態６による音声認識システムを示す構成図であり、図において、図１６と同一符号は同一または相当部分を示すので説明を省略する。
評価指標提示部４３は言い換えモデル生成部３４により算出された言い換えモデルの評価指標を提示する。なお、評価指標提示部４３は言い換え例生成手段を構成している。生成辞書提示部４４は辞書作成部１４により作成された辞書を提示する。
【００５８】
次に動作について説明する。
上記実施の形態３〜５では、言い換えモデル決定部３８が言い換えモデル生成部３４により生成された複数の言い換えモデルから最適な言い換えモデルを選択するものについて示したが、言い換えモデルの設計者が自己の意思で言い換えモデルを選択できるようにするため、評価指標提示部４３が言い換えモデル生成部３４により生成された複数の言い換えモデルの評価指標を提示するとともに、生成辞書提示部４４が辞書作成部１４により作成された辞書を提示するようにしてもよい。
【００５９】
図１８は書き換え規則の編集を受け付けるＧＵＩの一例を示しており、この例では、規則００１１「＜地名＞高原→＜地名＞」という規則を追加することにより、書き換え規則を編集するようにしている。
この実施の形態６によれば、言い換えモデルの設計者の意思が反映された言い換え例を半自動的に生成することができる効果を奏する。
【００６０】
【発明の効果】
以上のように、この発明によれば、正式名称から言い換え例が生起される生起確率を推定する確率推定手段を設け、その言い換え例の生起確率を正式名称と言い換え例を含む辞書に記録するように構成したので、音声認識装置において、入力音声が必ずしも辞書内の言い換え例と一致しない場合でも、正式名称から生起される確率が高い言い換え例が音声認識結果として出力されるようになる。そのため、辞書内の言い換え例の登録数を増やすことなく、音声認識装置の音声認識率を高めることができる効果がある。
【図面の簡単な説明】
【図１】この発明の実施の形態１による音声認識システムを示す構成図である。
【図２】この発明の実施の形態１による辞書作成装置の処理内容を示すフローチャートである。
【図３】この発明の実施の形態１による音声認識装置の処理内容を示すフローチャートである。
【図４】この発明の実施の形態２による音声認識システムを示す構成図である。
【図５】正式名称の一例を示す説明図である。
【図６】言い換え例の一例を示す説明図である。
【図７】書き換え規則の一例を示す説明図である。
【図８】言い換えモデルによる確率Ｐ（ｕ｜ｎ）の算出例を示す説明図である。
【図９】言い換えモデル生成部の処理内容を示すフローチャートである。
【図１０】言い換え例生成部の処理内容を示すフローチャートである。
【図１１】この発明の実施の形態３による音声認識システムを示す構成図である。
【図１２】この発明の実施の形態３による辞書作成装置の処理内容を示すフローチャートである。
【図１３】この発明の実施の形態４による音声認識システムを示す構成図である。
【図１４】正式名称と言い換え例との対応付け例を示す説明図である。
【図１５】この発明の実施の形態４による辞書作成装置の処理内容を示すフローチャートである。
【図１６】この発明の実施の形態５による音声認識システムを示す構成図である。
【図１７】この発明の実施の形態６による音声認識システムを示す構成図である。
【図１８】書き換え規則の編集を受け付けるＧＵＩの一例を示す説明図である。
【符号の説明】
１  辞書作成装置、２  音声認識装置、１１  正式名称格納部（正式名称格納手段）、１２  言い換え例格納部（言い換え例格納手段）、１３  言い換え確率推定部（確率推定手段）、１４  辞書作成部（辞書作成手段）、２１  辞書記憶部（辞書記憶手段）、２２  音響分析部（音響分析手段）、２３  音響標準パタン格納部（照合手段）、２４  フレーム尤度計算部（照合手段）、２５  照合部（照合手段）、３１  正式名称格納部、３２  言い換え例格納部、３３  規則格納部、３４  言い換えモデル生成部（言い換え例生成手段）、３５  言い換えモデル保存部、３６  言い換え例生成部（言い換え例生成手段、確率推定手段）、３７  規則選択部（言い換え例生成手段）、３８  言い換えモデル決定部（言い換え例生成手段）、３９  正式名称格納部、４０  言い換え例格納部、４１  対応付け部（規則生成手段）、４２  規則生成部（規則生成手段）、４３  評価指標提示部（言い換え例生成手段）、４４  生成辞書提示部。
【図１】
2005031255.tif 000009
【図２】
2005031255.tif 000010
【図３】
2005031255.tif 000011
【図４】
2005031255.tif 000012
【図５】
2005031255.tif 000013
【図６】
2005031255.tif 000014
【図７】
2005031255.tif 000015
【図８】
2005031255.tif 000016
【図９】
2005031255.tif 000017
【図１０】
2005031255.tif 000018
【図１１】
2005031255.tif 000019
【図１２】
2005031255.tif 000020
【図１３】
2005031255.tif 000021
【図１４】
2005031255.tif 000022
【図１５】
2005031255.tif 000023
【図１６】
2005031255.tif 000024
【図１７】
2005031255.tif 000025
【図１８】
2005031255.tif 000026