(57)【特許請求の範囲】
【請求項１】
確率的言語モデルに登録されている既知語およびそのパラメータを使用して入力音声を音声認識すると共に、前記確率的言語モデルに未知語を追加する機能を有する連続音声認識装置において、
未知語および該未知語が属する単語クラスを入力する入力手段と、
単語クラスごとに未知語に対して割り当てるパラメータを記憶しておく記憶手段と、
前記入力手段から入力された未知語の単語クラスに対応するパラメータを前記記憶手段から取得する第１の情報処理手段と、
当該取得されたパラメータおよび前記入力手段から入力された未知語を使用して登録用の確率的言語モデルを作成し、前記確率的言語モデルに追加登録する第２の情報処理手段と、
前記確率的言語モデルに登録されている既知語およびそのパラメータを単語クラスごとに分類する分類手段と、
当該単語クラスごとに分類された既知語のパラメータに基づいてあらかじめ定めた演算式にしたがって前記記憶手段に記憶するパラメータを取得する演算処理手段と
を具えたことを特徴とする連続音声認識装置。
【請求項２】
請求項１に記載の連続音声認識装置において、前記あらかじめ定めた演算式により既知語のパラメータの平均値を取得することを特徴とする連続音声認識装置。
【請求項３】
請求項１に記載の連続音声認識装置において、前記パラメータにはｕｎｉｇｒａｍ確率、バックオフ係数、単語２つ組の中の前側の単語、前記単語２つ組の中の後ろ側の単語および前記単語２つ組のｂｉｇｒａｍ確率を含むことを特徴とする連続音声認識装置。
【請求項４】
確率的言語モデルに登録されている既知語およびそのパラメータを使用して入力音声を音声認識すると共に、前記確率的言語モデルに未知語を追加する機能をコンピュータがプログラムを実行することにより実現し、前記プログラムを記録した記録媒体において、前記プログラムは、
未知語および該未知語が属する単語クラスを入力する入力ステップと、
前記コンピュータの記憶手段には単語クラスごとに未知語に対して割り当てるパラメータが記憶されており、
前記入力ステップで入力された未知語の単語クラスに対応するパラメータを前記記憶手段から取得する第１の情報処理ステップと、
当該取得されたパラメータおよび前記入力ステップで入力された未知語を使用して登録用の確率的言語モデルを作成し、前記確率的言語モデルに追加登録する第２の情報処理ステップと、
前記プログラムは、前記確率的言語モデルに登録されている既知語およびそのパラメータを単語クラスごとに分類する分類ステップと、
当該単語クラスごとに分類された既知語のパラメータに基づいてあらかじめ定めた演算式にしたがって前記記憶手段に記憶するパラメータを取得する演算処理ステップと
を具えたことを特徴とする記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、確率的言語モデルを使用して音声認識を行う連続音声認識装置に関し、より詳しくは、未知語を既存の確率的言語モデルに追加登録する機能を有する連続音声認識装置および記録媒体に関する。
【０００２】
【従来の技術】
従来この種の音声認識装置で使用される確率的言語モデルに未知語を登録する方法としては、以下の方法が知られている。
【０００３】
（ａ）クラス言語モデルによる方法（Brown,P.F.et. al., "Class-Based n-gram Models of Natural Language", Computaional Linguistics, vol. 18, No.4, pp.467-479,1992）
この方法は、単語の連接を確率的に表現するＮ−ｇｒａｍモデル（ｕｎｉｇｒａｍ，ｂｉｇｒａｍを含むＮ−ｇｒａｍモデルについては、たとえば、「確率モデルによる音声認識」，中川聖一，電子情報通信学会，ｐｐ．１０９参照）を、単語クラスを用いて近似する方法である。
【０００４】
ここで単語クラスとは単語の集合を何らかの基準で分類したものを指し、たとえば、品詞（名詞、動詞、形容詞）による分類が挙げられる．ｂｉｇｒａｍの場合、２つの連接する単語wi,wi-1に関する確率（ｂｉｇｒａｍ確率）p(wi|wi-1)は、各々の単語の当該クラスの連接に関する確率p(ci|ci-1)と、クラスから単語が出現する確率p(wi|ci-1)との積（次式参照）で近似される。
【０００５】
【数１】
0003907880.tif 000002
【０００６】
未知語の登録は、未知語が分類される単語クラスに新たな要素として追加登録することにより実現化可能である。たとえば、未知語uが単語クラスCuに属する場合、未知語を含むｂｉｇｒａｍ確率p(u|wi-1),p(wi|u)は、未知語の当該クラスCuに関する確率p(Ci|Cu), p(Cu|Ci-1)を用いて次式で表される。
【０００７】
【数２】
0003907880.tif 000003
【０００８】
ここで、未知語uが単語クラスCuから出現する確率p(u|Cu)を決定する必要があるが、たとえば、未知語を含む大量のテキストデータを別途用意して、未知語uの出現頻度と、単語クラスCuに属する全ての単語の出現頻度の比率から推定したり、またはCuに属する単語wのクラスから出現確率p(w|Cu)を等確率と仮定する方法が提案されている（Asadi, A., et. al.: "Automatic Modeling for Adding New Words to Large-vocabulary Continuous Speech Recognition System", ICASSP-91 Proc. Vol.1, IEEE, 1991, pp.305-308参照）。
【０００９】
【発明が解決しようとする課題】
上記従来の未知語登録方法では、既にＮ−ｇｒａｍモデルのパラメータを高い推定精度で推定できる大量のデータが用意されている場合には、単語クラスによる近似を行うことでかえってパラメータの推定精度が低下する点においていまだ改善すべき余地があった。
【００１０】
そこで、本発明の目的は、確率的言語モデルに登録されている単語に関するパラメータの推定精度を低下させずに未知語に関するパラメータ、たとえば、未知語uと既知語（登録単語）wのbigram確率p(u|w),p(w|u)を推定し、確率言語モデルに未知語を追加登録することができる連続音声認識装置および記録媒体を提供することにある。
【００１１】
【課題を解決するための手段】
このような目的を達成するために、請求項１の発明は、確率的言語モデルに登録されている既知語およびそのパラメータを使用して入力音声を音声認識すると共に、前記確率的言語モデルに未知語を追加する機能を有する連続音声認識装置において、未知語および該未知語が属する単語クラスを入力する入力手段と、単語クラスごとに未知語に対して割り当てるパラメータを記憶しておく記憶手段と、前記入力手段から入力された未知語の単語クラスに対応するパラメータを前記記憶手段から取得する第１の情報処理手段と、当該取得されたパラメータおよび前記入力手段から入力された未知語を使用して登録用の確率的言語モデルを作成し、前記確率的言語モデルに追加登録する第２の情報処理手段と、前記確率的言語モデルに登録されている既知語およびそのパラメータを単語クラスごとに分類する分類手段と、当該単語クラスごとに分類された既知語のパラメータに基づいてあらかじめ定めた演算式にしたがって前記記憶手段に記憶するパラメータを取得する演算処理手段とを具えたことを特徴とする。
【００１３】
請求項２の発明は、請求項１に記載の連続音声認識装置において、前記あらかじめ定めた演算式により既知語のパラメータの平均値を取得することを特徴とする。
【００１４】
請求項３の発明は、請求項１に記載の連続音声認識装置において、前記パラメータにはｕｎｉｇｒａｍ確率、バックオフ係数、単語２つ組の中の前側の単語、前記単語２つ組の中の後ろ側の単語および前記単語２つ組のｂｉｇｒａｍ確率を含むことを特徴とする。
【００１５】
請求項４の発明は、確率的言語モデルに登録されている既知語およびそのパラメータを使用して入力音声を音声認識すると共に、前記確率的言語モデルに未知語を追加する機能をコンピュータがプログラムを実行することにより実現し、前記プログラムを記録した記録媒体において、前記プログラムは、未知語および該未知語が属する単語クラスを入力する入力ステップと、前記コンピュータの記憶手段には単語クラスごとに未知語に対して割り当てるパラメータが記憶されており、前記入力ステップで入力された未知語の単語クラスに対応するパラメータを前記記憶手段から取得する第１の情報処理ステップと、当該取得されたパラメータおよび前記入力ステップで入力された未知語を使用して登録用の確率的言語モデルを作成し、前記確率的言語モデルに追加登録する第２の情報処理ステップと、前記プログラムは、前記確率的言語モデルに登録されている既知語およびそのパラメータを単語クラスごとに分類する分類ステップと、当該単語クラスごとに分類された既知語のパラメータに基づいてあらかじめ定めた演算式にしたがって前記記憶手段に記憶するパラメータを取得する演算処理ステップとを具えたことを特徴とする。
【００１９】
【発明の実施の形態】
以下、図面を参照して、本発明の実施形態を詳細に説明する。
【００２０】
図１は連続音声認識装置の未知語登録部の機能構成を示す。
【００２１】
１は登録済み（以下、既知と称す）の確率的言語モデルであり、本実施形態ではＮ−ｇｒａｍモデルを例とする。
【００２２】
Ｎ−ｇｒａｍモデル１には、ｕｎｉｇｒａｍのデータとして、
・既知語（ｕｎｉｇｒａｍのエントリー）          w
・既知語のｕｎｉｇｒａｍ確率                      p(w)
・既知語のバックオフ係数                          a(w)
が記述されている。また、Ｎ−ｇｒａｍモデル１には、ｂｉｇｒａｍのデータとして
・既知語の２つの組（ｂｉｇｒａｍエントリー）      w1w2
・既知語の組のｂｉｇｒａｍ確率                    p(w2|w1)
が記述されている。
【００２３】
３は単語分類器であり、上記Ｎ−ｇｒａｍモデルを単語クラスに分類する。単語分類器３としては松本他、が開発した“日本語形態素解析システム”茶筌“ver.2.0（その使用説明書、NAIST-IS-TR99008参照）があるが，単語の表記から単語クラスに分類できるツールであればいずれをも使用することができる。
【００２４】
４はＮ−ｇｒａｍパラメータ推定部であり、単語分類器３で作成された各単語クラスG(w)に基づき後述の未知語Ｎ−ｇｒａｍパラメータリスト５を推定する。
【００２５】
６は未知語Ｎ−ｇｒａｍ作成部であり、未知語に関するデータを記述した未知語リスト２と未知語Ｎ−ｇｒａｍパラメータリスト５とに基づき、未知語に関するＮ−ｇｒａｍモデル７を出力する。
【００２６】
未知語リスト２には
・未知語の表記                                      u
・未知語uが属する単語クラス                        G(u)
が記述されている。
【００２７】
未知語モデル７はデータとして
・未知語uのｕｎｉｇｒａｍ確率                  p(u)
・未知語のバックオフ係数                      a(u)
・未知語に前接する既知語                      w1
・未知語uと既知語w1のｂｉｇｒａｍ確率      p(u| w1)
・未知語uに後接する既知語                  w2
・未知語uと既知語w2のｂｉｇｒａｍ確率      p(w2|u)
を有する。これらのデータを推定して、Ｎ−ｇｒａｍモデル１に追加することに本実施形態の新規特徴がある。
【００２８】
８はＮ−ｇｒａｍモデル合成部であり、既知語に関するＮ−ｇｒａｍモデル１と未知語に関する（登録用）Ｎ−ｇｒａｍモデルを合成して未知語追加Ｎ−ｇｒａｍモデルを出力する。
【００２９】
以上の機能構成を持つ未知語モデル登録部を有する連続音声認識装置を次に説明する。
【００３０】
図２は連続音声認識装置のシステム構成を示す。図２において、ＣＰＵ１００は音声認識用プログラムを実行して，連続音声認識処理を行うと共に、後述の未知語登録プログラムを実行して確率的言語モデルに未知語の登録を行う。システムメモリ１１０は、ＣＰＵ１００が行う情報処理に対する入出力データを一時記憶する。ハードディスク記憶装置（ＨＤＤと略記する）１３０は、連続音声認識のために使用する確率的言語モデル（Ｎ−ｇｒａｍモデル１）を保存のために記憶する。また、上記連続音声認識や未知語登録のためのプログラムもＨＤＤ１３０に保存される。これらのプログラムは不図示のキーボードやマウス等の実行の指示で、ＨＤＤ１３０からシステムメモリ１１０にローディングされた後、ＣＰＵ１００により指示されたプログラムが実行される。
【００３１】
入力インターフェース（Ｉ／Ｏ）１２０はマイクロホンから入力された音声信号をＡ／Ｄ変換して、デジタル形態の音声信号を連続音声認識のためにＣＰＵ１００に引き渡す。
【００３２】
上述の未知語リスト２は外部装置あるいは連続音声認識装置の文書作成機能（ワードプロセッサ）により作成された後、直接もしくは通信あるいは携帯用記録媒体（フロッピーディスク等）を介して連続音声認識装置に入力され、ＨＤＤ１３０にあらかじめ保存されているものとする。
【００３３】
ユーザがキーボードあるいはマウス等によりＣＰＵ１００に未知語登録用プログラムの実行を指示すると、ＨＤＤ１３０からシステムメモリ１１０に未知語登録用プログラムがローディングされ、ＣＰＵ１００により実行される。
【００３４】
未知語登録用プログラムは図１に示した構成部の機能を実現するための処理が規定されている。このプログラムの中の単語分類器３の機能を実現するための処理の詳細を図３に示す。Ｎ−ｇｒａｍパラメータ推定部４の機能を実現するための処理の詳細を図４に示す。また、未知語Ｎ−ｇｒａｍ作成部６の機能を実現する処理の詳細を図５に示す。
【００３５】
図３〜図５のフローチャートを参照しながら図２のシステムの動作を説明する。
【００３６】
未知語登録用プログラムの実行が開始されるとＣＰＵ１００はＨＤＤ１３０に保存されている分類用プログラムを起動し、ＨＤＤ１３０に保存されている既存のＮ−ｇｒａｍモデル（１）に記述されているｕｎｉｇｒａｍのデータ内の既知語wと、ｂｉｇｒａｍのデータ内の既知語の組み合わせw1w2を分類用プログラムに引き渡す。分類用プログラムをＣＰＵ１００が実行して、引き渡されたデータw, w1w2をそれぞれを３つの単語クラスG(w),G(w1),G(w2)に分類すると、分類した結果をシステムメモリ１１０の所定領域に書き込むことで、未知語登録用プログラムに分類結果を引きわたす。
【００３７】
より具体的には、ＣＰＵ１００はＨＤＤ１３０上のＮ−ｇｒａｍモデル１の先頭データをシステムメモリ１上に読み出した後、そのデータがｕｎｉｇｒａｍのデータか否かの判定を行う（図３のステップＳ１０→Ｓ２０）。読み出したデータがｕｎｉｇｒａｍのデータの場合には、読み出したデータの中から既知語w、既知語のｕｎｉｇｒａｍ確率p(w)、既知語のバックオフ係数a(w)を取り出して、システムメモリ１１０上のｕｎｉｇｒａｍ用に割り当てた記憶領域に書き込む（ステップＳ２０→Ｓ３０）。この後、手順はステップＳ６０のデータの分類の終了の有無判定処理を経由してステップＳ１０に戻り、次のデータをＨＤＤ１３０のＮ−ｇｒａｍモデル１から取り出す。
【００３８】
一方、読み出したデータがｕｎｉｇｒａｍのデータでない場合には、つぎにｂｉｇｒａｍのデータか否かの判定を行う。読み出したデータがｂｉｇｒａｍのデータの場合にはデータの中から前側の既知語w1、後ろ側の既知語w2およびｂｉｇｒａｍ確率p(w2|w1)を取り出して、取り出した既知語をシステムメモリ１１０の割り当て記憶領域に書き込む（ステップＳ２０→Ｓ４０→Ｓ５０）。この後、手順はステップＳ６０のデータの分類の終了の有無判定処理を経由してステップＳ１０に戻り、次のデータをＨＤＤ１３０のＮ−ｇｒａｍモデル１から取り出す。
【００３９】
読み出したデータがｕｎｉｇｒａｍおよびｂｉｇｒａｍのいずれのデータではない場合には、この後、手順はステップＳ６０のデータの分類の終了の有無判定処理を経由してステップＳ１０に戻り、次のデータをＨＤＤ１３０のＮ−ｇｒａｍモデル１から取り出す。
【００４０】
以下上述のデータ分類処理（ステップＳ１０〜Ｓ６０）を繰り返し実行すると、Ｎ−ｇｒａｍｕモデルに記載されているデータをすべて分類することができる。最後のデータについての分類を終了すると、ステップＳ６０の終了有無判定処理ではＹＥＳ判定が得られるので、図３の処理手順が終了する。この後、図４のＮ−ｇｒａｍパラメータ推定処理が開始される。
【００４１】
ＣＰＵ１００は図３の単語分類処理で分類（作成）された単語クラスG(w)の全てのｕｎｇｒａｍ確率と全てのバックオフ係数の集合
【００４２】
【外１】
0003907880.tif 000004
【００４３】
を抽出し、単語クラスについての平均ｕｎｉｇｒａｍ確率
【００４４】
【外２】
0003907880.tif 000005
【００４５】
単語クラスG(w)について平均したバックオフ係数
【００４６】
【外３】
0003907880.tif 000006
【００４７】
を計算する（図４のステップＳ１００）。なお、
【００４８】
【外４】
0003907880.tif 000007
【００４９】
はxに関するf(x)の平均値を表す。
【００５０】
同様にＣＰＵ１００は、ｂｉｇｒａｍのデータの既知語の２つ組w1w2それぞれの単語クラスG(w1), G(w2)について、
前側の既知語w1の単語クラスG(w1)について平均したｂｉｇｒａｍ確率
【００５１】
【外５】
0003907880.tif 000008
【００５２】
後ろ側の既知語w2の単語クラスG(w2)について平均したｂｉｇｒａｍ確率
【００５３】
【外６】
0003907880.tif 000009
【００５４】
をも計算する（図４のステップＳ１１０）。
【００５５】
なお、既知語が特定の一つの単語クラスにはなく、複数の単語クラスに所属しうる場合には、上記の各平均を求める計算からは除外する。
【００５６】
この重複の既知語を検出する周知の処理手順を実行すればよいので、ここでは詳細な説明を省略する。
【００５７】
この計算結果は以下の未知語Ｎ−ｇｒａｍパラメータリストの形態でＨＤＤ１３０（本発明の記憶手段）に保存される（図１の符号５に対応する処理，図４のステップＳ１２０）。
【００５８】
未知語Ｎ−ｇｒａｍパラメータリスト５は各単語クラスをキーとして検索可能なように、たとえば、単語クラスを配列の要素に持つ次の形態とするとよい。
【００５９】
【外７】
0003907880.tif 000010
【００６０】
次にＣＰＵ１００は図５の処理手順に移行し、ＨＤＤ１３０に保存されている未知語リスト２に記述されている単語クラスをキーとして上記未知語Ｎ−ｇｒａｍパラメータリスト５に保存したデータを検索する（ステップＳ２００）。
【００６１】
この検索により抽出したｕｎｉｇｒａｍのデータおよびｂｉｇｒａｍのデータの単語クラスが未知語の表記に置換される。置換結果がＨＤＤ１３０に未知語に関するＮ−ｇｒａｍモデルとして保存される。
【００６２】
上述の処理において，たとえば、未知語uの単語クラスG(u)で検索を行い、
【００６３】
【外８】
0003907880.tif 000011
【００６４】
が抽出された場合、単語クラスG(u)が未知語uで置換される。
【００６５】
次に、上述のステップＳ１１０で計算された平均値の中の単語クラスG(u)について計算した各平均値
【００６６】
【外９】
0003907880.tif 000012
【００６７】
がそれぞれ未知語uに関するＮ−ｇｒａｍモデルのデータとして下記の形態でＨＤＤ１３０上の未知語に関するＮ−ｇｒａｍモデル７に保存される（図５のステップＳ２１０〜Ｓ２３０）。
【００６８】
【外１０】
0003907880.tif 000013
【００６９】
ＣＰＵ１００はこのようにして作成された未知語に関する（登録用）Ｎ−ｇｒａｍモデル７を既知語に関するＮ−ｇｒａｍモデル１に追加・挿入する（図１のＮ−ｇｒａｍモデルに対応）。これにより未知語を追加したＮ−ｇｒａｍモデル９が作成される。
【００７０】
１）上述の実施形態では、未知語を確率的言語モデルに追加登録する際に、既知語に関するパラメータの平均演算を行っているが、平均演算は未知語登録前の任意の時点で行えばよい。平均演算の後、作成した未知語パラメータリスト５をＨＤＤ１３０に記憶して、未知語登録時に使用すればよい。
【００７１】
２）未知語を登録するためのプログラムを記録する記憶媒体としては上述のＨＤＤ１３０の他に、ＲＯＭ，ＲＡＭ等のＩＣメモリ、フロッピーディスクや光磁気ディスク等の携帯用記録媒体を使用することができる。
【００７２】
３）上述の実施形態は本発明を説明するための一例であって、特許請求の範囲の示す技術思想に沿って、各種の変形を行うことができる。しかしなが、このような変形を行っても、その変形例は本願特許の権利範囲内となる。
【００７３】
【発明の効果】
以上、説明したように、本発明によれば、単語クラスごとに未知語に割り当てるパラメータを要しておく。登録対象の未知語に応じたパラメータを使用して追加登録用の確率的言語モデルを未知語Ｎ−ｇｒａｍ作成部６により作成する。このため、本発明では作成済みの既知語の確率的言語モデルに何らの変更を加える必要はなく、従来のように既知語に関する確率的言語モデルの推定精度を犠牲にすることもない。
【図面の簡単な説明】
【図１】本発明実施形態のシステム構成を示すブロック図である。
【図２】本発明実施形態のハードウェア構成を示すブロック図である。
【図３】ＣＰＵ１００が実行する処理内容を示すフローチャートである。
【図４】ＣＰＵ１００が実行する処理内容を示すフローチャートである。
【図５】ＣＰＵ１００が実行する処理内容を示すフローチャートである。
【符号の説明】
３  単語分類器
４  Ｎ−ｇｒａｍパラメータ推定部
６  未知語Ｎ−ｇｒａｍ作成部
８  Ｎ−ｇｒａｍ合成部
【図１】
0003907880.tif 000014
【図２】
0003907880.tif 000015
【図３】
0003907880.tif 000016
【図４】
0003907880.tif 000017
【図５】
0003907880.tif 000018