(57)【特許請求の範囲】
【請求項１】
入力音声の特徴量を抽出する手段と、類の一部を代表するパタンを時間方向に連結して状態遷移モデルとなし、音声の類をモデル化する手段と、音声記号列を文法により解析する構文解析部と、状態遷移モデルにおける各状態の照合継続時間を制御しながら入力音声パタンを照合する手段とを備え、当該状態遷移モデルと入力音声の特徴パタンとを比較することによって、認識結果を得る連続音声認識方式において、前記構文解析部で受理された音声記号列を用いて、類の前後環境を含めた終端記号列を生成し、文法を作成することにより、類の前後環境を含めた状態遷移モデルを未知入力音声と照合することを特徴とする連続音声認識方式。
【請求項２】
前記構文解析部で受理された音声記号列に基づいて発声した音声を入力とし、その入力に対応する類の前後環境を含めた状態遷移モデルを連結して訓練することを特徴とする請求項１に記載の連続音声認識方式。
【請求項３】
前記構文解析部で受理された音声記号列を含む音声を入力とし、類の前後環境を含めた状態遷移モデルと照合し、その認識結果をもっともらしい順に所定数表示し、正しい候補を選択することによって、正しい状態遷移モデルを連結して訓練することを特徴とする請求項１に記載の連続音声認識方式。
【請求項４】
前記類の前後環境を含めた状態遷移モデルの訓練に関し、過去に当該モデルに対して訓練が行われていた場合は、過去の状態遷移モデルと重ね合わせて訓練することを特徴とする請求項２又は３に記載の連続音声認識方式。
【請求項５】
前記類の前後環境を含めた状態遷移モデルの訓練に関し、過去に当該モデルに対して訓練が行われていた場合は、新たに当該モデルの類に対する前後環境を含めた状態遷移モデルを生成して訓練を行い、過去の対応状態遷移モデルは訓練しないことを特徴とする請求項２又は３に記載の連続音声認識方式。
【請求項６】
前記類の前後環境を含めた状態遷移モデルの訓練に関し、請求項５によって記憶された状態遷移モデルの中から、入力音声と最も類似したモデルを更新することを特徴とする請求項４に記載の連続音声認識方式。
【請求項７】
前記類の前後環境を含めた状態遷移モデルの訓練に関し、初期モデルとして、環境独立の状態遷移モデルを連結することを特徴とする請求項２乃至６のいずれかに記載の連続音声認識方式。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、連続音声認識方式及び標準パタン訓練方式、より詳細には、類の一部を代表するパタンを時間方向に連結して状態遷移モデルとなし、状態遷移モデルにおける各状態の照合継続時間を制御しながら入力音声パタンを照合し、当該状態遷移モデルと入力音声の特徴パタンとを比較することによって、認識結果を得る連続音声認識方式、及び、連続音声中の重要な単語を認識するために必要な標準パタンを訓練するのに好適な標準パタン訓練方式に関する。
【０００２】
【従来の技術】
最初に、本明細書中において使用する記号について、下記の通り定義する。
【０００３】
【外１】
0003575904.tif 000002
【０００４】
最初に、従来の連続音声認識方式について説明する。今、入力音声パタンに対する標準パタン系列がＳ個あるとし、ｓ番目の系列を（ｓ）Ｗとする。（ｓ）Ｗは、以下の式に示すように、Ｌ個標準パタンを接続したものから成る。この標準パタンは、音声の類（例えば音素や単語）を特徴づけているパタンである。
【０００５】
【数１】
0003575904.tif 000003
【０００６】
ただし、Ｌは可変である。ここで、ｑ（ｌ）は、系列中のｌ（１≦ｌ≦Ｌ）番目の標準パタンのインデックスであり、Ｖ個の語彙数を持つ。
同様にして、入力音声特徴量の列Ｘを以下のように表す。
Ｘ＝｛ｘ１，…，ｘｍ，…，ｘＭ｝            …（２）
ここで、連続音声認識の問題は、発声した音声Ｘと参照系列との距離Ｄ（Ｘ，（ｓ）Ｗ）を最小にする参照系列＊Ｗをみつけることに相当する。
【０００７】
【数２】
0003575904.tif 000004
【０００８】
式（４）の右辺に関する最小化は、それぞれ、標準パタンの連結数，モデルの並び、整合関数に関して行われる。式（４）は、動的計画法によって求めることができる。ここで、θは照合経路を表す関数である。標準パタン系列（ｓ）ｗの作成には、中川，“確率モデルによる音声認識”電子情報通信学会（１９８８）などに詳述される隠れマルコフモデル（ＨＭＭ：Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）や、神経回路網，音声パタンの相加平均などによってモデル化される。
【０００９】
標準パタンＷｉの組合せによって、参照系列を作成するが、その組合せに制約がないと、照合時の探索空間が広くなると同時に、認識性能が低下する。そこで、言語モデルを導入して、種々の言語制約を与える。例えば、構文制御による言語モデルは、０，１的に与えられ、文脈自由文法などで記述し、ＡＴＲ編，“自動翻訳電話”オーム社（１９９４）に詳述されるＬＲ（Ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ  Ｒｉｇｈｔｍｏｓｔ  ｄｅｒｉｖａｔｉｏｎ）パーサなどを用いて解析する。前出の文献による認識方式では、解析と同時に音素ＨＭＭから得られる尤度によって、パーサから得られた仮説を棄却するか存続するかを決定する。最終的に、最も大きい尤度をもつ仮説を認識結果とする。この場合、式（１）のＷｉは、ＬＲ構文解析により受理された、終端記号に対応する系列でなければならない。
【００１０】
次に、従来の標準パタン訓練方式について説明する。例えば、発話中から日付／一月一日／という単語を抽出したいと仮定する。発声者の発話方法はさまざまであり、（１）／一月一日／と連続的に発話する場合や、（２）／一月＿一日／（＿：若干の休止区間）、（３）／一月の一日／などと単語間に認識対象以外の語が挿入する場合が考えられる。このような発話に対して、照合に用いる標準パタンには、上記の３通りのパタンを全て作成することは、パタン記憶容量の増大を招くため、／一月／，／一日／といった、短い語を単位とする標準パタンを作成するのが普通である。このような標準パタンと入力音声とを、中川著，“確率モデルによる音声認識”（社）電子情報通信学会（１９８８），に掲載されているようなスポッティング手法を用いて照合し、キーワードを抽出する。
【００１１】
上記標準パタンを訓練するには、通常／一月／，／一日／などの孤立単語を数回発声し、その特徴パタンの相加平均を求めることで実現できる。ところが、このように離散的に発声された音声を用いた標準パタンは、上述の（１）〜（３）のような連続的な発話音声とは様式が異なっている。そのため、認識対象でない（２）の休止部分や（３）の／の／の部分が対象語のいずれかとなって抽出され湧き出しが起ったり、連続音声中での語を表すパタンや発話速度が孤立単語のものとは異なるために、対象語であるにも関わらず脱落してしまうことがある。
【００１２】
以上の現象は、発話様式に対する標準パタンを精密に設計していないために起こる。この問題に対処するために、特開平７−３６４７９号公報に掲載されているようにガーベジモデルによる方法がある。これは、登録語以外の語に相当するモデルを作成して、キーワード以外の発声部分を前記モデルで吸収するように標準パタンを訓練する。また、国際電気通信基礎技術研究所編，“自動翻訳電話”オーム社（１９９４），に掲載されているように、発話文として起こりうる全ての現象を文脈自由文法などで記述し、予測型一般化ＬＲ（Ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ  Ｒｉｇｈｔｍｏｓｔ  ｄｅｒｉｖａｔｉｏｎ）解析アルゴリズムを用いて、音素を単位とする隠れマルコフモデル（ＨＭＭ：Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）を入力音声と照合させる方法がある。
【００１３】
【発明が解決しようとする課題】
上述の従来の連続音声認識方式における標準パタンの作成において、最近では、鷹見他，“逐次状態分割方法による隠れマルコフ網の自動生成”，電子情報通信学会論文誌，Ｖｏｌ．  Ｊ７６−Ｄ−ＩＩ，Ｎｏ．１０，  ｐｐ．２１５５−２１６４（１９９３−１０）に報告されているように、音素単位ではなく、当該音素の環境を考慮するようなモデルが提案されている。例えば、／ａｋａ／と発声された音声の／ｋ／を認識するのに、／ｋ／の前後に／ａ／があるという情報をもった／ａ−ｋ−ａ／というＨＭＭを用いて照合を行う。同様にして、／ｉｋｉ／と発声した場合の／ｋ／は、／ｉ−ｋ−ｉ／というＨＭＭを用いることになる。上述の発声はどちらも中心部の子音は／ｋ／であり、音素環境独立型の場合には、同一のモデル／ｋ／が照合に用いられるのであるが、環境依存型の場合には、それぞれ異なるＨＭＭを用いることになる。そのため、音素モデルの設計段階で、当該音素のモデル化だけでなく、音響空間上のある音素から音素への移動経路もモデル化することができ、高精度な認識性能を期待できる。
【００１４】
一方、このような音素環境依存型モデルを検証器として駆動するために、様々なＬＲ構文解析機が提案されている。永井他，“隠れマルコフ網と一般化ＬＲ構文解析を統合した連続音声認識”，電子情報通信学会論文誌，Ｖｏｌ．Ｊ７７−Ｄ−ＩＩ，Ｎｏ．１，ｐｐ．９−１９（１９９４−１）には、音素環境独立型のＬＲテーブルを用いて解析アルゴリズムを音素環境依存型に変更する例が報告されている。この例では、アルゴリズムの変更に伴い、音素環境独立でも駆動する専用の音素環境依存型解析機を開発しなければならない。
【００１５】
また、永井他，“文脈自由文法から音素コンテキスト依存文法への変換アルゴリズム”，日本音響学会講演論文集，３−１−６，  ｐｐ．８１−８２（１９９２−３）には、音素環境独立のＬＲテーブルを、音素環境依存の構文解析が可能なＬＲテーブルに変換する方法や、音素環境独立の文脈自由文法を音素環境依存の文脈自由文法に変換する方法を紹介している。しかし、これらの方法は、汎用的なタスクを想定して、音素環境独立のＬＲテーブル、あるいは文脈自由文法を音素環境依存型に変換しようとしているため、ＬＲテーブルの状態数や文脈自由文法の規則数が爆発的に増加することが想定される。
【００１６】
本発明は、上述のごとき従来の連続音声認識方式の実情に鑑みてなされたもので、タスクに応じて音声類の環境を考慮した文脈自由文法を生成し、機構が単純で、記憶量の小さい構文解析部を用いて音声認識の照合範囲を狭くするとともに、環境を考慮した標準パタンを適応的に訓練することによって、高速で高精度な照合が可能な連続音声認識方式を提供することを目的としてなされたものである。
【００１７】
また、上述の従来の標準パタン訓練方式のうち、ガーベジモデルを用いる方法では、登録語以外のモデルを比較的粗いモデルとして設計するために、抽出すべき単語もガーベジモデルに引き寄せられ、吸収されてしまう可能性がある。そのためモデルパラメータを注意深く制御しなければならない。また、不必要な吸収を避けるためにガーベジモデルの数を増やすことも考えられるがモデルの記憶量が増大する。
【００１８】
一方、予測型一般化ＬＲアルゴリズムを用いる方法では、発話内容の一字一句を全て認識していくため、認識結果にキーワードが存在しているか否かを調べる後処理を必要とする。また、発話現象を扱うための文法規則数が増し、記述も複雑になるので、管理が容易でない。
【００１９】
それゆえに、本発明は、上述のごとき従来の標準パタン訓練方式の実情に鑑みてなされたもので、記憶量の小さい標準パタン群と、機構が単純で、記憶量の小さいＬＲ表を用いた構文解析部とにより、構文解析部から直接標準パタンを選択することによって、標準パタンの訓練効率と発話様式に対する認識精度を高め、短時間で高精度なキーワード認識を可能にする標準パタン訓練方式を提供することを目的としてなされたものである。
【００２０】
【課題を解決するための手段】
請求項１の発明は、入力音声の特徴量を抽出する手段と、類の一部を代表するパタンを時間方向に連結して状態遷移モデルとなし、音声の類をモデル化する手段と、音声記号列を文法により解析する構文解析部と、状態遷移モデルにおける各状態の照合継続時間を制御しながら入力音声パタンを照合する手段とを備え、当該状態遷移モデルと入力音声の特徴パタンとを比較することによって、認識結果を得る連続音声認識方式において、前記構文解析部で受理された音声記号列を用いて、類の前後環境を含めた終端記号列を生成し、文法を作成することにより、類の前後環境を含めた状態遷移モデルを未知入力音声と照合する。
【００２１】
請求項２の発明は、請求項１の発明において、前記構文解析部で受理された音声記号列に基づいて発声した音声を入力とし、その入力に対応する類の前後環境を含めた状態遷移モデルを連結して訓練する。
請求項３の発明は、請求項１の発明において、前記構文解析部で受理された音声記号列を含む音声を入力とし、類の前後環境を含めた状態遷移モデルと照合し、その認識結果をもっともらしい順に所定数表示し、正しい候補を選択することによって、正しい状態遷移モデルを連結して訓練する。
請求項４の発明は、請求項２又は３の発明において、類の前後環境を含めた状態遷移モデルの訓練に関し、過去に当該モデルに対して訓練が行われていた場合は、過去の状態遷移モデルと重ね合せて訓練する。
【００２２】
請求項５の発明は、請求項２又は３の発明において、類の前後環境を含めた状態遷移モデルの訓練に関し、過去に当該モデルに対して訓練が行われていた場合には、新たに当該モデルの類に対する前後環境を含めた状態遷移モデルを生成して訓練を行い、過去の対応状態遷移モデルは訓練しない。
請求項６の発明は、請求項４の発明において、類の前後環境を含めた状態遷移モデルの訓練に関し、請求項５によって記憶された状態遷移モデルの中から、入力音声と最も類似したモデルを更新する。
請求項７の発明は、請求項２乃至６のいずれかの発明において、類の前後環境を含めた状態遷移モデルの訓練に関し、初期モデルとして、環境独立の状態遷移モデルを連結する。
【００２５】
【発明の実施の形態】
最初に、連続音声認識方式について説明する。
図１は、本発明による連続音声認識方式の一実施例を説明するための概略ブロック図で、図中、１はＬＰＣ分析部、２は照合部、３は環境依存文法部、４は環境依存動作表部、５は構文解析部、６は環境依存型ＤＳＴモデル、７はパタン連結部、８は判定部、９はスイッチ、１０は環境独立文法部、１１は環境独立動作表部、１２は記号処理部で、図１に示した実施例によれば、構文解析部５に手を加えることなく、環境依存型のＤＳＴモデル６を利用でき、タスクに対して適応的でより確実な認識を行うことができる。環境独立文法部１０には、通常の音素を終端記号とする文法を、文脈自由文法などを用いて格納してある。文法の例を表１に示す。表１で、右辺の小文字は終端記号を表す。本実施例では、文法の終端記号及び標準パタンの類を音素として話を進めるが、単語，音節などのような類を採用してもかまわない。また、この文法から得たＬＲ解析表を環境独立動作表部１１に記憶しておく。表１の内容は、Ａ.Ｖ.Ａho他，“Compilers-Principles, Techniques, and Tools”，Addison-Wesley（1986）などに詳述されるＬＲ解析表と同じで、ＡＣＴＩＯＮ部とＧＯＴＯ部とから成り立っている。
【００２６】
【表１】
0003575904.tif 000005
【００２７】
まず、スイッチ９をＡ側に入れ、音素環境依存型の文法を作成するため、構文解析部５を駆動して、受理可能な文を終端記号列を用いて出力する。これは、北他，“ＨＭＭ音韻認識と拡張ＬＲ構文解析法を用いた連続音声認識”，情報処理学会論文誌，Vol.31, 3, pp.472-480（1990）などに詳述されるように、動作表から次に解析する終端記号を予測しながら、構文解析部５を駆動することによって実現することができる。
【００２８】
得られた文から、記号処理部１２で認識タスクとして必要な文を選択する。選択には、必要とする文を記号列照合により、自動的に選択してもよいし、人間が出力結果を編集することによって選択してもよい。その後、選択した文を終端記号の並びに応じて、環境依存型の終端記号列に変換する。例えば、／ｋｏｒｅｏｋｕｒｅ／という文を得ている時には、対象とする記号の先行及び後続記号の一文字を考慮して、／−ｋｏ  ｋｏｒ  ｏｒｅ  ｒｅｏ  ｅｏｋ  ｏｋｕ  ｋｕｒ  ｕｒｅ  ｒｅ−／のように変換する。中心の記号が対象とする終端記号であり、左右にはその環境を意味する記号を付加する。上述の例で／ｋｏｒ／は、／ｏ／という終端記号に先行して／ｋ／という終端記号があり、／ｒ／という記号が後続することを示す。／−／は、記号の始まりもしくは終りを示す。本実施例では、先行および後続する記号数を一つにしているが、いくつに設定してもよい。次に、変換した終端記号を用いて、環境依存文法を作成し、同文法部に格納する。作成された文法を表２に示す。同文法から得たＬＲ解析表を環境依存動作表部４に記憶しておく。
【００２９】
【表２】
0003575904.tif 000006
【００３０】
次に、スイッチ９をＢ側に入れ、連続音声の認識を行う。入力した音声をＬＰＣ分析し、１０次元のケプストラムパラメタを抽出する。ただし、分析条件として、標本化周波数８ｋＨｚ，ハミング窓による窓がけ（窓幅１６ｍｓ），ＬＰＣ分析次数１４とする。また、１フレームあたりのシフト幅は、５ｍｓｅｃ間隔としている。分析手法は、上記に限られたものではなく、新美，“音声認識”，共立出版（１９７９）などで詳述されているように、周波数分析など、どのような音響分析手法を用いてもよい。
【００３１】
構文解析部５では、ＬＲ解析表からどの音素を照合すればよいかを決定する。解析の状態が進むたびに、室井他，“継続時間制御状態遷移モデルを用いた単語音声認識”，J72-D-II, 11, pp.1769-1777（1989-11）に詳述されるような継続時間制御状態遷移（ＤＳＴ：Duration-based State Transition）モデルを連結する。本実施例では、音素の環境を考慮したＤＳＴモデルを用い、照合部において、ＤＳＴモデルと入力音声の特徴量との照合を行う。解析した文の句構造は、構文解析部５のチャートに記録しておく。最終的に全ての解析を終了した候補の中から最も小さい得点をもつ候補を式（５）に従って求め、認識結果として出力する。
【００３２】
【数３】
0003575904.tif 000007
【００３３】
ここで、ｒは、動的計画法により求められた伸縮関数である。この関数により、照合するｍフレーム目の入力特徴量とｒ（ｍ）番目のＤＳＴモデルの状態とが対応づけられる。ｌ（エル）ｒ（ｍ）は、入力音声パタンをＮ（ｓ）個の部分パタンに分割した時のｒ（ｍ）番目の部分パタンにおけるフレーム長を示す。右辺の第１項目が音響分析によって得られた特徴量に関する距離を表し、第２項目が部分パタンの継続時間長に関する距離を表す。ａは、正の数で、継続時間長に関する距離をどの程度全体の距離に反映させるかを決定する。本実施例では、ａ＝０．１程度に設定する。上述のＤＳＴモデルを用いることによって、音響空間上の特徴量だけでなく、音声パタンの特間的構造（特に部分パタンの時間長）を考慮した照合を行うことができる。
【００３４】
図２は、本発明の他の実施例を説明するための概略ブロック図で、図中、１３は発声リスト、１４はＤＳＴモデル訓練部で、その他、図１に示した実施例と同様の作用をする部分には、図１の場合と同一の参照番号が付してある。而して、図２に示した実施例は、図１に示した実施例によって得られた環境依存型の文法と動作表とを用いて、音素環境依存型ＤＳＴモデルを訓練できるようにしたもので、まず、スイッチ９をＡ側に入れ、音素環境依存型ＤＳＴモデル６の訓練を行う。発声リスト１３に対応した音声が入力され、ＬＰＣケプストラムパラメタが抽出される。次に、発声リスト１３に従って、環境依存型ＤＳＴモデル列とを動的計画法を用いて照合し、式（４）の基準に従って伸縮関数θに関して最小化を行う。求めた伸縮関数をｒとする。
ＤＳＴモデル訓練部１４において、モデルの平均値と継続時間長を次式に従い更新する。ここで、Ｎｒ（ｍ）は、ＤＳＴモデルのｒ（ｍ）番目の状態に対応づけられた入力パタンの最終フレーム番号である。
【００３５】
【数４】
0003575904.tif 000008
【００３６】
ただし、Ｎｒ（０）＝０とする。
上述の訓練を行った後、スイッチ９をＢ側に入れ、連続音声の認識を行う。認識過程の構成は、図１の実施例と同じであるため省略する。
【００３７】
図３は、本発明の更に他の実施例を説明するための概略ブロック図で、図中、１５は結果表示部、１６は選択部で、その他、図１又は図２に示した実施例と同様の作用をする部分には、図１又は図２の場合と同一の参照番号が付してある。而して、図３に示した実施例は、認識するために発声された入力音声を用いて音素環境依存型のＤＳＴモデルを訓練できるようにしたものである。図３に示した実施例によれば、認識とＤＳＴモデルの訓練とを同時に行うことができる。まず、入力音声を図１の実施例と同じ過程により認識し、ディスプレイなどの表示装置を用いて、表示部１５で認識候補の得点の低い順に所定数表示する。表示部１５に正解が含まれている場合には、キーボードなどの選択部１６により、正解を選択できるようにする。この選択により、入力された音声パタンに対して訓練するべきＤＳＴモデル列を決定することができる。これらのＤＳＴモデル列に対し、式（４），（８），（９）を適用して、訓練部１４にて、ＤＳＴモデルの平均値と継続時間長の更新を行う。訓練の過程は、図２の実施例と同じであるため省略する。
【００３８】
本実施例では、表示部において、照合時の距離尺度に式（７）に示すユークリッド距離を用いているため、得点の低い順番に候補を表示している。もし、尤度などを基準として認識候補の得点をつけた場合には、得点の高い順に表示することになる。もちろん、本発明においては、どちらの基準を用いても構わない。
【００３９】
図２または図３のＤＳＴモデル訓練部１４において、同じ類に対し、過去に訓練されたモデルが存在している場合には、次の２通りの方法によって、ＤＳＴモデルを訓練する。一つは、次式１０に従って、過去に訓練されたモデルＷｋ１と新しく訓練されたモデルＷｋ２とを重ね合わせて、Ｗｎ３を作成する方法である。
Ｗｋ３＝ｂＷｋ１＋（１−ｂ）Ｗｋ２          …（１０）
ここで、ｂは過去のモデルと新モデルとの混合比率を示す正の数である。特別な場合として、ｂ＝０の時には、モデルは訓練されないことを示し、ｂ＝１の時には、新モデルに置き換えることに相当する。
もう一つは、過去のモデルと新モデルとの両方を記憶しておく方法である。すなわち、訓練用の音声が入力されるたびに、新しいＤＳＴモデルを作成する。認識時には、最も入力音声パタンと近いＤＳＴモデル系列を認識結果として出力すればよい。
【００４０】
また、上述の２つの訓練法を組合わせた方法も可能である。上述の２つ目の方法は、同じ類に対して複数のモデルを持つことで、認識の精度を上げることができるが、照合時の組合せ回数が多くなるので、認識時間が長くなる。そこで、所定数だけ、モデルが作成された後は、重ね合わせの対象となるモデルを選択し、選択されたモデルと新しく訓練されたモデルとを式１０に従って重ね合わせる。列ｓが重ね合わせるＤＳＴモデルを含んだ列であるとした場合、重ね合わせの対象となるＤＳＴモデル列は、
【００４１】
【数５】
0003575904.tif 000009
【００４２】
を満たす。この方法により、認識時間と認識精度との関係を自由に調整し、使用者の所望とする性能に設定することができる。
以上に述べてきた環境依存型ＤＳＴモデルを訓練するために、環境独立型ＤＳＴモデルを初期モデルとすることも可能である。例えば、先行および後続音素が／ａ／である／ａ−ｋ−ａ／というＤＳＴモデルを訓練することを考える。この場合の初期モデルとして、／ｋ／という音素環境独立型のＤＳＴモデルを訓練することを考える。この場合の初期モデルとして、／ｋ／という音素環境独立型のＤＳＴモデルを用いて訓練を始める。音素環境独立型のＤＳＴモデルから質のよい初期値を与えることにより、高精度なモデルを設計することができる。
【００４３】
次に、標準パタン訓練方式について説明する。
図４は、標準パタン訓練方式の一実施例を説明するための概略ブロック図で、図中、２１は分節化部、２２は特徴パタン作成部、２３は照合部、２４は累積得点記憶部、２５は比較部、２６はＬＲ表部、２７は予測型チャート構文解析部で、まず、スイッチＷ1をＡ側に入れ、標準パタンの訓練を行なう。図４では、入力音声に対する状態遷移モデルを作成するために、ＬＲ表部２６を用いた予測型チャート構文解析部２７を駆動する。ＬＲ表部２６には表３に示すような文法から得られる動作表を記憶しておく。表３の記号の中で、終端記号は、’＊’で始まり、それ以外の記号は非終端記号である。この記述は実施例を示すため簡単にしてあるが、文脈自由文法による記法であればさらに複雑な記述が可能である。
【００４４】
【表３】
0003575904.tif 000010
【００４５】
ＬＲ表の内容は、Ａ．Ｖ．Ａｈｏ他，“Ｃｏｍｐｉｌｅｒｓ−Ｐｒｉｎｃｉｐｌｅｓ，Ｔｅｃｈｎｉｑｕｅｓ，ａｎｄ  Ｔｏｏｌｓ”，Ａｄｄｉｓｏｎ−Ｗｅｓｌｅｙ（１９８６）などに詳述されるＬＲ解析表と同じで、ＡＣＴＩＯＮ部とＧＯＴＯ部から成り立っている。この表の動作には、状態の遷移，文法の適用，受理，誤りの４種類がある。
【００４６】
表３のＬＲ表を用いて、予測型チャート構文解析部２７では、終端記号を先頭から１つずつ取り出し、表４から表６に示すアルゴリズムを適用し、その結果を表７に示すチャートとして記録する。チャートには最終的に受理動作を行なうまで、全ての句構造を記録していく。ただし、’＊＄’は最後を表す終端記号で予測した終端記号列の最後の位置に設定される。
【００４７】
【表４】
0003575904.tif 000011
【００４８】
【表５】
0003575904.tif 000012
【００４９】
【表６】
0003575904.tif 000013
【００５０】
表７は、例として“１月１日１時”の解析結果を示しているが、その他にも文法に基づいて“１月１日２時”，“１月２日１時”などが順次生成される。標準パタンの訓練は、これらの記号系列に対応する状態遷移モデルを作成することにより実現できる。
【００５１】
【表７】
0003575904.tif 000014
【００５２】
上述の予測型チャート構文解析部２７の動作により、終端記号を構成している文字系列のインデックス番号が順次に標準パタン記憶部２８へ送られる。標準パタンは文字単位で格納されているので、連結部２９にてインデックス番号を参照して終端記号単位に標準パタンを連結し、状態遷移モデル部３０にて状態遷移モデルを作成する。例えば、標準パタンが音素単位で格納されていれば、終端記号“１月”に対して／ｉ，ｃｈ，ｉ，ｇ，ａ，ｔ，ｕ／という標準パタンで構成する。なお、状態遷移モデルをＨＭＭのような確率モデルで表現しても、単語グラフや有限状態網のように厳格に表現してもどちらでも構わない。
【００５３】
一方、入力音声は分節化部２１により所定の時間だけ音声を入力し、新美，“音声認識”，共立出版（１９７９）などで詳述されているような分析手法によって特徴パタンに変換される。ここでは、１０次元のケプストラムパラメタを抽出し特徴パタンとする。ただし、分析条件として、標本化周波数：１６ｋＨｚ，高域強調：一次差分，２５６点ハミング窓，更新周期：１０ｍｓ，ＬＰＣ分析次数：２０とする。分析手法は上記に限られたものではなく、周波数分析などどのような音響分析手法を用いてもよい。入力する音声には、前記チャート構文解析部から生成された終端記号に対応するキーワードを含めておく。
【００５４】
次に、上述のようにして作成された状態遷移モデルと入力音声の特徴パタンとを、照合部２３にて照合する。構文解析部２７から生成された終端記号列のうち、ｓ番目の終端記号に対応する状態遷移モデルをｓＷ，（ｓ＝１，…，Ｓ）で表す。ｓＷをＬ個の標準パタンにより構成する。
【００５５】
【数６】
0003575904.tif 000015
【００５６】
ここで、ｐｑ（ｌ）は、系列中のｌ（１≦ｌ≦Ｌ）番目に対応する標準特徴パタンのインデックスであり、全体でＶ個の標準パタンを持つ。表７を例にすれば、生成文の終端記号数は、３であるので、Ｓ＝３である。また、各標準パタンは、実施例の場合、音素に対応するので、標準パタン数は総音素数と等しくなる。
同様にして、入力特徴パタンＸを以下のように表す。
Ｘ＝｛ｘ１，…，ｘｍ，…，ｘＭ｝    …（１３）
実施例において、Ｘは、入力音声中のＳ個のキーワードが含まれた特徴パタンである。照合部では、入力音声特徴パタンと状態遷移モデルとの照合得点Ｄを以下の式により求める。
【００５７】
【数７】
0003575904.tif 000016
【００５８】
ここで、ｍｓ１，ｍｓ２は、ｓ番目のキーワードに対応する音声特徴パタンの抽出区間の端点で、それぞれ始点と終点を表す。整合関数ｒは、照合経路を表す関数であり、よく知られた動的計画法などによって求めることができる。整合関数により、ｍフレーム目の入力特徴量とキーワードを構成するｒ（ｍ）番目の標準パタンとが対応づけられる。標準パタンと音声特徴パタンとの得点Ｄ（ｘｍ，ｐｒ（ｍ））は、正値をもつしきい値から、よく知られたユークリッド距離を引くことで得られる。式（１５）により得られたｒより、標準パタンに対応する音声特徴パタンの部分パタンが求まるので、この部分パタンを用いて標準パタンを訓練する。この訓練は、標準パタンのもつ特徴量と部分パタンの特徴量との相加平均を求め、新たに標準パタンとして登録することでなされる。
【００５９】
訓練の方法は、上記に限ったものではなく、状態遷移モデルをＨＭＭで表現すれば、Ｄ（ｘｍ，ｐｒ（ｍ））を尤度として計算することで実現できる。また、この時のＨＭＭの訓練は、前述の中川，“確率モデルによる音声認識”などに詳述される  Ｂａｕｍ−Ｗｅｌｃｈ  の推定法により可能である。式（１５）は、最大化を基準としているが、これに限ったものではなく、単なるユークリッド距離による最小化基準により訓練を行っても本発明の本質は変わらない。
【００６０】
以上に説明したように、キーワード単位で入力音声の部分パタンを照合するため、キーワード間に休止や不要語が挿入されても、標準パタンの訓練が可能である。上述の処理を予測型チャート構文解析部２７の終端記号列が生成されなくなるまで繰り返すことにより、訓練が完了する。次に、スイッチＷ1をＢに入れることにより、キーワード認識をすることができる。認識時には、予測型チャート構文解析部２７とＬＲ表部２６からキーワードを予測するように働く。解析が進むたびに予測キーワードの状態遷移モデルを作成するために標準パタンを連結する。照合部２３において、状態遷移モデルと入力音声の特徴量との照合を行う。予測したキーワード候補の得点は、累積得点記憶部２４に記憶しておき、最終的に全ての解析を終了した候補の中から最も高い得点をもつ候補を式（１５）に従って求め、認識結果として出力する。
【００６１】
図４に示した実施例において、式（１６）で、以下のような条件を導入することにより、照合時間を速くすることが可能である。
【００６２】
【数８】
0003575904.tif 000017
【００６３】
この式（１６）は、入力特徴パタン中でｓ番目のキーワードを検出し、その区間内に収まるフレームから次のキーワード、すなわちｓ＋１番目のキーワードの状態遷移モデルに対して照合を開始することを示している。
【００６４】
複数のキーワードが入力された場合、分節化部で音声の存在する部分だけを切り出してくることにより、高速な照合が可能である。図８は、二つのキーワード／一月／と／一日／が含まれている音声波形を示している。図８からわかるように、／一月／と／一日／の間には、若干の休止が存在している。このような場合に既出の新美，“音声認識”，共立出版（１９７９）などで述べられている音声の切り出しアルゴリズムなどを用いて、分節化部２１において、図８のＡとＢとの区間を求める。その後、切り出したＡとＢとの区間だけを状態遷移モデルとの照合対象とすることで、照合区間を短くすることができる。
【００６５】
図５は、他の実施例を示す概略ブロック図で、図中、図４に示した実施例と同様の作用をする部分には、図４の場合と同一の参照番号が付してある。而して、図５に示す実施例は、ＬＲ表部（２６Ａ，２６Ｂ，２６Ｃ）と予測型チャート構文解析部（２７Ａ，２７Ｂ，２７Ｃ）との組を複数用意したものである。標準パタンの訓練時に初期段階から複数のキーワードが含まれた音声を用いて標準パタンを訓練すると、不安定なパタンとなることがある。そのような現象を避けるため、初期段階では、入力音声から単一キーワードだけを訓練するようにし、徐々に音声中に含まれるキーワードを増やすことにより、標準パタンが安定するだけでなく、入力音声の多様な発話様式も合わせて訓練することができる。実施例では、ＬＲ表部２６Ａと予測型チャート構文解析部２７Ａとを用いて、キーワードが一つ含まれる文を生成するようになっている。同様に残りの２組は、キーワードが２つ含まれる文と、３つ含まれる文とをそれぞれ生成する。訓練時、すなわちスイッチＷ1をＡに入れた時には、まず、スイッチＷ2をＣに入れて前記実施例と同様の手続きに従って、キーワードが一つ含まれた入力音声から標準パタンを訓練する。次に、スイッチＷ2を順にＤ，Ｅと切替えていくことにより、音声中に含まれるキーワード数を増やして、標準パタンを訓練することができる。キーワード認識時には、スイッチＷ1をＢに入れ、スイッチＷ2をＣ，Ｄ，Ｅに全て入れることで実現できる。予測可能な全てのキーワード候補を生成することができるので、それらの中から最も高い得点を持つ候補を認識結果として出力すればよい。
【００６６】
図６は、他の実施例を説明するための概略ブロック図で、図６に示す実施例は、図４に示した実施例に表示装置３２を加えたものである。訓練時にスイッチＷ１をＡ側に入れ、スイッチＷ３をＣに入れる。表示装置３２には、予測型チャート構文解析部２７から生成されたキーワードを含む文が生成され、表示装置３２に“１月１日”のように表示される。この表示を見ながら、発声者が音声を入力する。その後の処理を、図４の実施例で述べた方法を同様にして行うことにより、標準パタンの訓練が完了する。認識は、スイッチＷ１をＢ側に入れ、スイッチＷ３をＣに切ることによって実現することができる。
【００６７】
図７は、さらに他の実施例を説明するための概略ブロック図で、図７に示す実施例は、図６の実施例によみ変換部３３を加えたものである。よみ変換を行うために、ＬＲ表を作成する時の文法を表８のように変更する。表８は、キーワードにあたる日付に対応するよみを書き換え規則として追加している。訓練時の表示装置には、よみ変換部３３により終端記号を含む書き換え規則の右辺も表示する。この結果、“１月（いちがつ）１日（ついたち）”のように表示することができ、１日を“いちにち”と読むようなことがなくなるため、発声者に正確な発話を促すことができる。
【００６８】
【表８】
0003575904.tif 000018
【００６９】
【発明の効果】
以上の説明から明らかなように、本発明によれば、タスクに応じて類の環境を考慮した文脈自由文法を適応的に生成することができる。また、機構が単純で、記憶量の小さい従来のＬＲ-Chart構文解析部に変更を加えることなく、環境依存型の音素モデルを組み合わせることが可能となる。さらに、類の環境を考慮した継続時間長制御型状態モデルを適応的に訓練することができる。その結果、高精度で高速な照合を行う連続音声認識を実現することができる。
請求項１に係わる発明は、入力音声の特徴量を抽出する手段と、類の一部を代表するパタンを時間方向に連結して状態遷移モデルとなし、音声の類をモデル化する手段と、音声記号列を文法により解析する構文解析部と、状態遷移モデルにおける各状態の照合継続時間を制御しながら入力音声パタンを照合する手段とを備え、当該状態遷移モデルと入力音声の特徴パタンとを比較することによって、認識結果を得る連続音声認識方式において、前記構文解析部で産理された音声記号列を用いて、類の前後環境を含めた終端記号列を生成し、文法を作成することにより、類の前後環境を含めた状態遷移モデルを未知入力音声と照合することができる。
請求項２に係わる発明は、請求項１において、前記構文解析部で受理された音声記号列に基づいて発声した音声を入力とし、その入力に対応する類の前後環境を含めた状態遷移モデルを連結して訓練することができる。
請求項３に係わる発明は、請求項１において、前記構文解析部で受理された音声記号列を含む音声を入力とし、類の前後環境を含めた状態遷移モデルと照合し、その認識結果をもっともらしい順に所定数表示し、正しい候補を選択することによって、正しい状態遷移モデルを連結して訓練することができる。
請求項４に係わる発明は、請求項２又は３において、類の前後環境を含めた状態遷移モデルの訓練に関し、過去に当該モデルに対して訓練が行われていた場合は、過去の状態遷移モデルと重ね合せることができる。
請求項５に係わる発明は、請求項２又は３において、類の前後環境を含めた状態遷移モデルの訓練に関し、過去に当該モデルの類に対して訓練が行われていた場合には、新たに当該モデルに対する前後環境を含めた状態遷移モデルを生成して訓練を行い、過去の対応状態遷移モデルは訓練しないようにして、認識時間と認識精度との関係を自由に調整し、使用者の所望とする性能に設定することができる。
請求項６に係わる発明は、請求項４において、類の前後環境を含めた状態遷移モデルの訓練に関し、請求項５によって記憶された状態遷移モデルの中から、入力音声と最も類似したモデルを更新することができる。
請求項７に係わる発明は、請求項２乃至６のいずれかにおいて、類の前後環境を含めた状態遷移モデルの訓練に関し、初期モデルとして、環境独立の状態遷移モデルを連結することができる。
【図面の簡単な説明】
【図１】本発明の一実施例による連続音声認識の実施例を示すブロック図である。
【図２】本発明の他の実施例を説明するための概略ブロック図である。
【図３】本発明のその他の実施例を説明するための概略ブロック図である。
【図４】  標準パタン訓練の一実施例を示すブロック図である。
【図５】  他の実施例を示す概略ブロック図である。
【図６】  他の実施例を示す概略ブロック図である。
【図７】  さらに他の実施例を示す概略ブロック図である。
【図８】二つのキーワード／一月／と／一日／が含まれている音声波形を示す図である。
【符号の説明】
１…ＬＰＣ分析部、２…照合部、３…環境依存文法部、４…環境依存動作表部、５…構文解析部、６…環境依存型ＤＳＴモデル、７…パタン連結部、８…判定部、９…スイッチ、１０…環境独立文法部、１１…環境独立動作表部、１２…記号処理部、１３…発生リスト、１４…ＤＳＴモデル訓練部、１５…結果表示部、１６…選択部、２１…分節化部、２２…特徴パタン作成部、２３…照合部、２４…累積得点記憶部、２５…比較部、２６…ＬＲ表部、２７…予測型チャート構文解析部、２８…標準パタン記憶部、２９…連結部、３０…状態遷移モデル部、３１…訓練部、３２…表示装置、３３…よみ変換部。
【図４】
0003575904.tif 000019
【図５】
0003575904.tif 000020
【図６】
0003575904.tif 000021
【図７】
0003575904.tif 000022
【図８】
0003575904.tif 000023
【図１】
0003575904.tif 000024
【図２】
0003575904.tif 000025
【図３】
0003575904.tif 000026