【手続補正書】
【提出日】平成16年7月7日(2004.7.7)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】特許請求の範囲
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
音声認識のためのハイブリッド隠れマルコフ／ベイジアンネットワーク（ＨＭＭ／ＢＮ）モデルを記憶する記憶装置を含み、隠れマルコフモデル（ＨＭＭ）は時間的な音声の特徴をモデリングするのに用いられ、ベイジアンネットワーク（ＢＮ）は状態確率モデルをあらわすのに用いられ、さらに
当該記憶装置に記憶されたＨＭＭ／ＢＮモデルを用いて入来する音声データをデコードする音声デコーダを含む、音声認識装置。
【請求項２】
ＢＮの状態確率モデルが、変数Ｘと、以下で計算される条件付確率Ｐ（Ｙ｜Ｑ）とをさらに含み、
【数１】
2004163445.tif 000001
ただし、Ｙは一連の観測パラメータを表わし、Ｑは状態変数を表わし、ＸはＱとは独立してＹの値に影響を与える所定の要素を反映する変数を表わし、ｘはＸがとり得る値の一つであり、Ｎ（ｘ）はＸがとり得る値の数である、請求項１に記載の音声認識装置。
【請求項３】
前記変数Ｘが環境ノイズを表わす、請求項２に記載の音声認識装置。
【請求項４】
前記変数Ｘが話者の識別情報を表わす、請求項２に記載の音声認識装置。
【請求項５】
前記変数Ｘが話者の母語を表わす、請求項２に記載の音声認識装置。
【請求項６】
状態確率モデルが変数ＮとＳとをさらに含み、条件付確率Ｐ（Ｙ｜Ｑ）は以下で計算され、
【数２】
2004163445.tif 000002
ただし、Ｙは一連の観測パラメータを表わし、Ｑは状態変数を表わし、ＮおよびＳは、Ｑとは独立してＹの値に影響を与える所定の要素を反映する変数を表わし、ｎおよびｓはＮおよびＳがそれぞれとり得る値の一つであり、Ｎ（ｎ，ｓ）はＮおよびＳがとり得る値の組合せの数である、請求項１に記載の音声認識装置。
【請求項７】
前記変数Ｎがノイズの種類を表わす、請求項６に記載の音声認識装置。
【請求項８】
前記変数Ｓが入来する音声データの信号対雑音比を表わす、請求項６または請求項７に記載の音声認識装置。
【請求項９】
請求項１から請求項８のいずれかに記載の音声認識装置としてコンピュータを動作させるための、コンピュータで実行可能な音声認識プログラム。
【請求項１０】
請求項１から請求項８のいずれかに記載の音声認識装置としてコンピュータを動作させるための、コンピュータで実行可能な音声認識プログラムを記憶した、コンピュータ読取可能な記憶媒体。
【請求項１１】
データ処理システムにおいてＨＭＭ／ＢＮモデルを準備するための方法であって、
前記ＨＭＭ／ＢＮモデルを初期化するステップと、
入力された音声データから特徴を抽出するステップと、
抽出されたデータに対し基本認識部を用いて、時間的に整列され、互いに分離された状態を準備するステップと、
前記時間的に整列され、互いに分離された状態から、ＨＭＭ／ＢＮモデル内のベイジアンネットワークのためのトレーニングデータを準備するステップと、
当該トレーニングデータを用いてベイジアンネットワークの状態をトレーニングするステップと、
ＨＭＭ／ＢＮモデルの確率の遷移を再推定するステップと、
状態遷移を更新するステップと、
前記トレーニング、再推定、および更新のステップを、所定の終了条件が満たされるまで反復するステップとを含む、方法。
【請求項１２】
前記時間的に整列され、互いに分離された状態を準備するステップは、前記基本認識部を用いて、ビタビアライメントにより行なわれる、請求項１１に記載の方法。
【請求項１３】
請求項１１から１２のいずれかの全てのステップを行なうように構成されたコンピュータコード手段を含む、コンピュータプログラム。
【請求項１４】
コンピュータ読取可能媒体上に記録された、請求項１３に記載のコンピュータプログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１０
【補正方法】変更
【補正の内容】
【００１０】
【非特許文献１】
Ｋ.トクダ、Ｔ.マスコ、Ｎ.ミヤザキ、Ｔ.コバヤシ、『ピッチパターンモデリングのための多元空間確率分布に基づく隠れマルコフモデル』、ＩＣＡＳＳＰ予稿集、ｐｐ．２２９−２３２，１９９９年。（K.  Tokuda,  T.  Masuko,  N.  Miyazaki,  and  T.  Kobayashi,  “Hidden  Markov  Models  based  on  multi-space  probability  distribution  for  pitch  pattern  modeling.”  In  Proc.  ICASSP,  pp.  229-232,  1999.）
【非特許文献２】
Ｔ.ディーン、Ｋ.カナザワ、「確率的な時間的推論」、ＡＡＡＩ，ｐｐ．５２４−５２８，１９８８年。（T.  Dean  and  K.  Kanazawa,  “Probabilistic  temporal  reasoning,”  in  AAAI,  pp.  524-528,  1988.）
【非特許文献３】
G．ツヴァイク、Ｓ.ラッセル、『自動音声認識のためのベイジアンネットワークによる確率モデリング』、ＩＣＳＬＰ予稿集、ｐｐ．３０１０−３０１３，１９８８年。（G.  Zweig  and  S.  Russell,  “Probabilistic  modeling  with  Bayesian  Networks  for  automatic  speech  recognition,”  in  Proc.  ICSLP,  pp.  3010-3013,  1998.）
【非特許文献４】
Ｋ.ダウディ、Ｄ.フォア、Ｃ.アントワーヌ、『確率的グラフモデルに基づく多帯域音声認識の新たなアプローチ』、ＩＣＳＬＰ予稿集，ｖｏｌ．１，ｐｐ．３２９−３３２，２０００年。（K.  Daoudi,  D.  Fohr,  and  C.  Antoine,  “A  new  approach  for  multi-band  speech  recognition  based  on  probabilistic  graphical  models,”  in  Proc.  ICSLP,  vol.  1,  pp.  329-332,  2000.）
【非特許文献５】
Ｔ.スティーブンソン、Ｍ.マシュウ、Ｈ．ボラード、『ベイジアンネットワークに基づくＡＳＲでの補助情報のモデル化』、ユーロスピーチ予稿集、ｐｐ．］２７６５−２７６８，２００１年。（T.  Stephenson,  M.  Mathew,  and  H.  Bourlard,  “Modeling  auxiliary  information  in  Bayesian  Network  based  ASR,”  in  Proc.  Eurospeech,  pp.  2765-2768,  2001.）
【非特許文献６】
Ｋ.ダウディ、Ｄ.フォア、Ｃ.アントワーヌ、「ベイジアンネットワークを用いた連続多帯域音声認識」、Proc.  ASRU,  2001年。（K.  Daoudi,  D.  Fohr,  and  C.  Antoine,  “Continuous  multi-band  speech  recognition  using  Bayesian  Networks,”  in  Proc.  ASRU,  2001.）
【発明が解決しようとする課題】
ＢＮのこれらの魅力的な特性にも関わらず、音声認識への応用は依然として、小さな、単独の語認識作業に対するものに限られている。その理由は、ＢＮパラメータの学習および推論のための既存のアルゴリズムが、連続した音声認識（ＣＳＲ）および、特に語彙の多いＣＳＲ作業にはそれほど適していないからである。連続して発話された数字の認識を可能にするＤＢＮ語モデルの拡張が、ダウディらの非特許文献６に報告されてはいるものの、作業対象となる語彙がわずか数百に増加するだけでも、あまりにも計算量が多くなり過ぎる。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００１６
【補正方法】変更
【補正の内容】
【００１６】
好ましくは、変数Ｘは環境ノイズ、話者認識情報、または話者の母語を表わしてもよい。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００１８
【補正方法】変更
【補正の内容】
【００１８】
【数４】
2004163445.tif 000003
ただし、Ｙは一連の観測パラメータを表わし、Ｑは状態変数を表わし、ＮおよびＳはＱとは独立してＹの値に影響を与える所定の要素を反映する変数を表わし、ｎおよびｓはＮおよびＳがそれぞれとり得る値の一つであり、Ｎ（ｎ，ｓ）はＮおよびＳがとり得る値の組合せの数である。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００４２
【補正方法】変更
【補正の内容】
【００４２】
−コンピュータでの実現例−
図７はこの実施例の全体図である。図７を参照して、このシステムは、トレーニングデータ１１０とＨＭＭ／ＢＮモデル１１２とに基づいてＨＭＭ／ＢＮハイブリッドモデル１１４をトレーニングするためのトレーニングシステム１００と、ＨＭＭ／ＢＮハイブリッドモデル１１４を記憶するための媒体１０４と、コンピュータシステムで実現され、音声データ１２０を媒体１０４に記憶されたＨＭＭ／ＢＮハイブリッドモデル１１４でデコード（音声認識１２２）し、認識された音声１２４を出力するための音声認識システム（音声デコーダ）１０２とを含む。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００４６
【補正方法】変更
【補正の内容】
【００４６】
コンピュータシステム３０に音声認識を行なわせるプログラムは、ＣＤ−ＲＯＭドライブ５０またはＦＤドライブ５２に挿入されるＣＤ−ＲＯＭ６２または図示しないＦＤに記憶され、さらにハードディスク５４に転送される。またはこれに代えて、プログラムは図示しないネットワークを通じてコンピュータ４０に送信されハードディスク５４に記憶されてもよい。プログラムは実行の際にＲＡＭ６０にロードされる。ＣＤ−ＲＯＭ６２、ＦＤ６４、またはネットワークを介してＲＡＭ６０にプログラムを直接ロードしてもよい。
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】００４７
【補正方法】変更
【補正の内容】
【００４７】
プログラムは、コンピュータ４０にこの実施例の音声認識を行なわせるいくつかの命令を含む。この方法を行なわせるのに必要な基本的機能のいくつかはコンピュータ４０のオペレーティングシステム（ＯＳ）またはサードパーティのプログラム、もしくはコンピュータ４０にインストールされるＨＭＭツールキット等のモジュールにより提供されるので、このプログラムはこの実施例の方法を実現するのに必要な機能全てを必ずしも含まなくてよい。このプログラムは、命令のうち、所望の結果が得られるように制御されたやり方で適切な機能または「ツール」を呼出す事により音声認識プロセスを実行する命令のみを含んでいるだけでよい。コンピュータシステム３０の動作は周知であるので、ここでは繰り返さない。
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００５７
【補正方法】変更
【補正の内容】
【００５７】
例えば、ある付加的な隠れ変数Ｘが多言語システムでの言語を表わす場合、各フレームについてＰ（Ｘ｜Ｑ）を計算し、これらの確率を、入力された発話全体にわたり累積する事ができる。その場合、ｘ＝ａｒｇｍａｘx  Ｐ（ｘ｜Ｑs）、Ｑsは最高の仮定状態シーケンス、となるｘは、その発話がなされた言語として最も確率の高い言語を示す。従って、多言語の音声認識に加えて、このようなシステムは言語認識をも行なう事ができる。なお、関数ｘ＝ａｒｇｍａｘx  Ｐ（ｘ｜Ｑs）は、Ｐ（ｘ｜Ｑs）を最大にするｘを示す。
【手続補正９】
【補正対象書類名】明細書
【補正対象項目名】符号の説明
【補正方法】変更
【補正の内容】
【符号の説明】
１００  トレーニングシステム、１０２  音声認識システム、１０４  記憶媒体、  １１０トレーニングデータ、１１２  ＨＭＭ／ＢＮモデル、１１４  ＨＭＭ／ＢＮハイブリッドモデル、１２０  音声データ、１２２  音声認識、１２４  出力
【手続補正１０】
【補正対象書類名】図面
【補正対象項目名】図７
【補正方法】変更
【補正の内容】
【図７】
2004163445.tif 000004
【手続補正１１】
【補正対象書類名】図面
【補正対象項目名】図１０
【補正方法】変更
【補正の内容】
【図１０】
2004163445.tif 000005