(57)【要約】【課題】音声認識における音声マッチングを行うのに適切な標準パターンを作成するのに好適な標準パターン作成方法、標準パターン作成装置及び標準パターン作成プログラムを提供する。【解決手段】標準パターン作成装置１を、記憶部１０と、データ処理部１２と、を含んだ構成とし、データ処理部１２を、標準パターンの学習を行うパターン学習部１２ａと、パターン学習部１２ａで作成された仮の標準パターンと標準パターン記憶部１０ｃに記憶されている複数話者の標準パターンとの数学的距離を、音素毎又は当該音素を構成するＨＭＭの状態毎に算出する距離算出部１２ｂと、当該算出結果に基づき、コーホートを作成する話者選択部１２ｃと、当該作成されたコーホートに基づき学習データ記憶部１０ｄから学習デ一夕を抽出するデータ抽出部１２ｄと、を含んだ構成とし、当該抽出された学習データに基づき初期の標準パターンを学習し最終的な標準パターンを作成する。【選択図】      図１
2004334024.tif 000002
【特許請求の範囲】
【請求項１】
新規話者の音声情報に基づき、当該新規話者の音声認識を行うのに適切な標準パターンを所定の学習手法により作成する標準パターン作成方法であって、
音素毎に作成された複数話者の標準パターンと、当該複数話者の音声情報と、を用意し、
前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを音素毎に作成し、
前記仮の標準パターンと前記複数話者の標準パターンとの数学的距離をそれぞれ算出し、
前記算出された数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出し、
当該抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成することを特徴とする標準パターン作成方法。
【請求項２】
前記音声情報の抽出において、前記音響的特徴の近い話者の音声情報の中から、該当する音素を含む文章単位の音声情報又は該当する音素を含む単語単位の音声情報を抽出することを特徴とする請求項１記載の標準パターン作成方法。
【請求項３】
前記標準パターンをＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）とし、
前記数学的距離を、音素毎又は前記ＨＭＭの状態毎に算出し、
前記算出された数学的距離に基づき、音素毎又は前記ＨＭＭの状態毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出することを特徴とする請求項１又は請求項２記載の標準パターン作成方法。
【請求項４】
前記ＨＭＭの状態毎に前記適切な標準パターンを作成することを特徴とする請求項３記載の標準パターン作成方法。
【請求項５】
新規話者の音声情報に基づき、当該新規話者の音声認識を行うのに適切な標準パターンを所定の学習手法により作成する標準パターン作成装置であって、
複数話者の音素毎に作成された標準パターンを記憶する標準パターン記憶手段と、
前記複数話者の音声情報を記憶する音声情報記憶手段と、
前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを音素毎に作成する仮標準パターン作成手段と、
前記仮標準パターン作成手段によって作成された前記仮の標準パターンと前記標準パターン記憶手段によって記憶された前記複数話者の標準パターンとの数学的距離をそれぞれ算出する距離算出手段と、
前記距離算出手段によって算出された前記数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出する音声情報抽出手段と、
前記音声情報抽出手段によって抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成する標準パターン作成手段と、を備えることを特徴とする標準パターン作成装置。
【請求項６】
前記音声情報抽出手段は、前記音響的特徴の近い話者の音声情報の中から、該当する音素を含む文章単位の音声情報又は該当する音素を含む単語単位の音声情報を抽出することを特徴とする請求項５記載の標準パターン作成装置。
【請求項７】
前記標準パターンをＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）とし、前記距離算出手段は、前記数学的距離を、音素毎又は前記ＨＭＭの状態毎に算出し、
前記音声情報抽出手段は、前記算出された数学的距離に基づき、音素毎又は前記ＨＭＭの状態毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出することを特徴とする請求項５又は請求項６記載の標準パターン作成装置。
【請求項８】
前記ＨＭＭの状態毎に前記適切な標準パターンを作成することを特徴とする請求項７記載の標準パターン作成装置。
【請求項９】
新規話者の音声情報に基づき、当該新規話者の音声認識を行うのに適切な標準パターンを作成するコンピュータが実行可能なプログラムであって、
音素毎に作成された複数話者の標準パターンと、当該複数話者の音声情報と、が用意されており、
前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを音素毎に作成し、
前記仮の標準パターンと前記複数話者の標準パターンとの数学的距離をそれぞれ算出し、
前記算出された数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出し、
当該抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成することを特徴とする標準パターン作成プログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、音声認識に係り、特に、音声認識における音声マッチングを行うのに適切な標準パターンを作成するのに好適な標準パターン作成方法、標準パターン作成装置及び標準パターン作成プログラムに関する。
【０００２】
【従来の技術】
従来、音素ごとの話者クラスタリングによる話者適応手法が知られている（例えば、特許文献１及び非特許文献１参照。）。この種の話者適応化手法は、既存のデータベースに対し、音素ごとに話者クラスタリングを行い、音声データとこのクラスタリングされた学習データとの類似度により音素ごとに学習データを選択し、適応学習を行うものである（図３、４に示すシステム構成により実現）。
【０００３】
ここで、図３に示されるシステムの構成においては、システムは記憶装置とデータ処理装置とから構成されている。記憶装置は、音声データ記憶部と、音素分類木と、学習データ記憶部と、ＨＭＭ記憶部と、を備え、データ処理装置は、音素グルーピング手段と、話者クラスタリング手段と、クラスタ選択手段と、モデル適応手段と、を備えている。一方、図４に示されるシステムの構成においては、システムは記憶装置とデータ処理装置とから構成されている。記憶装置は、音声データ記憶部と、音素分類木及びクラスタ情報記憶部と、学習データ記憶部と、ＨＭＭ記憶部と、を備え、データ処理装置は、音素グルーピング選択手段と、クラスタ選択手段と、モデル適応手段と、を備えている。
【０００４】
また、予めクラスタごとにモデル学習を行い、音声データとこの標準パターンとの尤度を算出することで標準パターンを選択することも可能であり、この場合選択された標準パターンを適応モデルとしている（図５  に示すシステム構成により実現）。話者クラスタリングに木構造を用いる場合は木構造に配置された標準パターンを、尤度に従い探索することで最適であろう標準パターンを選択することとなる。一般に木構造の最上層は不特定話者モデルといわれる全話者のデータベースから作成された標準パターン又は全話者のデータベースが配置されており、最下層には一話者の標準パターン又は一話者のデータベースが配置されている。
【０００５】
ここで、図５に示されるシステム構成においては、システムは記憶装置とデータ処理装置とから構成される。記憶装置は、音声データ記憶部と、音素分類木及びクラスタＨＭＭ記憶部と、から構成され、データ処理装置は、音素グルーピング選択手段と、クラスタ選択手段と、モデル適応手段と、から構成される。
また、十分統計量と話者距離を用いた話者適応化手法が知られている（例えば、非特許文献２参照。）。この種の話者適応化手法は図６  に示されるとおり、ＧＭＭ（Ｇａｕｓｓｉａｎ  ｍｉｘｔｕｒｅ  ｍｏｄｅｌ  ）用いて表現される話者モデルに対する音声データとの尤度を算出し、尤度上位の話者をＮ人選択後、選択された話者の十分統計量（データベースの性質を表す十分な統計量であり、ここではＨＭＭの音素モデルにおける平均、分散、Ｅ一Ｍカウントである。）から統計処理算出により適応モデルを作成するものである。
【０００６】
【特許文献１】
特開平１１一１８２６５０号公報
【非特許文献１】
鈴木基之、安部俊朗、森大毅、牧野正三、阿曽弘具、「音素ごとの木構造話者クラスタリングによる話者適応」、電子情報通信学会論文誌、Ｖｏｌ．Ｊ８２−Ｄ−ＩＩ  Ｎｏ．６、Ｐ．９８１一９８９
【非特許文献２】
芳捧伸一、馬場期、松波加奈子、米良祐一郎、山田美−、李晃伸、鹿野清宏、「十分統計量と話者距離を用いた音韻モデルの教師なし適応」、電子情報通信学会論文誌、Ｖｏｌ．Ｊ８５−Ｄ−ＩＩ  Ｎｏ．３、Ｐ．３８２一３８９
【０００７】
【発明が解決しようとする課題】
しかし、音素ごとの話者クラスタリングによる話者適応手法は、図３乃至図５を見てもわかるとおり話者クラスタの構造は音声データに依存しておらず、学習データに依存した構造となっている。結果、クラスタリングという観点から、クラスタの境目に適応話者が位置する場合、選択されたクラスタは音響的に適応話者を中心としたコーホートとはならないため、真に適した適応モデルとは言えない。クラスタリングに木構造クラスタリングを用いる場合でもクラスタの境目に適応話者が位置する場合、一つ上の階層の標準パターンを選択することになるため、同様に真に適した適応モデルとは言えない。また、十分統計量と話者距離を用いた話者適応化手法は、図６に示されるように話者の分類にＧＭＭを用いているため、全ての音素に対して同じ話者グループの十分統計量が用いられることになる。ある話者Ａとある話者Ｂは音素１の発声に対しては似ているが、音素２の発声に対しては、話者Ａは話者Ｂとは似ておらず話者Ｃと似ている、という場合もありえることから、音素によっては精度の良い話者適応ができずに性能が劣化する恐れがある。
【０００８】
そこで、本発明は、このような従来の技術の有する未解決の課題に着目してなされたものであって、音声認識における音声マッチングを行うのに適切な標準パターンを作成するのに好適な標準パターン作成方法、標準パターン作成装置及び標準パターン作成プログラムを提供することを目的としている。
【０００９】
【課題を解決するための手段】
上記目的を達成するために、本発明に係る請求項１記載の標準パターン作成方法は、新規話者の音声情報に基づき、当該新規話者の音声認識を行うのに適切な標準パターンを所定の学習手法により作成する標準パターン作成方法であって、
音素毎に作成された複数話者の標準パターンと、当該複数話者の音声情報と、を用意し、
前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを音素毎に作成し、
前記仮の標準パターンと前記複数話者の標準パターンとの数学的距離をそれぞれ算出し、
前記算出された数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出し、
当該抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成することを特徴としている。
【００１０】
つまり、音素ごとの標準パターンの類似度から、新規話者を中心に音響的に近い話者を選択（コーホートを作成）し、当該選択された話者の音声情報を抽出することで、音響的特徴に類似性のある音声情報を用いた学習を行うことが可能となり、音声認識に適切な標準パターンを得ることが可能となる。
ここで、所定の学習手法とは、例えば、標準パターンをＨＭＭとしたときは、「Ｂａｕｍ−Ｗｅｌｔｈ」、「ＥＭアルゴリズム」、「ＭＬＬＲ」、「ＭＡＰ推定」、「ＭＣＥ」等がある。但し、音声認識の枠組みをニューラルネットベース等の別のものにした場合は学習手法も変わる。
【００１１】
また、標準パターンとは、音声データに対してマッチングを行う標準的なパターンであり、統計モデルなどを用いて表現されるものである。
また、音声情報とは、学習データとも呼ばれるもので、例えば、複数の話者の音声データ（または音声データから抽出した特徴量）と、それらの発声内容を記述したテキストファイルのことを指す。
【００１２】
また、数学的距離とは、仮の標準パターンと複数話者の標準パターンとの類似度を示すもので、この類似度を測るモノサシの種類により様々なものがある。モノサシは、例えば、「ユークリッド距離」などの普通のモノサシでも測れる距離に対応したものや、類似度を測る距離を二つのベクトルの内積とし、二つのベクトルの成す角を類似度として評価するマハラノビスの汎距離などの、普通のモノサシでは測れない類似度に対応したものがある。  なお、本発明においては、数学的距離として、他に、バタチャリヤ（Ｂｈａｔｔａｃｈａｒｒｙａ）距離、平方ユークリッド距離、コサイン距離、ピアソンの相関、チェビシェフ、都市ブロック距離（あるいはマンハッタン距離）、ミンコウスキー和などがある。つまり、距離と称してはいるが、類似度を示すものであれば何でも良い。
【００１３】
また、初期の標準パターンとしては、上記した新規話者の仮の標準パターン、予め用意された不特定話者の標準パターンなどがある。
また、請求項２に係る発明は、請求項１記載の標準パターン作成方法において、前記音声情報の抽出において、前記音響的特徴の近い話者の音声情報の中から、該当する音素を含む文章単位の音声情報又は該当する音素を含む単語単位の音声情報を抽出することを特徴としている。
【００１４】
つまり、新規話者の音声情報だけではなく、音響的特徴の近い他の話者の文章単位の音声情報又は単語単位の音声情報を用いて学習を行うことにより、的を絞った効率の良い学習が可能となるので、より信頼性が高く、より頑健な標準パターンの作成が可能となる。
また、請求項３に係る発明は、請求項１又は請求項２記載の標準パターン作成方法において、前記標準パターンをＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）とし、
前記数学的距離を、音素毎又は前記ＨＭＭの状態毎に算出し、
前記算出された数学的距離に基づき、音素毎又は前記ＨＭＭの状態毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出することを特徴としている。
【００１５】
つまり、標準パターンとして公知の技術であるＨＭＭ（日本語では隠れマルコフモデルと言われている）を用いたものである。音声は、話すスピードによりその時間的な長さが変わり、発声内容により、周波数領域上で特徴的な形状（スペクトル包絡という）を示すが、その形状は発声する人、環境、内容等に依存し揺らぎが生じる。ＨＭＭは、そのような揺らぎを吸収することのできる統計的なモデルである。また、ＨＭＭは、どのような単位で定義されてもよく（例えば単語や音素）、各ＨＭＭ（ここで「各」というのは例えば単語であれば複数の単語が存在し、音素においても複数の音素が存在するため。）は複数の状態からなり、各状態は統計的に学習された、状態遷移確率（ａ）と出力確率（ｂ：正規分布、混合正規分布等の確率分布）とで構成される。そして、遷移確率は音声の時間伸縮の揺らぎを、出力確率はスペクトルの揺らぎを吸収する。また、本発明におけるＨＭＭは、音素毎に構成され、各音素に対して複数の状態を持つものである。そのため、音素毎又はＨＭＭの状態毎と言った表現となる。
【００１６】
また、請求項４に係る発明は、請求項３記載の標準パターン作成方法において、前記ＨＭＭの状態毎に前記適切な標準パターンを作成することを特徴としている。
つまり、ＨＭＭの状態毎に適切な標準パターンを作成するようにすることで、話者の細かな特徴に対応できる標準パターンを作成することが可能となる。
【００１７】
また、本発明に係る請求項５記載の標準パターン作成装置は、新規話者の音声情報に基づき、当該新規話者の音声認識を行うのに適切な標準パターンを所定の学習手法により作成する標準パターン作成装置であって、
複数話者の音素毎に作成された標準パターンを記憶する標準パターン記憶手段と、
前記複数話者の音声情報を記憶する音声情報記憶手段と、
前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを音素毎に作成する仮標準パターン作成手段と、
前記仮標準パターン作成手段によって作成された前記仮の標準パターンと前記標準パターン記憶手段によって記憶された前記複数話者の標準パターンとの数学的距離をそれぞれ算出する距離算出手段と、
前記距離算出手段によって算出された前記数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出する音声情報抽出手段と、
前記音声情報抽出手段によって抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成する標準パターン作成手段と、を備えることを特徴としている。
【００１８】
このような構成であれば、標準パターン記憶手段によって、複数話者の音素毎に作成された標準パターンを記憶することが可能であり、音声情報記憶手段によって、前記複数話者の音声情報を記憶することが可能であり、仮標準パターン作成手段によって、前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを前記所定の学習手法により音素毎に作成することが可能であり、距離算出手段によって、前記仮標準パターン作成手段によって作成された前記仮の標準パターンと前記標準パターン記憶手段によって記憶された前記複数話者の標準パターンとの数学的距離を算出することが可能であり、音声情報抽出手段によって、前記距離算出手段によって算出された前記数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出することが可能であり、標準パターン作成手段によって、前記音声情報抽出手段によって抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成することが可能である。
【００１９】
ここで、本発明は、請求項１記載の標準パターン作成方法を実現するための装置であり、その効果は重複するので記載を省略する。
また、請求項６に係る発明は、請求項５記載の標準パターン作成装置において、前記音声情報抽出手段は、前記音響的特徴の近い話者の音声情報の中から、該当する音素を含む文章単位の音声情報又は該当する音素を含む単語単位の音声情報を抽出することを特徴としている。
【００２０】
ここで、本発明は、請求項２記載の標準パターン作成方法を実現するための装置であり、その効果は重複するので記載を省略する。
また、請求項７に係る発明は、請求項５又は請求項６記載の標準パターン作成装置において、前記標準パターンをＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）とし、
前記距離算出手段は、前記数学的距離を、音素毎又は前記ＨＭＭの状態毎に算出し、
前記音声情報抽出手段は、前記算出された数学的距離に基づき、音素毎又は前記ＨＭＭの状態毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出することを特徴としている。
【００２１】
ここで、本発明は、請求項３記載の標準パターン作成方法を実現するための装置であり、その効果は重複するので記載を省略する。
また、請求項８に係る発明は、請求項７記載の標準パターン作成装置において、前記ＨＭＭの状態毎に前記適切な標準パターンを作成することを特徴としている。
【００２２】
ここで、本発明は、請求項５記載の標準パターン作成方法を実現するための装置であり、その効果は重複するので記載を省略する。
また、本発明に係る請求項９記載の標準パターン作成プログラムは、新規話者の音声情報に基づき、当該新規話者の音声認識を行うのに適切な標準パターンを作成するコンピュータが実行可能なプログラムであって、
音素毎に作成された複数話者の標準パターンと、当該複数話者の音声情報と、が用意されており、
前記新規話者の音声情報に基づき当該新規話者の仮の標準パターンを音素毎に作成し、
前記仮の標準パターンと前記複数話者の標準パターンとの数学的距離をそれぞれ算出し、
前記算出された数学的距離に基づき、音素毎に、前記複数話者の音声情報の中から前記新規話者の音声情報と音響的特徴の近い話者の音声情報を抽出し、
当該抽出された音声情報に基づき、初期の標準パターンから前記所定の学習手法により、前記適切な標準パターンを作成することを特徴としている。
ここで、本発明は、請求項１記載の標準パターン作成方法を実現するためのプログラムであり、その効果は重複するので記載を省略する。
【００２３】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。図１乃至図８は、本発明に係る標準パターン作成装置の実施の形態を示す図である。
まず、本発明に係る標準パターン作成装置の構成を図１に基づいて説明する。図１は、本発明に係る標準パターン作成装置の構成を示すブロック図である。
【００２４】
図１に示されるように、標準パターン作成装置１は、記憶部１０と、データ処理部１２と、を含んだ構成となっている。
記憶部１０は、入力された音声データを記憶する音声データ記憶部１０ａと、入力された音声データから学習された仮の標準パターンを記憶するパターン記憶部１０ｂと、予め作成された複数話者の標準パターンを記憶する標準パターン記憶部１０ｃと、当該標準パターンを学習するために用いた話者ごとの音声データ（以下、学習データという）を記憶する学習データ記憶部１０ｄと、を含んだ構成となっている。
【００２５】
データ処理部１２は、音声データ記憶部１０ａの音声データや学習データ記憶部１０ｄの学習データ等を用いてＨＭＭによって構成された標準パターンの学習を行うパターン学習部１２ａと、パターン学習部１２ａで作成された仮の標準パターンと標準パターン記憶部１０ｃに記憶されている複数話者の標準パターンとの数学的距離を、音素毎又は当該音素を構成するＨＭＭの状態毎に算出する距離算出部１２ｂと、距離算出部１２ｂの算出結果に基づき、複数話者の中から音素毎又は当該音素を構成するＨＭＭの状態毎に仮の標準パターンの話者と音響的に近い話者を選択する（コーホートを作成する）話者選択部１２ｃと、話者選択部１２ｃの話者選択結果に基づき学習データ記憶部１０ｄから選択された話者の学習デ一夕を抽出するデータ抽出部１２ｄと、を含んだ構成となっている。
【００２６】
ここで、本実施の形態において、標準パターン作成装置１は、図示しないプロセッサと、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）と、専用のプログラムの記憶されたＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）と、を備えており、プロセッサにより専用のプログラムを実行することにより上記各部の制御を行う。
次に、図２に基づき、標準パターン作成装置１のより具体的な動作を説明する。図２は、ＨＭＭによって構成される標準パターンの一例を示す図である。図中、ａ１１〜ａ３４は状態遷移確率であり、各数字の意味としてはａ１２を例として説明すると、この場合は、状態１から状態２への遷移確率となる。また、ｂ１（ｘ）〜ｂ３（ｘ）は、観測シンボル系列ｘが与えられたときの各状態１〜３の出力確率である。
【００２７】
まず、新規話者が発声した音声を、図示しない入力デバイスを介して取得し、且つ、所定の解析処理及び変換処理を施して音声データを生成し音声データ記憶部１０ａに記憶する。次に、パターン学習部１２ａにおいて音声データ記憶部１０ａに記憶された音声データを用いて学習を行い、新規話者の仮の標準パターンを作成する。ここで、標準パターンは、図２に示すように、ＨＭＭにより構成される。また、本実施の形態においては、ＨＭＭの単位を音素として定義する。従って、本実施の形態において、音素毎とは、複数の状態からなる  ＨＭＭのことを指し、ＨＭＭの各状態とは、音素を構成するＨＭＭの複数の状態のそれぞれを指す。
【００２８】
つまり、具体例を挙げると、ＨＭＭの状態数を３と定義した場合、例えば単語「あさひ」では、音素系列は、「ａ−ｓ−ａ−ｈ−ｉ」となり、状態系列は、「（ａ＿１，ａ＿２，ａ＿３）−（ｓ＿１，ｓ＿２，ｓ＿３）−（ａ＿１，ａ＿２，ａ＿３，）−（ｈ＿１，ｈ＿２，ｈ＿３）−（ｉ＿１，ｉ＿２，ｉ＿３）」となる（”＿”に続く数字はＨＭＭの状態番号を示す）。従って、本実施の形態においては、音素毎又はＨＭＭの状態毎に、ＨＭＭのパラメータを所定の学習手法によって学習することになる。
【００２９】
また、ＨＭＭのパラメータは、入力されたデータに対して起きる状態遷移が観測できないため、直接最尤推定する事ができない。そこで、本実施の形態においては、公知のＢａｕｍ−Ｗｅｌｔｈ（バウム−ウェルチ）のパラメータ推定法により、観測シンボル系列ｘが与えられた時に、Ｐ（ｘ｜Ｍ）（Ｍは、初期確率、遷移確率及び出力確率で構成されるＨＭＭ）が最大となるパラメータを推定することでＨＭＭの学習を行う。つまり、この推定を、推定結果の値が収束するまで繰り返し行うことでＨＭＭの適切なパラメータを求める学習を行う。なお、複数の学習データがある場合は、全ての学習データに対して推定を行ってからパラメータを更新する。
【００３０】
そして、学習によって作成された標準パターンはパターン記憶部１０ｂに記憶される。
次に、距離算出部１２ｂにおいて、パターン記憶部１０ｂに記憶された仮の標準パターンと標準パターン記憶部１０ｃに記憶された複数話者の標準パターンとの数学的距離を算出する。つまり、第一のＨＭＭ（Ａ）と第二のＨＭＭ（Ｂ）の距離Ｘは、以下に示す式（１）又は式（２）に基づき、音素毎又はＨＭＭの状態毎に算出される。
【００３１】
【数１】
2004334024.tif 000003
【００３２】
但し、Ｊは次元数、Ｌは状態数、μは平均、Σは分散とする。
ここで、標準パターン記憶部１０ｃには複数話者の音声データを用いて学習された標準パターン（以下、不特定話者モデルという）も記憶されており、距離算出時にはこのモデルとの数学的距離も算出されることになる。
また、距離算出部１２ｂでは、距離算出を行う際の距離尺度を複数用意することができる。例えば、音声データ量が十分にある音素又はＨＭＭの状態に対しては平均と分散を用いた距離尺度を用いたり、音声データ量が少ない音素又はＨＭＭの状態に対しては分散値に依存しない距離尺度を用いたりする等、音声データから学習される標準パターンの精度により距離尺度を変更することができる。
【００３３】
次に、話者選択部１２ｃにおいて、距離算出部１２ｂでの算出結果から音素毎又はＨＭＭの状態毎にコーホートを作成する。ここで、話者選択部１２ｃではコーホート作成方法を複数用意することができる。用意できる作成方法としては、例えば、学習データ量を一定としたい場合は近傍Ｎ人（Ｎは任意の整数）を選択する手法、コーホートの音響空間の範囲を一定としたい場合は距離Ｌ（Ｌは任意の実数）内を選択する手法、又は両者の組み合わせ、等のコーホート作成方法がある。つまり、いずれかの作成方法に従って、複数話者の中から、音素毎又はＨＭＭの状態毎に、新規話者と音響的に近い話者を選択する。
【００３４】
つまり、上記の距離算出部１２ｂにより算出された結果から仮の標準パターンと距離の近い標準パターンが複数選択され、その集合をコーホートとする。また、選択された標準パターンはそれぞれがどの話者によるものか、またデータベースはどこか、がタグ付けされており、この情報を元に仮の標準パターン学習のための学習データ（適応データ）を抽出することになる。
【００３５】
また、不特定話者モデルとの距離関係からコーホート作成の有無を判断することができる。例えば、不特定話者モデルとの距離が最も近い又は上位Ｍ人（Ｍは任意の整数）以内又は距離Ｋ（Ｋは任意の実数）以内であるような音素又はＨＭＭの状態に関してはコーホートを作成せず、標準パターンに不特定話者モデルをそのまま適用する、という過程をとることも可能である（この場合、図１のブロック図では話者選択部１２ｃから直接標準パターンが出力されることになる）。ここで、出力された標準パターンは、音声認識などに用いられる。
【００３６】
最後に、データ抽出部１２ｄでは話者選択部１２ｃで作成されたコーホートに基づき学習データ記憶部１４から音素毎又はＨＭＭの状態毎に学習データを抽出し、抽出された学習データを用いてパターン学習部１２ａにおいて、新規話者の仮の標準パターン（ＨＭＭ）又は予め学習用に用意された不特定話者の標準パターンのいずれかを選択して、そのパラメータ学習を行うことで最終的な標準パターンを作成する。
【００３７】
つまり、新規話者の発話した音声データだけでは信頼性や頑健性において足りない部分を音響的に類似している他の話者の音声データを用いた学習により補う。しかも、本発明では、音素毎又はＨＭＭの状態毎にこれを補うことで、信頼性や頑健性をより強固なものとしている。ここで、本実施の形態において、コーホートに基づき抽出する該当話者の学習データは、当該コーホートの作成に係る該当話者の音素を含む、文章単位の音声データ又は単語単位の音声データのいずれかを選択して抽出できるものとする。
【００３８】
更に、図７に基づき、標準パターン作成装置１の動作処理の流れを説明する。図７は、標準パターン作成装置１の動作処理を示すフローチャートである。
図７に示すように、まずステップＳ７００に移行し、標準パターン作成装置１に新規話者の発声した音声が入力されたか否かを判定し、入力されたと判定された場合（Ｙｅｓ）はステップＳ７０２に移行し、そうでない場合（Ｎｏ）は入力されるまで待機する。
【００３９】
ステップＳ７０２に移行した場合は、入力された音声を解析し、音声データを生成してステップＳ７０４に移行する。
ステップＳ７０４では、生成された音声データを音声データ記憶部１０ａに記憶してステップＳ７０６に移行する。
ステップＳ７０６では、パターン学習部１２ａにおいて、音声データ記憶部１０ａに記憶された新規話者の音声データを読み出し、当該音声データに基づき仮の標準パターンを学習により作成してステップＳ７０８に移行する。ここで、学習には、上記したＢａｕｍ−Ｗｅｌｔｈのパラメータ推定法を用いる。
【００４０】
ステップＳ７０８では、パターン学習部１２ａにおいて作成された仮の標準パターンをパターン記憶部１０ｂに記憶してステップＳ７１０に移行する。
ステップＳ７１０では、距離算出部１２ｂにおいて、パターン記憶部１０ｂに記憶された仮の標準パターンを読み出し、且つ、標準パターン記憶部１０ｃに記憶された複数話者の標準パターンを読み出し、当該読み出した仮の標準パターンと複数話者の標準パターンとの数学的距離を、上記した式（１）又は式（２）に従い算出してステップＳ７１２に移行する。ここで、数学的距離は、上記したように、音素毎又はＨＭＭの状態毎に算出されることになる。また、上記したように、ここでは、不特定話者モデルと仮の標準パターンとの数学的距離も算出する。
【００４１】
ステップＳ７１２では、話者選択部１２ｃにおいて、上記算出された、音素毎又はＨＭＭの状態毎の数学的距離に基づき、新規話者と音響的に近い話者を複数話者の中から選択してステップＳ７１４に移行する。ここで、本実施の形態においては、不特定話者モデルとの数学的距離が一番短いような場合などに対応するために、コーホートを作成せずに、当該不特定話者モデルを初期の標準パターンとして選択することが可能となっている。
【００４２】
ステップＳ７１４では、データ抽出部１２ｄにおいて、上記選択された話者（コーホート）に基づき、学習データ記憶部１０ｄから当該話者の学習データを抽出してステップＳ７１６に移行する。
ステップＳ７１６では、パターン学習部１２ａにおいて、上記抽出された学習データに基づき選択された初期の標準パターンを学習することで、最終的な標準パターンを作成しステップＳ７００に移行する。
【００４３】
更に、本発明の効果を具体的に示すために実験を行った。新規話者は高齢者５名（男性３名、女性２名）で、それぞれ発話した音声データは１００文である。なお、標準パターンの作成は音素ごとに行うものとする。
標準パターン記憶部１０ｃに記憶される複数話者の標準パターンは、高齢者３０１名（男性１５１名、女性１５０名）分と、更に高齢者の男女の不特定話者モデルとする。学習データ記憶部１０ｄに記憶される学習データは各話者毎にそれぞれ２００文とする。話者選択部１２ｃでは、音素ごとに新規話者の近傍５０名を選択することでコーホートを作成する。
【００４４】
そして、作成されたコーホートに従い抽出された学習データを用いて学習した標準パターンと不特定話者モデルとを用いてそれぞれ認識実験を行った結果が図８である。評価データは新規話者の音声データ１００文を用いた。
図８に示されるように、全体的に、本発明の標準パターンを用いた音声認識の方が認識率が高いことが分かる。
【００４５】
以上、音素毎又はＨＭＭの状態毎に新規話者を中心に音響的に近い複数話者から構成されるコーホートを作成することで、当該コーホートに基づき抽出された学習データに基づき、音素毎又はＨＭＭの状態毎に、新規話者の適切な標準パターンを学習により作成することが可能である。
ここで、図１に示す、標準パターン記憶部１０ｃは、請求項６記載の標準パターン記憶手段に対応し、学習データ記憶部１０ｄは、請求項６記載の音声情報記憶手段に対応し、パターン学習部１２ａにおける仮の標準パターンの作成処理は、請求項６記載の仮標準パターン作成手段に対応し、距離算出部１２ｂは、請求項６及び請求項８記載の距離算出手段に対応し、話者選択部１２ｃ及びデータ抽出部１２ｄは、請求項６乃至請求項８記載の音声情報抽出手段に対応し、パターン学習部１２ａにおける標準パターンの作成処理は、請求項６記載の標準パターン作成手段に対応する。
【００４６】
【発明の効果】
以上説明したように、本発明に係る標準パターン作成装置によれば、音素毎又はＨＭＭの状態毎に新規話者を中心に音響的に近い複数話者から構成されるコーホートを作成することで、当該コーホートに基づき抽出された学習データに基づき、音素毎又はＨＭＭの状態毎に、新規話者の適切な標準パターンを、所定の学習手法による初期の標準パターンのパラメータを学習することによって作成することが可能であるので、信頼性及び頑健生に優れた音声認識用の標準パターンを作成することが可能である。
ここで、本発明に係る標準パターン作成方法及び標準パターン作成プログラムの効果は、上記標準パターン作成装置の効果と重複するので記載を省略する。
【図面の簡単な説明】
【図１】本発明に係る標準パターン作成装置の構成を示すブロック図である。
【図２】ＨＭＭによって構成される標準パターンの一例を示す図である。
【図３】従来のシステム構成を示すブロック図である。
【図４】従来のシステム構成を示すブロック図である。
【図５】従来のシステム構成を示すブロック図である。
【図６】従来の話者適応化手法の一例を示すブロック図である。
【図７】標準パターン作成装置１の動作処理を示すフローチャートである。
【図８】認識実験を行った結果を示す図である。
【符号の説明】
１                標準パターン作成装置
１０ａ            音声データ記憶部
１０ｂ            パターン記憶部
１０ｃ            標準パターン記憶部
１０ｄ            学習データ記憶部
１２              データ処理部
１２ａ            パターン学習部
１２ｂ            距離算出部
１２ｃ            話者選択部
１２ｄ            データ抽出部
【図１】
2004334024.tif 000004
【図２】
2004334024.tif 000005
【図３】
2004334024.tif 000006
【図４】
2004334024.tif 000007
【図５】
2004334024.tif 000008
【図６】
2004334024.tif 000009
【図７】
2004334024.tif 000010
【図８】
2004334024.tif 000011