(57)【要約】【課題】ＳＶＭを用いた音響モデルの学習装置を提供する。【解決手段】学習装置は、学習データ記憶部１０２と、各音素の内部状態のＳＶＭパラメータを記憶するＳＶＭパラメータ記憶部１１６と、学習データの各々と、対応する音響モデル内の内部状態との間を初期アライメントする初期アライメント処理部１１０と、初期アライメント済の学習データを記憶する、書換え可能な記憶部１１２と、アライメント済の学習データを用いて音響モデルの各内部状態のＳＶＭの学習を行なうアライメント処理部１１８と、学習データの各々について、ＳＶＭ学習部１１４により学習された音響モデルを用いて各音響モデル内の内部状態とアライメントを行ない、記憶部１１２の学習データを更新する学習データ更新部１２２と、終了条件が成立するまで、ＳＶＭ学習と学習データのアライメントとを繰返し実行させる比較部１２６とを含む。【選択図】図４
2012185450.tif 000002
【特許請求の範囲】
【請求項１】
各々が一連の音響特徴ベクトルからなり、かつ各々にトランスクリプションが付された複数の学習データを記憶するための学習データ記憶手段と、
各音素の音響モデルのパラメータを記憶するための音響モデル記憶手段とを含み、
前記音響モデルの各々は、マルコフ過程に基づく、Ｎ個の内部状態（Ｎは自然数）からなるモデルであり、各内部状態は、音響データが当該内部状態から出力されたものである尤度を推定するＳＶＭに対応付けられ、
前記複数の学習データの各々の各部と、対応する音響モデル内の内部状態との間の初期アライメントを準備する初期化手段と、
前記初期化手段により初期化されたアライメント済の学習データを記憶する、書換え可能なアライメント済データ記憶手段と、
前記アライメント済データ記憶手段に記憶されたアライメント済の学習データを用いて、前記音響モデルの各内部状態のＳＶＭの学習を行なう学習手段と、
前記アライメント済データ記憶手段に記憶された学習データの各々について、前記学習手段により学習された音響モデルを用いて各音響モデル内の内部状態とアライメントを行なうことで、前記アライメント済データ記憶手段に記憶された学習データを更新するアライメント手段と、
前記アライメント手段によるアライメントに関連する終了条件が成立するまで、前記学習手段と前記アライメント手段とによる学習処理及びアライメント処理を繰返し実行させる繰返制御手段とを含む、音響モデル学習装置。
【請求項２】
前記初期化手段は、前記複数の学習データの各々を、対応するトランスクリプションに含まれる音素数と、前記Ｎとの積とにより定まる数に等分することにより、初期アライメントを準備する手段を含む、請求項１に記載の学習装置。
【請求項３】
前記音響モデルの各内部状態から後続する内部状態に状態が遷移する遷移確率と、各内部状態で状態がループする確率とは、互いに等しく選ばれている、請求項１又は請求項２に記載の音響モデル学習装置。
【請求項４】
前記アライメント手段は、前記アライメント済データ記憶手段に記憶された学習データの各々について、当該学習データに含まれる音響特徴ベクトルの各々と、前記学習手段による学習後の各音響モデル内の内部状態とを、ダイナミックプログラミングによって最大の尤度が得られるようにアライメントし、当該アライメントの結果により前記アライメント済データ記憶手段に記憶された学習データを更新する更新手段を含む、請求項１〜請求項３のいずれかに記載の音響モデル学習装置。
【請求項５】
前記終了条件は、前記ダイナミックプログラミングにより前記学習データの全体をアライメントした際の尤度と、直前の繰返し時に得られた尤度との差の絶対値が所定の値より小さいという条件である、請求項４に記載の音響モデル学習装置。
【請求項６】
前記終了条件は、前記繰返し制御手段による繰返し数が所定の数に達したという条件である、請求項１〜請求項４のいずれかに記載の音響モデル学習装置。
【請求項７】
各々が一連の音響特徴ベクトルからなり、かつ各々にトランスクリプションが付された複数の学習データを記憶するための学習データ記憶装置に接続されるコンピュータを、
各音素の音響モデルのパラメータを記憶するための音響モデル記憶手段として機能させるコンピュータプログラムであり、
前記音響モデルの各々は、マルコフ過程に基づく、Ｎ個の内部状態（Ｎは自然数）からなるモデルであり、各内部状態は、音響データが当該内部状態から出力されたものである尤度を推定するＳＶＭに対応付けられ、
前記コンピュータプログラムは、前記コンピュータをさらに、
前記複数の学習データの各々の各部と、対応する音響モデル内の内部状態との初期アライメントを準備する初期化手段と、
前記初期化手段により初期化されたアライメント済の学習データを記憶する、書換え可能なアライメント済データ記憶手段と、
前記アライメント済データ記憶手段に記憶されたアライメント済の学習データを用いて、前記音響モデルの各内部状態のＳＶＭの学習を行なう学習手段と、
前記アライメント済データ記憶手段に記憶された学習データの各々について、前記学習手段により学習された音響モデルを用いて各音響モデル内の内部状態とアライメントを行なうことで、前記アライメント済データ記憶手段に記憶された学習データを更新するアライメント手段と、
前記アライメント手段によるアライメントに関連する終了条件が成立するまで、前記学習手段と前記アライメント手段とによる学習処理及びアライメント処理を繰返し実行させる繰返制御手段として機能させる、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、音響モデルの学習装置に関し、特に、確率ＳＶＭ（Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）を用いた音響モデルの学習を行なうことができる学習装置に関する。
【背景技術】
【０００２】
人間とコンピュータシステムとの間のインタフェイスとして、音声を使うものが人間にとって使いやすいものと考えられている。このような音声を用いたマン・マシン・インタフェイスにおいて必須なのは、音声認識技術である。音声認識にはさまざまな技術があるが、現在の主流は、多数の音声コーパスを用いてＨＭＭ（隠れマルコフモデル）の学習を行ない、音声から得られた特徴量を発生した尤度が最も高い音素列を統計的に推定する技術である。ＨＭＭを用いた音声認識技術によれば、一定の認識精度が得られ、実用の域に達していると思われる。
【０００３】
しかし一方で、ＨＭＭを用いた音声認識技術では、精度は一定程度まで高められるものの、それ以上に精度を高めるのはきわめてむずかしい。そのため、ＨＭＭとは異なる技術を用いることにより、ＨＭＭによる音声認識技術を補完することができる技術が求められている。一方、そのような技術を開発するに当たり、これまでにＨＭＭを用いた音声認識技術で使用された仕組みに対して大きな変更を行なうことなく、新たな枠組みを作ることができると、さらに望ましい。
【０００４】
そのような観点でＨＭＭに代わり得るものとして考えられるものに、ＳＶＭがある。元々、ＳＶＭは、データが２つのクラスのいずれに属するかを識別するためのものとして開発されてきた。そしてそうした機能において、ＳＶＭは優れた識別性能を発揮できることが知られている。そこで、ＳＶＭを音声認識技術に適用することができれば、ＨＭＭを補完し、音声認識の性能をより高めることができる。特に最近は、例えば後掲の非特許文献１に示されるように、ＳＶＭの識別結果として、あるクラスに標本が属する確率を出力可能なもの（確率ＳＶＭ）に関する研究が進んでいる。それらを使用すれば、ＨＭＭに代えてＳＶＭを使用できる可能性が高い。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】ティン・ファン・ウー他、ペアワイズ・カップリングによる、マルチクラス分類のための確率推定、ジャーナル・オブ・機械学習研究、第５巻、ｐｐ．９７５−１００５、２００４年（Ting-Fan  Wu  et  al.,  Probability  Estimates  for  Multi-class  Classification  by  Pairwise  Coupling,  Journal  of  Machine  Learning  Research,  5  (2004)  975-1005）
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、ＳＶＭを音声認識に使用するのは今まで困難であった。それは、音声が本質的に時間的に変化するものであるのに対し、ＳＶＭは静的な対象を扱うものであることに起因する。この点について、以下に説明する。
【０００７】
図１を参照して、２つの単語「さかた」（単語４２）と「たさか」（単語４４）とを識別することを考える。ここでは、説明を分かりやすくするため、便宜的に、「さ」を「●」及び「○」で示し、「か」を「◆」及び「◇」で示し、「た」を「■」及び「□」で示すものとする。これらのうち、黒い記号は単語４２からのものであることを示し、白い記号は単語４４からのものであることを示す。
【０００８】
これらの音から得られる特徴ベクトルを、特徴量空間２０の内部に配置することを考える。すると、いずれの単語からのものも、「さ」の特徴量は部分空間５０を中心に位置し、「か」の特徴量は部分空間５２を中心に位置し、「た」の特徴量は部分空間５４を中心に位置するであろう。ＳＶＭは、特徴量空間内で２つのクラスに属する単語の特徴量からなるデータ点の集合の間に考えられる超平面のうち、異なるクラスのデータ点を区別し、かつ各データ点からの距離が最大となるものを学習データから定める。したがって、図１に示すように本来は異なる２つの単語から得られる音響特徴ベクトルが、特徴量空間で互いに同じような領域に交じり合って存在しているときには、これらを互いに識別することができない。
【０００９】
こうした問題を解決し、ＨＭＭを用いた従来の音声認識技術で、ＨＭＭに代えてＳＶＭを用いることができれば非常に望ましい。
【００１０】
それゆえに本発明の目的は、従来のＨＭＭに代えてＳＶＭを用いた音響モデルの学習装置及びそのためのコンピュータプログラムを提供することである。
【課題を解決するための手段】
【００１１】
本発明の第１の局面に係る音響モデル学習装置は、各々が一連の音響特徴ベクトルからなり、かつ各々にトランスクリプションが付された複数の学習データを記憶するための学習データ記憶手段と、各音素の音響モデルのパラメータを記憶するための音響モデル記憶手段とを含む。音響モデルの各々は、マルコフ過程に基づく、Ｎ個の内部状態（Ｎは自然数）からなるモデルである。各内部状態は、音声データが当該内部状態から出力されたものである尤度を推定するＳＶＭに対応付けられる。音響モデル学習装置はさらに、複数の学習データの各々の各部と、対応する音響モデル内の内部状態との間の初期アライメントを準備する初期化手段と、初期化手段により初期化されたアライメント済の学習データを記憶する、書換え可能なアライメント済データ記憶手段と、アライメント済データ記憶手段に記憶されたアライメント済の学習データを用いて、音響モデルの各内部状態のＳＶＭの学習を行なう学習手段と、アライメント済データ記憶手段に記憶された学習データの各々について、学習手段により学習された音響モデルを用いて各音響モデル内の内部状態とアライメントを行なうことで、アライメント済データ記憶手段に記憶された学習データを更新するアライメント手段と、アライメント手段によるアライメントに関連する終了条件が成立するまで、学習手段とアライメント手段とによる学習処理及びアライメント処理を繰返し実行させる繰返制御手段とを含む。
【００１２】
最初に学習データが学習データ記憶手段に記憶される。学習データの各々は一連の音響特徴ベクトルとそのトランスクリプションとを含む。この学習データの各々について、その音素と、対応する音響モデルとの初期的なアライメントが初期化手段により行なわれる。この初期アライメントされた学習データを用い、各音響モデルの内部状態を構成するＳＶＭの学習が学習手段により行なわれる。学習が終わったＳＶＭにより規定される音響モデルを用い、アライメント手段によって、再度、学習データの各々の一連の音響特徴ベクトルと、トランスクリプションとのアライメントが行なわれる。アライメント後の学習データを用いて、さらにＳＶＭの学習が行なわれる。このように音響モデルを構成するＳＶＭの学習と、学習後のＳＶＭにより規定される音響モデルを用いた学習データのアライメントとが、繰返し、所定の終了条件が成立するまで行なわれる。この結果得られるＳＶＭにより規定される音響モデルは、ＨＭＭを用いたものと同様、学習データに基づいた学習により、一連の音響特徴ベクトルについての音素の識別を信頼性を持って行なうことができる。しかも、これらＳＶＭを用いた音響モデルはＨＭＭと同様の構成であるため、ＨＭＭを用いた音響モデルを使用する従来の音声認識装置等において、ＨＭＭを用いたものに代えて使用することができる。
【００１３】
その結果、従来のＨＭＭに代えてＳＶＭを用いた音響モデルの学習装置及びそのためのコンピュータプログラムを提供することができる。
【００１４】
好ましくは、初期化手段は、複数の学習データの各々を、対応するトランスクリプションに含まれる音素数と、Ｎとの積とにより定まる数に等分することにより、初期アライメントを準備する手段を含む。
【００１５】
初期アライメントとして、このような簡単なものから出発しても良い。初期化が簡単な処理で行なえるという効果がある。
【００１６】
さらに好ましくは、音響モデルの各内部状態から後続する内部状態に状態が遷移する遷移確率と、各内部状態で状態がループする確率とは、互いに等しく選ばれている。
【００１７】
状態間の遷移確率と、内部状態で状態がループする確率とが互いに等しく選ばれているため、学習時の計算量を削減することができる。
【００１８】
より好ましくは、アライメント手段は、アライメント済データ記憶手段に記憶された学習データの各々について、当該学習データに含まれる音響特徴ベクトルの各々と、学習手段による学習後の各音響モデル内の内部状態とを、ダイナミックプログラミングによって最大の尤度が得られるようにアライメントし、当該アライメントの結果によりアライメント済データ記憶手段に記憶された学習データを更新する更新手段を含む。
【００１９】
終了条件は、ダイナミックプログラミングにより学習データの全体をアライメントした際の尤度と、直前の繰返し時に得られた尤度との差の絶対値が所定の値より小さいという条件であってもよいし、繰返し制御手段による繰返し数が所定の数に達したという条件であってもよい。
【００２０】
本発明の第２の局面に係るコンピュータプログラムは、各々が一連の音響特徴ベクトルからなり、かつ各々にトランスクリプションが付された複数の学習データを記憶するための学習データ記憶装置に接続されるコンピュータを、各音素の音響モデルのパラメータを記憶するための音響モデル記憶手段として機能させるコンピュータプログラムである。音響モデルの各々は、マルコフ過程に基づく、Ｎ個の内部状態（Ｎは自然数）からなるモデルであり、各内部状態は、音声データが当該内部状態から出力されたものである尤度を推定するＳＶＭに対応付けられる。このコンピュータプログラムは、コンピュータをさらに、複数の学習データの各々の各部と、対応する音響モデル内の内部状態との初期アライメントを準備する初期化手段と、初期化手段により初期化されたアライメント済の学習データを記憶する、書換え可能なアライメント済データ記憶手段と、アライメント済データ記憶手段に記憶されたアライメント済の学習データを用いて、音響モデルの各内部状態のＳＶＭの学習を行なう学習手段と、アライメント済データ記憶手段に記憶された学習データの各々について、学習手段により学習された音響モデルを用いて各音響モデル内の内部状態とアライメントを行なうことで、アライメント済データ記憶手段に記憶された学習データを更新するアライメント手段と、アライメント手段によるアライメントに関連する終了条件が成立するまで、学習手段とアライメント手段とによる学習処理及びアライメント処理を繰返し実行させる繰返制御手段として機能させる。
【図面の簡単な説明】
【００２１】
【図１】ＳＶＭによる音声認識の問題点を説明するための図である。
【図２】本発明の１実施の形態における、ＳＶＭによる音声認識の原理を説明するための図である。
【図３】本発明の実施の形態において用いられる音響モデルの内部構造を模式的に説明する図である。
【図４】本発明の実施の形態に係る、音響モデルの学習装置の機能的ブロック図である。
【図５】本発明の実施の形態における学習データを説明するための模式図である。
【図６】本発明の実施の形態における、学習データの初期アライメント処理を説明するための模式図である。
【図７】本発明の実施の形態における、学習過程における学習データの分割のアライメントの変化を説明するための模式図である。
【図８】ＳＶＭによる音響モデルの学習過程におけるダイナミックプログラミングを説明するための模式図である。
【図９】本発明の一実施の形態に係る音響モデルの学習装置を実現するコンピュータシステムの外観図である。
【図１０】図９に示すコンピュータのブロック図である。
【発明を実施するための形態】
【００２２】
以下の説明及び図面では、同一の部品には同一の参照番号を付してある。したがって、それらについての詳細な説明は繰返さない。
【００２３】
［構成］
既に説明したように、音声データが時間による変化を伴うものであるのに対し、従来のＳＶＭはそのような時間的な変化に対応したものではなかった。そこで本実施の形態では、ＳＶＭの取り扱う音響特徴ベクトルに、時間的要素を組込むことで上記した従来の問題点を解決する。この点について図２を参照して説明する。
【００２４】
図１と同様、２つの単語４２及び４４を識別する問題を考える。ここでも説明を簡明にするため、音として「さ」「か」及び「た」の３つを考えるものとする。
【００２５】
音声には時間的変化が伴うことについては前述したとおりである。上記した２つの単語４２及び４４についていうと、それらを構成する音は同じだが、その出現順序が異なっている。例えば時間ｔ＝ｔ０、ｔ１及びｔ２に上記した２つの単語４２及び４４の各音が発音されたものとする。
【００２６】
時刻ｔ＝ｔ０において、単語４２及び４４から得られる音響特徴ベクトルを特徴量空間に配置してみると、図２（Ａ）に示すようになるであろう。すなわち、単語４２から得られる音響特徴量はもっぱら「さ」という音のものとなり、部分空間５０を中心とする領域に位置する。一方、単語４４から得られる音響特徴量はもっぱら「た」という音のものとなり、部分空間５４を中心とする領域に位置するであろう。この時点では部分空間５２を中心とする領域に位置する音響特徴量は、理想的にはほとんど存在しないであろう。
【００２７】
同様に、時刻ｔ＝ｔ１では、図２（Ｂ）に示すように、単語４２の「か」という音からの音響特徴ベクトルは部分空間５２を中心とした領域に位置し、単語４４の「さ」という音からの音響特徴ベクトルは部分空間５０を中心とした領域に位置する。この時点では、部分空間５４を中心とする領域に位置する音響特徴ベクトルはほとんど存在しない。
【００２８】
時刻ｔ＝ｔ２では、図２（Ｃ）に示すように、単語４２の「た」という音からの音響特徴ベクトルは部分空間５４を中心とした領域に位置し、単語４４の「か」という音からの音響特徴ベクトルは部分空間５２を中心とした領域に位置する。この時点では、部分空間５０を中心とする領域に位置する音響特徴ベクトルはほとんど存在しない。
【００２９】
以上から、音響特徴量に時間的な要素を入れることにより、同じ音を構成要素として含む単語であっても、容易に識別をすることができることが分かる。問題は、これをどのようにして実現するか、である。単純に時間を音響特徴量に含ませると、かえって計算量が非常に増大することになり好ましくない。そこで本実施の形態では、各音素の音響モデルを、一定数の内部状態を持つ、ＨＭＭと同様のものとし、音声データから得られた音響特徴ベクトルに、その音響特徴量が得られたフレームが、音響モデルのどの内部状態に対応するかを示す情報を付加することとする。
【００３０】
図３を参照して、本実施の形態で使用される音響モデル６０、６２は、いずれも従来使用されている３状態のＨＭＭ音響モデルと同様の、マルコフ過程に基づく内部構造を持っている。例えば音響モデル６０は、音素Ｓ１に対応するものであり、３つの内部状態Ｓ１１，Ｓ１２及びＳ１３からなるものとする。これら内部状態Ｓ１１，Ｓ１２及びＳ１３はそれぞれ、ＨＭＭとは異なり、この音素の各状態から処理対象の音響（音響特徴ベクトル）が得られる確率を出力するＳＶＭにより実現される。
【００３１】
この音響モデルでは、これら３つの状態Ｓ１１，Ｓ１２及びＳ１３についてそれぞれ、各状態をループする状態遷移７０，７２及び７４と、状態Ｓ１１から状態Ｓ１２への状態遷移８０、状態Ｓ１２から状態Ｓ１３への状態遷移８２、及び状態Ｓ１３から次の音素の先頭の内部状態への状態遷移８４とが想定され、これらにはそれぞれ定数である確率＝０．５が割当てられている。例えば、状態Ｓ１１からは、状態Ｓ１１への状態遷移７０及び状態Ｓ１２への状態遷移８０が想定されており、これらに割当てられる確率はいずれも０．５である。
【００３２】
他の音素、例えば音素Ｓ２に対する音響モデル６２についても、図３（Ｂ）に示すように、音響モデル６０と同様の、内部状態Ｓ２１，Ｓ２２及びＳ２３からなる構造を持つ。各内部状態から音響特徴量が得られる尤度を算出するためのＳＶＭを規定するパラメータが音響モデル６０と異なっている点のみが音響モデル６０との相違である。
【００３３】
図４を参照して、音響モデル６０等の学習を行なうための学習装置１００は、学習データを保持する学習データ記憶装置１０２に接続されて使用される。本実施の形態では、学習データは、各々にトランスクリプションが付された音声データを含む。例えば図５（Ａ）を参照して、学習データ中の音声データ１５０には、トランスクリプション１５２が付される。同様に、図５（Ｂ）に示す学習データ中の音声データ１６０には、トランスクリプション１６２が付される。音声データ１５０及び１６０等は、図示しないが、所定フレーム長及び所定シフト長でフレーム化された音声データの各フレームから算出された一連の音響特徴ベクトルからなる。各音響特徴ベクトルは、対応するフレームの音声データから算出されたフレーム音響特徴量（ＭＦＣＣパラメータ、パワー、Ｆ０，Ｆ１等）を含む。トランスクリプションは、本実施の形態では音素ごとの表現とする。本実施の形態では、音声データとトランスクリプションとのアライメントはまだされていないものとする。
【００３４】
再び図４を参照して、学習装置１００は、学習データ記憶装置１０２に記憶された学習データの各々について、音声データとトランスクリプションの各音素との初期アライメントを行なう初期アライメント処理部１１０と、初期アライメント処理部１１０によりアライメントされた学習データを記憶する、初期アライメント後の学習データ記憶部１１２と、学習データ記憶部１１２に記憶された初期アライメント後の学習データを用いた学習により、各音素に対して予め準備された音響モデルの各内部状態を構成するＳＶＭの学習を行なうＳＶＭ学習部１１４と、ＳＶＭ学習部１１４により学習された音響モデルの内部状態のＳＶＭのパラメータを記憶する、書換可能な記憶装置からなるＳＶＭパラメータ記憶部１１６とを含む。
【００３５】
学習装置１００はさらに、ＳＶＭパラメータ記憶部１１６に記憶されたＳＶＭパラメータにより規定される音響モデルを用いて、学習データ記憶部１１２に記憶されたアライメント済の学習データを、ダイナミックプログラミングを用いて各学習データのトランスクリプションの音素とアライメントし、アライメント済の学習データ１２０を出力するアライメント処理部１１８と、アライメント処理部１１８によりアライメントされたアライメント済の学習データ１２０でアライメント済学習データ記憶部１１２の内容を更新するための学習データ更新部１２２とを含む。
【００３６】
学習装置１００はさらに、アライメント処理部１１８による学習データのアライメント時に、アライメント処理部１１８により算出されるアライメントの結果の尤度（セグメンテーション確率）を、１回前の繰返し時に算出されたセグメンテーション確率と比較し、両者の差異が所定のしきい値未満であるか、又は繰返し処理が所定回数以上であれば繰返しの終了条件が成立したものとして、アライメント処理部１１８によるアライメント処理、学習データ更新部１２２による更新処理、及びＳＶＭ学習部１１４による学習処理を終了させる比較部１２６と、アライメント処理部１１８により算出されたセグメンテーション確率を、比較部１２６による次回の繰返し時の比較のために記憶するためのセグメンテーション確率記憶部１２８とを含む。
【００３７】
［動作］
以上、学習装置１００の構成について説明したが、個の学習装置１００は以下のように動作する。
【００３８】
図４を参照して、最初に、学習データ記憶装置１０２に学習データを記憶させる。学習データは、ある音声データと、その音声データに対応するトランスクリプションとを含む。このときの２つの学習データ「ＳＡＫＡＴＡ」と「ＴＡＳＡＫＡ」に関する音声データ及びトランスクリプションの組合せを図５（Ａ）（Ｂ）にそれぞれ示す。
【００３９】
図５（Ａ）を参照して、学習データ「ＳＡＫＡＴＡ」は、音声データ１５０と、対応するトランスクリプション１５２とを含む。図５（Ｂ）に示す学習データ「ＴＡＳＡＫＡ」も同様に、音声データ１６０とトランスクリプション１６２とを含む。
【００４０】
再び図４を参照して、初期アライメント処理部１１０は、学習データ記憶装置１０２に記憶された各学習データに対して初期アライメント処理を実行し、アライメント後の学習データをアライメント済学習データ記憶部１１２に記憶させる。初期アライメント処理部１１０による初期アライメントの方法は、あくまで初期のものである。したがって、音声データとトランスクリプションとのアライメントとして不合理でないものであればどのようなものでもよい。本実施の形態では、初期アライメント処理部１１０は、音声データ１５０及び１６０をそれぞれ、対応するトランスクリプション１５２及び１６２に含まれる音素数で、互いに等しい長さの部分に分割する。さらに初期アライメント処理部１１０は、分割された各音素に相当する音声データ部分を、ＳＶＭパラメータ記憶部１１６で想定されている、音響モデル内の内部状態の数の部分領域に分割する。したがって、学習データは、トランスクリプションに含まれる音素数と各音響モデルに含まれる内部状態数との積により定まる数だけに分割される。このように分割した部分領域の各々を、トランスクリプションを構成する各音素のモデルの内部状態に順番にアライメントする。
【００４１】
図６を参照して、この初期アライメントについて具体的に説明する。例えば音声データ１５０の分割について考える。音声データ１５０に対応するトランスクリプション１５２に含まれる音素の数は６つである。したがって、図６（Ａ）に示すように、初期アライメント処理部１１０は音声データ１５０を、まず各音素に対応する６つの音声データ部分１７０，１７２、１７４，１７６，１７８、及び１８０に分割する。図６（Ｂ）に示す音響データ部分１７０も同様に、６つの音声データ部分１９０，１９２，１９４，１９６，１９８及び２００に分割される。
【００４２】
さらに、例えば音声データ部分１７０は、３つの内部状態を持つ、この音声データ部分１７０に対応する音素の音響モデルにより表されるので、初期アライメント処理部１１０は、音声データ部分１７０を３つの部分領域２００，２０２及び２０４に分割する。これら部分領域２００、２０２及び２０４がそれぞれ、音素「Ｓ」に対応する音響モデルを構成する３つの内部状態に対応する。初期アライメント処理部１１０はこのアライメントを表現するために、音声データ１５０に含まれる各音響特徴ベクトルについて、そのベクトルに対応するフレームが、どの音素のどの内部状態に対応するかを示す符号を要素として追加する。ここでいう「符号」とは、例えば図３に示す内部状態Ｓ１１，Ｓ１２及びＳ１３等を示す何らかの符号のことをいう。したがって、ある音声データを構成する一連の音響特徴ベクトルのうち、同じ音素の同じ内部状態（例えば内部状態Ｓ１２）とアライメントされた音響特徴ベクトルには、「Ｓ１２」を示す符号が要素として付加される。図６（Ａ）に示す各音声データ部分１７２，１７４，１７６，１７８，及び１８０、並びに図６（Ｂ）に示す各音声データ部分１９０，１９２，１９４，１９６，１９８、及び２００も同様である。
【００４３】
注意すべきは、ここでのアライメントはあくまで初期アライメントなので、その正確さは問わないということである。もっとも、ここでのアライメントがより正確なものとなっていると、次以降の繰返し処理が早く収束するという効果がある。したがって、何らかの形で音声データとトランスクリプションとのアライメントが済んでいるような学習データがあれば、それをここで用い、そのアライメントにしたがって初期アライメントを与えることが望ましい。
【００４４】
再び図４を参照して、ＳＶＭ学習部１１４は、アライメント済学習データ記憶部１１２に格納された初期アライメント済の学習データを用い、各音響モデルを構成するＳＶＭの学習を行なう。このときのＳＶＭの学習は、特徴ベクトルに付加した符号、すなわち音素の内部状態をクラスとして行なう。この学習の結果得られたＳＶＭパラメータはＳＶＭパラメータ記憶部１１６に記憶される。このＳＶＭの学習のアルゴリズムは、既存のものを用いればよい。
【００４５】
ＳＶＭ学習部１１４によるＳＶＭの学習が終了すると、アライメント処理部１１８が、ＳＶＭパラメータ記憶部１１６に記憶されたＳＶＭにより規定される音響モデルを用い、アライメント済学習データ記憶部１１２に記憶された学習データの再アライメントを行なう。この場合のアライメントは、ダイナミックプログラミングにより、学習データごとに行なわれる。
【００４６】
図８を参照して、このときのダイナミックプログラミング処理について説明する。ここでは、説明を容易にするために、ある１つの学習データのうちの、連続する３つの音素について、音響モデルの内部状態との間のアライメントを行なう場合について説明する。ここでは、アライメントされる３つの音素をそれぞれＳ１，Ｓ２，Ｓ３とし、それらの内部状態をＳ１１，Ｓ１２及びＳ１３，Ｓ２２，Ｓ２３及びＳ２３，並びにＳ３１，Ｓ３２及びＳ３３とする。既に述べたように、各音響モデルにおいて、ある内部状態から次の内部状態に遷移する確率は０．５、ある内部状態をループする確率も０．５とされている。ここでは、アライメント対象となる音響特徴ベクトルをＸ１、Ｘ２、…，ＸＫ，…，ＸＴとする。
【００４７】
まず、音響特徴ベクトルの第１フレームの音響特徴ベクトルＸ１が、内部状態Ｓ１１とアライメントされる。続いて、次の音響特徴ベクトルＸ２が内部状態Ｓ１１をループして出力される確率と、次の内部状態Ｓ１２に遷移して出力される確率とが算出され、それぞれ記録される。さらに、これら到達された内部状態Ｓ１１及びＳ１２の各々について、次の音響特徴ベクトルＸ３がその内部状態をループして出力される確率と、次の内部状態Ｓ１３に遷移して出力される確率とが、学習済のＳＶＭを用いて算出され、記録される。このような処理が、可能な経路の各々について次々に算出される。このとき、ある内部状態に到達する経路が複数あるときには、最も尤度が高かった経路を選択して、選択された経路の各々について算出された確率を全て乗算する。そして、最後の音響特徴ベクトルＸＴと最後の音素の音響モデルの最後の内部状態Ｓ３３とが対応付けられた時点で、その位置に到達するまでの経路の中で最も尤度の高かった経路が最適経路として選択され、選択された経路にしたがって、音声フレームと音響モデルの内部状態とのアライメントが行なわれる。
【００４８】
図８に示す例では、経路２３０が選択されたものとする。この経路に沿って、例えば音響特徴ベクトルＸ１、Ｘ２，ＸＫ，及びＸＴはそれぞれ、内部状態Ｓ１１，Ｓ１１，Ｓ２１，及びＳ３３とアライメントされたことになる。
【００４９】
このときの、図に示す音声データ１５０のアライメント状態の変化の例を図７に示す。図７を参照して、再アライメント後の音声データ１５０において、各音声データ部分１７０，１７２，１７４，１７６，１７８及び１８０（すなわち各音素）とアライメントされた部分の境界は、上記した再アライメント処理の結果、通常は前後に移動する。さらに、各音素の内部状態とアライメントされた部分の境界も、学習後のＳＶＭによる推定値に基づいて変化する。
【００５０】
なお、上記したダイナミックプログラミング処理では、計算量を少なくするため、経路探索の途中で尤度がある値よりも低くなった経路についてはそれ以上の計算を行なわないようにしてもよい。
【００５１】
音響特徴ベクトルの系列をＸｔ（ｔ＝１，…，Ｔ）、ある状態系列における時刻ｔにおける内部状態をＳｑｔ、内部状態ＳｑｔのＳＶＭにより音響特徴ベクトルＸｔがその内部状態Ｓｑｔのクラスに属するとされる推定値をＰ（Ｘｔ｜Ｓｑｔ）とすると、アライメント処理部１１８による処理は、以下の式により算出される尤度を最大とする状態系列ｑを求めることに相当する。
【００５２】
【数１】
2012185450.tif 000003
アライメント処理部１１８は、このような処理を、アライメント済学習データ記憶部１１２に記憶された全ての学習データに対して行ない、各音響特徴ベクトルに含まれている、内部状態を示す要素の値を、再アライメントによりその音響特徴ベクトルとアライメントされた内部状態を示す値で更新し、学習データ１２０として出力する。これら再アライメント後の学習データ１２０は、記憶装置に蓄積される。
【００５３】
アライメント処理部１１８による再アライメント処理がアライメント済学習データ記憶部１１２に記憶されている全ての学習データに対して行なわれると、上記した式（１）を全学習データに対して乗算した値が得られる。比較部１２６は、最初の繰返し時には、この値をセグメンテーション確率としてセグメンテーション確率記憶部１２８に記憶させる。
【００５４】
学習データ更新部１２２は、アライメント処理部１１８により再アライメントされた学習データ１２０でアライメント済学習データ記憶部１１２内の学習データを更新する。
【００５５】
続いて、２回目の繰返し処理が開始される。すなわち、ＳＶＭ学習部１１４は、アライメント済学習データ記憶部１１２に記憶された再アライメントされた学習データを用い、各音素の各内部状態のＳＶＭの学習を行なう。得られたＳＶＭパラメータにより規定される音響モデルはＳＶＭパラメータ記憶部１１６に記憶される。アライメント処理部１１８は、前述した手続と同じ手続により、アライメント済学習データ記憶部１１２の学習データの再アライメントを行なう。このとき算出されるセグメンテーション確率は比較部１２６に与えられる。比較部１２６は、このセグメンテーション確率とセグメンテーション確率記憶部１２８に記憶された前回の繰返し時のセグメンテーション確率とを比較する。両者の差があるしきい値より小さければ、比較部１２６はアライメント処理部１１８、ＳＶＭ学習部１１４及び学習データ更新部１２２による繰返し処理を終了させる。両者の差がしきい値以上であれば、比較部１２６は、ＳＶＭ学習部１１４、アライメント処理部１１８及び学習データ更新部１２２を制御し、既に述べた処理をさらに繰返させる。
【００５６】
こうして、セグメンテーション確率が収束するか、又は所定回数だけ繰返し処理が終了した時点で、学習装置１００により動作が完了する。ＳＶＭパラメータ記憶部１１６に記憶された音響モデルが、確率ＳＶＭを用いた音響モデルとして出力される。
【００５７】
［コンピュータによる実現］
この実施の形態のシステムは、コンピュータハードウェアと、そのコンピュータハードウェアにより実行されるプログラムと、コンピュータハードウェアに格納されるデータとにより実現される。図９はこのコンピュータシステム３３０の外観を示し、図１０はコンピュータシステム３３０の内部構成を示す。
【００５８】
図９を参照して、このコンピュータシステム３３０は、ＦＤ（フレキシブルディスク）ドライブ３５２及びＣＤ−ＲＯＭ（コンパクトディスク読出専用メモリ）ドライブ３５０を有するコンピュータ３４０と、キーボード３４６と、マウス３４８と、モニタ３４２とを含む。
【００５９】
図１０を参照して、コンピュータ３４０は、ＦＤドライブ３５２及びＣＤ−ＲＯＭドライブ３５０に加えて、ＣＰＵ（中央処理装置）３５６と、ＣＰＵ３５６、ＦＤドライブ３５２及びＣＤ−ＲＯＭドライブ３５０に接続されたバス３６６と、ブートアッププログラム等を記憶する読出専用メモリ（ＲＯＭ）３５８と、バス３６６に接続され、プログラム命令、システムプログラム、及び作業データ等を記憶するランダムアクセスメモリ（ＲＡＭ）３６０とを含む。コンピュータシステム３３０はさらに、プリンタ３４４を含んでいる。
【００６０】
ここでは示さないが、コンピュータ３４０はさらにローカルエリアネットワーク（ＬＡＮ）への接続を提供するネットワークアダプタボードを含んでもよい。
【００６１】
コンピュータシステム３３０に音響モデルの学習装置としての動作を行なわせるためのコンピュータプログラムは、ＣＤ−ＲＯＭドライブ３５０又はＦＤドライブ３５２に挿入されるＣＤ−ＲＯＭ３６２又はＦＤ３６４に記憶され、さらにハードディスク３５４に転送される。又は、プログラムは図示しないネットワークを通じてコンピュータ３４０に送信されハードディスク３５４に記憶されてもよい。プログラムは実行の際にＲＡＭ３６０にロードされる。ＣＤ−ＲＯＭ３６２から、ＦＤ３６４から、又はネットワークを介して、直接にＲＡＭ３６０にプログラムをロードしてもよい。
【００６２】
このプログラムは、コンピュータ３４０にこの実施の形態の音響モデルの学習装置として動作を行なわせる複数の命令を含む。この動作を行なわせるのに必要な基本的機能のいくつかはコンピュータ３４０上で動作するオペレーティングシステム（ＯＳ）もしくはサードパーティのプログラム、又はコンピュータ３４０にインストールされる各種ツールキットのモジュールにより提供される。したがって、このプログラムはこの実施の形態のシステム及び方法を実現するのに必要な機能全てを必ずしも含まなくてよい。このプログラムは、命令のうち、所望の結果が得られるように制御されたやり方で適切な機能又は「ツール」を呼出すことにより、上記した音響モデルの学習装置としての動作を実行する命令のみを含んでいればよい。コンピュータシステム３３０の動作は周知であるので、ここでは繰返さない。
【００６３】
以上説明したように、本実施の形態に係る学習装置１００によれば、確率ＳＶＭを用いて音響モデルを構築することができる。音声データと、そのトランスクリプションを構成する各音素とのアライメントだけでなく、各音素に対応する音響モデルの内部状態とのアライメントが同時に行なわれる。この学習により、トランスクリプションが付された音声データがあれば、確率ＳＶＭを用いた音声データの学習を行なうことができる。もちろん、初期状態の学習データについて、すでに何らかの手段で初期的なアライメントが行なわれていれば、音響モデルの学習が早期に収束するという効果があるので、そのような学習データがあれば利用することが好ましい。
【００６４】
この学習装置１００によれば、アライメントするための音響特徴ベクトルの１要素として、発話の時間に相当する、音素の内部状態との対応関係を確立することができる。その結果、ＳＶＭを用いた音響モデルにより、同じ音素を異なる位置に含むような音声データの識別をすることも可能となる。
【００６５】
今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内での全ての変更を含む。
【符号の説明】
【００６６】
１００  学習装置
１０２  学習データ記憶装置
１１０  初期アライメント処理部
１１２  アライメント済学習データ記憶部
１１４  ＳＶＭ学習部
１１６  ＳＶＭパラメータ記憶部
１１８  アライメント処理部
１２０  再アライメント後の学習データ
１２２  学習データ更新部
１２６  比較部
１２８  セグメンテーション確率記憶部
【図１】
2012185450.tif 000004
【図２】
2012185450.tif 000005
【図３】
2012185450.tif 000006
【図４】
2012185450.tif 000007
【図５】
2012185450.tif 000008
【図６】
2012185450.tif 000009
【図７】
2012185450.tif 000010
【図８】
2012185450.tif 000011
【図９】
2012185450.tif 000012
【図１０】
2012185450.tif 000013