(57)【要約】【課題】モデル化対象を適切に表現するHMMを得る。【解決手段】構造調整部１６は、HMMの状態の中から、分割を行う分割対象と、併合を行う併合対象とを選択し、分割対象の分割と、併合対象の併合とを行う。構造調整部１６は、HMMの各状態から各状態への遷移確率をコンポーネントとする状態遷移行列から、注目状態からの遷移確率、及び、注目状態への遷移確率を除いた部分状態遷移行列の固有値の和と、状態遷移行列の固有値の和との差である固有値差値を、注目状態を分割対象等に選択すべき度合いを表す対象度合い値として求め、対象度合い値が分割閾値より大の状態を、分割対象に選択するとともに、対象度合い値が併合閾値より小の状態を、併合対象に選択する。本発明は、例えば、HMMの学習に適用できる。【選択図】図４
2011243088.tif 000002
【特許請求の範囲】
【請求項１】
時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定手段と、
前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整手段と
を備え、
前記構造調整手段は、
前記HMMの各状態を、注目する注目状態として、前記注目状態について、
前記HMMの各状態から各状態への状態遷移確率をコンポーネントとする状態遷移行列から、前記注目状態からの状態遷移確率、及び、前記注目状態への状態遷移確率を除いた部分状態遷移行列の固有値の和である部分固有値和と、
前記状態遷移行列の固有値の和である全体固有値和と
の差である固有値差に対応する値を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、
前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択する
データ処理装置。
【請求項２】
前記構造調整手段は、
前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率を求め、
前記注目状態の前記固有値差と、前記平均状態確率とを合成した合成値を、前記注目状態の対象度合い値として求める
請求項１に記載のデータ処理装置。
【請求項３】
パラメータ推定後のHMMを評価し、前記HMMの評価の結果に基づいて、前記構造調整を行うか否かを判定する評価手段をさらに備える
請求項１に記載のデータ処理装置。
【請求項４】
前記評価手段は、パラメータ推定後のHMMにおいて前記時系列データが観測される尤度の、パラメータ推定前のHMMにおいて前記時系列データが観測される尤度に対する増分が、所定値より小である場合に、前記構造調整を行うと判定する
請求項３に記載のデータ処理装置。
【請求項５】
前記分割閾値は、前記HMMのすべての状態の対象度合い値の平均値より、前記HMMのすべての状態の対象度合い値の標準偏差だけ大きい値であり、
前記併合閾値は、前記HMMのすべての状態の対象度合い値の平均値より、前記HMMのすべての状態の対象度合い値の標準偏差だけ小さい値である
請求項１に記載のデータ処理装置。
【請求項６】
前記構造調整手段は、
前記分割対象の分割では、
新たな状態を追加し、
前記新たな状態との間の状態遷移として、
前記分割対象との間に状態遷移を有する他の状態との間の状態遷移と、
自己遷移と、
前記分割対象との間の状態遷移と
を追加し、
前記併合対象の併合では、
前記併合対象を削除し、
前記併合対象との間に状態遷移を有していた他の状態どうしの間に、状態遷移を追加する
請求項１に記載のデータ処理装置。
【請求項７】
データ処理装置が、
時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定ステップと、
前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整ステップと
を含み、
前記構造調整ステップでは、
前記HMMの各状態を、注目する注目状態として、前記注目状態について、
前記HMMの各状態から各状態への状態遷移確率をコンポーネントとする状態遷移行列から、前記注目状態からの状態遷移確率、及び、前記注目状態への状態遷移確率を除いた部分状態遷移行列の固有値の和である部分固有値和と、
前記状態遷移行列の固有値の和である全体固有値和と
の差である固有値差に対応する値を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、
前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択する
データ処理方法。
【請求項８】
時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定手段と、
前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整手段と
して、コンピュータを機能させるためのプログラムであり、
前記構造調整手段は、
前記HMMの各状態を、注目する注目状態として、前記注目状態について、
前記HMMの各状態から各状態への状態遷移確率をコンポーネントとする状態遷移行列から、前記注目状態からの状態遷移確率、及び、前記注目状態への状態遷移確率を除いた部分状態遷移行列の固有値の和である部分固有値和と、
前記状態遷移行列の固有値の和である全体固有値和と
の差である固有値差に対応する値を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、
前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択する
プログラム。
【請求項９】
時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定手段と、
前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整手段と
を備え、
前記構造調整手段は、
前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、
前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択する
データ処理装置。
【請求項１０】
パラメータ推定後のHMMを評価し、前記HMMの評価の結果に基づいて、前記構造調整を行うか否かを判定する評価手段をさらに備える
請求項９に記載のデータ処理装置。
【請求項１１】
前記評価手段は、パラメータ推定後のHMMにおいて前記時系列データが観測される尤度の、パラメータ推定前のHMMにおいて前記時系列データが観測される尤度に対する増分が、所定値より小である場合に、前記構造調整を行うと判定する
請求項１０に記載のデータ処理装置。
【請求項１２】
前記分割閾値は、前記HMMのすべての状態の対象度合い値の平均値より、前記HMMのすべての状態の対象度合い値の標準偏差だけ大きい値であり、
前記併合閾値は、前記HMMのすべての状態の対象度合い値の平均値より、前記HMMのすべての状態の対象度合い値の標準偏差だけ小さい値である
請求項９に記載のデータ処理装置。
【請求項１３】
前記構造調整手段は、
前記分割対象の分割では、
新たな状態を追加し、
前記新たな状態との間の状態遷移として、
前記分割対象との間に状態遷移を有する他の状態との間の状態遷移と、
自己遷移と、
前記分割対象との間の状態遷移と
を追加し、
前記併合対象の併合では、
前記併合対象を削除し、
前記併合対象との間に状態遷移を有していた他の状態どうしの間に、状態遷移を追加する
請求項９に記載のデータ処理装置。
【請求項１４】
データ処理装置が、
時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定ステップと、
前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整ステップと
を含み、
前記構造調整ステップでは、
前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、
前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択する
データ処理方法。
【請求項１５】
時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定手段と、
前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整手段と
として、コンピュータを機能させるためのプログラムであり、
前記構造調整手段は、
前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、
前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択する
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データ処理装置、データ処理方法、及び、プログラムに関し、特に、例えば、モデル化の対象を適切に表現するHMMを得ることができるようにするデータ処理装置、データ処理方法、及び、プログラムに関する。
【背景技術】
【０００２】
モデル化の対象（以下、モデル化対象ともいう）から観測されるセンサ信号、すなわち、例えば、モデル化対象をセンシングし、そのセンシングの結果得られるセンサ信号に基づき、モデル化対象の状態を構成する学習方法としては、例えば、K-平均法（K-means clustering method）や、SOM（self-organization map）が提案されている。
【０００３】
K-平均法やSOMでは、状態は、観測されるセンサ信号の信号空間上に、代表的なベクトル（代表ベクトル）として配置される。
【０００４】
K-平均法では、初期化として、信号空間上に適当に代表ベクトルが配置される。そして、センサ信号の各時刻のベクトルを、最も距離の近い代表ベクトルに割り当て、各代表ベクトルに割り当てられたベクトルの平均ベクトルによって代表ベクトルを更新することが繰り返される。
【０００５】
SOMでは、代表ベクトルの学習に、競合近傍学習が利用される。
【０００６】
SOMと関連する研究は非常に多く、状態（ここでは、代表ベクトル）を逐次的に増やしながら学習するGrowing Gridと呼ばれる学習手法なども提案されている。
【０００７】
K-平均法やSOMでは、信号空間上に、状態（代表ベクトル）が配置されるが、どのように状態が遷移するかの情報は学習されない。
【０００８】
このため、K-平均法やSOMでは、パーセプチャルエイリアシング（perceptual aliasing）と呼ばれる問題に対処することが困難である。
【０００９】
ここで、パーセプチャルエイリアシングとは、モデル化対象の状態が異なるにもかかわらず、モデル化対象から観測されるセンサ信号が同じ場合に、これを区別することができないという問題である。例えば、カメラを備えた移動型ロボットが、カメラを通して風景画像をセンサ信号として観測する場合、同じ風景画像が観測される場所が環境中に複数個所あると、それらを区別することはできないという問題が発生する。
【００１０】
一方、観測されるセンサ信号を時系列データとして扱い、状態および状態遷移を合わせ持つ確率モデルとして学習する方法として、HMM(Hidden Markov Model)の利用が提案されている。
【００１１】
HMMは、音声認識に広く利用されるモデルの一つであり、状態が遷移する確率を表す状態遷移確率や、各状態において、状態が遷移するときに、ある観測値が観測される確率分布（観測値が離散値である場合には、離散値である確率値であり、観測値が連続値である場合には、確率密度を表す確率密度関数等）等で定義される状態遷移確率モデルである。
【００１２】
HMMのパラメータ、すなわち、状態遷移確率や確率分布等は、尤度を最大化するように推定される。HMMのパラメータの推定方法としては、Baum-Welchの再推定法(Baum-Welch algorithm）が広く利用されている。
【００１３】
なお、HMMのパラメータの推定方法としては、その他、例えば、モンテカルロEM(Expectation-Maximization)アルゴリズムや、平均場近似がある。
【００１４】
HMMは、各状態から状態遷移確率を介して別の状態へ遷移することができる状態遷移確率モデルであり、HMMによれば、モデル化対象（から観測されるセンサ信号）が、状態が遷移する過程として、モデル化される。
【００１５】
但し、HMMでは、通常、観測されるセンサ信号がどの状態に対応するのかについては、確率的にしか決定されない。そこで、観測されるセンサ信号に基づいて、最も尤度が高くなる状態遷移過程、つまり、尤度を最大化する状態の系列（以下、最尤パスともいう）を決定する方法として、ビタビ法(Viterbi Algorithm)が広く利用されている。
【００１６】
ビタビ法によれば、各時刻のセンサ信号に応じた状態を、最尤パスに沿って、一意に確定することが可能である。
【００１７】
HMMによれば、モデル化対象から観測されるセンサ信号が、異なる状況（状態）で同じになったとしても、そのときの時刻の前後におけるセンサ信号の時間変化の過程の違いに応じて、同じセンサ信号を、異なる状態遷移過程として扱うことができる。
【００１８】
なお、HMMでは、パーセプチャルエイリアシングの問題を完全に解決することができるわけではないが、同じセンサ信号に対して異なる状態を割り当てることが可能であり、SOMなどに比べると、モデル化対象を、より詳細に（適切に）モデル化することが可能である。
【００１９】
ところで、HMMの学習では、状態の数、及び状態遷移の数が多くなると、パラメータを、適切に（正しく）推定することが困難となる。
【００２０】
特に、Baum-Welchの再推定法は、最適なパラメータを決定することを、必ずしも保証する方法ではないため、パラメータの数が多くなると、適切なパラメータを推定するのが極めて困難となる。
【００２１】
また、モデル化対象が、未知の対象である場合、HMMの構造やパラメータの初期値を適切に設定することは難しく、これも、適切なパラメータの推定を困難にする原因となる。
【００２２】
音声認識においてHMMが有効に利用されているのは、扱うセンサ信号が音声信号に限定されていること、音声に関する数多くの知見が利用可能であること、音声を適切にモデル化するHMMの構造に関しては、left-to-right型の構造が有効であること、等が長年に渡る膨大な研究成果の結果として得られていること等が大きな要因である。
【００２３】
したがって、モデル化対象が、未知の対象であり、HMMの構造や初期値をあらかじめ決定するための情報が与えられない場合に、（大規模になるかもしれない）HMMを、実用的なモデルとして機能させることは非常に難しい問題である。
【００２４】
なお、HMMの構造をあらかじめ与えるのではなく、赤池情報量基準（AICと呼ばれる）と呼ばれる評価基準を用いて、HMMの構造を決定する方法が提案されている。
【００２５】
AICを用いる方法では、HMMの状態の数や、状態遷移の数を１つずつ増やしていき、そのつどパラメータの推定を行い、評価基準としてのAICを用いて、HMMを評価するということを繰り返しながら、HMMの構造が決定される。
【００２６】
AICを用いる方法は、音素モデルのような小規模なHMMに応用されている。
【００２７】
しかしながら、AICを用いる方法は、大規模なHMMのパラメータの推定を行うことを考慮した方法ではないため、複雑なモデル化対象を適切にモデル化することは困難である。
【００２８】
すなわち、一般に、HMMの構造に関して、１つずつ状態と状態遷移を追加する修正を行うだけでは、評価基準が単調に改善されることは、必ずしも保証されない。
【００２９】
したがって、大規模なHMMで表現される複雑なモデル化対象について、AICを用いる方法を適用しても、適切なHMMの構造が決定されるとは限らない。
【００３０】
そこで、本件出願人は、複雑なモデル化対象であっても、そのモデル化対象を適切にモデル化するHMM等の状態遷移確率モデルを得ることができる学習方法を先に提案している（例えば、特許文献１を参照）。
【００３１】
特許文献１に記載の方法では、時系列データを調整しつつ、HMMの構造を調整しながら、HMMの学習が行われる。
【先行技術文献】
【特許文献】
【００３２】
【特許文献１】特開2009-223443号公報
【発明の概要】
【発明が解決しようとする課題】
【００３３】
モデル化対象を適切にモデル化するHMM、すなわち、モデル化対象を適切に表現するHMMを得ることについては、様々な方法の提案が要請されている。
【００３４】
本発明は、このような状況に鑑みてなされたものであり、モデル化対象を適切に表現するHMMを得ることができるようにするものである。
【課題を解決するための手段】
【００３５】
本発明の一側面のデータ処理装置、又は、プログラムは、時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定手段と、前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整手段とを備え、前記構造調整手段は、前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記HMMの各状態から各状態への状態遷移確率をコンポーネントとする状態遷移行列から、前記注目状態からの状態遷移確率、及び、前記注目状態への状態遷移確率を除いた部分状態遷移行列の固有値の和である部分固有値和と、前記状態遷移行列の固有値の和である全体固有値和との差である固有値差に対応する値を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択するデータ処理装置、又は、データ処理装置として、コンピュータを機能させるためのプログラムである。
【００３６】
本発明の一側面のデータ処理方法は、データ処理装置が、時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定ステップと、前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整ステップとを含み、前記構造調整ステップでは、前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記HMMの各状態から各状態への状態遷移確率をコンポーネントとする状態遷移行列から、前記注目状態からの状態遷移確率、及び、前記注目状態への状態遷移確率を除いた部分状態遷移行列の固有値の和である部分固有値和と、前記状態遷移行列の固有値の和である全体固有値和との差である固有値差に対応する値を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択するデータ処理方法である。
【００３７】
以上のような一側面においては、時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定が行われ、前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整が行われる。構造調整では、前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記HMMの各状態から各状態への状態遷移確率をコンポーネントとする状態遷移行列から、前記注目状態からの状態遷移確率、及び、前記注目状態への状態遷移確率を除いた部分状態遷移行列の固有値の和である部分固有値和と、前記状態遷移行列の固有値の和である全体固有値和との差である固有値差に対応する値が、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求められる。そして、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態が、前記分割対象に選択されるとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態が、前記併合対象に選択される。
【００３８】
本発明の他の一側面のデータ処理装置、又は、プログラムは、時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定手段と、前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整手段とを備え、前記構造調整手段は、前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択するデータ処理装置、又は、データ処理装置として、コンピュータを機能させるためのプログラムである。
【００３９】
本発明の他の一側面のデータ処理方法は、データ処理装置が、時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定を行うパラメータ推定ステップと、前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整を行う構造調整ステップとを含み、前記構造調整ステップでは、前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率を、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求め、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態を、前記分割対象に選択するとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態を、前記併合対象に選択するデータ処理方法である。
【００４０】
以上のような他の一側面においては、時系列データを用い、HMM(Hidden Markov Model)のパラメータを推定するパラメータ推定が行われ、前記HMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、前記分割対象の分割と、前記併合対象の併合とを行うことにより、前記HMMの構造を調整する構造調整が行われる。構造調整では、前記HMMの各状態を、注目する注目状態として、前記注目状態について、前記時系列データの各時刻のサンプルが観測されるときに、前記注目状態にいる状態確率を、時間方向に平均化した平均状態確率が、前記注目状態を、前記分割対象、又は、前記併合対象に選択すべき度合いを表す対象度合い値として求められる。そして、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より大の閾値である分割閾値より大の状態が、前記分割対象に選択されるとともに、前記対象度合い値が、前記HMMのすべての状態の対象度合い値の平均値より小の閾値である併合閾値より小の状態が、前記併合対象に選択される。
【００４１】
なお、データ処理装置は、独立した装置であっても良いし、１つの装置を構成している内部ブロックであっても良い。
【００４２】
また、プログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
【発明の効果】
【００４３】
本発明によれば、モデル化対象を適切に表現するHMMを得ることができる。
【図面の簡単な説明】
【００４４】
【図１】データ処理装置の一実施の形態の構成例の概要を説明する図である。
【図２】エルゴディックHMMの例を示す図である。
【図３】left-to-right型のHMMの例を示す図である。
【図４】データ処理装置の詳細な構成例を示すブロック図である。
【図５】状態の分割を説明する図である。
【図６】状態の併合を説明する図である。
【図７】分割対象、及び、併合対象を選択するためにシミュレーションを行ったHMMの学習に用いた学習データとしての観測時系列データを説明する図である。
【図８】分割対象、及び、併合対象を選択するためのシミュレーションの結果を示す図である。
【図９】平均状態確率pi'を、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【図１０】平均状態確率pi'を、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【図１１】固有値差eiを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【図１２】固有値差eiを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【図１３】合成値Biを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【図１４】合成値Biを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【図１５】データ処理装置の学習処理を説明するフローチャートである。
【図１６】構造調整の処理を説明するフローチャートである。
【図１７】学習処理の第１のシミュレーションを説明する図である。
【図１８】第１のシミュレーションとしてのHMMの学習での、学習回数と、HMMの尤度（対数尤度）との関係を示す図である。
【図１９】学習処理の第２のシミュレーションを説明する図である。
【図２０】第２のシミュレーションとしてのHMMの学習での、学習回数と、HMMの尤度（対数尤度）との関係を示す図である。
【図２１】モデル化対象を適切に表現するHMMのパラメータである良い解が、解空間の中で効率的に探索される様子を模式的に示す図である。
【図２２】本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【発明を実施するための形態】
【００４５】
［本発明を適用したデータ処理装置の概要］
【００４６】
図１は、本発明を適用したデータ処理装置の一実施の形態の構成例の概要を説明する図である。
【００４７】
図１において、データ処理装置は、状態と状態遷移とを有する状態遷移確率モデルを記憶している。データ処理装置は、状態遷移確率モデルによって、モデル化対象をモデル化するための学習を行う学習装置として機能する。
【００４８】
モデル化対象からは、そのモデル化対象をセンシングすることにより得られるセンサ信号が、例えば、時系列に観測される。
【００４９】
データ処理装置は、モデル化対象から観測されるセンサ信号を用い、状態遷移確率モデルの学習、すなわち、ここでは、状態遷移確率モデルのパラメータの推定と、構造の決定とを行う。
【００５０】
ここで、状態遷移確率モデルとしては、例えば、HMMや、ベイジアンネットワーク、POMDP(Partially Observable Markov Decision Process)等を採用することができる。以下では、状態遷移確率モデルとして、例えば、HMMを採用することとする。
【００５１】
図２は、HMMの例を示す図である。
【００５２】
HMMは、状態と状態遷移とを有する状態遷移確率モデルである。
【００５３】
図２は、３状態のHMMの例を示している。
【００５４】
図２において（図３においても同様）、丸印は、状態を表し、矢印は、状態遷移を表す。
【００５５】
また、図２において、si（図２では、i=1,2,3）は、状態を表し、aijは、状態siから状態sjへの（状態遷移の）状態遷移確率を表す。さらに、bj(o)は、状態sjにおいて、観測値oが観測される確率分布を表し、πiは、状態siが初期状態である初期確率を表す。
【００５６】
確率分布bj(o)は、観測値oが離散値である場合には、その離散値である観測値oが観測される、離散値である確率値であり、観測値oが連続値である場合には、その連続値である観測値oが観測される確率密度を表す確率密度関数等である。
【００５７】
確率密度関数としては、例えば、混合正規確率分布等が用いられる。
【００５８】
ここで、HMMは、状態遷移確率aij、確率分布bj(o)、及び初期確率πiによって定義される。したがって、これらの状態遷移確率aij、確率分布bj(o)、及び初期確率πiが、HMMのパラメータλ={aij,bj(o),πi,i=1,2,・・・,N，j=1,2,・・・,N}である。Nは、HMMの状態数を表す。
【００５９】
HMMのパラメータλを推定する方法としては、前述したように、例えば、Baum-Welchの再推定法が広く利用されている。Baum-Welchの再推定法は、EMアルゴリズム(EM(Expectation-Maximization) algorithm)に基づくパラメータの推定方法である。
【００６０】
Baum-Welchの再推定法によれば、観測される時系列データo=o1,o2,・・・,oTに基づき、その時系列データoが観測（生起）される確率である生起確率から求まる尤度を最大化するように、HMMのパラメータλの推定が行われる。
【００６１】
ここで、otは、時刻tに観測される観測値（センサ信号のサンプル値）を表し、Tは、時系列データの長さ（サンプル数）を表す。
【００６２】
なお、Baum-Welchの再推定法は、尤度最大化に基づくパラメータ推定方法ではあるが、最適性を保証するものではなく、HMMの構造やパラメータλの初期値によっては、局所解に収束する初期値依存性を有する。
【００６３】
HMMは、音声認識で広く利用されているが、音声認識で利用されるHMMでは、状態の数や状態遷移の仕方等は、一般に、あらかじめ決定される。
【００６４】
図３は、音声認識で利用されるHMMの例を示す図である。
【００６５】
図３のHMMは、left-to-right型と呼ばれる。
【００６６】
図３では、状態数は３になっており、状態遷移は、自己遷移（状態siから状態siへの状態遷移）と、左から右隣の状態への状態遷移とのみを許す構造に制約されている。
【００６７】
図３のHMMのように、状態遷移に制約があるHMMに対して、図２に示した、状態遷移に制約がないHMM、すなわち、任意の状態siから任意の状態sjへの状態遷移が可能なHMMは、エルゴディック(Ergodic)HMMと呼ばれる。
【００６８】
エルゴディックHMMは、構造としては最も自由度の高いHMMであるが、状態数が多くなると、パラメータλの推定が困難となる。
【００６９】
例えば、エルゴディックHMMの状態数が、１００である場合、状態遷移の数は、１万（＝１００×１００）となる。したがって、この場合、パラメータλのうちの、例えば、状態遷移確率aijについては、１万個の状態遷移確率aijを推定することが必要となる。
【００７０】
また、例えば、エルゴディックHMMの状態数が、１０００である場合、状態遷移の数は、１００万（＝１０００×１０００）となる。したがって、この場合、パラメータλのうちの、例えば、状態遷移確率aijについては、１００万個の状態遷移確率aijを推定することが必要となる。
【００７１】
モデル化対象によっては、必要となる状態遷移は、限られた状態遷移で十分であるかもしれないが、どのように状態遷移の制約をかければ良いかが事前に分からない場合には、このような膨大な数のパラメータλを適切に推定することは非常に難しい。また、適切な状態数も事前に分からず、HMMの構造を決定するための情報も事前に分からない場合には、適切なパラメータλを求めることは、さらに難しくなる。
【００７２】
すなわち、例えば、１００個の状態を有するHMMにおいて、各状態の状態遷移の遷移先を、自己遷移を含めて、５個の状態に制約すれば、推定すべき状態遷移確率aijの数は、状態遷移を制約しない場合の１万個から５００個に削減することができる。
【００７３】
しかしながら、HMMの状態の数を固定した上で、状態遷移を制約することは、HMMの柔軟性が損なわれ、初期値依存性が顕著になり、適切なパラメータを求めること、つまり、モデル化対象を適切に表現するHMMを得ることが困難となる。
【００７４】
図１のデータ処理装置は、HMMの構造、すなわち、HMMの状態の数、及び状態遷移に関して、制約を事前に与えなくても、モデル化対象に適切なHMMの構造を決定していきながら、そのHMMのパラメータλを推定する学習を行う。
【００７５】
［本発明を適用したデータ処理装置の構成例］
【００７６】
図４は、図１のデータ処理装置の構成例を示すブロック図である。
【００７７】
図４において、データ処理装置は、時系列データ入力部１１、パラメータ推定部１２、評価部１３、モデル記憶部１４、モデルバッファ１５、及び、構造調整部１６を有する。
【００７８】
時系列データ入力部１１には、モデル化対象から観測されるセンサ信号が入力される。時系列データ入力部１１は、モデル化対象から観測されるセンサ信号に基づき、モデル化対象から観測される時系列データ（以下、観測時系列データともいう）o=o1,o2,・・・,oTを、パラメータ推定部１２に出力する。
【００７９】
すなわち、時系列データ入力部１１は、例えば、モデル化対象から観測される、時系列のセンサ信号を、所定のレンジの信号に正規化し、観測時系列データoとして、パラメータ推定部１２に供給する。
【００８０】
なお、時系列データ入力部１１は、評価部１３からの要求にも応じて、観測時系列データoを、パラメータ推定部１２に供給する。
【００８１】
パラメータ推定部１２は、時系列データ入力部１１からの観測時系列データoを用い、モデル記憶部１４に記憶されたHMMのパラメータλを推定する。
【００８２】
すなわち、パラメータ推定部１２は、時系列データ入力部１１からの観測時系列データoを用い、例えば、Baum-Welchの再推定法によって、モデル記憶部１４に記憶されたHMMの新たなパラメータλを推定するパラメータ推定を行う。
【００８３】
パラメータ推定部１２は、HMMのパラメータ推定によって得られる新たなパラメータλを、モデル記憶部１４に供給し、上書きの形で記憶させる。
【００８４】
なお、パラメータ推定部１２は、HMMのパラメータλの推定にあたり、パラメータλの初期値として、モデル記憶部１４に記憶された値を用いる。
【００８５】
ここで、パラメータ推定部１２において、新たなパラメータλを推定する処理を行うことを、学習回数の１回とカウントすることとする。
【００８６】
パラメータ推定部１２は、新たなパラメータλを推定する処理を行うたびに、学習回数を１だけインクリメントし、その学習回数を、評価部１３に供給する。
【００８７】
さらに、パラメータ推定部１２は、新たなパラメータλによって定義されるHMMから、時系列データ入力部１１からの観測時系列データoが観測される尤度を求め、その尤度、又は、その尤度の対数をとった対数尤度を、評価部１３、及び、構造調整部１６に供給する。
【００８８】
評価部１３は、パラメータ推定部１２からの尤度や学習回数等に基づき、学習が行われたHMM、つまり、パラメータ推定部１２でのパラメータ推定後のHMMを評価し、そのHMMの評価の結果に基づいて、モデル記憶部１４に記憶されたHMMの構造を調整する構造調整を行うか否かの判定と、HMMの学習を終了するか否かの判定とを行う。
【００８９】
すなわち、評価部１３は、例えば、パラメータ推定部１２からの学習回数が所定の回数に到達するまでは、HMMによる観測時系列データoの特徴（時系列パターン）の獲得が不十分であると評価し、HMMの学習を続行すると判定する。
【００９０】
また、評価部１３は、パラメータ推定部１２からの学習回数が所定の回数に到達した場合には、HMMによる観測時系列データoの特徴の獲得が十分であると評価し、HMMの学習を終了すると判定する。
【００９１】
あるいは、評価部１３は、例えば、パラメータ推定部１２からの尤度が所定の値に到達するまでは、HMMによる観測時系列データoの特徴（時系列パターン）の獲得が不十分であると評価し、HMMの学習を続行すると判定する。
【００９２】
そして、評価部１３は、パラメータ推定部１２からの尤度が所定の値に到達した場合には、HMMによる観測時系列データoの特徴の獲得が十分であると評価し、HMMの学習を終了すると判定する。
【００９３】
評価部１３は、HMMの学習を続行すると判定した場合、時系列データ入力部１１に対して、観測時系列データの供給を行うことを要求する。
【００９４】
一方、評価部１３は、HMMの学習を終了すると判定した場合、構造調整部１６を介して、モデルバッファ１５に記憶されている、後述する最良モデルとしてのHMMを読み出し、学習後のHMM（観測時系列データが観測されたモデル化対象を表現するHMM）として出力する。
【００９５】
また、評価部１３は、パラメータ推定部１２からの尤度を用いて、パラメータ推定後のHMMにおいて観測時系列データが観測される尤度の、パラメータ推定前のHMMにおいて観測時系列データが観測される尤度に対する増分を求め、その増分が、所定値より小である（所定値以下である）場合には、HMMの構造調整を行うと判定する。
【００９６】
一方、評価部１３は、パラメータ推定後のHMMにおいて観測時系列データが観測される尤度の増分が、所定値より小でない場合には、HMMの構造調整を行わないと判定する。
【００９７】
そして、評価部１３は、HMMの構造調整を行うと判定した場合、構造調整部１６に対して、モデル記憶部１４に記憶されたHMMの構造調整を行うことを要求する。
【００９８】
モデル記憶部１４は、状態遷移確率モデルである、例えば、HMMを記憶する。
【００９９】
すなわち、モデル記憶部１４は、パラメータ推定部１２からHMMの新たなパラメータが供給されると、その新たなパラメータによって、記憶値（記憶しているHMMのパラメータ）を更新する（上書きする）。
【０１００】
なお、モデル記憶部１４に記憶されたHMM（のパラメータ）は、構造調整部１６によるHMMの構造調整によっても更新される。
【０１０１】
モデルバッファ１５は、構造調整部１６の制御に従い、モデル記憶部１４に（パラメータが）記憶されたHMMの中で、観測時系列データが観測される尤度が最大のHMMを、観測時系列データが観測されたモデル化対象を最も適切に表現する最良モデルとして記憶する。
【０１０２】
構造調整部１６は、評価部１３からの要求に応じ、モデル記憶部１４に記憶されたHMMの構造を調整する構造調整を行う。
【０１０３】
なお、構造調整部１６で行われるHMMの構造の調整には、その構造の調整に応じて必要となるHMMのパラメータの調整も含まれる。
【０１０４】
ここで、HMMの構造は、HMMを構成する状態の数と、状態どうしの間の状態遷移（状態遷移確率が0.0でない状態遷移）とによって決まる。したがって、HMMの構造とは、HMMの状態の数と状態遷移であるということができる。
【０１０５】
構造調整部１６でのHMMの構造調整の種類としては、状態の分割と、状態の併合とがある。
【０１０６】
構造調整部１６は、モデル記憶部１４に記憶されたHMMの状態の中から、分割を行う対象の状態である分割対象と、併合を行う対象の状態である併合対象とを選択し、分割対象（である状態）の分割と、併合対象（である状態の）の併合とを行うことにより、構造調整を行う。
【０１０７】
状態の分割では、モデル化対象を適切に表現することができるように、HMMの規模を拡大するために、HMMの状態の数が増加する。一方、状態の併合では、モデル化対象を適切に表現するのに冗長な状態が削除され、HMMの状態の数が減少する。なお、HMMの状態の数の増減に伴い、状態遷移の数も増減する。
【０１０８】
構造調整部１６は、その他、パラメータ推定部１２から供給される尤度に基づき、モデルバッファ１５による最良モデルの記憶を制御する。
【０１０９】
［状態の分割］
【０１１０】
図５は、構造調整部１６による構造調整としての状態の分割を説明する図である。
【０１１１】
ここで、図５では（後述する図６でも同様）、丸印は、HMMの状態を表し、矢印は、状態遷移を表す。さらに、図５において、２つの状態を結ぶ双方向の矢印は、その２つの状態の一方から他方への状態遷移と、他方から一方への状態遷移とを表す。また、図５において、各状態は、自己遷移が可能であり、その自己遷移を表す矢印の図示は、省略している。
【０１１２】
さらに、図中、状態を表す丸印の中の数字iは、状態を区別するためのインデクスであり、インデクスとして、数字iが付された状態を、以下、状態siと記載する。
【０１１３】
図５において、状態の分割が行われる前のHMM（分割前のHMM）は、６個の状態s1,s2,s3,s4,s5,s6を有し、状態s1とs2との間、状態s1とs4との間、状態s2とs3との間、状態s2とs5との間、状態s3とs6との間、状態s4とs5との間、及び、状態s5とs6との間のそれぞれの双方向の状態遷移と、自己遷移とが可能となっている。
【０１１４】
いま、分割前のHMMの状態s1ないしs6のうちの、例えば、状態s5が分割対象に選択された場合、その状態s5を分割対象とする状態の分割では、構造調整部１６は、HMMに、新たな状態s7を追加する。
【０１１５】
さらに、構造調整部１６は、新たな状態s7との間の状態遷移（状態遷移確率が0.0でない状態遷移）として、分割対象である状態s5との間に状態遷移を有する他の状態s2,s4,s6それぞれとの間の状態遷移と、自己遷移と、分割対象である状態s6との間の状態遷移とを追加する。
【０１１６】
その結果、状態の分割では、分割対象である状態s5が、その状態s5と、新たな状態s7とに分割され、さらに、新たな状態s7の追加に伴い、その新たな状態s7との間の状態遷移が追加される。
【０１１７】
さらに、状態の分割では、状態の分割が行われた後のHMM（分割後のHMM）について、新たな状態s7の追加と、その新たな状態s7との間の状態遷移の追加とに伴い、HMMのパラメータが調整される。
【０１１８】
すなわち、構造調整部１６は、状態s7の初期確率π7、及び、確率分布b7(o)、並びに、状態s7との間の状態遷移の状態遷移確率a7j、及び、ai7として、所定の値を設定する。
【０１１９】
具体的には、例えば、構造調整部１６は、状態s7の初期確率π7として、分割対象である状態s5の初期確率π5の1/2の値を設定し、それに伴い、分割対象である状態s5の初期確率π5を、現在の値の1/2の値に設定する。
【０１２０】
さらに、構造調整部１６は、状態s7の確率分布b7(o)として、分割対象である状態s5の確率分布b5(o)を設定する（与える）。
【０１２１】
また、構造調整部１６は、状態s7との間の状態遷移のうちの、分割対象である状態s5以外の状態s2,s4,s6それぞれとの状態遷移の状態遷移確率a7j、及び、ai7として、分割対象である状態s5と状態s2,s4,s6それぞれとの間の状態遷移の状態遷移確率a5j、及び、ai5の1/2の値を設定する（a72＝a52/2，a74＝a54/2，a76＝a56/2，a27＝a25/2，a47＝a45/2，a67＝a65/2とする）。
【０１２２】
そして、構造調整部１６は、状態s7と、分割対象である状態s5以外の状態s2,s4,s6それぞれとの間の状態遷移の状態遷移確率a7j、及び、ai7の設定に伴い、分割対象である状態s5と状態s2,s4,s6それぞれとの間の状態遷移の状態遷移確率a5j、及び、ai5を、現在の値の1/2の値に設定する。
【０１２３】
さらに、構造調整部１６は、状態s7と、分割対象である状態s5との間の状態遷移の状態遷移確率a57、及び、a75、並びに、状態s7の自己遷移の状態遷移確率a77として、分割対象である状態s5の自己遷移の状態遷移確率a55の1/2の値を設定し、それに伴い、分割対象である状態s5の自己遷移の状態遷移確率a55を、現在の値の1/2の値に設定する。
【０１２４】
その後、構造調整部１６は、状態の分割後のHMMの必要なパラメータについて、正規化処理を施し、状態の分割の処理を終了する。
【０１２５】
すなわち、構造調整部１６は、状態の分割後のHMMの状態遷移確率aijが、式Σaij=1（但し、i=1,2,・・・,N）を満たすように、状態遷移確率aijに正規化処理を施す。
【０１２６】
ここで、式Σaij=1におけるΣは、状態を表す変数jを、1から、状態の分割後のHMMの状態数Nに変えてのサメーションを意味する。図５では、状態の分割後のHMMの状態数Nは、７である。
【０１２７】
状態遷移確率aijの正規化処理では、正規化前の状態遷移確率aijを、正規化前の状態遷移確率aijの、遷移先の状態sjについての総和ai1+ai2+・・・+aiNで除算することにより、正規化後の状態遷移確率aijが求められる。
【０１２８】
なお、図５では、１つの状態s5だけを分割対象として、状態の分割を行ったが、状態の分割は、複数の状態を分割対象として、その複数の分割対象について並列に行うことができる。
【０１２９】
１以上であるM個の状態を、分割対象として、状態の分割を行った場合、分割後のHMMは、分割前のHMMよりも、状態がM個だけ増加する。
【０１３０】
ここで、図５では、分割対象である状態s5を分割した新たな状態s７が関係するHMMのパラメータ（初期確率π7、状態遷移確率a7j及びai7、及び、確率分布b7(o)）を、分割対象である状態s5が関係するHMMのパラメータに基づいて設定したが、その他、新たな状態s5が関係するHMMのパラメータとしては、あらかじめ、新たな状態用の固定のパラメータを用意しておき、その固定のパラメータを設定することが可能である。
【０１３１】
［状態の併合］
【０１３２】
図６は、構造調整部１６による構造調整としての状態の併合を説明する図である。
【０１３３】
図６において、状態の併合が行われる前のHMM（併合前のHMM）は、図５の分割前のHMMと同様に、６個の状態s1,s2,s3,s4,s5,s6を有し、状態s1とs2との間、状態s1とs4との間、状態s2とs3との間、状態s2とs5との間、状態s3とs6との間、状態s4とs5との間、及び、状態s5とs6との間のそれぞれの双方向の状態遷移と、自己遷移とが可能となっている。
【０１３４】
いま、併合前のHMMの状態s1ないしs6のうちの、例えば、状態s5が併合対象に選択された場合、その状態s5を併合対象とする状態の併合では、構造調整部１６は、併合対象である状態s5を削除する。
【０１３５】
さらに、構造調整部１６は、併合状態である状態s5との間に状態遷移（状態遷移確率が0.0でない状態遷移）を有していた他の状態（以下、被併合状態ともいう）s2,s4,s6それぞれどうしの間、すなわち、状態s2とs4との間、状態s2とs6との間、及び、状態s4とs6との間のそれぞれに、状態遷移を追加する。
【０１３６】
その結果、状態の併合では、併合対象である状態s5が、その状態s5との間に状態遷移を有していた他の状態（被併合状態）s2,s4,s6それぞれに併合され、さらに、状態s5との間の状態遷移は、状態s5をバイパスする形で、他の状態s2,s4,s6それぞれとの間の状態遷移に併合される（引き継がれる）。
【０１３７】
さらに、状態の併合では、状態の併合が行われた後のHMM（併合後のHMM）について、併合対象の状態s5の削除と、その状態s5との間の状態遷移の併合（被併合状態どうしの間の状態遷移の追加）とに伴い、HMMのパラメータが調整される。
【０１３８】
すなわち、構造調整部１６は、被併合状態s2,s4,s6それぞれどうしの間の状態遷移の状態遷移確率aijとして、所定の値を設定する。
【０１３９】
具体的には、例えば、構造調整部１６は、任意の被併合状態siから他の被併合状態sjへの（状態遷移の）状態遷移確率aijとして、被併合状態siから併合対象である状態s5への（状態遷移の）状態遷移確率ai5と、併合対象である状態s5から被併合状態sjへの（状態遷移の）状態遷移確率a5jとの乗算値を設定する（aij=ai5×a5j）。
【０１４０】
また、構造調整部１６は、併合対象である状態s5の初期確率π5を、被併合状態s2,s4,s6のそれぞれ、又は、併合後のHMMのすべての状態s1,s2,s3,s4,s6のそれぞれに、等分配する。
【０１４１】
すなわち、併合対象である状態s5の初期確率π5を等分配する状態siの数が、K個だとすると、状態siの初期確率πiは、現在の値と、併合対象である状態s5の初期確率π5の1/Kの値との和に設定される。
【０１４２】
その後、構造調整部１６は、状態の併合後のHMMの必要なパラメータについて、正規化処理を施し、状態の分割の処理を終了する。
【０１４３】
すなわち、構造調整部１６は、状態の分割の場合と同様に、状態の併合後のHMMの状態遷移確率aijが、式Σaij=1（但し、i=1,2,・・・,N）を満たすように、状態遷移確率aijに正規化処理を施す。
【０１４４】
なお、図６では、１つの状態s5だけを併合対象として、状態の併合を行ったが、状態の併合は、複数の状態を併合対象として、その複数の併合対象について並列に行うことができる。
【０１４５】
１以上であるM個の状態を、併合対象として、状態の併合を行った場合、併合後のHMMは、併合前のHMMよりも、状態がM個だけ減少する。
【０１４６】
ここで、図６では、被併合状態どうしの間の状態遷移確率を、併合対象である状態s5と被併合状態との間の状態遷移確率に基づいて設定したが、その他、被併合状態どうしの間の状態遷移確率としては、あらかじめ、併合用の固定の状態遷移確率を用意しておき、その固定の状態遷移確率を設定することが可能である。
【０１４７】
また、図６では、併合対象である状態s5の初期確率π5を、被併合状態s2,s4,s6のそれぞれ、又は、併合後のHMMのすべての状態s1,s2,s3,s4,s6のそれぞれに、等分配することとしたが、併合対象である状態s5の初期確率π5の等分配は、行わなくても良い。
【０１４８】
但し、併合対象である状態s5の初期確率π5の等分配を行わない場合には、状態の併合後のHMMの初期確率πiが、式Σπi=1を満たすように、初期確率πiに正規化処理を施す必要がある。
【０１４９】
ここで、式Σπi=1におけるΣは、状態を表す変数iを、1から、状態の併合後のHMMの状態数Nに変えてのサメーションを意味する。図６では、状態の併合後のHMMの状態数Nは、5である。
【０１５０】
初期確率πiの正規化処理では、正規化前の初期確率πiを、正規化前の初期確率πiの総和π1+π2+・・・+πNで除算することにより、正規化後の初期確率πiが求められる。
【０１５１】
［分割対象、及び、併合対象の選択方法］
【０１５２】
図７及び図８は、構造調整部１６が、状態の分割及び併合を行う場合に、分割対象、及び、併合対象を選択する選択方法を説明する図である。
【０１５３】
すなわち、図７は、分割対象、及び、併合対象を選択するために本件発明者がシミュレーションを行ったHMMの学習に用いた学習データとしての観測時系列データを説明する図である。
【０１５４】
シミュレーションでは、２次元空間（平面）中の任意の位置に出現し、その位置の座標を出力する信号源を、モデル化対象とするとともに、信号源が出力する座標を、観測値oとして用いた。
【０１５５】
なお、信号源は、２次元空間中のx座標の0.2から0.8の間を0.2間隔で等分し、かつ、y座標の0.2から0.8の間を0.2間隔で等分する16個の点（の座標）それぞれを平均値とし、かつ、0.00125を分散とする16個の正規分布に従って出現する。
【０１５６】
ここで、図７において、16個の丸印（円）は、上述のような正規分布に従って出現する信号源（の位置）の確率分布を表す。すなわち、丸印の中心が、信号源が出現する位置（の座標）の平均値を表し、丸印の半径が、信号源が出現する位置の分散を表す。
【０１５７】
信号源は、16個の正規分布の中から、ランダムに、1個の正規分布を選択し、その正規分布に従って出現する。そして、信号源は、出現した位置の座標を出力し、再び、正規分布を選択する。
【０１５８】
そして、信号源は、以下、同様の処理を、16個の正規分布それぞれが十分な所定の回数以上選択されるまで繰り返し、これにより、外部からは、観測値oとしての座標の時系列が観測される。
【０１５９】
なお、図７のシミュレーションでは、正規分布の選択を、前回選択した正規分布と、その正規分布の横、及び、縦のそれぞれに隣接する正規分布との中から行うように制限した。
【０１６０】
すなわち、前回選択した正規分布の横、及び、縦のそれぞれに隣接する正規分布を、隣接正規分布ということとし、隣接正規分布の総数をC個とすると、隣接正規分布は、いずれも、0.2の確率で選択し、前回選択した正規分布は、1-0.2Cの確率で選択した。
【０１６１】
図７において、正規分布を表す丸印の中心どうしを結ぶ点線は、シミュレーションでの正規分布の選択の制限を表す。
【０１６２】
以上のような信号源から観測される観測値oとしての座標の時系列を、学習データとして用い、状態sjの確率分布bj(o)として正規分布を採用した、16個の状態を有するHMMの学習を行い、その学習後のHMMが、信号源の確率分布と同様に構成されていれば、そのHMMは、モデル化対象を適切に表現している、ということができる。
【０１６３】
すなわち、学習後のHMMの状態sjの確率分布bj(o)としての正規分布の平均値（が表す位置）を中心とし、かつ、その正規分布の分散を半径とする丸印（円）として、学習後のHMMの各状態を、２次元空間中に表し、その丸印で表される状態どうしの、所定値以上の状態遷移確率の状態遷移を、点線で表した場合に、図７のように、16個の丸印と、縦と横のそれぞれに隣接する丸印どうしを結ぶ点線が描ければ、学習後のHMMは、モデル化対象を適切に表現している、ということができる。
【０１６４】
図８は、分割対象、及び、併合対象を選択するためのシミュレーションの結果を示す図である。
【０１６５】
シミュレーションでは、図７の信号源から観測される観測時系列データ（信号源の座標の時系列）を学習データとして用いて、HMMの学習（Baum-Welchの再推定法によるHMMのパラメータの推定）を行った。
【０１６６】
HMMとしては、16個の状態s1ないしs16を有する、例えば、エルゴディック型のHMMを採用し、状態sjの確率分布bj(o)としては、正規分布を採用した。
【０１６７】
図８Ａは、学習後のHMMを示している。
【０１６８】
なお、図８Ａにおいて、２次元空間中に表されている丸印（円又は楕円）は、学習後のHMMの状態sjを表す。
【０１６９】
また、図８Ａにおいて、状態sjを表す丸印の中心は、その状態sjの確率分布bj(o)としての正規分布の平均値に等しく、その丸印の半径は、確率分布bj(o)としての正規分布の分散に対応する。
【０１７０】
さらに、図８Ａにおいて、状態を表す丸印どうしを結ぶ線分は、（所定値以上の状態遷移確率の）状態遷移を表す。
【０１７１】
図８Ａによれば、状態s8を分割し、状態s13を併合することで、信号源を適切に表現するHMMが得られること、すなわち、信号源を適切に表現するHMMを得るには、状態s8を分割すべきことと、状態s13を併合すべきこととが分かる。
【０１７２】
図８Ｂは、図８Ａの学習後のHMMの状態s1ないしs16それぞれの平均状態確率を示している。
【０１７３】
なお、図８Ｂにおいて（後述する図８Ｃ及び図８Ｄでも同様）、横軸は、学習後のHMMの状態si（のインデクスi）を表す。
【０１７４】
ここで、ある状態siに注目した場合に、その注目状態siの平均状態確率pi'とは、観測時系列データ（ここでは、学習データ）の各時刻のサンプル（観測値o）が観測されるときに、注目状態siにいる状態確率を、時間方向に平均化した値である。
【０１７５】
すなわち、学習後のHMMにおいて、学習データo=o1,o2,・・・,oTが観測されるときの、各時刻tの、状態si(=St)の前向き確率を、pi(t)=p(o1,o2,・・・,oT,St)と表すこととする。
【０１７６】
ここで、前向き確率pi(t)=p(o1,o2,・・・,ot,St)は、観測値の時系列o1,o2,・・・,otを観測し、時刻tに、状態St(=s1,s2,・・・,sN)にいる確率であり、いわゆるフォワードアルゴリズム(Forward algorithm)によって求めることができる。
【０１７７】
注目状態siの平均状態確率pi'は、式pi'=(pi(1)+pi(2)+・・・+pi(T))／Tにしたがって求めることができる。
【０１７８】
図８Ｂによれば、信号源を適切に表現するHMMを得るために分割すべき状態s8の平均状態確率p8'が、（学習後の）HMMのすべての状態s1ないしs16それぞれの平均状態確率p1'ないしp16'の平均値を大きく上回っていること、及び、信号源を適切に表現するHMMを得るために併合すべき状態s13の平均状態確率p13'が、HMMのすべての状態s1ないしs16それぞれの平均状態確率p1'ないしp16'の平均値を大きく下回っていることが分かる。
【０１７９】
図８Ｃは、図８ＡのHMMの状態s1ないしs16それぞれの固有値差を示している。
【０１８０】
ここで、注目状態siの固有値差eiとは、注目状態siの部分固有値和eipartと、HMMの全体固有値和eorgとの差eipart−eorgである。
【０１８１】
HMMの全体固有値和eorgとは、HMMの各状態siから各状態sjへの状態遷移確率aijをコンポーネントとする状態遷移行列の固有値の和（総和）である。HMMの状態の数がN個である場合、状態遷移行列は、N行N列の正方行列となる。
【０１８２】
なお、正方行列の固有値の和は、正方行列の固有値を計算してから、その固有値の和をとって求める他、正方行列の対角成分の和（総和）（トレース）を計算することによっても求めることができる。正方行列のトレースの計算は、正方行列の固有値の計算よりも、計算量が大幅に少なくて済むので、実装上は、正方行列のトレースを計算することによって、正方行列の固有値の和を求めることが望ましい。
【０１８３】
注目状態siの部分固有値和eipartとは、状態遷移行列から、注目状態siからの状態遷移確率aij(j=1,2,・・・,N)と、注目状態siへの状態遷移確率aji(j=1,2,・・・,N)を除いたN-1行N-1列の正方行列（以下、部分状態遷移行列ともいう）の固有値の和である。
【０１８４】
状態遷移行列は（部分状態遷移行列も同様）、確率（状態遷移確率）をコンポーネントとする行列であるから、その固有値は、確率として取り得る最大値である1以下の値となる。
【０１８５】
そして、本件発明者の知見によれば、状態遷移行列の固有値が大であるほど、HMMの各状態の確率分布bi(o)の収束が速いことが分かっている。
【０１８６】
したがって、注目状態siの部分固有値和eipartと、HMMの全体固有値和eorgとの差である、注目状態siの固有値差ei（＝eipart−eorg）は、注目状態siが存在しないHMMと、存在するHMMとの間の、確率分布bi(o)の収束性の違いを表している、ということができる。
【０１８７】
図８Ｃによれば、信号源を適切に表現するHMMを得るために分割すべき状態s8の固有値差e8が、HMMのすべての状態s1ないしs16それぞれの固有値差e1ないしe16の平均値を大きく上回っていること、及び、信号源を適切に表現するHMMを得るために併合すべき状態s13の固有値差e13が、HMMのすべての状態s1ないしs16それぞれの固有値差e1ないしe16の平均値を大きく下回っていることが分かる。
【０１８８】
図８Ｄは、図８ＡのHMMの状態s1ないしs16それぞれの合成値を示している。
【０１８９】
注目状態siの合成値Biとは、注目状態siの平均状態確率pi'と固有値差eiとを合成した値であり、例えば、平均状態確率pi'と、固有値差eiを正規化した正規化固有値差ei'との重み付け加算値を採用することができる。
【０１９０】
注目状態siの合成値Biとして、平均状態確率pi'と、正規化固有値差ei'との重み付け加算値を採用する場合、重みをαと表すこととすると（０＜α＜１）、合成値Biは、式Bi＝αpi'＋(1-α)ei'に従って求めることができる。
【０１９１】
なお、正規化固有値差ei'は、例えば、HMMのすべての状態の正規化固有値差ei'の総和e1'+e2'+・・・+eN'が1になるように、固有値差eiを正規化することで、すなわち、式ei'＝ei／(e1+e2+・・・+eN)に従って求めることができる。
【０１９２】
ここで、合成値Biは、平均状態確率pi'と、固有値差ei（を正規化した正規化固有値差ei'）との重み付け加算値等の、平均状態確率pi'と固有値差eiとを合成した値であるから、平均状態確率pi'に対応する値、又は、固有値差eiに対応する値であるということができる。
【０１９３】
図８Ｄによれば、信号源を適切に表現するHMMを得るために分割すべき状態s8の合成値B8が、HMMのすべての状態s1ないしs16それぞれの固有値差e1ないしe16の平均値を大きく上回っていること、及び、信号源を適切に表現するHMMを得るために併合すべき状態s13の合成値B13が、HMMのすべての状態s1ないしs16それぞれの固有値差e1ないしe16の平均値を大きく下回っていることが分かる。
【０１９４】
図７及び図８で説明したシミュレーションから、本件発明者は、状態を、分割対象、又は、併合対象に選択すべき適切さの度合いを表す対象度合い値として、平均状態確率pi'、固有値差ei、及び、合成値Biを用い、その対象度合い値に基づいて、分割対象、及び、併合対象を選択することで、信号源を適切に表現するHMMを得るために分割すべき状態と、併合すべき状態とを選択することができることを発見した。
【０１９５】
すなわち、図８Ａによれば、信号源を適切に表現するHMMを得るためには、状態s8を分割すべきであるが、その分割すべき状態s8の対象度合い値（平均状態確率p8'、固有値差e8、合成値B8）は、HMMのすべての状態の対象度合い値の平均値を大きく上回る。
【０１９６】
また、図８Ａによれば、信号源を適切に表現するHMMを得るためには、状態s13を併合すべきであるが、その併合すべき状態s13の対象度合い値（平均状態確率p13'、固有値差e13、合成値B13）は、HMMのすべての状態の対象度合い値の平均値を大きく下回る。
【０１９７】
したがって、逆に言えば、対象度合い値の平均値を大きく上回る対象度合い値の状態が存在する場合には、その状態を、分割対象として選択し、状態の分割を行うことで、信号源を適切に表現するHMMを得ることができる。
【０１９８】
また、対象度合い値の平均値を大きく下回る対象度合い値の状態が存在する場合には、その状態を、併合対象として選択し、状態の併合を行うことで、信号源を適切に表現するHMMを得ることができる。
【０１９９】
そこで、構造調整部１６は、モデル記憶部１４に記憶されたHMMのすべての状態の対象度合い値の平均値より大の値を、分割対象を選択するための閾値である分割閾値として設定するとともに、その平均値より小の値を、併合対象を選択するための閾値である併合閾値として設定する。
【０２００】
そして、構造調整部１６は、対象度合い値が、分割閾値より大（分割閾値以上）の状態を、分割対象に選択するとともに、対象度合い値が、併合閾値より小（併合閾値以下）の状態を、併合対象に選択する。
【０２０１】
ここで、分割閾値としては、モデル記憶部１４に記憶されたHMMのすべての状態の対象度合い値の平均値（以下、対象度合い平均値ともいう）に、所定の正の値を加算した値を採用し、併合閾値としては、対象度合い平均値から、所定の正の値を減算した値を採用することができる。
【０２０２】
所定の正の値としては、例えば、シミュレーションにより経験的に求められる固定値や、モデル記憶部１４に記憶されたHMMのすべての状態の対象度合い値の標準偏差σ（さらには、標準偏差σに比例する値）等を採用することができる。
【０２０３】
本実施の形態では、所定の正の値として、例えば、モデル記憶部１４に記憶されたHMMのすべての状態の対象度合い値の標準偏差σを採用することとする。
【０２０４】
なお、対象度合い値としては、上述の平均状態確率pi'、固有値差ei、及び、合成値Biのうちのいずれを用いても良い。
【０２０５】
また、固有値差eiは、固有値差eiそのものであり、合成値Biは、固有値差eiを用いた合成によって得られる値であるから、いずれも、固有値差eiに対応する値であるということができる。
【０２０６】
図９は、平均状態確率pi'を、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【０２０７】
すなわち、図９は、6個の状態s1ないしs6を有するHMMの各状態siの対象度合い値としての平均状態確率pi'を示している。
【０２０８】
図９においては、6個の状態s1ないしs6のうちの状態s5の平均状態確率p5'が、6個の状態s1ないしs6すべての対象度合い値の平均値（以下、対象度合い平均値ともいう）に、その6個の状態s1ないしs6すべての対象度合い値の標準偏差σを加算した値である分割閾値より大になっている。
【０２０９】
また、図９では、6個の状態s1ないしs6のうちの状態s5以外の5個の状態s1ないしs4、及び、s6の平均状態確率は、いずれも、分割閾値より大になっておらず、かつ、対象度合い平均値から標準偏差σを減算した値である併合閾値より小になっていない。
【０２１０】
このため、図９では、平均状態確率が、分割閾値より大になっている状態s5だけが、分割対象として選択される。
【０２１１】
図１０は、平均状態確率pi'を、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【０２１２】
すなわち、図１０は、6個の状態s1ないしs6を有するHMMの各状態siの対象度合い値としての平均状態確率pi'を示している。
【０２１３】
図１０においては、6個の状態s1ないしs6のうちの状態s5の平均状態確率p5'が、併合閾値より小になっている。
【０２１４】
また、図１０では、6個の状態s1ないしs6のうちの状態s5以外の5個の状態s1ないしs4、及び、s6の平均状態確率は、いずれも、分割閾値より大になっておらず、かつ、対象度合い平均値から標準偏差σを減算した値である併合閾値より小になっていない。
【０２１５】
このため、図１０では、平均状態確率が、併合閾値より小になっている状態s5だけが、併合対象として選択される。
【０２１６】
図１１は、固有値差eiを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【０２１７】
すなわち、図１１は、6個の状態s1ないしs6を有するHMMの各状態siの対象度合い値としての固有値差eiを示している。
【０２１８】
図１１においては、6個の状態s1ないしs6のうちの状態s5の固有値差e5が、分割閾値より大になっている。
【０２１９】
また、図１１では、6個の状態s1ないしs6のうちの状態s5以外の5個の状態s1ないしs4、及び、s6の固有値差は、いずれも、分割閾値より大になっておらず、かつ、併合閾値より小になっていない。
【０２２０】
このため、図１１では、固有値差が、分割閾値より大になっている状態s5だけが、分割対象として選択される。
【０２２１】
図１２は、固有値差eiを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【０２２２】
すなわち、図１２は、6個の状態s1ないしs6を有するHMMの各状態siの対象度合い値としての固有値差eiを示している。
【０２２３】
図１２においては、6個の状態s1ないしs6のうちの状態s5の固有値差e5が、併合閾値より小になっている。
【０２２４】
また、図１２では、6個の状態s1ないしs6のうちの状態s5以外の5個の状態s1ないしs4、及び、s6の固有値差は、いずれも、分割閾値より大になっておらず、かつ、併合閾値より小になっていない。
【０２２５】
このため、図１２では、固有値差が、併合閾値より小になっている状態s5だけが、併合対象として選択される。
【０２２６】
図１３は、合成値Biを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【０２２７】
すなわち、図１３は、6個の状態s1ないしs6を有するHMMの各状態siの対象度合い値としての合成値Biを示している。
【０２２８】
図１３においては、6個の状態s1ないしs6のうちの状態s5の合成値B5が、分割閾値より大になっている。
【０２２９】
また、図１３では、6個の状態s1ないしs6のうちの状態s5以外の5個の状態s1ないしs4、及び、s6の合成値は、いずれも、分割閾値より大になっておらず、かつ、併合閾値より小になっていない。
【０２３０】
このため、図１３では、合成値が、分割閾値より大になっている状態s5だけが、分割対象として選択される。
【０２３１】
図１４は、合成値Biを、対象度合い値として用いて行われる、分割対象、及び、併合対象の選択を説明する図である。
【０２３２】
すなわち、図１４は、6個の状態s1ないしs6を有するHMMの各状態siの対象度合い値としての合成値Biを示している。
【０２３３】
図１４においては、6個の状態s1ないしs6のうちの状態s5の合成値B5が、併合閾値より小になっている。
【０２３４】
また、図１４では、6個の状態s1ないしs6のうちの状態s5以外の5個の状態s1ないしs4、及び、s6の合成値は、いずれも、分割閾値より大になっておらず、かつ、併合閾値より小になっていない。
【０２３５】
このため、図１４では、合成値が、併合閾値より小になっている状態s5だけが、併合対象として選択される。
【０２３６】
［データ処理装置によるHMMの学習処理］
【０２３７】
次に、図１５は、図４のデータ処理装置が行うHMMの学習処理を説明するフローチャートである。
【０２３８】
時系列データ入力部１１に対して、モデル化対象からのセンサ信号が供給されると、時系列データ入力部１１は、例えば、モデル化対象から観測されるセンサ信号を正規化し、その正規化後のセンサ信号を、観測時系列データoとして、パラメータ推定部１２に供給する。
【０２３９】
パラメータ推定部１２は、時系列データ入力部１１から観測時系列データoが供給されると、ステップＳ１１において、HMMの初期化を行う。
【０２４０】
すなわち、パラメータ推定部１２は、HMMの構造を、所定の初期構造に初期化し、その初期構造のHMMのパラメータ（初期パラメータ）を設定する。
【０２４１】
具体的には、パラメータ推定部１２は、HMMの初期構造として、HMMの状態数と（状態遷移確率が0でない）状態遷移とを設定する。
【０２４２】
ここで、HMMの初期構造（HMMの状態数、及び、状態遷移）は、あらかじめ決めておくことができる。
【０２４３】
初期構造のHMMは、状態遷移が疎らな、いわゆるスパースな構造のHMMであっても良いし、エルゴディックHMMであっても良い。なお、初期構造のHMMとして、スパースな構造のHMMを採用する場合には、各状態は、自己遷移と、少なくとも他の1個の状態との間の状態遷移が可能であることとする。
【０２４４】
パラメータ推定部１２は、HMMの初期構造を設定すると、その初期構造のHMMに、初期パラメータとしての状態遷移確率aij、確率分布bj(o)、及び、初期確率πiの初期値を設定する。
【０２４５】
すなわち、パラメータ推定部１２は、例えば、各状態に対して、その状態から可能な状態遷移の状態遷移確率aijを一様な値（可能な状態遷移の数がL個であるとすると、1/L）に設定し、できない状態遷移の状態遷移確率aijを0に設定する。
【０２４６】
また、確率分布bj(o)として、例えば、正規分布を利用する場合には、パラメータ推定部１２は、時系列データ入力部１１からの観測時系列データo=o1,o2,・・・,oTの平均値μと分散σ2を、次式に従って求め、その平均値μと分散σ2で定義される正規分布を、各状態sjの確率分布bj(o)を表す確率密度関数bj(o)に設定する。
【０２４７】
μ＝(1/T)Σot
σ2＝(1/T)Σ(ot-μ)2
【０２４８】
ここで、上述の式において、Σは、時刻tを、1から、観測時系列データoの長さTに変えてサメーション（総和）を意味する。
【０２４９】
さらに、パラメータ推定部１２は、各状態siの初期確率πiを一様な値に設定する。すなわち、初期構造のHMMの状態数をN個とすると、パラメータ推定部１２は、そのN個の状態siそれぞれの初期確率πiを、1/Nに設定する。
【０２５０】
パラメータ推定部１２において、初期構造と初期パラメータλ={aij,bj(o),πi,i=1,2,・・・,N，j=1,2,・・・,N}が設定されたHMMは、モデル記憶部１４に供給されて記憶される。モデル記憶部１４に記憶されたHMMの（初期）構造や（初期）パラメータλは、以降に行われるパラメータ推定、及び、構造調整によって更新されていく。
【０２５１】
すなわち、ステップＳ１１において、初期構造と初期パラメータλが設定されたHMMが、モデル記憶部１４に記憶された後、処理は、ステップＳ１２に進み、パラメータ推定部１２は、モデル記憶部１４に記憶されたHMMのパラメータを初期値とし、時系列データ入力部１１からの観測時系列データoを、HMMの学習のための学習データとして用いて、HMMの新たなパラメータを、Baum-Welchの再推定法によって推定する。
【０２５２】
さらに、パラメータ推定部１２は、HMMの新たなパラメータを、モデル記憶部１４に供給し、上書きの形で記憶させることで、モデル記憶部１４に記憶されたHMM（のパラメータ）を更新する。
【０２５３】
また、パラメータ推定部１２は、図１５の学習処理の開始時に０にリセットされる学習回数を１だけインクリメントし、その学習回数を、評価部１３に供給する。
【０２５４】
さらに、パラメータ推定部１２は、更新後のHMM、すなわち、新たなパラメータによって定義されるHMMから学習データoが観測される尤度を求め、評価部１３と構造調整部１６とに供給し、処理は、ステップＳ１２からステップＳ１３に進む。
【０２５５】
ステップＳ１３では、構造調整部１６は、パラメータ推定部１２からの更新後のHMMの尤度（更新後のHMMから学習データoが観測される尤度）が、モデルバッファ１５に記憶された最良モデルとしてのHMMの尤度より大であるかどうかを判定する。
【０２５６】
ステップＳ１３において、更新後のHMMの尤度が、モデルバッファ１５に記憶された最良モデルとしてのHMMの尤度より大であると判定された場合、処理は、ステップＳ１４に進み、構造調整部１６は、モデル記憶部１４に記憶された更新後のHMM（のパラメータ）を、新たな最良モデルとして、モデルバッファ１５に上書きの形で記憶させ、これにより、モデルバッファ１５に記憶される最良モデルを更新する。
【０２５７】
さらに、構造調整部１６は、パラメータ推定部１２からの更新後のHMMの尤度、すなわち、新たな最良モデルの尤度を、モデルバッファ１５に記憶させ、処理は、ステップＳ１４からステップＳ１５に進む。
【０２５８】
なお、ステップＳ１１の初期化後、最初にステップＳ１３が行われるときには、モデルバッファ１５には、最良モデル（及び尤度）は記憶されていないが、ステップＳ１３では、更新後のHMMの尤度が、最良モデルとしてのHMMの尤度より大であると判定され、ステップＳ１４において、更新後のHMMが、最良モデルとして、その更新後のHMMの尤度とともに、モデルバッファ１５に記憶される。
【０２５９】
ステップＳ１５では、評価部１３が、HMMの学習を終了するかどうかを判定する。
【０２６０】
ここで、評価部１３は、例えば、パラメータ推定部１２から供給される学習回数が、あらかじめ設定されている所定の回数C1になっている場合に、HMMの学習を終了すると判定する。
【０２６１】
また、評価部１３は、例えば、間近の構造調整が行われた後のパラメータ推定の回数（現在の学習回数から、間近の構造調整が行われたときの学習回数を減算した値）が、あらかじめ設定されている所定の回数C2（＜C1）になっている場合、つまり、構造調整が行われずに、パラメータ推定が所定の回数C2だけ行われた場合に、HMMの学習を終了すると判定する。
【０２６２】
さらに、評価部１３では、以上のように、学習回数に基づいて、HMMの学習を終了するかどうかを判定する他、前回行われた、後述するステップＳ１８の構造調整の処理の結果に基づいて、HMMの学習を終了するかどうかを判定することができる。
【０２６３】
すなわち、構造調整部１６は、ステップＳ１８において、モデル記憶部１４に記憶されたHMMの状態の中から、分割対象と併合対象とを選択し、分割対象の分割と、併合対象の併合とを行うことにより、HMMの構造を調整する構造調整を行うが、評価部１３は、前回行われた構造調整において、分割対象、及び、併合対象のいずれも選択されなかった場合に、HMMの学習を終了すると判定し、分割対象、及び、併合対象のうちの少なくとも一方が選択された場合には、HMMの学習を終了しないと判定することができる。
【０２６４】
その他、評価部１３は、キーボード等の図示せぬ操作部が、ユーザによって、学習処理を終了するように操作された場合や、学習処理を開始してから所定の時間が経過した場合等に、HMMの学習を終了すると判定することができる。
【０２６５】
ステップＳ１５において、HMMの学習を終了しないと判定された場合、評価部１３は、時系列データ入力部１１に対して、観測時系列データoを、再度、パラメータ推定部１２に供給することを要求して、処理は、ステップＳ１６に進む。
【０２６６】
ステップＳ１６では、評価部１３は、パラメータ推定部１２からの更新後のHMMの尤度に基づいて、更新後（パラメータ推定後）のHMMを評価して、処理は、ステップＳ１７に進む。
【０２６７】
すなわち、ステップＳ１６では、評価部１３は、更新後のHMMの尤度L1の、更新前の（直前のパラメータ推定前の）HMMの尤度L2に対する増分L1-L2を求め、更新後のHMMの尤度L1の増分L1-L2が、所定値より小であるかどうかによって、更新後のHMMを評価する。
【０２６８】
更新後のHMMの尤度L1の増分L1-L2が、所定値より小でない場合、HMMの構造を、現在の構造のままに維持して、パラメータ推定を行うことにより、HMMの尤度のさらなる向上が見込めるので、評価部１３は、更新後のHMMについて、構造調整の必要がないと評価する。
【０２６９】
一方、更新後のHMMの尤度L1の増分L1-L2が、所定値より小である場合、HMMの構造を、現在の構造のままに維持して、パラメータ推定を行っても、HMMの尤度の向上がそれほど見込めないので、評価部１３は、更新後のHMMについて、構造調整の必要があると評価する。
【０２７０】
ステップＳ１７では、評価部１３は、直前のステップＳ１６での更新後のHMMの評価の結果に基づいて、HMMの構造調整を行うか否かを判定する。
【０２７１】
ステップＳ１７において、HMMの構造調整を行わないと判定された場合、すなわち、更新後のHMMについて、構造調整の必要がないと評価された場合、処理は、ステップＳ１８をスキップして、ステップＳ１２に戻る。
【０２７２】
ステップＳ１２では、上述したように、パラメータ推定部１２が、モデル記憶部１４に記憶されたHMMのパラメータを初期値とし、時系列データ入力部１１からの観測時系列データoを、HMMの学習のための学習データとして用いて、HMMの新たなパラメータを、Baum-Welchの再推定法によって推定する。
【０２７３】
すなわち、時系列データ入力部１１は、ステップＳ１５でHMMの学習を終了しないと判定した評価部１３からの要求に応じ、観測時系列データoを、パラメータ推定部１２に供給する。
【０２７４】
ステップＳ１２では、パラメータ推定部１２は、以上のようにして、時系列データ入力部１１から供給される観測時系列データoを、学習データとして用い、モデル記憶部１４に記憶されたHMMのパラメータを初期値として、HMMの新たなパラメータを推定する。
【０２７５】
そして、パラメータ推定部１２は、HMMの新たなパラメータを、モデル記憶部１４に供給して記憶させることで、モデル記憶部１４に記憶されたHMM（のパラメータ）を更新し、以下、同様の処理が繰り返される。
【０２７６】
一方、ステップＳ１７において、HMMの構造調整を行うと判定された場合、すなわち、更新後のHMMについて、構造調整の必要があると評価された場合、評価部１３は、構造調整部１６に対して、構造調整を要求して、処理は、ステップＳ１８に進む。
【０２７７】
ステップＳ１８では、構造調整部１６は、評価部１３からの要求に応じて、モデル記憶部１４に記憶されたHMMの構造調整を行う。
【０２７８】
すなわち、ステップＳ１８では、構造調整部１６は、モデル記憶部１４に記憶されたHMMの状態の中から、分割対象と併合対象とを選択し、分割対象の分割と、併合対象の併合とを行うことにより、HMMの構造を調整する構造調整を行う。
【０２７９】
その後、処理は、ステップＳ１８からステップＳ１２に戻り、以下、同様の処理が繰り返される。
【０２８０】
一方、ステップＳ１５において、HMMの学習を終了すると判定された場合、評価部１３は、構造調整部１６を介して、モデルバッファ１５から最良モデルとしてのHMMを読み出し、学習後のHMMとして出力して、学習処理を終了する。
【０２８１】
図１６は、図１５のステップＳ１８で構造調整部１６が行う構造調整の処理を説明するフローチャートである。
【０２８２】
ステップＳ３１において、構造調整部１６は、モデル記憶部１４に記憶されたHMMの各状態を、注目する注目状態として、注目状態について、上述の平均状態確率、固有値差、又は、合成値を、注目状態を分割対象や併合対象に選択すべき（適切さの）度合いを表す対象度合い値として求める。
【０２８３】
さらに、構造調整部１６は、例えば、HMMの各状態について求めた対象度合い値の平均値Vaveと標準偏差σと求め、平均値Vaveに標準偏差σを加算した加算値を、分割対象を選択するための分割閾値として求めるとともに、平均値Vaveから標準偏差σを減算した減算値を、併合対象を選択するための併合閾値として求める。
【０２８４】
そして、処理は、ステップＳ３１からステップＳ３２に進み、構造調整部１６は、モデル記憶部１４に記憶されたHMMの状態の中から、対象度合い値が分割閾値より大の状態を、分割対象に選択するとともに、対象度合い値が併合閾値より小の状態を、併合対象に選択して、処理は、ステップＳ３３に進む。
【０２８５】
ここで、モデル記憶部１４に記憶されたHMMの状態の中に、対象度合い値が分割閾値より大の状態が存在せず、かつ、対象度合い値が併合閾値より小の状態も存在しない場合には、ステップＳ３２では、分割対象、及び、併合対象のいずれも選択されない。そして、処理は、ステップＳ３３をスキップしてリターンする。
【０２８６】
ステップＳ３３では、構造調整部１６は、モデル記憶部１４に記憶されたHMMの状態のうちの、分割対象になっている状態について、図５で説明したように、状態の分割を行うとともに、併合対象になっている状態について、図６で説明したように、状態の併合を行い、処理は、リターンする。
【０２８７】
［学習処理のシミュレーション］
【０２８８】
図１７は、図４のデータ処理装置による学習処理の第１のシミュレーションを説明する図である。
【０２８９】
すなわち、図１７は、第１のシミュレーションで用いた学習データと、その学習データを用いて学習（パラメータ更新と構造調整）が行われるHMMとを示している。
【０２９０】
第１のシミュレーションでは、図７で説明した観測時系列データを、学習データとして用いた。
【０２９１】
すなわち、第１のシミュレーションでは、２次元空間中の任意の位置に出現し、その位置の座標を出力する信号源を、モデル化対象とするとともに、信号源が出力する座標を、観測値oとして用いた。
【０２９２】
図７で説明したように、信号源は、２次元空間中のx座標の0.2から0.8の間を0.2間隔で等分し、かつ、y座標の0.2から0.8の間を0.2間隔で等分する16個の点（の座標）それぞれを平均値とし、かつ、0.00125を分散とする16個の正規分布に従って出現する。
【０２９３】
図１７の学習データを示した２次元空間では、図７の場合と同様に、16個の丸印が、上述のような正規分布に従って出現する信号源（の位置）の確率分布を表す。すなわち、丸印の中心が、信号源が出現する位置（の座標）の平均値を表し、丸印の半径が、信号源が出現する位置の分散を表す。
【０２９４】
信号源は、16個の正規分布の中から、ランダムに、1個の正規分布を選択し、その正規分布に従って出現する。そして、信号源は、出現した位置の座標を出力し、再び、正規分布を選択して、その正規分布に従って出現することを繰り返す。
【０２９５】
但し、第１のシミュレーションでは、図７の場合と同様に、正規分布の選択を、前回選択した正規分布と、その正規分布の横、及び、縦のそれぞれに隣接する正規分布との中から行うように制限した。
【０２９６】
すなわち、前回選択した正規分布の横、及び、縦のそれぞれに隣接する正規分布（隣接正規分布）の総数をC個とすると、隣接正規分布は、いずれも、0.2の確率で選択し、前回選択した正規分布は、1-0.2Cの確率で選択した。
【０２９７】
図１７の学習データを示した２次元空間において、正規分布を表す丸印の中心どうしを結ぶ点線は、シミュレーションでの正規分布の選択の制限を表す。
【０２９８】
また、図１７の学習データを示した２次元空間において、点が、信号源が出力した座標の位置を表し、第１のシミュレーションでは、信号源が出力した座標の1600サンプルの時系列を、学習データとして用いた。
【０２９９】
そして、第１のシミュレーションでは、以上のような学習データを用い、状態sjの確率分布bj(o)として正規分布を採用したHMMの学習を行った。
【０３００】
図１７のHMMを示した２次元空間において、実線の丸印（円、又は、楕円）は、HMMの状態siを表し、丸印に付してある数字は、その丸印が表す状態siのインデクスiである。
【０３０１】
なお、状態siのインデクスiとしては、1以上の整数を昇順で用いた。状態siが、状態の併合によって削除された場合は、その時点では、状態siのインデクスiは、いわゆる欠番となるが、その後の状態の分割によって、新たな状態が追加された場合には、欠番となっているインデクスを、昇順で復活させた。
【０３０２】
また、状態siを表す丸印の中心は、その状態sjの確率分布bj(o)としての正規分布の平均値（が表す位置）であり、状態siを表す丸印の大きさ（半径）は、その状態sjの確率分布bj(o)としての正規分布の分散を表す。
【０３０３】
さらに、ある状態siを表す丸印の中心と、他の状態sjを表す丸印の中心とを結ぶ点線は、状態siとsjとの間の状態遷移確率aij及びajiのうちの一方、又は、両方が、所定値以上である状態遷移を表す。
【０３０４】
また、図１７のHMMを示した２次元空間を囲む太線の枠は、構造調整が行われたことを表す。
【０３０５】
さらに、第１のシミュレーションでは、対象度合い値として、合成値Biを採用し、合成値Biを求める際の重みαとしては、0.5を採用した。
【０３０６】
また、第１のシミュレーションでは、初期構造のHMMとして、状態数が16個で、各状態からの状態遷移が、自己遷移と、２次元格子状の状態遷移とに制限されたHMMを採用した。
【０３０７】
ここで、16個の状態について、２次元格子状の状態遷移とは、例えば、16個の状態s1ないしs16を、２次元空間中の1行目に、状態s1ないしs4を、2行目に、状態s5ないしs8を、3行目に、状態s9ないしs12を、4行目に、状態s13ないしs16を、4×4の２次元格子状に並べたと仮定して、注目する注目状態から、その注目状態に対して、横、及び、縦のそれぞれに隣接する状態（横に隣接する状態と、縦に隣接する状態）への状態遷移を意味する。
【０３０８】
HMMの状態遷移を制限することにより、HMMのパラメータ推定に必要な計算量を大幅に軽減することができる。
【０３０９】
但し、HMMの状態遷移を制限した場合には、状態遷移の自由度が低くなるため、そのようなHMMのパラメータには、正解とは異なる、尤度が低い局所解（学習データが観測される尤度が低いHMMのパラメータ）が多く含まれる。そして、Baum-Welchの再推定法によるパラメータ推定だけでは、局所解を回避することは、困難である。
【０３１０】
これに対して、図４のデータ処理装置では、Baum-Welchの再推定法によるパラメータ推定の他、構造調整を行うことで、HMMのパラメータとして、より良い解、つまり、モデル化対象を、より適切に表現するHMMを求めることができる。
【０３１１】
すなわち、図１７において、学習回数CLが0回であるときのHMMは、初期構造のHMMである。
【０３１２】
その後、学習回数CLが、t1（＞0）回、t2（＞t1）回と増加するにつれ（学習が進行するにつれ）、パラメータ推定により、HMMのパラメータが収束していっている。
【０３１３】
HMMの学習を、Baum-Welchの再推定法によるパラメータ推定だけで行う場合、HMMのパラメータの収束によって、HMMの学習が終了する。
【０３１４】
そして、収束後のHMMのパラメータよりも良い解（HMMのパラメータ）を得るためには、初期構造や初期パラメータを変更して、再度、パラメータ推定を行う必要がある。
【０３１５】
一方、図４のデータ処理装置では、HMMのパラメータが収束していき、パラメータ推定後（更新後）のHMMの尤度の増分が小さくなると、構造調整が行われる。
【０３１６】
図１７では、学習回数CLが、t3（＞t2）回のときに、構造調整が行われている。
【０３１７】
構造調整後、学習回数CLが、t4（＞t3）回、t5（＞t4）回と増加するにつれ、パラメータ推定により、構造調整後のHMMのパラメータが収束し、再び、パラメータ推定後のHMMの尤度の増分が小さくなる。
【０３１８】
そして、パラメータ推定後のHMMの尤度の増分が小さくなると、構造調整が行われる。
【０３１９】
図１７では、学習回数CLが、t6（＞t5）回のときに、構造調整が行われている。
【０３２０】
以下同様に、パラメータ推定と構造調整が行われていく。
【０３２１】
図１７では、学習回数CLが、t7（>t6）回、t8（>t7）回、t9（>t8）回、t10（>t9）回と増加していき、t11（>t10）回になったときに、HMMの学習が終了されている。
【０３２２】
また、学習回数CLが、t8回とt10回のときに、構造調整が行われている。
【０３２３】
図１７において、学習回数CLがt11回となって、学習が終了した後のHMM（学習後のHMM）では、状態が、信号源の確率分布に対応し、かつ、状態遷移が、信号源が出現する確率分布を表す正規分布の選択の制限に対応しており、信号源を適切に表現するHMMを得ることができていることが分かる。
【０３２４】
すなわち、構造調整では、上述したように、信号源を適切に表現するHMMを得るために分割すべき状態が、分割対象として選択され、状態の分割が行われ、また、信号源を適切に表現するHMMを得るために併合すべき状態が、併合対象として選択され、状態の併合が行われるので、信号源を適切に表現するHMMを得ることができる。
【０３２５】
図１８は、第１のシミュレーションとしてのHMMの学習での、学習回数と、HMMの尤度（対数尤度）との関係を示す図である。
【０３２６】
HMMの尤度は、学習が進むにつれ（パラメータ推定が繰り返されて、学習回数が増加するにつれ）、上昇するが、パラメータ推定だけでは、低い値で頭打ちになる（局所解が得られる）。
【０３２７】
図４のデータ処理装置では、HMMの尤度が頭打ちになると、構造調整が行われる。構造調整が行われた直後、HMMの尤度は一時的に低下するが、学習が進むにつれて上昇し、再び、頭打ちになる。
【０３２８】
HMMの尤度が頭打ちになると、構造調整が行われ、以下、同様の処理が繰り返されることにより、より尤度が高いHMMが求められる。
【０３２９】
そして、例えば、構造調整において、分割対象、及び、併合対象のいずれも選択されなくなり、パラメータ推定を行っても、HMMの尤度が、ほとんど上昇せず、頭打ちとなると、HMMの学習が終了する。
【０３３０】
学習後のHMMでは、図１７で説明したように、状態が、信号源の確率分布に対応し、かつ、状態遷移が、信号源が出現する確率分布を表す正規分布の選択の制限に対応しており、したがって、構造調整において、信号源を適切に表現するのに適切な状態が、分割対象や併合対象に選択され、HMMを構成する状態数が適切に調整されていることが分かる。
【０３３１】
なお、状態数を多くし、状態遷移の制限をしない、自由度が高いHMMについて、パラメータ推定のみの学習を行うことで、図４のデータ処理装置で得られるHMMよりも、尤度の高いHMMを得ることが可能である。
【０３３２】
しかしながら、そのような自由度の高いHMMでは、いわゆる過学習が行われ、信号源から観測される時系列データの時系列パターンにそぐわない、いわばイレギュラな時系列パターンも獲得されるが、そのようなイレギュラな時系列パターンを獲得したHMM（時系列データの変化を過敏に表現するHMM）は、信号源を適切に表現している、とはいえない。
【０３３３】
図１９は、図４のデータ処理装置による学習処理の第２のシミュレーションを説明する図である。
【０３３４】
すなわち、図１９は、第２のシミュレーションで用いた学習データと、その学習データを用いて学習（パラメータ更新と構造調整）を行った後のHMM（学習後のHMM）とを示している。
【０３３５】
第２のシミュレーションでは、第１のシミュレーションと同様に、２次元空間中の任意の位置に出現し、その位置の座標を出力する信号源を、モデル化対象とするとともに、信号源が出力する座標を、観測値oとして用いた。
【０３３６】
但し、第２のシミュレーションでは、第１のシミュレーションよりも、モデル化対象としての信号源を複雑化した。
【０３３７】
すなわち、第２のシミュレーションでは、信号源は、２次元空間中の0から1の間の値のx座標及びy座標のセットを、81セットだけ、ランダムに発生し、その81セットのx座標及びy座標で指定される81個の点（の座標）それぞれを平均値とする81個の正規分布に従って出現する。
【０３３８】
なお、81個の正規分布の分散は、0ないし0.005の間の値を、ランダムに発生して決定した。
【０３３９】
図１９の学習データを示した２次元空間では、実線の丸印が、上述のような正規分布に従って出現する信号源（の位置）の確率分布を表す。すなわち、丸印の中心が、信号源が出現する位置（の座標）の平均値を表し、丸印の大きさ（半径）が、信号源が出現する位置の分散を表す。
【０３４０】
信号源は、81個の正規分布の中から、ランダムに、1個の正規分布を選択し、その正規分布に従って出現する。そして、信号源は、出現した位置の座標を出力し、再び、正規分布を選択して、その正規分布に従って出現することを繰り返す。
【０３４１】
但し、第２のシミュレーションでも、図７の場合と同様に、正規分布の選択を、前回選択した正規分布と、その正規分布の横、及び、縦のそれぞれに隣接する正規分布との中から行うように制限した。
【０３４２】
すなわち、前回選択した正規分布の横、及び、縦のそれぞれに隣接する正規分布（隣接正規分布）の総数をC個とすると、隣接正規分布は、いずれも、0.2の確率で選択し、前回選択した正規分布は、1-0.2Cの確率で選択した。
【０３４３】
図１９の学習データを示した２次元空間において、正規分布を表す丸印の中心どうしを結ぶ点線は、シミュレーションでの正規分布の選択の制限を表す。
【０３４４】
なお、第２のシミュレーションにおいて、前回選択した正規分布の横（又は、縦）に隣接する正規分布とは、81個の正規分布を、横×縦が9×9個の格子状に並んだ点に対応させた場合に、前回選択した正規分布に対応する点の横（又は、縦）に隣接する点に対応する正規分布である。
【０３４５】
図１９の学習データを示した２次元空間において、点が、信号源が出力した座標の位置を表し、第２のシミュレーションでは、信号源が出力した座標の8100サンプルの時系列を、学習データとして用いた。
【０３４６】
そして、第２のシミュレーションでは、以上のような学習データを用い、状態sjの確率分布bj(o)として正規分布を採用したHMMの学習を行った。
【０３４７】
図１９のHMMを示した２次元空間において、実線の丸印（円、又は、楕円）は、HMMの状態siを表し、丸印に付してある数字は、その丸印が表す状態siのインデクスiである。
【０３４８】
また、状態siを表す丸印の中心は、その状態sjの確率分布bj(o)としての正規分布の平均値（が表す位置）であり、状態siを表す丸印の大きさ（半径）は、その状態sjの確率分布bj(o)としての正規分布の分散を表す。
【０３４９】
さらに、ある状態siを表す丸印の中心と、他の状態sjを表す丸印の中心とを結ぶ点線は、状態siとsjとの間の状態遷移確率aij及びajiのうちの一方、又は、両方が、所定値以上である状態遷移を表す。
【０３５０】
また、第２のシミュレーションでも、第１のシミュレーションと同様に、対象度合い値として、合成値Biを採用し、合成値Biを求める際の重みαとしては、0.5を採用した。
【０３５１】
さらに、第２のシミュレーションでは、初期構造のHMMとして、状態数が81個で、各状態からの状態遷移が、自己遷移と、他の4個の状態への状態遷移との5個の状態遷移に制限されたHMMを採用した。なお、各状態からの状態遷移確率は、乱数によって決定した。
【０３５２】
第２のシミュレーションにおいて得られた学習後のHMMでも、状態が、信号源の確率分布に対応し、かつ、状態遷移が、信号源が出現する確率分布を表す正規分布の選択の制限に対応しており、やはり、信号源を適切に表現するHMMを得ることができていることが分かる。
【０３５３】
図２０は、第２のシミュレーションとしてのHMMの学習での、学習回数と、HMMの尤度（対数尤度）との関係を示す図である。
【０３５４】
第２のシミュレーションでも、第１のシミュレーションの場合と同様に、パラメータ推定と構造調整とが繰り返し行われることで、モデル化対象を適切に表現する、尤度の高いHMMが求められている。
【０３５５】
図２１は、図４のデータ処理装置による学習処理において、モデル化対象を適切に表現するHMMのパラメータである良い解が、解空間の中で効率的に探索される様子を模式的に示す図である。
【０３５６】
なお、図２１において、下側が、より良い解であることを表す。
【０３５７】
パラメータ推定だけでは、HMMの初期構造や初期パラメータによって、局所解に陥り、その局所解から抜け出すのは困難である。
【０３５８】
図４のデータ処理装置による学習処理では、HMMのパラメータが、局所解に陥り、その結果、パラメータ推定によるHMMの尤度の変化（増分）がなくなってくると、構造調整が行われる。
【０３５９】
構造調整によって、HMMのパラメータは、局所解（の窪み）から抜け出すことができ、そのとき、一時的に、HMMの尤度が下がるが、その後のパラメータ推定によって、HMMのパラメータは、直前に陥った局所解より良い解に収束する。
【０３６０】
図４のデータ処理装置による学習処理では、以下同様のパラメータ推定と構造調整とが繰り返し行われ、これにより、HMMのパラメータは、局所解に陥っても、その局所解から抜け出しながら、より良い解に収束していく。
【０３６１】
したがって、図４のデータ処理装置による学習処理によれば、パラメータ推定だけでは、初期構造や初期パラメータを変更してやり直す必要があった、より良い解（HMMのパラメータ）を得るための学習を、効率的に行うことができる。
【０３６２】
なお、パラメータ推定は、Baum-Welchの再推定法以外の方法、すなわち、例えば、モンテカルロEMアルゴリズムや、平均場近似等によって行うことが可能である。
【０３６３】
また、図４のデータ処理装置において、ある観測時系列データoを、学習データとして用いて、HMMの学習を行った後、他の観測時系列データo'をも、HMMに学習させたい場合には、すなわち、他の観測時系列データo'の、いわゆる追加学習を行いたい場合には、HMMを初期化し、かつ、観測時系列データo及びo'を、学習データとして用いて、HMMの学習を行う必要はなく、観測時系列データoを、学習データとして用いて学習を行った後のHMMを用いて、観測時系列データo'を学習データとする学習を行えばよい。
【０３６４】
［本発明を適用したコンピュータの説明］
【０３６５】
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
【０３６６】
そこで、図２２は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
【０３６７】
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク１０５やROM１０３に予め記録しておくことができる。
【０３６８】
あるいはまた、プログラムは、リムーバブル記録媒体１１１に格納（記録）しておくことができる。このようなリムーバブル記録媒体１１１は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブル記録媒体１１１としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)，MO(Magneto Optical)ディスク，DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
【０３６９】
なお、プログラムは、上述したようなリムーバブル記録媒体１１１からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク１０５にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
【０３７０】
コンピュータは、CPU(Central Processing Unit)１０２を内蔵しており、CPU１０２には、バス１０１を介して、入出力インタフェース１１０が接続されている。
【０３７１】
CPU１０２は、入出力インタフェース１１０を介して、ユーザによって、入力部１０７が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)１０３に格納されているプログラムを実行する。あるいは、CPU１０２は、ハードディスク１０５に格納されたプログラムを、RAM(Random Access Memory)１０４にロードして実行する。
【０３７２】
これにより、CPU１０２は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU１０２は、その処理結果を、必要に応じて、例えば、入出力インタフェース１１０を介して、出力部１０６から出力、あるいは、通信部１０８から送信、さらには、ハードディスク１０５に記録等させる。
【０３７３】
なお、入力部１０７は、キーボードや、マウス、マイク等で構成される。また、出力部１０６は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
【０３７４】
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含む。
【０３７５】
また、プログラムは、１のコンピュータ（プロセッサ）により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【０３７６】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【０３７７】
１１  時系列データ入力部，  １２  パラメータ推定部，  １３  評価部，  １４  モデル記憶部，  １５  モデルバッファ，  １６  構造調整部，  １０１  バス，  １０２  CPU，  １０３  ROM，  １０４  RAM，  １０５  ハードディスク，  １０６  出力部，  １０７  入力部，  １０８  通信部，  １０９  ドライブ，  １１０  入出力インタフェース，  １１１  リムーバブル記録媒体
【図１】
2011243088.tif 000003
【図２】
2011243088.tif 000004
【図３】
2011243088.tif 000005
【図４】
2011243088.tif 000006
【図５】
2011243088.tif 000007
【図６】
2011243088.tif 000008
【図７】
2011243088.tif 000009
【図８】
2011243088.tif 000010
【図９】
2011243088.tif 000011
【図１０】
2011243088.tif 000012
【図１１】
2011243088.tif 000013
【図１２】
2011243088.tif 000014
【図１３】
2011243088.tif 000015
【図１４】
2011243088.tif 000016
【図１５】
2011243088.tif 000017
【図１６】
2011243088.tif 000018
【図１７】
2011243088.tif 000019
【図１８】
2011243088.tif 000020
【図１９】
2011243088.tif 000021
【図２０】
2011243088.tif 000022
【図２１】
2011243088.tif 000023
【図２２】
2011243088.tif 000024