隠れマルコフモデル
これを(単純)マルコフ性という。また、観測値 y ( t ) {\displaystyle y(t)} は x ( t ) {\displaystyle x(t)} にのみ依存する(時刻 t {\displaystyle t} が同じであることに注意)。ここで考えるような標準的な隠れマルコフモデルでは、潜在変数 x ( t ) {\displaystyle x(t)} は離散的であり、観測値 y ( t ) {\displaystyle y(t)} は連続的でも離散的でもよい。
隠れマルコフモデルのパラメータは、遷移確率と出力確率の2種類である。遷移確率は、時刻 t − 1 {\displaystyle t-1} での潜在変数から時刻 t {\displaystyle t} での潜在変数への状態遷移を表す。図2において、遷移確率は a i j {\displaystyle a_{ij}} で、出力確率は b i j {\displaystyle b_{ij}} で示されている。
潜在変数の状態空間は N {\displaystyle N} 個の値をとる離散分布である(図2では N = 3 {\displaystyle N=3} )。
たとえば、観測値が離散分布で M {\displaystyle M} 個の値をとるとき、個々の潜在変数に M − 1 {\displaystyle M-1} 個のパラメータがあるから、全体で N × ( M − 1 ) {\displaystyle N\times (M-1)} 個の出力パラメータがある。あるいは、観測値が任意の混合ガウス分布に従う M {\displaystyle M} 次元ベクトルであれば、平均値のために M {\displaystyle M} 個と、共分散行列に M ( M + 1 ) / 2 {\displaystyle M(M+1)/2} 個のパラメータがあるから、合わせて N ( M + M ( M + 1 ) / 2 ) = N M ( M + 3 ) / 2 = O ( N M 2 ) {\displaystyle N(M+M(M+1)/2)=NM(M+3)/2=O(NM^{2})} の出力パラメータがある。
実際には、 M {\displaystyle M} が小さくない限り、観測ベクトルの個々の要素間の共分散の特性に制約を設けることが現実的である。たとえば要素ごとに独立であるとか、もう少し制約を緩めて、隣接するいくつかの要素以外は独立であるなどとすることが考えられる。