時系列パターン認識のための精密な確率モデル| 部分隠れマルコフモデルとそのジェスチャ認識・音声認識への応用|
益満 健

古山 純子

小林 哲則

早稲田大学 理工学部 電気電子情報工学科〒 169 東京都新宿区大久保 3-4-103-5286-3379
masuken@tk.elec.waseda.ac.jp
時系列パターンの認識手法として部分隠れマルコフモデルという新たなモデルを提案した。これは 2 重マルコフモデルの一方を隠れ状態に、他方を可観測の状態することで、left-to-right モデルの HMM が区分定常しか扱えないという問題を解決した。本モデルの性能を調べるために 2 つのシュミレーション実験を行ない、その結果 HMM に比べ過渡部の表現能力に優れていることが分かった。さらに、6 種類の手振り動作による認識実験の結果、HMM に比べエラー率を 43%改善することができた。しかし 、音声での単語認
識実験では HMM に及ばなかった。

,,,PHMM,HMM

時系列パターン認識 ジェスチャ認識 音声認識

More exactly random process modelfor time-series pattern matching| Partly-Hidden Markov Modeland Its Application to Gesture and Speech Recognition |Ken Masumitsu

Junko Furuyama

Tetunori Kobayashi

Department of Electrical, Electronics & Computer Engineering
Waseda University
3-4-1 Okubo, Shinjuku-ku, Tokyo, 169 Japan
masuken@tk.elec.waseda.ac.jp

03-5286-3379

A new pattern matching method, Partly-Hidden Markov model, is proposed for time-series patternrecognition HMM, which has been used for time series pattern matting, can deal with only piecewise
stationary process. We solved this problem by introducing the modied second order Markov Model, in
which the rst state is hidden and the second one is observable.
As the result of two simulation experimentation, the ability of expression of transient part was better
than HMM. And as the result of 6 hand sign language recognition, the error rate was improved by 43%
compared with HMM. However, as the result of speech recognition, the recognition rate was less thanHMM. We think it is future thema.

time-series pattern matching,gesture recognition,speech recognition,PHMM,HMM

1 はじめに

統計的な時系列パターン認識のためには、確率過程のモデルが必要である。従来、この目的のためには、HMM が広く用いられてきた 1],2]。しかしながら、より高度な認識を目指すためには、より高精度の確率過程のモデルが必要となる 3]。
これまでにも、より複雑な特徴量の変化を扱うことを目指して様々な確率モデルが提案されている。
坪香らや Deng らは、セグメント内での特徴ベクトルの軌跡を多項式近似するセグ メント HMM を提案している 4]5]。Wellkens や高橋らは、HMM における出力確率算出時に隣接フレームの特徴量の相関を考慮する方法を提案している 6]7]。また、Mari らは、2 重の HMM を提案し 8] 、有木は、エルゴディック HMM を left-to-right に連接した 2 段階遷移構造の HMM を提案している 9]。
本研究では、2 重のマルコフモデルから発して、一方を隠れ状態に、他方を可観測な状態に置くことで、単純な HMM より過渡部の表現能力に優れる新たな確率過程のモデルを提案する。従来の leftto-right の HMM が区分定常過程しか扱えなかったのに対し 、このモデルは、left-to-right モデルであっても、次出力や状態遷移確率が 1 時刻前の出力に依存して決まるため、より複雑な振舞いを表現できる。
本報では、まず、モデルの概要を述べ、シュミレーション実験によるモデルの性能評価を行ない、最後に、ジェスチャ認識、音声認識への適用結果について述べる。

2 マルコフモデルと HMM(;  x ; +1     x ;1 ) = P r(x jS ) (1)Kt

Kt

3 部分隠れマルコフモデル
3.1

PHMM の概要

HMM の欠点を補うため、新たな確率過程のモデルを導入する。
まず、式 (1) の出力確率を 2 重マルコフモデルで表現する。

(; x ; +1    x ;1 ) = P r(x jS S ) (2)
ここで、 状態 S は x ; x ; +1    x ;2 の出力列に対応し 、状態 S は出力 x ;1 に対応して与えP r xt jxtti

ここで、状態 Siは出力列に対して一意に与えられるため、確率的な揺らぎが観測系に含まれる場合、モデルの状態遷移の構造が複雑化し 、単純なモデルでは観測シンボルの振舞いを表現できなくなる。
一方、HMM においては、同様な表記 P r(xt jSi )が用いられるが 、出力列と状態の関係は一意には決めず、確率的な写像によって多数の出力列で同じ状態を共有させる。このことによって、単純なモデルで複雑な現象を扱うことが可能となる。しかしながら HMM においては、多くの出力列で共有された小数の状態だけが出力確率を決める。一つの状態に停留する限りは一定の確率分布で出力KtKtfitftKtiKsjsjtt

る。Sif を F(First) 状態、Sjs を S(Second) 状態と呼ぶことにする。仮にこれらの写像が共に 1 対 1 対応であればモデルはマルコフモデルと等価であり、共に写像が確率的であれば HMM と等価である。
提案するモデルでは、出力列 xt;K xt;K +1   
fxt;2 から F 状態 Si への写像は確率的に行ない、出力 xt;1 から S 状態 Sjs への写像は一意に決める。このモデルを 部分隠れマルコフモデル (PartlyHidden Markov Model : PHMM) と呼ぶことにする。
このモデルにおいては、条件部の半分が多くの出力列で共有されることから、F 状態 Sif の数を抑えることができ、結果としてモデルの複雑さも抑えることができる。また、xt の出力確率は、S 状態 Sjs すなわち xt;1によって条件付けられる。このことから、モデルは区分定常以上の複雑な過程を扱うことになる。

3.2

最も一般的な確率過程のモデルであるマルコフモデルでは、時刻 t における出力ベクトル xt の出力確率 Pt (xt ) は、過去 K 個の出力の条件付確率で与えられる。過去 K 個の出力列に、例えば Siの状態を与えると、出力確率は次式のように表される。
P r xt jxtを繰り返すため、結果として区分定常の確率過程しか表現できないことになる。

PHMM における確率評価

PHMM を用いて出力列 1 2が観測され( 1 2) を求める。
る確率
まず、出力列 1 2が、F 状態遷移 1 2
S 状態遷移 1 2から生起する確率をとx x

Pr x xx xs   xT   xTss sf   xTfs ss   sTPs

おけばその値は、
Ps=
( 1 1) ( 1 1 1)
( +1) ( +1 +1 +1 ) (3)fPr s sY;1T

=1sf

f

s

P r x js  sf

P r sts

jst st P r xt

f

jst

sstt

定義より sft+1 = xt なので、式 (3) はPs=ff

P r x js x

T

=( 1 0) ( 1 1 0)
Y;1
( +1;1 ) ( +1 +1 )=1( 1) ( 0 1 1)Y;1 ( +1 ) ( ;1 +1 )( ;1 )=1Pr s xf

P r stf

jst xtf

P r xtjst

t

Pr sTf

P r x  x jsf

Pr sttf

jst

ff

P r xtP r xt

jstf

jst

fstf

sxtT( +1 +1 )(4)( +1 )( 1 2) は可能性のあるすf

P r xtxt jstfP r xt jstとなる。求める P r x x    xT
べての F 状態遷移 sf1 sf2    sfT の組合せに対し 、Psを加えればよい。
以上の議論から、PHMM のパラメータ は、次の 5 種類で定義できることがわかる。
・i = P r(sf1 = Sif )初期時刻に F 状態が Sif にある確率・aij = P r(sft+1 = Sjf jsft = Sif )F 状態が のとき、次時刻に に遷移する確率( ;1 = )・ ( ;1 ) =F 状態が で、S 状態 (すなわち、前時刻の出力) が ;1である確率( ;1 +1 == )・ ( ;1 ) =F 状態が から に遷移するときに 、現在のS 状態 (すなわち、前時刻の出力) が ;1である
fff

SiSixtcij xtf

P r xtff

jstf

SiSjxt

確率・dj (xt;1  xt ) = P r(xt;1  xt jsft = Sjf )F 状態がであるときに、S 状態 (すなわち、前時刻の出力) が xt;1で現時刻の出力が xtである
確率

3.3

リズム

PHMM での P r(x1 x2    xT ) の高速な求め方を考える。
時刻 t に F 状態が Sif にあって、x0から xt までを出力する確率を前向き確率と呼ぶと、前向き確率(i t) は、次の漸化式によって与えられる。
( ) =8> ( 0 ( 1 ) = )( = 1)
<P 0 11)= > =1 (( ; ) ( ; ) ( 2):( ;)( ;)f

Si j

Nt

 j t ;jaji cji xt

bj xt22di xt

bi xt

1 xt
1t 

ただし、N は F 状態の数である。求める P r(x1 x2    xT )は、を t = 1 から順に T まで求めた後、( 1 2=f   xT  stf

SJ)= ( J T)( ) = i t=8 (1 +1<PP r xt:;1     xT jxt
aij cij xt

jbi xt=1(  j tf xt  st=( ;1 ) j ( t t+1 )( ;1 )j ( t)

N+ 1)

dx xbPrXX)
( = )
Sfi



x(t  T ;

fSPr

 stt

i+1 = S jff

 st=ff

Si j)

j( ) ;1(5))(6)(7)

 t i xt=

T=1;1X( )C ( ;1 t ixt() ;1()C ( ;1)

 bi

(8)t



=

cij

T(9)

 t i j xt

=1;1Xt



=cij

T

 t i j=1X) cijxt

(10)

t



=diT=1X( ) ;1(11) t i ytt=diT=1( )C ( ;1 t iyt) di(12)t

ただし 、P( ) = t iPr(xf st=1 P r(xTt

C (x )(x=Sfif stf

 st==j)fSi j)+1 = S j ) (t i j )= P ;1=1 P r(x s = S  s +1 = S j )Prfff

Si  stjTff

f

ftt

itj

= ()(;1 = ( ;1 )
x ;
Txt)

x ;

T xtTTとする。
これら再推定式 (5)-(12) は、前向き確率(i t) 、後向き確率 (i t) から導かれる次の関係式を用いることにより、容易に計算することができる。
Prtf

 stTT=1jPrytにより与えられる。ただし 、ここでは最終状態をfS とする。
J同様にして、時刻 t に F 状態が Sif にあって、xt+1から xT を出力する確率として定義される、後向き確率 (i t) は次のように求められる。

Si jtfP r x  x      xt  sti di x  x

Pr x x=f

PHMM における前向き・後向きアルゴ

 i t



bif

stbi

Sjf

PrT

aijf

Sj  stf

Siif

jst

(x 1 =)
P ;1 (x(x) ==1=P ;1 (x=1 =Sj

P r xt

PHMM の学習

PHMM では HMM と同様に、出力観測系列 xに対して、状態系列sf が直接観測できない。従って、観測系列の出力確率を最大化する最適なモデルパラメータを解析的に求めることはできない。しかしながら、HMM のパラメータ推定と同様に EM
アルゴ リズムを適用することにより、逐次的な学習アルゴ リズムを導出できる。
具体的な再推定式は次のようになる。ただし 、PHMM のパラメータのうち bi (xt ) cij (xt ) di (xt;1  xt )は単一正規分布とした。

fSi

bi xt

3.4TPr1)(xf st=(x ) =jf

Si jX
N=1)= ( ) ( )( ) ( )= i t  i ti

Pr(xf st=fSi(13) i t  i tX
N=1i+1 = S j )f stfj( i T)(14)

=( ) ( i t  j t+ 1)( ;1 ) ( (15)+1 )( ;1 )( )aij cij xt

dj xt  xt

bi xt

bj xt

4 シュミレーション実験

2x10

PHMM の表現能力を、シミュレーション実験に

方形波

=

yt

-4.0
-20.0
-21.0
-22.0
-23.0
4

56

Number of states)
(区分定常信号20 +(020 +;tt()2 )

 t   < t 

(滑らかな過渡部を持つ信号)= 20 sin( 2) (02 )ただし 、 は外乱であって、平均 0 、分散 1t=

 t 

x10:::

実験結果

図 1 に方形波を用いて学習を行なったモデルを用いて計算した、方形波、余弦波の平均対数尤度を示し 、図 2 に余弦波を用いて学習を行なったモデルでの、平均対数尤度を示す。

model:

PHMM

data:

rectangle

HMM

HMM+Delta

cosine-1.0

Log likelihoodの正規分布で与えた。
データ t に関して 0.15 毎にサンプリングし 、学習用、尤度計算対象用にそれぞれ 100 デー
タ作成。
モデルの構造 PHMM の F 状態と HMM の状態
は 、先端と終端に自己ループの無い飛び越しの無しの left-to-right モデル。状態数は 4〜6。確率分布関数は正規分布。
特徴量 PHMM に関しては (yt ) 、HMM に関しては (yt ) と (yt  yt ) を使用。ただし 、は前時刻との差分を表す。

2-0.5

t

4.1.2

HMM+Delta

cosine

-3.0

余弦波
yt

HMM図 1: 方形波データで学習時の両モデルの平均尤度の比較

実験条件

:

Log likelihood

本実験においては、目標値は同じであるがわたり異なる 2 つの信号を用いて、PHMM と HMM が両者をどの程度区別できるかを評価する。
区分定常的に遷移する信号として方形波を考え、滑らかに変化する過渡部を持つ信号として余弦波を考える。それぞれの学習モデルから、方形波、余弦波それぞれが生起する尤度を PHMM と HMMを用いて比較する。

認識カテゴリrectangle

-2.0

実験 1

4.1.1

PHMM

data:

-1.0

よって評価する。

4.1

model:-1.5-2.0-4.5-5.0-5.5-6.0
456

Number of states

図 2: 余弦波データで学習時の両モデルの平均尤度の比較

ここでは、学習と尤度計算の対象が一致するとき、尤度が高く、一致しない時、尤度が低く抑えられることが望まれる。
方形波で学習したモデルの結果である図 1 からは、PHMM 、HMM 、HMM+ともに、方形波の尤度と余弦波の尤度の差は大きく、良好な性質を保っている。一方、余弦波で学習したモデルの結果である図 2 からは 、PHMM と HMM+では 、余弦波と方形波の尤度差が明確なのに対し 、HMM

レームモデルを学習用、尤度計算対象用にそれぞれ各初期値にごとに 50 データ、計 300データ作成。
モデルの構造 PHMM の F 状態と HMM の状態
は 、先端と終端に自己ループの無い飛び越しの無しの left-to-right モデル。状態数は 3〜5。確率分布関数は正規分布。
特徴量 PHMM に関しては (yt ) 、HMM に関しては (yt ) と (yt  yt ) を使用。ただし 、は前時刻との差分を表す。

では、学習カテゴ リと異なる方形波の尤度が学習
カテゴ リである余弦波のそれと同等に高くなっていることがわかる。特に、状態数が高く自由度が高い時、学習データでない余弦波の尤度が学習データの方形波の尤度を越えてしまうという現象が生じている。つまり、学習データが滑らかに変化する過渡部を持つ時、PHMM と HMM+では、同等な渡りを持つ信号を区分定常信号から区別できるのに対し 、HMM では、この区別ができないことがわかる。
これらの HMM の欠点は 特徴量に差分を含めたモデル "HMM+" より改善される。しかし、PHMM
では、学習データと尤度計算対象のカテゴ リが一致するとき、学習データのカテゴ リによらずほぼ一定の尤度値が得られているのに対し 、HMM やHMM+では、学習カテゴ リが区分定常 (方形波)であれば非常に良好な尤度値を示すものの、区分定常でないときは劣化する。

:®¯­®­­µ­

Öñ

³­
±­

実験 2

本実験では、異なる 2 つの目標値に様々な初期値から漸近的に収束するデータを用いて、PHMMと HMM が目標値の違いを区別にどの程度有効かを評価する。収束した部分は定常的な振舞いを示すが 、この部分が長いときと短いときの両方にについて評価を行なった。

4.2.1

­¯­
±­³­µ­®­­¯­­ª¯­­®­¯­°­ñ

図 3: カテゴ リ 1 の 波形例 (初期状態は0,20,40,60,80,100 の 6 種類)

実験条件

:

認識カテゴリ ここで使用する 関数としては臨界2 次曲線を用いた。臨界 2 次曲線は次式で表される関数である。

= 2 ;1 2 ;2 + (1 2 + 2 ) ;1 +ここでは = 0 8 とした。また、 は外乱であって、平均 0 、分散 1 の正規分布で与えた。
ytayta; a yt;

a:auttこの関数を用いて、次の二つのカテゴ リを作成する。
カテゴ リ 1ut

カテゴ リ 2= 0100 0t <t =yµ­³­±­­¯­
±­
³­µ­
®­­

¯­ª¯­­®­¯­°­ñt <t 

®­­t

­

11

1501
また、初期値 0は 0 20 40 60 80 100 とする。各カテゴ リの初期値毎の波形例を図 3 、4 に示す。
データ : 過渡部と定常部が 030 をサンプut

®¯­

Öñ

4.2

:







 t 

リングした過渡部と定常部から構成される30 フレームモデルと、0  t  10 までサンプリングした過渡部のみで構成される 10 フ

図 4: カテゴ リ 2 の 波形例 (初期状態は0,20,40,60,80,100 の 6 種類)

PHMM

data:

category1HMM

HMM+Delta

category2-5-5-10-10Log likelihood

Log likelihood

model:-15-20-25-30

category1

HMM

HMM+Delta

category2-15-20-25-35
345
Number of states

図 5: カテゴ リ 1 で学習時の両モデルの平均尤度の比較 (30 フレームモデル)

3PHMM

data:

category1HMM

HMM+Delta

category2

model:

PHMM

data:

category1HMM

HMM+Delta

category2-5

Log likelihood

model:

45
Number of states

図 7: カテゴ リ 1 で学習時の両モデルの平均尤度の比較 (10 フレームモデル)

実験結果

30 フレームモデル時の実験結果を図 5 、図 6 に示し 、10 フレームモデル時の実験結果を図 7 、図8 に示す。

Log likelihood

PHMM

data:

-30-354.2.2

model:-10-15-20-25-5-30-10-353-1545
Number of states-20

図 8: カテゴ リ 2 で学習時の両モデルの平均尤度の比較 (10 フレームモデル)-25-30-35345
Number of states

図 6: カテゴ リ 2 で学習時の両モデルの平均尤度の比較 (30 フレームモデル)
全体を通じて言えることは、PHMM の与える正解カテゴ リに対する尤度は常に高い値で一定に安定している。
30 フレームモデル結果 (図 5 、図 6) からは、両カテゴ リの尤度差は状態数が少ない時は PHMM が大きいが 、状態数が増えるにしたがって、HMM 、HMM+の尤度差が大きくなってきている。一方、
10 フレームモデルの結果 (図 7 、図 8) からは、PHMMは、尤度差が明確なのに対し 、HMM や HMM+
ではその差は非常に小さい。
この結果から、30 フレームモデルは定常部が多いが、10 フレームモデルはほとんど定常部が無い。
従って、PHMM は過渡部が多い時にその性能を発揮するが 、定常部が多い時は HMM の方が優れていることが分かる。

5 PHMM のジェスチャ認識に対する応用

本手法の有効性を示すために、時系列パターン認識の一つであるジェスチャ認識に適用する。

5.1

実験条件

:

認識カテゴリ 右手を使い表現する紛らわしい 6単語。図 9 にこれら 6 種類のジェスチャを示す。
データ 40 人の被験者が 6 語を各 4 回演じたものをデータとして収集。撮影範囲は上半身から頭部までとした。取得画像は、1 フレーム:

図 9: 認識対象となる 6 種類のジェスチャ

®­­
¶´«®

= (= (xt  yt xt  yt    ) )xt yt :

実験結果¶´«µ¶µ«°¶¯µ¶«´¶®«¯¶­«¶¶­«®

µ¶«´µµ«®

µµÍÅÊÊ
ÅÊÊµ²«²µ±µ­´µ¶®­®®

ÑN®¯®°

図 10: 特徴量として zt -3D を用いたときの 6手話認識結果

ststを特徴量とする。
テスト セット と学習セット 収集した 4 セットのうち 1 セットをテスト用、残り 3 セットを学習用とし 、組み合わせを変えて、4 回行う。

5.2¶´«´¶´«°¶±«¯:z t -5Dz t -3D

¶³«¶

¶³

¥¢¦

:ある。
差分の無い zt -3D を特徴量として用いた場合、PHMM での認識率は、HMM に比べ、7 から 9 ポイント良い。HMM が区分定常過程しか扱えないという問題が現れた結果と考えられる。

Æ|あたり、解像度 160  120 、RGB 各 8 ビット階調とした。これを、JPEG 圧縮 60%で、毎秒 15 フレーム取り込んだ。
本研究の目的は 、時系列処理の優劣を調べることにあるため、特徴抽出段階での誤りは、抑えられることが望まれる。このため、実験では 、被験者に色マーカとして赤色の手袋を装着させた。また、特徴抽出をさらに容易にするため、被験者には長袖の黒の服を着用させ、背景は無地暗色とした。
モデルの構造 PHMM の F 状態と HMM の状態
は 、先端と終端に自己ループの無い飛び越
しの無しの left-to-right モデル。確率分布関数は正規分布。
特徴量 原画像から 、色情報と動き情報を用い、顔重心座標、右手重心座標、右手面積を抽出し 、右手と顔との相対ベクトル (xt  yt ) 、速度ベクトル (xt  yt ), 右手面積の変化量(st ) 計算し 、実験結果を図 10 、11 に示す。
最良の認識結果は PHMM-3D-13S(特徴量 zt-3D 、状態数 13) での 98.3%で、これは HMM での最良の結果である HMM-5D-9S 、HMM-5D-11S よりも1.5 ポイント上回っている。これは 47%の誤認識率改善に当たり、この結果は有意水準 99%で有意で6 PHMM の音声認識に対する応用
次に、音声認識に適用する。

6.1

実験条件:

データ 学習に JNAS 男性 100 人分、認識に ATRの 216 単語セット 5 人分。学習は、HMM により自動ラベリングを行った結果を用いて、ラベル付けデータで学習を行なった。
モデルの構造 1 音素当たり 3 状態。音素モデルを連結して単語モデルを合成。
特徴量:

:

zt
zt

-13D = (MFCC パワー)
-26D = (MFCC パワー MFCC パワー)






®­­¶´«¯¶³¶²«³¶±«³¶±«°¶²«­¶´«°¶²«¶¶´«­¶³«µ¶³«³¶³«´¶´«°¶³«µÆ|¥¢¦¶¯«²¶¯µµÍÅÊÊ
ÅÊÊµ±µ­²³´µÑN¶®­®®

図 11: 特徴量として zt -5D を用いたときの手話認識結果の２種類の特徴量を用意する。

6.2

実験結果

音声認識実験結果を表 1 に示す。

表 1: 音声認識結果
認識率 (%)

PHMM-13D
PHMM-26D
HMM-13D
HMM-26D

88.70
78.43
91.0295.65

表 1 を見ると PHMM の認識率が HMM のものよりも悪くなってしまっている。この原因としては
音声は過渡部のみでなく、定常部が多く含まれているために、シュミレーション実験 2 みたように、定常部の多いデータに対しては HMM の方が有効であるという結果や、PHMM はより精密なモデルを表しているので単一分布では表現しきれないということ、HMM によるラベリング結果を用いて学習したこと、等が影響していると考えられる。

7 まとめ

時系列パターン認識のための新たな確率モデルとして、部分隠れマルコフモデル (PHMM) を提案した。PHMM の特徴を調べるために 2 種類のシュミレーション実験をし 、ジェスチャ認識と音声認識にこれを適用し 、その有効性を確かめた。
シュミレーション実験の結果、PHMM は正解カ
テゴ リデータについて安定して高い尤度を与えることがわかった。このことは、スポッティング認識等に PHMM が有効となる可能性を示唆する。不正解カテゴ リとの尤度差については 、PHMM が認識対象に依存せず、安定して良好な結果を与えるのに対し 、HMM では認識対象による差が激しいことがわかった。特に、過渡部が多く含まれる時 PHMM が有効であるが 、逆に定常部が多い時HMM が有効であることがわかった。
ジェスチャ認識実験の結果、HMM の最良の結果に比べ誤認識率を 47%改善することができ、ジェスチャ認識に対する有効性が確認できた。
また、音声認識実験の結果は HMM の結果には及ばなかった。今後、検討の余地がある。

参考文献

1] X.D.Huang, Y.Ariki, M.A.Jack, \Hidden
markov models for speech recognition", Edinburgh University Press, 1990.
2] Starner T. and Pentland A., \Visual recognition of American Sigh languate using Hidden Markov Models," Proc. Int'l Workshop
on Automatic Face and Gesture Recognition
1995, June 1995.
3] Wellekens C.J., \Explicit correlation in Hidden Markov Model with optimal inter-framedependence", Proc. ICASSP87, pp.383-386,1987.
4] 坪香 英一, 中橋 順一, \音声スペクトルの動的特徴を組み込んだ HMM," 信学論 (A), J77A, 2, pp.162-172, Feb. 1994.
5] L. Deng, M. Aksnabovic, D. Sun and J. Wu,\Speech recognition using hidden Markovmodels with polinomial regressin functions
as nonstationary states," IEEE Trans. onSpeech and Audio Proccess, vol.2 no.4,
pp.507-520, Sep. 1994.
6] C.J. Wellekens, \Explicit correlation in Hidden Markov Model with optimal inter-frame
dependence", Proc. ICASSP87, pp.383-386,
1987.
7] 高橋敏, 松岡達雄, 南泰浩, 鹿野清宏, \フレーム間相関を利用した音韻 HMM による音声認識", 信学論 (A), J77-A, 2, pp.153-161, Feb.
1994.
8] J-F. Mari, J-P. Haton, \Automatic word
recognition based on second-oder hidden
Moarkov models," IEEE Trans. on Speechand Audio Process, vol.5, n.1, Jan. 1997.
9] Y. Ariki, \Mixture density HMMs with twolevel transition", Journal of Acoustic Society Japan(E), vol.14, no.4, pp.279-280, Sep.
1993.