擬似的最尤推定を用いた EM アルゴリズムの混合コーシ分布問題への適用石榑 彩乃(指導教官：吉田 裕亮)

概要
不完全データの解析手法の代表的なものとして EMアルゴリズムがある．本研究では，EM アルゴリズムの M ステップにおいて，最尤解が陽に求まらない分布の典型として混合コーシ分布を取りあげ，中央値と四分位偏差でもって M ステップを擬似的最尤推定に置き換えた手法の適用性を検証する．

1

研究背景

分子分光スペクトルの分野では多数のコーシ分布の効率的な分解手法が求められている．現在，波形分離に使われている手法は，最小二乗近似を用いたもので，密度関数の重ね合わせをフィッティングして近似するというものである．この手法は多次元の最適化を行うため，計算に時間がかかるという難点がある．それに対し，今回提案する手法は，観測されるスペクトル曲線を十分近似する乱数ヒストグラムを用意し，EM アルゴリズムにより確率的にパラメータを推定するものである．EM アルゴリズムを基にしているので，比較的計算が単純で時間がかからないという長所を受け継いでいる．そこで本研究ではその適用性の検証を行う．

2混合分布問題K 個のクラスからなる混合分布とは，k 番目のクラスの確率密度関数を fk (x|θk )(k = 1, · · · , K)，混合比を pk (k = 1, · · · , K) とするとき，確率密度関数がf (x|θ, p) =K


pk fk (x|θk )らに得られたパラメータの推定値から再び完全データを作り直し，それよりまたパラメータの推定値を求め直すという手続きを反復するというものである．

3.1

コーシ分布

コーシ分布は，種々の放射線の線スペクトルの強度分布など共鳴現象を表すのにしばしば用いられており，原子核物理の分野では，ローレンツ分布とも，ブライト・ウィグナー分布とも呼ばれる．
その確率密度関数は

f (x) =1c·π (x − m)2 + c2と与えられる．
正規分布が頂点が丸く，裾の減退が速いのに対し，コーシ分布は頂点が鋭く，裾が重たい．また，各モーメントも発散するため，コーシ分布は平均や分散ではなく，中央値と四分位偏差を以って，分布のパラメータ m, c を特徴づけられる．
実際，データから分布のパラメータ m, c の最尤推定値を得ることは非常に困難である．そこで, m を中央値，c を四分位偏差として考え，これらの順序統計量の推定値でもって m, c の最尤推定の代わりとする手法を提案する．

3.2

標本の発生計測器からの観測データは，曲線として出力されるものとする．そこでまず，概形をみて乱数データを発生させる区間を決定する．次にその区間を適当な単位で n 等分割し，各分割区間の高さを求める．

k=1と与えられるような分布である. ただし，pk ≥ 0 かつK
k=1 pk = 1 である．
混合分布問題とは，ここからの標本 {x1 , · · · , xN } が与えられたとき，パラメータ {θ1 , · · · , θK } と混合比
{p1 , · · · , pK } 及び分布数 K を推定することである．ここでそれぞれのデータが属しているクラスを表す潜在変量として zi = (zi1 , · · · , ziK ) を導入し，xi がクラスk からの標本であるとき，zik を 1，そうでなければ 0とする．すなわち理想的な完全データを (xi , zi ) とし，観測データ xi を zi が欠測した不完全データと考える．
分布を特徴付けるパラメータ θk と混合比 pk を推定する方法として EM アルゴリズムを用い, 最適分布数K を推定する方法としては，統計モデルの選択基準BIC を用いることにする．

3

EM アルゴリズム

EM アルゴリズムは，不完全データに関する様々な処理法を 1977 年に Dempster らが，統一的にまとめたものであり，その基本的発想は，観測された不完全データをいったん扱いやすい擬似的完全データに置き換え (Expectation Step)，この擬似完全データからパラメータの最尤推定値を求め (Maximization Step)，さh1 , · · · , hn の和を S とおき，区間 [i − 1, i] で発生させる乱数の個数を，N×hiSとする．ただし N は用いる乱数の総数である．また，ここでは適当なスケーリングを行い，各区間幅は 1 とした．

3.3

混合コーシ分布における EM アルゴリズム

N 個の標本 {x1 ,· · · ,xN } が与えられ，混合分布が K個のコーシ分布からなるとしたとき，各データの欠測
値 zik とそれぞれの密度関数のパラメータ mk , ck と混合比 pk を次のように逐次推定する．

1. 初期設定
観測値 xi (i = 1, · · · , N ) に対し，どの分布からの標本であるかをランダムに決める．すなわち，各i に対して zi1 から ziK のうちどれか一つのみを1，それ以外を 0 とする．
2. M ステップ (mk , ck , pk の推定)．

分布 1 は固定し，分布 2 は c の値を 1.0 ∼ 11.0 まで変化させ，これらを同比率で混合させ，c の値と推定されたパラメータの真値からのずれを調べた．なお，真値からのずれを測る指標として，以下の D を導入した．これはコーシ分布の密度関数の形状から面積の関係に着目したものである．

D0 = |p1 c1 − p1 c1 | + |p2 c2 − p2 c2 |mk : 分布 k の中央値
ck : 分布 k の第 1 四分位と第 3 四分位の中央値からの距離の平均 (四分位偏差)N1 zik
pk =N

ここで，p1 , p2 , c1 , c2 は真値，p1 , p2 , c1 , c2 は，推定されたパラメータである．同比率なので p1 , p2 は 0.5 である．
そして次にその結果を示す．

i=13. E ステップ (zik の推定)．
pk fk (xi ; mk , ck )zik = K
k=1 pk fk (xi ; mk , ck )fk (x; mk , ck ) :クラス k の確率密度関数
以下, 上記の M ステップ, E ステップを収束するまで繰り返す．

4

分布数の推定分布数を推定する方法として，BIC(ベイズ情報量基準) を用いる．BIC は，複数個のモデルの中から観測データに最適なモデルを選択する評価基準のひとつで，次のように表される．

BIC = −2N
log f (xi ) + m × log(N ),i=1f :推定された混合分布の確率密度関数，m :自由パラメータ数
この BIC の値を最小とするモデルが最適なモデルと考えられる．コーシ分布の混合分布では, 分布数 K の場
合には自由パラメータ数 m は，3K − 1 となる.

5

定量的実験

様々な分布での数値実験の結果から，c の値が大きい場合に分離が困難になる傾向がみられた．そこで cの値が大きい場合の分離の困難性について分布数を 2とし，以下のような条件下で数値実験による定量的な検証を行った．
分布 1(実線) : m = 10.0，c = 3.0
分布 2(破線) : m = 20.0, c = 1.0 ∼ 11.0

6

まとめ

本研究では，EM アルゴリズムの M ステップを中央値と四分位偏差で代用するアルゴリズムの多分布への適用性を検証した．実験の結果から，分布数が多い場合においてもこれらが十分にパラメータの最尤推定に置き換えることのできるものであると考えられる．
また，以下の二点において本アルゴリズムの実データへの有効性がいえる．第 1 に，標本の発生方法が波形として得られる実データへの解析にも応用可能だということである．そして，第２に実際の計測器からでてくる AR モデルのスペクトル分布関数においては，ピークが比較的 c が小さい分布の重ね合わせで現れてくる．これらの点においてもこの手法は有効ではないかと思われる．

参考文献
1. 麻生英樹，津田宏治，村田昇, パターン認識と学
習の統計学，岩波書店 (2003).
2. 石榑彩乃，吉田裕亮，EM アルゴリズムの混合コー
シ分布への応用とその改良，情報処理学会研究報
告，2006-MPS-62 ，pp.85-88 (2006)
3. 南茂夫，科学計測のための波形データ処理，CQ
出版社 (1986).
4. 下平英寿，伊藤秀一，久保川達也，竹内啓, モデ
ル選択, 岩波書店 (2004).