THE UNIVERSITY OF TOKYO

数理情報工学特論第一【機械学習とデータマイニング】
4章：教師なし学習②

かしま ひさし鹿島 久嗣（数理 6 研）kashima@mist.i.～

DEPARTMENT OF MATHEMATICAL INFORMATICS

1THE UNIVERSITY OF TOKYO

潜在変数モデルと、潜在変数モデルのそのEM法による最尤推定を学びます

多次元正規分布の最尤推定



潜在変数モデル

混合分布– 混合正規分布EM法による潜在変数モデルの最尤推定– E-ステップとM-ステップ– EM法の正当性

2

THE UNIVERSITY OF TOKYO多次元正規分布の最尤推定

3THE UNIVERSITY OF TOKYO多次元正規分布のパラメータ（平均と分散共分散行列）を最尤推定します 多次元正規分布の確率密度関数：– ¹：平均ベクトル

Σ：分散共分散行列

を、訓練データ集合{x(i)}i=1N から推定することを考える

 最尤推定によって得られるパラメータを ¹* および Σ* とすると：

 多次元正規分布の場合：

4THE UNIVERSITY OF TOKYO平均パラメータの最尤推定量は、データの平均と一致します 目的関数：を平均パラメータ¹についてこれを偏微分すると

 最適な ¹=¹* でこれが0 のはずなので、これを0とおいて整理すると：

 両辺の左からΣを掛ければ：
 つまり、多次元正規分布の平均パラメータ¹の最尤推定量は、データ集合に対する特徴ベクトル集合 {Á(x(i))}i=1N の平均となる
5THE UNIVERSITY OF TOKYO分散共分散行列の最尤推定量を求めるため、少し準備します 次に分散共分散行列の最尤推定量 Σ*を求めるため、Σについて目的関数を最大化： まずは、以下の等式が成り立つことを確認しておく– 最初の等式が成り立つことはスカラー値のトレースもまたスカラー値であることから– 2つ目の等式は行列 AとB に対しであることから– 最後の等式は分散共分散行列 Σ と精度行列 ¤ の関係 Σ-1=¤ から
6THE UNIVERSITY OF TOKYO分散共分散行列の最尤推定量もデータの分散共分散行列になります 先の等式を用いて目的関数J(¹, Σ)を、¤の関数として書き換えれば– |Σ|=|¤|-1であることに注意 J(¹, ¤)を¤で微分すると：– ここで行列の微分の公式をもちいた： 最尤推定量 Σ*-1 = ¤*において、上式は全ての要素が0の行列と等しいはずであるので、これを解くと、最尤推定量は：7THE UNIVERSITY OF TOKYO

潜在変数モデル

8THE UNIVERSITY OF TOKYO

教師なし学習の主要タスクは4つあるのでした 教師なし学習においては通常、データ上の確率分布P(Á(x))を何らかの形で推定することが行われる

 P(Á(x))の使い道としては主に以下の4つが挙げられる
1. 確率分布そのものを用いた分析
2. データの確率評価
3. 未観測値（欠損値）の推定【前回みた】
4. 潜在変数の推定【今回】9THE UNIVERSITY OF TOKYO潜在変数の推定「隠れた情報」を表す仮想的な変数を考え、これを推定します 興味のある変数が（訓練）データ集合においても観測されない潜在的な仮想変数であるという点で、未観測値の推定とは異なる つまり、xとは別にまったく観測されない変数y（潜在変数）と呼ばれる変数を仮定し、その条件付き分布 P(y|x) を推定することが目的となる– y は x のもつ「隠れた情報」を表す
 たとえば、yを各データの属するグループであるとすると、P(y|x) を用いてデータ集合を自動的にグループ分け（クラスタリング）することができる

10

THE UNIVERSITY OF TOKYO

潜在変数とは、データの（観測されない）状態を表す観測されない変数です。 これを持つモデルが潜在変数モデルです 潜在変数をもつ確率分布は、データの特徴ベクトルに加え、観測されない潜在変数をyとしてP(Á(x),y) と書く– 潜在変数は複数あってよいが、簡単のため1つ（yが1次元）とする
 潜在変数yとは、データxの潜在的な状態を表す仮想的な変数– Xを顧客の集合、Á(x)を顧客 x2 X をその人の個人情報や購買履歴で表現した特徴ベクトルとする– yの取りうる値を Y ≡ {1,2,3}の3つであるとすると、y は顧客xが3つのグループ{1,2,3}のうち、どのグループに属するかを表す
 y は観測されない変数なので、y のとる値の意味は不えられておらず
単にXの各要素の各y2 Y への所属程度 P(y|Á(x)) だけがわかる– 各グループに属する顧客を調べることによって、それぞれのグループの意味を「解釈」することになる（富裕層、若年層、…）11THE UNIVERSITY OF TOKYO

混合分布

12THE UNIVERSITY OF TOKYO

潜在変数モデルの代表的モデルは混合分布で、複数の要素確率分布をある割合で混ぜあわせた形をしています 混合分布：潜在変数モデルにおける、もっとも標準的なモデル– 複数個（K個）の確率分布を組み合わせたような確率分布– 単一の確率分布と比較して、複雑な分布の形を表現できる
 混合分布における潜在変数の取りうる値は、Y ≡ {1,2,…,K}のK通り
 混合分布は2種類の構成要素をもつ：– 要素確率分布の混合比を決める確率分布P(y; µ(0))• パラメータµ(0)≡(µ1(0), µ2(0), …, µD(0))をもち– K個の要素確率分布{ P(x | y; µ(y)) }y=1K• K個の要素確率分布はそれぞれパラメータµ(y)を持つ
13

THE UNIVERSITY OF TOKYO

混合モデルにおける潜在変数は「どの要素確率分布を用いてデータを生成したか」に対応します 全てのパラメータをまとめて£ ≡ {µ(k)}k=0K と書くとすると、混合分布は以下のように定義される。

 これをデータの生成過程という観点から見てみると：– まず、P(y; µ(0)) によって、K個の要素確率分布のうちどの確率分布を用いてデータを生成するかを決定する• y番目の要素確率分布が選ばれる確率はµy(0)– 何番目の確率分布が選ばれるかを示す確率変数が、潜在変数y 2 Y ≡ {1,2, …, K}となる– そして、選ばれたy番目の確率分布（パラメータµ(y)をもつ）を用いて、データxが生成される
14THE UNIVERSITY OF TOKYO要素確率分布として多次元正規分布を用いたものが混合正規分布です K個の要素確率分布{ P(x | y; µ(y)) }y=1K のそれぞれが、多次元正規分布であるとする

 パラメータµ(y) ≡ (¹(y), Σ(y)) をもつ y 番目の多次元正規分布は以下のように書ける：– それぞれの正規分布は異なるパラメータ (¹(y), Σ(y)) をもつ

15THE UNIVERSITY OF TOKYOEM法による潜在変数モデルの最尤推定

16THE UNIVERSITY OF TOKYO

潜在変数モデルの最尤推定には、潜在変数について周辺化し「見える部分」のみの確率を用います データxと潜在変数yの同時分布を、パラメータ£をもつ確率分布
P(x,y; £)によってモデル化し、これを（訓練）データ集合{x(i)}から推定する
 潜在変数はそもそも観測されない仮想的な変数であるため「観測されたデータの出現確率を最大化する」という最尤推定の方
針に従えば、最適なモデルパラメータの最尤推定値£* を得るために解くべき最適化問題は：– ただし、17であることに注意する

THE UNIVERSITY OF TOKYO

潜在変数モデルの最尤推定を簡単に行うための方法がEM法です 最適化問題の目的関数：

 この目的関数をニュートン法や最急勾配法によって直接£について最大化することも可能だが煩雑 EM (Expectation-Maximization; 期待値最大化)法：– 目的関数の下界を作ることで潜在変数モデルの推定を非常に見通し良く簡単に行える方法

18THE UNIVERSITY OF TOKYOEM法は対数尤度関数の下界を最大化します 最適化問題の目的関数：

 EM法では、まず、目的関数 J(£)の下界 J 0 (£, z) を作る– 若干人工的ではあるが、データxが不えられた時の潜在変数yの条件付き確率分布P(y| x; z)を導入する• P(y| x; z)はパラメータz をもつ– 丌等式は、以下のイェンセン(Jensen)の丌等式（次頁）による
19

THE UNIVERSITY OF TOKYO

目的関数の下界を作るためにイェンセン(Jensen)の丌等式を用います 目的関数 J(£) の下界 J 0(£, z) ：をつくるためにイェンセン(Jensen)の丌等式を利用できる–とおけばよい– なお、この形式は、対数関数に対するイェンセンの丌等式– 一般に上に凸関数に対して上式のような丌等式が成立する
20

THE UNIVERSITY OF TOKYOEM法は、目的関数の下界のパラメータを交互に最適化することを繰り返すアルゴリズムです EM法では、直接最適化をすることが面倒な目的関数の代わりに、丌等式を用いて作った下界 J 0 (£, z) を最大化する 元々の目的関数のパラメータは£のみであったのに対し、下界 J 0 (£, z)では新たなパラメータzが加わっていることに注意する

 EM法では、£と z を交互に最適化を繰り返すことで、解を逐次的に更新していく

21

THE UNIVERSITY OF TOKYOEM法はE-ステップとM-ステップを収束するまで繰り返します EM法では、E-ステップとM-ステップの2つのステップを繰り返すことで、解を逐次的に更新していく：– E-ステップ：£ を現在の値 £=£OLD に固定し、J 0 (£OLD, z)をzについて最大化する– M-ステップ：zを現在の値z=zOLDに固定し、J 0 (£, zOLD)を£について最大化する

 目的関数J 0 (£, z)は各ステップにおいて徐々に改善され、目的関数が有限であれば、いつかは目的関数値がこれ以上改善しなくなるため繰り返しは終了する
 本来の目的関数 J (£) が改善されていることは後ほど確認する
22
THE UNIVERSITY OF TOKYOE-ステップの最適化問題は（一定の条件のもと）閉じた解が得られます 目的関数の下界は：

 ここで、仮に P(y| x(i); z) = P(y| x(i); £)と取れば：（等号が成立できるほどにP(y| x(i); z)が精緻であれば）となり、下界 J 0 (£, z) は上界 J (£) に一致する。
 この等号を達成するzは、E-ステップの最大化問題の解となっている– 上界 J (£) は z に依存しないため、zについては定数とみなせる P(y| x(i); z) = P(y| x(i); £)を満たすzが存在するならば、E-ステップの最大化問題を解かなくとも、直接閉じた形の最適解が得られる
23

THE UNIVERSITY OF TOKYO

モデルが混合分布の場合には、E-ステップはモデルの確率評価のみで実行できます P(y| x(i); z) = P(y| x(i); £)にベイズの定理を適用すると：

 P(x(i), y; £)が混合分布の場合には：– µy(0)：y番目の要素確率分布を選ぶ確率– P(x|y; µ(y))：y番目の要素確率分布• 多次元正規分布のときには前述の P(x | y; ¹(y), Σ(y))
 これを用いるとP(y| x(i); z)は：24

THE UNIVERSITY OF TOKYOただし、訓練データの数や潜在変数の取りうる値の数が膨大になると、最適化問題を解く必要がある場合があります P(y| x(i); z) = P(y| x(i); £)を用いて P(y| x(i); z) を求める場合、実際に J 0 (£OLD, z) をzについて最大化する問題を解く必要はない

 従って、通常はE-ステップの最適化問題は存在せず、P(y| x(i); £)を用いて、全ての(i, y)の組み合わせについてP(y| x(i); z)を計算すればよい これは、あたかも zi, y ≡ P(y| x(i); z) という「変数」が存在し、E-ステップはこの値を更新しているかのように見ることができる
 一方、訓練データの数や潜在変数の取りうる値の数が膨大なときには、全ての(i, y)に対して zi, y を管理することが難しくなる そのような場合にはパラメータzを持つような確率モデルP(y| x(i); z)を考えることで、zi, y を「圧縮」する必要が出てくる

25

THE UNIVERSITY OF TOKYOM-ステップは重みつきの（完全データに対する）最尤推定になります M-ステップでは目的関数の下界 J 0 (£, z) を£について最大化する
 目的関数の下界 J 0 (£, z) は： £に関係のある部分は1項目のみであるので、これだけを取り出して考えると、M-ステップの最大化問題は以下のようになる

 データxと潜在変数yの両方が既知の場合の最尤推定となっている– ただし、潜在変数のとりうる値はそれぞれ P(y| x(i); zOLD) で重みづけられているような形となる
26

THE UNIVERSITY OF TOKYO

モデルが混合分布の場合のM-ステップの最適化問題を解いてみます P(x(i), y; £)が混合分布の場合には、最大化問題はさらに：27

THE UNIVERSITY OF TOKYOまずは混合比パラメータを求めてみます まずは、これをµ(0)について最大化する この最適化問題には制約 Σy=1K µy(0) = 1 があるため、ラグランジュ関数 L(µ(0))を作る– ¸：ラグランジュ乗数
 L(µ(0))をµy(0)で偏微分すると：
 これを0とおいて解くと：
 制約 Σy=1K µy(0) = 1 が満たされるように¸を決めれば：

28

THE UNIVERSITY OF TOKYO要素確率分布が多次元正規分布の場合のパラメータは、重みつき最尤推定になります µ(y) についての最大化問題は：

 要素確率分布が多次元正規分布の場合を考えると、目的関数：– 多次元正規分布の最尤推定と殆ど同じ形：
ただし i 番目の訓練データが重みP(y| x(i); zOLD)を不えられている
 従って、同様に最尤推定量を求めると：

29

重みP(y| x(i); zOLD)での重みつき平均THE UNIVERSITY OF TOKYOEM法の正当性：もともとの目的関数が改善されます E-ステップにおいて、条件P(y| x(i); z) = P(y| x(i); £)を満たすzを見つけることができれば、E-ステップが終了した時点で、下界 J 0 (£, z) は本来の目的関数 J (£) は一致しているのだった この状態で、M-ステップを実行すると、 J 0 (£, z) が大きくなる 丌等式 J 0 (£, z) ≦ J (£)は必ず成立することから、M-ステップでは同時にJ (£)も大きくなることになる
 つまり、EM法は、本来の目的関数 J (£)のかわりにその下界J 0 (£, z)を逐次的に改善していくが、それは同時に本来の目的関数J (£)も改善しているということがわかる
 ただし、P(y| x(i); z) = P(y| x(i); £) が満たせない場合はこの限りでない– このようなケースは「一般化」EM法と呼ばれる
30

THE UNIVERSITY OF TOKYO