THE UNIVERSITY OF TOKYO

数理情報工学特論第一【機械学習とデータマイニング】
4章：教師なし学習③

かしま ひさし鹿島 久嗣（数理 6 研）kashima@mist.i.～

DEPARTMENT OF MATHEMATICAL INFORMATICS

1

THE UNIVERSITY OF TOKYOグラフィカルモデルについて学びますグラフィカルモデル

グラフィカルラッソ

グラフィカルラッソの推定アルゴリズム

2

THE UNIVERSITY OF TOKYOグラフィカルモデル

3

THE UNIVERSITY OF TOKYO

教師なし学習の主要タスクは4つあるのでした 教師なし学習においては通常、データ上の確率分布P(Á(x))を何らかの形で推定することが行われる

 確率分布の使い道としては主に以下の4つが挙げられる：– タスク1: 確率分布そのものを用いた分析 （← 今日はコレ）– タスク2: データの確率評価– タスク3: 未観測値（欠損値）の推定 （←前々回）– タスク4: 潜在変数の推定 （←前回）4

THE UNIVERSITY OF TOKYO今回は、データの特徴ベクトルの要素間の関係を調べるために、精度行列が疎であるような多次元確率分布を考えます ４つのタスクのひとつ「確率分布そのものを用いた分析」では、確率分布そのものを用いてデータに対する知見を得ることが目的
1.

パラメータ（もしくは確率分布P(Á(x))の形）を「鑑賞」することによって、データ全体がどのような形で分布しているかを知る

2.

2つのデータ集合から推定された2つの確率分布が異なるか、異なるとしたらどのように異なるのかを調べる

 多次元正規分布モデルの場合、精度行列¤の各要素は、任意の2要素の積にかかる係数であるから、要素間の直接的な関係を表している

 この要素間の関係は、精度行列の非零要素の数、つまり、直接的な関係の数が尐ない方が、解釈が容易になる
 そのため、今回は、精度行列が疎（多くの要素が0）で、要素間の関係がよりはっきりと示されているような、多次元正規分布を扱う
5
THE UNIVERSITY OF TOKYO一般に、パラメータがグラフ構造（疎な構造）をもつと解釈できるようなモデルをグラフィカルモデルと呼びます （多次元正規分布に限らず）一般に、疎なパラメータ構造をもち、その構造がある種のグラフ構造として解釈できるような確率モデルをグラフィカルモデルと呼ぶ– 連続の場合の代表的モデル：• グラフィカルラッソ（疎な多次元正規分布）– 離散の場合の代表的モデル：• ベイジアンネットワーク
 広い意味では、教師つき学習のところで紹介した条件付き確率場（CRF）もグラフィカルモデルの範疇に入る

6THE UNIVERSITY OF TOKYOグラフィカルラッソ

7THE UNIVERSITY OF TOKYO

精度行列の最尤推定量は通常「密」になります 多次元正規分布の精度行列を観測されたデータからの最尤推定する
方法については以前述べた
 たとえ、真の精度行列が疎である場合でも、通常は推定された精度行列は密になってしまう 精度行列 ¤ を用いた多次元正規分布の密度関数：
 パラメータ ¹ および ¤ を、訓練データ集合{x(i)}i=1Nから最尤推定によって求めることにすると、その最適化問題は： このままでは精度行列の推定量 ¤* が（=Σ*-1）密行列になってしまう

8THE UNIVERSITY OF TOKYO

精度行列の推定量を「疎」にするために、L1正則化を行ったものをグラフィカルラッソと呼びます パラメータ ¹ および ¤ を、訓練データ集合{x(i)}i=1Nから最尤推定によって求めることにすると、その最適化問題は：– このままでは、精度行列の推定量¤*が密行列になってしまう 精度行列の推定量 ¤* を疎にするために、精度行列についてL1正則化を行うことにすると、最適化問題は：– k ¤k1は行列のL1-ノルムであり、以下のように各要素の絶対値の和9THE UNIVERSITY OF TOKYOL1正則化を行うと、精度行列の推定量は閉じた形では求まりません 平均パラメータの推定量 ¹* については正則化項が存在しないため、最尤推定の場合と同じになり、その推定量は：– 全データの特徴ベクトルの平均 一方で、精度行列のほうはL1正則化項の存在により、平均パラメー
タのように閉じた形では求まらない
 従って、グラフィカルラッソの本質は、いかにして精度行列の推定を行うかということになる

10THE UNIVERSITY OF TOKYOグラフィカルラッソの目的関数はシンプルに書けます ¤ についてのみ最適化することにして、多次元正規分布の密度関数の定義を代入して書き下すと：

 この最適化問題の目的関数は以下のように書き換えられる：– ここで、以下を使った：•• 標本分散共分散行列 S：

11THE UNIVERSITY OF TOKYOグラフィカルラッソのアルゴリズム

12THE UNIVERSITY OF TOKYOまずは目的関数を精度行列で微分します グラフィカルラッソの目的関数を最大化する ¤ を求めたい 実は、この最適化問題は精度行列 ¤ についてではなく、その逆行列である分散共分散行列 Σ = ¤ -1 について解くことになる この目的関数を¤の各(k,l)-要素[¤]k,lで微分すると：

 ここで行列の微分の公式をもちいた： ¤とΣの逆行列を通じた等価性から、↑の式において(¤についての微分)=0の成立は、対応するΣが最適解であることも意味する
13THE UNIVERSITY OF TOKYO対角成分は閉じた形で求まります まず、微分を ¤ の対角成分についてみてみる
 精度行列 ¤ は正定行列であることに注意すると、その対角成分は必ず正、つまり[¤]k,k >0であることから、微分の対角成分は：

 これを0と置くと、分散共分散行列 Σ の対角成分を閉じた形で得る：
 これで分散共分散行列 Σ の対角成分については最適解が求まった
 今後は Σ の非対角成分についてのみの最適化を考えればよい

14THE UNIVERSITY OF TOKYO

非対角成分は、閉じた形で求まりませんが、実は、L1正則化回帰（の繰り返し）に帰着されます 分散共分散行列 Σ の対角成分以外の成分の最適解を求める– 精度行列 ¤ の最適解は ¤ = Σ-1 の関係によって自動的に定まる
 しかし、対角成分全てについての最適化は難しい
 そこで、分散共分散行列のある行（対称なので、ある列としても同じ）のみについての最適化を行い、これを選ぶ行を変えながら繰り返すという戦略をとることにする
 これから示すように、実は、分散共分散行列のある行（列）についての最適化は、回帰問題のときに紹介したL1正則化回帰に帰着されることがわかる

15THE UNIVERSITY OF TOKYO分散共分散行列を部分的に最適化するため、各行列の分割を考えます 分散共分散行列を部分的に最適化するため、分散共分散行列の分割を考える：–

は (D-1) £ (D-1)の行列、 は長さD-1のベクトル、¾D はスカラー Σ の最後の行（列）について最適化するとすれば、 は定数であり、¾D は対角成分なので既に最適解が求まっており、定数とみなせる
 従って、ここでパラメータは となる
 Σと同様に、精度行列と標本分散共分散行列の分割をそれぞれ：

16THE UNIVERSITY OF TOKYO分散共分散行列と精度行列の関係式がブロックごとに導かれます Σ ¤ = I であることから、分割した行列の各ブロックについて：

 特に、右上のブロックから： すなわち：17

THE UNIVERSITY OF TOKYO分散共分散行列の現在注目しているブロックが最適解になる条件を導きます 先の微分の （精度行列の現在注目しているブロック）に関連する部分だけを取り出すと：

 となっているので、ここから を去すれば：（前頁）を用いて消 結果、微分が、 （と¸D）によって表される– これが =0 になるのが最適解の条件– しかし、このままでは、場合分けの条件式がややこしい…
18
THE UNIVERSITY OF TOKYO

パラメータを置き換えて、最適解の条件を簡単に書きます この微分を簡単にしたい： 新たなパラメータ¯を導入する：– つまり：
 であること、また、精度行列 ¤ は正定であるので、その対角成分である ¸D は正であることに注意すると、微分の式は：– ¯ のみを使って書くことができる。
– 場合分けの丌等式の向きが変わったことに注意する
19THE UNIVERSITY OF TOKYO同じ微分をもつ、別の最適化問題に書き換えます 最終的に得られた微分： これは、以下の目的関数の ¯ についての微分と一致する：

 もともとの最大化問題の目的関数を ¯ の関数としてみたものと、この最小化問題の目的関数は同一– 連続で、微分丌可能な点が同じで、それ以外の場所では微分が一致
 つまり、もともとの目的関数のかわりに、新たな目的関数を用いて ¯を求めても差し支えないということを意味する
20

THE UNIVERSITY OF TOKYO新しい目的関数を、変数ごとに最適化することを考えます さらに、目的関数：を、 ¯ の第k成分[¯]kについてのみ最適化することを考える
 目的関数

21を [¯]kについての関数だと思って整理すると：THE UNIVERSITY OF TOKYOちょうどL1正則化回帰のときに出てきた目的関数と同じ形であることに気付きます 結局、[¯]kの最適解[¯]k*は、以下の最適化問題を解くことで求まる これはまさにL1正則化回帰の次元ごとの逐次解法のときに出てきた最適化問題↓と同じ形をしている

22

THE UNIVERSITY OF TOKYOL1正則化回帰のときの解を利用して、解を導きます L1正則化回帰の次元ごとの逐次解法のときに出てきた最適化問題：
 この解は：

 これを利用すると、いま解きたい最適化問題：の最適解[¯]k* は：

 これをkを変えながら繰り返すことによって、¯ が求まる
23

THE UNIVERSITY OF TOKYOL1正則化回帰を繰り返すことによって、グラフィカルラッソの推定ができます 一旦 ¯ が得られると、を用いて、 を求めることができる

 この一連の手続きによって Σ の最後の行（列）を求めるのがグラフィカルラッソのアルゴリズムにおける1ステップである このステップを、行（列）の順番を入れ替えて最後にくるものを適当に変えながら繰り返し行い、収束するまで繰り返す– つまり、L1正則化回帰問題を繰り返し解く
 グラフィカルラッソのアルゴリズムは：– ブロック分割で最後にもってくる行（列）を変えながら、最後の行（列）についての最適化を繰り返す外側のループ– 最後の行（列）についての最適化を行うために、¯ のある次元についての最適化を、選ぶ次元を変えながら繰り返す内側のループの2つのループで構成されている
24

THE UNIVERSITY OF TOKYO

このアルゴリズムは逆行列の計算を必要としないため効率的です このアルゴリズムの効率的なところは、Σ = ¤-1 という関係をもつ２つの行列Σ と¤を扱っていながら、逆行列の計算がまったく出てこないところである– Σ ¤ = I をブロック分割した式（右上と右下）およびの連立方程式を解くことで から¤ の最後の行（列）が求まる：

 また、得られた解は条件Σ ¤ = I を満たすように作られるため、得られる Σ と ¤ は正定であることが保証される

25

THE UNIVERSITY OF TOKYO