《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

第 58 回物性若手夏の学校“人工知能”のための統計力学
樺島

祥介 1

東京工業大学大学院総合理工学研究科
知能システム科学専攻
概要
気がつけば “人工知能”がそばにいる世の中になっていた．HAL9000 は暴走していないし，ネコ型ロボットが街を闊歩しているわけでもない．しかし，スマホは次に入力するフレーズを予測し，デジカメはヒトの顔を枠で囲む．Google は検索結果を瞬時に返してくるし，Amazon
で買い物をすると好みの品物をワンサカ薦めてくる．活気のある立ち会いが好景気の象徴だった株の売り買いも，いまではミリ秒単位の自動売買である．確かに，SF の世界で描かれる，ヒトのように自律的に考え判断する機械はまだ現れていない． けれども，それほど複雑ではな
いけれどコツや経験が必要な，ひと昔前ならヒトでなければできなかった知的作業を機械が代行する． そういった社会はすでに到来しているのである． こうした “人工知能”の共通点として，手元にあるデータから有益な情報を抽出する「推論」を実現していることが挙げられる．
これを可能にした要因として真っ先に思い浮かぶのは計算機の高性能化と普及である． でもそれだけでは十分ではない．データに含まれる情報を最大限に引き出すためには適切なモデル化と，それを現実的制約下で計算機上に実装する技術が必要になる． データの生成過程を適当な確率モデルで表現し，ベイズの公式にしたがって推論を行う枠組みは特に「確率推論」とよばれる． 本講義では，スピングラスに端を発する不規則系の統計力学と確率推論との構造的類似性にもとづいて統計力学の理論を “人工知能”の技術として活かす研究について紹介する．

はじめに

1

携帯電話やインターネットなどの通信インフラ，データセンターの整備，また，さまざまな計
測機器の発達を背景として，大規模なデータからの情報抽出への関心が高まっている．適当な確率モデルを仮定しベイズの公式にもとづいて観測データから未知の確率変数を推定する確率推論
は，こうした情報抽出を行うための有力な手段である．ところが，確率推論に必要な計算量は一
般に確率変数の次元に関して指数関数的に増大し，実行が困難になる．この問題を解決する実際的手段として，近年，人工知能研究をはじめとした情報／計算機科学では統計力学への関心が高まっている．
本稿では，そうした物理学の枠を越えた統計力学の利用法について紹介する．
本稿の構成は以下の通りである．次節では，統計力学と確率推論それぞれの特徴を概観し，それらの構造的な類似点と相違点について述べる．本稿で主に述べるのは，確率推論を実行する近似アルゴリズムとしての平均場近似である．その準備として，第３節では強磁性体のイジング模型を例題として統計力学でもちいられる平均場近似について説明する．物質の一様性や規則性を取り入れながら定式化されている物理学の平均場近似は，多様な確率分布があらわれる確率推論にはそのままの形では使い難い．そこで，一般的な分布への平均場近似の拡張について第４節で述べる．第５節はまとめにあてられる．
なお，講義時間の都合上，性能評価問題への統計力学の利用法については今回は省略した．文献 [1, 2] などをご覧頂きたい．

統計力学，確率推論，不規則系の統計力学

2

本節では統計力学と確率推論との関係について述べる．

1

E-mail: kaba@dis.titech.ac.jp

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

2.1
2.1.1

統計力学とは分配関数，自由エネルギー，内部エネルギー，エントロピー

古典系のみに限定して話を進める．微視的な状態変数の組 S に対し，ハミルトニアン H(S) が定義されているシステムを考える．エッセンスだけ抜き出すと，このシステムの絶対温度 T での熱平衡状態の性質がカノニカル分布（canonical distribution）

P (S) =e−βH(S)Z(β)(1)

に関する期待値（平均）で評価できる，というのが（平衡）統計力学の主張である．ただし，β =(kB T )−1 であり（kB はボルツマン定数），規格化定数 Z(β) = TrS e−βH(S) はしばしば分配関数（partition function）とよばれる2 ．
カノニカル分布に関する期待値を具体的に評価する際には分配関数，あるいはその対数で与えられる自由エネルギー（free energy）F = −β −1 ln Z(β) が大きな役割を果たす．たとえば，カノニカル分布に関するハミルトニアンの期待値

U = Tr H(S)P (S) = Tr H(S)S

Se−βH(S)Z(β)(2)

を考えよう．合成関数の微分に関する公式を使うと，これは

U =−

∂
∂
ln Z(β) =
(βF )
∂β
∂β

(3)

によって評価できることがわかる．U を熱力学における内部エネルギー，F を熱力学における自由エネルギーと対応づけると，熱力学の関係式からエントロピーもS=

1∂(U − F ) = −kB β
ln Z(β) + kB ln Z(β)
T
∂β

(4)

のように分配関数を通じて評価することができる．

2.1.2

例１）古典単原子分子理想気体

体積 V の容器内にある１分子あたりの質量が m の単原子分子古典理想気体を考える．分子数を N ，分子 i(= 1, 2, . . . , N ) の位置と運動量をそれぞれ q i ，pi とすると，S = {(q 1 , p1 ), (q 2 , p2 ),. . . , (q N , pN )} であり，ハミルトニアンはH(S) =

N (
∑
|p |2
i

i=1

2m

)
+ Φ(q i )(5)で与えられる．ただし，Φ(q) は q が容器の内部にあるとき 0，それ以外では無限大になるポテン
シャルエネルギーである．不確定性原理および気体分子は互いに区別できないことから，プラン∫ ∏N
ク定数を h として TrS → h−3N (N !)−1i=1 (dq i dpi ) となる．ここで，ハミルトニアンが各粒子に関する和の形に書けていることから TrS は各粒子添字に関して独立な積分となり

Z(β) =(2πmkB T )3N/2 V N
h3N N !

(6)が得られる．これから直ちに内部エネルギーが

U =−
2

∂
3N
3N kB Tln Z(β) =
=
∂β
2β
2

TrS はすべての可能な状態について和あるいは積分を取るという意味(7)

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

で与えられること，よって，定積熱容量がC=∂U∂ 2 ln Z(β)
3N kB
= kB β 2
=
2
∂T
∂β
2

(8)

となることが導かれる．また，圧力 p と自由エネルギーを関係づける式 p = −(∂/∂V )F に F =−β −1 ln Z(β) を代入することで状態方程式

pV = N kB T

(9)が得られる．これらは古典的な扱いが正当化される高温低密度の状況で実験的に観測される気体の振る舞いをよく記述する．こうした結果を通じて統計力学が有用な理論であることが確かめら
れる．

2.1.3

例２）強磁性体のイジング模型

理想気体は統計力学が “うまくいく”ことを簡単に示すよい教材である．ただし，ここまで簡単に事が進む例は他にほとんどない．計算が途中で手に負えなくなり，先に進めなくなるからである．強磁性体のイジング模型（Ising model）はそうした “計算できない”例の典型である．
強磁性体（＝磁石）の振る舞いを数理的に考察するために導入されたこの模型では，与えられた格子上の格子点 i に磁性の根源であるスピンを意味する２値変数 Si ∈ {+1, −1} を定義する．強磁性体では隣接するスピン変数は相互作用の結果，互いに同じ値を取ろうとする傾向があると考えられる．この性質を簡潔に表現したハミルトニアンとしてH(S) = −J∑(ij)

Si Sj − h

N
∑

Si

(10)

i=1

を仮定する．ここで，J > 0 は相互作用の強さ，h は外部磁場，(ij) は隣接する格子点の対をそれ
ぞれあらわすものとする．J > 0 と仮定したことで，カノニカル分布 (1) では隣接するスピン対が同符号になる方が確率が大きくなる．その結果，強磁性体の性質（隣接スピン対が同符号になりたがる，という性質）が簡潔に反映されている．
強磁性体では，ある臨界的な温度 Tc を境に磁化の強さ（＝磁石の強度）M の振る舞いが外部磁
場 h をゼロとした極限で{> 0 T < Tc
lim M
(11)
h→0
= 0 T > Tcのように定性的に変化する相転移（phase transtion）が生じることが知られている．一般に相転移は自由エネルギーの解析性が破れる現象として特徴づけられる．外場ゼロの強磁性転移では
自由エネルギーの温度に関する２階微分と対応する比熱に不連続性が生じることが実験的に知られている．
大胆な単純化を導入しているイジング模型は相転移を記述できるだろうか？分配関数と内部エネルギーを結びつける関係式 (3) はモデルやハミルトニアンの詳細には依存しない．イジング模型に対しても分配関数さえ評価できれば理想気体に関する (7)，(8) と同様の計算によって比熱が求まり，したがって，相転移の有無を吟味することができる．
ところが，この分配関数の計算が難しい．その理由はスピン間相互作用をあらわす (10) の右辺
第１項の存在にある．これにより，理想気体の場合とは異なり，TrS を評価する際には各スピン
添字ごとに独立に和を計算し，その結果をあとでまとめるという評価ができなくなる．もちろん，並進対称性や相互作用，外場の一様性などを利用して部分的な和を “手で”評価し，計算の効率化をはかることは可能かもしれない．実際，１次元格子（鎖）や h = 0，N → ∞ の２次元格子では広い意味でこの方針が成功し，厳密解が得られる [3, 4]．けれども，これらは “例外”なのであり，外場のある２次元格子，現実との対応の観点からもっとも興味深い３次元格子についての厳密解は未だ得られていない．
分配関数を評価するためには，要素数 N について指数関数的に増える全状態数と同程度の項数に関する和を愚直に計算する以外に一般的な方法は知られていない．そのため，物理学の研究とはいえ，統計力学の研究の実際では，こうした爆発する計算量への対処法の開発が非常に大きなウエートを占めている．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

2.2

確率推論とは次に確率推論について述べる．

2.2.1

例３）情報通信

通信路を介して N ビットの信号 x ∈ {0, 1}N を送信する状況を考える．通信路では何らかのプロセスが作用し，受信側では x とは異なる信号 y が受信されるとする．y は離散ベクトルでも連続ベクトルでもよく，また，一般に x とは異なる次元を持つ．送信信号 x は事前分布 P (x) にしたがって生成され，また，x が送信されたとき条件付き確率 P (y|x) にしたがって受信信号 y が受信されるとする．
P (x)，P (y|x) の関数形は受信側で既知であるとしよう．情報通信では y を受信した際に送信した信号 x が何であったかを推定（復号）することが必要になる．どのような復号を行えばよいのだろうか？意外なことに，P (x)，P (y|x) の具体的関数形を与えないままでも，この問題の答えは形式的に求まる [5]．

[最適な復号法] y を得た際の復号結果を一般的に x̂(y) = (x̂i (y)) と記す．復号結果の良し悪しをビット誤り率
1 ∑Pr(x̂i (y) 6= xi )N
N

BER(x̂(·)) =

(12)

i=1

によって評価することにする．このとき，以下が成立する．
(
)
N
1 ∑
Tr
min {Pi (xi |y)}P (y)BER(x̂(·)) ≥yNxi ∈{0,1}

(13)

i=1

ただし，ベイズの公式から

P (y) = Tr P (y|x)P (x)(14)

P (y|x)P (x)
P (y)

(15)

x

P (x|y) =であり，Pi (xi |y) = Trx\xi P (x|y) は事後分布 P (x|y) を xi を残したまま他の成分 xj6=iについて周辺化した（和を取った）周辺事後分布（marginal posterior distribution）
をあらわしている．また，本稿では以降一般に A\a はベクトルや集合をあらわす A か
ら成分や要素をあらわす a を除外する操作を意味するものとする．等号はx̂opt
i (y) = argmax {Pi (xi |y)}(16)xi ∈{0,1}の場合に成立する．ただし，argmaxx {f (x)} は一般に関数 f (x) を最大にする x の値をあらわすとする．このことは，(16) がビット誤り率を最小にする意味で，すべての復号法の中で最良の方法であることを意味している．
以下に証明を与える．

[証明] x を送信し，y が受信される同時確率がベイズの公式をもちいることで P (x, y) =P (y|x)P (x) = P (x|y)P (y) のように表現できることに着目する．x に対して，復号∑
結果 x̂(y) が含む誤りビット数は N
i=1 δ(x̂i (y) 6= xi ) で与えられる．ただし，δ(· · · ) は· · · が真の場合 1，偽の場合 0 となるインジケータ関数であるとする．ビット誤り率はこれを同時確率 P (x, y) = P (x|y)P (y) で平均し，総ビット数 N で割ったものである．
よって，
1 ∑Pr(x̂i (y) 6= xi )N
N

BER(x̂(·)) =i=1

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

∑
1
Tr Tr
δ(x̂i (y) 6= xi )P (x|y)P (y)
N y x
N

=

i=1

=

1
Tr
N y

= 1−

N
∑
∑

1
N

1
≥ 1−
N
=

1
N

(1 − δ(x̂i (y) = xi ))Pi (xi |y)P (y)i=1 xi ∈{0,1}
N
∑

N
∑
i=1

Tr Pi (x̂i (y)|y)P (y)

i=1
N
∑
i=1

y

(
Tr

(

Tr
y

y

)
max {Pi (xi |y)}P (y)xi ∈{0,1})
min {Pi (xi |y)}P (y)xi ∈{0,1}(17)がなりたつ．不等号は各 y に対し，一般にPi (x̂i (y)|y) ≤ max {Pi (xi |y)}xi ∈{0,1}(18)がなりたつことにもとづいている．復号法が (16) の場合にはあきらかに等号が成立する．よって，(16) はビット誤り率を最小にする復号法であり，(13) の右辺はこの通信路に対して原理的に達成可能なビット誤り率の最小値をあらわしている．

2.2.2

確率推論

知っている事柄にもとづいて未知の事柄を知ろうとする営みは一般に「推論」とよばれる．過去のデータにもとづいて今後の天気を予測する天気予報，検査結果や症状にもとづいて病気の原因を探る医療診断，購買履歴にもとづいて次に買いたそうな商品を薦めるリコメンデーション，これらはすべて推論である．数学の証明のように仮定から結論を曖昧さなく導く決定的な推論もあるが，実社会の多くの状況では不確実な環境の下で推論を行わなければならない．
先に示した情報通信の問題はこうした不確実環境下における推論の雛形になっている．この例
では，環境の不確実性を P (y|x)，P (x) といった確率形式で表現した確率モデル（probabilistic
model）にもとづいて最適な推論の方法を導くことができた．ところで，情報通信の文脈で説明したが，最適性の証明では具体的な通信の方式やノイズの発生原因などの詳細は何も使っていな
かったことを思い出そう．そのため，最適化すべき目的関数は問題ごとに変わるものの，y を過去の天気／検査結果・症状／購買履歴，x を今後の天気／病気の原因／次に買いたい商品，に変え，それぞれの場合に適当な確率モデルを導入すれば，天気予報／医療診断／リコメンデーションに最適な推論方法をまったく同様の方針で導くことができる．こうした，確率モデルにもとづいた推論方法を，以下，一般に確率推論（probabilistic inference）とよぶ．

2.3

統計力学と確率推論：類似点と相違点

情報通信の例が示すように確率推論を行うためには，事後分布 P (x|y) について周辺化や最適化を行うことが必要になる．x ∈ {0, 1}N である場合，これに必要な計算量は特別な場合を除き，一般に N について指数関数的に増大する．これは強磁性体のイジング模型の分配関数評価と同様の計算量的困難を生み出す．そのため，確率推論の研究でもこうした計算爆発への対処法が大きなウエートを占めている．
統計力学と確率推論の間には相違点もある．統計力学で通常扱われる問題のカノニカル分布は高次元の確率モデルである．しかしながら，物質の多様性を反映してさまざまなモデルが考えられるものの，それらの多くは格子状のグラフの隣接頂点に定義された変数対の同一関数で記述される２体相互作用（＝確率変数間の依存関係）を想定している．こうした視点に立つと統計力学であらわれる問題は一般の確率モデルからすると特殊なクラスに属していると考えざるを得ない．
より象徴的には，統計力学がカノニカル分布という「分布」に関する問題であるのに対し，確率推論は事後分布という「条件付き分布」に対する問題である，ということもできる．条件付き分
布は観測値 y の実現値ごとに x に異なる分布を与える．そのため，具体的な推論アルゴリズムを

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

開発する際にも，単一の分布に対する有効性ではなく，観測値 y のさまざまな可能性に対する有効性を考慮しなければならない．
計算量的困難という類似した問題を抱えつつも近年になるまで２つの分野間に活発な交流が生まれなかった主な原因の一つは，分野間で主に考察している問題に関するこうした構造的相違点にある，と考えられる．

2.4

不規則系の統計力学

統計力学と確率推論との距離は不規則系の統計力学の登場によって縮まることになる．

2.4.1

例４）スピングラス模型

非磁性の金属（金，銀，銅など）に，磁性体（鉄，マンガンなど）を低濃度（0.1 ∼ 10%程度）
で混ぜ高温から低温に急冷（クエンチ）する．こうして低濃度で混ぜられた磁性体は磁性不純物とよばれるが，クエンチされた結果，磁性を担うスピン間相互作用には強磁性と反強磁性の相互作用が実効的に入り交じったランダム性が生じることになる．スピングラス模型とは，こうした状況を簡潔に記述するために導入された数理模型であり，たとえば，イジングスピン S ∈ {+1, −1}Nに対してハミルトニアン

H(S|J ) = −∑Jij Si Sj − h

(ij)

N
∑

Si

(19)

i=1

を仮定することで定義する．(19) は強磁性体のハミルトニアン (10) とほぼ同じ形をしているが，ランダム性を反映して，スピン間相互作用係数 Jij が相互作用対 (ij) ごとにある確率分布 P (Jij ) から選んだサンプル値として定義されているところに特徴がある．このようにハミルトニアンを定める
パラメータが乱数で与えられるシステムに関する統計力学は特に不規則系の統計力学（statisticalmechanics of disordered systems）とよばれている．
()
P (Jij ) としてはガウス分布 (2π J¯2 )−1/2 exp −(Jij − J0 )2 /(2J¯2 ) やベルヌーイ分布 pδ(Jij −1)+
(1 − p)δ(Jij + 1) (0 < p < 1) など正負両方の値を取り得る分布を仮定することが多い．スピング
ラスの最も際立った特徴は正負の相互作用係数がランダムに選ばれた結果，複数の相互作用対間で安定なスピン配位が矛盾するフラストレーション（frustration）が生じる点にある．１９７０
年代の提案以降，多くの理論研究者がシンプルでありながら質的に新しい物性を記述するスピングラス模型の解析に取り組んできた．

2.4.2

不規則系の統計力学に求められること

ハミルトニアン (19) の詳細は J = (Jij ) の実現値ごとに異なる．そのため，不規則系のカノニ
カル分布はパラメータ J で条件付けされた条件付き分布

P (S|J ) =1
exp (−βH(S|J ))Z(J , β)(20)となる．ただし，Z(J , β) = TrS exp (−βH(S|J )) は J に対して定まる分配関数である．このこと
はスピンの熱平均値 hSi i = TrS Si P (S|J ) は J に依存した確率変数になることを意味する．ただし，h· · · i はカノニカル分布に関する平均をあらわすものとする．こうした相互作用係数のランダ
ム性に依存して揺らぐ熱平均の統計的な性質を解明する，具体的には，熱平均に関するモーメント()mm[hSi i ] = Tr Tr Si P (S|J )P (J )(21)J

S(i = 1, 2, . . . , N ; m = 1, 2, . . .) を評価することが不規則系の統計力学の目標となる．ただし，熱平均と区別するため配位平均とよばれる J に関する平均を [· · · ] とあらわした．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

2.4.3

不規則系の統計力学における代表的な解析法

J の１つのサンプルについて S に関する平均を計算するのでさえ困難であるのに，その結果をさらに J について平均しなければならない不規則系の統計力学は通常の統計力学と比較して格段に難しい．そのため，不規則系の統計力学の理論は平均評価が例外的に容易になる無限レンジ模型（inﬁnite range model）や解析的評価が例外的に可能になる条件を中心に発展してきた．その結果得られた代表的な解析法の要点を以下に記す [2, 6, 7]．
• レプリカ法（replica method）： (21) を形式的に()mm[hSi i ] = lim Tr Tr Si P (S|J )Z n (J , β)P (J )
n→0 J

S

(22)

と書き換える．P (S|J ) = exp(−βH(S|J ))/Z(J , β) であること，また，Z(J , β) = TrS
exp(−βH(S|J )) であることをもちいると n ≥ m = 1, 2, . . . ∈ N について()m
Tr Tr Si P (S|J )Z n (J , β)P (J )
J
S
(
)
n
∑
= Tr
Tr
Si1 Si2 . . . Sim exp −β
H(S a |J ) P (J )(23)
J S 1 ,S 2 ,...,S na=1という表現が得られる．S 1 , S 2 , . . . , S n は同じ J を共有する元のシステムの複製と解釈できるのでレプリカ（repilica）とよばれる．ここで P (J ) が相互作用対ごとに独立な分布である場合には J に関する平均は比較的容易に評価することができる．その結果にもとづいて
(
(
)
)
n
∑
1
H̃(S 1 , S 2 , . . . , S n ) = − ln Tr exp −β
H(S a |J ) P (J )
(24)
J
β
a=1

を定義すると，これは n 個のレプリカ系全体に対するランダム性を含まない有効ハミルトニ
アンであると解釈できる．この有効ハミルトニアンが無限レンジ模型を意味している場合には (23) を n の関数として厳密に評価することができる．その結果の数学的正当性は n ∈ N
に対してしか保証されないが，得られた表現が実数 n ∈ R についても成立すると仮定して(22) の右辺にもちいる．無限レンジ模型でない場合も，平均場近似により (23) を近似的に評価することで同様に対処できる．こうした一連の評価法はレプリカ法とよばれる．

• キャビティ法（cavity method）： J の１つのサンプルが与えられたとする．通常の統計力学の無限レンジ模型では，後に説明する分子場近似が N → ∞ で正しい結果を導く．ただし，不規則系の場合には，たとえ無限レンジ模型であるとしても P (J ) で特徴づけられる Jの統計的性質に合わせた平均場近似を行う必要がある．広く考察されているある模型のクラスでは，変数間の依存関係が局所的にツリー（ループがない）であると近似する平均場近似の方法が正しい結果を導く．こうした近似法は変数間の依存関係をグラフで表現した際，変数や相互作用をあらわすノードを取り除き／加えながら自己無撞着な関係式を構成するアルゴリズムに帰着される．ノードの除去がグラフに “穴（キャビティ：cavity）”をあけることに対応するのでしばしばキャビティ法とよばれる．
• ゲージ理論（gauge theory）：ゲージ対称性のあるモデルでは，ゲージ変数を導入し状態和を取る自由度を増やすことにより，相互作用パラメータの生成分布 P (J ) によって定まる
特別な温度（西森温度（Nishimori temperature））に対して，分配関数を評価することなしに内部エネルギーや比熱の上限が任意の次元で厳密に求まる場合がある．また，その結果，相図に関していくつかの重要な知見を得ることができる．レプリカ法やキャビティ法は実質的に無限レンジ模型でしか正確な結果を得ることができない．そのため，ゲージ理論によるこうした分析は有限次元模型を解析する際の数少ない有力な手段となっている．

2.5

不規則系の統計力学と確率推論：構造的類似性

磁性不純物の混ざった非磁性金属の物性を解明するために提案された物理の模型であるスピングラス模型は，高次元の条件付き分布として表現されている，という点において確率推論の問題と構造的に類似していることに注意しよう．通常の統計力学の計算法は均質性や規則性といった物

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

理モデルの特殊性にもとづいているため，確率推論の問題にそのまま適用することは難しい．ところが，不規則系の統計力学で発展した上述の解析法や考え方なら，構造的類似性にもとづいて確率推論の問題に直接的にもちいることができる．
主に情報科学で検討されてきた確率推論の研究では数学的厳密性や一般性を重視する傾向が強い．物理学をはじめ自然科学の教育を受けた人には意外かもしれないが，例外的に計算が容易になる模型や条件を深く分析し，近似や摂動的な取り扱いをもちいることで適用範囲を広める，といった物理学での常套手段は情報科学においてはまったく常識ではないのである．たとえば，1.2.1
節で示した確率推論の最適性に関し，最適な推論を行った結果 (13) の右辺がどのくらいの値になるのか，といった定量的な評価は一般に難しく，情報科学では適当な不等式による上下界評価以外の系統的な評価法はほとんど知られていない．ところが，情報科学の文脈で眺めてみると，レプリカ法やゲージ理論は，例外的な模型や条件といった特別な状況ではあるが，こうした性能評
価（performance evaluation）の問題に対して直接的かつ系統的な評価法を与えている．また，キャビティ法をはじめとした平均場近似の方法は計算量爆発を実際的に解決する近似的推論アルゴリズム（approximate inference algorithm）と位置づけることができる．これら物理の方法を適用すれば，情報科学の問題に対して新規的な結果を系統的に得ることができるかもしれな
い．このようなモノ（コト？）の見方が，１９９０年代初頭にパーセプトロンとよばれるパター
ン認識の基本モデルの解析に不規則系の統計力学が応用されて [8] 以降徐々に広まっていった．

3

統計力学における平均場近似

計算が困難になる原因は要素間に相互作用が存在するからである．それならば，理想気体のよ
うな相互作用のないシステムで近似してやればよい．このような素朴な発想にもとづいた計算量的困難への近似的解決法は一般に平均場近似（mean ﬁeld approximation）とよばれる．
本節では，確率推論でもちいられる平均場近似の準備として統計力学における平均場近似の方法を強磁性体のイジング模型を例として紹介する．

3.1

分子場近似

最も基本的な平均場近似である分子場近似（molecular ﬁeld approximation）は以下のように構成される [9]．簡単のために外部磁場（外場）のない h = 0 の場合に限定して話を進める．隣接格子点の数が z の正方格子（図 1(a)）を想定し，格子点 i のスピン Si に着目する．Si は i に関する隣接格子点の集合（近傍）∂i に属する格子点 j ∈ ∂i のスピン Sj と相互作用するが，熱平衡状態における Sj からの影響はその熱平均値 hSj i に置き換えて評価してもさほど問題はないだろう（図 1(b)）．また，格子の並進対称性からすべてのスピン Sk (k = 1, 2, . . . , N ) は同じ熱平均値
hSk i = m を持つと考えてよい．これらのことから，熱平衡状態における Si の１体分布は有効ハ
ミルトニアン∑hSj i = −zJmSi(25)
Hieﬀ (Si ) = −JSij∈∂iに対するカノニカル分布で近似できると期待される．(25) は相互作用のないスピンに zJm の外場が印加されている系のハミルトニアンと解釈できる．zJm は相互作用する相手（分子）を代替する外場であるため分子場（molecular ﬁeld）あるいは平均場（mean ﬁeld）とよばれる．これが分子場近似，平均場近似の名前の由来である．
ところで，Si は勝手に着目したスピンなので，その熱平均値は他のスピンと同じはずである．そこで (25) に対するカノニカル分布を使って Si の熱平均値を評価し，それを m と等値すると

hSi i =∑
Si ∈{+1,−1}Si

eβzJmSi= tanh(βzJm) = m
2 cosh(βzJm)という，m に関する自己無撞着方程式が得られる．βc = (zJ)−1 とおくと，この方程式は{> βc → ±m∗ (m∗ > 0) の解を持つβ≤ βc → m = 0 しか解を持たない

(26)

(27)

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

(a)

(b)

(c)
θ
θ

zJm

θ
θ

図 1: (a)：正方格子上の強磁性体のイジングスピン模型．○がイジングスピン Si ∈ {+1, −1} をあらわしている．(b)：分子場近似．１つのスピンに着目し，他のスピンからの影響は分子場 zJm
で代替されると考える．(c)：ベーテ近似．１つのスピンとそれと最隣接しているスピンの組に着目．それら以外のスピンからの影響は最隣接スピンに印加されたキャビティ場 θ で代替されると考える．(b)，(c) ではそれぞれ m，θ を自己無撞着に定める．
という振る舞いを示す．β = βc を境とした熱平均値の定性的変化は強磁性相転移を記述しており，
β > βc における m 6= 0 の解は自発磁化の出現に対応していると解釈される．
上記の１体近似をもちいると，１スピンあたりの内部エネルギー密度 u も分配関数を経由する
ことなしに

u=

1
J ∑
J ∑
zJ
hH(S)i = −hSi Sj i ' −hSi i hSj i = − m2
N
N
N
2
(ij)

(28)

(ij)

と評価することができる．これから１スピンあたりの比熱 c は

c=

∂u
∂u
∂m
= −kB β 2
= kB zJβ 2 m
∂T
∂β
∂β

となる．(26) を代入すると臨界温度 T = Tc = (kB βc )−1 = zJ/kB において{
3kB /2, T → Tc − 0c=0,
T → Tc + 0

(29)

(30)

となることが示される．
相互作用の相手を平均値で置き換える，という大胆な近似を行ったにも関わらず相転移における比熱の不連続性といった定性的な特徴はうまくとらえられている．素朴な発想にもとづいているため，適用範囲も広い．こうした理由から，分子場近似は相互作用下にある多体問題のもっとも基本的な解析法となっている．

3.2

ベーテ近似

分子場近似により，計算量的困難を回避しながら相転移の特徴を定性的に再現することができた．しかしながら，臨界温度 Tc の値など定量的な正確さという観点では改善の余地がある，たとえば，外場のない２次元強磁性イジングスピン模型については厳密解から kB Tc /J ' 2.27 である
ことがわかっている．一方，分子場近似での評価値は kB Tc /J = 4 であり，かなり過大評価されている．加えて，厳密解においては比熱は T = Tc で対数発散するが，分子場近似では不連続である
ものの発散はしないという違いもある．そこで，分子場近似を改良する方法が多数検討されてきた．ベーテ近似（Bethe approximation）はその代表例である [10]．
ベーテ近似の基本的な発想は，着目したスピンに対し，最隣接相互作用は厳密に評価してそれより遠くに位置するスピンの影響は１体分布で近似する，というものである．隣り合うスピンと《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）の相互作用は正しく考慮されているので分子場近似によるものよりも近似の精度は改善されると期待される．分子場近似の場合と同様，外場のない h = 0 の状況を想定しよう．着目する格子点を i としてハミルトニアンを∑∑∑
H(S) = −J
Si Sj = −JSi
Sj − J
Sk Sl
j∈∂i

(ij)

= −JSi∑(kl)|k6=i,l6=i

Sj + H\i (S\Si )

(31)

j∈∂i

のように変形する．ただし，H\i (S\Si ) は H(S) から Si に関係する項をすべて除いた関数，すな
わち，元のシステムから Si を取り除いて得られるシステムのハミルトニアンを表現している．
ベーテ近似では，H\i (S\Si ) が j ∈ ∂i のスピンに与える影響を補助的な外場 θ（＝１体分布のパラメータ）で代替する（図 1(c)）．Si がないシステムを代替する外場なので，θ はしばしばキャ
ビティ（空孔）場（cavity ﬁeld）とよばれる．これは H(S) が i とその近傍の格子点 j ∈ ∂i のス
ピンに関して，有効ハミルトニアン∑∑
H eﬀ (Si , {Sj∈∂i }) = −JSi
Sj − θ
Sj
(32)
j∈∂i

j∈∂i

で近似できることを意味している．
Si と {Sj∈∂i) } の結合分布を (32) に関するカノニカル分布によっ(て P (Si , {Sj∈∂i }) ∝ exp −βH eﬀ (Si , {Sj∈∂i }) と表現する．x ∈ {+1, −1}，∀A ∈ R に対して

eAx
2 cosh(A)1 + x tanh(A)x×2eAx = 2 cosh(A) ×∑x∈{+1,−1}= 2 cosh(A) ×

1 + x tanh(A)2= tanh(A)

(33)
(34)

がなりたつことを使い結合分布 P (Si , {Sj∈∂i }) を周辺化すると，Si の一体分布が∑P (Si ) ={Sj∈∂iP (Si , {Sj∈∂i }) =}∈{+1,−1}z

1 + Si tanh(βz θ̂)
2(35)と評価されることがわかる．ただし，θ̂ =1tanh−1 (tanh(βJ) tanh(βθ))β(36)

とおいた．θ̂ はしばしば有効場（eﬀective ﬁeld）あるいはキャビティバイアス（cavity bias）とよばれる．これより，Si の熱平均値 hSi i = m と θ を結ぶ関係式∑
m=
Si P (Si ) = tanh(βz θ̂)(37)
Si ∈{+1,−1}が得られる．
キャビティ場 θ の決め方をまだ述べていない．これには，θ が H\i (S\Si ) を代替するための外場である，ということをもちいる．元のシステムから Si を取り除き，i の近傍にある格子点 j ∈ ∂iのスピン Sj に着目する．Si が取り除かれているため j の近傍にあるスピン数は z − 1 個になるが，Sj とその近傍にあるスピン {Sk∈∂j\i } の組について，上と同様の議論を繰り返す．ただし，Si が取り除かれたシステムに関する評価なので，Sj の熱平均値は外場 θ のみで定まる熱平均値と一致しなければならない．具体的には (37) において z を z − 1 に置き換えたものと tanh(βθ) が一致しなければならない．このことから θ に関する自己無撞着方程式

θ = (z − 1)θ̂ =1(z − 1) tanh−1 (tanh(βJ) tanh(βθ))β(38)

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）が得られる．実際に計算を行う際には，(38) にもとづいてキャビティ場 θ を求めたのち，スピンの熱平均を (37) から求めるという手順になる．
２次元強磁性体イジング模型に対して，ベーテ近似をもちいると，臨界温度は kB Tc /J ' 2.886 . . .
となり，分子場近似と比較して厳密解の評価値へ大幅に近づいている．最隣接相互作用を正しく評価しただけで，これほど近似精度が改良するのであれば正しく評価する相互作用の範囲を増やせば評価値はさらに改善されると期待される．こうしたアイデアはクラスタ変分法（cluster variation
method）として定式化されている [11, 12]．

3.3

平均場近似が厳密な結果を与える例

平均場近似により得られる評価値は一般に厳密解からずれる．しかしながら，特別な性質を満たす対象では平均場近似の結果が適当な条件の下で厳密解と一致する．こうした特別な例は適切な近似法を選択するための指針として重要である．

3.3.1

分子場近似：強磁性体の無限レンジ模型

正方格子における隣接格子点数 z と空間の次元 d の間には z = 2d の関係がある．つまり，次元数を増やすほど相互作用する隣接スピンの数は増加する．この極限として各スピンが他のすべての N − 1 個のスピンと相互作用するモデルは無限レンジ（次元）模型（inﬁnite range model）とよばれる．強磁性体の無限レンジ模型のハミルトニアンは∑J ∑Si Sj − hSiNN

H(S) = −

i>j

(39)

i=1

で与えられる．相互作用係数が N −1 倍されているのは，相互作用によって生じる典型的なエネル
ギーの値を有限次元の模型と同様に O(N ) とするためである．
∑
強磁性体の無限レンジ模型では分子場近似が厳密解を与える．m = N −1 i=1 Si とすると (39) が(H(S) = −N1
Jm2+ hm +
2
N

)

(
= −N

)
Jm2
+ hm + O(1)2(40)

と表現できることに着目する．一方，スターリングの公式 ln N ! ' N ln N − N をもちいると与えられた m ∈ [−1, 1] の値に対応する状態 S の数は

N!
(N (1 +( m)/2)!
( (N (1 − m)/2)!
(
)
(
))
)
1+m
1+m
1−m
1−m
ln
+
ln
+ O(1)= exp −N2222と評価される．これらを組み合わせると，分配関数について∫ +1
Z(β) = Tr exp(−βH(S)) =dm exp (−N βφ(m; β) + O(1))
S

(41)

(42)

−1

という表現が得られる．ただしφ(m; β) = −1
Jm2− hm +
2
β

(

1+m
ln
2

(

1+m
2

)
+

1−m
ln
2

(

1−m
2

))
(43)

とした．
(42) は N → ∞ では，１自由度あたりの自由エネルギーが

f =−1
ln Z(β) = min {φ(m; β)}Nβm∈[−1,+1](44)

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

(a)

(b)

図 2: (a)：z = k + 1 = 3 のケーリーツリー．(b)：十分大きなケーリーツリー（斜線の部分）の中
心付近（白い部分）がベーテ格子．
によって厳密に評価できることを意味している．極値条件 ∂φ(m; β)/∂m = 0 から

m = tanh (β(Jm + h))(45)が得られる3 ．一方，外場のある無限レンジ模型に対する分子場近似の自己無撞着方程式は))( ((N − 1)Jm+h(46)
m = tanh βNであり，N → ∞ の極限で (45) に帰着する．(45) は厳密解を与える方程式なので，このことは強磁性体の無限レンジ模型については，N → ∞ で分子場近似が厳密な結果を導くことを意味して
いる．

3.3.2

ベーテ近似 (1)：ベーテ格子

中心点から z = k + 1 本の辺を伸ばし，それぞれの辺の空いている方の端点のそれぞれからさらに k 本の辺を伸ばすことを適当な回数繰り返す．このようにして出来たツリー状のグラフは一般にケーリーツリー（Cayley tree）とよばれる（図 2(a)）．また，十分大きなケーリーツリーの中
心付近は特にベーテ格子（Bethe lattice）とよばれる（図 2(b)）．ケーリーツリーの上で強磁性体のイジング模型を定義する．ベーテ格子に対し，ベーテ近似はこの模型の厳密解を与える．
ケーリーツリーが中心点から G 回辺を伸ばすことで作られているとし，中心点からツリーの外に向けて頂点を同心円状に第 0 世代，第 1 世代，…，第 G 世代と分類する．任意の世代 g の頂点を１つ選びそこから G 世代まで世代を増やしてできる部分木に限定したスピン系を考える．対称性から，この系の分配関数は世代 g のみに依存し選んだ頂点の位置の詳細には依存しない．よって，これを Zg と記す．また，選んだ頂点のスピンを残し残りのスピンについて周辺化することで得られる１体分布は，適当な有効外場 θg をもちいて必ず P (S) = exp(βθg S)/(2 cosh (βθg )) と表
現できることに注意する．
g−1 世代の，ある頂点を 0，そこから伸びている k 本の辺の端点にあたる g 世代の頂点を 1, 2, . . . , kと記す．S0 と S1 , . . . , Sk との間の相互作用を考察することで，g ≥ 2 に対し，Zg と Zg−1 および
θg と θg−1 に関する以下の漸化式が得られる．
 
 
k
k
∏
∑
∑
exp(βθg Sj )
k




Zg−1 = Zg ×
exp β h + J
Sj S0
2 cosh (βθg )S0 ,S1 ,S2 ,...,Sk

j=1

j=1

P
(45) の解は必ずしも，スピンの熱平均値 N −1 N
i=1 hSi i（並進対称性から各格子点上のスピンの熱平均値と一致）
Pを意味しない．h ∼ O(1) の場合，φ(m; β) を最小にする m の値は１つであり，その値は N −1 N
i=1 hSi i と一致する．
−1
∗
∗
3

一方，h → 0 の場合，強磁性相を意味する
β > J では m = ±m (m > 0) という２つの解が φ(m; β) を最小にすP∗∗る．この場合，N −1 N
i=1 hSi i は h → 0 の近づけ方の詳細に応じて区間 [−m , +m ] に含まれる任意の値を取り得る．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）= (2 cosh(βJ))k Zgk()∑
1 + S0 tanh(βJ) tanh(βθg ) k
×
exp (βhS0 )2
S0 ∈{+1,−1})k(
2 cosh(βJ)Zg
× 2 cosh(β(h + k θ̂g ))=2 cosh(β θ̂g )θg−1 = h + k θ̂g

(47)
(48)

ただし，

θ̂g =

1
tanh−1 (tanh(βJ) tanh(βθg ))
β

(49)

とした．
一方，中心点のスピンに対する評価となる g = 1 については k → k + 1 とした
 
 
k+1
k+1
∑
∑
∏ exp(βθ1 Sj )Z0 = Z1k+1 ×
exp β h + J
Sj  S0 
2 cosh (βθ1 )

=

×
(
=

j=1

S0 ,S1 ,S2 ,...,Sk+1(2 cosh(βJ))k+1 Z1k+1∑(

exp (βhS0 )S0 ∈{+1,−1}

2 cosh(βJ)Z12 cosh(β θ̂1 )j=1

1 + S0 tanh(βJ) tanh(βθ1 )
2

)k+1

)k+1
× 2 cosh(β(h + (k + 1)θ̂1 ))θ0 = h + (k + 1)θ̂1

(50)
(51)

という漸化式になる．Z0 は全系（ケーリーツリー上で定義されたスピン系）の分配関数，tanh(βθ0 )は中心点におけるスピンの熱平均値を意味している．
十分大きな G に対し，ケーリーツリーの境界（G 世代目のスピン）から漸化式 (47)，(48)，(49)を更新しながら中心点まで世代を遡る．このとき，中心付近，すなわち，ベーテ格子に対応する部分では漸化式が十分沢山更新されている．よって，θg ，θ̂g は固定点の値に収束していると考えられる．それは非線形連立方程式

θ̂ =1
tanh−1 (tanh(βJ) tanh(βθ))βθ = h + k θ̂

(52)
(53)

の解である．また，中心点のスピン Sc の熱平均値はこの解にもとづいて

hSc i = tanh(β(h + (k + 1)θ̂))(54)と評価される．z = k + 1 を代入すると，(52)，(53) は外場のない系に対するベーテ近似の自己無撞着方程式 (38)，(54) は有効場から磁化を求める式 (37) に他ならない．上述の漸化式による評価
はケーリーツリー全体で厳密になりたっている4 ．このことはベーテ格子ではベーテ近似が厳密な結果を導くことを意味している．

4

ケーリーツリーでは，境界にあるスピン数がバルクにあるスピン数よりも圧倒的に多いことに注意．そのため，漸化式にもとづく解析は厳密解を与えるが，それは境界条件と世代に強く依存する．通常の物質で観察される一様な性質
はベーテ格子に対応する中心付近でしか得られない．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

3.3.3

ベーテ近似 (2)：スパースランダムグラフ

ベーテ格子上の強磁性体のイジング模型に対して，ベーテ近似が厳密な結果を与えることを示した．ただし，十分大きなケーリーツリーの中心付近といった複雑な定義であるベーテ格子には，ベーテ近似を厳密に成立させるために人工的に考案されたモデルシステムであるといった印象が否めない．ところが，各頂点に対し z(∼ O(1)) 個の近傍点をランダムに定めてできる無限に大きなスパースランダムグラフとベーテ格子との等価性が，近年，徐々に認識されるようになった．ス
パースランダムグラフは，複雑ネットワーク，情報通信，理論計算機科学などの問題などで広くあらわれる “自然な”数理モデルである．このことから，現在，ベーテ近似は有限次元の格子系に対する近似手法としての位置づけに加えて，こうした非物理系の数理モデルの厳密な解析手法として利用される機会も増えている [13, 14]．
スパースランダムグラフとベーテ格子との等価性はグラフ内に存在する循環経路（ループ）の長さを見積もるとわかりやすい．グラフ内の各頂点から出発し，辺を伝いながら頂点を経由し移動していく．逆戻りは許さず，また，同じ辺は２度と通らないとしたとき，何ステップで出発した頂点に戻ることができるかでループの長さを特徴づける．ツリーはすべての頂点に対してループ長が無限大のグラフである．d ≥ 2 次元以上の正方格子であれば次元によらずすべての頂点に対してループ長は 4 である．一方，z ∼ O(1) である限り，ランダムに構成されたグラフではループ長は典型的な頂点に対して O(ln N ) 程度となり N → ∞ で発散する．つまり，十分大きなスパース
ランダムグラフの局所的な構造はツリーに漸近する．
このことは，着目した頂点から順に z ∼ O(1) 個の近傍点をランダムに選んでいくと，適当な世
代 L までは，それまでに選ばれた頂点が再度選ばれる確率が N → ∞ でゼロに漸近する，という性質にもとづいている．ただし，L 世代までに含まれる頂点の数が N と同程度になると，それまでに選ばれた頂点が再度近傍に登場するようになり，ループが形成される．このときの L が典型的なループ長を特徴づける．臨界条件を見積もると

1 + z + z(z − 1) + z(z − 1)2 + . . . + z(z − 1)L−1
z(z − 1)L − z
∼N
=1+
z−2

(55)

となり，したがってL∼

ln N→ ∞ (N → ∞)ln(z − 1)(56)が結論づけられる．

4

確率推論のための平均場近似

強磁性体のイジング模型を例として，統計力学における計算量的困難の問題が平均場近似によりどのように解決されるか，について述べてきた．しかしながら，相互作用係数や外部磁場が格子上で一様である強磁性体のモデルは確率モデルとしては特殊すぎるため，それに特化して表現された平均場近似はそのままでは一般のシステムには使えない．本節では，分子場近似，ベーテ
近似にもとづいて一般の確率推論に使いやすい平均場近似の表現を求める．

4.1

ナイーブ平均場近似

頂点の集合 V と辺の集合 E で特徴づけられる一般的なグラフ G = (V, E) 上で定義されたイジングスピン系を考える．ハミルトニアンは∑∑H(S) = −Jij Si Sj −h i Si(57)(ij)∈Ei∈Vで定義されるとする．強磁性体のモデルとは異なり，Jij ，hi は辺 (ij) および頂点 i に依存して異なる値を取るとする．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

この模型に対して，分子場近似の発想を適用しよう．分子場近似は着目した頂点 i の近傍 ∂i のスピンをすべて熱平均値に置き換えることで Si に関する有効ハミルトニアンを構成し，Si の熱平
均の評価を１体問題に帰着させることにもとづいていた．これを適用し




∑
∑
Hieﬀ (Si ) = −Si hi +Jij hSj i = −Si hi +Jij mj 
(58)
j∈∂i

j∈∂i

によって Si に関する有効ハミルトニアンを定義する．(57) には並進対称性がないため，スピンの熱平均値は頂点ごとに異なる．そのため，頂点に関する依存性を持たせ hSj i = mj とおいた．
∑(58) から Si に関する１体分布は P (Si ) = exp(−βHieﬀ (Si ))/( Si ∈{+1,−1} exp(−βHieﬀ (Si ))) と定義される．これをもちいて，Si の熱平均値 hSi i = mi を評価すると
 Pβ(hi + j∈∂i Jij mj )Si
∑
∑
e
∑
mi =
Si
= tanh β hi +Jij mj (59)
2 cosh β(hi + j∈∂i Jij mj )Si ∈{+1,−1}j∈∂iが i = 1, 2, . . . , N のそれぞれに対して得られる．
強磁性体モデルの場合と異なり，(59) は１変数で閉じた方程式ではない．しかしながら，N 個の未知変数 m1 , m2 , . . . , mN を決定するのに十分な N 個の条件式を与えている．この連立非線形方程式を解析的に解くことは一般に難しいが反復代入法などにより数値解を求めることは今日の標準的な計算機をもちいれば容易である．１度の反復に必要な計算量は１スピンあたり近傍サイズ程度である．収束までに十分な回数反復することが必要であるが，それを考慮しても熱平均値を厳密に評価するために必要な計算量 O(2N ) と比較すると圧倒的に少ない計算コストで実行することができる．分子場近似を一般化したこのような近似計算法はしばしばナイーブ平均場近似（naive
mean ﬁeld approximation）とよばれる．

4.1.1

例５）画像ノイズ除去

ナイーブ平均場近似の応用例として確率推論にもとづいたデジタル画像のノイズ除去を紹介しよう [15]．デジタルカメラなどで画像を撮影した場合には，手ぶれや熱雑音などによって画像が劣化することがある．画像ノイズ除去とはそうしたノイズの影響を何らかの指針にしたがって除去する問題である．
デジタル画像は２次元正方格子の各格子点にピクセル値とよばれる画像情報をあらわす数値を割り当てることで構成されている．数値の表現にはいくつかの方法があるが，白黒画像の場合にはイジングスピンのように２値のピクセル値 xi ∈ {+1, −1} をもちいてあらわすこともできる．さて，自然画像では隣り合うピクセル値は同じ値を取る傾向がある．この傾向は強磁性体のイジン
グスピン模型と同じである．そこで自然画像の生成に対応する確率モデルとして事前分布( ∑)exp β (ij) xi xj
P (x) =
(60)
Z
( ∑
)
(β > 0) を仮定しよう．ただし，Z = Trx exp β (ij) xi xj であり，(ij) は２次元正方格子の最隣接格子対をあらわすものとする．
劣化過程にはさまざまなタイプのものが考えられるが，ここでは，本来のピクセル値が格子点の位置によらず同一の確率 p(< 1) で反転する２元対称通信路を考えることにする．α = (1/2) ln((1 −p)/p) とすると原画像 x に対して，劣化画像 y が得られる確率は条件付き確率

P (y|x) =N∏
exp (αyi xi )
i=1

(61)

2 cosh(α)

で与えられる．(60)，(61) より，劣化画像 y を観測した際の x の事後分布は，ベイズの公式から


N
∑
∑
P (y|x)P (x)∝ exp βxi xj + αy i xi (62)
P (x|y) =
P (y)
(ij)

i=1

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

(a)

(b)

(c)

(d)

0.25

BER

0.2
0.15
0.1
0.05
0
0

5

10

15
t

20

25

30

図 3: ナイーブ平均場近似をもちいた画像ノイズ除去．２次元強磁性体イジング模型において強磁性相転移が生じる臨界逆温度に対応させて β ' 1/2.27 とした．また，反転確率 p は既知であるとし α = (1/2) ln((1 − p)/p) とした．(a)：原画像．(b)：20%の画素値が反転した劣化画像．(c)：復元された画像．(d)：(63) を反復代入した回数と復元画像の現画像に対するビット誤り率との関係．
となる．
2.2.1 節と同様の考察により，上記の確率モデルが正しいとした仮定の下では各格子点において(62) の周辺分布を最大にするようにピクセル値を与える方法がビット誤り率を最小にする意味で最適である．イジングスピン表現 xi ∈ {+1, −1} をもちいた場合，これは各スピンの事後分布による平均値の符号を推定結果とする方法とみなすことができる．ナイーブ平均場近似をもちいると事後分布による平均値は平均場方程式
∑
mi = tanh αyi + β
mj 
(63)
j∈∂i

から近似的に求めることができる．この方程式の解にもとづいて x̂i = sign(mi ) = mi /|mi | により，ノイズ除去後の画像が得られる（図 3）．
ここに述べた方法を実行するためには，事前分布と条件付き確率の詳細を定めるハイパーパラ
メータ α，β を与える必要がある．現実的な状況では，α ∑や β はあらかじめわかっていない場合が多い．そのような場合には，劣化画像 y の尤度 P (y) = x P (y|x)P (x) を最大化するように α，β を推定する方法が考えられる [16]．ただし，尤度の評価も計算量的に困難であるため，その解決のためにも適宜ナイーブ平均場近似がもちいられる．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

ψa(.)
xi
図 4: P (x) = (1/Z)ψ1 (x1 )ψ2 (x2 )ψ3 (x3 ) (x1 = (x1 , x2 , x4 ), x2 = (x2 , x4 ), x3 = (x3 , x5 ))に 関 す る ファク タ ー グ ラ フ．○ ノ ー ド は 左 か ら 順 に x1 , x2 , . . . , x5 ，□ ノ ー ド は 左 か ら 順 に
ψ1 (x1 ), ψ2 (x2 ), ψ3 (x3 ) をあらわしている．

4.2

キャビティ法

ここまでは，変数間に依存関係がある場合として２体相互作用を含むハミルトニアンで表現されるモデルを考えてきた．しかしながら，一般の確率モデルでは，相互作用が３つ以上の変数を含む関数で表現される場合やそもそも確率モデルがハミルトニアンの形式で表現されていない場
合も多い．キャビティ法（cavity method）はそういった一般的な確率モデルに対してベーテ近似を拡張した方法であると位置づけられる [6, 7]．

4.2.1

ファクターグラフ

N 次元の確率変数 x = (xi ) に関する結合分布がP (x) =1 ∏
ψa (xa )Z a(64)のように表現されている状況を想定する5 ．ψa (xa )(≥ 0) はポテンシャル関数とよばれ x に含まれる一部の成分の組 xa の関数である．たとえば，強磁性体のイジング模型の場合，隣接格子点対(ij) が a，exp(βJSi Sj ) がポテンシャル関数，(Si , Sj ) が xa にそれぞれ対応する．Z は分配関数に対応する．
xi が関係しているポテンシャル関数に関する添字の集合を ∂i，xa に含まれる成分の添字の集合
を ∂a とあらわす．確率変数の各成分を○，各ポテンシャル関数を□といった２種類のノードで表現し，すべての a に対し，対応する□ノードと ∂a に含まれる添字に対応するすべての○ノードを辺でつなぐ．すると，結合分布 (64) の変数間の依存関係はファクターグラフ（factor graph）とよばれる向きのない２部グラフで表現される（図 4）．
変数間の依存関係をグラフ的に表現する方法には，これ以外にも (64) を条件付き確率の積で表現しなおし向き付きグラフで表現する方法や１種類のノードのみで表現する方法などいくつかの種類がある．それらはしばしばグラフィカルモデル（graphical model）と総称される．ファク
ターグラフによる表現では確率変数に対応する○ノードが２つの互いに交わりのない異なる部分グラフに含まれる =⇒ ２つの確率変数は統計的に独立であるという命題が一般になりたつ．理想気体と強磁性イジング模型との比較が示すように，確率変数の統計的独立性は確率推論における計算コストに大きく影響する．このことは確率モデルのグラ
フ表現が確率推論で必要となる計算コストと密接に関係していることを意味している．

5

変数が１つだけ含まれているポテンシャル関数を特別視する表現もある．そうした表現はクラスタ変分法など，より進んだ近似法へ拡張する場合に都合がよい．ただし，本稿のレベルでは特に利点がないので，ここでは表現の簡潔性を優先しすべてのポテンシャル関数を同等に扱う．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

4.2.2

周辺分布とキャビティ分布との間になりたつ関係式

2.2.1 節に示したように確率推論では結合分布 (64) からの周辺分布 Pi (xi ) = Trx\xi P (x) の評価を求められることが多い．これに関連して，以下の等式が任意のシステムに対して厳密に成立することに着目する．
∏
a∈∂i ψa (xa ) \xi∏
Pi (xi ) =
(65)
Trxi
a∈∂i ψa (xa ) \xi

ただし，h· · · i\xi は xi に直接関係しないすべてのポテンシャル関数によって定義される xi を除いた確率変数の組 x\xi に対する結合分布（しばしばキャビティ分布（cavity distribution）とよ
ばれる）
∏
b∈∂i
/ ψb (xb )∏P\i (x\xi ) =(66)
Trx\xi b∈∂i/ ψb (xb )に関する平均をあらわしている．(65) は，xi に直接関わるすべてのポテンシャル関数の積をキャ∏
ビティ分布で平均して得られる有効ポテンシャル関数 ψieﬀ (xi ) =a∈∂i ψa (xa ) \x を規格化したものが xi の周辺分布に一致する，ということを意味している．

i[証明] ポテンシャル関数の積を xi を含むものと含まないものに分けて∏∏
a∈∂i ψa (xa )b∈∂i/ ψb (xb )∏∏P (x) =
(67)
Trx a∈∂i ψa (xa ) b∈∂i/ ψb (xb )∏と表現する．さらに右辺の分母と分子をともに定数 Trx\xi b∈∂i/ ψb (xb ) で割ると (66)から(∏)
a∈∂i ψa (xa ) P\i (x\xi )(∏)
P (x) =
(68)Trxa∈∂i ψa (xa ) P\i (x\xi ){}が得られる．周辺化 Trx\ を行い，さらに分母に対して Trx (· · · ) = Trxi Trx\xi (· · · )であることをもちいると (65) が得られる．

4.2.3

ビリーフプロパゲーション∏(65) は有効ポテンシャル ψieﬀ (xi ) =a∈∂i ψa (xa ) \xi の評価に要する計算量と周辺分布 Pi (xi )を評価するために必要な計算量が同程度であることを意味している．残念ながら一般にはキャビティ分布 P\i (x\xi ) にも変数間に複雑な依存関係があり，この分布に関する平均が必要な ψieﬀ (xi )の評価は計算量的に困難である．しかしながら，P (x) を表現したファクターグラフがループを含まないハイパーツリー（hypertree）（図 5(a)）となる場合には，効率的に ψieﬀ (xi ) や Pi (xi ) を評価することが可能になる．
各 a ∈ ∂i に対し，ψa (xa ) をのぞいた系 (a キャビティ系とよぶ) に関する xa に含まれる成分 xjの周辺（１体）分布関数が評価できているとして mj→a (xj ) と書く．ファクターグラフがハイパー
ツリーの場合には• a, b, c, . . . ∈ ∂i について xa , xb , xc , . . . に共通して含まる変数は xi のみである• xi をあらわす○ノードをとりのぞくと a, b, c, . . . ∈ ∂i に対応する□ノードを含む部分グラフ
は，それぞれ互いに交わりを持つことなく分離されるという性質がすべての○ノードについてなりたつ（図 5(b)）．前述のとおり，交わりを持たない異なる部分グラフに含まれる確率変数は統計的に独立である．つまり，ハイパーツリーで表現され《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

(a)

(b)

図 5: (a)：ハイパーツリー＝ループを含まないファクターグラフの例．(b)：ハイパーツリーではすべての○ノードについて，そのノードを除去するとグラフの残りの部分が必ず互いに交わりを持たない部分グラフに分離される．
るシステムのキャビティ分布に関しては，統計的独立性にもとづき部分グラフ間で独立して平均評価をおこなうことが可能になり)(∏eﬀ
ψa (xa ) P\i (x\xi )ψi (xi ) = Tr
x\xi

=

∏
a∈∂i

a∈∂i

∏

 Tr ψa (xa )xa \xi
mj→a (xj )

(69)

j∈∂a\iが厳密になりたつ．∂i および，すべての a ∈ ∂i に対する ∂a，の大きさがともに O(1) である限り，(69) の右辺は O(1) 程度の計算コストで評価できる．すなわち，計算量的困難は生じない．同様に
eﬀ (x ) に関する厳密な表現
a キャビティ系の有効ポテンシャル ψi→a
i


∏
∏
eﬀ
 Tr ψb (xb )ψi→a(xi ) =
mj→b (xj )
(70)b∈∂i\axb \xij∈∂b\iが得られるが，この右辺の評価にも計算量的困難は生じない．ところで，定義から mi→a (xi ) とは
eﬀ (x ) を規格化したものに他ならない．このことから
ψi→a
i
(
)
∏
∏
Tr
ψ
(x
)
m
(x
)
xb \xi b bb∈∂i\aj∈∂b\i j→b j()(71)
mi→a (xi ) =∏∏Trxi b∈∂i\a Trxb \xi ψb (xb ) j∈∂b\i mj→b (xj )あるいは２種類の分布関数にわけた表現

ma→i (xi ) = αa→i Tr ψa (xa )xa \ximi→a (xi ) = αi→a∏b∈∂i\a∏mj→a (xj )(72)j∈∂a\imb→i (xi )(73)《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

(a)

a

(b)

i

i

a

図 6: (a)：更新式 (72) によるメッセージ伝搬の様子．(b)：更新式 (73) によるメッセージ伝搬の様子．ビリーフプロパゲーションはファクターグラフを構成する各ノードで (a)，(b) のようなメッセージ (ma→i (xi ), mi→a (xi )) のやり取りを行うアルゴリズムとみなすことができる．
が得られる．ただし αa→i ，αi→a はそれぞれ ma→i (xi )，mi→a (xi ) が分布関数になるように導入された規格化定数である．ma→i (xi ) をもちいると，xi の周辺分布は

Pi (xi ) = αi∏ma→i (xi )

(74)

a∈∂i

（αi は規格化定数）により厳密に評価される．
以上は a キャビティ系での j ∈ ∂a に関する１体分布関数 mj→a (xj ) が得られていることを前提とした議論であったが，(72)，(73) はファクターグラフの各辺に対して定義された２つの１体分布関数 ma→i (xi )，mi→a (xi ) のすべてを逐次的に定めるのに十分な条件を与えている．すべての添字
a，i について，∂a，∂i に含まれる要素の数がそれぞれ O(1) である場合，すなわち，ハイパーツ
リーがスパースな場合には (72) および (73) の右辺の評価に必要な計算コストは高々O(1) である．
a → i および i → a はグラフの各辺について向きを付けることに対応している．つまり，すべての確率変数の成分に対して (72)，(73) を評価したとしても計算コストは辺の数の２倍に比例する程度である．その結果を (74) に代入すれば，全体として確率変数の数に比例する程度の計算コス
トですべての確率変数について周辺分布が求まる．(72)，(73) および (74) にもとづいたハイパー
ツリーに関する効率的な周辺分布の評価法はビリーフプロパゲーション（belief propagation）
あるいは確率伝搬法（probability propagation）とよばれる．(72)，(73) は一見複雑であるが，ファクターグラフ内の a と i を結ぶ辺について• (72)：その辺以外から□ノード（a）に入ってくるメッセージ（mj→a (xj )）を集めて和（Trxa \xi ）を評価し，○ノード（i）にメッセージ（ma→i (xi )）を送る∏• (73)：その辺以外から○ノード（i）に入ってくるメッセージ（mb→i (xi )）を集めて積（ b∈∂i\a ）を評価し，□ノード（a）にメッセージ（mi→a (xi )）を送る
アルゴリズムとしてグラフィカルに表現するとわかりやすい（図 6）．そのため分野によっては和積アルゴリズム（sum-product algorithm）とよばれることもある．
２体相互作用を□ノードで表現すれば，１次元鎖やケーリーツリーもハイパーツリーとして表現できる．１次元鎖について知られている転送行列法，3.3.2 節で示したケーリーツリー上の漸化式はビリーフプロパゲーションの特別な場合と位置づけることができる．

4.2.4

ルーピービリーフプロパゲーション

ファクターグラフがハイパーツリーになる場合にはビリーフプロパゲーションによって周辺分布を効率的に評価できることがわかった．残念ながら，一般の確率モデルに対応するファクターグラ
フはハイパーツリーにはならない．ところが (72)，(73)，(74) を見直してみると，それぞれの右辺にある評価式は，グラフの局所的な情報しかもちいられておらず，ファクターグラフにループが含
まれる／含まれないといった大域的な性質とは関係なく実行可能であることがわかる．そのため，

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

ループを含む一般のグラフに対しても，ビリーフプロパゲーションを近似的に適用する方策が考えられる．このような近似的な評価を目的として一般のグラフに対し適用されるビリーフプロパ
ゲーションはしばしばルーピービリーフプロパゲーション（loopy belief propagation）とよばれる．ただし，ハイパーツリーでない場合，(72)，(73) をグラフ上で一度伝搬させても ma→i (xi )，mi→a (xi ) は確定しない．そのため，これらの関数が収束したとみなされるまで適当な回数更新を反復する必要がある．
強磁性体のイジング模型に関して，exp(βJij Si Sj ) および exp(βhSi ) をポテンシャル関数とみなし，有効場 θ̂，空孔場 θ をもちいて ma→i (Si ) = eβ θ̂Si /(2 cosh(β θ̂)) （ψa (xa ) が exp(βJij Si Sj )に対応するとき），eβhSi /(2 cosh(βh)) （ψa (xa ) が exp(βhSi ) に対応するとき），mi→a (Si ) =eβθSi /(2 cosh(βθ)) と表現すれば，3.2 節に示したベーテ近似はルーピーブリーフプロパゲーショ
ンとして解釈することができる．

4.2.5

例６）低密度パリティ検査符号の復号（ルーピー）ビリーフプロパゲーションの応用例として低密度パリティ検査符号の復号を紹介する．情報を送信したり，保存したりする際にはノイズによる劣化に備えて情報表現に誤り訂正機能を持たせる必要がある．誤り訂正を目的とした符号化方式は一般に誤り訂正符号（error correctingcode）とよばれる．低密度パリティ検査符号（low-density parity-check code）とは現在最も高い誤り訂正能力を誇る実用的な符号である [17]．
誤り訂正機能を生み出す鍵は情報を冗長に表現することにある．K ビットのメッセージ m ∈{0, 1}K を N (> K) ビットの符号語 x ∈ {0, 1}N に１対１で対応させて表現を冗長化する．誤り訂
正符号の主要なクラスである線形符号ではこのために検査行列とよばれる (N − K) × N の 0 また
は 1 を成分とする行列 H を用意し

Hx = 0 (mod 2)(75)を満たすベクトル x のみを符号語として利用する．mod 2 は 2 を法にする演算を意味する．m から x への変換には，H に対し，掃き出し法などをもちいて HGT = 0 (mod 2) を満たす N × K 行
列 GT （生成行列とよばれる）をあらかじめ用意しておき

x = GT m (mod 2)(76)と変換すればよい．こうすれば必ず Hx = HGT m = 0m = 0 (mod 2) が保証される．また，
N > K であるため x から m への逆写像も一意に定まる．低密度パリティ検査符号とは，この中で特に各行／各列あたりの 1 の割合が N, K → ∞ とする際にゼロに漸近する検査行列 H で特徴づけられるものを指す．以下，H はこの性質を満たすランク落ちのない行列であるとする．
H の µ 行目 (µ = 1, 2, . . . , N − K) で成分が 1 である列添字 i の集合を ∂µ とし，i 列目 (i =1, 2, . . . , N ) で成分が 1 である行添字 µ の集合を ∂i と記す．また，表現を簡潔にするためにバイ
ナリ・バイポーラ変換とよばれる変換

Si = (−1)xi ⇐⇒ xi =1 − Si2(77)(i = 1, 2, . . . , N ) により，符号語 x ∈ {0, 1}N をイジングスピン S ∈ {+1, −1}N によって表現する．これにより検査方程式 (75) の µ 行目の条件式はポテンシャル関数{∏
1 + i∈∂µ Si
1 (条件を満たしている)=
ψµ (S µ ) =(78)
20 (条件を満たしていない)によって簡潔にあらわすことができる．メッセージ m ∈ {0, 1}K が一様分布にしたがって生成されるとしよう．すると，S のしたがう事前分布は

P (S) =N −K
1 ∏ψµ (S µ )
ZH

(79)

µ=1

∏ −K
（ただし，ZH = TrS Nµ=1 ψµ (S µ )）によって与えられる．S の劣化過程としては，各成分独立に同じ確率 0 < p < 1/2 で符号が反転する２元対称通信路を仮定しよう．劣化したベクト《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

ルを ξ ∈ {+1, −1}N と表現すると真のベクトル S から劣化によって ξ が得られる過程は βp =(1/2) ln((1 − p)/p) として，条件付き確率P (ξ|S) =N∏
exp (βp ξi Si )i=1

2 cosh(βp )∏1
ψi (Si )(2 cosh(βp ))N
N

=

(80)

i=1

で与えられる．ただし，ψi (Si ) = exp(βp ξi Si ) とした．ベイズの公式をもちいると (79) と (80) から ξ を観測した際の S の事後分布
N −K
N
∏
1 ∏
P (ξ|S)P (S)=ψµ (S µ )ψi (Si )P (S|ξ) =
P (ξ)
Z
µ=1

(81)

i=1

が得られる．誤り訂正は劣化したベクトル ξ から正しいベクトル S を復号することでなされる．
2.2.1 節の議論から (81) にもとづいた確率推論がビット誤り率を最小にする意味で最適な復号であることが導かれる．
この確率推論にもとづく復号に（ルーピー）ビリーフプロパゲーションが使われる．そのために，
ψµ (S µ ) および ψi (Si ) をポテンシャル関数とみなし (81) をファクターグラフで表現する（図 7）．
µ = 1, 2, . . . , N − K および i = 1, 2, . . . , N の両方がポテンシャル関数の添字 a に対応する．イジングスピンに対しては必ず ma→i (Si ) = exp(θa→i Si )/(2 cosh(θa→i ))，mi→a (Si ) = exp(θi→a Si )/(2 cosh(θi→a )) という表現が可能であることをもちいると (72) に対応して
∏
θµ→i = tanh−1 tanh(θj→µ ) (ψµ (S µ ) に関して)(82)j∈∂µ\i

θi→i = βp ξi(ψi (Si ) に関して)が，(73) に対応して

θi→µ = βp ξi +

∑

(83)

θν→i

(84)

ν∈∂i\µが，それぞれ得られる．これらから決まる変数をもちいて，復号結果は{∑+1 if βp ξi + µ∈∂i θµ→i > 0∑Ŝi =−1 if βp ξi + µ∈∂i θµ→i < 0(85)により求まる．
各行／各列あたりの 1 の個数を O(1) に固定した条件下で H をランダムに生成した場合，対応するファクターグラフはスパースなランダム２部グラフとなる．3.3.3 節と同様の議論からスパー
スなランダム２部グラフの典型的なループ長は O(ln N ) 程度で増大する．つまり，典型的な H のサンプルに対するファクターグラフの局所的な構造は十分大きな N に対してハイパーツリーに漸近する．このことは，適切な初期条件を与えることができれば，十分大きな N に対して，ビリー
フプロパゲーションにもとづく復号の性能が厳密な復号の性能に漸近することを意味している．

5

おわりに

ベイズの公式にもとづく確率推論の問題と不規則系の統計力学との構造的な類似性にもとづいて統計力学の研究で開発された平均場近似の方法が，現実的な計算コストで推論を実施するための近似アルゴリズムとして有用であることを述べた．本稿では特に，ナイーブ平均場近似とキャビティ法（およびそれを具体的に実行するアルゴリズムとしてビリーフプロパゲーション）を取り上げ，応用例として画像ノイズ除去，低密度パリティ検査符号の復号を紹介した．
最近「ビッグデータ」という言葉をよく耳にするが，大量の高次元データからの情報抽出に関する需要は産業応用のみならず学術面でも今後さらに増えていくものと予想される．多くの場合，
高次元データの処理には計算量的困難がつきまとう．従来，物理の応用といえば，半導体や材料，
機械などモノのイメージが強かったが，推論や計算といったコトの分野でも物理の理論が大活躍する．物理学のこうした新しい使われ方が広く定着する日もそう遠くはないかもしれない．
最後に本稿で詳しく紹介できなかった最近の話題について簡単に触れておく．

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）

ψµ(.)
Si

ψi (.)
図 7: 低密度パリティ検査符号の復号問題に対するファクターグラフ．

• 逆イジング問題（inverse Ising problem）：近年，電気生理学において複数神経細胞の活動状態に関する同時計測ができるようになった．神経細胞は発火および非発火の２つの特徴的な状態を取ることが知られている．i 番目の細胞に対し，この２状態をイジングスピン
Si ∈ {+1, −1} に対応させる．多細胞の同時計測データから細胞間の相互作用の様子を推定したい．イジングスピンによる記述にしたがうとすれば，これはデータから結合行列 Jij や
外場 hi を推定する問題に他ならない．与えられた Jij や hi と観測される統計量とを結びつけることは計算量的に困難である．そこで，Jij や hi の推定精度がなるべくよい平均場近似の方法を開発し問題解決をはかる [18, 19, 20]．
• 圧縮センシング（compressed sensing）：線形変換として表現できる信号計測の結果，M個のデータを得た．これらにもとづいて N 次元の信号を復元したい．計測をあらわす線形変換はランク落ちしていないとしよう．任意の信号を確実に復元するためには，α = M/N ≥ 1が必要十分であることが線形代数の一般論から示される．しかしながら，対象となる信号がスパースである（ゼロになる成分が多い）ことが統計的に期待される場合には，α < 1 であっても信号復元が可能になるかもしれない．このようなアイデアにもとづく信号計測／復元の枠組みは圧縮センシングとよばれ，現在盛んに研究されている [21]．圧縮センシングの信号復元はスパースな信号をあらわす事前分布を導入することで確率推論の問題として定式化できる．ここに平均場近似を導入することによりできるだけ小さな α での復元が保証され実際的計算コストで実施できる信号復元アルゴリズムを開発する [22, 23]．
• 潜在変数モデリング（latent variable modeling）：M 個の N 次元データの組 X = (x1 , x2 ,. . . , xM ) が観測されているとする．これらのデータの規則性を分析する際，しばしば，各データ
xµ が観測されない潜在変数 z µ とデータに共通の行列 A にもとづいて xµ = Az µ + nµ というプロセス（nµ はノイズ）で生成されると仮定し，X から A と z µ の両方を求めることがなされる．こうしたモデル化の方法を潜在変数モデリングとよぶことがある．Z = (z 1 , z 2 , . . . , z M )，N = (n1 , n2 , . . . , nM ) と表記すれば，これは Z や N に関する適当な仮定（たとえば，ス
パースである，統計的に独立である，など）の下で X を X = AZ + N の形に分解する問題として定式化できる．このような問題は一般に計算量的に困難である．そこで，平均場近似
によって問題解決をはかる [24, 25, 26]．

参考文献
[1] 樺島祥介，学習と情報の平均場理論，岩波書店 (2002)[2] 西森秀稔，スピングラス理論と情報統計力学，岩波書店 (1999)[3] E. Ising, Z. Phys. 31, 253 (1925)

《講義ノート》

物性研究・電子版 Vol.3、No.1, 031202（2013年11月・2014年2月合併号）[4] L. Onsager, Phys. Rev. (2) 65, 117 (1944)[5] Y. Iba, J. Phys. A 32, 3875 (1999)[6] M. Mézard, G. Parisi and M. A. Virasoro, Spin glass theory and beyond, World Scientific(1987)[7] M. Mézard and A. Montanari, Information, Physics, and Computation, Oxford University
Press (2009)[8] T. H. L. Watkin, A. Rau and M. Biehl, Rev. Mod. Phys. 65, 499 (1993)[9] P. Weiss, J. Phys. Theor. Appl. 6, 661 (1907)[10] H. A. Bethe, Proc. Roy. Soc. London A 150, 552 (1935)[11] R. Kikuchi, Phys. Rev. 81, 988 (1951)[12] T. Morita, M. Suzuki, K. Wada and M. Kaburagi (eds), Foundations and Applications ofCluster Variation Method and Path Probability Method (Prog. Theor. Phys. Suppl. 115)
(1994)[13] M. E. J. Newman, S. H. Strogatz and D. J. Watts, Phys. Rev. E 64, 026118 (2001)[14] K. Nakagawa and H. Yamaguchi, IEICE Trans. Inf. Syst. E96-D, 433 (2013)[15] 田中和之，確率モデルによる画像処理技術入門，森北出版 (2006)[16] R. Molina, A. K. Katsaggelos and J. Mateos, IEEE Trans. Image Processing 8, 231 (1999)[17] 和田山正，低密度パリティ検査符号とその復号法, トリケップス (2002)[18] E. Schneidman, M. J. Berry, R. Segev and W. Bialek, Nature 440, 1007 (2006)[19] S. Cocco and R. Monasson, Phys. Rev. Lett 106, 090601 (2011)[20] H. Huang and Y. Kabashima, Phys. Rev. E 87, 062129 (2013)[21] D. L. Donoho, IEEE Trans. on Inf. Theor. 52, 1289 (2006)[22] F. Krzakala, M. Mézard, F. Sausset, Y. F. Sun and L. Zdeborová, Phys. Rev. X 2, 021005(2012)[23] M. C. Angelini, F. Ricci-Tersenghi and Y. Kabashima, in Proc. 50th Annual Allerton Conference, pp. 808–814 (2012); arXiv:1207.2853[24] A. Sakata and Y. Kabashima, EPL (Europhysics Letters) 103, 28008 (2013)[25] A. Sakata and Y. Kabashima, in Proc. 2013 IEEE International Symposium on Information
Theory (Istanbul, Turkey, July 7–12, 2013), pp. 669–673 (2013); arXiv:1301.6199[26] F. Krzakala, M. Mézard and L. Zdeborová, in Proc. 2013 IEEE International Symposium on Information Theory (Istanbul, Turkey, July 7–12, 2013), pp. 659–663 (2013);
arXiv:1301.5898