Deep Learning & Physics 2018, Osaka

深層学習は統計系の温度推定から何を学ぶのか⻘⽊ 健⼀（⾦沢⼤）、藤⽥ 達⼤（⾦沢⼤）、⼩林 ⽟⻘（⽶⼦⾼専）
⼈⼯知能学会（ JSAI ）論⽂誌 33巻(2018)4号

くりこみ群

類似性

深層学習

関係性

両者にとって⼤きなインパクトになり得る

Deep RBM vs. Renormalization Group

Aoki, K‐I., Kobayashi, T., Restricted Boltzmann Machines for the Long Range Ising Models,Mod. Phys. Lett. B30,1650401 (2016).

⼊⼒データ⽤のMonte Carlo をまじめに⾏わずに学習する⽅法を提案
くりこみ群との関係を議論

Machine Learning of Statistical System
Tanaka, A., Tomiya, A.,
Detection of phase transition via convolutional neural network,
J. Phys. Soc. Jpn. 86, 063001 (2017).

Detection of Phase Transition
Find out Critical Temperature

WHY Japanese ?

Optimized Machine Parameters

HOW?

Long Range Ising Model (1‐dim.)Aoki,K‐I., Kobayashi,T., Tomita,H.,
Finite‐Range Scaling Method to Analyze Systems with Infinite‐Range Interactions,
Prog. Theor. Phys. 119 509 (2008).

Finite Range Scaling
BDRG(Block Decimation RG) => Free Energy
Green Functions
Quantum Model ofDissipation

Ohmic

Logarithmic Susceptibility
Where is Criticality?

Finite Range Scaling

外挿Critical Temperature vs.

Alpha Go Shock・1‐dim Long Range Ising Model
Phase transition exists
Difficult to evaluate critical temperature
Finite Range Scaling successfully evaluate criticality
Exact calculation possible for finite n by BDRG
・Tensorflow vs. 私(⼈類代表)

相転移点の前に温度推定能⼒必要・統計モデル=1dim⻑距離イジング模型：p=1.8; n=1, n=8; N=1024 periodic
・温度16クラス：K=[0.2,0.5] 0.02刻み
・各温度毎32000 configurations (MC)

マシン構成
・⼊⼒: Domain Wall 表⽰
・convolution 6段
・filter: weight + bias + ReLU
n=1: size 2, stride 2, channel 1
n=8: size 2, stride 2, channel 4・16 site の和をとる。channel の和もとる。 Translational Invariance・full connection 層: 1 => 16 class output => softmax function
・cost function: cross entropy結果: 正答率(Tensorflow)
n=1 : 28.1%
n=8 : 42.8%
⼈間（私）がいろいろと凝ったこと（domain⻑の分布とか、そのくりこみによる変化とか・・・）を考えて勝負したけれど、勝てない・・・。というか、もともと、この結果って、どれくらいいいの？

正答率の理論的上限値の計算

Theoretical Probability Density vs. Energy
n=1

Theoretical Probability Density vs. Energy
n=8Maximum Likelihood Estimate

正答率の理論的上限
n=1 : 28.1%
n=8 : 42.8%

28.4%
43.6%

理論的上限に⾮常に近い配位のエネルギーに応じて決まる出⼒温度クラスを⼗分に正しく選ぶ必要がある
エネルギー以外の物理量の情報を使うと正答率は必ず下がる。
共分散不等式からも⽰される。

配位のハミルトニアン（関数）を十分に正しくマシン内部に構成し得た、と⾔えるAccuracy for Input Temperature Class
n=1

Accuracy for Input Temperature Class
n=8

Output Class vs. Energy
n=1
bin size =0.007

Output Class Average vs. Energy
n=1
bin size =0.007

Output Class vs. Energy
n=8
bin size =0.007

Output Class Average vs. Energy
n=8
bin size =0.007

Input Cnfiguration vs. Energy
n=1
bin size =0.007

Energy ＊(‐1)

Output Cass vs. Energy
n=1
bin size =0.007

Energy ＊(‐1)

Input Cnfiguration vs. Energy
n=8
bin size =0.007

Energy ＊(‐1)

Output Cass vs. Energy
n=8
bin size =0.007

Energy ＊(‐1)

Hamiltonian Recognition Rate (HRR)n=1

Hamiltonian Recognition Rate (HRR)n=8ある⼊⼒温度の出⼒結果
n=1学習したマシンはエネルギー測定器 ！
n=8「これだけ間違えましたね、、、」ではなく、エネルギースペクトル分解！

温度推定学習温度に共役な物理量の測定器となるエネルギー以外の物理量の情報を使うと正答率は必ず下がる相転移、臨界温度の情報はどこに？
温度推定学習エネルギースペクトル分解ができるようになったマシンは、エネルギースペクトルメータ

エネルギーのゆらぎ（⽐熱）は相転移点で特異性を持つ
この特異性が学習後のマシンのどこかに刻み込まれているはずSpecific Heat of Long Range Ising Models

最終段出⼒Softmax function
あるいはが最⼤となる

最⼩化対象：cost function=Cross Entropy

が出⼒温度

最終段全結合20凸多⾓形

n=110002468101214161820‐10‐20‐30‐40
y0y1y2y3y4y5y6y7y8y9y10

y11y12y13y14y15

出⼒確率（温度推定）
1

n=10.8

0.6

0.4

0.2

002

468

1012141618

20‐0.2q0q1q2q3q4

q5q6q7q8q9q10q11q12q13q14q15

最終段出⼒50

n=845

4035

302520151050‐150‐100y0y1y2

‐50
y3y4

0y5y6y750y8y9y10100y11y12y13150
y14y15

出⼒確率（温度推定）
1n=80.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
‐150‐100q0q1q2

0‐50q3q4q5q6q7050q8q9q10

100q11q12q13150
q14q15

Cross Entropy の最⼩化
下記をエネルギー毎に規格化
10.8
0.6
0.4
0.2
‐150

‐100‐500050

100q0q1q2q3q4

q5q6q7q8q9q10

q11q12q13q14q15150

最⼩値を与える
Cross Entropy
理論最⼩値

BDRGで計算

n=1: 1.743
n=8: 1.270

Data Sample Measure vs. EnergyMeasure1.20E‐02

n=1

1.00E‐02
8.00E‐03
6.00E‐03
4.00E‐03
2.00E‐03
0.00E+00
00.1

0.2

0.3

Energy ＊(‐1)

0.4

0.5

0.6

Entropy vs. Energy
Entropy

2.5

n=12

1.5

1

0.5

00

0.1

0.2

0.3

Energy ＊(‐1)

0.4

0.5

0.6

Entropy＊Measure vs. Energy
Entropy*Measure

2.50E‐02n=1
2.00E‐02

1.50E‐02

⾯積＝1.743

1.00E‐02

5.00E‐03

0.00E+00
00.1

0.2

0.3

Energy ＊(‐1)

0.4

0.5

0.6

Data Sample Measure vs. Energy
Measure0.01

n=80.009
0.0080.007
0.006
0.005
0.004
0.003
0.002
0.001
000.2

0.4

0.6

0.8

Energy ＊(‐1)

11.2

1.4

Entropy vs. Energy
Entropy

1.6

n=8

1.4
1.2
10.8
0.6
0.4
0.2
00

0.2

0.4

0.6

0.8

Energy ＊(‐1)

1

1.2

1.4

Entropy＊Measure vs. Energy
Entropy*Measure

0.014

n=80.012
0.01
0.008
0.006

⾯積＝1.270

0.004
0.002
00

0.2

0.4

0.6

0.8

Energy ＊(‐1)

1

1.2

1.4

学習：Cross Entropy の推移
n=1
1M learnings

理論最⼩値=
1.743

学習：Cross Entropy の推移
n=110M learnings

理論最⼩値=1.743

学習：Cross Entropy の推移
n=81M learnings

理論最⼩値=1.270

学習：Cross Entropy の推移
n=85M learnings

理論最⼩値=1.270

完全最適化マシン：cross entropy 最⼩完全最適マシン解はの⼀次式

は＋の⼀次式Free Energy が温度の関数として記録されている
マシンは温度の情報は何も知らないは等間隔である必要はない

Free Energy の温度による2階微分は不定性なくわかる

x vs. energy
n=1

最終段全結合20n=110002468101214161820‐10‐20‐30‐40y0y1y2y3y4y5y6y7y8y9y10y11y12y13y14y15

Machine Parameters: FC Weights
w_j

3n=12

y = 18.876x ‐ 7.3863
R² = 0.9986

100.2‐1‐2‐3‐4‐50.25

0.30.35

0.40.450.5

Machine Parameters: Biasb_j

40

n=130
20
1000.2‐10‐20‐30
‐40
‐50

0.25

0.3

0.35

0.4

0.45

0.5

Bias ― Free Energry vs. Weight800

n=1795790785
780775770765760755‐4‐3‐2‐10123

Specific Heat (Energy Fluctuation)
Specific Heat

0.04

n=1

Theory0.035
0.030.025
0.020.015

Machine Parameter after Learning0.010.005
00.2

0.25

0.3
sigma_E_site_from_b_j

0.35
sigma_E_site_exact

0.4

0.45

0.5

x vs. energy
n=8

最終段全結合50n=845403530252015

1050‐150‐100y0y1y2‐50
y3y40y5y6y750
y8y9y10100
y11y12y13150
y14y15

Machine Parameters: FC Weights
w_j

0.6

n=8y = 3.2792x ‐ 1.1405
R² = 0.9996

0.4

0.2

00.2
‐0.2

‐0.4

‐0.6

0.25

0.3

0.35

0.4

0.45

0.5

Machine Parameters: Biasb_j15

n=810500.2‐5‐10‐15‐20‐250.25

0.3

0.35

0.4

0.45

0.5

Bias ― Free Energy vs. Weightb_j‐W_tot

950

n=8y = 204.43x + 817.2
R² = 0.9999

900

850

800750

700
‐0.6

‐0.4

‐0.2

00.2

0.4

0.6

Specific Heat (Energy Fluctuation)
Specific Heat

3.5

n=83

Theory2.5
2
1.5

Machine Parameter after Learning

10.5
00.2

0.25

0.3

0.35
SH_exact

SH_DL

0.4

0.45

0.5

包絡線の正体50454035
3025
20151050‐150‐100y0y1y2‐50y3y4

0y5y6y750y8y9y10100y11y12y13150y14y15＋Energy の1次式

包絡線

エントロピーの凸性まとめ、あるいは、補⾜（蛇⾜）・ここまでの結論の本質的部分、すなわち、完全最適解においては、w_jは温度の⼀次式、b_jはfree energy ＋温度の⼀次式、となる
は、モデルの詳細、次元に依らない。更に、外部磁場を⼊れても成⽴する。
従ってw_jは相転移特異性を持つ物理量（秩序変数）とはならない。
この結論は、これまでの報告（Tanaka&Tomiya, Arai,Ohzeki&Tanaka）とは⾒解を異にする。
・もともと、「次元解析」的に、w_jは温度側の量であって、物理量側の量ではない。この理由からも、秩序変数にはなれない。
・完全最適解にはたくさんのcross entropy flat direction が存在するので、解は無数（多次元）にある。（1次式不定性、filter不定性・・・）・いろいろな⾮現実的ハミルトニアンで機械を試すと⾯⽩い。
・くりこみ群との関係性については、結局、前に進んでいない。
RBMを⽤いた解析を進める必要があるだろう。（cf. Iso, Shiba&Yokoo）
謝辞：藤井康弘，⼩内伸之介，堀祐輔，熊本真⼀郎の各⽒との⾮常に有意義で刺激的な相互作⽤に，そして、深層学習の基本をご教⽰いただいた
安⽥宗樹⽒に深く感謝する。

あ、さて。あ、さて。

Full Connection ： 凸多⾓形

Cross Entropy Flat Direction

Entropy !!!