マスター タイトルの書式設定

機械学習を援用した
適切なフレームの探索@DL&P 01/19;

arXiv:2211.15269(2022)

Yoshihiro Michishita(Riken, CEMS)

1

Outline
マスター タイトルの書式設定
l Introduction

Ø 機械学習と物理学
Ø 物理学における理論解析手法
Ø 今回の目標l Quick Reivew

Ø 周期駆動系における理論手法(Floquetの手法)
Ø 回帰型ニューラルネットワーク(RNN)とその応用

l Setup & Resultsl Remarks & Summary2

Outline
マスター タイトルの書式設定
l Introduction

Ø 機械学習と物理学
Ø 物理学における理論解析手法
Ø 今回の目標l Quick Reivew

Ø 周期駆動系における理論手法(Floquetの手法)
Ø 回帰型ニューラルネットワーク(RNN)とその応用

l Setup & Resultsl Remarks & Summary

3

マスター
タイトルの書式設定
Recentapplicationof ML to physics(＊物性屋目線です)4

Detect the phase transition

Calcu. equilibrium or steady state
RBMでスピン系の計算(Science: 335.602-606(2017))(PRB: 96.205152(2017))
RBMでSSの計算 (PRB: 99.214306(2019))

Ising magnetization

glass transition(Nat. Phys: 13.431(2017))(Nat. Phys: 10.1038(2020))

Materials Infomatics

RNNを用いた基底状態の表現(PRR: 2.023358(2020))

Remove noise or enhance the accuracy
Gaussian Processを仮定して (IEICE: 10.1587(2010))
NV centerに適用 (Sci. Rep.: 12.13942(2022))(Advanced Science: 6.1900808(2019))

マスター
タイトルの書式設定
Recentapplicationof ML to physics(＊物性屋目線です)5

Detect the phase transition

Calcu. equilibrium or steady state

RBMでスピン系の計算(Science: 335.602-606(2017))(PRB: 96.205152(2017))
多くの場合、実験の補助や数値計算の手法
RBMでSSの計算 (PRB: 99.214306(2019))に使用されている。。

Ising magnetization

glass transition(Nat. Phys: 13.431(2017))(Nat. Phys: 10.1038(2020))

RNNを用いた基底状態の表現(PRR: 2.023358(2020))

Materials Infomatics
Remove noise or enhance the accuracy
理論解析手法の開拓に機械学習を使えないか？
Gaussian Processを仮定して (IEICE: 10.1587(2010))
NV centerに適用 (Sci. Rep.: 12.13942(2022))(Advanced Science: 6.1900808(2019))

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?
6

lScale separation & Reduction
Ø Nonlinear system=>

reductionØ The Hubbard model (Lattice model)=> Heisenberg modelØ Open quantum system=>

Markov app., GKSL equation

Ø Periodic driving system=>

high-frequency expansion

Ø (Renormalization Group=>

cutoff scale)Ø (DMRG, Tensor network=>

SVD & reduction)

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?
7

lExample1: Nonlinear system
簡単な例として力学系(多変数の非線形方程式)を考える!"!$= " #, % ,= & #, %!#!#一般に多変数の非線形方程式は解く事が難しいので、有効的に変数を減らしたい。
上手く減らせる事が出来る成功例として、時間スケールが分離している系がある( " ≪ | & |)変数yの緩和のスピードがxに比べ十分早い時、yは一瞬でxを固定した時の定常状態におちる)%= & #, % = 0 ⇒ % ∗ = - # (& #, - # = 0))*
この時、xの緩和の時間スケールで見れば、yはxの関数になっているので!"= " #, - #!#= " ∗ (#) となり、上式と合わせ１変数でダイナミクスを記述出来る（＊繰り込みや開放量子系における量子マスター方程式・GKSL方程式もほぼ同じことをする）

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?
8

lExample2: Hubbard model (Large-U, Half-filling)7++
0 = 1{*(3&)*,( 3&,( + 3&,( 3&)*,( ) + 56&,( + 6&,( 6&,,( } ,2&,(+
6&,( = 3&,(3&,(

上式の7 ≫ * , 5 = −7/2 の場合を考える。非線形項(相互作用項)を小さくして摂動論で解析したい* = 0の基底状態を考え、そこから*についての摂動を行うと、低エネルギー有効ハミルトニアンは
2
3
1
*
2*
*
+
+
0
10
0-.. = =/ > 0> =/ = 1 ?(@& @&)* − ) + C(),?=
, D = − 1(3&)*,(
3&,( + 3&,(3&)*,( )
4
7
7
7
&,(

Jはいま小さいので摂動論で解析が出来る

&

!

"

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?
9lExample3: Materials in Cavity (Strong Coupling)
04 = ∫ dx H5+= ∫ dx H5+
Ω = O6−IJ" − KL 3
+ N # H" + O6 P+P ,L = L/ (P+ + P)
2M
−IJ" 3+ IJ"+ N # H" + &∫ dx H5H" ∗ B + ΩT +T,
2M
M

2UK3 L3/
KL/ O6
1+
,& =
,
MO6
M
Ω

T+ + T =Ω +(P + P)O6

gの大きな極限を考える。以下のユニタリ変換を用いる*+ −IJ"
13+
7 = exp −IX7 Y ∫ )#H5
H" ,Y = I T − T , X7 →∝ & (& → ∞)M
すると3
+ −IJ"
08 = ∫ dx H5+ N # + X7 Y H" + ΩT +T
2Mと出来、強結合領域でも解析が出来る。

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

10

lExample4: Floquet System (周期駆動系, High-frequency reg.)] * =0^/ + N_ * ,0!
I |Hb *!#!
] * |H *
>=I 7
!#

)
] * H * >,I
H * >=0)*2Y
N * = N * + a ,Ω =a>

! " = !(" + &)] * (0] * − I ! )7
] + * |Hb * > = 0]9 * |Hb * >=7!#

これに対しては、良いUの与え方が知られていて、それを用いれば(:09 * = 09 + C(1/Ω:)* , *)なる回転座標系での有効ハミルトニアンが与えられ、しかも実際の時間発展との差は十分小さい事が知られている。

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

11lここまでの例で言いたかったことØ 例１：スケールの分離がある場合、変数の消去(redcution)が出来る場合があるマスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

12lここまでの例で言いたかったことØ 例１：スケールの分離がある場合、変数の消去(redcution)が出来る場合がある
Ø 例2-4:スケールの分離がある時に、reductionや摂動論を用いたい場合、一般にはそれが出来るframeにユニタリ変換や射影を行う必要があるマスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

13lここまでの例で言いたかったことØ 例１：スケールの分離がある場合、変数の消去(redcution)が出来る場合がある
Ø 例2-4:スケールの分離がある時に、reductionや摂動論を用いたい場合、一般にはそれが出来るframeにユニタリ変換や射影を行う必要がある
なので、物理の(手でできる範囲の)理論解析とは、
1. (scaleの分離がある場合に)摂動論やreductionが出来る良いframeを見つける
2. (妥当な近似として)摂動論やreductionを実行し有効模型を作る
3. 個々の物性を得られた模型で解析

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

14lここまでの例で言いたかったことØ 例１：スケールの分離がある場合、変数の消去(redcution)が出来る場合がある
Ø 例2-4:スケールの分離がある時に、reductionや摂動論を用いたい場合、一般にはそれが出来るframeにユニタリ変換や射影を行う必要がある
なので、物理の(手でできる範囲の)理論解析とは、

ここを機械学習にやらせたい

1. (scaleの分離がある場合に)摂動論やreductionが出来る良いframeを見つける
2. (妥当な近似として)摂動論やreductionを実行し有効模型を作る
3. 個々の物性を得られた模型で解析

マスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

15

l今回の目的

機械学習を援用して理論解析手法を開拓するマスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

16

l今回の目的

機械学習を援用して理論解析手法を開拓するある一般的な模型のあるパラメータ領域において適切なframeを機械学習を援用して見つけるマスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

17

l今回の目的

機械学習を援用して理論解析手法を開拓するある一般的な模型のあるパラメータ領域において適切なframeを機械学習を援用して見つける

そもそもスケールの分離が存在するのか一見分からない場合に(implicitなscale分離がある場合)適切なFrameを機械学習で見つけるマスター
タイトルの書式設定
How
did we physicists
develop analytical methods?

18

l今回の目的

機械学習を援用して理論解析手法を開拓するある一般的な模型のあるパラメータ領域において適切なframeを機械学習を援用して見つける

そもそもスケールの分離が存在するのか一見分からない場合に(implicitなscale分離がある場合)適切なFrameを機械学習で見つけるOutline
マスター タイトルの書式設定
l Introduction

Ø 機械学習と物理学
Ø 物理学における理論解析手法
Ø 今回の目標l Quick Review

Ø 周期駆動系における理論手法(Floquetの手法)
Ø 回帰型ニューラルネットワーク(RNN)とその応用

l Setup & Resultsl Remarks & Summary

19

マスター
タイトルの書式設定
Quick review
of Floquet theory & RF

20

Ø Formalism)] * |H * >|H * > = 0] * = exp[I d
] * ]
7
)*
)
)
]9 * = 7] * (0] * − IJ# )7]+ *b] * |H * >= 0
]9 * |Hb * >0
I |H * > = I 7)*)*] * =0] * + a のとき、7]; * = 7]; * + a , 0]9 * = 0]; を満たす7; (*)が存在
0] * =0^/ + N(*)_
0I

さらに高周波領域 0/ ≪ Ωの時、7; * , 0; を1 /Ω展開する方法がある(van-Vleck, Floquet-Magnus)
09 *

1
(:)
= 0; + C( :)* , *)Ω

Ø Floquet pre-thermalization
Hamiltonianがlocalかつ、* = Maの時
(arXiv:1509.03968(2015))||f exp −I∫ )@ 0 @:− exp −I0; * || ≦ exp −C Ω *マスター Quick
タイトルの書式設定
review of RNN
lRNN

21

input

*+ ,h
*+ ,h *ℎh *ℎn=.
**ℎh *ℎn *n

•

・・・

#!

時系列データを学習する際に、あるニューラル
ネットを繰り返し使用する事で、少ないパラメータ数で表現できる。(Google翻訳などで使われている(＊DeepLはCNNらしい))

Ø勾配爆発・勾配消失ℎhij = #k $(ℎh ) + #lm $((h ) + )output

$!"#

%!
$!

＊安直には力学系のアトラクターとベイスンの振る舞いと同じde the)"(arXiv:1211.5063(2013))

+

に国
≈

譚 魔灥

Outline
マスター タイトルの書式設定
l Introduction

Ø 機械学習と物理学
Ø 物理学における理論解析手法
Ø 今回の目標l Quick Review

Ø 周期駆動系における理論手法(Floquetの手法)
Ø 回帰型ニューラルネットワーク(RNN)とその応用

l Setup & Resultsl Remarks & Summary

22

マスター
タイトルの書式設定
What I want
to do with machine learning

23

l 今回提案するフレームワーク

Step1:Numerically derive the unitary tr.

We get (Rotating) frame numerically{o p = exp[qr(p)]}Neural Network

Training!

・・・

・・・

Input:
model

Step2: Convert the results into operators

Output:Frame/basis

Set loss function to suppress
the driving/entanglement(desired property of basis)

If it is not valid, we get the frame numericallyin another model and construct another candidate

We can also calculate the parameter dependence! = $%&[−)*! (,) , , )]?
"Physicist

Construct the framework oftheoretical analysis

Check the validity by handDemonstration
マスター タイトルの書式設定

24

lFirst step! " = !(" + &)

Ø Interacting quantum Two-Spin model under driving* , =+-! + .
* (,)+-! = − 0(1" 2-"# ⊗ 2-"$ + 4" 0 2-"# )
+
"

(

%

* , = − 0 5" 678(9:) 0 2-"%.
"

1⃗ = 1& , 1' = =, 1( ,s> =−t? − uv? w
w
t?
w
−t@
−t@
w

%

4 = 4& = =, 4' = =, 4( , 5 = (5, =, =)

t?
w

w
−t@

−t@
w
w
−t? + uv?

x=

w
−y
−y
w

−y
w
w
−y

−y
w
w
−y

w
−y
−y
w

Setupマスター タイトルの書式設定
Remarks:

lModel of Machine Learning

Model:HK) Hat)=m

Neural Network

"$($)

! "

!

IN

=

副

− &" " − ()" /+# +

Mi

!

牂

! # = − * 0" 123(45) * ,%"%
'

!%!
"!
&!"# = &! + &!$ )*1+% * = exp /&! +! − /exp[−/&! ]
1*

NN

/+#

$

もりう eikn-tr.TT
が た

%

!!"#

!!

$ -% "%"

2(1 + 51)0>(1)= $ % ! &" "!

%! = *(+" ,%"# ⊗ ,%"$ + ." * ,%"# )
"
"

32 1
31

・・・

・・・

0(1)
2(1)

! # ="%! + '! (#)"

Loss function

Output:Input:

25

Transformer

Formalism:!& # = 6! # ("! # − 2?' )6!( #"! # = 789[2;
! # ]
6
! # =
;′

>
! #
;
>#

Step
1: Numericallyderive the RF with ML
マスター
タイトルの書式設定

26

Remarks:l High-Frequency regime(a) (", $! , $" , h# , Ω) = (0.2, 1.0, 0.7, 0.5,10)
10 ∗ (% ! ⊗ ' " + % " ⊗ ' ! )10# ∗ (% $ ⊗ ' % + % % ⊗ ' $ )10# ∗ (% ! ⊗ ' $ + % $ ⊗ ' ! )Model:* , =+-! + .
* (,)+-! = 0(1" 2-"# ⊗ 2-"$ + 4" 0 2-"# )+"%* , = − 0 5" 678(9:) 0 2-"%.
"%Formalism:*) , = ?
* , (+* , − 7@* )?
*+ ,+] { = |}~[•€
] { ]
z
‚
]
] {
€′ { =€‚{

Step
1: Numericallyderive the RF with ML
マスター
タイトルの書式設定
l hidden layer width dependence of learning dynamics Adobe left ? )

27

Step
1: Numericallyderive the RF with ML
マスター
タイトルの書式設定
l If learning doesn’t work well,
Success case28

Remarks:

Model:* , =+-! + .
* (,)+-! = 0(1" 2-"# ⊗ 2-"$ + 4" 0 2-"# )+"%* , = − 0 5" 678(9:) 0 2-"%.
"%Formalism:*) , = ?
* , (+* , − 7@* )?
*+ ,+] { = |}~[•€] { ]z
ここまでの主張
Hidden layerの幅を増やし過ぎると学習が上手くいかない。
減らし過ぎると初期状態によっては上手く行くが安定しない。
今回の場合はw=8くらいが一番安定

Step
1: Numericallyderive the RF with ML
マスター
タイトルの書式設定

29

Remarks:l High-Frequency regime(a) (", $! , $" , h# , Ω) = (0.2, 1.0, 0.7, 0.5,10)
10 ∗ (% ! ⊗ ' " + % " ⊗ ' ! )10# ∗ (% $ ⊗ ' % + % % ⊗ ' $ )10# ∗ (% ! ⊗ ' $ + % $ ⊗ ' ! )Model:* , =+-! + .
* (,)+-! = 0(1" 2-"# ⊗ 2-"$ + 4" 0 2-"# )+"%* , = − 0 5" 678(9:) 0 2-"%.
"%Formalism:*) , = ?
* , (+* , − 7@* )?
*+ ,+] { = |}~[•€] { ]z
ここまでの主張
Hidden layerの幅を増やし過ぎると学習が上手くいかない。
減らし過ぎると初期状態によっては上手く行くが安定しない。
今回の場合はw=8くらいが一番安定

Step
2: Convert
the result to operator form
マスター
タイトルの書式設定
l Parameter dependence & translate it to operator form(c) (", $! , $" , ℎ! ) = (0.2, 1.0, 0.7, 0.5)(b) ("! , "" , ℎ! , Ω) = (1.0, 0.7, 0.5, 10)(" ! ⊗ $ " + " " ⊗ $ ! )

!

"

"

(f)

(", $! , ℎ! , Ω) = (0.2, 1.0, 0.5, 10)!

(" ⊗ $ + " ⊗ $ )(" # ⊗ $ $ + " $ ⊗ $ # )(" ! ⊗ $ # + " # ⊗ $ ! )(" ! ⊗ $ " + " " ⊗ $ ! )(" # ⊗ $ $ + " $ ⊗ $ # )(" ! ⊗ $ # + " # ⊗ $ ! )(" # ⊗ $ $ + " $ ⊗ $ # )(" ! ⊗ $ # + " # ⊗ $ ! )30

Remarks:
Model:. 5 =;:& + 7
. (5)
;
:'
:'
:& = $(=' >:';( ⊗ > ) + @' $ > ( )'*. 5 = − $ A' B8C(DE) $ >:'7*'=bl∝ Ω,- , or, gr∝ Ω,.

bl, or, gr∝ C(d) (", $! , ℎ" , Ω) = (0.2, 0.7, 0.5, 10)(e) (", $! , $" , Ω) = (0.2, 1.0, 0.7, 10)(" ! ⊗ $ " + " " ⊗ $ ! )(" ! ⊗ $ " + " " ⊗ $ ! )(" # ⊗ $ $ + " $ ⊗ $ # )(" ! ⊗ $ # + " # ⊗ $ ! )(" # ⊗ $ $ + " $ ⊗ $ # )(" ! ⊗ $ # + " # ⊗ $ ! )bl , or ∝ h0/ , gr∝ h-/

Fit

誕生
は剉

-

bl, or, gr∝ (10! (t) = !
;#[ ($ − &'( )* ) (,! ⊗ .* + ,* ⊗ .! )
)

+

$+!

+

bl, gr∝ J/0 , or∝ J/-

Formalism:*)"(/0 )* (,, ⊗ .- + ,- ⊗ ., )$.!
)"(/0 )* (,! ⊗ ., + ,, ⊗ .! )]. (t) = ∫ 45% { 7. 5% − 8∫ 45%% 7. 5%% , ;:& }/.+ 5 = F. 5 (;. 5 − 8L, )F.- 5;. 5 = GHI[8/. 5 ]F

ここまでの主張

Hidden layerの幅を増やし過ぎると学習が上手くいかない。
減らし過ぎると初期状態によっては上手く行くが安定しない。
今回の場合はw=8くらいが一番安定

Results
マスター タイトルの書式設定
l Resonant DriveΩ = 2, C = 0.2, (2 = 1.0, ℎ2 = 0.5

31Remarks:
Model::':':& = $(=' >:';( ⊗ > ) + @' $ > ( )'*. 5 = − $ A' B8C(DE) $ >:'
7
*
'

*

Formalism:. 5 = GHI[8/. 5 ]F
ここまでの主張

Hidden layerの幅を増やし過ぎると学習が上手くいかない。
減らし過ぎると初期状態によっては上手く行くが安定しない。
今回の場合はw=8くらいが一番安定

Results
マスター タイトルの書式設定
Remarks:l Resonant DriveΩ = 2, C = 0.2, (2 = 1.0, ℎ2 = 0.5
L " in normal frame32(w=16,b=2の結果)
L " in rotating frame

Model::':':& = $(=' >:';( ⊗ > ) + @' $ > ( )'*. 5 = − $ A' B8C(DE) $ >:'
7
*
'

*

Formalism:

calculated rotating frame

Numerically exact rotating frame. 5 = GHI[8/. 5 ]F
ここまでの主張

Hidden layerの幅を増やし過ぎると学習が上手くいかない。
減らし過ぎると初期状態によっては上手く行くが安定しない。
今回の場合はw=8くらいが一番安定

Remarks & Outlook
マスター タイトルの書式設定
lツッコミどころØ Fourier変換した周波数の空間でやれば普通のNNで出来る・普通のNNの方が収束性も高いし自然に時間周期性が担保される・最終的な(僕個人の)目標として、開放系や格子模型に適用したいので、RNNが使えるか試したかったØ 人間が関数形を推察するパートがあるのはどうなの？

・先に人間が関数系をそれなりに指定して、そこに最適化していく方法もあるがそっちの方が微妙な気がした・次元解析であったり、物理的なpictureを要求すれば、推察することはある程度可能であるはず。(それで推察できないような関数は、そもそも手の解析に向いてない場合が多いはず。)

33

Remarks & Outlook
マスター タイトルの書式設定
l上手くいかなかった所
Ø Resonantの解析で上手く収束しなかった・有限の表現能力で表現できるような良いFrameがない(implicitなscale分離も無い)ということなのか、それともRNNの最適化の仕方をもう少し工夫する必要があるのか現状わからないØ (今回の場合)汎化性能はない

・今回は実はパラメータごとに学習(最適化)を行っている。なのでNNの役割は「有限の表現能力で良く表現できる」という条件を課す事に留まっている。
・本当にNNを使う必要があるのか？という疑問も湧いてくるけど、関数形はわ
かっていないがある程度簡単な形のものを探す為には、これしかない気もする。

34

Remarks & Outlook
マスター タイトルの書式設定
lまとめ

け け)

戦 HF

は

.

Flora engineenr.gs 竺

→
→

35

1
坦

パ竽 H

け)

Ø 適切なFrameの探索に知られている場合については成功した

・自明なスケール分離が存在する場合は成功・Floquetでたまたま上手くいっただけなのでは？他でもできるのか？
Ø とはいえまだ大分課題も多い

・上手くいかなかった場合にそれはスケールの分離が存在しないのか、それとも
単にRNNの学習が難しいだけなのかがわからない(loss関数の性質が変化するとかはあるのかも)・人間が推察するパートがある。(ノーヒントで解くよりは簡単だし、次元解析であったり、物理的なpictureを要求すれば、推察することはある程度可能であるはず。(それで推察できないような関数は、そもそも手の解析に向いてない場合が多いはず。))

Seup
マスター タイトルの書式設定
Remarks:

lModel of Machine LearningØ Reinforcement Learning(?)/Recurrent Neural Network

Neural Network

Motivation:
Construct a new framework oftheoretical analysis
Model:

0(1)
2(1)

32 1
31

・・・

Output:・・・

Input:

2(1 + 51)
0M (1)
N " = 0 O 3 P4 " − P4 " − QR" /T5 + R6,5 P4 " − P4 0
336

Formalism:Setupマスター タイトルの書式設定

37

l Other Application of RNN to Physics
Neural Network

0(1)
2(1)

32 1
31

・・・

Output:・・・

Input:

0M (1)

2,UV

2,
2W,

2(1 + 51)
0M (1)
N " = 0 O 3 P4 " − P4 " − QR" /T5 + R6,5 P4 " − P4 0
3

0,
NN

X6+- = X6 + X68 Y"

P4 " = exp ]X6 P6 − X68 exp[−]X6 ]Setupマスター タイトルの書式設定

38l Application of RNN to Physics
・Solve the ground state of 1D(2D) spin system (by Gated Recurrent Unit(GRU))
M* =< O.;0 P O.;0 >|30;%2# >= 6 83 |3%232# >|a9;% >

3

|3%2# >= 6 7%2# (.%2# ) |.%2# >|3% >= 6 7 .% |.% >

/#$%

/#

+, {d% }NN

f3 を計算(forget gate)

状態の履歴に|P; >を追加

MPSによる計算と対応(PRR:2,023358(2020))

L< の代わりにh< = < j=;< h j=;< >をloss関数に選べば、相互作用の効果を摂動的に解析できる基底を選んでこれる？