６月２日 大阪大学

Toward solving the sign problem with machine learning

Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501

共同研究者 ： 森勇登 (京大理)Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

大西明(京大基研)
K.K. Y. Mori and A. Ohnishi, arXiv:1805.08940

柏浩司

福岡工業大学 情報工学部

導入

：

目的

研究目的：量子色力学(QCD)の相構造を理解する
相構造を解明するには → 正しい相図を描く事が必要

導入

：

目的

研究目的：量子色力学(QCD)の相構造を理解する
相構造を解明するには → 正しい相図を描く事が必要

有名な相図の例 ：水液相

圧力
固相

気相

温度

どのエネルギースケールでどの状態が実現するかを示す図

導入

：

目的

研究目的：量子色力学(QCD)の相構造を理解する
相構造を解明するには → 正しい相図を描く事が必要

QCD相図
温度

有名な相図の例 ：水液相

圧力
固相

非閉じ込め相

気相

閉じ込め相
温度

どのエネルギースケールでどの状態が実現するかを示す図

カラー超電導相

実数化学ポテンシャル（密度）

導入：

目的

QCD相図の予想図
温度

非閉じ込め相図：Wilkinson Microwave
Anisotropy Probe

図：Brookhaven national lab.

閉じ込め相

カラー超電導相
実数化学ポテンシャル
図：NASA's Marshall Space Flight Center

我々の宇宙で観測可能な最高密度の物質である中性子星にも関係する

導入

：

問題点

QCD相図の予想図
温度

非閉じ込め相

閉じ込め相

カラー超電導相
実数化学ポテンシャル

有限密度では第一原理計算に問題が生じる（符号問題）

本研究目的（もっと具体的な）

本研究の目的符号問題の解決（に向けた研究）
符号問題を最適化問題に落とし込む符号問題

経路積分を（数値的に）行う際、被積分関数が強い振動を示しキャンセレーションが発生する → 符号問題例)： Airy integral

Deformed path

Original path

See also
Witten, AMS/IP Stud. Adv. Math. 50 (2011) 347

符号問題

多次元積分ではモンテカルロ法を用いることが多い

O =𝑂𝑒 −𝑆 𝑑𝑥𝑒 −𝑆 𝑑𝑥e-S ：ボルツマン因子

S が複素数になると確率と解釈できなくなるので、

𝑂 =𝑂𝑒 −𝑆 𝑑𝑥𝑒 −𝑆 𝑑𝑥=𝑒 −𝑆 −𝑆
𝑂 −𝑆 𝑒 𝑑𝑥
𝑂𝑒 𝑖𝜃 𝑝𝑞𝑒=−𝑆𝑒𝑒 𝑖𝜃 𝑝𝑞−𝑆𝑒 𝑑𝑥−𝑆𝑒とすると計算可能だが、 𝑒 𝑖𝜃 𝑝𝑞 が小さいと精度が上がらない符号問題

QCD大分配関数
実数化学ポテンシャル
ディラック演算子

𝒵=

𝒟𝐴 𝐷𝑒𝑡 𝒟 𝐴, 𝜇 + 𝑚 𝑒 −𝑆𝑌𝑀 (𝐴)クォークの寄与グルーオンの寄与∈ℂ∈ℝ

QCDの大分配関数には有限実数化学ポテンシャル領域で符号問題が発生する符号問題

経路積分を（数値的に）行う際、被積分関数が強い振動を示しキャンセレーションが発生する → 符号問題例)： Airy integral

Deformed path

元の積分経路より良い積分経路が複素領域にあれば解決可能
Original path

See also
Witten, AMS/IP Stud. Adv. Math. 50 (2011) 347

最近の進展符号問題に対する近年の進展
複素ランジュバン法

レフシッツ・シンブル法

これまでよく使われてきた手法
再重み付け法
テーラー展開法
解析接続法
カノニカル法 等々

重要 ： 積分変数を複素化する

𝑥𝑖→𝒛𝒊 ∈ ℂ

もちろんこのままでは元の理論と異なる理論になるので、元の理論へ戻るような制限が必要最近の進展 複素ランジュバン法

複素ランジュバン法

G. Parisi, Phys.Lett. B131 (1983) 393, J. R. Klauder, Phys. Rev. A29 (1984) 2036,
G. Aarts, E. Seiler, I.-O. Stamatescu, Phys. Rev. D81 (2010) 054508

確率的量子化に基づく通常の経路積分とは異なるため、原理的には符号問題はない

重要 ： 間違った解への収束可能性
J. Nishimura and S. Shimasaki,
Phys. Rev. D92 (2015) 011501

複素ランジュバン法は必ずしも正しい解へ収束しない
事が知られている
G. Aarts, E. Seiler, I.-O. Stamatescu,
Phys. Rev. D81 (2010) 054508

最近の進展 レフシッツ・シンブル法
E. Witten, AMS/IP Stud. Adv. Math. 50 (2011) 347

レフシッツ・シンブル法

M. Cristoforetti, et al., Phys.Rev. D86 (2012) 074506
H. Fujii, et al., JHEP 1310 (2013) 147

通常の経路積分法に（基本的には）準拠

原理的には間違った解には収束しない

重要 : 勾配流で積分経路を決める
流れの固定点この勾配流から得られる経路（シンブル）は以下の条件を満たす

最近の進展 レフシッツ・シンブル法
E. Witten, AMS/IP Stud. Adv. Math. 50 (2011) 347

レフシッツ・シンブル法

M. Cristoforetti, et al., Phys.Rev. D86 (2012) 074506
H. Fujii, et al., JHEP 1310 (2013) 147

通常の経路積分法に（基本的には）準拠

原理的には間違った解には収束しない

重要 : 符号問題の残滓が残る
元の符号問題は無くなるが残滓が問題を引き起こす
Global sign problem：

複数のシンブルが積分に寄与する場合、各シンブル間でキャンセレーションが発生

Residual sign problem： 積分経路の変形からヤコビアンから振動が現れキャンセレーションが発生

新しい手法 経路最適化法

レフシッツ・シンブル法は複雑系に適用することが難しい
改良版も含めてどこまで複雑な系に適用可能かは不明
A. Alexandru, G. Basar, P. Bedaque, Phys. Rev. D 93 (2016) 014504

積分経路が勾配流によって一意に決まるため、問題が発生した場合に解決が難しいという問題もある

我々の提案

経路最適化法Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501

経路最適化法の戦略
Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501

経路最適化法の戦略
1. 符号問題の深刻さを表す目的関数を用意

2. 積分経路を複素積分変数空間で変形

3. 最も良い経路を複素積分変数空間で選択

つまり符号問題を最適化問題に落とし込む経路最適化法の構造
Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

目的関数 ： 符号問題の深刻さを示す関数（一意ではない）
今回は下記の関数を用意

媒介変数(簡単には実部)各ｔで位相を揃えようとする項再重み付けO =𝑂𝑒 −𝑆 𝑑𝑥𝑒 −𝑆 𝑑𝑥=

積分への寄与（重み）𝑒 −𝑆 −𝑆
𝑂 −𝑆 𝑒 𝑑𝑥
𝑂𝑒 𝑖𝜃 𝑝𝑞𝑒=−𝑆𝑒𝑒 𝑖𝜃 𝑝𝑞−𝑆𝑒 𝑑𝑥−𝑆𝑒
今の目的関数は平均位因子に比例する

経路最適化法の構造
Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

目的関数 ： 符号問題の深刻さを示す関数（一意ではない）
今回は下記の関数を用意

媒介変数(簡単には実部)

各ｔで位相を揃えようとする項積分への寄与（重み）

試行関数(𝒛 の関数形) : 経路を変形させる関数
試行関数内部のパラメータを探索し、目的関数を最適化することでより良い経路を求める

経路最適化法の構造
Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

目的関数 ： 符号問題の深刻さを示す関数（一意ではない）
今回は下記の関数を用意

媒介変数(簡単には実部)

各ｔで位相を揃えようとする項

積分への寄与（重み）本手法の結果コーシー（-ポアンカレ）の定理より、積分の端が元の積分経路と一致し、且つ、極をまたがない限りは元の積分経路と同じ結果を与える

経路最適化法とニューラルネットワーク
Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

元々の経路最適化法では試行関数を用いていた複雑な系では経路の変形に人の力が必要だとコストが掛かりすぎる
そこで、ニューラルネットワークを用いて経路の最適化を行う
脳の働きを模した数理モデル

ニューラルネットワークの簡単な説明

ニューラルネットワークの説明：ニューラルネットワーク
この図はユニット数が３“多層化”すると＋非線形な活性化関数の演算

Hiddenf()

outputInputxf()

f()

yf()

f : 活性化関数

ニューラルネットワークの説明：ニューラルネットワーク
この図はユニット数が３“多層化”すると＋非線形な活性化関数の演算

Hiddenf()

output

x
実部

f()

f()

虚部

虚部

Input

f()

y実部

f : 活性化関数

実際の計算では積分変数の実部を入力とし、虚部を出力するニューラルネットワーク部分も含め FORTRAN で実装

ニューラルネットワークの説明：ニューラルネットワーク

誤差逆伝播法xy𝑑𝑦
𝐸𝑑𝑥

𝐸E : 信号

本研究での大まかな流れ

１．積分変数の実部をインプット（Hybrid Monte-Calro の場合ミニバッチ学習）

２．目的関数の勾配を上流から求めていく
３．パラメータを勾配の方向へ更新

４．虚部を出力する（誤差逆伝播）（Adadelta, Adam …）（指数移動平均をとる）

５．平均位相因子が十分に１に近づくまで繰り返す

ニューラルネットワークの説明：ニューラルネットワーク“deep”
HiddenHiddenHidden

f()

f()

f()

f()

f()

f()

f()

f()

f()

“Deep”でなくても、ユニット数を十分多く用意することで任意の関数を近似可能

我々の手法と非常に相性の良い手法

Universal approximation theorem
G. Cybenko, MCSS 2, 303 (1989)
K. Hornik, Neural networks 4, 251 (1991)

ニューラルネットワークの説明：ニューラルネットワーク"A computer program is said to learn from experience E withrespect to some class of tasks T and performance measure P if
its performance at tasks in T, as measured by P, improves with
コンピュータプログラムが、ある種のタスク T と 評価尺度 P において、experience E."
経験 E から学習するとは、 タスク T におけるその性能を P によって評価した際に、 経験 E によってそれが改善されている場合である

Tom M. Mitchell, Machine Learning, McGraw Hill (1997)

経路最適化法では、

1. 符号問題の深刻さを表す目的関数を用意

P（尺度）

2.

E（経験）

積分経路を複素積分変数空間で変形(配位を生成し、パラメータの最適化を繰り返す）

3.

良い経路を複素積分変数空間で選択

T（タスク）

経路最適化法での学習過程

一次元積分でのニューラルネットワークによる学習過程
符号問題の厳しい簡単な模型
p = 50, α = 10

固定点

固定点
シンブル

分配関数のゼロ点

J. Nishimura and S. Shimasaki,
Phys. Rev. D92 (2015) 011501

経路最適化法での学習過程

一次元積分でのニューラルネットワークによる学習過程
符号問題の厳しい簡単な模型
p = 50, α = 10

J. Nishimura and S. Shimasaki,
Phys. Rev. D92 (2015) 011501

更新ごとにより良い経路へ更新される
得られた経路上では符号問題が改善し、解析解も再現可能

経路最適化法での学習過程

一次元積分でのニューラルネットワークによる学習過程
符号問題の厳しい簡単な模型
p = 50, α = 10

J. Nishimura and S. Shimasaki,
Phys. Rev. D92 (2015) 011501

更新ごとにより良い経路へ更新される
得られた経路上では符号問題が改善し、解析解も再現可能

経路最適化法での学習過程
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

2次元複素λΦ4理論での学習過程
作用（格子化後）

2以下の計算では、

𝜅 = 1.0, 𝜆 = 1.0としたパラメータ等は、
H. Fujii, D. Honda, M. Kato, Y. Kikukawa, S. Komatsu, T. Sano, JHEP 10 (2013) 147と同様に設定（この論文自体は4次元での計算）

経路最適化法での学習過程
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

2次元複素λΦ4理論での学習過程

平均位相因子

4262
最適化

4262
μ

一次元積分とは異なり積分経路を視覚化する事が難しいので、平均位相因子（configuration 1万個で平均）をプロット

経路最適化法での学習過程
Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

平均位相因子

2次元複素λΦ4理論での学習過程

μ
現状、体積が増えると平均位相因子がやはり減少してしまう…
Configuration生成と最適化の計算コストの兼ね合いを調べる必要性

QCD有効模型K.K., Y. Mori and A. Ohnishi, arXiv:1805.08940

QCD有効模型での解析
Polyakov-loop extended NambuーJona-Lasinio （PNJL） 模型
K. Fukushima, Phys. Lett. B591 (2004) 277

L  q (i D  m0 )q  Gs  qq   (qi 5 q)2  U (, )2きちんと lattice的に取り扱うのは大変なので、空間一様な (𝜎, 𝜋) と 𝐴3 , 𝐴8 を仮定。
無限体積で平均場近似に一致する取り扱い。

𝐴3 , 𝐴8 の複素化で模型符号問題は改善可能。

QCD有効模型
K.K., Y. Mori and A. Ohnishi, arXiv:1805.08940

QCD有効模型での解析

T=100 MeV
AfterBefore

空間一様な (𝜎, 𝜋) と 𝐴3 , 𝐴8 を仮定。無限体積で平均場近似に一致する取り扱い。
𝐴3 , 𝐴8 の複素化で模型符号問題は改善可能。

QCD有効模型
K.K., Y. Mori and A. Ohnishi, arXiv:1805.08940

QCD有効模型での解析平均場近似での結果を再現することも確認。すべての平均場を複素化する必要はない。

進行中
Y. Mori, K.K., A. Ohnishi, in progress

2次元SU(2)ゲージ理論での学習過程
複素ゲージ結合では符号問題が深刻Real part of plaquette

複素ランジュバン法が失敗する領域が存在

Imaginary part of plaquette

進行中
Y. Mori, K.K., A. Ohnishi, in progress

2次元SU(2)ゲージ理論での学習過程
複素ゲージ結合では符号問題が深刻

実部

経路最適化法での計算を実行中

虚部

まとめ

符号問題の解決を目指して新しい手法の開発を行った
経路最適化法

経路最適化法符号問題の深刻さを反映する目的関数をニューラルネットワークを用いて最適化する
Quantum field theory に対しても計算可能になりつつある。

まとめ

符号問題の解決を目指して新しい手法の開発を行った
経路最適化法

経路最適化法符号問題の深刻さを反映する目的関数をニューラルネットワークを用いて最適化する
これから格子ゲージ理論へ実際に適用していく
複素結合をもった SU(2) 純ゲージ理論
Complex Langevin : H. Makino, H. Suzuki, D. Takeda, Phys. Rev. D92 (2015) 085020…
3＋1次元 有限密度QCD
Complex Langevin : D. Sexty, Phys. Lett. B729 (2014) 108