深層学習で解析・⽣成したランダム量⼦系の波動関数〜AIを⽤いた半導体中の電気伝導の解析〜
⼤槻東⺒
上智⼤学理⼯学部

T. Ohtsuki and T. Mano,
J. Phys. Soc. Jpn. 89, 022001 (2020).

@RIST セミナー
2022/7/22

S. Daimon, et al.
Nature Communications, 13, 3160 (2022).

専⾨は物性理論，ランダム量⼦系，トポロジカル系の物理• 1984年 - 東京⼤学理学部物理学科卒業• 1989年 - 同⼤学⼤学院理学系研究科物理学専攻博⼠課程修了(D2のときケルン⼤学に1年滞在)，
理学博⼠• 1988年 - ⽇本学術振興会特別研究員，DCàPD• 1990年 - ドイツ連邦物理⼯学研究所PDà⼤阪⼤学教養部助⼿• 1992年 - 東邦⼤学理学部講師• 1995年 - 上智⼤学理⼯学部物理学科助教授• 2001年 - 上智⼤学理⼯学部物理学科教授à機能創造理⼯学科に再編
2016年にAlphaGoに刺激をうけて物性物理に深層学習を適⽤し論⽂。
2016年の論⽂：6000ダウンロード（素⼈でもできることを⽰したことで論⽂賞），2020年APS
outstanding referee (機械学習の論⽂が増えたことにも起因)
機械学習は全くの素⼈でしたが，ライブラリの充実に助けられました。
miniconda, phython 3.7-3.9, keras/tensorflow 2.6-2.8で機械学習。 google colabも使⽤。
バージョンがよく変わりミスマッチが悩みの種。google colabはその問題がないが⼊出⼒が遅いという⽋点も。

物性物理学への機械学習の応⽤• 2016年後半からブーム。たとえば以下のレビューも出ている。
Mehta et al., Phys. Rep. 810, 1 (2019).
Carleo et al., Rev. Mod. Phys. 91, 045002 (2019).
Ohtsuki and Mano, J. Phys. Soc. Jpn. 89, 022001 (2020).
•

そのほか，今年になっても数編解説論⽂が出ている。

• 実際の応⽤：• 強磁性・常磁性相，⾦属相・絶縁体相の分類• 主成分解析 (PCA)，サポートベクトルマシン(SVM)• 深層学習，再帰型ニューラルネット (long short term memory network)• 制限ボルツマンマシン(RBM)で基底状態を表現• 量⼦モンテカルロ法，密度汎関数法と組み合わせるタイトルに machine learning, deep learning or neural network, を含んだ物性物理の論⽂数と引⽤数。June, 2022.

2022年度〜2026年度 科学研究費補助金 学術変革領域研究(A)「学習物理学」の創成
ー 機械学習と物理学の融合新領域による基礎物理学の変革 ー
領域代表者
橋本 幸士（京都大学大学院理学研究科教授、量子重力物理学）
計画研究班代表者
田中 章詞（理化学研究所上級研究員、機械学習）
富谷 昭夫（大阪国際工科専門職大学助教、計算物理学）
福嶋 健二（東京大学大学院理学系研究科教授、原子核物理学）
樺島 祥介（東京大学大学院理学系研究科教授、統計物理学）
野尻 美保子（高エネルギー加速器研究機構教授、素粒子物理学）
大槻 東巳（上智大学理工学部教授、物性物理学）
公募で物性の課題を積極的に取る予定です。ご応募ください。

今⽇の話：ランダム系の波動関数• 波動関数：量⼦物性を説明するツール• ランダム媒質中の光・⾳波の伝導にも応⽤できる• 前半：ランダム系波動関数の分類• 後半：ランダム系のコンダクタンスから波動関数の⽣成（逆問題）画像認識を⽤いた波動関数の分類
機械学習
PCA

ニューラルネット

SVM

多層畳み込みニューラルネット
ワーク(深層学習)

T. Ohtsuki and T. Mano, J. Phys. Soc. Jpn. 89, 022001 (2020).

BV>"! !$ 9$KHI)I3W(+X $ J@
O8!!!","""!#!!!$"## 9>&'' J"

S8#5>78N&,$
KLRi>

network（CNN)に %!*$!"#Y8-! ##neural# %!/"!><?!%!*":;<convolutional
,!!!
!#56>
$
&0 '
$0 ' #$!

of cat =99%
よる画像認識$"6>""[\,N& !C:Y] "#" # Probability"# "!/"QZ78
578-4,
Probability of dog =1%&";bb>"#W$a" ,$"!"9!A#;>$m×m×m の重みをN セット⽤意, !!,# (# = 1,2, . . , ) , * = 1, … , ,)%!!"&0 ' !

!

!/"
!!"
( !!"
$0 ' %$ $)'!! =|# $!

|"# b,$#9#G-!!

!#"

Ce>D$E3F#,&$!& 12 34,,

L-m+1:=G#"9"G-445
6!A#;CN&,(L-m&+1)/2

6#4ZL=-

L(: # ]S> ($0 'I3W(+X> ' 6123'&!

"#%#6>!!!!

of metalm $ J#K8123'& ' ,"!578-Probability
"""
6HI)
L
A$;C!>&
Probability of insulator#!!" 6^I_X9!RK-4,`GL!!!!$&J#OZS8#578

Pick up the max"6>"#W$a,!$"L#!
9"#
in 2×2×2
cells. K8$#

E3F,$"9"?C#

9#G-N&9!A#K"!9!Q;L0Z!b"!!,!'9 ! ""mBA & 9#Y8"!!9"A$K4:5>#%"L<,$&J"!9QO<## "!!" 9$8-

隠れ層 (2から8 層)# !###,!!!!#5c%$,4:9"GJPSJ %
2016%/!T.O.,00/ 0$)/!(
0

0>$!6123'&Kd<JRC?<!!!!

445 0 6 ! "" m+)

9 " G-P,Ce * % ! !# , # QZ * !# , #J #! K8I3W(+

Supervised training(教師あり学習)• 訓練• ある相（例えば⾦属相）で数千の固有関数を⽤意，また別の相（例えば絶縁体相）で数千の固有関数を⽤意して，CNNに「これは⾦属，これは絶縁体だと教える」• 交差エントロピー -Σi piʼ log pi=-Σʼ log pi を最⼩化。
• 実際には90% のデータを訓練に使い, 10% を練習問題に使う• 実践• ⾊々なパラメータでハミルトニアンを対⾓化して固有関数を求め，その固有関数はどの相のものであるかを，確率で出⼒。これによりパラメータ空間での相図が求められる

ランダムポテンシャルがあるときの物質• ⾦属，半⾦属（ワイル半⾦属が流⾏），絶縁体（トポロジカル，⾮トポ
ロジカルなど）多彩な相を⽰す。それぞれの系で波動関数は独特の振る舞いàフェルミ・エネルギーでの |ψ(x)|2 を画像とみなし，深層学習による画像認識で分類• 3次元のランダム電⼦系の相図を3次元画像解析• ⼈間の⽬で⾒るのは苦⼿な3次元波動関数を3次元画像解析で調べる• 深めの多層畳み込みニューラルネットワーク• 単純な系で学習させた結果を使って（汎化を期待し）複雑な系を解析• ⾦属・絶縁体転移（Anderson転移），量⼦パーコレーション転移• ドープされた半導体

単純なランダム系のモデル（Andersonモデル）• 3D ⽴⽅格⼦，最近接のみトランスファー (!./,. =1)

H = ∑ ε j j j + ∑ Vj ', j j ' j ,j−j ', j

WW< εj <
22%(', )) 2

2次元⾦属

40

2次元絶縁体

0.008

40

35

0.007

35

0.14

30

0.006

30

0.12

25

0.005

25

0.1

20

0.004

20

0.08

15

0.003

15

0.06

10

0.002

10

0.04

5

0.001

5

0.02

0

0

0.16

’wfW0124.txt’

0
0

5

10

15

20

25

30

35

3次元⾦属

Anderson局在Anderson⾦属・絶縁体転移40’wfW1240.txt’

0
0

5

10

15

20

25

30

35

40

3次元絶縁体%(', ), +) 2

11

Deep (9 weight layer) CNN

3D アンダーソン転移

(3 2

a
ja

5×5×5

1

3×3×3

c
u

c

絶縁体

BTO

K:B

3 UVUZ

転送⾏列＋スケーリング

⾦属

ip

1

c

2×2×2

c

i
m

UL SG]actaこの結果を量⼦パーコレーションに適⽤• 古典パーコレーション：ボンドやサイトが確率 pでつながっていたり占有されている.
• ボンド型の量⼦パーコレーション.
• " = ∑ !. " ,. |' / ⟩⟨'|, !./,. =0 or 1 with probability 1-p or p.

• サイト型では確率pでサイトが占有され，上下，左右が占有されていれば繋げる。
• d>1の場合， p>pc で端から端までつながったクラスターが現れる
pc パーコレーション閾値

http://phony1.technion.ac.il/~phr76ja/coventry/coventrysites.html

古典・量⼦パーコレーションと⾦属-絶縁体転移• p<pc , クラスターはどれも有限 à 系の端から端まで電流を流せないので絶縁体• p>pc , 系の端から端までつながっているクラスターが出現し電気が流れるà ⾦属• 繋がってるクラスタの⼤きさ• 電気伝導度! ∝ ($ − $# )$' ∝ ($ − $# ) % ,• 電⼦は波なのでクラスター上で⼲渉して,定在波を作る可能性がある（Anderson局在）。 p>pc でも 電気は流れず pq>pc を満たすp>pq でよう
やく電気が流れる• pq 量⼦パーコレーション閾値.

• パーコレーション問題では格⼦がランダムなので• 転送⾏列が使えない• 状態密度がスパイキー

Anderson モデル（AM）と 量⼦パーコレーションの波動関数は似ているàAMで鍛えたCNNを再利⽤

PHYSICAL REVIEW B 90, 174203 (2014)

LÁSZLÓ UJFALUSI AND IMRE VARGA

Andersonmodel

quantum
percolation

Ujfalusi and Varga, PRB ‘14

FIG. 3. (Color online) First row: Eigenvectors of the Anderson model at E = 0 (a) on the metallic side at W = 14, (b) close to criticality
W = 16.5, and (c) on the insulating side at W = 20. Second row: eigenvectors of the quantum percolation model at energy E = 0.1, (d) on
the metallic
side at p = 0.5,
! (e) close to criticality,! p = 0.4535, and (f) on the insulating side at p = 0.4. Box sizes correspond to (a),(d)!
400 × |!|2 ; (b),(e) 70 × |!|2 ; and (c),(f) 20 × |!|2 . Multiplying factors were tuned to best sight but without overlapping cubes. Systemsize, L = 120, for all subfigures. Coloring is due to the x coordinate.

entropy, Hq = (q − 1)−1 ln Rq , which in the limit" q→1
yields the well-known Shannon entropy, i.e., − k µk ln µk .
This is the reason why D1 is also referred to as information
dimension:

Let us denote the probability density function of the numberof boxes having a value α with P(α). The scaling of P(α) is
described through the singularity spectrum f (α), which is thefractal dimension of the number of boxes having a value α:Andersonモデルで鍛えたCNNを3D量⼦パーコ
レーションの波動函数に適⽤して相を判定させる

⾮局在状態=metal⾦属

⾮局在状態=metal⾦属

局在状態，絶縁体=insulator

Site percolation; T. Mano and TO: J. Phys. Soc. Jpn. 86, 113704 (2017)(white dashed line,Ujfalusi）
and Varga, ‘14)

在問題がこの状況に当たる*2 ．古典的にはパーコレーション閾値c

るわけである．べるようにニューラルネットワークが抽出してくれれば，金属，絶縁体の判定が可能となワークが抽出してくれれば，金属，絶縁体の判定が可能とな

全体に広がったクラスターが形成され電気が流れ始め，金属ー絶り大きな ps で系全体に広がったクラスターが形成され電気が流るわけである．
一度このモデルで学習して作ったニューラルネットワークは，今度は他のモデルで得ら

一度このモデルで学習して作ったニューラルネットワークは，今度は他のモデルで得ら縁体転移が起こる．一方，量子力学的に振る舞う電子の場合，たれた波動関数が金属的であるか，絶縁体的であるかを判定できるようになる．演習問題．一方，量子力学的に振る舞う電子の場合，たとえクラスターが作ったニューラルネットワークは，今度は他のモデルで得られた波動関数が金属的であるか，絶縁体的であるかを判定できるようになる．演習問題を十分勉強すれば応用問題も解けるようになるのと似ている．ここでは，以下の“応用問
か，絶縁体的であるかを判定できるようになる．演習問題
系全体に広がっていても，電子がクラスター上で局在しているを十分勉強すれば応用問題も解けるようになるのと似ている．ここでは，以下の “応用問
いても，電子がクラスター上で局在している限り絶縁体のまま題”を考える．
解けるようになるのと似ている．ここでは，以下の“応用問題”を考える．
である．よって電流が流れ始める条件は ps > pq (≥ pc ) である

その他のモデルへの応⽤

流が流れ始める条件は ps > pq (≥ pc ) である．pq は量子パーコ!W"
1! W から，ガ"1.
ポテンシャルVの確率分布を上記の箱型分布
P
(V
)
=
Θ
−
|V
1
x
x
x| − |V• ポテンシャルエネルギーの分布を変えるW
2=
レーション閾値と呼ばれる．
1. ポテンシャル Vx の確率分布を上記の箱型分布
P
(V
)
Θ
から，ガ
x
x|
W
2
$ #
#
2
$
!W
" √ 1
V
W
Vx2
1
1 x 2 , コーシー分布
W
呼ばれる．
P−(V
)
=
exp
−
P (Vx ) = Pπ(V
√
2)
xウス分布
,
P
(V
)
=
exp
−
コーシー分布(V= 2π(V
率分布を上記の箱型分布
P (Vx ) =ウス分布
Θ
|V
から，ガ
2
2W
+W
) にし
2
2 +W 2 ) にし
x
x
x|
2
2πW
2W
x
W
2
2πW
x
3. 上記の問題に磁場をかけることで時間反転対称性を破ったも
$
#
Vx2
1
W
たもの．
exp − 2W 2 , コーシー分布
P (Vx ) = π(Vたもの．
%%
2 +W 2 ) にし
• 磁場を⼊れてみる
πW 2をかけることで時間反転対称性を破ったもの．この場合，最近接格子へのトランスファー†
t !c! # cx cx ! を"x,x
2. ポテンシャルは一定であるが，格子がランダムなもの．例えば，サイトが確率
ps"x,x! # x,x
2.• ポテンシャルは一定であるが，格子がランダムなもの．例えば，サイトが確率ps
格⼦点間の移動に位相を⼊れる
x

%

%

† !
†
で占有されている，いわゆるパーコレーションクラスター上での電子の局在ー非局! c cx! と変形する．
tx,x! = exp(iθx,x! ) で, θx,x! はランダムな磁場から生じていると
ンスファー
c
c
を
t
で占有されている，いわゆるパーコレーションクラスター上での電子の局在ー非局
!
!
x
x,x
x ps
あるが，格子がランダムなもの．例えば，サイトが確率"x,x # x"x,x #*2 ．古典的にはパーコレーション閾値 p (≈ 0.3116) よ在問題がこの状況に当たるc*2 ．古典的にはパーコレーション閾値在問題がこの状況に当たる
pc (≈ 0.3116)
よ様乱数とする．
わゆるパーコレーションクラスター上での電子の局在ー非局
で x,x! はランダムな磁場から生じているとして，の一り大きな ps で系全体に広がったクラスターが形成され電気が流れ始め，金属ー絶り大きなp
で系全体に広がったクラスターが形成され電気が流れ始め，金属ー絶2s*たる ．古典的にはパーコレーション閾値 pc (≈ 0.3116) よ) ,θ

[0, 2π]縁体転移が起こる．一方，量子力学的に振る舞う電子の場合，たとえクラスターが縁体転移が起こる．一方，量子力学的に振る舞う電子の場合，たとえクラスターがに広がったクラスターが形成され電気が流れ始め，金属ー絶系全体に広がっていても，電子がクラスター上で局在している限り絶縁体のまま*2 最近接サイトが両方とも占有されていれば繋がっているとみなす．繋がっているサ系全体に広がっていても，電子がクラスター上で局在している限り絶縁体のまま方，量子力学的に振る舞う電子の場合，たとえクラスターがと呼ぶ．
である．よって電流が流れ始める条件はps > pq (≥ pc ) である．pq は量子パーコである．よって電流が流れ始める条件は ps > pq (≥ pc ) である．pq は量子パーコ
も，電子がクラスター上で局在している限り絶縁体のままレーション閾値と呼ばれる．

占有されていれば繋がっているとみなす．繋がっているサイトの塊をクラスター
レーション閾値と呼ばれる．

上記の問題に磁場をかけることで時間反転対称性を破ったもの．この場合，最流れ始める条件は ps > pq (≥ pc ) である．pq3.は量子パーコ
17
%
%
†
†
3.
上記の問題に磁場をかけることで時間反転対称性を破ったもの．この場合，最! を近接格子へのトランスファー
c
c
!
x
x
"x,x #"x,x! # tx,x! cx cx! と変形する．
れる．

%

%

†
†
3 [0, 2π] の一近接格子へのトランスファー
tx,x! = exp(iθx,x! ) で"x,x, θx,x! #! cはランダムな磁場から生じているとして，
x cx ! を"x,x! # tx,x! cx cx! と変形する．
かけることで時間反転対称性を破ったもの．この場合，最

スファー

%

"x,x! #c†x cx! を様乱数とする．
! ) で, θx,x! はランダムな磁場から生じているとして，[0, 2π] の一
tx,x! =! exp(iθx,x†! と変形する．
t
c
c
!
x,x
x
x
"x,x #%

元のモデル

ポテンシャルがガウス分布

ポテンシャルがコーシー分布

元のモデルに磁場格⼦がランダム

格⼦がランダム＋磁場

18

波動関数の認識はできた。それ以外の使い道は？
ノイズから有益な情報を読み取れないか？
àコンダクタンスの揺らぎを解釈して物質の内部を推測。伝導度からハミルトニアンを予測という逆問題
東⼤物⼯，⿑藤グループとの共同研究
Deciphering quantum fingerprints in electric conductance
S. Daimon, K. Tsunekawa, S. Kawakami, T. Kikkawa, R. Ramos, K. Oyanagi, T. Ohtsuki,
and E. Saitoh, Nature Communications, 13, 3160 (2022).

ナノサイズの系における磁気抵抗
AB oscillation

AB ring量⼦⼲渉

RAharanov-Bohm 効果
AB oscillation

B
C. P. Umbach et al. , Phys. Rev. Lett. 56, 386 (1986).

複雑な磁気抵抗，ノイズ like。
普遍的コンダクタンス揺らぎ
しかしサンプル固有で，再現性がある
à磁気指紋，量⼦指紋と呼ばれている
揺らぎの⼤きさは普遍的，)(+ 0 /ℎ)

量⼦細線

磁気指紋

S. Matsuo et al. , Phys. Rev. B 88, 155438 (2013).

! " からもっと情報を得られないか
g (B) (e2/h)

磁気抵抗

B (T)

深層⽣成ネットワーク

潜在空間

feature波動関数を⽣成ポテンシャルの位置を推測

正⽅形の中に円 (antidot)àSinai ビリヤード，カオス系
その量⼦⼒学版はUCFを⽰すことが知られている。

磁場

ハミルトニアン

アンチドット散乱状態の波動関数

計算(順問題)?
逆問題

伝導度の磁場依存性
磁気抵抗
fluctuation δG (e2/h)

電流

量⼦細線

B (h/e)

⾮周期的な振動Python ライブラリ “kwant” で! " を計算
wf

Kwant

Kwant
S⾏列

散乱状態

50 sites( 20 nm )tight binding model
lead

lead

1 2

B (h/e)101 data points

60 x 60 image
ハミルトニアン
コンダクタンスδG (e2/h)モデル

60 sites ( 24 nm )B2

磁気指紋(量⼦指紋)

Sample, WF
アンチドットの配置

?

?

?

?

?

Fluctuation δG

Magneto-conductanceB

Looks like noise

波動関数を構築できるか︖

通常の⽣成ネットワーク

DNN

Traditional DNN

minGenerated image×max

amplitude^2

Amplitudes^2

max

Magneto-conductance
伝導度の磁場依存性
伝導度の磁場依存性
Fluctuation δG (e2/h)

Wave functions
Positionsof antidots?

101-dimB (h/e)min?

3600-dimそこで以下のY字型NNを考える
g(B)
Deep generative NN

WF?
WF images

Variational Autoencoder (VAE)

Variational Autoencoder (VAE)
⼊⼒: WF
潜在空間
7 dims3600次元60x60 dims

⽣成

出⼒
⽣成された “WF”

圧縮
3600次元

データ集合の作る⾼次元空間上の分布
à 特徴抽出成功
Input≒outpt

60x60 dims

Developing the networkg(B)Feature extraction
from input WFs

Latent space z
in 7 dims

100次元

Input WF
3600 dims

reparameterization trick

Output “WF”
3600 dims?

batch normalization
fully connectedconvolution

Training VAEDeveloping network 2g(B)101-dim

WFs

3600-dim

WF を g(B) を⽣成
Output “WF”

dropout
fully connected

3600 dims

7次元潜在空間
ここは固定?

NNにより磁気コンダクタンスから散乱状態を予測?

VAE neural network

Generated image

minamplitudes

Amplitude2

max

Magneto-conduc. max
伝導度の磁場依存性
fluctuation δG (e2/h)

WF?
3600-dimminfield B (h/e)

S. Daimon et al., Nature Comm. 13, 3160 (2022).

潜在空間をもう少し理解g(B)100-dim

波動関数の情報を抽出
7次元空間は可視化できない
Latent space
7D

3600-dim

WF

3600-dimt-SNEによる次元圧縮
3D

t-Distributed
Stochastic Neighbor
EmbeddingWF

t-SNE
・t-Distributed Stochastic Neighbor Embedding:
⾼次元データ (! >3) を次元圧縮で ! =3 or 2に落とす.
(#)

・"! ($ = 1,2, … , * , + = 1,2, … , ! = 7) オリジナルデータ。
(#)

・.! ($ = 1,2, … , * , + = 1,2,3) 次元圧縮されたデータ。
(#)
(#)
(#)
(#&)
(#)
(#&)
"! から .! へのマップ︓ " と " の間の距離が . と .

の距離と同じようにする.

Visualization of 3-dim space
Layered structurewith thickness

Visualization of 3-dim space (2)WF interference

quantum

Only antidots

classical

Visualization of 3-dim space (3)Move left

Single layer structure

Move downVisualization of 3-dim space (4)Training with WF

Training without WF

Quantuminterference

Layer with thickness

Single layer

Experimental result42@ 30mKFigure 4 | An experiment using a real nano system. a, A scanning electron microscope
Supplementary

43

image of an Au wire fabricated by electron beam lithography. Black and gray areas are the SiO2 substrate

44

and Au wire, respectively. The white circles in the wire are the damaged areas introduced by electron beam

まとめ・機械学習を使った⼿法à最近⾝近に・物性物理にも盛んに応⽤
・波動関数の分類àランダム量⼦系の相図・フーリエ変換した波動関数の分類も有効
・特にトポロジカルな系に有効・ノイズのような扱いを受けていた磁気コンダクタンスà
物質内部のポテンシャルの形状。顕微鏡が使えない内部の情報を得る⼿段に期待