機械学習が抽出する特徴とイジング模型の相転移点

船井 正太郎 （株式会社アラヤ）
2022年10月27日 @「ディープラーニングと物理学 オンライン」

「初めまして」の方も多いと思いますので…
名前：船井 正太郎
2017年まで
論文では柴 正太郎

Shotaro Shiba Funai

研究分野：

2015年まで 物理学の超弦理論の研究
2016年から機械学習の研究

職歴：
学振研究員(PD)、益川塾とKEKの博士研究員、OISTの研究員などを経て、2022年10月から

株式会社アラヤのチーフリサーチャー

最も根底にある興味は…
機械学習 (AI) が数値的に捉えられる、データの「特徴」とは結局何なのか？
可能ならば物理学の概念を応用して理解したい！

橋本幸士さん編

船井正太郎（第10章）

https://www.tibco.com/

もし機械学習が本当に脳や意識の toy model と見做せるならば、「意識の物理学」が創れるかもしれない…？

dream…

研究1：機械学習は短歌を鑑賞できるのか？
（機構間連携におけるプロジェクト、2019年から）

https://youtu.be/wP0RAWF6_h0

短歌の「特徴」をBERTのベクトルで表現して解析

短歌を読むときの人間の脳をfMRIで計測して、BERTベクトルとの対応（各部位・各層の相関）を解析

研究2：チャットコマースにおける文章・画像の自動生成（株式会社人々との共同研究、2020年から）
CEO石川さんの目標は…
一人ひとりのユーザーが気持ちよく商品を買えるようなメッセージを生成できる、ユーザーに寄り添えるAIシステムを作りたい！
そうしたシステムを開発すべく、BERTやViTなどが捉える文章や画像の「特徴」を活用しています。

研究3：脳活動を統合的に理解する研究（脳活動データ間の変換）（株式会社アラヤでの研究、ムーンショットプロジェクト、2022年から）脳波測定 (EEG) のデータ：
時間分解能は良いが、空間分解能は悪い。
脳の深いところはよく見えない。
fMRI測定のデータ：
空間分解能は良いが、時間分解能は悪い。
脳の深いところまでよく見える。

機械学習で両方の「特徴」を捉えた上で、相互に変換する技術を目指します。

研究4：学習物理学の研究（学術変革Aでの研究、2022年から）物理学で多用される概念の中で、主にトポロジーを使って、機械学習の新しい側面を見出していきたいと思っています。

その土台となるかもしれない研究として…

お誘いいただき有難うございます！

つまり…「特徴」って何だろうか？
今日のテーマ：イジング模型におけるスピン配位の特徴抽出• 物理学の概念（特に繰り込み）を使って「特徴」が議論できそう！
• イジング模型のハミルトニアン（1次元または2次元の正方格子を考える）• 様々な温度におけるスピン配位（他のパラメータは固定: 𝐽 = 1, 𝐻 = 0; 白: 𝑠𝑖 = 1, 黒: 𝑠𝑖 = −1）

相転移点 𝑇 = 𝑇𝑐 = 2.27

➢ 入力データ（不思議に感じるかもしれませんが…）[Iso-SSF-Yokoo, ’18] [SSF-Giataganas, ’18]

• スピン配位を Metropolis Monte Carlo シミュレーションで生成する。

• 入力データには、一定の間隔をもつ様々な温度（や外場 𝐻）のスピン配位が同じ数だけ含まれるようにする。例えば、𝑇 = 0, 0.1, 0.2, … , 9.9（100個の温度）を1000枚ずつ。
• このデータセットは物理系としては不自然なものだが、入力データに画像として様々なパターンが含まれるように選んだ。
• こうして入力データが決まれば、スピン配位の確率分布が定義できて、計算ができる。

➢ 機械学習には制限ボルツマンマシン (RBM) を使う• 入力データと同じ確率分布でデータを出力するように学習をする、ニューラルネットワークである。
• 学習の過程で、RBM は入力データの「特徴」を抽出する。

• 出力データの確率分布を、ニューラルネットワークの言葉で定義する必要があるが、RBM では visible, hidden ニューロンの値を用いて「エネルギー」関数を定義した上でweights 𝑤𝑖𝑎 , bias 𝑏𝑎 , 𝑐𝑖

Boltzmann 分布によって確率分布を定義する。
visible,• RBM を訓練する（＝weightsとbiasを最適化する）ときには、
入力データと出力データの確率分布の KL divergence が極小(local minimum) に近づくようにする。
Loss function:hidden• この KL divergence は2つの確率分布の「距離」のようなものである。

入力が 𝑣𝑖 である確率 / 出力が 𝑣𝑖 である確率• 我々の研究では、入力データはスピン配位（白黒）なので 𝑣𝑖 = ±1 に限られる。
また、hidden ニューロンの値も binary (ℎ𝑎 = ±1) のみに限定する。
• すると、hidden ニューロンと（再構成したときの）visible ニューロンの期待値は、Boltzmann 分布を用いて計算できる。
,• 出力（再構成された）データも当然、𝑣෤𝑖 = ±1 に限定したい。そのために、配位の各スピンの期待値 𝑣෤𝑖 を確率 (1 ± 𝑣෤𝑖 )/2 で、 𝑣෤𝑖 = ±1 に置き換える。 期待値を変えない操作• 訓練が終わると、入力データの確率分布 𝑞 𝑣𝑖 と出力データの確率分布 𝑝({𝑣෤ 𝑖 }) は似ているけれども少し違うものになる（現実的には KL divergence は0にならないため）。
• この出力データを再び入力すると、また少し違う確率分布𝑝෨෤ 𝑣𝑖 の配位データが出力（再構成）される。
• この操作を繰り返し行うと、スピン配位の確率分布の flow が෨෤ 𝑣𝑖 ) → …
得られる： 𝑞 𝑣𝑖 → 𝑝({𝑣෤ 𝑖 }) → 𝑝(
• これを RBM flow と名付けた。

[Iso-SSF-Yokoo, ’18]

➢ いろいろ素朴な疑問が湧いてくると思います1. この RBM flow はイジング模型の RG（繰り込み群）flow と対応するか？（どちらも特徴的でない情報が欠落する flow のはず）
2. もし RBM flow が固定点を持ったら、それは「特徴」そのものを表現するか？（RBM flow に沿って特徴が強調されるはず）

我々の結果を眺めてみよう[Iso-SSF-Yokoo, ’18]
[SSF-Giataganas, ’18]

➢ RBM flow はパラメータ 𝑇, 𝐻 の空間に固定点を持つ！
• スピン配位の固定点は存在しない。従って、RBM flow の固定点 𝑇, 𝐻 における新しい配位を作り続けることになる。

MMC シミュレーションのパラメータ

2. 外場なし (𝐻 = 0) の配位のみを扱う場合は、ハミルトニアンでエネルギーを計算して、温度 𝑇 を見積もることができる。
（1の方法と矛盾しない結果が得られる。）

physical quantities

1. 別のニューラルネットワークを訓練して、入力データの正しい(𝑇, 𝐻) を出力できるようにする。（教師あり学習）

each pixel of configs• 出力データ（配位）の (𝑇, 𝐻) を見積もるために、我々は2つの方法を使った。

➢ RBM flow と RG flow の振る舞いは異なる！
[Iso-SSF-Yokoo, ’18]

RBM flow は相転移点 𝑇 = 𝑇𝑐 ~ 2.27 に近づいていき、𝑇 = 0, ∞ から遠ざかっていく。
これは RG（繰り込み群）flow とちょうど逆の方向になっている。

確率分布2d, H=0

𝑇𝑛ℎ = 81T=0（低温）の配位から再構成した場合

𝑇
T=6（高温）の配位から再構成した場合

Data: configs in 10x10 lattice, 1000 configs at each T=0, 0.25, …, 6, H=0.
(Same results when T=0, 0.25, …, 10 / T=0, 0.25,…, 2 and 4, 4.25,…, 6.)

RBM hyperparameters: 𝑛𝑣 = 100, 𝑛ℎ ≤ 𝑛𝑣 , learning rate = 0.1, epoch = 5000➢ 1次元と2次元のスピン配位で外場あり (𝐻 ≠ 0) の場合に一般化[SSF-Giataganas, ’18]

• RBM flow は、パラメータ (𝑇, 𝐻) 空間で比熱が極大になる点に近づいていく。
この flow とその固定点は、やはり RG flow とは異なる。
1d2d𝐻𝑇𝐻𝑇𝑛ℎ = 9• Data: configs in 100 (1d) or 10x10 (2d) lattice, 1000 configs at each (T,H),
where T=0, 0.5, …, 9.5 and H=0, 0.5, …, 4.5.
• RBM hyperparameters: 𝑛𝑣 = 100, 𝑛ℎ ≤ 16, learning rate = 0.001, epoch = 10000

相転移点
𝑇 = 𝑇𝑐 , 𝐻 = 0を含んでいる（一般化）

面白い結果には見えるけれども…
• 理由がはっきりしない：スケール不変性と関係があるのか？
• 条件がはっきりしない：様々なパラメータ依存性を調べるべき。

なぜ、いつ、RBM flow の固定点は 𝑇 = 𝑇𝑐 に現れるのだろうか？（𝐻 = 0 の場合）相転移点におけるスピン配位はスケール不変性をもつ

なぜ？：スケール不変性をもつ証拠➢ 次の2つの RBM を作って、RBM flow と weight 行列を解析しよう。
そして、比較してみよう。
[Iso-SSF-Yokoo, ’18]
• 低温の（大きなスケールをもつ）配位のみで訓練した RBM• 幅広い温度 𝑇 = 0, 0.25, … , 6 の配位で訓練した RBM（先ほどと同じ）

2d, H=0

確率分布

低温

高温
T=0の配位のみを学習した RBM

T=0, …, 6 の配位を学習した RBM

➢ Weight 行列 σ𝑎 𝑤𝑖𝑎 𝑤𝑗𝑎 の固有値

Hidden ニューロンの基底に依存しない積を取った• RBM が低温の配位のみ学習した場合、少数（5個）の固有値だけが特に大きくなる。

• RBM が様々な温度 𝑇 = 0, 0.25, … , 6（高温を含む）の配位を学習した場合、すべての固有値が似たような値をもつ。
様々な温度（＝様々なスケール）の配位を学習するために、多くの hidden ニューロンが必要になるのだろう。
log |𝜆𝑎 |log |𝜆𝑎 |RBM: only T=0

RBM: T=0,…,6𝑛ℎ𝑛ℎ➢ Weight 行列 𝑤𝑤 𝑇 の固有ベクトル• 低温の配位のみを学習した RBM (𝑇 = 0, … , 2, 𝑛ℎ = 16)
大きなスケールをもつ配位が大きな固有値をもつ。

• 様々な温度の配位を学習した RBM (𝑇 = 0, … , 6, 𝑛ℎ = 16)
様々なスケールをもつ配位が似たような固有値をもつ！

それらすべての配位が出力（再構成）データに現れるスケール不変性？

いつ？：RBM 固定点が 𝑇 ~ 𝑇𝑐 に現れる条件[SSF, ’21]

Nv=20^2（visible ニューロンの数＝配位のサイズ）

RBM 固定点の温度Ntemp: 学習データに含まれる温度の数
𝑇 = 0, 0.1, … , 0.1 × 𝑁𝑡𝑒𝑚𝑝 − 1 の配位が同数ずつ（外場なし）。

2d, H=0

Nh/Nv ~ 1/4 の辺りでRBM 固定点の温度が最低になり、その温度が 𝑇 ~ 𝑇𝑐 になるようだ。
Nh: hidden ニューロンの数

温度の代わりにエネルギーを使って、さらに詳しく結果を見よう。
（エネルギーは 𝑇 ~ 𝑇𝑐 で大きく変化するため）

RBM 固定点のエネルギー

Nv=20^2

Nv=20^2

学習データの大部分が超高温（ほぼランダム）だと…

Ntemp

Ntemp

最小エネルギーも相転移点から離れていくか…

RBM 固定点のエネルギーが最小となる Nh は、Ntemp（温度の範囲）に依存して変化する。
特に Ntemp が大きくなると、エネルギーが最小となる Nh は Nh/Nv ~ 0.42 に収束するようだ。
ここから先は、エネルギーが “最小” となる Nh=(integer)2 のみに注目しよう。

スピン配位のサイズが大きくなれば、Ntemp が大きくなっても、RBM 固定点の最小エネルギーは相転移点から離れにくくなる（よりゆっくり上昇する）。
RBM 固定点の最小エネルギー

Nh fixed

このプロットから推測できることは…
Nv1/2

Nv: visible ニューロンの数＝配位のサイズ
Ntemp: 学習データに含まれる配位の温度は𝑇 = 0, 0.1, … , 0.1 × (𝑁𝑡𝑒𝑚𝑝 − 1)

✓Ntemp → ∞, Nv: fixed の場合：
RBM 固定点は 𝐸 ~ 0, 𝑇 → ∞ になる。

✓Ntemp: fixed, Nv → ∞ の場合：
RBM 固定点は低温に向かうが、𝑇 ≠ 0 の有限温度で収束するだろう。
小さい Ntemp < 100 の領域で、固定点は𝐸 ~ − 1.7, 𝑇 ~ 𝑇𝑐 であることを考えれば、収束する温度は 𝑇 ~ 𝑇𝑐 になるだろう。

参考までに、これらの RBM 固定点を Energy = −2 + 𝑎 𝑁𝑡𝑒𝑚𝑝 𝑏 で fitting すると、かなりきれいに fit できて…
パラメータ a と b のプロット
Nv1/2（𝑁𝑡𝑒𝑚𝑝 ≥ 100 の点のみ fitting に使った）

Nv が大きくなると、パラメータ a, b はどちらも減少する。
従って、Ntemp vs. energy のプロットは Nv → ∞ の極限でよりフラットになるだろう。

以上の議論に基づいて、私は次の仮説を提案します！
Ntemp が大きくても固定されていれば、Nv を充分に大きくすると、RBM 固定点は 𝑇 ~ 𝑇𝑐 に現れるだろう。

Nv を大きくすると RBM 固定点のエネルギーが小さくなる理由は…
• 学習データに含まれる（完全に）ランダムなスピン配位が少なくなるから。
• ランダムな配位が少なくなれば、RBM はより多くのパターンを学習できる。
• 逆に、もしランダムな配位しかなければ、RBM は何も学習できない。
（loss function の値を小さくする術がない…）
学習データの平均エネルギー

エラーバー (1σ) を見ると、Nv が大きくなれば、ランダムな配位は減ることがわかる。

randomcf. 各温度の配位がもつエネルギー
Nv1/2

Nv=20^2

RBM が学習したパターンは weight 行列 𝑤𝑤 𝑇 の固有ベクトルの中に見つけられる。
（以下はすべて Nv=20^2, Nh=8^2 の結果）
N_temp=200

N_temp=300

N_temp=400

N_temp=500

N_temp=600
大きな固有値のベクトルはほぼランダムなパターン

N_temp=700

学習データの大部分がほぼランダムな配位でも、RBM はランダムでないパターンを見つけて学習する！
14%
8^2 個中 9 個の固有ベクトルがランダムでないパターン

RBM が学習したパターンは weight 行列 𝑤𝑤 𝑇 の固有ベクトルの中に見つけられる。
（以下はすべて Nv=10^2, Nh=4^2 の結果）N_temp=200

N_temp=300

N_temp=400

N_temp=500

N_temp=600

N_temp=700

Nv が小さくなるとすべてランダムなパターン

0%0個の固有ベクトルがランダムでないパターン

RBM が学習したパターンは weight 行列 𝑤𝑤 𝑇 の固有ベクトルの中に見つけられる。
（以下はすべて Nv=32^2, Nh=13^2 の結果）
N_temp=200

N_temp=300

N_temp=400

N_temp=500

N_temp=600

N_temp=700

Nv が大きくなるとランダムでないパターンの割合が増える
様々なスケール→ スケール不変性に28%13^2 個中 48 個の固有ベクトルがランダムでないパターン

Nv=32^2,Nh=13^2,N_temp=700

結論として➢ イジング模型のスピン配位がもつ特徴を抽出するために、RBM の機械学習を行った。
➢ 配位の再構成によって得られる RBM flow は固定点（＝特徴）をもつ。
この点は RG flow と似ているが、flow の振る舞いは明らかに異なる。

➢ このとき RBM が掴んだ特徴は（相転移点において配位がもつ）スケール不変性であろうと、我々は提案した。
➢ さらに、RBM flow の固定点が相転移点に現れるために満たすべき条件（Ntemp は固定した上で、配位のサイズを充分大きくする）も提案した。