Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THP12

機械学習を用いた加速器運転調整システムの開発：
GAN を用いた加速器シミュレータの開発
DEVELOPMENT OF AN ACCELERATOR CONTROL SYSTEM USING MACHINELEARNING：
DEVELOPMENT OF AN ACCELERATOR SIMULATOR USING GAN
度会龍#, A), 岩崎昌子 A, B, C, D), 中島悠太 B), 武村紀子 D, E), 長原一 D), 中野貴志 C, D), 佐藤政則 F), 佐武いつか F)
Ryu Watarai #, A), Masako Iwasaki A, B, C, D), Yuta Nakashima B), Noriko Takemura D, E), Hajime Nagahara D),
Takashi Nakano C, D), Masanori Satoh F), Itsuka Satake F) A)A)Osaka Metropolitan University Graduate School of ScienceB)
Nambu Yoichiro Institute of Theoretical and Experimental Physics (NITEP)C)
Research Center for Nuclear Physics, Osaka University (RCNP)
D)
Osaka University Institute for Datability Science (IDS)E)
Kyushu Institute of Technology (Kyutech)F)
High Energy Accelerator Research Organization (KEK)

Abstract

We have developed a machine-learning-based operation tuning scheme for the KEK e-/e+ injector linac (Linac). In
order to apply machine learning to accelerator control, pre-training using a realistic accelerator simulator is required. For
the pre-training, we have developed a 1000-parameter accelerator simulator based on dimensionality reduction and GAN(Generative Adversarial Network). In this paper, we show the current status of the development of the accelerator
simulator, and evaluation test results of the simulator.
用した、加速器シミュレータの開発を行ってきた。GAN
1. はじめには、与えられた実データを模倣する機械学習である。加
本研究では、高エネルギー加速器研究機構(KEK)で 速器実データを模倣することで、実データと同じ特徴を稼働中の電子陽電子加速器である KEK Linac の入射効 持つシミュレータ構築が期待できる。
しかし、これまでの我々の研究により、以下が明らかに率向上を目的として、機械学習を用いた運転調整システなった[2]：ムの開発を行った。
加速器の運転調整においては、以下のような問題が 1) 加速器実データ（約 1000 パラメータ）を、直接 GANに入力した場合、モード崩壊（生成するデータの種ある。
類が実データの持つデータの種類と比較して偏って 制御点数が多く(O(1000)、または、それ以上)、パラしまう。GAN 特有の問題。）が生じ、実データが再現メータ間の相関が複雑である。そのため、複雑で高できなかった。入力するパラメータ数が非常に多い度な加速器調整が必要である。
ことが原因であると考えられる。
 加速器構成機器の温度変化、振動、潮汐力による
2)
変 分 オ ー ト エ ン コ ー ダ （ Variational Autoencoder,影響など、周囲の環境変化に応じて常に最適なマVAE[3]）を用いて、実データを次元削減し、得られシンパラメータの値が変化するため、常時パラメーた潜在変数（100パラメータ）を GAN に入力した。さタの最適化が必要である。
らに、VAEのデコーダを使用して、GANからの出力
したがって、環境変化に応じて最適化を行う、環境適を復元させることで、疑似データを生成した。
応型機械学習（強化学習）を導入した加速器制御システ
Figure1に、モデルの概略図を示す。このモデルにムの開発が有効であると考えられる。
強化学習は、環境変化に応じて、得られる報酬を最大化する機械学習である。例えば、入射効率を報酬とする
強化学習によって、入射効率を最大化できることが期待される。その一方で、機械学習を用いた加速器調整を適用する場合、実際の加速器を用いて直接パラメータ最適化を行うのは危険が伴うと考えられる。そのため、リアルな加速器シミュレータが必須である。
我々はこれまでに、機械学習を導入した加速器シミュレータの開発として、敵対的生成ネットワーク(Generative
Adversarial Network, GAN[1])と呼ばれる機械学習を使Figure 1: Overview of accelerator data simulation using
GAN and VAE.

___________________________________________# sf22877g@st.omu.ac.jp- 703 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THP12

さ 600 m の線形加速器で、最大 50 Hz、2 バンチ（96 ns間隔）運転が可能であり、電子・陽電子を４つのリング型加速器、Photon Factory (PF)、PF Advanced Ring (PFAR) 、 SuperKEKB 電 子 リ ン グ (HER) 、 陽 電 子 リ ン グ(LER)へ振り分け供給している。
Figure 5 に Linac 加速器の全体図を示す。Linac 加速器にはビーム位置モニター（BPM）が 100 台、ステアリング電磁石が 30 台、RF モニターが 60 台配置されている。

次元削減を行った場合

次元削減を行わない場合
ー 実データー 疑似データー 実データー 疑似データ

電磁石パラメータ(PY-32-4）

Figure 2: Steering electromagnet (PY-32_4) current
values without (left) and with (right) the dimensionality
reduction using VAE, for real data (blue) and generated
data with GAN (orange).
より、モード崩壊を解決することができた(Fig. 2)。
3) その一方で、Fig. 3 に示すように、生成した疑似データは実データの相関を再現できないことが分かった。
これは、VAE による信号復元が不完全であることを示唆している。

以上の結果より、GAN を使用した加速器シミュレータには次元削減手法が有効であることと、加速器パラメータの相関を再現するシミュレータのためには、VAE 以外の次元削減手法の開発が必要であることが分かった。

Figure 4: Accelerator placement at KEK.

3.
本研究では、次元削減を行いつつ、実データの持つデータ相関を再現できる手法の開発を目標として、新たに入射効率や電磁石電流値を予測する DNN をデザインし、KEK Linac 加速器の実データを用いて予測精度の検証を行った。本稿では、これらの検証結果について報告する。
VAE(decoder)による復元データ

入射効率

入射効率

実データ

電磁石パラメータ(PY-32-4）

電磁石パラメータ(PY-32-4）

使用データ期間：2018-11-12～2021-06-23

Figure 3: 2D plots of electromagnet current value (PY32_4) vs injection efficiency, for real data (left) and thegenerated data with VAE and GAN (right).

2.

Linac 加速器

Figure 4 に、Linac 加速器及び、Linac 加速器から入射される種々の加速器の配置図を示す。Linac 加速器は長加速器パラメータを再現する DNN の開発

3.1 加速器パラメータについて
本研究では、2018 年 11 月から 2021 年 6 月の期間における、SuperKEKB 電子ビーム(HER)用の Linac 加速器運転データを使用した。
NN の入力パラメータとして、以下の 1232 パラメータを使用した。
 電磁石電流値
 環境パラメータ
また、Linac 加速器の入射効率の定量的指標として、加速器上流部と下流部の BPM における電荷量比 Qratioを使用した。
𝑄𝑄𝑟𝑟𝑟𝑟𝑟𝑟𝑟𝑟𝑟𝑟 = (5 𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆最後の電荷量)/(𝐴𝐴 𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆最初の電荷量)3.2 使用したデータセットについて
入射効率パラメータは高効率に偏った分布をしている。
NN を学習させる際には、入射効率に関して均一になるようなデータセットが必要である。したがって、以下の領域において入射効率の分布が均一になるようにデータを抽出し、データセットを作成した。
 入射効率 0.85 以上 0.90 未満 入射効率 0.90 以上 0.95 未満
 入射効率 0.95 以上

Figure 5: Layout of KEK Licac.
- 704 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THP12

3.3 開発した DNN について
本研究では、Fig. 6 に示すような、入力した加速器パラメータから次元削減を行い、入射効率パラメータを出力する NN をデザインした。
この NN では、実データを encoder と回帰 NN を同時に学習させたのち、学習済みの encoder に加速器パラメータを入力することで、次元削減された潜在変数を得ることができる。この潜在変数を GAN に入力して潜在変数の疑似データを取得し、回帰 NN に入力することで、入射効率データを再現する。

Figure 6: Overview of the new accelerator data
simulation model.
構築した DNN の構成は以下の通りである。
 最適化関数 ： Adam
 損失関数 ： mean squared error 中間層数 (encoder) ： 6 層
 中間層数 (回帰 NN) ： 4 層
TendorFlow[4]を用いて、実装を行った。

3.6

3.4 開発した DNN による入射効率の回帰
新たに開発した DNN は、回帰をタスクとした NN を二つに分断しているが、これにより入射効率パラメータの回帰精度に影響が生じるかどうか確認する必要がある。そこで、GAN による疑似データ生成を行う前に、新しく開発したモデルから、単純な回帰 NN と同様の予測結果を得られるか、また予測結果が実データを再現できているか検証を行った。Figure 7 に、実際の入射効率(青色)と新しく開発した NN が予測した入射効率(橙色)、単純な回帰 NN が予測した入射効率(紫色)を示す。ここで、横軸は日時、縦軸は入射効率である。
この結果から、新しく開発したモデルは単純な回帰
NN と同様に、実際の入射効率を予測できることが分かった。
1.00

入射効率

0.96
0.94
0.92
0.90

ー 実データー 新モデルによる予想
トレーニングデータ：2018-11-18～2021-6-23 ー 回帰モデルによる予想
0.86 テストデータ：2021-6-16～2021-6-23
日付
0.88

6/17

6/18

6/19

6/20

6/21

6/22

GAN による疑似データの生成品質の比較
1.00

入射効率

0.98
0.96
0.94
0.92
0.90

ー 実データー 新モデルによる予想
トレーニングデータ：2018-11-18～2021-6-23 ー 回帰モデルによる予想
0.86 テストデータ：2021-6-16～2021-6-23
日付
0.88

6/16

6/17

6/18

6/19

6/20

6/21

6/22

6/23

Figure 8: Injection efficiencies (Q-ratios, vertical) vsdate (horizontal) for the new model prediction (orange),
the VAE model prediction (green), and the real data(blue), for 2021/6/16-2021/6/23 evaluation data.
以上の結果は、すべて実データを用いた検証であるが、実データの統計量が少なく、データの相関が確認しにくい場合は、GAN による疑似データの生成が有効であると考えられる。そこで、新しく開発したモデルと VAEを使用したモデルのそれぞれについて疑似データを生成し、その品質の比較を行った。

0.98

6/16の回帰を行い、予測性能の比較を行った。Figure 8 に、実際の入射効率(青色)、新しく開発したモデルが予測した入射効率(橙色)、VAE を使用した旧モデルが予測した入射効率(緑色)を示す。実データとの平均二乗誤差(MSE) は 、 VAE を 使 用 し た モ デ ル に よ る 予 測 で は0.00046、新しく開発したモデルでは 0.000068 であった。
VAE を使用したモデルと比較して、新しく開発したモデルは実際の入射効率に近い値を再現している。
実際の加速器運転調整に当たっては、入射効率パラメータを最大化するように電磁石電流値を設定する。そのため、予測した入射効率パラメータと電磁石電流値の相関が、実データでの相関を保つことができるかどうか検証する必要がある。そこで、2021 年 6 月 16 日から 6
月 23 日の一週間分のデータを検証用データとしてそれぞれの学習済みモデルに入力し、その出力を電磁石電流値との 2 次元プロットとして表示した(Fig. 9)。ここで、電磁石電流値はすべて実データであり、一日ごとに色分けして表示してある。VAE を使用したモデルでは２つのパラメータの相関を再現できていない一方、新しく開発したモデルでは実データの相関を再現できていることが確認できた。

6/23

Figure 7: Injection efficiencies (Q-ratios, vertical) vsdate (horizontal) for the new model prediction (orange),
simple regression NN prediction (purple), and the real
data (blue), for 2021/6/16-2021/6/23 evaluation data.
3.5 開発した DNN と VAE を使用した DNN の比較
次に、新しく開発したモデルと、VAE を用いて次元削減を行うモデルのそれぞれについて入射効率パラメータ- 705 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THP12

電磁石パラメータ(PY-32-4）

入射効率(回帰)入射効率・6/16・6/17・6/18・6/19・6/20・6/21・6/22

旧モデル(VAE)

・6/16・6/17・6/18・6/19・6/20・6/21・6/22

電磁石パラメータ(PY-32-4）

入射効率(回帰)新モデル

実データ・6/16・6/17・6/18・6/19・6/20・6/21・6/22

電磁石パラメータ(PY-32-4）

使用データ期間：2021-06-16～06-23(一週間分のデータ,一日ごとに色分けして表示)

Figure 9: Injection efficiencies (Q-ratios, vertical) vs electromagnet current (PY-32_4, horizontal), for the real data(left), the new model prediction (center), and the VAE model prediction (right), for 2021/6/16-2021/6/23 evaluation
data. The data is color-coded for each day.

入射効率

Figure 10 は、2021 年 6 月 20 日の入射効率パラメー
タについて、実データと GAN が生成した疑似データの比較結果である。実データとの平均二乗誤差(MSE)は、VAE を使用したモデルでは 0.0012、新しく開発したモデルでは 0.00079 であった。疑似データの場合でも、新しく開発したモデルから生成した疑似データは VAE を使用したモデルから生成した疑似データと比較して、実データのデータ分布を再現できている。

・ 実データ・ 新モデルによる予想

入射効率
ー 実データー 新モデルによる予想
ー 旧モデル(VAE)による予想(2021-06-20の入射効率)

電磁石パラメータ(PY-32-4)

Figure 11: Injection efficiencies (Q-ratios, vertical) vs
electromagnet current (PY-32_4, horizontal) for the
new model prediction (orange), and real data, for2021/6/16-2021/6/23 evaluation data.

4.

まとめ本研究では、機械学習を用いた、高エネルギー加速器研究機構(KEK)におけるLinac 加速器調整システムのFigure 10: Injection efficiencies (Q-ratios) for the new開発を行った。
model prediction (orange), the VAE model prediction2018 年 11 月から 2021 年 6 月までの期間における(green), and the real data (blue), for 2021/6/20
Linac
加速器の実データを用いて検証を行った結果、本evaluation data.
研究で開発した DNN では、先行研究における DNN と比較して精度よく入射効率の再現を行えることを示した。
3.7 2 パラメータを回帰させる場合の検証
また、同期間の実データから GAN を使用して疑似
前節までは、新しく開発したモデルの出力は入射効率データを生成した場合でも、本研究で開発した DNN はパラメータの 1 パラメータのみであった。本節では、出力先行研究のものと比較して精度よく実データの入射効率を 2 パラメータに変更し、入射効率パラメータと電磁石電パラメータを再現できることが明らかになった。
流値の一つ(PY-32_4、アーク部にあるパルスマグネット
本研究で開発した DNN モデルにおいて、出力を入射の一つ)を回帰するモデルを構築した。
効率パラメータと電磁石電流値の 2 つに増やした場合、Figure 11 に、実際の電磁石電流値と入射効率(青色)、実データと同様の相関を再現できることが分かった。今新しく開発したモデルから回帰した電磁石電流値と入射後は、入射効率パラメータをより高めることのできる制御効率(橙色)の 2 次元プロットを示す。
パラメータの予測を行い、制御システムへの導入を具体
Figure 11 のプロットから、新しく開発したモデルでは、的に検討する。
2 パラメータの相関を保つように実データを再現できることが分かった。

- 706 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, FunabashiPASJ2023 THP12

謝辞
本研究は、以下の助成により実施されました：
阪大 RCNP 研究プロジェクト、阪大 IDS 学際プロジェ
クト、阪大 CMC 公募型利用制度、学際大規模情報基盤共同利用(JHPCN) 公募型共同研究、文部科学省補助事業「ダイバーシティ研究環境実現イニシアティブ（牽引型）」、大阪公立大学 女性研究者研究実践力強化支援プログラム(RESPECT)、日本学術振興会科学研究費助成事業学術変革領域研究(A) 「学習物理」

参考文献[1] Ian J. Goodfellow et al., “Generative Adversarial Nets”,
arXiv:1406.2661, 2014.
[2] 度会龍, 岩崎昌子, 他６名, “GAN を用いた加速器シミュレータの開発” 日本物理学会 2023 年春季大会, 2021 年
3 月.
[3] D. P. Kingma, and M. Welling, “Auto-Encoding VariationalBayes”, arXiv:1312.6114, 2014.
[4] TensorFlow, https://www.tensorflow.org/- 707 -