Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOA13ILC 電子ドライブ陽電子源設計における機械学習を用いた全体最適化
OVERALL OPTIMIZATION USING MACHINE LEARNING IN THE DESIGN OF ILC
ELECTRON-DRIVEN POSITRON SOURCE
黒口俊平 A) , 栗木雅夫 A) , 高橋徹 A) , 田地野浩希 A) , リプタックザカリー A) ,浦川順治 B) , 榎本嘉範 B) , 大森恒彦 B) , 福田将史 B) , 森川祐 B) , 横谷馨 B)
Shunpei KuroguchiA) , Masao KurikiA) , Tohru TakahashiA) , Hiroki TajinoA) , Zachary LiptakA) ,Junji Urakawa B) , Yoshinori Enomoto B) , Tunehiko Oomori B) , Masafumi Fukuda B) , Yu Morikawa B) , Kaoru Yokoya B)
A)
Hiroshima University Graduate School of Advanced Science and Engineering (Hiroshima Univ. ADSE)
B)High Energy Accelerator Research Organization (KEK)

Abstract
In the ILC electron-driven positron source, obtaining a large number of positrons per incident beam is crucial to prevent
target damage. While positron source design traditionally relies on physical simulations to track accelerator particles, this study
focuses on using machine learning for more efficient optimization and trend identification. In this study, instead of physicalsimulations, we constructed a surrogate model to provide guidance for the ILC electron-driven positron source design using asmall dataset. We used this model to predict positron capture rates and determine the optimal parameters for maximizing them.
陽電子捕獲率の計算の際には、ターゲットでの電子ビームの制動放射から対生成による陽電子生成はGeant4 [3]、ターゲット直後から Capture Linac 出口まで
現在、国際リニアコライダー (ILC; International Linear
は GPT (General Particle Tracer) [4]、シケインから ECS まCollider) は、ヒッグス粒子やトップクォークの大量生では SAD (Strategic Accelerator Design) [5]、という各セ成、超対称性粒子の発見を目指す高エネルギー物理学
クションで適した三つのシミュレーションソフトを使の次世代主要計画であり、北上山地に建設を予定され用して、一連の物理過程のシミュレーションを行ってている。リニアコライダーは、シンクロトロン放射にいる。これまでの研究ではシミュレーションを通してよるロスがないためリング型コライダーの限界を超え各部分ごとに逐次的に最適化を手動で行っており、人て高エネルギーを実現できるが、ビームの再利用がでの手が入ることで時間を要していた。また、物理シミュきないため、時間あたりに必要な粒子数が桁違いに大レーションではより現実に近づけるほど、より多くのきい。
計算量が必要であり、傾向を見るのにも時間がかかる。
ILC での陽電子生成方法には、高エネルギーの電子加速器の膨大なパラメータにおいては、部分的に最適ビームを、高密度の金属標的に照射することで標的内化したとしても全体最適であるとは限らない。
にて対生成反応を起こし、陽電子を生成する電子ドライ
したがって、設計においてはより現実に近い条件で、ブ方式が検討されている。高エネルギーの電子ビームを効率的に全体最適化し、すぐに傾向が見れることが重Driver Linac から標的に入射し、標的で生成された陽電要になる。そこで、物理シミュレーションの代わりに子は Capture Linac、シケイン、Booster Linac、ECS (Energy
物理シミュレーションの結果をサンプリングし機械学Compressor Section) を通過したのち Damping Ring (DR)
習を用いてサロゲートモデル（代理モデル）を構築し、を周回し衝突点へと輸送される (Fig. 1) [1, 2]。ILC 電子設計に利用することを目指した。サロゲートモデルをドライブ陽電子源では、対生成反応により陽電子を生利用することで高速かつ高精度に最適化することが可成するが、金属標的の破壊を防ぐため、入射した電子能となる。一方で、高精度なサロゲートモデルを構築
ビームあたり多くの陽電子を得ることが重要である。
するには通常多くのデータセットが必要である。ANLECS 出口の DR アクセプタンスを満たす陽電子数からの AWA の例ではランダムなデータセットを用いてサ入射電子数を割った数、陽電子捕獲率を大きくするこ
ロゲートモデルからパレート最適解を求めるには、少とで、標的破壊を防ぎつつ大量の陽電子の生成を可能なくとも 5000 個程度以上が必要であることがわかってにする。
いる [6]。そのため、少ないデータセットで高精度なサロゲートモデルを構築することが重要であるが、陽電子捕獲率が高くなるパラメータ空間近傍でのみ精度が高ければいいことに着目した。本研究では、少ない物理シミュレーションからサロゲートモデルを構築し、それを元に陽電子捕獲率が最大となるパラメータを探索し、その付近でまた物理シミュレーションを回しサロゲートモデルを構築する、というのを繰り返す手法を用いた。
Figure 1: Schematic layout of the ILC electron-driven
positron source [1].

1.

はじめに- 88 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOA132.

CAPTURE LINAC におけるビームローデ
ィング補償値を取っていることがわかる。また本研究では GPT のイタレーションによる計算に時間がかかることから、RF の初期位相に 0.4, 0.5, 0.6, 0.7, 0.8 の五つを取りそれぞれ 10 回ずつのイタレーションを行った。今回示した
結果は初期位相が 0.5 の場合のプロットである。イタ
レーション回数を増やすと収束すると予想したがある範囲内で振動する結果となったため、データのばらつきを考慮し、Capture Linac 出口以降の SAD シミュレーションに用いる粒子分布の選定には、イタレーション3–10 回目の各加速管の分散の和が一番小さくなるイタレーションのデータを使用した。

粒子が加速されると空洞に減速場を誘起するビームローディングという現象が起こるため、それを補償することが課題となっている。Capture Linac では先行研究
で Superfish を用いて設計された APS 空洞のパラメータを用いて加速管を通過する粒子のトラッキングを GPTにより行い、求められた粒子分布からビームローディング電流の計算を行った。GPT にて模擬された Capture
Linac は加速セル 11 セル、結合セル 10 セルの計 21 セルで一本の加速管とし、この加速管 36 本で構成され 3 . 手法た。生成直後の陽電子はばらつきが大きいため、Capture
サロゲートモデルの構築及び最適化の手法は、先行
Linac にて捕獲を行い、約 250 MeV まで加速を行う。先行研究より大口径の APS (Alternate Periodic Structure) 空 研究の手法 [6] を参考にして、以下の手順で行った。
洞とした。APS 空洞は π/2 モードの定在波加速空洞で、1. 範囲内のランダムなパラメーターを設定し、物理大きなアパーチャーと高い加速勾配、群速度最大の特シミュレーションによりデータセットを取得。
徴を持つ。電場の生じるセル（加速セル）を長く、電場2. データセットからニューラルネットワークでサロの生じないセル（結合セル）を短くすることで、より効ゲートモデルを構築。
率的に粒子を加速することが可能になっている。
3. サロゲートモデルから遺伝的アルゴリズムによりCapture Linac では粒子はオフクレストの状態で捕獲陽電子数が最大となるパラメーターに最適化。
されるため、RF に振幅変調および位相変調をかける
4. 最適なパラメーター近傍で物理シミュレーションことによりビームローディングの補償を行う。ビームを実行しデータセットを取得し以前のデータセッ
ローディング電流は Capture Linac 内での集群の様子やトに追加。
捕獲される粒子数によって変化し、加速勾配に関して
5. 2 から 4 を繰り返す。
もビームローディング電流の大きさによって値が変化
Figure 3 に手法の概要図を示す。
する。そのため、より正確なビーム電流及び加速勾配を求めるためにイタレーション（繰り返し計算）による 3.1 初期のデータセットの取得シミュレーションを以下の方法で行った。手法は去年
イタレーションの 0 回目、初期データセットとしての学会での報告 [7] から計算手法をいくつか改善した。
は、物理シミュレーションを回して、訓練用データセッ
1. 空洞電場を加速管ごとに決定し、GPT で計算。
トを 20 個、検証用データセットを 5 個の計 25 個のラ2. 求められた粒子分布からビームローディング電流 ンダムデータを用いた。入力パラメータは、今回は本手I 、ビーム位相 θ、位相変調量 ϕ を求める。
法が有効かどうか確かめるために 4 つという少ないパ
3. 2 で得られた結果から空洞電場を決定し、再び GPT ラメータ数にした。入力パラメータは Capture Linac のにて計算。
RF の初期位相、Capture Linac 後のシケインの偏向角、4. 2 から 3 の計算を 10 回繰り返す。
Booster の電圧、ECS のシケインの偏向角である。入力
パラメータの範囲は、手動で最適化していたパラメー
このようにして得られた結果の例が Fig. 2 である。
タ付近とした。週つ力パラメータは ECS 出口の DR アクセプタンスを満たす陽電子数とした。今回は 1000 で割れば陽電子捕獲率となる。前述したように上流 GPTの計算はビームローディング電流を考慮すると時間がかかるため先に計算しておき、Capture Linac の位相を変えた値を先に計算しておいた位相に最も近いの GPTの結果を用いて SAD のシミュレーションを行った。今回のデータセットからは、SAD のエラーが起きたときも陽電子数が 0 になるプログラムになっていると思われること、陽電子数が高いパラメータ空間で最適化すればいいことから、陽電子数が 0 になるものを除いた。
3.2
Figure 2: Beam loading current per cavity. Colors are separated per iteration.
Figure 2 は横軸に加速管の本数、縦軸にビームローディング電流を示している。ビームローディング電流
は Capture Linac 中流から下流にかけてほとんど一定のニューラルネットワークによるサロゲートモデルの構築

ニューラルネットワークによりデータセットからサロゲートモデルを構築した。各入力パラメータはパラメータを制限した範囲でそれぞれ-0.5–0.5 に正規化し、正規化した状態でニューラルネットの学習と遺伝的アルゴリズムに用いた。ニューラルネットの構成は中間- 89 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOA13

Figure 3: Conceptual diagram of NN-based surrogate model training and GA-based optimization iterations.

層が 3 層の各ノード数は 4–12–8–4–1 の多層パーセプト
ロン（MLP）とし、損失関数は MSE（平均二乗誤差）を使用した。各イタレーションごとに損失が小さくなるように epoch（学習回数）や lr（学習率）などのハイパーパラメータを手動で調整した。機械学習のライブ
ラリ PyTorch [8] を利用している。
3.3 サロゲートモデルを用いた遺伝的アルゴリズムによる最適化のサロゲートモデル構築に使う訓練データは今までのイタレーションで作成したデータセットを合計したものを用いた。今回は 12 回までイタレーションを回した
ため、使用したデータセットは初期データセットと合わせて合計でで 325 個である。

4.

結果

Figure 4 にサロゲートモデルの遺伝的アルゴリズムによる世代ごとの予測陽電子数を示す。2 回目から 8 回目
遺伝的アルゴリズム（GA; Genetic Algorithm）とは解 までの遺伝的アルゴリズムによる予測最大値はシミュ候補の集団（個体）を交叉、変異、評価、選択を繰り返 レーションのデータセットデータよりある程度大きくし最適解を見つける手法である。最適化のために遺伝 なった。これは、陽電子数が 0 を含まないデータであ的アルゴリズムを用いたのは、局所解に陥りにくいこ ること、陽電子数が高いと思われるデータセットのみと、将来的に多目的最適化も想定していることから選 を集めていることが要因として考えられる。
択した。シミュレーションサンプリングから訓練した各イタレーションごとに予測した最大の陽電子数とサロゲートモデルで遺伝的アルゴリズムを回し、陽電 シミュレーション結果を Fig. 5 に示す。オレンジ色が子数が最大となるようにパラメータを最適化した。シ 遺伝的アルゴリズムで予測した最大陽電子数、青色がミュレーションサンプリングから訓練したサロゲート その予測した最適パラメータ近傍でのシミュレーショモデルで遺伝的アルゴリズムを回し、陽電子数が大き ン結果の陽電子数、緑色が予測した最適パラメータでくなるよううにパラメータを最適化した。事前に作成 のシミュレーション結果の陽電子数である。遺伝的アしたサロゲートモデルからハイパーパラメータは先に ルゴリズムはイタレーション 0 回目からであるが、比調整し固定しておき、各世代での個体数は 500 個で 100 較しやすいように一つ後ろにずらしている。
世代まで回すこととした。遺伝的アルゴリズムのライ
遺伝的アルゴリズムで予測した最大陽電子数は、イブラリ DEAP [9] を利用している。
タレーション 9 回目以前は大きく変動しているがそれ以降はある程度収束していることがわかる。予測最適
3.4 次回のデータセットの取得パラメータ近傍でのシミュレーション結果の最大値も次回のイタレーションでのデータセットに用いる入 イタレーション 9 回目以降は高いところである程度収力パラメータは、遺伝的アルゴリズムで予測最適値と 束している。予測最適パラメータでのシミュレーショなるパラメータを基準にガウス分布の乱数を作成して ン結果が合わないのは、SAD のエラーかパラメータのデータセットとして取得した。ガウス分布の広がりは 感度が高い事が考えられる。
可能なパラメータの範囲を基準に決定したが、これはシミュレーションデータでの陽電子数の最大値はパラメータ制限範囲が広すぎると想定の範囲外のデー 671 であり、これは 13 回目のイタレーションの予測最タセットを取得すると考えられるため改善の余地があ 適パラメータ近傍でのシミュレーション結果から得らる。一回のイタレーションで取得するデータセットは、 れた。12 回目の最後の遺伝的アルゴリズムでの予測最初期データセットと同じく、訓練用データセットを 20 大値は 740.9 であった。シミュレーション結果と予測個、検証用データセットを 5 個の計 25 個とした。次回 最大値との差は、サンプリング数が少ないこと、イタ- 90 -Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOA13

変わったことが要因と考えられる。また、今回の手法
は初期のランダムサンプリングに大きく依存していると考えられ、局所解に陥っている可能性があるため、予測最適値が、より多くのデータセットから取得したシミュレーションでの最適値と一致するかは判断できない。

5.
(a) Iteration 0(b) Iteration 4(c) Iteration 8(d) Iteration 12

Figure 4: Prediction of positron counts per generation using
Genetic Algorithms for surrogate models.

まとめ

本研究では、物理シミュレーションの代わりとして、少ないデータセットで ILC 電子ドライブ陽電子源設計の指針となるサロゲートモデルの構築をした。また、サロゲートモデルを用いて陽電子捕獲率とそれを最大化する最適なパラメータを予測した。本手法はまだ改善の余地はあるが設計の効率化に寄与すると考えられる。
今後の方針として、入力パラメータの数を増やし、より高い陽電子捕獲率を目指す。今回はサロゲートモデ
ルの出力パラメータとして陽電子数としたが、出力パラメータを見直し、より設計に役立つサロゲートモデルを構築する。また、物理シミュレーションの代替として高速なサロゲートモデルを利用して設計の指針とすることも考えられる。

参考文献

Figure 5: Maximum predicted positron count and simulation
value.

レーション数が足りないことが要因と考えられる。以前シミュレーションで得られた陽電子捕獲率より小さい値を取っているのは、今回はパラメータ数や範囲を絞ったこと、ビームローディング電流の計算の方法が[1] Seimiya, Yuji et al., “Positron capture simulation for the ILC
electron-driven positron source”, Prog. Theor. Exp. Phys.,vol. 2015, pp. 103G01, Oct. 2015, doi:10.1093/ptep/ptv136[2] M. Kuriki et al., “A design of ILC E-driven positron source”
J. Phys.: Conf. Ser., vol. 2420, pp. 012006, Jan. 2023, doi:
10.1088/1742-6596/2420/1/012006[3] Geant4, https://geant4.web.cern.ch[4] General Particle Tracer, https://www.pulsar.nl/gpt/[5] Strategic Accelerator Design, https://acc-physics.
kek.jp/SAD/[6] Edelen, Auralee et al., “Machine learning for orders of magnitude speedup in multiobjective optimization of particle accelerator systems”, Phys. Rev. Accel. Beams, vol. 23, pp.
044601, Apr. 2020, doi:10.1103/PhysRevAccelBeams.
23.044601[7] Hiroki Tajino et al., “A study of beam loading compensationin the capture linac of ILC electron driven positron source”,
Proc. PASJ2022, Online (Kyushu University), TUP030, pp.
365–369, Oct. 2022.
[8] PyTorch, https://pytorch.org[9] DEAP, https://deap.readthedocs.io/- 91 -