Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THOA9

ベイズ最適化を用いた KEK Linac ビーム調整と SuperKEKB への展望
BAYESIAN OPTIMIZATION ASSISTED BEAM TUNING AT THE KEK LINAC ANDPROSPECTS FOR SuperKEKB
三塚岳 ∗,A) , 飯田直子 A) , 加藤臣之輔 B) , 夏井拓也 A) , 佐藤政則 A)
Gaku Mitsuka ∗,A) , Naoko Iida A) , Shinnosuke Kato B) , Takuya Natsui A) , Masanori Satoh A)
A)
KEKB)
University of Tokyo

Abstract
Hundreds of thousands of tuning parameters must be optimized to match the operating conditions to obtain the best performance from an accelerator. In the past, experts made decisions based on their experience on which tuning parameters contributed
the most to the performance and adjusted them sequentially. On the other hand, accelerator tuning approaches based on machinelearning, which has become much easier to handle, have been studied intensively in recent years. We have been developing a
beam-tuning tool based on Bayesian optimization to improve the efficiency of beam operation at the SuperKEKB accelerator. In
this conference, we will report the latest results of beam tests on the KEK injector, including positron beam yield maximizationand dispersion tuning as the first step of the development, and also explain the Bayesian optimization algorithm.
つである Covariance Matrix AdaptationEvolution Strategy(CMA-ES) [4] もビーム調整に応用し、2 つのアルゴリ
近年の加速器では、性能を維持または改善するため、 ズムの特徴と調整結果を比較した。ビーム調整試験は、十から百に渡るパラメータを刻々と変化する状況に合 上記アルゴリズムを既に実装しているパラメータ最適わせ調整しなければならない。調整の成否を示すモニ 化ライブラリ optuna [5] を用いて、2023 年 6 月に KEK
ター値も総数が数百にのぼり、種類もビーム軌道、ビー 線形加速器 Linac にて行った。複数の異なる最適化アルム電荷、ディスパージョン、エミッタンス、エネルギー ゴリズムを用いたビーム調整の結果は、今後機械学習損失など多彩である。これまではビーム運転の専門家 を加速器へ応用していく際に不可欠なガイドラインとが知識と経験に基づいて、多くのパラメータを調整し なると考えている。
なお本稿では紙面の関係より、ベイズ最適化と CMAてきた。しかし最近の複雑かつ繊細な加速器では、専門ESの解説は一切省くことにする。別途参考文献を参照
家に頼った調整のみでは、加速器性能の向上に長い時して欲しい。
間と労力を要してしまう。一方、機械学習を用いた加速器調整は、専門家に依存した調整に代わるものとして最近注目を集めている。機械学習は 2010 年代以降、 2 . LINAC におけるビーム試験セットアップ
速度、精度、応用範囲において目覚ましい進歩を遂げ
Figure 1 は Linac の模式図である。まず電子銃を用いている。各ベンダーから様々なライブラリが提供され て電子ビームを生成する。電子銃は熱電子銃と RF 銃ており、比較的容易に利用でき使いやすくなっている。 の二通りがあり、陽電子生成用の電子ビームには大電本研究の目的は、教師なしパラメータ最適化アルゴ 荷ビーム生成に適した熱電子銃を使用する。電子ビーリズムを用いた加速器調整である。本稿で用いるベイ ムはバンチャーを通った後、直線 A-B セクターを経由
ズ最適化 [1] は、ガウス過程 [2] とベイズ決定論 [3] に してアークセクター (R セクター) に入る。アークセク基づくパラメータ最適化アルゴリズムである。ベイズ ターで進行方向を折り返したあと、1 セクターの最後最適化は、複数のパラメータを変更し、応答の試行を までに 3.3 GeV に加速された電子ビームはタングステ得ることによって教師なし学習を行う。ベイズ最適化 ン製の陽電子生成標的に衝突する。陽電子生成標的内は教師ありデータを使用しないため、加速器への応用 の多重散乱とそれに続く γ 線対生成により生成されたにおいては温度ドリフトなどの環境変化の影響を受け 陽電子は、フラックスコンセントレーターで前方へ収にくいという利点がある。とはいえ、予測精度を向上 束される。陽電子ビームは 1.1 GeV まで加速されたあさせるには複数回の試行を繰り返す必要がある。1 回 とダンピングリングの中で 40 ms 周回し、その間にエの試行にかかるコストを無視できない加速器調整では、 ミッタンスが低減される。最終的には、スイッチヤー多くの試行は避けるべきである。このような相反する ドにおいて陽電子ビームは SuperKEKB 陽電子リングに要求の下で、我々は実際のビーム調整にベイズ最適化 つながるビーム輸送路に入射される。
を応用しテストした。当初の目標性能に達したか、与ビーム調整試験の目的は、ステアリングマグネット
えられたパラメータ次元に対して何回の試行が必要で のコイルに印加する電流を最適化し、陽電子生成標的あったか、また、複数の目標 (例えば、ビーム電荷対分 直前での電子ビームの電荷を最大化することである。通散関数) が達成されたか、などを調べるためである。さ 常、このような電荷最大化調整は運転エキスパートがらに、ベイズ最適化に加えて進化アルゴリズムのひと 人力で行っている。人力で行っている調整を最適化プ

1.

導入∗ gaku.mitsuka@kek.jp

ログラムが代替できるか試すのが、今回の試験の目的である。ビーム試験では、合計 6 台のパルスステアリン- 181 -Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THOA9

Figure 1: Layout of the pulse steering magnets and beam position monitors at the KEK Linac.

Charge (nC)

高い電荷量を与える電流値の組を幾通りか把握しておき、それらを最適化の初期値として与える手法は、ある程度の再現性を担保できる状況であれば、実際の加速器調整においても役に立つはずである。
Figure 2 (b) は CMA-ES を用いた実験結果である。測定は 6 月 12 日に行われ、これは (a) の測定から 10 日後である。その 10 日間の間に電子ビーム生成下流の状況が変化し、最適化に使用するセクター直前での電荷量が低下していた。そのため、CMA-ES で最適化された電荷量も、やや低い 9.0 nC 以下である。初期値をランダムに与えた場合の実線を見ると、BoTorch に比べて最大電荷量への到達が最も遅いのが分かる。破線は、電荷量が上位 10 個に相当する磁石電流値の組み合わせを初期値として与えた場合である。初期値として与えた
3 . LINAC におけるビーム試験結果
組み合わせは、CMA-ES を用いた測定 (つまり実線の 13.1 最大電荷ピークホールド値本) から得られたものである。
Figure 2 で示した 2 通りの結果は、全てトライアルを
ここでは KEK Linac において 2023 年 6 月に行ったビーム試験の結果を紹介する。Figure 2 に、0 から 99 100 回で打ち切っている。しかし BoTorch に関しては、までの各トライアル毎に推移する電子ビーム電荷量の 別途 1 ランのみ最適化を 300 トライアルまで延長したピークホールド値を示す。Figure 2 (a) は BoTorch アルゴ 試験を行った。これによると BoTorch は最大電荷量付リズム [6] に基づくベイズ最適化を用いた結果である。 近で活用に重点をおいた最適化を続けた。よりラン数5 本ある実線 (それぞれをランと呼ぶ) は、最適化プロ を増やした系統的な測定は今後の課題である。
グラム開始直後の初期化において、最適化パラメータ1010(各ステアリング磁石の電流値) を探索範囲内でランダ88ムに設定する場合を示す。本稿ではこのような初期化手法を enqueue なし (図中では without enqueue) と呼ぶ。
66初期化は 0-9 トライアルの合計 10 回行われる。初期化
44(a) BoTorch(b) CMA-ES
は探索範囲全体にわたる大まかな確率密度分布を得る
Without enqueue
Without enqueue
22Use enqueue
Use enqueue
ために必要である。1 ランにかかる時間はおよそ 20 分
0 00 020 40 60 80 100
20 40 60 80 100であり、そのほとんどは BPM からの電荷情報の平均化
Trial
Trialにかかる待ち時間である。5 ラン中 2 ランでは初期化
Figure 2: Peak hold values of the electron beam charge at each
直後の 0 トライアル目で偶然 4 nC 程度の電荷量を得てtrial. Panels (a) and (b) show the BoTorch and CMA-ES reいる。5 ランすべてにおいて、およそ 35 トライアルで
sults, respectively.
9.3 nC 以上の最大値に達している。一方で、5 本ある破線 (ほぼ重なっていて判別は難しいが) では、各磁石の電流初期値として、高いビーム電荷量を与えると事前に分かっている電流値の組み合わせを設定する場合で 3.2 電荷の travel distanceある。本稿ではこのような初期化手法を enqueue あり
Figure 3 では、トライアル毎に積算していく電荷量(図中では use enqueue) と呼ぶ。高い電荷量を与える電(travel distance) を示す。積算電荷量は流値の組み合わせは、実線に相当するランの内 1 つのランにおいて、最も高い電荷量を与える上位 10 組の電99X流値組み合わせを採用している。結果的に、破線は初
D=|q(t) − q(t − 1)|(1)
期化直後から高いピーク電荷量を示している。事前にCharge (nC)

グマグネットを使用した。A セクターの PX(Y)_A4_4 (Xは水平方向、Y は垂直方向) のステアリングマグネットを 2 台、R セクターでアーク部直前の PX(Y)_R0_01 とPX(Y)_R0_02 の 4 台、合計 6 台である。電荷測定用のビーム位置モニター (BPM) は R セクター下流から陽電子生成標的直前までの合計 14 台である。
印加電流値の設定と、BPM で測定した電荷の取得はEPICS プロトコルを経由して行っている。ビーム試験時の電子ビーム繰り返しは 1 Hz だったため、印加電流を変更したあとに 1 s 待機時間を設けた。その後電荷を3 点取得し (つまり 3 s かかる)、測定誤差を減らすために 3 点の平均値を最適化プログラムの測定値とした。

t=1- 182 -Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THOA9300
Without enqueue250
Use enqueue
200 (a) BoTorch
150
100
500 020 40 60 80 100
Trial

Travel distance (nC)Travel distance (nC)300
Without enqueue250
Use enqueue
200 (b) CMA-ES
150
100
500 020 40 60 80 100
Trial

Figure 3: Integrated charge over trials. Panels (a) and (b) show
the BoTorch and CMA-ES results, respectively.

3.3 パラメータ重要度
Figure 4 は各磁石の電流の fANOVA [7] で定量化した重要度を示している。白抜き丸が enqueue 無し、白抜き四角が enqueue ありの場合であり、それぞれ 5 回測定の平均値である。Figure 4 (a) は BoTorch の測定結果である。Enqueue なしの場合は、最大の重要度は PX_A4_4で 0.5 である。重要度は総和が 1 になるよう規格化されているため、PX_A4_4 だけで約 50 % の重要度を担うことが分かる。Figure 1 で見られる様に、PX_A4_4 は今回最適化に使用した 3 台の水平方向ステアリング磁石のなかで最も上流に位置する。そのため、軌道変化に対する PX_A4_4 の影響が最も大きく、結果的に目的関数 (電荷) に対する PX_A4_4 の重要度が高くなったと理解できる。水平方向の軌道エラーが大きくなるとビームが R セクターのコリメータやビームパイプと接触しビームロスを発生する。これが X 方向の重要度が約 0.5 と大きい理由として考えられる。Enqueue ありでは PY_A4_4 の重要度が 0.4 へ増大している事がわかる。
ビームライン下流の PX_R0_01、PY_R0_01、PX_R0_02、
PY_R0_02 の電流値は初期化時点でほぼ最適化されており、電荷への影響は小さいと予想される。一方で、
PY_A4_4 は最上流に位置するため、僅かな電流値変化
でも電荷への影響は大きく、相対的に重要度が増した

1.0 (b) CMA-ES

Without enqueue
Use enqueue

0.5

0_01
PY_R
0_01
PX_R
0_02
PY_R
0_02
PX_A
4_4
PY_A
4_4

0.0

PX_R

0_02
PY_R
0_02
PX_A
4_4
PY_A
4_4

PX_R

0_01

0.0_01

0.5

ImportanceWithout enqueue
Use enqueue

1.0 (a) BoTorch

PY_R0Importanceと考えられる。
Figure 4 (b) は CMA-ES の結果である。Enqueue ありの結果は BoTorch と同等の結果が得られ、これは Fig. 3(a) と (b) の積算電荷量の類似から理解可能である。一方で、enqueue なしの PX_A4_4 の重要度は BoTorch が0.5 に対して、CMA-ES は 0.7 以上である。定量的な理解には至っていないが、活用と探索のトレードオフがPX_A4_4 の重要度に影響している可能性がある。

PX_Rで定義する。積算電荷量を用いることで、どのトライアル付近で電荷量の変化が拡大するか、もしくは穏やかになるかを判断できる。Figure 3 (a) は BoTorch の結果である。実線 5 本は enqueue 無しに相当し、その内 3本では、30-40 トライアル付近から積算電荷量が急上昇しているのが分かる。これら 3 本の実線を Fig. 2 (a) の結果と比較すると、電荷量がほぼ最大に達したトライアル付近で最適化が活用から探索へ移行している事が分かる。Figure 2 (a) の 5 実線の内、最大電荷量への到達がもっとも緩やかな緩やかなマゼンタ実線も、Fig. 3(a) では 55 トライアル付近で探索へ大きく移行している。一方で、enqueue 機能を用いて初期値を設定した 5本の破線では、20 トライアル以降では積算電荷量の上昇は緩やかなままである。これは最適電流値付近の活用を続けている事を意味している。
Figure 3 (b) は CMA-ES の結果である。Enqueue ありの方が enqueue 無しに比べて積算電荷量が常に小さいことが分かり、(a) の BoTorch と同等である。CMA-ES
では試していないが、300 トライアルまで延長した試験を行った場合、BoTorch と同様に最大電荷量付近で活用に重点をおいた最適化を続ける可能性が考えられる。

Figure 4: Importance of each input parameter averaged overfive runs. Panels (a) and (b) show the BoTorch and CMA-ESresults, respectively.

3.4

電荷最大化とディスパージョン低減の同時最適化

これまでは 1 つの目的関数のみを最大化する、単目的最適化を扱ってきた。一方で、ビーム調整では 2 つ以上の目的関数を扱う場合にしばしば遭遇する。例えば、ビーム電荷の最大化とディスパージョン関数の低減、ビーム入射の効率化とバックグラウンド事象の低減などである。複数の目的関数を同時に最適化するのが多目的最適化であり、多目的ベイズ最適化などのアルゴリズムが開発されている。今回は多目的ベイズ最適化を用いて、ビーム電荷とディスパージョン関数のパレート最適解を求めた。パレート最適解とは、ビーム電荷とディスパージョン関数いずれかが他の測定点よりも勝っている測定点であり、一般的には複数の測定点の組み合わせとなる。パレート最適解が作る境界面をパレートフロントという。
Figure 5 は、ビーム電荷とディスパージョン関数の 2次元プロットであり、赤点がパレート最適解である。多目的最適化により次元が増えたため、総トライアル数は 200 回とした。多目的ベイズ最適化から作られたパレートフロントは、確かにビーム電荷の最大化とディスパージョン関数の最小化を達成している。一方で、全トライアル数 200 回のうちパレート最適解数は 5 個であり、効率性の悪さが判明した。多目的最適化をビーム調整へ応用する際は、制限付き最適化を行うなど、効率性改善の試みが必要と感じた。

4.

SUPERKEKB への展望

今回 Linac で行った機械学習によるビーム調整試
験の結果を、今後は SuperKEKB へ反映させて行く予定である。SuperKEKB にて機械学習で置き換え可能と思われるビーム調整項目は、1) ビーム輸送路からSuperKEKB 主リングへのビーム入射、2) 電子・陽電子ビーム衝突点における両ビームの衝突調整、などである。

- 183 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 THOA910Charge (nC)

864200TrialBest Trial
12345Dispersion (m)Figure 5: The BoTorch result for the multiobjective optimization on the maximum beam charge (vertical axis) and dispersion function (horizontal axis).

以下の Eq. (2)σy∗2 = βy∗ εy + βx∗ εxR22+ R12βx∗2+ (ηy σδ )2(2)は衝突点における垂直方向ビームサイズ σy∗ に対する寄与を示しており、垂直方向エミッタンス εy だけでなく、水平方向エミッタンス εx もベータトロン振動の
水平・垂直カップリング (R1 や R2 ) を通じて寄与している。Figure 6 に示したのは、電子ビームの水平・垂直カップリング R2 を調整することで、電子ビームサイズ σy∗ が縮小し、ルミノシティが向上した際の状況である。ルミノシティ向上は 30 % にも及び、カップリング調整がルミノシティ向上に大きく貢献していることが分かる。
一方で、現在のカップリング調整は R1 –R4 を逐次 1次元づつ行っているため、電子ビームと陽電子ビームを合わせると一通りのカップリング調整を行うのに数時間を要する。ベイズ最適化などの最適化アルゴリズ
ムを用いて、複数のカップリングパラメータを一度に調整できれば、大幅な時間短縮につながる。今後は Linacで得た知見を SuperKEKB のビーム入射調整やカップリング調整などに応用していく計画である。

Figure 6: Betatron oscillation coupling on the horizontal andvertical coordinate influencing the vertical beam size (upper panel) followed by an increase in the specific luminosity(lower panel).

[6] M. Balandat et al., “BoTorch: A Framework for Efficient
Monte-Carlo Bayesian Optimization”, Advances in Neural Information Processing Systems 33, 2020. https://proceedings.neurips.cc/paper/2020/hash/f5b1b89d98b7286673128a5fb112cb9a-Abstract.html[7] F. Hutter, H. Holger and K. Leyton-Brown, “An Efficient Approach for Assessing Hyperparameter Importance”, Proceedings of the 31st International Conference on Machine Learning, Jun. 2014, pp. 754–762. https://proceedings.mlr.
press/v32/hutter14.html

参考文献[1] R. Garnett, “Bayesian Optimization”, Cambridge UniversityPress, 2023. https://bayesoptbook.com/[2] C. E. Rasmussen and C. K. I. Williams, “Gaussian Processesfor Machine Learning”, The MIT Press, 2015. https://gaussianprocess.org/gpml/[3] J. O. Berger, “Statistical decision theory and Bayesian analysis; 2nd ed.”, Springer, 1985.
[4] N. Hansen, “The CMA Evolution Strategy: A Tutorial”.
https://arxiv.org/abs/1604.00772[5] T. Akiba et al., “Optuna: A Next-generation Hyperparameter
Optimization Framework”.
http://arxiv.org/abs/1907.10902- 184 -