Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOB9SuperKEKB 加速器真空システムにおける機械学習を応用した圧力異常検知手法の検討
INVESTIGATION OF A PRESSURE ANOMALY DETECTION METHODAPPLYING MACHINE LEARNING IN THE SuperKEKB VACUUM SYSTEM
末次祐介#Yusuke Suetsugu #KEK

Abstract

An anomaly detection method utilizing machine learning in the SuperKEKB vacuum system is proposed and currently
under development. Regression curves that describe the behavior of pressure under normal conditions (reference data)with respect to beam current or time are derived using sophisticated and rational models. By employing the ratio of theroot mean square error (RMSE) from the data to be checked (check data) alongside other input parameters, a two-layer
feedforward neural network (FNN) is constructed to categorizes the check data into two classes: "normal" and "abnormal."
The FNN weight parameters, determining the decision boundary, are learned through past abnormal data. The anomaly
detection program for testing is implemented in Python, and its availability is confirmed using actual data.

1.

はじめにSuperKEKB 加速器主リングの真空システムは 2016 年の運転開始以来概ね順調に稼働しているが、ビーム電流が大きいこと、ビームロス・再入射の頻度が高いこと等から、大きな熱サイクル等に起因するリークや、放電等による変則的な圧力上昇が度々発生している[1]。このような圧力異常の兆候を早い段階で検知できれば、大きなトラブルとなる前に予め対策をとる、あるいは準備することが可能となろう。そこで、機械学習を応用し、運転中の圧力異常の兆候をつかみ、注意喚起する異常検知手法を提案、検討している。ここではこの圧力異常検知手法の開発状況等を報告する。

2.

圧力異常検知手法の基本方針

ビーム電流など加速器の運転パラメータは日々変化するので、ここで言う「圧力異常」とは、直近の圧力のビーム電流や時間に対する振る舞いが、その少し(数日)前の振る舞いから予想されるものと違った場合と定義する。大きな突発的な圧力上昇等は、別途通常のアラームシステムで検知される。異常検知手法の基本的な方針は以下の通りである。なお、プログラムは、機械学習で広く使われている Python で作成する[2]。
1）調べたい時の少し前の期間のデータを「基準データ」とし、実際的なモデルを使って、圧力のビーム電流、あるいは時間に対する振る舞いの回帰曲線を各真空計について求める。
2)求めた回帰曲線を用いて、調べたい時の測定データ(調査データ)の二乗平均平方根誤差(RMSE)等を計算し、それらの組み合わせを入力変数(特徴変数)とし、「正常」、「異常」の 2 クラスに分類する 2 層フィードフォ
ワードニューラルネットワーク（FNN）を構築する。
3)分類の決定境界を与える FNN の重みパラメータを、過去の実際の真空トラブル発生時の圧力データから学___________________________________________# yusuke.suetsugu@kek.jp

習する。
4)加速器制御システム上で異常検知プログラムを走らせておき、圧力異常が検知されたら当該真空計を GUI画面やアラームで加速器運転員に知らせる。

3.

基準データの回帰曲線の導出

SuperKEKB 主リングでは、平均すると 1 日に数回、何等かの原因でビームがアボートされる(捨てられる)。圧力に関係するトラブルは、熱負荷が大きくなる大電流蓄積中や、ビームがアボートされた直後の熱負荷の変化が大きい時に発生しやすい。そのため、ここでは、ビーム(再)入射からアボート直後までを”1 フィル”とし、それを「ビーム(再)入射から蓄積(以後 Storage 部)」と「ビームアボート直後(以後 Tail 部)」の二つの部分に分け、基準データ期間中の各部分での回帰曲線を導出する。典型的な 1 フィ
ルを Fig. 1(a)に示す。基準データは、調べたいフィルの8 日前から 5 日前までの 3 日間のデータとする。2022 年
6 月の運転状況を例として、基準データと調査データ(調べたいフィルのデータ)の関係を Fig. 1(b)に示している。
以下、予測精度を上げるために、各部分で物理的意味のある合理的なモデルを仮定して回帰曲線を求める。
3.1 Storage 部での回帰曲線
運転中の圧力は、圧力 Pb (ビームが無い時のベース圧力、今の場合入射開始時の圧力)、放射光に依る光刺激脱離に起因する圧力上昇 ΔPs、および、ビームで誘起された壁電流や高周波のジュール損等に起因する熱的脱離による圧力上昇 ΔPt でほぼ決まる。放射光に起因する熱脱離もあるが、放射光照射部が直接冷却されていることや、実際の圧力上昇がバンチ数に依存することから、その寄与は小さいと考えられる。Pb はビーム電流に依らない。ΔPs は放射光の光子数に比例するため、排気速度が一定とすれば、ビーム電流 I に比例する。一方、ΔPt は、ビームパイプ等の温度上昇を ΔT とすれば、表面に吸着している気体分子と空間中の気体分子がほぼ平衡状態にあるとして、- 78 -Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOB9Figure 2: Two examples of the pressure behaviors (pinkand red) and the regression curves (blue) for the Storage
part, where the pink data were used for the calculation.

(a)

般に、ビームパイプ内の気体の排気は、空間内の気体の排気と、パイプ内表面に吸着した気体の排気の 2 種類に大きく分けることができる。前者による圧力変化 ΔPv の時間 t に対する変化は、exp(-αt)に比例する。α は排気速度や排気領域の体積等で決まる定数である[3]。一方、後者による圧力変化 ΔPw は、-1/t に比例することが経験的に知られている[3]。結局、ビームアボート後の圧力変化 P の時間変化は、t = 0 でビームがアボートされたとして、次式で表すことができる。

(b)
Figure 1: (a) A typical one fill, and (b) a typical operation
status in June, 2022, in which the relation between thecheck data and the reference data is explained.
∆𝑃𝑃𝑡𝑡 ∝ 𝑒𝑒𝑒𝑒𝑒𝑒 �−

𝐸𝐸𝑑𝑑
𝐸𝐸𝑑𝑑
� − 𝑒𝑒𝑒𝑒𝑒𝑒 �− �𝑅𝑅(𝑇𝑇 + ∆𝑇𝑇)
𝑅𝑅𝑅𝑅

(1)

𝑃𝑃 = 𝑃𝑃𝑏𝑏 + ∆𝑃𝑃𝑣𝑣 + ∆𝑃𝑃𝑤𝑤= 𝑃𝑃𝑏𝑏 + 𝑘𝑘0 𝑒𝑒𝑒𝑒𝑒𝑒(−𝑘𝑘1 𝑡𝑡) +𝑘𝑘2
𝑡𝑡 + 𝑘𝑘3(3)

ここで Pb はベース圧力(ここでは十分時間が経ったときの圧力)、k0 ~ k3 は定数である。しかし、ビームアボート時と表すことができる[3]。ここで、Ed [J mol-1]は脱離のエネ (t = 0)の圧力は、式(2)からもわかるように、その時のビー
ルギー、R は気体定数(8.314 J mol-1 K-1)、T [K]は室温で ム電流に依存する。そこで、ここでは、圧力上昇分のみある。しかし、温度が 50 ℃程度と低い時には、ΔPt は近 を考え、アボート時の圧力上昇で規格化する。この規格
似的に(ΔT)2 に比例することが実験的に分かっている[1]。 化により、アボート時(t = 0)の圧力が違っても、圧力上昇壁電流や高次高周波による ΔT は、バンチ数を Nb とすれ 分について同一のモデルで記述することが可能となる。
ば I2/Nb に比例するので、結局、全圧力 P はビーム電流 すなわち、規格化した圧力上昇 ΔPn をI の関数として次式で表すことができる。
𝑃𝑃 − 𝑃𝑃𝑏𝑏∆𝑃𝑃𝑛𝑛 =≡ ∆𝑃𝑃𝑛𝑛𝑣𝑣 + ∆𝑃𝑃𝑛𝑛𝑛𝑛(𝑃𝑃 − 𝑃𝑃𝑏𝑏 )|𝑡𝑡=0
𝑃𝑃 = 𝑃𝑃𝑏𝑏 + ∆𝑃𝑃𝑠𝑠 + ∆𝑃𝑃𝑡𝑡(4)2𝑤𝑤2
𝐼𝐼2(2)= 𝑤𝑤0 𝑒𝑒𝑒𝑒𝑒𝑒(−𝑤𝑤1 𝑡𝑡) += 𝑤𝑤0 + 𝑤𝑤1 𝐼𝐼 + 𝑤𝑤2 � �
𝑡𝑡 + 𝑤𝑤3
𝑁𝑁𝑏𝑏と定義する。ΔPnv、ΔPnw は規格化した圧力の変化分、w0
ここで w0、w1、w2 は重みパラメータである。ここでは、式 ~ w3 は重みパラメータである。変化分を規格化している(2)をモデルとして、測定値の平均 2 乗誤差(Mean Square ので ΔPn の最大値は通常 1、t = ∞でゼロとなる。なお、
Error、MSE)が最小になるように勾配法(最急降下法)で ここではビームアボート後 3 分間を Tail 部と考えるので、重みパラメータを決め、回帰曲線を求めた[2]。その際、 十分時間が経った後のベース圧力 Pb を求めることが難
合理的な仮定として、w0、w1、w2 がすべて正の数である しい。そこで、簡単のためベース圧力 Pb は真空計の測定とした。この条件が満たされる場合は解析解を、データ 限界 1×10-8 Pa とした。実際、多くの真空計では、十分時数の問題等で解析解では満たされない場合はこの条件 間が経った時の測定(表示)圧力は 1×10-8 Pa である。
下の数値解を使用した。データは 1 分間隔で取得し、ここでは、式(4)をモデルとして、規格化した圧力上昇
データ取得期間の最大電流の 40%から 95%の範囲の ΔPn の MSE が最小となるように勾配法で重みパラメータデータを用いた。40%としたのは、ビーム電流が小さいと を 決 め 、 回 帰 曲 線 を 求 め た 。 こ こ で は 、 Python の モ
真空計の測定限界(1×10−8 Pa)に張り付いている場合が ジュールの 1 つである minimize 関数を使って最適化を多く誤差が大きくなるため、最大を 95%にしたのは最大 行った[2]。Tail 部のデータは 2 秒間隔で取得し、アボー電流に長時間留まっていると圧力が徐々に上がる傾向 ト 4 秒後から 3 分後までのデータを用いた。4 秒後としたがあるためである(Fig. 1(a)参照)。基準データと回帰曲線 のは、アボート時刻誤差を小さくするため、3 分後までにの例を Fig. 2 に示す。
したのは、5 分程度で次の再入射が始まるからである。
Tail 部の基準データと回帰曲線の例を Fig. 3 に示す。
3.2 Tail 部の回帰曲線
Fig.3(a)は規格化した圧力上昇とその回帰曲線、Tail 部の圧力についてはその時間変化を考える。一- 79 -

Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOB9(a)(b)

Figure 3: Behaviors of pressures (red) and the regression
curve (blue) (a) after and (b) before normalizing thepressure in the Tail part.
Fig. 3(b) は 規 格 化 す る 前 の ” 生 ” の 圧 力 変 化 で あ る(1×10-8 Pa を差し引いている)。規格化することでアボート時のビーム電流が異なる複数のデータに対しても精度良い回帰曲線が得られているのがわかる。

4.

Figure 4: Two-layer FNN model for the Storage part.
=1 + 𝑒𝑒𝑒𝑒𝑒𝑒�−𝑏𝑏𝑗𝑗 �となる。そして、出力層(第 2 層)の入力総和 ak は、
2𝑎𝑎𝑘𝑘 = � 𝑣𝑣𝑘𝑘𝑘𝑘 𝑧𝑧𝑗𝑗

2 層 FNN による 2 クラス分け

4.1 Storage 部の FNN
調査データは 30 秒毎に取得する。FNN への入力変数(特徴変数)として、基準データで求めた回帰曲線を使って計算した、等時間間隔(30 秒)の調査データの二乗平均平方根誤差 (Root Mean Square Error, RMSE)(RT)と基準データの RMSE (RREF)との比(RT/RREF)、等電流間隔(50 mA 毎)の調査データの測定値の RMSE (RI)と基準データの RMSE との比(RI/RREF)、および、RT と等時間間隔の圧力の平均値(PAV)との比(RT/PAV)の三つを選んだ。調査データと基準データの RMSE の比は、データが正規分布していると仮定した場合の「異常度」として通常用いられる[4]。なお、調査データの RMSE として、RT と RI の二つを採用したのは、電流が一定となる蓄積時間が長い場合(例えば Fig. 1(a))、RT のみでは蓄積時の寄与が大きくなるためである。また、RT と PAV との比を取ったのは、同程度の割合の圧力変化でも圧力が高いほどRMSE が大きくなるためである。実際の入力変数は、圧力が桁で変化するので上記の比の対数をとったものとした。すなわち、入力変数は、
𝑥𝑥0 = log(𝑅𝑅𝑇𝑇 ⁄𝑅𝑅𝑅𝑅𝑅𝑅𝑅𝑅 )(5)
𝑥𝑥1 = log(𝑅𝑅𝐼𝐼 ⁄𝑅𝑅𝑅𝑅𝑅𝑅𝑅𝑅 )𝑥𝑥2 = log(𝑅𝑅𝑇𝑇 ⁄𝑃𝑃𝐴𝐴𝐴𝐴 )1である。この z2 も常に 1 である(バイアス)。vkj は第 2 層の重みパラメータである。最後に、出力層の出力は、これも一般的なソフトマックス関数を用い、
𝑦𝑦𝑘𝑘 =𝑒𝑒𝑒𝑒𝑒𝑒(𝑎𝑎𝑘𝑘 )1∑𝑙𝑙=0 𝑒𝑒𝑒𝑒𝑒𝑒(𝑎𝑎𝑙𝑙 )3

4.2 Tail 部の FNN
Tail 部についての入力変数は、基準データで求めた回帰曲線を使って計算した、等時間間隔(2 秒)の調査データの RMSE (RT)と、基準データの RMSE (RREF)との比(RT/RREF)、および、RT の二つを選んだ。ビームアボート
後の回帰曲線は 2.2 で述べたように規格化した圧力を用いているので、平均圧力で比を取る必要はない。ここでも入力変数は上記の対数を取った。すなわち、
𝑥𝑥0 = log(𝑅𝑅𝑇𝑇 ⁄𝑅𝑅𝑅𝑅𝑅𝑅𝑅𝑅 )𝑥𝑥1 = log(𝑅𝑅𝑇𝑇 )(10)の 2 次元入力となる。構築した 2 層 FNN のモデル図をFig. 5 に示す。4.1 と同様、中間層の活性化関数としてシグモイド関数を、出力層としてソフトマックス関数を用い、「異常」「正常」の 2 クラス分けを行う。

(6)𝑖𝑖=0と表される。wji は重みパラメータである。また、入力パラメータ x3 は常に 1 である(バイアス)。中間層の出力 zj は、活性化関数を一般的に用いられるシグモイド関数として、
𝑧𝑧𝑗𝑗 = 𝜎𝜎�𝑏𝑏𝑗𝑗 �(9)とする。y0、y1 がそれぞれ「異常」「正常」に相当する確率を表すものとなる。の 3 次元とした。この 3 入力で 2 層の FNN を構築し 2 クラス分けを行う。FNN モデルを Fig. 4 に示す[2]。中間層(第 1 層)の入力総和 bj は𝑏𝑏𝑗𝑗 = � 𝑤𝑤𝑗𝑗𝑗𝑗 𝑥𝑥𝑖𝑖(8)

𝑗𝑗=0(7)
Figure 5: Two-layer FNN model for the Tail part.

- 80 -Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOB9(a)(b)

Figure 6: Typical abnormal pressure behaviors for (a) theStorage part and (b) the Tail part, in which the red, orange,
and blue curves represent the check data, the reference data
and the regression curves, respectively.

5.

Figure 8: Changes of MCEE for the training and test data
as a function of the learning step for the Storage part.

FNN 重みパラメータの学習調査データが異常かどうかを判断するためには、構築した FNN の重みパラメータ、wji、vkj を学習する必要がある。ここでは、2016 年から 2022 年までに実際発生した圧力異常(リーク等)20 例について各部分のデータを解析し、「正常」、「異常」となるパラメータを学習した。異常と判別した例を Fig. 6 に示す。なお、電子リングと陽電子リングで使用するデータは区別しなかった。
各事例のデータを、訓練用データ(Training data)と試 Figure 9: Learning result of weight parameters for the Tail
験用データ(Test data)に無作為に分け、訓練用データに part, in which the red and blue circles indicate the abnormal
ついて、平均交差エントロピー誤差(Mean Cross-Entropy and normal parameters, respectively. The green lineError, MCEE)を最小にするように、勾配法を用いて重み represents the decision boundary of the classification.
パラメータを最適化した[2]。訓練用データとテストデータとも誤差が小さくなるように、すなわち、過学習とならない 赤い丸がそれぞれ「正常」、「異常」時の入力パラメータである。緑の線は、出力 y0 が 0.5 となる線で、学習したように注意した。
Figure 7 は、Storage 部について学習結果の例である。 「正常」と「異常」の境界線(決定境界)を意味する。うまく横 軸 log(RT /RREF) 、 縦 軸 log(RI /RREF) の プ ロ ッ ト を 、 クラス分けできていることがわかる。Figure 8 は、訓練log(RT/PAV)の範囲を変えてプロットしたもので、青い丸、 データとテストデータの学習ステップ毎の誤差の変化を示している。この範囲では両データで誤差が減少し、過学習には至っていないことがわかる。
Figure 9 は Tail 部について同様に学習した結果を示している。log(RT/RREF)に対して log(RT)を示したもので、青丸は「正常」、赤丸は「異常」時の入力パラメータ、緑の線が学習した境界である。訓練データと試験データの誤差の学習ステップ毎の変化は Fig. 8 と同様の振る舞いだった。

6.

Figure 7: Learning result of weight parameters for the
Storage part, in which the red and blue circles indicate theabnormal and normal parameters, respectively. The green
line represents the decision boundary of the classification.

異常の検知

6.1 検知方法
通常運転時は、ビームアボート時に解析をスタートさせ、そのフィルの圧力を調査データとし、Storage 部とTail 部の 2 つの部分について入力変数を計算して、FNN の決定境界を用いてクラス分けする。出力 y0 が 0.5以上であれば「異常」、未満であれば「正常」とした。
ただし、ビームが蓄積されている時間が長い場合は、異常検知が遅れる場合がある。そのため、蓄積時間が 4時間以上となった場合、ビームがアボートされなくてもこの間のデータを 1 フィルの Storage 部と見なしで解析する。つまり、少なくとも 4 時間に 1 回は調査する。
また、シャットダウン中など、ビームが無い時には、や- 81 -Proceedings of the 20th Annual Meeting of Particle Accelerator Society of Japan
August 29 - September 1, 2023, Funabashi

PASJ2023 WEOB9

Figure 10: Definition of “Period” for counting the numberof anomalies detected by each vacuum gauge. One Period
comprises eight fills.

(a)

はり 4 時間毎に 1 フィルの Storage 部として圧力を調査する。ただし、この場合は、基準データでのビーム電流ゼロの時の平均圧力(PAV0-REF)と、調査データの平均圧力(PAV0)を比べて判断する。しかし、これまでのところ学習に用いる過去のデータが無いので、当面、単純に PAV0が PAV0-REF の 2 倍以上であれば「異常」とした。今後運用しながら判定基準を決めていく必要がある。
6.2 検知結果の表示
各調査データで「異常」と判断された真空計を GUI 画面に表示する。しかし、1 回のみの調査ではその真空計の異常の履歴や傾向がわからないため、8 回前の調査データ(フィル)までを 1 調査期間(Period)とし、この期間内に該当する真空計が異常と判断された回数をカウントする。この作業を繰り返すことで、異常状態が続けばその真空計のカウント数が上がり、異常が発生し始めたことがわかる。Period の概念を Fig. 10 に示す。表示プログラ
ムでは、最新の Period (Fig. 10 の Period 0)で異常と判断された回数の多いものから最大 5 個の真空計を選び、10回前の Period からカウント数をプロットする(Fig. 11(a)参照)。同時に真空計名(EPICS Record)も表示する。

(b)
Figure 11: Examples of the histories of the numbers ofanomalies detected for five vacuum gauges (left), and thetime trends of pressure at the most frequently detectedvacuum gauge and beam current at the corresponding times(right), for (a) the Storage and (b) the Tail part. The lower
right plot of (b) is an enlarged view of the upper one.
2022 年 6 月の運転時の圧力データや 2023 年シャットダウン中の圧力データを使って模擬試験を実施し、真空計の異常検知件数の頻度を調べ表示させることで、異常が発生し始めている真空計を特定できることが分かった。
異常検知手法として使える感触が得られたので、2023 年の運転再開時から試用する予定である。
今後の課題としては以下の点が挙げられる。(1) 異常判断基準の精度向上。今は明らかな異常状態のデータを使って学習している。(2) 異常な期間が長く継続した場合の判断。(3) プログラムの高速化。(4) 「異常」の種類(リーク、放電など)の推定。(5) 温度の異常検知などへの応用。引き続きこれらについて検討を進める。

6.3 検知プログラムの模擬試験
2022 年のビーム運転時のデータや 2023 年のシャットダウン時のデータを用いて模擬試験を行った。2 つの例
を Fig. 11 に示す。Figure 11(a)は Storage 部の例で、左図は異常と判断された真空計とそのカウント数の履歴を示 し 、 真 空 計 ”VALCCG:D01_H16” が 10 Period 前(Period -10)ぐらいから「異常」を示し始めていることを示す。右図はその時の圧力(表示値)の実際の振る舞いで、ほぼ同じ蓄積ビーム電流でも圧力が急に上昇し始めていることがわかる。下図は異常時の拡大図である。圧力 謝辞
は 10-7 Pa 領域で未だアラーム発報には至らない。Figure
本研究にあたり、KEKB 真空グループの皆様、KEKB
11(b)は、Tail 部で真空計”VALCCG:D04_L07”が「異常」
モニターグループの三塚岳氏にはいろいろ相談に乗っを示し始めた場合の例で、圧力の突出が徐々に頻繁に見え始めている。圧力異常の兆候を検知できたことがわ て頂きました。ここに深く感謝いたします。
かる。

参考文献

7.

まとめと今後の課題

基本的な機械学習を応用して SuperKEKB 主リングの圧力データを調査し、真空トラブルの予兆を捉える圧力異常検知手法を検討した。運転時の Storage 部、Tail 部のビーム電流、時間に対する変化について、基準データを用いて合理的モデルに基づく回帰曲線を導出し、調査データでの RMSE 等を入力パラメータとして 2 層 FNNでの 2 クラス分けを行い、「正常」「異常」を判断した。決定境界はこれまでのトラブル時のデータで学習した。

[1] Y. Suetsugu et al., “SuperKEKB vacuum system operationin the last six years operation”, Phys. Rev. Accel. Beams, 26,013201, 2023,
https://doi.org/10.1103/PhysRevAccelBeams.26.013201[2] 伊藤真, 「Python で動かして学ぶ! 新しい機械学習の教科書」, 翔泳社, 2019, ISBN:978-4-7981-5991-1.
[3] J. M. Lafferty, “Foundations of Vacuum Science andTechnology”, John Wiley & Sons, Inc., New York, 1997,
ISBN:978-0-471-17593-3.
[4] 曾我部東間, 「Python による異常検知」, オーム社, 2022,
ISBN:978-4-274-22541-3.

- 82 -