高知工科大学大学院修士課程電子・光工学コース 修士論文要旨

2023年2月17日

感染症例数予測のための時系列解析手法及び機械学習の応用と検証
Application and Validation of Time Series Analysis Methods and Machine Learning
for Forecasting the Number of Infection Cases
1255055 土肥 直樹 （Soft Intelligent System On Chip 研究室）
（指導教員 星野 孝総 准教授）
1．はじめに
1.1 研究背景
紀元前より人類は感染症と闘い続けてきた。特に近年では、COVID-19やサル痘が流行している。このような背景から、予測モデルの需要が高まってきている。そこで、本研究ではCOVID-19及びサル痘の症例数予測モデルを構築する。
1.2 関連研究
Wu ら[1]は、インフルエンザ様疾患発生数の予測を統計モデル(Auto-Regressive Integrated Moving Average:ARIMA) と機械学習モデル(Long Short-Term Memory:LSTM、 Attention
機構付き Sequence To Sequence:Seq2Seq 、Transformer)の予測精度を比較した。この際、比較の基準として ARIMA の R
oot Mean Square Error (RMSE)を設定している。彼らの結果
では、Transformer が ARIMA の RMSE から最も減少させることができた。Transfomer は様々な分野で高い精度を誇るモデルで、時系列予測分野では Zhou[2]らによって時系列予測用に改良された Informer が提唱されている。通常のモデルは、再帰的に予測値を入力することで次の時刻の予測を行う。Informer は、1 度に複数時刻予測することが可能で、これにより精度を上げている。しかし、Transformer ベースのモデルの学習には大量のデータが必要であり今回の感染症予測には不向きである。また、Spyros ら[3]は、機械学習モデルが古典的な統計モデルに代替可能か検証した。その結果、統計モデルの方が精度が高かった。Wu ら[1] ら、Spyros ら[3]の研究より、統計モデルと機械学習の比較は重要であると我々は考える。そこで、本研究では図 1 に示す小規模なモデルの Recurrent Neural Network(RNN)を基本としたモデルをZhou ら[2]の研究を参考に複数時刻予測できるモデルとして構築し、統計モデル（ARIMA、SARIMA）との予測比較を行った。また、Wu ら[1] らの研究を参考に ARIMA の RMSE をベースラインとして用い彼らの研究結果とも比較した。
1.3 研究目的
本研究では、最適な症例数予測モデルの発見を最終目的とする。まず、実験１を以降の実験で使用する RNN における最適な入出力関係を明らかにする目的で行った。次に、実験 2 及び実験 3 は、感染症症例数予測において最適な予測モデルを探索する目的で行った。

次に、実験 2 では実験 1 で決定した入出力関係と第 7 波まで COVID-19 のデータを用いて RNN、LSTM、Seq2Seq、Stacked LSTM を構築し ARIMA 及び SARIMA と比較を行った。最後に、実験 3 では実験 2 で決定した入出力関係とサル痘のデータを用いて RNN、LSTM、Seq2Seq、Stacked LSTM を構築し AR
IMA 及び SARIMA と比較を行った。また各実験において、ARIMA と SARIMA の関係においてモデルが季節成分を含むかを確認するため各モデルの残差における自己相関のコレログラムを描画した。

3．実験結果と考察

実験 1 の結果を表 1 に示す。表 1 中の数値 to 数値は入力次元 to 出力次元の意味である。また差(%)は、式 1 によって算出された。表 1 より、実験 1 において最も精度の高いモデルは 3 次元入力 3 次元出力であった。この結果は、(Self)Additive-Attention[4]によってもたらされたと考える。Attention は、Wu らの実験で最も高い精度であった Transformerにも用いられている機構である。この結果より、以降の実験で用いる入出力関係を 3 次元入力 3 次元出力に決定した。
表1: COVID-19 のデータを学習したモデルの評価(実験 1)
ARIMA
SARIMA
1to1
3to1
3to3
RMSE
4646711059470.0-85.6-76.3-87.3-89.9
差(%)
次に、COVID-19 のデータを用いた実験 2 及びサル痘のデータを用いた実験 3 の結果と Wu らのインフルエンザ様疾患発生数予測モデルとの比較を行った。表 2 に、統計モデル及び機械学習モデルの中で最も精度の高かったモデルと Wu らの研究で最も精度の高かった Transformer の RMSE と各症例数用の ARIMA の RMSE からの増減率を示す。なお、表中の差(%)は、式 1 によって算出された。
表 2: 実験 2 及び実験 3 の結果と Wu らのモデル比較
TransformerSARIMA
LSTMSARIMARNN(COVID)(COVID)(By Wu[3])
(サル痘)
(サル痘)
RMSE
0.588
6707
10827276360-42.4-76.2-61.6-83.1-77.9
差(%)
表 2 より、COVID-19 とサル痘どちらにおいても統計モデルの SARIMA の結果が最も良かった。RNN や LSTM を含め我々の結果は Wu らの Transformer を約 20%超える結果を示した。
また、各実験の統計モデルにおいて残差のコレログラムを描
2. 研究内容画した結果、ARIMA においては残差に周期的な自己相関が観実験 1 では、3 種類の入出力の RNN を第 2 波までの COVID測された。この結果より、SARIMA の精度が高いのはモデル19 のデータを用いて学習し構築した。その後、ARIMA と SARが季節性を含んでいることが起因していると考察した。
IMA と比較し最適な入出力を選択した。

参考文献

図 1:RNN
なお、ARIMA の RMSE との比較は式 1 を用いて行った。
!

!"#$%!&#%! ' !#"$− 1$ × 100 - (1)[1] Wu, Neo, Green, Bradley, Ben, Xue, O’Banion, Shawn: ”Deep transformer models for time series forecasting: The influenza
prevalence case”, arXiv preprint arXiv:2001.08317, 2020.
[2] Zhou, Haoyi, Zhang, Shanghang, Peng, Jieqi, Zhang, Shuai,Li, Jianxin, Xiong, Hui, Zhang, Wancai:” Informer: Beyond eff
icient transformer for long sequence time-series forecasting”, Vol. 35, No. 12, pp. 11106–11115, 2021.
[3] Makridakis, Spyros, Spiliotis, Evangelos, Assimakopoulos, V
assilios:” Statistical and Machine Learning forecasting methods:
Concerns and ways forward”, PloS one, Vol.13, No.3, p.e019
4889, 2018.
[4] Bahdanau, Dzmitry, Cho, Kyunghyun, Bengio, Yoshua:” Neural machine translation by jointly learning to align and translate”, arXiv preprint arXiv:1409.0473, 2014.