2024年8月18日
第75回東京支部例会

機械学習GraphCastと気象予報の将来

日本気象予報士会東京支部

田家 康 （No.3365)
山崎秀樹 (No.9942)
日本気象予報士会

一般社団法人全体の構成Ⅰ：気象予報と機械学習（田家）Ⅱ：Lam論文について（山崎）Ⅲ：ECMWFの数値予報（HRES）とGraphCast
Ⅳ：Discussion
・ 田家
・ 山崎
日本気象予報士会

一般社団法人2

Ⅰ. 気象予報と機械学習（田家）日本気象予報士会

一般社団法人3

気象予報と機械学習（AI）は新しいテーマではない▪ 30年以上前から、ガイダンスで用いられてきた。
▪ 現在の気象庁のガイダンス（ガイダンス基礎編より）▪ ニューラルネットワーク、カルマンフィルタ、ロジスティック回帰、線形重回帰、および診断法▪ ニューラルネットワーク：神経細胞（ニューロン）機能の一部をモデル化した機械学習アルゴリズム。

▪ 入力値（説明変数）と出力値（目的変数）の関係が非線形である場合にも適用できる。

▪ ディープラーニング（深層学習）

気象庁

ニューラルネットワークの手法の中の誤差
逆伝播学習法：・ 出力との誤差が少なくなるよう係数を調整するもの。
・ 計算ではGPUが威力を発揮。
4▪ 現在の AI に利用されているディープニューラルネットワークは、中間層を多層化したもの。

▪ 気象庁でのディープラーニング研究：2023年6月▪ 「気温観測データの品質管理・解析に AI 技術を活用する研究を進め、様々な気象データや標高などの土地情報から、AI（ディープラーニング）により全国 1km メッシュの現在の気温の値を推定する技術（図 1）を開発した」
https://www.jma.go.jp/jma/press/2306/30b/20230630_ai.pdf
一般社団法人日本気象予報士会

機械学習（AI）の用途の拡大▪ 関山剛（気象研究所）「大気科学におけるAIの利用方法」▪ パターン認識▪ 畳み込み技術が画像処理にとても向いているから。大気科学データの多くは画像とし30年以上前から、ガイダンスで実装。

▪ 画像パターン認識であり、画面に写っているものとそのタイプの分類について、AI が時に人間を超える精度で判断する。

▪ 川下側のガイダンスから、現状は川上側の衛星観測データのリモートセンシグへと展開している。

▪ パターン予測（機械学習による将来予測）▪ 深層学習は文章や画像、あるいは何らかの数値を（過去の情報に基づいて）新たに生成することも得意である。

▪ 「機械学習のみを使った天気予報：物理学を一切知らなくてもビッグデータとAI の組み合わせだけで天気予報ができる時代が来るかもしれない」▪ 数値シミュレーションモデルの補助：スーパーコンピュータを気象庁（2023）気象観測・予測へのAI 技術の活用 に向けた共同研究の 成果 について
5

必要の物理方程式計算の一部をAI が要領よく（＝極めて短い計算時間で）肩代わり。

日本気象予報士会

一般社団法人2022年後半以降の急速な状況変化▪ ECMWFではAI活用の計画書を2021年に策定▪ 2022 年内にAI の利用を促進するための技術基盤▪ 2023 年内に現業アプリケーションの一部をAI に置き換え。

▪ 2024 年にAI 計算用のスパコンを調達する▪ 2025 年内にAI による予報モデルの高速化技術を導入。

▪ 2022年後半、幾つかの研究チームが物理数値シミュレーションモデルを使わず完全にAIだけでECMWFを超える精度の天気予報に成功したと報告。
▪ 旧来の気象予報機関ではなく巨大IT 企業や中国の大学に所属していることが特徴（関山剛（気象研究所）「大気科学におけるAIの利用方法」）

ECMWF–ESA Workshop on Machine Learning for
Earth Observation and Prediction▪ 現在でも、ECMWFで積極的にワークショップの開催

プレゼン資料はダウンロード可能です。
https://events.ecmwf.int/event/304/timetable/▪ 数カ月に一度開催。トレーニングプログラムも用を実施意。

6

日本気象予報士会

一般社団法人機械学習による10日間予報▪ Lam（2023）論文：詳細は山崎のパート▪ GraphCastの中期予報（10日間予報）▪ GNNを用い、および6時間前の天気図について、1979年以降40年以上の再解析データによる機械学習だけで予測するもの。

▪ 数値予報モデルは用いないためPCでも動く。

▪ 1380の評価対象変数のうち90％の変数で、ECMWFの数値予報モデル（HRES）の精度を上回った。

▪ AIは内挿に強く外挿に弱いとされ、異常現象の予測には不向きとされてきたが、今回の検証では「ハリケーン進路」「極端な高温や低温」といった極端現象の予報でも、ECMWFの数値予報を凌駕。

▪ ECMWFではホームページ上で、GraphCastの予報結果の配信を開始。

Lam et al (2023) 一般社団法人日本気象予報士会
7GraphCastとは：某サイトの受け売りです▪ 数値予報モデルとGraphCastの比較▪ 数値予報モデル計算量を増加させたり、モデルの改善によって精度を向上させる。
▪ 計算資源の向上や、熟練の研究者によるモデル・アルゴリズム・近似のうまい方法の改善で精度が向上。

▪ GraphCast：過去の膨大なデータを使って精度を向上。
▪ 方程式では表現できないようなパターン・スケールを捉えることができる。
▪ 再解析データの期間が長ければ長いほど、精度は向上。
▪ 技術のポイント▪ モデルとしてGNNを採用。正二十面体（M0）の各面を4分割して、さらに4分割…を6回繰り返した“multi-mesh”構造を使用て学習する。

【論文解説】「GraphCast：GNNで気象予報（概要編）」
https://qiita.com/matsuda_tkm/items/3d9169c9b24adff172c08▪ ただし、高層の精度はHRESに劣る。
▪ 数値予報は決定論的に計算するが、GraphCastでは平滑化の手法を取るためか（？）

日本気象予報士会

一般社団法人Ⅱ. Lam論文について（山崎）日本気象予報士会

一般社団法人9GraphCastの発表ジャーナル
Science誌のURL（6ページ、2023.12.22）
https://www.science.org/doi/10.1126/science.adi2336（Lam et al, Science 382 1416-1421)
補足資料（132ページあり、2023.12.22）
https://www.science.org/doi/suppl/10.1126/science.adi
2336/suppl_file/science.adi2336_sm.pdf

比較分析を含むアーカイブ論文（96ページあり、2023.12.28）
2312.15796 (arxiv.org)

日本気象予報士会

一般社団法人10GraphCastのモデルについて
1. GraphCastのメッシュ：水平方向0.25℃（Lam et al, Science 382 1416-1421

2. 必要となる計算資源（各計算能力データはChatGPTにより調査）
GraphCastは、TPU v4（Tensor Processing Unit v4）にて評価・運用
PC（Intel Core i7）：1 TFLOPS (CPU) 〜 10 TFLOPS（内蔵GPUを使用時）
TPU v4：275 TFLOPS、Googleが開発した機械学習に特化したプロセッサ
スパコン（気象庁） : 40 900 TFLOPS、富士通「PRIMEHPC FX1000」、 ARMベースA64FX CPU
スパコン（富岳） ：442 000 TFLOPS、ARMベースのA64FX CPU、マルチコア並列処理※TFLOPS、浮動小数点演算毎秒→ GraphCastは、汎用PCでは性能不足だが、スパコンまでは不要で、 TPU v4クラスで運用可能。

日本気象予報士会

一般社団法人11

モデル（Lam et al, Science 382 1416-1421 Fig.1より)(A)入力気象状態は、合計 721 × 1440 = 1,038,240 ポイントで構成される 0.25° 緯度経度グリッドで定義されます。 クローズアップ ポップアウト ウィンドウの黄色のレイヤーは 5 つの表面変数を表し、青色のレイヤーは 37 の気圧レベルで繰り返される 6 つの大気変数を表します (合計で 1 ポイントあたり 5 + 6× 37 = 227 の変数)。その結果、235,680,480 の値の状態表現が実現します。
(B)GraphCast は、グリッド上の気象の次の状態を予測します。
(C)予測は、GraphCast (GC) を以前の予測状態に繰り返し適用して、連続するリード タイムでの気象を表す一連の状態を生成することによって行われます。
一般社団法人日本気象予報士会12モデル（Lam et al, Science 382 1416-1421 Fig.1より) （続き）
(D) GraphCast アーキテクチャのエンコーダ コ
ンポーネントは、入力のローカル領域 (緑のボックス) をマルチメッシュ グラフ表現のノード (緑、上向き矢印、緑青ノードで終了) にマッピングします。
(E) プロセッサ コンポーネントは、学習したメッセージ パッシングを使用して各マルチメッシュ ノードを更新します (太い青矢印、ノードで終了)。
(F) デコーダ コンポーネントは、処理されたマルチメッシュ フィーチャ (紫色のノード) をグリッド表現 (赤、下向き矢印、赤ボックスで終了) にマッピングします。
(G) マルチメッシュは、ベース メッシュ (M0、12 ノード) から最も細かい解像度 (M6、40,962 ノード) まで解像度が増加する20面体メッシュから派生し、地球全体で均一な解像度を持ちます。これには、M6 のノード セットと、M0 から M6 までのすべてのエッジが含まれます。異なるメッシュのエッジを介した学習されたメッセージの受け渡しは同時に行われるため、各ノードはすべての受信エッジによって更新されます。[図の地球テクスチャは、CC BY 4.0 に基づいて使用されています。

日本気象予報士会

一般社団法人13

GraphCastとHRES（High-Resolution Ensemble System：高解像度アンサンブルシステム）との結果比較（Lam et al, Supplementary Materials of Science 382 1416 (2023)より)低気圧の予報について、HRES（High-Resolution Ensemble System：高解像度アンサンブルシステム）に比較してGraphCastの方がTrue Positive Rate (TPR)＜=感度、予報精度＞が高い、との評価結果。
GraphCastが、有効な「広義の統計的手法」として期待できる可能性がある。

日本気象予報士会

一般社団法人14

GNN (Graph Neural Network）の概要
GNN(Graph Neural Network)：グラフデータをニューラルネットワークで扱う・応用先としては、ソーシャルネットワーク
交通ネットワーク
リコメンドモデルタンパク質間相互関係・・・
画像引用元：Wu, Z., Pan, S., Chen, F., Long, G.,＜比較＞：
CNN (Convolutional Neural Network)
・畳込みニューラルネットワークと呼ばれ、周辺のニューロンの情報を取り込んでの学習を行うことが特長。
・顔認証などの画像分析や音声認識で非常に優れた実績がある。

Zhang, C. and Philip, S.Y., 2020, Fig. 1⇒物理現象、化学現象への適用が進んできており、気象現象への適用に発展してきたもの。

参照HP：
https://www.nature.com/articles/s41467-020-19267-x
15

参照HP： https://hogetech.info/ml/dl/cnn

日本気象予報士会

一般社団法人GraphCastを開発したGoogle社/Rémi LAM氏のチーム
2024年7月、Google社/Rémi LAM氏のチームは、AI 気象モデル GraphCastで英国王立工学アカデミーからMacRobert 賞を受賞。
Rémi LAM氏：
h-index = 12 (Google Scholar, 2024.7.13)
2018年: マサチューセッツ工科大学でPhD取得
2021年: Google社、Senior Research Engineer
2022年: Google社、Senior Research Scientist
2023年: Google社、Staff Research Scientist
現在に至る。

出典：https://www.linkedin.com/in/remi-lam/16

日本気象予報士会

一般社団法人GraphCastに関するRémi LAM氏とのQ&A

2024年1月5日に、Google社 Rémi LAM先生に質問しましたところ、大変丁寧にメール回答を頂きましたので、ご紹介します。

日本気象予報士会

一般社団法人17

Ⅲ.ECMWFでの比較
力学予報（HRES)vs.GraphCast▪ ECMWFではExperimentsとして、5つのAIモデル（およびアンサンブルモデル1つを並べて掲示。

https://charts.ecmwf.int/catalogue/packages/ai_models/▪ GraphCastは5つのモデルの中の1つ（もう一つ、ECMWFでアンサンブル手法を取り入れたものがある）。
▪ 某気象会社は、そのうち「マルチAIモデルアンサンブル」の予報をするかも・・・。
▪ HRESとほぼ同じ仕様の天気図があり、比較可能。

https://charts.ecmwf.int/
18

日本気象予報士会

一般社団法人ECMWFでの比較：数値予報（HRES)vs.GraphCast
数値予報HRES

3日後▪ 上図：500hPa高度とGraphCast

850hPa気温▪ 下図：海面更生気圧と850hPa風速▪ 初期値：2024年8月

17日12UTC、▪ 予報図：2024年8月

20日12UTC▪ 両者とも、ほとんど変わらないが、GraphCastの方がSLPで、太平洋高気圧の本州への張り出したやや強い（500hPa高圧部は変わらず）。

日本気象予報士会

一般社団法人19

ECMWFでの比較：数値予報（HRES)vs.GraphCast
数値予報HRES

7日後▪ 上図：500hPa高度とGraphCast

850hPa気温▪ 下図：海面更生気圧と850hPa風速▪ 初期値：2024年8月

17日12UTC、▪ 予報図：2024年8月

24日12UTC▪ GraphCastの方が、温帯低気圧の東遷が早い。

▪ HRESでは、500hPaの5760mのトラフ深い。

日本気象予報士会

一般社団法人20

ECMWFでの比較：数値予報（HRES)vs.GraphCast
数値予報HRES

10日後▪ 上図：500hPa高度とGraphCast

850hPa気温▪ 下図：海面更生気圧と850hPa風速▪ 初期値：2024年8月

17日12UTC、▪ 予報図：2024年8月

27日12UTC▪ 双方とも、500hPaの北緯40°を中心に逆位相になるが、HRESの方が顕著。

日本気象予報士会

一般社団法人21

Ⅳ. Discussion（田家・山崎）

日本気象予報士会

一般社団法人22

数値予報の時代は1980年代以降（田家）▪ 大西晴夫：「ＡＩ時代の数値予報と予報官の役割は？」▪ 私が数値予報課（電子計算室）に在籍したのは 1970 年代後半から80 年代初めで、（中略）毎日、数値予報班から予報課の会報に出向き、数値予報の結果についての解説を行っていましたが、主任予報官からは、「はいご苦労様」の一言で終わり。後は予報官の「経験とカン」が幅を利かす時代でした。

▪ 永澤義嗣：『気象予報と防災』▪ 天気図に基づく天気予報の時代から、数値予報に基づく天気予報の時代への移行。当初、予報精度は十分ではなく、予報官から相手にされなかった。

▪ 木村龍治：「天気予報と偶然」▪ 「気象は、原子から地球規模まで、いろいろなスケールが関わった複雑な世界です。そこには、複雑系特有の構造が見られます」▪ 「コンピュータシミュレーションは、かなり、その複雑性を表現していますが、完全に、自然の再現しているわけではありません。この手法（リチャードンの発想）には、自ずと限界があると思います」▪ 「しかし、第2のリチャードソンというような、それを克服するよ
一般社団法人日本気象予報士会
うな別の考え方があるのかどうか、分かりません」

23

気象予報の将来（田家）▪ 気象予報の主役交代の予感▪ 天気図予報⇒数値予報⇒機械学習予報（？）▪ 1980年代以降の数値予報モデルが主役の座から外れるかも。
▪ 2000年頃までは、プロット図による局地解析は行われていた。
▪ 自前のスパコンを持たない国で導入進むだろう。
▪ リープフロッグ型発展（「カエルが一足飛びする」）：既存の技術を経ることなくいきなり最新の技術に到達する現象。
▪ 外部強制を考慮する予報では、数値予報は残るのではないか。
▪ 機械学習は内部変動を前提にすると力を発揮するだろう。
▪ 温暖化モデル（温室効果ガス）、大気海洋結合モデル（3カ月以上の長期予測）、ENSO予報モデル（遅延振動子）、巨大火山噴火の影響、イベント・アトリビューション
▪ 隈健一氏（元気象研究所長、2023年11月東京支部例会講演者）：

隈健一氏FBより

24

Facebookコメント（2023年11月18日分、公開）▪ 「気象機関は予報をせずに、ただただ良質な再解析データを作成し、さらに現在時刻まで同じ手法で解析を行えば、あとはAIで予報ができる時代になるのかもしれない」▪ 「しかし果たして、再解析を行うためだけに、気象機関が膨大な予算を投じてスパコンや数値予報人材を育成確保することができるのだろうか、これが私の最大の懸念でもある」
一般社団法人日本気象予報士会

機械学習へのネガティブな意見について▪ 「なぜそのような予測になったのか」の解釈が困難であるのに、防災活動に役立てていいのか。

▪ 機械学習は、既に気象データの4次元同化でのリモートセンシングおよび予報結果のガイダンスで実績を積んでいる。実況値以後の天気変化の予報だけを特別に考える意味はあるのだろうか。数値予報でも機械学習予報でも、“最後の判断”が人間であることは変わらない。

▪ 一般の人々にとって、予報図が数値予報モデルであろうと機械学習モデルであろうと、ほとんど気にならない（むしろ「AI利用」と説明した方が納得感があるかもしれない）。

▪ AIがパターンを見つけるには多くの似た現象の学習が必要で、滅多に起こらない極端な大雨などの確率的な「外れ値」は事例が少なく、精度よく表現することが難しい（某気象予報士のネットコラム）。

▪ GraphCastは1979年以降の再解析データを用いており、45年間に相当する。異常気象（30年に一度）なり、Extreme Event（25年に一度）の頻度であれば十分対応できるし、そうした結果も出ている。

▪ 100年に一度の現象の予測はできないのではないか（気象予報士会の某氏）。
▪ 数値予報モデルでは決定論的に100年に一度の確率の現象を示すことができるが、不確実性も大きい。

機械学習による予報は学習データが積み上がっていくので、数十年経てば対応できる。

▪ 数値予報はなくなるのか。

▪ 機械学習は実況解析に依存しており、力学的な数値モデルによる実況解析のため当面は必要不可欠。
▪ 線状降水帯予報（水蒸気量の異常値監視）、台風モデル（ボーガス埋め込み）は残りそう。
▪ ただし、大気海洋混合モデルなど、遠い将来は機械学習予報が威力を発揮するものもあるだろう。

日本気象予報士会

一般社団法人25

WMO会合：気象予報へのAI導入検討状況（山崎）2024.7.18 ペルー時間9:00-11:00（UTC14:00-16:00、日本時間23:00-翌1:00）

Machine Learning (ML)/
Artificial Intelligence (AI) in Weather Prediction

2024.7.18のWMO会合資料より抜粋

日本気象予報士会

一般社団法人26

WMO会合：気象予報へのAI導入検討状況（山崎）
開発者

モデル名称

特長

評価実施気象機関

NVIDIA

FourCastNet

気象予測のために開発された機械学習もでるで、高解像度予報や短・中・長期予報の実現を目指す

ECMWF

FourCastNet Ver. 2

FourCastNetに対し気象動力学に関する物理モデリングを強化

ECMWF

Huawei Cloud

Pangu-Weather

気象予測のために開発されたAIモデルで、リアルタイムな気象予報提供を目指す

ECMWF

Google Deep Mind

GraphCastGNNの強みを活かし、気象要素間の複雑な相互関係をモデル化したディープ
ラーニングモデル

ECMWF、NOAA
アメリカ国家気象局
カナダ気象センター

Microsoft

ClimaX

深層学習やトランスフォーマーモデルなどの最新のAI技術により、従来の物理ベースのモデルでは捉えにくい複雑な気象パターンを学習し・予測

NOAA
アメリカ国家気象局

Shanghai Artificial
Intelligence
Laboratory

FengWu

気象予測のために開発されたAIベースのモデルで、大気の動力学や気象パターンのシミュレーションに特化

中国気象局

Fudan University,
Shanghai

FuXi

衛星データ、気象ステーションデータ、過去の気象パターンなどの統合による包括的な予測モデル

ECMWF

Alibaba

SwinRDM

スウィン・トランスフォーマー（Swin Transformer）アーキテクチャを使用した細かな気象パターンの認識と予測実現を目指したモデル

中国気象局
ECMWF

ECMWF

AIFS

衛星データ、地上観測データ、気象モデル出力など、さまざまな種類のデータを統合し、包括的な気象予測を目指したモデル・

ECMWF

2024.7.18のWMO会合資料より抜粋
27

日本気象予報士会

一般社団法人

<参考>：AI処理技術と応用先(2024年時点)（山崎）
分類

応用
処理技術
応用例

画像認識

自然言語処理（NLP）

グラフデータ解析

生成モデル

音声処理

推奨システム

物体検出、画像分類、顔認識

言語翻訳、文章生成、感情分析

ソーシャルネット
ワーク分析、化学物質の構造解析、
気象現象予想画像生成、
スタイル変換、
データ補完

音声合成、音声認識

商品の推薦、映画の推薦

畳み込みニューラル
ネットワーク
（CNN）

リカレントニューラ
ルネットワーク（RNN）、
変分オートエンコーダ（VAE）

グラフニューラル
ネットワーク
（GNN）

敵対的生成ネット
ワーク（GAN）

WaveNet、RNN

行列分解、深層協調
フィルタリング（Deep
CollaborativeFiltering）

長短期記憶（LSTM）
双方向LSTM（BiLSTM）
ゲート付きリカレン
トユニット（GRU）
注意機構（Attention
Mechanism）
トランスフォーマー
（Transformer）

グラフ畳み込みネッ
トワーク（GCN）
グラフアテンション
ネットワーク
（GAT）
グラフサンプリング（GraphSampling）
メッセージパッシング（MessagePassing）

ジェネレータ（Generator）
ディスクリミネータ（Discriminator）
条件付きGAN（Conditional GAN,cGAN）
スタイルGAN（StyleGAN）
サイクルGAN（CycleGAN）

CNNとRNNの組合せ
スペクトログラム変換
メル周波数ケプスト
ラム係数（MFCC）

行列分解（Matrix
Factorization）
自己回帰ネットワー
ク（Autoencoder）
注意機構を用いた協調フィルタリング

使用技術

具体的な処理手法

畳み込み層（ConvolutionalLayer）
プーリング層（Pooling Layer）
バッチ正規化（BatchNormalization）
ドロップアウト（Dropout）
転移学習（TransferLearning）

ChatGPT調査結果+α。ただし今後の発展によりドラスチックに変化すると予想される。
28

日本気象予報士会

一般社団法人まとめ
まとめコメント：田家
１．50年ほど前に「天気図予報から数値予報」へと大きな変革がありましたが、「数値予報から機械学習予報」への転換の“とば口”にいるのかもしれない。数値予報にこだわる気象予報士がいるとすると、1980年頃の天気図予報に対する予報官の思いと類似性があるかもしれません。
２．欧米日以外の最新鋭のスーパーコンピュータを持たない国で機械学習予報の開発が進み、数値予報を凌駕していく将来があるかもしれません（リープフロッグ型発展）。
３．数値予報を目的とした力学的モデルは機械学習の実況解析のため必要不可欠ですが、時間積分を要する等の予報の開発については、今後は予算制約を受けることになるかもしれません。
まとめコメント：山崎
１．AI人工知能技術はここ最近10年で、主に人間相手アプリでブレイクしてきました。
２．学習を伴う大規模データ処理技術は、気象データなどの各種応用先モデリング手法提案や新たな数学的処理テクニック発見・適用などをベースに「広義の統計的手法」として確立してくと思います。このような状況をリチャードソン先生はどのような感想を述べられるか？きっと「面白いので、どんどん進めてください！」と言って下さりそうな気がしています。
3．各予報士の皆様へ（最近合格された方や若手の方を含む）：それぞれ把握されている事例や調査研究内容など、例会の場で発表・共有頂けると嬉しいです。
一般社団法人日本気象予報士会
29