富士通HPCの過去、現在、未来～これまでの20年と未来に向けて～
2021.12.8

富士通株式会社 ICTシステム研究所
中島 耕太© 2021 Fujitsu Limitedこれまでの20年2© 2021 Fujitsu LimitedPCクラスタのはじまりのころ○Myrinet (1994)○NIC上のプロセッサでプロトコル処理をオフロード○さまざまなプロトコル(AM/FM/PM)がMyrinet上で開発○SCoreプロジェクト (RWCP)○SCore: PC cluster operating system○PM: zero-copy data transfer library○PCクラスタの実装:○RWC PC Cluster II (*)○ Pentium Pro 200MHz /Myrinet/128 nodes(*) H. Tezuka, A. Hori, Franci O’Carroll, Y. Ishikawa:
RWC PC Cluster II and its performance,IPSJ SIG Technical Report, 1997-ARC-128○Score Cluster III○ Pentium III 933MHz/Myrinet 2000/512 nodes

Myrinetの登場によりネットワークボトルネックを解消、PCクラスタの実用化に弾み
3© 2021 Fujitsu Limited

Riken Super Combined Cluster (RSCC)
8.728TFlops, 7 th /Top500 (2004.6)○共同研究センタースパコンとして日本で最初のPCクラスタ○当時日本最速のPCクラスタ○1,024ノード構成○理論性能: 12.5TFlops○InfiniBandが使われた当時最大のPCクラスタ○OSSベース: Linux/SCore

4© 2021 Fujitsu Limited

T2K Open Supercomputer/KYODAI
50.51TFlops, 35 th /Top500 (2008.6)○Open supercomputer project○筑波大、東大、京大による仕様の共通化✓ 4 x Quad Core-Opteronserver✓ memory: 32GB
✓ Network: 4x DDR-IB
https://pr.fujitsu.com/jp/news/2008/06/2.html

Opteronクラスタが広がり、高いシステム性能を達成
5© 2021 Fujitsu LimitedOakforest-PACS
13.55PFlops, 6 th /Top500 (2016.11)○メニーコアアーキテクチャによる本格的なスーパーコンピュータ

Computing Node

12.5GB/s
Omni
Path
PCIe 16GB/s

128GB/s
DDR4
96GB

•
•
•
•
•

480GB/s
Xeon PhiMCDRAM

3.0TF

16GB
6

全体構成: 8,208ノード
Intel Xeon Phi 68core 1.4GHz
16GB(MCDRAM)+96GB(DDR4)
OmniPathによるFBB構成
論理ピーク性能: 25PFlops© 2021 Fujitsu Limited

「京」を抜き日本一性能を達成○Top500○HPCG

Rank SystemRmax
1
Sunway TaihuLight
93,014.6
2
Tianhe-2 (MilkyWay-2) 33,862.7
3Titan17,590.04
Sequoia
17,173.2
5Cori
14,014.7
6
Oakforest-PACS
13,554.6
7
K computer
10,510.0SystemN

Rpeak
125,435.9
54,902.4
27,112.5
20,132.7
27,880.7
24,913.5
11,280.4(A) Elapsed time

Rank
12
3
45

(B) # of nodes

SystemHPCG

K computer
Fujitsu
Tianhe-2
NUDT
Oakforest-PACS
Fujitsu
Sunway TaihuLight
NRCPC
Cori
Cray

0.6027(A) x (B)

0.58010.38550.37120.3554
Perf/nodeCori

6,984,960

4.5 hours

9,304

41,868 hours= 4.8 years

1.53TFOakforest-PACS

9,938,880

13.4 hours

8,208

109,987hours= 12.6 years

1.66TFx2.6

高い安定性による長時間動作によってHPL性能を向上
78.5%© 2021 Fujitsu Limited

AI Bridging Cloud Infrastructure (ABCI)
19.88PFlops, 5 th /Top500 (2018.6)
Computing NodeFabrics
Director SW (Cluster of SW)

12.5GB/s
Infini x 2 Infini
Band
Band
128GB/s
DDR4 Xeon
Xeon DDR4 Edge SW
192GB 1.5TF
1.5TF 192GB
SW SW SW
PCIeSW SW SW
16GB/s
V100 V100 V100 V100
7.8TF 7.8TF 7.8TF 7.8TF…

AIワークロードに特化したスーパーコンピュータ8© 2021 Fujitsu Limited

A64FX向けのAIライブラリの開発○A64FX向けAIライブラリを開発、MLPerf HPCを計測○2020年 Strong Scale○2021年 Weak Scale
GPU system

CPU system

FugakuABCI

x1.8
x14x20CosmoFlow

CosmoFlow

シミュレーションとAIを融合したアプリケーションでの利用を期待
9© 2021 Fujitsu Limited未来に向けて10© 2021 Fujitsu Limitedコンピューティングが社会へ浸透する時代にDXではAI利用によりAIの計算需要計算量が爆発的に増大30万倍「京」コンピュータ全系で秒1,000秒=約17分690,000秒=約8日

15,000,000秒
=約6か月

2012
AlexNet2016
ResNet

2017
NMT

2018
Alpha Go Zero50

11

© 2021 Fujitsu Limited

20年を振り返る○CPUのメニーコア化、アクセラレータの活用と進化が進む○一方でシステム性能バランスは演算性能に重心を置くように
RSCC(2004)

T2K Kyoto(2008)

Oakforest-PACS(2016)

ABCI(2018)# of core21668- (GPU)

Flops

12.2GFlops

147.2GFlops

3046.4GFlops

32.1TFlops

Memory BW

4.3GB/s(B/F: 0.35)

42.6GB/s(B/F 0.30)

480GB/s(*)(B/F 0.16)

3600GB/s(B/F 0.11)

Network BW

1.0GB/s(B/F: 0.08)

8.0GB/s(B/F: 0.05)

12.5GB/s
25.0GB/s(B/F: 0.004)(B/F: 0.001)(*) Xeon Phiのメモリバンド幅は実測値。

性能は向上したが、使いやすさの点では課題が累積
12© 2021 Fujitsu Limited

2030年のコンピューティング像○「コンピューティング」が新しい価値を生む源泉として社会に広がる○コンピューティングの進化: 並列化と専用化（アクセラレータ）○社会への浸透：ありとあらゆるところでのコンピューティング利用13© 2021 Fujitsu Limitedコンピューティングの進化の方向性○ディープラーニング: 演算中心でGPU活用が重要○機械学習・シミュレーション: 多くのワークロードはメモリ性能が重要○新原理によるコンピューティングも今後広がる可能性大
対象領域

量子物理

組合せ最適化

ディープラーニング

アルゴリズム

物理学

イジング
モデル

CNN

新原理

アーキ
計算量

デジタル
アニーラ

量子
𝑂(2𝑛 )

RNN

機械学習・シミュレーション

FFT

CFD

CG

TDA

演算性能重視メモリ性能重視GPU

CPU→メモリ強化アーキ𝑂(𝑛3 )𝑂(𝑛2 )

グラフ

𝑂(𝑛)ワークロードの多様性が拡大、様々なコンピューティング技術を組み合わせた最適化が必須に
14© 2021 Fujitsu Limited社会への浸透とリアルタイム・エッジコンピューティング○リアル世界との接点であるため、リアルタイム性が求められる○AIやシミュレーションを使った認識・制御・判断で高度化、計算負荷は高まる
エッジOSCPU

クラウド
OS

5G/6G

Cuda処理系

Simulation
Cuda処理系
CPUOSCPU CPUAIGPU
メモリ GPUOS CPU CPU
Cuda処理系
CPU
GPU
メモリ
メモリ GPU

メモリ

CPU CPU CPU
メモリ GPU
メモリ
メモリ GPU
メモリ

OSCPU

メモリ メモリ
メモリ

メモリ

メモリ
メモリ

メモリ

メモリ

メモリ

ヘビーな計算負荷をスケジューリングしつつシステム全体での協調動作によってリアルタイム性を保証する制御系が必要
15© 2021 Fujitsu Limitedおわりに○これまでの20年○PCクラスタの発展がHPC全体を牽引○システム全体での使いやすさは大きな課題○今後に向けて○「コンピューティング」が新しい価値を生む源泉として社会に広がる○並列化と専用化: ヘテロ環境の使いこなしとユーザへの性能提供が課題
ユーザにとって使いやすい、かつ、高性能を提供できる
ソフトウェアスタック設計と普及によって、社会全体に新しい価値を提供
16© 2021 Fujitsu Limited

Thank you© 2021 Fujitsu Limited