NVIDIA Cloud Native Supercomputing Platform
ご紹介
HPC/AI NETWORKING PRODUCT MARKETING DIRECTORMASAKI IWATANIJUNE 2022

データおよびモデルサイズの爆発的増加
MACHINELEARNING

CLIMATE CHANGE

DIGITAL BIOLOGYRENEWABLE ENERGY

INDUSTRIAL HPC

FourCastNet

Orbnet

109
108

SCALE
UP & OUT

107
106
105
104
ACCELERATEDCOMPUTING

103

SGTC

102
1.1X per year

101

1.5X per year
Single-threaded perf

1980

1990

2000

2010

2020

シミュレーション＋AI：イノベーションとディスカバリーのための100万倍のスピードアップ

Multi-Disciplinary Physics

多種多様なアプリケーションを様々な場所で実施

リアルタイム処理

シミュレーション

HPC + AIDIGITAL TWIN

量子コンピューティング

AI Supercomputer

CloudEdge

Network

High-performance IO

CLOUD NATIVE SUPERCOMPUTINGリアルタイム処理シミュレーション

Edge

HPC + AI

Network

DIGITAL TWIN

量子コンピューティング

High-performance IO

CLOUD NATIVE SUPERCOMPUTINGが実現出来るもの

In-Network Computing
Computational Storage

NVIDIA CLOUD NATIVE
SUPERCOMPUTING

Performance Isolation
Enhanced Telemetry
Zero Trust Security

CLOUD NATIVE SUPERCOMPUTING 基盤であるNVIDIA QUANTUM-2 IB PLATFORM

QUANTUM-2 INFINIBAND SWITCHCONNECTX-7 SMARTNIC

BLUEFIELD-3/-X DPUSKYWAY GATEWAY

UFM

Cloud Native Supercomputing Platform
SHARP In-Network Computing
Higher Scalability

Intelligent Offloads
Precision Timing
Software Defined Networking

Intelligent Offloads
Precision Timing
Software Defined NetworkingInfiniBand to Ethernet
Low Latency
Load Balancing

Monitoring, Management, Orchestration
Predictive Maintenance
Anomaly Detection

ネットワークの２つの輻輳による通信遅延

Network

In-cast 輻輳

NetworkIn-network 輻輳

Solution: Adaptive Routing

Solution: Congestion Control

AZURE HPC パフォーマンス、ネットワーク利用率の最大化
InfiniBand Adaptive Routing▪ Azure HPC InfiniBand Networks はNCCL AllReduce Bandwidth on Azure NDv4

▪ ノンブロッキング▪ オーバーサブスクリプション発生しない

200180▪ スタティックルーティングは、ネットワークの利用を制限する場合がある▪ 異なるネットワークトラフィックが同じネットワーク経路を共有することがある▪ Adaptive Routingはこれを防止し、シームレスなパフォーマンスを提供

160

Bandwidth (GB/s)

140
120
100
8060

AR-Disabled

40

AR-Enabled

200

NCCL AllReduceジョブ中の通信経路。スタティックルーティングがリンクオーバーサブスクリプションを引き起こす

Message Size (bytes)

From Microsoft Speech in GTC21 Fall

HDR INFINIBAND CONGESTION CONTROL
Without InfiniBand Congestion Control
A
HDR100SwitchHDR100SwitchDC

12

HDR100SwitchBCDABWith InfiniBand Congestion Control

3456

78

ANodesBCD

Congestion Factor

INFINIBAND CONGESTION CONTROL

Large-Scale
Public Cloudクラウドネイティブ・スーパーコンピューティングを実現する“Lonestar6”
Texas Advanced
Computing Center

Los Alamos National
Laboratory

プラットフォーム
インフラストラクチャ

ストレージ

サイバーセキュリティ

コンピュ－ティング

DOCA
オーケストレーション“Wilkes3”
Cambridge University“DINE”
Thor
Durham
HPC AdvisoryUniversityCouncil

セキュリティー

ネットワーキング

マネージメント
アクセラレーションライブラリー
テレメトリーNVIDIA SuperPODs“Thor”HPC Advisory Council

PROGRAMMABLE
COMPUTECOMPUTATIONAL
STORAGE

ZERO-TRUSTSECURITY

ストレージクラウドネイティブ・スーパーコンピューティングを実現する

Bare-Metal Server
CloudOrchestration

Orchestration

Telemetry

Ethernet

DOCA

ComputeStorage

UFM

BlueField DPU

InfiniBand

FS

Management

DPU
Orchestration

NCCL

MPI
SHMEM

CPU

CLOUD-NATIVE SUPERCOMPUTING DRIVING APPLICATION PERFORMANCE GAINSNatural Language Processing

Barcelona
Supercomputing Center

DurhamUniversity

Molecular Dynamics

Georgia Institute Japan Meteorologicalof Technology
AgencyMathematical ModelingLos Alamos
National Laboratory

Ohio StateUniversitySandia National
Laboratory

1.2X TO 1.4X HIGHER APPLICATION PERFORMANCEWith BlueField DPU and Quantum In-Network Computing

Weather Forecasting

Technical University University CollegeMunichLondon

クラウドネイティブのスーパーコンピューティングでパフォーマンスアイソレーションを実現

Traffic Control

Traffic Sensors

Congestion Detection

Traffic Planner

Bluefield DPU

Number of Iterations

MOLECULAR DYNAMICS (LAMMPS)
4040

40

30

30

30

20

20

20

1010

100

0

0

0.5

0.7

0.8

0.9

10.5

0.6

0.7

0.8

0.9

10.5

0.6

0.7

0.8

32

32

32

2424

24

161616888

0001020

30

4050

60

70

80

01020304050TimeTime

Supercomputer

Legacy Cloud

60708000.91Isolated Multi-Tenant
Single User

PARALLEL ALGEBRAIC MULTI-GRID SOLVER (AMG)

0Quantum InfiniBand

0.61020304050607080Time

Cloud Native Supercomputing

APPLICATIONSREAL-TIMEPROCESSING

PLATFORMSIMULATIONS

HPC + AIDIGITAL TWIN

NVIDIA
HPC

NVIDIAAI

NVIDIAOMNIVERSEQUANTUM
COMPUTINGSYSTEM SOFTWARE

RTX

CUDA-X

H100

H100 CNX

PHYSXDOCAFLEET COMMAND

CLOUD NATIVEBLUEFIELD-3

QUANTUM-2

HARDWARE

GRACE HOPPER
SUPERCHIPGRACE CPUSUPERCHIP