NVIDIA A30Tensor コアGPU

メインストリーム エンタープライズ
サーバー向けの汎用的なコンピューティング アクセラレーション

あらゆる企業を対象としたAI 推論およびメインストリーム コンピューティング
NVIDIA A30 TensorコアGPUは、AI 推論およびメインストリーム エンター
プライズ ワークロードのための最も汎用的なメインストリーム コンピュー
ティングGPUです。NVIDIA AmpereアーキテクチャTensorコア テクノロジ
により、幅広い計算精度をサポートし、単一アクセラレータであらゆるワークロードを高速化します。

システム仕様ピークFP64

5.2 TF

ピークFP64 Tensorコア

10.3 TF

ピークFP32

10.3 TF

AI モデルをTF32 で素早く再トレーニングし、HPC（ハイパフォーマンス コン

TF32 Tensorコア

82 TF | 165 TF*

BFLOAT16 Tensorコア

165 TF | 330 TF*

ピューティング）アプリケーションをFP64 Tensorコアを用いて高速化できま

ピークFP16 Tensorコア

165 TF | 330 TF*とFP64 Tensorコアは、毎秒 933 ギガバイす。Multi-Instance GPU（ MIG ）ピークINT8 Tensorコア

330 TOPS | 661 TOPS*

ピークINT4 Tensorコア

661 TOPS | 1321 TOPS*

メディアエンジン

1 optical ﬂow accelerator（OFA）
1 JPEGデコーダー（NVJPEG）
4ビデオ デコーダー（NVDEC）

GPUメモリ

24GB HBM2

GPUメモリ帯域幅

933GB/s

相互接続

PCIe Gen4: 64GB/s
第3世代NVIDIA® NVLINK®
200GB/s**

フォームファクター

デュアルスロット、フルハイト、フルレングス （FHFL）

最大熱設計電力 （TDP）

165W

Multi-Instance GPU（MIG）

6GBのMIGが 4つ
12GBのMIGが2つ
24GBのMIGが1つ

大規模な AI 推論向けに構築された同一のコンピューティング リソースにて、ト（ GB/s ）の高速なメモリ帯域幅と組み合わされ、165W の低消費電力でメイ
ンストリーム サーバーに最適なPCIeカード上で動作します。
第 3 世代 TensorコアとMIGを組み合わせることで、多様なワークロードに対して保証されたサービス品質を提供し、柔軟性のあるデータセンターを実現する汎用的な GPU の能力を活用できます。大規模なワークロードから小規模なワークロードまで対応可能な汎用性の高い A30 のコンピューティング能力は、メインストリームの企業に最大限の価値をもたらします。

A30は、ハードウェア、ネットワーク、ソフトウェア、ライブラリ、NGC™ の最適化された AI モデルとアプリケーションにわたるビルディングブロックで構成される完全な NVIDIAデータセンター ソリューションの一部です。A30はデータセンター向けの最も強力なエンドツーエンドの AI/HPCプラットフォームとして機能し、研究者は現実の成果を出し、ソリューションを大規模な運用環境へ展

仮想GPU （vGPU）
ソフトウェア サポート

開できます。

* スパース性あり

VMware 向けNVIDIA AI
Enterprise NVIDIA

仮想コンピュート サーバー

NVIDIA A30 | データシート | 2021年4月

あらゆるワークロードに優れたパフォーマンス
AIトレーニング – V100の最大3倍、T4の最大6倍のスループット

AI推論 – リアルタイム対話型AI2でV100の最大3倍のスループット

AI推論 - リアルタイム画像分類3でT4の3倍以上のスループット

HPC - V100の最大1.1倍、T44の最大8倍のスループット

BERT Large Pre-Training

BERT Large推論（正規化済み）
10ms以下のレイテンシでのスループット

RN50 v1.5推論（正規化済み）
7ms以下のレイテンシでのスループット

LAMMPS（正規化済み）（正規化済み）

0.0X

0.16X

3X

1.0X

1.0X

3X

0.3X

0.34X

0.5X

0.41X

NVIDIA NVIDIA NVIDIA NVIDIA
A30
A100
V100
T4

3X

0.0X

1.0X

1.0X

0.5X

1.0X
>3X

0.3X

NVIDIA NVIDIA NVIDIA NVIDIA
A30
A100
V100
T40.0X

／日–ns

0.5X

6X

1.5X

1.8X
1.5X

相対パフォーマンス1.0X

2.0X

画– 像／秒ト– レーニングにかかる時間

1.5X

2.0X

相対パフォーマンス

2.0X

2.0X

2.0X

2.5X

2.3X

相対パフォーマンス サ–ンプル／秒

相対パフォーマンス

2.5X

>2X

1.5X

1.0X

1.5X
8X

1.1X

0.93X

1.0X

0.5X

0.4X

NVIDIA NVIDIA NVIDIA NVIDIA
A30
A100
V100
T4

0.0X

0.12X

NVIDIA NVIDIA NVIDIA NVIDIA
A30
A100
V100
T4

画期的なイノベーション
NVIDIA AMPERE

第 3 世代 TENSORコア

M I G で A 3 0 G P U を小さなイン

NVIDIA A30は165 teraFLOPS（ TFLOPS ）の TF32 ディープラー

アーキテクチャス タ ン スに 分 割 す る 場 合 で も 、ニング性能を発揮します。これはNVIDIA NVLinkで複数の GPUを接続して、より大きなワークロードを高速化する場合でも、A30

NVIDIA T4 Tensor コアGPUと比較して、AIトレーニングのスループットが 20 倍以上、推論性能が5 倍以上です。HPCでは、A30はNVIDIA V100
TensorコアGPUと比較して 30% 近く高い 10.3
TFLOPSの性能を提供します。

は最小のジョブから最大級のマルチノード ワー
クロードに至る多様な規模のアクセラレーションニーズに容易に対応できます。A30 の汎用性によ

次世代 NVLINK

A30 の NVIDIA NVLink は、前世代の NVLINK の 2 倍のスループットを提供します。2 基の A30 PCIeGPU を NVLinkブリッジで接続することができ、330 TFLOPSのディープラーニング性能を発揮します。

り、IT マネージャーはメインストリーム サーバーで、データセンター内のすべての GPU の利用率を一日中最大化できます。

Multi-Instance GPU（ MIG ）

HBM2スパース構造

最大24GBの高帯域メモリ（HBM2）

AI ネットワークには数百万から数A30は最大 4 つの GPUインスタンを搭載した A30 は、メインストリー十億のパラメータが存在します。こスに分割することができ、それぞム サーバーでの多様な AIや HPC

うしたパラメータのすべてが正確

れが高帯域幅のメモリ、キャッシュ、コンピューティ

ワークロードに最適な 933 GB/s の GPUメモリ帯

な予測に必要ではなく、一部をゼロに変換することングコアを持ち、ハードウェアレベ ルで完全に独域を提供します。

で、精度を損なうことなくモデルを「スパース」にす立しています。MIGにより、開発者はあらゆるアプることができます。 A30 の Tensorコアは、スパーリケーションで画期的な高速化を実現できます。

スモデルに対して最大 2 倍高い性能を発揮します。

また、IT 管理者はすべてのジョブに対して適切なこのスパース機能はAI 推論にメリットをもたらしま

サイズの GPUアクセラレーションを提供すること

すが、モデルトレーニングの性能を向上させること

で、利用率を最適化し、すべてのユーザーやアプリもできます。

ケーションへアクセスを拡大できます。

エンタープライズ向けのエンドツーエンドソリューション
最新のデータセンターの心臓部であるNVIDIA Ampereアーキテクチャを搭載したNVIDIA A30 TensorコアGPU は、NVIDIA
データセンター プラットフォームに不可欠な要素です。ディープラーニング、HPC 、データ分析のために構築されたこのプラット
フォームは、あらゆる主要なディープラーニング フレームワークを含む 2,000 以上のアプリケーションを高速化します。さらに、クラウドネイティブなエンドツーエンドの AI およびデータ分析ソフトウェア スイートであるNVIDIA AI Enterprise が、VMwarevSphereを用いたハイパーバイザー ベースの仮想インフラストラクチャの A30 上で動作することが認証されています。これにより、ハイブリッドクラウド環境でAIワークロードの管理やスケーリングが可能になります。この完全なNVIDIAプラットフォームは、データセンターからエッジに至るあらゆるところで利用でき、劇的な性能向上とコスト削減の機会の両方を提供します。

NVIDIA A30 | データシート | 2021年4月

エンタープライズ向けに最適化されたソフトウェアとサービス
あらゆるディープラーニング フレームワーク

2,000 以上の GPU 高速化アプリケーションHPC

Altair nanoFluidX

HPC

Altair ultraFluidX

HPC

AMBER

HPC

ANSYS Fluent

HPC

DS SIMULIA Abaqus

HPC

GAUSSIAN

HPC

GROMACS

HPC

NAMD

HPC

OpenFOAM

HPC

VASP

HPC

WRF

NVIDIA A30 TensorコアGPUの詳細

www.nvidia.com/a30

NVIDIA A30 製品ページ

www.elsa-jp.co.jp/products/detail/nvidia-a30/※1 : BERT-Large Pre-Training （9/10エポック）フェーズ1および（1/10エポック） フェーズ2、シーケンス長:フェーズ1=128およびフェーズ2=512、
データセット= real、NGC™コンテナー= 21.03、8x GPU: T4 （FP32、BS=8、2）、V100 PCIE 16GB （FP32、BS=8、2）、 A30 （TF32、BS=8、2）、
A100 PCIE 40GB （TF32、BS=54、8）。示されているバッチ サイズはそれぞれフェーズ1用とフェーズ2用※2 : NVIDIA® TensorRT®、精度= INT8、シーケンス長= 384、NGCコンテナー＝20.12、レイテンシ 10ミリ秒未満、データセット=合成、
1x GPU:A100 PCIe 40GB （BS=8） | A30 （BS=4） | V100 SXM2 16GB （BS=1） | T4 （BS=1）※3 : TensorRT、NGCコンテナー＝20.12、レイテンシ 7ミリ秒未満、データセット=合成、1x GPU: T4 （BS=31、INT8） | V100
（BS=43、混合精度） | A30 （BS=96、INT8） | A100 （BS=174、INT8）※4 : データセット:ReaxFF/C、FP64 | 4x GPU: T4、V100 PCIE 16GB、A30© 2021 NVIDIA Corporation All rights reserved NVIDIA、NVIDIAのロゴ、 NGC 、NVLinkは米国および他国のNVIDIA Corporationの商標および/または登録商標です。
他の商標および著作権は、それぞれの所有者に帰属します。 2021年4月
Mar21OpenCL は Apple Inc. の商標であり､Khronos GroupInc.の許可を得て使用しています。
その他の商標および版権は全て各社の所有物です。ELSA（エルザ）は、テクノロジージョイント株式会社の登録商標です。
本カタログの掲載内容は2021年6月現在の情報です。