PCクラスタワークショップ in 大阪2023

第4世代AMD EPYC™プロセッサー
新ラインナップ (Genoa-X, Bergamo) の技術概要
2023年6月21日
日本AMD株式会社大原久樹 (Hisaki.Ohara@amd.com)

1本日の内容1. AMD EPYC™プロセッサーのこれまでのロードマップ
2. Bergamo アーキテクチャ
3. Genoa-X アーキテクチャ
4. AIへの取り組みについて

2

PCクラスタワークショップ in 大阪2023 (6/21/2023)

General Purpose

General Purpose

Cloud Native“Genoa”“Bergamo”

Technical

Telco/Edge“Genoa-X”“Siena”

TechnicalGeneral Purpose
General Purpose

PG. 3 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

4th Gen AMD EPYC™ CPU “Genoa”
96 Cores
PCクラスタワークショップ in 大阪2023 (6/21/2023)|5nm
Process Technology

PCIe® 5.0CXL™
Memory Expansion

12 Channels
DDR51.80x

861

1000

1800

313,824 368,979 622,315

23.33

23.38

40.51

(max339,338) (max458,295)@ 24 tiles@ 23 tiles@ 43 tiles(max664,375)

1.92x

1.73x

1.69x

75,00077,105 148,000

2P SPECrate®2017_int_base

2P Enterprise Server-Side Java®

2P VMmark® 3.1.1

2P SAP® Sales & Distribution

Integer Throughput

SPECjbb®2015 Multi-JVM critical-jOPS

Matched Pair

2-tierPG. 5 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

3rd Generation
AMD EPYC™

4th Generation
Intel Xeon® Platinum

4th Generation
AMD EPYC™

7763

8490H

9654
As of 6/13/2023, see SP5-013D,SP5-104A, SP5-049C, SP5-056B
https://www.amd.com/en/claims/epyc4

Physical

Virtual/IaaS

Monolithic
Application

Containerized/CaaSFunctionized/FaaS

Applications

mServicesmServices

Function

Function

Function

Applications

Applications

Applications

Function

Function

Function

Applications

mServicesmServices

Function

Function

Function

Applications

Applications

Applications

Function

Function

Function

TRADITIONAL

CLOUD NATIVE

Low

Application Density

HighHigh

Data Locality

Low

Pin and Run

Deployment
RuntimePG. 6 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

Write Once Run
Anywhere/AnytimemsPG. 7 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

See Endnotes – EPYC-049 andhttps://www.amd.com/system/files/documents/amd-epyc-9004-pb-spec-power.pdf for Energy Efficiency

チップレットを活用した柔軟なアーキテクチャー“Genoa” チップレット
Zen4▪
▪
▪

“Bergamo” チップレット
Zen4c

▪
▪
▪
論理的に同等(同じ命令セット、 L1 & L2 キャッシュサイズ)8

PCクラスタワークショップ in 大阪2023 (6/21/2023)

“Zen 4c” cloud native core architecture
Designed for density and power efficiency

Zen 4” core

“NodeCore + L2 Area

PCクラスタワークショップ in 大阪2023 (6/21/2023)|TSMC 5nm
3.84 mm2Zen 4c” core

“NodeCore + L2 Area

TSMC 5nm
2.48 mm2

最大

クラウドネイティブな様々なワークロードにおいてスループット性能 (平均 ~2.9x)~2.65x~2.27x~2.04x

1.00

1.00

NGINX

1.00

1.00
0.68

0.63

0.56

~1.75x~1.58x~1.49x0.89~3.7x~2.01x~1.94x

1.00

1.00

0.74

1.00

1.00

0.81

0.79

0.47

Redis (get)Redis (set)Cassandra-test

AmpereAltra Max 128C

Memcached

Xeon®
Platinum
8490H/8480+

FFmpegMySQL TPROC-C

Server-side Java® Max

EPYC™
9754

2P servers: 128C AMD EPYC™ 9754 vs. Ampere Altra® Max M128-30 and 56C/60C Intel Xeon Platinum 8480+/8490H

PG. 10 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

Results may vary due to factors including system configurations, software versions and BIOS settings. Asof 6/13/2023, see Cloud Native Workloads https://www.amd.com/system/files/documents/amd-epyc9004-pb-cloud-native-workloads.pdf.

最大配置可能なコンテナ数

30 containers
3x

Each Container Delivering ~25K JOPS/sec meeting SLAs using Kubernetes

vs. Altra Max M128-30~2.1x
vs. Xeon Platinum 8490H

14 containers
10 containers

Equivalent Java® Ops Per Sec Per ContainerAmpere

Xeon®

EPYC™

Altra Max 128CPlatinum 8490H

9754

2P servers: 128C AMD EPYC 9754 vs Ampere Altra Max M128-30 and 60C Intel Xeon Platinum 8490H
PG. 11 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

Results may vary due to factors including system configurations, software versions
and BIOS settings. As of 6/13/2023, see SP5-149.
https://www.amd.com/en/claims/epyc4

World’s highest performance x86 server CPU for technical computing
PG. 12 | PCクラスタワークショップ in 大阪2023 (6/21/2023)

As of 6/13/2023, see SP5-165, GD-183.
https://www.amd.com/en/claims/epyc4

9754 /S

2.25/3.10360w

320-400w

9734

2.20/3.00

340w

320-400w

9684X

2.55/3.70

400W

320-400w

320w

320-400w

320W

320-400w

2.40/3.70
2.25/3.70
3.10/3.75
2.45/3.70▪
▪

2.75/3.80
9384X▪

3.10/3.90
3.25/3.80▪

2.70/3.90▪
2.90/4.15▪
▪

2.50/3.70
9184X

3.55/4.20
3.00/3.70

PCクラスタワークショップ in 大阪2023 (6/21/2023)

1 脚注 EPYC-18 を参照。AMD EPYC プロセッサーの最大ブーストとは、サーバー・システムの通常の動作条件下において、プロセッサーのシングル・コアで達成可能な最大周波数を指しています。EPYC-018
2 AMD Infinity Guard の機能は、EPYC プロセッサーの世代によって異なります。AMD EPYC プロセッサーの Infinity Guard のセキュリティー機能は、サーバー OEM および/またはクラウド・サービス・プロバイダーにより有効化されている必要があります。これらの機能のサポートについては、OEM またはプロバイダーに確認してください。Infinity Guard の詳細については、https://www.amd.com/en/technologies/infinity-guard をご覧ください。GD-183

GenoaとGenoa-Xの同コア数での比較
OpenFOAM®

Ansys® CFX®

Ansys® Fluent®

1.05x

1.18x

https://www.amd.com/system/files/documents/
amd-epyc-9004x-pb-ansys-fluent.pdf

https://www.amd.com/system/files/documents/
amd-epyc-9004x-pb-ansys-cfx.pdf

1.34x
https://www.amd.com/system/files/documents/amd-epyc-9004x-pb-openfoam.pdf

AMD EPYC™ Technical Whitepapers and Briefs
https://www.amd.com/en/processors/server-tech-docs/search
14

PCクラスタワークショップ in 大阪2023 (6/21/2023)

Optimized AI software stack
AI Models and Algorithms

AI Ecosystem optimized for AMD

Libraries
Compilers and Tools

A proven software stack

RuntimeAMD Instinct™ GPU

PCクラスタワークショップ in 大阪2023 (6/21/2023)|

Leadership performance

Use of third party marks/logos/products is for informational purposes only and no endorsement of or by AMD is intended or implied GD-83

AMD Unified Inference Frontend

16

PCクラスタワークショップ in 大阪2023 (6/21/2023)

Next-gen AI accelerator architecture
Dedicated accelerator
engines for AI and HPC

PCクラスタワークショップ in 大阪2023 (6/21/2023)|

3D packaging with 4th Gen AMD
Infinity architecture

Optimized for performanceand power efficiency

Sampling now

AMD Instinct™ MI300A

World’s first APU accelerator for AI and HPC

Next-Gen
Accelerator
Architecture

PCクラスタワークショップ in 大阪2023 (6/21/2023)|24 CPU
Cores

128 GB

5nm and 6nm

HBM3

Process Technology

Shared Memory
CPU + GPUIntroducing today

AMD Instinct™ MI300X

Leadership generative AI accelerator

PCクラスタワークショップ in 大阪2023 (6/21/2023)|192 GB5.2 TB/s

896 GB/s

153 B

HBM3

Memory Bandwidth

Infinity Fabric™ BandwidthTransistors

20

PCクラスタワークショップ in 大阪2023 (6/21/2023)

注意事項
本プレゼンテーションには、Advanced Micro Devices, Inc.（AMD）データセンターの製品の時期・可用性・機能・特徴・期待される利点、データセンター市場の傾向とTAM、AMDデータセンターのロードマップを含むがこれらに限定されないAMDの将来に関する記述を含んでおり、1995年私募証券訴訟改革法（PrivateSecurities Litigation Reform Act）の免責条項に従って作成されました。将来に関する記述は一般的に、「予想」、「可能性」、「予測」、「思われる」、「計画」、「意図」、「プロジェクト」、その他同様の意味を持つ言葉で識別されます。投資家の皆様は、本プレゼンテーションにおける将来に関する記述は、現在の考え、前提条件、期待に基づいて作成されたものであり、本プレゼンテーションの日付時点における内容であり、実際の結果が現在の予想と大きく異なるリスクや不確実性を含むことにご注意ください。将来に関する記述は、既知および未知のリスクや不確実性の影響を受けるものです。その多くは予測が困難であり、AMDが制御できる範囲を超えています。そのため、実際の結果やその他の将来の事象は、将来に関する情報や記述で明示・暗示・予測されている内容とは大きく異なる可能性があります。投資家の皆様は、形式10-K及び10-QでのAMDの最近の報告書を含むがこれに限定されない、AMDの証券取引委員会の書類におけるリスクと不確実性を詳細に検討することが推奨されます。
AMDは、法律によって要求される場合を除き、本プレゼンテーションで作成された将来に関する記述を更新する義務を一切負わず、放棄します。

21

PCクラスタワークショップ in 大阪2023 (6/21/2023)