GRAPHCORE IPU (INTELLIGNCE PROCESSING UNIT)

IPU-PO‍D: NEW BREAKTHROUG‍HS‍IN‍AI‍AT‍SC‍A‍LE
AI専用 革新プロセッサIPU
中野

守 mamorun@graphcore.ai

Jan 20 2022
Graphcore Japan KK

www.graphcore.ai

1

Neural network visualization from POPLARTM

2018 July 第一世代 IPU
Begins to ship the
PCI card.

IPU GC200
2020 12月～

IPU POD16
IPU M2000
第2世代IPUIPU POD16 POD64/128/256

EXA PODCEOCTO
Nigel Toon Simon Knowles

2013 Q4
GC project began in stealth modeto design the 1st Gen Chip in Bristol.

2016 June Graphcore is officially founded as a company
2021 Jul over 620 employee, HQ Bristol, United Kingdom

グラフコア・ジャパン株式会社
東京都千代田区
内幸町1-1-1
日比谷帝国ホテルタワー15F

2016 Oct
Series A Funding
2020 Dec Series E
Total $730M IN FUNDING
2

GRAPHCORE OFFICESOSLOGDANSK
PALO ALTO
SeattleAustin

New York

BRISTOL

Paris
MunichCambridge
LondonBEIJING
Shanghai
Shenzhen

Seoul

Tokyo

India Pune
HSINCHU
Sales

Singapore

R&D
Operations

GRAPHCORE>620 PEOPLE
3

AGENDA
1.
2.
3.
4.

AI専用 革新プロセッサIPU

AI専用プロセッサ開発の背景
IPUおよびIPU-POD概要
開発環境、PODPLAR SDKその他USECASES, LARGE MODEL、EVAL/POC＜プログラム＞
13:00-13:05 挨拶
佐藤三久（PCCC会長／HPC-OSS部会長／理研）
13:05-13:20 開催趣旨説明
滝沢寛之（東北大学）
13:20-13:45「GPUとDPUによるアクセラレーテッド コンピューティング」
佐々木 邦暢(エヌビディア合同会社)
13:45-14:10「AMD Instinct GPU and ROCm technical overview」
Greg, Oakes (AMD Sr. Solution Architect)
14:10-14:35「AI革新プロセッサIPU」
中野 守（Graphcore Japan KK）
14:35-14:45 (休憩)14:45-15:10「インテルXPU戦略」
大内山 浩、髙藤良史(インテル株式会社）
15:10-15:35「ハイブリッドアクセラレータ SX-Aurora TSUBASA」
政岡靖久（日本電気株式会社）
15:35-16:00「SambaNova Systemsのご紹介」
鯨岡俊則（SambaNova）
16:00-16:10 (休憩)16:10-17:30 パネルディスカッション「アクセラレータの王者と挑戦者たち」（仮題）
モデレータ：滝沢寛之（東北大学）

4

MACHINE LEARNING REQUIRESCOMPUTE INNOVATION
CPU

GPU

>

General purpose

Intelligence Processing Unit

Graphics, part of HPC and ML/DL

ML/DL
Massively parallel MIMD.
High performance/efficiency as ML trends tosparsity & small kernels

SIMD architecture. Suitable
for large blocks of dense
contiguous data

Suitable for scalar
processes

Parallelism

IPU>

Graphics Processing Unit

64x16PF

HBM2

HBM2

HBM2

OthersMIMD
FPGA Memory
In-Processor
ComputeTPUin Memory
BSP
IPU
Bulk Synchronous Parallel
:

SIMD
HBM2
MPI

HBM2

DRAM

MemoryAccess ration, MemBWMany core+Multi Die

GPU+HBM2e

Off-chip memory
DRAM

Model and Data spread across off-chip and small on-chipcache and shared HBM2.

1x

5x – 32x

1.6TB/s

Processor

Memoryx30

Model & Data in tightly coupled large
locally distributed SRAM

47.5TB/s

320x
5

AI REQUIRES COMPUTE INNOVATION BY IPU

MODEL
SIZE
GROWTHA NEW
APPROACH
IS REQUIRED
AIドメインスペシフィックな革新的アーキテクチャ• AI本格的な応用段階、ML/DLの精度・機能・性能向上ニーズが急増

And‍more‍…

• 大規模モデル パラメータ数は10年間で30万倍以上増加• 革新的アルゴリズムの台頭
5Bn• TCO, 導入コスト,電力コストを大幅に低減

GPT3: 175Bn
June 2020# Parameters➔ 今後10年間で1000倍以上の性能向上が必要

OpenAI が開発

LSTM

BERT-Large: 330M

1Bn

ResNet50: 25M
Jan 2016
畳み込みニューラルネットワーク（CNN）
2016

GPT-3 Generative Pretrained Transformer
1750億個のパラメータを使用した文章生成
言語モデル. 通常の文章以外にも
ソースコードやデザインですらGPT-3」は理解し、生成する事が可能といわれている。

Oct 2018
2019

2019

7

GRAPHCORE IPU（Intelligence Processor Unit）
AI Domain
Specific
Processor

M2000

IPU
GC200
(Processor)

TSMC 7nm 823mm2 59.4B Transistors
Many-cores 1472 tiles (Core, In-Proc-Mem) 8832 threads
In-proc Mem Total 900MB/IPU 47.5TB/s Mem BW
Peak Perf (fp16) 250TFlops AI-Float(fp32) 62TFLOPS (fp32)

第2世代プロセッサ GC200を4基1Uの筐体に搭載したAIアクセラレータ

IPU-POD256
筐体をIPU-Linkで相互接続することで、性能をスケールアップ

IPU-POD Family

IPU環境を容易に使うための POPLAR SDK を提供

PyTorch や TensorFlow 等の主要なフレームワークをサポート
IPU-POD16• 1筐体で 1ペタFlops AI-Float(fp16)

IPU-POD64

CV RESNET50 TRAININGSUMMARY

3x Higher Throughput | 3.5x Perf/$ Advantage

MODEL NAME:RESNET-50 V1.5

ML DOMAIN:

同レベルのシステム価格の二つのシステム、IPUとGPUの性能を比較

COMPUTER VISIONMODEL DESCRIPTION:RESNET IS A LEGACY IMAGE
CLASSIFICATION MODEL, OFTEN USED AS A
PROXY FOR INITIAL PERFORMANCEEVALUATION

IPU-POD64

DEPLOYMENT:

108,566

TRAINING
FRAMEWORK:TENSORFLOW 1

3x2x DGX A100

[TF2 ALSO IN MODEL GARDEN][PYTORCH ALSO IN MODEL GARDEN]

36,698(A100 80GB)0

IPU ADVANTAGE:
IPU-POD64 ACHIEVES 3X HIGHER
THROUGHPUT VS TWO DGX A100,
DELIVERING >3.5X PERF/$ ADVANTAGE

20,00040,00060,00080,000100,000

120,000

Throughput (images/sec)

NOTES: (updated 20th Dec 2021)
ResNet-50 v1.5 Training Highest Throughput | ImageNet2012 Dataset
IPU-POD64 (16x IPU-M2000) | FP 16.16 | SDK 2.4.0 | TensorFlow | https://www.graphcore.ai/performance-results
Best results for DGX A100 640GB (A100-SXM4-80GB) using TensorFlow | Mixed Precision | using 0.90x scaling from 1=>2 DGX A100
DGX A100 results published by NVIDIA (https://developer.nvidia.com/deep-learning-performance-training-inference) on 1 Dec 2021

Pricing Assumptions

MSRP

IPU-POD64 (4-host)~$500k

2x DGX A100 640GB~$600kNLP BERT-LARGE PRE-TRAININGSUMMARY

2.3x Higher Throughput | 2x Perf/$ Advantage

MODEL NAME:
BERT-LARGE

同レベルのシステム価格の二つのシステム、IPUとGPUの性能を比較

ML DOMAIN:
NLP

IPU-POD64 PopART

IPU-POD64 PyTorch

FRAMEWORK:

6,268

TENSORFLOW 1
PYTORCH
POPART

IPU-POD64 TensorFlow

IPU ADVANTAGE:
IPU-POD64 ~2.3X HIGHER THROUGHPUT
THAN 2X DGX A100 THROUGHPUT,
DELIVERING ~2X PERF/$ ADVANTAGE

13,9172x DGX A100 TensorFlow
2,000

DEPLOYMENT:
PRE-TRAINING PHASE 1 (SL128)

12,251

2x DGX A100 PyTorch

0

MODEL DESCRIPTION:
BERT IS AN UNSUPERVISED TRANSFORMERBASED LANGUAGE REPRESENTATIONMODEL. IT IS ONE OF THE MOST WIDELYUSED NLP MODELS

14,189

5,570

4,000

6,000

8,000

10,00012,00014,00016,000Throughput (sequences/sec)
NOTES: (updated 20th Dec 2021) | headline speedup based on TensorFlow vs TensorFlow throughput comparison
BERT-Large Phase 1 Pre-Training Throughput (SL128)
IPU-POD64 (16x IPU-M2000) | SDK 2.4.0 | https://www.graphcore.ai/performance-results
DGX A100 320GB (A100-SXM4-40GB) | Mixed Precision | Using 97% perf scaling based on published BERT results
DGX A100 PyTorch https://developer.nvidia.com/deep-learning-performance-training-inference 1st Dec 2021
DGX A100 TensorFlow - https://ngc.nvidia.com/catalog/resources/nvidia:bert_for_tensorflow/performance

Pricing Assumptions

MSRP

IPU-POD64 (1-host)~$440k

2x DGX A100 320GB

10
~400k

GRAPHCORE MLPERF V1.1 RESULTS FOR BERT LARGE
CLOSED

IPU-POD16

OPEN (IPU-OPTIMIZED)IPU-POD64

IPU-POD128

GRAPHCORE

MLPerf v1.1 Training Results | MLPerf ID: 1.1-2039, 1.1-2041, 1.1-2043, 1.1-2087, 1.1-2088, 1.1-2089
The MLPerf name and logo are trademarks. See www.mlperf.org for more information

MLPERF 1.1 RESULTSDECEMBER 2021

既存モデルをIPUアーキテクチャに最適化を施した事例
IPU: トランスフォーマモデルの最適化
2x – 4x 学習時間の高速化 | 3x モデルサイズの縮小
Graphcore Research Grの研究論文

Group Transformer

https://arxiv.org/abs/2107.02027

https://arxiv.org/abs/2106.05822

IPUアーキテクチャを活かしグループ化された
畳み込みモジュールを追加
3x パラメータ数の縮小
2x 学習時間の高速化
結果の精度向上Transformer Packing
データ パディングの除去（IPUではなくGPUで必要） 非負の最小二乗法によるヒストグラムのパッキングが 計算効率を大幅に向上。学習時間
を2倍に短縮GRAPHCORE
12NLP GroupBERTSUMMARY
MODEL NAME:

leverages IPU architecture capabilities
adds grouped convolution module
2x reduction in # parameters
2x faster time to train
improved accuracy of results

GROUPBERT
ML DOMAIN:
NLP
MODEL DESCRIPTION:GROUPBER IS AN OPTIMISEDIMPLEMENTATION OF THE BERT
MODEL THROUGH USE OF
GROUPED TRANSFORMATIONSGroupBERT Base vs BERT Large Time-to-accuracy

DEPLOYMENT:

BERT Large ADAMTRAINING

218 hrs

FRAMEWORK:GroupBERT Base
- ADAMTBC

106 hrs

BERT Large LAMB

2.1x faster

IPU ADVANTAGE:GROUPBERT DELIVERS 2X REDUCTION IN
NUMBER OF PARAMETERS AND 2X FASTERTIMETO TRAIN FOR EQUIVALENT MODELPERFORMANCE VS STANDARD BERT

48 hrsGroupBERT Base
- LAMB

31 hrs020

1.6x faster
40

60

80

100

120

140

160

180

200

220

240

260

Time To Train (hours)
NOTES: (updated 20th Dec 2021)

https://arxiv.org/abs/2106.05822

MACHINE LEARNING REQUIRESCOMPUTE INNOVATION
CPU

GPU

>

General purpose

Intelligence Processing Unit

Graphics, part of HPC and ML/DL

ML/DL
Massively parallel MIMD.
High performance/efficiency as ML trends tosparsity & small kernels

SIMD architecture. Suitable
for large blocks of dense
contiguous data

Suitable for scalar
processes

Parallelism

IPU>

Graphics Processing Unit

64x16PF

HBM2

HBM2

HBM2

SIMD
HBM2
MPI

MIMD
In-Processor Memory
Compute in Memory

HBM2

BSP

Bulk Synchronous Parallel
DRAM

MemoryAccess ration, MemBWMany core+Multi Die

GPU+HBM2e

Off-chip memory
DRAM

Model and Data spread across off-chip and small on-chipcache and shared HBM2.

1x

5x – 32x

1.6TB/s

Processor

Memoryx30

Model & Data in tightly coupled large
locally distributed SRAM

47.5TB/s

320x
14

GC200 IPU PROCESSOR
Layout➢ IPU Tiles

1472 (Core+Mem)8832 threads➢ in-Processor Memory
900MB per IPU (620KB/tile)
47.5TB/s Memory BW per IPU(33GB/s per tile)

IPU-Exchange

GC200 TSMC 7nm @ 823mm2
250TFlops AI-Float (fp16)@ 1.325 GHz➢ IPU-Exchange
8 TB/s All to All➢ PCIeG4x16 x2

15EX) POD16 DA SYSTEM
Poplar SDKDocker Container

Host Server

Host Server
Host-Link 100GE network

GW Link cable
1GbE Mgmt Network
V-IPU
Admin UI
(CLI/GUI)

V-IPU
Monitoring(+Dashboard
s)

V-IPU
API Server(gRPC/REST)

IPU Link cable
BMC/RMC
Racktool
IPMI/RedfishVirtual-IPU Controller

For model states streaming

Power
Power consumption 900W-1100W (typical)
Power cut(Max) (1500W)
Input Power 94-256Vac (115-230VAC Normal)

Network-based
disaggregatedarchitecture for host vs.
IPU resources

IPU POD 64

16

BSP COMPUTE SET EXECUTION
Bulk synchronous parallel

compute phaseexchange phase

IPU 1

IPU 2

Bulk Synchronous Parallel (BSP)
compute | synchronize | exchange
sync

sync

inter-chip syncinter-chip sync

sync

host I/O

Tiles exchanging data with the host canabstain from syncing with other tiles

TIME

Inter- and Intra-IPU sync phases ensure
no live/dead locks or race conditions

sync

host I/O

BSP Compute Set execution works acrossmultiple IPU devices

sync (1 tile abstains)sync

IPU-POD FLEXIBLE SCALE OUT SYSTEM
Reusable, simple migration between platforms
Disaggregated Server enables configurable Host Server /IPU ratio
depending on workload for optimised TCO

IPU-POD16 DA（Direct attached）
Eval, POC

IPU-POD64

IPU-POD64

1 host server

4 host server

Production
IPU-POD64(Scale out）

+ servers

IPU-POD16 DA
IPU-POD4 DA

switches

switches

x4 IPU-M2000(direct attach)

x1 IPU-M2000+ servers+ switches+ IPUM2000
recableHost Server+ IPU-M2000

IPU-M2000

Switched version adds
TOR switch & Mgmt switch

Direct Attached, Pre-configured Model
POD4,16,32
reconfigurable as 4xPOD16

1x IPU-M2000

4x IPU-M2000

16x IPU-M2000

Upto 16Kx IPU-M2000

IPU-POD256 DATACENTER ARCHITECTURE
DisaggregatedServers

Storage
AI400X
2Uから始められる、
オールNVMeフラッシュ
並列ファイルシステム

IPU
1

IPU
2

IPU
IPU
11

GW

IPU
IPU
22

IPU
IPU
11

GW
GW

IPU
IPU
22

IPU
1

IPU
2
GW

GW
GW

IPU
3

IPU
4

IPU
IPU
33

IPU
IPU
44

IPU
IPU
33

IPU
IPU
44

IPU
3

IPU
4

IPU
5

IPU
6

IPU
IPU
55

IPU
IPU
66

IPU
IPU
55

IPU
IPU
66

IPU
5

IPU
6

GW

GW
GW

GW

GW
GW

IPU
7

IPU
8

IPU
IPU
77

IPU
IPU
88

IPU
IPU
77

IPU
IPU
88

IPU
7

IPU
8

IPU
61

IPU
62

IPU
IPU
61
61

IPU
IPU
62
62

IPU
IPU
61
61

IPU
IPU
62
62

IPU
61

IPU
62

GW

IPU
63

GW
GW

IPU
64

IPU-POD64

IPU
IPU
63
63

GW

GW
GW

IPU
IPU
64
64

IPU-POD64

IPU
IPU
63
63

IPU
IPU
64
64

IPU-POD64

IPU
63

IPU
64

IPU-POD64ETHERNET IPU FABRIC

Ethernet Switced Fabric

Ethernet Switched Fabric

IPU POD SYSTEM•••

GROW.2Large

EXPLORE

BUILD

GROW.1

IPU-POD16

IPU-POD64

IPU-POD128

IPU-POD256 IPU-POD512, 1024 EXA-POD

16x 1U IPU-M2000
1x dual-CPU server for BERT
4x dual-CPU server for ResNet

•
•
•

•
•
•

4x 1U IPU-M2000
1x dual-CPU server••
4 PetaFLOPS AI compute ••16 PetaFLOPS AI compute •32x 1U IPU-M2000
2x dual-CPU server for BERT
8x dual-CPU server for ResNet

32 PetaFLOPS AI compute •64x 1U IPU-M2000
4x dual-CPU server for BERT
16x dual-CPU server for ResNet

64 PetaFLOPS AI compute

GRAPHCORE
GRAPHCORE
20

SOFTWARE
For Ease of Use

POPLARTM COMPUTE GRAPH VISUALISATIONPOPLAR SDK
Host Server OS

18.04
20.04 (preview)

7.6（RHELへの移行）

Debian 10

DockerManagement data can be delivered via Redfish DTMF to management systems such as Grafana.
Poplar software and our IPUs support containerization with Docker.

POPLAR
Visualization& Debug Tools

22

CLOUD NATIVE & SCALEABLE
SOFTWARE DEFINED INFRASTRUCTURE
Development

Orchestration &Scheduling

POPLAR
Monitor &Control

Logging &Visualization

Provisioning &Virtualization

Virtual-IPU
GRAPHCORE
23

DEVELOPER ECOSYSTEM WITH PARTNERS

GRAPHCORE
GRAPHCORE CONFIDENTIAL

24

RESOURCES CENTRE
https://www.graphcore.ai/resources• Central source of research
papers, white papers, how-to
videos, on-demand webinars
and documentation

NEWSFLASH: GRAPHCORE OPEN
SOURCES POPLAR GRAPH LIBRARIES(POPLIBS)HTTPS://WWW.GRAPHCORE.AI/POSTS/GRAPHCORE-OPENSOURCES-POPLAR-GRAPH-LIBRARIES-POPLIBS

25

RAPIDLY INCREASING NUMBER OFSERVER‍PLATFORM‍PARTNERSHIPS…

GRAPHCORE
26
26

STORAGE PARTNERS

GRAPHCORE

27

GLOBAL ENGAGEMENT WITH MAJOR
HYPERSCALERS‍AND‍CSP’S
Cloud Solution Provider

Cloud Solution Provider
GRAPHCORE
28
28

GRAPHCORE SOFTWARE Environment
NLP/TRANSFORMERSIMAGE CLASSIFICATION/CNNS

Front EndJUPYTERNOTEBOOKSOBJECT DETECTIONLARGE MODELSINFERENCEDEPLOYMENT TOOLKITSYSTEM ANALYZER
ONNX HALO

Framework

DEBUGGERMLPERFDEVELOPMENT ENVIRONMENTXLACONDITIONAL SPARSITYGNNS

GRAPH ANALYZER

POPART+

POPDISTPOPVISION TOOLSBACKENDSPARTITIONER

POPIR

POPIT

POPLIBSGCL

POPLARML APPLICATIONSTUTORIALS
CODE EXAMPLESPOPLAR®
GRAPH ENGINEGRAPH COMPILER

DOCUMENTATIONVIDEOS
NATIVE IPU CODERS PROGRAM

GC DEVICE ACCESS LAYER

DRIVERSAPPS PORTFOLIODEVELOPER SUPPORT ECOSYSTEM
GRAPHCORE

IPUOF DRIVER

PCIe DRIVER

POPLAR® SDK

V-IPU

SYSTEM MONITORINGPOPLARPROMETHEUS
GRAFANAJOB DEPLOYMENT
K8S

SLURM

SYSTEM SOFTWARE
provisioning software29

GRAPHCORE IPUの適用領域
データセンター
インターネット業界

自動車/電機
製造業

ヘルスケア
ライフサイエンス・リコメンド・検索エンジン
・トレンド分析・予測
・スマートアシスタント
・画像検索
・顧客サポート

・自動運転
・自動設計
・不良個所の画像認識
・販売支援
・混雑予想
・高度ナビゲーション
システム

・ゲノム研究・医療画像診断・疾患診断・タンパク質の機能解析
・創薬

金融/保険/株式

研究開発
高等教育

・株価予測
・リスク分析
・景気予測
・マネロンの検知/防止・保険料率予測・顧客の本人確認・認証

・ニューラルネットによるシミュレーション
・ビッグデータ解析
・実験画像解析・素粒子物理学
・天文学

Copyright © SCSK Corporation

30

CUSTOMER ANNOUNCEMENTS 2021

Academic Program
日本からも1団体参加

Man Group - FinTech

Tractable – Insurance AI as a service

Korea Telecom launch IPU cloud
Weather/Climate at ECMWF
GRAPHCORE

国内導入例

Carmot Capital Fintec

NHN launch

大手製造業、テレコム、金融、国立研究所、国立大学など

EC/IPU cloud
31

LARGE MODELへの取り組み
指数関数的に増大➢ 大規模モデルの規模と計算量は2年間で約1000倍に増大➢ GPT-3は1024GPUを使用し学習に2-４か月かかると言われている。
また、別の推測では学習にはV100で4096GPUで1か月、ASP利用ではコストが$33M。
また、別ソースの推測ではA100で2000GPU
で1か月、ASPでコスト$50M）

1ラック(25KW)のシステムで1日で学習可能にするには？

32

出展

https://news.mynavi.jp/article/20210914-1971929/images/004l.jpg

LARGE MODELへの対応
IPU-ExchangeメモリとIPU-Links™を組み合わせたIPU-PODでの実装

IPU
IPU

IPU Exchange Memory
DRAM

Model replica
IPU
IPU

ACTIVATIONS

Pipelinemodel
parallelaxis (p)

IPU
IPU
GC200

IPU
IPU

IPU
IPU

IPU IPU
IPU
IPU

...

IPU
IPU

IPU
... IPU
IPUIPU

IPU
IPU

Tensor model parallel axis (t)Exchange-MemoryとIn-Processor Memoryの間でウェイトとアクティベーションを “スマート（効率的に） ”にスワッピングを行う。

IPU
IPU

IPU
IPU
... IPU
IPU
IPU... IPU
IPU
IPU
IPU
IPU
...IPU
IPU
IPU
IPU
IPU
... ... ...
IPU
IPU
IPU... ... ...IPU
IPU
IPU
IPU
IPU
IPU
IPU
IPU
... IPU
IPU
IPU
IPU
IPU
IPU...
IPU
IPU... IPU... ......replica
IPU
IPU
IPU
IPU
IPU
IPU ... IPU... IPU
Model
IPU
IPU
IPU
... ... ... ... ...
... ...IPU...IPUIPU
IPU ...IPU
IPU ... ...
IPU
IPU
IPU
IPU
IPU
IPU
... IPU
IPU
IPU
IPU
IPU
IPU
IPU
IPU
... IPU
IPU
IPU
IPU
IPU
IPU

WEIGHTS

IPU
IPU

Memory access grouping for weights (rts)

IPU-POD全体でモデルの並列分解 、Poplar®は自動化されたモデル分
割をサポートします。

GRAPHCORE
33

GPT-2 MEDIUM SCALINGSUMMARY
MODEL NAME:
GPT2-MEDIUM

35,000ML DOMAIN:

NLP

Throughput (seq/sec)

30,00031,02525,000

MODEL DESCRIPTION:
GPT IS A GENERATIVE PRE-TRAINING MODE.
IT IS UNIDIRECTIONAL TRANSFORMERBASED MODEL USED FOR PREDICTINGLANGUAGE.
DEPLOYMENT:TRAINING

20,000
FRAMEWORK:

18,842PYTORCH

15,000IPU ADVANTAGE:RESULTS ACROSS MULTIPLE IPU-POD
PLATFORMS WITH EXCELLENT SCALING

10,000
9,870

5,000
0

2,540
IPU-POD16

IPU-POD64

IPU-POD128

IPU-POD256NOTES: (updated 20th Dec 2021)
GPT2-Medium Training Throughput | Wikipedia dataset
IPU-POD Platforms | FP 16.16 | SDK 2.3.0 | PyTorch | https://www.graphcore.ai/performance-results

IPU-POD256

IPU-POD 性能機能評価❑ 性能機能評価メニュー

1.

1.

Graphcloudを利用した評価

2.

性能評価課題を預かり、弊社にて性能評価、報告

3.

評価用IPU-PODシステムの貸し出し

4.

Try＆Buyプログラム

Graphcloudを利用した評価
IPU-POD16 をクラウド上に配置したGraphCloudで2週間無償評価が可能.

● SSH経由● 無償期間は2週間 (POD64 利用は有償(要相談）)● 長期利用、IPU-POD64等の利用は有償にて対応可能．

2. 性能評価課題を預かり、弊社にて性能評価、報告

評価目的、実施内容、日程などをお聞きした上で実施可能な場合、課題を預かり、弊社で移植、最適、試験実施、報告を行います。
評価を実施する時間がない、大きな規模のシステムが必要、最適化なども含めたサポートが必要な場合にご利用下さい。
3. 評価用IPU-PODシステムの貸し出し
評価目的、実施内容、日程などをお聞きした上で実施可能な場合、ホストサーバも含めたPOD-4（もしくはPOD8）を貸し出し評価。
セキュリティ高いデータを外部に出せない等の受験科デモ、貸し出しシステムを利用して評価可能になります。
貸し出しに際して、○弊社Webもしくは代理店様経由で利用申し込み可能○ 事前にシステム、プログラミングの速習トーレニングも用意○

事前にシステム、プログラミングの速習トーレニングも用意○ モデル, 入力データ種別を事前にお伝えいただけますと,○

モデル, 入力データ種別を事前にお伝えいただけますと,

事前準備等を対応させて頂きます。

事前準備を対応させて頂きます。
4. Try＆Buyプログラム
購入を前提として評価目的、実施内容、日程などをお聞きした上で実施可能な場合、ホストサーバも含めたIPU-PODシステムをお貸出しし、評価終了後には購入いただくプログラムです。
IPU-POD16やPOD64を実際の設置環境に置き、既存システムとのインテグレーションなども含めて動作検証などを行えます。

ご清聴ありがとう御座いました。
Try IPU GraphCloud
性能/機能評価(POD16/2Week無償利用）
クラウドサービス(POD16,POD64)
https://www.graphcore.ai/partners

WebinarやVideo,のご紹介
https://www.graphcore.ai/resources
Graphcoreへのお問い合わせhttps://www.graphcore.ai/
Mail mamorun@graphcore.ai
TEL 03-3507-5600
Graphcore:dellsales@graphcore.ai

IPU-POD64
Dell R6525 (3)IPU-M2000 (16)PowerSwitch
Rack (1) & PDU (2)