AI/HPC 共存を実現するソフトウエアの事例紹介:
ジョブ管理・仮想コンテナ・オンプレミスとクラウドのS3互換ストレージ・高速分散ファイルシステム

2020/12/14
PCCC20「HPCシステム最前線」The Forefront of Advanced HPC system

Howard Weiss ワイスハワード

◼ アメリカ ミシガン州出身◼ 1990年日本移住
Managing Director

HowardWeissワイスハワード◼ 英語・日本語◼ Phoenix Technologies / Sales Director, Japan◼ BakBone Software / VP APAC
◼ Cofio Software (acquired by HDS) / co-founder BODmember◼ Voltaire / Mellanox / VP APAC
◼ DataDirect Networks / VP APAC

◼ Incorporated Pacific Teck Limited in July 2013©︎2020 - Pacific Teck Japan G.K.

世界中の最先端技術製品にフォーカス◼ 日本を拠点にインドを含むアジア太平洋エリア(APAC)に製品を提供◼ 英語 / 中国語 / 日本語のグロバールな言語での支援が可能◼ ハードウェアには依存しないソフトウェアソリューションを提供◼ APAC最大のスパコンでの採用実績多数◼ ストレージ/コンテナー/ジョブ管理のエキスパート©︎2020 - Pacific Teck Japan G.K.

Pacific Teck in the TOP500!
1st Riken/Fugaku iRODS, SingularityPRO
14th AIST/ABCI UGE, SingularityEnterprise, BeeGFS
28th NCHC/Taiwania 2 UGE, SingualarityPRO
31th TiTech/TSUBAME3.0 UGE, Bee
58th Nagoya U/Flow (BeeGFS, NVMesh)
68th Tokyo U/Oakbridge-CX (BeeGFS)
318th Tohoku U/AFI-NITY(UGE)
()

()

(()

GFS)

©︎2020 - Pacific Teck Japan G.K.

取扱製品カテゴリー◼ ジョブ管理システム◼ S3クラウドストレージサービス◼ HPC仮想コンテナーシステム◼ クラスターマネジメントシステム◼ ストレージソフトウェア◼ プログラム開発者用ツール◼ 並列ファイルシステム◼ S3 オブジェクトストレージ◼ ティアリングスソフト©︎2020 - Pacific Teck Japan G.K.

ジョブ管理システム

Altair (Univa) Grid Engine©︎2020 - Pacific Teck Japan G.K.

Altair (Univa) Grid Engine - TSUBAME3.0

Subheading Sample HPC & Machine Learning Experts Subheading Sample

YYYY MM DD Pacific Teck / Event name – Tokyo, Japan©︎2020 - Pacific Teck Japan G.K.

Multi-Instance GPU on the NVIDIA A100

Realize the full potential of the A100 GPU

10©︎2020 - Pacific Teck Japan G.K.

クラウドジョブ管理・クラウドバースティング

Altair software is deployed inenterprise data centers, public,
private and hybrid clouds

NEWSubheading Sample HPC & Machine Learning Experts Subheading
SampleSample clients▪ Migrates workloads to the cloud▪ Helps organizations control spending

Altair Control
riv

YYYY
MM DD
Pacific Teck
/ Event
namewith– Tokyo,Japan“Wegained
practicallyinfinite
capacity
Univa’s
hybrid cloud solution in a very cost-effective manner”
Enterprise Computing Director, HPC Mellanox©︎2020 - Pacific Teck Japan G.K.

HPC仮想コンテナーシステム

SingularityPRO

Singularity
Enterprise©︎2020 - Pacific Teck Japan G.K.

Singularity

Singularityと他仮想環境との比較
ハイパーバイザ型仮想環境

Root access is not
Required for execution.

Root Access to executecontainer

app

app

app

Singularity
Launcher

app

app

app

app

app

app

app

app

app

ｱﾌﾟﾘｹｰｼｮﾝ

ｱﾌﾟﾘｹｰｼｮﾝ

ｱﾌﾟﾘｹｰｼｮﾝ

ｱﾌﾟﾘｹｰｼｮﾝ

Root file system

コンテナデーモン

ｱﾌﾟﾘｹｰｼｮﾝ

ｱﾌﾟﾘｹｰｼｮﾝ

ｱﾌﾟﾘｹｰｼｮﾝ

Linux Kernel
Virtual Hardware
Layer

Singularity
コンテナ型仮想環境

Dockerコンテナ型仮想環境

Subheading
Hypervisor Sample HPC & Machine Learning Experts Subheading Sample

Root file system
Linux Kernel
Physical Hardware Layer

Root file system

Container root

Linux Kernel

YYYY MM DD Pacific Teck / Event name – Tokyo, Japan
Physical Hardware Layer

Root file system

Singularity
container

Linux Kernel
Physical Hardware Layer▪ コンテナ型にはHypervisorがないため仮想化による性能劣化がない▪ Singularityはコンテナー実行時にRoot権限を取得する必要がない▪ Singularity Image Format (SIF)©︎2020 - Pacific Teck Japan G.K.

Singularity

Singularity Enterpriseの特徴▪ PGP公開鍵を追加▪ コンテナライブラリを提供（オンプレ版・Cloud版）▪ Remote Build Services を提供（オンプレ版・Cloud版）

SingularityPROの特徴
Subheading Sample
HPC & Machine Learning Experts Subheading Sample▪ Sylabs社により技術確認されたSingularityPROのバイナリ版を提供▪ 同じバージョンのロングランサポート
YYYY MM DD Pacific Teck / Event name – Tokyo, Japan▪ お客様のご要望を次期バージョンに反映©︎2020 - Pacific Teck Japan G.K.

ストレージソフトウェア

パラレルファイルシステム

BeeGFS

BeeOND©︎2020 - Pacific Teck Japan G.K.

Pacific Teck in the IO500!
9th Oracle Cloud Infrastructure
21th CSIRO(BeeGFS)(BeeGFS)©︎2020 - Pacific Teck Japan G.K.

BeeOND - BeeGFS On Demand◼

パラレルファイルシステムをその場で作成◼

簡単な起動/停止コマンド◼

Jobスクリプトに記述しジョブスケジューラによる作成・削除の制御が可能（ジョブスケジューラ: Altair (Univa) Grid Engine）<< これから流行 >>◼

計算ノードの中のファイルシステムはパーマネントユースとして使用©︎2020 - Pacific Teck Japan G.K.

コンピュートノード上にストレージを実現する▪タイプIIサブシステム100ノードはBeeGFSを使用▪50ノードがNVMeshを使用
Subheading Sample HPC & Machine Learning Experts Subheading Sample▪50ノードでRAID
1とイレイシャーコーディング使用パーマネントファイルシステム▪2020年7月1日に運用開始
YYYY MM DD Pacific Teck / Event name – Tokyo, Japan▪永続ファイルシステムとして使用可能©︎2020 - Pacific Teck Japan G.K.

POSIXファイル
システム

GPFS, Lustre, etc

オンプラミスオブジェクト
ストレージ

Scality etc

クラウドストレージ

Oracle Cloud, AWS,
Azure etc

データカタログ・データ移動©︎2020 - Pacific Teck Japan G.K.

A New Cloud-Connect

RStor Cloud Data
Storage Solution▪固定料金でS3クラウドストレージを実現
DATA INDEPENDENCE LAYERDATADATADATA©︎2020 - Pacific Teck Japan G.K.

Data Discovery andRegistration▪iRODS scans a given file system
in a parallel fashion with an inmemory cache▪iRODS builds a catalog andcaptures file system information▪iRODS can automatically extract
metadata for future
discoverability▪Once the data is registered into
the catalog additional policy may
be invoked, such as StorageTiering©︎2020 - Pacific Teck Japan G.K.

クラスターマネジメントシステム

Bright Cluster Manager forHPC

Bright Cluster Manager for DataScience©︎2020 - Pacific Teck Japan G.K.

プログラム開発者用ツール

Arm Forge

Arm Allinea Studio©︎2020 - Pacific Teck Japan G.K.

Thank you
sales@pacificteck.com©︎2020 - Pacific Teck Japan G.K.