ScaleWorXのHPC/AIソリューション
「ScalePOD®」
2023/12/1
株式会社ScaleWorX
吉岡 祐⼆
yyoshi@scalewx.com

Giga Computing Technology
中村 広志
h.nakamura@gigacomputing.com©ScaleWorX, Inc.

about ScaleWorX
ストレージとデータを20年以上扱ってきた視点からのソリューション提供• DataDirect Networks, Inc. (US) による出資を受け、2021年1⽉に設⽴• 2008年設⽴の株式会社データダイレクト・ネットワークス・ジャパン(DDNジャパン)と連携• ストレージ製品を含めたトータルなHPC/AIシステムを提供• 代表取締役社⻑兼CEO ⼭⽥ 昌彦 (2022年9⽉就任)• ⽬指すビジネス• 世界の最新テクノロジーを駆使して、コモディティ、オープンソース時代に最適なシステム環境をデザインし、トータルソリューションとして提供できる次世代型のPlatform companyを⽬指す• Why ScaleWorX

⾼度なシステムイン
テグレーション能⼒

データ集約型コン
ピューティングの専⾨知識

グローバルネットワー
クとコミニュケーション
能⼒2

体制強化とGCTとの戦略的パートナーシップ•

HPC/AI市場向けに本格的なビジネス展開を⽬指して体制強化• 国内で不可⽋な設計・構築から運⽤・保守に⾄るまで⼀貫したサポート体制をGCT社と共同で確⽴•

Giga Computing Technology社 (GCT) とのHPC/AI市場における戦略的提携• 多様なHPC/AIワークロードに対応できる多種サーバ製品が提供可能なGCT社と戦略的パートナーシップを締結• 国内HPC/AI市場におけるビジネスを共同で推進•NVIDIA Grace Hopper, Graceサーバ製品を⽇本市場に先⾏投⼊• 空冷・⽔冷関わらず共同で提案を推進•

AMD GPUサーバでも協⼒3ScalePOD® AI
AI⽤途に最適化された最⼤1024ノードまで拡張可能なビルディングブロック• AI業務のライフサイクル･マネジメントに最適なデータセントリック･システム• 様々な業界におけるITインフラの知⾒を活かした、シンプルかつ最適化された構成で、システム導⼊の簡素化と時間短縮に寄与• 1ラックからスモールスタートして、投資効果を評価してから簡単にスケールアウトできる

64node64node64node64node• OS：Ubuntu, RHEL
• GPUプラットフォーム：NVIDIA CUDA
• 機械学習ライブラリ：TensorFlow• 深層学習ライブラリ：PyTorch• ⼤規模⾔語モデル：Llama 2• グラフィカルな対話操作：Open OnDemand

最大構成時：Grace Hopper 水冷サーバの場合

4

ScalePOD appliance - Overview
System Management

Computing NodeTOR GbE switch
Management server

POD-A：Arm server
POD-G：GPU server
POD-L：Large Memory server
POD-X：Distributed Memoryserver※any combination of PODs

NVIDIA NGC Catalog
HPC Collection

End-to-End AI
Development

Deep Learning
Frameworks

Interactive(k8s), Batch(Slurm)
Cluster Management

Highspeed Network

InfiniBand
200Gbps IB network

OS(RHEL, ubuntu)

550TB highspeed NVMestorage
3M IOPS, 90 GB/sec Read
Highspeed/Large
Storage

2.5 -5 PB general purpose NAS
HDD storage
nexentaNAS, Backup & Archive5

システム最適化ツール：バレルアイ
データ分析I/Oのための詳細なモニタリング製品
トラブルシュー
ティング

サイジング

レポーティング• ⼤規模Lustreファイルシステムのモニタリングシステム(ES-Mon) として筑波⼤学、JAMSTEC、OISTと協⼒して2013年からDDNジャパンが開発• Collectd、InfluxDB、VictoriaMetrics、Grafana等のオープンソースを利⽤• 2021年からScaleWorXが商品化• 国内外の⼤規模な⼤学、研究機関、製造業を含む100社程度に導⼊済み• 個々のアプリケーションやジョブレベルでのI/Oモニタリング• 詳細なクライアント側のモニタリングも可能
6

まとめ
データ集約型コンピューティングのための柔軟なインフラソリューション
• クラウドシステムは普及してきているが、ビッグデータを定常的に扱うお客様にはクラウドはまだ⾼額と認識• クラウドのような使いやすさや利便性がありつつ、オンプレミスのような経済的なシステムの提供を⽬指す• ScalePODが⽬指すソリューション
• お客様のアプリケーションとワークフローに合わせたテーラーメイドソリューションを提供• ラックレベルソリューションのため、導⼊期間を数⽇に短縮• 遠隔監視、⾃動化、プロアクティブサポートによるシステムの効率化・ダウンタイムの最⼩化または排除9

GIGABYTEは、1986年に設⽴、今年で37周年を迎えます。台北市内から交通⾄便な新北市に本社構え、世界各国ワールドワイドにて⼤展開しています。Giga Computingは2023年1⽉に新たに設⽴され、100％サーバーに注⼒したビジネスを⼿掛けます。

GIGABYTE並びにGiga Computingは、共にNVIDIA社のファーストティアレベルの協業パートナーとしてワールドワイドでビジネス協業を進めています。HPC・AI需要向けのエンタープライズ市場向けGPU製品では、世界で⼀番積極的な展開を図ってます。

01/20強み特徴【Advantage】- Intel・AMD・Arm・NVIDIA等、全てのプラットフォームを1stティアで⼿掛ける事が強み特徴です- No.1 Server Vendor promoting all of Processors and GPU.

GCTVVV＊Rackmount＊Multi Node＊GPU Server＊Rackmount＊Multi Node＊GPU Server＊Rackmount＊Multi Node＊GPU Server- Weʼre 1st Tier Server Vendors for these Processor Makers.
- No1 Server Vendor to strongly promote AMD EPYC Platform since its launch.
- No1 Server Vendor for NV H100 Certificated Server Platoforms.

V＊PCI-Ex Solution＊SMX5 Solution＊Grace Platform

12/28

01/20

GPU活⽤したあらゆるワークロードに採⽤・応⽤- ⽣成AI⽤途、LLM⼤規模⾔語モデル、あらゆる産業のデジタル化基盤、3DCGコンテンツ等のレンダリング等- 各種GPUをサポートする多種多様なサーバー製品ラインナップで、ジャストサイズなGPUリソースを提供

12/28

業界最⾼密度2U8GPUサーバー- 1U・2U・3U・4U・5U規格でGPU搭載密度を追求- 2U8GPUは業界最⾼密度を誇り、他社の追従を許さないGPU搭載密度

AI & HPC
Universal AI & Graphics
Cloud Gaming

NVIDIA HGXOVXAI Training
LLM Inferencing
Universal AI & Graphics

NVIDIA HGX

HGX A100
2U4GPUDLC Type

HGX A100
4U8GPUDLC Type

HGX H100
3U4GPUDLC Type

01/20アドバンスド・クーリングで最適な冷却⽅法を提案- Giga Computingでは、空冷タイプ・⽔冷タイプ・液浸タイプの異なる冷却ソリューションをスタンダード製品として展開︕- 2U8GPU規格のGPUサーバーから2U4N規格のマルチノードサーバーまで、標準でこれらを展開します︕

空冷タイプ
2U8GPU
2U4NodeOCP Server

⽔冷タイプ

液浸タイプ

In Rackタイプ
Rack形状タイプ

GIGABYTE Brand
冷媒オイル検証

内部循環タイプ

設備⼯事・設営

12/28

01/20NVIDIA No.1パートナー- NVIDIA 認定システムカタログに、H100対応サーバーをいち早く掲載- 54種類の構成で「Certified」取得し、350種類の構成で「Qualified」取得

Edge

Graphic

Data Analytics

54
Certified

3D Graphic

HPC

350
Qualified

AI

12/28

01/20幅広い製品ラインナップでAI需要全般をカバー- NVIDIA SXM5タイプH100搭載サーバーやPCI-ExカードタイプH100対応サーバーを、1U規格〜5U規格まで- 推論・出⼒向けのNVIDIA L4やL40/L40SといったGPUカードも幅広い製品ラインナップで対応

トレーニング・訓練

5U8GPUSXM5 H100

2U8GPUPCI-Ex H100

推論・出⼒2U16GPU

2U8GPU

L4 * 16

L40/L40S * 8

12/28

01/20導⼊事例【海外】- Living 4.0を推進する財団法⼈台湾建築センター（TAIWAN ARCHITECTURE & BUILDING CENTER）でのBIMプラットフォーム- ⽶国を代表するGPUクラウドプロバイダー・CoreWeave社のGPU基盤

Leading BIM technology revolution in Taiwan
The “Living 4.0 Intelligent Living Space”, slated for a September 2023 launch, aims
to advance BIM technology in Taiwan's construction sector. Founded by TABC, theinitiative also functions as an educational hub for schools, companies, and researchcenters. With GIGABYTE's powerful W771-Z00 GPU workstation serving as thevirtual host and GIGABYTE BRIX Extreme GB-BEi7HS-126 and GB-BER7HS-5800
managing the connections, the setup enables real-time 3D design collaboration
through NVIDIA Omniverse, propelling Taiwan's construction industry into a newgeneration.

Leading the GPU Cloud Industry with the Latest H100 GPUs
As a cloud computing startup, CoreWeave foresaw the potential of the powerful
Nvidia H100 GPU and began deploying H100 GPUs on its cloud computing service
much earlier than other companies. With assistance from Nvidia, the company
leads the rising trend of GPU computing in cloud services. The heart of the service
is GIGABYTE’s G593 servers built with a configuration that uses Intel Xeon CPUs andNvidia HGX H100 GPUs, creating one of the most powerful and advanced structuresdesigned for large-scale HPC and AI workloads.

12/28

01/20導⼊事例【海外・国内】- ドイツ連邦共和国の航空宇宙技術を担うドイツ航空宇宙センター（DLR）での2U4N規格・⽔冷対応サーバー- ⽇本を代表する⼤⼿ゲーム会社のゲームサービスプラットフォーム基盤

⼤⼿ゲーム会社
Liquid-Cooled Data Center for Aerospace Research
German National Aerospace Center (DLR) chooses GIGABYTE servers to build their
new liquid-cooled data center, to explore new energy sources and develop
technologies to protect the environment, and to conduct R&D in aviation,aerospace and transportation.
DLR adopts GIGABYTE H261, a 2U 4 node system combined with a CoolIT’s liquid
cooling system to achieve extreme compute density and GIGABYTE R281, a 2U
system together with AMD EPYC processor and 3x NVIDIA GPUs for virtualizationand collaborative computing capabilities in a wide number of research units.

⽇本を代表する⼤⼿ゲーム会社が⼿掛けるオンラインゲームのサービスプラットフォーム基盤として採⽤。⼈気ゲームコンテンツをマルチタイトル抱える同社の、安定・堅牢が必須なサービスプラットフォーム基盤にAMD
EPYC準拠の1U規格シングルソケットタイプサーバーが採⽤。数⼗万⼈が同じ世界でプレイする事もあるこれらのゲームタイトルでは、常にプレイヤーが快適に遊べる環境を提供するためのインフラ構築が必要不可⽋で、これらの実現にGiga Computingのサーバーが貢献しています。

12/28

Thank you!
www.scalewx.co.jp

23