Applied Digital の事例︓
Supermicro の GPU サーバーを使用して大規模な AI クラウドを構築
Applied Digital は、 Supermicro の高性能 GPU サーバーを使用して大規模なAI クラウドを構築しました。 同社は、 AI トレーニングと HPC シミュレーションのための最新でスケーラブルなインフラストラクチャをユーザーに提供します。

Supermicro SYS-821GE-TNHR

業界
・ AI クラウドサービスプロバイ
ダー・ データセンターコロケーション
サービス

概要

Applied Digital Corporation（Nasdaq: APLD）は、人工知能（AI）および高性能コンピューティング（HPC）アプリケーション、 クラウドサービス、 データセンターホスティング向けの次世代デジタルインフラの設計、 構築、 運用を行う企業です。 同社は北米各地に多数のデータセンターを有し、 顧客と緊密に連携して最新の GPU を搭載した最新のサーバーテクノロジーを提供するクラウドサービスプロバイダーのリーダーです。 Applied Digital のクラウドサービスは、 完全子会社である課題

Sai Computing を介して提供され、 大規模で妥協のないパフォーマンスを必要とするワークロード・ 提供サービスに大規模な AI向けに、 ベアメタル、 および、 スーパーコンピューティングを ” as a Service” で提供します。

トレーニングを追加

Applied Digital は、 ハイエンドコンピューティングによる二酸化炭素排出量を削減するために、・ AI と ML の能力の向上再生可能エネルギーの近くにデータセンターを配置しています。 さらに同社は、 運用効率を高めて・ エンタープライズクラスのサーコストを抑え、 可能な限り再生可能エネルギーを利用し、 お客様独自のニーズを解決するためのバーと AI ハードウェア優れたサービスを提供しています。

・ 従来のクラウド HPC サービスを超えるパフォーマンス、 価値、 サービス

課題

Applied Digital の HPC チームは、 幅広いアプリケーションに対応する最新サーバーテクノロジーを搭載した並列コンピューティングクラスターのアーキテクチャ、 デプロイ、 最適化において豊富な経験を持っています。 最も要求の厳しい計算集約型アプリケーション向けのハードウェアとサービスを提供する専門知識を持つ Applied Digital は、 AI/ML 市場では依然として不足しているコンピューティング能力を提供できる唯一の立場にありました。

© 2024 Copyright Super Micro Computer, Inc. All rights reservedソリューション

Applied Digital は、 顧客が AI モデルをトレーニングし、 短期間で大量の HPC アプリケーションをSupermicro SYS-821GE-実行できるサーバーがどれであるかを評価する必要がありました。 必要なサーバーの要件は、 GPU

TNHR サーバー間の高速相互接続を備えた最もパフォーマンスの高い GPU が搭載されていることでした。 このアー・ デュアル 第 4 世代 インテル ®

Xeon® スケーラブル ・ プロセッサー
・ 8x NVIDIA HGX™ H100

キテクチャなら、 あらゆるステップで CPU を関与させることなく、 AI モデルの迅速なトレーニングが可能になります。 さらにこれらのサーバーが 3.2Tbps NDR GPU-Direct RDMA ファブリック上に拡張されると、 数千の GPU が並列動作できるようになります。 同社はこのような要件を満たす高性能な AI サーバーを探していました。

80GB 8-GPUs
・ 2TB メモリー・ 19.2TB ストレージ・ 3.2Tbps InfiniBand（ノードあたり）

AS -4124GS-019

ソリューション

Applied Digital は、 デュアル 第 4 世代 インテル ® Xeon® Platinum 8462Y+ プロセッサーを搭載した Supermicro の SYS-821GE-TNHR がユーザーにとって最適なサーバーであると判断しました。 Supermicro の SYS-821GE-TNHR は、 NVIDIA HGX™ H100 80GB Tensor コア GPUを 8 基搭載しています。 NVIDIA HGX™ H100 GPU には HPC 向けに 67 テラフロップスの FP64Tensor コアが搭載されています。 AI と融合した HPC アプリケーションは、 H100 の TF32 精度を・ デュアル EPYC™ 7513 CPU活用して、 単精度行列の乗算演算で 1 ペタフロップのスループットを達成することができます。 こ・ 1TB メモリーのシステムには、 コンピューティングノード内の 8 つの H100 Tensor コア GPU 間の通信用に 900・ 8x NVIDIA A100 80GB

GB/ 秒の NVIDIA NVLink® と NVIDIA NVSwitch™ が使用されています。 Applied Digital は、GPUs

SYS-111E-WR・ シングル 第 4 世代 インテル ®

Xeon® スケーラブル ・ プロセッ
サー (5415+)

データを GPU メモリーに転送する前にワークロードをステージングするための 2TB のシステム RAMを選択しました。 ネットワークには、 インバンド管理とオブジェクトストレージ用に 100GbE を使用
し、 NVIDIA GPUDirect® とコンバージド ・ フラッシュファイルシステムのトラフィック用に InfiniBand

NDR ファブリックを使用します。 NVIDIA HGX™ リファレンスアーキテクチャを活用することで、Applied Digital は単一の並列コンピューティングクラスターで動作する数千の H100 GPU まで拡・ 64GB メモリー張することができます。

AS -2014TP-HTR

Supermicro の GPU サーバーに加えて、 以下のシステムもこのインフラストラクチャを構成する一・ シングル AMD EPYC™

部となっています。

7534P CPU•AS -2014TP-HTR ( クラスターインフラストラクチャ )・ 1TB メモリー•SYS-111E-WR for UFM (NVIDIA Unified Fabric Manager、 クラスターインフラストラクチャ )•AS -4124GS-TNR with PCIE GPU ( 非クラスター化汎用 GPU クラウド )© 2024 Copyright Super Micro Computer, Inc. All rights reserved

利点

スイッチングも AI インフラストラクチャの重要な部分です。 Applied Digital は、 同社の顧客が実・ AI サービスの拡張行しているワークロードに最適な Supermicro のスイッチを採用しました。

・ AI ワークロードの実行時間の•SSE-SN3700-CS2FC (32x port 100GbE switch)•SSE-F3548SR (48x port 10/25GbE switch)•3SSE-G3748R-SMIS (48x port 1GbE switch)

短縮

利点

Applied Digital は、 AI トレーニング市場が爆発的に拡大する中、 AI トレーニングと HPC シミュレーションのための新しいサービスをいち早く市場に投入しました。 同社の顧客は、 現在利用可能な最も高度で強力なコンピューティング機能にアクセスでき、 HPC および AI アプリケーションを高速で実行しながら、 より複雑な AI パイプラインを利用できます。 また、 Applied Digital はハードウェアベースのソリューションを顧客に提供するだけでなく、 Applied Digital が顧客と協力することで、特定のワークロードに最適なソフトウェアを決定できるようになります。
「AI および HPC ワークロード向けに、 最先端の AI クラスターを市場に提供できることを誇らしく思っています。 当社はこれからも Supermicro と緊密に連携して、 さまざまなシステムを提供し、 要
求の厳しいワークロードを高速化するための最先端かつパフォーマンスの高いソリューションをお客様に提供していきます。」- Michael Maniscalco, CTO, Applied Digital© 2024 Copyright Super Micro Computer, Inc. All rights reservedSupermicro について

Applied Digital についてSupermicro は、 高性能なグリーンコンピューティング・

Applied Digital（Nasdaq︓APLD）は、 急速に成サーバーを提供する世界的リーダー企業です。 当社

長するハイパフォーマンスコンピューティング（HPC）業

は、 ブレード、 ストレージ、 GPU ソリューションでカスタ界にデジタルインフラストラクチャソリューションを提供す

マイズし、 アプリケーション用に最適化されたサーバーるために、 北米全域で次世代データセンターの設計、とワークステーションを世界中の顧客に提供していま開発、 運営を行っています。 詳しくは https://www.

す。 当社の製品は、 実証済みの信頼性、 優れた設

applieddigital.com をご覧ください。

計、 業界で最も幅広い製品構成を提供し、 あらゆるコンピューティングのニーズに応えています。 詳しくはhttps://www.supermicro.com/ja/ をご覧ください。

お問い合わせ︓スーパーマイクロ株式会社〒 150-0031 東京都渋谷区桜丘町 20-1 渋谷インフォスタワー 21 階
電話︓03-5728-5196 FAX︓03-5728-5197 Email︓Sales_Inquiry_JP@Supermicro.com© 2024 Copyright Super Micro Computer, Inc. All rights reserved