「生成AIの性能はGPUで決まる」論の間違い
性能アップにつながるインフラの作り方
昨今の “ 第 4 次 AI ブーム ” の立役者である生成 AI がビジネスワークを構成する技術「InﬁniBand」が主流だった。しかし「イーに与えるインパクトは大きい。従来の AI は膨大な開発コストがかかサネット」が生成 AI にも使えるようになったことで、一般的な企業る上に、スーパーコンピュータ規模の大規模なシステムが必要だっも利用しやすくなった。

た。しかし、生成 AI は学習済みの「基盤モデル」を自社の IT 環イーサネットがなぜ一般的な利用に適しているのか、関連する技境で動かすだけで AI のメリットを享受できる。格段に導入しやすく術がどのように進化してきたのか。イーサネットを AI に利用するたなったことで、一般的な企業でもビジネスに取り入れる動きが活発めのソリューションについて解説する。

化している。

生成AIの頭脳はGPUネットワークは“血管”だ

生成 AI の導入時に語られるのが GPU に代表されるコンピューティングリソースの話題だ。本格的な AI の開発や推論に欠かせない計算能力をどう確保するかは議論すべきポイントだ。

AI のためのシステムを語るとき、たいていは GPU の性能などコしかし、その影に隠れて見落とされがちな要素がある。それがンピューティングパワーが注目される。特に生成 AI は、基盤モデル「ネットワーク」だ。ストレージにある大容量のデータを参照してのように極めて膨大なデータを処理する必要があるので単一のGPU サーバで推論処理をする生成 AI において、ネットワークの伝GPU サーバでは能力不足に陥る。そこで複数の GPU サーバを高送速度が遅ければ高価な GPU を生かせない。ネットワークは AI速なネットワークで接続してクラスタ化し、データを並列処理するの性能を左右すると言える。

コンピュート・バックエンド・ファブリック（GPU ファブリック）をこれまではスパコンやデータセンター用に高速で大容量のネット形成するケースが多い。

生成 AI 用システムとして注目される GPU ファブリックのイメージ（提供：デル・テクノロジーズ）

ここで GPU ばかりに注目していては足をすくわれる。GPU サー
バをつなぐネットワークをどのように構成するか丁寧に検討する必要がある。GPU サーバやネットワークの知見があるデル・テクノロジーズの岩辺憲昭氏（CoC ネットワーク マーケティングマネージャー）は次のように話す。
「GPU ファブリックは、GPU 同士の膨大な相互通信によって高速な並列計算を実行しています。生成 AI の学習や推論は独特で、岩辺憲昭氏（CoC ネットワークマーケティングマネージャー）ネットワークの滞留時間が 50％を超えるケースが出てきています。
つまり、ネットワークの性能が生成 AI のパフォーマンスに直結するということです。生成 AI の取り組みにおいてネットワークがキーテ調達の難易度も考慮しなければならない。いかに高性能であってクノロジーの一つになっているのです」

も、高価で手が出せなかったり需要に合わせて調達できなかったりGPU サーバは、生成 AI における頭脳の役割を果たす。GPU にすれば、自社のビジネススピードが落ちる原因になる。

データを伝送するネットワークは、脳に栄養や酸素を届ける血管の3 つ目のポイントは、サーバやストレージを含めた大規模な生成ようなものだ。その血管が細かったり詰まったりするようでは、頭AI 用のインフラを適切に運用できるかどうかという点だ。生成 AI脳の働きに悪影響があるということは容易に想像できる。の取り組みは、パワフルな IT 環境をユーザーのニーズに応じて変更しながら試行錯誤を繰り返すことになる。構築や運用を自動化で生成 AI を成功させるネットワーク 3 つのポイントとは
生成 AI の取り組みにおいてネットワークに求める要素として、岩辺氏は 3 つのポイントを挙げる。1 つ目は高速なトラフィック処理きる優れたオーケストレーターの存在が、生成 AI の成功を助けてくれる。安定稼働し続けるためにはメーカーやベンダーの包括的なサポートも欠かせない。

だ。GPU 間で発生する膨大なトラフィックを低遅延で処理できるイーサネット技術に革新
生成AIを支えられるレベルに到達

広帯域のネットワークが必要になる。高性能であればあるほどパフォーマンスは向上する。

2 つ目のポイントは、巨大な GPU クラスタ環境を構成できる拡

それでは、生成 AI に適したネットワーク技術やネットワーク機器張性だ。ネットワーク機器のスペックだけではなく、機器の単価やとはどのようなものだろうか。デル・テクノロジーズの佐々木亮氏

生成 AI の取り組みにおいてネットワークに求められる要素（提供：デル・テクノロジーズ）

（ネットワーク事業部 技術部長）は次のように解説する。

米 Broadcom が 22 年に発表した「Tomahawk 5」チップは、「 これ まで GPU ファブリックの ネットワ ー ク 技 術 として、1 チップで 51.2 テラ bps という広帯域を実現した。前モデルの約InﬁniBand を採用するのが主流でした。InﬁniBand は優れた技術2 倍の帯域に広げている。次世代型の半導体を採用したことで、レで性能や機能は申し分ないのですが、価格が高く、サポートや入手イテンシは 800 ナノ秒から 200 ナノ秒に短縮している。の難しさなどの課題がありました。加えて特定のベンダーに頼りがTomahawk は汎用（はんよう）的なイーサネットチップであり、ちな傾向があり、コロナ禍で起きた半導体不足のような事態に陥る採用しているベンダーも多いためベンダーロックを避けられる。ま可能性もあります。こうした課題を解決し、生成 AI の裾野を広げたイーサネット規格の AI 活用を推進する団体「Ultra Ethernetる技術としてイーサネットが台頭してきています」Consortium」が積極的な活動を展開しており、イーサネットの弱イーサネットは LAN や WAN を構成する要素で、家庭から企業点をカバーする新技術の開発が進んでいる。汎用チップなので調達まで幅広く使われているのでいまさら詳細を語る必要はないだろう。 性に優れており、総所有コストも InﬁniBand の約 3 分の 1 に抑え
身近なイーサネットが生成 AI に採用されてこなかったのは、GPUられると佐々木氏は見込む。

ファブリック向けのネットワーク技術としては力不足が否めなかっ「Tomahawk 5 を搭載したデル・テクノロジーズのイーサネットたからだ。

スイッチ『PowerSwitch』は、400 ギガビットイーサネットからしかし、近年イーサネットのチップとスイッチに革新が起きてお800 ギガビットイーサネットの世界に突入しようとしています。当社

り、生成 AI が求める低遅延かつ広帯域を実現できるレベルに達しの AI イーサネット技術と Tomahawk 5 を組み合わせて、輻輳てきている。

（ふくそう）処理やフロー制御といった生成 AI のネットワークインフラに必要な技術を盛り込んでいます。このパワーと機能があれば、生成 AI を十分に支えられるネットワークを構築可能です」（佐々木氏）

ネットワークOSが進化
InfiniBand級の低遅延・広帯域の実現へ
ネットワークを考える上で、それを制御する OS も無視できない。
佐々木亮氏（ネットワーク事業部技術部長）

Enterprise SONiC の特徴（提供：デル・テクノロジーズ）

デル・テクノロジーズのネットワーク OS「Enterprise SONiC」以下、
Distribution by Dell Technologies（
Enterprise SONiC）

も大きく進化している。注目すべきは、InﬁniBand で使われているネットワーク高 速 化 技 術「RDMA（Remote Direct MemoryAccess）」をイーサネットで実現できるプロトコル「RoCEv2」をサポートしている点だ。

ハードウェア、ソフトウェア、コンサルティングを網羅
デルの総合力で「AI活用の成功」
を支援

RDMA は、複数のサーバのメモリを直接つないでデータ転送を「デル・テクノロジーズはネットワークだけでなく、生成 AI のコン高速化する仕組みだ。これをイーサネットに取り入れることで、ピューティングリソースにも注力しています。貴重な情報資産や技InﬁniBand 級の低遅延かつ広帯域のネットワークを構築できる。

術を保護するセキュリティソリューションも提供しており、ユーザーRDMA を超える高速かつセキュアな伝送技術の開発も進んでおり、 のニーズに適した環境を整えられる『総合力』が当社の強みです」
さらなる進化が期待できる。

（岩辺氏）

Enterprise SONiC は高速なカットスルースイッチングや効率的AI を巡る技術は日進月歩で進化中だ。コンピューティングシステなロードバランシング機能など、生成 AI 用のインフラを支える機能

ムは、巨大なスパコンから小規模な HPC へ、さらに手のひらに載も備えている。GPU ファブリックに必要なパフォーマンスと機能性る GPU ボードへと小型化している。ネットワークも同様の手頃感を実現できるネットワーク OS だ。

で多様なプレイヤーを支えられる仕組みに変わってきた。いまや生「生成 AI を支えるインフラとして、運用管理やオブザーバビリ

成 AI は、特別な企業だけが取り組むものではなく一般的な企業もティーの機能にも注目してください。エコパートナーである米

自社ビジネスの一環として積極的に参入できる技術になりつつある。

Augtera Networks が提供する AI 技術を応用した運用監視ツー

こうした状況を踏まえて、デル・テクノロジーズはハードウェアのルはネットワークの混雑状態をモニタリングして速やかな解消を支提供だけでなく生成 AI をどう活用するか、導入をどう成功させる援します。米 BeyondEdge が手掛ける、GPU ファブリックの構かといったビジネス課題の解決を支援するコンサルティングサービ

成を最適化するオーケストレーターも有用です。さまざまなツールスも手掛けている。

を組み合わせて利用できるエコシステムが、Enterprise SONiC の「当社は、次世代イーサネットファブリックを提供できます。自社価値です」（佐々木氏）に適した生成 AI のインフラ環境とビジネス戦略を、私たちと一緒

こうした機能はすでにデル・テクノロジーズのネットワーク機器として提供されている。800 ギガビットイーサネットの超高速かつ高密度のイーサネットスイッチも近く発表される予定だ。に作り上げましょう」（岩辺氏）
生成 AI をビジネスに取り込みたいが、システムの構築に課題を抱えている企業はデル・テクノロジーズに相談してみてはいかがだ
ろうか。GPU サーバからネットワーク、コンサルティングまで一気通貫で支援してくれるはずだ。

※この冊子は、ITmedia NEWS（https://www.itmedia.co.jp/news/）に 2024 年 4 月に掲載されたコンテンツを再構成したものです。

https://www.itmedia.co.jp/news/articles/2404/08/news002.html
copyright © ITmedia, Inc. All Rights Reserved.