ANALYST BRIEF

Sponsored by:Dell

AIを処理するインフラストラクチャへの投資は加速度的に拡大している。幸いなことに、AIを処理するインフラストラクチャに関して、システムの50％以上は2024年に処理能力が高速化することはなく、標準的なサーバーとイーサネットのネットワークで実行できる。

企業の「GenAIジャーニー」の開始によって記録的なスピードで進化するGenAI
February 2024

Written by: Brandon Hoff, Research Director, Enabling Technologies:Networking and Comm, and Vijay Bhagavath,
Research Vice President, Cloud and Datacenter Networks

はじめにIDCの調査では、2024年以降のIT投資について影響を与えると考えられる基本的な要因と予測を提示する。テクノロジーリーダーや、事業部門（LOB）においてその役割を果たす人が、戦略的な計画を立てる際の指針として本調査レポートを活用できる。
運用チームは、データを収集し、データレイクを構築し、クラウドを利用してそのデータを保存してきた。Generative AI（生成系AI：以下、GenAI）における「iPhoneモーメント（重要なターニングポイント）」であるChatGPTの人気が高まっている現在、運用チームはそのデータセットで何ができるかを把握している。GenAIのベネフィットは誰もが知っているため、運用チームは、効果的なGenAI戦略の策定に当たって、投資家、経営陣、および市場から、さらなるプレッシャーも受けている。GenAIやML（Machine Learning：機械学習）、デジタルツインなど、事業活動を改善し従業員の生産性を高めるために利用できるテクノロジーは複数あり、選択肢も幅広い。適切なテクノロジーをうまく実装することが、運用チームとビジネス全体にとって不可欠なKPI（Key Performance Indicator）になる。

GenAIの現状を理解する

AT A GLANCE
押さえるべきポイント
GenAIインフラストラクチャのプランニングを開始する。
» 他社よりも迅速にAI技術を取り入れるために、まずは少なくとも、クラウドからデータを引き出す取り組みを通じて、データのコピーをオンプレミスに移動する。
» ビジネスにおける、GenAI、AI、ML、およびデジタルツインの基礎となるアルゴリズムの価値を理解するために投資し、ビジネス価値に基づいて優先順位をつける。
» 3つのステップ：GenAIを評価するための標準的なサーバーとイーサネットのネットワークを導入する。標準的なイーサネットを活用し、必要に応じてエンタープライズ規模のワークロード向けに、GenAIのスケールアウトを行う。オンプレミスとオフプレミスのインフラストラクチャ間でワークロードのバランスを再調整し、今後3～5年間の設備投資（CAPEX）と運用コスト（OPEX）を最適化する。

AI（Artificial Intelligence：人工知能）の需要の急増によって、クラウドサービスプロバイダー（クラウドSP）や企業は、インフラストラクチャを急ピッチで構築している。クラウドSPはAIアクセラレーターの大部分のリソースを消費しており、独自のAIインフラストラクチャを構築している。しかし、そのアクセラレーターが高価なため、クラウドSPによるAIサービスのコストが上昇している。AIアクセラレータ
ーは、GPU（Graphics Processing Unit）、TPU（Tensor Processing Unit）、FPGA（Field-Programmable Gate

ANALYST BRIEF

Generative AIは企業の導入開始によって記録的な速さで進化している

Array）、ASSP（Application Specific Standard Product）、およびASIC（Application Specific Integrated Circuit）で構成されている。クラウドSPは大量のワークロード向けの「AIファクトリー」を構築しており、それは多様な企業のニーズに応えるものであり、主に世界最大規模のIT環境（約9社）に導入されている。
一方で、エンタープライズ規模のワークロード向けのGenAIインフラストラクチャは、処理能力の高速化が不要な標準的なシステムで構築できる。GenAIシステムの50％以上においては、2024年では処理能力が高速化されないとIDCでは予測している。つまり、誰でも標準的なサーバーとネットワークを使用してGenAIインフラストラクチャを導入できる。必要であればGPUも利用できる。AIインフラストラクチャの導入には複数のオプションがあり、GenAI、AI、ML、およびデジタルツインにも複数の種類があって、多様な企業にさまざまな形でベネフィットをもたらす。Gen AIのソフトウェアスタックの多くがサポートされるため、標準的なサーバーでのGenAIの実行には利点がある。オンプレミスの標準的なインフラストラクチャに投資している企業が、GenAIへの取り組みを他社よりも早く進められることになるのである。ITチームがさまざまなGenAI、AI、ML、およびデジタルツインのアルゴリズムの評価を開始し、自社に最も大きな利益をもたらすものを見極めることが不可欠である。

ベネフィットGenAIやその他の基盤モデルは革新をもたらしており、支援技術を新たなレベルに押し上げ、専門技能を持たないユーザーにも強力な機能を提供している。企業はGenAIを活用して効率性や生産性を高め、新たな事業成長の機会を掴み、コストを抑え、競争上の優位性を手に入れることができる。
独自のGenAIインフラストラクチャの構築によって、事業活動へのGenAI技術の適用に弾みがつき、オンサイトの専門知識がGenAIのテクノロジースタックに組み込まれる。テクノロジー投資を優先し、標準的な企業向けサーバーとイーサネットのネットワークを基盤とするオンプレミスの初期のGenAIインフラストラクチャを構築することで、企業はこの革新的なテクノロジーを活用して、市場投入時間に関する優位性を獲得できるようになる。

検討事項
GenAIを活用するために今すぐ行動すべきである
ChatGPTやその他のモデルがもたらすめざましい成果によって、GenAIを取り巻く環境は盛り上がりを見せている。GenAIは価値をもたらすが、その価値は独自のデータソースや導入しているアルゴリズムによって変わる。取締役会や投資家、経営陣は質問を投げかけ、GenAIがどのようにビジネスに役立つのかを探ろうとするであろう。
大量の非構造化データを保有する企業では、GenAIが独自の既存データから独自のコンテンツを創出し、継続的なイノベーションに向けた組織の再構築に役立つと期待している。GenAIが自社に何をもたらすのかを把握し、事業を進めるにはどのようにすればよいかを理解するには、まず簡単なことに着手して徐々に範囲を広げる段階的なアプローチ（「Crawl, Walk, Run 」アプローチ）が有効である。

#US51847824

Page 2

ANALYST BRIEF

Generative AIは企業の導入開始によって記録的な速さで進化している

イーサネットでの初期のGenAIインフラストラクチャの構築
エンタープライズ規模のワークロードについては、標準的なシステムに備わっている機能でGenAIのジャーニーを始めることができる。さらに、標準的なサーバーとイーサネットのネットワーク上のGenAIインフラストラクチャを基盤にすることで、エンタープライズ向けOS、企業向け運用管理ツールおよびネットワーク管理ツールを使用できる。企業にベネフィットをもたらすLLM（Large Language Models：大規模言語モデル）のコンピューティング要件を把握することで、適切なGen AIやAIアクセラレーターを選択してコンピューティング性能を高められる。重要なのは、AIインフラストラクチャは適切に設計する必要があるということである。適切に設計されたファブリックは、数十から数千のAIコンピューティングノードをサポートできる。
GenAIワークロードのネットワーク設定にはさまざまなオプションがあるが、ユビキタスでオープンなマルチベンダーとして推奨される選択肢は、イーサネットのネットワークである。標準的なイーサネッ
トのネットワークは現在GenAIクラスターに対応しており、初期のGenAI導入をサポート可能である。
Ultra EthernetによるGenAIインフラストラクチャの構築
GenAI展開における「Crawl, Walk, Run」のWalkとRunの段階を始めるに当たって、独自のスケールアウト型GenAIインフラストラクチャを構築することが有効な場合がある。スケールアウト型のGenAIインフラストラクチャの構築には、データセンターのAIアクセラレーターとAI対応ネットワークの2つの重要な要素が必要になる。一般的なスケールアウト型GenAIインフラストラクチャでは、各サーバーに8つのデータセンター用GPUを導入し、各GPUには高性能なネットワークを提供するために高速なNIC（Network Interface Card）またはDPU（Data Processing Unit）を導入する。
AIインフラストラクチャのスケールアウトの鍵になる要件は、高性能なネットワークである。GenAIのLLMにとって、処理におけるボトルネックはデータがネットワーク内で費やす時間である。ワークロードの中には、ネットワーク内で費やす時間が最大でLLMの処理時間の60％に達するものもあり、データがコンピューティングクラスター間を移動している間、コンピューティングインフラストラクチャはアイドル状態になってしまう。AIネットワークについては現在、Ultra Ethernet Consortiumを通じて提供される改良されたネットワークが利用できる。これはスーパーコ
ンピューターのネットワークと同等のパフォーマンスやクラウドデータセンターへの拡張性、イーサネットと同等の費用対効果とユビキタス性を備え、相互接続性が保たれたネットワークである。大規模なGenAIやHPC（High-Performance Computing）によるネットワーク需要の拡大に対処するには、AIネットワークが不可欠である。幸いなことに、Ultra Ethernet
Consortiumはほとんどのイーサネットスイッチベンダーがサポートしている。

#US51847824「エンタープライズセグメントのGen AIデータセ
ンター向けイーサネットスイッ
チ市場は、CAGR（CompoundAnnual GrowthRate：年間平均成長率） 158.2％で成長し、2023年には4,190万ドルであったものが2027年には10億ドルになると予測している」（IDC、Vijay
Bhagavath）

Page 3

ANALYST BRIEF

Generative AIは企業の導入開始によって記録的な速さで進化している性能に関しては、高速なSerDes、PHY、Opticsの3つの重要なテクノロジーが必要である。この3つのテクノロジーはイーサネットやその他のネットワークテクノロジーでも使用されているため、基本的にはどのネットワークテクノロジーにも性能に関する優位性はない。イーサネットの性能を最大限に引き出すために、InfiniBand Trade AssociationはRDMA over Converged Ethernet（RoCE）のイニシアティブを立ち上げ、RoCEのプロトコルを定義した。RoCEは標準的なデータセンタースイッチでサポートされており、Highradix Switch、カットスルースイッチング、ロードバランシング、最大800GbE（4 x 200GbE）の高帯域リンクなど、性能を高める追加機能も市場に現れつつある。
GenAIのLLMに関する初期テストを行うことで、GenAIがその企業にもたらすベネフィットを早期に把握し、GenAIのLLMに関する戦略の構築に役立つだけでなく、どのようなインフラストラクチャが必要になるかも分かる。基本的に、企業のGenAIの進化における次のステップに向けた半導体要件を牽引するのはソフトウェアスタックである。ソフトウェアスタックの把握は、最適なハードウェアインフラストラクチャの導入に役立つであろう。

半導体コストの安定化に伴うオンプレミスとオフプレミスのインフラストラクチャにおける配分の再調整
データセンターGPUの供給が増加するにつれて、より多くのベンダーがデータセンターGPUを提供するようになり、より多くのAIアクセラレーターが利用できるようになる。また、より高いGenAIの処理能力がオンプレミスの導入でも利用可能になる。同時にクラウドサービスプロバイダーのボトルネックが解消し、コストが安定することが期待される。そうなれば3～5年後には、オンプレミスのインフラストラクチャとクラウドインフラストラクチャの間でGenAIのワークロードの配分を再調整することによって、CAPEXとOPEXが最適化されるであろう。

結論
GenAIはAIの画期的なテクノロジーである。企業にはGenAIの戦略／プランが必要になる。この革新的なテクノロジーを企業活動に継続して取り込むために、エンタープライズ規模のワークロードに対し今すぐアクションを起こすべきである。
需要が高いため、コンポーネントやクラウドSPの価格が上昇している。一方で、GenAIシステムの50％以上では、2024年には処理能力が高速化されないとIDCは予測している。つまり、誰でも標準的なサーバーとネットワークを使用してGenAIインフラストラクチャを導入できる。必要であればGPUも利用できる。AIインフラストラクチャの導入には複数のオプションがあり、GenAI、AI、ML、およびデジタルツインにも複数の種類があって、多様な企業にさまざまな形でベネフィットをもたらす。

「市場は相変わらずGenAIの成長を過小評価しているが、IDCではGenAIのインフラストラクチャと半導体の力強い成長を予測している」（IDC、Brandon Hoff）

企業はGenAIの処理のためにクラウドからデータを引き戻して、OPEXを削減するとIDCは予測している。
企業は標準的なコンピューティングとイーサネットのハードウェアでGenAIの導入とテストを開始し、その企業に適したLLMと独自データから引き出せる価値を把握し投資するであろう。

#US51847824

Page 4

ANALYST BRIEF

Generative AIは企業の導入開始によって記録的な速さで進化している

既存のサーバーと企業のイーサネットによるネットワークで、GenAIのLLMに関するテストを行うインフラストラクチャを構築することで、その企業にとってのGenAIの価値が実現する。

アナリストについて
Networking and Comm、Enabling Technologies担当リサーチディレクター、
Brandon Hoff
Brandon Hoffは、IDCのEnabling TechnologiesチームでIDCのネットワークと通信のインフラストラクチャを主導している。同氏は、企業ITおよびWeb、クラウド、通信のサービスプロバイ
ダーのデータセンターにおける、テクノロジーのトレンド、ワークロード、製品、ベンダー、サプライチェーン、およびエンドユーザーの導入戦略を調査対象としている。

Cloud and Datacenter Networks担当リサーチバイスプレジデント、Vijay
Bhagavath
Vijay Bhagavathは、実践的なソートリーダーシップを発揮し、クラウドやデータセンターネッ
トワークの市場やテクノロジーに関して実用的なインサイトを提供している。同氏は、ネットワークの市場、テクノロジー、製品ロードマップ、競争上の差別化、および導入戦略を全体的に深く理解しており、ベンダー、クラウドプロバイダー、企業ITのバイヤーや専門家に対して、洞察力に富んだコメントや助言を提供している。

#US51847824

Page 5

ANALYST BRIEF

Generative AIは企業の導入開始によって記録的な速さで進化している

スポンサーメッセージ
データにAI技術を取り入れましょう
デル・テクノロジーズは、革新的なテクノロジー、専門的なサービスの包括的なスイート、大規模なパートナーネットワークを活用して、貴社のジャーニーが可能性から確信に変わるまでのスピードを加速させます。

» 簡素化：戦略的なガイダンスとロードマップを実証済みの有効なソリューションと組み合わせることで、結果が出るまでの時間を短縮します。

» カスタマイズ：貴社のニーズに合わせて設計したインフラストラクチャによって、データの価値を最大限に引き出します。

» 信頼性：セキュアな基盤でAIの未来を構築し、データや知的財産を守ります。
最高のAI性能を提供し、Generative AIの時代に向けて設計されたAIインフラストラクチャの調達、導入、管理を簡素化します。テクノロジーとイノベーション、そしてデル・テクノロジーズの持つ強みによって、よりスマートに、より迅速に成果を実現します。
詳細については、www.dell.com/AIをご覧ください。

本調査レポートの内容は、www.idc.comで公開されているIDCの既存の調査結果に基づいています。
IDC Research, Inc.
140 Kendrick Street
Building B
Needham, MA 02494, USA

本調査レポートはIDC Custom Solutionsが発行したものです。 本調査レポートに記載する見解、分析、調査結果は、ベンダースポンサーの記載がない限り、IDCが独自に行い、発行した詳細な調査と分析から導き出されたものです。IDC
Custom Solutionsは、さまざまな企業による配布に対応するため幅広いフォーマットでIDCのコンテンツを提供しています。IDCのコンテンツ配布のライセンスは、ライセンス保有者への支持やその意見には言及していません。

Twitter @IDC

IDCの情報およびデータの対外的公表－広告、プレスリリース、または、販売促進資料で用いるIDCの情報についてはいかなるものであれ、適切なIDCのバイスプレジデントまたはカントリーマネージャーから書面による事前の承認を受ける必要があります。係る申請には、提案する文書のドラフトを添付する必要があります。IDCは、その理由の如何にかかわらず、外部での使用に対する承認を拒否する権利を留保します。

idc-insights-community.com

Copyright 2024 IDC.Reproduction without written permission is completely forbidden.

T 508.872.8200
F 508.935.4015

www.idc.com#US51847824

Page 6