RoCE v2ネットワークの詳細ガイド

<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">進化し続けるネットワーキング技術の中で、RDMA（Remote Direct Memory Access）はデータ転送プロセスを合理化し、ネットワーク全体の効率を高める重要なプレーヤーとして台頭してきました。著名なRDMA技術の1つにRoCE（RDMA over Converged Ethernet）があり、その第2バージョンであるRoCE v2は性能と汎用性において大きな進歩を遂げています。この記事では、RoCE v2の複雑な技術、ネットワークカード、InfiniBandとの比較を紹介します。</p>
<h2 class="community-restructure-h2 community_page_first_h2">RoCE v2とは何か?</h2>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">RoCE v2は、イーサネットネットワーク上での低遅延、高スループットのデータ転送を容易にするために設計されたRDMAプロトコルです。複数の層の処理を必要とする従来のデータ転送方法とは異なり、RoCE v2はシステム間の直接メモリ アクセスを可能にし、CPUの関与を最小限に抑え、遅延を削減します。このため、RoCE v2は、高性能コンピューティング（HPC）環境、データセンター、クラウドコンピューティングなど、迅速かつ効率的なデータ通信が要求されるシナリオで特に有利になります。</p>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">このプロトコルは、特定の制限に対処し、全体的なパフォーマンスを向上させる機能強化を導入することにより、前任者のRoCE v1の基盤に基づいて構築されています。RoCE v2はコンバージドイーサネットインフラストラクチャを利用し、同じネットワーク上で従来のイーサネットトラフィックとRDMAトラフィックの共存を可能にします。この統合により、ネットワーク管理が合理化され、別個のRDMAファブリックが不要になり、RoCE v2がよりアクセスしやすく、コスト効率が高くなります。</p>
<p><img title="RoCE v2 Network Infrastructure" src="https://media.fs.com/images/community/erp/S8wBb_8mtFZB.jpg" alt="RoCE v2 Network Infrastructure" width="100%" /></p>
<h2 class="community-restructure-h2">RoCEネットワークカード</h2>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">RoCE v2エコシステムの中心は<a href="https://www.fs.com/jp/c/network-adapters-4253?463=66209" target="_blank" rel="noopener">RoCEネットワークカード</a>であり、RDMA操作をサポートするように設計された専用のネットワークインターフェースカード（NIC）です。RoCEアダプタとも呼ばれるこのカードは、システム間のダイレクトメモリアクセスを可能にする上で極めて重要です。RoCEネットワークカードは、RDMAオペレーションをCPUからオフロードするために必要なハードウェア機能を備えており、その結果、レイテンシが低下し、システム全体のパフォーマンスが向上します。</p>
<p><a href="https://www.fs.com/c/nvidiar-ethernet-adapters-4014" target="_blank" rel="noopener"><img title="RoCE Network Card" src="https://media.fs.com/images/community/erp/Ni4Ce_14rd7na.jpg" alt="RoCE Network Card" width="100%" /></a></p>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">高性能スイッチの中核は、スイッチが採用する転送チップにあります。特に、Tomahawk3シリーズ・チップはスイッチに広く採用されており、新しいTomahawk4シリーズ・チップをサポートするスイッチが増加傾向にあります。この変化は、現在の商用市場でデータ転送に一般的に使用されているこれらのチップの重要性を浮き彫りにしています。</p>
<p><img title="Tomahawk3 series chips" src="https://media.fs.com/images/community/erp/RnCsR_13tGmBS.jpg" alt="Tomahawk3 series chips" width="100%" /></p>
<h2 class="community-restructure-h2">RoCE v2 vs. Infiniband</h2>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">RoCE v2（RDMA over Converged Ethernet version 2）とInfiniBandは、どちらもデータセンターやハイパフォーマンス・コンピューティング環境において高速で低レイテンシーの通信を提供するために設計された技術です。以下は、さまざまな側面における主な相違点をいくつか紹介します。</p>
<p><img title="RoCE v2 vs. Infiniband" src="https://media.fs.com/images/community/erp/WX2PY_9BxWCB.jpg" alt="RoCE v2 vs. Infiniband" width="100%" /></p>
<h3 class="community-restructure-h3">物理層</h3>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>RoCE v2:</strong> イーサネット・インフラストラクチャに依存するため、ストレージと通常のデータ・トラフィックを同じネットワーク上に集約することができます。また、既存のデータセンターへの統合も容易です。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>InfiniBand:</strong>通信にはイーサネットとは別の専用ファブリックを使用します。多くの場合、専用のInfiniBandネットワークが必要となるため、個別のケーブル配線やスイッチが必要になる場合があります。</p>
</li>
</ul>
<h3 class="community-restructure-h3">プロトコルスタック＆ネットワークスタック</h3>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>RoCE v2:</strong> イーサネット上のRDMA（Remote Direct Memory Access）プロトコルを利用します。従来のTCP/IPスタックと統合されているため、標準的なネットワーキング・プロトコルと互換性があります。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>InfiniBand:</strong> 高速・低遅延通信に最適化された独自のプロトコル・スタックとネットワーク・スタックを持っており、専用のドライバや設定が必要になる場合があります。</p>
</li>
</ul>
<h3 class="community-restructure-h3">スイッチング</h3>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>RoCE v2: </strong>データセンター・ブリッジング（DCB）機能を備えた標準イーサネット・スイッチ上で動作し、ロスレス・イーサネットをサポートします。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>InfiniBand:</strong> 低レイテンシー、高スループット通信用に特別に設計された<a href="https://www.fs.com/jp/c/nvidiar-infiniband-switches-4156" target="_blank" rel="noopener">InfiniBandスイッチ</a>が必要です。</p>
</li>
</ul>
<h3 class="community-restructure-h3">輻輳</h3>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1"><strong>RoCE v2:</strong></p>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>輻輳の処理:</strong> RoCE v2は輻輳の処理にイーサネットスイッチのDCB（Data Center Bridging）機能に依存しています。DCBはロスレス・イーサネット環境を提供し、輻輳によるパケットロスを防ぎます。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>輻輳制御:</strong> RoCE自体には輻輳制御メカニズムは組み込まれていません。その代わり、輻輳の管理は基礎となるイーサネット・インフラに依存しています。</p>
</li>
</ul>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1"><strong>InfiniBand:</strong></p>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>輻輳の処理:</strong> InfiniBandは輻輳管理をネイティブにサポートしています。クレジットベースのフロー制御などのメカニズムを採用し、輻輳を防ぎ、ロスレス通信を保証します。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>輻輳制御:</strong> InfiniBandには、トラフィックの経路を動的に調整し、ネットワークの混雑を防ぐためのアダプティブ・ルーティングと輻輳制御アルゴリズムが含まれています。</p>
</li>
</ul>
<h3 class="community-restructure-h3">ルーティング</h3>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1"><strong>RoCE v2:</strong></p>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>ルーティング・メカニズム:</strong> RoCE v2は通常、RIP（Routing Information Protocol）やOSPF（Open Shortest Path First）といった従来のイーサネット・ルーティング・プロトコルにルーティング決定を依存しています。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>トポロジー:</strong> RoCEは標準的なイーサネット・トポロジで使用されることが多く、ルーティングの決定は基礎となるイーサネット・インフラストラクチャの影響を受けます。</p>
</li>
</ul>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1"><strong>InfiniBand:</strong></p>
<ul class="new_community_blog_detail_ul">
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>ルーティング・メカニズム:</strong> InfiniBandのルーティングメカニズムは、低レイテンシー、高スループットの通信に最適化されています。冗長性と負荷分散のために複数のパスをサポートしています。</p>
</li>
<li><span class="new_community_blog_detail_ul_circle"></span>
<p><strong>トポロジー:</strong>InfiniBandは、ファットツリー、ハイパーキューブ、マルチレール構成など、さまざまなトポロジーをサポートしています。トポロジの選択は、ルーティングの決定に影響を与える可能性があります。</p>
</li>
</ul>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">RoCE v2とInfiniBandのどちらを選択するかは、既存のインフラストラクチャやアプリケーションの要件、環境固有のニーズなどの要因によって決まります。RoCE v2は既存のイーサネット・ネットワークによりシームレスな統合経路を提供しますが、最高レベルのパフォーマンスとスケーラビリティを要求するハイパフォーマンス・コンピューティング環境ではInfiniBandが好まれる場合があります。</p>
<h2 class="community-restructure-h2">UECが新たなトランスポート・プロトコルを導入</h2>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">ウルトラ・イーサネット・コンソーシアム（UEC）は、現在のイーサネットの能力を凌駕することを主な目的として、7月19日に正式に設立されました。創設メンバーには、AMD、Arista、Broadcom、Cisco、Eviden、HPE、Intel、Meta、Microsoftが含まれます。これらの企業は、ネットワークインフラ、人工知能、クラウド技術、ハイパフォーマンス・コンピューティングの展開において、数十年にわたる専門知識を結集しています。</p>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">コンソーシアムでは、数十年前に確立されたリモート・ダイレクト・メモリ・アクセス（RDMA）は、AI/MLのネットワーク・トラフィックの厳しい要求に対して時代遅れになったと主張しています。RDMAは、膨大なトラフィックブロックでデータを転送する傾向があるため、リンクの不均衡や過度の負担を招く可能性があります。UECは、新たなアプリケーションのために、RDMAを統合した最新のトランスポートプロトコルの開発開始を提唱します。</p>
<h2 class="community-restructure-h2">まとめ</h2>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">RoCE v2はRDMA技術の領域で強力な力として立ちはだかり、高性能で低レイテンシのデータ通信を求める組織に強力なソリューションを提供します。イーサネット・インフラストラクチャへのコンバージェンスとUECのトランスポート・プロトコルがもたらす進歩が相まって、RoCE v2はHPC環境からクラウド・コンピューティングに至るまで、さまざまなアプリケーションに対応する汎用的でコスト効率の高い選択肢となっています。</p>
<p class="blog_p padding_top_none community_blog_detail_p community_blog_detail_p1">InfiniBandとの比較はRoCE v2の強みを際立たせますが、最適なRDMAソリューションを選択する際には、組織固有の要件と既存のインフラを考慮する必要があります。テクノロジーが進化を続ける中、RoCE v2とそれに関連するイノベーションは、高性能ネットワーキングの未来を形作る上で極めて重要な役割を果たすことになるでしょう。</p>