インテル® Gaudi® 2 AI アクセラレーターの大規模言語モデル (LLM) ベンチマーク評価

https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html

•	注目ポイント
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-undefined

•	幅広い利用と実環境への適合性
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-1

•	大規模モデル処理能力の重要性
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-2

•	厳しいテスト条件とパフォーマンス評価指標
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-3

•	オープンソース・モデルとの互換性とコスト効率
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-4

•	広く利用されているユースケースへの適合性
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-5

•	まとめ
https://www.intel.com/content/www/us/en/developer/articles/training/ai-accelerator-for-large-language-models.html##inpage-nav-6

＜インテル® Gaudi® AI アクセラレーターを活用した最適化＞
•	新たなディープラーニング・モデルの作成も既存コードの移植も数分で完了
•	シンプルな開発と生産性の向上を両立しながら生成 AI のパフォーマンスを実現

＜注目ポイント＞
このブログでは、Open Innovation AI が実施したインテル® Gaudi® 2 AI アクセラレーターのベンチマーク評価について、以下のポイントに着目し、主な結果をまとめています。
•	卓越したパフォーマンス指標: インテル® Gaudi® 2 AI アクセラレーターは、Llama-3.1B や Falcon-3.10B のような大規模言語モデル (LLM) の処理における、レイテンシーの大幅な低減、スループットの拡大、最初のトークンまでにかかる時間 (TTFT) の短縮を実証。実環境の AI アプリケーションで強固なパフォーマンスを発揮します。
•	複雑なワークロードに特化した設計: LLM の演算要件を満たすために設計されたインテル® Gaudi® 2 AI アクセラレーターは、チャットボットや検索拡張生成 (RAG) などの用途でその能力を発揮し、電力効率と拡張性を維持しながら最大 3,000 トークンの入力を処理可能。
•	拡張性とコスト効果: ベンダーに依存しないオープンなプラットフォームであるインテル®️ Gaudi®️ 2 AI アクセラレーターは、AI ワークロードのシームレスな拡張を可能にし、資本支出 (CapEx) と運用コスト (OpEx) の両方を最小限に抑え、インテル® Gaudi® 3 AI アクセラレーターによる将来的な進歩の基盤を構築します。
LLM やマルチモーダル AI システムの普及が進む中、AI テクノロジーの可能性の限界が再定義されつつあります。このような最先端モデルは、自然言語の理解、画像認識、クロスモーダル・インテリジェンスを得意とするものの、演算処理の上ではさまざまな課題に立ち向かわなければなりません。数十億ものパラメーターを扱うモデルの学習処理と実装には、膨大な演算能力と電力効率、拡張性、コスト効果の高いインフラストラクチャーが不可欠です。
こうした課題を解決するために、インテル® Gaudi® 2 AI アクセラレーターは開発されました。ディープラーニング・ワークロードに特化して構築されたこのアクセラレーターは、高性能、電力効率、拡張性を組み合わせ、コストや柔軟性を犠牲にすることなく、最先端の AI アプリケーションに対する高まるニーズに応えます。ベンダーに依存しないオープンなプラットフォームであるインテル® Gaudi® 2 AI アクセラレーターによって、企業はベンダー・ロックインを回避しながら AI イノベーションを加速させることが可能になります。

Open Innovation AI が実施したこのベンチマーク評価では、チャットボットや RAG など特定のシナリオにおけるインテル® Gaudi® 2 AI アクセラレーターの卓越したパフォーマンスが強調されました。Open Innovation AI は、アラブ首長国連邦 (UAE) を拠点に、AI ワークロードを対象とした最先端ソリューションの開発を専門とするテクノロジー企業です。Llama-3.1B や Falcon-3.10B などの広く利用されているモデルを使用しインテル® Gaudi® 2 AI アクセラレーターをテストすることで、これらのベンチマーク評価が実環境のアプリケーションにおいて重要である理由について、有用なインサイトを提供します。以降のセクションでは、5 つの主要ポイントに分けて詳しく解説していきます。

＜幅広い利用と実環境への適合性＞
Llama モデル、Falcon モデルともに、AI エコシステムの中で最も広く利用されている LLM です。汎用性が高く、チャットボットからコンテンツ生成まで、さまざまな用途に適しています。これらのモデルを実装したインテル® Gaudi® 2 AI アクセラレーターのベンチマークを測定することで、実際のユースケースとの適合性が実証されました。
幅広く採用されているモデルとの適合性は、日常的な AI 利用や実用面で企業と開発者が直面している数々の課題を解決する、インテル® Gaudi® 2 AI アクセラレーターの可能性を実証するものでもあります。

＜大規模モデル処理能力の重要性＞
パラメーター数が数十億を超える Llama-3.1B や Falcon-3.10B の演算処理には、大きな課題が伴います。これらの大規模モデルは、広範なメモリー管理と処理能力を要するため、ハードウェアのスケーラビリティー・テストに最適です。
このように膨大なワークロードを処理する能力は、学習処理でも推論でも、負荷の高い演算処理が必要とされるプロジェクトに対応可能なインテル® Gaudi® 2 AI アクセラレーターの安定性と適応性を際立たせました。

＜厳しいテスト条件とパフォーマンス評価指標＞
このベンチマーク評価では、実環境での用途に直接影響する、次のようなパフォーマンス指標に焦点が当てられました。
•	TTFT: ユーザーの入力に対しどれだけ素早く最初のトークンを返すことができるかを測定。ユーザーの満足度に直接影響するため、チャットボットのようなリアルタイム・アプリケーションで TTFT は極めて重要。インテル® Gaudi® 2 AI アクセラレーターは TTFT を短縮し、迅速な応答と全体的な体験向上を可能にします。
•	レイテンシー: 1 つの要求を処理して結果を返すまでにかかる時間。低レイテンシーによりシームレスなインタラクションが確保され、チャットボットや RAG といった高負荷ユースケースで同時処理ユーザー数の拡大が可能。インテル®️ Gaudi®️ 2 AI アクセラレーターはレイテンシーを最小限に抑えるため、高負荷ワークロードに極めて適しています。
•	スループット: システムが効率よく同時に処理できるタスク数を測定。大量のデータを処理する必要がある RAG のようなアプリケーションでは特に重要。高スループットを実現するインテル®️ Gaudi®️ 2 AI アクセラレーターには、エンタープライズ・レベルの実装に対応できる拡張性が備わっています。
いずれの評価指標も、ハードウェアのテクノロジー能力を実証し、要求の厳しい実環境のシナリオを効率的かつ正確に処理する適応力を裏付けるものです。

＜オープンソース・モデルとの互換性とコスト効率＞
Llama や Falcon のようなオープンソース・モデルは、商用ソリューションに代わるコスト効果の高い選択肢として勢いを増しています。オープンソースならではの柔軟性とアクセスのしやすさこそ、あらゆる規模の組織にとって魅力的な選択肢となっている理由です。これらのモデルとのシームレスな互換性によって、企業は予算を上回ることなく高いパフォーマンスを達成することができ、インテル® Gaudi® 2 AI アクセラレーターにさらなるメリットをもたらしています。
このインテル® Gaudi® 2 AI アクセラレーターの互換性は、多様な AI ワークロードにおける技術的な先進性だけでなく、コスト面での現実性も確保します。

＜広く利用されているユースケースへの適合性＞
ベンチマーク測定では、チャットボットと RAG という 2 つの重要 AI アプリケーションに焦点が当てられました。
•	チャットボット: カスタマーサポートから販売まで、今やビジネスに欠かせないツールとなったチャットボット。インテル® Gaudi® 2 AI アクセラレーターはレイテンシーと TTFT を効果的に低減し、スムーズで応答性の高いリアルタイム・インタラクションを可能にします。
•	RAG: モデルに外部データを取り込むことで、AI が生成する応答の精度を向上させる、ナレッジ管理やコンテンツ制作といったアプリケーションに適した手法。高スループットと処理効率を実現するインテル® Gaudi® 2 AI アクセラレーターは、RAG ベース・ソリューションにとっての最適な選択肢となっています。
いずれのユースケースも現在最も需要の高い AI アプリケーションであり、こうした分野におけるインテル® Gaudi® 2 AI アクセラレーターの卓越したパフォーマンスは、企業や開発者にとっての選択肢として最上位のポジションを確固たるものにしています。

＜まとめ＞
実環境での性能ベンチマークを通じて、インテル® Gaudi® 2 AIアクセラレーターは大規模言語モデルを実装する強力で効率的なプラットフォームであることが実証されました。チャットボットや RAG などの用途で抜群のパフォーマンスを発揮し、Llama や Falcon といった広く利用されているオープンソース・モデルとの互換性も備えています。こうした理由から、インテル® Gaudi® 2 AI アクセラレーターはディープラーニング・ハードウェアの新たなスタンダードとなっています。

インテル® Gaudi® 3 AI アクセラレーターは、インテル® Gaudi® 2 AI アクセラレーターが確立した基盤の上に構築され、HBM メモリーを 128GB に拡張し、PCIe 5.0 に対応しました。さらに、インテル®️ Gaudi®️ 3 AI アクセラレーターでは TSMC 5nm プロセス技術を採用し、面密度の向上と電力効率の大幅な拡大を実現し、AI パフォーマンスを新たな段階へと引き上げています。こうした進歩は、AI アクセラレーター技術の限界を押し上げるというインテルの継続的なコミットメントを示すと同時に、効率とコスト効果を両立しながら AI ワークロードの拡張を目指す企業にとって、インテル® 

Gaudi® アクセラレーター製品が最適な選択肢だと示すものでもあります。
詳細については、ホワイトペーパー (PDF). をダウンロードしてご確認ください。
https://www.intel.com/content/www/us/en/content-details/846172/content-details.html

【製品およびパフォーマンスに関する情報】
性能は、使用状況、構成、その他の要因によって異なります。詳細については、https://www.Intel.com/PerformanceIndex/ (英語) を参照してください。