HEROES FORUM 2023 Dec

知っていますか？
Dell Technologiesの生成AIソリューション
デル・テクノロジーズ株式会社
データワークロード・ソリューション本部
シニアシステムエンジニア | AI Specialist

山口泰亜
Azure AI1

Copyright © Dell Inc. All Rights Reserved.

AIブームと歴史
1956年
ダートマス会議
1950

推論と探索
第一次AIブーム

1960
エキスパートシステム
1980

第二次AIブーム

1990年代ディープラーニング

2000/2010年代

第三次AIブーム
ジェネレーティブAI
第四次AIブーム？

2

Copyright © Dell Inc. All Rights Reserved.

これまでのAI と Generative AI

Traditional AI

AI

分類、回帰-画像認識・分類-需要予測

MachineLearning
Deep
Learning

Generative AI

Gen AI

生成・創造-画像、音声、文章、コード
3

Copyright © Dell Inc. All Rights Reserved.

AI で企業を変革

45%

ChatGPT のメディア露出
により、AI への投資を増加する幹部の割合175%

AI を活用して効率を高め、品質を向上させる予定の大企業2“…the killer app for artificial intelligence is productivity gains…thereal winners are those companies that have proprietary data, andlots of it, and the best pools of high-quality data…”
Source: 1-45% TechRepublic, The publicity surrounding Open AI’s ChatGPT has prompted 45% of executives to increase their investments in artificial intelligence, a new Gartner poll reveals.
https://www.techrepublic.com/article/gartner-executives-chatgpt-investments/
2-75% IDC, “IDC Futurescape, Worldwide AI and Automation 2023 Predictions”, 2022
3-60%: By 2026, generative design AIwill automate 60% of the design effort for newwebsites and mobile apps. Source: Predicts 2022: Generative AI Is Poised to Revolutionize Digital Product Development 11 January2022 -ID G00757883 https://www.gartner.com/document/code/757883©©DellReserved.
Copyright
DellInc.
Inc.AllAllRights
RightsReserved.
44 Copyright60%

2026 年までに、アプリ開発と Web サイトのデザイン作業に生成AIを適用3

生成 AI で将来のユースケースに今すぐ対応
インテリジェントな営業
活動支援

業務支援
コードの効率化、UI | UX デザイン

セキュリティおよびインフラストラクチャの支援

顧客小売 POS
アシスタント

変革

信頼性

生産性

コールセンター支援

財務、アドバイザリー、融資業務

法務、人事業務、採用アシスタント

ビジネスセキュリティ、データ/リスク軽減アシスタント

開発コード生成クリエイティブ、脚本、提案

研究開発、ヘルスケア、科学技術

5Copyright © Dell Inc. All Rights Reserved.

APJ 生成AI 導入事例

Major Cloud
Service Privider

Leading Global
BankProminent
Telecom Provider

Major Web Tech
Company

Multinational
Manufacturing
Conglomerate

HPCインフラストラクチャに Dell PowerEdge
XE9680 サーバを導入
し、国家 AI プロジェクトを含む AI の使用と開発を行う研究機関、大学、企業をサポート

Dell PowerEdge
XE9680を使用して、運用効率、リレーションシッ
プ・マネージャー、カスタマー・サポートのための高性能な社内AIチャットボットを構築

Dell PowerEdge
XE9680サーバを搭載したGenAIプラットフォームを社内で開発し、5G製品およびサービスの研究開発活動を強化

Dell PowerEdge
XE9680サーバで市場シェアを獲得するために、競争力のあるGenAIベースの検索エンジン、オンラインオークション、および広告サービスを構築

Dell PowerEdge
XE9680サーバで市場をリードする地位を確固たるものにするために、最先端のイノベーションの研究開発をサポートする社内GenAIシステムを開発

6Copyright © Dell Inc. All Rights Reserved.

Dell導入事例<XE9680導入効果>
・従来製品に比べて約5.14倍の性能向上・最適化で十数倍の性能向上が期待できる2020年:広告効果を最大化する「極予測AI」の基盤としてXE8545を導入

・課金を気にせず安心した利用
・iDRACの管理負荷軽減

2023年：和製生成AI基盤としてXE9680を導入<XE9680採用理由>
・高い保守レベルを実現
・安定した保守サポートの実績

導入事例：
https://www.dell.com/ja-jp/blog/ai/

・使いやすいリモート管理ツール「iDRAC」
・ 6Uのサイズで効率的な冷却
出典:https://www.janog.gr.jp/meeting/janog52/wpcontent/uploads/2023/06/janog52-aiml400-uchida-koshoji.pdf
AI/ML基盤の400G DCネットワークを構築した話

7

Copyright © Dell Inc. All Rights Reserved.

生成AIモデルの方向性
Limited Customization

実践する企業/人の数

モデルの変更なしで独自データを利用した推論を行う

Moderate Customization
学習済モデルを利用した
ファインチューニング/転移学習

High Customization/ Own LLM Model
独自データ、独自モデル

カスタマイゼーション/競争優位性
8

Copyright © Dell Inc. All Rights Reserved.

Dell Technologies AI 戦略
9

Copyright © Dell Inc. All Rights Reserved.

AIINAIAI

AIONFORStrategyAI

WITH

10

Copyright © Dell Inc. All Rights Reserved.

AI in Dell ProductsPrecision Optimizer
AIIN

PowerMax
CloudIQ
PowerStore

11Copyright © Dell Inc. All Rights Reserved.

AI on Dell Products
Validated Designs

AIONFor Virtualizing GPUs for AI
using VMware vSphere andTanzu and NVIDIA AI Enterprise
For Generative AI
Inference with NVIDIA
Automate Machine Learningwith H2O Driverless AI

12Copyright © Dell Inc. All Rights Reserved.

AI for the business
Internal & Customer
Service & Support
AIFOR

Supply Chain
Sales & Marketing
Finance13

Copyright © Dell Inc. All Rights Reserved.

AI with Partners

AIWITH

Hugging Face

Meta Llama2

14Copyright © Dell Inc. All Rights Reserved.

Dell Validated Designfor Generative AI

15

Copyright © Dell Inc. All Rights Reserved.

Validated Design for Generative AI
生成AIでこれからのAI活用を再考

信頼できる AI の結果を誠実に提供

スケーラブルなフルスタック
ソリューションを提供• 基盤技術• ソフトウエア• サービス

専門知識と導入展開
ガイダンスを提供• アクセラレータ技術• AI ソフトウエア• 学習済みモデルと専門知識

モデル開発から導入までを支援

データのセキュリティとプライバシーを確保

2023 年7月から利用可能(国内は調整中)

加速化

スケール

セキュア

ビジネスの結果ビジネス全体に影響を与える

信頼に基づく意思決定16

Copyright © Dell Inc. All Rights Reserved.

Design Guide- Generative
AI in theEnterprise Inferencing

Dell Validated Design for
Generative AI Inferencing は、本番環境に LLM を導入する際の課題に対処するために設計されたリファレンス アーキテクチャです。

NVIDIA を使用した生成
AI 推論用のデルの検証済
み設計のアーキテクチャと設計

https://infohub.delltechnologies.com/t/design-guide-generative-ai-in-the-enterprise-inferencing/

17

Copyright © Dell Inc. All Rights Reserved.

安心できる構成を組むために

18

Copyright © Dell Inc. All Rights Reserved.

Foundationモデルの活用
Llama2

rinna
calm2

ダウンロード

BERTt

トレーニングダウンロードファインチューニング

Customization

Training
多GPUリソース

19

Copyright © Dell Inc. All Rights Reserved.

Inference
少Hugging Faceとは
主に自然言語処理に関連したAI
データセットやモデルの公開、共有を目的としたプラットフォーム

20

Copyright © Dell Inc. All Rights Reserved.

長期的かつ戦略的な共同エンジニアリング契約を発表

デル・テクノロジーズと Hugging Face はオンプレミスの LLM 導入を簡素化するために提携

21

Copyright © Dell Inc. All Rights Reserved.

生成AI利用を促進
https://www.dell.com/ja-jp/blog/aihugging-face-it-ai/

・Hugging Face社、推奨オンプレミス インフラストラクチャー プロバイダーにデル・テクノロジー
ズを指定・カスタマイズしたオープンソース生成AIのデータセット、ライブラリー、モデルのエンタープライズ環境への導入を支援
両社共同でHugging Faceプラットフォーム上に新しいデル・テクノロジーズ ポータルを構築します。そして、デル・テクノロジーズのインフラストラクチャー テクノロジー ポートフォリオを基盤に、カスタマイズしたLLM（大規模言語モデル）のオンプレミス展開を簡素化します。
Hugging Faceプラットフォームのデル・テクノロジーズ ポータルには、Hugging Faceで利用可能なオープンソース モデルを、デル・テクノロジーズのサーバーやデータ ストレージ システムで簡単かつ安全に展開するために、専用のカスタム コンテナとスクリプトが含まれています。
22

Copyright © Dell Inc. All Rights Reserved.

生成AI利用を促進
https://www.dell.com/ja-jp/blog/metallama-2-ai/

・デル・テクノロジーズの生成AIソリューションにより、Meta社のLlama 2モデルのオンプレミス展開を簡素化

・ 「Dell Validated Design for Generative AI」が、生成AIの取り組みに特化し、事前テスト済みソフトウェアとハードウェアで構成された、すぐに使い始められる基盤を提供
Meta社のLlama 2と統合した「Dell Validated Design for Generative AI」は、事前テスト済みで実証済みのデル・テクノロジーズのインフラストラクチャー、ソフトウェア、サービスを提供し、オンプレミス環境におけるプロジェクトの展開と管理を合理化します。お客様は、展開と構成設定を完全に文書化したガイドによって、自社の生成AIインフラストラクチャーをより迅速に立ち上げて実行し、予測可能な状態でLlama 2を運用することができます。
23

Copyright © Dell Inc. All Rights Reserved.

AIINAIAIAION

FOR

Strategy

AI

WITH

24

Copyright © Dell Inc. All Rights Reserved.

Thanks for yourgreat partnership.

26

Copyright © Dell Inc. All Rights Reserved.