[第19回 PCクラスタシンポジウム]

⽇⽴ディープラーニング・クラウドのご紹介
2019/12/12
株式会社 ⽇⽴製作所
IoT・クラウドサービス事業部
HPCソリューションセンタ
主任技師 寺本 康弘© Hitachi, Ltd. 2019. All rights reserved.

Contents
1. ⽇⽴のディープラーニング・ソリューション

2. SR24000/DL1, NVIDIA DGX
3. ディープラーニング・クラウドサービス© Hitachi, Ltd. 2019. All rights reserved.

1

1. ⽇⽴のディープラーニング・ソリューション
2. SR24000/DL1, NVIDIA DGX
3. ディープラーニング・クラウドサービス© Hitachi, Ltd. 2019. All rights reserved.

2

1-1. 株式会社 ⽇⽴製作所のご紹介
会社概要

大正9年(1920年)2月1日 （1910年創業）
東原敏昭
295,941名 （2018年度）
9兆4,806億円 （2018年度）

 設⽴年⽉⽇ 執⾏役社⻑兼ＣＥＯ 連結従業員数
 連結売上収益

その他

生活・エコシステム
オートモティブシステム

9％
17％

⾼機能材料
建設機械

情報・通信システム

5％

5％

売上高
9兆4,806億円

10％(2018年度)

9％

20％
25％

社会・産業システム

電子装置・システム

⽇⽴の事業セグメント© Hitachi, Ltd. 2019. All rights reserved.

31-2. ⽇⽴の社会イノベーション事業への取り組み

協創・オープンイノベーションによる社会課題解決、社会のイノベーション

ＯＴ×ＩＴ融合サービス／異業種連携ビジネス／ビジネスエコシステム
データヘルス

Ｆｉｎｔｅｃｈ・・・・・・
エネルギーマネジメント

トータルＳＣＭ

ＯＴ・・・

鉄道/建機×
ＩＴ

電力
×
ＩＴ

ヘルスケア
×
ＩＴ

製造
×
ＩＴ

金融
×
ＩＴ

・・・

ＩＴ
※ OT︓Operational Technology※ IT︓Information Technology※ O&M︓Operation & Maintenance ※ Fintech︓Financial Technology※ SCM︓Supply Chain Management© Hitachi, Ltd. 2019. All rights reserved.

41-3. 社会イノベーション事業を加速する体制
IT

ビ シジ スネ テス ム統＆括サ
本部ビスーサービスプラットフォーム事業本部/
IoT・クラウドサービス事業部

ディフェンスＢＵ

社会ＢＵ

金融ＢＵ

原子力ＢＵ

サービス＆プラットフォームBU

エネルギーＢＵ

エネルギー

水・環境ＢＵ

インダストリー産業・流通ＢＵ※ BU︓ビジネスユニット

ヘルスケアＢＵ

プラットフォーム/
プロダクツ

ライフ

鉄道ＢＵ

フロント

モビリティ
ビルシステムＢＵ

重点分野

⽇⽴の組織
© Hitachi, Ltd. 2019. All rights reserved.

51-4. ⽇⽴のディープラーニング(DL)・ソリューション (一部)
DL 研究開発のプラットフォームから、DL技術を活用した、幅広いソリューションを提供します。
お客さま

1 ⼤学・研究所・⺠間企業の研究開発部門
2 官公庁・⺠間企業の開発部門・
3 製造業・インフラ企業の生産技術部門・保守点検部門
4 ⾦融業・BPOの帳票の事務処理部門※ DL︓ディープラーニング

お客さまのニーズ

⽇⽴の商材

研究開発向けGPUシステム

SR24000/DL1
NVIDIA DGXDLモデル開発・業務用
GPUリソース

⽇⽴DLクラウドサービス

目視検査の代替

DL目視検査代替サービス

AI-OCR

DL手書き帳票認識サービス© Hitachi, Ltd. 2019. All rights reserved.

6

1. ⽇⽴のディープラーニング・ソリューション
2. SR24000/DL1, NVIDIA DGX
3. ディープラーニング・クラウドサービス© Hitachi, Ltd. 2019. All rights reserved.

72-1. SR24000/DL1（V100）のご紹介
スーパーテクニカルサーバ SR24000シリーズ モデルDL1に最新のIBM POWER9とNVIDIA Tesla V100 SXM2を搭載
GPUs
FP16/FP64
GPU メモリ
CPU

SR24000/DL1（V100）

最新のNVIDIA Tesla V100 GPUを2or4基搭載。
IBM POWER9とGPUがNVIDIA NVLink 2.0により直接接続する画期的なシステムです。

サーバメモリは最大1TB 搭載。PCI-Exp Gen.4のPCIスロット（LP）を4スロット備え、外部ネットワーク（10GbE,InfiniBand）など柔軟に構成可能。
ディープラーニングおよびHPCの研究開発、業務利⽤に必要な、64bit Linux OS、CUDA、主要なDLフレームワークなどの開発環境をサポート。

CPU メモリ

内蔵ストレージ
ネットワークソフトウェア
サイズ

重量
物理
最⼤電⼒
諸元
電源
動作環境

Tesla V100 SXM2 x 2 or 4
31.2/7.8TFLOPS x 2 or 4
16GB or 32GB x 2 or 4
POWER9 20c x 2

DDR4 256GB, 512GB,1TB

1TB, 2TB 7200RPM HDD x 2 or
1.92TB SSD x 2
1GbE, 10GbE, 25GbE, IB EDR• Ubuntu Server Linux OS• Red Hat Enterprise Linuxfor POWER

W:443 x H:86 x D:850（mm）
30Kg

2,500W

200V AC18 - 27 ℃（推奨）※ NVIDIA Tesla, NVLinkおよびCUDAは米国およびその他の国におけるNVIDIA Corporationの商標または登録商標です。
※ IBM, POWER9は米国およびその他の国におけるInternational Business Machines Corporationの商標または登録商標です。
※ Ubuntuは、Canonical Ltd.の商標または登録商標です。
※ Linuxは、Linus Torvalds氏の日本およびその他の国における登録商標または商標です。
※ Red Hat, Red Hat Enterprise LinuxはRed Hat, Inc.の米国およびその他の国における登録商標または商標です。
© Hitachi, Ltd. 2019. All rights reserved.

8

2-2. SR24000/DL1 のサービス
システム利⽤開始を⽀援する多様なサービス

ソフトウェア情報
提供サービス

問い合わせサービス

F/W、OS、GPUライブ
ラリ、DLフレームワークのスムーズな導入を支援する手順書を提供

システム利⽤に関する問い合わせに応じ、問題解決への支援を提供

導入支援
サービス
S/Wインストールや設定などシステム構築作業を支援

システム
利⽤⽀援
Linux操作からサンプルデータによるDLフレームワークの基礎理解までシステムの利⽤開始を支援

DL学習支援サービス
お客様の実データを用いたデータ加工やDL学習開始を支援

 専門エンジニアがシステム導⼊時の疑問、不安の解消をサポートします SR24000/DL1導入時にお客さまのシステム利⽤開始を支援します お客さまの実データを用いたディープラーニング学習の⽴ち上げを支援します

お客さまのディープラーニング研究や業務活用を支えるサービスを提供します© Hitachi, Ltd. 2019. All rights reserved.

92-3. SR24000/DL1導⼊事例
SR24000/DL1(V100)が医療研究の最前線で活躍
従来システムでは 1.5ヶ月の解析が、1.5〜3日に大幅短縮

http://www.hitachi.co.jp/Prod/comp/hpc/pdf/case_study201901e.pdf© Hitachi, Ltd. 2019. All rights reserved.

102-4. NVIDIA DGXファミリーパーソナルユースのデスクトップモデル (DGX Station) から、最高性能のDGX-2 まで顧客ニーズに合わせて提案© Hitachi, Ltd. 2019. All rights reserved.

11

1. ⽇⽴のディープラーニング・ソリューション

2. SR24000/DL1, NVIDIA DGX
3. ディープラーニング・クラウドサービス© Hitachi, Ltd. 2019. All rights reserved.

123-1. DLクラウドサービスの開発の背景と特徴
社会的背景とお客さまご要望• 働き方改革により、帳票⼊⼒など単純作業の省⼒化の要求• 製造業の目視検査などを⾏う専門家の⼈材不⾜、⾼齢化の社会的課題

AI利⽤における課題• AI/DL利⽤はカスタマイズが必要で、本格的な導入には時間がかかる• 企業の基幹業務に利⽤できるセキュリティ、高信頼性のサービスではない• 単発の導入では継続性がない

DLクラウドサービス• AI/DLを用いた各種解析サービスをクラウドサービス提供• 企業の基幹業務でもご利⽤いただける⾼信頼、⾼可⽤性を実現• 解析エンジンの開発環境も提供し、サービス運用と開発を連続して実現© Hitachi, Ltd. 2019. All rights reserved.

13

3-2. DLクラウドサービスの概要
DLクラウドの全体像
お客さま

API利⽤サービス

⾦融業

⽇⽴開発のエンジン利⽤

公共インフラ
製造業

開発ベンダ他・
お客さま
開発エンジン利⽤

開発学習環境利⽤サービス（ベアメタル環境）
エンジン開発・計算リソース利⽤

DLクラウド基盤

API専⽤管理ソフト（APIライブラリ）
学習済推論⽤DLエンジンベアメタル環境（DL開発）

Hitachi 内

開発ベンダ・SIer
お客さま※ 現在開発中の内容を含みます。将来変更の可能性があります。

SR24000/DL1© Hitachi, Ltd. 2019. All rights reserved.

14

3-3. 開発学習環境利⽤サービス（ベアメタル環境）
ディープラーニングのモデル開発、学習に必須のNVIDIA GPUをクラウド利⽤
基本サービスGPUサーバサーバ SR24000/DL1
仕様

POWER8/9 x2基、NVIDIA Tesla P100/V100 x4基、512GBメモリ、SSD（1.9TB x2）

ソフトウェアOS

オプションサービス導入支援サービス

ベアメタル環境へのインストール代⾏など導入支援を提供

データ持ち込み支援サービス
ベアメタル環境への⼤容量のお客さまデータ持ち込みを支援

SR24000/DL1

Ubuntu 16.04/18.04 LTS forPOWER（ppc64el）※ インターネット接続はプロキシ経由で可能

接続回線

SSL-VPN 1回線あたり100Mbpsベストエフォート※ ご参考価格（税別）︓75万/月（DL1/P100 4GPU, 512GB, 1回線)

http://www.itg.hitachi.co.jp/cloud-extra/service/deep_learning/index.html© Hitachi, Ltd. 2019. All rights reserved.

15

3-4. API利⽤サービス
さまざまなDLエンジンをRestAPI で利⽤可能



お客さま開発のDLエンジン

ソフトウェア開発ベンダー・SIer 開発のDLエンジン
⽇⽴開発のDLエンジン- 画像解析エンジン- ⼿書き⽂字認識エンジン

⽇⽴API利⽤サービスは、独⾃のレイテンシ設計・スループット設計
により、リアルタイム系業務への組み込みができます。
© Hitachi, Ltd. 2019. All rights reserved.

16

3-5. ⽇⽴DL技術の紹介 (1) 画像解析の事例
⾃動⾞部品製造メーカー様の事例

課題 : 外観検査装置の検出精度が不⼗分で70%以下
きず気泡

学習方法

きず、気泡、繊維くずなどを不良区分ごとに学習

データ加工

回転, 反転学習データ数モデル

不良品検出率

繊維くず

約14,000枚

CNN (Convolutional Neural Network)
95%以上

お客さまからのコメント

熟練工の目視・従来の画像診断と比べ実⽤化に⼗分な認識率© Hitachi, Ltd. 2019. All rights reserved.

173-6. ⽇⽴DL技術の紹介 (2) 手書き文字認識
従来のOCR技術とディープラーニング技術の融合により、より実⽤的な⽂字認識を実現します。
1 楷書の手書き文字では従来のOCR⽅法と同等の認識率を確認
2 罫線混入手書き文字など、既存OCR技術が苦手な認識の認識率向上
3 くせ字・崩し字なども認識（お客さま固有の個別文字にも対応）
問題

1 手書き文字認識

2 罫線混⼊⼿書き⽂字認識
3 個別文字への対応※ [2][3] は追加学習が必要となります。

ディープラーニング学習後

ディープラーニング学習前

99.0%

同等

99.1％
（2017年 ⽇⽴内の実証実験結果）

64.8%

向上

98.5％
（2017年 ⽇⽴内の実証実験結果）

20%以下

向上

98％以上
（2018年 ⽇⽴内の実証実験結果）© Hitachi, Ltd. 2019. All rights reserved.

18

3-7. DLクラウドサービス 〜初めてご利⽤の⽅ キャンペーン〜
NVIDIA Tesla P100 4基インスタンス限定

高性能GPU環境を30日間お試し下さい︕
ご利⽤は簡単︕年内申し込み・先着5名限定

Step-1
Web申し込み
申し込み

Step-2
日立よりご連絡Step-3
ご利用開始【申し込み方法】
下記Webのお問い合わせフォームより「DLクラウドお試し利⽤申し込み」と記載の上、ご応募下さい。
ご利⽤に際しては⽇⽴所定の審査がございます。申し込み多数の場合など、ご希望に応えられない場合がございます。
審査後に送付する利⽤許諾書をご確認の上、ご利⽤の⼿引きに従いご利⽤下さい。
https://www.hitachi.co.jp/products/it/harmonious/cloud/service/deep_learning/index.html

日立 ディープラーニングクラウド© Hitachi, Ltd. 2019. All rights reserved.

19

まとめ1. ⽇⽴の紹介とディープラーニング・ソリューション
2. ディープラーニングに適した SR24000/DL1
3. DLクラウドサービス

・ 開発学習環境利⽤サービス（ベアメタル環境）
・ API利⽤サービス

・ ⽇⽴DL技術のご紹介（画像解析、⼿書き⽂字認識）© Hitachi, Ltd. 2019. All rights reserved.

20

END
⽇⽴ディープラーニング・クラウドのご紹介

2019/12

株式会社 ⽇⽴製作所
IoT・クラウドサービス事業部
HPCソリューションセンタ
主任技師 寺本 康弘© Hitachi, Ltd. 2019. All rights reserved.

21

A-1. SR24000/DL1（V100）の特徴ディープラーニング向けサポートソフトウェアが充実
高性能を発揮する SR24000/DL1（V100）
IBM PowerAI サポートによりディープラーニング開発のソフトウェアが充実。OSや開発環境はx86とも共通ですので移植性にも優れています。
ホストOS
開発環境

フレームワーク・ライブラリなど

Ubuntu18.04，
Red Hat Enterprise Linux7.5 for
IBM Power LE（POWER9）Docker-ce18.06,NVIDIADocker2.0
NVIDIA Cuda 10.1
Anaconda 2018.12

CPU-GPU間を直結するNVIDIA NVLink 2.0はPCI-Exp Gen.3と比較し5.7倍の高速転送を実現。
大規模データの計算に効果を発揮します。
CPU-GPU間 実効データ転送速度（片方向）[GB/s]
807060

IBM PowerAI Release 1.6.050

BVLC Caffe
IBM CaffeTensorFlow
PyTorchSnap MLOpenBLAS304020100

PCI-Exp.
Gen.3 x16DL1(P100)NVLink 1.0

DL1(V100)
NVLink 2.0※ PCI-Exp. Gen.3はXeon® E5-2640v4とTesla P100間、DL1（P100）
は2016年/10月発表のSR24000/DL1 P100モデル、DL1（V100）は同V100モデルにおける性能© Hitachi, Ltd. 2019. All rights reserved.

22

A-2. PowerAI Vision アプライアンス
DL画像解析を簡単・迅速にオンプレミス環境に導入し、業務改善や新事業創出に活用できます
アプライアンスの導入メリット

 画像分類、物体検知、⾏動検知などDLを駆使した画像解析を簡易に実⾏可能
 学習データを自動生成するオートラベリングやデータ拡張で開発期間を短縮
 学習データの取り込みからモデル開発、評価までGUI環境で完結します

SR24000/DL1（V100）

IBM PowerAI Vision© Hitachi, Ltd. 2019. All rights reserved.

23

A-3. H2O Driverless AI
Kaggle※上位のデータサイエンティスト集団のKnowHowを集約した機械学習の統合環境

H2O Driverless AIの導入メリット

 複数の機械学習モデルを自動構築し最適モデルを提案
 優れたデータの可視化と判定ロジックの説明
 GPUに最適化された⾼速実⾏

H2O Driverless AI※ Kaggle : 世界中の機械学習・データサイエンスに携わっている専門家コミュニティー
https://www.h2o.ai/products/h2o-driverless-ai/© Hitachi, Ltd. 2019. All rights reserved.

24その他、輸出/商標などの引用に関する表示■ 輸出時の注意

お客さまがディープラーニング・クラウドサービスを利⽤され輸出⾏為を⾏う場合には、外国為替および外国貿易法ならびに⽶国の輸出管理関連法規などの規制を確認の上、必要な⼿続きを実施してください。なお、ご不明な場合は、⽇⽴担当営業にお問い合わせください。

■ 商標類

・IBM，POWER9は世界の多くの国で登録されたInternational Business Machines Corporationの商標です。
・NVIDIA、Tesla、NVLinkは、米国およびその他の国におけるNVIDIA Corporationの商標または登録商標です。
・Ubuntuは、Canonical Ltd.の商標または登録商標です。
・Windows、Windows Server、Azureは、米国Microsoft Corporationの米国およびその他の国における登録商標または商標です。
・Linuxは、Linus Torvalds氏の日本およびその他の国における登録商標または商標です。
・その他記載の会社名、製品名は、それぞれの会社の商標または登録商標です。

■ 発⾏

2019年12月■ 著作権

All Rights Reserved, Copyright ©2019 Hitachi, Ltd.

© Hitachi, Ltd. 2019. All rights reserved.

25