新ベクトルスーパーコンピュータ

SX-Aurora TSUBASAのAI/BD適用と事例について2018年 12月13日
日本電気株式会社

PCIeカード型ベクトルエンジン（VectorEngine）

 新開発ベクトルプロセッサ
 PCIe規格準拠
PCI Express Gen3. x16

 GPGPUと異なる実行モデル、Linux OS

Application

x86 サーバ

ベクトルエンジン
(VE)

PCIe2

© NEC Corporation 2018

Fortran/C/C++の標準環境
 演算性能：2.45TF(倍精度)，4.91TF(単精度) メモリ帯域 1.22TB/s
 メモリ容量 48GBSX-Aurora TSUBASAの特長

タワー（従来のスパコン）

ベクトル技術で大量データの一括処理を実現し、Xeon比10倍以上の性能を実現

ラック

C/C++/Fortranで記述されたプログラ
ムをコンパイルして実行するだけで高い性能を享受可能

お客様ニーズに従い、サーバ/エンジン
構成選択可能、C/P最適化、適応市場拡大

3© NEC Corporation 2018

ベクトルプロセッサ

世界最速コア307GFlops（DP）
614GFlops（SP）

コア

コア
コア

コア

コア
コア

コア

世界最速のデータアクセス性能
1.22TB/s

テクノロジ
世界初HBM2 x6実装

キャッシュ 16MB

1.22TB/s

世界初となるCPUと6個の3次元積層メモリHBM2搭載技術をTSMC社と共同開発
4© NEC Corporation 2018

コア

アプリケーションの実行方式

アクセラレータ型（GPGPU）
データ移送が頻発すると性能ボトルネックとなる
アプリケーション

SX-Aurora TSUBASA
アプリケーションを丸ごとベクトルエンジン上で実行するためボトルネックが発生しない

一部の処理
一部の処理

アプリケーション

一部の処理
一部の処理

Linux OS

x86
プロセッサ

5

© NEC Corporation 2018

Linux OSアクセラレータ(GPGPU)

x86
プロセッサ

ベクトルエンジン

プログラミング環境・アプリケーション実行環境
プログラミング環境

コンパイラ

自動ベクトル化機能$ vi sample.c$ ncc sample.c

Fortran: F2003, F2008（一部）
C:
C11
C++:
C++14
OpenMP: OpenMP4.5
MPI:
MPI3.1

アプリケーション実行環境

x86$ ve_exec ./a.out

6© NEC Corporation 2018

自動並列化機能幅広いラインアップ
ベクトルエンジンを搭載したサーバを組込み用途から大規模データセンタシステムまで幅広く提供
データセンタモデル

データセンタモデル(水冷)

データセンタ、計算センタでの巨大処理
例：大規模AI・ビッグデータ、大規模シミュレーションなど

64VE搭載オンサイトモデル

オンサイトモデル
製品設計のシミュレーション、AI・ビッグデータ利用
例：流体シミュレーション、大規模需要予測 など

エッジモデル＆組込みソリューション
AI・ビッグデータ・システム組込み用途
例：製品検査、医療画像処理、需要予測、レーダ解析など

2VE搭載© NEC Corporation 2018

8VE搭載

エッジモデル
1VE搭載

組込みソリューション
ユーザ様専用システム

7

4VE搭載

SX-Aurora TSUBASA

AI/BD領域への取り組み
 統計型機械学習ミドルウェア：Frovedis
 エコシステムの構築
 ユースケース利用領域の広がり
ベクトル技術を核にした高性能シミュレーション(HPC)や AI・ビッグデータ解析技術
が科学技術の進展と産業の高度化を加速し、新しい社会価値を創造する

9© NEC Corporation 2018

SX-Aurora TSUBASAの適応領域と応用例
統計型機械学習はメモリバンド幅の広いSX-Aurora TSUBASAが得意とする分野統計型機械学習

メモリ
バン
ド
幅

産業システム制御

Web広告最適化

需要予測

与信審査

ロジスティック回帰
商品レコメンド

特異値分解

人材マッチング

文章分類

クラスタリング

不正取引検知ベクトル
汎用 (MLP)

AI(機械学習)
ｚ

汎用CPU

GPU

マルウェア検知

翻訳 (LSTM)
音声認識 (RNN)

コールセンター
オペレータ支援
犯罪予測

画像認識 (CNN)
深層学習(Deep Learning)

ピーク演算性能
10© NEC Corporation 2018

自動運転

Sparkの機械学習を高速化するミドルウェア：Frovedis*
 Spark/Pythonからベクトルを意識せず利用可能なミドルウェア
 SX-Aurora TSUBASAのメモリ性能を生かし、統計型機械学習を高速化※ FRamework Of VEctorized and DIStributed data analytics▌ベクトル化済みの機械学習/行列演算機能を用意(Spark Mllib,前処理機能)
 機械学習ライブラリ (Spark Mllib、scikit-learn 互換)
 Data Frame (前処理機能)
 NECでOSS化しており、下記のリンク先で公開中

https://github.com/frovedis

 SX-Aurora TSUBASAの性能を、直ぐにフル活用可能
SparkPython
x86
プロセッサ
11

© NEC Corporation 2018

RPC

Frovedis(Server)
ベクトルエンジン

Frovedisでサポートしている処理
Web広告最適化

需要予測

与信審査

商品レコメンド

人材マッチング

日報/アンケート
分類

不正取引検知マルウェア検知

統計型機械学習ロジスティック
回帰

線形SVM

特異値
分解

ナイーブ
ベイズ

K-means

Filter

Sort

Join

Groupby© NEC Corporation 2018

固有値
分解

Ridge回帰
協調フィルタリング(ALS)

主成分分析

決定木

word2vec

Factorization
Machines

基本行列演算Data Frame12

Lasso回帰

線形回帰Solve

逆行列

Gemv

Backed by ScaLAPACK,LAPACK, BLAS

SpMV

LU分解

Leastsquare

行列積10月15日にHortonworks x NECが共同プレスリリース
ビッグデータ向け高速分析プラットフォームを共同開発
Hortonworks

NEC共同発表内容
SX-Aurora TSUBASAのYARNへの対応•Apache Hadoop/Spark上で「SX-Aurora TSUBASA」のリソースが利用可能•NECのAIミドルウェア「Frovedis」と「DataPlatform for Hadoop」を組み合わせたソリュー
ションの提供2018年10月15日共同プレスリリース

13© NEC Corporation 2018

ユースケース：（１）レコメンデーション
クロスレコメンデーション
ECサイト
ショッピングサイトA

保険商品販売顧客データベース

ショッピングサイトB

事故歴、傷病履歴、など

学習

閲覧・購入
履歴

サイトAを訪問、商品検索、購入

サイトB訪問時に同じ／類似商品をおすすめ

保険商品を検索

個人に最適な保険商品をおすすめ

Auroraにより 56.8倍高速化
顧客14© NEC Corporation 2018

分析手法：特異値分解（SVD）
Aurora：1VE 8core
比較対象：Xeon Gold 6126
1socket 12core

顧客ユースケース：（２）需要予測
販売予測

販売予測（廃棄ロス削減）
天気予報
天気、気温、湿度 など

販売量

イベント情報
販売量

在庫予測

在庫予測

Auroraにより 10.8倍高速化

在庫管理責任者

15© NEC Corporation 2018

分析手法：回帰木（Regression tree）
Aurora：1VE 8core
比較対象：Xeon Gold 6126
1socket 12core

在庫管理責任者

・本資料に記載の社名、製品名、ロゴは各社の商標または登録商標です。
・本資料に記載の製品仕様等については予告なく変更する可能性があります。