2014 Asakusa Framework Day

Hadoop活用への技術的取組とAsakusa Frameworkの適用評価について創造・信頼・成長2014年11月28日
産業・流通ソリューション事業本部
折原 耕路

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

目次

はじめに
１．Hadoopへの取組
２．Asakusa Frameworkへの取組
2-1. Amazon Web Service環境とオンプレミス環境
2-2. Asakusa FrameworkとHive
３．ソリューション・サービス

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

1

新日鉄住金ソリューションズ（NSSOL）会社概要
社名新日鉄住金ソリューションズ株式会社設立

1980年10月

2012年「新日鉄住金ソリューションズ」に社名変更

2001年4月 新日鉄情報通信システム(ENICOM) と新日鉄EI事業部が新日鉄ソリューションズとして事業統合
経営及びシステムに関するコンサルテーション

事業内容

情報システムに関する企画・設計･開発・構築・運用・保守及び管理
情報システムに関するソフトウェア及びハードウェアの開発・製造並びに販売及び賃貸
ITを用いたアウトソーシングサービスその他各種サービス

資本金
売上高
従業員数

連結子会社

129億5,276万3,000円
1,800億円（連結）5,052名（連結）1,587億円（単独）2,383名（単独）2014年3月期
2014年3月末時点

ITサービスThai NS Solutions Co., Ltd.

NSSLCサービス株式会社

PT.NSSOL SYSTEMS INDONESIA

コンサルティング

地域事業

NSフィナンシャルマネジメントコンサルティング株式会社

北海道NSソリューションズ株式会社, 東北NSソリューションズ株式

株式会社金融エンジニアリング・グループ

会社, 株式会社NSソリューションズ東京, 株式会社NSソリューショ

海外事業

ンズ関西, 株式会社NSソリューションズ中部, 株式会社NSソリュー

新日鉄住金軟件(上海)有限公司

ションズ西日本, 大分NSソリューションズ株式会社

NS Solutions USA Corp

合弁会社

NS Solutions Asia Pacific Pte.Ltd

エヌシーアイ総合システム株式会社

NS Solutions IT Consulting Europe Ltd

日鉄日立システムエンジニアリング株式会社

2Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

2

NSSOL事業概要
コンサルティング

企画・設計

開発

運用・保守

業務ソリューション

基盤ソリューション

ビジネスサービス

お客様の業種・業務に関する豊富な知識と経験に基づくソリューションの提供

お客様の重要な業務を支える緻密で信頼性の高いシステム基盤を設計・構築

製鉄システムの経験に基づく運用・保守等のアウトソーシングサービスの提供

 製造・消費財・流通・サービス分野– SCM(Supply Chain Management)– PLM(Product Lifecycle Management)– ERP(Enterprise Resource Planning)– SCE(Supply Chain Execution) 等
 金融分野– 市場系業務･ディーリングシステム– ALM･原価計算、統合収益、リスク管理– カードプロセッシングASP、外為イン
ターネットサービス、与信判定等サービス等
 社会・公共・公益分野– 官公庁等LAN/WAN等基盤OAシステム– 調査統計処理、電子申請– 学事業務支援– 高度科学技術解析支援 等

 クラウドサービス– クラウドコンピューティングITインフ
ラ “absonne”– プライベートクラウド “absonne
Enterprise Cloud Framework”– 開発環境サービス”NSSDC”– デスクトップ仮想化サービス“M3Daas@absonne”
 システムライフサイクルサポート– システム基盤の提案、企画、設計、調達、構築・実装、運用・保守 等
 大規模検証サービス– 製品組み合わせ技術検証– 性能評価、性能管理技術 等

 ITインフラアウトソーシングサービス– 弊社フレームワークに基づき標準化したインフラ運用サービス”NSFITOS”
 運用・保守サービス– 店舗システムのリモート集中監視– 通信会社のネットワーク設計・構築・運用– ECサイトのサーバーハウジング 等
 図面・文書ASP/BPOサービス– 金融機関向け文書管理、取引報告書電子配信– オンデマンドアーカイブ– CAD/図面情報の交換/共有– 法定電子公告 等

コンサルティング

研究開発・技術サポート

3
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

3

１．Hadoopへの取組

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

4ビッグデータとは何か？

大量のデー
タの蓄積が可能
Volumeリアルタイ
ムに情報を収集する基盤
Velocity

技術の発展（ Hadoop、MapReduce 、DWHアプライアンス）Variety

技術コストの低減

巨大企業（スーパーコンピューターを保持など）や国家レベルしかできなかった情報活用が、一般企業でも可能な時代にCopyright © 2012-2014 NS Solutions Corporation, All rights reserved.

5ビッグデータ活用へのアプローチ＜データ分析・活用＞
統合分析BI

顧客行動履歴分析

販売動向分析

ｱﾙｺﾞﾘｽﾞﾑ取引

通信品質分析

ﾚｺﾒﾝﾃﾞｰｼｮﾝ

ｶｰﾄﾞ不正利用検知

需要予測

ﾃﾞｰﾀﾏｲﾆﾝｸﾞ

分析システム

ECサイト＜データ収集・蓄積＞＜データ共有＞Hadoop業務ｼｽﾃﾑ情報

Enterprise
Data
Warehouse

Webｻｲﾄ、ﾌﾞﾛｸﾞ
Log

ｿｰｼｬﾙﾒﾃﾞｨｱ情報

Web等各種log

CRM顧客情報

ｾﾝｻｰﾃﾞｰﾀ

Files

Web
Data

DWH

スマートデバイス

DBETLBI

6
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

6

データ処理プラットフォームの進化■過去20年のDWH向け製品の価格性能比

製品E
15GB/秒

価格性能比は５年で１０倍に

製品D
6GB/秒

10GB/秒

製品B
300MB/秒

1GB/秒

製品A
60MB/秒

100MB/秒（2009）（2006）

新しいテクノロジー・利用形態
Hadoopの普及
クラウドの活用
高性能アプライアンスの普及
位置情報/画像情報の利用
テキストマイニングの発達（2005）（2002）

製品C
900MB/秒

あきらめていたことが実現できる時代に（1996）
10MB/秒

1995

2000

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

2005

2010

7

弊社におけるHadoopの取り組み
ApachHadoop
ApachHadoop1.0.0 リリース
プロジェクト発足
ﾉｰﾁﾗｽ･ﾃｸﾉﾛｼﾞｰｽﾞ設立
MapReduce
Cloudera設立
論文を発表
MapR Technologies設立
Hortonworks設立
学術研究中心’06

Hadoop界隈の動向

先進ユーザによる活用

'09

'11

'12

'13

'14

他社との共同検証による実業務適用検討を複数実施
Hadoopアプリケーションの製作

認定販売代理店として 国内販売パートナーとしHadoopを研究対象に採用 Cloudera社と提携てMapR社と提携

弊社の取り組み
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

ノーチラス社と協業し、Asakusa Frameworkｻｰﾋﾞｽ開始
8

Hadoopへの期待と課題

背景：データ量の増大と大量データの高速処理––

ログデータ、SNSのデータなど、業務系データよりはるかに多い量のデータの高度な活用が求められているデータが構造化されているとは限らない



生じる課題

すべてのデータを構造化してRDBMSへ格納するにはコストが高い
既存テクノロジーでは有効な時間内に処理が完了しない場合



課題を解決すると期待される新しいパラダイム

DWH及び大量データ分析用途におけるHadoopへの期待

MapReduceアルゴリズム
オープンソースの並列処理プラットフォーム→これらを実現している製品の一つがHadoop
超大規模な並列実行環境を安価に構成できる可能性がある
SQLでは実現が難しい複雑な分析、機械学習などによるデータ活用

Hadoopを実適用するにあたっての課題

エンタープライズ向け機能（セキュリティ/運用等）のカバー方法
アプリケーションの開発––

MapReduceを活用したデータ活用のためのノウハウが必要
SQLライクな言語やGUIでHadoop上のデータを利用できるプロダクトも存在するが、まだ機能面で制約が多い

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

9

２．Asakusa Frameworkへの取組
２-1．AWS vs オンプレミス
2-2.Asakusa Framework vs Hive

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

102-1．AWS vs オンプレミス

評価モデル
 OEM生産を想定した評価モデル
 各パーツ価格や構成変動に伴う販売価格の積み上げバッチ処理を製
作・評価
製品

オーダー
Group会社
販社

本社

本社SalesPrice

製造子会社

子会社SalesPrice

OEMOEM-SalesPrice

・製品約10万個、スペック約100万件
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

112-1．AWS vs オンプレミス

評価検証環境: オンプレミス環境の機器構成イメージ■検証環境
自社検証環境Hadoop
クラスタ

Slave15 Slave16
追加
構成

Slave5 Slave6
1TByteAsakusa
Framework

Slave3 Slave4

Database
ｻｰﾊﾞ

MasterSlave1 Slave2

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

機 IBM BladeCenter器
仕 ・Intel Xeon 2GHz様 2CPU × 2 core・RAM8GBO ・CentOS 6 (x86 64bit
S 版)
等 ・Hadoop (CDH)

初期構成

12

2-1．AWS vs オンプレミス

評価検証環境：Amazon Web Serviceの利用イメージ■検証環境
Amazon Web Serviceの提供するElastic MapReduce(EMR)サービスの利用
利用者側環境EMR サービス起動

Amazon EMR サービス
Amazon EMR サービス
Amazon EMR サービス
インスタンスの起動
Hadoop 環境展開
Asakusa Framework
環境展開(Hadoop Bridge)

データ import

Asakusa Framework
バッチ処理
ORACLE

分散処理(Map/Reduce)

データ export
EMR サービス停止

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

サーバインスタンス廃棄

13

2-1．AWS vs オンプレミス

計測結果
計算結果件数： 4,021,574（約 400万）
積上げ総レコード数：182,086,465（約 1.8億）

AWS
(EMR)

1node

4node

8node

16node32node

-

136分

72分

49分

40分

ｵﾝﾌﾟﾚﾐｽ-

PL/SQL
(参考)

138分

Screen olny
62分
40分
31分
（講演にてご覧ください）----

PL/SQLの環境においては高速ストレージを使用

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

14

2-2．Asakusa Framework vs Hive

評価モデル
 コンシューマ企業における購買実績の分析

取引情報
会員情報

店舗情報
ポイント情報

購入者
商品
購買明細

延べ800万人
150万点
20億件以上

店舗別、会員属性別、時間帯別等の購買額の計算
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

15

2-2．Asakusa Framework vs Hive

評価検証環境

サーバ構成

多ノード環境高スペック環境

1台

1台

16台

4台

Intel Xeon®2.00GHz
コア4（2CPU × 2コア）

Intel Xeon®2.26 GHz
コア6（スレッド12）

8GB

48GB

Master：Slave：

Slave

CPU：

メモリ：
HadoopはCDH

参考Benchmark

多ノード環境高スペック環境

Hadoopﾃｽﾄﾂｰﾙ：hadoop-*-test.jar 分散処理環境の性能(時間の逆比)

１0.2～0.6円周率の計算：Tachus PI サーバ1台あたりの性能(時間の逆比)

１1.7～3.6

UNIXﾍﾞﾝﾁﾏｰｸﾂｰﾙ：Unix Bench サーバ1台あたりの性能(指標)１1.6*多ノード環境を”1”とした場合の性能比に変換.数値が大きい程性能が高い
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

16

2-2．Asakusa Framework vs Hive

計測結果

通常量取引
データ通常量取引
データ
ピーク時取引データ大量取引
データ

多ノード
環境
会員・店舗
別
時間帯別
会員属性別

１支店
多ノード
高スペック
環境多ノード環境
高スペック 全支店
環境
環境

Asakusa
Screen高スペック
olny
Hive
環境
Framework（講演にてご覧ください）
会員・店舗
92.0分 ＞ 74.0分
81.0分 >> 20.5分
別Asakusa
Framework

Hive

8.5分 ＝ 7.5分

時間帯別

8.2分 << 17.0分

11.6分＞ 9.1分

会員属性別

10.5分 ＝ 11.3分

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

17

2-2．Asakusa Framework vs Hive

考察

Hive 、 Asakusa Frameworkでほぼ同程度の処理時間オーダー– 圧縮形式の違いや細かいチューニングによる改善差異の可能性はあり。
– 実行処理の構造による処理時間差異あり。







Hive（HiveQL）の場合、SQLから比較的簡単に置き換えが可能である。
Asakusa Frameworkの場合でも、SQLからの置き換えは可能であるが、 ではSQL実行計画を独自に作り込む必要がある。

より複雑な操作( 中間データの再利用 / 出力の分割 / 中間データに対するデータ操作 )であれば、 Asakusa Framework DataFlowの強みがでてくる。
単純なSQLで可能な処理はHiveが適していると思われる。
まとめ Hive、 Asakusa Frameworkのどちらでも対応は可能であり、要件に合わせた選択をするべきである。
 単純なBI向け処理の場合、 Asakusa FrameworkよりもHiveによる対応が適しているが、複雑なバッチ処理になるほど、中間処理結果を後続処理で利用するなどAsakusa Frameworkの方が効率の良い設計が可能と思われる。
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

18

Asakusa Framework

エンタープライズ開発向き
複雑な基幹バッチのビジネスロジックでは、DFP(データフロープログラミング)手法がパフォーマンスに有利
DFPはCOBOL設計者にも受入られやすい、データフローを設計に利用できる
OSSであり、ベンダーロックインしないエンタープライズ開発向けのツールが揃っている

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

19

３．ソリューション・サービス

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

20

データ活用のためのビッグデータソリューション

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

21

システムライフサイクルトータルでサービス提供
ビッグデータソリューション ＝ 並列処理テクノロジーの活用
安定したHadoopを活用するシステム構築
処理業務モデル
ﾃﾞｰﾀ連携機構

Hadoop

開発ﾌﾚｰﾑﾜｰｸ

運用・保守

・Hadoopを適切に活用することで課題解決への期待は大きい・一方、従来とは異なる新しい技術のため、設計・開発・運用における対応が重要となる・システムライフサイクルを踏まえてたサービ
スを整備

適用処理
[大量データの業務への取り込み][バッチ処理の高速化]

1)多量データの現実的な処理時間で検索（並列実行）
2) 非構造化情報の構造化処理（SNSやログ情報の分析）
3)ペタバイト規模のデータをコストパフォーマンスの高い環境へ格納

1)数時間かかる処理を、並列化機構のハードリソース増加による処理性能のスケーラビリ
ティを活用

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

＜マイニング処理＞
・保存期間のロング化による、分析精度の向上
・生データの長期保管による、将来への布石・リアルタイム化による、早期のトレンド分析
22ビッグデータソリューション提供スキーム
顧客
ﾋﾞｯｸﾃﾞｰﾀ活用

企業情報
統合活用

弊社

製品ベンダー
商用ディストリビューター

ｺﾝｻﾙﾃｨﾝｸﾞ

Hadoop

ｼｽﾃﾑ
開発

教育

H/W
HWﾘｿｰｽ

保守運用
ｻｰﾋﾞｽ

新ｼｽﾃﾑ
ｱｰｷﾃｸﾁｬ

技術検証、POC

MW（for Hadoop products)
E-DWH
DWH
BI/BA
分析
ﾊﾟｯｹｰｼﾞ

ﾌﾚｰﾑﾜｰｸ

OSSをベースとしているテクノロジーではあるが、通常のシステム構築サービスと同等のスキームでサービスを提供

Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

23http://www.nssol.nssmc.com/
・NS（ロゴ）、NS Solutions、NSSOL,absonne,absonne Enterprise Cloud, Framework,NSSDC,
M3Daas,NSFITOSは、新日鉄住金ソリューションズ株式会社の登録商標です。
・ORACLEは米国ORACLE Corp.の登録商標です｡

・その他本文記載の会社名及び製品名は、それぞれ各社の商標又は登録商標です。
Copyright © 2012-2014 NS Solutions Corporation, All rights reserved.

Page 24