2016 Asakusa Framework Day

エンタープライズでのHadoop/Spark本格活用を加速させる、Oracle Big Data ApplianceとAsakusa Frameworkの連携

2016/11/25
日本オラクル株式会社
クラウド・テクノロジー事業統括 ビジネス推進部
大橋 雅人 （Masato.Ohashi@oracle.com）
Copyright © 2016, Oracle and/or its affiliates. All rights reserved. |• 以下の事項は、弊社の一般的な製品の方向性に関する概要を説明するものです。また、情報提供を唯一の目的とするものであり、いかなる契約にも組み込むことはできません。以下の事項は、マテリアルやコード、機能を提供することをコミットメント（確約）するものではないため、購買決定を行う際の判断材料になさらないで下さい。オラクル製品に関して記載されている機能の開発、リリースおよび時期については、弊社の裁量により決定されます。
OracleとJavaは、Oracle Corporation 及びその子会社、関連会社の米国及びその他の国における登録商標です。
文中の社名、商品名等は各社の商標または登録商標である場合があります。

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |2

本日お伝えしたいこと• Oracle のHadoopへの取り組み• Oracle Big Data ApplianceとAsakusa Frameworkについて• 今後Asakusa Frameworkに期待すること

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |3

本日お伝えしたいこと• Oracle のHadoopへの取り組み• Oracle Big Data ApplianceとAsakusa Frameworkについて• 今後Asakusa Frameworkに期待すること

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |4

成功のポイントはデータベースとの共存にあり！

Oracle Big Data Management System
データの特性や活用目的にあわせ、最適なテクノロジーを組み合わせる・使いなれたツールやスキルでデータ活用言語

SQL

データ活用エンジン

SQL
Engine

データ蓄積基盤

node.js

REST

SparkR

Graph

Java

MachineLearning

Graph
EnginePython・活用に最適なエンジンで・最適なデータ蓄積基盤でHadoopNoSQL

Database

・すべてのデータを
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |5

成功のポイントはデータベースとの共存にあり！

Oracle Big Data Management System
データの特性による典型パターン 適材適所のデータ配置例
目的
バッチ処理・データ加工

データ分析

SAS 高速化基盤

パターン・データ特性

Hadoop（Big Data Appliance）

DWH/Database（Exadata）

バッチ処理と生データ保持

バッチ処理・データ加工・
ETL処理、生データ
大福帳作成・生データ保持

ETL処理・データ加工後の処理後データ
データ

データ密度・
データ価値

低い

センサーデータ、ログデータ、GPSデータ、SNS等多い

高い
既存のRDBMS内のデータ（マスターデータ/トランザクションデータ）
少ない

粒度

細かい
明細データ

サマリデータ
粗い

参照頻度

経年データ
少ない

アクティブデータ
多いフォーマット
変更頻度

SAS アナリティクス高速化基盤
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |6エンタープライズでHadoop/Sparkをもっとご活用いただくために！

オラクルが提供するHadoopソリューション
1

Hadoopのアプライアンス製品のご提供

2

HadoopとOracle DBとの連携を強化するソフトウェアのご提供

3

ビッグデータ活用環境をクラウド上でご提供お伝えしたい要点を支える製品・機能・サービス

Hadoop活用の障壁を下げる
環境構築・運用・管理をもっと簡単に、早く、安くもっと多くの人にデータを開放する

もっと簡単に有益なデータを見つけだす
Hadoop上での処理をもっと簡単に構築する

OracleBig Data ApplianceOracleBig Data SQL
OracleBig Data Discovery
OracleData Integrator

ビッグデータ環境をセキュアなクラウド環境で実行する

HadoopとRDBMSを密連携させる
両者間のデータ移動をもっと早くHadoopからDBのデータを使う

ライフサイクルを見越した
データ管理をする
他システムと密に連携する

OracleBig Data Connectors
Oracle Table Accessfor Hadoop and Spark
Copying Oracle Tables
to Hadoop
Oracle’s
Big Data Integration

Oracle Big Data Cloud
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |7

環境構築・運用・管理をもっと簡単に、早く、安く

OracleBig Data ApplianceOracle Big Data Appliance X6-2
2016/5 Forrester調査：事前最適化されたHadoopシステムで、7ベンダー中、No1を獲得
スピード

コスト

信頼性

TCO削減

エンタープライズ向け
ビッグデータ活用環境• 事前最適化（手組より20%高速*）• 安価な価格（手組に比べ45%コスト削減 **）• 効果に併せて、柔軟に段階的に拡張可能• Map Reduce高速化のための独自機能（Perfect Balance）• 構築期間の短縮（手組に比べ35%短縮**+）• エンタープライズを想定したセキュリティ機能• ノード間の高速連携（ Inifiniband40Gb/sec）• コマンド一つでパッチ適用、運用コスト削減• ベストプラクティスによる事前調整、テスト済処理の高速化• H/WからS/Wまでの一元サポートと、 Oracle Enterprise Managerによる一元管理• HadoopとRDBMの利点を活かしたビッグデータ活用基盤の構築＊Intel公開のWhite Paperより：http://www.oracle.com/ocom/groups/public/%40otn/documents/webcontent/2745435.pdf＊第三者機関ESG調査による、旧来機X5-2での比較： http://www.oracle.com/us/technologies/big-data/eng-systems-for-big-data-esg-wp-2852701.pdf
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |8もっと多くの人にデータを開放する

OracleBig Data SQL

Oracle Big Data SQL
ビッグデータの活用をよりシンプルに、しかも迅速に、そしてセキュアに既存のアプリ、ツール、スキルそのままで全てのデータがクエリ可能

SQL

Hive
metadata

Smart Scan

クエリをBig Data Applianceのデータノードにオフロード

Storage Index

クエリに必要なデータブロックのみをスキャン

Predicate Pushdown

HadoopSQL

SQL一つで、必要なデータが高速にセキュアに返される必要データのみ移動

Smart Scan

Oracle Database 12c

クエリをExadataのストレージサーバーにオフロード

Storage Index

Hadoopが得意な処理を、Hadoop側で実施ン

クエリに必要なデータブロックのみをスキャン

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |9もっと多くの人にデータを開放する

OracleBig Data SQL

Big Data SQLとの組み合わせで広がる新たな活用
データ保持コストの削減

時間帯での使い分け
日中12c

非構造データ
過去データ
明細データ

構造データ
アクティブデータ
サマリデータ

使用頻度や目的、ライフサイクルに応じて、適材適所のデータ配置

夜間

12c

分析中心

12c

バッチ処理中心夜間の非稼働時間を利用し、バッチと分析を同一基盤で実施
バッチサーバのコストの集約
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |10

もっと多くの人にデータを開放する

OracleBig Data SQL

Oracle Big Data SQL
Oracle DB12cと様々なHadoop環境を、SQLでアクセス
BDA＋Exadata＋Oracle 12c

BBDA＋Oracle 12c（近日リリース）

Cloudera もしくは Hortonworks＋Oracle 12c

B＊CDH5.5以上もしくはHDP2.3以上＊ Intel x86 64-bit (Linux OL6,RHEL6)

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |＊Oracle Clusterware構成＊ Intel x86 64-bit (Linux OL6,RHEL6)

11

ライフサイクルを見越したデータ管理をする

Oracle Big Data SQL機能

Copy to Hadoop

Copying Oracle Tables to Hadoop
データライフサイクルを見越した低コストでのデータ管理

SQL
Oracle Big Data SQL• 使用頻度の高いデータをOracle Databaseに保持• 過去データをHadoop上に安価に保持、分析可能に
Hadoop13ヶ月目以降のデータ

OracleDatabase 12c
直近12ヶ月分のデータ• 既存アプリケーションそのまま
全てのデータにSQLでクエリ

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |12

機器データ活用により、詳細な生産状況の分析を実現
某グローバル製造業様
ソース

収集

蓄積

分析

構造データ
ERP

– 既存DWHの隣に、データ貯蔵庫を構築• Oracle Big Data Applianceを活用• MES、装置の詳細かつ長期間データをリアルタイムに取得

DWH

MES
機器ログ

非構造データ
ソーシャル
テキスト
ビデオ

マスター、サマリー、詳細データ

アーカイブ• 新たな取り組み

DataVisualization

サマリー
分析結果

データ
貯蔵庫

音声
バッチデータフロー
インテラクティブなデータフロー

Analytics
Platform• 効果– 生産工程における新たなデータ分析を実現• 長期間でのデータ分析の実現• 生産条件最適化のための分析• 操業率低下の原因分析• 複数のセル-モジュールをまたいだ原因分析• 品質の可視化– データ分析の効率化• データ分析作業の期間短縮• 対象データのカバレッジ（種類、量、期間）

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |13

Oracle Open World 2015 お客様 講演内容

ログデータを活用し、顧客満足度の高度化を図る
某コーヒーチェーン様・プロモーション分析
・顧客行動・モバイルアプリ改善
・商品、サービス改善• 顧客の“待ち時間”解消を目的に、2015年9月よりモバイル注文＆決済サービス（Mobile Order & Pay）を全米7,400店舗で展開– 近くの店舗を選択、受け取りまでの時間表示、注文と決済まで可能– 決済完了と同時にお店ではレシートがプリントアウ ト
され、カップに貼って準備

アプリログ

SQL• 顧客満足度向上のための更なる取り組み

BeaconWi-Fi
・顧客情報・購入履歴
・プロモーション・ポイント– DWH上の顧客データと、Hadoop上のアプリ、ビーコン、Wifiなどのログデータを横断した分析– プロモーション効果、顧客行動、顧客ニーズをより詳細に把握、分析可能に– 製品やサービスの改善、顧客満足度のさらなる向上

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |14

Oracle Open World 2016：お客様 事例

データの民主化により、新事業の収益を生み出す
Telefónica様
各事業部
新事業によるオンラインデータ
データ分析
DWH+ODS+Big Data
OSS/BSSCRM• スペインおよびラテンアメリカで最大の通信事業、世界第5位のプロバイダ• 事業展開に伴って増えるODSおよびDWHのCAPEX/OPEXの削減と、ビッグデータ対応– DWHのコンソリデーション、リアルタイム対応– BIツールの統一とOSS活用によるコスト削減– データの民主化、分析の柔軟性向上• 効果– 営業分析の迅速化 2日オンライン– ネットワーク設備投資の優先度を明確化– パーソナライズリコメンデーションによる収益拡大– Hadoopと組み合わせ、コストを1/3にCopyright © 2016 Oracle and/or its affiliates. All rights reserved. |15

2016/10/29 日本オラクル プレスリリース

セブン＆アイ・ホールディングス様• 「いつでも、どこでも、スムーズに、お客様が求める商品を購入でき、人に紹介したくなるサービス」をコンセ
プト に、国内1万9,000以上の店舗とインターネット販売を融合させるオムニチャネルの構築を推進• 2016年11月1日グループ横断型の新通販サイト「omni7（オムニセブン）」を開設• ネットとリアルの融合と複数事業体のシームレスな連携を可能にするオムニチャネルを実現するため、IT基盤を新たに構築• ネットや実店舗から発生する膨大なデータをセキュアに蓄積、管理、分 析• オラクルのエンジニアド・システムやクラウドなど最先端の技術を駆 使したオラクル製品の包括的な導入（Oracle Big Data Appliance含）2016/10/29 日本オラクルプレスリリースより抜粋
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |

16

国内事例

国内事例を3つご紹介

SCREENONLY

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. | Oracle Confidential – Internal/Restricted/Highly Restricted17

CloudCopyright © 2016 Oracle and/or its affiliates. All rights reserved. |18

Oracle Cloud 基本戦略

DEVELOP AND DEPLOY ANYWHERE

On-Premises

同じ「アーキテクチャ」
同じ「オラクル製品」
同じ「知識・ノウハウ」

Public Cloud

Cloud at Customer

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |19

広がるビッグデータ活用環境の選択肢
オンプレミスもクラウドも、そしてCloud @ Customerもご提供
近日リリース予定
Big Data Cloud Machine

Big Data Cloud Service

お客様データセンターに設置

お客様データセンターに設置

Oracle Cloud上の専有環境

オンプレミス購入

クラウドサブスクリプション

クラウドサブスクリプション

お客様による管理

オラクルが管理

オラクルが管理Big Data Appliance

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |20

Oracle Big Data Cloud Service
エンタープライズ向けビッグデータ活用環境をクラウドでBig Data
Cloud Service

1.多様なデータを専用環境上にすぐに蓄積可能

・データ蓄積可能な、高パフォーマンスなお客様専用環境
・月額定額料金、クエリ実行に課金なし
・すぐに構築、柔軟なスケールアップも可能

2.ビッグデータ分析・活用ツールを含有

・Cloudera HadoopのエコシステムやSparkも利用可能
・オラクルのビッグデータ分析ツールを包含（R言語、空間分析、グラフ分析、画像分析）
・データロード、データ加工を実現するETLツール包含

3.他クラウドとの密連携

・Oracle Exadata CSとの高速連携
クラウド上でビッグデータマネジメント基盤を実現
・Oracle Big Data SQL CS により、SQLで高速かつセキュアにアクセス可能・SaaSやPaaSなど他クラウドとの密連携
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |21

近日リリース予定: Cloud at Customer

Oracle Big Data Cloud Machine特徴• オラクルがハードウェアを所有• Hadoopのクラウド環境をお客様データセンター内に• Oracle Big Data Cloud Serviceと同じ構成– Oracle が管理、事前テスト済– スモールスタート、シームレスに拡張可能• オラクルが Big Data Infrastructure を管理– お客様は Cloud Tools を利用して、Hadoop クラスタのデプロイ/管理を実施

利点• 高パフォーマンス• セキュアな環境• 包括的なソフトウェアを含有
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |22

本日お伝えしたいこと• Oracle のHadoopへの取り組み• Oracle Big Data ApplianceとAsakusa Frameworkについて• 今後Asakusa Frameworkに期待すること

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |23

もっと多くのお客様にご活用いただくためにエンタープライズのお客様、メインフレームユーザーのお客様にご活用いただきたい

安心感を阻害する3つの課題• スキルの課題（構築、開発、運用）• リスクの課題• 既存資産の有効活用

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |24

Oracle Big Data Appliance ＋ Asakusa Framework
バッチ処理も、分析も。エンタープライズのHadoop活用をさらに推進

Oracle Big Data Appliance

Asakusa Framework

・高性能・高信頼なHadoop環境
・導入、運用コストの削減
・独自高速化機能、Big Data SQLをはじめとする分析機能＋
エンタープライズでの豊富な実績

・分散バッチ開発フレームワーク
・Hadoop上のバッチ開発（MapReduce/Spark）を容易かつ高速化
・Oracle機能のための拡張機能＋
エンタープライズでの豊富な実績＋

エンタープライズのお客様にお届けする価値
1
2
3

導入の短期化、コストとリスクの低減
運用、追加開発の短期化、コストとリスクの低減
バッチ処理の高速化と、新たなビッグデータ分析を両立
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |25

Oracle Big Data Appliance ＋ Asakusa Framework

高性能なバッチ処理

・Asakusa Framework と Oracle Perfect Balance の連携によるアプリケーションの最適実行

Oracle Perfect Balance

MapReduceの数が最小になるように最適化

Asakusa PerfectBalance
Acceleration

データの偏りによるReducerの負荷を平準化

Reduce処理にOracle PerfectBalanceを利用（ユーザーコードの変更なし）

Asakusa FrameworkによるMapReduce処理の最適化

Oracle Perfect BalanceによるReduce処理の高速化
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |26

Oracle Big Data Appliance ＋ Asakusa Framework

RDBMSとの親和性

・Asakusa Framework の入力として、Oracle DB上のデータも利用可能
・Asakusaでの処理実行後に、Oracle Big Data SQL連携のための、外部表DDL文を作成
Oracle Big Data Appliance
DMDL

複雑なバッチ処理

Exadata Database

Asakusa Windgatefor Oracle
Asakusa DirectIOfor BDS

BI Tools

DBDDL

Data Reservoir (HDFS)
Oracle Big Data
SQL

企業内データEnterprise
Applications

Adhoc
SQL

外部表経由でHadoop上のデータにアクセス

業務ユーザーCopyright © 2016 Oracle and/or its affiliates. All rights reserved. |27

Oracle Big Data Appliance ＋ Asakusa Framework ＋ Micro Focus Visual COBOL

Hadoopによるメインフレームモダナイゼーション

・汎用的な部分や新たな開発は、Asakusaを使って、Hadoop上の分散処理に書き換え・既存COBOL資産はMicro Focus社のVisual COBOLを使ってJVMクラスに変換し、Asakusaを使ってHadoop上の分散処理へ無理なく変換

Re-Host・並列分散のメリットを活用し高速化したい
・新たな開発ニーズへの対応
・スキル、ライセンスの課題
現行メインフレーム

Re-Write

Hadoopを使った新たなモダナイゼーション
COBOL(JVM クラス)

MapReduce
シェル等
Hadoop上で並列分散処理

PoCの結果・対従来システム
188倍 高速化
・対従来リホスト
27倍 高速化
Micro Focus社実施PoC結果より・IBM z13 2965-N10
・Oracle Big Data Appliance X5-2 （旧型）6ノード構成
・ 営業店（エリア）別、月別保険料算出集計
サンプルプログラム
・保険料算出はCOBOLを動かし、ジョブ全体制御はAsakusaで記述、集計もAsakusaで記述

・一から書き直しは多大な工数とリスクが発生
・既存資産も活用したい
・10進数対応などへの対応要
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |28

本日お伝えしたいこと• Oracle のHadoopへの取り組み• Oracle Big Data ApplianceとAsakusa Frameworkについて• 今後Asakusa Frameworkに期待すること

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |29

もっとエンタープライズのお客様にご活用いただくためにAsakusa Frameworkに期待すること• Asakusaとオラクルの、両者が持つ実績と強みを組み合わせた価値を、より多くのエンタープライズのお客様にご提供したい• 特に、クラウドでのHadoop/Spark活用価値を多くのお客様にお届けしたい• エンタープライズでの活用を、グローバルに発信していきたい

皆様とともにCopyright © 2016 Oracle and/or its affiliates. All rights reserved. |30

ご清聴ありがとうございました•本日のセッション資料はこちらにアップしました•本日の振り返り、社内展開などにご活用ください•よろしければSNSでの拡散もお願いしますoracle4engineer

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |Appendix: 関連情報のご案内• 各種SlideShareで公開しております– Hadoopソリューション
• OracleのHadoopソリューションご紹介• Oracle Big Data Cloud Serviceのご紹介• Oracle Cloudで始める、DBエンジニアのためのHadoop超入門（db tech showcase2016)• OracleとHadoop連携の勘所 （Oracle DBA ＆Developers Day2016資料）– 機械学習ソリューション
• Oracle Data Miner Tutorial （Data Miner のセットアップ、表データの加工とモデル構築）• Oracle R Enterprise（Oracle R Enterprise のセットアップ、Oracle R Enterprise の使い方）– その他豊富なクラウドサービス

詳細は「Slideshare, oracle4engineer」で検索
Slideshare oracle4engineer
Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |32

Oracle Digitalは、オラクル製品の導入をご検討いただく際の総合窓口。
電話とインターネットによるダイレクトなコニュニケーションで、どんなお問い合わせにもすばやく対応します。
もちろん、無償。どんなことでも、ご相談ください。

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |33

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |34

Copyright © 2016 Oracle and/or its affiliates. All rights reserved. |