学術情報基盤オープンフォーラム2018

オンデマンドクラウド構築サービス
竹房あつ子

国立情報学研究所 クラウド基盤研究開発センター
2018年6月21日
National Institute of Informatics

1

NIIのクラウド導入・利用支援

利用導入検討調達

学認クラウド 導入支援サービス
スタートアップ
チェックリスト
ガイド
セミナー
個別相談

提供中
National Institute of Informatics

オンデマンドクラウド構築サービス

2018年度予定

クラウドゲートウェイ
提供中
SINET
クラウド接続サービス
提供中
2

SINETクラウド接続サービス
大学等とクラウドのデータセンターをSINET5 L2VPNで接続◎高速・安定・安全な通信環境

National Institute of Informatics

3

クラウド利用時の課題
クラウド接続時のネットワーク設定
 主要なクラウドではBGPルータが必要
 利用開始までに時間がかかる…

プロバイダ毎にサービスメニューやインタフェースが異なるので、複数のプロバイダの利用は大変 ベンダロックインを回避したい
 調達の関係で途中でプロバイダが変更になるアプリケーション実行環境を構築するのが大変 基幹業務アプリ以外はコスト的にサポートに頼れない アプリのインストールやアップデート作業は複雑
 資源の最適化やクラウドならではの使い方をするには？

National Institute of Informatics

4

オンデマンドクラウド構築サービス（H30年10月サービス開始予定）

 SINET L2VPNでのクラウド接続を支援
 クラウドの差異を吸収した制御インタフェースを提供
 アプリケーション構築手順書の共有で環境構築支援
インタークラウド環境

クラウド環境 マシン確保 ソフトウェア
配備
SINET5
L2VPN

オンデマンド構築サービス
テンプ
テンプレートレート

SINET5
L2VPN

教員・研究者が、テンプレートを選択（または作成）することにより、クラウド環境を簡単に構築可能
National Institute of Informatics

 マシン確保 ソフトウェア配備
オンデマンド構築サービス
テンプ
テンプ
レート
レート

大学・研究所等
5オンデマンドクラウド構築サービス
 構築・管理ソフトウェア：Virtual Cloud Provider (VCP) クラウド接続を支援する仮想ルータを提供
 プロバイダごとのAPIを抽象化し、制御・管理を容易に• クラウドでのインスタンス配備、管理、ソフトウェアの配備• ２種類のインタフェースを提供• VCP REST I/F: 詳細な構築・管理が可能な REST インタフェース• VCP SDK: 簡易な構築・管理可能な Python インタフェース

 構築手順書＆実行環境：アプリケーションテンプレート

 クラウドでのアプリ環境構築・管理、ソフトウェア配備のための
Jupyter Notebook 形式の手順書（ワークフロー）を提供• 仮想クラウド基盤環境構築・管理テンプレート• 研究・教育用アプリケーションの実行環境構築・管理テンプレート

National Institute of Informatics

6

構築・管理ソフトウェア
Virtual Cloud Provider (VCP)

National Institute of Informatics

7

構築・管理ソフトウェア VCP 仮想ルータによりクラウド接続時のネットワーク設定を支援
 Dockerコンテナによる高速なアプリケーション環境配備
 構築したアプリケーション環境のモニタリング機能提供

基盤環境やアプリケーション実行環境の構築・管理

東京DC

Jupyter Notebook /Python / REST で制御

仮想クラウドコントローラオンデマンドクラウド
構築サービス

サービス利用者

仮想ルータ

SINET
大学・研究所等の利用組織

National Institute of Informatics

利用組織毎に独立した環境を提供

appbins/libs
Container

appbins/libs
Container

VCP Base Container
OS (kernel)
Hardware / VM

アプリケーション
実行環境

SINET
商用クラウド8

VCPのサービスインタフェース
 クラウドごとの制御APIの差異を吸収

 各クラウドプロバイダに制御にはTerraformを使用
 独自Providerプラグインの実装も可能

 VCP REST API

YAMLベースでクラウド構成を記述し送信

Jupyter Notebook
VCP SDK (Python)
構成ファイル VCP SDK

Pythonベースの開発キット+
Jupyter Notebook環境で制御を容易に

VCP REST API# 初期化
vc = VcpSDK(“vcp_accesskey”, “my_vc_name”)# 計算ノード性能指定
spec = vc.spec.find(“aws”, “small”)# spec = vc.spec.find(“azure”, “small”)# 計算ノード起動
nodes = vc.unit.create(“sample_server”, spec)

Terraform

AWSに計算ノード起動するコード例
National Institute of Informatics

AWS

Azure

OpenStack..

各クラウドへ9

VCPの性能
クラウド間通信性能
Base container
on BM
VCP IGW
in Tokyo

SINET

SINET利用で高性能通信2472
2230 2270

1436

1500
1000

496.7
407.1

500

240.7

339.7

327

299.1

Throughput [Mbps]

Throughput [Mbps]

2000

BetterAWS Tokyo

IPSec over Internet

Better

10000

SINET5IPSec overInternet

NII Cloud in Chiba

2500

本サービスで高性能環境が利用可能

Base container
on r4.large

SINET53000

クラウド内通信性能

8000

60004000

200001

10100
Transfer data size [Mbytes]

1000

AWS r4.large (10G NIC)使用
National Institute of Informatics

0r4.large
w/o EN

最適化なし

r4.large
w/ EN

r4.large
w/ VCP,
最適化あり EN
10

構築手順書＆実行環境
アプリケーションテンプレート

National Institute of Informatics

11

アプリケーションテンプレート=Jupyter Notebook 形式の手順書
Outline of HPC Template

Parameter settings

Resource Allocation

Network configuration ofapplication containers

Installation of HPC libraries

User account settings
Installation of optional packages

Execution of benchmark programs

National Institute of Informatics

1212

アプリケーションテンプレート
HPCテンプレート

OpenHPCで提供されているライブラリ＋バッチシステムの科学技術計算用クラスタ環境を構築LMSテンプレート

Moodleを用いた学習管理システムを構築

VDIテンプレート

Guacamoleを用いた講義・演習用仮想デスクトップ環境構築

ゲノム解析テンプレート

Galaxyワークフローツールによるゲノム解析環境の構築

コースウェアテンプレート

Jupyter Notebookを用いた講義演習環境の構築
アプリケーションのコミュニティと協力

National Institute of Informatics

13事例: ゲノム解析環境 Galaxy

オンプレミスでの環境構築
資源不足時にクラウドに環境拡張（スケールアウト）
Galaxy Template(Jupyter Notebook)

VCP User(VC Administrator)

2017/11 SC17展示発表
Galaxy Users

OpenStack

AWS VPC

VCP system
VCP Manager
VC Controller
GW

Unit: galaxy

Unit: galaxy-compute

App:
Galaxy+Slurmctld
BC

node #1
App:SlurmdBCBMBM

Unit: computenode #2
App:SlurmdBC
NFS Client

Scale-outBM

node #nApp:
SlurmdBCnode #n+1
App:SlurmdVM

VM

BCSINET5
Amazon:@ap-northeast-1

Unit: shared-storage

NII Cloud:@chibaNational Institute of Informatics

Appmisc (DNS, Logging, …)BC

NFS server

BMdiskPersistent DataØ Galaxy DBØ Tool Config
Ø Workflow
Ø Reference Data
etc …

App

Application ContainerBC

VCP Base ContainerBM

Bare-metal Machine

VM

Virtual Machine14事例: ゲノム解析環境 Galaxy
動画

National Institute of Informatics

15

ハンズオン
VCP基礎編＋ゲノム解析構築

 2017年12月4日 Galaxy Meetup 2017-12@遺伝研柏ラボ、参加者7名
 2018年1月18日 CREST研究グループミーティング
＠九州大学、参加者15名

VCP基礎編＋Moodle構築
 本日！＠NII20階実習室

 基礎編：那須野淳様（株式会社アスケイド）
Moodle編：浜元信州先生（群馬大）

VCP管理者編＋Guacamole構築
 9月（予定）

National Institute of Informatics

16

まとめ
クラウド利用推進のため「オンデマンドクラウド構築サービス」をH30年度10月から提供開始
 構成：構築・管理ソフト、実行手順書＆実行環境
 対象：大学・研究機関等（6機関試験運用中）
 方針：重点アプリケーションのコミュニティと協力し、更なる有用化を図る
 試用されたい方はご一報下さい: vcp@nii.ac.jp

関連サイト、文献：
 学認クラウド: https://cloud.gakunin.jp/
 NII OpenForum 2017:
http://www.nii.ac.jp/csi/openforum2017/track/day2_4.html
 NII Cloud Operation Team: https://github.com/NII-cloud-operation/
 SINETを活用したインタークラウド環境構築システムの開発,
電子情報通信学会技術研究報告 CPSY2017-17, pp. 7-12, 2017年7月
 Virtual Cloud Service System for Building Effective Inter-Cloud Applications,
Proc. IEEE CloudCom 2017, pp. 296-303, 2017年12月
National Institute of Informatics

17

National Institute of Informatics

18