クラウド導⼊入がシステム運⽤用管理理にもたらすもの-‐‑‒ 理理想と現実と課題 -‐‑‒近堂 徹
広島⼤大学情報メディア教育研究センター
tkondo@hiroshima-­u.ac.jp

広島大学の概要
・11学部, 11研究科, 附属施設等
・学生数：15,000人 (附属学校の生徒除く）
・教員数：1,700人
・職員数：1,600人

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

1

アジェンダ
情報メディア教育研究センターにおけるクラウド導⼊入
全学メールサービスのOffice365移⾏行行（2015年年3⽉月から）
教育研究⽤用電⼦子計算機システムのクラウド利利⽤用（2015年年8⽉月から）

システム運⽤用管理理の今までとこれからクラウド導⼊入で改善できた点・明らかになった点
課題と今後に向けて

2

本題に⼊入る前に私の⽴立立ち位置
クラウドメール導⼊入WGの座⻑⾧長
電⼦子計算機システムの基盤部分（HPCクラウド含む）の仕様策定
システム導⼊入・運⽤用担当者

システム運⽤用管理理者視点から考える
クラウド導⼊入について考える※ 調達・契約・コストやガバナンスの話はしません :-­)

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム20163

情報メディア教育研究センターにおけるクラウド導⼊入
⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

4スケジュール

2014年年

仕様策定

検証・仕様策定

導⼊入・テスト・マニュアル整備

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

2015年年

導⼊入・テスト・マニュアル整備

運⽤用
開
始

運⽤用・移⾏行行期間5

電⼦子計算機システム(HUC12)のクラウド導⼊入⽅方針
利利便便性向上と運⽤用効率率率化のためのサービスの再配置
サービスが求める品質と効率率率性に応じて適材適所に配置
・ユーザ占有型パブリッククラウド
・ユーザ共有型パブリッククラウド
・オンプレミス仮想化基盤

横断的な管理理ツール（サービス）

将来的な変化に対応できるプラットフォームに利利⽤用者への影響が⼤大きいメール移⾏行行は段階的に全学メールは半年年前倒しで提供開始
半年年間は平⾏行行運⽤用
電⼦子計算機システム運⽤用開始⽇日に完全移⾏行行

6

クラウド本格利利⽤用に向けたトランジション

ユーザ共⽤用型
ユーザ占⽤用型

パブリッククラウド

パブリッククラウド
オンプレミス l ユーザ占⽤用型パブリッククラウドü ハードを単⼀一ユーザで占有・ハード単位課⾦金金
仮想化基盤
ü 提供条件­ 地域に数ヶ所­ 共⽤用型と共通の管理理ポータルから制御可能­ インターネット接続性は利利⽤用者が提供

l ユーザ共⽤用型パブリッククラウドü ハードを複数ユーザで共有・インスタンス単位課⾦金金ü 提供条件­ 全国（世界）に数ヶ所­ 管理理ポータル提供­ インターネット接続性は事業者が提供

7

クラウドの特性から⾒見見るとユーザ共⽤用型
パブリッククラウド
先進的教育⽤用情報端末システムハードを複数ユーザ（組織）で共有，インスタンス単位で従量量課⾦金金

教育⽤用情報端末システム
既設

VOD／ストリー e-‐‑‒Learning
HPC計算ノードサーバ
ミングサーバ
オンプレミス
計算機基盤
オンプレミス
仮想化基盤DNSサーバ

認証サーバ
バックアップ

認証サーバ
プライマリ

ローカル
ストレージ
バックアップ
領領域

ローカル
ストレージ
プライマリ
領領域

ハードを単⼀一ユーザ（組織）で占有，ハード単位で従量量課⾦金金

セルフサービス
認証サーバ
認証サーバ
型IaaS
レプリカ
レプリカ

メールサービス
セルフサービス
型SaaS

クラウドストレージ１
スケール
標準化されたシステム構成，アウト
運⽤用管理理メニューを提供。
HPC
（有料料）
HPC

HPC
サービスの粒粒度度が⼩小さく，計算ノード
HPC
計算ノード
クラウドストレージ２...
計算ノード
計算ノード
短期間でのアップデートが発⽣生

ユーザ占⽤用型
パブリッククラウド
公開⽤用Webサーバ
home

IMC  Webサーバ
www.media

バージョン
バージョン
バージョン
バージョン

バージョン
バージョン

ホスティング⽤用
Webサーバフルサービス型SaaS  (IaaS+SI)
サブドメインバージョン
サブドメイン
バージョン

メーリング
リストサーバ

参考：http://blogs.itmedia.co.jp/itsolutionjuku/2014/ 05/iaasiaas-‐‑‒459 8.html

サブドメイン
サブドメイン

ユーザ(IMC)の個別の要望に応じて，システムの構築，運⽤用計画ログインを実施。それに応じたサービスを学内限定⽤用
プリント
バージョン
サーバ
バージョン
バージョン
Webサーバ
サーバ提供する。固定的なサービス形態
login
8ネットワーク構成l ユーザ占⽤用型パブリッククラウド

オンプレミス仮想化基盤とのRTTは20ms以下（1ヶ⽉月平均値）となるようネットワークを構成することl ユーザ共⽤用型パブリッククラウド

VPN，SINETクラウド
サービス経由インターネットとの接続帯域は1Gbps以上、オンプレ
ミス仮想化基盤とのRTTは50ms（1ヶ⽉月平均値）となるようネットワークを構成することInternet
SINET  L2VPN等

フロアスイッチ（最寄のPS内など）
建物集約スイッチ（主要建物内）ユーザ共⽤用型パブリッククラウド

SINET4/JGN
接続スイッチ

HINET
コアネットワーク装置
10Gbps×2
直結

キャンパス集約スイッチ

各キャンパス（ex.  東広島キャンパス）オンプレミス仮想化基盤

広島⼤大学ラック

ユーザ占⽤用型パブリッククラウド

広島市内データセンター

9科学技術計算環境のスケールアウト[1]ファイルサーバ10Gbps
イーサネットスイッチ

分散ストレージ(4ノード)
GlusterFS
HPCホーム領領域
HPCワーク領領域

ポータルサーバ（搭載予定ライブラリ）
コンパイラ:  Fortran90,  C,  C++    [Intel/gnu]
ライブラリ:  Intel  MKL,  GSL,  fftw,  MPI,  OpenMP
ISV:  Gaussian(全ノード)/Nastran(5license)…

プログラミング
コンパイル
ジョブ投⼊入結果取得

計算ノード(14ノード,  392コア)
XeonE5-‐‑‒2600v3(12C,  Haswell-‐‑‒EP)  ×2CPU
Memory  64GB(DDR4-‐‑‒2133)
SSD  120GB  x2(RAID1)
10GbEModule

学内構成員

ポータルサーバ

利利⽤用登録システム

利利⽤用申請（教員のみ）（予算CD，利利⽤用者，インスタンスタイプ，期間等を⼊入⼒力力）

VPN

計算ノード群
スケールアウトによる占有利利⽤用（有償)オンプレミス仮想化基盤
APIによるクラスタ設定制御l オンプレミスの計算ノードと同様の環境
をパブリッククラウド上で提供（BYOLが不不可なISVアプリはNG）

ユーザ共⽤用型パブリッククラウドl より⼤大規模な計算への対応l 利利⽤用者負担による従量量課⾦金金[1]  近堂徹,  岸場 清悟,  他,  “ パブリッククラウドを利用したスケールアウト型HPCクラスタの実装,  情報処理学会研究報告,  Vol.2016-­IOT-­32(26),  pp.1-­6,  2016年3月.

全学メールのクラウドサービス移⾏行行[2][3]教員，職員，学⽣生を中⼼心に構成員約20,000⼈人が利利⽤用
教職員と学⽣生でサービスレベルに違いはなし
半年年間(2015年年3⽉月〜～8⽉月)の期間を設けて各⾃自でデータ移⾏行行・設定変更更
旧メールシステム(オンプレミス)新システム(Office365)

メールスプール容量量

1GB

50GB

最⼤大メッセージサイズ

30MB

25MB

WebメールActive!mail 6  OWA  (Outlook  on  the  web)アカウント登録時のメールアドレス

アカウント名@hiroshima-‐‑‒u.ac.jp※  学⽣生の場合はアカウント名が学⽣生番号と連動

メールアドレス変更更◯◯

SMTP◯

◯
(SMTPSのみ)

POP/IMAP◯◯(POPS/IMAPSのみ)

迷惑メール振分・メール転送◯◯

メールアドレス引継ぎ◯◯[2]  近堂徹,  中川敦,  他,  “ 全学メールのクラウドサービスへの円滑な移行手法の提案と実装,”  学術情報処理研究,  no.19,  pp.19-­25,  2015年9月.
[3]  近堂徹,  “ 全学メールのクラウドサービス移行とID連携の取り組み”,  第9回統合認証シンポジウム,  2016年1月

11ID連携⽅方式の検討
⽅方式

Shibboleth + Fed ID

Shibboleth + ADFS

クラウド認証概要

同期サーバとShibboleth  IdPサーバにより，SAMLによるSSO認証を実現

ADFSの導⼊入によりADとOffice365の認証連携を実現

同期サーバ上の同期ツールによって，アカウント情報とパスワードを同期

ADサーバ

アカウント連携(Immutable   ID)

ADFS
ADサーバ

Azure   ADAzure   ADADサーバアカウント・パスワード連携

Azure   ADADFS   proxy
同期サーバ

構成

⽋欠点

コスト

• Azure ADに対するパスワード複製の必要なし• Shibblethの認証画⾯面でログイン画⾯面をカスタマイズ可能• Fed  IDの実装/管理理が複雑になる• 利利⽤用できないサービスがある
⾼高

同期サーバ

同期サーバ
認証連携

Shibboleth IdP

クライアント利利点

認証連携

Shibboleth IdP

クライアントクライアント• Azure ADに対するパスワード複製の必要なし• Shibbleth/ADFS  Proxyの認証画⾯面でログイン画⾯面をカスタマイズ可能• 教育⽤用端末(AD認証済)からSSO可能• MS推奨の連携構成• 安価な構成で構築可能• ADFS,  ADFS  Proxyの追加導⼊入が必要

中• Azure  ADにパスワード複製が必要• 認証時のユーザIDがメールアドレスになる
低全学メール構成図
オンプレミス仮想化基盤
ユーザ占⽤用型パブリッククラウド
学内構成員

利利⽤用登録システム

ユーザ共⽤用型パブリッククラウド
ADFS#1ADFS  Proxy#1

ADFS#2ADFS  Proxy#2

ウェブ申請

LDAP Manager
アカウント情報のエクスポート
L3VPN

LDAPによる制御

センターADuser@hiroshima-­u.ac.j p 宛
個⼈人・グループ・クラスア カウ ント

user@subdom.hiroshima-­u.ac.jp 宛
ホスティングアカウント

list@ml.hiroshima-­u.ac.jp 宛
メーリングリスト

PowerShell
による制御

ディレクトリ
同期センターLDAP
Azure AD

メール配送サーバ(既設)

Office365へ(個⼈人・クラスアカウント・グループに対するメール）

学内サーバへ(メーリングリスト,ホスティングアカウントに対するメール)  同期サーバ

SaaS移⾏行行の難しさ
データ移⾏行行，設定変更更に対する利利⽤用者の作業負担
多様な接続⽅方法（POP接続, IMAP接続,  ウェブメール）が混在
利利⽤用者ごとに必要な作業が異異なる・メールクライアントの設定変更更，メールスプールの移⾏行行
⼤大学ならではの⽂文化（コラボレーションより個⼈人利利⽤用が重要視）度度重なるアップデート（後述）クラウドサービスの変化に対する構成員への周知・理理解

ユーザの設定画⾯面が分散
利利⽤用登録システム（PowerShell制御）とOffice365設定画⾯面が混在[例例]
・OWAの差出⼈人表記はADに紐紐付くため利利⽤用登録システムから変更更・迷惑メール設定やメール転送設定はOffice365設定画⾯面から変更更14

サービス対応の推移（⼀一例例）
 
1200

メール移⾏行行期間

1000

800


6 (%)/ $7"(# (6000.((
&4,400  8:92 
!%-+53

('*1

2000

ヘルプデスク対応の⻑⾧長期化
メールクライアント設定に対する個別対応の増加
・数パーセントのユーザに⾮非常に⼤大きな労⼒力力を費やすことに

移⾏行行状況の推移（2015/3/2〜～2015/8/11）
18000"

16000"

14000"

12000"

10000"	

8000"

6000"

⾃自主的な移⾏行行(3/2〜～8/11)による移⾏行行率率率
4000"

2000"

76.4%  (15,465/20,248)
教職員：91.14% (5,436/5,964)
学⽣生：70.21%  (10,029/15,284)0"
2015/3/2" 2015/3/16" 2015/3/30" 2015/4/13" 2015/4/27" 2015/5/11" 2015/5/25" 2015/6/8" 2015/6/22" 2015/7/6" 2015/7/20" 2015/8/3"

16

クラウド導⼊入がシステム運⽤用管理理に与える効果と課題
⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

17当初検討していた理理想図
サービス要件を厳格化
ハードウェア指向からサービス指向へ

サービス，リソースの⾒見見える化
障害把握，将来に向けたキャパシティ管理理の徹底

管理理ポータルを核としたマイクロサービス化

仕様書に反映しきれてなかった…

サービス単位の分解点の明確化とオープンなAPI連携
SI  (Service  Integration)
オンプレミス仮想化基盤

広島⼤大学
サービスの利利⽤用

利利⽤用者/サービス
管理理ポータル

API連携
サービス

サービス

サービス

・・・

ユーザ占⽤用型パブリッククラウド

基盤管理理ポータル

サービス

サービス

サービス

ユーザ共⽤用型パブリッククラウド

昨年年のこの時期の話
仕様書の書き方

入札公告から開札まで• ハードウェア指向からサービス指向へ• 実装方法は応札業者が提案– サービス仕様のみ記述（例）– 本学ではクラウドサービスを積極的に利用する目的から、要求要件の多くにおいてあえて具体的な実装方法を示していない。要求要件の解釈に齟齬が生じることを防ぐため、入札までに本学担当者と十分なヒアリング・協議等を行うこと。なお、ヒアリング・協議等の内容は、技術審査を行う際の参考とすることがある。

• アカウント登録– 5,000アカウントが2時間以内に登録可能であること• 認証サービス– 10秒間に40,000クエリの検索処理ができること• すべての入札予定業者と打合せ• クラウドサービス– 具体的な実装方法を元に意識合わせ– RTTが10ms以内（1ヶ月の平均値）となるようネットワークを構成すること– RTTが50ms以内（1ヶ月の平均値）となるようネットワークを構築すること• 仕様書はサービス仕様のみのため、大学側はここで具体的な実装を確認する• クラウド事業者はクラウド部分しか提案しない• 入札予定業者のSI力が試される• メールサービス– 1分間に2,000通以上の送信ができること• アプリケーション– 100名以上が同時利用できること• クラウドサービス利用ガイドラインチェックリストの実施と提出を義務付け– クラウドサービスの提供および利用については、本学が定める「クラウドサービス利用ガイドラインチェックリスト」をあらかじめ受注者で実施し、対応を要する項目について本学担当者と事前に協議を行った上で、チェック済みリストと対応策を本学に提出すること。

2015/3/20

大学等におけるクラウドサービス利用シンポジウム2015

13– 実現可能性（技術面）、実行可能性（スケジュール面）をしっかりと確認・意見する• ここにできるだけ長く時間を取る⇒ 技術審査の期間を短くして対応• 技術審査– 旧態依然とした技術審査では、「おうむ返し」や「機能証明」による入札書に対応できない• 単なる仕様書確認から脱却する必要あり• 大学側の受け入れ能力（実現可能性や実行可能性の見極め力）が試される

2015/3/20

大学等におけるクラウドサービス利用シンポジウム2015

14

引⽤用： ⻄西村浩⼆二,   広島⼤大学電⼦子計算機システ ム(HUC12)に おけ るクラ ウド サー ビス 利利⽤用,   ⼤大学等におけるクラウドサ ービス 利利⽤用 シン ポジ ウム2 015

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

19

オンプレミスからクラウドで何が変わったか？
運⽤用管理理⾯面での（⼀一般的に⾔言われる）効果

省省エネ・省省スペース
オンプレミスのサーバラック数は10→2ラックに事業継続・ディザスタリカバリ
データセンター設置のフルサービス型クラウド利利⽤用

管理理⼿手順の簡素化や運⽤用負荷の軽減
クラウドサービスを前提とした運⽤用管理理⼿手順の策定？

キャパシティプランニングの容易易さ改善すべき「サービスの⾒見見える化」？

？ 新サービス・新機能の導⼊入サービスアップグレードに対するSIの意識識？

20標準化しきれなかった基幹サービス
フルサービス型クラウドの認識識に対するギャップ
⼤大学側：サービスまでをカバーするSaaS環境
業者側：顧客側の要望に沿ったIaaS +  System   Integration

移⾏行行に伴う利利⽤用者に対する影響を考慮
これまでの使い⽅方に即したシステム構成へ修正
移⾏行行に対する時間的な制約
マネージドサービスを前提としたシステム設計，
サービスとしての”制約“に対する共有不不⾜足
⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

21複雑化するサービス監視（１）
全体感がつかみにくいサービス監視
複数のレイヤで重複して監視サービスが存在
1つの障害で複数のアラートが発⽣生することも運⽤用改善のための統計情報の不不⾜足
サービス要求要件の⾒見見直しに必要なインフラの⾒見見える化センターが構築・運⽤用
するサービス監視上位サービス(アプリケーション)監視サービス

オンプレミス仮想化基盤
サービス？

基盤監視サービスサービス・・・

ユーザ占⽤用型パブリッククラウド
サービス

管理理者

サービス

サービス

サービス

ユーザ共⽤用型パブリッククラウド

22複雑化するサービス監視（２）
管理理者しか⾒見見えないSaaSサービスの状況
外部サービスの状態をセンターが仲介して学内広報
・障害によっては利利⽤用者個々に発⽣生するものも存在（後述）
管理理ポータルのリニューアルで把握しにくくなった！
(RSSもなくなった！！)

ちなみ…
GoogleAppsは⼀一般権限で確認可能
23

激しいパブリッククラウドの変化
度度重なるサービスアップデート
サービスアップグレード =  バグが混⼊入する可能性も
SaaSの機能強化が利利⽤用者に直接的に影響・リスクにつながる可能性のある機能はオフにする必要も…

リリース情報はブログで収集
・これまではベンダからの公式リリース
・事前の情報収集能⼒力力が鍵に年年に数回値下げが実施される
ユーザ共⽤用型パブリッククラウド
HPCクラウドのインスタンス料料⾦金金に直結

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

24

障害・ユーザ対応の複雑化
問題発⽣生時の切切り分けと対応依頼先が分散障害対応の三⾓角関係？
利利⽤用者個々に発⽣生する障害の場合はさらに複雑に問題の解決に時間がかかるケースもMSの電話対応は⼿手厚いが…

導⼊入保守業者

導⼊入保守業者
対応依頼

利利⽤用者

センター
問い合わせ

利利⽤用者
対応依頼

システムセンター
問い合わせ(現場対応)

これまで

ログ採取
ヒアリング

クラウド事業者(SaaS)
対応依頼
調査依頼

現状よくあるケース25今後に向けて⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

26

⽬目的重視のアーキテクチャのための再検討
ユーザ共⽤用型パブリッククラウドの積極的利利⽤用
サービス単位で設計の標準化，サイジングの再検討・運⽤用で得られたノウハウを設計に反映

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム201627

クラウドの進化に追従した運⽤用と開発
SaaSの効果的利利⽤用への期待
利利⽤用者からの新機能に対する要望
・認証強化（多要素認証），グループ機能，添付ファイル対策

最新な機能を必要なときに随時追加・変更更→ ぜひやりたいが，「できる」ことと「運⽤用できる」ことは別

持続的な価値が提供できる管理理ポータル
パブリッククラウドの変化に対応できる柔軟性
オープンかつスタンダードな技術
・「作る」から「使う」を意識識
⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム201628技術者・システム運⽤用管理理者として世の中の動向は…
クラウドに詳しくない技術者

クラウドに詳しい技術者

ブログをチェックする暇がない

⽇日々関係するブログをチェックする
勉強会に積極的に参加する
エバンジェリストとして活動する

技術者の2極化勉強会に参加できない
エバンジェリストって何？

変化を許容し柔軟に対応していく能⼒力力
⾃自ら情報を求め発信していく姿勢

⼤大学等におけるクラウド サー ビス 利利⽤用 シン ポジ ウム2016

29

まとめ
広島⼤大学の教育研究⽤用計算機システムのクラウド導⼊入サービスが求める品質と効率率率性に応じて適材適所に配置
・クラウド化により効果があった点も多い
過渡期におけるインテグレーションに対する理理解，運⽤用の複雑化

これからの課題
次のクラウド利利⽤用を⾒見見据えた運⽤用管理理・⽀支援体制の確⽴立立・特性の異異なるクラウドを組み合わせるギャップをどう埋めるか？
・「使い⽅方にサービスを合わせる」→「使い⽅方をサービスに合わせる」意識識

短いサイクルかつリアルタイムにフィードバックする環境と開発体制
・⼤大学(利利⽤用者⇔管理理者)  ，SIer，クラウド事業者との距離離感が重要
謝辞
本電⼦子計算機システムの導⼊入運⽤用にあたり，株式会社⽇日⽴立立製作所，株式会社ハイエレコン，⽇日本マイクロソフト株式会社の関係者各位に感謝申し上げます。また⽇日々の運⽤用にご協⼒力力頂いている情報メディア教育研究センターのスタッフおよび⼤大学構成員の皆様にも謝辞を申し上げます。

30