(57)【要約】【課題】仮想マシンに対する仮想ディスクの冗長性を保証しつつ、ストレージに記憶されるデータの総容量を削減する。【解決手段】管理サーバ１６は、データをマスタデータとしてマスタ格納ボリュームに保持させ、マスタデータと等価のデータをバックアップデータとしてバックアップ格納ボリュームに保持させる管理を行なう第１の管理部１６１ｂと、マスタ格納ボリュームからバックアップ格納ボリュームにデータの格納先が切り替えられた場合に、バックアップ格納ボリュームに保持されたバックアップデータに対する更新データをバックアップデータと独立してバックアップ格納ボリュームに保持させ、更新データをマスタ格納ボリュームおよびバックアップ格納ボリュームと異なるリザーブ格納ボリュームに複製させる管理を行なう第２の管理部１６１ｄと、を備える。【選択図】図２Ａ
2015079311.tif 000002
【特許請求の範囲】
【請求項１】
第１のストレージと第２のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置であって、
データをマスタデータとして前記第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のストレージに保持させる管理を行なう第１の管理部と、
前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう第２の管理部と、
を備えることを特徴とするストレージ管理装置。
【請求項２】
前記第２のストレージから前記第１のストレージにデータの格納先が切り替えられた場合に、前記第３のストレージに複製された更新データを前記第１のストレージに複製させる管理を行なう第３の管理部
をさらに備えることを特徴とする請求項１に記載のストレージ管理装置。
【請求項３】
前記データにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第１のストレージ、前記第２のストレージおよび前記第３のストレージを割り当てる割当部
をさらに備えることを特徴とする請求項１または請求項２に記載のストレージ管理装置。
【請求項４】
前記ストレージ管理装置は、第１のデータセンタと第２のデータセンタ間で移行可能な仮想マシンのデータを格納する複数のストレージを管理し、
前記第１の管理部は、
前記第１のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第１のデータセンタの第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のデータセンタの第２のストレージに保持させる管理を行ない、
前記第２の管理部は、
前記第２のデータセンタで運用中の前記仮想マシンに対して、前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう
ことを特徴とする請求項１または請求項２に記載のストレージ管理装置。
【請求項５】
移行可能な複数の仮想マシンのデータにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第１のストレージ、前記第２のストレージおよび前記第３のストレージを割り当てる割当部
をさらに備えることを特徴とする請求項４に記載のストレージ管理装置。
【請求項６】
それぞれのデータセンタの電力コストを算出する算出部と、
前記算出部によって算出されたそれぞれの電力コストに基づいて、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いか否かを判定する判定部と、をさらに備え、
前記第２の管理部は、
前記判定部による判定の結果、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いと判定された場合に、前記仮想マシンが運用中のデータセンタから前記移行先のデータセンタへ前記仮想マシンのデータの格納先を切り替え、データの格納先が切り替えられた場合に、前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第３のストレージに複製させる管理を行なう
ことを特徴とする請求項４または請求項５に記載のストレージ管理装置。
【請求項７】
第１のデータセンタおよび第２のデータセンタを備える情報処理システムであって、
前記第１のデータセンタおよび前記第２のデータセンタのうちいずれか１つのデータセンタのストレージ管理装置であって、前記第１のデータセンタと前記第２のデータセンタ間で移行可能な仮想マシンのデータを格納する複数のストレージを管理するストレージ管理装置は、
前記第１のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第１のデータセンタの第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のデータセンタの第２のストレージに保持させる管理を行なう第１の管理部と、
前記第２のデータセンタで運用中の前記仮想マシンに対して、前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう第２の管理部と、
を備えることを特徴とする情報処理システム。
【請求項８】
第１のストレージと第２のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置に、
データをマスタデータとして前記第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のストレージに保持させる管理を行ない、
前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう
処理を実行させることを特徴とするストレージ管理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ストレージ管理装置などに関する。
【背景技術】
【０００２】
近年、物理サーバ上で、仮想マシン（Virtual  Machine）を動作させる仮想化技術が利用されている。例えば、データセンタでは、仮想化プログラムを利用して物理サーバ上で仮想マシンを動作させる環境が増加している。この仮想化プログラムは、物理サーバ上で動作する仮想マシンを他のデータセンタの物理サーバ上へ移行する機能がある。かかる仮想マシンの移行は、「マイグレーション」といわれる。 
【０００３】
マイグレーションに関して、データセンタを運用する際に、仮想マシン群の負荷状態により仮想マシンの移行を管理する技術がある（例えば、特許文献１参照）。かかる技術では、例えば、稼働中の仮想マシン数が最も少ない物理サーバで稼働する仮想マシンを停止対象とする。また、負荷の変動が類似したデータセンタが同じ物理サーバ上に集まるように仮想マシンの移行先を制御する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００６−１７４６０９号公報
【特許文献２】特開２０１１−９０５９４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、データセンタには、仮想マシンに対して仮想ディスクが配備される。仮想ディスクは、冗長化が実現されるために、各データセンタで仮想マシンに対して同じ容量を備える。例えば、３個のデータセンタであれば、仮想マシンに対する仮想ディスクの総容量は、仮想マシンに対して３倍の仮想ディスクの容量を備えることになる。
【０００６】
しかしながら、仮想マシンに対して３倍の仮想ディスクの容量を備えることになると、仮想マシンのデータの更新に伴い、システム全体の仮想ディスクの総容量が増加してしまうという問題がある。
【０００７】
１つの側面では、本発明は、仮想マシンに対するストレージの冗長性を保証しつつ、ストレージに記憶されるデータの総容量を削減することを目的とする。
【課題を解決するための手段】
【０００８】
本願の開示するストレージ管理装置は、１つの態様において、第１のストレージと第２のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置であって、データをマスタデータとして前記第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のストレージに保持させる管理を行なう第１の管理部と、前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう第２の管理部と、を備える。
【発明の効果】
【０００９】
本願の開示するストレージ管理装置の１つの態様によれば、仮想マシンに対するストレージの冗長性を保証しつつ、ストレージに記憶されるデータの総容量を削減することができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施例に係る情報処理システムのハードウェア構成を示す図である。
【図２Ａ】図２Ａは、実施例に係るデータセンタの機能構成を示す図である。
【図２Ｂ】図２Ｂは、実施例に係る管理部の機能構成の一例を示す図である。
【図３Ａ】図３Ａは、マスタストレージとバックアップストレージのＤＣが稼働する場合を示す図である。
【図３Ｂ】図３Ｂは、バックアップストレージとリザーブストレージのＤＣが稼働する場合を示す図である。
【図３Ｃ】図３Ｃは、マスタストレージとリザーブストレージのＤＣが稼働する場合を示す図である。
【図４Ａ】図４Ａは、マスタストレージからバックアップストレージへＶＭを移行する場合を示す図である。
【図４Ｂ】図４Ｂは、バックアップストレージからマスタストレージへＶＭを移行する場合を示す図である。
【図５】図５は、仮想マシンとデータ保存先ボリュームの関係を示す図である。
【図６Ａ】図６Ａは、ストレージステータステーブルのデータ構造の一例を示す図である。
【図６Ｂ】図６Ｂは、ＤＣ電力ステータステーブルのデータ構造の一例を示す図である。
【図６Ｃ】図６Ｃは、ＤＣ基本電力量テーブルのデータ構造の一例を示す図である。
【図７Ａ】図７Ａは、実施例に係るＤＣ管理処理のシーケンスを示す図である。
【図７Ｂ】図７Ｂは、実施例に係るＤＣ管理処理のシーケンスを示す図である。
【図７Ｃ】図７Ｃは、実施例に係るＤＣ管理処理のシーケンスを示す図である。
【図７Ｄ】図７Ｄは、実施例に係るＤＣ管理処理のシーケンスを示す図である。
【図８Ａ】図８Ａは、導入設定処理のシーケンスを示す図である。
【図８Ｂ】図８Ｂは、導入設定処理のシーケンスを示す図である。
【図８Ｃ】図８Ｃは、導入設定処理のシーケンスを示す図である。
【図８Ｄ】図８Ｄは、導入設定処理のシーケンスを示す図である。
【図９Ａ】図９Ａは、ＤＣ電力コスト比較処理のシーケンスを示す図である。
【図９Ｂ】図９Ｂは、ＤＣ電力コスト比較処理のシーケンスを示す図である。
【図１０Ａ】図１０Ａは、マスタストレージの移行処理のシーケンスを示す図である。
【図１０Ｂ】図１０Ｂは、マスタストレージの移行処理のシーケンスを示す図である。
【図１０Ｃ】図１０Ｃは、マスタストレージの移行処理のシーケンスを示す図である。
【図１０Ｄ】図１０Ｄは、マスタストレージの移行処理のシーケンスを示す図である。
【図１１Ａ】図１１Ａは、バックアップストレージの移行処理のシーケンスを示す図である。
【図１１Ｂ】図１１Ｂは、バックアップストレージの移行処理のシーケンスを示す図である。
【図１１Ｃ】図１１Ｃは、バックアップストレージの移行処理のシーケンスを示す図である。
【図１１Ｄ】図１１Ｄは、バックアップストレージの移行処理のシーケンスを示す図である。
【図１１Ｅ】図１１Ｅは、バックアップストレージの移行処理のシーケンスを示す図である。
【図１１Ｆ】図１１Ｆは、バックアップストレージの移行処理のシーケンスを示す図である。
【図１２】図１２は、ＤＣ管理プログラムを実行する管理サーバのハードウェア構成を示すブロック図である。
【発明を実施するための形態】
【００１１】
以下に、本願の開示するストレージ管理装置、情報処理システムおよびストレージ管理プログラムの実施例を図面に基づいて詳細に説明する。本実施例では、仮想マシンを提供する複数のデータセンタを含む情報処理システムに適用するものとする。なお、本実施例によりこの発明が限定されるものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【実施例】
【００１２】
［実施例に係る情報処理システムの構成］
図１は、実施例に係る情報処理システムのハードウェア構成を示す図である。図１に示すように、情報処理システム９は、複数のデータセンタ１，２，３を有する。複数のデータセンタ１，２，３は、それぞれネットワークで接続される。ネットワークは、専用回線であっても良いし、専用回線でなくても良い。情報処理システム９は、移行可能な仮想マシン（ＶＭ：Virtual  Machine）について、データセンタ１，２，３のうち１つのデータセンタに搭載される第１のストレージと別のデータセンタに搭載される第２のストレージとの間でデータの格納先が切り替えられるシステムである。複数のデータセンタ１，２，３は、それぞれ日照時間帯が異なる地域、すなわち同時点で電力コストが異なる地域に設置され、情報処理システム９は、例えば、同時点の電力コストに応じて、ＶＭを移行するとともに、ＶＭのデータの格納先を切り替える。なお、実施例では、データセンタ１，２，３は、日照時間帯が異なる地域の例として、それぞれＡ国、Ｂ国、Ｃ国に設置されているものとする。
【００１３】
［データセンタのハードウェア構成］
次に、データセンタ１の機能構成を、図２Ａを参照して説明する。図２Ａは、実施例に係るデータセンタの機能構成を示す図である。なお、データセンタ２，３の機能構成は、データセンタ１と同一であるので、データセンタ２，３の説明を省略する。
【００１４】
データセンタ１は、太陽光発電パネル１１、インバータ１２、配電盤１３、電力量計１４、仮想マシン（ＶＭ）運用設備１５および管理サーバ１６を有する。
【００１５】
太陽光発電パネル１１は、太陽光のエネルギーを充電するために用いられるパネルである。すなわち、データセンタ１は、太陽光発電パネル１１によって発電された電力を用いて運用する。インバータ１２は、直流電力から交流電力を電気的に生成する。配電盤１３は、配電の開閉の切り替えを行う。電力量計１４は、電力量を計測する。
【００１６】
仮想マシン（ＶＭ）運用設備１５は、インフラの基盤を示し、ＶＭを運用させるために用いられる設備である。ＶＭ運用設備１５には、ネットワークスイッチ１５１、物理サーバ１５２およびストレージ装置１５３が含まれる。物理サーバ１５２は、サーバ仮想化プログラムを実行することによって、ハイパーバイザー１５２ａ上で複数の仮想マシン(ＶＭ００１,ＶＭ００２)１５４を動作させる。
【００１７】
ストレージ装置１５３は、ストレージコントローラ１５３ａ、マスタ格納ボリューム１０１、バックアップ格納ボリューム１０２およびリザーブ格納ボリューム１０３を有する。ストレージコントローラ１５３ａは、ストレージであるマスタ格納ボリューム１０１、バックアップ格納ボリューム１０２およびリザーブ格納ボリューム１０３を制御する。
【００１８】
マスタ格納ボリューム１０１、バックアップ格納ボリューム１０２およびリザーブ格納ボリューム１０３には、ストレージとしての所定の役割がＶＭ毎に割り当てられる。マスタ格納ボリューム１０１には、マスタストレージとしての役割が割り当てられる。マスタストレージは、ＶＭの仮想ディスクの記憶領域が割り当てられるストレージである。なお、仮想ディスクのデータは更新可能とする。バックアップ格納ボリューム１０２には、バックアップストレージとしての役割が割り当てられる。バックアップストレージは、マスタストレージの仮想ディスクのデータを複製した仮想ディスクの記憶領域と、複製後更新された差分データを格納する記憶領域が割り当てられるストレージである。なお、複製した仮想ディスクは更新不可とする。リザーブ格納ボリューム１０３には、リザーブストレージとしての役割が割り当てられる。リザーブストレージは、仮想ディスクに生じた差分データを格納する記憶領域が割り当てられるストレージのことをいう。すなわち、１つのＶＭについて、例えば、第１のデータセンタのストレージ装置は、マスタストレージとしての役割を担い、第２のデータセンタのストレージ装置は、バックアップストレージとしての役割を担い、第３のデータセンタのストレージ装置は、リザーブストレージとしての役割を担う。マスタストレージとしての役割を担うデータセンタは、ＶＭを主に利用する拠点である。なお、１つのＶＭについて、各ストレージに割り当てられる役割は、例えば、システム管理者によって割り当てられる。
【００１９】
管理サーバ１６は、情報処理システム９における複数のストレージを管理する。管理サーバ１６は、他のＤＣ２，３の管理サーバ２６，３６との間で主従関係を有する。管理サーバ間の主従関係は、予め管理者によって設定される。主の管理サーバは、他のＤＣの管理サーバへＤＣの運用に関わる命令を通知する。従の管理サーバは、命令に応じてＤＣの構成設備、ＶＭ、ストレージ装置のリモートコピーなどの起動および停止を実行する。なお、主従関係の主となる管理サーバは、「リード」というものとする。以降、ＤＣ１の管理サーバ１６を「リード」として説明する。
【００２０】
管理サーバ１６は、管理部１６１および記憶部１６２を有する。管理部１６１は、導入設定部１６１ａ、第１の管理部１６１ｂ、電力コスト比較部１６１ｃ、第２の管理部１６１ｄおよび第３の管理部１６１ｅを有する。なお、管理サーバ１６は、ストレージ管理装置の一例である。導入設定部１６１ａは、割当部の一例である。電力コスト比較部１６１ｃは、算出部および判定部の一例である。
【００２１】
導入設定部１６１ａは、移行可能なＶＭに対して、あらかじめ、ＤＣ毎に、マスタストレージ、バックアップストレージおよびリザーブストレージとしての役割を割り当てる。例えば、導入設定部１６１ａは、移行可能なＶＭに対して、マスタストレージとしての役割を担うＤＣがあらかじめ設定されると、バックアップストレージ、リザーブストレージとしての役割を担う各ＤＣを、日照時間帯に応じて設定する。なお、マスタストレージとしての役割を担うＤＣは、例えば、システム管理者によって設定される。
【００２２】
第１の管理部１６１ｂは、データをマスタデータとしてマスタストレージに保持させ、マスタデータと等価のデータをバックアップデータとしてバックアップストレージに保持させる管理を行う。例えば、あるＶＭに対して、ＤＣ１がマスタストレージとしての役割、ＤＣ２がバックアップストレージとしての役割であるとする。ＤＣ１の管理サーバ１６は「リード」であるとする。第１の管理部１６１ｂは、ＤＣ１で運用中のＶＭのデータをマスタデータとして、ＤＣ１のマスタ格納ボリューム１０１に更新する。そして、第１の管理部１６１ｂは、更新したデータをバックアップデータとして、当該ＶＭに対する更新前のデータと等価のデータを有するＤＣ２のバックアップ格納ボリューム２０２にリモートコピーする。これにより、第１の管理部１６１ｂは、マスタ格納ボリューム１０１およびバックアップ格納ボリューム２０２のＶＭに対するデータを冗長化できる。
【００２３】
電力コスト比較部１６１ｃは、それぞれのＤＣ１，２，３の電力コストを算出する。そして、電力コスト比較部１６１ｃは、算出したそれぞれの電力コストに基づいて、ＶＭが運用中のＤＣの電力コストが、ＶＭが移行された場合の移行先のＤＣの電力コストより高いか否かを判定する。電力コスト比較部１６１ｃは、判定の結果、ＶＭが運用中のＤＣの電力コストが、ＶＭが移行された場合の移行先のＤＣの電力コストより高いと判定された場合に、以下の処理を行う。すなわち、電力コスト比較部１６１ｃは、後述する第２の管理部１６１ｄおよび第３の管理部１６１ｅに、ＶＭが運用中のＤＣから移行先のＤＣへＶＭのデータの格納先を切り替えさせる。
【００２４】
言い換えると、電力コスト比較部１６１ｃは、例えば、太陽光の発電量を元に、各ＤＣの電力コストを比較し、電力コストを削減可能なＤＣを判別する。そして、電力コスト比較部１６１ｃは、電力コストの比較結果に基づき、第２の管理部１６１ｄおよび第３の管理部１６１ｅに、電力コストを削減可能なＤＣにＶＭを移行するように制御させる。すなわち、電力コスト比較部１６１ｃは、電力コストを削減可能なＤＣを、ＶＭの運用に活用させるとともに、ＶＭによって更新される更新データ（以降、「差分データ」ともいう）の保存に活用させる。
【００２５】
第２の管理部１６１ｄは、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合に、バックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させる管理を行う。また、第２の管理部１６１ｄは、更新データをリザーブストレージに複製させる管理を行う。例えば、あるＶＭに対して、ＤＣ１がマスタストレージとしての役割、ＤＣ２がバックアップストレージとしての役割、ＤＣ３がリザーブストレージとしての役割であるとする。ＤＣ１の管理サーバ１６は「リード」であるとする。第２の管理部１６１ｄは、ＤＣ１のマスタ格納ボリューム１０１からＤＣ２のバックアップ格納ボリューム２０２にデータの格納先が切り替えられた場合、ＤＣ１のＶＭ運用設備１５の運用を停止させ、ＤＣ１からＤＣ２へＶＭを移行させる。第２の管理部１６１ｄは、ＤＣ２のバックアップ格納ボリューム２０２に対する更新データを差分データとして、バックアップ格納ボリューム２０２の、バックアップデータと独立した領域に保持させる。そして、第２の管理部１６１ｄは、更新データをリザーブデータとして、ＤＣ３のリザーブ格納ボリューム３０３にリモートコピーさせる。これにより、第２の管理部１６１ｄは、ＶＭについて、バックアップ格納ボリューム２０２に更新された更新データ（差分データ）をリザーブ格納ボリューム３０３に保持するので、差分データを冗長化できる。
【００２６】
第３の管理部１６１ｅは、バックアップストレージからマスタストレージにデータの格納先が切り替えられた場合に、リザーブストレージに複製された更新データをマスタストレージに複製させる管理を行う。例えば、あるＶＭに対して、ＤＣ１がマスタストレージとしての役割、ＤＣ２がバックアップストレージとしての役割、ＤＣ３がリザーブストレージとしての役割であるとする。ＤＣ１の管理サーバ１６は「リード」であるとする。第３の管理部１６１ｅは、ＤＣ２のバックアップ格納ボリューム２０２からＤＣ１のマスタ格納ボリューム１０１にデータの格納先が切り替えられた場合、ＤＣ２のＶＭ運用設備２５の運用を停止させ、ＤＣ２からＤＣ１へ再びＶＭを移行させる。第３の管理部１６１ｅは、リザーブ格納ボリューム３０３に複製されたリザーブデータをマスタ格納ボリューム１０１にリモートコピーさせる。これにより、第３の管理部１６１ｅは、ＶＭの再移行時に、リザーブストレージの差分データだけをマスタ格納ボリューム１０１にコピーすることで、ＶＭを移行する期間を短縮できる。
【００２７】
ここで、管理部１６１の機能を示す図の一例を、図２Ｂを参照して説明する。図２Ｂは、実施例に係る管理部の機能構成の一例を示す図である。図２Ｂに示すように、管理部１６１は、ＤＣ管理プログラムの実行により実現されるＤＣ管理部１６１Ａ、コピー制御プログラムの実行により実現されるコピー制御部１６１Ｂおよびハイパーバイザー管理プログラムの実行により実現されるハイパーバイザー管理部１６１Ｃを有する。ＤＣ管理部１６１Ａは、導入設定部１６１ａ、第１の管理部１６１ｂ、電力コスト比較部１６１ｃ、第２の管理部１６１ｄおよび第３の管理部１６１ｅの各機能を含む。
【００２８】
コピー制御部１６１Ｂは、ＤＣ間のデータのリモートコピーを制御する。コピー制御部１６１Ｂは、ＤＣ管理部１６１Ａによって呼び出される。ハイパーバイザー管理部１６１Ｃは、ハイパーバイザー１５２ａを管理する。ハイパーバイザー管理部１６１Ｃは、ＤＣ管理部１６１Ａによって呼び出される。ＤＣ管理プログラム、コピー制御プログラムおよびハイパーバイザー管理プログラムは、例えば記憶部１６２に格納される。
【００２９】
また、管理サーバ１６は、ストレージステータステーブル１６４、ＤＣ電力ステータステーブル１６５およびＤＣ基本電力量テーブル１６６を有する。ストレージステータステーブル１６４は、ＶＭに対する各ＤＣのストレージの役割を記憶する。また、ストレージステータステーブル１６４は、ＶＭに対する各ＤＣのストレージの稼働状態を記憶する。ＤＣ電力ステータステーブル１６５は、ＤＣの電力コストを算出するために用いられる情報を、ＤＣ毎に記憶する。ＤＣ基本電力量テーブル１６６は、物理サーバ数に応じた基本電力量を、ＤＣ毎に記憶する。なお、ストレージステータステーブル１６４、ＤＣ電力ステータステーブル１６５およびＤＣ基本電力量テーブル１６６のデータ構造の詳細は、後述する。
【００３０】
ここで、ストレージの役割とＶＭによって処理されるデータの保存先の関係を、図３Ａ〜図３Ｃを参照して説明する。図３Ａは、マスタストレージとバックアップストレージのＤＣが稼働する場合を示す図である。図３Ｂは、バックアップストレージとリザーブストレージのＤＣが稼働する場合を示す図である。図３Ｃは、マスタストレージとリザーブストレージのＤＣが稼働する場合を示す図である。各図で示されるＶＭ（Ａ）は、マスタストレージとしての役割を担うＡ国のＤＣ１で主に利用されるＶＭであるとする。すなわち、ＶＭ（Ａ）について、Ａ国のＤＣ１がマスタストレージであり、Ｂ国のＤＣ２がバックアップストレージであり、Ｃ国のＤＣ３がリザーブストレージであるとする。なお、Ａ国のＤＣ１の管理サーバ１６は「リード」であるとする。
【００３１】
図３Ａに示すように、Ａ国とＢ国が日照時間帯であるので、Ａ国のＤＣ１およびＢ国のＤＣ２のＶＭ運用設備１５，２５が稼働する。Ｃ国は日没時間帯であるので、Ｃ国のＤＣ３のＶＭ運用設備３５は停止する。Ａ国のＤＣ１で、ＶＭ（Ａ）は、Ｉ／Ｏ（Input/Output）処理を実行し、ストレージ装置１５３のマスタ格納ボリューム１０１の仮想ディスクにデータが書き込まれる。そして、管理部１６１は、書き込まれた更新データをバックアップデータとして、Ｂ国のＤＣ２のバックアップ格納ボリューム２０２の仮想ディスクにリモートコピーする。これにより、マスタ格納ボリューム１０１およびバックアップ格納ボリューム２０２のＶＭ（Ａ）についてのデータは、冗長化される。すなわち、マスタストレージの役割を担うＡ国のＤＣ１がＶＭ（Ａ）を運用し、バックアップストレージの役割を担うＢ国のＤＣ２が更新されたデータをバックアップデータとして保存する。
【００３２】
図３Ｂに示すように、Ａ国は日没時間帯であるので、Ａ国のＤＣ１のＶＭ運用設備１５は停止する。Ｂ国とＣ国が日照時間帯であるので、Ｂ国のＤＣ２およびＣ国のＤＣ３のＶＭ運用設備２５，３５が稼働する。管理部１６１は、ＶＭ（Ａ）を、Ａ国のＤＣ１からＢ国のＤＣ２に運用移行させる。運用移行時点では、バックアップ格納ボリューム２０２のＶＭ（Ａ）についての仮想ディスクは、マスタ格納ボリューム１０１の仮想ディスクと等価である。そして、Ｂ国のＤＣ２で、ＶＭ（Ａ）は、Ｉ／Ｏ処理を実行し、ストレージ装置２５３のバックアップ格納ボリューム２０２（ここでは、バックアップ２）にデータが書き込まれる。すなわち、書き込まれた更新データは、差分データとして、バックアップ格納ボリューム２０２のバックアップ１と別の領域であるバックアップ２に保存される。そして、管理部１６１は、管理部２６１を介して、保存された差分データを、Ｃ国のＤＣ３のリザーブ格納ボリューム３０３にリモートコピーする。これにより、ＶＭ（Ａ）について、バックアップ格納ボリューム２０２の差分データおよびリザーブ格納ボリューム３０３の差分データは、冗長化される。すなわち、バックアップストレージの役割を担うＢ国のＤＣ２がＶＭを運用し、リザーブストレージの役割を担うＣ国のＤＣ３が更新されたデータをリザーブデータとして保存する。
【００３３】
図３Ｃに示すように、Ａ国とＣ国が日照時間帯であるので、Ａ国のＤＣ１およびＣ国のＤＣ３のＶＭ運用設備１５，３５が稼働する。Ｂ国は日没時間帯であるので、Ｂ国のＤＣ２のＶＭ運用設備２５は停止する。管理部１６１は、ＶＭ（Ａ）を、Ｂ国のＤＣ２からＡ国のＤＣ１に運用移行する。運用移行時点では、バックアップ格納ボリューム２０２のＶＭ（Ａ）についての仮想ディスクは、マスタ格納ボリューム１０１の仮想ディスクと等価である。そして、Ａ国のＤＣ１で、ＶＭ（Ａ）は、Ｉ／Ｏ処理を実行し、ストレージ装置１５３のマスタ格納ボリューム１０１（ここでは、マスタ２）にデータが書き込まれる。すなわち、書き込まれた更新データは、差分データとして、マスタ格納ボリューム１０１のマスタ１と別の領域であるマスタ２に保存される。そして、管理部１６１は、書き込まれた更新データを、管理部３６１を介して、Ｃ国のＤＣ３のリザーブ格納ボリューム３０３にリモートコピーする。これにより、ＶＭ（Ａ）について、マスタ格納ボリューム１０１の差分データおよびリザーブ格納ボリューム３０３の差分データは、冗長化される。すなわち、マスタストレージの役割を担うＡ国のＤＣ１がＶＭを運用し、リザーブストレージの役割を担うＣ国のＤＣ３が更新されたデータをリザーブデータとして保存する。
【００３４】
また、ＶＭ（Ａ）について、ＤＣ間でＶＭを移行する処理の概要を、図４Ａ〜図４Ｂを参照して説明する。図４Ａは、マスタストレージからバックアップストレージへＶＭを移行する場合を示す図である。図４Ｂは、バックアップストレージからマスタストレージへＶＭを移行する場合を示す図である。ＶＭ（Ａ）について、Ａ国のＤＣ１がマスタストレージであり、Ｂ国のＤＣ２がバックアップストレージであり、Ｃ国のＤＣ３がリザーブストレージであるとする。なお、Ａ国のＤＣ１の管理サーバ１６は「リード」であるとする。
【００３５】
図４Ａでは、日照時間帯がＢ国、Ｃ国になり、日没時間帯がＡ国になった場合とする。図４Ａに示すように、Ａ国のＤＣ１は、日没時間帯となったので、ＶＭ（Ａ）の運用移行を開始する。管理部１６１は、管理部３６１を介して、停止中であったＣ国のＤＣ３のＶＭ運用設備３５を起動する（Ｓ２０１）。そして、管理部１６１は、運用しているＶＭ（Ａ）を停止させる（Ｓ２０２）。すると、ＶＭ（Ａ）は、実行していたＩ／Ｏ処理を完了し（Ｓ２０３）、仕掛中の更新データを、Ｂ国のＤＣ２のバックアップ格納ボリューム２０２の仮想ディスクにコピーする（Ｓ２０４）。そして、管理部１６１は、ネットワークの設定を変更すべく、ＤＮＳ（Domain  Name  System）の登録変更をする（Ｓ２０５）。
【００３６】
続いて、管理部１６１は、ＤＣ間でＶＭ（Ａ）を移行すべく、Ｂ国のＤＣ２に対して、ＶＭ（Ａ）の起動を通知する（Ｓ２０６）。すると、Ｂ国のＤＣ２で、ＶＭ（Ａ）は、Ｉ／Ｏ処理を開始し、ストレージ装置２５３のバックアップ格納ボリューム２０２（ここでは、バックアップ２）にデータを書き込む。そして、ＶＭ（Ａ）は、書き込んだ更新データを仮想ディスク上のデータの差分データとして、バックアップ格納ボリューム２０２のバックアップ２に保存する。そして、管理部２６１は、保存された差分データについて、Ｃ国のＤＣ３のリザーブ格納ボリューム３０３へリモートコピーを開始（起動）する（Ｓ２０７）。これにより、バックアップストレージの役割を担うＢ国のＤＣ２で、ＶＭ（Ａ）の運用が開始される。
【００３７】
その後、Ｂ国のＤＣ２で、ＶＭ（Ａ）の運用が開始されると、管理部１６１は、稼働中のＡ国のＤＣ１のＶＭ運用設備１５を停止させる（Ｓ２０８）。この結果、管理部１６１は、運用移行時に、仕掛中の更新データだけをバックアップストレージの仮想ディスクにコピーすることで、ＶＭ（Ａ）を移行する期間を短縮できる。
【００３８】
図４Ｂでは、日照時間帯がＡ国、Ｃ国になり、日没時間帯がＢ国になった場合とする。図４Ｂに示すように、Ａ国のＤＣ１は、日照時間帯となったので、Ｂ国のＤＣ２からのＶＭ（Ａ）の運用移行を開始する。管理部１６１は、Ａ国のＤＣ１のＶＭ運用設備１５を起動する（Ｓ２１１）。すると、管理部１６１は、リザーブストレージからマスタストレージへのコピー起動を指示し、管理部３６１は、リザーブデータとして保存された差分データについて、Ａ国のＤＣ１のマスタ格納ボリューム１０１（ここでは、マスタ２）へのリモートコピーを開始（起動）する（Ｓ２１２）。そして、管理部１６１は、Ｂ国のＤＣ２で運用しているＶＭ（Ａ）を停止させる（Ｓ２１３）。すると、Ｂ国のＤＣ２で、ＶＭ（Ａ）は、実行していたＩ／Ｏ処理を完了し（Ｓ２１４）、仕掛中の更新データをストレージ装置２５３のバックアップ格納ボリューム２０２（ここでは、バックアップ２）に書き込む。すなわち、書き込まれた更新データは、差分データとして、バックアップ格納ボリューム２０２のバックアップ１と別の領域であるバックアップ２に保存される。
【００３９】
続いて、管理部２６１は、管理部３６１を介して、保存された差分データを、Ｃ国のＤＣ３のストレージ装置３５３のリザーブ格納ボリューム３０３にリモートコピーする（Ｓ２１５）。そして、管理部３６１は、差分データをＡ国のＤＣ１のマスタ格納ボリューム１０１（ここでは、マスタ２）にリモートコピーし、コピーを完了する（Ｓ２１６）。これにより、バックアップストレージの差分データとマスタストレージの差分データは等価になる。
【００４０】
続いて、管理部１６１は、マスタ格納ボリューム１０１（ここでは、マスタ１）の仮想ディスクへマスタ２の差分データを反映する（Ｓ２１７）。そして、管理部１６１は、ネットワークの設定を変更すべく、ＤＮＳの登録変更をする（Ｓ２１８）。
【００４１】
続いて、管理部１６１は、ＤＣ間でＶＭ（Ａ）を移行させるべく、Ａ国のＤＣ１に対して、ＶＭ（Ａ）を起動させる（Ｓ２１９）。すると、Ａ国のＤＣ１で、ＶＭ（Ａ）は、Ｉ／Ｏ処理を開始し、ストレージ装置１５３のマスタ格納ボリューム１０１（ここでは、マスタ２）にデータを書き込む。そして、ＶＭ（Ａ）は、書き込んだ更新データを仮想ディスク上のデータの差分データとして保存する。そして、管理部１６１は、保存された差分データについて、Ｃ国のＤＣ３のリザーブ格納ボリューム３０３へのリモートコピーを開始（起動）する。これにより、マスタストレージの役割を担うＡ国のＤＣ１で、ＶＭ（Ａ）の運用が開始される。
【００４２】
さらに、管理部１６１は、管理部２６１を介して、Ｂ国のＤＣ２のバックアップ１の仮想ディスクへバックアップ２の差分データを反映する（Ｓ２２０）。そして、管理部１６１は、管理部２６１を介して、稼働中のＢ国のＤＣ２のＶＭ運用設備２５を停止する（Ｓ２２１）。これにより、管理部１６１は、運用移行時に、リザーブストレージの差分データだけをマスタストレージの差分データにコピーすることで、ＶＭ（Ａ）を移行する期間を短縮できる。
【００４３】
次に、ＤＣ１における仮想マシン（ＶＭ）とＶＭによって処理されるデータの保存先ボリュームとの関係を、図５を参照して説明する。図５は、仮想マシンとデータ保存先ボリュームの関係を示す図である。図５では、仮想マシン１５４には、ＶＭ００１、ＶＭ００２およびＶＭ００３があるとして説明する。ＤＣ１のＶＭ毎のストレージとしての役割は、ＶＭ００１についてマスタストレージであり、ＶＭ００２についてバックアップストレージであり、ＶＭ００３についてリザーブストレージであるとする。
【００４４】
図５に示すように、ＶＭ００１およびＶＭ００２が運用中である。ＶＭ００１は、ＤＣ１をマスタストレージの役割として使用するので、Ｉ／Ｏ処理を実行すると、処理されたデータを、ストレージ装置１５３のマスタ格納ボリューム１０１に書き込む。ＶＭ００２は、ＤＣ１をバックアップストレージの役割として使用するので、Ｉ／Ｏ処理を実行すると、処理されたデータを、ストレージ装置１５３のバックアップ格納ボリューム１０２に書き込む。ＶＭ００３は、ＤＣ１をリザーブストレージの役割として使用するので、ＶＭ００３について他のＤＣ２で処理されたデータが差分データとしてリザーブ格納ボリューム１０３に書き込まれる。
【００４５】
次に、ストレージステータステーブル１６４のデータ構造を、図６Ａを参照して説明する。図６Ａは、ストレージステータステーブルのデータ構造の一例を示す図である。図６Ａに示すように、ストレージステータステーブル１６４は、ストレージ役割をそれぞれマスタ１６４ｂ、バックアップ１６４ｃ、リザーブ１６４ｄとするＤＣ拠点を仮想マシン名１６４ａに対応付けて記憶する。また、ストレージステータステーブル１６４は、マスタ１６４ｅ、バックアップ１６４ｆ、リザーブ１６４ｇをストレージ役割とするＤＣの稼働状態を仮想マシン名１６４ａ毎に記憶する。
【００４６】
一例として、仮想マシン名１６４ａが「ＶＭ００１」である場合、ストレージ役割をマスタ１６４ｂとするＤＣ拠点を「日本」、バックアップ１６４ｃとするＤＣ拠点を「ドイツ」、リザーブ１６４ｄとするＤＣ拠点を「アメリカ」と記憶している。そして、マスタ１６４ｅをストレージ役割とするＤＣの稼働状態を「稼働」、バックアップ１６４ｆをストレージ役割とするＤＣの稼働状態を「稼働」、リザーブ１６４ｇをストレージ役割とするＤＣの稼働状態を「停止」と記憶している。
【００４７】
次に、ＤＣ電力ステータステーブル１６５のデータ構造を、図６Ｂを参照して説明する。図６Ｂは、ＤＣ電力ステータステーブルのデータ構造の一例を示す図である。図６Ｂに示すように、ＤＣ電力ステータステーブル１６５は、測定値を示す消費電力量１６５ｂおよび発電量１６５ｃ、ＶＭ登録数１６５ｄ、電力単価１６５ｅ、電力コストを示す移行前１６５ｆおよび移行後１６５ｇを、ＤＣ名１６５ａに対応付けて記憶する。ＤＣ名１６５ａは、ＤＣの名称を示す。消費電力量１６５ｂは、ＤＣ名１６５ａが示すＤＣで消費された電力量を示す。発電量１６５ｃは、ＤＣ名１６５ａが示すＤＣで発電された発電量を示す。ＶＭ登録数１６５ｄは、ＤＣ名１６５ａが示すＤＣで運用するＶＭの数を示す。電力単価１６５ｅは、ＤＣ名１６５ａが示すＤＣで電力を使用した場合の単価を示す。移行前１６５ｆは、移行前にかかった電力コストを示す。移行後１６５ｇは、移行後にかかった電力コストを示す。
【００４８】
一例として、ＤＣ名１６５ａが「日本」である場合、消費電力量１６５ｂとして「２６０ＭＷｈ（megawatt−hour）」、発電量１６５ｃとして「２００ＭＷｈ」、ＶＭ登録数１６５ｄとして「５００」、電力単価１６５ｅとして「＄１８０／ＭＷｈ」を記憶している。移行前１６５ｆの電力コストとして「＄４６８００」、移行後１６５ｇの電力コストとして「--」を記憶している。
【００４９】
次に、ＤＣ基本電力量テーブル１６６のデータ構造を、図６Ｃを参照して説明する。図６Ｃは、ＤＣ基本電力量テーブルのデータ構造の一例を示す図である。図６Ｃに示すように、ＤＣ基本電力量テーブル１６６は、物理サーバの稼働数に応じた基本電力量をＤＣ名１６６ａに対応付けて記憶する。一例として、ＤＣ名１６６ａが「日本」である場合、１物理サーバ１６６ｂとして「２６ＭＷ（megawatt）」、２物理サーバ１６６ｃとして「３
１ＭＷ」、３物理サーバ１６６ｄとして「３６ＭＷ」、ｎ物理サーバ１６６ｎとして「ｘｘｘＭＷ」を記憶している。
【００５０】
［ＤＣ管理処理のシーケンス］
次に、管理サーバ１６が「リード」であるとした場合の管理部１６１によるＤＣ管理処理のシーケンスを、図７Ａ〜図７Ｄを参照して説明する。図７Ａ〜図７Ｄは、実施例に係るＤＣ管理処理のシーケンスを示す図である。なお、図７Ａ〜図７Ｄでは、日本ＤＣをＤＣ１とし、ドイツＤＣをＤＣ２とし、アメリカＤＣをＤＣ３として説明する。
【００５１】
日本ＤＣ１の管理サーバ１６では、管理部１６１が、ドイツＤＣ２の管理サーバ２６およびアメリカＤＣ３の管理サーバ３６へ、リードの管理サーバであることを宣言する（ステップＳ１１）。そして、管理部１６１は、導入設定処理を実行する（ステップＳ１２）。なお、導入設定処理では、仮想マシン「ＶＭ００１」について、マスタストレージの役割を日本ＤＣ１と設定し、バックアップストレージの役割をドイツＤＣ２と設定し、リザーブストレージとしての役割をアメリカＤＣ３と設定したとする。仮想マシン「ＶＭ００２」について、マスタストレージの役割をアメリカＤＣ３と設定し、バックアップストレージの役割を日本ＤＣ１と設定し、リザーブストレージとしての役割をドイツＤＣ２と設定したとする。仮想マシン「ＶＭ００３」について、マスタストレージの役割をドイツＤＣ２と設定し、バックアップストレージの役割をアメリカＤＣ３と設定し、リザーブストレージとしての役割を日本ＤＣ１と設定したとする。導入設定処理の詳細は、後述する。
【００５２】
ここで、日本、ドイツが日照時間帯であり、アメリカが日没時間帯であるとする。すると、管理部１６１は、日本ＤＣ１からドイツＤＣ２へ、仮想ディスクに書き込まれた更新データ、差分データのリモートコピー処理を開始する（ステップＳ１３）。例えば、「ＶＭ００１」がＩ／Ｏ処理を実行すると、ストレージ装置１５３のマスタ格納ボリューム１０１の仮想ディスクにデータが書き込まれる。すると、管理部１６１は、管理部２６１を介して、書き込まれた更新データを、ドイツＤＣ２のバックアップ格納ボリューム２０２の仮想ディスクにリモートコピーする。「ＶＭ００２」がＩ／Ｏ処理を実行すると、ストレージ装置１５３のバックアップ格納ボリューム１０２に差分データとしてデータが書き込まれる。そして、管理部１６１は、管理部２６１を介して、書き込まれた差分データを、ドイツＤＣ２のリザーブ格納ボリューム２０３にリモートコピーする。
【００５３】
そして、管理部１６１は、ドイツＤＣ２の管理サーバ２６に対し、ドイツＤＣ２から日本ＤＣ１に対するリモートコピー処理の開始を指示する（ステップＳ１４）。例えば、ドイツＤＣ２で、「ＶＭ００３」がＩ／Ｏ処理を実行すると、ストレージ装置２５３のマスタ格納ボリューム２０１の仮想ディスクにデータが書き込まれる。そして、管理サーバ２６の管理部２６１は、書き込まれた更新データを、日本ＤＣ１のバックアップ格納ボリューム１０２の仮想ディスクにリモートコピーする。
【００５４】
そして、管理部１６１は、日本ＤＣ１で稼働するＶＭ（アメリカＤＣ３のＶＭを含む）を起動（運用開始）する（ステップＳ１５）。ここでは、日本ＤＣ１で稼働するＶＭは、「ＶＭ００１」および「ＶＭ００２」である。そして、管理部１６１は、ドイツＤＣ２の管理サーバ２６に対して、ドイツＤＣ２で稼働するＶＭの起動を通知する（ステップＳ１５Ａ）。
【００５５】
ここで、日本が徐々に日没時間帯になり、ドイツおよびアメリカが日照時間帯になるとする。管理部１６１は、ＤＣの運用に伴う電力コストの比較を開始し（ステップＳ１６）、ＤＣ電力コスト比較処理を実行する（ステップＳ１７）。なお、ＤＣ電力コスト比較処理の詳細は、後述する。
【００５６】
そして、管理部１６１は、ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高いか否かを判定する（ステップＳ１８）。ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高くないと判定した場合（ステップＳ１８；Ｎｏ）、管理部１６１は、判定処理を繰り返すべく、ステップＳ１７に遷移する。
【００５７】
一方、ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高いと判定した場合（ステップＳ１８；Ｙｅｓ）、管理部１６１は、ＶＭが移行された場合の移行後のＤＣに移行処理を開始する。すなわち、管理部１６１は、アメリカＤＣ３の管理サーバ３６へ、ＶＭ運用設備３５の起動を通知し（ステップＳ１９）、ＶＭなどの移行を開始する（ステップＳ２０）。
【００５８】
そして、管理部１６１は、マスタストレージの移行処理を実行する（ステップＳ２１）。すなわち、管理部１６１は、ＶＭ運用設備１５が停止される日本ＤＣ１のストレージ役割がマスタであるＶＭの移行処理を実行する。そして、管理部１６１は、バックアップストレージの移行処理を実行する（ステップＳ２２）。すなわち、管理部１６１は、ＶＭ運用設備１５が停止される日本ＤＣ１のストレージ役割がバックアップであるＶＭの移行処理を実行する。なお、マスタストレージの移行処理およびバックアップストレージの移行処理の詳細は、後述する。そして、管理部１６１は、日本ＤＣ１のＶＭ運用設備１５を停止する（ステップＳ２３）。
【００５９】
ここで、ドイツが徐々に日没時間帯になり、アメリカおよび日本が日照時間帯になるとする。管理部１６１は、ＤＣの運用に伴う電力コストの比較を開始し（ステップＳ２４）、ＤＣ電力コスト比較処理を実行する（ステップＳ２５）。
【００６０】
そして、管理部１６１は、ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高いか否かを判定する（ステップＳ２６）。ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高くないと判定した場合（ステップＳ２６；Ｎｏ）、管理部１６１は、判定処理を繰り返すべく、ステップＳ２５に遷移する。
【００６１】
一方、ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高いと判定した場合（ステップＳ２６；Ｙｅｓ）、管理部１６１は、ＶＭが移行された場合の移行後のＤＣに移行処理を開始する。すなわち、管理部１６１は、日本ＤＣ１のＶＭ運用設備１５の起動を通知し（ステップＳ２７）、移行開始を通知する（ステップＳ２８）。
【００６２】
そして、管理部１６１は、ドイツＤＣ２に対するマスタストレージの移行処理を実行する（ステップＳ２９）。すなわち、管理部１６１は、ＶＭ運用設備２５が停止されるドイツＤＣ２のストレージ役割がマスタであるＶＭの移行処理を実行する。そして、管理部１６１は、バックアップストレージの移行処理を実行する（ステップＳ３０）。すなわち、管理部１６１は、ＶＭ運用設備２５が停止されるドイツＤＣ２のストレージ役割がバックアップであるＶＭの移行処理を実行する。そして、管理部１６１は、ドイツＤＣ２の管理サーバ２６へドイツＤＣ２のＶＭ運用設備２５の停止指示を通知する（ステップＳ３１）。
【００６３】
ここで、アメリカが徐々に日没時間帯になり、日本およびドイツが日照時間帯になるとする。管理部１６１は、ＤＣの運用に伴う電力コストの比較を開始し（ステップＳ３２）、ＤＣ電力コスト比較処理を実行する（ステップＳ３３）。
【００６４】
そして、管理部１６１は、ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高いか否かを判定する（ステップＳ３４）。ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高くないと判定した場合（ステップＳ３４；Ｎｏ）、管理部１６１は、判定処理を繰り返すべく、ステップＳ３３に遷移する。
【００６５】
一方、ＶＭを移行する前の稼働中のＤＣの電力コストが、ＶＭが移行された場合の移行後のＤＣの電力コストより高いと判定した場合（ステップＳ３４；Ｙｅｓ）、管理部１６１は、ＶＭが移行された場合の移行後のＤＣに移行処理を開始する。すなわち、管理部１６１は、ドイツＤＣ２の管理サーバ２６へドイツＤＣ２のＶＭ運用設備２５の起動指示を通知し（ステップＳ３５）、移行開始を通知する（ステップＳ３６）。
【００６６】
そして、管理部１６１は、アメリカＤＣ３に対するマスタストレージの移行処理を実行する（ステップＳ３７）。すなわち、管理部１６１は、ＶＭ運用設備３５が停止されるアメリカＤＣ３のストレージ役割がマスタであるＶＭの移行処理を実行する。そして、管理部１６１は、バックアップストレージの移行処理を実行する（ステップＳ３８）。すなわち、管理部１６１は、ＶＭ運用設備３５が停止されるアメリカＤＣ３のストレージ役割がバックアップであるＶＭの移行処理を実行する。そして、管理部１６１は、アメリカＤＣ３の管理サーバ３６へアメリカＤＣ３のＶＭ運用設備３５の停止指示を通知する（ステップＳ３９）。このように、管理部１６１は、ＤＣの拠点がそれぞれ日没時間帯になると、ＤＣの移行処理を実行する。
【００６７】
［導入設定処理のシーケンス］
次に、管理部１６１による導入設定処理のシーケンスを、図８Ａ〜図８Ｄを参照して説明する。図８Ａ〜図８Ｄは、導入設定処理のシーケンスを示す図である。なお、図８Ａ〜図８Ｄでは、日本ＤＣをＤＣ１とし、ドイツＤＣをＤＣ２とし、アメリカＤＣをＤＣ３として説明する。また、図８Ａ〜図８Ｄでは、日本ＤＣ１の管理サーバ１６がリードであるとする。
【００６８】
管理部１６１は、ストレージステータステーブル１６４を記憶領域に生成する（ステップＳ４１）。そして、管理部１６１は、例えばシステム管理者によって入力されたＶＭの名称をストレージステータステーブル１６４の仮想マシン名１６４ａに登録する。そして、管理部１６１は、ＶＭ毎に、マスタストレージを設定する（ステップＳ４２）。すなわち、管理部１６１は、ストレージ役割をマスタストレージとするＤＣを、ＶＭ毎に設定する。ストレージ役割をマスタストレージとするＤＣは、ＶＭを主に利用する拠点である。
【００６９】
そして、管理部１６１は、ＶＭ毎に、各ＤＣのストレージ役割（バックアップ／リザーブ）をストレージステータステーブル１６４へ反映する（ステップＳ４３）。例えば、仮想マシン名１６４ａに「ＶＭ００１」、「ＶＭ００２」、「ＶＭ００３」が登録されたとする。管理部１６１は、「ＶＭ００１」に対して、ストレージ役割をマスタ１６４ｂとするＤＣ拠点を「日本」に設定する。すると、管理部１６１は、日照の時間順序に応じて、ストレージ役割をバックアップ１６４ｃとするＤＣ拠点を「ドイツ」、ストレージ役割をリザーブ１６４ｄとするＤＣ拠点を「アメリカ」に設定する。同様に、管理部１６１は、「ＶＭ００２」に対して、ストレージ役割をマスタ１６４ｂとするＤＣ拠点を「アメリカ」に設定する。すると、管理部１６１は、日照の時間順序に応じて、ストレージ役割をバックアップ１６４ｃとするＤＣ拠点を「日本」、ストレージ役割をリザーブ１６４ｄとするＤＣ拠点を「ドイツ」に設定する。
【００７０】
続いて、管理部１６１は、ＤＣ電力ステータステーブル１６５を記憶領域に生成する（ステップＳ４４）。そして、管理部１６１は、例えばシステム管理者によって入力された各ＤＣの電力単価の値をＤＣ電力ステータステーブル１６５の電力単価１６５ｅに登録する（ステップＳ４５）。
【００７１】
続いて、管理部１６１は、日本ＤＣ１のＶＭ運用に必要なＶＭ運用設備１５を起動する（ステップＳ４６）。ＶＭ運用設備１５には、例えば、電源設備、空調設備および物理サーバが含まれる。そして、管理部１６１は、日本ＤＣ１のストレージ装置１５３へマスタストレージの格納ボリューム（マスタ格納ボリューム１０１）を作成する（ステップＳ４７）。管理部１６１は、日本ＤＣ１のストレージ装置１５３へバックアップストレージ（仮想ディスク、差分データ）の格納ボリューム（バックアップ格納ボリューム１０２）を作成する（ステップＳ４８）。管理部１６１は、日本ＤＣ１のストレージ装置１５３へリザーブストレージ（差分データ）の格納ボリューム（リザーブ格納ボリューム１０３）を作成する（ステップＳ４９）。
【００７２】
続いて、管理部１６１は、ドイツＤＣ２のＶＭ運用に必要なＶＭ運用設備２５の起動指示をドイツＤＣ２の管理サーバ２６に通知する（ステップＳ５０）。すると、ドイツＤＣ２の管理サーバ２６では、管理部２６１が、ＶＭ運用設備２５を起動する（ステップＳ５１）。
【００７３】
そして、管理部２６１からＶＭ運用設備２５の起動完了が通知されると、管理部１６１は、ドイツＤＣ２の管理サーバ２６へ、マスタ、バックアップ、リザーブの格納ボリューム作成を指示する（ステップＳ５２）。すると、管理サーバ２６では、管理部２６１が、ドイツＤＣ２のストレージ装置２５３へマスタストレージの格納ボリューム（マスタ格納ボリューム２０１）を作成する（ステップＳ５３）。管理部２６１は、ドイツＤＣ２のストレージ装置２５３へバックアップストレージ（仮想ディスク、差分データ）の格納ボリューム（バックアップ格納ボリューム２０２）を作成する（ステップＳ５４）。管理部２６１は、ドイツＤＣ２のストレージ装置２５３へリザーブストレージ（差分データ）の格納ボリューム（リザーブ格納ボリューム２０３）を作成する（ステップＳ５５）。そして、管理部２６１は、リードの管理サーバ１６へ格納ボリュームの作成完了を通知する（ステップＳ５６）。
【００７４】
続いて、管理部１６１は、アメリカＤＣ３のＶＭ運用に必要なＶＭ運用設備３５の起動指示をアメリカＤＣ３の管理サーバ３６に通知する（ステップＳ５７）。すると、アメリカＤＣ３の管理サーバ３６では、管理部３６１が、ＶＭ運用設備３５を起動する（ステップＳ５８）。
【００７５】
そして、管理部３６１からＶＭ運用設備３５の起動完了が通知されると、管理部１６１は、アメリカＤＣ３の管理サーバ３６へ、マスタ、バックアップ、リザーブの格納ボリューム作成を指示する（ステップＳ５９）。すると、管理サーバ３６では、管理部３６１が、アメリカＤＣ３のストレージ装置３５３へマスタストレージの格納ボリューム（マスタ格納ボリューム３０１）を作成する（ステップＳ６０）。管理部３６１は、アメリカＤＣ３のストレージ装置３５３へバックアップストレージ（仮想ディスク、差分データ）の格納ボリューム（バックアップ格納ボリューム３０２）を作成する（ステップＳ６１）。管理部３６１は、アメリカＤＣ３のストレージ装置３５３へリザーブストレージ（差分データ）の格納ボリューム（リザーブ格納ボリューム３０３）を作成する（ステップＳ６２）。そして、管理部３６１は、リードの管理サーバ１６へ格納ボリュームの作成完了を通知する（ステップＳ６３）。
【００７６】
そして、管理部１６１は、ＤＣ基本電力量テーブル１６６を記憶領域に生成する（ステップＳ６４）。そして、管理部１６１は、物理サーバの稼働数に応じた各ＤＣの基本電力量をＤＣ基本電力量テーブル１６６へ反映する（ステップＳ６５）。例えば、管理部１６１は、システム管理者によって入力された各ＤＣの基本電力量をＤＣ基本電力量テーブル１６６へ設定する。そして、管理部１６１は、導入設定処理を終了する。
【００７７】
［ＤＣ電力コスト比較処理のシーケンス］
次に、管理部１６１によるＤＣ電力コスト比較処理のシーケンスを、図９Ａ〜図９Ｂを参照して説明する。図９Ａ〜図９Ｂは、ＤＣ電力コスト比較処理のシーケンスを示す図である。なお、図９Ａ〜図９Ｂでは、日本ＤＣを停止ＤＣとし、ドイツＤＣを継続ＤＣとし、アメリカＤＣを起動ＤＣとして説明する。停止ＤＣとは、現在稼働中のＤＣであるが、日没により運用を停止することを意味する。継続ＤＣとは、現在稼働中のＤＣであり、運用を継続することを意味する。起動ＤＣとは、現在停止中のＤＣであるが、日の出に伴い運用を開始することを意味する。また、図９Ａ〜図９Ｂでは、日本ＤＣの管理サーバ１６がリードであるとする。
【００７８】
管理部１６１は、停止ＤＣの電力量計１４から消費電力量を測定し、測定結果と電力単価から停止ＤＣの電力コストを算出する（ステップＳ７１）。そして、管理部１６１は、停止ＤＣの消費電力量１６５ｂと電力コスト（移行前１６５ｆ）をＤＣ電力ステータステーブル１６５へ反映する（ステップＳ７２）。
【００７９】
続いて、管理部１６１は、継続ＤＣの管理サーバ２６へ、消費電力量と電力コストの算出指示を行う（ステップＳ７３）。継続ＤＣの管理サーバ２６では、管理部２６１が、継続ＤＣの電力量計２４から消費電力量を測定し、測定結果と電力単価から継続ＤＣの電力コストを算出する（ステップＳ７４）。そして、管理部２６１は、消費電力量と電力コストをリードの管理サーバ１６へ送信する（ステップＳ７５）。
【００８０】
そして、管理サーバ１６の管理部１６１は、継続ＤＣの消費電力量１６５ｂと電力コスト（移行前１６５ｆ）をＤＣ電力ステータステーブル１６５へ反映する（ステップＳ７６）。
【００８１】
そして、管理サーバ１６の管理部１６１は、ストレージステータステーブル１６４を参照し、各ＤＣのＶＭ登録数（マスタストレージ数）をカウントする。そして、管理部１６１は、カウントしたマスタストレージ数をＤＣ電力ステータステーブル１６５のＶＭ登録数１６５ｄへ反映する（ステップＳ７７）。
【００８２】
そして、管理部１６１は、ＤＣ電力ステータステーブル１６５およびＤＣ基本電力量テーブル１６６を参照し、継続ＤＣで稼働が想定されるＶＭ登録数に応じた電力コストを算出する。そして、管理部１６１は、ＤＣ電力ステータステーブル１６５の電力コスト（移行後１６５ｇ）へ反映する（ステップＳ７８）。例えば、管理部１６１は、以下の式（１）に基づいて、継続ＤＣの移行後の電力コストを算出する。
電力コスト（＄）＝｛継続ＤＣのＶＭ登録数（マスタ＋バックアップ）に応じた基本電力量−継続ＤＣの発電量｝×継続ＤＣの電力単価・・・式（１）
【００８３】
続いて、管理部１６１は、起動ＤＣの管理サーバ３６へ起動ＤＣの発電量の測定指示を行う（ステップＳ７９）。起動ＤＣの管理サーバ３６では、管理部３６１が、測定した発電量をリードの管理サーバ１６へ送信する（ステップＳ８０）。そして、管理サーバ１６の管理部１６１は、起動ＤＣの発電量をＤＣ電力ステータステーブル１６５の発電量１６５ｃへ反映する（ステップＳ８１）。
【００８４】
そして、管理部１６１は、ＤＣ電力ステータステーブル１６５およびＤＣ基本電力量テーブル１６６を参照し、起動ＤＣで稼働が想定されるＶＭ登録数に応じた電力コストを算出する。そして、管理部１６１は、ＤＣ電力ステータステーブル１６５の電力コスト（移行後１６５ｇ）へ反映する（ステップＳ８２）。例えば、管理部１６１は、以下の式（２）に基づいて、起動ＤＣの移行後の電力コストを算出する。
電力コスト（＄）＝｛起動ＤＣのＶＭ登録数（マスタ＋バックアップ）に応じた基本電力量−起動ＤＣの発電量｝×起動ＤＣの電力単価・・・式（２）
【００８５】
そして、管理部１６１は、ＤＣ電力ステータステーブル１６５を参照し、移行前電力コストおよび移行後電力コストを算出する（ステップＳ８３）。例えば、管理部１６１は、移行前電力コストとして、ＤＣ電力ステータステーブル１６５の移行前１６５ｆの各電力コストを加算する。管理部１６１は、移行後電力コストとして、ＤＣ電力ステータステーブル１６５の移行後１６５ｇの各電力コストを加算する。
【００８６】
そして、管理部１６１は、算出した、移行前電力コストおよび移行後電力コストを戻して、ＤＣ電力コスト比較処理を終了する。
【００８７】
［マスタストレージの移行処理のシーケンス］
次に、管理部１６１によるマスタストレージの移行処理のシーケンスを、図１０Ａ〜図１０Ｄを参照して説明する。図１０Ａ〜図１０Ｄは、マスタストレージの移行処理のシーケンスを示す図である。なお、図１０Ａ〜図１０Ｄでは、一例として、ＶＭ運用設備が停止される日本ＤＣのストレージ役割がマスタであるＶＭの移行処理について説明する。したがって、日本ＤＣを停止ＤＣとし、ドイツＤＣを継続ＤＣとし、アメリカＤＣを起動ＤＣとして説明する。ここで、停止ＤＣとは、現在稼働中のＤＣであるが、日没により運用を停止することを意味する。継続ＤＣとは、現在稼働中のＤＣであり、運用を継続することを意味する。起動ＤＣとは、現在停止中のＤＣであるが、日の出に伴い運用を開始することを意味する。また、図１０Ａ〜図１０Ｄでは、日本ＤＣの管理サーバ１６がリードであるとする。また、説明の便宜上、対象ＶＭは１つであるとし、このＶＭについて、日本ＤＣがマスタストレージの役割を担い、ドイツＤＣがバックアップストレージの役割を担い、アメリカＤＣがリザーブストレージの役割を担うものとする。
【００８８】
管理部１６１は、継続ＤＣの管理サーバ２６へバックアップストレージ（バックアップ格納ボリューム２０２）のリモートコピー起動を通知する（ステップＳ９１）。すると、継続ＤＣの管理サーバ２６では、管理部２６１が、起動ＤＣの管理サーバ３６へリザーブストレージ（リザーブ格納ボリューム３０３）の初期化を通知する（ステップＳ９２）。
【００８９】
起動ＤＣの管理サーバ３６では、管理部３６１が、ストレージ装置３５３へリザーブストレージに割り当てたリザーブ格納ボリューム３０３のフォーマットを指示する（ステップＳ９３）。すると、ストレージ装置３５３は、ストレージ格納ボリューム３０３のフォーマットを実行する（ステップＳ９４）。そして、管理サーバ３６は、継続ＤＣの管理サーバ２６へリザーブ格納ボリューム３０３のフォーマット完了を通知する（ステップＳ９５）。
【００９０】
継続ＤＣの管理サーバ２６では、管理部２６１が、リードの管理サーバ１６へリモートコピーの準備完了を通知する（ステップＳ９６）。
【００９１】
リードの管理サーバ１６では、管理部１６１が、ハイパーバイザー１５２ａの管理プログラム（以下、ＨＶ管理ソフト）を介して、停止ＤＣをマスタストレージに定義したＶＭを停止する（ステップＳ９７）。ＨＶ管理ソフトは、一例として、ハイパーバイザー管理プログラム１６１Ｃである。例えば、管理部１６１は、マスタストレージとして定義された停止ＤＣのＶＭを、ストレージステータステーブル１６４を参照して取得する。そして、管理部１６１は、停止ＤＣについて、ストレージステータステーブル１６４のＶＭに対応する稼働状態１６４ｅを、「稼働」から「停止」に変更する（ステップＳ９８）。
【００９２】
続いて、管理部１６１は、停止ＤＣのマスタストレージから継続ＤＣのバックアップストレージへのリモートコピー完了を監視する（ステップＳ９９）。すなわち、管理部１６１は、仕掛中の更新データを、継続ＤＣ国のバックアップ格納ボリューム２０２の仮想ディスクへリモートコピーし、リモートコピーの完了を監視する。そして、継続ＤＣのストレージ装置２５３は、マスタストレージからのリモートコピーが完了すると、リモートコピーの完了を通知する（ステップＳ１００）。
【００９３】
続いて、管理部１６１は、継続ＤＣの管理サーバ２６へバックアップストレージを割り当てたＶＭの起動を通知する（ステップＳ１０１）。すなわち、管理部１６１は、ＤＣ間でＶＭを移行させる。
【００９４】
継続ＤＣの管理サーバ２６では、管理部２６１が、停止ＤＣから移行するＶＭの仮想ディスクについて、設定変更をＨＶ管理ソフトへ通知する（ステップＳ１０２）。例えば、管理部２６１は、ＨＶ管理ソフトへ、差分データを保存するボリュームを生成するように依頼する。すなわち、管理部２６１は、移行するＶＭのＩ／Ｏ処理について、バックアップ格納ボリューム２０２の既存の仮想ディスクを更新しないで、バックアップ格納ボリューム２０２の別のボリュームへ保存する。
【００９５】
そして、管理部２６１は、バックアップストレージ（継続ＤＣ）からリザーブストレージ（起動ＤＣ）へリモートコピーを開始する（ステップＳ１０３）。そして、ストレージ装置２５３は、リモートコピーを実行（開始）するとともに（ステップＳ１０４）、管理部２６１にリモートコピー開始を通知する（ステップＳ１０５）。管理部２６１は、停止ＤＣから移行するＶＭである対象ＶＭの差分データ（スナップショット）の作成をＨＶ管理ソフトへ指示する（ステップＳ１０６）。
【００９６】
そして、管理部２６１は、対象ＶＭの差分データ（スナップショット）をバックアップストレージへ保存する（ステップＳ１０７）。すなわち、対象ＶＭにおけるデータの更新は、差分ディスクへ反映される。対象ＶＭの差分データがバックアップストレージへ保存されると、ストレージ装置２５３は、バックアップストレージ（継続ＤＣ）からリザーブストレージ（起動ＤＣ）のリモートコピーを実行する（ステップＳ１０８）。
【００９７】
続いて、管理部２６１は、停止ＤＣから移行するＶＭの起動をＨＶ管理ソフトへ指示する（ステップＳ１０９）。そして、管理部２６１は、リードの管理サーバ１６へ停止ＤＣから移行したＶＭが起動されたことを通知する（ステップＳ１１０）。
【００９８】
すると、リードの管理サーバ１６では、管理部１６１が、継続ＤＣについて、ストレージステータステーブル１６４のＶＭに対応する稼働状態１６４ｅを、「停止」から「稼働」に変更する（ステップＳ１１１）。そして、管理部１６１は、マスタストレージの移行処理を終了する。
【００９９】
［バックアップストレージの移行処理のシーケンス］
次に、管理部１６１によるバックアップストレージの移行処理のシーケンスを、図１１Ａ〜図１１Ｆを参照して説明する。図１１Ａ〜図１１Ｆは、バックアップストレージの移行処理のシーケンスを示す図である。なお、図１１Ａ〜図１１Ｆでは、一例として、ＶＭ運用設備が停止される日本ＤＣのストレージ役割がバックアップであるＶＭの移行処理について説明する。したがって、日本ＤＣを起動ＤＣとし、ドイツＤＣを停止ＤＣとし、アメリカＤＣを継続ＤＣとして説明する。停止ＤＣとは、現在稼働中のＤＣであるが、日没により運用を停止することを意味する。継続ＤＣとは、現在稼働中のＤＣであり、運用を継続することを意味する。起動ＤＣとは、現在停止中のＤＣであるが、日の出に伴い運用を開始することを意味する。また、図１１Ａ〜図１１Ｆでは、日本ＤＣの管理サーバ１６がリードであるとする。また、説明の便宜上、対象ＶＭは１つであるとし、このＶＭについて、日本ＤＣがマスタストレージの役割を担い、ドイツＤＣがバックアップストレージの役割を担い、アメリカＤＣがリザーブストレージの役割を担うものとする。
【０１００】
ストレージ装置２５３は、バックアップストレージ（停止ＤＣ）からリザーブストレージ（継続ＤＣ）へのリモートコピーを継続して実行している（ステップＳ１２１）。
【０１０１】
管理部１６１は、継続ＤＣの管理サーバ３６へリザーブストレージ（リザーブ格納ボリューム３０３）からマスタストレージ（起動ＤＣ）へのリレーコピーの起動を指示する（ステップＳ１２２）。ここでいう「リレーコピー」とは、リモートコピーの中でも特に、リザーブストレージからマスタストレージへ差分データをリモートコピーすることをいう。
【０１０２】
継続ＤＣの管理サーバ３６では、管理部３６１が、リザーブストレージ（継続ＤＣ）からマスタストレージ（起動ＤＣ）へリレーコピーを開始する（ステップＳ１２３）。そして、ストレージ装置３５３は、リレーコピーを開始（実行）するとともに（ステップＳ１２４）、管理部３６１にリレーコピー開始を通知する（ステップＳ１２５）。そして、管理部３６１は、リードの管理サーバ１６へリレーコピーの開始を通知する（ステップＳ１２６）。
【０１０３】
リードの管理サーバ１６では、管理部１６１が、ハイパーバイザー１５２ａの管理プログラム（以下、ＨＶ管理ソフト）の実行により、停止ＤＣにバックアップストレージを割り当てたＶＭの停止を指示する（ステップＳ１２７）。例えば、管理部１６１は、バックアップストレージとして定義された停止ＤＣのＶＭを、ストレージステータステーブル１６４を参照して取得する。そして、管理部１６１は、停止ＤＣについて、ストレージステータステーブル１６４のＶＭに対応する稼働状態１６４ｅを、「稼働」から「停止」に変更する（ステップＳ１２８）。
【０１０４】
そして、管理部１６１は、バックアップストレージ（停止ＤＣ）からリザーブストレージ（継続ＤＣ）のリモートコピー完了を指示する（ステップＳ１２９）。すなわち、管理部１６１は、停止ＤＣの管理サーバ２６へ、仕掛中のデータの最終データの更新を指示する。そして、停止ＤＣの管理サーバ２６では、管理部２６１が、バックアップストレージ（停止ＤＣ）とリザーブストレージ（継続ＤＣ）間のリモートコピー完了をストレージ装置２５３に指示する（ステップＳ１３０）。
【０１０５】
そして、ストレージ装置２５３は、バックアップストレージ（停止ＤＣ）からリザーブストレージ（継続ＤＣ）へのリモートコピーを実行（最終）する（ステップＳ１３１）。この結果、継続ＤＣのストレージ装置３５３は、リモートコピーされたデータを、リザーブストレージ（継続ＤＣ）からマスタストレージ（起動ＤＣ）へリレーコピーする。
【０１０６】
そして、ストレージ装置２５３は、リモートコピーの実行が完了すると、リモートコピーの完了を管理サーバ２６へ通知する（ステップＳ１３２）。これにより、停止ＤＣでＶＭが停止された後のバックアップストレージの差分データとリザーブストレージの差分データとは等価になる。そして管理サーバ２６は、リードの管理サーバ１６へバックアップストレージ（停止ＤＣ）とリザーブストレージ（継続ＤＣ）間のリモートコピーの完了を通知する（ステップＳ１３３）。
【０１０７】
続いて、管理部１６１は、リザーブストレージ（継続ＤＣ）からマスタストレージ（起動ＤＣ）へのリレーコピー完了を監視する（ステップＳ１３４）。すなわち、管理部１６１は、バックアップストレージからリザーブストレージへリモートコピーされた仕掛中の更新データについて、リレーコピーの完了を監視する。
【０１０８】
継続ＤＣの管理サーバ３６では、管理部３６１が、リザーブストレージ（継続ＤＣ）とマスタストレージ（起動ＤＣ）間のリレーコピーを継続し（ステップＳ１３５）、ストレージ装置３５３は、リレーコピーを実行する（ステップＳ１３６）。その後、ストレージ装置３５３は、リレーコピーの完了を管理サーバ３６に通知する（ステップＳ１３７）。これにより、停止ＤＣでＶＭが停止された後のバックアップストレージの差分データとマスタストレージの差分データとは等価になる。そして、管理部３６１は、リードの管理サーバ１６へリザーブストレージ（継続ＤＣ）とマスタストレージ（起動ＤＣ）間のリレーコピーの完了を通知する（ステップＳ１３８）。
【０１０９】
続いて、リードの管理サーバ１６では、管理部１６１が、ＨＶ管理ソフトに対し、マスタストレージの仮想ディスクへ対象ＶＭの差分データを反映するように指示する（ステップＳ１３９）。すなわち、ＨＶ管理ソフトは、マスタストレージの仮想ディスクであってバックアップストレージに保存された仮想ディスクと冗長である仮想ディスクへリレーコピーされた差分データを反映する。
【０１１０】
リードの管理サーバ１６では、管理部１６１は、停止ＤＣから移行するＶＭの仮想ディスクについて、差分データを保存する仮想ディスクの設定変更をＨＶ管理ソフトへ通知する（ステップＳ１４０）。例えば、管理部１６１は、ＨＶ管理ソフトへ、差分データを保存するボリュームを生成するように依頼する。すなわち、管理部１６１は、移行するＶＭのＩ／Ｏ処理について、マスタ格納ボリューム１０１の既存の仮想ディスクを更新しないで、新たに生成されたマスタストレージの別ボリュームへ保存する。
【０１１１】
そして、管理部１６１は、マスタストレージ（起動ＤＣ）からリザーブストレージ（継続ＤＣ）へ対象ボリューム（差分データのみ）のリモートコピーを起動する（ステップＳ１４１）。そして、ストレージ装置１５３は、リモートコピーを開始（実行）するとともに（ステップＳ１４２）、リードの管理サーバ１６へリモートコピー開始を通知する（ステップＳ１４３）。管理サーバ１６では、管理部１６１が、ＨＶ管理ソフトに対し、停止ＤＣから移行するＶＭである対象ＶＭの差分データ（スナップショット）の作成を指示する（ステップＳ１４４）。
【０１１２】
続いて、管理部１６１は、停止ＤＣから移行するＶＭの起動をＨＶ管理ソフトへ指示する（ステップＳ１４５）。そして、管理部１６１は、起動ＤＣについて、ストレージステータステーブル１６４のＶＭに対応する稼働状態１６４ｅを、「停止」から「稼働」に変更する（ステップＳ１４６）。
【０１１３】
続いて、管理部１６１は、停止ＤＣの管理サーバ２６へ運用移行するＶＭの仮想ディスクへ差分データを反映するように指示する（ステップＳ１４７）。そして、停止ＤＣの管理サーバ２６では、管理部２６１が、ＨＶ管理ソフトに対し、バックアップストレージの仮想ディスクへ対象ＶＭの差分データを反映するように指示する（ステップＳ１４８）。これにより、バックアップストレージの仮想ディスクは、マスタストレージの仮想ディスクと同等になる。
【０１１４】
［実施例の効果］
上記実施例によれば、管理サーバ１６は、データをマスタデータとしてマスタストレージに保持させ、マスタデータと等価のデータをバックアップデータとしてバックアップストレージに保持させる管理を行なう。また、管理サーバ１６は、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合に、バックアップストレージに保持されたバックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させる。そして、管理サーバ１６は、更新データをマスタストレージおよびバックアップストレージと異なるリザーブストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ１６は、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合でも、切り替えられた格納先に更新された更新データだけを差分データとして別のストレージに保持させる。この結果、管理サーバ１６は、データの冗長性を保証しつつ、データの総容量を削減できる。すなわち、管理サーバ１６は、３個のストレージに対して、同じ容量のデータを保持しなくても、データの冗長性を保証できる。
【０１１５】
また、上記実施例によれば、管理サーバ１６は、バックアップストレージからマスタストレージにデータの格納先が切り替えられた場合に、リザーブストレージに複製された更新データをマスタストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ１６は、バックアップストレージからマスタストレージにデータの格納先が切り替えられた場合でも、リザーブストレージに複製された更新データだけをマスタストレージに複製させる。この結果、管理サーバ１６は、バックアップストレージとマスタストレージのデータの冗長性を保証することができ、さらに、データの総容量を削減できる。
【０１１６】
また、上記実施例によれば、管理サーバ１６は、移行可能なＶＭにあらかじめ割り当てられたマスタストレージ、バックアップストレージおよびリザーブストレージに対する、ＶＭのデータを管理する。かかる構成によれば、管理サーバ１６は、移行可能なＶＭにそれぞれのストレージが割り当てられれば、ＶＭのデータの冗長性を保証することができ、さらに、データの総容量を削減することが可能となる。
【０１１７】
また、上記実施例によれば、管理サーバ１６は、移行可能な複数のＶＭに対して、あらかじめ、マスタストレージ、バックアップストレージおよびリザーブストレージを割り当てる。かかる構成によれば、管理サーバ１６は、ＶＭのデータの冗長性を保証し、さらに、データの総容量を削減することが可能となる。
【０１１８】
また、上記実施例によれば、管理サーバ１６は、第１のＤＣ１で運用中のＶＭのデータをマスタデータとしてＤＣ１のマスタストレージに保持させる。そして、管理サーバ１６は、マスタデータと等価のデータをバックアップデータとしてＤＣ２のバックアップストレージに保持させる管理を行う。また、管理サーバ１６は、ＤＣ２で運用中のＶＭに対して、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合に、バックアップストレージに保持されたバックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させる。そして、管理サーバ１６は、更新データをマスタストレージおよびバックアップストレージと異なるリザーブストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ１６は、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合でも、切り替えられた格納先に更新された更新データだけを差分データとして別のストレージに保持させる。この結果、管理サーバ１６は、ＤＣ１、２、３のＶＭに対するデータの冗長性を保証しつつ、ＤＣ１、２、３のデータの総容量を削減できる。すなわち、管理サーバ１６は、ＤＣ１、２、３の３個のストレージに対して、同じ容量のデータを保持しなくても、データの冗長性を保証できる。
【０１１９】
また、上記実施例によれば、管理サーバ１６は、それぞれのＤＣの電力コストを算出する。管理サーバ１６は、算出されたそれぞれの電力コストに基づいて、ＶＭが運用中のＤＣの電力コストが、ＶＭが移行された場合の移行先のＶＭの電力コストより高いか否かを判定する。そして、管理サーバ１６は、判定の結果、ＶＭが運用中のＤＣの電力コストが、ＶＭが移行された場合の移行先のＤＣの電力コストより高いと判定された場合に、ＶＭが運用中のＤＣから移行先のＤＣへＶＭのデータの格納先を切り替える。そして、管理サーバ１６は、データの格納先が切り替えられた場合に、バックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させ、更新データをリザーブストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ１６は、それぞれのＤＣのうち電力コストの高くないＤＣへＶＭのデータの格納先を切り替えるので、全体の電力コストを削減できる。
【０１２０】
［その他］
なお、実施例では、情報処理システム９は、複数のデータセンタを備え、複数のデータセンタは、それぞれＡ国、Ｂ国、Ｃ国に設置されているとして説明した。しかしながら、情報処理システム９は、これに限定されない。すなわち、複数のデータセンタは、同じ国に設置されているものとしても良く、それぞれ日照時間帯が異なる地域、すなわち同時点で電力コストが異なる地域に設置されていれば良い。
【０１２１】
また、実施例では、管理部１６１は、ＤＣ間でのＶＭの移行に応じてデータの格納先が切り替えられる場合に、ＤＣ間でデータを管理する。すなわち、第１の管理部１６１ｂは、ＤＣ１で運用中のＶＭのデータをマスタデータとして、ＤＣ１のマスタ格納ボリューム１０１に更新する。そして、第１の管理部１６１ｂは、更新したデータをバックアップデータとして、当該ＶＭに対する更新前のデータと等価のデータを有するＤＣ２のバックアップ格納ボリューム２０２にリモートコピーする。そして、第２の管理部１６１ｄは、ＤＣ１のマスタ格納ボリューム１０１からＤＣ２のバックアップ格納ボリューム２０２にデータの格納先が切り替えられた場合、ＤＣ１のＶＭ運用設備１５の運用を停止させ、ＤＣ１からＤＣ２へＶＭを移行させる。そして、第２の管理部１６１ｄは、ＤＣ２のバックアップ格納ボリューム２０２に対する更新データを差分データとして、バックアップ格納ボリューム２０２の、バックアップデータと独立した領域に保持させる。そして、第２の管理部１６１ｄは、更新データをリザーブデータとして、ＤＣ３のリザーブ格納ボリューム３０３にリモートコピーさせる。しかしながら、管理部１６１は、これに限定されず、ＤＣ間でのＶＭの移行に応じなくても、所定の条件でデータの格納先が切り替えられる場合に、データを管理するとしても良い。すなわち、第１の管理部１６１ｂは、ホストからアクセスされたデータをマスタデータとして、ストレージ装置１５３のマスタ格納ボリューム１０１に更新する。そして、第１の管理部１６１ｂは、更新したデータをバックアップデータとして、更新前のデータと等価のデータを有する同じストレージ装置１５３のバックアップ格納ボリューム１０２にコピーする。そして、第２の管理部１６１ｄは、所定の条件でマスタ格納ボリューム１０１からバックアップ格納ボリューム１０２にデータの格納先が切り替えられた場合、バックアップ格納ボリューム１０２に対する更新データを差分データとして、バックアップ格納ボリューム１０２の、バックアップデータと独立した領域に保持させる。そして、第２の管理部１６１ｄは、更新データをリザーブデータとして、同じストレージ装置１５３のリザーブ格納ボリューム１０３にリモートコピーさせる。これにより、管理サーバ１６は、データの冗長性を保証しつつ、データの総容量を削減することができる。すなわち、管理サーバ１６は、３個のストレージに対して、同じ容量のデータを保持しなくても、データの冗長性を保証できる。
【０１２２】
また、図示したデータセンタ１の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、データセンタ１の分散・統合の具体的態様は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、第１の管理部１６１ｂ、第２の管理部１６１ｄおよび第３の管理部１６１ｅを１個の管理部に統合しても良い。また、第２の管理部１６１ｄを、ＶＭを移行させる移行管理部と、更新データをバックアップストレージに保持させる保持管理部と、更新データをリザーブストレージに複製させる複製管理部に分散しても良い。データセンタ２，３もデータセンタ１と同様である。
【０１２３】
なお、実施例では、管理サーバ１６が有する機能をソフトウェアによって実現することで、同様の機能を有する管理部１６１を得ることができる。そこで、以下では、図２Ａに示した管理サーバ１６と同様の機能を実現するＤＣ管理プログラムを実行するコンピュータの一例を説明する。図１２は、ＤＣ管理プログラムを実行する管理サーバの一例を示す図である。
【０１２４】
図１２に示すように、管理サーバ２００は、各種演算処理を実行するＣＰＵ２０３と、ユーザからのデータの入力を受け付ける入力装置２１５と、表示装置２０９を制御する表示制御部２０７とを有する。また、管理サーバ２００は、記憶媒体からプログラムなどを読取るドライブ装置２１３と、ネットワークを介してストレージ装置１５３や他のコンピュータとの間でデータの授受を行う通信制御部２１７とを有する。また、管理サーバ２００は、各種情報を一時記憶するメモリ２０１と、ＨＤＤ２０５を有する。そして、メモリ２０１、ＣＰＵ２０３、ＨＤＤ２０５、表示制御部２０７、ドライブ装置２１３、入力装置２１５、通信制御部２１７は、バス２１９で接続されている。
【０１２５】
ドライブ装置２１３は、例えばリムーバブルディスク２１１などの可搬型記憶媒体用の装置である。ＨＤＤ２０５は、ＤＣ管理プログラム２０５ａ、コピー制御プログラム２０５ｂ、ハイパーバイザープログラム２０５ｃおよびＤＣ管理関連情報２０５ｄを記憶する。
【０１２６】
ＣＰＵ２０３は、ＤＣ管理プログラム２０５ａ、コピー制御プログラム２０５ｂおよびハイパーバイザープログラム２０５ｃを読み出して、メモリ２０１に展開し、プロセスとして実行する。かかるプロセスは、管理部１６１の各機能部に対応する。ＤＣ管理関連情報２０５ｄは、ストレージステータステーブル１６４、ＤＣ電力ステータステーブル１６５およびＤＣ基本電力量テーブル１６６に対応する。そして、例えばリムーバブルディスク２１１が、ストレージステータステーブル１６４などの各情報を記憶する。
【０１２７】
なお、ＤＣ管理プログラム２０５ａ、コピー制御プログラム２０５ｂおよびハイパーバイザープログラム２０５ｃについては、必ずしも最初からＨＤＤ２０５に記憶させておかなくても良い。例えば、管理サーバ２００に挿入されるフレキシブルディスク（ＦＤ）、ＣＤ−ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」に当該プログラムを記憶させておく。そして、管理サーバ２００がこれらからＤＣ管理プログラム２０５ａ、コピー制御プログラム２０５ｂおよびハイパーバイザープログラム２０５ｃを読み出して実行するようにしても良い。
【０１２８】
以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。
【０１２９】
（付記１）第１のストレージと第２のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置であって、
データをマスタデータとして前記第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のストレージに保持させる管理を行なう第１の管理部と、
前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう第２の管理部と、
を備えることを特徴とするストレージ管理装置。
【０１３０】
（付記２）前記第２のストレージから前記第１のストレージにデータの格納先が切り替えられた場合に、前記第３のストレージに複製された更新データを前記第１のストレージに複製させる管理を行なう第３の管理部
をさらに備えることを特徴とする付記１に記載のストレージ管理装置。
【０１３１】
（付記３）前記データにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第１のストレージ、前記第２のストレージおよび前記第３のストレージを割り当てる割当部
をさらに備えることを特徴とする付記１または付記２に記載のストレージ管理装置。
【０１３２】
（付記４）前記ストレージ管理装置は、第１のデータセンタと第２のデータセンタ間で移行可能な仮想マシンのデータを格納する複数のストレージを管理し、
前記第１の管理部は、
前記第１のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第１のデータセンタの第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のデータセンタの第２のストレージに保持させる管理を行ない、
前記第２の管理部は、
前記第２のデータセンタで運用中の前記仮想マシンに対して、前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう
ことを特徴とする付記１または付記２に記載のストレージ管理装置。
【０１３３】
（付記５）移行可能な複数の仮想マシンのデータにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第１のストレージ、前記第２のストレージおよび前記第３のストレージを割り当てる割当部
をさらに備えることを特徴とする付記４に記載のストレージ管理装置。
【０１３４】
（付記６）それぞれのデータセンタの電力コストを算出する算出部と、
前記算出部によって算出されたそれぞれの電力コストに基づいて、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いか否かを判定する判定部と、をさらに備え、
前記第２の管理部は、
前記判定部による判定の結果、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いと判定された場合に、前記仮想マシンが運用中のデータセンタから前記移行先のデータセンタへ前記仮想マシンのデータの格納先を切り替え、データの格納先が切り替えられた場合に、前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第３のストレージに複製させる管理を行なう
ことを特徴とする付記４または付記５に記載のストレージ管理装置。
【０１３５】
（付記７）第１のデータセンタおよび第２のデータセンタを備える情報処理システムであって、
前記第１のデータセンタおよび前記第２のデータセンタのうちいずれか１つのデータセンタのストレージ管理装置であって、前記第１のデータセンタと前記第２のデータセンタ間で移行可能な仮想マシンのデータを格納する複数のストレージを管理するストレージ管理装置は、
前記第１のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第１のデータセンタの第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のデータセンタの第２のストレージに保持させる管理を行なう第１の管理部と、
前記第２のデータセンタで運用中の前記仮想マシンに対して、前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう第２の管理部と、
を備えることを特徴とする情報処理システム。
【０１３６】
（付記８）第１のストレージと第２のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置に、
データをマスタデータとして前記第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のストレージに保持させる管理を行ない、
前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう
処理を実行させることを特徴とするストレージ管理プログラム。
【０１３７】
（付記９）第１のストレージと第２のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置が、
データをマスタデータとして前記第１のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第２のストレージに保持させる管理を行ない、
前記第１のストレージから前記第２のストレージにデータの格納先が切り替えられた場合に、前記第２のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第２のストレージに保持させ、前記更新データを前記第１のストレージおよび前記第２のストレージと異なる第３のストレージに複製させる管理を行なう、
処理を実行することを特徴とするストレージ管理方法。
【符号の説明】
【０１３８】
１，２，３  データセンタ
９  情報処理システム
１１  太陽光発電パネル
１２  インバータ
１３  配電盤
１４  電力量計
１５  仮想マシン（ＶＭ）運用設備
１５１  ネットワークスイッチ
１５２  物理サーバ
１５２ａ  サーバ仮想化プログラム（ハイパーバイザー）
１５３  ストレージ装置
１５３ａ  ストレージコントローラ
１０１  マスタ格納ボリューム
１０２  バックアップ格納ボリューム
１０３  リザーブ格納ボリューム
１５４  仮想マシン（ＶＭ）
１６  管理サーバ
１６１  管理部
１６１ａ  導入設定部
１６１ｂ  第１の管理部
１６１ｃ  電力コスト比較部
１６１ｄ  第２の管理部
１６１ｅ  第３の管理部
１６２  記憶部
１６４  ストレージステータステーブル
１６５  ＤＣ電力ステータステーブル
１６６  ＤＣ基本電力量テーブル
【図１】
2015079311.tif 000003
【図２Ａ】
2015079311.tif 000004
【図２Ｂ】
2015079311.tif 000005
【図３Ａ】
2015079311.tif 000006
【図３Ｂ】
2015079311.tif 000007
【図３Ｃ】
2015079311.tif 000008
【図４Ａ】
2015079311.tif 000009
【図４Ｂ】
2015079311.tif 000010
【図５】
2015079311.tif 000011
【図６Ａ】
2015079311.tif 000012
【図６Ｂ】
2015079311.tif 000013
【図６Ｃ】
2015079311.tif 000014
【図７Ａ】
2015079311.tif 000015
【図７Ｂ】
2015079311.tif 000016
【図７Ｃ】
2015079311.tif 000017
【図７Ｄ】
2015079311.tif 000018
【図８Ａ】
2015079311.tif 000019
【図８Ｂ】
2015079311.tif 000020
【図８Ｃ】
2015079311.tif 000021
【図８Ｄ】
2015079311.tif 000022
【図９Ａ】
2015079311.tif 000023
【図９Ｂ】
2015079311.tif 000024
【図１０Ａ】
2015079311.tif 000025
【図１０Ｂ】
2015079311.tif 000026
【図１０Ｃ】
2015079311.tif 000027
【図１０Ｄ】
2015079311.tif 000028
【図１１Ａ】
2015079311.tif 000029
【図１１Ｂ】
2015079311.tif 000030
【図１１Ｃ】
2015079311.tif 000031
【図１１Ｄ】
2015079311.tif 000032
【図１１Ｅ】
2015079311.tif 000033
【図１１Ｆ】
2015079311.tif 000034
【図１２】
2015079311.tif 000035