(57)【要約】【課題】  情報処理装置の実装密度を向上することで、情報処理システムの性能を向上する。【解決手段】  複数のグループのいずれかに属する複数の情報処理装置と、複数の情報処理装置を管理する管理装置とを有する情報処理システムにおいて、管理装置は、複数の情報処理装置の各々の消費電力値をそれぞれ取得する取得部と、取得部が取得した複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算する計算部と、複数のグループのうち、合計消費電力値が所定の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる制御部を有する。【選択図】    図１
2017134668.tif 000002
【特許請求の範囲】
【請求項１】
複数のグループのいずれかに属する複数の情報処理装置と、前記複数の情報処理装置を管理する管理装置とを有する情報処理システムにおいて、
前記管理装置は、
前記複数の情報処理装置の各々の消費電力値をそれぞれ取得する取得部と、
前記取得部が取得した前記複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算する計算部と、
前記複数のグループのうち、前記合計消費電力値が第１の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる制御部を有する情報処理システム。
【請求項２】
前記複数のグループの各々は、複数の筐体の各々に対応し、
前記複数のグループの各々に属する情報処理装置は、前記情報処理システムに含まれる複数の筐体の各々に設置される情報処理装置に対応する請求項１記載の情報処理システム。
【請求項３】
前記制御部は、前記合計消費電力値が前記第１の閾値を超えたグループの合計消費電力値が前記第１の閾値以下になるまで、消費電力値が大きい情報処理装置から順に情報処理装置が実行する仮想マシンを前記他のグループに移動させる請求項１または請求項２記載の情報処理システム。
【請求項４】
前記制御部はさらに、
前記他のグループを除くグループのうち、前記合計消費電力値が前記第１の閾値より低い第２の閾値以下のグループに、前記他のグループが実行する仮想マシンを移動させる請求項１ないし請求項３のいずれか１項記載の情報処理システム。
【請求項５】
前記制御部は、前記第２の閾値以下のグループの合計消費電力値が前記第２の閾値を超えるまで、前記他のグループが実行する仮想マシンを移動させる請求項４記載の情報処理システム。
【請求項６】
前記制御部はさらに、
前記複数のグループのうち、前記合計消費電力値が第１の閾値を超えたグループに属する情報処理装置が実行する仮想マシンの前記他のグループへの移動が困難な場合、前記合計消費電力値が第１の閾値を超えたグループに属する情報処理装置の少なくともいずれかに電力キャッピングの実行を指示する請求項１ないし請求項５のいずれか１項記載の情報処理システム。
【請求項７】
前記取得部は、前記複数のグループの各々の情報処理装置の消費電力値を所定の周期で取得し、
前記制御部はさらに、
前記他のグループに移動させた仮想マシンの移動元の情報処理装置を含むグループの合計消費電力値が、増加傾向にあり、前記第１の閾値を再度超えた場合、前記所定の周期を短くする請求項１ないし請求項６のいずれか１項記載の情報処理システム。
【請求項８】
前記制御部はさらに、
前記合計消費電力値が第１の閾値を超えていない場合、前記所定の周期を長くする請求項７記載の情報処理システム。
【請求項９】
前記複数のグループは、
仮想マシンにより情報処理を開始する複数の情報処理装置を含む処理グループと、
前記処理グループから仮想マシンが移動される移動先グループである前記他のグループを有する請求項１ないし請求項８のいずれか１項記載の情報処理システム。
【請求項１０】
複数のグループのいずれかに属する複数の情報処理装置と、前記複数の情報処理装置を管理する管理装置とを有する情報処理システムの制御方法において、
前記管理装置が有する取得部が、前記複数の情報処理装置の各々の消費電力値をそれぞれ取得し、
前記管理装置が有する計算部が、前記取得部が取得した前記複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算し、
前記管理装置が有する制御部が、前記複数のグループのうち、前記合計消費電力値が所定の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる情報処理システムの制御方法。
【請求項１１】
複数のグループのいずれかに属する複数の情報処理装置を管理する管理装置の制御プログラムにおいて、
前記管理装置が有する取得部に、前記複数の情報処理装置の各々の消費電力値をそれぞれ取得させ、
前記管理装置が有する計算部に、前記取得部が取得した前記複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算させ、
前記管理装置が有する制御部に、前記複数のグループのうち、前記合計消費電力値が所定の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる管理装置の制御プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムに関する。
【背景技術】
【０００２】
サーバ等の情報処理装置を複数台含む情報処理システムでは、情報処理装置の消費電力値の合計が制限値を超えることを抑止するために、情報処理装置単位または情報処理装置が実装されるラック単位で消費電力値が管理される。例えば、複数のサーバの各々は、サーバ間で転送される消費電力値の情報に基づいて、複数のサーバの消費電力値の合計を算出し、合計の消費電力値が閾値を超えた場合、消費電力を抑える動作状態に切り換わる（例えば、特許文献１参照）。また、複数のサーバへの仮想マシンの配置を制御する制御装置は、サーバが実装されるラック単位で消費電力値を最小にするための整数計画問題の解に基づいて、サーバに仮想マシンを配置する（例えば、特許文献２参照）。データセンタにおいて、複数のＩＴ（Information technology）機器が実装されるラック単位で消費電力値を算出し、算出した消費電力値が、想定値から所定の閾値以上乖離している場合、警告が出力される（例えば、特許文献３参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１２−１６５５４９号公報
【特許文献２】国際公開第２０１３／０４２６１５号
【特許文献３】特開２０１３−１７５１２０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
サーバが実装されるラックでの消費電力値が制限値を超えないために、ラックに実装されるサーバの数は、例えば、ラックに供給される電力の最大値に安全率を乗じた値を、１００％の稼働率で動作するサーバの消費電力値で除することで決められる。データセンタ等の情報処理システムに設置される全てのサーバの稼働率が１００％になる可能性は低いが、ラックに実装されるサーバの数は、情報処理システムを安全に運用するために、余裕を持たせて設定される。例えば、ラックに供給される電力の定格値が４．８ｋＷ、安全率が８５％、１００％の稼働率で動作するサーバの消費電力値が３４０Ｗである場合、ラックに実装するサーバの数は、”１２”に設定される。情報処理システムの運用時のサーバの稼働率の平均が７０％である場合、ラックに実装されたサーバの消費電力値の合計（２．８６ｋＷ）は、ラックに供給される電力の定格値の６０％である。この場合、ラックに供給可能な４．８ｋＷの電力のうち２ｋＷ近くの電力は、消費されず、情報処理システムの性能の向上に寄与されない。
【０００５】
１つの側面では、本件開示の情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムは、情報処理装置の実装密度を向上することで、情報処理システムの性能を向上することを目的とする。
【課題を解決するための手段】
【０００６】
一つの観点によれば、複数のグループのいずれかに属する複数の情報処理装置と、複数の情報処理装置を管理する管理装置とを有する情報処理システムにおいて、管理装置は、複数の情報処理装置の各々の消費電力値をそれぞれ取得する取得部と、取得部が取得した複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算する計算部と、複数のグループのうち、合計消費電力値が所定の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる制御部を有する。
【０００７】
別の観点によれば、複数のグループのいずれかに属する複数の情報処理装置と、複数の情報処理装置を管理する管理装置とを有する情報処理システムの制御方法は、管理装置が有する取得部が、複数の情報処理装置の各々の消費電力値をそれぞれ取得し、管理装置が有する計算部が、取得部が取得した複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算し、管理装置が有する制御部が、複数のグループのうち、合計消費電力値が所定の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる。
【０００８】
さらなる別の観点によれば、複数のグループのいずれかに属する複数の情報処理装置を管理する管理装置の制御プログラムは、管理装置が有する取得部に、複数の情報処理装置の各々の消費電力値をそれぞれ取得させ、管理装置が有する計算部に、取得部が取得した複数の情報処理装置の各々の消費電力値に基づき、各グループに属する情報処理装置の消費電力値の合計である合計消費電力値を計算させ、管理装置が有する制御部に、複数のグループのうち、合計消費電力値が所定の閾値を超えたグループに属する情報処理装置のうち、最も消費電力値が大きい情報処理装置が実行する仮想マシンを他のグループに移動させる。
【発明の効果】
【０００９】
本件開示の情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムは、情報処理装置の実装密度を向上することで、情報処理システムの性能を向上することができる。
【図面の簡単な説明】
【００１０】
【図１】情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムの一実施形態を示す図である。
【図２】図１に示すサーバの一例を示す図である。
【図３】図１に示す情報処理システムの動作の一例を示す図である。
【図４】図１に示す管理サーバの動作の一例を示す図である。
【図５】情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムの別の実施形態を示す図である。
【図６】図５に示すラックが設置される設置領域を含む設置場所の一例を示す図である。
【図７】図５に示す管理サーバの機能ブロックの一例を示す図である。
【図８】図７に示すサーバ管理テーブルの一例を示す図である。
【図９】図７に示すラック管理テーブルの一例を示す図である。
【図１０】図６に示す管理サーバの動作の一例を示す図である。
【図１１】図１０に示すステップＳ１００の処理の一例を示す図である。
【図１２】図１０に示すステップＳ２００の処理の一例を示す図である。
【図１３】図５に示す情報処理システムの動作の一例を示す図である。
【図１４】図５に示す情報処理システムの動作の別の例を示す図である。
【図１５】図５に示す情報処理システムのテスト運用時の動作の一例を示す図である。
【図１６】図５に示す情報処理システムの消費電力値の一例を示す図である。
【図１７】図６に示す設置場所に設置されるサーバの消費電力値と稼働率との関係の一例を示す図である。
【図１８】図６に示す空調機の能力の特性の一例を示す図である。
【発明を実施するための形態】
【００１１】
以下、図面を用いて実施形態を説明する。
【００１２】
図１は、情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムの一実施形態を示す。図１に示す情報処理システムＳＹＳ１は、複数のラックＲＣ（ＲＣ１、ＲＣ２、ＲＣ３）と管理サーバＭＳＶとを有する。ラックＲＣは、筐体の一例である。なお、情報処理システムＳＹＳ１に含まれるラックＲＣの数は、３つに限定されない。
【００１３】
ラックＲＣ１は、複数のサーバＳＶ（ＳＶ１１、ＳＶ１２、ＳＶ１３、ＳＶ１４、...）を設置する空間を有する。ラックＲＣ２は、複数のサーバＳＶ（ＳＶ２１、ＳＶ２２、ＳＶ２３、ＳＶ２４、...）を設置する空間を有する。ラックＲＣ３は、複数のサーバＳＶ（ＳＶ３１、ＳＶ３２、ＳＶ３３、ＳＶ３４、...）を設置する空間を有する。サーバＳＶは情報処理装置の一例である。サーバＳＶの例は、図２に示される。
【００１４】
ラックＲＣ１、ＲＣ２、ＲＣ３は、電源ケーブルＰＣ（ＰＣ１、ＰＣ２、ＰＣ３）を介して電源の供給元からそれぞれ電力を受ける。各ラックＲＣに供給可能な最大の電力値は、電源ケーブルＰＣ毎に設定される。各ラックＲＣ内のサーバＳＶは、電源の供給元から受ける電力に基づいて、サーバＳＶ内で使用する電源電圧を生成する電源ユニットＰＳを有する。
【００１５】
情報処理システムＳＹＳ１は、ネットワークを介してコンピュータ資源を提供するクラウドコンピューティングサービス等に使用される。図１では、ラックＲＣ１、ＲＣ２に実装されるサーバＳＶは、少なくも１つの仮想サーバを起動し、仮想サーバによりデータ処理等を実行する。仮想サーバは、サーバＳＶが実行する仮想マシンの一例であり、ラックＲＣ１、ＲＣ２の各々は、仮想マシンにより情報処理を開始する複数のサーバＳＶを含む処理グループの一例である。
【００１６】
ラックＲＣ３に実装されるサーバＳＶは、ラックＲＣ１、ＲＣ２に実装されるサーバＳＶ上で動作する仮想サーバの移動先として使用される。ラックＲＣ３は、処理グループ内のサーバＳＶから仮想マシンが移動されるサーバＳＶを含む移動先グループの一例である。ラックＲＣ３に実装されるサーバＳＶを仮想サーバの移動先として専用に使用することで、仮想サーバの移動先を定めない場合に比べて、管理サーバＭＳＶは、仮想サーバの移動を容易に制御できる。なお、ラックＲＣ１、ＲＣ２に実装されるサーバＳＶに仮想サーバを実行させる情報処理システムＳＹＳ１は、クラウドコンピューティングサービス以外の用途に使用されてもよい。
【００１７】
ラックＲＣ１、ＲＣ２からラックＲＣ３への仮想サーバの移動は、電力を供給する電源線ＰＣが共通に接続される単位である各ラックＲＣ１、ＲＣ２内で消費される電力値が所定の閾値（図４で説明する閾値ＰＶＴ１）を超えた場合に実行される。これにより、管理サーバＭＳＶは、電源線ＰＣの接続元であるブレーカ等の定格電力値と各ラックＲＣ１、ＲＣ２で消費される電力値に基づいて、ラックＲＣ１、ＲＣ２からラックＲＣ３への仮想サーバの移動を制御することができる。この結果、電源線ＰＣが共通に接続されないグループ単位で仮想サーバを移動する場合に比べて、仮想サーバの移動を容易に制御することができる。
【００１８】
以下では、サーバＳＶ上で動作する仮想サーバを他のラックＲＣのサーバＳＶ上に移動する動作は、ライブマイクグレーションと称される。また、以下では、仮想サーバを用いて情報処理を開始するサーバＳＶを含むラックＲＣ１、ＲＣ２は、通常ラックＲＣとも称される。ライブマイクグレーションにより通常ラックＲＣのサーバＳＶから仮想サーバが移動されるサーバＳＶを含む他のラックであるラックＲＣ３は、テンポラリラックＲＣ３とも称される。
【００１９】
管理サーバＭＳＶは、取得部ＰＧＥＴ、計算部ＣＡＬＣおよび制御部ＣＮＴＬを有する。管理サーバＭＳＶおよび各サーバＳＶは、ＬＡＮ（Local Area Network）等のネットワークを介して互いに接続される。特に限定されないが、管理サーバＭＳＶは、図２に示すサーバＳＶと同様の構成を有する。取得部ＰＧＥＴ、計算部ＣＡＬＣおよび制御部ＣＮＴＬは、管理サーバＭＳＶが実行する制御プログラムにより実現されてもよく、管理サーバＭＳＶのハードウェアにより実現されてもよい。例えば、取得部ＰＧＥＴ、計算部ＣＡＬＣおよび制御部ＣＮＴＬの機能は、管理サーバＭＳＶのＣＰＵ（Central Processing Unit）がメモリＭＥＭに格納された制御プログラムを実行することで実現される。管理サーバＭＳＶは、複数のサーバＳＶを管理する管理装置の一例である。
【００２０】
取得部ＰＧＥＴは、ネットワークを介して複数のサーバＳＶの各々から各サーバＳＶの消費電力値を取得する。計算部ＣＡＬＣは、共通の電源ケーブルＰＣに接続されるサーバＳＶのグループ毎に、サーバＳＶの消費電力値の合計である合計消費電力値を計算する。図１に示す例では、ラックＲＣ毎に電源ケーブルＰＣが配線されるため、各グループは、各ラックＲＣに実装されるサーバＳＶを含む。なお、電源線ＰＣが２つのラックＲＣに共通に接続される場合、各グループは、２つのラックＲＣに実装されるサーバＳＶを含む。
【００２１】
制御部ＣＮＴＬは、複数の通常ラックＲＣ１、ＲＣ２のうち、合計消費電力値が所定の閾値を超えた超過ラックがあるか否かを判定する。制御部ＣＮＴＬは、超過ラックがある場合、超過ラックに属するサーバＳＶのうち、最も消費電力値が大きいサーバＳＶが実行する仮想サーバをテンポラリラックＲＣ３に移動させるライブマイグレーションを実行する。仮想サーバを移動させる動作の例は、図３に示され、管理サーバＭＳＶの動作の例は、図４に示される。
【００２２】
図２は、図１に示すサーバＳＶの一例を示す。図２に示す太い実線は、電源線を示す。サーバＳＶは、ＢＭＣ（Baseboard Management Controller）と、ＣＰＵ等のプロセッサと、メモリＭＥＭと、Ｉ／Ｏ（Input/Output）デバイスとを有する。また、サーバＳＶは、ＨＤＤ（Hard Disk Drive）、電源ユニットＰＳおよびファンＦＡＮを有する。ＢＭＣ、ＣＰＵ、メモリＭＥＭ、Ｉ／Ｏデバイス、ＨＤＤおよびファンＦＡＮは、電源電圧ＶＤＤに基づいて動作する。例えば、管理サーバＭＳＶおよびサーバＳＶのＢＭＣは、ＩＰＭＩ（Intelligent Platform Management Interface）に準拠して設計されており、ＩＰＭＩの仕様にしたがって情報を通信する。
【００２３】
ＢＭＣは、図１に示す管理サーバＭＳＶからの指示に基づいて、破線で接続されるＣＰＵ、メモリＭＥＭおよびファンＦＡＮの動作状態を管理する。例えば、ＢＭＣは、ＣＰＵにクロック周波数の変更を指示し、メモリＭＥＭが記憶するデータのエラーを検出し、ファンＦＡＮに回転数の変更を指示する。なお、ＢＭＣは、電源電圧ＶＤＤとは別の系統の電源電圧を受けて動作してもよい。
【００２４】
ＣＰＵは、メモリＭＥＭに格納されたプログラムを実行することで、サーバＳＶの機能を実現する。例えば、メモリＭＥＭは、複数のＤＲＡＭ（Dynamic Random Access Memory）チップ等を含むメモリモジュールである。例えば、Ｉ／Ｏデバイスは、ＰＣＩ（Peripheral Component Interconnect）規格のスロットに装着されるＬＡＮ（Local Area Network）カード等である。ＨＤＤは、サーバＳＶの起動時にメモリＭＥＭに転送されるプログラムを保持し、ＣＰＵが処理するデータを保持する。なお、サーバＳＶは、ＨＤＤの代わりにＳＳＤ（Solid State Drive）を有してもよい。ファンＦＡＮは、サーバＳＶの吸気口または排気口に取り付けられ、サーバＳＶ内に外気を導入して、ＣＰＵ等の電子部品から発生する熱をサーバＳＶの外部に排出する。
【００２５】
電源ユニットＰＳは、例えば、ＡＣ（Alternating Current）／ＤＣ（Direct Current）コンバータを有する。そして、電源ユニットＰＳは、電源の供給元から供給される交流電圧を直流電圧に変換し、変換した直流電圧を電源電圧ＶＤＤとしてＣＰＵ等に出力する。
【００２６】
図３は、図１に示す情報処理システムＳＹＳ１の動作の一例を示す。図３では、通常ラックＲＣ１とテンポラリラックＲＣ３とが示される。各ラックＲＣ１、ＲＣ３には、１８個のサーバＳＶが設置される。図３において、各サーバＳＶ内に括弧で示すワット数（２８７Ｗ等）は、各サーバＳＶの消費電力値の例を示す。各ラックＲＣのラック名の右側に括弧で示すキロワット数（４．６５ｋＷ等）は、各ラックＲＣに実装されたサーバＳＶの消費電力値の合計（合計消費電力値）を示す。各サーバＳＶの消費電力値は、図１に示す取得部ＰＧＥＴが、ネットワークを介して各サーバＳＶに問い合わせることで取得される。各ラックＲＣの合計消費電力値は、図１に示す計算部ＣＡＬＣにより計算される。消費電力値の取得と、合計消費電力値の計算は、所定の時間間隔（例えば、３０秒）で実行される。
【００２７】
図３では、ラックＲＣ１内の各サーバＳＶは、複数の仮想サーバＶＳＶを動作させており、ラックＲＣ１の合計消費電力値（４．６５ｋＷ）は、所定の閾値である４．６ｋＷより大きい。例えば、所定の閾値は、各ラックＲＣに供給可能な最大の電力値（定格電力値）である４．８ｋＷの９６％に設定される。所定の閾値は、ライブマイグレーションの実行期間と合計消費電力値の時間当たりの増加量との関係等の経験則に基づいて決定される。あるいは、所定の閾値は、合計消費電力値が定格電力値を超えてからラックＲＣに電力を供給するブレーカＢＲＫが遮断するまでの時間と、合計消費電力値の時間当たりの増加量との関係等に基づいて決定される。ラックＲＣ３内の各サーバＳＶは、仮想サーバＶＳＶを動作させておらず、消費電力値は１００Ｗであり、ラックＲＣ３の合計消費電力値は１．８ｋＷである。
【００２８】
図１に示す管理サーバＭＳＶの制御部ＣＮＴＬは、ラックＲＣ１の合計消費電力値が所定の閾値を超えたことに基づいて、ラックＲＣ１内のサーバＳＶのうち、最も消費電力値が大きいサーバＳＶ１１を選択する。制御部ＣＮＴＬは、選択したサーバＳＶ１１が実行する仮想サーバＶＳＶを、ラックＲＣ３内のサーバＳＶのいずれかに移動するライブマイグレーションを実行する。図３に示す例では、制御部ＣＮＴＬは、選択したサーバＳＶ１１が実行する仮想サーバＶＳＶを、ラックＲＣ３のサーバＳＶ３１に移動する。
【００２９】
ライブマイグレーションの実行により、サーバＳＶ１１の消費電力は１００Ｗになり、サーバＳＶ３１の消費電力は２８７Ｗになる。この結果、ラックＲＣ１の合計消費電力値は、所定の閾値以下の４．４６ｋＷになり、ラックＲＣ３の合計消費電力値は、１．９９ｋＷになる。これにより、ライブマイグレーションの実行前に比べて、ラックＲＣ１の合計消費電力値が定格電力値を超える可能性を低くすることができ、情報処理システムＳＹＳ１の信頼性を向上することができる。
【００３０】
なお、ラックＲＣ１内のサーバＳＶのうち、最も消費電力値が大きいサーバＳＶが複数ある場合、制御部ＣＮＴＬは、最も消費電力値が大きい複数のサーバＳＶを選択してもよく、最も消費電力値が大きい複数のサーバＳＶのいずれかを選択してもよい。そして、制御部ＣＮＴＬは、選択したサーバＳＶが実行する仮想サーバＶＳＶを、ラックＲＣ３内のサーバＳＶのいずれかに移動するライブマイグレーションを実行する。
【００３１】
また、ラックＲＣ１の合計消費電力値が４．８５ｋＷの場合、ライブマイグレーションの実行によりサーバＳＶ１１で実行する仮想サーバＶＳＶをサーバＳＶ３１に移動した後、ラックＲＣ１の合計消費電力値は４．６６ｋＷであり、所定の閾値を超えている。この場合、制御部ＣＮＴＬは、次に最も消費電力値が大きいサーバＳＶ１２が実行する仮想サーバＶＳＶを、ラックＲＣ３内のサーバＳＶのいずれかに移動する。これにより、ラックＲＣ１の合計消費電力値は、所定の閾値以下の４．５０ｋＷになり、ラックＲＣ３の合計消費電力値は、２．１５ｋＷになる。
【００３２】
最も消費電力値が大きいサーバＳＶを選択することで、消費電力値が最大でないサーバＳＶを選択する場合に比べて、ラックＲＣ１の合計消費電力値の削減効果を高くすることができる。この結果、ライブマイグレーションを実行するサーバＳＶの数（すなわち、ライブマイグレーションの回数）を最小限にすることができ、ライブマイグレーションによる情報処理システムＳＹＳ１の負荷の増加を最小限にすることができる。
【００３３】
以上のように、各通常ラックＲＣの合計消費電力値に応じてライブマイグレーションを実行することで、情報処理システムＳＹＳ１の性能を維持しながら、ラックＲＣ１の合計消費電力値が定格電力値を超えることを抑止することができる。
【００３４】
また、例えば、従来では、各ラックＲＣに搭載するサーバＳＶの数は、ラックＲＣに実装するサーバＳＶの定格電力値の総和が、ラックＲＣに供給可能な最大の電力値（定格電力値）を超えないように決められる。これに対して、情報処理装置ＳＹＳ１は、通常ラックＲＣ内のサーバＳＶが実行する仮想サーバＶＳＶを通常ラックＲＣの外に移動できる。このため、情報処理システムＳＹＳ１では、通常ラックＲＣに搭載するサーバＳＶの定格電力値の総和を、ラックＲＣの定格電力値を超えて設定することができる。例えば、各ラックＲＣの定格電力値が４．８ｋＷの場合、各ラックＲＣに搭載されるサーバＳＶの定格電力値の総和が電源タップＰＤＵ１の定格電力値の１．５倍（７．２ｋＷ）になるように、各ラックＲＣへのサーバＳＶの搭載数が決められる。この場合、各ラックＲＣへのサーバＳＶの搭載数を、従来に比べて１．５倍にすることができる。
【００３５】
このように、通常ラックＲＣ内のサーバＳＶが実行する仮想サーバＶＳＶをテンポラリラックＲＣ３に移動することで、各通常ラックＲＣに従来に比べて多くのサーバＳＶを実装することができる。これにより、従来に比べて、サーバＳＶの情報処理システムＳＹＳ１への実装密度を向上することができ、情報処理システムＳＹＳ１の性能を向上することができる。
【００３６】
図４は、図１に示す管理サーバＭＳＶの動作の一例を示す。図４に示す動作は、管理サーバＭＳＶが実行する制御プログラムにより実現され、通常ラックＲＣ毎に、所定の周期（例えば、３０秒間隔）で繰り返し実行される。すなわち、図４は、情報処理システムの制御方法および管理装置の制御プログラムの一例を示す。制御プログラムは、管理サーバＭＳＶに搭載されるメモリに格納され、管理サーバＭＳＶに搭載されるＣＰＵ等のプロセッサにより実行される。
【００３７】
まず、ステップＳ１において、管理サーバＭＳＶの取得部ＰＧＥＴは、各ラックＲＣに実装されたサーバＳＶの各々から消費電力値を取得する。以下では、サーバＳＶの消費電力値は、サーバ電力値とも称される。次に、ステップＳ２において、管理サーバＭＳＶの計算部ＣＡＬＣは、ステップＳ１で取得されたサーバ電力値に基づき、通常ラックＲＣの合計消費電力値を計算する。以下では、通常ラックＲＣの合計消費電力値は、ラック電力値とも称される。
【００３８】
次に、ステップＳ３において、管理サーバＭＳＶの制御部ＣＮＴＬは、ラック電力値が閾値ＰＶＴ１を超えたか否かを判定する。すなわち、制御部ＣＮＴＬは、ライブマイグレーションを実行するか否かを判定する。制御部ＣＮＴＬは、ラック電力値が閾値ＰＶＴ１を超えた場合、処理をステップＳ４に移行し、ラック電力値が閾値ＰＶＴ１以下の場合、処理を終了する。
【００３９】
ステップＳ４において、管理サーバＭＳＶの制御部ＣＮＴＬは、ラック電力値が閾値ＰＶＴ１を超えた通常ラックＲＣに実装されたサーバＳＶのうち、消費電力値が最も大きいサーバＳＶを選択する。そして、制御部ＣＮＴＬは、選択したサーバＳＶが実行する仮想サーバＶＳＶをテンポラリラックＲＣ３のサーバＳＶのいずれかに移動し、処理を終了する。例えば、仮想サーバＶＳＶの移動先のサーバＳＶは、テンポラリラックＲＣ３に実装されたサーバＳＶのうち、仮想サーバＶＳＶを実行していないサーバＳＶのいずかから選択される。
【００４０】
以上、図１から図４に示す実施形態では、通常ラックＲＣからテンポラリラックＲＣ３に仮想サーバＶＳＶを移動することで、ラック電力値が通常ラックＲＣの定格電力値を超えることを抑止することができる。これにより、例えば、通常ラックＲＣに搭載するサーバＳＶの定格電力値の総和を、通常ラックＲＣの定格電力値を超えて設定することができる。この結果、各通常ラックＲＣに実装可能なサーバＳＶの数を従来に比べて増やすことができ、情報処理システムＳＹＳ１の性能を向上することができる。ラック電力値が通常ラックＲＣの定格電力値を超えることを抑止できるため、情報処理システムＳＹＳ１の信頼性を向上することができる。
【００４１】
通常ラックＲＣから最も消費電力値が大きいサーバＳＶを選択してライブマイグレーションを実行するため、消費電力値が最大でないサーバＳＶを選択する場合に比べて、通常ラックＲＣの合計消費電力値の削減効果を高くすることができる。この結果、通常ラックＲＣの合計消費電力値を閾値ＰＶＴ１以下にするために実行するライブマイグレーションの回数を最小限にすることができ、ライブマイグレーションによる情報処理システムＳＹＳ１の負荷の増加を最小限にすることができる。
【００４２】
管理サーバＭＳＶは、電力を供給する電源線ＰＣが共通に接続されるラックＲＣ単位でサーバＳＶが実行する仮想サーバをテンポラリラックＲＣ３に移動する。これにより、電源線ＰＣが共通に接続されないグループ単位で仮想サーバを移動する場合に比べて、仮想サーバの移動を容易に制御することができる。ラックＲＣ３に実装されるサーバＳＶを仮想サーバの移動先として専用に使用することで、仮想サーバの移動先を定めない場合に比べて、管理サーバＭＳＶは、仮想サーバの移動を容易に制御できる。
【００４３】
図５は、情報処理システム、情報処理システムの制御方法および管理装置の制御プログラムの別の実施形態を示す。図１に示した実施形態で説明した要素と同一または同様の要素については、同一の符号を付し、詳細な説明は省略する。
【００４４】
図５に示す情報処理システムＳＹＳ２は、複数のラックＡ（Ａ１１、Ａ１２、Ａ１３、Ａ１４、...、Ａ２１、Ａ２２、Ａ２３、Ａ２４、...）、分電盤ＤＩＳＴ（ＤＩＳＴＡ１、ＤＩＳＴＡ２）、管理サーバＭＳＶおよびネットワークスイッチＮＳＷ１を有する。情報処理システムＳＹＳ２は、図１に示す情報処理システムＳＹＳ１と同様に、クラウドコンピューティングサービス等に使用される。
【００４５】
ラックＡ１１、Ａ１２、Ａ１３、Ａ１４は、分電盤ＤＩＳＴＡ１に設けられるブレーカＢＲＫを介して電力をそれぞれ受け、ラックＡ２１、Ａ２２、Ａ２３、Ａ２４は、分電盤ＤＩＳＴＡ２に設けられるブレーカＢＲＫを介して電力をそれぞれ受ける。分電盤ＤＩＳＴＡ１、ＤＩＳＴＡ２は、所定数のラックＡ毎に設けられる。図１０および図１１で説明するように、ライブマイグレーションの処理は、共通の電源線を介して電力を受けるラックＡ単位（すなわち、ブレーカＢＲＫ単位）で実行される。なお、各ブレーカＢＲＫに接続された電源線が２つのラックＡに共通に接続される場合、ライブマイグレーションの処理は、２つのラックＡ単位で実行されてもよい。これにより、電源線が共通に接続されないラック単位でライブマイグレーションが実行される場合に比べて、仮想サーバの移動を容易に制御することができる。
【００４６】
図５に示すラックＡは、図６に示す設置場所ＩＬの設置領域ＩＡＡに設置させる複数のラックＡの一部を示している。情報処理システムＳＹＳ２は、図６に示す設置場所ＩＬに設置される全てのラックを含む。設置場所ＩＬに設置される各ラックは、筐体の一例である。
【００４７】
各サーバＳＶに付した左から３番目のアルファベットＡは、サーバＳＶが設置領域ＩＡＡに設置されるラックＡのいずれかに実装されることを示す。各サーバＳＶに付した４桁の数字のうち、上位２桁は、設置領域ＩＡＡ内でのラックＡの位置を識別するラック番号を示し、下位の２桁は、ラックＡ内でのサーバＳＶの収納位置を示す。図５に示す例では、各ラックＡは、４２個のサーバＳＶを収納可能な収納空間を有する。
【００４８】
各ラックＡには、複数のサーバＳＶと、電源タップＰＤＵ（Power Distribution Unit）と、各サーバＳＶに接続されたネットワークスイッチＮＳＷ２とが実装される。各サーバＳＶの構成は、図２に示すサーバＳＶの構成と同一または同様であり、ＢＭＣ、ＣＰＵおよび電源ユニットＰＳ等を有する。電源タップＰＤＵは、分電盤ＤＩＳＴＡ１、ＤＩＳＴＡ２のブレーカＢＲＫを介して電力を受ける。電源タップＰＤＵが供給可能な最大の電力値である定格電力値は、ブレーカＢＲＫの定格電流値に対応して決まる。ネットワークスイッチＮＳＷ２は、ネットワークスイッチＮＳＷ１と各サーバＳＶとを接続する。各サーバＳＶおよびネットワークスイッチＮＳＷ２は、電源タップＰＤＵの差し込み口に接続される電源ケーブルを介して分電盤ＤＩＳＴＡ１（またはＤＩＳＴＡ２）からの電力を受けて動作する。以下では、電源タップＰＤＵの定格電力値は、ラックの定格電力値とも称される。
【００４９】
後述する図６に示す設置領域ＩＡ（ＩＡＢ、ＩＡＣ、ＩＡＤ、ＩＡＥ、ＩＡＦ、ＩＡＧ、ＩＡＨ、ＩＡＩ、ＩＡＪ）の構成も、図５と同様である。すなわち、図６において、各設置領域ＩＡに設置される網掛けで示す各ラックは、４２個のサーバＳＶを設置可能な空間を有する。また、各ラックには、電源タップＰＤＵと、各サーバＳＶに接続されるネットワークスイッチＮＳＷ２とが設置される。
【００５０】
管理サーバＭＳＶは、ネットワークスイッチＮＳＷ１、ＮＳＷ２を介して、各ラックＡの各サーバＳＶに接続される。管理サーバＭＳＶおよびサーバＳＶが、ＬＡＮ（Local Area Network）を介して互いに接続される場合、ネットワークスイッチＮＳＷ１、ＮＳＷ２は、ＬＡＮスイッチである。また、管理サーバＭＳＶは、通信線を介して各電源タップＰＤＵに接続され、電源タップＰＤＵの各差し込み口で使用する電流値を示す情報を、通信線を介して電源タップＰＤＵから取得する。各差し込み口で使用する電流値を示す情報は、各サーバＳＶおよびネットワークスイッチＮＳＷ２の消費電流値を示す。管理サーバＭＳＶは、各電源タップＰＤＵから取得する差し込み口毎の電流値に基づき、差し込み口に接続されたサーバＳＶまたはネットワークスイッチＮＳＷ２の消費電力値を算出する。なお、差し込み口には、無停電電源装置ＵＰＳ（Uninterruptible Power Supply）等、サーバＳＶおよびネットワークスイッチＮＳＷ２以外の装置が接続されてもよい。
【００５１】
なお、電源タップＰＤＵが差し込み口毎の電流値を計測する機能を持たない場合、管理サーバＭＳＶは、通信線ではなく、ネットワークスイッチＮＳＷ１、ＮＳＷ２を介して、各サーバＳＶのＢＭＣから各サーバＳＶの消費電力値を取得してもよい。この場合、管理サーバＭＳＶは、ＢＭＣを持たないネットワークスイッチＮＳＷ２等の装置の消費電力値を、例えば、ＳＮＭＰ(Simple Network Management Protocol）を利用して取得してもよい。また、管理サーバＭＳＶは、電源タップＰＤＵから電力を受けるラック内の装置のうち、消費電力値がほぼ一定の装置の消費電力値と、消費電力値がラック内で消費される総電力値に対して無視できる装置の消費電力値との取得を省略してもよい。管理サーバＭＳＶは、消費電力値がほぼ一定の装置の消費電力値の取得を省略する場合、取得した他の装置の諸費電力値の合計に、消費電力値がほぼ一定の装置の消費電力値を加算する。
【００５２】
管理サーバＭＳＶは、図２に示すサーバＳＶと同様の構成を有する。管理サーバＭＳＶは、ネットワークスイッチＮＳＷ１、ＮＳＷ２を介してパケットを送受信し、ライブマイグレーションを制御する。管理サーバＭＳＶおよびサーバＳＶのＢＭＣは、ＩＰＭＩの仕様にしたがって情報を通信する。
【００５３】
図６は、図５に示すラックＡが設置される設置領域ＩＡＡを含む設置場所ＩＬの一例を示す。換言すれば、図６は、図５に示す情報処理システムＳＹＳ２の全体像を示す。図６では、管理サーバＭＳＶ、ネットワークスイッチＮＳＷ１および分電盤ＤＩＳＴの記載は省略される。
【００５４】
設置場所ＩＬには、１０個の設置領域ＩＡ（ＩＡＡ、ＩＡＢ、ＩＡＣ、ＩＡＤ、ＩＡＥ、ＩＡＦ、ＩＡＧ、ＩＡＨ、ＩＡＩ、ＩＡＪ）が設けられる。なお、設置領域ＩＡの数は、１０個に限定されない。各設置領域ＩＡには、網掛けで示す５６個のラックと、斜線で示す４個の空調機ＡＩＲＣとが設置される。５６個のラックは、図６の横方向に１４個、図６の縦方向に４個が配列される。例えば、設置領域ＩＡＡにおいて、ラックＡに付した最初の数字は、図６の縦方向（行）の位置を示し、ラックＡに付した残りの数字（１桁または２桁）は、図６の横方向（列）の位置を示す。すなわち、各ラックＡに付した２桁または３桁の数字は、情報処理システムＳＹＳ２を構築するデータセンタ等におけるラックＡの配置を示す。
【００５５】
例えば、設置領域ＩＡＡ、ＩＡＢ、ＩＡＣ、ＩＡＤ、ＩＡＥ、ＩＡＦ、ＩＡＧ、ＩＡＨ、ＩＡＩに設置されるラックである通常ラックには、仮想サーバを用いて情報処理を開始するサーバＳＶが実装される。設置領域ＩＡＪに設置されるラックであるテンポラリラックには、ライブマイクグレーションにより通常ラックのサーバＳＶから仮想サーバが移動されるサーバＳＶが実装される。以下では、通常ラックが設置される設置領域ＩＡＡ−ＩＡＩは、通常領域とも称され、テンポラリラックが設置される設置領域ＩＡＪは、テンポラリ領域とも称される。通常ラックの各々は、仮想マシンにより情報処理を開始する複数のサーバＳＶを含む処理グループの一例である。テンポラリラックは、処理グループから仮想マシンが移動される移動先グループの一例である。
【００５６】
ここで、各ラックは、ラック内で消費される電力の計算単位であるグループに対応し、各グループは、各ラックに実装されるサーバＳＶを含む。テンポラリ領域ＩＡＩに設置されるテンポラリラックの各々は、通常ラックに実装されたサーバＳＶが実行する仮想サーバの移動先のサーバＳＶを含む他のグループの一例である。
【００５７】
図７は、図５に示す管理サーバＭＳＶの機能ブロックの一例を示す。なお、管理サーバＭＳＶの動作の例は、図１０で説明される。管理サーバＭＳＶは、電力監視部１０、ラック電力計算部１２、電力制御部１４、仮想サーバ制御部１６および電力キャッピング処理部１８を、機能ブロックとして有する。また、管理サーバＭＳＶは、サーバ管理テーブルＳＶＴＢＬおよびラック管理テーブルＲＣＴＢＬを有する。電力監視部１０、ラック電力計算部１２、電力制御部１４、仮想サーバ制御部１６および電力キャッピング処理部１８は、管理サーバＭＳＶが実行する制御プログラムにより実現されてもよく、管理サーバＭＳＶのハードウェアにより実現されてもよい。例えば、電力監視部１０、ラック電力計算部１２、電力制御部１４、仮想サーバ制御部１６および電力キャッピング処理部１８の機能は、管理サーバＭＳＶのＣＰＵがメモリＭＥＭに格納された制御プログラムを実行することで実現される。
【００５８】
電力監視部１０は、各ラックの電源タップＰＤＵまたは各ラックの各サーバＳＶのＢＭＣからサーバ電力値を所定の周期で取得し、取得した消費電力値を取得日時とともにサーバ管理テーブルＳＶＴＢＬに格納する。電力監視部１０は、複数のサーバＳＶの各々から消費電力値を取得する取得部の一例である。サーバ管理テーブルＳＶＴＢＬの例は、図８に示される。
【００５９】
ラック電力計算部１２は、サーバ管理テーブルＳＶＴＢＬに格納された各サーバＳＶの消費電力値に基づいて、各ラックの電源タップＰＤＵを介して使用される電力値である使用電力値を計算し、計算した使用電力値をラック管理テーブルＲＣＴＢＬに格納する。以下の説明では、各ラックの電源タップＰＤＵの使用電力値は、ラック電力値とも称される。ラック電力計算部１２は、サーバ管理テーブルＳＶＴＢＬが更新される毎に各ラックのラック電力値を計算し、計算したラック電力値をラック管理テーブルＲＣＴＢＬに格納する。ラック電力計算部１２は、複数のサーバＳＶの各々の消費電力値に基づき、各グループに属するサーバＳＶの消費電力値の合計である合計消費電力値を計算する計算部の一例である。ラック管理テーブルＲＣＴＢＬの例は、図９に示される。
【００６０】
電源制御部１４は、各種設定情報と、サーバ管理テーブルＳＶＴＢＬに格納された各サーバＳＶの消費電力値と、ラック管理テーブルＲＣＴＢＬに格納された各ラックのラック電力値に基づいて、ライブマイグレーションを実行するか否かを決定する。電源制御部１４は、ライブマイグレーションの実行を決定した場合、仮想マシンの移動元のサーバＳＶを示す情報と、仮想マシンの移動先のサーバＳＶを示す情報とを仮想サーバ制御部１６に通知する。
【００６１】
ここで、ライブマイグレーションは、通常ラックからテンポラリラックに仮想サーバを移動する処理、またはテンポラリラックから通常ラックに仮想サーバを移動する処理を示す。電源制御部１４は、複数のラックのうち、合計消費電力値が閾値ＰＶＴ１を超えたラックに属するサーバＳＶのうち、最も消費電力値が大きいサーバＳＶが実行する仮想サーバをテンポラリラックに移動させる制御部の一例である。
【００６２】
設定情報は、閾値ＰＶＴ１、ＰＶＴ２と、電力キャッピングを開始するラックの使用電力値であるキャッピング電力値とを含む。例えば、設定情報は、管理サーバＭＳＶ内に設けられるレジスタまたはＲＯＭ（Read Only Memory）等の記憶部に保持される。閾値ＰＶＴ１は、通常ラックからテンポラリラックに仮想サーバを移動するライブマイグレーションを実行するか否かを判定するために、ラック電力値と比較する電力値である。閾値ＰＶＴ２は、閾値ＰＶＴ１より低く、テンポラリラックから通常ラックに仮想サーバを移動するライブマイグレーションを実行するか否かを判定するために、ラック電力値と比較する電力値である。
【００６３】
なお、電源制御部１４は、ラック電力値が閾値ＰＶＴ１を超えた通常ラックからテンポラリ領域ＩＡＪのテンポラリラックへの仮想サーバの移動により、テンポラリラックのラック電力値が閾値ＰＶＴ１を超える場合、ライブマイグレーションを実行しない。すなわち、電源制御部１４は、テンポラリ領域ＩＡＪ内の全てのテンポラリラックのラック電力値に余裕がない場合、ライブマイグレーションの実行を抑制する。この場合、電源制御部１４は、ラック電力値が閾値ＰＶＴ１を超えた通常ラックに実装された電力キャッピングを実行させるサーバＳＶを示す情報と、設定情報に含まれるキャッピング電力値とを電力キャッピング処理部１８に通知する。すなわち、電力キャッピングは、ラック電力値が閾値ＰＶＴ１を超えた通常ラックに実装された全てのサーバＳＶで一律に実行される。
【００６４】
仮想サーバ制御部１６は、電源制御部１４から受信する情報に基づいて、ライブマイグレーションの実行対象のサーバＳＶを制御して、ライブマイグレーションを実行する。
【００６５】
電力キャッピング処理部１８は、電力キャッピングを制御する電力キャッピングプログラムが参照するレジスタ領域等に、電力制御部１４から受信したサーバＳＶを示す情報とキャッピング電力値とを格納する。電力キャッピングプログラムは、レジスタ領域等に格納された情報に基づいて、電力キャッピングの対象サーバＳＶに電力キャッピングを実行させる。電力キャッピングは、サーバＳＶの消費電力をキャッピング電力値以下に下げるために、サーバＳＶに搭載されるＣＰＵの電源電圧またはクロック周波数の少なくともいずれかを下げることにより実行される。
【００６６】
図８は、図７に示すサーバ管理テーブルＳＶＴＢＬの一例を示す。サーバ管理テーブルＳＶＴＢＬは、サーバ名、実装ラック名、ラック内位置、装置名、シリアル番号、取得日時およびサーバ電力値を格納する領域を、サーバＳＶ毎に有する。
【００６７】
サーバ名の領域には、各サーバＳＶを識別する情報が格納される。実装ラック名の領域には、各サーバＳＶが実装されるラックを識別する情報が格納される。ラック内位置の領域には、各サーバＳＶのラック内での収納位置を示す情報が格納される。装置名の領域には、サーバＳＶの製品名を示す情報が格納される。シリアル番号の領域には、製造番号等の各サーバＳＶに固有の番号が格納される。取得日時の領域には、図７に示す電力監視部１０が消費電力値を取得した日時が格納される。サーバ電力値の領域には、図７に示す電力監視１０が取得した各サーバＳＶの消費電力値（ワット数）が格納される。
【００６８】
なお、サーバ名、実装ラック名、ラック内位置、装置名およびシリアル番号の情報は、情報処理システムＳＹＳ２の起動時または起動前に、サーバ管理テーブルＳＶＴＢＬに設定される。取得日時およびサーバ電力値の情報は、図７に示す電力監視部１０により設定される。
【００６９】
図９は、図７に示すラック管理テーブルＲＣＴＢＬの一例を示す。ラック管理テーブルＲＣＴＢＬは、図８に示すサーバ管理テーブルＳＶＴＢＬと同様に、サーバ名、実装ラック名、ラック内位置、装置名、シリアル番号、取得日時およびサーバ電力値を格納する領域を、サーバＳＶ毎に有する。また、ラック管理テーブルＲＣＴＢＬは、図７に示すラック電力計算部１２が計算したラック電力値を格納する領域を有する。
【００７０】
図１０は、図５に示す管理サーバＭＳＶの動作の一例を示す。図４に示す動作と同一または同様の動作については、詳細な説明は省略する。例えば、図１０に示す動作は、管理サーバＭＳＶが実行する制御プログラムにより実現され、ラック毎に所定の周期ＴＰで繰り返し実行される。すなわち、図１０は、情報処理システムの制御方法および管理装置の制御プログラムの一例を示す。特に限定されないが、周期ＴＰの初期値は、３０秒であり、図１０に示す処理に伴い、１０秒から３０秒の間で変化する。
【００７１】
まず、ステップＳ１０において、管理サーバＭＳＶの電力監視部１０は、対象のラックに実装されたサーバＳＶの各々が消費する電力値を取得する。電力監視部１０は、取得した消費電力値をサーバ管理テーブルＳＶＴＢＬに格納する。
【００７２】
次に、ステップＳ１２において、管理サーバＭＳＶのラック電力計算部１４は、ステップＳ１０で取得されたサーバ電力値に基づき、処理対象のラックのラック電力値（すなわち、合計消費電力値）を計算する。ラック電力計算部１４は、計算したラック電力値をラック管理テーブルＲＣＴＢＬに格納する。
【００７３】
次に、ステップＳ１４において、管理サーバＭＳＶの電力制御部１４は、ラック電力値が閾値ＰＶＴ１を超えたか否かを判定する。電力制御部１４は、ラック電力値が閾値ＰＶＴ１を超えた場合、処理をステップＳ１６に移行し、ラック電力値が閾値ＰＶＴ１以下の場合、処理をステップＳ１８に移行する。例えば、閾値ＰＶＴ１は、ラックの定格電力値の９５％前後に設定される。
【００７４】
ステップＳ１６において、電力制御部１４は、ラック電力値が閾値ＰＶＴ１を超えた超過ラックに実装されたサーバＳＶが実行する仮想サーバをテンポラリラックに移動可能か否かを判定する。例えば、電力制御部１４は、以下の条件１、２の両方を満たす場合、超過ラックに実装されたサーバＳＶが実行する仮想サーバをテンポラリラックに移動可能と判定し、ライブマイグレーションを実行するために処理をステップＳ１００に移行する。一方、電力制御部１４は、条件１、２のいずれかを満たさない場合、仮想サーバのテンポラリラックへの移動が困難であると判定し、電力キャッピングを実行するために処理をステップＳ３００に移行する。
（条件１）閾値ＰＶＴ１とテンポラリラックのいずれかのラック電力値との差が、超過ラックのラック電力値と閾値ＰＶＴ１との差より大きい。すなわち、仮想サーバをテンポラリラックに移動した場合に、テンポラリラックのラック電力が閾値ＰＶＴ１を超えない。
（条件２）テンポラリラックに実装されたいずれかのサーバＳＶのＨＤＤ等の記憶装置の記憶容量に、仮想サーバを移動可能な余裕がある。
【００７５】
ステップＳ１００において、電力制御部１４および仮想サーバ制御部１６は、通常ラックからテンポラリラックへのライブマイグレーションを実行する。ステップＳ１００の処理の例は、図１１に示す。
【００７６】
ステップＳ３００において、電力制御部１４は、電力キャッピングを実行させるサーバＳＶを示す情報とキャッピング電力値とを電力キャッピング処理部１８に通知する。例えば、キャッピング電力値は、ラックの定格電力値の９７％に設定される。電力キャッピング処理部１８は、電力制御１４からの情報に基づいて、電力キャッピングの対象サーバＳＶに電力キャッピングを実行させる。すなわち、管理サーバＭＳＶは、ラック電力が閾値ＰＶＴ１を超えた通常ラックからテンポラリラックへの仮想サーバの移動が困難な場合、ラック電力が閾値ＰＶＴ１を超えた通常ラックに実装されたサーバＳＶに電力キャッピングを実行させる。電力キャッピングは、ラック電力が閾値ＰＶＴ１を超えた通常ラックに実装された全てのサーバＳＶで実行されることが好ましい。しかしながら、電力キャッピングは、ラック電力が閾値ＰＶＴ１を超えた通常ラックに実装されたサーバＳＶのうち、消費電力値が所定値より高いサーバＳＶのみで実行されてもよい。このように、通常ラックからテンポラリラックへの仮想サーバの移動が困難な場合にも、電力キャッピングの実行により、ラック電力値がラックの定格電力値を超えることを抑止することができる。
【００７７】
一方、通常ラックのラック電力値が閾値ＰＶＴ１以下の場合、ステップＳ１８において、管理サーバＭＳＶは、図１０に示す動作を実行する周期ＴＰを１０秒長くし、処理をステップＳ２０に移行する。周期ＴＰの最大値ＴＰｍａｘは３０秒であるため、周期ＴＰがすでに３０秒の場合、ステップＳ１８の処理は省略される。周期ＴＰを長くすることで、サーバ電力の取得頻度およびラック電力の計算頻度が低くなり、情報処理システムＳＹＳ２の消費電力を下げることができる。
【００７８】
ステップＳ２０において、電力制御部１４は、通常ラックのラック電力値が閾値ＰＶＴ２以下か否かを判定する。閾値ＰＶＴ２は、テンポラリラックに移動した仮想サーバを通常ラックに戻すことが可能か否かの判定に使用され、例えば、ラックの定格電力値の８０％前後に設定される。電力制御部１４は、ラック電力値が閾値ＰＶＴ２以下の場合、テンポラリラックから通常ラックへのライブマイグレーションが可能と判定し、処理をステップＳ２２に移行する。電力制御部１４は、ラック電力値が閾値ＰＶＴ２を超える場合、テンポラリラックから通常ラックへのライブマイグレーションが困難であると判定し、処理を終了する。仮想サーバをテンポラリラックから通常ラックに戻す判断を、閾値ＰＶＴ１より低い閾値ＰＶＴ２を用いて実行することで、テンポラリラックから仮想サーバを移動した通常ラックのラック電力値が、閾値ＰＶＴ１を超える可能性を低くすることができる。
【００７９】
ステップＳ２２において、電力制御部１４は、仮想サーバを実行中のテンポラリラックがあるか否かを、仮想サーバ制御部１６に問い合わせる。電力制御部１４は、仮想サーバを実行中のテンポラリラックがある場合、処理をステップＳ２００に移行し、仮想サーバを実行中のテンポラリラックがない場合、処理を終了する。
【００８０】
ステップＳ２００において、電力制御部１４および仮想サーバ制御部１６は、テンポラリラックから通常ラックへのライブマイグレーションを実行する。ステップＳ２００の処理の例は、図１１に示す。
【００８１】
なお、図１０に示す例では、例えば、閾値ＰＶＴ１、ＰＶＴ２は、経験則に基づいて決定され、閾値ＰＶＴ１は、ラックの定格電力値の９６％に設定され、閾値ＰＶＴ２は、ラックの定格電力値の８３％に設定される。ここで、ラックの定格電力値は、図５に示すブレーカＢＲＫの定格電流値に対応して決まる。
【００８２】
ブレーカＢＲＫに流れる電流が定格電流値を超えてからブレーカＢＲＫが遮断されるまでの動作時間は、「電気設備技術基準とその解釈」の第３３条で規定されている。例えば、定格電流値が３０アンペア以下のブレーカＢＲＫの動作時間の最大値は、定格電流値の１．２５倍の電流が流れた場合、６０分であり、定格電流値の２倍の電流が流れた場合、２分である。ここで、動作時間は、規定された電流が流れてからブレーカＢＲＫが遮断するまでの時間である。動作時間の最小値は、ブレーカＢＲＫを製造するメーカにより保証され、ブレーカＢＲＫに定格電流値の２倍の電流が流れた場合、動作時間の最小値が数十秒程度のものがある。なお、情報処理システムＳＹＳ２が正常に動作している状態で、定格電流値の２倍の電流が流れることはない。
【００８３】
このため、閾値ＰＶＴ１がブレーカＢＲＫの定格電流値に対応するラックの定格電力値に設定されても、動作時間の最小値の間に、ライブマイグレーションを実行し、ラックの消費電力値を減らすことで、ブレーカＢＲＫの遮断を抑止することができる。換言すれば、図１０に示す例では、閾値ＰＶＴ１は、ライブマイグレーションを実行するために、余裕を持たせて、ラックの定格電力値の９６％に設定される。また、ブレーカＢＲＫが遮断される前にライブマイグレーションを実行するために、図１０に示す処理（すなわち、サーバ電力値の取得）は、ブレーカＢＲＫの動作時間の最小値より短い間隔で繰り返されることが望ましい。例えば、図１０に示す動作の実行間隔である周期ＴＰの最大値（３０秒）は、ブレーカＢＲＫの動作時間の最小値に合わせて設定される。サーバ電力値の取得間隔をブレーカＢＲＫの動作時間の最小値に合わせて設定することで、ラック電力値がラックの定格電力値を超えた場合にも、ブレーカＢＲＫが遮断される前にライブマイグレーションを実行し、ラックの消費電力値を下げることができる。
【００８４】
図１１は、図１０に示すステップＳ１００の処理の一例を示す。まず、ステップＳ１０２において、電力制御部１４は、ラック管理テーブルＲＣＴＢＬに格納された情報を用いて、サーバ電力値の積算値がラック電力値と閾値ＰＶＴ１との差以上になるまで、消費電力値が大きい順にサーバＳＶを選択する。すなわち、電力制御部１４は、ラック電力値を閾値ＰＶＴ１以下にするために、ライブマイグレーションを実行するサーバＳＶを選択する。
【００８５】
次に、ステップＳ１０４において、電力制御部１４は、ステップＳ１０２で選択したサーバＳＶを示す情報と、テンポラリラックのうちラック電力値が最も小さいテンポラリラックを示す情報とを仮想サーバ制御部１６に通知する。仮想サーバ制御部１６は、電力制御部１４からの情報に基づいて、ステップＳ１０２で選択したサーバＳＶが実行する仮想サーバをテンポラリラックに移動するライブマイグレーションを実行する。すなわち、管理サーバＭＳＶは、ラック電力値が閾値ＰＶＴ１を超えた通常ラックのラック電力値が閾値ＰＶＴ１以下になるまで、消費電力値が大きいサーバＳＶから順にサーバＳＶが実行する仮想サーバをテンポラリラックに移動させる。これにより、ステップＳ１００を１回実行することで、ラック電力が閾値ＰＶＴ１を超えた通常ラックのラック電力値を閾値ＰＶＴ１以下にすることができる。なお、通常ラックから仮想サーバを移動するテンポラリラックは、仮想サーバを移動可能であれば、ラック電力値が最も小さいテンポラリラックに限定されない。
【００８６】
次に、ステップＳ１０６において、電力制御部１４は、ステップＳ１０２において選択したサーバＳＶの数が、前回のライブマイグレーションを実行したサーバＳＶの数より多いか否かを判定する。ステップＳ１０２において選択したサーバＳＶの数が、前回の処理でライブマイグレーションを実行したサーバＳＶの数より多い場合、処理はステップＳ１０８に移行する。ステップＳ１０２において選択したサーバＳＶの数が、前回のライブマイグレーションを実行したサーバＳＶの数以下の場合、処理は終了する。
【００８７】
ここで、ステップＳ１００は通常ラック毎に実行されるため、ステップＳ１０６の判定対象は、図１０に示すステップＳ１４で判定した通常ラックである。電力制御部１４は、ライブマイグレーションを実行したにも拘わらず、周期ＴＰ後にラック電力が閾値ＰＶＴ１を超えた場合、ラック電力が急激に増加したと判断する。
【００８８】
ステップＳ１０８において、電力制御部１４は、図１０に示す動作を実行する周期ＴＰを１０秒短くし、処理を終了する。すなわち、電力制御部１４は、テンポラリラックに移動させた仮想マシンの移動元のサーバＳＶを含む通常ラックのラック電力値が、増加傾向にあり、閾値ＰＶＴ１を再度超えた場合、周期ＴＰを短くする。周期ＴＰの最小値ＴＰｍｉｎは１０秒であるため、周期ＴＰがすでに１０秒の場合、ステップＳ１０８の処理は省略される。
【００８９】
周期ＴＰを短くすることで、ラック電力の計算頻度が高くなり、ラック電力が閾値ＰＶＴ１を超えた場合に実行されるライブマイグレーションの頻度が高くなる。この結果、ラック電力が、周期ＴＰの間に閾値ＰＶＴ１を超え、さらにラックの定格電力値を超えることを抑止することができる。
【００９０】
なお、周期ＴＰは、所定値（例えば、３０秒）に固定されてもよく、この場合、管理サーバＭＳＶは、ステップＳ１０６、Ｓ１０８の処理と、図１０に示すステップＳ１８の処理を実行しない。また、周期ＴＰが所定値に固定される場合、電力制御部１４は、ステップＳ１０２において、ラック管理テーブルＲＣＴＢＬに格納された情報を用いて、消費電力値が最も大きいサーバＳＶの１つを選択してもよい。この場合、ラック電力値が閾値ＰＶＴ１以下になるまで、ステップＳ１００が繰り返し実行される。
【００９１】
図１２は、図１０に示すステップＳ２００の処理の一例を示す。まず、ステップＳ２０２において、電力制御部１４は、テンポラリラックのうち、ラック電力値が最も大きいテンポラリラックを選択する。なお、電力制御部１４は、ＬＲＵ（Least Recently Used）またはラウンドロビン等の手法を用いて、仮想サーバを実行中のテンポラリラックのいずれか１つを選択してもよい。
【００９２】
次に、ステップＳ２０４において、電力制御部１４は、図１０に示すステップＳ２０で判定した処理対象の通常ラックのラック電力値が閾値ＰＶＴ２を超えるまで、選択したテンポラリラックから仮想サーバを移動させるライブマイグレーションを実行する。電力制御部１４は、処理対象の通常ラックのラック電力が閾値ＰＶＴ２を超えたか否かを、ラック管理テーブルＲＣＴＢＬに格納された情報に基づいて判断する。そして、図１２に示す処理が終了する。
【００９３】
図１３は、図５に示す情報処理システムＳＹＳ２の動作の一例を示す。図１３は、通常ラックからテンポラリラックに仮想サーバを移動する例を示す。例えば、管理サーバＭＳＶは、斜線の矩形で示す期間に、処理対象の通常ラックを変更しながら、図１０に示す処理を実行する。なお、図１３では、電力キャッピングの処理は実行されない。
【００９４】
管理サーバＭＳＶは、図６に示す全てのラック毎に、所定の周期ＴＰでサーバ電力値を問い合わせ、各ラックの各サーバＳＶからサーバ電力値の通知を受ける（図１３（ａ）、（ｂ）、（ｃ）、（ｄ））。そして、管理サーバＭＳＶは、図１０で説明したように、通常ラックのラック電力値を計算し、ラック電力値が閾値ＰＶＴ１を超えた場合、通常ラックからテンポラリラックに仮想サーバを移動するライブマイグレーションを実行する（図１３（ｅ））。図１３に示す例では、管理サーバＭＳＶは、通常ラックＡ１２からテンポラリラックＪ１１に仮想サーバを移動する。また、管理サーバＭＳＶは、ライブマイグレーションを実行したことを示す情報を、情報処理システムＳＹＳ２の運用者に対して通知する（図１３（ｆ））。例えば、管理サーバＭＳＶは、ライブマイグレーションを実行したことを示す情報を表示装置に表示することで、ライブマイグレーションの実行を運用者に通知する。
【００９５】
図１４は、図５に示す情報処理システムＳＹＳ２の動作の別の例を示す。図１４は、テンポラリラックから通常ラックに仮想サーバを移動する例を示す。図１３と同じ動作については、詳細な説明は省略する。なお、図１４では、電力キャッピングの処理は実行されない。
【００９６】
管理サーバＭＳＶは、図１３と同様に、ラック毎に、所定の周期ＴＰでサーバ電力値を問い合わせ、各ラックの各サーバＳＶからサーバ電力値の通知を受ける（図１４（ａ）、（ｂ）、（ｃ）、（ｄ））。管理サーバＭＳＶは、計算により得たラック電力値が閾値ＰＶＴ２以下の場合、テンポラリラックから通常ラックに仮想サーバを移動するライブマイグレーションを実行する（図１４（ｅ））。図１３に示す例では、管理サーバＭＳＶは、テンポラリラックＪ１１から通常ラックＡ１２に仮想サーバを移動する。また、管理サーバＭＳＶは、ライブマイグレーションを実行したことを示す情報を、情報処理システムＳＹＳ２の運用者に対して通知する（図１４（ｆ））。
【００９７】
図１５は、図５に示す情報処理システムＳＹＳ２のテスト運用時の動作の一例を示す。テスト運用は、各ラックへのサーバＳＶの実装数を決めるために実行される。例えば、テスト運用は、１４個のラックＡ１１−Ａ１４のそれぞれに実装された１０個のサーバＳＶ（合計１４０個のサーバＳＶ）を動作させて実行される。
【００９８】
まず、管理サーバＭＳＶは、運用者が操作するキーボード、マウス等の入力装置を介して、ラックの定格電力値および各ラックに実装されるサーバＳＶの数等のテスト運用の環境情報を受信する（図１５（ａ））。この後、各サーバＳＶは、実際の運用時の動作を想定したデータ処理を継続して実行する。これにより、各サーバＳＶの消費電力値は、実際の運用時の消費電力値と同じ傾向で変化する。
【００９９】
管理サーバＭＳＶは、図１３と同様に、ラックＡ１１−Ａ１４毎に、所定の周期ＴＰでサーバ電力値を問い合わせ、各ラックの各サーバＳＶからサーバ電力値の通知を受ける（図１５（ｂ））。管理サーバＭＳＶは、各サーバＳＶからサーバ電力値を受ける毎に、受けたサーバ電力値をＨＤＤ等の記憶装置に保存する。
【０１００】
管理サーバＭＳＶは、期間ＴＥＳＴＰが経過するまでテスト運用を実行し、期間ＴＥＳＴＰの経過後、ＨＤＤ等の記憶装置に保存したサーバ電力値の平均値を算出する（図１５（ｃ））。例えば、期間ＴＥＳＴＰは、１週間に設定される。管理サーバＭＳＶは、ラックの定格電力値をサーバ電力値の平均値で除することで、各通常ラックに実装するサーバＳＶの数を算出する（図１５（ｄ））。そして、管理サーバＭＳＶは、算出したサーバＳＶの数を運用者に対して通知する（図１５（ｅ））。
【０１０１】
例えば、ラックの定格電力値が４．８ｋＷで、サーバ電力値の平均値（実力値）が２４０Ｗの場合、各ラックに実装可能なサーバＳＶの最大数は、２０台である。しかしながら、各ラックには、ネットワークスイッチＮＳＷ２等のサーバＳＶ以外の装置も搭載されるため、各ラックに搭載するサーバＳＶの数は、余裕を持たせて例えば、”１８”に設定される。サーバ電力値の平均値を用いて各ラックに実装可能なサーバＳＶの最大数を算出することで、サーバＳＶの定格電力値を用いて各ラックに実装可能なサーバＳＶの最大数を算出する場合に比べて、各ラックに実装可能なサーバＳＶの最大数を増やすことができる。
【０１０２】
図１６は、図５に示す情報処理システムＳＹＳ２の消費電力値の一例を示す。図６に示すように、情報処理システムＳＹＳ２が設置される設置場所ＩＬは、９個の通常領域ＩＡＡ−ＩＡＩと、１個のテンポラリ領域ＩＡＪとを有する。情報処理システムＳＹＳ２は、９個の通常領域ＩＡＡ−ＩＡＩのうち、５個の通常領域ＩＡＡ−ＩＡＥと１個のテンポラリ領域ＩＡＪとを使用してクラウドコンピューティングサービスを提供する。一方、比較例として示す他の情報処理システムは、設置領域ＩＬの全ての設置領域ＩＡＡ−ＩＡＪを使用してクラウドコンピューティングサービスを提供し、ライブマイグレーションは実行しない。図６に示すように、各設置領域ＩＡには５６個のラックが設置される。
【０１０３】
情報処理システムＳＹＳ２では、各ラックに１８個のサーバＳＶが実装される。このため、５個の通常領域ＩＡＡ−ＩＡＥに実装されるサーバＳＶの総数は５０４０個であり、テンポラリ領域ＩＡＪに実装されるサーバＳＶの総数は１００８個である。通常領域ＩＡＡ−ＩＡＥにおいて、各サーバＳＶの消費電力値の平均が２４０Ｗの場合、各ラックの消費電力の平均値は４．３２ｋＷになる。テンポラリ領域ＩＡＪにおいて、各サーバＳＶの消費電力の平均値が１０８Ｗの場合、各ラックの消費電力の平均値は、１．９４ｋＷである。なお、説明を分かりやすくするため、各ラックの消費電力値は、サーバＳＶの消費電力値のみに基づいて算出されるとする。比較例に示す他の情報処理システムでは、１０個の設置領域ＩＡＡ−ＩＡＪに実装されるサーバＳＶの総数は５６００個であり、各ラックの消費電力の平均値は２．４ｋＷである。
【０１０４】
情報処理システムＳＹＳ２および他の情報処理システムにおいて、各ラックに実装するサーバＳＶの数は、以下のように決められる。
【０１０５】
情報処理システムＳＹＳ２において、各ラックに実装するサーバＳＶの数は、通常領域ＩＡＡ−ＩＡＩに実装される各サーバＳＶの平均的な稼働率を６０％とした場合の消費電力の平均値（２４０Ｗ）と、各ラックの電力上限値（４．６ｋＷ）に基づいて決定される。テンポラリ領域ＩＡＪの各ラックに実装されるサーバＳＶの数は、通常領域ＩＡＡ−ＩＡＥに実装される各サーバＳＶの数と同じに設定される。サーバＳＶの稼働率と消費電力値との関係については、図１７に示される。各ラックの電力上限値は、各ラックの定格電力値（例えば、４．８ｋＷ）の約９５％に設定される。電力上限値は、閾値ＰＶＴ１に対応しており、ライブマイグレーションの実行を判定する電力値である。
【０１０６】
テンポラリ領域ＩＡＪの各ラックに実装されるサーバＳＶにおいて、ライブマイグレーションにより仮想サーバが移動される前の初期状態では、サーバＳＶの稼働率は０％であり、消費電力の平均値は１０８Ｗである。なお、図１６では、テンポラリ領域ＩＡＪに実装される全てのサーバＳＶが、初期状態において１０８Ｗを消費する例を示すが、初期状態において、１ラックに実装されるサーバＳＶのみが１０８Ｗを消費してもよい。すなわち、残りの５５個のラックに実装されるサーバＳＶは、ライブマイグレーションの実行による仮想サーバの移動が決定されたことに基づいて、ラック毎に電源が投入されてもよい。これにより、テンポラリ領域ＩＡＪに実装される全てのサーバＳＶが起動される場合に比べて、情報処理システムＳＹＳ２の消費電力を削減することができる。
【０１０７】
比較例に示す他の情報処理システムでは、サーバＳＶの稼働率が６０％（消費電力値＝２４０Ｗ）の場合に、各ラックの消費電力値がラックの定格電力値（４．８ｋＷ）のほぼ５０％になるように、各ラックに実装するサーバＳＶの数が決定される。図１６に示す例では、他の情報処理システムにおいて、各ラックに実装するサーバＳＶの数は１０である。これにより、他の情報処理システムでは、サーバＳＶの稼働率が１００％（消費電力値＝３４０Ｗ）の場合にも、各ラックの消費電力値は、ラックの定格電力値の７０％程度である３．４ｋＷに抑えられ、他の情報処理システムは、安定して運用される。
【０１０８】
一方、図５に示す情報処理システムＳＹＳ２において各ラックに実装されるサーバＳＶの数（１８個）は、他の情報処理システムにおいて各ラックに実装されるサーバＳＶの数（１０個）の１．８倍である。また、互いに同じ情報処理を実行する場合、情報処理システムＳＹＳ２で使用する設置領域ＩＡの数（６個）は、他の情報処理システムで使用する設置領域ＩＡの数（１０個）の６０％である。すなわち、情報処理システムＳＹＳ２では、比較例として示す他の情報処理システムに比べて、使用する設置領域ＩＡの数を減らすことができ、情報処理の性能を劣化させることなく、サーバＳＶの実装密度を向上することができる。
【０１０９】
使用する設置領域ＩＡの数を減らすことができるため、例えば、情報処理システムＳＹＳ２をクラウドコンピューティングサービスに使用する場合、他の情報処理システムに比べて、データセンタの単位面積当たりの収益を向上することができる。さらに、情報処理システムＳＹＳ２では、図６に示す設置領域ＩＡＦ−ＩＡＩは、クラウドコンピューティングサービスに使用されないため、設置領域ＩＡＦ−ＩＡＩに他の情報処理を実行するサーバＳＶ（例えば、レンタルサーバ等）を実装することができる。したがって、情報処理システムＳＹＳ２の性能をさらに向上することができる。
【０１１０】
情報処理システムＳＹＳ２において、クラウドコンピューティングサービスに使用する全サーバＳＶ（６０４８個）の消費電力値は、１３１８ｋＷになり、他の情報処理システムにおいて、全サーバＳＶ（５６００個）の消費電力値は、１３４４ｋＷになる。また、情報処理システムＳＹＳ２において、通常領域ＩＡＡ−ＩＡＥの空調機ＡＩＲＣの稼働率は６３％であり、テンポラリ領域ＩＡＪの空調機ＡＩＲＣの稼働率は２８％である。他の情報処理システムにおいて、設置領域ＩＡＡ−ＩＡＩの空調機ＡＩＲＣの稼働率は３５％である。空調機ＡＩＲＣの稼働率は、式（１）により算出される。なお、各空調機ＡＩＲＣの定格電力値は、９６ｋＷとする。
各設置領域ＩＡの消費電力値÷（各設置領域ＩＡ内の空調機の数×空調機の定格電力値）  ‥‥（１）
動作係数ＣＯＰ（Coefficient of Performance）は、外気温と空調機ＡＩＲＣの稼働率に依存する空調機ＡＩＲＣの能力の特性に基づいて決まる。外気温は、空調機ＡＩＲＣから出力される空気の温度であり、摂氏２０度とする。また、摂氏２０度の空気を取り込んだサーバＳＶが排出する空気の温度は、例えば、摂氏３２度であるとする。空調機ＡＩＲＣの能力の特性の例は、図１８に示される。
【０１１１】
各空調機ＡＩＲＣの消費電力値は、式（２）に示され、式（２）中の圧縮機電力は、式（３）により示される。室内ファンおよび圧縮機は、各空調機ＡＩＲＣ内に設けられる。例えば、各空調機ＡＩＲＣの室内ファンの消費電力値は、６ｋＷである。
空調機の消費電力値＝（室内ファンの消費電力値＋圧縮機の消費電力値）  ‥‥（２）
圧縮機の消費電力値＝空調機の定格電力値×空調機の稼働率÷ＣＯＰ−室内ファンの消費電力  ‥‥（３）
式（２）および式（３）より、情報処理システムＳＹＳ２において、通常領域ＩＡＡ−ＩＡＥの各空調機ＡＩＲＣの消費電力値は１４．４ｋＷになり、テンポラリ領域ＩＡＪの各空調機ＡＩＲＣの消費電力値は９．６ｋＷになる。これより、情報処理システムＳＹＳ２の空調機ＡＩＲＣの総消費電力値は３２６ｋＷ（１４．４ｋＷ×４×５＋９．６ｋＷ×４×１）になる。また、他の情報処理システムの各設置領域ＩＡにおいて、各空調機ＡＩＲＣの消費電力値は１０．５ｋＷになる。これより、他の情報処理システムの空調機ＡＩＲＣの総消費電力値は４２０ｋＷ（１０．５ｋＷ×４×１０）になる。情報処理システムＳＹＳ２の空調機ＡＩＲＣの総消費電力値は、他の情報処理システムの空調機ＡＩＲＣの総消費電力値に比べて、９４ｋＷ削減（２２．３％）することができる。
【０１１２】
以上より、情報処理システムＳＹＳ２の総電力値は１６４４ｋＷ（１３１８ｋＷ＋３２６ｋＷ）になり、他の情報処理システムの総消費電力値は１７６４ｋＷ（１３４４ｋＷ＋４２０ｋＷ）になる。情報処理システムＳＹＳ２の総消費電力値は、他の情報処理システムの総消費電力値に比べて、１２０ｋＷ削減（６．８％）することができる。
【０１１３】
図１７は、図６に示す設置場所ＩＬに設置されるサーバＳＶの消費電力値と稼働率との関係の一例を示す。図１７は、サーバＳＶに搭載されるプロセッサ等のＬＳＩ（Large Scale Integration）の最大発熱量の指標である熱設計電力ＴＤＰ（Thermal Design Power）が、９５Ｗの場合の特性を示す。サーバＳＶが稼働していない場合、すなわち、ライブマイグレーションにより仮想サーバが移動される前の初期状態では、サーバＳＶの稼働率は０％であり、消費電力の平均値は１０８Ｗである。また、サーバＳＶの平均的な稼働率を６０％とした場合の消費電力値は、２４０Ｗである。サーバＳＶの稼働率が１００％の場合の消費電力値（最大値）は、３４０Ｗである。
【０１１４】
図１８は、図６に示す空調機ＡＩＲＣの能力の特性の一例を示す。図１６に示す各空調機ＡＩＲＣの消費電力値は、外気温が摂氏２０度の場合の特性から導かれるＣＯＰを用いて算出される。
【０１１５】
以上、図５から図１８に示す実施形態においても、図１に示す実施形態と同様の効果を得ることができる。すなわち、通常ラックからテンポラリラックに仮想サーバを移動することで、ラック電力値が通常ラックの定格電力値を超えることを抑止することができる。これにより、通常ラックへのサーバＳＶの実装密度を向上することができ、情報処理システムＳＹＳ２の性能を向上することができる。ラック電力値が通常ラックの定格電力値を超えることを抑止できるため、情報処理システムＳＹＳ２の信頼性を向上することができる。テンポラリラックに実装されるサーバＳＶを仮想サーバの移動先として専用に使用することで、仮想サーバの移動先を定めない場合に比べて、管理サーバＭＳＶは、仮想サーバの移動を容易に制御できる。
【０１１６】
さらに、図５から図１８に示す実施形態では、管理サーバＭＳＶは、通常ラックから消費電力値が大きい順にサーバＳＶを選択してライブマイグレーションを実行する。これにより、図１０に示すステップＳ１００を１回実行することで、ラック電力が閾値ＰＶＴ１を超えた通常ラックのラック電力値を閾値ＰＶＴ１以下にすることができる。この結果、ライブマイグレーションによる情報処理システムＳＹＳ２の負荷の増加を最小限にすることができる。
【０１１７】
仮想サーバをテンポラリラックから通常ラックに戻す判断を、閾値ＰＶＴ１より低い閾値ＰＶＴ２を用いて実行することで、テンポラリラックから仮想サーバを移動した通常ラックのラック電力値が、閾値ＰＶＴ１を超える可能性を低くすることができる。電力キャッピングの実行により、通常ラックからテンポラリラックへの仮想サーバの移動が困難な場合にも、ラック電力値がラックの定格電力値を超えることを抑止することができる。
【０１１８】
通常ラックのラック電力値が増加傾向にある場合、周期ＴＰを短くすることで、ライブマイグレーションの頻度を高くすることができる。この結果、ラック電力が周期ＴＰの間に閾値ＰＶＴ１を超え、さらにラックの定格電力値を超えることを抑止することができる。通常ラックのラック電力値が閾値ＰＶＴ１以下の場合、周期ＴＰを長くすることで、サーバ電力の取得頻度およびラック電力の計算頻度を低くすることができ、情報処理システムＳＹＳ２の消費電力を下げることができる。
【０１１９】
以上の詳細な説明により、実施形態の特徴点および利点は明らかになるであろう。これは、特許請求の範囲がその精神および権利範囲を逸脱しない範囲で前述のような実施形態の特徴点および利点にまで及ぶことを意図するものである。また、当該技術分野において通常の知識を有する者であれば、あらゆる改良および変更に容易に想到できるはずである。したがって、発明性を有する実施形態の範囲を前述したものに限定する意図はなく、実施形態に開示された範囲に含まれる適当な改良物および均等物に拠ることも可能である。
【符号の説明】
【０１２０】
１０…電力監視部；１２…ラック電力計算部；１４…電力制御部；１６…仮想サーバ制御部；１８…電力キャッピング処理部；ＡＩＲＣ…空調機；ＢＲＫ…ブレーカ；ＣＡＬＣ…計算部；ＣＮＴＬ…制御部；ＤＩＳＴ…分電盤；ＦＡＮ…ファン；ＩＡ…設置領域；ＩＬ…設置場所；ＭＥＭ…メモリ；ＭＳＶ…管理サーバ；ＮＳＷ１、ＮＳＷ２…ネットワークスイッチ；ＰＣ…電源ケーブル；ＰＤＵ…電源タップ；ＰＧＥＴ…取得部；ＰＳ…電源ユニット；ＰＶＴ１、ＰＶＴ２…閾値；ＲＣ…ラック；ＲＣＴＢＬ…ラック管理テーブル；サーバ…ＳＶ；ＳＶＴＢＬ…管理テーブル；ＳＹＳ１、ＳＹＳ２…情報処理システム；ＶＤＤ…電源電圧；ＶＳＶ…仮想サーバ
【図１】
2017134668.tif 000003
【図２】
2017134668.tif 000004
【図３】
2017134668.tif 000005
【図４】
2017134668.tif 000006
【図５】
2017134668.tif 000007
【図６】
2017134668.tif 000008
【図７】
2017134668.tif 000009
【図８】
2017134668.tif 000010
【図９】
2017134668.tif 000011
【図１０】
2017134668.tif 000012
【図１１】
2017134668.tif 000013
【図１２】
2017134668.tif 000014
【図１３】
2017134668.tif 000015
【図１４】
2017134668.tif 000016
【図１５】
2017134668.tif 000017
【図１６】
2017134668.tif 000018
【図１７】
2017134668.tif 000019
【図１８】
2017134668.tif 000020