(57)【特許請求の範囲】
【請求項１】
データセンタ内に複数の物理サーバを設置し、１台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバがネットワークを介して接続され、前記各物理サーバのリソースの使用状況に応じて物理サーバのリソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理方法において、
前記物理サーバのハードウェアスペック及び論理サーバに割り当てたリソース量を管理し、
前記物理サーバ及び前記空調機に関する電力消費量を予め管理するとともに、前記データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を２つ以上収集し作成した方程式を解くことで算出し、予め若しくは動的に管理し、
前記各物理サーバの電力消費の総量を試算するとともに、前記各物理サーバを冷却するための空調機の電力消費量を試算することで、データセンタ全体の電力消費量を試算し、
各物理サーバの使用状況に応じ、物理サーバのリソースの論理サーバへの割り当てについて、複数の組み合わせを算出し、各組における電力消費量を前記データセンタ電力消費試算部により試算し、最も電力消費が小さいものを選択し、
その出力結果を基にデータセンタ内における物理サーバのリソースの論理サーバへの割り当てを動的に変更する
ことを特徴とするネットワーク運用管理方法。
【請求項２】
データセンタ内に複数の物理サーバを設置し、１台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバが、ネットワークを介して接続され、前記各サーバのリソースの使用状況に応じて、物理サーバのリソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理装置であって、
前記物理サーバのハードウェアスペック及び論理サーバに割り当てたリソース量を管理する物理サーバ情報管理データベースと、
前記物理サーバ及び前記空調機に関する電力消費量、前記データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を２つ以上収集し作成した方程式を解くことで算出して管理する電力消費モデル管理データベースと、
前記物理サーバや前記空調機の情報を前記物理サーバ情報管理データベース及び前記電力消費モデル管理データベースに登録する管理インタフェース提供部と、
前記物理サーバのリソースの使用状況を定期的に取得し前記物理サーバ情報管理データベースに保存するリソース利用状況取得部と、
前記各物理サーバの電力消費の総量を試算する物理サーバ電力消費試算部と、前記各物理サーバを冷却するための空調機の電力消費量を試算する空調機電力消費試算部からなり、各部の和によりデータセンタ全体の電力消費量を試算するデータセンタ電力消費試算部と、
各物理サーバの使用状況に応じ、物理サーバのリソースの論理サーバへの割り当てについて、複数の組み合わせを算出し、各組におけるデータセンタ全体の電力消費量を前記データセンタ電力消費試算部により試算し、最も電力消費が小さいものを選択する物理サーバ配置算出部と、
前記物理サーバ配置算出部の出力結果を基にデータセンタ内における物理サーバのリソースの論理サーバへの割り当てを変更し、物理サーバの再配置（物理サーバのリソースの論理サーバへの割り当て）結果を前記物理サーバ情報管理データベースに保存する物理サーバ構成管理部と、
前記各部を制御する中央制御部と
を備えたことを特徴とするネットワーク運用管理装置。
【請求項３】
前記電力消費モデル管理データベースは、複数の前記各物理サーバに対して、当該物理サーバを含めた複数の各物理サーバの吸気側に流れ込む空気の割合を予め登録したテーブルを備えることで、前記空気の割合αを管理する請求項２に記載のネットワーク運用管理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数のサーバが接続されたネットワークの運用管理に関し、詳しくは、データセンタ内に設置された複数のサーバ機器に対して、物理的に１台のサーバ機器（物理サーバ）を論理的に複数台のサーバ機器（論理サーバ）として動作させることにより、限られた物理リソースを有効活用する仮想化技術が導入されたサーバ群が接続されるネットワークのネットワーク運用管理方法及びネットワーク運用管理装置に関する。
【背景技術】
【０００２】
ネットワーク人口の増加や動画像配信など各種通信サービスの普及により、インターネット内のトラヒック量が将来的に急激に増大することが予想される。図１７は、経済産業大臣主催で開催された「グリーンＩＴイニシアティブ会議（第１回）」で示されたトラヒック量及び消費電力の推計であり、２０２５年には２００６年との比較でトラヒック量が１９０倍になると推計される。また、トラヒック量の増大に伴い、それを処理するサーバやルータなどのＩＴ機器（ネットワーク機器）も増加する傾向にあり、その消費電力量は２０２５年には２００６年との比較で５倍になると推計される。
【０００３】
これらサーバやネットワーク機器の電力消費量を削減することは、トラヒック量の増大を支えるうえで、重要な課題である。特に、複数のサーバやネットワーク機器が集中設置されるデータセンタにおける省電力化は急務である。
【０００４】
通常、データセンタには、複数のサーバ（サーバ群）を冷却するための空調機が設置され、データセンタ全体の省電力化を図るためには、空調機を駆動するための消費電力についても考慮する必要がある。
データセンタの電力消費量の内訳の一例として、空調機（Chiller(冷却機)＋CRAC(Computer room air conditioning)）に関するものが全体の４２％、サーバ及びネットワーク機器(IT Equipment)に関するものが３０％、電力系設備（PDU(Power Distributed Unit)、UPS(Uninterruptible PowerSupply)）に関するものが２３％、照明や静電気の発生を防ぐための加湿器が５％であることが知られている。
【０００５】
サーバの仮想化技術が適用されたデータセンタを想定する。ここでは、簡単に仮想化技術について触れる。
非特許文献１及び非特許文献２に示された仮想化技術は、物理的な計算機資源を複数の論理的な資源として見せるための技術である。仮想化技術の適用により、単一の物理サーバ上で２つの（実際は２つ以上の複数の論理サーバを単一の物理サーバ上で実行することが可能）論理サーバを動作させることが可能となる。また、論理サーバは、物理サーバのハードウェアリソース（CPU、メモリ、ネットワーク、ハードディスク）を分割して利用する（分割したハードウェアリソースが論理サーバに割り当てられる)。
特許文献１、非特許文献３及び非特許文献４には、仮想化技術を応用し、仮想化されたサーバ（論理サーバ）への物理リソース（CPUやメモリ、ネットワーク帯域、ハードディスク）の割り当てを、リソースの利用状況に応じて動的に変更し、不要となった機器の電源を休止することで、更なる省電力化を図る技術が提案されている。
【０００６】
従来技術（特許文献１、非特許文献３及び非特許文献４）の動作概要について、図１５を参照しながら説明する。
従来技術においては、物理リソースの使用状況を定期監視し、リソースの使用状況が少ない場合（図１５における左の例）、物理リソースの論理サーバへの割り当てを動的に再構成し、一部の物理サーバで全ての論理サーバを実行し、さらに不要となった物理サーバを休止することが行われる（図１５における右の例）。
図１５の例においては、５台の物理サーバが設置されたサーバラック内でのみ論理サーバの物理サーバへの再割り当てを行っているが、実際にはデータセンタ内に設置された任意の物理サーバに論理サーバを割り当てることが可能である。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００７−３１０７９１
【非特許文献】
【０００８】
【非特許文献１】VMware: http://www.vmware.com/
【非特許文献２】Xen: http://www.xen.org/
【非特許文献３】畑崎 恵介, 高本 良史, "サーバ仮想化を用いたシステムの省電力ポリシー運用技術," 電子情報通信学会技術研究報告 コンピュータシステム研究会CPSY2006-44 Vol.106, No.436, pp. 37-42, Dec. 2006.
【非特許文献４】VMware Distributed Power Management(DPM)
【発明の概要】
【発明が解決しようとする課題】
【０００９】
上述した従来技術（特許文献１、非特許文献３及び非特許文献４）においては、稼働中の物理サーバを削減することにより、サーバ群の電力消費量を削減することが行われていた。
すなわち、従来技術によれば、図１６に示すように、サーバ１、ネットワーク機器２及び空調機５が設置されたデータセンタにおいて、サーバ群の使用状況に応じ、その都度最小のサーバ数でユーザからのサービス要求を処理するようサーバ群の構成を動的に変更することで、サーバ群の電力消費量を最小化することが行われていた。
その一方、一部のサーバに処理を集中させた場合、サーバの電力消費量は使用率に比例して増加し、また、そのサーバによる排熱は電力消費量に応じて増加するため、一部のサーバの排熱が大きくなり、それらを冷却するために（図１６中、斜線で表示された矢印が冷気）空調機５の出力を上げる必要が発生し、空調機５の電力消費量を含むデータセンタ全体の電力消費量が大きくなる現象が生じることが懸念される。
【００１０】
すなわち、上述した従来技術（特許文献１、非特許文献３及び非特許文献４）のように、物理リソースの使用状況にのみ注目し、物理リソースの論理サーバへの割り当て、さらに不要となった物理サーバを休止し、サーバ群の電力消費量を少なくする技術だけでは、場合により、空調機(CRAC)の電力消費量の増加につながり、結果としてデータセンタＤＣ全体の電力消費量も大きくなる可能性がある。
【００１１】
本発明は上記事情に鑑みて提案されたもので、データセンタに電力消費量を削減するため、物理リソースの論理サーバへの割り当てを動的に変更する場合に、サーバの電力消費量に加え、空調機の電力消費量も考慮することにより、データセンタ全体の電力消費量を削減することができるネットワーク運用管理方法及びネットワーク運用管理装置を提供することを目的としている。
【課題を解決するための手段】
【００１２】
上記目的を達成するため本発明は、仮想化技術が適用されたサーバと、サーバを冷却するための空調機を主な構成要素とするデータセンタにおいて、データセンタの構成（物理リソースの論理サーバへの割り当て、空調機の設定）を管理する管理サーバを新たに設置する。そして、この管理サーバが、データセンタの電力消費量のうち、サーバ群および空調機による電力消費量の合計を最小化するため、物理リソースの使用状況に応じて、空調機による電力消費量を考慮した物理リソースの論理サーバへの動的割り当て変更を行う。
【００１３】
すなわち、請求項１の発明は、データセンタ内に複数の物理サーバを設置し、１台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバがネットワークを介して接続され、前記各物理サーバのリソースの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理方法において、
CPUの製品型式などハードウェアスペックより算出可能な物理サーバの電力消費モデルと、空調機の製品型式から算出可能な空調機の電力消費モデルと、物理サーバや空調機の物理的な位置から算出可能な、データセンタ内の空気の流れのモデルをあらかじめ管理し、
物理リソースの論理サーバへの割り当てを変更する際、前記各物理サーバの電力消費モデルから、割り当て変更後の各物理サーバの電力消費量と、データセンタ内の全ての物理サーバによる電力消費量の総量を試算するとともに、前記物理サーバの電力消費モデルと、空調機の電力消費モデル、データセンタ内の空気の流れのモデル（データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を２つ以上収集し作成した方程式を解くことで算出し、空気の割合αを考慮したモデル）から、割り当て変更後の各物理サーバを冷却するための空調機の電力消費量を試算することで、データセンタ全体の電力消費量を試算し、
物理リソースの使用状況に応じ、物理リソースの論理サーバへの割り当てについて、論理サーバをデータセンタ内のいずれの物理リソースに割り当てるかの組み合わせを複数算出し、各組み合わせにおける、物理リソースの論理サーバへの割り当て変更後の、データセンタ全体の電力消費量（物理サーバによる電力消費量の総量と空調機の電力消費量の和）を、前述の手順により試算し、データセンタ全体の電力消費量が最も小さい組み合わせを選択し、
その選択結果を基に、物理リソースの論理サーバへの割り当てを動的に変更する
ことを特徴としている。
【００１４】
請求項２は、データセンタ内に複数の物理サーバを設置し、１台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバがネットワークを介して接続され、前記各物理サーバのリソースの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理装置であって、次の構成を含むことを特徴としている。
【００１５】
前記物理サーバのCPUの製品型式などのハードウェアスペック及び論理サーバに割り当てた場合のリソース量を管理する物理サーバ情報管理データベース。
CPUの製品型式などハードウェアスペックより算出可能な前記物理サーバの電力消費モデルと、空調機の製品型式から算出可能な前記空調機の電力消費モデルと、物理サーバや空調機の物理的な位置から算出可能な、前記データセンタ内の全体の空気の流れのモデル、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を２つ以上収集し作成した方程式を解くことで算出して管理する電力消費モデル管理データベース。
前記物理サーバや前記物理サーバの電力消費モデルと前記空調機の電力消費モデル、前記データセンタ内の空気の流れのモデルを前記物理サーバ情報管理データベース及び前記電力消費モデル管理データベースに登録する管理インタフェース提供部。
前記物理サーバのリソースの使用状況を定期的に取得し前記物理サーバ情報管理データベースに保存するリソース利用状況取得部。
前記各物理サーバの電力消費の総量を試算する物理サーバ電力消費試算部と、前記空調機の電力消費量を試算する空調機電力消費試算部からなり、各部の和によりデータセンタ全体の電力消費量を試算するデータセンタ電力消費試算部。
各物理サーバの使用状況に応じ、物理リソースの論理サーバへの割り当てについて、複数の組み合わせを算出し、各組における電力消費量を前記データセンタ電力消費試算部により試算し、最も電力消費が小さいものを選択する物理サーバ配置算出部。
前記物理サーバ配置算出部の出力結果を基にデータセンタ内における物理リソースの論理サーバへの割り当てを変更し、物理サーバの再配置結果を前記物理サーバ情報管理データベースに保存する物理サーバ構成管理部。
前記各部を制御する中央制御部。
【００１６】
請求項３は、請求項２のネットワーク運用管理装置において、前記電力消費モデル管理データベースは、複数の前記各物理サーバに対して、当該物理サーバを含めた複数の各物理サーバの吸気側に流れ込む空気の割合を予め登録したテーブルを備えることで、前記空気の割合αを管理することを特徴としている。
【発明の効果】
【００１７】
本発明によれば、物理サーバの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する処理を行うに際して、物理サーバが消費する電力消費量及びそれらを冷却する空調機の電力消費量の両方を考慮して、データセンタ全体の電力消費量が最小となるように、複数の物理リソースの論理サーバへの割り当ての組合せの中から、データセンタ全体の電力消費量が最も小さくなる組み合わせを選び、物理リソースの論理サーバへの割り当てを変更するとともに、データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を２つ以上収集し作成した方程式を解くことで算出した空気の割合αを考慮することで、物理サーバの使用状況にのみ注目し割り当てを変更する従来技術と比較し、データセンタの省電力化を実現することができる。
【図面の簡単な説明】
【００１８】
【図１】本発明のネットワーク運用管理装置（管理サーバ）の一例を示すブロック図である。
【図２】ネットワーク運用管理装置の物理サーバ情報管理データベースが管理する情報の例を示すテーブル図である。
【図３】ネットワーク運用管理装置の電力消費モデル管理データベースが管理する情報の例を示すテーブル図である。
【図４】ネットワーク運用管理装置が設置されるデータセンタ内の想定環境及び動作概要を示すモデル図である。
【図５】ネットワーク運用管理装置が設置されるデータセンタ内の一つのサーバラックに対する物理サーバ配置算出部とデータセンタ電力消費試算部、物理サーバ構成管理部の動作概要を示すモデル図である。
【図６】空調機とサーバ及びネットワーク機器の関係を示すモデル図である。
【図７】データセンタ内における空気の流れを説明するためのモデル図である。
【図８】データセンタ内におけるサーバラックの配置例を示すモデル図である。
【図９】図８に対応する排気効率(物理サーバからの排気熱がどの程度、空調機までとどくか)の例を示すモデル図である。
【図１０】図８に対応する給気効率(他の物理サーバからの排気が空調機からの冷気にどの程度混ざるか)の例を示すモデル図である。
【図１１】データセンタ内の一つのサーバに着目した空気の流れを示すモデル図である。
【図１２】ある空調機の電力効率モデルを示すグラフ図である。
【図１３】サーバの電力消費のモデルを示すグラフ図である。
【図１４】ネットワーク運用管理装置が設置されるデータセンタ内の想定環境を示すモデル図である。
【図１５】従来の物理サーバの使用率に応じて、物理リソースの論理サーバへの割り当てを変更する技術において、その動作概要を示すモデル図である。
【図１６】従来技術において空調機とサーバ及びネットワーク機器の各電力消費量の関係を示すモデル図である。
【図１７】トラヒック量及び消費電力量の推計を示したグラフ図である。
【発明を実施するための形態】
【００１９】
以下、本発明のネットワーク運用管理装置の実施形態の一例について、図１乃至図５を参照しながら説明する。
本発明のネットワーク運用管理装置は、複数のサーバ及びネットワーク機器と、それらの安定稼働のための空調機が設置されるデータセンタにおいて、データセンタの電力消費量を最小化することを目的に、時々刻々と変化するユーザのデータセンタの利用量に応じて、サーバの電力消費量と空調機の電力消費量の両方を考慮し、データセンタの構成を動的に変更する処理を行うものである。
【００２０】
ネットワーク運用管理装置は、図４に示すように、仮想化技術が適用された物理サーバ１（論理的に複数台の論理サーバ１´として動作させる）と、物理サーバ１の安定稼働のため、物理サーバ１を冷却する空調機５を主な構成要素とするデータセンタＤＣにおいて、データセンタの構成（物理リソースの論理サーバへの割り当て）を管理する管理サーバ１０を新たに設置することで実現される。各物理サーバ１には、物理サーバ１から排気する空気の温度を測定する温度センサ８と、各物理サーバ１が給気する空気の温度を測定する温度センサ９が設けられている。
【００２１】
各物理サーバ１には、その物理サーバ１が安定稼働するための動作保障温度が、物理サーバを製造する製造会社等により設定される。データセンタＤＣ内においては、各物理サーバ１が給気する空気の温度が、動作保障温度以下となるように、空調機５が出力する空気の温度が決まる。物理サーバ１の給気側に到達した空調機５からの空気は、各物理サーバ１の電力消費が熱エネルギーとなるため、各物理サーバ１内で温度が高くなり、排気側より排熱される。排気された空気は、空調機５に循環され、空調機５で冷却され再度、各物理サーバ１に到達するが、循環の際、各物理サーバ１から排気される電力消費により温められた空気の一部（全体の空気の流れに対する割合α）は空調機５に循環することなく、一部の物理サーバ１（図４の例では上側の３つの物理サーバ１）の給気側に流れ込む。各物理サーバ１から排気された空気が、空調機５に循環することなく、そのまま物理サーバの吸気側に流れ込む空気の割合αは、データセンタＤＣの広さや物理サーバ１及び空調機５の数や配置状態により異なる。
運用者は、本発明のネットワーク運用管理装置を使用する際、データセンタＤＣ内の全ての物理サーバ１の組み合わせに対する空気の流れの割合αを管理サーバ１０に登録する。更には、CPUの製品型式などハードウェアスペックより算出可能な物理サーバの電力消費モデルと、空調機の製品型式から算出可能な空調機の電力消費モデルを空気の流れの割合αに加えて管理サーバ１０に登録する。
【００２２】
空気の流れの割合（他のノードもしくはノード自身の排気が含まれる割合）αは、データセンタＤＣの設計時点で運用者がシミュレーションにより求めたものを管理サーバ１０に登録してもよいし、データセンタＤＣ内の各サーバに対して設けた温度センサ８，９等を用いて得た環境情報を基に管理サーバ１０が算出してもよい。
例えば、各ノードの稼働状況において、温度センサ８及び温度センサ９から排気面及び給気面の温度を検出し、各ノードの稼働状況が異なる時点の温度センサ８および温度センサ９（各センサの値は、稼働状況が異なるため、異なる温度を示す）から、αを求める方程式を作成し、解くことでαを求める。
【００２３】
単純のため、２つのノードのみで構成されたデータセンタＤＣを例に説明する。空調機が供給する空気の温度をTsup、ノード１の温度センサ８の温度をT１_out、ノード２の温度センサ８の温度をT２_out、同様にノード１の温度センサ９の温度をT１_in、ノード２の温度をT２_inとする。さらに、ノードi の給気に含まれるノードj からの排気の割合αをαjiと標記した場合、T１_in = (1−（α１１＋α２１）)×Tsup + α１１×T１_out＋α２１×T２_outとなる。異なる温度の組を２つ以上収集することで、上記式を解き、αを求めることができる。
【００２４】
管理サーバ１０は、論理サーバ１´のリソースの使用状況（各論理サーバに割当てられたCPU、メモリ、ネットワーク、ディスク等の物理リソースがどの程度使用されているか）を定期的、もしくは運用者からの要求により収集する。
そして、管理サーバ１０は、物理サーバ１による電力消費量と空調機(CRAC)５による電力消費量の和が最小となるよう、どの物理サーバ１にどの論理サーバ１´を割り当てるのか、また各論理サーバ１´にどの程度の物理リソースを割り当てるのかを算出し、データセンタＤＣ内における物理リソースの論理サーバへの割り当ての動的変更を行う。
【００２５】
管理サーバ１０ではこれらの処理が繰り返し実行されることで、データセンタＤＣの電力消費量が最小化されるように、時々刻々と変化するユーザからのサービス要求量に応じて、都度最適な(電力消費量を最小化する)データセンタＤＣ内の構成を算出し、さらに構成変更を行う。
すなわち、管理サーバ１０が、データセンタの電力消費量のうち、サーバ群、および、空調機による電力消費量を最小化するため、論理サーバの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する処理を行うように構成されている。
【００２６】
ネットワーク運用管理装置を実現する管理サーバ１０の詳細構成について、図１を参照して説明する。
ネットワーク運用管理装置（管理サーバ）１０は、各物理サーバ１に関する各種情報を管理する物理サーバ情報管理データベース１１と、物理サーバ１及び空調機５の電源消費モデル等を管理する電力消費モデル管理データベース１２と、運用者が情報を入力するための管理インタフェース提供部１３と、電力消費量が最小となるデータセンタＤＣの構成候補を求める物理サーバ配置算出部１４と、物理リソースの論理サーバへの割り当て変更（物理サーバの再配置）と再配置結果を管理する物理サーバ構成管理部１５と、データセンタＤＣの構成候補から電力消費を試算するデータセンタ電力消費試算部１６と、リソース利用状況取得部１７と、各部を制御する中央制御部１８を備えて構成されている。
【００２７】
物理サーバ情報管理データベース１１は、図２に示すように、複数の物理サーバ１の各ハードウェアスペック、各物理サーバを複数の論理サーバに割り当てた場合の割当リソース量（各論理サーバの使用率）等の物理サーバに関する各情報が管理されている。物理サーバのハードウェアスペックとは、例えば、CPUの製品型式のような情報である。これらの情報は、運用者が管理インタフェース提供部１３から入力して記憶させる。
【００２８】
電力消費モデル管理データベース１２は、図３に示すように、物理サーバ１の電源消費モデル、空調機５の電源消費モデル、空気の流れ（空気の流れの割合α）のモデルが登録されて管理されている。物理サーバ１の電源消費モデルとは、各物理サーバにおける物理リソースの使用量に対する電力消費量の値であり、各サーバに数式として登録されている。
物理サーバ１の電力消費モデルは、例えばCPUの製品型式から一意に求めることができるCPU使用率(物理リソースの使用量)と、その時の電力消費量とすることができる。空調機５の電源消費モデルとは、空調機の冷却能力に対する電力消費量である。
空調機５の電力消費モデルは、例えば空調機の製品型式から一意に求めることができる。空気の流れ（空気の流れの割合α）のモデルとは、各サーバの排熱が他のサーバの給気側に流れ込む割り合い等であり、各サーバに対するテーブルにより管理される。空気の流れのモデルは、例えばデータセンタＤＣの設計時点で運用者がシミュレーションにより求めることができる。管理されるテーブルの具体例については後述する。
【００２９】
電力消費モデルデータベース１２で管理される内容は、データセンタＤＣの設計時点で運用者がシミュレーションにより求めたものを、予め運用者により管理インタフェース部１３を介して手動で入力して登録される。また、必要に応じて、データセンタＤＣ内に配置された温度センサ８，９等を用いて、ネットワーク運用管理装置（管理サーバ）１０がセンサより収集した情報を基に算出するものであってもよい。
【００３０】
管理インタフェース提供部１３は、運用者がデータセンタＤＣ内の物理サーバやその構成、上記各電力消費モデルなどを登録するためのユーザインタフェースとしての機能を有する。例えば、運用者は、自身のＰＣにインストールされたブラウザ等により、管理サーバ１０に接続し、各物理サーバ１に関する情報を登録する。登録された情報は物理サーバ情報管理データベース１１に保存される。
また、電力消費モデル管理データベース１２に登録されるデータセンタＤＣ内の空気の流れは、温度センサ８，９等を用いて、管理サーバ１０がセンサより収集した情報を基に算出して登録してもよいし、データセンタＤＣの設計時点で運用者がシミュレーションにより求めた空気の流れを直接管理インタフェース提供部１３を介して電力消費モデル管理データベース１２に手動登録してもよい。
運用者がデータセンタＤＣの電力消費を試算するために手動で登録する情報としては、各物理サーバ１の電力消費モデル、空調機５の電力消費モデル、データセンタＤＣ内の空気の流れのモデルが考えられる。
【００３１】
物理サーバ配置算出部１４は、データセンタＤＣの電力消費量が最小となるデータセンタＤＣの構成（どのように物理リソースを論理サーバに割り当てるか）を求めるものであり、管理インタフェース提供部１３を介しての運用者からの指示、又は、中央制御部１８からの定期的な呼び出しにより実行される。
電力消費量が最小となるデータセンタＤＣの構成を求めることは、例えば、図５に示すように、各論理サーバの使用状況（論理サーバに割り当てた物理リソースがどの程度の割合で使用され、物理リソースがどの程度の割合で使用されているか）に応じ、物理リソースの論理サーバへの割り当てについて複数の組み合わせを求め、さらに、各組の構成とした場合の電力消費量を、データセンタ電力消費試算部１６により組み合わせ毎に試算し、その結果、最も電力消費が最も小さい組み合わせを選択する手順により実現される。
【００３２】
物理サーバ構成管理部１５は、物理サーバ配置算出部１４の出力結果を基に、データセンタＤＣの構成を変更する。図５の例では、物理リソースの論理サーバへの割り当てについて、物理サーバ配置算出部１４が４種の構成について、それぞれデータセンタＤＣの電力消費量を試算し、結果、データセンタＤＣの電力消費量が一番少ない図５中最右の構成（電力消費量：1465.7Ｗ）を選択する。物理サーバ構成管理部１５は、物理サーバ配置算出部１４の結果に従い、物理リソースの論理サーバへの割り当てを変更する。さらに、物理サーバ情報管理データベース１１では、物理サーバ毎に、実行する論理サーバ等を管理するため、物理サーバ構成管理部１５が割り当てを変更した結果を物理サーバ情報管理データベース１１に保存する。
【００３３】
データセンタ電力消費試算部１６は、物理サーバ再配置算出部より呼び出され、データセンタＤＣの構成候補から、その際のデータセンタＤＣの電力消費を試算する機能を提供する。データセンタ電力消費試算部１６は、物理サーバ電力消費試算部１６ａと空調機電力消費試算部１６ｂからなり、それら各部が試算する電力消費量の和により、データセンタＤＣの電力消費量が求められる。各部の試算のため、電力消費モデル管理データベース１２より、物理サーバや空調機、さらにデータセンタＤＣ内の空気の流れのモデルを取得する。
【００３４】
リソース利用状況取得部１７は、運用者からの指示、または中央制御部からの定期呼び出しにより、論理サーバのリソースの使用状況を定期的に取得する。各論理サーバのリソースの使用状況は、前述の通り、利用者からのサービス要求量に応じ、時々刻々と変化する。また、使用状況の取得には、仮想化ソフトウェアが提供する管理インタフェース等を用いることで実現することもできる。取得した使用状況に関する情報は、物理サーバ情報管理データベース１１に保存され、時々刻々と変化する各論理サーバによる物理リソースの使用状況が、物理サーバ情報管理データベース１１に反映される。
【００３５】
中央制御部１８は、各部を制御しデータセンタＤＣの省電力オペレーションシステムの機能を実現するものである。
【００３６】
上述したネットワーク運用管理装置においては、データセンタ電力消費試算部１６でデータセンタＤＣ全体の電力消費量を算出するため、空調機５の消費電力についても考慮する必要がある。そのため、データセンタ内の各サーバに対する空調機５からの空気の流れを電力消費モデル管理データベース１２にデータとして入力しておく必要がある。以下、各サーバに対する空調機５からの空気の流れ等の把握の仕方について、図６〜図１４を参照しながら説明する。
【００３７】
図６において、ユーザからのサービス要求は、インターネットなどのネットワークを介し、データセンタＤＣに到達する。データセンタＤＣ内部には、ルータやスイッチなどのネットワーク機器２が存在し、ユーザからのサービス要求を適切なサーバ１に転送する。サービス要求を受け取ったサーバ１は、ユーザにサービス応答を返す。ユーザからのサービス要求量は、例えば平日昼間が多く休日夜間は少ないなど、時々刻々と変化する。
【００３８】
また、サービス要求量に応じ、ネットワーク機器群及びサーバ群の処理負荷も時々刻々と変化する。各サーバ１は、電力により稼働される。また、各サーバ１で消費された電力は、熱としてデータセンタＤＣ内に放出される。各サーバ１には、そのサーバ１が正常に動作するための温度（動作保障温度）がサーバ１毎に仕様として決まっており、サーバ１を正常に動作させるためには、データセンタＤＣ内において動作保障温度以下の空気をサーバ１に供給する必要がある。そのため、各サーバからの排熱は、データセンタ内に設置された空調機(CRAC)５に取り込まれ、空調機(CRAC)５にて取り込んだ各サーバの排熱を含む空気を冷却し、再度サーバ１に供給することが行われる。
【００３９】
この場合、図６に示すように、サーバ１からの排熱の１００％が空調機(CRAC)５に取り込まれるわけではなく、その一部は、サーバ１に供給される(空調機(CRAC)５により冷却された)空気と混ざり、サーバ１に取り込まれることとなる。上述したように、各サーバ１に対しては、正常動作する温度（動作保障温度）以下の空気を供給する必要があるため、サーバ１からの排熱がサーバに供給される空気と多量に混ざる場合には、空調機(CRAC)５の出力を大きくする必要がある（電力消費量も大きくなる)。また、Chillerは、データセンタＤＣの屋外に設置される冷却のための熱源を生成する、一般家庭のエアコンに例えると室外機にあたる機器であり、空調機(CRAC)５がデータセンタＤＣ屋内の空気を冷却するための熱源(例えば冷却水など)を空調機(CRAC)５に提供する。
【００４０】
データセンタＤＣの冷却方法は、多種多様なベンダより様々な方式が提案されている。多くのデータセンタＤＣで一般的に採用されている構造としては、例えば図７に示すように、底上げした床面４より空調機(CRAC)５からの空気を、サーバラック３に収納されたサーバに分配し、排熱を天井面より収集する。
その他、データセンタの天井より空調機(CRAC)５からの空気をサーバに供給し、さらに排気も天井から行う天井方式冷却ソリューション方式や、サーバラック３ごとに空調機(CRAC)５を配置しサーバラック内で給気と排気を行う方式などが提案されている。いずれの方式であっても、サーバの電力消費により排熱が発生し、空調機(CRAC)５が排熱を取り込み冷却し再度サーバに提供すること、及び、排熱の一部が空調機(CRAC)５からの冷却された空気と混ざること（図６における空気の流れ)は変わらない。
【００４１】
一般的なデータセンタＤＣにおいては、図７に示すように、複数の縦長のサーバラック３が設置され、各サーバラック３に複数のサーバが納められている。空調機(CRAC)５により冷却された空気は、床下を通り、サーバラック３の給気面（多くの場合ラック前面）から給気される。また、サーバの電力消費により発生した熱はサーバラック３の排気面（多くの場合ラック背面）から排気される。排気は、天井付近を通り、空調機(CRAC)５に取り込まれ、取り込まれた空気は空調機(CRAC)５で冷却されて再度サーバラック３側に供給される。
【００４２】
各サーバラック３は、サーバの排熱が空調機５により冷却された給気用の空気と混合することを防ぐため、サーバラック３の給気面は一般的に他のサーバラック３の給気面と向かい合うように、また、排気面は他のサーバラック３の排気面と向かい合うように設置される。
サーバラック３に納められた各サーバからの排熱の一部は、空調機(CRAC)５から供給される冷却された空気と混合するが、その混ざり方は、サーバラック３や冷却された空気を供給する位置、排熱が空調機(CRAC)５に取り込まれる経路によりデータセンタＤＣ毎に不均一となる。そのため、データセンタＤＣ内の空気の流れは、データセンタＤＣ毎に異なるものとなる。
【００４３】
図７に示したデータセンタＤＣの構造のように、床面より冷気を供給し、天井面より排気を取り込む場合を例に、データセンタＤＣ内で給気と排気の流れがどのようになるかの一例について、図８〜図１０を参照しながら説明する。
データセンタＤＣ内には、図８に示すように、１０個のサーバラックにそれぞれ５つのサーバ（サーバＡ〜Ｅ）を設置した場合を想定する。図６で述べたように、サーバからの排熱の一部は、自身もしくは他のサーバの給気に混ざり、その割合をα、排熱をToutとすると"α×Tout"で表すことができる。また、残りは空調機(CRAC)５に取り込まれ、空調機に取り込まれる熱をTACinとすると、"TACin ＝ Tout−(α×Tout)"と表すことができる。
図９に、各サーバの排気がどの程度空調機(CRAC)５に取り込まれるかの一例を示す( ＝ (Tout−(α×Tout))/Tout)。縦軸の１．０は、排気の全てが(CRAC)５に取り込まれることを示す。
【００４４】
図１０に、各サーバ給気に、どの程度、他もしくは自身の排熱が混ざるのか、その割合(１−α)の一例を示す。本例では、サーバラックにおいて物理的に低い位置に設置されたサーバ（サーバＡ，Ｂ，Ｃ）の給気には、ほとんど他もしくは自身からの排熱が混ざることはなく、物理的に高い位置に設置されたサーバ（サーバＤ，Ｅ）の給気には、他もしくは自身の排気が多く混ざることが分かる。
【００４５】
図９の排気効率及び図１０の給気効率は、データセンタの想定環境により分布は異なるが、一般的に空気の流れは図１１のように表現することができる。図１１において、サーバ（Ｓｉ）（ｉ＝１〜３）からの排気が隣接するサーバ（Ｓｊ）（ｊ＝１〜３）の給気に混ざる割合をαij と表す。
空調機(CRAC)５の電力消費量は、供給する冷気の温度(Tsup)と冷却する熱量から求まる。図１２に実験的に求めたある空調機(CRAC)５の供給する空気の温度(Tsup)とその電力効率(COP, Coefficient of Performance)を示す。
【００４６】
図１２より、供給する空気の温度が高いほど、電力効率が優れていることが分かる。例えば、１０ｋｗの熱を冷却し１５℃としたい場合、COP ＝ 2 ＝ 0.0068*15*15+0.0008*15＋0.458 であることから、空調機(CRAC)５の電力消費量は５ｋｗ＝１０ｋｗ／２となる。
また、１０ｋｗの熱を冷却し２０℃としたい場合、COP＝3.338 であることから、空調機(CRAC)５の電力消費量は2.996ｋｗ（電力消費量が４０％削減される）となる。一方で、最終的に各サーバに到達する空気の温度(Tin)は、各サーバが正常に動作するための温度（動作保障温度）以下となる必要がある。
Cillerの電力消費量は，図６に示した通り、空調機(CRAC)５の動作と密接に関係しており、空調機(CRAC)５の電力消費量に単純に比例するものと考えることができる。
【００４７】
サーバの電力消費量は、図１３中の実線または点線で示されるような、サーバのCPU等の物理リソースの使用率に応じて変化する特性を有することが知られている。図１３中の実線及び点線のいずれの特性となるかは、CPUの製品型式により決まる。実線及び点線のいずれの特性においても、「使用率の増加に比例して、電力消費量が増加する」と想定できる。図１３における実線を数式で示すと下記の式１となる。このような電力消費のモデルは、一般的に全てのサーバに適用可能なものである。
Ｐ＝Pidle＋（Pmax − Pidle）＊ｎ    （式１）
Pidle:サーバのCPU使用率が０％の時の電力消費量
Pmax：サーバのCPU使用率が１００％の時の電力消費量
ｎ：サーバの使用率（０〜１）
【００４８】
データセンタＤＣの電力消費量の具体例について、図１４を参照して説明する。
図１４では、５つのサーバを設置したデータセンタＤＣを仮定する。データセンタＤＣ内の空気の流れαは、表１に示したようなサーバ同士のテーブルを仮定する。表１に示されるデータセンタＤＣ内の空気の流れαのモデルは、電力消費モデル管理データベース１２に記憶され、これらの情報は、前記したデータセンタ電力消費試算部１６でデータセンタＤＣの電力消費を試算する際に用いられる。
表１では、サーバＡの排熱のうち、５％が自身に、２．５％がサーバＢに、１０％がサーバＣに、２５％がサーバＤに、２５％がサーバＥの給気と混ざり、残りが空調機(CRAC)５に取り込まれるとしている。
【００４９】
【表１】
0005505925.tif 000002
【００５０】
また、サーバの電力消費は、前記した式１で計算し、Pidle＝１００Ｗ（サーバの使用率が0％の時の電力消費量）、Pmax＝３００Ｗ（サーバの使用率が100％の時の電力消費量）と仮定した（実際の高密度サーバではさらに大きな電力を消費するが、ここではあくまで例示するための値とする）。
【００５１】
また、各サーバの排気温度は、給気温度が１５℃だとすると、３００Ｗ（サーバの使用率１００％）消費した場合は３０℃、１００Ｗ(Pidle)消費した場合、２０℃の排気温度になるとする。
排気温度＝給気温度＋Ｋ＊サーバの電力消費量
（注）Ｋは、空気の密度とサーバを流れる空気の流量、空気の比熱から求めることができる係数。ここでは簡単のため０．０５（定数）を用いる。
さらに、空調機(CRAC)の電力消費は、図１２に前述の電力消費モデルを用いる。また、冷却する熱量は、簡単のため、サーバの電力消費量の和とした。
サーバが安定的に動作するための温度は、２５℃とし、空調機は、起動中のサーバの給気温度が２５℃以下となるよう０．５℃刻みで出力を変更するものとする。
【００５２】
上述の各値を使用し、各サーバの使用率を図１５における左の例とした場合、データセンタ全体ＤＣの電力消費量（サーバと空調機(CRAC)の電力消費量の和）は、
空調機(CRAC)の設定温度：１６．５度
サーバの電力消費量の和：１０９０Ｗ
空調機(CRAC)の電力消費量の和：４６９．３Ｗ
データセンタＤＣ全体の電力消費量：１５５９．３Ｗ
となる。
【００５３】
また、各サーバの使用量を図１５における右の例とした場合、データセンタＤＣ全体の電力消費量（サーバと空調機(CRAC)の電力消費量の和）は、
空調機(CRAC)の設定温度：１６度
サーバの電力消費量の和：１０８０Ｗ
空調機(CRAC)の電力消費量の和：４８８．３Ｗ
データセンタＤＣ全体の電力消費量：１５６８．３Ｗ
となる。
【００５４】
上述の２例によれば、図１５における左の例から右の例とすることで、サーバ１台を休止状態とすることでサーバの電力消費量の和を１０９０Ｗから１０８０Ｗに削減したにも関わらず、空調機(CRAC)の電力消費量が増加し、データセンタＤＣ全体の電力消費量が１５５９．３Ｗから１５６８．３Ｗに増加している。
すなわち、サーバの使用率にのみ注目し、サーバ群の電力消費量を少なくしただけでは、データセンタＤＣ全体の電力消費量が大きくなる可能性がある。
【００５５】
これに対して上述した本発明の実施例によれば、データセンタ電力消費試算部１６を設け、物理サーバ電力消費試算部１６ａと空調機電力消費試算部１６ｂが試算する電力消費量の和によりデータセンタＤＣの電力消費量を求めるようにしたので、物理サーバ配置算出部１４によりデータセンタＤＣ全体の電力消費量が最小となる論理サーバの構成（物理リソースの論理サーバへの割り当ての組み合わせ）を選択することができる。
【符号の説明】
【００５６】
１…物理サーバ（サーバ）、  １´…論理サーバ  ２…ネットワーク機器、  ３…サーバラック、  ４…床面、  ５…空調機、  ６…室外機、  ８，９…温度センサ、  １０…管理サーバ（ネットワーク運用管理装置）、  １１…物理サーバ情報管理データベース、  １２…電力消費モデル管理データベース、  １３…管理インタフェース提供部、  １４…物理サーバ配置算出部、  １５…物理サーバ構成管理部、  １６…データセンタ電力消費試算部、  １７…リソース利用状況取得部、  １８…中央制御部、
【図１】
0005505925.tif 000003
【図２】
0005505925.tif 000004
【図３】
0005505925.tif 000005
【図４】
0005505925.tif 000006
【図５】
0005505925.tif 000007
【図６】
0005505925.tif 000008
【図８】
0005505925.tif 000009
【図９】
0005505925.tif 000010
【図１０】
0005505925.tif 000011
【図１１】
0005505925.tif 000012
【図１２】
0005505925.tif 000013
【図１３】
0005505925.tif 000014
【図１４】
0005505925.tif 000015
【図１５】
0005505925.tif 000016
【図１６】
0005505925.tif 000017
【図１７】
0005505925.tif 000018
【図７】
0005505925.tif 000019