(57)【要約】【課題】物理マシンの利用効率を高め、仮想マシンの処理速度を高める。【解決手段】異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置と、複数の情報処理装置を管理する管理装置とを有し、管理装置は、複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する監視部と、仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを監視部が検出した場合、複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、所定期間の使用率が第１の閾値を超えた仮想マシンを、複数の情報処理装置のうち他の情報処理装置に割り当てる割当部とを有する情報処理システム。【選択図】図１
2016126562.tif 000002
【特許請求の範囲】
【請求項１】
異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置と、
前記複数の情報処理装置を管理する管理装置とを有し、
前記管理装置は、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する監視部と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを前記監視部が検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる割当部とを有する情報処理システム。
【請求項２】
前記仮想マシンの所定期間の使用率は、当該仮想マシンに割り当てられる前記演算処理部の所定期間の使用率である請求項１に記載の情報処理システム。
【請求項３】
前記情報処理装置は、当該情報処理装置内の所定数の前記演算処理部を割り当てて前記仮想マシンを実行し、
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値より高い場合、当該仮想マシンを、より動作周波数が高い演算処理装置を有する前記他の情報処理装置に移行する請求項２に記載の情報処理システム。
【請求項４】
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値よりも低い第２の閾値より低い場合、当該仮想マシンを、より動作周波数が低い演算処理装置を有する前記他の情報処理装置に移行する請求項３に記載の情報処理システム。
【請求項５】
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値より高い場合であって、且つ、前記仮想マシンが最高の動作周波数の演算処理装置で動作中の場合、当該仮想マシンをより前記演算処理部の数が多い演算処理装置に移行する請求項３に記載の情報処理システム。
【請求項６】
前記複数の情報処理装置は、異なるメモリ容量とメモリ動作周波数を有するメモリを有し、
前記監視部は、前記複数の情報処理装置の各々が実行する仮想マシンの所定期間のメモリ使用率を監視し、
前記割当部は、前記仮想マシンのいずれかについて前記所定期間のメモリ使用率が第３の閾値を超えた場合、前記複数の情報処理装置の各々が有するメモリ容量とメモリの動作周波数とに基づき、前記所定期間のメモリ使用率が前記第３の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる請求項１に記載の情報処理システム。
【請求項７】
前記情報処理装置は、当該情報処理装置内の所定のメモリ容量を割り当てて前記仮想マシンを実行し、
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が第３の閾値より高い場合、当該仮想マシンを、よりメモリ容量が大きい前記他の情報処理装置に移行する請求項６に記載の情報処理システム。
【請求項８】
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が前記第３の閾値より低い第４の閾値より低い場合、当該仮想マシンを、よりメモリ容量が小さい前記他の情報処理装置に移行する請求項７に記載の情報処理システム。
【請求項９】
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が前記第３の閾値より高い場合であって、且つ、前記仮想マシンが最大のメモリ容量の演算処理装置で動作中の場合、当該仮想マシンをよりメモリの動作周波数が高い演算処理装置に移行する請求項７に記載の情報処理システム。
【請求項１０】
異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置を管理する管理装置であって、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する監視部と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを前記監視部が検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる割当部とを有する管理装置。
【請求項１１】
異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置と、前記複数の情報処理装置を管理する管理装置とを有する情報処理システムの制御方法であって、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する工程と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる工程とを有する情報処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，情報処理システム、管理装置、及び情報処理システムの制御方法に関する。
【背景技術】
【０００２】
仮想化技術は、コンピュータまたは物理マシンである情報処理装置（以下、情報処理装置をコンピュータまたは物理マシンとも称する。）上で動作するハイパーバイザが、物理マシンのハードウエアをエミュレートし、物理マシン上に複数の仮想マシン（またはVM: Virtual Machine）を起動して生成する。そして、仮想化技術は、複数の物理マシンそれぞれに複数の仮想マシンを生成し、複数の利用者のサービスシステムをそれぞれ実現する。仮想マシンが起動・生成される物理マシンは、ホストマシンまたは単にホストとも称される。
【０００３】
このような仮想化技術において、仮想マシンを移行元ホストから移行先ホストに移行するマイグレーションは、仮想マシンをある物理マシンに集約したり他の物理マシンに分散する場合などに利用される。仮想マシンのマイグレーションには、移行元の物理マシンで動作中の仮想マシンを稼働状態のまま別の移行先物理マシンに移行させるライブマイグレーションと、移行元の物理マシンで動作中の仮想マシンを一旦遮断し、移行先の物理マシンでその仮想マシンを起動、生成するコールドマイグレーションなどがある。
【０００４】
現在のクラウドコンピューティングでは、データセンタ（またはサーバファシリティ）内に配備した同等の性能を有する複数の物理マシンに、仮想化技術を利用して複数の仮想マシンを起動・生成する。そして、仮想マシンを起動・生成する際、利用者は、仮想マシンに割り当ててほしいCPUコア数とメモリ容量を設定する。それに応じて、ハイパーバイザは設定したCPUコア数とメモリ容量を仮想マシンに割り当てる。
【０００５】
また、クラウドコンピューティングでは、データセンタ内に、異なる時期に配備したため性能が異なる物理マシン群が存在する場合がある。その場合、利用者は、第１の性能の物理マシン群か、第１の性能とは異なる第２の性能の物理マシン群かを選択し、仮想マシンのCPUコア数とメモリ容量を設定する。
【０００６】
さらに、仮想マシン管理装置は、仮想マシンの動作履歴を監視し、ある物理マシンの処理能力を超えて仮想マシンが動作していないかをチェックする。そして、仮想マシン管理装置は、必要に応じて、仮想マシンの再割り当ての管理を行う。再割り当ての管理は、仮想マシンを他の物理マシンに移行（マイグレーション）して物理マシンの負荷を分散したり、仮想マシンをある物理マシンに集約して消費電力を節約するなどを有する。その場合、仮想マシンの物理マシン上での起動・生成は、仮想マシンそれぞれに設定したCPUコア数とメモリ容量に基づいて行われる。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特許第５５２０３７５号公報
【特許文献２】特開２００７−３１０７９１号公報
【特許文献３】特開２０１１−８８２２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
近年において、性能が異なる物理マシンを利用してクラウドコンピューティングサービスを提供することが行われるようになっている。例えば、異なる時期に配備した異なる性能を有する複数の物理マシンを集めて、利用者にクラウドコンピューティングサービスを提供する。そして、仮想マシン管理装置は、性能が異なる複数の物理マシン間で仮想マシンの割り当て管理を行う。これにより、全ての物理マシンを有効に活用できる場合がある。
【０００９】
このような場合、仮想マシンの割当先の物理マシンは、性能が高い物理マシンも性能が低い物理マシンも同様に選択される。そのため、性能が低い物理マシンに仮想マシンが集中し、性能が高い物理マシンに仮想マシンが起動・生成されないで、性能が高い物理マシンの電源が遮断される状況が生まれかねない。
【００１０】
そこで，実施の形態の第１の側面の目的は，仮想マシンをその処理量に応じた処理能力の物理マシンに割り当てて仮想マシンの処理速度を高める情報処理システム、管理装置、及び情報処理システムの制御方法を提供することにある。
【課題を解決するための手段】
【００１１】
本実施の形態の第１の側面は，異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置と、
前記複数の情報処理装置を管理する管理装置とを有し、
前記管理装置は、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する監視部と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを前記監視部が検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる割当部とを有する情報処理システムである。
【発明の効果】
【００１２】
第１の側面によれば，仮想マシンをその処理量に応じた処理能力の物理マシンに割り当てるので、物理マシンの利用効率を高め、仮想マシンの処理速度を高めることができる。
【図面の簡単な説明】
【００１３】
【図１】本実施の形態における情報処理システムの構成を示す図である。
【図２】図１の各物理マシン１、２、３の概略構成を示す図である。
【図３】図１に示した共有ストレージ２０の構成を示す図である。
【図４】第１の実施の形態におけるVM管理プログラムのVM配置処理を示すフローチャート図である。
【図５】物理マシンの性能順位テーブルの一例を示す図である。
【図６】物理マシンのグループテーブルの一例を示す図である。
【図７】本実施の形態における図４のVM管理プログラムのVM配置処理による仮想マシンVMの再配置例を示す図である。
【図８】第２の実施における物理マシンのグループテーブル例を示す図である。
【図９】第２の実施の形態における仮想マシン配置管理プログラムの一部のフローチャート図である。
【図１０】第３の実施の形態における物理マシンのメモリ性能順位テーブルの一例を示す図である。
【図１１】第３の実施の形態における物理マシンのグループテーブルの一例を示す図である。
【図１２】第３の実施の形態における仮想マシン配置管理プログラムの処理を示すフローチャート図である。
【図１３】第３の実施の形態における仮想マシン配置管理プログラムの処理を示すフローチャート図である。
【発明を実施するための形態】
【００１４】
図１は、本実施の形態における情報処理システムの構成を示す図である。情報システムは、仮想マシンVMをハイパーバイザHV上で実行する複数の物理マシン（またはVMホスト）１、２、３と、物理マシン及び仮想マシンを管理する管理装置４と、共有ストレージ２０とを有する。情報システムは、多数の物理マシンが配備されたデータセンタ（またはサーバファシリティ）内に構築される。
【００１５】
各物理マシン（またはVMホスト）１、２、３は、ハイパーバイザHVを実行して、一つのまたは複数の仮想マシンVMを起動し実行する。別の表現をすると、ハイパーバイザHVが仮想マシンVMを起動し実行する。共有ストレージ２０は、仮想マシンVMのゲストOS(Operating System)やアプリケーションプログラムなどを有するイメージファイルを記憶する。仮想マシンVMは、共有ストレージ２０内に格納されたイメージファイルのゲストOSとアプリケーションプログラムを、物理マシン１，２，３のメモリに展開し、メモリに展開したゲストOSとアプリケーションプログラムを実行し、所望のサービスシステムを構築する。
【００１６】
管理装置４のVM管理ソフトウエア４＿１は、ハイパーバイザHVにコンフィグレーション情報に基づく仮想マシンを起動させ、必要に応じて仮想マシンを一時停止（ポーズ）及び再開（リジューム）させ、遮断させる。コンフィグレーション情報は、仮想マシンVMに割り当てるCPUコア数とメモリ容量の情報などを有する。
【００１７】
また、管理装置４のVM管理ソフトウエア４＿１は、ハイパーバイザHVから仮想マシンの動作状態の情報を収集し、必要に応じて仮想マシンを稼働中の物理マシンから別の物理マシンに移行（マイグレーション）させる。すなわち、ＶＭ管理ソフトウエア４＿１は、仮想マシンの動作状態を収集する監視部と、仮想マシンを移行して異なる物理マシンに割り当てる割当部とを有する。
【００１８】
さらに、管理装置４のVM管理ソフトウエア４＿１は、仮想マシンで構築されたサービスシステムを運用する利用者端末６にポータルサイト４＿２を提供する。利用者端末６は外部のネットワークEX_NWを介してポータルサイト４＿２にアクセスし、サービスシステムの維持管理を行う。
【００１９】
各物理マシン１、２、３と管理装置４と共有ストレージ２０とは、管理ネットワークM_NWを介して通信可能にされる。情報処理システムの運用管理者端末７は、例えば管理ネットワークM_NWを介して管理装置４にアクセス可能である。また、利用者端末６は、ポータルサイト４＿２を介して管理装置４にアクセスし、仮想マシンの新たな起動や遮断などを要求する。さらに、各仮想マシンVMは、VMネットワークVM_NWを介して互いに通信可能にされている。そして、仮想マシンVMは、外部のネットワークEX_NW（例えばインターネットやイントラネット）を介して、仮想マシンで構築されたサービスシステムにアクセスするサービスシステムの利用者と接続されてもよい。
【００２０】
図１では、各仮想マシンVMに直接VMネットワークMV_NWが接続されるように記載されているが、実際には、仮想マシンVMは、物理マシン１、２、３のネットワークインタフェースを介してVMネットワークMV_NWに接続される。管理ネットワークM_NWも物理マシン１、２、３のネットワークインタフェースに接続される。
【００２１】
図２は、図１の各物理マシン１、２、３の概略構成を示す図である。例えば、物理マシン１、２、３は、演算処理装置であるCPU１０＿０、１０＿１と、メモリであるRAM１２と、ROM１３と、ネットワークインタフェース（例えばNIC：Network Interface Card）１４と、入出力部１５と、ハードディスクなどの大容量記憶装置１６とを有し、それらはバス１８を介して接続される。演算処理装置である２つのCPU１０＿０，１０＿１は、それぞれ４個の演算処理部であるCPUコアCPU_COR#1−#3を有する。したがって、図２の物理マシンは、合計で８個の演算処理部であるCPUコアを有する。本実施の形態において、CPUとCPUコアの数は特にこの数に限定されない。
【００２２】
管理装置４は、図２に示した物理マシンの構成と同様の構成を有する。管理装置２は、VM管理ソフトウエア４＿１を実行して、各物理マシンのハイパーバイザHVに仮想マシンVMの起動と遮断、一時中断と再開など実行させる。VM管理ソフトウエア４＿１は、管理装置２により実行されることで、さらに、仮想マシンの動作状態を監視する監視部と、必要に応じて、仮想マシンをある物理マシンから別の物理マシンの移行して仮想マシンを再配置する割当部とを管理装置に構築する。
【００２３】
物理マシン１、２、３の場合、大容量記憶装置１６は、例えばOSやハイパーバイザHVなどを格納する。管理装置４の場合、大容量記憶装置１６は、例えばOSとVM管理ソフトウエア４＿１などを記憶する。そして、大容量記憶装置１６に格納されているOSやソフトウエアはメモリであるRAM１２内に展開され、各CPUコアにより実行される。
【００２４】
図３は、図１に示した共有ストレージ２０の構成を示す図である。共有ストレージ２０は、物理マシン１、２、３に生成される仮想マシンVMのイメージファイルを記憶する。仮想マシンVMのイメージファイルは、例えばゲストOSとアプリケーションAPLと各種データDATAなどである。各種データDATAには、例えば前述のI/O状態を含むハードウエアのエミュレーション状態も含まれる。
【００２５】
物理マシン１、２、３のハイパーバイザHVは、管理装置４のVM管理ソフトウエア４＿１からの仮想マシンVMの作成コマンドに応答して、共有ストレージ２０内のイメージファイルに対応する仮想マシンを起動し、仮想マシンVMを実行する。また、ハイパーバイザHVは、VM管理ソフトウエア４＿１からの仮想マシンの一時停止、再開、遮断コマンドに応答して、実行中の仮想マシンVMを一時停止し、再開し、遮断する。
【００２６】
［第１の実施の形態］
図４は、第１の実施の形態におけるVM管理プログラムのVM配置処理を示すフローチャート図である。VM管理プログラムのVM配置処理は、管理装置４がVM管理プログラムを実行することにより実行する。
【００２７】
まず、管理装置４は、VM管理プログラム４＿１を実行して、データセンタ内の管理対象の物理マシンの性能情報を収集する（S1）。物理マシンの性能情報には、例えば、CPU数（CPUチップ数）、各CPU内のCPUコア数、CPUの動作周波数、メモリ容量、メモリの動作周波数などである。収集方法は、例えば、管理装置４が各物理マシンに問い合わせを行って収集してもよい。または、データセンタ内の物理マシンの性能情報が正確に管理されている場合は、その性能情報が格納されている記憶装置から読み出しても良い。データセンタ内の物理マシンは、日々取り替えられたり追加されたり廃棄されたりするので、最新の情報を収集することが必要である。
【００２８】
図５は、物理マシンの性能順位テーブルの一例を示す図である。第１の実施の形態では、管理装置４が、特にCPUの動作周波数を収集し、図５のような物理マシンの性能順位テーブルを作成する。図５の性能順位テーブルは、収集工程S1で収集した各物理マシンＡ〜ＤのＣＰＵ周波数と、１ＣＰＵ当たりのＣＰＵコア数と、ＣＰＵ数×ＣＰＵコア数を計算して求めたＣＰＵコア合計数とを有する。そして、図５の例では、第１に、物理マシンの性能順位はＣＰＵ性能順位に基づいて決定され、特にＣＰＵ周波数が高い順に順位１〜４が割り当てられる。第２に、物理マシンの性能順位をＣＰＵコア数の多い順に決定することもできる。
【００２９】
図５は一例として４台の物理マシンを示しているが、通常のデータセンタには多数の物理マシンが配備されている。そして、本実施の形態では、前提として、データセンタ内の複数の物理サーバは、必ずしも同じＣＰＵ性能（ＣＰＵ動作周波数やＣＰＵコア数など）を有するとは限らない。つまり、様々なＣＰＵ性能を有する物理サーバが混在する。同様に、データセンタ内の複数の物理サーバは、必ずしも同じメモリ性能（メモリ動作周波数やメモリ容量など）を有するとは限らない。つまり、様々なメモリ性能を有する物理サーバが混在する。
【００３０】
図６は、物理マシンのグループテーブルの一例を示す図である。管理装置４は、物理マシンの性能情報収集工程S1で、物理マシンの性能順位テーブルを作成する。第１の実施の形態では、管理装置４は、図５の物理マシン性能順位テーブルのＣＰＵ性能順位に基づいて、物理マシンを４つのグループに分類する。例えば、物理マシングループ１は、ＣＰＵの性能順位が上位２０％の物理マシンで構成される。物理マシングループ２は、ＣＰＵの性能順位が中位６０％で構成され、物理マシングループ３は、ＣＰＵの性能順位が下位２０％の物理マシンで構成される。
【００３１】
さらに、物理マシングループ４は、メモリの性能順位が上位で且つＣＰＵ性能順位が中位以下の物理マシンで構成される。ここで、メモリの性能順位は、例えばメモリの容量とメモリの動作周波数とに基づいて決められる。一例としては、メモリ容量とメモリの動作周波数とを所定の重み付けで加算して求めた指標に基づいてメモリの性能順位を決定する。または、メモリ容量に基づいてメモリの性能順位を決定する。もしくは、メモリの動作周波数に基づいてメモリの性能順位を決定する。
【００３２】
図４に戻り、管理装置４は、VM管理プログラム４＿１を実行して、動作中の仮想マシンVMの動作履歴を収集する（S2）。動作履歴には、例えば、所定期間でのCPU使用率、メモリ使用率などである。第１の実施の形態では、特にCPU使用率を収集する。
【００３３】
CPU使用率は、例えば以下の数式で表される。
CPU使用率＝VMの処理実行に必要なMIPS値／CPUコアが保有するMIPS値
ここで、MIPS値とはCPUの加減乗除などの演算命令とロードやストアなどのメモリアクセス命令の平均速度を表すものであり、１秒間に何１００万命令（ステップ）を実行できるかを示す単位である。CPU使用率は、CPU内の各CPUコアに設けられた処理済み命令数をカウントするカウンタの値から演算することができる。各CPUコアのCPU使用率は、通常、OSに問い合わせることで取得できる。問い合わせに応答して、OSはCPUコア内のカウンタ値を読み出し、上記の数式で演算した結果を返す。したがって、仮想マシンVMに割り当てられているCPUコアのカウンタ値から仮想マシンVMのCPU使用率を取得できる。
【００３４】
また、メモリ使用率は、例えば以下の数式で表される。
メモリ使用率＝記憶するデータ容量／メモリ容量
つまり、与えられたメモリ容量の何パーセントの容量をデータの記憶に使用しているかを示す指標である。したがって、OSは、例えばメモリコントローラ内のデータ容量をカウントするカウンタから取得可能である。
【００３５】
次に、管理装置４は、仮想マシンのCPU使用率が閾値を越えているか否かを判定し、越えていなければ処理S1,S2を繰り返し、越えていれば以下の仮想マシンVMの再配置制御を実行する。（S3）。第１の実施の形態では、管理装置４は、上記の閾値として、高い側の閾値Vth1と低い側の閾値Vth2とを設定しておく。例えば、高い側の閾値Vth1はCPU使用率が８５％、低い側の閾値Vth2はCPU使用率が５０％である。そして、仮想マシンのCPU使用率が閾値Vth1, Vth2を越えているという意味は、CPU使用率が高い側の閾値Vth1より高い、またはCPU使用率が低い側の閾値Vth2より低い、のいずれかに該当することをいう。
【００３６】
そして、管理装置４は、以下のようなアルゴリズムで仮想マシンVMを現在の物理マシンから他の物理マシンに再配置する。まず、管理装置４は、仮想マシンVMがCPU依存傾向か否かを判定し（S4）、仮想マシンVMがCPU依存傾向にない場合は（S4のNO）、その仮想マシンを物理マシングループ４の物理マシンに移行する（S5）。ここで、CPU依存傾向にあるとは、CPU使用率がメモリ使用率に比較して、通常の仮想マシンの基準よりも低いことを意味する。つまり、CPU使用率が極端に低いがメモリ使用率が高い仮想マシンVMは、CPU依存傾向がないと判定される。
【００３７】
このような仮想マシンVMは、CPUによる命令処理は少ないが、メモリ内に記憶しているデータ量が多く、主にメモリアクセスを行っていることを意味する。逆に、CPU使用率が比較的高いがメモリ使用率が低い仮想マシンVMは、CPU依存傾向があると判定される。通常の仮想マシンVMは、CPU依存傾向がある。このような通常の仮想マシンVMの処理速度は、主にCPUの単位時間当たりの処理数、つまりCPUの動作周波数に依存する。
【００３８】
物理マシングループ４は、図６で説明したとおり、メモリ容量がより大きくまたはメモリの動作周波数がより高い程高くなるメモリ性能順位が上位であり、CPU性能順位が中位以下の特異な物理マシン群である。管理装置４は、まず、仮想マシンVMでCPU依存傾向がないものは、この物理マシングループ４に再配置する。
【００３９】
次に、管理装置４は、CPU依存傾向がある通常の仮想マシンVMについては、以下のように物理マシングループ１，２，３に再配置する。第１に、管理装置４は、仮想マシンVMの所定時間内のCPU使用率が高い側の閾値Vth1より高いと判定した場合（S6のYES）、その仮想マシンVMを、実行中の物理マシンが属する物理マシングループよりも性能が高い（例えばCPU動作周波数が高い）物理マシングループに属する物理マシンに移行する（S7）。例えば、１つだけ性能が高い物理マシングループに移行する。
【００４０】
第２に、管理装置４は、仮想マシンの所定時間内のCPU使用率が低い側の閾値Vth2より低いと判定した場合（S8のYES）、その仮想マシンVMを、実行中の物理マシンが属する物理マシングループよりも性能が低い（例えばCPU動作周波数が低い）物理マシングループに属する物理マシンに移行する（S9）。例えば、１つだけ性能が低い物理マシングループに移行する。
【００４１】
第３に、管理装置４は、仮想マシンの所定時間内のCPU使用率が第１、第２の閾値Vth1,Vth2の間にあると判定した場合（S10のYES）、その仮想マシンVMを実行中の物理マシンの物理マシングループに維持する（S11）。
【００４２】
そして、管理装置４は、上記の処理S1〜S11を繰り返す。
【００４３】
図７は、本実施の形態における図４のVM管理プログラムのVM配置処理による仮想マシンVMの再配置例を示す図である。左側に時間軸を示し、３回の仮想マシンVMの再配置タイミングで仮想マシンVM1,VM2,MV3がどのようなCPU使用率を有していて、管理装置４が、物理マシングループ１，２，３（G1,G2,G3）間で仮想マシンVMをどのように移行させるかの一例を示す。物理マシングループ１，２，３の違いは、図６で説明したとおりである。
【００４４】
まず、１回目の再配置処理では、管理装置４の監視部（図示せず）は、各仮想マシンVM1,VM2,VM3のCPU使用率がそれぞれ３０％、６０％、１００％であることを検出する。そこで、管理装置４の割当部（図示せず）は、CPU使用率が３０％（＜閾値Vth2、５０％））の仮想マシンVM1を現在の物理マシングループ１（G1）から一つCPUの性能が低い（例えばCPU動作周波数が低い）物理マシングループ２（G2）に移行し、CPU使用率が１００％（＞閾値Vth1、８５％）の仮想マシンVM3を現在の物理マシングループ３（G3）から一つ性能が高い（例えばCPU動作周波数が高い）物理マシングループ２（G2）に移行する。さらに、管理装置４は、CPU使用率が６０％（閾値Vth1＞＝６０％＞＝Vth2）の仮想マシンVM2は、現在の物理マシングループ２に維持する。
【００４５】
次に、２回目の再配置処理では、管理装置４は、各仮想マシンVM1,VM2,VM3のCPU使用率がそれぞれ４０％、６０％、９０％であることを検出する。１回目の再配置処理で、仮想マシンVM１はより低い中性能の物理マシングループ２の物理マシンに移行したためCPU使用率は上昇し、逆に仮想マシンVM3はより高い中性能の物理マシングループ２の物理マシンに移行したためCPU使用率は下降している。そこで、管理装置４の割当部は、CPU使用率が４０％（＜閾値Vth2、５０％）の仮想マシンVM1を現在の物理マシングループ２（G2）から一つ性能が低い（例えばCPU動作周波数が低い）物理マシングループ３（G3）に移行し、CPU使用率が９０％（＞閾値Vth1、８５％）の仮想マシンVM3を現在の物理マシングループ２（G2）から一つ性能が高い（例えばCPU動作周波数が高い）物理マシングループ１（G1）に移行する。管理装置４は、CPU使用率が６０％の仮想マシンVM2は前回と同様に物理マシングループ２に維持する。
【００４６】
最後に、３回目の再配置処理では、管理装置４は、各仮想マシンVM1,VM2,VM3のCPU使用率がそれぞれ８０％、６０％、８０％であることを検出する。２回目の再配置処理で、仮想マシンVM１はより低い低性能の物理マシングループ３の物理マシンに移行したためCPU使用率は上昇し、逆に仮想マシンVM3はより高い高性能の物理マシングループ１の物理マシンに移行したためCPU使用率は下降している。そして、いずれの仮想マシンもCPU使用率は、第１の閾値Vth1（＝８５％）と第２の閾値Vth2（＝５０％）の間の値である。したがって、管理装置４は、３回目の再配置処理では、３つの仮想マシンVM1,VM2,VM3を起動、実行する物理マシングループを維持する。
【００４７】
結局、図７の例では、１回目の再配置タイミングでCPU使用率が低かった仮想マシンVM1は、１回目と２回目の再配置処理を経て、最も性能が低い物理マシングループ３の物理マシンに移行し、そのCPU使用率は８０％と最適なレベルになっている。同様に、１回目の再配置タイミングでCPU使用率が高かった仮想マシンVM3は、１回目と２回目の再配置処理を経て、最も性能が高い物理マシングループ１の物理マシンに移行し、そのCPU使用率は８０％と最適なレベルになっている。
【００４８】
そして、３回目の再配置タイミングで検出した各仮想マシンの所定時間内のCPU使用率は、第１、第２の閾値Vth1,Vth2の間になり、３つの仮想マシンVM1,VM2,VM3は、それぞれの処理量に見合った性能（例えばCPU動作周波数）の物理マシンに移行されたことになる。したがって、３つの仮想マシンVM1,VM2,VM3の物理マシンへの配置は最適化され、３つの仮想マシンの処理は最適な速度で行われる。
【００４９】
上記の再配置処理では、管理装置４は、移行対象の仮想マシンVMに割り当てられているCPUコア数とメモリ容量が、移行先の物理マシンの空いているCPUコア数とメモリ容量よりも小さいことを条件に、仮想マシンの移行を決定する。つまり、第１の実施の形態では、管理装置４は、各物理マシンのCPU動作周波数に基づいて、仮想マシンの現在のCPU使用率に見合ったCPU動作周波数を有する物理マシンに、その仮想マシンを移行制御する。それと共に、管理装置４は、各物理マシン内の未割当で新たに割当可能なCPUコア数とメモリ容量にも基づいて、CPUコア数やメモリ容量が割り当て可能な物理マシンに、仮想マシンを移行制御する。
【００５０】
また、仮想マシンVMのCPU使用率は、仮想マシンVMにより構成されるサービスシステムの繁忙度に応じて動的に変化する。したがって、４回目のVM再配置タイミングで各仮想マシンVMのCPU使用率が変化すると、再度、管理装置４は、図４に示した最適なCPU性能を有する物理マシングループへの移行制御を実行する。
【００５１】
［第２の実施の形態］
第１の実施の形態では、物理マシングループを物理マシンのCPU動作周波数に基づく性能順に分ける。そして、管理装置４は、仮想マシンの所定期間内のCPU使用率が第１の閾値Vth1より高いまたは越える場合、移行先の物理マシンに新たに割り当てるCPUコア数とメモリ容量が存在する場合に、その仮想マシンをよりCPU動作周波数が高い物理マシングループ内の物理マシンに移行する。これにより、仮想マシンのCPU使用率が一時的に１００％を越えるなどで処理に遅延が生じることが解消され、仮想マシンを最適な物理マシンに配置して仮想マシンの処理を効率化そして高速化することができる。
【００５２】
それに対して、第２の実施の形態では、物理マシングループを、CPU動作周波数に基づく性能順に分けることに加えて、物理マシンが有するCPUコア数に基づいても分ける。そして、仮想マシンの移行先の決定に、物理マシンのCPUコア数の指標も用いる。
【００５３】
図８は、第２の実施における物理マシンのグループテーブル例を示す図である。表の縦方向は、CPUの動作周波数がそれぞれ高い、中、低いグループの３つのグループに分けられている。さらに、表の横方向は、物理マシンが有するCPUコア数がそれぞれ多い、中、少ないグループの３つのグループに分けられている。したがって、物理マシンは３×３＝９種類の物理マシングループに分けられる。
【００５４】
図９は、第２の実施の形態における仮想マシン配置管理プログラムの一部のフローチャート図である。図９のフローチャート図は、図４の工程S7の処理を示す。図４では、仮想マシンVMのCPU使用率が第１の閾値Vth1より高い場合（S6のYES）、より性能が高い（例えばCPU動作周波数がより高い）物理マシングループに仮想マシンVMを移行する（S7）。
【００５５】
それに対して、図９によれば、図４において仮想マシンのCPU使用率が第１の閾値Vth1より高い場合（S6のYES）、仮想マシンVMが既に最も高いCPU動作周波数の物理マシングループ（図８のPM11,PM12,PM13のグループ、またはグループG1_1）で動作中だとすると、それ以上のCPU動作周波数の物理マシングループがない。そこで、管理装置４は、仮想マシンVMが既に最高CPU動作周波数の物理マシンで動作中の場合（S71のYES）、よりCPUコア数が多い物理マシングループの物理マシンに仮想マシンを移行する（S72）。つまり、図８の物理マシングループPM12,PM13からCPUコア数がより多い物理マシングループPM11,PM12にそれぞれ仮想マシンを移行する。これにより、移行後の仮想マシンのCPU使用率が低下する場合がある。その理由は次のとおりである。
【００５６】
すなわち、物理マシン上で複数の仮想マシンが動作中の場合、各仮想マシンに対してCPUコア数がオーバーコミットされている場合がある。オーバーコミットとは、物理マシンがＮ個のＣＰＵコア数のところ、複数の仮想マシンにそれぞれ割り当てると契約されているＣＰＵコア数の合計がＮ個を越える場合に発生する。つまり、仮想マシンに割り当てたＣＰＵコア数の合計が実際の物理マシンが有するＣＰＵコア数の合計数Ｎより多い場合、一部の仮想マシンには設定したＣＰＵコア数より少ないＣＰＵコア数しか割り当てられない状態が発生する。
【００５７】
このオーバーコミットが理由で、仮想マシンが最もＣＰＵ動作周波数が高い物理マシングループに移行したにもかかわらず、設定したＣＰＵコア数より少ない個数しか割り当てられずＣＰＵ使用率が低下しない場合がある。
【００５８】
そこで、第２の実施の形態では、管理装置４は、工程Ｓ７２にて、仮想マシンをよりＣＰＵコア数が多い物理マシングループに移行させる。これにより、ＣＰＵコアのオーバーコミットが理由でその仮想マシンのＣＰＵ使用率が改善されないことが、解消される場合がある。
【００５９】
図９にもどり、仮想マシンが未だ最高のＣＰＵ動作周波数の物理マシングループに移行されてなければ、図４と同様に、管理装置４は、より高いＣＰＵ動作周波数の物理マシングループに移行する。
【００６０】
［第３の実施の形態］
第３の実施の形態による管理装置４は、仮想マシンのメモリ使用率と物理マシンのメモリ容量及びメモリ動作周波数とに基づいて、仮想マシンを移行制御する。
【００６１】
図１０は、第３の実施の形態における物理マシンのメモリ性能順位テーブルの一例を示す図である。図１０の例では、物理マシンＡは、メモリ容量に関して１スロットの容量が１６ＧＢ、スロット数が１２枚、合計メモリ容量が１９２ＧＢ、メモリクロック（メモリの動作周波数）が２１．３ＧＢ／secである。物理マシンＢ，Ｃ，Ｄも図示されるとおりである。
【００６２】
この場合、メモリ容量に基づいてメモリ性能順位を判定すると、物理マシンＡ，Ｂが１位、物理マシンＣ，Ｄが３位となる。同様に、メモリの動作周波数に基づいてメモリ性能順位を判定すると、物理マシンＡ，Ｂが１位、物理マシンＣ，Ｄが３位となる。図１０の例ではいずれのメモリ性能順位も同じになったが、現実の物理マシン群では必ずしも同じ順位にならない場合がある。
【００６３】
第３の実施の形態でも、前提として、データセンタ内の複数の物理サーバは、必ずしも同じＣＰＵ性能（ＣＰＵ動作周波数やＣＰＵコア数など）を有するとは限らない。つまり、様々なＣＰＵ性能を有する物理サーバが混在する。同様に、データセンタ内の複数の物理サーバは、必ずしも同じメモリ性能（メモリ動作周波数やメモリ容量など）を有するとは限らない。つまり、様々なメモリ性能を有する物理サーバが混在する。
【００６４】
図１１は、第３の実施の形態における物理マシンのグループテーブルの一例を示す図である。図１１の例では、図８と同様に、表の縦方向は、メモリの動作周波数がそれぞれ高い、中、低いグループの３つのグループに分けられている。さらに、表の横方向は、物理マシンが有するメモリ容量がそれぞれ多い、中、少ないグループの３つのグループに分けられている。したがって、物理マシンは３×３＝９種類の物理マシングループに分けられる。
【００６５】
図１２、図１３は、第３の実施の形態における仮想マシン配置管理プログラムの処理を示すフローチャート図である。処理工程S1,S4,S5は、図４と同じである。それ以外の処理工程について以下説明する。
【００６６】
管理装置４は、仮想マシン管理プログラム４＿１の仮想マシン配置管理プログラムを実行して、仮想マシンVMの動作履歴として仮想マシンのメモリ使用率を収集する（S22）。ここで、メモリ使用率は前述のとおり以下の数式により表される。
メモリ使用率＝記憶するデータ容量／メモリ容量
したがって、仮想マシンのメモリ使用率は時々刻々と変化する。また、定性的には、メモリ使用率が高いほどデータ量が多く、メモリへのアクセス頻度も高くなる傾向にある。
【００６７】
また、管理装置４は、仮想マシンのメモリ使用率が閾値Vth11、Vth12を越えると（S23のYES）、以下のように仮想マシンの物理マシンへの配置制御を行う。
【００６８】
仮想マシンには、CPUコア数と同様にメモリ容量についてもオーバーコミットの問題がある。つまり、ある物理マシンに生成され動作中の仮想マシンに設定されたメモリ容量の合計が、物理マシンが有するメモリ容量を超えている場合、設定したメモリ容量を割り当てられていない仮想マシンが存在する。特に、物理マシン上で動作中の複数の仮想マシンのメモリ使用率が上昇していくと、限られた物理マシンのメモリ容量を超えてしまい、速い者順でメモリ容量が割り当てられる。その結果、一部の仮想マシンには設定したメモリ容量を割り当てることができなくなり、そのような仮想マシンのメモリ使用率は上記の式の分母のメモリ容量が小さいため上昇する。メモリ使用率が高くなりすぎると、その仮想マシンの処理速度が低下する。
【００６９】
そこで、第３の実施の形態では、管理装置４は、仮想マシンの所定期間におけるメモリ使用率が第１の閾値Vth11より高い場合、よりメモリ容量が大きい物理マシングループの物理マシンに移行する。それにより、オーバーコミットにより割り当てられているメモリ容量が設定値より少ないことが原因でメモリ使用率が高くなっていることを、解消可能である。逆に、管理装置４は、仮想マシンの所定期間におけるメモリ使用率が第２の閾値Vth12(＜Vth11)より低い場合、よりメモリ容量が小さい物理マシングループの物理マシンに移行する。これにより、移行元の物理マシンでオーバーコミットの問題が発生するのを抑制できる。
【００７０】
さらに、第３の実施の形態では、仮想マシンを最大のメモリ容量を有する物理マシンに移行しても仮想マシンのメモリ使用率が低下しない場合、もはやオーバーコミットの問題はないので、管理装置４は、仮想マシンをよりメモリ動作周波数が高い物理マシングループの物理マシンに移行させる。メモリ使用率が高いということは、記憶するデータ容量が多いことを意味するので、定性的にはそのメモリへのアクセス回数も増加傾向にある。そこで、管理装置４は、仮想マシンをよりメモリ動作周波数が高い物理マシンに移行することで、その仮想マシンのメモリアクセスのレイテンシを短くして、処理速度を向上させることが可能になる場合がある。
【００７１】
図１２に戻り、仮想マシンのメモリ使用率が第１の閾値Vth11より高い場合（S26のYES）、管理装置４は、その仮想マシンをよりメモリ容量が多い物理マシングループに移行する（S27）。一方、仮想マシンのメモリ使用率が第２の閾値Vth12より低い場合（S28のYES）、管理装置４は、その仮想マシンをよりメモリ容量が少ない物理マシングループに移行する（S29）。そして、仮想マシンのメモリ使用率が第１の閾値Vth11と第２の閾値Vth12の間の場合（S30のYES）、現在の物理マシングループに仮想マシンを維持する（S31）。
【００７２】
図１３は、図１２の処理工程S27の変形例を示す。図１２において、仮想マシンのメモリ使用率が第１の閾値Vth11より高い場合であって、その仮想マシンが既に最大メモリ容量の物理マシンで動作中の場合（S271のYES）、管理装置４は、その仮想マシンをよりメモリ動作周波数が高い物理マシングループに移行する（S272）。一方、図１２において、仮想マシンのメモリ使用率が第１の閾値Vth11より高い場合であって、その仮想マシンが未だ最大メモリ容量の物理マシンで動作中でない場合（S271のNO）、管理装置４は、その仮想マシンをよりメモリ容量が多い物理マシングループに移行する（S27）。これにより、メモリ容量のオーバーコミットにより割り当てられるメモリ容量が設定メモリ容量に満たないという問題を解消できる。
【００７３】
第３の実施の形態による管理装置４は、第１、第２の実施の形態のように仮想マシンのＣＰＵ使用率と、物理マシンのＣＰＵ動作周波数やＣＰＵコア数とに基づいて、仮想マシンを移行制御することに加えて、仮想マシンのメモリ使用率と物理マシンのメモリ容量及びメモリ動作周波数とに基づいて、仮想マシンを移行制御してもよい。その場合、例えば、（１）仮想マシンのＣＰＵ使用率と、物理マシンのＣＰＵ動作周波数やＣＰＵコア数に基づく仮想マシンの移行制御を、高い頻度で実行し、（２）仮想マシンのメモリ使用率と、物理マシンのメモリ容量及びメモリ動作周波数に基づく仮想マシンの移行制御を、低い頻度で実行する。あるいは、逆の頻度で実行してもよい。つまり、移行制御の頻度を異ならせることで移行制御の場面を異ならせる。
【００７４】
［第４の実施の形態］
第４の実施の形態では、第３の実施の形態の仮想マシンの移行制御を変形したものである。すなわち、第４の実施の形態では、管理装置４は、まず、仮想マシンの所定期間でのメモリ使用率が第１の閾値Vth11より高い場合、よりメモリ動作周波数が高い物理マシングループに仮想マシンを移行する。逆に、管理装置４は、仮想マシンの所定期間でのメモリ使用率が第２の閾値Vth12より低い場合、よりメモリ動作周波数が低い物理マシングループに仮想マシンを移行する。そして、管理装置４は、仮想マシンのメモリ使用率がVth11〜Vth12の間にある場合、現在の物理マシングループに仮想マシンを維持する。
【００７５】
このような仮想マシンの割当制御を行うことで、仮想マシンのメモリ使用率が一時的に高くなりより多くのデータを処理する場合、よりメモリの動作周波数が高い物理マシンに仮想マシンを移行させて、仮想マシンによるメモリアクセス速度を高めて仮想マシンの処理の高速化を図ることができる。逆に仮想マシンのメモリ使用率が一時的に低くなりより少ないデータしか処理しない場合、よりメモリ動作周波数が低い物理マシンに仮想マシンを移行させて、他のメモリ使用率が高い仮想マシンのメモリ動作周波数が高い物理マシンへの移行を可能にすることができる。
【００７６】
そして、仮想マシンのメモリ使用率が第１の閾値Vth11より高い場合であって、仮想マシンが既に最高のメモリ動作周波数の物理マシンで動作中の場合、管理装置４は、その仮想マシンをよりメモリ容量が大きい物理マシングループに移行する。これにより、その仮想マシンがメモリ容量のオーバーコミットにより少ないメモリ容量しか割り当てられていないかもしれない状態を解消することができる。
【００７７】
第４の実施の形態においても、管理装置４は、第１、第２の実施の形態のように仮想マシンのＣＰＵ使用率と、物理マシンのＣＰＵ動作周波数やＣＰＵコア数とに基づいて、仮想マシンを移行制御することに加えて、仮想マシンのメモリ使用率と物理マシンのメモリ容量及びメモリ動作周波数とに基づいて、仮想マシンを移行制御してもよい。例えば、第３の実施の形態で説明したとおり、両者の仮想マシンの移行制御の頻度を異ならせて異なる場面で制御するようにしてもよい。
【００７８】
以上、本実施の形態によれば、管理装置４は、仮想マシンを最適な物理マシンに移行制御して、仮想マシンの処理効率を最大化し処理を最速化させることができる。
【００７９】
以上の実施の形態をまとめると，次の付記のとおりである。
【００８０】
（付記１）
異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置と、
前記複数の情報処理装置を管理する管理装置とを有し、
前記管理装置は、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する監視部と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを前記監視部が検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる割当部とを有する情報処理システム。
【００８１】
（付記２）
前記仮想マシンの所定期間の使用率は、当該仮想マシンに割り当てられる前記演算処理部の所定期間の使用率である付記１に記載の情報処理システム。
【００８２】
（付記３）
前記情報処理装置は、当該情報処理装置内の所定数の前記演算処理部を割り当てて前記仮想マシンを実行し、
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値より高い場合、当該仮想マシンを、より動作周波数が高い演算処理装置を有する前記他の情報処理装置に移行する付記２に記載の情報処理システム。
【００８３】
（付記４）
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値よりも低い第２の閾値より低い場合、当該仮想マシンを、より動作周波数が低い演算処理装置を有する前記他の情報処理装置に移行する付記３に記載の情報処理システム。
【００８４】
（付記５）
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値と前記第２の閾値の間の場合、当該仮想マシンの現在の情報処理装置への割り当てを維持する付記４に記載の情報処理システム。
【００８５】
（付記６）
前記割当部は、前記仮想マシンに割り当てられた前記演算処理部の所定期間の使用率が前記第１の閾値より高い場合であって、且つ、前記仮想マシンが最高の動作周波数の演算処理装置で動作中の場合、当該仮想マシンをより前記演算処理部の数が多い演算処理装置に移行する付記３に記載の情報処理システム。
【００８６】
（付記７）
前記複数の情報処理装置は、異なるメモリ容量とメモリ動作周波数を有するメモリを有し、
前記監視部は、前記複数の情報処理装置の各々が実行する仮想マシンの所定期間のメモリ使用率を監視し、
前記割当部は、前記仮想マシンのいずれかについて前記所定期間のメモリ使用率が第３の閾値を超えた場合、前記複数の情報処理装置の各々が有するメモリ容量とメモリの動作周波数とに基づき、前記所定期間のメモリ使用率が前記第３の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる付記１に記載の情報処理システム。
【００８７】
（付記８）
前記情報処理装置は、当該情報処理装置内の所定のメモリ容量を割り当てて前記仮想マシンを実行し、
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が第３の閾値より高い場合、当該仮想マシンを、よりメモリ容量が大きい前記他の情報処理装置に移行する付記７に記載の情報処理システム。
【００８８】
（付記９）
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が前記第３の閾値より低い第４の閾値より低い場合、当該仮想マシンを、よりメモリ容量が小さい前記他の情報処理装置に移行する付記８に記載の情報処理システム。
【００８９】
（付記１０）
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が前記第３の閾値と前記第４の閾値の間の場合、当該仮想マシンの現在の情報処理装置への割り当てを維持する付記９に記載の情報処理システム。
【００９０】
（付記１１）
前記割当部は、前記仮想マシンの前記所定期間のメモリ使用率が前記第３の閾値より高い場合であって、且つ、前記仮想マシンが最大のメモリ容量の演算処理装置で動作中の場合、当該仮想マシンをよりメモリの動作周波数が高い演算処理装置に移行する付記８に記載の情報処理システム。
【００９１】
（付記１２）
前記割り当て部は、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づく、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンの他の物理マシンへの第１の割当制御と、前記複数の情報処理装置の各々が有するメモリ容量とメモリの動作周波数とに基づく、前記所定期間のメモリ使用率が前記第３の閾値を超えた仮想マシンの他の物理マシンへの第２の割当制御とを、異なる場面で実行する、付記７に記載の情報処理システム。
【００９２】
（付記１３）
異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置を管理する管理装置であって、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する監視部と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを前記監視部が検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる割当部とを有する管理装置。
【００９３】
（付記１４）
前記複数の情報処理装置は、異なるメモリ容量とメモリ動作周波数を有するメモリを有し、
前記監視部は、前記複数の情報処理装置の各々が実行する仮想マシンの所定期間のメモリ使用率を監視し、
前記割当部は、前記仮想マシンのいずれかについて前記所定期間のメモリ使用率が第３の閾値を超えた場合、前記複数の情報処理装置の各々が有するメモリ容量とメモリの動作周波数とに基づき、前記所定期間のメモリ使用率が前記第３の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる付記１３に記載の管理装置。
【００９４】
（付記１５）
異なる動作周波数の演算処理装置をそれぞれ有する複数の情報処理装置と、前記複数の情報処理装置を管理する管理装置とを有する情報処理システムの制御方法であって、
前記複数の情報処理装置の各々が実行する仮想マシンの所定期間の使用率を監視する工程と、
前記仮想マシンのいずれかについて前記所定期間の使用率が第１の閾値を超えたことを検出した場合、前記複数の情報処理装置の各々が有する演算処理装置の数と、各演算処理装置が有する演算処理部の数と、各演算処理装置の動作周波数とに基づき、前記所定期間の使用率が前記第１の閾値を超えた仮想マシンを、前記複数の情報処理装置のうち他の情報処理装置に割り当てる工程とを有する情報処理システム。
【符号の説明】
【００９５】
１、２、３：情報処理装置、物理マシン、ＶＭホスト
ＨＶ：ハイパーバイザ
ＶＭ：仮想マシン
４：管理装置
４＿１：ＶＭ管理ソフトウエア
４＿２：利用者ポータルサイト
６：利用者端末
７：運用管理者端末
Ｍ＿ＮＷ：管理ネットワーク
ＶＭ＿ＮＷ：ＶＭネットワーク
ＥＸ＿ＮＷ：外部ネットワーク
２０：共有ストレージ
【図１】
2016126562.tif 000003
【図２】
2016126562.tif 000004
【図３】
2016126562.tif 000005
【図４】
2016126562.tif 000006
【図５】
2016126562.tif 000007
【図６】
2016126562.tif 000008
【図７】
2016126562.tif 000009
【図８】
2016126562.tif 000010
【図９】
2016126562.tif 000011
【図１０】
2016126562.tif 000012
【図１１】
2016126562.tif 000013
【図１２】
2016126562.tif 000014
【図１３】
2016126562.tif 000015