(57)【要約】【課題】仮想マシンのライブマイグレーションを実施する際のサービス停止時間を短縮可能にしたマイグレーションシステムを提供する。【解決手段】第１データセンタに設けられ、ネットワーク内の第１通信経路を介してクライアント端末と接続される第１サーバと、第２データセンタに設けられ、ネットワーク内の第２通信経路を介してクライアント端末と接続される第２サーバと、クライアント端末と第１および第２のサーバとの通信経路となる第１および第２の通信経路を切り替え可能なネットワーク切替装置と、第１サーバが第１通信経路を介してクライアント端末に提供している仮想マシンを、第１サーバに対して第２サーバに移行する旨を指示した後、仮想マシンの第１サーバから第２サーバへの移行が完了する前に、クライアント端末に接続される通信経路を第１通信経路から第２通信経路に切り替える旨をネットワーク切替装置に指示する制御装置と、を有する。【選択図】図１
2014041414.tif 000002
【特許請求の範囲】
【請求項１】
第１のデータセンタに設けられ、ネットワーク内の第１の通信経路を介してクライアント端末と接続される第１のサーバと、
前記第１のデータセンタとは異なる第２のデータセンタに設けられ、前記ネットワーク内の第２の通信経路を介して前記クライアント端末と接続される第２のサーバと、
前記クライアント端末と前記第１および第２のサーバとの通信経路となる、前記第１および第２の通信経路を切り替え可能なネットワーク切替装置と、
前記第１のサーバが前記第１の通信経路を介して前記クライアント端末に提供している仮想マシンを、該第１のサーバに対して前記第２のサーバに移行する旨を指示した後、該仮想マシンの前記第１のサーバから前記第２のサーバへの移行が完了する前に、前記クライアント端末に接続される通信経路を前記第１の通信経路から前記第２の通信経路に切り替えるように、前記ネットワーク切替装置に通信経路の切り替えを指示する制御装置と、
を有する仮想マシンのマイグレーションシステム。
【請求項２】
請求項１記載の仮想マシンのマイグレーションシステムにおいて、
前記制御装置は、
前記第１のサーバに関する所定のパラメタの値を取得し、取得したパラメタの値に基づいて、該第１のサーバに対して前記仮想マシンを前記第２のサーバに移行する旨を指示した時刻である移行指示時刻から前記ネットワーク切り替え装置に前記通信経路の切り替えを指示するまでの時間を算出し、前記移行指示時刻から該時間が経過したときに、前記ネットワーク切替装置に前記通信経路の切り替えを指示する、仮想マシンのマイグレーションシステム。
【請求項３】
請求項１記載の仮想マシンのマイグレーションシステムにおいて、
前記第２のサーバは、
前記仮想マシンが前記第１のサーバで停止したことを検出すると、ダミーのＧＡＲＰ通知を前記制御装置に送信し、
前記制御装置は、
前記第２のサーバから前記ダミーのＧＡＲＰ通知を受信すると、前記ネットワーク切替装置に前記通信経路の切り替えを指示する、仮想マシンのマイグレーションシステム。
【請求項４】
第１のデータセンタに設けられ、ネットワーク内の第１の通信経路を介してクライアント端末と接続される第１のサーバと、第２のデータセンタに設けられ、前記ネットワーク内の第２の通信経路を介して前記クライアント端末と接続される第２のサーバと、該クライアント端末と前記第１および第２のサーバとの通信経路となる、前記第１および第２の通信経路を切り替え可能なネットワーク切替装置と接続される制御装置であって、
前記第１のサーバが前記第１の通信経路を介して前記クライアント端末に提供している仮想マシンを、該第１のサーバに対して前記第２のサーバに移行する旨を指示するＶＭ切替制御部と、
前記仮想マシンの前記第１のサーバから前記第２のサーバへの移行が完了する前に、前記クライアント端末に接続される通信経路を前記第１の通信経路から前記第２の通信経路に切り替えるように、前記ネットワーク切替装置に通信経路の切り替えを指示するＮＷ切替制御部と、
を有する制御装置。
【請求項５】
請求項４記載の制御装置において、
前記第１のサーバに関する所定のパラメタの値を取得するパラメタ抽出部と、
前記パラメタ抽出部が取得した前記所定のパラメタの値に基づいて、前記第１のサーバに対して前記仮想マシンを前記第２のサーバに移行する旨を指示した時刻である移行指示時刻から前記ネットワーク切り替え装置に前記通信経路の切り替えを指示するまでの時間を算出する計算部と、をさらに有し、
前記ＮＷ切替制御部は、
前記移行指示時刻から前記計算部が算出した時間が経過したときに、前記ネットワーク切替装置に前記通信経路の切り替えを指示する、制御装置。
【請求項６】
第１のデータセンタに設けられ、ネットワーク内の第１の通信経路を介してクライアント端末と接続される第１のサーバと、第２のデータセンタに設けられ、前記ネットワーク内の第２の通信経路を介して前記クライアント端末と接続される第２のサーバと、該クライアント端末と前記第１および第２のサーバとの通信経路となる、前記第１および第２の通信経路を切り替え可能なネットワーク切替装置と接続される制御装置による、仮想マシンのマイグレーション方法であって、
前記第１のサーバが前記第１の通信経路を介して前記クライアント端末に提供している仮想マシンを、該第１のサーバに対して前記第２のサーバに移行する旨を指示し、
前記仮想マシンの前記第１のサーバから前記第２のサーバへの移行が完了する前に、前記クライアント端末に接続される通信経路を前記第１の通信経路から前記第２の通信経路に切り替えるように、前記ネットワーク切替装置に通信経路の切り替えを指示する、仮想マシンのマイグレーション方法。
【請求項７】
請求項６記載の仮想マシンのマイグレーション方法において、
前記第１のサーバに関する所定のパラメタの値を取得し、
取得したパラメタの値に基づいて、該第１のサーバに対して前記仮想マシンを前記第２のサーバに移行する旨を指示した時刻である移行指示時刻から前記ネットワーク切り替え装置に前記通信経路の切り替えを指示するまでの時間を算出し、
前記移行指示時刻から該時間が経過したときに、前記ネットワーク切替装置に前記通信経路の切り替えを指示する、仮想マシンのマイグレーション方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、異なるデータセンタ拠点間で仮想マシンのライブマイグレーションを実行するためのマイグレーションシステム、制御装置およびマイグレーション方法に関する。
【背景技術】
【０００２】
仮想マシン（Virtual Machine：以下では、「ＶＭ」と表記する）のライブマイグレーションの一例が、特許文献１に開示されている。ライブマイグレーションとは、あるコンピュータにおけるＶＭで稼働中のＯＳ（Operating System）およびソフトウェアプログラムを停止させることなく、他のコンピュータに「移行」させることを意味する。ライブマイグレーションでは、ＶＭを動作させるコンピュータを単に変更するだけでなく、その過程でも、クライアントに対してＶＭ使用のサービスを提供し続ける必要がある。以下に、ライブマイグレーションの一例を簡単に説明する。
【０００３】
図８は従来のマイグレーションシステムの一構成例を示すブロック図である。
【０００４】
図８に示すように、データセンタＤＣ１内にサーバ１２１が設けられ、データセンタＤＣ２内にサーバ１２２が設けられている。これらの２つのデータセンタＤＣ１、ＤＣ２のそれぞれに設けられたＬＡＮ（Local Area Network）が１つのネットワークＮＷを介して接続されている。ネットワークＮＷは、例えば、ＷＡＮ（Wide Area Network）である。ネットワークＮＷにおける通信では、通信規約として、例えば、ＴＣＰ（Transmission Control Protocol）／ＩＰ（Internet Protocol）が使用される。
【０００５】
サーバ１２１、１２２は、クライアントに提供するＶＭを動作させる情報処理装置である。サーバ１２１はネットワークＮＷのＬ３スイッチ４３ａと接続され、サーバ１２２はネットワークＮＷのＬ３スイッチ４３ｂと接続されている。Ｌ３スイッチ４３ａとＬ３スイッチ４３ｂは仮想ネットワークＶＬＡＮ３を介して接続されている。
【０００６】
クライアント端末５０は、クライアントがサーバ１２１またはサーバ１２２でＶＭを使用するための端末であり、ネットワークＮＷのＯＦＳ４１と接続されている。クライアント端末５０は、ＶＭ宛にデータをパケットで送信する際、ＶＭに予め割り当てられたＩＰアドレスをパケットのヘッダの宛先に書き込み、パケットを送信する。
【０００７】
管理装置３０は、サーバ１２１、１２２の負荷を監視し、サーバの負荷が予め決められた閾値以上になると、負荷が閾値以上になったサーバの情報を含む負荷情報を制御装置１００に送信する。
【０００８】
ＯＦＣ（Open Flow Controller）４５は、ネットワーク内に設けられたＯＦＳ（Open Flow Switch）４１を制御する。ＯＦＣ４５は、制御装置１００と接続され、ＩＰアドレスに対応するＭＡＣ（Media Access Control）アドレスの変更情報を含む経路切替指示を制御装置１００から受け取ると、その変更情報を含む経路切替情報をＯＦＳ４１に通知する。
【０００９】
ＯＦＳ４１はネットワーク切替装置の一種である。ＯＦＳ４１は、ＯＦＣ４５から受信する経路切替情報にしたがってフローテーブルを更新し、フローテーブルを参照してクライアント端末５０とサーバ１２１、１２２との通信経路を切り替える。
【００１０】
制御装置１００は、管理装置３０から負荷情報を受信すると、負荷の高いサーバで稼働しているＶＭを負荷の低いサーバに移行させるために、負荷の高いサーバに、ＶＭ移行の動作を指示する。また、ＶＭの移動先のサーバからＧＡＲＰ（Gratuitous Address Resolution Protocol）通知を受信すると、経路切替指示をＯＦＣ４５に送信する。
【００１１】
図９は図８に示すシステムの動作手順を示すシーケンス図である。
【００１２】
ここでは、データセンタＤＣ１内のサーバ１２１で稼働中のＶＭを、サーバ１２１の過負荷などの要因に因り、データセンタＤＣ２のサーバ１２２にマイグレーションする場合で説明する。その際、遅延防止、およびＶＭの負荷分散だけでなく、ネットワークの負荷分散も実現するために、ＶＭのライブマイグレーション（以下では、ＶＭマイグレーションと称する）に連動して、仮想ネットワークＶＬＡＮによる通信経路も切り替える。
【００１３】
制御装置１００は管理装置３０を介してサーバ１２１の負荷を監視する。制御装置１００は、サーバ１２１の過負荷を検出すると、ＶＭ移行を指示する旨のＶＭ移行指示を、管理装置３０を介してサーバ１２１に送信する（ステップ３０１）。サーバ１２１は、稼働中のＶＭで使用されるＯＳ、ソフトウェアプログラムおよびデータを、仮想ネットワークＶＬＡＮ３を介してサーバ１２２にコピーするＶＭ移行動作を行い（ステップ３０３）、続いて、ＶＭ切替動作を行う（ステップ３０４）。この「ＶＭ切替」とは、サーバ１２１で稼働しているＶＭを一旦停止し、ＶＭのコピー中に生じたデータ分をサーバ１２２に新たに稼働させるＶＭにコピーした後、新たに稼働させるＶＭ側でメモリ再開処理を行うことである。
【００１４】
サーバ１２２は、ＶＭマイグレーションが終了すると、ＧＡＲＰ通知を制御装置１００に送信する（ステップ３０５）。このＧＡＲＰ通知は、ＩＰアドレスで指定されるＶＭに関して、「ＶＭ移行」と「ＶＭ切替」を含むＶＭマイグレーションが終了したことと、ＶＭの移動先となるサーバ１２２を制御装置１００に通知するためのものである。そのため、ＧＡＲＰ通知は、サーバ１２１で稼働していたＶＭを指定するためのＩＰアドレスとＶＭの移動先となるサーバ１２２のＭＡＣアドレスの情報を含む。
【００１５】
制御装置１００は、ＧＡＲＰ通知をサーバ１２２から受信すると、ＶＭマイグレーションが終了したことを認識し、ＶＭおよびクライアント端末５０間の通信経路を仮想ネットワークＶＬＡＮ１から仮想ネットワークＶＬＡＮ２に切り替えるための経路切替指示をＯＦＣ４５に送信する（ステップ３０６）。ＯＦＣ４５は、制御装置１００から経路切替指示を受け取ると、経路切替情報をＯＦＳ４１に送信する（ステップ３０７）。
【００１６】
ＯＦＳ４１は、ＯＦＣ４５から経路変更情報を受け取ると、フローテーブルにおいて、ＶＭのＩＰアドレスに対応するＭＡＣアドレスをサーバ１２１からサーバ１２２に書き換える。そして、ＯＦＳ４１は、更新したフローテーブルにしたがって、経路切替処理を実行する。具体的には、ＯＦＳ４１は、クライアント端末−サーバ間のフローを仮想ネットワークＶＬＡＮ１から仮想ネットワークＶＬＡＮ２に切り替える。
【先行技術文献】
【特許文献】
【００１７】
【特許文献１】特開２０１１−２１００３２号公報（第７図）
【発明の概要】
【発明が解決しようとする課題】
【００１８】
同じデータセンタ内でライブマイグレーションを行う場合、仮想ネットワークＶＬＡＮ１から仮想ネットワークＶＬＡＮ２への切り替えのようなネットワークの切り替えを行う必要がない。そのため、クライアント端末５０からＶＭ宛に送信されたパケットが行先不明で損失してしまうパケットロスが発生する時間は、図９に示すステップ３０４の「ＶＭ切替」の時間で済む。
【００１９】
しかし、異なるデータセンタ間でライブマイグレーションを行う場合、つまり、ライブマイグレーションがデータセンタ間に跨る場合、ステップ３０４の「ＶＭ切替」からネットワーク切替終了まで、サービス停止時間が継続するため、パケットロスの量が多くなってしまう。
【００２０】
この問題を、特許文献１に開示された方法で説明する。特許文献１の図７を参照すると、Ｍａｎａｇｅｒ１５１は、ＶＭ１２５からＶＭ起動通知７１１を受け取ってから、ノード１０４に切替指示４３３を送信している。そのため、特許文献１に開示された方法では、上記の問題が発生するおそれがある。
【００２１】
本発明は上述したような技術が有する問題点を解決するためになされたものであり、ライブマイグレーションを実施する際のサービス停止時間を短縮可能にした、仮想マシンのマイグレーションシステム、制御装置およびマイグレーション方法を提供することを目的とする。
【課題を解決するための手段】
【００２２】
上記目的を達成するための本発明の仮想マシンのマイグレーションシステムは、
第１のデータセンタに設けられ、ネットワーク内の第１の通信経路を介してクライアント端末と接続される第１のサーバと、
前記第１のデータセンタとは異なる第２のデータセンタに設けられ、前記ネットワーク内の第２の通信経路を介して前記クライアント端末と接続される第２のサーバと、
前記クライアント端末と前記第１および第２のサーバとの通信経路となる、前記第１および第２の通信経路を切り替え可能なネットワーク切替装置と、
前記第１のサーバが前記第１の通信経路を介して前記クライアント端末に提供している仮想マシンを、該第１のサーバに対して前記第２のサーバに移行する旨を指示した後、該仮想マシンの前記第１のサーバから前記第２のサーバへの移行が完了する前に、前記クライアント端末に接続される通信経路を前記第１の通信経路から前記第２の通信経路に切り替えるように、前記ネットワーク切替装置に通信経路の切り替えを指示する制御装置と、
を有する構成である。
【００２３】
また、本発明の制御装置は、第１のデータセンタに設けられ、ネットワーク内の第１の通信経路を介してクライアント端末と接続される第１のサーバと、第２のデータセンタに設けられ、前記ネットワーク内の第２の通信経路を介して前記クライアント端末と接続される第２のサーバと、該クライアント端末と前記第１および第２のサーバとの通信経路となる、前記第１および第２の通信経路を切り替え可能なネットワーク切替装置と接続される制御装置であって、
前記第１のサーバが前記第１の通信経路を介して前記クライアント端末に提供している仮想マシンを、該第１のサーバに対して前記第２のサーバに移行する旨を指示するＶＭ切替制御部と、
前記仮想マシンの前記第１のサーバから前記第２のサーバへの移行が完了する前に、前記クライアント端末に接続される通信経路を前記第１の通信経路から前記第２の通信経路に切り替えるように、前記ネットワーク切替装置に通信経路の切り替えを指示するＮＷ切替制御部と、
を有する構成である。
【００２４】
さらに、本発明の仮想マシンのマイグレーション方法は、第１のデータセンタに設けられ、ネットワーク内の第１の通信経路を介してクライアント端末と接続される第１のサーバと、第２のデータセンタに設けられ、前記ネットワーク内の第２の通信経路を介して前記クライアント端末と接続される第２のサーバと、該クライアント端末と前記第１および第２のサーバとの通信経路となる、前記第１および第２の通信経路を切り替え可能なネットワーク切替装置と接続される制御装置による、仮想マシンのマイグレーション方法であって、
前記第１のサーバが前記第１の通信経路を介して前記クライアント端末に提供している仮想マシンを、該第１のサーバに対して前記第２のサーバに移行する旨を指示し、
前記仮想マシンの前記第１のサーバから前記第２のサーバへの移行が完了する前に、前記クライアント端末に接続される通信経路を前記第１の通信経路から前記第２の通信経路に切り替えるように、前記ネットワーク切替装置に通信経路の切り替えを指示するものである。
【発明の効果】
【００２５】
本発明によれば、異なるデータセンタ間で仮想マシンのライブマイグレーションを実施する際に発生するサービス停止時間を短縮できる。
【図面の簡単な説明】
【００２６】
【図１】第１の実施形態のＶＭマイグレーションの一構成例を示すブロック図である。
【図２】図１に示した制御装置の一構成例を示すブロック図である。
【図３】第１の実施形態のＶＭマイグレーションの手順を示すシーケンス図である。
【図４】第１の実施形態のＶＭマイグレーションの効果を説明するための表である。
【図５】第２の実施形態におけるサーバの一構成例を示すブロック図である。
【図６】第２の実施形態における制御装置の一構成例を示すブロック図である。
【図７】第２の実施形態のＶＭマイグレーションの手順を示すシーケンス図である。
【図８】従来のマイグレーションシステムの構成例を示すブロック図である。
【図９】図８に示したシステムの手順を示すシーケンス図である。
【発明を実施するための形態】
【００２７】
従来技術では、制御装置は、ＶＭマイグレーション終了（新たなＶＭの動作開始）に伴う「ＧＡＲＰ通知」をトリガにしてＯＦＣを介してＯＦＳに「経路切替指示」を発したが、本発明では、ＶＭマイグレーションが終了する前に、制御装置がＯＦＣを介してＯＦＳに経路切替指示を発することで、パケットロスの時間を低減するものである。これを実現可能にするための本発明の実施形態を、以下に説明する。
【００２８】
（第１の実施形態）
本実施形態のＶＭマイグレーションについて説明する。
【００２９】
図１は本実施形態のＶＭマイグレーションの一構成例を示すブロック図である。なお、図８を参照して説明した構成と同様な構成についての詳細な説明を省略する。
【００３０】
図１に示すように、データセンタＤＣ１内にサーバ２１が設けられ、データセンタＤＣ２内にサーバ２２が設けられている。サーバ２１、２２は、クライアントに提供するＶＭを動作させる情報処理装置である。サーバ２１はネットワークＮＷのＬ３スイッチ４３ａと接続され、サーバ２２はネットワークＮＷのＬ３スイッチ４３ｂと接続されている。
【００３１】
なお、説明を簡単にするために、本実施形態では、図１に示すように、サーバがサーバ２１、２２の２台の場合で説明するが、ＶＭを稼働させることが可能なサーバの台数が３台以上であってもよい。データセンタの数も２つに限らない。また、ＯＦＣ４５に１つのＯＦＳ４１が接続される場合を示しているが、複数のＯＦＳ４１がＯＦＣ４５に接続されていてもよい。
【００３２】
次に、本実施形態における制御装置１０の構成を説明する。図２は図１に示した制御装置の一構成例を示すブロック図である。
【００３３】
図２に示すように、制御装置１０は、制御部１１、ＶＭ切替制御部１２、およびＮＷ切替制御部１３を含む構成である。制御部１１は、パラメタ抽出部１４と、Ｃｏｎｆｉｇ部１５と、Ｘ値計算部１６と、連動制御部１７とを有する。
【００３４】
Ｃｏｎｆｉｇ部１５には、経路切替指示を送信するタイミングを決定するために用いられるパラメタの値が予め格納されている。Ｃｏｎｆｉｇ部１５が記憶するパラメタについては後述する。
【００３５】
パラメタ抽出部１４は、管理装置３０から負荷情報を受信すると、負荷情報から高負荷のサーバの情報を読み出し、そのサーバに予め決められたパラメタの値を要求する。そして、パラメタ抽出部１４は、移行対象のＶＭを動作させているサーバからパラメタの値を取得すると、取得したパラメタの値をＣｏｎｆｉｇ部１５から読み出したパラメタの値と一緒にしてＸ値計算部１６に渡す。
【００３６】
Ｘ値計算部１６は、連動制御部１７がＶＭ移行指示を送信した時刻の情報を連動制御部１７から受け取り、パラメタ抽出部１４からパラメタの値を受け取ると、パラメタの値を所定の計算式に代入して、「ＶＭ移行指示を送信した時刻」から「経路切替指示を送信する時刻」までの時間Ｘを算出する。以下に、算出方法の一例を説明する。
【００３７】
＜パラメタ＞
Ｃ：  メモリコピー帯域［Mb/s］
Ｍ：  サーバ２１のメモリ領域［Mbyte］
Ｒ：  サーバ２１のメモリ使用率
Ｖ：  ＶＭ切替時間［sec］
Ｐ：  調整パラメタ
Ｎ：  ネットワーク切り替え時間［sec］
Ｔ：  ＶＭ移行指示からメモリコピー開始までの時間［sec］
これらのパラメタのうち、Ｃ，Ｍ，Ｖ，Ｐ，ＮおよびＴはＣｏｎｆｉｇ部１５に予め格納されている。
【００３８】
Ｘ値計算部１６は、サーバ２１からパラメタＲおよびＴの値を取得し、Ｃｏｎｆｉｇ部１５からパラメタＣ，Ｍ，Ｖ，Ｐ，ＮおよびＴの値を読み出し、これらのパラメタの値を、下記の式（１）に代入して、Ｘ値を算出する。
【００３９】
Ｘ  ＝  （Ｍ×Ｒ×８×Ｐ／Ｃ）＋（Ｖ／２）−Ｎ＋Ｔ・・・式（１）
ただし、式（１）において、Ｘが負の場合には、連動制御部１７が送信するＶＭ移行指示と経路切替指示を逆転させて調整する。
【００４０】
連動制御部１７は、管理対象のサーバ２１、２２のＭＡＣアドレスの情報を記憶する。連動制御部１７は、管理装置３０から負荷情報を受信すると、負荷情報から高負荷のサーバの情報を読み出し、そのサーバ宛にＶＭ移行指示を送信するようにＶＭ切替制御部１２に通知する。また、連動制御部１７は、Ｘ値計算部１７からＸ値を受け取ると、ＶＭ移行指示を送信した時刻からＸの時間経過したときに、経路切替指示を送信するようにＮＷ切替制御部１３に通知する。このとき、連動制御部１７は、ＶＭ移行指示を送信した際にＶＭをどのサーバに移行させるかを認識しているので、移行前のＶＭが使用していたＩＰアドレスと移行先のサーバのＭＡＣアドレスの情報を含む経路情報を経路切替指示に添付する。
【００４１】
ＶＭ切替制御部１２は、連動制御部１７からの通知にしたがって、指定されたサーバ宛にＶＭ移行指示を送信する。このＶＭ移行指示には、移行対象のＶＭを特定するための情報と、移行先のサーバを特定するための情報が含まれている。
【００４２】
ＮＷ切替制御部１３は、連動制御部１７からの通知にしたがって、経路切替指示をＯＦＣ４５に送信する。本実施形態では、ＶＭ移行指示をトリガとし、ＶＭ移行指示からＸ秒後に「経路切替指示」を発するようにしている。Ｘの値は、「経路切替指示」に因るＯＦＳ４１での経路切替が、「ＶＭ切替」のちょうど中間点で終了するように、上記のパラメタから算出される。
【００４３】
なお、制御部１１、ＶＭ切替制御部１２およびＮＷ切替制御部１３の一部または全部は、各機能を実行するための専用回路で構成されてもよく、プログラムを記憶するメモリ（不図示）とＣＰＵ（Central Processing Unit）（不図示）とが制御部１０に予め設けられ、ＣＰＵがプログラムにしたがって処理を実行することで仮想的に構成されてもよい。
【００４４】
また、サーバ２１で稼働するＶＭで使用されていたＩＰアドレスは、ＧＡＲＰ通知よりも前に、管理装置３０から制御装置１０に予め通知されていてもよく、管理装置３０が負荷情報を制御装置１０に送信する際に制御装置１０に通知してもよく、その方法は限定されない。
【００４５】
次に、本実施形態のＶＭマイグレーションにおける、マイグレーション方法の動作手順を説明する。図３は本実施形態のＶＭマイグレーションの動作手順を示すシーケンス図である。
【００４６】
ここでは、データセンタＤＣ１内のサーバ２１で稼働中のＶＭを、サーバ２１の過負荷などの要因に因り、データセンタＤＣ２のサーバ２２にマイグレーションする場合で説明する。
【００４７】
制御装置１０は管理装置３０を介してサーバ２１の負荷を監視する。制御装置１０は、サーバ２１の過負荷を検出すると、メモリ使用率等のパラメタの値をサーバ２１から取得する（ステップ２０１）。続いて、制御装置１０は、ＶＭ移行指示を管理装置３０を介してサーバ２１に送信する（ステップ２０２、２０３）。サーバ２１は、稼働中のＶＭで使用されるＯＳ、ソフトウェアプログラムおよびデータを、仮想ネットワークＶＬＡＮ３を介してサーバ２２にコピーするＶＭ移行動作を行う（ステップ２０４）。
【００４８】
一方、制御装置１０は、ステップ２０２の後、Ｘ値を算出し、ＶＭ移行指示を送信してからＸ秒後に経路切替指示をＯＦＣ４５に送信する（ステップ２０５）。サーバ２１、２２は、ステップ２０４の後、ＶＭ切替動作を行う（ステップ２０６）。ＯＦＣ４５は、制御装置１０から経路切替指示を受信すると、経路切替情報を含む経路切替指示をＯＦＣ４１に送信する（ステップ２０７）。ＯＦＣ４５は、ＯＦＣ４１から受信した経路切替情報にしたがってフローテーブルを更新し、ＶＭの通信経路として、仮想ネットワークＶＬＡＮ１から仮想ネットワークＶＬＡＮ２に切り替える。その結果、ステップ２０６のＶＭ切替の中間で、ネットワーク切替が終了する。
【００４９】
サーバ２２は、ＶＭ切替動作が終了すると、ＧＡＲＰ通知を制御装置１０に送信する（ステップ２０８）。制御装置１０は、ＧＡＲＰ通知をサーバ２２から受信すると、ＶＭマイグレーションが終了したことを認識する。
【００５０】
図３を参照して説明したように、ＶＭ切替の途中でネットワーク切替が終了しているため、ＶＭ切替の後にネットワーク切替にかかる時間が不要となり、クライアントに対するサービスの停止がＶＭ切替の時間で済む。
【００５１】
次に、本実施形態のマイグレーション方法による効果を具体例で説明する。図４は本実施形態のＶＭマイグレーションによるシミュレーションの結果を示す表である。
【００５２】
図４は、パターン１およびパターン２の２つのパターンの場合を示す。パターン１は、メモリコピー帯域Ｃが１００［Ｍｂ／ｓｅｃ］の場合であり、パターン２は、メモリコピー帯域Ｃが１０００［Ｍｂ／ｓｅｃ］の場合である。
【００５３】
ＶＭ移行指示の時刻をＴ０とすると、パターン１の場合、時刻Ｔ０からネットワーク切替時刻（ＮＭ切替時刻）までの時間が４９．０５秒であり、時刻Ｔ０からＶＭ切替時刻までの時間が４８．３〜４９．８である。また、パターン２の場合、時刻Ｔ０からＮＭ切替時刻までの時間が５．８５秒であり、時刻Ｔ０からＶＭ切替時刻までの時間が５．３〜６．８である。パターン１、２のいずれの場合でも、ネットワーク切替がＶＭ切替中に行われていることがわかる。時刻Ｔ０は、制御装置１０がサーバ２１に対してＶＭをサーバ２１に移行する旨を指示した時刻に相当する。
【００５４】
従来では、パケットロスの発生する時間が「ＶＭ切替時間Ｖ＋ネットワーク切替時間Ｎ」であったのに対し、本実施形態のマイグレーション方法では、パケットロスの発生する時間を「ＶＭ切替時間Ｖ」に短縮できる。図４に示す例では、パケットロスの発生する時間が４．５秒から１．５秒に短縮されている。
【００５５】
本実施形態によれば、制御装置が、ＶＭ移行前のサーバから抽出したパラメタの値に基づいて、ＶＭ移行指示を送信した時刻から経路切替指示を送信するまでの時間を算出し、ＶＭマイグレーションの終了前に経路切替指示を送信している。その結果、ＶＭ切替の動作の途中で、ネットワーク切り替えが行われる。そのため、制御装置がＧＡＲＰ通知を受信してから経路切替指示を送信する従来技術に比べて、「ネットワーク切替」の時間分、クライアントに対するサービスの停止時間を短縮することができる。
【００５６】
また、クライアント端末５０とＶＭとが仮想ネットワークＶＬＡＮで通信していない場合、サーバ２２は、ＶＭマイグレーションが終了したとき、ネットワークＮＷに設けられた全てのネットワーク機器に対して、ＭＡＣアドレスの変更を通知するためのＡＲＰ通知をブロードキャストで通知する必要がある。これに対して、本実施形態では、ＶＭマイグレーションに連動して仮想ネットワークＶＬＡＮによる通信経路も切り替えているので、ネットワークの負荷分散を実現することができる。
【００５７】
（第２の実施形態）
第１の実施形態では、経路切替指示を発するタイミングを制御装置が所定のパラメタの値に基づいて決定するものであったが、本実施形態は、ＶＭの移行先のサーバが経路切替指示の発生トリガとなる「ダミーのＧＡＲＰ通知」を制御装置に送信するものである。
【００５８】
本実施形態のＶＭマイグレーションを説明する。なお、本実施形態のシステムの全体は、図１に示したシステムと同様であり、図１または図８を参照して説明した構成と同様な構成についての詳細な説明を省略し、第１の実施形態と異なる点を詳しく説明する。
【００５９】
はじめに、本実施形態におけるサーバ２２の構成を説明する。図５は本実施形態におけるサーバの一構成例を示すブロック図である。
【００６０】
本実施形態では、ＶＭがサーバ２１からサーバ２２にライブマイグレーションする場合とし、サーバ２２の構成を説明するが、サーバ２１もサーバ２２と同様な構成であってもよい。また、本実施形態では、本発明のライブマイグレーション方法に関連する構成について説明し、ＶＭを稼働するための機能についての詳細な説明を省略する。
【００６１】
図５に示すように、サーバ２２は、ＶＭで使用されるＯＳ、ソフトウェアプログラムおよびデータを格納するための記憶部２５と、ネットワークＮＷを介してクライアント端末５０とデータを送受信する通信部２６と、各部を制御する制御部２７とを有する。
【００６２】
制御部２７は、メモリコピー等のＶＭ移行の動作が終了し、サーバ２１でのＶＭ停止を検出すると、ダミーのＧＡＲＰ通知を制御装置１０に送信する。ダミーのＧＡＲＰ通知は、制御装置１０に経路切替指示を発生させるためのトリガとなるものである。ダミーのＧＡＲＰ通知には、少なくとも制御装置１０に経路切替指示を送信可能にするための情報が含まれていればよい。例えば、サーバ２１で稼働していたＶＭを指定するためのＩＰアドレスとＶＭの移動先となるサーバ２２のＭＡＣアドレスの情報がダミーのＧＡＲＰ通知に含まれている。そして、制御部２７は、ＶＭマイグレーションが終了すると、ＧＡＲＰ通知を制御装置１０に送信する。このＧＡＲＰ通知には、ＶＭマイグレーションが終了したことを示す情報が含まれている。
【００６３】
次に、本実施形態における制御装置１０の構成を説明する。図６は本実施形態における制御装置の一構成例を示すブロック図である。
【００６４】
図６に示すように、本実施形態の制御装置１０は、連動制御部１７を含む制御部１１と、ＶＭ切替制御部１２と、ＮＷ切替制御部１３とを有する構成である。
【００６５】
連動制御部１７は、管理対象のサーバ２１、２２のＭＡＣアドレスの情報を記憶する。連動制御部１７は、管理装置３０から負荷情報を受信すると、負荷情報から高負荷のサーバの情報を読み出し、そのサーバ宛にＶＭ移行指示を送信するようにＶＭ切替制御部１２に通知する。また、連動制御部１７は、サーバからダミーのＧＡＲＰ通知を受け取ると、経路切替指示を送信するようにＮＷ切替制御部１３に通知する。このとき、連動制御部１７は、ＶＭをどのサーバに移行させるかを認識しているので、移行前のＶＭが使用していたＩＰアドレスと移行先のサーバのＭＡＣアドレスの情報を含む経路情報を経路切替指示に添付する。
【００６６】
ＶＭ切替制御部１２は、連動制御部１７からの通知にしたがって、指定されたサーバ宛にＶＭ移行指示を送信する。このＶＭ移行指示には、移行対象のＶＭを特定するための情報と、移行先のサーバを特定するための情報が含まれている。ＮＷ切替制御部１３は、連動制御部１７からの通知にしたがって、経路切替指示をＯＦＣ４５に送信する。
【００６７】
次に、本実施形態のＶＭマイグレーションにおける、マイグレーション方法の動作手順を説明する。図７は本実施形態のＶＭマイグレーションの動作手順を示すシーケンス図である。
【００６８】
本実施形態においても、データセンタＤＣ１内のサーバ２１で稼働中のＶＭを、サーバ２１の過負荷などの要因に因り、データセンタＤＣ２のサーバ２２にマイグレーションする場合で説明する。
【００６９】
制御装置１０は管理装置３０を介してサーバ２１の負荷を監視する。制御装置１０は、サーバ２１の過負荷を検出すると、ＶＭ移行指示を管理装置３０を介してサーバ２１に送信する（ステップ２５１、２５２）。サーバ２１は、稼働中のＶＭで使用されるＯＳ、ソフトウェアプログラムおよびデータを、仮想ネットワークＶＬＡＮ３を介してサーバ２２にコピーするＶＭ移行動作を行う（ステップ２５３）。
【００７０】
サーバ２２は、ステップ２５３のＶＭ移行動作が終了したときに、ダミーのＧＡＲＰ通知を制御装置１０に送信し（ステップ２５４）、続いて、サーバ２１、２２は、ＶＭ切替動作を開始する（ステップ２５５）。制御装置１０は、ダミーのＧＡＲＰ通知をサーバ２２から受信すると、ＶＭのＩＰアドレスとサーバ２２のＭＡＣアドレスの情報を含む経路切替指示をＯＦＣ４５に送信する（ステップ２５６）。サーバ２２は、ＶＭ切替動作が終了すると、ＧＡＲＰ通知を制御装置１０に送信する（ステップ２５７）。制御装置１０は、ＧＡＲＰ通知をサーバ２２から受信すると、この時点で、ＶＭマイグレーションが終了したことを認識する。
【００７１】
一方、ＯＦＣ４５は、制御装置１０から経路切替指示を受信すると、経路切替情報を含む経路切替指示をＯＦＣ４１に送信する（ステップ２５８）。ＯＦＣ４５は、ＯＦＣ４１から受信した経路切替情報にしたがってフローテーブルを更新し、ＶＭの通信経路として、仮想ネットワークＶＬＡＮ１から仮想ネットワークＶＬＡＮ２に切り替える。
【００７２】
図７を参照して説明したように、ＶＭ移行動作が終了したときに、サーバ２２から送出されるダミーのＧＡＲＰ通知をトリガとして、制御装置１０が経路切替指示を発しているため、「ＶＭ切替」の時間分、クライアントに対するサービスの停止時間が短縮される。
【００７３】
本実施形態によれば、制御装置が、ＶＭマイグレーションの終了前に、サーバから受信した、ダミーのＧＡＲＰ通知をトリガとして、経路切替指示を送信している。その結果、制御装置がＧＡＲＰ通知を受信してから経路切替指示を送信する従来技術に比べて、クライアントに対するサービスの停止時間を短縮することができる。サーバがダミーのＧＡＲＰ通知をＶＭ切替動作の前に送信すれば、「ＶＭ切替」動作の時間分、サービス停止時間を短縮できる。
【００７４】
なお、上述の実施形態では、サーバ２１からサーバ２２にＶＭを移行する場合で説明したが、はじめにサーバ２２でＶＭを稼働させ、サーバ２２からサーバ２１にＶＭを移行してもよい。また、上述の実施形態では、サーバ２１がサーバ２２に比べて高負荷の場合で説明したので、管理装置３０がサーバ２１を監視する場合で説明したが、管理装置３０は、サーバ２１、２２を均等に監視してもよく、また、サーバ２２が低負荷または予備装置であることを予め認識している場合には、サーバ２２を監視していなくてもよい。
【００７５】
また、上述の実施形態において、サーバ２２はＧＡＲＰ通知を制御装置１０に送信する際、仮想ネットワークＶＬＡＮ２にブロードキャストで送信してもよい。
【００７６】
また、上述の実施形態では、サーバ２１が高負荷になったときにＶＭマイグレーションを実施する場合で説明したが、サーバ２１に故障が発生した場合など他の要因によってＶＭマイグレーションを実施する場合にも、本発明を適用してもよい。
【符号の説明】
【００７７】
１０    制御装置
２１、２２    サーバ
３０    管理装置
４１    ＯＦＳ
４５    ＯＦＣ
５０    クライアント端末
ＮＷ    ネットワーク
【図２】
2014041414.tif 000003
【図５】
2014041414.tif 000004
【図６】
2014041414.tif 000005
【図１】
2014041414.tif 000006
【図３】
2014041414.tif 000007
【図４】
2014041414.tif 000008
【図７】
2014041414.tif 000009
【図８】
2014041414.tif 000010
【図９】
2014041414.tif 000011