(57)【特許請求の範囲】
【請求項１】
複数の物理計算機と記憶装置とを備え、前記物理計算機上でハイパザイザにより仮想計算機が動作する仮想計算機システムにおいて、
第１の物理計算機は、
第１の物理ＨＢＡと、
前記第１の物理ＨＢＡを論理的に分割して、第１の論理ＨＢＡ及び第１’の論理ＨＢＡを生成する第１のハイパザイザと、
ＷＷＮ１が付与された前記第１の論理ＨＢＡが割り当てられ、前記第１の論理ＨＢＡと前記記憶装置とを接続するリンク１を経由して前記記憶装置にアクセスするＯＳが動作する第１の仮想計算機と、
前記第１の仮想計算機のゲスト論理アドレスと前記第１の物理計算機のホスト物理アドレスとの対応を管理するアドレス変換テーブルとを有し、
前記第１のハイパザイザは、前記第１の仮想計算機を前記第２の物理計算機上に移行するに際し、前記アドレス変換テーブルにおいて、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスに対応する第１のホスト物理アドレスを、前記第１’の論理ＨＢＡの制御領域を示す第１’のホスト物理アドレスに書き換え、
前記第１の仮想計算機で動作するＯＳは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、前記書き換え後のアドレス変換テーブルにより、前記第１’の論理ＨＢＡと前記記憶装置とを接続するリンク１’を経由して前記記憶装置にアクセスし、
前記第２の物理計算機は、
第２の物理ＨＢＡと、
前記第２の物理ＨＢＡを論理的に分割して、第２の論理ＨＢＡを生成する第２のハイパザイザと、
前記第２の論理ＨＢＡが割り当てられ、前記第１の仮想計算機から移行されたＯＳが動作し、前記第１の仮想計算機の構成情報に基づいて生成された第２の仮想計算機とを有し、
前記第２の仮想計算機で動作するＯＳは、前記ＷＷＮ１が付与された第２の論理ＨＢＡと前記記憶装置とを接続するリンク２を経由して前記記憶装置にアクセスすることを特徴とする仮想計算機システム。
【請求項２】
前記第１の仮想計算機で動作するＯＳは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、
前記第１の論理ＨＢＡの制御領域にアクセスすると、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスが前記書き換え後のアドレス変換テーブルにより第１’のホスト物理アドレスに変換されて、前記第１’のホスト物理アドレスに対応する前記第１’の論理ＨＢＡの制御領域へのアクセスとなり、
前記第１’の論理ＨＢＡから前記リンク１’を経由して前記記憶装置にアクセスすることを特徴とする請求項１記載の仮想計算機システム。
【請求項３】
前記第１のハイパザイザは、前記第１の仮想計算機を前記第２の物理計算機上に移行するに際し、
前記第１’の論理ＨＢＡにＷＷＮ１’を付与することを特徴とする請求項２記載の仮想計算機システム。
【請求項４】
前記第１の仮想計算機で動作するＯＳは、
前記移行前において、前記ＷＷＮ１を用いる前記第１の論理ＨＢＡから前記リンク１を経由して前記記憶装置にログインし、
前記移行中において、前記ＷＷＮ１’を用いる前記第１’の論理ＨＢＡから前記リンク１’を経由して前記記憶装置にログインし、
第２の仮想計算機で動作するＯＳは、
前記移行後において、前記ＷＷＮ１を用いる前記第２の論理ＨＢＡから前記リンク２を経由して前記記憶装置にログインすることを特徴とする請求項３記載の仮想計算機システム。
【請求項５】
前記第１の論理ＨＢＡは、前記第１の物理ＨＢＡを介して前記記憶装置に接続し、
前記第１’の論理ＨＢＡは、前記第１の物理ＨＢＡを介して前記記憶装置に接続し、
前記第２の論理ＨＢＡは、前記第２の物理ＨＢＡを介して前記記憶装置に接続することを特徴とする請求項４記載の仮想計算機システム。
【請求項６】
前記第１の仮想計算機から前記第２の仮想計算機へ移行されるＯＳは、動作および前記記憶装置へのログイン状態を継続しながら移行されることを特徴とする請求項５記載の仮想計算機システム。
【請求項７】
前記移行は、前記第１の仮想計算機で動作するＯＳが、動作を継続しながら前記第２の仮想計算機に移行されるライブマイグレーションであることを特徴とする請求項６記載の仮想計算機システム。
【請求項８】
前記第１のハイパザイザは、第１の仮想計算機で動作するＯＳが前記リンク１’を経由して前記記憶装置にログインすると、前記リンク１の接続を解除することを特徴とする請求項４記載の仮想計算機システム。
【請求項９】
前記第２のハイパザイザは、第２の仮想計算機で動作するＯＳが前記リンク２を経由して前記記憶装置にログインすると、前記リンク１’の接続を解除することを特徴とする請求項８記載の仮想計算機システム。
【請求項１０】
前記第１の仮想計算機で動作するＯＳは、前記記憶装置にアクセスするアクセス命令を、前記第１の仮想計算機に割り当てられた第１の論理ＣＰＵに発行し、
前記第１の論理ＣＰＵは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、
前記書き換え後のアドレス変換テーブルを参照して、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスに対応する第１’のホスト物理アドレスを取得し、
前記取得した第１’のホスト物理アドレスにアクセスし、前記第１’のホスト物理アドレスに対応する前記第１’の論理ＨＢＡと前記記憶装置とを接続するリンク１’を経由して、前記記憶装置にアクセスすることを特徴とする請求項１記載の仮想計算機システム。
【請求項１１】
複数の物理計算機と記憶装置とを備え、前記物理計算機上でハイパザイザにより仮想計算機が動作する仮想計算機システムにおける仮想計算機の移行制御方法であって、
第１の物理計算機は、
第１の物理ＨＢＡと、
前記第１の物理ＨＢＡを論理的に分割して、第１の論理ＨＢＡ及び第１’の論理ＨＢＡを生成する第１のハイパザイザと、
ＷＷＮ１が付与された前記第１の論理ＨＢＡが割り当てられ、前記第１の論理ＨＢＡと前記記憶装置とを接続するリンク１を経由して前記記憶装置にアクセスするＯＳが動作する第１の仮想計算機と、
前記第１の仮想計算機のゲスト論理アドレスと前記第１の物理計算機のホスト物理アドレスとの対応を管理するアドレス変換テーブルとを有し、
前記第２の物理計算機は、
第２の物理ＨＢＡと、
前記第２の物理ＨＢＡを論理的に分割して、第２の論理ＨＢＡを生成する第２のハイパザイザと、
前記第２の論理ＨＢＡが割り当てられ、前記第１の仮想計算機から移行されたＯＳが動作し、前記第１の仮想計算機の構成情報に基づいて生成された第２の仮想計算機とを有し、
前記第１のハイパザイザは、前記第１の仮想計算機を前記第２の物理計算機上に移行するに際し、前記アドレス変換テーブルにおいて、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスに対応する第１のホスト物理アドレスを、前記第１’の論理ＨＢＡの制御領域を示す第１’のホスト物理アドレスに書き換え、
前記第１の仮想計算機で動作するＯＳは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、前記書き換え後のアドレス変換テーブルにより、前記第１’の論理ＨＢＡと前記記憶装置とを接続するリンク１’を経由して前記記憶装置にアクセスし、
前記第２の仮想計算機で動作するＯＳは、前記ＷＷＮ１が付与された第２の論理ＨＢＡと前記記憶装置とを接続するリンク２を経由して前記記憶装置にアクセスすることを特徴とする仮想計算機の移行制御方法。
【請求項１２】
前記第１の仮想計算機で動作するＯＳは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、
前記第１の論理ＨＢＡの制御領域にアクセスすると、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスが前記書き換え後のアドレス変換テーブルにより第１’のホスト物理アドレスに変換され、前記第１’のホスト物理アドレスに対応する前記第１’の論理ＨＢＡの制御領域へアクセスし、
前記第１’の論理ＨＢＡから前記リンク１’を経由して前記記憶装置にアクセスすることを特徴とする請求項１１記載の仮想計算機の移行制御方法。
【請求項１３】
前記第１のハイパザイザは、前記第１の仮想計算機を前記第２の物理計算機上に移行するに際し、
前記第１’の論理ＨＢＡにＷＷＮ１’を付与することを特徴とする請求項１２記載の仮想計算機の移行制御方法。
【請求項１４】
前記第１の仮想計算機で動作するＯＳは、
前記移行前において、前記ＷＷＮ１を用いる前記第１の論理ＨＢＡから前記リンク１を経由して前記記憶装置にログインし、
前記移行中において、前記ＷＷＮ１’を用いる前記第１’の論理ＨＢＡから前記リンク１’を経由して前記記憶装置にログインし、
第２の仮想計算機で動作するＯＳは、
前記移行後において、前記ＷＷＮ１を用いる前記第２の論理ＨＢＡから前記リンク２を経由して前記記憶装置にログインすることを特徴とする請求項１３記載の仮想計算機の移行制御方法。
【請求項１５】
前記第１の仮想計算機で動作するＯＳは、前記記憶装置にアクセスするアクセス命令を、前記第１の仮想計算機に割り当てられた第１の論理ＣＰＵに発行し、
前記第１の論理ＣＰＵは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、
前記書き換え後のアドレス変換テーブルを参照して、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスに対応する第１’のホスト物理アドレスを取得し、
前記取得した第１’のホスト物理アドレスにアクセスし、前記第１’のホスト物理アドレスに対応する前記第１’の論理ＨＢＡと前記記憶装置とを接続するリンク１’を経由して、前記記憶装置にアクセスすることを特徴とする請求項１１記載の仮想計算機の移行制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ある物理計算機上で動作中の論理区画を他の物理計算機上の論理区画に移行する方法およびその仮想計算機システムに関する。
【背景技術】
【０００２】
１台の物理計算機上に、複数の論理区画(以下、ＬＰＡＲ(Ｌｏｇｉｃａｌ  Ｐａｒｔｉｔｉｏｎ)という)を構築し、各ＬＰＡＲでそれぞれＯＳ(オペレーティングシステム)を動作させ、これにより複数のＬＰＡＲで複数の固有のＯＳを動作させることが可能な仮想計算機システムが実用化されている。
【０００３】
仮想計算機システムのＩ／Ｏ処理方式として、ＯＳから発行されるＩ／Ｏ命令を物理Ｉ／Ｏデバイスの解釈可能な命令へと、ハイパザイザが変換するエミュレーション方式と、ＯＳから発行されるＩ／Ｏ命令を直接物理Ｉ／Ｏデバイスに実行させるＩ／Ｏパススルー方式とがある。
【０００４】
また最近では、それぞれのＬＰＡＲに対し、Ｉ／Ｏパススルー方式で論理的なＦＣ（Ｆｉｂｒｅ  Ｃｈａｎｎｅｌ)ポートを持たせた仮想計算機システムが、ＲＡＩＤ装置を含むＳＡＮ（Ｓｔｏｒａｇｅ  Ａｒｅａ  Ｎｅｔｗｏｒｋ)環境で使用されている。Ｉ／Ｏパススルー方式とは、ＬＰＡＲの持つ論理的なＦＣポートから直接ＳＡＮに、Ｉ／Ｏが発行される方式である。
【０００５】
ＳＡＮ環境でブートを実現する計算機システムにおいて、ＯＳがインストールされているＲＡＩＤ装置等の記憶装置内のＬＵ(Ｌｏｇｉｃａｌ  Ｕｎｉｔ)のデータを保護するために、それぞれの計算機からのみアクセスを可能とするセキュリティ機能が、記憶装置によって有効となっている。このセキュリティ機能とは一般的に、それぞれの計算機に搭載されるＦＣポートに割り当てられた固有のＩＤ（Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ）を利用し、ＯＳがインストールされたＬＵと計算機が持つＦＣポートに割り当てられた固有のＩＤ（Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ)とを関連付け、当該ＩＤ（Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ）を持つＦＣポートからのアクセスのみを許す方法が用いられている。また、ＯＳを含むソフトウェアには、装置固有のＩＤ（Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ）が記録されているものもある。
【０００６】
ＳＡＮからのブートを行う計算機システムでは、現用系計算機が持つＦＣポートに割り当てられた固有ＩＤ（Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ）と、待機系計算機が持つＦＣポートに割り当てられた固有のＩＤとが異なる。そのため、現用系計算機から待機系計算機に交代する際、ＯＳを含むソフトウェアイメージをそのまま利用することができず、ＳＡＮ管理ソフトウェアや人手による記憶装置側のセキュリティ機能の設定変更が必要となる。これは、現用系計算機と待機系計算機という物理計算機においてだけではなく、Ｉ／Ｏパススルー方式で、ＬＰＡＲに論理的なＦＣポートを割り当てる仮想計算機システム間においても、同様である。
【０００７】
さて、ＬＰＡＲのマイグレーション処理に関して、特許文献１には「実計算機上で動作している仮想計算機を別の実計算機上に移動させる際、管理部により、移動元の仮想計算機を停止させ、移動先の仮想計算機を別の実計算機上に定義し、その起動を抑止した状態で、移動元の仮想計算機の構成情報及び移動先の仮想計算機の構成情報を変更し、構成情報の変更後に、移動先の仮想計算機の起動の抑止を解除する」ことが記載されている。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特開２０１０−３３４０４
【発明の概要】
【発明が解決しようとする課題】
【０００９】
ＬＰＡＲのマイグレーション処理のうち、移行元のＬＰＡＲ上でＯＳが稼動している状態を移行先のＬＰＡＲ上でも引継ぎ、移行先ＬＰＡＲでＯＳが継続して動作可能にしたものを、ライブマイグレーションと呼ぶ。ＬＰＡＲのライブマイグレーション処理において、移行対象のＯＳから記憶装置へのアクセスパスは、移行元の物理Ｉ／Ｏデバイスを経由するパスから、移行先の物理Ｉ／Ｏデバイスを経由するパスへと、切り替わる。
【００１０】
Ｉ／Ｏ処理方式としてハイパザイザエミュレーション方式を採用するＬＰＡＲのライブマイグレーション処理においては、ハイパザイザがＩ／Ｏ命令をトラップし、ＬＰＡＲのライブマイグレーションに係るＩ／Ｏアクセスのパス切り替え処理を実施している。
【００１１】
一方、Ｉ／Ｏ処理方式としてＩ／Ｏパススルー方式を採用するＬＰＡＲのライブマイグレーション処理において、移行元のＬＰＡＲ上のＯＳが移行先ＬＰＡＲ上でも記憶装置の同一のディスクへアクセスするためには、移行元のＬＰＡＲ上でＯＳがログインしていたＬＵ（Ｌｏｇｉｃａｌ  Ｕｎｉｔ）に対して、移行先ＬＰＡＲにおいても同一ＬＵへログインする処理が必要となる。
【００１２】
しかしながら、ＬＵへのログイン・ログアウト処理には、例えばそれぞれ最大３０秒かかる。このため、移行元計算機でＬＵからログアウトし、ＯＳの動作が移行先計算機へ引き継がれた後に移行先計算機でＬＵへのログインを実行した場合、ＯＳからディスクへアクセスができない期間が発生する可能性があるので、ＯＳが継続して動作しながらのマイグレーション（即ちライブマイグレーション）が実現できなかった。
【００１３】
ＯＳからディスクへアクセスできない期間の発生を回避する手法としては、移行元のＬＰＡＲのＯＳからＬＵへログインした状態のＦＣパスと、移行先ＬＰＡＲのＯＳから同一ＬＵへログインした状態のＦＣパスとを用意し、ＬＰＡＲのライブマイグレーション処理過程でこれら２つのＦＣパスを切り替える手法が考えられる。しかしながら、ＳＡＮセキュリティでは、計算機システム内で同一のＷＷＮを異なるＦＣポートで重複して使用し、異なる複数のＦＣポートから同一のＷＷＮを用いて同一のＬＵへログインすることは、許可されていない。
【００１４】
また、Ｗｉｎｄｏｗｓ（登録商標）やＬｉｎｕｘ（登録商標）等のｘ８６アーキテクチャ上で動作するＯＳは、ＦＣパス切り替えモジュールを標準で含んでいない。このため、ライブマイグレーションに係るＦＣパス切り替え処理には、対応できない。
【００１５】
さらに、一般的なＦＣパス冗長構成におけるＦＣパス切り替えモジュールをライブマイグレーションへ仮に適用すると、ＦＣパス切り替えモジュールは、障害を契機にＦＣパス切り替えを実行する状況を想定しているので、ライブマイグレーションのように正常なＦＣパス切り替えであるにもかかわらず、ＦＣパスの障害と認知してしまい、障害処理を実施してしまうことが懸念される。
【００１６】
本発明は、上記課題に鑑みて、Ｉ／Ｏパススルー方式でのＬＰＡＲのライブマイグレーションを実現する仮想計算機システム及び仮想計算機の移行方法を提供することを目的とする。
【課題を解決するための手段】
【００１７】
上記課題を解決するために、本発明に係る仮想計算機システム及び仮想計算機の移行制御方法は、複数の物理計算機と記憶装置とを備え、前記物理計算機上でハイパザイザにより仮想計算機が動作する仮想計算機システムにおいて、第１の物理計算機は、第１の物理ＨＢＡと、前記第１の物理ＨＢＡを論理的に分割して、第１の論理ＨＢＡ及び第１’の論理ＨＢＡを生成する第１のハイパザイザと、ＷＷＮ１が付与された前記第１の論理ＨＢＡが割り当てられ、前記第１の論理ＨＢＡと前記記憶装置とを接続するリンク１を経由して前記記憶装置にアクセスするＯＳが動作する第１の仮想計算機と、前記第１の仮想計算機のゲスト論理アドレスと前記第１の物理計算機のホスト物理アドレスとの対応を管理するアドレス変換テーブルとを有する。前記第１のハイパザイザは、前記第１の仮想計算機を前記第２の物理計算機上に移行するに際し、前記アドレス変換テーブルにおいて、前記第１の論理ＨＢＡの制御領域を示すゲスト論理アドレスに対応する第１のホスト物理アドレスを、前記第１’の論理ＨＢＡの制御領域を示す第１’のホスト物理アドレスに書き換える。前記第１の仮想計算機で動作するＯＳは、前記第１の仮想計算機を前記第２の物理計算機上に移行する間、前記書き換え後のアドレス変換テーブルにより、前記第１’の論理ＨＢＡと前記記憶装置とを接続するリンク１’を経由して前記記憶装置にアクセスする。前記第２の物理計算機は、第２の物理ＨＢＡと、前記第２の物理ＨＢＡを論理的に分割して、第２の論理ＨＢＡを生成する第２のハイパザイザと、前記第２の論理ＨＢＡが割り当てられ、前記第１の仮想計算機から移行されたＯＳが動作し、前記第１の仮想計算機の構成情報に基づいて生成された第２の仮想計算機とを有する。前記第２の仮想計算機で動作するＯＳは、前記ＷＷＮ１が付与された第２の論理ＨＢＡと前記記憶装置とを接続するリンク２を経由して前記記憶装置にアクセスする。
【発明の効果】
【００１８】
本発明によれば、Ｉ／Ｏ処理方式がＩ／Ｏパススルー方式の仮想計算機システムにおいても、第２の仮想計算機に動作を引き継がせるライブマイグレーションが、第１の仮想計算機が稼動した状態で可能となる。
【図面の簡単な説明】
【００１９】
【図１】マイグレーション処理前の仮想計算機システムの全体構成図
【図２】マイグレーション処理後の仮想計算機システムの全体構成図
【図３】マイグレーション処理前の移行元物理メモリのメモリマップ
【図４】マイグレーション処理前の移行先物理メモリのメモリマップ
【図５】ライブマイグレーション処理のシーケンス図  前半部分
【図６】ライブマイグレーション処理のシーケンス図  中間部分
【図７】ライブマイグレーション処理のシーケンス図  後半部分
【図８】論理ＦＣ−ＨＢＡ１１３の初期化処理のシーケンス図
【図９】リンク1'ログイン処理のシーケンス図
【図１０】ライブマイグレーション処理前のＷＷＮ管理テーブル
【図１１】移行先ＷＷＮ変更後のＷＷＮ管理テーブル
【図１２】ＦＣパス切り替え前のゲストアドレス変換テーブル
【図１３】ＦＣパス切り替え後のゲストアドレス変換テーブル
【図１４】論理ＦＣ−ＨＢＡ１１３初期化前、かつパス切り替え前における物理メモリ図
【図１５】論理ＦＣ−ＨＢＡ１１３初期化後、かつパス切り替え後における物理メモリ図
【図１６】リンク１’ログイン完了後、かつリンク１ログイン完了後のＦＣログイン状態管理テーブル
【図１７】リンク１ログアウト完了後のＦＣログイン状態管理テーブル
【図１８】リンク２ログイン処理時における移行先物理メモリのメモリマップ
【図１９】移行元ＷＷＮ変更後のＷＷＮ管理テーブル
【図２０】論理ＦＣ−ＨＢＡ１１３の初期化処理時における移行元物理メモリのメモリマップ
【図２１】リンク１’ログイン前のＦＣログイン状態管理テーブル
【図２２】論理ＦＣ−ＨＢＡ制御領域リスト
【図２３】オフセット加算テーブル
【図２４】移行元論理ＦＣ−ＨＢＡのＦＣパスを示した移行元の計算機の構成図
【図２５】論理ＦＣ−ＨＢＡ Ｆｉｒｍｗａｒｅから論理ＦＣ−ＨＢＡ制御領域へのアクセスを示すフローチャート
【図２６】ＦＣ−ＨＢＡ Ｄｒｉｖｅｒからの論理ＦＣ−ＨＢＡ制御領域へのアクセスを示すフローチャート
【図２７】マイグレーション制御部がＬＰＡＲの中にある仮想計算機システムの全体構成図
【発明を実施するための形態】
【００２０】
本発明を適用した仮想計算機システムについて、図面を参照して詳細に説明する。本実施例では、第一のサーバーモジュール１０１上で稼動した状態にあるＬＰＡＲ１２０を、第二のサーバーモジュール２０１上へその稼動状態も含めて移行させ、第二のサーバーモジュール２０１上で移行したＬＰＡＲを継続して動作させるライブマイグレーション処理を説明する。
【００２１】
なお、ライブマイグレーション処理前の仮想計算機システムの全体構成を図１に示し、ライブマイグレーション処理後の仮想計算機システムの全体構成を図２に示す。
【００２２】
サーバーモジュール１０１，２０１は、それぞれ物理デバイス１０８，２０８として、物理ＦＣ−ＨＢＡ１１１，２１１、物理ＣＰＵ１０９，２０９、物理メモリ１１０，２１０及びネットワークインターフェース１１４、２１４を備える。物理ＦＣ−ＨＢＡ１１１および物理ＦＣ−ＨＢＡ２１１は、一つのＦＣポートに対する固有のＨＢＡアドレスとして、それぞれＰＷＷＮ１（Ｐｈｙｓｉｃａｌ  Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ）、ＰＷＷＮ２（Ｐｈｙｓｉｃａｌ  Ｗｏｒｌｄ  Ｗｉｄｅ  Ｎａｍｅ）を有する。
【００２３】
ハイパザイザ１０２，２０２は、サーバーモジュール１０１，２０１の物理資源を論理分割し、ハイパザイザ上で複数のＬＰＡＲを稼働させる。ハイパザイザ１０２，２０２は、ＬＰＡＲ管理部１０３，２０３、リソース管理部１０４，２０４、マイグレーション制御部１０５，２０５、論理デバイス管理部１０６，２０６及びメモリ管理部１０７，２０７を備える。
【００２４】
また、ハイパザイザ１０２は、ＬＰＡＲに割り当て可能な論理ＨＢＡとして、物理ＦＣ−ＨＢＡ１１１に対応する論理ＦＣ−ＨＢＡ１１２、論理ＦＣ−ＨＢＡ１１３を備える。ただし、本実施例において論理ＦＣ−ＨＢＡ１１３は、論理ＦＣ−ＨＢＡ１１２の対としてライブマイグレーション処理時に必要となるため、ＬＰＡＲには割り当てないデバイスとする。ハイパザイザ２０２は、ＬＰＡＲに割り当てる論理ＨＢＡとして、物理ＦＣ―ＨＢＡ２１１に対応する論理ＦＣ−ＨＢＡ２１２を備える。
【００２５】
ＬＰＡＲ管理部１０３，２０３は、ＬＰＡＲの生成及び削除など、ＬＰＡＲ１２０，２２０に対する処理を実施する。ＬＰＡＲ管理部１０３は、ＬＰＡＲ１２０の構成情報としてＬＰＡＲ１２０に割り当てられる論理ＦＣ−ＨＢＡ１１２，１１３、論理ＣＰＵ１２２、ＬＰＡＲメモリ領域１０１０を管理する。図１において、ＬＰＡＲ１２０は、ライブマイグレーション時以外は、ＬＰＡＲ管理部１０３によって割り当てられた論理ＦＣ−ＨＢＡ１１２及び論理ＣＰＵ１２２を使用する。
【００２６】
リソース管理部１０４，２０４は、各論理ＦＣ−ＨＢＡに付与する固有のＷＷＮを管理する。図１において、論理ＦＣ−ＨＢＡ１１２は、固有の識別子として、リソース管理部１０４からＷＷＮ１を割り当てられている。論理ＦＣ−ＨＢＡ１１３は、ライブマイグレーション処理時にのみ使用され、リソース管理部１０４からＷＷＮ１と対となるＷＷＮ１’を、動的に割り当てられる。そのため、論理ＦＣ−ＨＢＡ１１３は、固有のＷＷＮを、割り当てられない。ここで、ＷＷＮ１’とは、リソース管理部１０４に管理され、マイグレーション処理において、一時的に論理ＦＣ−ＨＢＡ１１３へ割り当てるダミーのＷＷＮである。また、論理ＦＣ−ＨＢＡ２１２は、固有の識別子として、リソース管理部２０４からＷＷＮ２を割り当てられている。
【００２７】
マイグレーション制御部１０５，２０５は、マイグレーション処理を制御し、ハイパザイザ１０２，２０２上の各モジュールにライブマイグレーションに係る処理の指示を出す。さらに、マイグレーション制御部１０５とマイグレーション制御部２０５とは、互いにネットワークインターフェース１１４、２１４及びネットワークスイッチ４０１を介して通信し、サーバーモジュール１０１とサーバーモジュール２０１との間で、マイグレーションに係るデータを転送する。
【００２８】
なお、本実施例では、ハイパザイザ１０２，２０２がマイグレーション制御部１０５，２０５を備えるが、マイグレーション制御部１０５，２０５の場所はこれに限定されない。例えば、図２７に示すように、マイグレーション制御部１０５，２０５がハイパザイザ１０２，２０２上の各モジュールの制御を可能とし、かつ他サーバーモジュールを制御する他のマイグレーション制御部との通信が可能であれば、サーバーモジュール１０１，２０１内において、サーバーモジュール制御用のＬＰＡＲ１３０，２３０を定義し、そのＬＰＡＲ１３０，２３０上でマイグレーション制御部１０５，２０５を動作させてもよい。
【００２９】
論理デバイス管理部１０６，２０６は、ＮＰＩＶ（Ｎ−Ｐｏｒｔ  ＩＤ  Ｖｉｒｔｕａｌｉｚａｔｉｏｎ）技術によって、物理ＦＣ−ＨＢＡ１１１，２１１を論理的に分割した複数の論理ＦＣ−ＨＢＡ１１２，１１４，２１２を制御する。
【００３０】
メモリ管理部１０７，２０７は、物理メモリ１１０，２１０を管理し、ＬＰＡＲ１２０，２２０及びハイパザイザ１０２，２０２へのメモリ領域割り当てを管理する。
【００３１】
ストレージ装置３０２は、いわゆる記憶装置であり、ＦＣスイッチ３０１を介して、物理ＦＣ−ＨＢＡ１１１及び物理ＦＣ−ＨＢＡ２１１に接続されている。さらにストレージ装置３０２は、論理的に規定されたＬＵ（Ｌｏｇｉｃａｌ Ｕｎｉｔ）と呼ばれるＤｉｓｋ ユニット３０３を持っている。
【００３２】
ＬＵ３０３がどのサーバーに接続されているかを表す接続情報は、ストレージ装置３０２内のコントローラーによって管理されている。本実施例では、ライブマイグレーションの際にＷＷＮ１をもつ論理ＦＣ−ＨＢＡ１１２またはＷＷＮ１’をもつ論理ＦＣ−ＨＢＡ１１３からＬＵ３０３へのログインが許可されている。そして、ストレージ装置３０２に登録されたＷＷＮ、ＷＷＮ１’を、ＬＵ−ＷＷＮ、ＬＵ−ＷＷＮ１’と表記する。この接続関係を設定する機能を、ＬＵＮセキュリティ機能と呼ぶ。
【００３３】
リンク１、リンク１’、及びリンク２は、それぞれ論理ＦＣ−ＨＢＡ１１２からＬＵ３０３への論理的な接続状態、論理ＦＣ−ＨＢＡ１１３からＬＵ３０３への論理的な接続状態、及び論理ＦＣ−ＨＢＡ２１２からＬＵ３０３への論理的な接続状態を示している。なお、図１においてリンク１で示される実線は、ＬＵ３０３へのＦＣログインが完了した状態、すなわち論理ＦＣ−ＨＢＡ１１２とＬＵ３０３とが論理的に接続された状態を表している。一方、リンク１’及びリンク２で示される破線は、ＬＵ３０３へのＦＣログインをしていない状態、すなわち論理ＦＣ−ＨＢＡ１１３とＬＵ３０３とが論理的に切断された状態及び論理ＦＣ−ＨＢＡ２１２とＬＵ３０３とが論理的に切断された状態、を表している。本発明を適用したライブマイグレーションの処理過程では、リンク１、リンク１’及びリンク２それぞれのログイン状態を変化させ、ＯＳ１２３がＬＵ３０３へアクセスを継続可能な状態を維持する。
【００３４】
さらに図１の状態における、物理メモリ１１０のメモリマップ（移行元のメモリマップ）について、図３を用いて説明する。また、図１の状態における、物理メモリ２１０のメモリマップ（移行先のメモリマップ）について、図４を用いて説明する。
【００３５】
移行元物理メモリ１１０は、ＬＰＡＲ１２０に割り当てられたＬＰＡＲメモリ領域１０１０と、ハイパザイザの処理で使用するためのハイパザイザメモリ領域１０９０を含む。
【００３６】
ＬＰＡＲメモリ領域１０１０は、ＯＳ１２３管理領域１０１１を含む。ＯＳ１２３管理領域１０１１は、論理ＦＣ−ＨＢＡ１１２制御領域１０１２を含む。
【００３７】
ハイパザイザメモリ領域１０９０は、物理メモリ１１０内の絶対位置を示すホスト物理アドレスとＬＰＡＲメモリ領域１０１０内の相対位置を示すゲスト論理アドレスとの対応を含むゲストアドレス変換テーブル１０９１、論理ＦＣ−ＨＢＡ１１３制御領域１０９２、各論理ＦＣ−ＨＢＡの制御領域が含まれる領域のホスト物理アドレスを格納したオフセット加算テーブル１０９３、オフセット加算テーブル１０９３に記された領域の中で各論理ＦＣ−ＨＢＡの制御領域がある相対アドレスを格納した論理ＦＣ−ＨＢＡ制御領域リスト１０９４、各論理ＦＣ−ＨＢＡのログイン状態を格納するＦＣログイン状態管理テーブル１０９５、各論理ＦＣ−ＨＢＡに割り当てられるＷＷＮを格納したＷＷＮ管理テーブル１０９５を含む。
【００３８】
移行先物理メモリ２１０は、ハイパザイザメモリ領域２０９０を含む。移行先ハイパザイザメモリ領域２０９０は、移行元ハイパザイザメモリ領域１０９０と同様に、ゲストアドレス変換テーブル２０９１、オフセット加算テーブル２０９３、論理ＦＣ−ＨＢＡ制御領域リスト２０９４、ＦＣログイン状態管理テーブル２０９５、ＷＷＮ管理テーブル２０９６を含む。
【００３９】
以下、図５、図６、図７、図８、図９を参照して、図１に示すサーバーモジュール１０１上のＬＰＡＲ１２０が稼動した状態において、図２に示すサーバーモジュール２０１上のＬＰＡＲ２２０にＬＰＡＲ１２０の動作を引き継がせる、ライブマイグレーション処理について説明する。
【００４０】
（Ｓ１０１）移行元マイグレーション制御部１０５は、移行先マイグレーション制御部２０５へマイグレーション要求を送信し、マイグレーション処理を開始する。
【００４１】
（Ｓ１０２）マイグレーション要求を受信した移行先マイグレーション制御部２０５は、マイグレーション処理を開始する。
【００４２】
（Ｓ１０３、Ｓ１０４）マイグレーション制御部１０５，２０５は、リソース管理部１０４，２０４に対して、論理ＦＣ−ＨＢＡ１１２，２１２に付与されたＷＷＮの取得要求を送信する。
【００４３】
（Ｓ１０５、Ｓ１０６）リソース管理部１０４は、送信されたＷＷＮの取得要求を受信し、マイグレーション制御部１０５へ、論理ＦＣ−ＨＢＡ１１２に付与されているＷＷＮ１を送信する。リソース管理部２０４は、送信されたＷＷＮの取得要求を受信し、マイグレーション制御部２０５へ、論理ＦＣ−ＨＢＡ２１２に付与されているＷＷＮ２を送信する。
【００４４】
（Ｓ１０７，Ｓ１０８）マイグレーション制御部１０５は、リソース管理部１０４から送信されたＷＷＮ１を受け取る。マイグレーション制御部２０５は、リソース管理部２０４から送信されたＷＷＮ２を受け取る。
【００４５】
（Ｓ１０９）移行元マイグレーション制御部１０５は、移行先マイグレーション制御部２０５へ、移行先論理ＦＣ−ＨＢＡ２１２に付与されているＷＷＮの取得要求を送信する。
【００４６】
（Ｓ１１０）移行先マイグレーション制御部２０５は、移行先論理ＦＣ−ＨＢＡ２１２に付与されているＷＷＮの取得要求を受信すると、移行元マイグレーション制御部１０５へ、ＷＷＮ２を転送する。
【００４７】
（Ｓ１１１）移行元マイグレーション制御部１０５は、移行先マイグレーション制御部２０５から、ＷＷＮ２を受信する。
【００４８】
（Ｓ１１２）移行先マイグレーション制御部２０５は、移行元マイグレーション制御部１０５へ、移行元論理ＦＣ−ＨＢＡ１１２に付与されているＷＷＮの取得要求を送信する。
【００４９】
（Ｓ１１３）移行元マイグレーション制御部１０５は、移行元論理ＦＣ−ＨＢＡ１１２に付与されているＷＷＮの取得要求を受信すると、移行先マイグレーション制御部２０５へ、ＷＷＮ１を転送する。
【００５０】
（Ｓ１１４）移行先マイグレーション制御部２０５は、移行元マイグレーション制御部１０５からＷＷＮ１を受信する。
【００５１】
（Ｓ１１５）移行先マイグレーション制御部２０５は、移行先リソース管理部２０４に対して、論理ＦＣ−ＨＢＡ１１２に付与されているＷＷＮをＳ１１４で受信したＷＷＮ１に変更するための変更要求を送信する。
【００５２】
（Ｓ１１６）移行先リソース管理部２０４は、Ｓ１１５の変更要求を受信し、ＷＷＮ管理テーブル１０９６の論理ＦＣ−ＨＢＡ２１２に割り当てられているＷＷＮ２を、ＷＷＮ１へ書き換える。
【００５３】
移行元ＷＷＮ管理テーブル１０９６及び移行先ＷＷＮ管理テーブル２０９６の、Ｓ１１６の前後での変化を、図１０及び図１１に示す。なお、移行先ＷＷＮ変更後におけるＷＷＮ２は、移行元マイグレーション管理部２０５が一時的に保持している。
【００５４】
（Ｓ１１７）移行元マイグレーション制御部１０５は、移行元のＬＰＡＲ管理部１０３に対して、ＬＰＡＲ１２０の構成情報取得要求を送信する。
【００５５】
（Ｓ１１８）移行元のＬＰＡＲ管理部１０３は、ＬＰＡＲ１２０の構成情報取得要求を受信し、ＬＰＡＲ１２０の構成情報を、移行元マイグレーション制御部１０５へ送信する。
【００５６】
（Ｓ１１９）移行元マイグレーション制御部１０５は、ＬＰＡＲ１２０の構成情報を受信し、移行先マイグレーション制御部２０５へ転送する。
【００５７】
（Ｓ１２０）移行先マイグレーション制御部２０５は、ＬＰＡＲ１２０の構成情報を受信すると、移行先ＬＰＡＲ管理部２０３に対して、ＬＰＡＲ１２０の構成情報を送信し、構成情報の反映を要求する。
【００５８】
（Ｓ１２１）移行先ＬＰＡＲ管理部２０３は、ＬＰＡＲ１２０の構成情報を受信し、受信した構成情報を元に、論理ＦＣ−ＨＢＡ１１２に対応する論理ＦＣ−ＨＢＡ２１２、論理ＣＰＵ１２２に対応する論理ＣＰＵ２２２、ＬＰＡＲ１２０に割り当てられたメモリと同じ容量のメモリ領域などを含む、ＬＰＡＲ１２０と同様の論理資源をＬＰＡＲ２２０に割り当てる。
【００５９】
（Ｓ１２２）移行元マイグレーション制御部１０５は、移行先マイグレーション制御部２０５に対して、ＬＰＡＲ２２０の仮Ａｃｔｉｖａｔｅ要求を送信する。
【００６０】
（Ｓ１２３）移行先マイグレーション制御部２０５は、ＬＰＡＲ２２０の仮Ａｃｔｉｖａｔｅ要求を受信し、移行先ＬＰＡＲ２２０を仮Ａｃｔｉｖａｔｅする。
【００６１】
（Ｓ２０１）移行元マイグレーション制御部１０５は、移行元論理デバイス管理部１０６に対して、ＦＣパスの変更要求として、論理ＦＣ−ＨＢＡ１１２が物理ＦＣ−ＨＢＡ１１１を介してＬＵ３０３に接続しているリンク１を、論理ＦＣ−ＨＢＡ１１３が物理ＦＣ−ＨＢＡ１１１を介してＬＵに接続しているリンク１’へと変更する変更要求を送信する。
【００６２】
（Ｓ２０２）移行元論理デバイス管理部１０６は、Ｓ２０１の変更要求を受信すると、論理ＦＣ−ＨＢＡ１１３の初期化処理を行う。Ｓ２０２で、移行元リソース管理部１０４が論理ＦＣ−ＨＢＡ１１３にＷＷＮ１’を割り当てることで、移行元サーバーモジュールからＬＵ３０３に対してリンク１’のログイン処理が実施可能となる。なお、Ｓ２０２の詳細は、後述するＳ４０１〜Ｓ４０７で説明する。
【００６３】
（Ｓ２０３）移行元論理デバイス管理部１０６は、リンク１’のログイン処理を実施する。この処理では、移行元論理デバイス管理部１０６が、論理ＦＣ−ＨＢＡ１１２制御領域１０１２を経由し、論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１３０１とログインコマンドをやり取りすることで実施される。なお、Ｓ２０３の詳細は、後述するＳ５０１〜Ｓ５１１、Ｓ８０１〜Ｓ８０４で説明する。
【００６４】
（Ｓ２０４）移行元論理デバイス管理部１０６は、リンク１’のログイン完了報告を、移行元マイグレーション制御部１０５に送信する。
【００６５】
（Ｓ２０５）移行元マイグレーション制御部１０５は、リンク１’のログイン完了報告を受信し、移行元メモリ管理部１０７に対して、ゲストアドレス変換テーブル１０９１の書換え要求を送信する。
【００６６】
（Ｓ２０６）移行元メモリ管理部１０７は、ゲストアドレス変換テーブル１０９１の書換え要求を受信し、ゲストアドレス変換テーブル１０９１を書換える。移行元メモリ管理部１０７は、ゲストアドレス変換テーブル１０９１の論理ＦＣ−ＨＢＡ１１２制御領域１０１２の変換アドレスが格納されているエントリを参照し、そのエントリに格納されている論理ＦＣ−ＨＢＡ１１２制御領域１０１２のホスト物理アドレス（０ｘ１１００）を、論理ＦＣ−ＨＢＡ１１３制御領域１０９２のホスト物理アドレス（０ｘｆｆ００）に書き換え、書換え完了報告を移行元マイグレーション制御部１０５に送信する。
【００６７】
この書換え処理の前後、すなわちＦＣパス切り替え前後のゲストアドレス変換テーブル１０９１の変化を、図１２及び図１３に示す。これにより、論理ＦＣ−ＨＢＡ１１２制御領域１０１２への参照１１０１（図１４）は、論理ＦＣ−ＨＢＡ１１３制御領域１０９２への参照１１０２（図１５）となる。
【００６８】
なお、図１４は、論理ＦＣ−ＨＢＡ１１３初期化前かつパス切り替え前における、ゲストアドレス変換テーブル１０９１からのＦＣ−ＨＢＡ制御領域参照を、模式的に示したものである。また、図１５は、論理ＦＣ−ＨＢＡ１１３初期化後かつパス切り替え後における、ゲストアドレス変換テーブル１０９１からのＦＣ−ＨＢＡ制御領域参照を、模式的に示したものである。
【００６９】
Ｓ２０６以前のＯＳ１２３からＬＵ３０３へディスクアクセス処理は、後述するＳ６０１〜Ｓ６０３、Ｓ８０１〜Ｓ８０４の処理に従い、ＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１と論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１２０１とが、論理ＦＣ−ＨＢＡ１１２制御領域１０１２を経由してディスクアクセスコマンドをやり取りすることで、実施される。論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１２０１は、論理ＦＣ−ＨＢＡ１１２制御領域１０１２に書き込まれたディスクアクセスコマンドに従い、ＬＵに対するログイン、ログアウト、ｒｅａｄ／ｗｒｉｔｅ等を実行する。
【００７０】
Ｓ２０６の処理によって、ＯＳ１２３からＬＵ３０３へディスクアクセスする処理は、後述するＳ７０１〜Ｓ７０３、Ｓ９０１〜Ｓ９０４の処理に従い、ＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１と論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１３０１が、論理ＦＣ−ＨＢＡ１１３制御領域１０９２を経由してディスクアクセスコマンドをやり取りすることで、実施される。
【００７１】
すなわち、ＯＳ１２３がＬＵ３０３にアクセスするパスは、論理ＦＣ−ＨＢＡ１１２を経由するリンク１から、論理ＦＣ−ＨＢＡ１１３を経由するリンク１’に変更される。
【００７２】
一方、ゲストアドレス変換テーブル１０９１は、物理メモリ１１０に割り当てられたハイパザイザメモリ領域１０９０に含まれるので、ＯＳ１２３から認知または操作できる領域ではない。そのため、Ｓ２０６によるＦＣパス切り替え処理は、移行元のＬＰＡＲ１２０で稼動するＯＳ１２３からは、隠蔽されている。これにより、ＯＳ１２３及びＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１がＬＵ３０３にアクセスするために論理ＣＰＵ１２２に発行する命令は、ＦＣパス（リンク）の変更に係わらず、Ｓ２０６前後で同じものを継続可能となる。
【００７３】
（Ｓ２０７）移行元マイグレーション制御部１０５は、書換え完了報告を受信し、移行元論理デバイス管理部１０６に対して、リンク１のログアウト要求を送信する。
【００７４】
（Ｓ２０８）移行元論理デバイス管理部１０６は、リンク１のログアウト要求を受信し、リンク１のログアウトを実施する。リンク１のログアウト処理は、移行元論理デバイス管理部１０６が、論理ＦＣ−ＨＢＡ１１２の制御通信領域１０１２２経由し、論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１２０１とログアウトコマンドをやりとりすることで、実施される。
【００７５】
ＦＣログイン状態管理テーブル１０９５は、Ｓ２０８の処理前の状態、即ちリンク１のログイン完了状態を示す図１６から、Ｓ２０８の処理後の状態、即ちリンク１のログアウト完了状態を示す図１７に、変化する。移行元の論理ＦＣ−ＨＢＡ１１２のリンク１がログアウトしたので、移行先論理ＦＣ−ＨＢＡ２１２は、移行元の論理ＦＣ−ＨＢＡ１１２で使用されていたＷＷＮ１を使用可能となる。そして、移行先の論理ＦＣ−ＨＢＡ２１２のリンク２は、ＷＷＮ１を用いてログインすることが可能な状態になる。
【００７６】
（Ｓ２０９）移行元論理デバイス管理部１０６は、ログアウト完了報告を移行元マイグレーション制御部１０５に送信する。
【００７７】
（Ｓ２１０）移行元マイグレーション制御部１０５は、ログアウト完了報告を受信し、移行先マイグレーション制御部２０５に対して、ログイン情報を転送し、移行先ログイン要求を送信する。
【００７８】
（Ｓ２１１）移行先マイグレーション制御部２０５は、移行先論理デバイス管理部２０６に対して、リンク２ログイン要求を送信する。
【００７９】
（Ｓ２１２）移行先論理デバイス管理部２０６は、（Ｓ１１６）で論理ＦＣ−ＨＢＡ２１２に割り当てられたＷＷＮ１を使用して、リンク２のログイン処理を実施する。
【００８０】
リンク２のログイン処理は、移行先論理デバイス管理部２０６が、図１８に示す論理ＦＣ−ＨＢＡ２１２の制御領域２０１２における制御通信領域２０１２２を経由し、論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ２１２０１とログインコマンドをやりとりすることで実施する。なお、図１８は、リンク２のログイン処理時における移行先物理メモリ２１０のメモリマップを示す。この処理において使用する論理ＦＣ−ＨＢＡ２１２制御領域２０１２のゲスト論理アドレスは、移行元の論理ＦＣ−ＨＢＡ１１２制御領域１０１２のゲスト論理アドレスと、同じものを用いる。
【００８１】
（Ｓ２１３）移行先論理デバイス管理部２０６は、リンク２ログイン完了報告を移行先マイグレーション制御部２０５に送信する。
【００８２】
（Ｓ２１４）移行先マイグレーション制御部２０５は、リンク２ログイン完了報告を受信し、移行元マイグレーション制御部１０５に対して、移行先のＦＣログインが完了したことを通知する。
【００８３】
（Ｓ２１５）移行元マイグレーション制御部１０５は、移行先マイグレーション制御部２０５から、移行先ログイン完了通知を受信する。
【００８４】
（Ｓ３０１）移行元マイグレーション制御部１０５は、移行元のＬＰＡＲ管理部１０３に対して、ＬＰＡＲ１２０のデバイス・メモリ情報の取得要求を出す。デバイス情報は、ハイパザイザ１０２内で管理されている論理デバイスの種類と内部状態を含み、メモリ情報は、ＬＰＡＲ１２０に割り当てられたＬＰＡＲメモリ領域１０１０を含む。
【００８５】
（Ｓ３０２）移行元のＬＰＡＲ管理部１０３は、デバイス・メモリ情報の取得要求を受信し、ＬＰＡＲ１２０のデバイス・メモリ情報を移行元マイグレーション制御部１０５に送信する。
【００８６】
（Ｓ３０３）移行元マイグレーション制御部１０５は、Ｓ１４１で送信されたＬＰＡＲ１２０のデバイス・メモリ情報を受信し、移行先マイグレーション制御部２０５に対して、受信したデバイス・メモリ情報を転送する。
【００８７】
（Ｓ３０４）移行先マイグレーション制御部１０５は、Ｓ１４２で転送されたＬＰＡＲ１２０のデバイス・メモリ情報を受信し、移行先ＬＰＡＲ管理部２０３に対して、受信したＬＰＡＲ１２０のデバイス・メモリ情報およびデバイス・メモリ情報反映要求を送信する。
【００８８】
（Ｓ３０５）移行先ＬＡＰＲ管理部２０３は、Ｓ２４０で送信されたＬＰＡＲ１２０のデバイス・メモリ情報およびデバイス・メモリ情報反映要求を受信し、ＬＰＡＲ１２０のデバイス・メモリ情報をＬＰＡＲ２２０へ反映する。この処理により、ＬＰＡＲ１２０のＬＰＡＲメモリ領域１０１０と、ＬＰＡＲ２２０のＬＰＡＲメモリ領域２０１０において、同じゲスト論理アドレスに書き込まれている内容が同一のものとなる。
【００８９】
（Ｓ３０１〜Ｓ３０５）の処理は、デバイス・メモリ情報の転送中に、移行元の論理ＣＰＵが書き換えたメモリ情報を移行先へ転送するのに必要な時間が基準値以下になるまで繰り返される。この処理におけるメモリ情報を転送するのに必要な時間の基準値とは、論理ＣＰＵを一時停止してから再度動作させた場合に、ＯＳ１２３が正常に動作を継続できる、論理ＣＰＵ停止時間の最大値である。
【００９０】
（Ｓ３０６）上述の（Ｓ３０１〜Ｓ３０５）の繰り返し処理が終了すると、移行元マイグレーション制御部１０５は、ＬＰＡＲ１２０に割り当てられている論理ＣＰＵ１２２を停止させる。
【００９１】
（Ｓ３０７）移行元マイグレーション制御部１０５は、移行元のＬＰＡＲ管理部１０３に対して、Ｓ１４１でメモリ情報を取得してからＳ１４３で論理ＣＰＵを停止するまでの間に変更された差分デバイス・メモリ情報を取得する要求を出す。
【００９２】
（Ｓ３０８）移行元のＬＰＡＲ管理部１０３は、差分デバイス・メモリ情報を取得要求を受信し、移行元マイグレーション制御部１０５に対して、差分のデバイス・メモリ情報を渡す。
【００９３】
（Ｓ３０９）移行元マイグレーション制御部１０５は、差分のデバイス・メモリ情報を取得し、移行先マイグレーション制御部２０５へ、取得した差分デバイス・メモリ情報を転送する。
【００９４】
（Ｓ３１０）移行先マイグレーション制御部２０５は、移行先ＬＰＡＲ管理部２０３に対して、移行元から取得した差分デバイス・メモリ情報を反映する要求を出す。
【００９５】
（Ｓ３１１）移行先ＬＰＡＲ管理部２０３は、ＬＰＡＲ２２０に対して、取得した差分デバイス・メモリ情報を反映し、反映完了を移行先マイグレーション制御部２０５に送信する。この時点で、ＬＰＡＲ２２０は、ＬＰＡＲ１２０に割り当てられていた論理デバイスと同じ種類の論理デバイスを同じ数だけ有する。また、ＬＰＡＲ１２０に割り当てられていたメモリ領域内のデータが、ＬＰＡＲ２２０に割り当てられたメモリ領域に複製され、ＬＰＡＲ１２０上で動作していたＯＳ１２３の状態を引継ぎ、ＬＰＡＲ２２０上で継続して動作が可能な状態になる。
【００９６】
（Ｓ３１２）移行先マイグレーション制御部２０５は、反映完了を受信し、ＬＰＡＲ２２０に割り当てられている論理ＣＰＵ２２２を動作させる。
【００９７】
（Ｓ３１３）移行先マイグレーション制御部２０５は、移行先ＬＰＡＲの動作開始報告を移行元マイグレーション制御部１０５に送信する。
【００９８】
（Ｓ３１４）移行元マイグレーション制御部１０５は、移行先ＬＰＡＲの動作開始報告を受信し、移行元論理デバイス管理部１０６に対してリンク１’ログアウト要求を送信する。
【００９９】
（Ｓ３１５）移行元論理デバイス管理部１０６は、リンク１’ログアウト要求を受信し、ログアウト処理を実施する。リンク１’のログアウト処理は（Ｓ２０３）と同様に、移行元論理デバイス管理部１０６が、論理ＦＣ−ＨＢＡ１１３の制御通信領域１０９２２を経由し、論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１３０１とログアウトコマンドをやりとりすることで実施する。
【０１００】
（Ｓ３１６）移行元論理デバイス管理部１０６は、ログアウト完了報告を移行先マイグレーション制御部２０５へ送信する。
【０１０１】
（Ｓ３１７）移行先マイグレーション制御部２０５は、移行先ＬＰＡＲ２２０の構成情報を保存する。
【０１０２】
（Ｓ３１８）移行先マイグレーション制御部２０５は、ＬＰＡＲ２２０の構成情報保存完了報告を移行元マイグレーション制御部１０５に送信する。
【０１０３】
（Ｓ３１９）移行元マイグレーション制御部１０５は、移行先マイグレーション制御部２０５からの構成情報保存完了報告と移行元論理デバイス管理部１０６からのログアウト完了報告との両方を受信し、移行元リソース管理部１０７に対して、移行元ＷＷＮ変更要求を出す。
【０１０４】
（Ｓ３２０）移行元リソース管理部１０７は、Ｓ１４９の移行元ＷＷＮ変更要求を受信し、論理ＦＣ−ＨＢＡ１１２に割り当てられたＷＷＮ１を、ＷＷＮ２へ変更する。移行元ＷＷＮ管理テーブル１０９６及び移行先ＷＷＮ管理テーブル２０９６の、Ｓ３２０の前後における変化を、図１１及び図１９に示す。
【０１０５】
（Ｓ３２１）移行元マイグレーション制御部１０５は、ＬＰＡＲ定義取り消し要求を移行元のＬＰＡＲ管理部１０３に送信する。
【０１０６】
（Ｓ３２２）移行元のＬＰＡＲ管理部１０３は、ＬＰＡＲ定義取り消し要求を受信し、ＬＰＡＲ１２０に割り当てられたすべての論理デバイスの割り当てを解除してから移行元マイグレーション制御部１０５にＬＰＡＲ定義取り消し完了報告を送信する。
【０１０７】
（Ｓ３２３）移行元マイグレーション制御部１０５は、移行元のＬＰＡＲ管理部１０３からＬＰＡＲ定義取り消し完了報告を受信し、移行元のＬＰＡＲの定義取り消し完了報告を、移行先マイグレーション制御部２０５に通知する。
【０１０８】
（Ｓ３２４）移行先マイグレーション制御部２０５は、移行元のＬＰＡＲ１２０の定義取り消し完了報告を受信する。
【０１０９】
（Ｓ３２５）移行元マイグレーション制御部１０５は、（Ｓ３２１）の後、移行元のＬＰＡＲ１２３の構成情報を保存する。
【０１１０】
（Ｓ３２６）移行元マイグレーション制御部１０５は、構成情報の保存が完了したことを、移行先マイグレーション管理部２０５に通知する。
【０１１１】
（Ｓ３２７）移行先マイグレーション制御部２０５は、構成情報の保存が完了したことを受信する。
【０１１２】
（Ｓ３２８、Ｓ３２９）マイグレーション制御部１０５，２０５は、マイグレーション処理を終了する。
【０１１３】
Ｓ１５５、Ｓ２４９が完了すると、マイグレーション前の全体構成図である図１にあるようにＬＰＡＲ１２０上で動作していたＯＳ１２３は、マイグレーション後の全体構成図である図２に示されるようにＬＰＡＲ２２０上で動作するようになる。
【０１１４】
以下、Ｓ２０２における論理ＦＣ−ＨＢＡ１１３の初期化処理の詳細を、図８、図２０を参照して説明する。
【０１１５】
（Ｓ４０１）移行元論理デバイス管理部１０６は、論理ＦＣ−ＨＢＡ１１３の初期化処理を開始する。
【０１１６】
（Ｓ４０２）移行元論理デバイス管理部１０６は、移行元メモリ管理部１０７に対して、論理ＦＣ−ＨＢＡ１１２制御領域１０１２のコピー要求を出す。
【０１１７】
（Ｓ４０３）移行元メモリ管理部１０７は、Ｓ１２１０２のコピー要求を受信し、ＬＰＡＲメモリ領域１０１０上の論理ＦＣ−ＨＢＡ１１２制御領域１０１２を、ハイパザイザメモリ領域１０９０上の論理ＦＣ−ＨＢＡ１１３制御領域１０９２へコピーする。
【０１１８】
（Ｓ４０４）移行元論理デバイス管理部１０６は、移行元リソース管理部１０４に対して、ダミーＷＷＮ割り当て要求を送信する。
【０１１９】
（Ｓ４０５）移行元リソース管理部１０４は、ダミーＷＷＮ割り当て要求を受信し、移行元論理デバイス管理部１０６に対し、ダミーＷＷＮとしてＷＷＮ１’を送信する。ＷＷＮ１と対になるＷＷＮ１’は、ＷＷＮ１から一意に決定される。またＷＷＮ１’は、ＷＬＵ３０３にログイン可能な識別子としてＷＷＮ１と共にストレージ装置３０２に登録されているものである。
【０１２０】
Ｓ２０２では、移行元リソース管理部１０４が、ダミーＷＷＮであるＷＷＮ１’を、移行元サーバーモジュールの論理ＦＣ−ＨＢＡ１１３に、割り当る。Ｓ２１２では、移行先サーバーモジュールの論理ＦＣ−ＨＢＡ２１２に、ＷＷＮ１を割り当てる。これにより、移行処理中に移行元サーバーモジュールと移行先サーバーモジュールの両方が、ＬＵ３０３に対してログイン完了状態となる。そして、ＯＳ１２３が移行先ＬＰＡＲ２２０で動作を開始した直後に、ＬＵ３０３に継続アクセスが可能となる。
【０１２１】
（Ｓ４０６）移行元論理デバイス管理部１０６は、移行元リソース管理部１０４からＷＷＮ１’を受信すると、ＷＷＮ通知領域１０９２３のＷＷＮ１をＷＷＮ１’に書き換える。
【０１２２】
（Ｓ４０７）移行元論理デバイス管理部１０６は、論理ＦＣ−ＨＢＡ１１３制御領域１０９２の初期化を完了する。
【０１２３】
次に、Ｓ２０３におけるリンク１’ログイン処理の詳細について、図９を参照して説明する。
【０１２４】
（Ｓ５０１）移行元論理ＦＣ−ＨＢＡ割り込み監視部１０６０１は、論理ＦＣ−ＨＢＡ１１３への論理割り込みを監視している。
【０１２５】
（Ｓ５０２）移行元論理デバイス管理部１０６は、リンク１’のログイン処理を開始する。
【０１２６】
（Ｓ５０３）移行元論理デバイス管理部１０６は、ＦＣログイン状態管理テーブル１０９５を参照し、論理ＦＣ−ＨＢＡ１１３のログイン状態を判定する。
【０１２７】
（Ｓ５０４）移行元論理デバイス管理部１０６は、Ｓ１２２０２の判定の結果、論理ＦＣ−ＨＢＡ１１３がログイン完了状態であれば、論理ＦＣ−ＨＢＡ１１３の制御通信領域１０９２２にログインコマンドをセットし、ログイン要求をＦＣ−ｆｉｒｍｗａｒｅ１１２０１に知らせる。一方、Ｓ１２２０２の判定の結果、論理ＦＣ−ＨＢＡ１１３がログアウト状態である場合は、論理デバイス管理部１０６はリンク１’ログイン処理を抜ける。
【０１２８】
（Ｓ５０５）移行元論理ＦＣ−ｆｉｒｍｗａｒｅ１１２０１は、制御通信領域１０９２２を参照し、ログイン命令を取得する。
【０１２９】
（Ｓ５０６）移行元論理ＦＣ−ｆｉｒｍｗａｒｅ１１２０１は、ログイン命令を取得すると、ログインを実行する。
【０１３０】
（Ｓ５０７）ＦＣ−ｆｉｒｍｗａｒｅ１１２０１はログイン完了後、ログインが完了したことを知らせる割り込みを発生させる。
【０１３１】
（Ｓ５０８）移行元論理ＦＣ−ＨＢＡ割り込み監視部１０６０１はＦＣ−ｆｉｒｍｗａｒｅ１１２０１からのログイン完了の割り込みを検出する。
【０１３２】
（Ｓ５０９）割り込みを検出した移行元論理ＦＣ−ＨＢＡ割り込み監視部１０６０１はログイン完了を論理デバイス管理部１０６に通知する。
【０１３３】
（Ｓ５１０）移行元論理ＦＣ−ＨＢＡ割り込み監視部１０６０１は割り込み待ち状態になる。
【０１３４】
（Ｓ５１１）移行元論理デバイス管理部１０６は、割り込み監視部１０６０１からログイン完了通知を受信すると、ＦＣログイン状態管理テーブル１０９５の論理ＦＣ−ＨＢＡ１１３のログイン状態をログイン処理完了に書き換える。
【０１３５】
Ｓ２０３の処理前、即ちリンク１’のログイン前、ＦＣログイン状態管理テーブル１０９５は、図２１に示される状態である。Ｓ２０３の処理後、即ちリンク１’のログイン後、ＦＣログイン状態管理テーブル１０９５は、図１６に示される状態に変化する。
【０１３６】
論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１２０１から論理ＦＣ−ＨＢＡ１１２制御領域１０１２へのアクセスについて、図２５を参照して説明する。
【０１３７】
論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１２０１は、論理ＦＣ−ＨＢＡ１１２制御領域１０１２にアクセスし、制御通信用領域１０１２２に書き込まれたコマンドを基に動作する。論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１２０１の論理ＦＣ−ＨＢＡ１１２制御領域１０１２へのアクセスは次のように行われる。
【０１３８】
（Ｓ６０１）論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１２０１は、論理ＦＣ−ＨＢＡ制御領域リスト１０９４の仮想ポート１１０１１のエントリを参照し、仮想ポート１１０１１に対応する論理ＦＣ−ＨＢＡ１１２制御領域１０１２の相対アドレス０ｘ０１００番地を取得する。このときの論理ＦＣ−ＨＢＡ制御リスト１０９４を図２２に示す
（Ｓ６０２）論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１２０１は、オフセット加算テーブル１０９３を参照し、仮想ポート１１０１１の割当先であるＬＰＡＲ１２０のオフセットアドレス０ｘ１０００番地を取得する。このときのオフセット加算テーブル１０９３を図２３に示す。
【０１３９】
（Ｓ６０３）取得した相対アドレス（０ｘ０１００）とＬＰＡＲ１２０のホスト物理アドレス（０ｘ１０００）とを加算し、論理ＦＣ−ＨＢＡ１１２制御領域１０１２の配置されたホスト物理アドレス（０ｘ１１００）算出し、算出した０ｘ１１００番地へアクセスする。
【０１４０】
更に、論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１３０１から論理ＦＣ−ＨＢＡ１１３制御領域１０９２へのアクセスについて、図２５を参照して説明する。
【０１４１】
論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１３０１は、論理ＦＣ−ＨＢＡ１１３制御領域１０９２にアクセスし、制御通信用領域１０９２２に書き込まれたコマンドを基に動作する。論理ＦＣ−ＨＢＡ  ｆｉｒｍｗａｒｅ１１３０１の論理ＦＣ−ＨＢＡ１１３制御領域１０９２へのアクセスは次のように行われる。
【０１４２】
（Ｓ７０１）論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１３０１は、論理ＦＣ−ＨＢＡ制御領域リスト１０９４の仮想ポート１１０１２のエントリを参照し、仮想ポート１１０１２に対応する論理ＦＣ−ＨＢＡ１１３制御領域１０９２の相対アドレス０ｘ０ｆ００番地を取得する。
【０１４３】
（Ｓ７０２）論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１３０１は、オフセット加算テーブル１０９３を参照し、仮想ポート１１０１２の割当先であるハイパザイザのオフセットアドレス０ｘｆ０００番地を取得する。
【０１４４】
（Ｓ７０３）論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１３０１は、取得した相対アドレス（０ｘ０ｆ００）とハイパザイザのホスト物理アドレス（０ｘｆ０００）とを加算し、論理ＦＣ−ＨＢＡ１１３制御領域１０９２の配置されたホスト物理アドレス（０ｘｆｆ００）算出し、０ｘｆｆ００番地へアクセスする。
【０１４５】
ＯＳ１２３からＬＵ３０３へのディスクアクセスを、図３、図２４、図２５、図２６を使って説明する。なお、図２４は、移行元論理ＦＣ−ＨＢＡ１１２のＦＣパスを示す。図２６は、ＦＣ−ＨＢＡ Ｄｒｉｖｅｒからの論理ＦＣ−ＨＢＡ制御領域へのアクセスを示すフローチャートである。
【０１４６】
Ｓ２０６の処理を実施する直前までは、ＯＳ１２３上で動作するＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１から論理ＦＣ−ＨＢＡ１１２制御領域１０１２へのアクセスは次のように行われる。
【０１４７】
（Ｓ８０１）ＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１は、ゲスト論理アドレス（０ｘ４１００）に格納されている論理ＦＣ−ＨＢＡ１１２制御領域１０１２へアクセスする命令を、論理ＣＰＵ１２２に対して発行する。
【０１４８】
（Ｓ８０２）ＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１からゲスト論理アドレス０ｘ４１００番地の領域への書き込み命令を受け付けた論理ＣＰＵ１２２は、ゲスト論理アドレスをホスト物理アドレスへ変換するため、ゲストアドレス変換テーブル１０９１を参照する。
【０１４９】
（Ｓ８０３）論理ＣＰＵ１２２は、ゲストアドレス変換テーブル１０９１に格納されているゲスト論理アドレス０ｘ４１００のエントリを参照し、ゲスト論理アドレス０ｘ４１００に対応するホスト物理アドレス０ｘ１１００を取得する。
【０１５０】
（Ｓ８０４）論理ＣＰＵ１２２は、論理ＦＣ−ＨＢＡ１１２制御領域１０１２が配置されているホスト物理アドレス０ｘ１１００番地へアクセスする。
【０１５１】
ＯＳ１２３からＬＵ３０３に対するディスクアクセス処理を要求されたＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１は、（Ｓ８０１〜８０４）に従って、論理ＦＣ−ＨＢＡ１１２制御領域１０１２のあるホスト物理アドレス０ｘ１１００番地へアクセスし、ディスクアクセスコマンドを書き込む。論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１２０１は、（Ｓ６０１〜６０３）に従って、論理ＦＣ−ＨＢＡ１１２制御領域１０１２のあるホスト物理アドレス０ｘ１１００番地へアクセスし、論理ＦＣ−ＨＢＡ１１２制御領域１０１２に書き込まれたディスクアクセスコマンドを読み込み、ディスクアクセス処理を実施する。すなわち、ＯＳ１２３は、論理ＦＣ−ＨＢＡ１１２を介するリンク１を経由してＬＵ３０３へアクセスする。
【０１５２】
Ｓ２０６の処理を実施した後、ＯＳ１２３上で動作するＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１から論理ＦＣ−ＨＢＡ１１２制御領域１０１２へのアクセスは、次のようになる。
【０１５３】
（Ｓ９０１）この処理は（Ｓ８０１）と同じであり、ＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１はゲスト論理アドレス（０ｘ４１００）に格納されている論理ＦＣ−ＨＢＡ１１２制御領域１０１２へアクセスする命令を出す。
【０１５４】
（Ｓ９０２）この処理は（Ｓ８０１）と同じである。
【０１５５】
（Ｓ９０３）論理ＣＰＵ１２２は、ゲストアドレス変換テーブル１０９１に格納されているゲスト論理アドレス０ｘ４１００のエントリを参照し、ゲスト論理アドレス０ｘ４１００に対応するホスト物理アドレス０ｘｆｆ００を取得する。
【０１５６】
（Ｓ９０４）論理ＣＰＵ１２２は、論理ＦＣ−ＨＢＡ１１３制御領域１０９２が配置されているホスト物理アドレス０ｘｆｆ００番地へアクセスする。
【０１５７】
ＯＳ１２３からＬＵ３０３に対するディスクアクセス処理を要求されたＦＣ−ＨＢＡ  Ｄｒｉｖｅｒ１２３０１は、（Ｓ９０１〜９０４）に従って、論理ＦＣ−ＨＢＡ１１３制御領域１０９２のあるホスト物理アドレス０ｘｆｆ００番地へアクセスし、ディスクアクセスコマンドを書き込む。論理ＦＣ−ＨＢＡ  Ｆｉｒｍｗａｒｅ１１３０１は、（Ｓ７０１〜７０３）に従って、論理ＦＣ−ＨＢＡ１１３制御領域１０９２のあるホスト物理アドレス０ｘｆｆ００番地へアクセスし、論理ＦＣ−ＨＢＡ１１３制御領域１０９２に書き込まれたディスクアクセスコマンドを読み込み、ディスクアクセス処理を実施する。すなわち、ＯＳ１２３は、論理ＦＣ−ＨＢＡ１１３を介するリンク１’を経由して、ＬＵ３０３へアクセスする。
【０１５８】
以上説明したように、本発明を適用した仮想計算機システムによれば、第１の仮想計算機から記憶装置へのＦＣパスであるリンク１と、第２の仮想計算機から同一記憶装置へのＦＣパスであるリンク２とにおけるＦＣパス切り替え処理に際し、第１のハイパザイザが、第１の仮想計算機に対して、第１の論理ＨＢＡのダミーとなる第１’の論理ＨＢＡを割り当て、ダミーとなる第１’の論理ＨＢＡに付与されたダミーとなる識別子（ＷＷＮ１’）を用いて、第１の仮想計算機から記憶装置へのＦＣパスであるリンク１’によりログインを継続させる。このとき、リンク１からリンク１’へのＦＣパスの切り替えは、第１のハイパバイザに含まれるアドレス変換テーブルの書き換えにより行う。
【０１５９】
ＯＳは、ハイパバイザメモリ領域を操作及び認知できないので、ＦＣパスの切り替えはＯＳに隠蔽された状態となり、第１の仮想計算機の移行中も、移行前と同様に第１の論理ＨＢＡを使用しているように見せる。これにより、第１の仮想計算機が稼動した状態で、第２の仮想計算機に動作を引き継がせるライブマイグレーションが、Ｉ／Ｏ処理方式がＩ／Ｏパススルー方式の仮想計算機システムにおいても可能となる。
【符号の説明】
【０１６０】
１０１、２０１・・・サーバーモジュール
１０２、２０２・・・ハイパザイザ
１０３、２０３・・・ＬＰＡＲ管理部
１０４、２０４・・・リソース管理部
１０５、２０５・・・マイグレーション制御部
１０６、２０６・・・論理デバイス管理部
１０７，２０７・・・メモリ管理部
１０８、２０８・・・物理デバイス
１０９、２０９・・・物理ＣＰＵ
１１０、２１０・・・物理メモリ
１１１、２１１・・・物理ＦＣ−ＨＢＡ
１１２，１１３，２１２・・・論理ＦＣ−ＨＢＡ
１２２、２２２・・・論理ＣＰＵ
１２０、２２０・・・ＬＰＡＲ
１２３・・・ＯＳ
３０１・・・ＦＣスイッチ
３０２・・・ストレージ装置
３０３・・・ＬＵ
【図１】
0005542788.tif 000002
【図２】
0005542788.tif 000003
【図３】
0005542788.tif 000004
【図４】
0005542788.tif 000005
【図５】
0005542788.tif 000006
【図６】
0005542788.tif 000007
【図７】
0005542788.tif 000008
【図８】
0005542788.tif 000009
【図９】
0005542788.tif 000010
【図１０】
0005542788.tif 000011
【図１１】
0005542788.tif 000012
【図１２】
0005542788.tif 000013
【図１３】
0005542788.tif 000014
【図１４】
0005542788.tif 000015
【図１５】
0005542788.tif 000016
【図１６】
0005542788.tif 000017
【図１７】
0005542788.tif 000018
【図１８】
0005542788.tif 000019
【図１９】
0005542788.tif 000020
【図２０】
0005542788.tif 000021
【図２１】
0005542788.tif 000022
【図２２】
0005542788.tif 000023
【図２３】
0005542788.tif 000024
【図２４】
0005542788.tif 000025
【図２５】
0005542788.tif 000026
【図２６】
0005542788.tif 000027
【図２７】
0005542788.tif 000028