(57)【特許請求の範囲】
【請求項１】
複数のホストと、複数のボリュームを有する複数のストレージと、前記ボリュームである実ボリュームを、仮想ボリュームと対応付けて管理する仮想化装置とが、第１のネットワークを介して通信可能にされており、前記ホストと、前記ストレージと、前記仮想化装置とが、第２のネットワークを介して管理サーバと通信可能にされるストレージ管理システムにおいて、
前記仮想化装置は、自装置に実ボリューム及びキャッシュを備えており、前記仮想化装置に障害が生じた場合に、前記仮想化装置を介さないで前記ホストから前記ストレージへ通信可能な構成に回復するストレージ構成回復方法であって、
前記管理サーバが、
前記仮想化装置の構成情報と前記ストレージの構成情報とを取得する構成情報取得ステップと、
前記仮想化装置の障害発生を検出する障害発生検出ステップと、
前記障害発生が検出された際に、前記仮想化装置の障害により失われてしまった実ボリューム及びペアを再構成できるか否かの実ボリューム及びペアの回復可否をボリューム位置情報とペア構成情報とに基づいて判定し、前記実ボリューム及びペアの回復が可能であると判定された場合、ボリュームの回復方法の候補を決定するボリューム回復方法決定ステップと、
前記ボリューム回復方法決定ステップでの前記ボリュームの回復方法の候補についてボリューム位置情報とペア構成情報及びキャッシュの有効の可否に基づいてデータの回復可否を判定し、前記データの回復が可能であると判定された場合、データの回復方法の候補を決定するデータ回復方法決定ステップと、
前記ボリュームの回復方法の候補と、前記データの回復方法の候補との組合せの回復方法を表示部に表示し、入力部からの入力により前記組合せの回復方法が選択されると、選択された前記組合せの回復方法を実行するとともに、前記組合せの回復方法に該当する前記ストレージに対して、前記ホストとパスを構築する要求を行う回復実行ステップと、を含んで実行する
ことを特徴とするストレージ構成回復方法。
【請求項２】
前記仮想化装置は、
前記ストレージが有する実ボリューム及び前記仮想化装置自身が有する実ボリュームを、前記ホストに対して仮想ボリュームとして提供し、
前記ストレージが提供する実運用管理操作及び前記仮想化装置自身が提供する実運用管理操作を、仮想運用管理操作として提供し、
複数の前記仮想ボリューム間でペアを作成し、
前記仮想ボリュームにキャッシュ機能を有しているならば、前記仮想ボリューム毎にキャッシュ機能の有効と無効との切り替えを可能とする
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項３】
前記管理サーバは、前記仮想化装置の障害発生が検出された際、前記仮想化装置により実現していた仮想運用管理操作を、前記ストレージが提供する実運用管理操作に変換する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項４】
前記ボリューム回復方法決定ステップにおいて、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、
ペアを構成していない仮想ボリュームであり、かつ、実ボリュームが前記仮想化装置に存在する場合、
または、ペアを構成している仮想主ボリューム及び仮想副ボリュームに対応する、実主ボリューム及び実副ボリュームが共に前記仮想化装置に存在する場合、
ボリュームの回復が不可能と判定された際、
前記回復実行ステップにおいて、
前記ペアを構成していない仮想ボリュームの場合、対応する実ボリュームの位置情報のエントリを削除し、
または、前記ペアを構成している仮想主ボリューム及び仮想副ボリュームの場合、対応する実主ボリューム及び実副ボリュームの位置情報のエントリを削除する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項５】
前記ボリューム回復方法決定ステップにおいて、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、ペアを構成している仮想主ボリューム及び仮想副ボリュームのうち、前記仮想主ボリュームに対応する実主ボリュームが前記仮想化装置に存在し、前記仮想副ボリュームに対応する実副ボリュームが前記ストレージに存在する場合、ボリュームの回復が可能と判定する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項６】
前記ボリューム回復方法決定ステップにおいて、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、ペアを構成していない仮想ボリュームに対応する実ボリュームが前記ストレージに存在する場合、ボリュームの回復が可能と判定する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項７】
前記ボリューム回復方法決定ステップにおいて、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、ペアを構成している仮想主ボリューム及び仮想副ボリュームのうち、前記仮想主ボリュームに対応する実主ボリュームが前記ストレージに存在し、前記仮想副ボリュームに対応する実副ボリュームが前記仮想化装置に存在する場合、ボリュームの回復が可能と判定する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項８】
前記ボリューム回復方法決定ステップにおいて、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、ペアを構成している仮想主ボリューム及び仮想副ボリュームに対応する、実主ボリューム及び実副ボリュームが共に前記ストレージに存在する場合、ボリュームの回復が可能と判定する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項９】
前記ボリューム回復方法決定ステップにおいて、ボリュームの回復が可能と判定した際に、
前記管理サーバは、
前記ストレージに前記実副ボリュームと同サイズ及び同特性の実主ボリュームを作成でき、かつ、前記ストレージがペアの構築運用管理操作を提供しているか否かを判定し、
前記判定の条件を満たす場合、前記ストレージに存在する前記実副ボリュームと同サイズ及び同特性の回復用実主ボリュームを前記ストレージに作成し、前記回復用実主ボリュームと前記実副ボリュームとの間でローカルペアを構築し、前記ホストは前記回復用実主ボリュームを利用することをボリュームの回復方法として決定し、
前記判定の条件を満たさない場合、前記実副ボリュームを回復用実主ボリュームとみなし、前記ホストは前記回復用実主ボリュームを利用することをボリュームの回復方法として決定する
ことを特徴とする請求項５に記載のストレージ構成回復方法。
【請求項１０】
前記ボリューム回復方法決定ステップにおいて、ボリュームの回復が可能と判定した際に、
前記管理サーバは、
前記ストレージに前記実主ボリュームと同サイズ及び同特性の実副ボリュームを作成でき、かつ、前記ストレージがペアの構築運用管理操作を提供しているか否かを判定し、
前記判定の条件を満たす場合、前記ストレージに存在する実主ボリュームと同サイズ及び同特性の回復用実副ボリュームを作成し、前記実主ボリュームと前記回復用実副ボリュームとの間でローカルペアを構築し、前記ホストは前記実主ボリュームを利用することをボリュームの回復方法として決定し、
前記判定の条件を満たさない場合、前記ホストは前記実主ボリュームを利用することをボリュームの回復方法として決定する
ことを特徴とする請求項６または請求項７に記載のストレージ構成回復方法。
【請求項１１】
前記ボリューム回復方法決定ステップにおいて、ボリュームの回復が可能と判定した際に、
前記管理サーバは、
実主ボリュームと実副ボリュームが共に同一のストレージに存在し、かつ、前記ストレージがペアの構築運用管理操作を提供しているか否かを判定し、
前記判定の条件を満たす場合、前記実主ボリュームと前記実副ボリュームとの間でローカルペアを構築し、前記ホストは前記実主ボリュームを利用することをボリュームの回復方法として決定し、
前記判定の条件を満たさない場合、前記実主ボリュームを唯一の実主ボリュームとする、もしくは、前記実副ボリュームを回復用実主ボリュームとみなし、前記ホストは前記回復用実主ボリュームを利用することをボリュームの回復方法として決定する
ことを特徴とする請求項８に記載のストレージ構成回復方法。
【請求項１２】
前記ボリューム回復方法決定ステップにおいて、ボリュームの回復が可能と判定した際に、
前記管理サーバは、前記実主ボリュームと前記実副ボリュームが異なるストレージに存在している場合であって、
前記異なるストレージがリモートペアの構築運用管理操作を提供している場合、前記異なるストレージ間で前記実主ボリュームと前記実副ボリュームとの間でリモートペアを構築し、前記ホストは前記実主ボリュームを利用することをボリュームの回復方法として決定し、
片方あるいは両方のストレージがリモートペアの構築運用管理操作を提供していない場合、前記実主ボリュームが存在するストレージに前記実主ボリュームと同サイズ及び同特性の回復用実副ボリュームを作成し、前記実主ボリュームと前記回復用実副ボリュームとの間でローカルペアを構築し、前記ホストは前記実主ボリュームを利用することをボリュームの回復方法として決定し、
または、前記実副ボリュームが存在するストレージに実副ボリュームと同サイズ及び同特性の回復用実主ボリュームを作成し、前記回復用実主ボリュームと前記実副ボリュームとの間でローカルペアを構築し、前記ホストは前記回復用実主ボリュームを利用することをボリュームの回復方法として決定し、
ストレージがローカルペアの構築運用管理操作を提供していない場合、前記実主ボリュームを唯一の実主ボリュームとする、もしくは、前記実副ボリュームを回復用実主ボリュームとみなし、前記ホストは前記回復用実主ボリュームを利用することをボリュームの回復方法として決定する
ことを特徴とする請求項８に記載のストレージ構成回復方法。
【請求項１３】
前記データ回復方法決定ステップにおいて、
前記管理サーバは、キャッシュ構成情報とペア構成情報とに基づいて、
ペアを構成していない仮想主ボリュームのキャッシュが有効である場合、前記仮想主ボリュームに対応する実主ボリュームのデータの回復が不可能と判定し、
ペアを構成している仮想主ボリューム及び仮想副ボリュームのキャッシュが共に有効である場合、前記仮想主ボリュームに対応する実主ボリューム及び前記仮想副ボリュームに対応する実副ボリュームのデータの回復が不可能と判定された際、
前記回復実行ステップにおいて、
前記ペアを構成していない仮想主ボリュームの場合、対応する実主ボリュームの位置情報のエントリを削除し、
または、前記ペアを構成している仮想主ボリューム及び仮想副ボリュームの場合、対応する実主ボリューム及び実副ボリュームの位置情報のエントリを削除する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項１４】
前記データ回復方法決定ステップにおいて、
前記管理サーバは、ボリュームの位置情報、キャッシュ構成情報、及びペア構成情報に基づいて、実副ボリュームが前記ストレージに存在し、かつ、前記実副ボリュームのキャッシュが無効であり、かつ、前記実副ボリュームがボリューム回復方法決定において構築されたものではなく、かつ、実主ボリュームが前記ストレージに存在する場合、前記実主ボリュームのデータの回復が可能と判定する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項１５】
前記データ回復方法決定ステップにおいて、
前記管理サーバは、ボリュームの位置情報、キャッシュ構成情報、及びペア構成情報に基づいて、実主ボリュームが前記ストレージに存在し、かつ、前記実主ボリュームのキャッシュが無効であり、かつ、前記実主ボリュームがボリューム回復方法決定において構築されたものではなく、かつ、実副ボリュームが前記ストレージに存在する場合、実副ボリュームのデータの回復が可能と判定する
ことを特徴とする請求項１に記載のストレージ構成回復方法。
【請求項１６】
前記データ回復方法決定ステップにおいて、データの回復が可能と判定した際に、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、
ペアがローカルペアとして構築してある場合、ローカルコピーを利用して、前記実副ボリュームから前記実主ボリュームのデータ回復を実施することをデータの回復方法として決定し、
ペアがリモートペアとして構築してある場合、リモートコピーを利用して、前記実副ボリュームから前記実主ボリュームのデータ回復を実施することをデータの回復方法として決定する
ことを特徴とする請求項１４に記載のストレージ構成回復方法。
【請求項１７】
前記データ回復方法決定ステップにおいて、データの回復が可能と判定した際に、
前記管理サーバは、ボリューム位置情報とペア構成情報とに基づいて、
ペアがローカルペアとして構築してある場合、ローカルコピーを利用して、前記実主ボリュームから前記実副ボリュームのデータ回復を実施することをデータの回復方法として決定し、
ペアがリモートペアとして構築してある場合、リモートコピーを利用して、前記実主ボリュームから前記実副ボリュームのデータ回復を実施することをデータの回復方法として決定する
ことを特徴とする請求項１５に記載のストレージ構成回復方法。
【請求項１８】
複数のホストと、複数のボリュームを有する複数のストレージと、前記ボリュームである実ボリュームを、仮想ボリュームと対応付けて管理する仮想化装置とが、第１のネットワークを介して通信可能にされており、前記ホストと、前記ストレージと、前記仮想化装置とが、第２のネットワークを介して管理サーバと通信可能にされるストレージ管理システムにおいて、
前記仮想化装置は、自装置に実ボリューム及びキャッシュを備えており、
前記管理サーバが、
前記仮想化装置の構成情報と前記ストレージの構成情報とを取得する構成情報取得手段と、
前記仮想化装置の障害発生が検出された際に、前記仮想化装置の障害により失われてしまった実ボリューム及びペアを再構成できるか否かの実ボリューム及びペアの回復可否をボリューム位置情報とペア構成情報とに基づいて判定し、前記実ボリューム及びペアの回復が可能であると判定された場合、ボリュームの回復方法の候補を決定するボリューム回復方法決定手段と、
前記ボリューム回復方法決定ステップでの前記ボリュームの回復方法の候補についてボリューム位置情報とペア構成情報及びキャッシュの有効の可否に基づいてデータの回復可否を判定し、前記データの回復が可能であると判定された場合、データの回復方法の候補を決定するデータ回復方法決定手段と、
前記ボリュームの回復方法の候補と、前記データの回復方法の候補との組合せの回復方法を表示部に表示し、入力部からの入力により前記組合せの回復方法が選択されると、選択された前記組合せの回復方法を実行するとともに、前記組合せの回復方法に該当する前記ストレージに対して、前記ホストとパスを構築する要求を行う回復実行手段と、を有する
ことを特徴とするストレージ管理システム。
【請求項１９】
前記ボリューム回復方法決定手段において、
前記管理サーバは、
ボリューム位置情報とペア構成情報とに基づいて、ペアを構成している仮想主ボリューム及び仮想副ボリュームのうち、前記仮想主ボリュームに対応する実主ボリュームと、前記仮想副ボリュームに対応する実副ボリュームとのどちらか一方あるいは両方が前記ストレージに存在する場合、ボリュームの回復が可能と判定する
ことを特徴とする請求項１８に記載のストレージ管理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、仮想化構成における障害発生の際のストレージ構成回復方法及びストレージ管理システムに関する。
【背景技術】
【０００２】
近年、ＳＡＮ（Storage Area Network）環境に存在する様々なベンダの異機種ストレージ装置を１つに統合し、ストレージ運用の柔軟性や効率向上を実現するストレージ仮想化技術が普及しつつある。例えば、特許文献１では、ストレージ装置において仮想化機能を実現するストレージコントローラベースの仮想化技術を提供しており、外部接続機能により、異機種ストレージ装置の統合を実現している。
【特許文献１】特開２００６−２４２１５号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、仮想化装置を利用したシステム構成では、仮想化装置がシステム全体のSingle Point of Failureとなり、仮想化装置を二重化しないシステム構成で、仮想化装置における障害が発生した場合、業務を速やかに再開できるように回復するのが困難となる。これは、（１）回復に必要なシステム構成情報が失われる、（２）異機種ストレージを柔軟に統合していた仮想化装置の機能が損なわれてしまうためストレージ機種に依存した回復手段を適切に選択する必要があり、その組み合わせが膨大である、などの理由があるためである。なお、Single Point of Failureとは、コンピュータの構成要素（ハードウェアの部品）が１つしかないために、その個所で障害が起きると業務が止まってしまう弱点のことをいう。
【０００４】
本発明は、前記の課題を解決するための発明であって、仮想化装置が二重化されていないＳＡＮ環境における仮想化装置の障害発生時に、仮想化装置を介さないストレージ構成へ変更し、速やかに業務を再開できるストレージ構成回復方法及びストレージ管理システムを提供することを目的とする。
【課題を解決するための手段】
【０００５】
本発明は、以下の手段を用いて、ボリューム回復を実現する。管理サーバ（例えば、ストレージ管理サーバ１００）は、（１）仮想化装置が保持するシステム構成情報のバックアップを取得する。（２）仮想化装置に障害が発生した場合、仮想化装置と外部記憶装置の構成情報である、ボリューム位置情報、キャッシュ構成情報、及びペア構成情報を総合的に判断し、適切な方法で、実ボリューム及びペア構成、データの回復を行った上で、回復した実主ボリュームへアクセスパスを切り替える。これにより、障害が発生した仮想化装置を経由しない構成への短時間でのシステム構成変更、及び回復と継続稼動を可能とする。
【発明の効果】
【０００６】
本発明によれば、仮想化装置が二重化されていないＳＡＮ環境における仮想化装置の障害発生時に、仮想化装置を介さないストレージ構成へ変更し、速やかに業務を再開できる。
【発明を実施するための最良の形態】
【０００７】
以下、本発明の一実施の形態を、図面を参照しながら詳細に説明する。
図１は、本発明を適用したストレージ管理システムの一例を示す図である。ストレージ管理システムは、管理サーバ（以下、「ストレージ管理サーバ」という。）１００、複数のホスト計算機（以下、「業務ホスト」という。）５００、ストレージの仮想化機能を有する複数のデータ記憶装置（以下、「仮想化装置」という。）６００、仮想化装置６００に外部接続された複数のデータ記憶装置７００（以下、「外部記憶装置」（ストレージ）という。）を含んで構成されている。なお、図１において、仮想化装置６００は、二重化されていないことを明確化するために、ひとつの仮想化装置６００として表現している。二重化されていない仮想化装置６００であれば、複数の仮想化装置６００が存在してもよい。
【０００８】
複数の業務ホスト５００、仮想化装置６００、及び複数の外部記憶装置７００は、ＦＣ（Fibre Channel）プロトコルあるいはＴＣＰ／ＩＰ（Transmission Control Protocol / Internet Protocol）プロトコルによるＳＡＮあるいはＩＰ−ＳＡＮ等のネットワーク（第１のネットワーク）３００で接続されている。また、ストレージ管理サーバ１００、複数の業務ホスト５００、仮想化装置６００、及び複数の外部記憶装置７００は、ＴＣＰ／ＩＰプロトコルによるＬＡＮ等のネットワーク（第２のネットワーク）３１０で接続されている。なお、第１のネットワーク３００がＩＰ-ＳＡＮである場合、第１のネットワーク３００と第２のネットワーク３１０とを同一のネットワークとしてもよい。
【０００９】
業務ホスト５００は、第１のネットワーク３００とのインタフェースであるＨＢＡ（Host Bus Adapter）９８０ｂを有している。ＨＢＡ９８０ｂは、第１のネットワーク３００と接続する。各業務ホストの主メモリ８９０ｂに格納されているパス管理プログラム５１０は、仮想化装置６００及び外部記憶装置７００内の仮想ボリュームもしくは実ボリュームに対してＩ／Ｏ(Input/Output)要求を発行する。ボリュームの詳細は、図１９を用いて後記する。
【００１０】
仮想化装置６００は、第１のネットワーク３００とのインタフェースであるＣＨＡ（Channel Adapter）９９０ｃとＨＢＡ９８０ｃを有している。このＣＨＡ９９０ｃ及びＨＢＡ９８０ｃは、第１のネットワーク３００と接続する。また、仮想化ディスクコントローラ８５０ｃは、ＣＨＡ９９０ｃ経由で到達したボリュームのＩ／Ｏ要求をディスク装置８６０ｃ上の適切な実ボリュームに対して送信する。また、仮想化ディスクコントローラ８５０ｃは、仮想化装置６００内部のボリューム及び外部記憶装置７００内部の実ボリュームを仮想ボリュームとして管理し、業務ホスト５００からのアクセス制御を行う。さらに、仮想化装置６００は、キャッシュメモリ６２０の管理を行う。
【００１１】
外部記憶装置７００は、第１のネットワーク３００とのインタフェースであるＣＨＡ９９０ｄを有している。ＣＨＡ９９０ｄは、第１のネットワーク３００と接続する。また、ディスクコントローラ８５０ｄは、ＣＨＡ９９０ｄ経由で到達したボリュームのＩ／Ｏ要求をディスク装置８６０ｄ上の適切な実ボリュームに対して送信する。
【００１２】
図１９は、ストレージ管理システムにおける論理的なボリューム構成の一例を示す図である。図１を適宜参照して説明する。なお、図を見やすくするために、説明に不要な一部の物理装置やネットワーク等を省略し、論理的なボリューム及びパスを中心に示している。外部記憶装置７００のディスクコントローラ８５０ｄは、ディスク装置８６０ｄのディスク上に論理的なアクセス単位である実ボリューム９００ｄ（９００）を作成する。仮想化装置６００の仮想化ディスクコントローラ８５０ｃは、ディスク装置８６０ｃのディスク上に論理的なアクセス単位である実ボリューム９００ｃ（９００）を作成する。
【００１３】
また、仮想化ディスクコントローラ８５０ｃは、仮想化装置６００及び外部記憶装置７００内の実ボリューム９００を仮想ボリューム６３０として管理し、業務ホスト５００からのアクセス制御を行う。仮想化ディスクコントローラ８５０ｃは、キャッシュメモリ６２０上に論理的なアクセス単位であるキャッシュボリューム６４０を作成する。このキャッシュボリューム６４０は、仮想ボリューム６３０毎に０個もしくは１個割り当てられる。
【００１４】
仮想化ディスクコントローラ８５０ｃは、図１９に示されるように、仮想ボリューム６３０にキャッシュボリューム６４０が割り当てられている場合、仮想ボリューム６３０に対するＩ／Ｏ要求は、一旦高速なキャッシュボリューム６４０に蓄積しておき、キャッシュボリューム中の蓄積データが満杯となったタイミングで、まとめて実ボリューム９００へのＩ／Ｏ要求を反映することでＩ／Ｏ要求処理の高速化を図る。仮想化ディスクコントローラ８５０ｃは、各仮想ボリューム６３０にキャッシュボリューム６４０を割り当てるか否かのキャッシュの有効／無効の切り替え処理を提供する。
【００１５】
また、仮想化ディスクコントローラ８５０ｃは、仮想ボリューム６３０同士でのペアを作成する。以降、ペアを構成する仮想ボリューム６３０のうち主ボリューム（ＰＶＯＬ）となる仮想ボリュームを仮想主ボリューム（仮想ＰＶＯＬ）６３０ｐ、仮想主ボリュームの実体となる実ボリュームを実主ボリューム（実ＰＶＯＬ）という。また、ペアを構成する仮想ボリューム６３０のうち副ボリューム（ＳＶＯＬ）となる仮想ボリュームを仮想副ボリューム（仮想ＳＶＯＬ）６３０ｓ、仮想副ボリュームの実体となる実ボリュームを実副ボリューム（実ＳＶＯＬ）という。
【００１６】
業務ホスト５００のパス管理プログラム５１０は、マルチパスボリューム５３０を業務アプリケーション５２０（図３参照）に提供する。マルチパスボリューム５３０は、パス管理プログラム５１０により、仮想化装置６００が有する特定の仮想ボリューム６３０、もしくは外部記憶装置７００が有する実ボリューム９００と一対一で関連付けされている。このマルチパスボリューム５３０から、ＨＢＡ９８０ｂを経由し、仮想化装置６００のＣＨＡ９９０ｃもしくは外部記憶装置７００のＣＨＡ９９０ｄを経由し、仮想ボリューム６３０もしくは実ボリューム９００へ到達する経路のことを、パスという。このパスは、仮想化装置６００の仮想化ディスクコントローラ８５０ｃもしくは外部記憶装置７００のディスクコントローラ８５０ｄにより、作成される。業務ホスト５００からマルチパスボリューム５３０に対して発行されたＩ／Ｏ要求は、パスを経由して、仮想化装置６００もしくは外部記憶装置７００に対して送信される。
【００１７】
次に各装置の構成について、図２〜図５を参照して詳細に説明する。
図２は、ストレージ管理サーバの構成の一例を示す図である。ストレージ管理サーバ１００は、システムバス９４０ａに接続された、主メモリ８９０ａ、ディスク装置８６０ａ、中央処理装置（ＣＰＵ）９３０ａ、ネットワークインタフェースカード（ＮＩＣ）９２０ａ、映像出力装置（モニタ）８８０ａ、入力装置８７０ａを有している。
【００１８】
主メモリ８９０ａには、ストレージ管理プログラム１７０、ネットワーク通信プログラム９５０ａ、システムプログラム９６０ａが格納されている。また、主メモリ８９０ａには、プログラムの実行時に一時的に必要となるデータを記憶するために用いられるワークエリア９７０ａが確保されている。システムプログラム９６０ａは、周辺装置との間のデータの入出力等、ストレージ管理プログラム１７０を含む各種プログラムを実行する基本処理機能を提供する。
【００１９】
ストレージ管理プログラム１７０は、後記するストレージ運用管理処理Ｓ１８０、構成回復処理Ｓ１９０、及び、管理者が入力装置８７０ａから仮想化装置６００に対して投入した運用管理操作を仮想化装置６００の障害発生時に外部記憶装置７００の運用管理操作（実運用管理操作）に変換するストレージ運用操作処理Ｓ２５０を有している。
【００２０】
構成回復処理Ｓ１９０は、仮想化装置６００及び外部記憶装置７００の保持するストレージ構成情報の収集、仮想化装置６００の障害検知、及び仮想化装置６００の障害発生時にストレージシステムの構成を回復する構成回復処理を行う。
【００２１】
構成回復処理Ｓ１９０には、各ペアを構成する各ボリュームが回復できるか否かを判定するボリューム回復可否判定処理Ｓ２００、回復可能と判定された各ペアを構成する各ボリュームに対して適用可能な回復候補一覧を算出するボリューム回復方法決定処理Ｓ２１０、各ボリューム回復方法を用いた場合、ボリューム内のデータを回復できるか否かを判定するデータ回復可否判定処理Ｓ２２０、回復可能なデータに対して適用可能な回復候補を算出するデータ回復方法決定処理Ｓ２３０、回復実行処理Ｓ２４０が含まれる。Ｓ２１０・Ｓ２３０の処理で算出した回復方法一覧をモニタ８８０ａに表示され、管理者に入力装置８７０ａを利用して選択させたのち、回復実行処理Ｓ２４０は、実際にボリューム及びデータの回復処理を実行する。
【００２２】
ディスク装置８６０ａには、ストレージ構成情報であるボリューム位置情報８００ａ（８００）、ペア構成情報８１０ａ（８１０）、キャッシュ構成情報８２０ａ（８２０）、アクセスパス構成情報８３０ａ（８３０）、提供運用管理操作情報８４０ａ（８４０）が格納される。なお、これらのストレージ構成情報の詳細については後記する（図６〜図１０参照）。
【００２３】
ＣＰＵ９３０ａは、主メモリ８９０aに格納されているストレージ管理プログラム１７０、ネットワーク通信プログラム９５０ａ、システムプログラム９６０ａ等の各種プログラムを実行する。ＮＩＣ９２０ａは、ネットワーク通信プログラム９５０ａから要求された第２のネットワーク３１０に対する通信を制御する。モニタ８８０ａは、主メモリ８９０aに格納されているプログラムの実行状態等を管理者に通知するための装置である。入力装置８７０ａは、主メモリ８９０aに格納されているプログラムに対して、管理者が運用管理操作を投入するための装置である。
【００２４】
ストレージ管理サーバ１００は、ストレージ管理プログラム１７０によって、各仮想化装置６００及び外部記憶装置７００の状態を管理し、仮想化装置６００の障害発生時に構成回復処理Ｓ１９０を実行する。また、ストレージ管理サーバ１００に対して、管理者が任意の操作を実行すると、ストレージ運用操作処理Ｓ２５０を実行する。
【００２５】
ストレージ管理システムにおける動作の概要は次の通りとなる。
ストレージ管理サーバ１００は、ストレージ運用管理処理Ｓ１８０を実行する。ストレージ運用管理処理Ｓ１８０の詳細は後記する（図１１参照）が、ここでは概要を説明する。ストレージ運用管理処理Ｓ１８０は、次の処理を行う。まず、ストレージ管理サーバ１００は、一定の間隔で定期的に、もしくは、仮想化装置６００の構成情報が変更されたタイミングで、つまり、所定のタイミングで構成情報の変更に関する通知を受信すると、各仮想化装置６００から第２のネットワーク（ＬＡＮ）３１０経由でストレージ構成情報を収集し、ディスク装置８６０ａに保存する。
【００２６】
次に、ストレージ管理サーバ１００は、一定の間隔で定期的に、もしくは、仮想化装置６００が内部の障害を検知したタイミングで、障害の検知に関する通知を受信すると、各仮想化装置６００の障害確認を行う。障害確認とは、例えば、仮想化装置６００に第２のネットワーク３１０経由で状態返信要求を一定間隔で複数回送信し、その返信が１つも返ってこなかった場合、あるいは状態返信が返ってきたがその状態が障害と診断されていた場合、障害が発生したと判定する動作である。
【００２７】
ストレージ運用管理処理Ｓ１８０は、障害が発生したと判定した場合、仮想化装置６００に対して構成回復処理Ｓ１９０を実行する。構成回復処理Ｓ１９０の詳細は後記（図１２参照）するが、ここでは概要を説明する。
【００２８】
構成回復処理Ｓ１９０は、ディスク装置８６０ａに保存したストレージ構成情報を利用し、仮想化装置６００が管理していた各ペアに対するボリューム及びデータ回復方法の候補一覧を算出する。
【００２９】
ボリュームの回復方法は、ペア構成情報８１０ａとボリューム位置情報８００ａを利用して、ペアを構成する仮想主ボリュームと仮想副ボリュームの実体が、それぞれ仮想化装置６００または外部記憶装置７００のどちらに存在するのか、その組み合わせから判定される。（１）例えば、仮想主ボリュームに対応する実主ボリュームが仮想化装置上に存在し、仮想副ボリュームに対応する実副ボリュームが仮想化装置上に存在する場合、該ペアは回復不可能と判定される（図２１参照）。（２）仮想主ボリュームに対応する実主ボリュームが仮想化装置上に存在し、仮想副ボリュームに対応する実副ボリュームが外部記憶装置上に存在する場合、一例として、外部記憶装置上に実主ボリュームを作成し、ローカルペアを構築する方法を回復候補とする（図２４参照）。（３）仮想主ボリュームに対応する実主ボリュームが外部記憶装置上に存在し、仮想副ボリュームに対応する実副ボリュームが仮想化装置上に存在する場合、一例として、外部記憶装置上に実副ボリュームを作成し、ローカルペアを構築する方法を回復候補とする（図２３参照）。（４）仮想主ボリュームに対応する実主ボリュームが外部記憶装置上に存在し、仮想副ボリュームに対応する実副ボリュームが仮想主ボリュームと異なる外部記憶装置に存在する場合、一例として、両外部記憶装置間でリモートペアを構築する方法を回復候補とする（図２６Ａ参照）。（５）仮想主ボリュームに対応する実主ボリュームが外部記憶装置上に存在し、仮想副ボリュームに対応する実副ボリュームが仮想主ボリュームと同一の外部記憶装置上に存在する場合、一例として、ローカルペアを構築する方法を回復候補とする（図２５参照）。
【００３０】
データの回復方法は、ペア構成情報８１０ａとキャッシュ構成情報８２０ａを利用して、ペアを構成する仮想主ボリュームと仮想副ボリュームのキャッシュ有効状態の組み合わせから判定される。キャッシュが有効であるボリュームは、仮想化装置の障害が発生したことによりキャッシュ情報が失われてしまい、実ボリュームのデータの整合性が失われる。（１）例えば、仮想主ボリューム及び仮想副ボリュームのキャッシュが有効である場合、該ペアは回復不可能と判定される（図２７参照）。（２）仮想主ボリュームのキャッシュが有効であり、仮想副ボリュームのキャッシュが無効であった場合、実副ボリュームのデータから実主ボリュームのデータを回復する。このとき、実主ボリュームと実副ボリュームが同一の外部記憶装置上に存在する場合は、ローカルコピーによる回復をデータ回復候補とする（図２８（а）参照）。（３）一方、異なる外部記憶装置上に存在する場合は、リモートコピーによる回復をデータ回復候補とする（図２８（ｂ）参照）。（４）仮想主ボリュームのキャッシュが無効であり、仮想副ボリュームのキャッシュが有効である場合、仮想主ボリュームのデータから仮想副ボリュームのデータを回復する。このとき、実主ボリュームと実副ボリュームが同一の外部記憶装置上に存在する場合は、ローカルコピーによる回復をデータ回復候補とする（図２８（ｃ）参照）。（５）一方、異なる外部記憶装置上に存在する場合は、リモートコピーによる回復をデータ回復候補とする（図２８（ｄ）参照）。
【００３１】
次に、構成回復処理Ｓ１９０は、回復方法の候補一覧を管理者に提示し、任意の一つの回復方法を選択させる。回復方法が決定した後、構成回復処理Ｓ１９０は、外部記憶装置７００に実ボリュームの作成、ペアの作成、アクセスパスなどのシステム再構築要求を送信する。
【００３２】
また、ストレージ管理サーバ１００は、ストレージ運用操作処理Ｓ２５０を実行する。ストレージ運用操作処理Ｓ２５０の詳細は後記（図１８参照）するが、ここでは概要を説明する。
【００３３】
仮想化装置６００に障害が発生していない場合、ストレージ管理サーバ１００は、管理者が投入したストレージ運用管理操作指示を仮想化装置６００に対して送信する。一方、仮想化装置６００に障害が発生していた場合、ストレージ運用操作処理Ｓ２５０は、次の処理を行う。
【００３４】
まず、管理者が投入したストレージ運用管理操作の操作対象ボリュームである仮想ボリュームが、どの外部記憶装置７００上に存在するのかと、及び該外部記憶装置上のどの実ボリュームに相当するのかについて、ディスク装置８６０ａに格納しておいたストレージ構成情報を利用して判定する。
【００３５】
次に、ストレージ運用操作処理Ｓ２５０は、ストレージ運用管理操作の指示を仮想化装置６００の命令から外部記憶装置７００の命令に変換する。その後、操作対象の仮想ボリュームの識別子を外部記憶装置７００上の実ボリュームの識別子に変換し、外部記憶装置７００に対してＬＡＮ経由でストレージ運用管理操作指示を送信する。
【００３６】
図３は、業務ホストの構成の一例を示す図である。業務ホスト５００は、システムバス９４０ｂに接続された、主メモリ８９０ｂ、ＣＰＵ９３０ｂ、ＮＩＣ９２０ｂ、ＨＢＡ９８０ｂを有している。主メモリ８９０ｂには、パス管理プログラム５１０、業務アプリケーション５２０、ネットワーク通信プログラム９５０ｂ、システムプログラム９６０ｂが格納されている。また、主メモリ８９０ｂには、プログラムの実行時に一時的に必要となるデータを記憶する記憶領域であるワークエリア９７０ｂが確保されている。業務アプリケーション５２０は、管理者が本システムにおいて、業務を実行するために運用しているプログラムである。パス管理プログラム５１０は、業務ホスト５００、及び、仮想化装置６００内部の仮想ボリューム６３０または外部記憶装置７００内部の実ボリューム９００とのパスに関する情報の収集、Ｉ／Ｏの負荷に応じてパスを選択する負荷分散を行う。
【００３７】
ＣＰＵ９３０ｂは、主メモリ８９０ｂに格納されているパス管理プログラム５１０、業務アプリケーション５２０、ネットワーク通信プログラム９５０ｂ、システムプログラム９６０ｂ等の各種プログラムを実行する。ＮＩＣ９２０ｂは、ネットワーク通信プログラム９５０ｂから要求された第２のネットワーク３１０に対する通信を制御する。ＨＢＡ９８０ｂは、第１のネットワーク３００と接続するための装置である。
【００３８】
図４は、仮想化装置の構成の一例を示す図である。仮想化装置６００は、システムバス９４０ｃに接続された、主メモリ８９０ｃ、仮想化ディスクコントローラ８５０ｃ、ディスク装置８６０ｃ、キャッシュメモリ６２０ｃ、ＮＩＣ９２０ｃ、ＣＨＡ９９０ｃ、ＨＢＡ９８０ｃを有している。主メモリ８９０ｃには、仮想化装置管理プログラム６１０、ネットワーク通信プログラム９５０ｃが格納されている。また、主メモリ８９０ｃには、プログラムの実行時に一時的に必要となるデータを記憶する記憶領域であるワークエリア９７０ｃが確保されている。
【００３９】
仮想化装置管理プログラム６１０は、ストレージ構成情報であるボリューム位置情報８００ｃ（８００）、ペア構成情報８１０ｃ（８１０）、キャッシュ構成情報８２０ｃ（８２０）、アクセスパス構成情報８３０ｃ（８３０）、提供運用管理操作情報８４０ｃ（８４０）を保持する。なお、これらのストレージ構成情報の詳細については後記する。
【００４０】
また、仮想化装置管理プログラム６１０は、ディスク装置８６０ｃを論理的なアクセス単位である実ボリュームとして作成する処理、外部記憶装置７００内の実ボリューム及び仮想化装置６００内の実ボリュームを仮想ボリュームとして管理する処理、仮想ボリューム同士でのペア作成処理、仮想ボリューム毎のキャッシュの有効／無効の設定切り替え処理、業務ホスト５００と仮想化装置６００との間に論理的なパスを作成する処理、仮想化装置内に障害が発生しているか否かを判定する処理を行う。
【００４１】
仮想化ディスクコントローラ８５０ｃは、主メモリ８９０ｃに格納された各種プログラムの実行制御を行う。また、仮想化ディスクコントローラ８５０ｃは、いくつかのディスク装置８６０ｃで構成されたＲＡＩＤ（Redundant Arrays of Inexpensive Disks）グループを制御している。更に、このＲＡＩＤグループを構成する複数のディスク装置８６０ｃの記憶領域を所定の領域に分割し、論理的なアクセス単位である実ボリュームを形成している。また、仮想化ディスクコントローラ８５０ｃは、ＣＨＡ９９０ｃから受けた仮想ボリュームへのＩ／Ｏ要求を、ディスク装置８６０ｃ上に構築されている実ボリューム、もしくは外部記憶装置７００上の実ボリュームに送信する。このとき、仮想ボリュームに対応する実ボリュームが外部記憶装置７００上にあった場合、ＨＢＡ９８０ｃに対してＩ／Ｏ要求を発行し、第１のネットワーク３００を経由して外部記憶装置７００に送信する。
【００４２】
キャッシュメモリ６２０ｃは、仮想ボリュームに対してＩ／Ｏ要求が送付された場合、そのＩ／Ｏ一時データを格納する領域を提供する。ＮＩＣ９２０ｃは、ネットワーク通信プログラム９５０ｃから要求された第２のネットワーク３１０に対する通信を制御する。ＣＨＡ９９０ｃ及びＨＢＡ９８０ｃは、第１のネットワーク３００と接続する。
【００４３】
図５は、外部記憶装置の構成の一例を示す図である。外部記憶装置７００は、システムバス９４０ｄに接続された、主メモリ８９０ｄ、ディスクコントローラ８５０ｄ、ディスク装置８６０ｄ、ＮＩＣ９２０ｄ、ＣＨＡ９９０ｄを有している。主メモリ８９０ｄには、外部記憶装置管理プログラム７１０、ネットワーク通信プログラム９５０ｄが格納されている。また、主メモリ８９０ｄには、プログラムの実行時に一時的に必要となるデータを記憶する記憶領域であるワークエリア９７０ｄが確保されている。
【００４４】
外部記憶装置管理プログラム７１０は、ストレージ構成情報である提供運用管理操作情報８４０ｄ（８４０）を保持する。なお、このストレージ構成情報の詳細については、図１０を用いて後記する。また、外部記憶装置管理プログラム７１０は、ディスク装置８６０ｄを論理的なアクセス単位である実ボリュームとして作成する処理、実ボリューム同士でのペア作成処理、業務ホスト５００と外部記憶装置７００との間に論理的なパスを作成する処理を行う。
【００４５】
ディスクコントローラ８５０ｄは、主メモリ８９０ｄに格納された各種プログラムの実行制御を行う。また、ディスクコントローラ８５０ｄは、いくつかのディスク装置８６０ｄで構成されたＲＡＩＤグループを制御している。更に、このＲＡＩＤグループを構成する複数のディスク装置８６０ｄの記憶領域を所定の領域に分割し、論理的なアクセス単位である実ボリュームを形成している。また、ディスクコントローラ８５０ｄは、ＣＨＡ９９０ｄから受けた実ボリュームへのＩ／Ｏ要求を、ディスク装置８６０ｄ上に構築されている実ボリュームに送信する。ＮＩＣ９２０ｄは、ネットワーク通信プログラム９５０ｄから要求された第２のネットワーク３１０に対する通信を制御する。ＣＨＡ９９０ｄは、第１のネットワーク３００と接続する。
【００４６】
図６は、ボリューム位置情報のテーブルの一例を示す図である。ボリューム位置情報８００（８００ａ及び８００ｃ）は、各仮想化装置６００内部で管理する仮想ボリュームと実ボリュームとの対応情報であり、仮想化装置６００の仮想化装置管理プログラム６１０により作成され、ストレージ管理サーバ１００が集約し、バックアップする情報である。
【００４７】
ボリューム位置情報８００は、仮想化装置６００を一意に示す識別子である仮想化装置識別子８０００１、仮想化装置識別子８０００１が管理する仮想ボリュームを一意に示す識別子である仮想ボリューム識別子８０００２、仮想ボリュームに対応する実ボリュームが格納されているデータ記憶装置を一意に示す識別子である実装置識別子８０００３、仮想ボリュームに対応するデータ記憶装置識上の実ボリュームを一意に示す識別子である実ボリューム識別子８０００４を含む。
【００４８】
仮想化装置識別子８０００１及び実装置識別子８０００３は、仮想化装置及び外部記憶装置製造ベンダが出荷時に装置に対して、全世界でユニークとなるように割り当てたシリアル番号（例えば、ＮＩＣ９２０のＭＡＣ（Media Access Control address）アドレス）から導出する。仮想ボリューム識別子８０００２は、仮想化装置６００が仮想ボリューム６３０を作成するたびに、仮想ボリュームに対して付与するシリアル番号から導出する。この識別子は仮想化装置６００内で一意である。実ボリューム識別子８０００４は、仮想化装置６００もしくは外部記憶装置７００が実ボリューム９００を作成するたびに、実ボリュームに対して付与するシリアル番号から導出する。この識別子は、該装置内で一意である。
【００４９】
なお、ストレージ管理サーバ１００に保存されているボリューム位置情報８００は、構成回復処理Ｓ１９０の実行により、仮想化装置６００を利用しないボリューム構成に書き換えられる。具体的には、実装置識別子８０００３と実ボリューム識別子８０００４の値が、全て外部記憶装置７００の識別子となる。ここで、回復方法が存在しなかったボリュームに関しては、実装置識別子８０００３及び実ボリューム識別子８０００４の値が共に空となる（図６では、便宜的に「−」で示す）。図６のボリューム位置情報８００の各エントリである８００５０、８００５１、８００５２、８００５３、８００５４、８００５５、８００５６、８００５７、８００５８は、それぞれ８００６０、８００６１、８００６２、８００６３、８００６４、８００６５、８００６６、８００６７、８００６８に書き換えられている。
【００５０】
具体的には、８００５０の仮想ボリュームは、回復方法が存在しないため、８００６０の実装置識別子及び実ボリューム識別子は、共に空となる。また、８００５１の実装置識別子の値である仮想化装置「ＵＳＰ１」と実ボリューム識別子の値である仮想化装置内の実ボリューム「Ｒ−ＶＯＬ２」は、回復後の８００６１では、回復前と異なる実装置識別子の値である外部記憶装置「ＤＦ１」と実ボリューム識別子の値である外部記憶装置内の実ボリューム「Ｒ−ＶＯＬ２」となる。また、８００５６の実装置識別子の値である外部記憶装置「ＤＦ１」と実ボリューム識別子の値である仮想化装置内の実ボリューム「Ｒ−ＶＯＬ３」は、回復後の８００６６では、回復前と異なる実装置識別子の値である外部記憶装置「ＤＦ２」と実ボリューム識別子の値である外部記憶装置内の実ボリューム「Ｒ−ＶＯＬ４」となる。
【００５１】
図７は、ペア構成情報のテーブルの一例を示す図である。ペア構成情報８１０（８１０ａ及び８１０ｃ）は、各仮想化装置６００で作成したペアの仮想主ボリュームと仮想副ボリュームの識別子情報であり、仮想化装置６００の仮想化装置管理プログラム６１０（図４参照）により作成され、ストレージ管理サーバ１００が集約し、バックアップする情報である。
【００５２】
ペア構成情報８１０ｃ（図４参照）は、仮想化装置６００を一意に示す識別子である仮想化装置識別子８１００１、該ペアの主ボリュームとなる仮想ボリュームを一意に示す識別子である仮想主ボリューム識別子８１００２、該ペアの副ボリュームとなる仮想ボリュームを一意に示す識別子である仮想副ボリューム識別子８１００３を含む。ここで、ペアを構築していないボリュームに関しては、該ボリュームの識別子を仮想主ボリューム識別子８１００２として示し、仮想副ボリューム識別子８１００３は空となる（図７では、便宜的に「−」で示す）。
【００５３】
ペア構成情報８１０ａ（図２参照）は、ストレージ管理サーバ１００が集約し、バックアップする情報であるため、仮想化装置識別子８１００１、仮想主ボリューム識別子８１００２、仮想副ボリューム識別子８１００３のほかに、回復候補８１００４を含む。回復候補は、複数列挙して登録され、登録の書式は、（ボリューム回復方法，データ回復方法）である。
【００５４】
ここで、ペアを構築していないボリュームに関しては、該ボリュームの識別子を仮想主ボリューム識別子８１００２として示し、仮想副ボリューム識別子８１００３は空（図７では、便宜的に「−」で示す。）となる。
【００５５】
仮想化装置識別子８１００１は、仮想化装置製造ベンダが出荷時に装置に対して、全世界でユニークとなるように割り当てたシリアル番号（例えば、ＮＩＣ９２０のＭＡＣアドレス）から導出する。仮想主ボリューム識別子８１００２及び仮想副ボリューム識別子８１００３は、仮想化装置６００が仮想ボリューム６３０を作成するたびに、仮想ボリュームに対して付与するシリアル番号から導出する。この識別子は仮想化装置６００内で一意である。
【００５６】
図８は、キャッシュ構成情報のテーブルの一例を示す図である。キャッシュ構成情報８２０（８２０ａ及び８２０ｃ）は、各仮想化装置６００が管理する各仮想ボリュームがキャッシュ有効／無効のいずれで運用されているかを管理する情報であり、仮想化装置６００の仮想化装置管理プログラム６１０により作成され、ストレージ管理サーバ１００が集約し、バックアップする情報である。このキャッシュ構成情報８２０は、仮想化装置６００を一意に示す識別子である仮想化装置識別子８２００１、仮想化装置６００で管理されている仮想ボリュームを一意に示す識別子である仮想ボリューム識別子８２００２、キャッシュ有効／無効のフラグをｙｅｓ／ｎｏで示すキャッシュ利用８２００３を含む。
【００５７】
仮想化装置識別子８２００１は、仮想化装置製造ベンダが出荷時に装置に対して、全世界でユニークとなるように割り当てたシリアル番号（例えば、ＮＩＣ９２０のＭＡＣアドレス）から導出する。仮想ボリューム識別子８２００２は、仮想化装置６００が仮想ボリューム６３０を作成するたびに、仮想ボリュームに対して付与するシリアル番号から導出する。この識別子は仮想化装置６００内で一意である。キャッシュ利用８２００３は、仮想ボリューム識別子８２００２のボリュームのキャッシュが有効であればｙｅｓ、キャッシュが無効であればｎｏとなる。
【００５８】
図９は、アクセスパス構成情報のテーブルの一例を示す図である。アクセスパス構成情報８３０（８３０ａ及び８３０ｃ）は、各仮想化装置６００と各業務ホスト５００間で構築されているパスの情報であり、仮想化装置６００の仮想化装置管理プログラム６１０により作成され、ストレージ管理サーバ１００が集約し、バックアップする情報である。このアクセスパス構成情報８３０は、仮想化装置６００を一意に示す識別子である仮想化装置識別子８３００１、仮想化装置６００で管理されている仮想ボリュームを一意に示す識別子である仮想ボリューム識別子８３００２、該仮想ボリュームを利用する業務ホストを一意に示す識別子である業務ホスト識別子８３００３を含む。
【００５９】
仮想化装置識別子８３００１は、仮想化装置製造ベンダが出荷時に装置に対して、全世界でユニークとなるように割り当てたシリアル番号（例えば、ＮＩＣ９２０のＭＡＣアドレス）から導出する。仮想ボリューム識別子８３００２は、仮想化装置６００が仮想ボリューム６３０を作成するたびに、仮想ボリュームに対して付与するシリアル番号から導出する。この識別子は仮想化装置６００内で一意である。業務ホスト識別子８０００３は、業務ホスト製造ベンダが出荷時に装置に対して、全世界でユニークとなるように割り当てたシリアル番号（例えば、ＮＩＣ９２０のＭＡＣアドレス）から導出する。
【００６０】
図１０は、提供運用管理操作情報のテーブルの一例を示す図である。提供運用管理操作情報８４０（８４０ａ、８４０ｃ、８４０ｄ）は、データ記憶装置である仮想化装置６００及び外部記憶装置７００がそれぞれ提供する運用管理操作の情報であり、各データ記憶装置の管理プログラムにより作成され、ストレージ管理サーバ１００が集約し、バックアップする情報である。この提供運用管理操作情報８４０は、データ記憶装置を一意に示す識別子である実装置識別子８４００１、該データ記憶装置で提供する運用管理操作を示す識別子である提供操作名８４００２、提供操作名に対応する仮想操作名である仮想提供操作名８４００３を含む。
【００６１】
実装置識別子８４００１は、仮想化装置及び外部記憶装置製造ベンダが出荷時に装置に対して、全世界でユニークとなるように割り当てたシリアル番号（例えば、ＮＩＣ９２０のＭＡＣアドレス）から導出する。提供操作名８４００２は、仮想提供操作名８４００３に対応する操作名を示す。仮想化装置及び外部記憶装置製造ベンダが出荷時に提供操作名一覧を登録する。仮想提供操作名８４００３に対応する操作を提供していない場合、空（図中では−で示す）となる。仮想提供操作名８４００３は、仮想化された提供操作名を示す。例えば、ＳＮＩＡ（Storage Networking Industry Association）により標準化されたストレージ提供操作名を利用する。
【００６２】
図１１は、ストレージ管理サーバにおけるストレージ運用管理処理を示すフローチャートである。ストレージ運用管理処理Ｓ１８０は、ストレージ管理サーバ１００を起動時にデーモンとして実行するストレージ管理プログラム１７０の処理の一部である。一度、ストレージ運用管理処理Ｓ１８０が実行されると、ストレージ管理サーバ１００を終了しない限り、実行は停止しない。ストレージ運用管理処理Ｓ１８０は、本発明の主処理を提供し、主として仮想化装置６００の監視処理及び障害検出時に仮想化装置６００を経由しないシステム構成に回復する処理を実行する。ストレージ運用管理処理Ｓ１８０は、ＣＰＵ９３０ａ（図２参照）により実行される。
【００６３】
最初に、ストレージ運用管理処理Ｓ１８０は、ストレージ管理サーバ１００の管理対象であるデータ記憶装置である仮想化装置６００もしくは外部記憶装置７００を任意に一つ選択し（Ｓ１８００１）、選択したデータ記憶装置の情報をワークエリア９７０ａに格納する。次に、第２のネットワーク３１０を経由して、選択したデータ記憶装置に対してストレージ構成情報を取得するために返信要求を送信する。選択したデータ記憶装置が仮想化装置６００である場合、仮想化装置管理プログラム６１０は、ボリューム位置情報８００ｃ、ペア構成情報８１０ｃ、キャッシュ構成情報８２０ｃ、アクセスパス構成情報８３０ｃ、提供運用管理操作情報８４０ｃを返信する。一方、選択したデータ記憶装置が外部記憶装置７００である場合、外部記憶装置管理プログラム７１０は、提供運用管理操作情報８４０ｄを返信する。ストレージ運用管理処理Ｓ１８０は、そのストレージ構成情報を取得する（Ｓ１８００２）。
【００６４】
次に、ストレージ管理サーバ１００がＬＡＮ経由で受信した、ストレージ構成情報をディスク装置８６０ａに保存する（Ｓ１８００３）。具体的には、ストレージ管理サーバ１００は、仮想化装置が提供する仮想ボリュームと、実ストレージ及び実ボリュームとの、マッピング関係を示したボリューム位置情報８００と、仮想化装置上で作成されているペアの構成を示したペア構成情報８１０と、仮想ボリューム毎のキャッシュの利用状況を示したキャッシュ構成情報８２０と、業務ホストと仮想化装置間とのアクセスパスの構成を示したアクセスパス構成情報８３０とを保存する。
【００６５】
次に、選択したデータ記憶装置が仮想化装置６００であるか否かワークエリア９７０ａの情報から判定する（Ｓ１８００４）。仮想化装置６００でなければ（Ｓ１８００４，Ｎｏ）、即ち外部記憶装置７００であった場合、Ｓ１８００１のステップに戻る。仮想化装置６００である場合（Ｓ１８００４，Ｙｅｓ）、ステップＳ１８００５に移行する。次に、第２のネットワーク３１０を経由して、選択したデータ記憶装置である仮想化装置６００に対して状態返信要求を送信する（Ｓ１８００５）。
【００６６】
仮想化装置６００の仮想化装置管理プログラム６１０は、仮想化装置６００に障害が発生しているか否かを検査し、その結果をストレージ管理サーバ１００に対して返信する。このとき、仮想化装置６００に仮想化装置管理プログラム６１０が実行できない状態であった場合、例えば、仮想化ディスクコントローラ８５０ｃの故障、電源の故障、主メモリ８９０ｃの故障等の障害が発生していた場合、仮想化装置はストレージ管理サーバ１００に対して返信を返すことはできない。ストレージ運用管理処理Ｓ１８０は、仮想化装置６００からの返信が返って来ない場合、返信が得られるまで複数回（例えば、５回）、一定時間（例えば、１０分）の待ち時間を設けた上、再度状態返信要求を送信する。
【００６７】
次に、ストレージ運用管理処理Ｓ１８０は、仮想化装置から返信された情報を検査し、返信が返ってきており、かつ返信内容は障害未発生であるか否かを判定する（Ｓ１８００６）。返信情報が障害未発生の状態を示していた場合（Ｓ１８００６，Ｙｅｓ）、Ｓ１８００１のステップに戻る。一方、返信が返ってこなかった、あるいは返信情報が障害発生の状態を示していた場合（Ｓ１８００６，Ｎｏ）、ステップＳ１８００７に移行する。
【００６８】
最後に、障害の発生した仮想化装置を利用しないストレージ構成にストレージ管理システムを回復するために、構成回復処理Ｓ１９０を実行する（Ｓ１８００７）。構成回復処理Ｓ１９０の詳細は、図１２を参照して説明する。
【００６９】
図１２は、構成回復処理を示すフローチャートである。構成回復処理Ｓ１９０は、ストレージ運用管理処理Ｓ１８０にて選択した任意のデータ記憶装置である仮想化装置６００に障害が発生したと判定された場合に呼び出されるものである。構成回復処理Ｓ１９０は、仮想化装置６００が管理する全ペアを順番に走査していき、ペア毎の回復方法の候補一覧を算出する処理であり、ＣＰＵ９３０ａ（図２参照）により実行される。
【００７０】
最初に、構成回復処理Ｓ１９０は、ペア構成情報８１０ａから仮想化装置に関連するペア情報を抜粋し、その中から一つ選択し（Ｓ１９００１）、選択したペアの情報をワークエリア９７０ａに格納する。次に、Ｓ１９００１で選択したペアに対する回復方法一覧を格納するためのメモリ領域をワークエリア９７０ａ中に確保する（以降、メモリ領域に格納した選択したペアに対する回復方法一覧を候補リストという。）（Ｓ１９００２）。
【００７１】
次に、Ｓ１９００１で選択したペアに対応する仮想主ボリューム識別子８１００２及び仮想副ボリューム識別子８１００３をペア構成情報８１０ａから取得する。次に、Ｓ１９００１で選択したペアを構成する仮想主ボリューム識別子８１００２及び仮想副ボリューム識別子８１００３の仮想ボリュームに対応する実ボリュームの位置情報である実装置識別子８０００３及び実ボリューム識別子８０００４をボリューム位置情報８００ａから取得し（Ｓ１９００３）、ワークエリア９７０ａに格納する。なお、Ｓ１９００１で選択したペアがペアを構成していないボリュームのみである場合、実副ボリュームの位置情報は空となる。
【００７２】
次に、ワークエリア９７０ａに格納した実主ボリューム（実ＰＶＯＬ）及び実副ボリューム（実ＳＶＯＬ）の実装置識別子８０００３で識別される実装置が提供する操作情報（運用管理操作の情報）を、提供運用管理操作情報８４０ａから取得し（Ｓ１９００４）、ワークエリア９７０ａに格納する。次に、Ｓ１９００１で選択したペアの情報をペア構成情報８１０ａから取得し、Ｓ１９００１で選択したペアを構成する仮想主ボリューム識別子８１００２及び仮想副ボリューム識別子８１００３の各ボリュームのキャッシュを有効にして運用していたか否かをキャッシュ構成情報８２０ａから取得し（Ｓ１９００５）、ワークエリア９７０ａに格納する。
【００７３】
次に、失われてしまったペア及びボリュームを再構成できるか否か判定する処理であるボリューム回復可否判定処理Ｓ２００を実行し、ボリュームの回復が可能か否かを判定する（Ｓ１９００６）。ボリューム回復可否判定処理Ｓ２００の詳細は、図１３を用いて後記する。ボリューム回復可否判定処理Ｓ２００で、回復不可能と判定された場合（Ｓ１９００６，Ｎｏ）、Ｓ１９００１で選択したペアは回復できないとし、ステップＳ１９０１３へ移行する。Ｓ１９００１で選択したペアの回復が可能であると判定された場合（Ｓ１９００６、Ｙｅｓ）、次のステップＳ１９００７へ移行する。
【００７４】
次に、Ｓ１９００６でボリュームが回復可能であると判定された場合、ペア及びボリュームの再構築方法の候補一覧を算出する処理であるボリューム回復方法決定処理Ｓ２１０を実行する（Ｓ１９００７）。ボリューム回復方法決定処理Ｓ２１０の詳細は、図１４を用いて後記する。ボリューム回復方法決定処理Ｓ２１０で計算したボリューム回復候補一覧情報は、ワークエリア９７０ａに確保した候補リストに追加される。
【００７５】
次に、Ｓ１９００７で算出した候補リストを順番に走査していき、それぞれのボリューム回復方法に対するデータ回復方法を算出する。まず、候補リストから一つボリューム回復候補を選択し（Ｓ１９００８）、Ｓ１９００１で選択したペアの情報をワークエリア９７０ａに格納する。
【００７６】
次に、ボリューム内のデータの回復が可能であるか判定する処理であるデータ回復可否判定処理Ｓ２２０を実行し、データの回復が可能か否かを判定する（Ｓ１９００９）。データ回復可否判定処理Ｓ２２０の詳細は、図１５を用いて後記する。データ回復可否判定処理Ｓ２２０で、回復不可能と判定された場合（Ｓ１９００９，Ｎｏ）、該ペア及びボリュームを回復したとしても、そのデータを回復できないため、候補リストからＳ１９００８で選択したボリューム回復方法候補を削除する（Ｓ１９０１１）。一方、データ回復可否判定処理Ｓ２２０で、回復可能と判定された場合（Ｓ１９００９，Ｙｅｓ）、実際のデータ回復方法を算出するため、データ回復方法決定処理Ｓ２３０を実行する（Ｓ１９０１０）。データ回復方法決定処理Ｓ２３０の詳細は、図１６を用いて後記する。
【００７７】
次に、Ｓ１９００１で選択したペアに対する候補リストの中に、データ回復方法が未処理のボリューム回復候補が含まれているか否かを判定する（Ｓ１９０１２）。未処理のボリューム回復候補が含まれている場合（Ｓ１９０１２，Ｙｅｓ）、Ｓ１９００８のステップに戻り、データ回復方法の算出を繰り返す。未処理のボリューム回復候補が含まれていない場合（Ｓ１９０１２，Ｎｏ）、次に、Ｓ１９００１で選択したペアに対する候補リストから実際に任意の一つを管理者に選択させ、それを実行する処理である回復実行処理Ｓ２４０を実行する（Ｓ１９０１３）。回復実行処理Ｓ２４０の詳細は、図１７を用いて後記する。
【００７８】
最後に、仮想化装置が管理していたペアにおいて、未処理のペアが存在するか否かを判定する（Ｓ１９０１４）。未処理のペアが存在していた場合（Ｓ１９０１４，Ｙｅｓ）、Ｓ１９００１のステップに戻り、処理を繰り返し、未処理のペアが存在しない場合（Ｓ１９０１４，Ｎｏ）、一連の処理を終了する。
【００７９】
図１３は、ボリューム回復可否判定処理を示すフローチャートである。図２０及び図２１は、図１３における回復不可能なストレージ構成の一例を示す説明図である。ボリューム回復可否判定処理Ｓ２００は、ワークエリア９７０ａに格納されているＳ１９００１で選択したペア及びそのペアを構成するボリュームが回復可能であるか判定する処理であり、ＣＰＵ９３０ａ（図２参照）により実行される。
【００８０】
最初に、ボリューム回復可否判定処理Ｓ２００は、ワークエリア９７０ａに格納されている実主ボリューム９０００１（図２０参照）と実副ボリュームの情報を参照し、実副ボリュームが空である、即ちペアを構築していないボリュームであり、かつ実主ボリューム９０００１の実装置識別子８０００３が仮想化装置６００である場合（Ｓ２０００１，Ｙｅｓ）、Ｓ１９００１で選択したペアは回復不可能であると判定し、処理を終了する（Ｓ２０００４）。ペアを構築していないボリュームであり、かつ実主ボリューム９０００１の実装置識別子８０００３が仮想化装置６００でない場合（Ｓ２０００１，Ｎｏ）は、ステップＳ２０００２に移行する。なお、図２０には、回復前の構成（Ｓ２０００１，Ｙｅｓ）と、回復不可能の判定状態（図において斜線で示す。）とが示されている。
【００８１】
次に、実主ボリューム９０００２（図２１参照）及び実副ボリューム９０００３（図２１参照）の実装置識別子８０００３が共に仮想化装置６００である場合（Ｓ２０００２，Ｙｅｓ）、Ｓ１９００１で選択したペアは回復不可能であると判定し、処理を終了する（Ｓ２０００４）。図２１には、回復前の構成（Ｓ２０００２，Ｙｅｓ）と、回復不可能の判定状態とが示されている。
【００８２】
最後に、Ｓ２０００１、Ｓ２０００２のいずれの場合にも該当しなかった場合（Ｓ２０００２，Ｎｏ）、即ち、実主ボリューム及び実副ボリュームの実装置識別子８０００３のいずれか一方、もしくは両方が外部記憶装置７００である場合、Ｓ１９００１で選択したペアは回復可能であると判定し、処理を終了する（Ｓ２０００３）。
【００８３】
図１４Ａ、図１４Ｂ、及び図１４Ｃは、ボリューム回復方法決定処理を示すフローチャートである。図２２、図２３、及び図２４は、図１４Ａにおけるストレージ構成及びその回復候補を示す説明図である。図２５は、図１４Ｂにおけるストレージ構成及びその回復候補を示す説明図である。図２６Ａ、図２６Ｂ、及び図２６Ｃは、図１４Ｃにおけるストレージ構成及びその回復候補を示す説明図である。ボリューム回復方法決定処理Ｓ２１０は、ワークエリア９７０ａに格納されている任意のＳ１９００１で選択したペア及びそのペアを構成するボリュームの回復方法の候補一覧を算出する処理であり、ＣＰＵ９３０ａ（図２参照）により実行される。
【００８４】
最初に、ボリューム回復方法決定処理Ｓ２１０は、ワークエリア９７０ａに格納されている実主ボリューム９０００４（図２２参照）と実副ボリュームの位置情報を参照し、実主ボリューム９０００４の実装置識別子８０００３が外部記憶装置７００であり、かつ実副ボリュームが空である、即ちペアを構築していないボリュームでないか否かを判定する（Ｓ２１００１）。条件が真である場合（Ｓ２１００１，Ｙｅｓ）、ステップＳ２１００３Ａに移行し、条件が偽である場合（Ｓ２１００１，Ｎｏ）、ステップＳ２１００２に移行する。
【００８５】
ステップＳ２１００３Ａでは、実主ボリュームの装置がローカルコピーを提供し、かつ回復用副ボリュームが作成可能か否かを判定する。具体的には、ワークエリア９７０ａを参照し、実主ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、該外部記憶装置がローカルコピーを提供しているか否か検査する。もしも該外部記憶装置がローカルコピーを提供している場合、第２のネットワーク（ＬＡＮ）３１０経由で、該外部記憶装置に実主ボリュームと同容量のボリュームが作成可能であるか否かを問い合わせる。該外部記憶装置からボリュームが作成可能であると返信を受けた場合（Ｓ２１００３Ａ，Ｙｅｓ）、ステップＳ２１００４Ａに移行する。一方、ステップＳ２１００３の判定処理で偽と判定された場合（Ｓ２１００３Ａ，Ｎｏ）、ステップＳ２１００５Ａを実行する。
【００８６】
ステップＳ２１００４Ａでは、外部記憶装置上に実主ボリューム９０００４（図２２参照）もしくは９０００６と同容量の実副ボリューム９０００５（以降、ボリューム回復として作成した実副ボリュームを回復用実副ボリュームという。）を作成する。そして、実主ボリューム９０００４と回復用実副ボリューム９０００５間でローカルペアを構築し、業務ホスト５００は、実主ボリューム９０００４にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加し、ステップＳ２１００２に移行する。
【００８７】
ステップＳ２１００５Ａでは、業務ホストは実主ボリューム９０００４をそのまま利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加し、ステップＳ２１００２に移行する。なお、図２２には、回復前の構成（Ｓ２１００２，Ｙｅｓ）と、Ｓ２１００４Ａに対応する回復候補の構成、及び、Ｓ２１００５Ａに対応する回復候補の構成が示されている。
【００８８】
ステップＳ２１００２において、実主ボリューム９０００６（図２３参照）の実装置識別子８０００３が外部記憶装置であり、かつ実副ボリューム９０００７（図２３参照）の実装置識別子８０００３が仮想化装置であるか否かを判定する。条件が真である場合（Ｓ２１００２，Ｙｅｓ）、ステップＳ２１００３Ｂに移行する。条件が偽である場合（Ｓ２１００２，Ｎｏ）、ステップＳ２１００６に移行する。
【００８９】
ステップＳ２１００３Ｂでは、実主ボリュームの装置がローカルコピーを提供し、かつ回復用実副ボリュームが作成可能か否かを判定する。具体的には、ワークエリア９７０ａを参照し、実主ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、該外部記憶装置がローカルコピーを提供しているか否か検査する。もしも該外部記憶装置がローカルコピーを提供している場合、第２のネットワーク（ＬＡＮ）３１０経由で、該外部記憶装置に実主ボリュームと同容量のボリュームが作成可能であるか否かを問い合わせる。該外部記憶装置からボリュームが作成可能であると返信を受けた場合（Ｓ２１００３Ｂ，Ｙｅｓ）、ステップＳ２１００４Ｂに移行する。一方、ステップＳ２１００３Ｂの判定処理で偽と判定された場合（Ｓ２１００３Ｂ，Ｎｏ）、ステップＳ２１００５Ｂを実行する。
【００９０】
ステップＳ２１００４Ｂでは、外部記憶装置上に実主ボリューム９０００６（図２３参照）と同容量の実副ボリューム（回復用実ボリューム）９０００８を作成する。そして、実主ボリューム９０００４と回復用実副ボリューム９０００８間でローカルペアを構築し、業務ホストは実主ボリューム９０００６にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加し、ステップＳ２１００６に移行する。
【００９１】
ステップＳ２１００５Ｂでは、実副ボリューム９０００７（図２３参照）の回復及びペアを構築せず、業務ホストは実主ボリューム９０００６をそのまま利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加し、ステップＳ２１００６に移行する。なお、図２３には、回復前の構成（Ｓ２１００２，Ｙｅｓ）と、Ｓ２１００４Ｂに対応する回復候補の構成、及び、Ｓ２１００５Ｂの対応する回復候補の構成が示されている。
【００９２】
ステップＳ２１００６において、実主ボリューム９０００９（図２４参照）の実装置識別子８０００３が仮想化装置であり、かつ実副ボリューム９００１０（図２４参照）の実装置識別子８０００３が外部記憶装置であるか否かを判定する。条件が真である場合（Ｓ２１００６，Ｙｅｓ）、Ｓ２１００７のステップに移行し、条件が偽である場合（Ｓ２１００６，Ｎｏ）、ステップＳ２１０１０（図１４Ｂ参照）に移行する。
【００９３】
ステップＳ２１００７では、実副ボリュームの装置がローカルコピーを提供し、かつ回復用実主ボリュームが作成可能か否かを判定する。具体的には、ワークエリア９７０ａを参照し、実副ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、該外部記憶装置がローカルコピーを提供しているか否か検査する。もしも該外部記憶装置がローカルコピーを提供している場合、ＬＡＮ経由で、該外部記憶装置に実副ボリュームと同容量のボリュームが作成可能であるか否かを問い合わせる。該外部記憶装置からボリュームが作成可能であると返信を受けた場合（Ｓ２１００７，Ｙｅｓ）、Ｓ２１００８のステップに移行する。一方、ステップＳ２１００７の判定処理で偽と判定された場合（Ｓ２１００７，Ｎｏ）、ステップＳ２１００９を実行する。
【００９４】
ステップＳ２１００８において、外部記憶装置上に実主ボリューム９０００９（図２４参照）と同容量の実主ボリューム９００１１（以降、実主ボリュームの回復用に作成したボリュームを回復用実ボリュームという。）を作成する。そして、回復用実主ボリューム９００１１と実副ボリューム９００１０間でローカルペアを構築し、業務ホストは回復用実主ボリューム９００１１にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加し、ステップＳ２１０１０に移行する。
【００９５】
ステップＳ２１００９において、実主ボリューム９０００９の回復及びペアを構築せず、実副ボリューム９００１０を回復用実主ボリューム９００１０Ａに切り替え、業務ホストは回復用実主ボリューム９００１０Ａを利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０１０に移行する。
【００９６】
ステップＳ２１０１０（図１４Ｂ参照）において、実主ボリューム９００１２（図２５参照）の実装置識別子８０００３が外部記憶装置であり、かつ実副ボリューム９００１３（図２５参照）の実装置識別子８０００３が外部記憶装置であり、かつ実主ボリューム９００１２と実副ボリューム９００１３が同一の外部記憶装置であるか否かを判定する。条件が真である場合（Ｓ２１０１０，Ｙｅｓ）、ステップＳ２１０１１に移行し、条件が偽である場合（Ｓ２１０１０，Ｎｏ）、ステップＳ２１０１５に移行する。
【００９７】
ステップＳ２１０１１において、実主ボリュームの装置がローカルコピーをサポートしているか否かを判定する。具体的には、実主ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、外部記憶装置がローカルコピーをサポートしているか否か検査し、提供していると判定された場合（Ｓ２１０１１，Ｙｅｓ）、ステップＳ２１０１２に移行し、そうでない場合（Ｓ２１０１１，Ｎｏ）、ステップＳ２１０１３に移行する。
【００９８】
ステップＳ２１０１２において、実主ボリューム９００１２と実副ボリューム９００１３との間でローカルコピーを構築し、業務ホストは実主ボリューム９００１２にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０１５に移行する。
【００９９】
ステップＳ２１０１３において、実副ボリューム９００１３の回復及びペアを構築せず、業務ホストは実主ボリューム９００１２をそのまま利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０１４に移行する。
【０１００】
ステップＳ２１０１４において、実主ボリューム９００１２の回復及びペアを構築せず、実副ボリューム９００１３を回復用実主ボリューム９００１３Ａに切り替え、業務ホストは回復用実主ボリューム９００１３Ａを利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０１５に移行する。なお、図２５には、回復前の構成（Ｓ２１０１０，Ｙｅｓ）と、Ｓ２１０１２に対応する回復候補の構成、Ｓ２１０１３に対応する回復候補の構成、及びＳ２１０１４に対応する回復候補の構成、が示されている。
【０１０１】
ステップＳ２１０１５（図１４Ｃ参照）において、実主ボリューム９００１４（図２６Ａ）の実装置識別子８０００３が外部記憶装置であり、かつ実副ボリューム９００１５の実装置識別子８０００３が外部記憶装置であり、かつ実主ボリューム９００１４と実副ボリューム９００１５が異なる外部記憶装置であるか否かを判定する。条件が真である場合（Ｓ２１０１５，Ｙｅｓ）、ステップＳ２１０１６に移行し、条件が偽である場合（Ｓ２１０１５，Ｎｏ）、ボリューム回復方法決定処理Ｓ２１０を終了する。
【０１０２】
ステップＳ２１０１６において、実主ボリュームと実副ボリュームの装置が共にリモートコピーをサポートしているか否かを判定する。具体的には、実主ボリュームの外部記憶装置が提供する運用管理操作情報と実副ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、これらの情報が共にリモートコピーをサポートしているか判定する。条件が真と判定された場合（Ｓ２１０１６，Ｙｅｓ）、ステップＳ２１０１７に移行し、条件が偽である場合（Ｓ２１０１６，Ｎｏ）、ステップＳ２１０１８に移行する。
【０１０３】
ステップＳ２１０１７において、実主ボリューム９００１４と実副ボリューム９００１５との間にリモートコピーを構築し、業務ホストは実主ボリューム９００１４にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０１８に移行する。なお、図２６Ａには、回復前の構成（Ｓ２１０１５，Ｙｅｓ）と、Ｓ２１０１７に対応する回復候補の構成が示されている。
【０１０４】
ステップＳ２１０１８において、実主ボリュームの装置がローカルコピーを提供し、かつボリュームの作成が可能か否かを判定する。具体的には、ワークエリア９７０ａを参照し、実主ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、該外部記憶装置がローカルコピーを提供しているか否か検査する。もしも該外部記憶装置がローカルコピーを提供している場合、ＬＡＮ経由で、該外部記憶装置に実主ボリュームと同容量のボリュームが作成可能であるか否かを問い合わせる。該外部記憶装置からボリュームが作成可能であると返信を受けた場合（ステップＳ２１０１８，Ｙｅｓ）、ステップＳ２１０１９に移行する。一方、判定処理で偽と判定された場合（ステップＳ２１０１８，Ｎｏ）、ステップＳ２１０２０に移行する。
【０１０５】
ステップＳ２１０１９において、外部記憶装置上に実主ボリューム９００１４と同容量の回復用実副ボリューム９００１６（図２６Ｃ参照）を作成し、実主ボリューム９００１４と回復用実副ボリューム９００１６間でローカルペアを構築し、業務ホストは実主ボリューム９００１４にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０２１に移行する。
【０１０６】
ステップＳ２１０２０において、実副ボリューム９００１５の回復及びペアを構築せず、業務ホストは実主ボリューム９００１４（図２６Ｂ参照）をそのまま利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加する。そして、ステップＳ２１０２１に移行する。
【０１０７】
ステップＳ２１０２１において、実副ボリュームの装置がローカルコピーを提供し、かつボリューム作成が可能か否かを判定する。具体的には、ワークエリア９７０ａを参照し、実副ボリュームの外部記憶装置が提供する運用管理操作情報を参照し、該外部記憶装置がローカルコピーを提供しているか否か検査する。もしも該外部記憶装置がローカルコピーを提供している場合、ＬＡＮ経由で、該外部記憶装置に実副ボリュームと同容量のボリュームが作成可能であるか否かを問い合わせる。該外部記憶装置からボリュームが作成可能であると返信を受けた場合（Ｓ２１０２１，Ｙｅｓ）、ステップＳ２１０２２に移行する。一方、判定処理で偽と判定された場合（Ｓ２１０２１，Ｎｏ）、ステップＳ２１０２３に移行する。
【０１０８】
ステップＳ２１０２２において、外部記憶装置上に実副ボリューム９００１５と同容量の回復用実主ボリューム９００１７（図２６Ｃ参照）を作成し、回復用実主ボリューム９００１７と実副ボリューム９００１５間でローカルペアを構築し、業務ホストは回復用実主ボリューム９００１７にアクセスすることをボリューム回復方法として決定し、候補リストに本回復方法を追加する。そして、処理を終了する。
【０１０９】
ステップＳ２１０２３において、実主ボリューム９００１４の回復及びペアを構築せず、実副ボリューム９００１５を回復用実主ボリューム９００１５Ａ（図２６Ｂ参照）に切り替え、業務ホストは回復用実主ボリューム９００１５Ａを利用することをボリュームの回復方法として決定し、候補リストに本回復方法を追加する。そして、処理を終了する。
【０１１０】
なお、図２６Ｂには、回復前の構成（Ｓ２１０１５，Ｙｅｓ）と、Ｓ２１０２０に対応する回復候補の構成、及び、Ｓ２１０２３に対応する回復候補の構成が示されている。また、図２６Ｃには、回復前の構成（Ｓ２１０１５，Ｙｅｓ）と、Ｓ２１０１９に対応する回復候補の構成、及び、Ｓ２１０２２に対応する回復候補の構成が示されている。
【０１１１】
図１５は、データ回復可否判定処理を示すフローチャートである。図２７は、図１５における回復不可能なストレージ構成を示す説明図である。データ回復可否判定処理Ｓ２２０は、ボリューム回復方法決定処理Ｓ２１０で計算した各ボリューム回復候補に対して実行し、該ボリューム回復方法を適用した場合に、データが回復できるか否かを判定する処理であり、ＣＰＵ９３０ａにより実行される。
【０１１２】
最初に、データ回復可否判定処理Ｓ２２０は、ワークエリア９７０ａに格納されている仮想主ボリューム６３０１３（図２７（ａ）参照）と仮想副ボリュームのキャッシュ情報と実主ボリューム９００１８（図２７（ａ）参照）と実副ボリュームの位置情報を参照し、実副ボリュームの位置情報が空である、即ちペアを構築していないボリュームであり、かつ仮想主ボリューム６３０１３のキャッシュが有効であるか否かを判定し（Ｓ２２００１）、判定結果が真である場合（Ｓ２２００１，Ｙｅｓ）、Ｓ１９００１で選択したペアのデータは回復不可能である判定する（Ｓ２２００６）。判定結果が偽である場合（Ｓ２２００１，Ｎｏ）、ステップＳ２２００２に移行する。
【０１１３】
ステップＳ２２００２において、仮想主ボリューム６３０１４（図２７（ｂ）参照）と仮想副ボリューム６３０１５（図２７（ｂ）参照）が共にキャッシュ有効である場合（Ｓ２２００２，Ｙｅｓ）、Ｓ１９００１で選択したペアのデータは回復不可能である判定する（Ｓ２２００６）。判定結果が偽である場合（Ｓ２２００２，Ｎｏ）、ステップＳ２２０３に移行する。
【０１１４】
ステップＳ２２００３において、実副ボリューム９００２２（図２７（ｃ）参照）の実装置識別子８０００３が仮想化装置上であり、かつ仮想主ボリューム６３０１６（図２７（ｃ）参照）のキャッシュが有効である場合（Ｓ２２０３，Ｙｅｓ）、Ｓ１９００１で選択したペアのデータは回復不可能である判定する（Ｓ２２００６）。判定結果が偽である場合（Ｓ２２００３，Ｎｏ）、ステップＳ２２００４に移行する。
【０１１５】
ステップＳ２２００４において、実主ボリューム９００２３（図２７（ｄ）参照）の実装置識別子８０００３が仮想化装置上であり、かつ仮想副ボリューム６３０１９（図２７（ｄ）参照）のキャッシュが有効である場合（Ｓ２２００４，Ｙｅｓ）、Ｓ１９００１で選択したペアのデータは回復不可能であると判定する（Ｓ２２００６）。判定結果が偽である場合（Ｓ２２００４，Ｎｏ）、ステップＳ２２００５に移行する。
【０１１６】
最後に、ステップＳ２２００５（Ｓ２２００１、Ｓ２２００２、Ｓ２２００３、Ｓ２２００４のいずれの場合にも該当しなかった場合）において、Ｓ１９００１で選択したペアのデータは回復可能であるとして、処理を終了する。
【０１１７】
図１６は、データ回復方法決定処理を示すフローチャートである。また、図２８は、図１６におけるストレージ構成と回復方法を示す説明図である。データ回復方法決定処理Ｓ２３０は、データ回復可否判定処理Ｓ２２０でデータの回復が可能であると判定されたボリューム回復候補に対して、データの回復方法を算出する処理であり、ＣＰＵ９３０ａにより実行される。
【０１１８】
最初に、データ回復方法決定処理Ｓ２３０は、ペアが存在しないか否かを判定し（Ｓ２３００１）、ペアが存在しない場合、即ち、ペアを再構築せず、単独のボリュームのみでボリュームを回復するボリューム回復方法である場合（Ｓ２３００１，Ｙｅｓ）、データの回復は不要とし、そのまま処理を終了する。ペアが存在する場合（Ｓ２３００１，Ｎｏ）、ステップＳ２３００２に移行する。
【０１１９】
ステップＳ２３００２において、仮想副ボリュームのキャッシュが無効か否かを判定し、偽であった場合（キャッシュが有効であった場合）（Ｓ２３００２，Ｎｏ）、ステップＳ２３００３に移行し、真であった場合（キャッシュが無効であった場合）（Ｓ２３００２，Ｙｅｓ）、ステップＳ２３００６に移行する。
【０１２０】
ステップＳ２３００３において、実主ボリュームと実副ボリュームの実装置識別子８０００３が共に同一の外部記憶装置か否かを判定し、真であった場合（Ｓ２３００３，Ｙｅｓ）、ステップＳ２３００４に移行し、偽であった場合（Ｓ２３００３，Ｎｏ）、ステップＳ２３００５に移行する。
【０１２１】
ステップＳ２３００４（図２８(ｃ）参照)において、実主ボリューム９００２９から実副ボリュームもしくは回復用実副ボリューム９００３０をローカルコピーで回復するデータ回復方法と決定し、候補リストに該ボリュームのデータ回復方法を追記する。そして、処理を終了する。
【０１２２】
ステップＳ２３００５（図２８（ｄ）参照）において、実主ボリューム９００３１から実副ボリュームもしくは回復用実副ボリューム９００３２をリモートコピーで回復するデータ回復方法と決定し、候補リストに該ボリュームのデータ回復方法を追記する。そして、処理を終了する。
【０１２３】
ステップＳ２３００６において、実主ボリュームと実副ボリュームの実装置識別子８０００３が共に同一の外部記憶装置か否かを判定し、真であった場合（Ｓ２３００６，Ｙｅｓ）、ステップＳ２３００７に移行し、偽であった場合（Ｓ２３００６，Ｎｏ）、ステップＳ２３００８に移行する。
【０１２４】
ステップＳ２３００７（図２８（ａ）参照）において、実副ボリューム９００２６から実主ボリュームもしくは回復用実主ボリューム９００２５をローカルコピーで回復するデータ回復方法と決定し、候補リストに該ボリュームのデータ回復方法を追記する。
【０１２５】
ステップＳ２３００８（図２８（ｂ）参照）において、実副ボリューム９００２８から実主ボリュームもしくは回復用実主ボリューム９００２７をリモートコピーで回復するデータ回復方法と決定し、候補リストに該ボリュームのデータ回復方法を追記する。
【０１２６】
図１７は、回復実行処理を示すフローチャートである。回復実行処理Ｓ２４０は、ワークエリア９７０ａに格納されている任意のステップＳ１９００１（図１２参照）で選択したペアに対する回復方法の候補一覧から任意の一つを選択し、実際に構成回復を実行する処理であり、ＣＰＵ９３０ａにより実行される。
【０１２７】
最初に、ステップＳ１９００１で選択したペアに対する回復候補が存在するのかワークエリア９７０ａに格納されている候補リストを検査し、回復方法が一件も存在しないか否かを判定する（Ｓ２４００１）。回復候補が一件も存在しない場合（Ｓ２４００１，Ｙｅｓ）、ステップＳ２４００２に移行する。ステップＳ２４００２では、回復実行前のＳ１９００１で選択したペアを構成する仮想主ボリューム及び仮想副ボリュームに対応するボリューム位置情報８００ａのエントリにおいて、仮想主ボリューム及び仮想副ボリュームの実装置識別子８０００３（図６参照）及び実ボリューム識別子８０００４（図６参照）の値をそれぞれ削除し、実主ボリュームと実副ボリュームの情報を更新する。そして、処理を終了する。
【０１２８】
ステップＳ２４００３において、候補リストに保存されている回復候補一覧をモニタ８８０ａに表示し、管理者に対して、入力装置８７０ａを利用して、任意の一つの回復方法を選択することを要求する。管理者が入力装置８７０で回復方法を選択した場合、ワークエリア９７０ａにその回復方法を格納する。そして、ステップＳ２４００４に移行する。
【０１２９】
ステップＳ２４００４において、ワークエリア９７０ａに格納されている管理者が選択した回復方法を実際に実行するために、管理者が選択した回復方法で決定された外部記憶装置に対して、ＬＡＮ経由で管理者が選択した回復方法の実行要求を送信する。次に、アクセスパス構成情報８３０ａを利用して、ステップＳ１９００１で選択したペアの回復前に、ステップＳ１９００１で選択したペアの実主ボリュームを利用していた業務ホスト５００を取得する（Ｓ２４００５）。そして、管理者が選択した回復方法の実主ボリュームとステップＳ２４００５で取得した業務ホスト間にアクセスパスを構築するように、実主ボリュームの外部記憶装置に対して、アクセスパス構築要求を送信する（Ｓ２４００６）。
【０１３０】
最後に、回復実行前のステップＳ１９００１で選択したペアを構成する仮想主ボリューム及び仮想副ボリュームに対応するボリューム位置情報８００ａのエントリを更新し、仮想主ボリューム及び仮想副ボリュームの実装置識別子８０００３及び実ボリューム識別子８０００４の値をそれぞれ回復後のものに上書きし（Ｓ２４００７）、処理を終了する。
【０１３１】
図１８は、ストレージ運用操作処理を示すフローチャートである。仮想化装置を適用したＳＡＮ環境において、ストレージ運用管理サーバの管理者は、実データ記憶装置（仮想化装置及び外部記憶装置）が提供する運用管理操作指示ではなく、仮想化装置６００で仮想化された仮想運用管理操作指示でＳＡＮ環境を運用する。また、運用操作指示には、操作対象の装置及びボリュームを指定する。通常、実データ記憶装置の識別子及び実ボリュームの識別子ではなく、仮想化装置の識別子及び仮想ボリュームの識別子を指定する。ストレージ運用操作処理Ｓ２５０は、管理者が入力装置８７０aを利用してストレージ管理システムの運用管理操作指示をストレージ管理サーバ１００に対して投入したタイミングで実行される。
【０１３２】
ストレージ運用操作処理Ｓ２５０は、仮想化装置が障害によって利用不可能な状態になった場合に、ストレージ管理サーバの管理者により投入された仮想運用管理操作指示及び仮想ボリューム識別子を、実データ記憶装置の提供運用管理操作指示及び実ボリューム識別子に変換することで、今まで通りの運用管理を可能にするための処理であり、ＣＰＵ９３０ａにより実行される。
【０１３３】
最初に、ストレージ運用操作処理Ｓ２５０は、管理者が運用管理操作対象として指定したデータ記憶装置の識別子が仮想化装置であるか否かを、ボリューム位置情報８００ａの仮想化装置識別子８０００１のいずれかのエントリと一致するか否かで判定する（Ｓ２５００１）。一致する場合（Ｓ２５００１，Ｙｅｓ）は、ステップＳ２５００２に移行する。一致しない場合（Ｓ２５００１，Ｎｏ）、即ち、仮想化装置への要求でない場合、マッピング処理が不要であるため、ステップＳ２５００４に移行する。
【０１３４】
ステップＳ２５００２において、操作対象の仮想ボリュームに対応する実ボリュームが実際に存在するか否かを、ボリューム位置情報８００ａを利用して検査する。該仮想ボリュームに対応する実ボリュームを保有する実データ記憶装置の実装置識別子８０００３の値が空である場合（Ｓ２５００２，Ｎｏ）、即ち、仮想ボリュームに対応する実ボリュームは回復できなかった場合、管理者により投入された運用管理操作指示は実行不可能と判定し、処理を終了する。実ボリュームが存在する場合（Ｓ２５００２，Ｙｅｓ）は、ステップＳ２５００３に移行する。
【０１３５】
ステップＳ２５００３において、仮想化ボリュームの識別子に対応する実ボリュームの識別子と実装置の識別子を取得する。具体的には、投入された運用管理操作対象である仮想化装置の識別子と、仮想ボリュームの識別子の値をそれぞれ、ボリューム位置情報８００ａを参照することで、実装置識別子８０００３の値と、実ボリューム識別子８０００４の値に変換する。
【０１３６】
次に、管理者によって投入された仮想運用管理操作を該実データ記憶装置が提供しているか否かを判定する（Ｓ２５００４）。具体的には、提供運用管理操作情報８４０ａを参照して取得する。ステップＳ２５００３で取得した実装置識別子８０００３の値と実装置識別子８４００１（図１０参照）を一致させる。その後、投入された仮想提供操作名を８４００３の値と一致させ、提供操作名８４００２を取得する。入力された運用管理操作名画が実装置で提供されていない場合（Ｓ２５００４，Ｎｏ）、即ち、提供操作名８４００２が空である場合、管理者により投入された運用管理操作指示は実行不可能と判定し、処理を終了する。入力された運用管理操作名画が実装置で提供されている場合（Ｓ２５００４，Ｙｅｓ）、ステップＳ２５００５に移行する。
【０１３７】
最後に、ステップＳ２５００５において、ＬＡＮ経由で、管理者により投入された仮想運用操作指示、仮想化装置の識別子、及び仮想ボリュームの識別子を、実データ記憶装置の提供運用操作指示、実データ記憶装置の識別子、及び実ボリュームの識別子に変換した後、該データ記憶装置に対して、運用管理操作の実行要求を送信する。そして、処理を終了する。
【０１３８】
本実施形態では、ストレージ管理サーバ１００が、仮想化装置６００の構成情報と外部記憶装置（ストレージ）７００の構成情報とを定期的に取得する構成情報取得ステップ（Ｓ１８００１〜Ｓ１８００３）と、仮想化装置６００の障害発生を検出する障害発生検出ステップ（Ｓ１８００４〜Ｓ１８００６）と、障害発生が検出された際に、実ボリューム及びペアの回復可否を判定し、ボリュームの回復方法の候補を決定するボリューム回復方法決定ステップ（Ｓ２００及びＳ２１０）と、ボリューム回復方法決定ステップでのボリュームの回復方法の候補についてデータの回復可否を判定し、データの回復方法の候補を決定するデータ回復方法決定ステップ（Ｓ２２０及びＳ２３０）と、ボリュームの回復方法の候補と、データの回復方法の候補との組合せの回復方法の候補のうちのいずれかの組み合わせが選択されると、選択された組合せの回復方法を実行するとともに、組合せの回復方法に該当する外部記憶装置（ストレージ）７００に対して、業務ホスト５００とパスを構築する要求を行う回復実行ステップ（Ｓ２４０）と、を含んで実行する。これにより、仮想化装置６００が故障した際に、仮想化装置６００を経由しない構成へのシステム構成変更し、業務ホスト５００の業務を速やかに再開できる。
【図面の簡単な説明】
【０１３９】
【図１】本発明を適用したストレージ管理システムの一例を示す図である。
【図２】ストレージ管理サーバの構成の一例を示す図である。
【図３】業務ホストの構成の一例を示す図である。
【図４】仮想化装置の構成の一例を示す図である。
【図５】外部記憶装置の構成の一例を示す図である。
【図６】ボリューム位置情報のテーブルの一例を示す図である。
【図７】ペア構成情報のテーブルの一例を示す図である。
【図８】キャッシュ構成情報のテーブルの一例を示す図である。
【図９】アクセスパス構成情報のテーブルの一例を示す図である。
【図１０】提供運用管理操作情報のテーブルの一例を示す図である。
【図１１】ストレージ管理サーバにおけるストレージ運用管理処理を示すフローチャートである。
【図１２】構成回復処理を示すフローチャートである。
【図１３】ボリューム回復可否判定処理を示すフローチャートである。
【図１４Ａ】ボリューム回復方法決定処理を示すフローチャートである。
【図１４Ｂ】ボリューム回復方法決定処理を示すフローチャートである。
【図１４Ｃ】ボリューム回復方法決定処理を示すフローチャートである。
【図１５】データ回復可否判定処理を示すフローチャートである。
【図１６】データ回復方法決定処理を示すフローチャートである。
【図１７】回復実行処理を示すフローチャートである。
【図１８】ストレージ運用操作処理を示すフローチャートである。
【図１９】ストレージ管理システムにおける論理的なボリューム構成の一例を示す図である。
【図２０】図１３における回復不可能なストレージ構成の一例を示す説明図である。
【図２１】図１３における回復不可能なストレージ構成の一例を示す説明図である。
【図２２】図１４Ａにおけるストレージ構成及びその回復候補を示す説明図である。
【図２３】図１４Ａにおけるストレージ構成及びその回復候補を示す説明図である。
【図２４】図１４Ａにおけるストレージ構成及びその回復候補を示す説明図である。
【図２５】図１４Ｂにおけるストレージ構成及びその回復候補を示す説明図である。
【図２６Ａ】図１４Ｃにおけるストレージ構成及びその回復候補を示す説明図である。
【図２６Ｂ】図１４Ｃにおけるストレージ構成及びその回復候補を示す説明図である。
【図２６Ｃ】図１４Ｃにおけるストレージ構成及びその回復候補を示す説明図である。
【図２７】図１５における回復不可能なストレージ構成を示す説明図である。
【図２８】図１６におけるストレージ構成と回復方法を示す説明図である。
【符号の説明】
【０１４０】
１００    ストレージ管理サーバ（管理サーバ）
１７０    ストレージ管理プログラム
３００    ＳＡＮ（第１のネットワーク）
３１０    ＬＡＮ（第２のネットワーク）
５００    業務ホスト
５１０    パス管理プログラム
５２０    業務アプリケーション
５３０    マルチパスボリューム
６００    仮想化装置
６１０    仮想化装置管理プログラム
６２０    キャッシュメモリ
６３０    仮想ボリューム
６４０    キャッシュボリューム
７００    外部記憶装置（ストレージ）
７１０    外部記憶装置管理プログラム
８００    ボリューム位置情報
８１０    ペア構成情報
８２０    キャッシュ構成情報
８３０    アクセスパス構成情報
８４０    提供運用管理操作情報
８５０    ディスクコントローラ
８６０    ディスク装置
８７０    入力装置
８８０    モニタ
８９０    主メモリ
９００    実ボリューム
９２０    ＮＩＣ
９３０    ＣＰＵ
９４０    システムバス
９５０    ネットワーク通信
９６０    システムプログラム
９７０    ワークエリア
９８０    ＨＢＡ
９９０    ＣＨＡ
Ｓ１８０    ストレージ運用管理処理
Ｓ１９０    構成回復処理
Ｓ２００    ボリューム回復可否判定処理
Ｓ２１０    ボリューム回復方法決定処理
Ｓ２２０    データ回復方法可否判定処理
Ｓ２３０    データ回復方法決定処理
Ｓ２４０    回復実行処理
Ｓ２５０    ストレージ運用操作処理
【図１】
0005091704.tif 000002
【図２】
0005091704.tif 000003
【図３】
0005091704.tif 000004
【図４】
0005091704.tif 000005
【図５】
0005091704.tif 000006
【図６】
0005091704.tif 000007
【図７】
0005091704.tif 000008
【図８】
0005091704.tif 000009
【図９】
0005091704.tif 000010
【図１０】
0005091704.tif 000011
【図１１】
0005091704.tif 000012
【図１２】
0005091704.tif 000013
【図１３】
0005091704.tif 000014
【図１４Ａ】
0005091704.tif 000015
【図１４Ｂ】
0005091704.tif 000016
【図１４Ｃ】
0005091704.tif 000017
【図１５】
0005091704.tif 000018
【図１６】
0005091704.tif 000019
【図１７】
0005091704.tif 000020
【図１８】
0005091704.tif 000021
【図１９】
0005091704.tif 000022
【図２０】
0005091704.tif 000023
【図２１】
0005091704.tif 000024
【図２２】
0005091704.tif 000025
【図２３】
0005091704.tif 000026
【図２４】
0005091704.tif 000027
【図２５】
0005091704.tif 000028
【図２６Ａ】
0005091704.tif 000029
【図２６Ｂ】
0005091704.tif 000030
【図２６Ｃ】
0005091704.tif 000031
【図２７】
0005091704.tif 000032
【図２８】
0005091704.tif 000033