(57)【要約】【課題】容量仮想化機能を構成するボリューム閉塞によるプール及び仮想ボリューム閉塞が生じた際、ホスト計算機が利用する仮想ボリュームを切替えることなく復旧を迅速に行うこと。またそのために必要なストレージリソースの消費を抑えること。【解決手段】プールの複製を、プールを構成するボリューム単位で行い、物理デバイスが閉塞した際、プール内で閉塞したボリュームを複製ボリュームに切替えることによってプール及び仮想ボリュームを復旧する。【選択図】図１
2010092259.tif 000002
【特許請求の範囲】
【請求項１】
仮想的な記憶容量を持つ仮想ボリュームと、
前記仮想ボリュームを提供するプールと、
前記プールを構成する論理ボリュームであるプールボリュームと、
前記プールから前記仮想ボリュームが使用する記憶領域のみを前記仮想ボリュームに割り当てる容量仮想化処理部と、
前記容量仮想化処理部に利用され、前記仮想ボリュームが使用する記憶領域とプールボリュームの対応関係を保持する仮想化対応マップと、
前記プールボリュームが持つデータの複製を保持する副ボリュームと、
前記プールボリュームの障害によって前記プールが利用不可となった場合、前記仮想化対応マップについて前記利用不可となったプールボリュームを前記プールボリュームの複製を持つ副ボリュームで置換え、前記容量仮想化処理部で適用することで前記プールを利用可能とするプール復旧処理部と、
を含むことを特徴とするストレージシステム。
【請求項２】
請求項１に記載のストレージシステムにおいて、
前記プールボリュームが前記プールに新たに追加された場合、前記プールボリュームと同じ容量を持つ論理ボリュームを前記プールボリュームの副ボリュームとして設定する構成設定部と、
を含むことを特徴とするストレージシステム。
【請求項３】
請求項２に記載のストレージシステムにおいて、
前記プールに対し前記プールを特徴付ける特性の定義情報と、
前記定義情報に応じて副ボリュームを選択するための選択基準情報と、
を含み、
前記構成設定部は、前記プールボリュームが前記プールに新たに追加された場合、前記定義情報と前記選択基準情報から設定対象とする副ボリュームを選択すること、
を特徴とするストレージシステム。
【請求項４】
請求項２に記載のストレージシステムにおいて、
前記論理ボリュームに対し物理的に記憶領域を割り当てる物理デバイスと、
前記物理デバイスの特性を保持する物理デバイス特性情報と、
前記論理ボリュームと前記物理デバイスの対応関係を保持するボリューム構成情報と、
を含み、
前記構成設定部は、前記プールボリュームが前記プールに新たに追加された場合、前記ボリューム構成情報から前記プールボリュームが割り当てられている物理デバイスを特定し、前記特定された物理デバイスに対応する前記物理デバイス特性情報に応じて前記プールボリュームに副ボリュームを設定しないこと、
を特徴とするストレージシステム。
【請求項５】
請求項１に記載のストレージシステムにおいて、
前記ストレージシステムにネットワークを介して接続され前記仮想ボリュームを利用するホスト計算機と、
前記仮想ボリュームと前記仮想ボリュームを利用する前記ホスト計算機との対応関係を保持するホストボリューム対応情報と、
前記プールボリュームの障害から復旧した後、前記プールボリュームから提供される仮想ボリュームを利用するホスト計算機を前記ホストボリューム対応情報から特定し、前記ホスト計算機に通知を行うことを特徴とする前記プール復旧処理部と、
前記ホスト計算機内の前記仮想ボリュームが復旧した場合に、仮想ボリュームを利用するプログラムで実施する処理を定義した復旧処理定義情報と、
前記プール復旧処理部から前記通知を受けた後、前記復旧処理定義情報を参照し前記プログラムに指示を行うホスト復旧処理部と、
を含むことを特徴とするストレージシステム。
【請求項６】
請求項１に記載のストレージシステムにおいて、
前記ホスト計算機からのデータ書き込みに対し、前記仮想ボリュームに書き込む前に一時的にデータを保存しておく記憶領域であるストレージキャッシュと、
前記ストレージキャッシュから前記仮想ボリュームにデータを書き込む制御を行い、前記プール復旧制御部からプール利用不可の通知を受けるとその間前記仮想ボリュームへのデータの書き込みを停止するデータ書き込み制御部と、
を含み、
前記プール復旧制御部は、前記プールボリュームの障害によって前記プールが利用不可となった際、利用不可開始時と復旧時それぞれについてデータ書き込み制御部に対して通知を行うこと、
を特徴とするストレージシステム。
【請求項７】
請求項１に記載のストレージシステムにおいて、
前記プール復旧制御部は、前記プールが復旧し利用可能となった後、新たなプールボリュームに対し、同じ容量を持つ論理ボリュームを前記プールボリュームの副ボリュームとして設定すること、
を特徴とするストレージシステム。
【請求項８】
請求項１に記載のストレージシステムにおいて、
前記ストレージシステムに接続され、前記ストレージシステムを管理する管理計算機と、
前記プールと前記プールボリューム及び、副ボリュームの対応関係を保持するプール構成情報と、
前記プールの格納データのバックアップが格納されている副ボリュームの構成を保持したプールバックアップ情報と、
前記管理計算機からのバックアップ指示を受け、前記プールのバックアップを実行する際に、前記仮想化対応マップの複製を保存し、前記プール構成情報を元に前記プールを構成する全てのプールボリュームの副ボリュームへのデータ更新を停止させ、前記プールバックアップ情報を登録するバックアップ取得処理部と、
前記管理計算機からのリストア指示を受け、前記プールを復元する際に、前記プールバックアップ情報から副ボリュームを特定し、プールボリュームを前記副ボリュームで置換えるととともに、前記仮想化対応マップを前記保存しておいたものに置き換え、前記容量仮想化処理部で適用することでプールを利用可能とするプール復旧処理部と、
を含むことを特徴とするストレージシステム。
【請求項９】
第１のストレージシステムと、前記第１のストレージシステムとネットワークを介して接続される第２のストレージシステムから構成され、
前記第１のストレージシステムは、
仮想的な記憶容量を持つ仮想ボリュームと、
前記仮想ボリュームを提供するプールと、
前記プールを構成する論理ボリュームであるプールボリュームと、
前記プールから前記仮想ボリュームが使用する記憶領域のみを前記仮想ボリュームに割り当てる容量仮想化処理部と、
前記容量仮想化処理部に利用され、前記仮想ボリュームが使用する記憶領域とプールボリュームの対応関係を保持する仮想化対応マップと、
前記第１のストレージシステムからは外部のボリュームとなる前記第２のストレージシステムの論理ボリュームを前記第１のストレージシステム上の論理ボリュームとして対応付けることで、前記第１のストレージシステムから利用可能とする外部接続処理部と、
前記外部のボリュームに対応付けられた前記第１のストレージシステムの論理ボリュームを副ボリュームとして前記プールボリュームが持つデータの複製を保持するプールボリューム複製制御部と、
前記プールボリュームの障害によって前記プールが利用不可となった場合、前記仮想化対応マップについて前記利用不可となったプールボリュームを前記プールボリュームの複製を持つ副ボリュームで置換え、前記容量仮想化処理部で適用することで前記プールを利用可能とするプール復旧処理部と、
を含むことを特徴とする計算機システム。
【請求項１０】
請求項９に記載の計算機システムにおいて、
前記プールボリュームが前記プールに新たに追加された場合、前記第２のストレージシステムにおいて前記プールボリュームと同じ容量を持つ外部のボリュームを検索して特定し、存在しない場合には、外部のボリュームを新たに生成する第２の構成設定部と、
前記特定されあるいは新たに生成された前記外部のボリュームを前記第１のストレージシステムに対応付け、前記プールボリュームの副ボリュームとして設定する第１の構成設定部と、
を含むことを特徴とする計算機システム。
【請求項１１】
請求項１０に記載の計算機システムにおいて、
前記第２の構成設定部は、前記外部のボリュームを前記第１のストレージシステムに対応付ける際に、前記第２のストレージシステムが持つポート識別子と前記第１のストレージシステムが持つ外部接続用のポート識別子に対しパスを設定すること、を特徴とする計算機システム。
【請求項１２】
請求項１０に記載の計算機システムにおいて、
前記第１の構成設定部は、前記プールの使用可能な残り容量が既定の閾値を超過した場合、前記プールに追加可能なプールボリュームを検索して特定し、存在しない場合には新たに生成した上で、前記プールに追加登録すること、を特徴とする計算機システム。
【請求項１３】
ホスト計算機と、前記ホスト計算機とネットワークを介して接続される第１のストレージシステムと、前記ホスト計算機及び前記第１のストレージシステムとネットワークを介して接続される第２のストレージシステムから構成され、
前記第１のストレージシステムは、
仮想的な記憶容量を持つ仮想ボリュームと、
前記仮想ボリュームを提供するプールと、
前記プールを構成する論理ボリュームであるプールボリュームと、
前記プールから前記仮想ボリュームが使用する記憶領域のみを前記仮想ボリュームに割り当てる容量仮想化処理部と、
前記容量仮想化処理部に利用され、前記仮想ボリュームが使用する記憶領域とプールボリュームの対応関係を保持する仮想化対応マップと、
前記第１のストレージシステムからは外部のボリュームとなる前記第２のストレージシステムの論理ボリュームを前記第１のストレージシステム上の論理ボリュームとして対応付けることで、前記第１のストレージシステムから利用可能とする外部接続処理部と、
前記外部のボリュームに対応付けられた前記第１のストレージシステムの論理ボリュームを副ボリュームとして前記プールボリュームが持つデータの複製を保持するプールボリューム複製制御部とを含み、
前記仮想化対応マップは、前記第１のストレージシステムと前記第２のストレージシステムの遠隔コピー制御部によって前記第１のストレージシステムから前記第２のストレージシステムに複製され、
前記第２のストレージステムは、前記第１のストレージシステムが障害によって利用不可となった場合、前記外部のボリュームを前記プールボリュームとして前記複製された仮想化対応マップを用い、前記第２のストレージシステム上に第１のストレージシステムと同じ構成のプール及び仮想ボリュームを作成し、前記ホスト計算機に通知するプール復旧処理部とを含み、
前記ホスト計算機は、前記プール復旧処理部からの通知を受け、前記第１のストレージシステム上の仮想ボリュームとの接続関係を前記第２のストレージシステム上の仮想ボリュームに切替えるパス切り替え設定部と、
を含むことを特徴とする計算機システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ストレージシステム及び計算機システムの容量仮想化技術に関する。
【背景技術】
【０００２】
計算機の普及に伴って、扱うデータの規模が年々増加してきている。ストレージ装置は、大規模なデータを安全にかつ効率的に保持する装置であって、計算機と通信回線で接続され、ボリューム（データの入れ物）を提供する。ボリュームは利用状況に応じた動的な容量変更が基本的にできないため、システム構築時にボリューム容量を余裕を持って割当てる必要があり容量リソースが有効に活用されない、という課題があった。
【０００３】
これに対し、容量仮想化（Ｔｈｉｎ  Ｐｒｏｖｉｓｉｏｎｉｎｇ）技術は、ホストに対して仮想的な容量を持つボリューム（仮想ＶＯＬ）を提供し、一方ストレージ側には実際に書込みがあったデータのみに容量を割当てることでボリューム容量を効率良く活用する技術である。データの書込み先には、複数のボリューム（プールボリューム：以下、「Ｐｏｏｌ  ＶＯＬ」と記載する。）から構成した容量境界のない大容量のプールを用いる。仮想ＶＯＬはプールから、プールはＰｏｏｌ  ＶＯＬから、さらにＰｏｏｌ  ＶＯＬは物理デバイス（アレイグループ）から提供されるため、下位の構成要素に障害があって閉塞するとそれより上位の構成要素は基本的にすべて利用不可となる。
【０００４】
このため、特許文献１では、容量仮想化における前記構成要素の構成を保持しておくことで、構成要素の閉塞時に関連する閉塞部位を特定し正しく閉塞する技術を示した。
【０００５】
大量のデータを扱う企業を中心に、ストレージ装置は業務継続に必須のインフラとなっており、突発的な事故や災害等さらにはコンピュータウィルスやアプリケーションエラー等によって、ボリュームやデータが破壊され利用不可となることは、業務に深刻な影響を与えかねない。このため、通常はストレージが提供するコピー制御機能を用いてデータの複製（レプリカやバックアップ）を作成する。単一ストレージ内での複製をローカルコピー、ストレージ間での複製をリモートコピーと呼ぶ。コピー制御機能では、正ボリューム（Ｐ−ＶＯＬ）から副ボリューム（副ＶＯＬ）にデータを同期させる。正ボリュームと副ボリュームの対をコピーペアと呼び、コピーペアはデータを常に同期させるＰａｉｒ（同期）状態と、データを同期しないＳｕｓｐｅｎｄ状態を持つ。また、コピー制御機能を用いて前記コピーペアの状態をＰａｉｄ状態からＳｕｓｐｅｎｄ状態に変更すること（Ｓｐｌｉｔ）、またその逆をすること（Ｒｅｓｙｎｃ）が可能である。正ボリュームのデータに論理障害等が発生した場合、リストア（Ｒｅｓｔｏｒｅ／Ｒｅｖｅｒｓｅ  Ｒｅｓｙｎｃ）を行うことで正ボリュームのデータを副ボリュームに保存されたデータに戻すことができる。
【０００６】
前記容量仮想化技術において仮想ボリュームのレプリカを作成すると、コピー元の主ボリュームが持つ仮想的な容量を副ボリューム側では実容量として確保する必要あり、ストレージの記憶容量を有効に利用できない。
【０００７】
このため特許文献２では、副ボリュームを仮想ボリュームとし、コピー先でも容量化仮想化機能を適用することで、実容量を使用している（実記憶領域が割り当てられている）データについてのみ、コピー元からコピーする技術を示した。
【０００８】
ストレージ容量の効率活用という点では、ストレージ装置内に外部のストレージ装置（外部ストレージ）のボリューム（外部ＶＯＬ）をマッピングすることで、ストレージ装置が提供するボリューム容量を拡張する外部接続機能（外接）がある。外接では、内部にマッピングされた外部ＶＯＬは基本的に内部のボリュームと同様元々ストレージ装置が持つリソースや機能を適用可能である。
【特許文献１】特開２００６−３３８３４１号公報
【特許文献２】特開２００７−１３３８２２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００９】
特許文献２では、仮想ＶＯＬの複製を容量効率良く実現するため、容量仮想化技術を用いてコピー先でもプールを構成する。これにはコピー元と同じ構成のプールが必要で、プールを維持するためのキャッシュや制御プロセスのリソースを確保しなければならない。
【００１０】
また、物理デバイスあるいはＰｏｏｌ  ＶＯＬの閉塞から復旧する際、仮想ＶＯＬの切替えが必要である。仮想ＶＯＬの切替えには、障害検出から閉塞処理、さらにはホスト計算機と連動したボリューム切り替え処理が必要で、操作あるいは事前設定が煩雑であることと、迅速な復旧ができないといった課題があった。
【課題を解決するための手段】
【００１１】
本発明では、仮想ＶＯＬの複製を別の仮想ＶＯＬとプールの構成セットで行うのではなく、プールを構成するＰｏｏｌ  ＶＯＬ毎にコピーペアを形成することで行う。物理デバイスが閉塞した際、プールを構成するＰｏｏｌ  ＶＯＬを閉塞したＰｏｏｌ  ＶＯＬから副ＶＯＬに切替える。この際、Ｐｏｏｌ  ＶＯＬと仮想ＶＯＬの対応付けテーブルの登録内容でＰｏｏｌ  ＶＯＬを副ＶＯＬに書換え、容量仮想化機能に適用する。
【発明の効果】
【００１２】
本発明によれば、仮想ＶＯＬの複製を容量効率良く実現するための方式として、従来技術（特許文献２）と比較しコピー先にプールが不要なため、プールを維持するためのキャッシュや制御プロセスのリソースがいらない。また、物理デバイスあるいはＰｏｏｌ  ＶＯＬの閉塞から復旧する際、仮想ＶＯＬの切替えが不要なため、ストレージ装置内で完結した迅速な復旧が可能となる。
【発明を実施するための最良の形態】
【００１３】
以下、図面を参照しながら本発明の実施の形態について詳細に説明する。尚、これにより本発明が限定されるものではない。
【実施例１】
【００１４】
本実施例では単一のストレージ装置内でＰｏｏｌ  ＶＯＬ閉塞とそれに伴うプール閉塞が生じた際に副ＶＯＬを用いて復旧する方式について例示する。
【００１５】
図１は本発明の一実施形態であるストレージシステム（計算機を含む）のブロック図である。ホスト計算機２２０１及び２２０２は、パーソナルコンピュータ、ワークステーション、メインフレーム等の計算機である。ホスト計算機２２０１及び２２０２では、データベースなど様々な業務や用途に応じたアプリケーションプログラムが実行される。なお、ストレージネットワーク３００１を介してストレージ装置１００１に接続するホスト計算機は何台であっても良い。また、ホスト計算機２２０１及び２２０２は、情報処理に係る入出力に必要なコマンド及びデータをストレージ装置１００１と通信し、データの変更に関してはライト要求を行う。以降ホスト計算機２２０２はホスト計算機２２０１と等価であるため、明示することを省略する。
【００１６】
ストレージ装置１００１は、ストレージネットワーク３００１を介して送信されるコマンドやデータを受信し、所定の処理を行い、ホスト計算機２２０１に対して所定の応答を実行する。内部に格納されたデータは、ホスト計算機２２０１が認識可能な論理ボリューム（ここでは仮想ＶＯＬ１４０１）を単位として参照や変更が可能となる。仮想ＶＯＬ１４０１は容量仮想化機能を用いてプール１３０１から提供される。
【００１７】
Ｐｏｏｌ  ＶＯＬはアレイグループ１１０１から生成された論理ボリュームであって、一つ以上のＰｏｏｌ  ＶＯＬ（１２０１、１２０２、１２０３、…）から単一のデータ容量空間としてプール１３０１を構成する。また、論理ボリューム（Ｐｏｏｌ  ＶＯＬ１２０１）はストレージ装置１００１が提供するコピー制御機能によって、別の論理ボリューム（副ＶＯＬ  １２５１）に複製することができる。ここでＰｏｏｌ  ＶＯＬ１２０１と副ＶＯＬ  １２５１の対をコピーペア１７０１と呼び、コピー制御機能によって状態をＰａｉｒ（同期）あるいはＳｕｓｐｅｎｄ（停止）に変更できる。これは他のＰｏｏｌ  ＶＯＬと副ＶＯＬ間についても同様である。仮想ＶＯＬ１４０１は業務に利用するため、ホスト計算機２２０１上で稼動するファイルシステム上にホストＶＯＬ  ２４０１としてマウントされる。
【００１８】
管理サーバ２００１は管理ネットワーク３５０１を通して、ストレージ装置１００１の構成・保守・性能等の管理を行うための計算機である。構成設定部２１０１が実行され、管理者が設定した構成をストレージ装置１００１に適用する。構成設定部２０２４自体はストレージ装置１００１内部の機能として提供してもよい。また、ストレージネットワーク３００１に管理サーバ２００１を接続することで、管理ネットワーク３５０１を利用しない（例えばＩｎ  Ｂａｎｄのみの管理）構成とすることもできる。
【００１９】
ホスト計算機２２０１，２３０１ではホスト管理部が実行され、ホスト計算機上で稼動するアプリケーションの制御や情報取得を行うとともに、ストレージ装置１００１が提供する論理ボリュームの利用状況を確認することができる。さらに、管理サーバ２００１の構成設定部２１１１と管理ネットワークを通じて通信することで連携した処理が可能である。
【００２０】
図２は本発明の一実施形態であるストレージ装置１００１内の構成を示すブロック図である。アレイグループ１１０１は１つ以上の単位で物理ディスク提供ユニット１１０１内に格納され、電力を供給される構成とできる。ホスト計算機２２０１からの仮想ＶＯＬ１４０１へのデータ参照或いは書き込み要求は、業務ポート１０１１或いは１０１２を介してコントローラ１０５１が受付ける。ホスト計算機２２０１からの前記要求に対し容量仮想化部１５３１は仮想ボリューム１４０１とプール１３０１とＰｏｏｌ  ＶＯＬ１２０１の関連を元に適切なアレイグループ１１０１上の物理ボリュームへデータを格納（Ｗｒｉｔｅ）あるいは読出し（Ｒｅａｄ）する。この際、内部の高速なキャッシュ１０７１を利用してＩ／Ｏを高速に行うことがある。
【００２１】
図３は本発明の一実施形態である管理サーバ２００１の構成を示すブロック図である。管理サーバ２００１は管理ネットワーク３５０１と管理ポート２０１１を介して接続される。管理サーバ２００１で提供する管理機能である管理部２１０２はメモリ２１０１上にロードされ、プロセッサ２０２１によって実行制御される。管理操作はキーボードやマウス等のインタフェースである入力部２０４１によって受付け、操作結果やストレージシステムの状況をディスプレイやメールサーバ等である出力部２０３１から出力する。
【００２２】
構成管理テーブル（以下、「ＴＢＬ」と記載する。）５１０１及びバックアップカタログ管理ＴＢＬは、管理サーバ２００１内の二次記憶装置（ハードディスク等）からメモリ２１０１に適宜ロードされ、構成設定部２１１１から利用される。前記テーブルの格納先としては、管理サーバ２００１内だけでなく、ストレージ装置１００１のメモリ１５０１としても良い。
【００２３】
図４に容量仮想化管理ＴＢＬ５００１の詳細を一実施例として示す。本テーブルには、各プール毎にプール１３０１が仮想ＶＯＬ１４０３に提供するデータ領域（セグメント）の割当て状況を保持する。ここでセグメントはチャンクあるいはページと呼ばれることがある。プールが提供するセグメントの情報としてセグメントの識別子５０２１、セグメントを提供しているＰｏｏｌ  ＶＯＬの識別子５０３１、セグメントの提供対象となる仮想ＶＯＬの識別子５０６１等が格納される。
【００２４】
図５に構成管理ＴＢＬ５１０１の詳細を一実施例として示す。構成管理ＴＢＬ５１０１は、プール１３０１と仮想ＶＯＬ１４０１の対応関係を保持する構成管理ＴＢＬ（ａ）５１０１と、プール１３０１とＰｏｏｌ  ＶＯＬ１２０１、副ＶＯＬ１２５１の対応関係を保持する構成管理ＴＢＬ（ｂ）５２０１の２つのテーブルからなる。
【００２５】
構成管理ＴＢＬ（ａ）５１０１では、各プール毎にプール１３０１を利用する仮想ＶＯＬ１４０３及び仮想ＶＯＬ１４０３を利用するホスト計算機２２０２、さらに仮想ＶＯＬ１４０３がホスト上のボリュームとしてマウントされたホストＶＯＬ５１４２、ホストＶＯＬ５１４２を利用するアプリケーション５１４３が定義される。ホストＶＯＬ５１４２とアプリケーション５１４３の構成情報については、ホスト計算機２２０１のホスト管理部２３０１が保持する場合、本テーブル上は不要である。なお、仮想ＶＯＬ１４０３とホストＶＯＬ２４０１との関係はホストＶＯＬが持つターゲットＩＤやＬＵＮ  ＩＤ等から対応付け可能である。
【００２６】
図６にバックアップカタログ管理ＴＢＬ５３０１の詳細を一実施例として示す。バックアップカタログ管理ＴＢＬ５３０１には、プール１３０１単位でプールをバックアップ（Ｓｐｌｉｔ）した時刻をＳｐｌｉｔ時刻５３１１として格納する。その他は構成管理ＴＢＬ５１０１と同様、プール１３０１と仮想ＶＯＬ１４０１の対応関係を保持するバックアップカタログ管理ＴＢＬ（ａ）５３０１と、プール１３０１とＰｏｏｌ  ＶＯＬ１２０１、副ＶＯＬ１２５１の対応関係を保持するバックアップカタログ管理ＴＢＬ（ｂ）５４０１の２つのテーブルからなる。
【００２７】
プール１３０１の可用性を維持するためには、プール１３０１に構成変更があった場合、複製する側の構成も合わせて変更する必要がある。図７に、プール１３０１あるいはプール１３０１のＰｏｏｌ  ＶＯＬ１２０１に追加があった場合、追加されたＰｏｏｌ  ＶＯＬ１２０１に対し副ＶＯＬ１２５１をコピーペアとして対応付ける設定を行うフローを示す。管理ツール等から前記追加指示があると、管理サーバ２００１上の構成設定部２１１１は設定実行処理を行う（ステップＳ４００２）。
【００２８】
あらかじめプール１３０１が自動複製の対象か否かを構成管理ＴＢＬ５１０１等に定義しておく。この定義に従い、前記追加指示があったプール１３０１が自動複製の対象である場合（ステップＳ４００３）、登録されたＰｏｏｌ  ＶＯＬ１２０１と同容量の副ＶＯＬ１２５１を前記Ｐｏｏｌ  ＶＯＬ１２０１のコピーペア１７０１として設定する（ステップＳ４００４）。同容量の副ＶＯＬ１２５１がない場合、アレイグループ１１０１から生成する。
【００２９】
一方、容量仮想化機能として、プール１３０１の実容量が不足した場合、構成管理部１５２１がプール１３０１にＰｏｏｌ  ＶＯＬ１２０１を追加する自動拡張がある。プール１３０１が前記自動拡張機能の対象となっている場合、プール容量が事前に設定されている閾値（実容量の使用率）を超えると、Ｐｏｏｌ  ＶＯＬ１２０１をプール１３０１に追加し（ステップＳ４１０５）、構成設定部２１１１に通知する。構成設定部２１１１は通知を受けると前記４００３の処理に入る。この際、４００３以降の処理を構成管理部１５２１自体が継続して実行しても良い。
【００３０】
図８に、プール１３０１を構成しているボリューム閉塞からプール１３０１を復旧するためのフローを示す。アレイグループ１１０１あるいは論理ＶＯＬ（Ｐｏｏｌ  ＶＯＬ１２０１）に障害が発生し閉塞すると障害検知部１５５１が検知し、閉塞箇所をプール復旧制御部１５４１に通知する。プール復旧制御部１５４１は、閉塞箇所がＰｏｏｌ  ＶＯＬ１２０１でかつ副ＶＯＬ１２５１とコピーペア１７０１を組んでいるかを構成管理ＴＢＬ５１０１から判定する。前記組んでいる場合、Ｐｏｏｌ  ＶＯＬ１２０１を利用しているプール１３０１を閉塞させ、ホスト計算機２２０１からＰｏｏｌ  ＶＯＬ１２０１へのＷｒｉｔｅキャッシュを適用を停止させる。
【００３１】
次に、コピーペア１７０１の解除（またはＳｐｌｉｔ）をコピー制御部に対して指示する。プール１３０１から閉塞したＰｏｏｌ  ＶＯＬ１２０１を外し、副ＶＯＬ１２５１を登録するために、容量仮想化管理ＴＢＬ５００１のＰｏｏｌ  ＶＯＬ識別子５０３１について前記閉塞したＰｏｏｌ  ＶＯＬ１２０１が登録されている箇所を前記副ＶＯＬ１２５１で置き換え、容量仮想化部１５２１で適用する。最後に新しくＰｏｏｌ  ＶＯＬとしてプールに登録した前記副ＶＯＬ１２５１に対しＷｒｉｔｅキャッシュを適用し、プール閉塞を解除する。
【００３２】
図９にプール１３０１を構成しているボリューム閉塞からプール１３０１を復旧する際にホスト計算機２２０１のアプリケーションを静止化するフローを示す。障害検知部１５５１とプール復旧制御部１５４１の処理は図８と同じため、図９では一部割愛した。プール復旧制御部１５４１が構成管理部１５２１に論理ＶＯＬ（１）の閉塞通知を通知すると、構成管理部１５２１は論理ＶＯＬ（１）を使用するプール１３０１と仮想ＶＯＬ１４０１を特定し（ステップＳ４２５３）、ホスト計算機２２０１と通信し、ホスト管理部２３０１に仮想ＶＯＬ１４０１を利用するアプリケーションの静止化を指示する。該当するアプリケーションは構成管理ＴＢＬ（ａ）５１０１から特定できる。ホスト管理部２３０１は該アプリケーションに対し静止化命令を発行し、完了後、構成管理部に対し完了イベントを発行する。
【００３３】
一方、プール復旧制御部１５４１はプール閉塞を解除する（ステップＳ４２１９）と、構成管理部１５２１に対しプール閉塞解除イベントを送信する。構成管理部１５２１はプール閉塞解除イベントを受信する（ステップＳ４２５６）と、ホスト管理部に静止化解除を指示し（ステップＳ４２５８）、完了イベントを受信して終了する。
【００３４】
以下、仮想ＶＯＬが保持するデータにウィルスなどで論理障害が発生した場合、Ｐｏｏｌ  ＶＯＬ１２０１の副ＶＯＬ１２５１を用いて復旧する方式について説明する。本方式はプールを構成する全てのＰｏｏｌ  ＶＯＬ１２０１で副ＶＯＬ１２５１を用いたコピーペア１７０１構成とすることで、論理障害時に副ＶＯＬからＰｏｏｌ  ＶＯＬ１２０１にデータをリストア（Ｒｅｖｅｒｓｅ  Ｒｅｓｙｎｃ）することで、過去バックアップした時点の仮想ＶＯＬのデータをプール単位で戻すことができる。
【００３５】
図１０にプール１３０１をバックアップするフローを示す。本フローは図１の構成において、コピーペア１７０１がペア状態（データが同期している）であることを前提とする。まずバックアップするプール１３０１あるいは仮想ＶＯＬ１４０１が管理ツール等で指定される。構成設定部２１１１は、該プール１３０１についてプールを構成するＰｏｏｌ  ＶＯＬ１２０１とコピーペア１７０１を構成管理ＴＢＬ５１０１から特定する。仮想ＶＯＬ１４０１が指定された場合は、あらかじめ構成管理ＴＢＬ５１０１から対象となるプール１３０１を特定しておく。
【００３６】
次にプール１３０１を利用する仮想ＶＯＬ１４０１について、これを利用するホスト計算機２３０１上のアプリケーションの静止化を実行する。静止化については図９のフロー説明を参照。静止化完了後、Ｗｒｉｔｅキャッシュが残っている場合、Ｐｏｏｌ  ＶＯＬ１２０１に適用する。その後、コピー制御部に対し、上記で特定したコピーペア１７０１のＳｐｌｉｔ（データ同期解除）を指示する（ステップＳ４３０４）。コピーペア１７０１がＳｕｓｐｅｎｄ状態になった後、容量仮想化部１５３１に対し容量仮想化ＴＢＬ５００１にバックアップ時点でのセグメントの割当て状態を追加登録するよう指示する（ステップＳ４３０５）。
【００３７】
その際、図４のＳｐｌｉｔ時刻５０７１を設定する。容量仮想化ＴＢＬ５００１の更新完了後、静止化したアプリケーションの静止化解除を実行する（詳細は図９のフロー説明を参照）。構成設定部２１１１はプール１３０１を使っている仮想ＶＯＬ一覧とＳｐｌｉｔ時刻をバックアップカタログ管理ＴＢＬ５３０１に登録し、終了する。
【００３８】
図１１に、図１０の処理でバックアップしたプール１３０１のデータを復旧（リストア）するフローを示す。まず、バックアップカタログ管理ＴＢＬ５３０１からリストアしたい時刻のカタログが指定され、リストアが指示される。構成管理部２１１１はバックアップカタログ管理ＴＢＬ５３０１から該プールを使用している仮想ＶＯＬ１４０１と仮想ＶＯＬ１４０１をマップしているホスト計算機２２０１を特定し、削除等によって現時点で存在しない仮想ＶＯＬ１４０１があれば該プールから作成する（ステップＳ４４０３）。次にプール１３０１を構成するＰｏｏｌ  ＶＯＬ１２０１及びそのコピーペア１７０１をバックアップカタログ管理ＴＢＬ５３０１から特定する。該ホスト計算機２２０１のホスト管理部２３０１に対し、カタログに記載ある仮想ＶＯＬ１４０１を使用しているアプリケーションの静止化を指示する（ステップＳ４４０５）。
【００３９】
静止化完了後、容量仮想化ＴＢＬ５００１において該プール１３０１を該時刻にＳｐｌｉｔした管理情報を特定し、容量仮想化部１５３１に対し、前記管理情報の適用を指示する。前記管理情報適用後、コピー制御部１５１１に対し、上記で特定したコピーペア１７０１のリストア（Ｒｅｖｅｒｓｅ  Ｒｅｓｙｎｃ）の実行を指示する。最後に上記で静止化したアプリケーションの静止化解除をホスト管理部２３０１に対し指示し（ステップＳ４４０８）、完了後終了する。
【実施例２】
【００４０】
本実施例では外部のストレージを接続する構成において、コントローラとなるストレージ装置内でＰｏｏｌ  ＶＯＬ閉塞とそれに伴うプール閉塞が生じた際に外部ＶＯＬを用いて復旧する方式について例示する。
【００４１】
図１２は本発明の一実施形態であるストレージシステム（計算機を含む）のブロック図である。ホスト計算機、ストレージ装置、管理サーバ、管理ネットワーク、ストレージネットワークについての基本的な説明は、図１と同じであるため割愛する。図１との違いは、ストレージ装置Ａ１００２の外部接続機能を用いて、ストレージ装置Ｂ１００３の外部ＶＯＬ１２８１をストレージ装置Ａ１００２内の副ＶＯＬ１２６３として対応付けている点にある。外部接続機能を適用するためにストレージ装置Ａ１００２とストレージ装置Ｂ１００３はそれぞれ外部接続ポート１０１６と業務ポート１０１３を介した通信路で物理的に接続される。外部ＶＯＬ１１５１はストレージ装置Ｂ内のアレイグループ１１５１から生成される。管理サーバ２００１内の構成は図３と同様のため、説明を割愛する。
【００４２】
図１３、図１４はそれぞれ本発明の一実施形態であるストレージ装置Ａ１００２およびストレージ装置Ｂ１００３内の構成を示すブロック図である。ポート、コントローラ、アレイグループ、メモリ、キャッシュ等基本的な説明は、図２と同じであるため割愛する。図１３と図２との違いは、ストレージ装置Ｂと接続するための外部接続ポート１０１６があることと、外部接続機能を制御するためのプログラムとしてマイクロプログラミング部１５０５に外部接続制御部１５６１が含まれる点である。図１４と図２との違いは、マイクロプログラミング部１５０５に構成管理部１５２２のみを含む点である。
【００４３】
図１５に構成管理ＴＢＬ（ｂ）５２０２の詳細を一実施例として示す。基本的な構成について図５の構成管理ＴＢＬ（ｂ）５２０１と同様のため説明を割愛する。図５と図１５の違いは外部ストレージ（図１２の構成においてはストレージＢ１００３）の識別子５２６２と外部ＶＯＬ１２８１の識別子５２７２を含む点である。
【００４４】
本実施例の構成においても、プール１３０１の可用性を維持するためには、プール１３０１に構成変更があった場合、複製する側の構成も合わせて変更する必要がある。図１６に、プール１３０１あるいはプール１３０１のＰｏｏｌ  ＶＯＬ１２０１に追加があった場合、追加されたＰｏｏｌ  ＶＯＬ１２０１に対し副ＶＯＬ１２５１をコピーペアとして対応付ける設定を行うフローを示す。図７と同じ処理について説明を割愛する。
【００４５】
本実施例では副ＶＯＬ１２５１は外部ＶＯＬ１２８１をマッピングする構成のため、コピーペア設定時には外部ＶＯＬ１２８１を対応づける設定が必要となる。構成設定部２１１１の処理４５０３で該プールが自動複製の対象である場合、構成設定部２１１１は追加されたＰｏｏｌ  ＶＯＬと同容量の外部ＶＯＬがストレージ装置Ｂ上にありパス設定されているかを判定する。
【００４６】
Ｙｅｓの場合、ストレージ装置Ａの構成管理部１５２１に対し、外部ＶＯＬ１２８１をストレージ装置Ａ１００２上の論理ＶＯＬとして登録し、前記論理ＶＯＬを追加されたＰｏｏｌ  ＶＯＬ１２０１の副ＶＯＬ１２５１としてコピーペア１７０１を形成するよう指示する（ステップＳ４５０６）。Ｎｏの場合、ストレージ装置Ｂ１００３上の構成管理部１５２２に対し、追加されたＰｏｏｌ  ＶＯＬ１２０１と同容量の外部ＶＯＬをストレージ装置Ｂ１００３上に作成し、パスを設定するよう指示し、完了後前記４５０６の処理に進む。
【００４７】
プール１３０１を構成しているボリューム閉塞からプール１３０１を復旧するためのフローについては、実施例１の図８、図９と同様の処理となるため説明を割愛する。
【実施例３】
【００４８】
本実施例では外部のストレージを接続する構成において、コントローラとなるストレージ装置が全閉塞した場合、外部のストレージを用いて復旧（リカバリ）する方式について例示する。
【００４９】
図１７は本発明の一実施形態であるストレージシステム（計算機を含む）のブロック図である。本図において、ストレージ装置Ａ１００２とストレージ装置Ｃ１００４の内部構造は図１２におけるストレージ装置Ａ１００２とストレージ装置Ｂ１００３とそれぞれ同一であるため省略する。また、ホスト計算機、管理サーバ、管理ネットワーク、ストレージネットワークについての基本的な説明についても、図１２と同様割愛する。ホスト計算機２２０１には、ホスト管理部２３０１に加え、ストレージ装置内のボリュームとの経路を切替えを行うパス管理部２３１１と、ストレージ装置自体の障害を検知し対処を行う障害管理部２３２１が含まれる。
【００５０】
図１８は本発明の一実施形態であるストレージ装置Ｃ１００４内の構成を示すブロック図である。ポート、コントローラ、アレイグループ、メモリ、キャッシュ等基本的な説明は、図２と同じであるため割愛する。図１８と図２との違いは、障害検知部１５５１及び構成管理ＴＢＬ（ｂ）５２０２を図１８が含まない点である。
【００５１】
図１９は本発明の一実施形態であるストレージ装置Ａ１００２の閉塞後に、ストレージ装置Ｃ１００４側にボリュームの引き継ぎを行う構成を示すブロック図である。ストレージＡ１００２閉塞前は、図１２とほぼ同様の構成となる。本実施例との違いは図１９で示す容量仮想化管理ＴＢＬ５００１の扱いである。
【００５２】
本実施例ではストレージ装置Ａ１００２閉塞後、ストレージ装置Ｃ１００４側でストレージ装置Ａ１００２と同様の構成を再現する必要があるため、セグメントの対応付けと構成情報が格納された容量仮想化管理ＴＢＬ５００１の複製をストレージ装置Ｃ１００４側に持つ必要がある（容量仮想化管理ＴＢＬ５００２）。この実現にはストレージ装置が持つ同期型（Ｓｙｎｃｈｒｏｎｉｚｅｄ）のリモートコピー機能を用いても良い。ストレージ装置Ａ１００２が閉塞するとホスト計算機２２０１が閉塞を検知し、ストレージ装置Ｃ１００４に対し引継ぎを指示する。ストレージ装置Ｃ１００４は容量仮想化管理ＴＢＬ５００２を使ってストレージ装置Ａ１００２と同じ構成のプール１３０２及び仮想ＶＯＬ１４０２を構成する。ストレージ装置Ｃ１００４の構成完了後、ホスト計算機２２０１はホストＶＯＬ２４０１の接続先パスをストレージ装置Ｃ１００４に切替えることで復旧が完了する。本処理フローの詳細について以降で説明する。
【００５３】
図２０にストレージ装置Ａ１００２が閉塞した際にボリュームのパス切替えを行うフローを、図２１にストレージ装置Ｃ１００４がストレージ装置Ａ１００２の構成を引き継ぐための設定フローを示す。図２０でホスト計算機２２０１の障害管理部２３２１はストレージ装置Ａ１００２の閉塞イベントを検知し閉塞と判定した場合、ストレージ装置Ｃのプール復旧制御部１５４１に通知する（ステップＳ４６０５）。閉塞判定では、ネットワークパーティション問題を考慮し、例えばストレージ装置Ａ１００２の管理ポート１０１５とストレージ装置Ｃ１００４の管理ポート１０１５両方から閉塞のイベントを受信した場合に閉塞と見なす（ステップＳ４６０３）。
【００５４】
障害管理部２３２１はその後ストレージ装置Ｃ１００４のリカバリ完了待ちを行い（ステップＳ４６０７）、プール復旧制御部１５４１からリカバリ完了イベントを受信すると、パス管理部２３１１に対し、ホストＶＯＬ２４０１のパスをストレージ装置Ｃ１００４上の仮想ＶＯＬ１４０２に切替えるよう指示し、完了後処理を終了する。図２１でストレージ装置Ｃ１００４のプール復旧制御部１５４１は、障害管理部２３２１からストレージ装置Ａ１００２の閉塞通知を受ける（ステップＳ４６０６）ことで処理を開始する。
【００５５】
まずストレージ装置Ａ１００２のＰｏｏｌ  ＶＯＬ１２０１の副ＶＯＬ１２６１として割当てられた外部ＶＯＬ１２８１の有無を構成管理ＴＢＬ（ｂ）５２０２を用いて判定し、存在しない場合処理を終了する。存在する場合、該当する外部ＶＯＬ１２８１のパス設定を解除し（ステップＳ４７０３）、容量仮想化管理ＴＢＬ５００２の書換えを行う。この書換えに先立ち必要なら容量仮想化管理ＴＢＬ５００２を複製するためのコピー構成を解除する。書換えはテーブルのリストの内、外部ＶＯＬ１２８１を副ＶＯＬ１２６１として持つＰｏｏｌ  ＶＯＬ１２０１をＰｏｏｌ  ＶＯＬ識別子５０３１として記載している箇所を外部ＶＯＬ１２８１で上書きすることで行う。
【００５６】
この際、外部ＶＯＬ１２８１とＰｏｏｌ  ＶＯＬ１２０１の関係は構成管理ＴＢＬ（ｂ）５２０２から取得する（ステップＳ４７０４）。書換え後、プール復旧制御部１５４１は構成管理ＴＢＬ（ａ）５１０１を用いてプール１３０２及び仮想ＶＯＬ１４０２構築、さらにはホスト計算機２２０１までのパス設定を行うよう構成管理部１５２１に指示する（ステップＳ４７０５）。設定完了後、容量仮想化管理ＴＢＬ５００２を適用するように容量仮想化部１５３１に指示する（ステップＳ４７０６）。適用完後、障害管理部２３２１に対しリカバリ完了を通知し（ステップＳ４７０７）、処理を完了する。
【００５７】
本実施例の別形態となる実施方式について以下説明する。本実施方式は基本的な構成は図１７、図１９と同じであるが、ストレージ装置Ａ１００２は副ＶＯＬ１２６１を持たず、直接ストレージ装置Ｃ１００４の外部ＶＯＬ１２８１を外部接続機能を用いてＰｏｏｌ  ＶＯＬ１２０１にマッピングする点が異なる。
【００５８】
ストレージ装置Ａ１００２閉塞時の処理フローも基本的には図２０、図２１と同じであるが、図２１のステップ４７０２がＰｏｏｌ  ＶＯＬ１２０１に割当てられた外部ＶＯＬの存在可否の判定であるのと、ステップ４７０４がＰｏｏｌ  ＶＯＬ１２０１の登録を対応する外部ＶＯＬ１２８１で置き換える点が異なる。以上から本実施方式においても、コントローラとなるストレージ装置の全閉塞から、外部のストレージを用いた復旧が可能である。
【図面の簡単な説明】
【００５９】
【図１】図１は本発明の実施例１の計算機を含むストレージシステムの構成例を示した図である。
【図２】図２は本発明の実施例１のストレージ装置の構成例を示した図である。
【図３】図３は本発明の実施例１の管理サーバの構成例を示した図である。
【図４】図４は本発明の実施例１のストレージ装置において容量仮想化機能がセグメントの割当て状況を管理するためのテーブルの一例である。
【図５】図５は本発明の実施例１の管理サーバが構成管理を行うためのテーブルの一例である。
【図６】図６は本発明の実施例１の管理サーバがプールのバックアップ管理を行うためのテーブルの一例である。
【図７】図７は本発明の実施例１のストレージ装置および管理サーバがプールの構成管理を行うためのフローチャートである。
【図８】図８は本発明の実施例１のストレージ装置がＰｏｏｌ  ＶＯＬあるいはプールの閉塞から復旧するためのフローチャートである。
【図９】図９は本発明の実施例１のストレージ装置がＰｏｏｌ  ＶＯＬあるいはプールの閉塞から復旧する際に計算機ホストを静止化するフローチャートである。
【図１０】図１０は本発明の実施例１の管理サーバがプールあるいは仮想ＶＯＬのバックアップを行うためのフローチャートである。
【図１１】図１１は本発明の実施例１の管理サーバが仮想ＶＯＬあるいはプールが持つデータのリストアを行うためのフローチャートである。
【図１２】図１２は本発明の実施例２の計算機を含むストレージシステムの構成例を示した図である。
【図１３】図１３は本発明の実施例２のストレージ装置の構成例を示した図である。
【図１４】図１４は本発明の実施例２のストレージ装置の構成例を示した図である。
【図１５】図１５は本発明の実施例２の管理サーバが構成管理を行うためのテーブルの一例である。
【図１６】図１６は本発明の実施例２のストレージ装置および管理サーバがプールの構成管理を行うためのフローチャートである。
【図１７】図１７は本発明の実施例３の計算機を含むストレージシステムの構成例を示した図である。
【図１８】図１８は本発明の実施例３のストレージ装置の構成例を示した図である。
【図１９】図１９は本発明の実施例３の計算機を含むストレージシステムにおいてストレージ装置が閉塞した際の構成例を示した図である。
【図２０】図２０は本発明の実施例３のストレージ装置が閉塞した際、外部のストレージ装置から復旧を行うためのフローチャートである。
【図２１】図２１は本発明の実施例３のストレージ装置が閉塞した際、外部のストレージ装置から復旧を行うためのフローチャートである。
【符号の説明】
【００６０】
１０００    ストレージ装置
１００１    ストレージ装置
１００２    ストレージ装置Ａ
１００３    ストレージ装置Ｂ
１００４    ストレージ装置Ｃ
１０１１    業務ポート
１０１２    業務ポート
１０１３    業務ポート
１０１５    管理ポート
１０１６    外部接続ポート
１０５１    コントローラ
１０７１    キャッシュ
１０８１    電源
１１０１    アレイグループ
１１０２    アレイグループ
１１５１    アレイグループ
１２０１    Ｐｏｏｌ  ＶＯＬ
１２０２    Ｐｏｏｌ  ＶＯＬ
１２０３    Ｐｏｏｌ  ＶＯＬ
１２５１，１２５２，１２５３    副ＶＯＬ
１２６１，１２６２，１２６３    副ＶＯＬ
１２８１，１２８２，１２８３    外部ＶＯＬ
１３０１    プール
１４０１    仮想ＶＯＬ
１４０３    仮想ＶＯＬ
１５０１    メモリ
１５０５    マイクロプログラミング部
１５１１    コピー制御部
１５２１    構成管理部
１５２２    構成管理部
１５３１    容量仮想化部
１５４１    プール復旧制御部
１５５１    障害検知部
１５６１    外部接続制御部
２０００    計算機
２００１    管理サーバ
２０１１    管理ポート
２０２１    プロセッサ
２０３１    出力部
２０４１    入力部
２１０１    メモリ
２１０２    管理部、
２１１１    構成設定部
２２０１    ホスト計算機
２２０２    ホスト計算機
２３０１    ホスト管理部
２４０１    ホストＶｏｌ
３０００    ネットワーク
３００１    ストレージネットワーク
３５０１    管理ネットワーク
４０００    処理シーケンス
５０００    管理テーブル
５００１    容量仮想化管理ＴＢＬ
５０１１    プール
５０２１    セグメント
５０３１    Ｐｏｏｌ  ＶＯＬ
５０４１    開始ＬＢＡ
５０５１    セグメントサイズ
５０６１    仮想ＶＯＬ
５０７１    Ｓｐｌｉｔ時刻
５１０１    構成管理ＴＢＬ（ａ）
５１１１    プール
５１２１    仮想ＶＯＬ
５１３１    容量（ｂｙｔｅ）
５１４１    ホスト計算機
５１４２    ホストＶＯＬ
５１４３    アプリケーション
５２０１    構成管理ＴＢＬ（ｂ）
５２１１      プール
５２２１    Ｐｏｏｌ  ＶＯＬ
５２３１    容量（ｂｙｔｅ）
５２４１    副ＶＯＬ
５２５１    コピーペア
５３０１    バックアップカタログ管理ＴＢＬ（ａ）
５３１１    Ｓｐｌｉｔ時刻
５３２１    プール
５３３１    仮想ＶＯＬ
５３４１    容量（ｂｙｔｅ）
５３５１    ホスト計算機
５３６１    ホストＶＯＬ
５３７１    アプリケーション
５４０１    バックアップカタログ管理ＴＢＬ（ｂ）
５４１１    Ｓｐｌｉｔ時刻
５４２１    プール
５４３１    Ｐｏｏｌ  ＶＯＬ
５４４１    容量（ｂｙｔｅ）
５４５１    副ＶＯＬ
５４６１    コピーペア
【図１】
2010092259.tif 000003
【図２】
2010092259.tif 000004
【図３】
2010092259.tif 000005
【図４】
2010092259.tif 000006
【図５】
2010092259.tif 000007
【図６】
2010092259.tif 000008
【図７】
2010092259.tif 000009
【図８】
2010092259.tif 000010
【図９】
2010092259.tif 000011
【図１０】
2010092259.tif 000012
【図１１】
2010092259.tif 000013
【図１２】
2010092259.tif 000014
【図１３】
2010092259.tif 000015
【図１４】
2010092259.tif 000016
【図１５】
2010092259.tif 000017
【図１６】
2010092259.tif 000018
【図１７】
2010092259.tif 000019
【図１８】
2010092259.tif 000020
【図１９】
2010092259.tif 000021
【図２０】
2010092259.tif 000022
【図２１】
2010092259.tif 000023