(57)【要約】【課題】  ステム全体としての性能を劣化させることなく、信頼性を向上させ得る記憶システム及びバックアップ方法を提案する。【解決手段】  かかる課題を解決するため本発明においては、第１の記憶装置が、上位装置から送信されるデータを記憶すると共に、記憶した当該データを第２及び第３の記憶装置に送信し、第２及び第３の記憶装置が、それぞれ第１の記憶装置から送信されるデータを記憶すると共に、記憶した当該データの整合性を第２及び第３の記憶装置間で検証するようにした。【選択図】        図４
2006309447.tif 000002
【特許請求の範囲】
【請求項１】
第１のサイトに設置された第１の記憶装置と、
第２のサイトに設置された第２の記憶装置と、
第３のサイトに設置された第３の記憶装置と、
前記第１乃至第３の記憶装置を通信可能に接続するネットワークと
を備え、
前記第１の記憶装置は、
上位装置から送信されるデータを記憶すると共に、記憶した当該データを前記第２及び第３の記憶装置に送信し、
前記第２及び第３の記憶装置は、
それぞれ前記第１の記憶装置から送信される前記データを記憶すると共に、記憶した当該データの整合性を前記第２及び第３の記憶装置間で検証する
ことを特徴とする記憶システム。
【請求項２】
前記第１の記憶装置は、
所定のタイミングで前記第２及び第３の記憶装置の少なくとも一方に検証要求を送信し、
前記第２及び第３の記憶装置は、
前記検証要求に応じて、記憶した前記データの整合性を前記第２及び第３の記憶装置間で検証する
ことを特徴とする請求項１に記載の記憶システム。
【請求項３】
前記第１の記憶装置は、
前記上位装置からの前記データ書込み要求の回数又は先行して前記検証要求を送信してからの経過時間に基づいて、前記第２及び第３の記憶装置の少なくとも一方に前記検証要求を送信する
ことを特徴とする請求項２に記載の記憶システム。
【請求項４】
前記第１の記憶装置から前記第２の記憶装置への前記データの送信は、前記上位装置から前記第１の記憶装置への前記データの送信に同期して行われ、
前記第１の記憶装置から前記第３の記憶装置への前記データの送信は、前記上位装置から前記第１の記憶装置への前記データの送信に同期して行われ、
前記検証の結果、前記第２及び第３の記憶装置がそれぞれ記憶する前記データが一致しなかったときには、前記第３の記憶装置が記憶する一致しなかった前記データを、前記第２の記憶装置が記憶する対応する前記データに書き換える
ことを特徴とする請求項１に記載の記憶システム。
【請求項５】
前記第１の記憶装置は、
前記第２及び第３の記憶装置間の通信エラーの有無に基づいて前記第２及び第３の記憶装置の被災の有無及び又は前記第２及び第３の記憶装置間のリンクの切断の有無を判断する
ことを特徴とする請求項１に記載の記憶システム。
【請求項６】
一方の前記第２又は第３の記憶装置に障害が発生したときには、当該前記第２又は第３の記憶装置の回復後、他方の前記第３又は第２の記憶装置が記憶している前記データを一方の前記第２又は第３の記憶装置に送信し、
一方の前記第２又は第３の記憶装置が、他方の前記第３又は第２の記憶装置から送信される前記データを記憶するようにして、当該第２又は第３の記憶装置を復旧する
ことを特徴とする請求項１に記載の記憶システム。
【請求項７】
第１のサイトに設置された第１の記憶装置と、第２のサイトに設置された第２の記憶装置と、第３のサイトに設置された第３の記憶装置とを有する記憶システムにおけるバックアップ方法において、
前記第１の記憶装置が、上位装置から送信されるデータを記憶すると共に、記憶した当該データを前記第２及び第３の記憶装置に送信する第１のステップと、
前記第２及び第３の記憶装置が、それぞれ前記第１の記憶装置から送信される前記データを記憶すると共に、記憶した当該データの整合性を前記第２及び第３の記憶装置間で検証する第２のステップと
を備えることを特徴とするバックアップ方法。
【請求項８】
前記第１の記憶装置は、
所定のタイミングで前記第２及び第３の記憶装置の少なくとも一方に検証要求を送信し、
前記第２及び第３の記憶装置は、
前記検証要求に応じて、記憶した前記データの整合性を前記第２及び第３の記憶装置間で検証する
ことを特徴とする請求項７に記載のバックアップ方法。
【請求項９】
前記第１の記憶装置は、
前記上位装置からの前記データ書込み要求の回数又は先行して前記検証要求を送信してからの経過時間に基づいて、前記第２及び第３の記憶装置の少なくとも一方に前記検証要求を送信する
ことを特徴とする請求項８に記載のバックアップ方法。
【請求項１０】
前記第１のステップにおいて、
前記第１の記憶装置から前記第２の記憶装置への前記データの送信は、前記上位装置から前記第１の記憶装置への前記データの送信に同期して行われ、
前記第１の記憶装置から前記第３の記憶装置への前記データの送信は、前記上位装置から前記第１の記憶装置への前記データの送信に同期して行われ、
前記第２のステップにおいて、
前記検証の結果、前記第２及び第３の記憶装置がそれぞれ記憶する前記データが一致しなかったときには、前記第３の記憶装置が記憶する一致しなかった前記データを、前記第２の記憶装置が記憶する対応する前記データに書き換える
ことを特徴とする請求項７に記載のバックアップ方法。
【請求項１１】
前記第１の記憶装置が、前記第２及び第３の記憶装置間の通信エラーの有無に基づいて前記第２及び第３の記憶装置の被災の有無及び又は前記第２及び第３の記憶装置間のリンクの切断の有無を判断する第３のステップ
を備えることを特徴とする請求項７に記載のバックアップ方法。
【請求項１２】
一方の前記第２又は第３の記憶装置に障害が発生したときには、当該前記第２又は第３の記憶装置の回復後、他方の前記第３又は第２の記憶装置が記憶している前記データを一方の前記第２又は第３の記憶装置に送信し、
一方の前記第２又は第３の記憶装置が、他方の前記第３又は第２の記憶装置から送信される前記データを記憶するようにして、当該第２又は第３の記憶装置を復旧する
ことを特徴とする請求項７に記載のバックアップ方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、記憶システム及びバックアップ方法に関し、例えば３ＤＣ（Data Center）システムに適用して好適なものである。
【背景技術】
【０００２】
従来、記憶システムに対する被災対策（ディザスタリカバリ）として、あるサイトにおいて運用されている記憶装置のデータのバックアップを、これと遠隔したサイトに設置された記憶装置において管理する技術（以下、この技術を「リモートコピー」と呼ぶ）が知られており、これに関する種々の技術が提案されている（特許文献１参照）。
【０００３】
例えば、上記特許文献１では、第１の記憶装置が記憶したデータのバックアップデータを第２の記憶装置において記憶すると共に、このバックアップデータを第２の記憶装置から直ちに読み出し、第２記憶装置に記憶されたバックアップデータと、第１の記憶装置に記憶されたデータとを比較することで、データ保証を実現して信頼性を高める技術が開示されている。
【０００４】
また近年では、運用されている第１の記憶装置に記憶されたデータを、第１の記憶装置からもまた相手側の記憶装置からも遠隔したサイトに設置されている２台の第２及び第３の記憶装置において管理する３ＤＣシステムと呼ばれる記憶システムに関する技術も多く提案されている（特許文献２参照）。
【０００５】
例えば、上記特許文献２では、３つのサイトのそれぞれ設置されている記憶装置のうち、複製元として設定されている第１の記憶装置のバックアップデータを、コピー先として設定されている第２及び第３の記憶装置においても管理し、ホスト装置からフェールオーバの実行要求があった場合には、第１の記憶装置に記憶されているデータの複製を、第２及び第３の記憶装置のうちの予備として設定されている第２又は第３の記憶装置において管理することが開示されている。
【０００６】
【特許文献１】特開２００５−２５６８３号公報
【特許文献２】特開２００４−２０６５６２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００７】
ところで、上記特許文献１において提案された方法によると、本番系の第１の記憶装置に蓄積されたデータと、バックアップ系の第２の記憶装置に蓄積されたバックアップデータとの比較を第１の記憶装置において行うこととしているため、第１の記憶装置の負担が多い問題があった。
【０００８】
そして、このようなデータ保証処理に関する第１の記憶装置の負担が多くなると、その分、第１の記憶装置へのユーザからのアクセスに対する処理に遅延を生じさせるなどの不具合が発生することとなって、結局、記憶システム全体としての性能を劣化させることとなる。
【０００９】
本発明は以上の点を考慮してなされたもので、システム全体としての性能を劣化させることなく、信頼性を向上させ得る記憶システム及びバックアップ方法を提案しようとするものである。
【課題を解決するための手段】
【００１０】
かかる課題を解決するため本発明においては、記憶システムであって、第１のサイトに設置された第１の記憶装置と、第２のサイトに設置された第２の記憶装置と、第３のサイトに設置された第３の記憶装置と、前記第１乃至第３の記憶装置を通信可能に接続するネットワークとを備え、前記第１の記憶装置は、上位装置から送信されるデータを記憶すると共に、記憶した当該データを前記第２及び第３の記憶装置に送信し、前記第２及び第３の記憶装置は、それぞれ前記第１の記憶装置から送信される前記データを記憶すると共に、記憶した当該データの整合性を前記第２及び第３の記憶装置間で検証するようにした。
【００１１】
この結果この記憶システムでは、本番系の第１の記憶装置に負担をかけることなく、バックアップデータの整合性を検証することができる。
【００１２】
また本発明においては、バックアップ方法において、第１のサイトに設置された第１の記憶装置と、第２のサイトに設置された第２の記憶装置と、第３のサイトに設置された第３の記憶装置とを有する記憶システムにおけるバックアップ方法において、前記第１の記憶装置が、上位装置から送信されるデータを記憶すると共に、記憶した当該データを前記第２及び第３の記憶装置に送信する第１のステップと、前記第２及び第３の記憶装置が、それぞれ前記第１の記憶装置から送信される前記データを記憶すると共に、記憶した当該データの整合性を前記第２及び第３の記憶装置間で検証する第２のステップとを備えることを特徴とする。
【００１３】
この結果このバックアップ方法によれば、本番系の第１の記憶装置に負担をかけることなく、バックアップデータの整合性を検証することができる。
【発明の効果】
【００１４】
本発明によれば、本番系の第１の記憶装置に負担をかけることなく、バックアップデータの整合性を検証することができるため、システム全体としての性能を劣化させることなく、信頼性を向上させ得る記憶システム及びバックアップ方法を実現できる。
【発明を実施するための最良の形態】
【００１５】
以下図面について、本発明の一実施の形態を詳述する。
【００１６】
（１）本実施の形態による記憶システムの構成
図１は、本実施の形態による記憶システム１を示している。記憶システム１は、異なる３つのサイト（場所）のそれぞれに設置された複数の記憶装置２〜４と、これら各記憶装置２〜４とそれぞれ接続されたホスト装置５〜７とを含んで構成される。各サイトは、例えば大学や企業などの組織によって運営されるコンピュータ施設や、インターネット上のＷｅｂサーバの運営、ＡＳＰ（Application Service Provider）の運用などが行われているデータセンタなどである。この記憶システム１は、地震、火災、台風、洪水、落雷又はテロなどに対するディザスタリカバリの実現のために構築される。
【００１７】
３つのサイトのうちの第１のサイトには、上位装置でなる第１のホスト装置５及びこれがアクセスする第１の記憶装置２が設置されている。また第２のサイトには、第２のホスト装置６及びこれがアクセスする第２の記憶装置３が設置され、第３のサイトには、第３のホスト装置７及びこれがアクセスする第３の記憶装置４が設置されている。
【００１８】
これら第１〜第３のサイトのうちの一のサイトに設置されているホスト装置５及び記憶装置２は本番系として運用され、他の２つのサイトに設置されているホスト装置６，７及び記憶装置３，４は、本番系に対するバックアップ系として運用される。以下においては、第１のサイトに設置された第１のホスト装置５及び第１の記憶装置２が本番系として使用され、第２及び第３のサイトに設置された第２、第３のホスト装置６，７及び第２、第３の記憶装置３，４がバックアップ系として使用されるものとする。
【００１９】
第１〜第３のサイトに設置された第１〜第３のホスト装置５〜７は、ネットワーク９を介して通信可能に接続されている。このネットワーク９は、具体的にはＩＰネットワークなどで構成されるＷＡＮなどである。
【００２０】
また第１〜第３のサイトに設置された第１〜第３の記憶装置２〜４も、それぞれネットワーク８を介して通信可能に接続されている。この場合におけるネットワーク８としては、後述するリモートコピーにおけるコピーデータの送信のために、例えばギガビットイーサネット（登録商標）、ＡＴＭ（Asynchronous Transfer Mode）、公衆回線などの高速かつ大容量のネットワークが採用される。
【００２１】
（２）装置構成
第１〜第３のホスト装置５〜７は、ＣＰＵ（Central Processing Unit）やメモリ等の情報処理資源を備えたコンピュータ装置であり、例えばパーソナルコンピュータや、ワークステーション、メインフレームなどから構成される。第１〜第３のホスト装置５〜７では、オペレーティングシステムが動作し、このオペレーティングシステム上において各種アプリケーションソフトウェアが動作する。
【００２２】
第１〜第３のホスト装置５〜７は、例えばＳＡＮ、ＬＡＮ、インターネット、公衆回線又は専用回線などからなるネットワークやケーブルを介して第１〜第３の記憶装置２〜４と接続される。ネットワークを介した第１〜第３のホスト装置５〜７及び第１〜第３の記憶装置２〜４間の通信は、例えばネットワークがＳＡＮである場合にはファイバーチャネルプロトコルに従って行われ、ネットワークがＬＡＮである場合にはＴＣＰ／ＩＰ（Transmission Control Protocol/Internet Protocol）プロトコルに従って行われる。
【００２３】
第１〜第３の記憶装置２〜４は、図２に示すように、複数のチャネルアダプタ１０、接続部１１、共有メモリ１２、キャッシュメモリ１３、複数のディスクアダプタ１４、管理端末１５及び複数のディスクドライブ１６を備えて構成されている。本実施の形態の場合、第１〜第３の記憶装置２〜４としてディスクアレイ装置を適用しているが、ディスクアレイ装置以外の例えば半導体記憶装置を適用することもできる。
【００２４】
各チャネルアダプタ１０は、それぞれマイクロプロセッサ、メモリ及び通信インタフェース等を備えたマイクロコンピュータシステムとして構成されており、主として接続された第１〜第３のホスト装置５〜７（図１）との間のインタフェースとしての機能を提供する。チャネルアダプタ１０は、第１〜第３のホスト装置５〜７からのデータ入出力要求を受信して、そのデータ入出力要求を共有メモリ１２に書き込む。なお、後述するリモートコピー機能及びこれに関連する各種機能は、チャネルアダプタ１０のマイクロプロセッサがこれらの機能を実現するプログラムを実行することにより提供される。
【００２５】
接続部１１は、チャネルアダプタ１０、共有メモリ１２、キャッシュメモリ１３及びディスクアダプタ１４と接続されている。チャネルアダプタ１０、共有メモリ１２、キャッシュメモリ１３及びディスクアダプタ１４間でのデータやコマンドの授受は、この接続部１１を介して行われる。接続部１１は、例えば高速スイッチングによりデータ伝送を行う超高速クロスバススイッチなどのスイッチ又はバス等で構成される。
【００２６】
共有メモリ１２及びキャッシュメモリ１３は、チャネルアダプタ１０及びディスクアダプタ１４により共有される記憶メモリである。共有メモリ１２は、主に制御情報やコマンド等を記憶するために利用され、キャッシュメモリ１３は、主にディスクドライブに入出力するデータを一時的に記憶するために利用される。
【００２７】
管理端末１５は、その第１〜第３の記憶装置２〜４全体やディスクドライブ１６を保守・管理するためのコンピュータであり、ＬＡＮ１７を介して各チャネルアダプタ１０とそれぞれ接続されると共に、ＬＡＮ１８を介して各ディスクアダプタ１４とそれぞれ接続されている。チャネルアダプタ１０やディスクアダプタ１４において実行されるソフトウェアやパラメータの変更は、管理端末１５の指示により行われる。
【００２８】
各ディスクアダプタ１４は、マイクロプロセッサやメモリ等を備えたマイクロコンピュータシステムとして構成され、チャネルアダプタ１０により共有メモリ１２に書き込まれたデータ入出力要求を読み出してそのデータ入出力要求に設定されているコマンド（例えばＳＣＳＩ（Small Computer System Interface）規格のコマンド）に従ってディスクドライブ１６にデータの書き込みや読み出しなどの処理を実行させる。またディスクアダプタ１４は、かかる処理の完了後には、データ完了通知やデータ読出し完了通知などをチャネルアダプタ１０に送信する。ディスクアダプタ１４は、ディスクドライブ１６をいわゆるＲＡＩＤ（Redundant Array of Inexpensive Disks）方式に規定されるＲＡＩＤレベル（例えば０，１，５）で制御する機能を備えることもある。
【００２９】
各ディスクドライブ１６は、例えばＳＣＳＩ（Small Computer System Interface）ディスク等の高価なディスクデバイス、又はＳＡＴＡ（Serial AT Attachment）ディスクや光ディスク等の安価なディスクデバイスを内蔵して構成される。これら各ディスクドライブ１６内のディスクデバイスはＲＡＩＤ方式で運用される。１又は複数のディスクデバイスにより提供される物理的な記憶領域上に、１又は複数の論理的なボリューム（以下、これを論理ボリュームと呼ぶ）ＶＯＬD（図３）が設定される。そしてデータは、この論理ボリュームＶＯＬDに記憶される。
【００３０】
図３は、第１〜第３の記憶装置２〜４におけるチャネルアダプタ１０及びディスクアダプタ１４のソフトウェア構成を示す。上述のように、チャネルアダプタ１０は、マイクロプロセッサやメモリ等を備えたマイクロコンピュータシステムとして構成されており、当該メモリに格納されたプログラムをマイクロプロセッサが実行することで各種処理が行われる。
【００３１】
このようなチャネルアダプタ１０の処理内容を機能的に分類すると、ホスト制御部２０、通信制御部２１、コマンド制御部２２、管理情報制御部２３及びデータ制御部２４に分けることができる。ホスト制御部２０は、ホスト装置５〜７との間のインタフェースとしての各種処理を実行する。また通信制御部２１は、他の記憶装置２〜４とデータ伝送をするための通信インタフェースであり、後述するリモートコピーにおけるコピーデータの伝送はこの通信制御部２１を介して行われる。コマンド制御部２２は、ホスト装置５〜７や他の記憶装置２〜４との間で送受する各種コマンドの生成や解釈を行う。管理情報制御部２３は、リモートコピーのための各種管理処理を実行する。またデータ制御部２４は、リモートコピー時における論理ボリュームＶＯＬDに対するデータの読書き処理等を実行する。
【００３２】
ディスクアダプタ１４も同様に、マイクロプロセッサやメモリ等を備えたマイクロコンピュータシステムとして構成されており、当該メモリに格納されたプログラムをマイクロプロセッサが実行することでディスク制御部２５が起動される。ディスク制御部２５は、上述のように共有メモリ１２（図２）に書き込まれたデータ入出力要求に従った論理ボリュームＶＯＬDに対するデータの書き込みや読み出しなどの処理を実行する。
【００３３】
（３）リモートコピー
本実施の形態による記憶システム１は、３ＤＣ（Data Center）と呼ばれるタイプのもので、本番系の第１のサイトに設置されている第１の記憶装置２が提供する論理ボリュームＶＯＬDと、バックアップ系の第２及び第３のサイトにそれぞれ設置されている第２及び第３の記憶装置３，４がそれぞれ提供する各論理ボリュームＶＯＬDとの間においてリモートコピーが行われる。
【００３４】
複製元の第１の記憶装置２の論理ボリュームＶＯＬDにデータが書き込まれると、そのデータがネットワーク８を介して複製先の第２及び第３の記憶装置３，４にそれぞれ送信され、これら第２及び第３の記憶装置３，４が提供する論理ボリュームＶＯＬDの同じアドレス位置にそのデータが書き込まれる。すなわちリモートコピーは、対応付けられている本番系の論理ボリュームＶＯＬDとバックアップ系の論理ボリュームＶＯＬDとの内容を一致するように行われる。以下においては、このようにリモートコピーが行われている２つの記憶装置２〜４を、「ペア」を構成している記憶装置と呼ぶ。
【００３５】
リモートコピーの方式には、同期方式と非同期方式とがある。本実施の形態の場合、第１及び第２の記憶装置２，３間におけるリモートコピーは同期方式で行われ、第１及び第３の記憶装置２，４間におけるリモートコピーは非同期方式で行われる。
【００３６】
同期方式の場合には、通常、ホスト装置から本番系の論理ボリュームへのデータ書き込みを指示するデータ入出力要求を受信した本番系の記憶装置は、まず自身の論理ボリュームにデータを書き込む。また書き込んだデータと同じデータをバックアップ系の記憶装置に送信する。バックアップ系の記憶装置は、受信したデータを自身の論理ボリュームに書き込み、その後その旨を本番系の記憶装置に通知する。そして、この通知を受信した本番系の記憶装置はホスト装置にデータの書き込みを完了した旨の通知（以下、これを完了通知と呼ぶ）を送信する。
【００３７】
このように同期方式では、本番系の論理ボリュームとバックアップ系の論理ボリュームの双方にデータが書き込まれたことが確認された後にホスト装置に完了通知が送信される。このため同期方式のリモートコピーでは、ホスト装置が完了通知を受信した時点で本番系の論理ボリュームの内容とバックアップ系の論理ボリュームの内容の一致性が確保されることになる。
【００３８】
但し、バックアップ系の論理ボリュームへのデータの書き込みが完了するまではホスト装置に完了通知が送信されない。従って、同期方式ではホスト装置から本番系の記憶装置にデータ入出力要求が送信され、その後ホスト装置に完了通知が返ってくるまでのレスポンスタイムは一般に非同期方式の場合よりも長くなる。
【００３９】
一方、非同期方式の場合、ホスト装置から本番系の論理ボリュームへのデータ書き込みを指示するデータ入出力要求を受信した本番系の記憶装置は、これに応じて自身の論理ボリュームにデータを書き込む。また、書き込んだデータと同じデータをバックアップ系の記憶装置に送信する。バックアップ系の記憶装置は、受信したデータを自身の論理ボリュームに書き込み、完了通知を本番系のサイトに送信する。
【００４０】
ここで本番系の記憶装置は、自身の論理ボリュームにデータを書き込むと、バックアップ系の記憶装置にデータが書き込まれたかどうかとは関係なく直ちにホスト装置に完了通知を送信する。このため、非同期方式では一般に同期方式の場合に比べてホスト装置へのレスポンスタイムが短くなる。しかしながら本番系の論理ボリュームとバックアップ系の論理ボリュームとの間のデータの一致性は必ずしも保証されない。なお、非同期方式の場合には、バックアップ系の記憶装置に未反映のデータが本番系の記憶装置において管理される。
【００４１】
（４）本実施の形態による記憶システムにおけるリモートコピー機能
次に、この記憶システム１に搭載されたリモートコピー機能について説明する。本実施の形態による記憶システム１では、本番系の第１のサイトに設置された第１の記憶装置２から定期的に与えられるデータチェック要求に応じて、バックアップ系の第２及び第３のサイトにそれぞれ設置された第２及び第３の記憶装置３，４が保持するバックアップデータをこれら第２及び第３の記憶装置３，４間において比較・検証する点を特徴の１つとしている。
【００４２】
図４は、このようなリモートコピー機能に関する記憶システム１のソフトウェア構成を示す。また図５は、このリモートコピー機能に関する本番系の記憶装置である第１の記憶装置２の処理手順（以下、これをプライマリ側バックアップ処理手順ＲＴ１と呼ぶ）を示す。図４では、図３との対応部分について、第１の記憶装置２に関しては添え字「Ａ」、第２の記憶装置３に関しては添え字「Ｂ」、第３の記憶装置４に関しては添え字「Ｃ」をそれぞれ付している。
【００４３】
第１の記憶装置２では、通常時、ホスト制御部２２Ａが第１のホスト装置５からのデータ書込み要求を待ち受ける（ＳＰ１）。そして、ホスト制御部２２Ａが第１のホスト装置５からのデータ書込み要求及び書込み対象のデータを受信すると（ＳＰ１：ＹＥＳ）、第１の記憶装置２の管理報制御部２３Ａは、このデータについて、図６に示すようなデータフォーマットのコピー制御情報３０を作成する（ＳＰ２）。
【００４４】
このコピー制御情報３０は、本番系の論理ボリュームＶＯＬDAに書き込まれたデータを本番系の論理ボリュームＶＯＬDAからバックアップ系の論理ボリュームＶＯＬDB，ＶＯＬDCにリモートコピーする際（つまりバックアップの際）や、バックアップ系の論理ボリュームＶＯＬDB，ＶＯＬDC間においてバックアップデータ同士を比較・検証する際に作成されるもので、更新グループ番号フィールド３０Ａ、更新番号フィールド３０Ｂ、ライト先アドレスフィールド３０Ｃ、データサイズフィールド３０Ｄ、コピーデータアドレスフィールド３０Ｅ、コピーデータフィールド３０Ｆ、データチェック要求ビットフィールド３０Ｇ、データチェック済みビットフィールド３０Ｈ、データコンペア要求ビットフィールド３０Ｉ、データコンペア済みビットフィールド３０Ｊ、データコンペアエラービットフィールド３０Ｋ、データ反映要求ビットフィールド３０Ｌ及びデータ反映済みビットフィールド３０Ｍから構成される。
【００４５】
このうちコピーデータフィールド３０Ｆには、バックアップしようとしている第１の記憶装置２の論理ボリュームＶＯＬDAに書き込まれたデータや、バックアップ系の論理ボリュームＶＯＬDB，ＶＯＬDC間において比較・検証しようとしている比較・検証対象のバックアップデータが格納される。
【００４６】
また更新グループ番号フィールド３０Ａには、コピーデータフィールド３０Ｆに格納されたバックアップ対象又は比較・検証対象のデータが属するグループの識別番号が格納され、更新グループ番号フィールド３０Ｂには、そのグループ内における当該データの順位を表すシーケンシャルな番号が格納される。同一の記憶装置内で、更新グループ番号及び更新番号の組み合わせは一意の値となる。
【００４７】
さらにライト先アドレスフィールド３０Ｃには、かかるバックアップ対象又は比較・検証対象のデータを書き込むべき又は書き込まれている論理ボリュームＶＯＬDB，ＶＯＬDCのアドレスが格納される。データは、本番系の論理ボリュームＶＯＬDA及びバックアップ系の論理ボリュームＶＯＬDB，ＶＯＬDCのいずれにおいても同じアドレスに格納されるため、例えばバックアップ時には、このライト先アドレスフィールド３０Ｃに、第１のホスト装置５からのデータ入出力要求に含まれるそのデータを書き込むべき本番系の論理ボリュームＶＯＬDAのアドレスがそのまま格納される。
【００４８】
データサイズフィールド３０Ｄには、かるバックアップ対象又は比較・検証対象のデータの大きさが格納される。さらにコピーデータアドレスフィールド３０Ｅには、このコピー制御情報３０におけるコピーデータフィールド３０Ｆのアドレスが格納される。
【００４９】
一方、コピー制御情報３０のデータチェック要求ビットフィールド３０Ｇからデータ反映済みビットフィールド３０Ｍまでは、バックアップ系の第２及び第３の記憶装置３，４間において，これら第２及び第３の記憶装置３，４が保持する対応するバックアップデータ同士を比較・検証する際に用いられる。
【００５０】
このうちデータチェック要求ビットフィールド３０Ｇには、本番系の記憶装置である第１の記憶装置２がバックアップ系の記憶装置である第２及び第３の記憶装置３，４に対して後述のようなバックアップデータのチェック処理の実行を要求するときにフラグが格納され、データチェック済みビットフィールド３０Ｈには、そのコピー制御情報３０のコピーデータフィールド３０Ｆに格納されたバックアップデータについての比較・検証が完了したときにフラグが格納される。
【００５１】
またデータコンペア要求ビットフィールド３０Ｉには、第２又は第３の記憶装置３，４がチェック処理時に相手方となる第３又は第２の記憶装置４，３に対して比較・検証対象のバックアップデータの転送を要求するときにフラグが格納され、データコンペア済みフィールド３０Ｊには、そのコピー制御情報３０のコピーデータフィールド３０Ｆに格納されたバックアップデータの比較・検証が終了した場合にフラグが格納される。さらにデータコンペアエラービットフィールド３０Ｋには、そのときそのコピー制御情報３０のコピーデータフィールド３Ｆに格納されているバックアップデータについて比較・検証した結果、第２及び第３の記憶装置３，４がそれぞれ保持するバックアップデータが一致しなかったときにフラグが格納される。
【００５２】
データ反映要求ビットフィールド３０Ｌには、第１の記憶装置２が第２、第３の記憶装置３，４の被災や、これら第２、第３の記憶装置３，４との間のリンク切れを検出したときなどにフラグが格納される。このデータ反映要求ビットフィールド３０Ｌにフラグが格納されている場合、後述のように、バックアップ系の第２及び第３の記憶装置３，４間において、被災した第３又は第２の記憶装置４，３に対する復旧処理が行われる。さらにデータ反映済みビットフィールド３０Ｍには、データ反映要求を受信した第３又は第２の記憶装置４，３において復旧処理が終了した後にフラグが格納される。
【００５３】
なお初期時には、コピー制御情報３０のデータチェック要求ビットフィールド３０Ｇ、データチェック済みビット３０Ｈ、データコンペア要求ビットフィールド３０Ｉ、データコンペア済みビットフィールド３０Ｊ、データコンペアエラービットフィールド３０Ｋ、データ反映要求ビットフィールド３０Ｌ及びデータ反映済みビットフィールド３０Ｍには、フラグが格納されない。
【００５４】
図５に戻って、第１の記憶装置２の管理情報制御部２３Ａは、第１のホスト装置５から論理ボリュームＶＯＬDAに書き込むべきデータが送信されると、そのデータについての更新グループ番号、更新番号、ライト先アドレス、データサイズ及びデータをそれぞれ更新グループ番号フィールド３０Ａ、更新番号フィールド３０Ｂ、ライト先アドレスフィールド３０Ｃ、データサイズフィールド３０Ｄ及びコピーデータフィールド３０Ｆにそれぞれ格納するようにしてコピー制御情報３０を順次作成し、これをキャッシュメモリ１３Ａに格納する（ＳＰ２）。
【００５５】
この後、データ制御部２０Ａは、かかる第１のホスト装置５からの書込み対象のデータを、ディスク制御部２５Ａを介して第１の記憶装置２の論理ボリュームＶＯＬDAに順次書き込ませる（ＳＰ３）。またデータ制御部２０Ａは、キャッシュメモリ１３Ａに格納されているコピー制御情報３０を、データ用の論理ボリュームＶＯＬDAとは別個に設けられたコピー制御情報用の論理ボリューム（以下、これをコピー制御情報ボリュームＶＯＬCAと呼ぶ）に格納する（ＳＰ４）。
【００５６】
さらに、この後管理情報制御部２３Ａは、第１のホスト装置５からのデータ書込み要求の回数が予め定められた設定回数以上となり、又は先行してバックアップデータの検証を要求してから（最後にデータチェック要求を発行してから）予め定められた設定時間経過したか否かを判断する（ＳＰ５）。そして管理情報制御部２３Ａは、このとき肯定結果を得た場合には（ＳＰ５：ＹＥＳ）、第２及び第３の記憶装置３，４に後述のチェック処理を実行させるべく、コピー制御情報３０のデータチェック要求ビットフィールド３０Ｇにフラグを格納する（ＳＰ６）。
【００５７】
この後第１の記憶装置２では、通信制御部２１Ａが、キャッシュメモリ１３Ａに格納されているコピー制御情報３０を第２及び第３の記憶装置６，７に送信する（ＳＰ７）。そして通信制御部２１Ａは、この後第２及び第３の記憶装置３，４の双方から上述の完了通知が送信されるのを待ち受け（ＳＰ８）、一定時間内にこれら第２及び第３の記憶装置３，４の双方からの完了通知を受信したときには（ＳＰ８：ＹＥＳ）、再び第１のホスト装置５からのデータ書込み要求を待ち受ける待受けモードに戻る（ＳＰ１）。
【００５８】
これに対して、第１の記憶装置２の通信制御部２１Ａが一定時間内にこれら第２及び第３の記憶装置３，４からの完了通知を受信できなかった場合には（ＳＰ８：ＮＯ）、受信できなかった第２及び又は第３の記憶装置３，４が被災し又はその第２、第３の記憶装置３，４との間のリンクが切断したことが考えられる。そこで、この記憶システム１では、この場合には後述する第２又は第３のエラー及び復旧処理を実行する（ＳＰ９）。
【００５９】
一方、図７は、バックアップ系の記憶装置である第２及び第３の記憶装置３，４のリモートコピーに関する処理手順（以下、これをセカンダリ側バックアップ処理手順ＲＴ２と呼ぶ）を示すものである。第２及び第３の記憶装置３，４の各通信制御部２１Ｂ，２１Ｃは、通常時、第１の記憶装置２からコピー制御情報３０が送信されるのを待ち受ける（ＳＰ１０）。
【００６０】
ここで、第２及び第３の記憶装置３，４の各通信制御部２１Ｂ，２１Ｃが一定時間内にコピー制御情報３０を受信できなかった場合（ＳＰ１０：ＮＯ）、第１の記憶装置２が被災し又は第１の記憶装置と第２及び第３の記憶装置３，４の間のリンクが切断したことが考えられる。そこでこの場合、この記憶システム１では、後述する第１のエラー及び復旧処理を実行する（ＳＰ１１）。
【００６１】
これに対して第２及び第３の記憶装置３，４の各通信制御部２１Ｂ，２１Ｃは、一定時間内に第１の記憶装置２からのコピー制御情報３０を受信すると（ＳＰ１０：ＹＥＳ）、これをキャッシュメモリ１３Ｂ，１３Ｃに書き込む（ＳＰ１２）。また第２及び第３の記憶装置３，４の各データ制御部２４Ｂ，２４Ｃは、かかるコピー制御情報３０がキャッシュメモリ１３Ｂ，１３Ｃに格納されると、このコピー制御情報３０のライト先アドレスフィールド３０Ｃに格納されているアドレスを読み出し、コピー制御情報３０のコピーデータフィールド３０Ｆに格納されているデータをディスク制御部２５Ｂ，２５Ｃを介してこのアドレスに書き込む。これにより第１の記憶装置２の論理ボリュームＶＯＬDAに書き込まれたデータと同じデータが第２及び第３の記憶装置３，４の各論理ボリュームＶＯＬDB，ＶＯＬDCに書き込まれて、バックアップが行われることとなる。
【００６２】
またこれと前後して、第２及び第３の記憶装置３，４の各データ制御部２４Ｂ，２４Ｃは、キャッシュメモリ１３Ｂ，１３Ｃに格納されているそのコピー制御情報３０を、データ用の論理ボリュームＶＯＬDB，ＶＯＬDCとは別個に設けられた論理ボリューム（以下、これをコピー制御情報ボリュームＶＯＬCB，ＶＯＬCCと呼ぶ）に格納する（ＳＰ１３）。そして第２及び第３の記憶装置３，４の管理情報制御部２３Ｂ，２３Ｃは、かかるコピー制御情報ボリュームＶＯＬCB，ＶＯＬCCに格納されたそのデータ制御情報３０に基づいて、そのコピー制御情報３０のデータチェック要求ビットフィールド３０Ｇにフラグが格納されているか否かを判断する（ＳＰ１５）。
【００６３】
そして第２及び第３の記憶装置３，４は、データチェック要求ビットフィールド３０Ｇにフラグが格納されていなかったときには（ＳＰ１５：ＮＯ）、再び通信制御部２１Ｂ，２１Ｃが第１の記憶装置２からコピー制御情報３０が送信されるのを待ち受ける待受けモードに戻る（ＳＰ１０）。
【００６４】
これに対して、第２及び第３の記憶装置３，４は、データチェック要求ビットフィールド３０Ｇにフラグが格納されていたときには（ＳＰ１５：ＹＥＳ）、これら第２及び第３の記憶装置３，４がそれぞれ保持しているバックアップデータの整合性を検証するためのチェック処理を実行する。このチェック処理は、最後にチェック処理を行ってからそのときまでに取得したバックアップデータについて行われる。なお、第２及び第３の記憶装置３，４は、チェック処理中は第１の記憶装置２からコピー制御情報３０に格納されて送信されるバックアップ対象のデータの論理ボリュームＶＯＬDB，ＶＯＬDCへの反映を一時的に中止するが、この間も第１の記憶装置２から送信されるコピー制御情報３０の受信を続けてキャッシュメモリ１３Ｂ，１３Ｃに蓄積する。そして第２及び第３の記憶装置３，４は、チェック処理終了後にこれらコピー制御情報３０を論理ボリュームＶＯＬDB，ＶＯＬDCに反映させる（つまりこれらコピー制御情報３０のコピーデータフィールド３０Ｆに格納されているデータを論理ボリュームＶＯＬDB，ＶＯＬDCに書き込む）。
【００６５】
図８は、このようなチェック処理を第２の記憶装置３が主導権を握って行う場合における第２の記憶装置３において行われるチェック処理の処理手順（以下、これを主導側チェック処理手順ＲＴ３と呼ぶ）を示し、図９は、この場合における第３の記憶装置４において行われるチェック処理の処理手順（従属側チェック処理手順ＲＴ４と呼ぶ）を示す。
【００６６】
第２の記憶装置３では、チェック処理に入ると、まず管理情報制御部２３Ｂが、先行するチェック処理の終了後、最初に受信したコピー制御情報３０（コピー制御情報ボリュームＶＯＬCCに格納されている最も古いコピー制御情報３０に相当）のコピーデータフィールド３０Ｆに格納されていたデータについて、図６について上述したコピー制御情報３０を作成し、これをキャッシュメモリ１３Ｂに格納する（ＳＰ３０）。このコピー制御情報３０は、更新グループ番号フィールド３０Ａ、更新番号フィールド３０Ｂ、ライト先アドレスフィールド３０Ｃ、データサイズフィールド３０Ｄ及びコピーデータアドレス３０Ｅの内容がコピー制御情報ボリュームＶＯＬCCに格納されている最も古いコピー制御情報３０と同じで、コピーデータフィールド３０Ｆにデータが格納されておらず、かつデータコンペア要求ビットフィールド３０Ｉにフラグが格納されたものである。
【００６７】
第２の記憶装置３の通信制御部２１Ｂは、このコピー制御情報３０がキャッシュメモリ１３Ｂに格納されると、これを読み出して第３の記憶装置４に送信する（ＳＰ３１）。また第２の記憶装置の通信制御部２１Ｂは、この後、後述のようにこのコピー制御情報３０のコピーデータフィールド３０Ｆに第３の記憶装置４が対応するバックアップデータを格納して返信するのを待ち受ける（ＳＰ３２）。
【００６８】
ここで、このコピー制御情報３０が一定時間内に第３の記憶装置４から返信されなかった場合（ＳＰ３２：ＮＯ）、第３の記憶装置４が被災し又は第２及び第３の記憶装置３，４間のリンクが切断したことが考えられる。そこで、この記憶システム１では、この場合には後述する第２のエラー及び復旧処理を実行する（ＳＰ３３）。
【００６９】
これに対して、このコピー制御情報３０が一定時間内に第３の記憶装置４から返信された場合、第２の記憶装置３の通信制御部２１Ｂは、これをキャッシュメモリ１３Ｂに格納する（ＳＰ３４）。また第２の記憶装置３のデータ制御部２４Ｂは、この後ディスク制御部２５Ｂを制御して、このコピー制御情報３０のコピーデータフィールド３０Ｆに格納されているバックアップデータと対応するバックアップデータを論理ボリュームＶＯＬDBから読み出させる。そしてデータ制御部２４Ｂは、このコピー制御情報３０のコピーデータフィールド３０Ｆに格納されている、第３の記憶装置４の論理ボリュームＶＯＬDCから読み出したバックアップデータと、そのとき第２の記憶装置３の論理ボリュームＶＯＬDBから読み出した対応するバックアップデータとを比較する（ＳＰ３５）。
【００７０】
そして第２の記憶装置３の管理情報制御部２３Ｂは、これらが一致しなかったときには（ＳＰ３６：ＮＯ）、所定のコンペアエラー処理を実行する（ＳＰ３７）。このコンペアエラー処理は、同期方式でのリモートコピーを行っている第２の記憶装置３が記憶するバックアップデータの方が非同期方式でのリモートコピーを行っている第３の記憶装置４が記憶するバックアップデータよりも信用性が高いであろうとの前提のもとに、第２の記憶装置３が記憶するバックアップデータを第３の記憶装置４が記憶するバックアップデータに上書きするための処理を行う。具体的に、管理情報制御部２３Ｂは、そのときキャッシュメモリ１３Ｂに格納されているコピー制御情報３０のコピーデータフィールド３０Ｆに第２の記憶装置３の論理ボリュームＶＯＬDBに保持している対応するバックアップデータを格納すると共にそのコピー制御情報３０のデータコンペアエラービットフィールド３０Ｋにフラグを格納して、これを第３の記憶装置４に送信する。
【００７１】
これに対して第２の記憶装置３の管理情報制御部２３Ｂは、第２の記憶装置３の論理ボリュームＶＯＬDBから読み出されたバックアップデータと、第３の記憶装置４の論理ボリュームＶＯＬDCから読み出された対応するバックアップデータとが一致したときには（ＳＰ３６：ＹＥＳ）、そのときキャッシュメモリ１３Ｂに格納されているコピー制御情報３０のデータコンペア済みビットフィールド３０Ｊにフラグを格納する（ＳＰ３８）。また管理情報制御部２３Ｂは、コンペアエラー処理を終了した後も同様に、そのときキャッシュメモリ１３Ｂに格納されているコピー制御情報３０のデータコンペア済みビットフィールド３０Ｊにフラグを格納する（ＳＰ３８）。
【００７２】
この後、第２の記憶装置３の通信制御部２１Ｂは、このコピー制御情報３０を第３の記憶装置４に送信する（ＳＰ３９）。また第２の記憶装置４の管理情報制御部２３Ｂは、このコピー制御情報３０をキャッシュメモリ１３Ｂから削除する（ＳＰ４０）。さらに第２の記憶装置３のデータ制御部２４Ｂは、この後コピー制御情報ボリュームＶＯＬCBからそのコピー制御情報３０を削除する。このようにして第２の記憶装置３では、比較・検証処理を終えたバックアップデータが格納されているコピー制御情報３０をコピー制御情報ボリュームＶＯＬCBから順次削除する。
【００７３】
さらに、この後第２の記憶装置２の管理情報制御部２３Ｂは、先行するチェック処理の終了後に取得したすべてのバックアップデータについての検証を終えたか否か（コピー制御情報ボリュームＶＯＬCBにコピー制御情報３０が残っていないか否か）を判断し（ＳＰ４２）、否定結果を得た場合には（ＳＰ４２：ＮＯ）、次のコピー制御情報３０に含まれるバックアップデータについての比較・検証処理に移り（ＳＰ３０）、これに対して肯定結果を得た場合には（ＳＰ４２：ＹＥＳ）、第２の記憶装置３における一連のチェック処理を終了する。
【００７４】
一方、第３の記憶装置４では、チェック処理（図９）に入ると、通信制御部２１Ｃが第２の記憶装置３からのデータ制御情報３０を受信するのを待ち受ける（ＳＰ５０）。
【００７５】
ここで、第３の記憶装置４の通信制御部２１Ｃが一定時間内にこのデータ制御情報３０を受信できなかった場合（ＳＰ５０：ＮＯ）、第２の記憶装置３が被災し又は第２及び第３の記憶装置３，４間のリンクが切断したことが考えられる。そこで、この記憶システム１では、この場合には後述する第３のエラー及び復旧処理を実行する（ＳＰ５１）。
【００７６】
これに対して、第３の記憶装置４の通信制御部２１Ｃが一定時間内にこのデータ制御情報３０を受信した場合（ＳＰ５０：ＹＥＳ）、第３の記憶装置４の通信制御部２１Ｃは、このコピー制御情報３０をキャッシュメモリ１３Ｃに格納する（ＳＰ５２）。また第３の記憶装置４のデータ制御部２４Ｃは、コピー制御情報３０がキャッシュメモリ１３Ｃに格納されると、論理ボリュームＶＯＬDCにおけるこのコピー制御情報３０のライト先アドレスフィールド３０Ｃに格納されたアドレス位置に記憶されているバックアップデータを読み出し、これを当該コピー制御情報３０におけるコピーデータフィールド３０Ｆに格納する（ＳＰ５３）。そして、この後第３の記憶装置４の通信制御部２１Ｃは、このコピー制御情報３０を第２の記憶装置３に送信する（ＳＰ５４）。
【００７７】
また第３の記憶装置４の通信制御部２１Ｃは、この後第２の記憶装置３から、第２の記憶装置３の論理ボリュームＶＯＬDBから読み出されたバックアップデータと、第３の記憶装置４の論理ボリュームＶＯＬDCから読み出されたバックアップデータとの比較・検証結果が格納されたコピー制御情報３０が送信されるのを待ち受ける（ＳＰ５５）。このコピー制御情報３０は、図８のステップＳＰ３７又はステップＳＰ３９において第２の記憶装置３から第３の記憶装置４に送信されるコピー制御情報３０である。
【００７８】
ここで、第３の記憶装置４が一定時間内にこのコピー制御情報３０を受信できなかった場合（ＳＰ５５：ＮＯ）、第２の記憶装置３が被災し、又は第２及び第３の記憶装置３，４間のリンクが切断したことが考えられる。そこで、この記憶システム１では、この場合には後述する第３のエラー及び復旧処理を実行する（ＳＰ５６）。
【００７９】
これに対して、第３の記憶装置４が一定時間内にこのコピー制御情報３０を受信できた場合（ＳＰ５５：ＹＥＯ）、第３の記憶装置４の管理情報制御部２３Ｃがこのコピー制御情報３０のコンペアエラービットフィールド３０Ｋをチェックし（ＳＰ５７）、フラグが格納されているときには（ＳＰ５７：ＹＥＳ）、データ制御部２４Ｃに所定のコンペアエラー処理を実行させる（ＳＰ５８）。具体的に、管理情報制御部２３Ｃは、そのコピー制御情報３０のコピーデータフィールド３０Ｆに格納されているバックアップデータ（図８のステップＳＰ３３において格納されたバックアップデータ）を、当該コピー制御情報３０のライト先アドレスフィールド３０Ｃに格納されているアドレス位置に上書きする。
【００８０】
一方、第３の記憶装置４の管理情報制御部２３Ｃは、このコピー制御情報３０のコンペアエラービットフィールド３０Ｋにフラグが格納されていないときには（ＳＰ５７：ＮＯ）、キャッシュメモリ１３Ｃからこのコピー制御情報３０を削除する（ＳＰ５９）。コンペアエラー処理を終了した後も同様に、キャッシュメモリ１３Ｃからこのコピー制御情報３０を削除する（ＳＰ５９）。また第３の記憶装置４のデータ制御部２４Ｂは、コピー制御情報ボリュームＶＯＬCCからそのコピー制御情報３０を削除する（ＳＰ６０）。
【００８１】
その後第３の記憶装置４の管理情報制御部２３Ｃは、先行するチェック処理終に取得したすべてのバックアップデータについての検証を終えたか否か（コピー制御情報ボリュームＶＯＬCCにコピー制御情報３０が残っていないか否か）を判断し（ＳＰ６１）、否定結果を得た場合には（ＳＰ６１：ＮＯ）、次のコピー制御情報３０が第２の記憶装置３から送信されるのを待ち受ける待受けモードに戻り（ＳＰ５０）、これに対して肯定結果を得た場合には（ＳＰ６１：ＹＥＳ）、第３の記憶装置４における一連のチェック処理を終了する。
【００８２】
（５）エラー及び復旧処理
次に、この記憶システム１におけるエラー及び復旧処理について説明する。
【００８３】
（５−１）第１のエラー及び復旧処理
本実施の形態による記憶システム１では、例えば図７について上述したセカンダリ側バックアップ処理手順ＲＴ２のステップＳＰ１０において、第２及び第３の記憶装置３，４の各通信制御部２１Ｂ，２１Ｃが一定時間経過しても第１の記憶装置２との通信を確保できない場合には（ＳＰ１０：ＮＯ）、第１の記憶装置２に被災などの理由により障害が発生し、又はこれら第２及び第３の記憶装置３，４と第１の記憶装置２との間のリンクが切断したことが考えられる。
【００８４】
そこでこの記憶システム１では、この場合には第２及び第３の記憶装置３，４同士が通信を行って相手側の第３又は第２の記憶装置４，３も第１の記憶装置２からのコピー制御情報３０を一定時間受信していないことを確認（通信エラーの有無を確認）し、その後第２の記憶装置３が当該第２の記憶装置３を本番系の記憶装置とする設定を行う。そしてこの記憶システム１では、その後の通常運用により第２の記憶装置３の論理ボリュームＶＯＬDBに書き込まれたデータについては、第２及び第３の記憶装置３，４間において非同期方式でのリモートコピーが行われ、これにより第２の記憶装置３の論理ボリュームＶＯＬDBのバックアップデータが第３の記憶装置４の論理ボリュームＶＯＬDCに保持される。
【００８５】
一方、その後に第１の記憶装置２が復旧し、又は第２及び第３の記憶装置３，４と第１の記憶装置２との間のリンクが復旧した後に、図示しない外部管理装置を介してこの記憶システム１の管理者から第１〜第３の記憶装置２〜４にその旨が通知されると、記憶システム１の復旧処理が開始される。
【００８６】
具体的には、第３の記憶装置４に保持された第２の記憶装置３の論理ボリュームＶＯＬDBのすべてのバックアップデータが、非同期方式で第１の記憶装置２の論理ボリュームＶＯＬDAに順次リモートコピーされる。またこれと併せて、第２の記憶装置３を本番系の記憶装置とし、第１及び第３の記憶装置２，４をバックアップ系の記憶装置とする通常運行により第２の記憶装置３に書き込まれたデータが、図５〜図７について上述した手順で第１及び第３の記憶装置２，４内の各論理ボリュームＶＯＬDA，ＶＯＬDCにリモートコピーされる。このときのリモートコピーは、第１及び第２の記憶装置２，３間が同期方式で行われ、第２及び第３の記憶装置３，４間が非同期方式で行われる。
【００８７】
そして、この後復旧処理の開始後に第２の記憶装置３から第１の記憶装置２にリモートコピーしたデータを除くすべてのデータについての第３の記憶装置４から第１の記憶装置２へのデータコピーが終了すると、第３の記憶装置４から第１の記憶装置２へのデータコピーが停止され、その後第２の記憶装置３を本番系の記憶装置とし、第１及び第３の記憶装置２，４をバックアップ系の記憶装置として、通常運行が行われる。
【００８８】
（５−２）第２のエラー及び復旧処理
一方、本実施の形態による記憶システム１では、例えば図５について上述したプライマリ側バックアップ処理手順ＲＴ１のステップＳＰ８において、第１の記憶装置２が一定時間経過しても第２の記憶装置３からの完了通知を受信できない場合や、図９について上述した従属側チェック処理手順ＲＴ４のステップＳＰ５０やステップＳＰ５５において、一定時間経過しても第３の記憶装置４が第２の記憶装置３からのコピー制御情報３０を受信できない場合には、第２の記憶装置３に被災などの理由により障害が発生し、又はこれら第１若しくは第３の記憶装置２，４と第２の記憶装置３との間のリンクが切断したことが考えられる。
【００８９】
ところで、この記憶システム１では、図８の処理手順のステップＳＰ３２において、一定時間経過しても第２の記憶装置３が第３の記憶装置４からのコピー制御情報３０を受信できないときや、図９の処理手順のステップＳＰ５０やステップＳＰ５５において、一定時間経過しても第３の記憶装置４が第２の記憶装置３からのコピー制御情報３０を受信できないときには、コピー制御情報３０の受信を待ち受けている側の第２又は第３の記憶装置３，４が第１の記憶装置２にエラー信号を送信するようになされている。
【００９０】
従って、この記憶システム１では、第１の記憶装置２が、第２又は第３の記憶装置３，４のいずれか一方からエラー信号が送信されてきたときには、相手方の第３又は第２の記憶装置２，３が被災し、第２及び第３の記憶装置３，４の双方からエラー信号が送信されてきたときには、第２及び第３の記憶装置３，４間のリンクが切断されたと判断することができる。
【００９１】
そこでこの記憶システム１では、図５について上述したプライマリ側バックアップ処理手順ＲＴ２のステップＳＰ８において、第１の記憶装置２が一定時間経過しても第２の記憶装置３からの完了通知を受信できないときや、第３の記憶装置４からのみ第２の記憶装置２との通信が行えない旨のエラー信号が送信されてきたときには、第１の記憶装置２から第２の記憶装置３へのコピー制御情報３０の送信を停止して（つまり第２の記憶装置３によるバックアップを停止して）、第１及び第３の記憶装置２，４間でのみ非同期方式でのリモートコピーを行う（つまり第３の記憶装置４のみで第１の記憶装置２のバックアップを行う）ようになされている。
【００９２】
そして、その後第２の記憶装置３が復旧し、又は第２及び第３の記憶装置３，４間のリンクが復旧した後に、図示しない外部管理装置を介してこの記憶システム１の管理者から第１〜第３の記憶装置２〜４にその旨が通知されると、記憶システム１の復旧処理が開始される。
【００９３】
具体的には、通常運行により第１の記憶装置２の論理ボリュームＶＯＬDAに書き込まれたデータの第１の記憶装置２から第３の記憶装置４への非同期方式でのリモートコピーをそのまま継続しながら、第１の記憶装置２から第２の記憶装置３への同期方式でのリモートコピーを開始する。またこれと併せて、第３の記憶装置４に保持された第１の記憶装置２の論理ボリュームＶＯＬDAのすべてのバックアップデータが、非同期方式で第２の記憶装置３の論理ボリュームＶＯＬDBにリモートコピーされる。
【００９４】
そして、この後復旧処理の開始後に第１の記憶装置２から第２の記憶装置３にリモートコピーしたデータを除くすべてのデータについての第３の記憶装置４から第２の記憶装置３へのデータコピーが終了すると、第３の記憶装置４から第２の記憶装置３へのデータコピーが停止され、その後第１の記憶装置２を本番系の記憶装置とし、第２及び第３の記憶装置３，４をバックアップ系の記憶装置として、通常運行が行われる。
【００９５】
（５−３）第３のエラー及び復旧処理
他方、本実施の形態による記憶システム１では、プライマリ側バックアップ処理手順ＲＴ１のステップＳＰ８において、一定時間経過しても第１の記憶装置２が第３の記憶装置４からの完了通知を受信できないときや、主導側チェック処理手順ＲＴ３のステップＳＰ３２において、一定時間経過しても第２の記憶装置３が第３の記憶装置４からのコピー制御情報３０を受信できないときには、第３の記憶装置４に被災などの理由により障害が発生し、又はこれら第１若しくは第２の記憶装置２，３と第３の記憶装置４との間のリンクが切断したことが考えられる。
【００９６】
そこでこの記憶システム１では、この場合には第１の記憶装置２から第３の記憶装置４へのコピー制御情報３０の送信を停止して、第１及び第２の記憶装置２，３間でのみ同期方式でのリモートコピーを行うことにより、第１の記憶装置２の論理ボリュームＶＯＬDAのバックアップデータを第２の記憶装置３においてのみ保持する。
【００９７】
そして、その後第３の記憶装置４が復旧し、又は第１及び第３の記憶装置２，４間のリンクが復旧した後に、図示しない外部管理装置を介してこの記憶システム１の管理者から第１〜第３の記憶装置２〜４にその旨が通知されると、記憶システム１の復旧処理が開始される。
【００９８】
具体的には、通常運行により第１の記憶装置２の論理ボリュームＶＯＬDAに書き込まれたデータの第１の記憶装置２から第２の記憶装置への同期方式でのリモートコピーをそのまま継続しながら、第１の記憶装置２から第３の記憶装置４への同期方式でのリモートコピーを開始する。またこれと併せて、第２の記憶装置４に保持された第１の記憶装置２の論理ボリュームＶＯＬDAのすべてのバックアップデータが、非同期方式で第３の記憶装置４の論理ボリュームＶＯＬDCにリモートコピーされる。
【００９９】
そして、この後復旧処理の開始後に第１の記憶装置２から第２の記憶装置３にリモートコピーしたデータを除くすべてのデータについての第２の記憶装置３から第３の記憶装置４へのデータコピーが終了すると、第２の記憶装置３から第３の記憶装置４へのデータコピーが停止され、その後第１の記憶装置２を本番系の記憶装置とし、第２及び第３の記憶装置３，４をバックアップ系の記憶装置として、通常運行が行われる。
【０１００】
（６）本実施の形態の効果
以上の構成において、本実施の形態による記憶システム１では、第２及び第３の記憶装置３，４がそれぞれ記憶しているバックアップデータの整合性の検証を、これら第２及び第３の記憶装置３，４間で通信して行うため、第１の記憶装置に何らの負担をかけることなく、バックアップデータの整合性を検証することができる。従って、システム全体としての性能を劣化させることなく、信頼性を向上させることができる。
【０１０１】
また、このように第１の記憶装置２と、第２及び第３の記憶装置３，４との間だけでなく、第２及び第３の記憶装置３，４間においても通信を行い得るようにしたことにより、各第１〜第３の記憶装置２〜４が他の第１〜第３の記憶装置２〜４とのリンク障害の有無や被災の有無を監視することができ、また被災を検出した場合の対応が迅速となる。
【０１０２】
さらに第１〜第３の記憶装置２〜４の被災を検出したときには、バックアップ系の第２及び第３の記憶装置３，４が保持するバックアップデータを用いて復旧処理を行うため、本番系の第１の記憶装置２（又は第２の記憶装置）に負担をかけることなく、被災した第１〜第３の記憶装置２〜４のデータ復旧を行うことができる。
【０１０３】
（７）他の実施の形態
なお上述の実施の形態においては、第１及び第２の記憶装置２，３間において同期方式でリモートコピーを行い、第１及び第３の記憶装置３，４間において非同期方式でリモートコピーを行うようにした場合について述べたが、本発明はこれに限らず、第１及び第３の記憶装置２，４間においても同期方式でリモートコピーを行うようにしたり、又は第１及び第２の記憶装置２，３間においても非同期方式でリモートコピーを行うようにしても良い。
【０１０４】
この場合において、例えば第１及び第２の記憶装置２，３間においても非同期方式でリモートコピーを行う場合には、第２及び第３の記憶装置３，４がそれぞれ保持するバックアップデータ同士を比較した結果、これらが一致しなかったときには、第２及び第３の記憶装置３，４の双方が第１の記憶装置２に対してそのバックアップデータに対応するデータの転送を要求すると共に、この結果として第１の記憶装置２から第２及び第３の記憶装置３，４の双方にそれぞれ送信されるデータを、これら第２及び第３の記憶装置３，４がそれぞれ対応するバックアップデータに上書きするようにして保持するようにすれば良い。
【０１０５】
また第２及び第３の記憶装置３，４の双方が第１の記憶装置２に対してデータの転送を要求するのではなく、第２又は第３の記憶装置３，４の一方のみが第１の記憶装置２に対してそのバックアップデータに対応するデータの転送を要求すると共に、この結果として第１の記憶装置２からその第２又は第３の記憶装置３，４に送信されるデータを、その第２又は第３の記憶装置３，４が他方の第３又は第２の記憶装置４，３に送信するようにしても良い。このようにすることによって、バックアップデータの保証に関する第１の記憶装置２の負担を軽減することができる。
【０１０６】
また上述の実施の形態においては、本発明を３ＤＣシステムに適用するようにした場合について述べたが、本発明はこれに限らず、バックアップデータを記憶する記憶装置を３台以上有する記憶システムにも適用することができる。この場合において、バックアップデータの検証を行う記憶装置同士のペア設定は予め設定しておくようにすれば良く、また本番系の記憶装置が予め与えられたプログラムに従って当該ペア設定を行うようにしても良い。
【０１０７】
さらに上述の実施の形態においては、第２及び第３の記憶装置２，３間においてデータ検証処理を行わせる際のトリガとして、第１の記憶装置２から第２及び第３の記憶装置３，４にそれぞれ送信するコピー制御情報３０の各データチェック要求ビットフレーム３０Ｇにフラグを格納するようにした場合について述べたが、本発明はこれに限らず、第２及び第３の記憶装置３，４のいずれ一方に送信するコピー制御情報３０のデータチェック要求ビットフレーム３０Ｇにフラグを格納し、そのコピー制御情報３０を受信した第２又は第３の記憶装置３，４が主導してバックアップデータの検証を行うようにしても良い。
【産業上の利用可能性】
【０１０８】
本発明は３ＤＣシステムのほか、種々の形態の記憶システムに広く適用することができる。
【図面の簡単な説明】
【０１０９】
【図１】本実施の形態による記憶システムの構成を示すブロック図である。
【図２】第１〜第３の記憶装置のハードウェア構成を示すブロック図である。
【図３】第１〜第３の記憶装置のソフトウェア構成を示すブロック図である。
【図４】記憶システムのソフトウェア構成を示すブロック図である。
【図５】プライマリ側バックアップ処理手順を示すフローチャートである。
【図６】コピー制御情報のデータフォーマットを示す略線図である。
【図７】セカンダリ側バックアップ処理手順を示すフローチャートである。
【図８】主導側チェック処理手順を示すフローチャートである。
【図９】従属側チェック処理手順を示すフローチャートである。
【符号の説明】
【０１１０】
１……記憶システム、２〜４……記憶装置、５〜７……ホスト装置、８……ネットワーク、１０……チャネルアダプタ、１４……ディスクアダプタ、２０……ホスト装置、２１……通信制御部、２２，２２Ａ……コマンド制御部、２３……管理情報制御部、２５……ディスク制御部、３０……コピー制御情報、ＶＯＬD，ＶＯＬDA〜ＶＯＬDC……論理ボリューム、ＶＯＬC，ＶＯＬCA〜ＶＯＬCC……コピー制御情報ボリューム、ＲＴ１……プライマリ側バックアップ処理手順、ＲＴ２……セカンダリ側バックアップ処理手順、ＲＴ３……主導側チェック処理手順、ＲＴ４……従属側チェック処理手順。
【図１】
2006309447.tif 000003
【図２】
2006309447.tif 000004
【図３】
2006309447.tif 000005
【図４】
2006309447.tif 000006
【図５】
2006309447.tif 000007
【図６】
2006309447.tif 000008
【図７】
2006309447.tif 000009
【図８】
2006309447.tif 000010
【図９】
2006309447.tif 000011