(57)【特許請求の範囲】
【請求項１】
二重化された第１の記憶制御装置及び第２の記憶制御装置と前記二重化された第１の記憶制御装置及び第２の記憶制御装置とは別の第３の記憶制御装置を有する記憶制御装置システムにおける記憶制御方法であって、
前記第１の記憶制御装置が、ホストから二重化されたデータの書き込みを要求するライト要求が行われると、そのライト要求と共にホストから送信されたライトデータを受領して磁気ディスク装置に格納すると共に、その受領したライトデータを前記第３の記憶制御装置に送信するステップと、
前記第２の記憶制御装置が、前記ホストから前記二重化されたデータの書き込みを要求するライト要求が行われると、そのライト要求と共にホストから送信されたライトデータを受領して磁気ディスク装置に格納すると共に、その受領したライトデータを前記第３の記憶制御装置に送信するステップと、
前記第３の記憶制御装置が、前記二重化された第１の記憶制御装置及び第２の記憶制御装置からのデータを通信装置により受領するステップと、
前記第３の記憶制御装置が、前記第１の記憶制御装置から受領したデータと同一のデータを前記第２の記憶制御装置から受領するのを待つデータ待ち合わせ処理を行って受領したデータを記憶装置へ格納するステップとを有することを特徴とする記憶制御方法。
【請求項２】
前記第１の記憶装置から受領したデータと前記第２の記憶装置から受領したデータの内の一方を削除して他方を前記記憶装置へ格納することを特徴とする請求項１に記載された記憶制御方法。
【請求項３】
前記二重化された第１の記憶制御装置及び第２の記憶制御装置へのデータの二重書きの状態を示す二重書き状態ビットがオンであるデータについて前記データ待ち合わせ処理を行ってそのデータの二重書き状態ビットをオフに設定し、前記二重書き状態ビットがオフに設定されたデータを前記記憶装置へ格納することを特徴とする請求項１または請求項２のいずれかに記載された記憶制御方法。
【請求項４】
前記第１の記憶制御装置から受領したデータと同一であると共に前記二重書き状態ビットがオフであるデータを前記第２の記憶制御装置から受領している場合に、前記第１の記憶制御装置から受領したデータを削除し、前記第２の記憶制御装置から受領したデータを前記記憶装置へ格納することを特徴とする請求項３に記載された記憶制御方法。
【請求項５】
前記第１の記憶制御装置から受領したデータと同一であると共に前記二重書き状態ビットがオンまたはオフである何れのデータも前記第２の記憶制御装置から受領していない場合に、前記第１の記憶制御装置から受領したデータと同一のデータの前記第２の記憶制御装置からの受領を待つことを特徴とする請求項３または請求項４のいずれかに記載された記憶制御方法。
【請求項６】
前記第１の記憶制御装置から受領したデータの内容を含む情報と前記第２の記憶制御装置から受領したデータの内容を含む情報とを比較して前記データ待ち合わせ処理を行うことを特徴とする請求項１乃至請求項５のいずれか１項に記載された記憶制御方法。
【請求項７】
前記第１の記憶制御装置から受領したデータを識別する為の識別子を含む情報と前記第２の記憶制御装置から受領したデータを識別する為の識別子を含む情報とを比較して前記データ待ち合わせ処理を行うことを特徴とする請求項１乃至請求項５のいずれか１項に記載された記憶制御方法。
【請求項８】
前記第１の記憶制御装置から受領したデータを送信した情報処理装置を識別する為の識別子を含む情報と前記第２の記憶制御装置から受領したデータを送信した情報処理装置を識別する為の識別子を含む情報とを比較して前記データ待ち合わせ処理を行うことを特徴とする請求項１乃至請求項７のいずれか１項に記載された記憶制御方法。
【請求項９】
二重化された第１の記憶制御装置及び第２の記憶制御装置と前記二重化された第１の記憶制御装置及び第２の記憶制御装置とは別の第３の記憶制御装置を有する記憶制御システムであって、
前記第１の記憶制御装置が、ホストから二重化されたデータの書き込みを要求するライト要求が行われると、そのライト要求と共にホストから送信されたライトデータを受領して磁気ディスク装置に格納すると共に、その受領したライトデータを前記第３の記憶制御装置に送信する手段を備え、
前記第２の記憶制御装置が、前記ホストから前記二重化されたデータの書き込みを要求するライト要求が行われると、そのライト要求と共にホストから送信されたライトデータを受領して磁気ディスク装置に格納すると共に、その受領したライトデータを前記第３の記憶制御装置に送信する手段を備え、
前記第３の記憶制御装置が、
前記二重化された第１の記憶制御装置及び第２の記憶制御装置からのデータを通信装置により受領するデータ受領部と、
前記第１の記憶制御装置から受領したデータと同一のデータを前記第２の記憶制御装置から受領するのを待つデータ待ち合わせ処理を行って受領したデータを記憶装置へ格納するデータデステージ部とを備えることを特徴とする記憶制御システム。
【請求項１０】
二重化された第１の記憶制御装置及び第２の記憶制御装置と前記二重化された第１の記憶制御装置及び第２の記憶制御装置とは別の第３の記憶制御装置を有する記憶制御装置システムにおける記憶制御方法をコンピュータに実行させる為のプログラムであって、
前記第１の記憶制御装置が、ホストから二重化されたデータの書き込みを要求するライト要求が行われると、そのライト要求と共にホストから送信されたライトデータを受領して磁気ディスク装置に格納すると共に、その受領したライトデータを前記第３の記憶制御装置に送信するステップと、
前記第２の記憶制御装置が、前記ホストから前記二重化されたデータの書き込みを要求するライト要求が行われると、そのライト要求と共にホストから送信されたライトデータを受領して磁気ディスク装置に格納すると共に、その受領したライトデータを前記第３の記憶制御装置に送信するステップと、
前記第３の記憶制御装置が、前記二重化された第１の記憶制御装置及び第２の記憶制御装置からのデータを通信装置により受領するステップと、
前記第３の記憶制御装置が、前記第１の記憶制御装置から受領したデータと同一のデータを前記第２の記憶制御装置から受領するのを待つデータ待ち合わせ処理を行って受領したデータを記憶装置へ格納するステップとをコンピュータに実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は二重化された複数の記憶制御装置からのデータを格納する記憶制御技術に関し、特に記憶制御装置間の距離が長く、記憶制御装置間のデータ転送を非同期リモートコピーにより行う記憶制御技術に適用して有効な技術に関するものである。
【背景技術】
【０００２】
一般に、情報処理システムではデータの破壊を防止してシステムの信頼性を高めるため、同一のデータを２台の磁気ディスク記録装置等の入出力装置に入出力する、いわゆる二重書き制御方式が採用されている。二重化された入出力装置の制御方式においては、二重化された両方の装置に対して入出力処理を行い、両方の処理が終わった時点で当該入出力動作が完了となる。これにより入出力動作毎にデータの二重化が保証される。これに関係する従来技術として、例えば特許文献１に開示された技術が知られている。
【０００３】
特許文献２には、複数の記憶制御装置間でライトデータの順序性を常時保証する非同期転送によるリモートコピー(以下、非同期リモートコピーという)の技術が開示されている。また、特許文献３には、３以上の記憶制御装置間で、常時、ライトデータの更新順序性を保持する技術が開示されている。
【０００４】
図１６は従来のリモートコピー技術とホスト二重書きディスク装置とを組み合わせたデータセンタの構築例を示す図である。ディスク装置二重書きを適用した、大型計算機システム、サーバー、パーソナルコンピュータ、その他の上位計算機システム(以下、ホストという)において、非同期リモートコピー技術を組み合わせて３つのデータセンタを設置する場合、リモートコピー技術が論理ディスクに対して、１対１構成のディスクペア間のデータコピーだけが可能であり、二重書きディスク装置に障害が発生して一重書きになった場合も遠隔地にコピーを残すことを考慮すると図１６に示す構成となる。この場合、ホストから二重書きしている正ディスク装置数＋副ディスク装置数と同数のディスク装置数を、遠隔地のデータセンタに設置する必要がある。
【０００５】
図１７は従来のリモートコピー技術における３つのデータセンタの構築例（カスケード接続）を示す図である。図１７の構成例では、データセンタ１からデータセンタ２へリモートコピーを行った後、データセンタ２からデータセンタ３へのリモートコピーを行っている。
【０００６】
図１８は従来のリモートコピー技術における３つのデータセンタの構築例（マルチホップ接続）を示す図である。図１８の構成例では、データセンタ１からデータセンタ２へのリモートコピーと、データセンタ１からデータセンタ２へのリモートコピーとを行っている。
【０００７】
ホスト二重書きシステムにおいては、ホストからのＩ／Ｏを２つのディスク装置(正ディスク装置と副ディスク装置)で受領するが、リモートコピーに関する従来の技術で３つのデータセンタを構築する場合(図１７、図１８)、ホストからのＩ／Ｏを唯一のディスク装置で受領する必要があり、ホスト二重書きシステムへの適用はできなかった。
【０００８】
【特許文献１】特開昭６２−２７４４４８号公報
【特許文献２】特許第３４１４２１８号公報
【特許文献３】特開２００３−１２２５０９号公報
【発明の開示】
【発明が解決しようとする課題】
【０００９】
前記の様に従来の技術において非同期リモートコピー技術を組み合わせて３つのデータセンタを設置する場合、ホストから二重書きしている正ディスク装置数＋副ディスク装置数と同数のディスク装置数を遠隔地のデータセンタに設置する必要がある為、コストパフォーマンスの面で問題があった。また、リモートコピーに関する従来の技術で３つのデータセンタを構築する場合、ホストからのＩ／Ｏを唯一のディスク装置で受領する必要がある為、ホスト二重書きシステムへの適用はできなかった。
【００１０】
この様に、"３つ以上のデータセンタ間で、常時、データ更新の順序性を保持する"従来のリモートコピー技術は、ホストによるディスク二重書きを適用しているシステムに対する考慮が不足していた。
【００１１】
ここで、非同期リモートコピーのデータ更新の順序性を常時保証する事項について補足説明する。
ホストから発行されたＩ／Ｏは記憶制御装置に書き込まれ、記憶制御装置が報告するデータの書き込み完了報告を認識し、ホストは次のステップを実行する。ホストは記憶制御装置のデータ書き込み完了を受領しない場合、または障害報告があった場合は、次のＩ／Ｏを正常には発行しない。従ってデータの書き込みの順序性は、ホストが記憶制御装置から書き込み完了報告を受領する前後で、記憶制御装置が順序性保存の何らかの処理をすることで維持されるべきものである。
【００１２】
同期転送のリモートコピーでは、転送されコピーされるデータが別の記憶制御装置に書き込まれ、別の記憶制御装置からの書き込み完了を受領した後、ホストに対して書き込み完了報告を行う。リモートコピーを行わない場合と比較し、リモートコピーに係る処理、及びデータ転送処理時間が長くかかり、性能が遅延する。リモートコピーにおける接続距離を延長すると、データ転送に伴う処理時間が増大し、リモートコピーを行うことによりホストのＩ／Ｏ処理の性能を更に低下させる。これを打破する一つの方法が非同期転送である。
【００１３】
非同期転送は、ホストからＩ／Ｏを受領した記憶制御装置が、別の記憶制御装置へデータを転送し、別の記憶制御装置の書き込み完了を待たずに、ホストからＩ／Ｏを受領した記憶制御装置が書き込み完了報告をホストへ返す。これにより、記憶制御装置間のデータ転送は、ホストのＩ／Ｏ処理と関係が無くなり、ホストのＩ／Ｏ処理と非同期に実行できる。しかし、ホストからのデータの到着順序を守って、別の記憶制御装置へデータを書き込まなければ、別の記憶制御装置のデータ順序性は維持されず、両記憶制御装置間でデータの不整合を来す可能性がある。データの順序性を常時保証する機能を追加すれば、この様な可能性を極小化できる。
【００１４】
別の記憶制御装置は、ホストＩ／Ｏを受領した記憶制御装置と比較し、通常はデータの更新は遅れているが、ホストからのデータ到着順序を守って記憶制御装置へ書き込む限り、データの順序性に矛盾は無く、ジャーナルファイルシステムやデータベースリカバリ処理により、障害時の回復が可能である。
【００１５】
"データの順序性を常時保証する非同期転送によるリモートコピー"の技術によれば、ホストに完了報告を返す際に、記憶制御装置がデータの順序性を保証する処理をしていることが特徴である。記憶制御装置におけるオーバヘッドや内部処理の遅延時間に拘らず、ホストに返す際にデータ順序情報をブロック毎に管理する措置を施しているため、常時順序性を保証できる。
【００１６】
本発明の目的は上記問題を解決し、ホストから二重書きされた複数の記憶装置のデータを別の記憶制御装置内の１つの記憶装置に格納する多対１のリモートコピーを行うことが可能な技術を提供することにある。
【課題を解決するための手段】
【００１７】
本発明は、二重化された複数の記憶制御装置からのデータを格納する記憶制御システムにおいて、第１の記憶制御装置から受領したデータと同一のデータを第２の記憶制御装置から受領した後、その受領したデータを記憶装置へ格納するものである。
【００１８】
本発明の記憶制御システムでは、ホストから二重化された正記憶制御装置及び副記憶制御装置へデータの書き込みを要求するライト要求が行われると、正記憶制御装置及び副記憶制御装置は、そのライト要求と共にホストから送信されたライトデータを受領してキャッシュメモリや磁気ディスク装置に格納した後、その受領したライトデータをそれぞれ第３の記憶制御装置に送信する。
【００１９】
第３の記憶制御装置は、正記憶制御装置または副記憶制御装置のいずれかからライトデータを受領すると、そのライトデータをキャッシュメモリに格納した後、そのライトデータとキャッシュメモリ中の他のライトデータとを比較し、当該ライトデータと同一のデータを他の記憶制御装置から受領しているかどうかを判定する。その結果、そのライトデータと同一のデータを他の記憶制御装置から受領していない場合には、当該ライトデータと同一のデータが他の記憶制御装置から送信されるのを待つデータ待ち合わせ処理を行い、同一のデータを他の記憶制御装置から受領している場合には、そのデータを磁気ディスク装置等へ書き込む処理を行う。
【発明の効果】
【００２０】
本発明によれば、ホストから二重書きされた複数の記憶装置のデータを別の記憶制御装置内の１つの記憶装置に格納する多対１のリモートコピーを行うことが可能である。
【発明を実施するための最良の形態】
【００２１】
以下に二重化された正記憶制御装置及び副正記憶制御装置のキャッシュメモリまたは磁気ディスク装置のデータを第３の記憶制御装置内の磁気ディスク装置へ格納する一実施形態の記憶制御システムについて説明する。
【００２２】
図１は本実施形態の記憶制御システムの概略構成を示す図である。図１に示す様に本実施形態の正記憶制御装置１０４または副記憶制御装置１０４は、ライトデータ受領部１３０と、ライトデータ送信部１４０とを有している。
【００２３】
ライトデータ受領部１３０は、ホスト１００からライトデータ１１２を通信装置により受領する処理部である。ライトデータ送信部１４０は、ホスト１００から受領したライトデータ１１２を通信装置により第３記憶制御装置１０９へ送信する処理部である。
【００２４】
正記憶制御装置１０４または副記憶制御装置１０４をライトデータ受領部１３０及びライトデータ送信部１４０として機能させる為のプログラムは、ＲＯＭ等の記録媒体に記録されて実行されるものとする。なお前記プログラムを記録する記録媒体はＲＯＭ以外の他の記録媒体でも良い。また前記プログラムを当該記録媒体から情報処理装置にインストールして使用しても良いし、ネットワークを通じて当該記録媒体にアクセスして前記プログラムを使用するものとしても良い。
【００２５】
第３記憶制御装置１０９は、ライトデータ受領部１５０と、ライトデータデステージ部１６０とを有している。
【００２６】
ライトデータ受領部１５０は、二重化された正記憶制御装置１０４及び副記憶制御装置１０４のライトデータ１１２を通信装置により受領する処理部である。ライトデータデステージ部１６０は、正記憶制御装置１０４または副記憶制御装置１０４から受領したライトデータ１１２と同一のデータを他方の記憶制御装置１０４から受領するのを待つデータ待ち合わせ処理を行って受領したライトデータ１１２を第３記憶制御装置１０９のディスク装置１０５へ格納する処理部である。
【００２７】
第３記憶制御装置１０９をライトデータ受領部１５０及びライトデータデステージ部１６０として機能させる為のプログラムは、ＲＯＭ等の記録媒体に記録されて実行されるものとする。なお前記プログラムを記録する記録媒体はＲＯＭ以外の他の記録媒体でも良い。また前記プログラムを当該記録媒体から情報処理装置にインストールして使用しても良いし、ネットワークを通じて当該記録媒体にアクセスして前記プログラムを使用するものとしても良い。
【００２８】
図１に示す様に本実施形態の記憶制御システムは、１台のホスト１００、１台の正記憶制御装置１０４、正記憶制御装置１０４に接続された１台以上のディスク装置１０５、１台の副記憶制御装置１０４、副記憶制御装置１０４に接続された１台以上のディスク装置１０５、第３記憶制御装置１０９、第３記憶制御装置１０９に接続された１台以上のディスク装置１０５から構成される。
【００２９】
ホスト１００は、ＣＰＵ１０１、主記憶１０２、チャネル１０３から構成される場合もある。正記憶制御装置１０４、副記憶制御装置１０４、及び第３記憶制御装置１０９は、制御用メモリ１０７、キャッシュメモリ１０８を含み、図示していないが、ＣＰＵ、主記憶、ＲＯＭや通信装置を備え、ディスク装置１０５へのアクセスを制御するコンピュータであるものとする。本実施形態においては、正記憶制御装置１０４は、第３記憶制御装置１０９とデータ転送を行う非同期リモートコピー機能を持つ。同様に、副記憶制御装置１０４も第３記憶制御装置１０９とデータ転送を行う非同期リモートコピー機能を持つ。第３記憶制御装置１０９の内部構成は、正記憶制御装置１０４、及び副記憶制御装置１０４と同様である。
【００３０】
制御用メモリ１０７には、ライトデータ１１２に対応したライトデータ管理情報１１３が作成される。
【００３１】
ホスト１００は、正記憶制御装置１０４、及び副記憶制御装置１０４にライト要求１１０を発行する時、ライトデータ１１２にホスト二重書き情報１１１を付与する。ホスト二重書き情報１１１は、このライトデータをホストが二重書きするか、一重書きするかを示すホスト二重書き状態ビット２１１である。
【００３２】
すなわち、ホスト二重書き状態では、ライトデータ１１２に、ホスト二重書き状態ビット２１１がオンのホスト二重書き情報１１１が付加されて、正記憶制御装置１０４、及び、副記憶制御装置１０４にライトデータが送られる。また、ディスク障害等でホスト一重書きの状態では、ライトデータ１１２に、ホスト二重書き状態ビット２１１がオフのホスト二重書き情報１１１が付加されて、正記憶制御装置１０４、或いは、副記憶制御装置１０４にライトデータ１１２が送られる。
【００３３】
このホスト二重書き情報１１１は、第３記憶制御装置側でライトデータ１１２を待ち合わせる為の情報として使用される。
【００３４】
図２は本実施形態のライトデータ管理情報１１３の構成を示す図である。ここでは、特に本実施形態に直接関係する情報について説明する。なお、本実施形態では、ホスト１００がライト要求１１０を発行する際、指定するディスクを論理ディスクと呼ぶ。論理ディスクＩＤ１２０は、対応するライトデータを書き込むよう、ホスト１００から指定された論理ディスクの番号であり、ライト要求１１０に含まれる情報である。
【００３５】
図３は本実施形態の論理ディスクの定義例を示す図である。本実施形態では、ホスト１００が認識している論理ディスクと、ディスク装置１０５（物理ディスク)は、１対１に対応している必要はなく、図３に示す様に、論理ディスクが複数のディスク装置１０５上に定義されていても良い。また、論理ディスクに冗長データを含ませ、RAID(Redundant Array of Inexpensive Disks)構成にしても良い。
【００３６】
図２のライトアドレス１２１は、対応するライトデータ１１２を書き込む論理ディスク内のアドレスを示す情報（例えば、論理ディスクの先頭から1MByteの領域という様な情報）で、ライト要求１１０に含まれる情報である。ライトデータ長１２２は、対応するライトデータの長さを示すものである。以上の情報は、何れも、通常のライト要求１１０に含まれる情報である。ライトデータポインタ１２３は、対応するライトデータ１１２へのポインタである。ホスト二重書き情報１１１については、既に説明した通りである。ライト要求１１０にホスト二重書き情報１１１を付加することが本実施形態の特徴の１つである。第３記憶制御装置保留ビット１２４は、第３記憶制御装置１０９内でのライトデータ１１２の保留が必要であることを示す情報であり、正記憶制御装置１０４、及び、副記憶制御装置１０４では常にオフになっているものとする。
【００３７】
制御用メモリ１０７に含まれるもう１つの情報は、リモートコピー構成管理情報１１４である。本情報は、正記憶制御装置１０４の論理ディスクに対応して存在する情報で、対応する論理ディスクのリモートコピーペアになっている第３論理ディスクの番号、すなわち、第３記憶制御装置１０９の番号と、第３論理ディスクの第３記憶制御装置内の論理ディスク番号を含む。もちろん、リモートコピーペアを持たない論理ディスクには、ヌル値が入るものとする。
【００３８】
副記憶制御装置１０４の内の制御用メモリ１０７にも、同様に、対応する論理ディスクのリモートコピーペアになっている第３論理ディスクの番号、すなわち、第３記憶制御装置１０９の番号と、第３論理ディスクの第３記憶制御装置内の論理ディスク番号を含む。
【００３９】
第３記憶制御装置１０９の制御用メモリ１０７にも、ライトデータ管理情報１１３が含まれる。フォーマットは、正記憶制御装置１０４や副記憶制御装置１０４と同じで良い。但し、第３記憶制御装置保留ビット１２４は、ライトデータ１１２の書き込みを遅延させていることを示す情報である。
【００４０】
更に第３記憶制御装置１０９の制御用メモリ１０７に含まれるもう１つの情報は、リモートコピー構成管理情報１１４である。本情報は、正記憶制御装置１０４及び副記憶制御装置１０４の論理ディスクに対応して存在する情報で、対応する２台の論理ディスクのリモートコピーペアになっているディスクの番号、すなわち、正記憶制御装置１０４の番号と、正ディスクの正記憶制御装置１０４内の論理ディスク番号、及び副記憶制御装置１０４の番号と、副ディスクの副記憶制御装置１０４内の論理ディスク番号を含む。もちろん、リモートコピーペアを持たない論理ディスクには、ヌル値が入るものとする。
【００４１】
図４は本実施形態のライトデータ受領部１３０の処理手順を示すフローチャートである。正記憶制御装置１０４のライトデータ受領部１３０は、ホスト１００から通信装置によりライト要求１１０を受け取ったときに動作を開始する。
【００４２】
まず正記憶制御装置１０４のライトデータ受領部１３０は、通信装置により受け取ったライトデータ１１２をキャッシュメモリ１０８に格納する(ステップ１３１)。次に、正記憶制御装置１０４のライトデータ受領部１３０は、制御用メモリ１０７内のライトデータ管理情報１１３を、当該ライト要求に対応して確保する(ステップ１３２)。更に、ライト要求１１０に含まれるホスト二重書き情報１１１等の情報を、確保したライトデータ管理情報１１３に格納し、ライトデータポインタ１２３、第３記憶制御装置保留ビット１２４をオフにする(ステップ１３３)。また、この動作(ステップ１３３)は、非同期リモートコピーで更新順序を保証する為に使用する順序データ(ホストがライトデータに付与する時刻情報、或いは制御装置が生成するシーケンス番号等)をライトデータ管理情報１１３に格納する処理を含み、非同期リモートコピーの一般的な動作であるため、詳細については特に記述しない。最後に、ホスト１００に、ライト要求１１０の完了報告を行う(ステップ１３４)。
【００４３】
以上の処理には、ディスク装置１０５へのアクセスがないため、高速な応答が可能となる。また、ライトデータ１１２をディスク装置１０５へ書き込む処理は、正記憶制御装置１０４が後から実行する。この動作は、通常の制御装置の動作であるため、特に、詳細に記述しない。
【００４４】
また副記憶制御装置１０４のライトデータ受領部１３０も、正記憶制御装置１０４のライトデータ受領部１３０と同じ動作を行う。
【００４５】
図５は本実施形態のライトデータ送信部１４０の処理手順を示すフローチャートである。図５に示す様に正記憶制御装置１０４のライトデータ送信部１４０は、ライトデータ１１２を第３記憶制御装置１０９に送る機能を持つ。
【００４６】
すなわちライトデータ送信部１４０は、送信するライトデータ１１２のライトデータ管理情報１１３を選択して、リモートコピーペアが存在する第３記憶制御装置１０９へ通信装置により送る。ライトデータ１１２の長さ、書き込みを行う第３論理ディスク内アドレスは、ライトデータ管理情報１１３内の情報を参照して指定する(ステップ１４１)。この動作(ステップ１４１)では、非同期リモートコピー機能で更新順序を保証する為に、順序データ（ホストがライトデータに付与する時刻情報、或いは制御装置が生成するシーケンス番号等)からライトデータを選択する処理を含み、非同期リモートコピーの一般的な動作であるため、詳細については特に記述しない。次に、第３記憶制御装置１０９からの完了報告を待つ(ステップ１４２)。完了報告が返ってくると、転送の終わったライトデータ管理情報１１３を解放する(ステップ１４３)。この後、ステップ１４１へ戻り、次に送信すべきライトデータ１１２を見つける。
【００４７】
また副記憶制御装置１０４のライトデータ送信部１４０も、正記憶制御装置１０４のライトデータ送信部１４０と同じ動作を行う。
【００４８】
図６は本実施形態のライトデータ受領部１５０の処理手順を示すフローチャートである。第３記憶制御装置１０９のライトデータ受領部１５０は、正記憶制御装置１０４または副記憶制御装置１０４から通信装置によりライトデータ１１２を受け取ったときに動作する。
【００４９】
なお第３記憶制御装置１０９のライトデータ受領部１５０は、ライトデータ管理情報１１３の設定において、第３記憶制御装置保留ビット１２４をオンに設定する(ステップ１５３)以外は、正記憶制御装置１０４或いは副記憶制御装置１０４のライトデータ受領部１３０と同様の処理を行う。
【００５０】
図７は本実施形態のライトデータデステージ部１６０の構成を示す図である。第３記憶制御装置１０９のライトデータデステージ部１６０は、ライトデータ１１２をディスク装置１０５に書き込む機能を持ち、図７に示す様にホスト二重書きライトデータ待ち合わせ処理１７０と、ライトデータ書き込み処理１９０で構成される。
【００５１】
ホスト二重書きライトデータ待ち合わせ処理１７０は、正記憶制御装置１０４から送られてきたライトデータ１１２と、副記憶制御装置１０４から送られてきたライトデータ１１２との待ち合わせを行う機能を持ち、本実施形態の特徴の１つである。ホスト二重書きライトデータ待ち合わせ処理１７０について、図８及び図９を用いて説明する。
【００５２】
図８は本実施形態のホスト二重書きライトデータ待ち合わせ処理１７０の処理手順を示すフローチャートである。図８に示す様にホスト二重書きライトデータ待ち合わせ処理１７０は、ライトデータ受領部１５０で受領し、キャッシュメモリ１０８に格納したライトデータ１１２を先頭から参照し、第３記憶制御装置保留ビット１２４がオンであるものを検索する（ステップ１７１）。
【００５３】
次にステップ１７２では、ステップ１７１の検索結果を参照して第３記憶制御装置保留ビット１２４がオンであるライトデータ１１２が検索されたかどうかを調べ、第３記憶制御装置保留ビット１２４がオンであるライトデータ１１２が検索された場合にはステップ１７３へ進み、そうでない場合にはステップ１８１へ進む。
【００５４】
ステップ１７３では、前記検索されたライトデータ１１２のホスト二重書き状態ビット２１１がオンであるかどうかを調べ、ホスト二重書き状態ビット２１１がオンである場合にはステップ１７４に進み、そうでない場合にはステップ１８０へ進む。
【００５５】
ステップ１７４では、ライトデータ受領部１５０が受領したライトデータ管理情報１１３から、ホスト二重書きのライトデータ管理情報１１３について、対となるホスト二重書きのライトデータ管理情報１１３を探す。すなわち、同一論理ディスクＩＤ、同一ライトアドレス、同一データ長を持ち、そのライトデータ管理情報１１３と対応するライトデータ１１２の内容が同一であると共に、ホスト二重書き状態ビット２１１がオンであるものを探す。
【００５６】
ステップ１７５では、ステップ１７４の検索結果を参照して前記条件を満たすライトデータが見つかったかどうかを調べ、ステップ１７１で検索したライトデータ１１２と対になる二重書きライトデータを見つけた場合にはステップ１７６へ進み、その書き込み状態を一重書き状態に変更するため、１つのライトデータ管理情報１１３のホスト二重書き状態ビット２１１をオフに設定し、他方のライトデータ管理情報１１３と対応するキャッシュメモリ１０８内のライトデータ１１２を削除する。これにより、２つの二重書きライトデータ１１２を１つのライトデータ１１２にまとめることができる。
【００５７】
ステップ１７１で検索したライトデータ１１２の二重書きライトデータ管理情報１１３と対になる二重書きライトデータ管理情報１１３が見つからない場合(ステップ１７５の判定がNOの場合)には、非同期リモートコピー機能によるライトデータの転送が遅延しているか、ホスト二重書き中に障害を検出してホスト一重書きに切り替わった可能性がある。このためステップ１７７では、ホスト二重書きライトデータ管理情報１１３と、同じライトデータ１１２を持つホスト一重書きのライトデータ、すなわちホスト二重書き状態ビット２１１がオフのライトデータ管理情報１１３を探す。ステップ１７８では、ステップ１７７の検索結果を参照してホスト二重書き状態ビット２１１がオフのライトデータ管理情報１１３が見つかったかどうかを調べ、同じライトデータ１１２を持つライトデータ管理情報１１３が見つかった場合にはステップ１７９へ進み、その二重書き状態のライトデータ管理情報１１３と対応するキャッシュメモリ１０８内のライトデータ１１２を削除する。
【００５８】
同じライトデータ１１２を持つホスト一重書きのライトデータ管理情報１１３が見つからなかった場合(ステップ１７８の判定がNOの場合)には、リモートコピー機能によるライトデータの転送が遅延していると判断してステップ１８０へ進み、次のライトデータ管理情報１１３について処理を行う。
【００５９】
図９は本実施形態のホスト二重書きライトデータ待ち合わせ処理１７０の続きを示す図である。前述の処理を、全てのライトデータ管理情報１１３について実行した後(ステップ１７２の判定がNOの場合)、図９に示す様に第３記憶制御装置保留ビット１２４をオフに設定する処理を行い、ホスト一重書きライトデータ１１２をディスク装置１０５に書き込む。
【００６０】
まず、キャッシュメモリ１０８に格納したライトデータ１１２を先頭から参照し、第３記憶制御装置保留ビット１２４がオンであるものを検索する（ステップ１８１）。
【００６１】
次にステップ１８２では、ステップ１８１の検索結果を参照して第３記憶制御装置保留ビット１２４がオンであるライトデータ１１２が検索されたかどうかを調べ、第３記憶制御装置保留ビット１２４がオンであるライトデータ１１２が検索された場合にはステップ１８３へ進み、そうでない場合にはステップ１７１へ戻る。
【００６２】
ステップ１８３では、前記検索されたライトデータ１１２のホスト二重書き状態ビット２１１がオンであるかどうかを調べ、ホスト二重書き状態ビット２１１がオフである場合にはステップ１８４に進み、そうでない場合にはステップ１７１へ戻る。
【００６３】
ステップ１８４では、前記検索されたライトデータ１１２の第３記憶制御装置保留ビット１２４をオフに設定し、ステップ１８５へ進む。そしてステップ１８５では、キャッシュメモリ１０８に格納した次のライトデータ１１２を参照し、第３記憶制御装置保留ビット１２４がオンであるものを検索してステップ１８２へ進む。
【００６４】
前記の様に第３記憶制御装置保留ビット１２４をオフに設定することで、ライトデータ管理情報１１３は、次のライトデータ書き込み処理１９０に渡される。
【００６５】
図１０は本実施形態のライトデータ書き込み処理１９０の処理手順を示すフローチャートである。図１０の様にライトデータ書き込み処理１９０では、まず、ライトデータ管理情報１１３の中で、第３記憶制御装置保留ビット１２４がオフのライトデータ管理情報を選択する(ステップ１９１)。この動作(ステップ１９１)では、非同期リモートコピー機能で更新順序を保証する為に、順序データ（ホストがライトデータに付与する時刻情報、或いは制御装置が生成するシーケンス番号等)からライトデータを選択する処理を含み、非同期リモートコピーの一般的な動作であるため、詳細については特に記述しない。
【００６６】
次に、しかるべき計算を行い、書き込みを行うディスク装置１０５と書き込みアドレスを求める(ステップ１９２)。この計算方法は、通常のRAID等で用いられる方法であるため、詳細には記述しない。次に、ライトデータ１１２をディスク装置１０５に書き込む要求を、ディスク装置１０５に発行し(ステップ１９３)、ディスク装置１０５からの完了要求を待つ(ステップ１９４)。完了報告を受け取った後、ステップ１８１へ戻り、次にディスク装置１０５にデステージすべきライトデータ管理情報１１３を見つける。
【００６７】
これにより、正記憶制御装置１０４が破壊されても、副記憶制御装置１０４と第３記憶制御装置１０９では同一内容の論理ディスクが保持され、ホスト二重書き制御により、ホスト１００の業務は継続される。同様に、副記憶制御装置１０４が破壊された場合も、正記憶制御装置１０４と第３記憶制御装置１０９で同一内容の論理ディスクが保持され、ホスト１００の業務は継続される。
【００６８】
更に、正記憶制御装置１０４と副記憶制御装置１０４の双方が破壊された場合でも、正記憶制御装置１０４及び副記憶制御装置１０４での更新順序が保持された論理ディスクが第３記憶制御装置１０９に保持され、第３記憶制御装置１０９に接続したホスト１００での業務再開が可能である。なお第３記憶制御装置１０９を用いて障害時に回復動作を行う場合には、第３記憶制御装置１０９のディスク装置１０５の内容を障害の発生した正記憶制御装置１０４のディスク装置１０５または副記憶制御装置１０４のディスク装置１０５へコピーすることにより行う。
【００６９】
前記の例で説明してきた内容は、第３記憶制御装置１０９で、二重書きのライトデータ１１２の待ち合わせ判断(ステップ１７４)に、ライトデータ１１２自身の比較を行うため、十分な処理性能が得られない可能性がある。そこで、ライトデータ１１２自身の比較処理を改善する処理例について以下に説明する。
【００７０】
図１１は本実施形態のライト要求１１０の識別情報を含むホスト二重書き情報１１１の例を示す図である。図１１では、ホスト１００がライト要求１１０を発行する時、ライトデータ１１２に付加されるホスト二重書き情報１１１として、ホスト二重書き状態ビット２１１と、ホスト二重書き番号２１２を付加することを表している。
【００７１】
ホスト二重書き番号２１２は、正記憶制御装置１０４と副記憶制御装置１０４へのライト要求１１０が同一であることを表すユニークな番号であり、第３記憶制御装置１０９で二重書きライトデータ１１２の待ち合わせ処理で用いられる。本実施形態では、ライト要求毎にカウントアップするシーケンス番号とする。
【００７２】
ホスト二重書き番号２１２を用いた処理を行うにあたって、各処理部で前記説明した内容と変更があるのは、ホスト二重書きライトデータ待ち合わせ処理１７０である。変更後の処理フローを図１２に示す。
【００７３】
図１２は本実施形態のホスト二重書き番号２１２を用いるホスト二重書きライトデータ待ち合わせ処理１７０の処理手順を示すフローチャートである。図１２に示す様に、ライトデータ受領部１５０が受領したライトデータ管理情報１１３から、ホスト二重書きのライトデータ管理情報１１３について、対となるホスト二重書きのライトデータ管理情報１１３を探すステップ２７４の処理では、同じライトデータ１１２を探す(比較)処理を、ホスト二重書き番号の比較に置き換えることで、処理性能の改善が図られ、ステップ２７７の処理でも同様である。
【００７４】
以上説明してきた内容は、１台のホスト１００から正記憶制御装置１０４と副記憶制御装置１０４に接続している構成例である。図１３に示す構成例では、複数のホスト１００から、正記憶制御装置１０４と副記憶制御装置１０４に接続した構成である。以下、この構成における処理について説明する。
【００７５】
図１３は本実施形態の複数のホスト１００を正記憶制御装置１０４と副記憶制御装置１０４に接続した記憶制御システムの構成例を示す図である。図１３の例では、複数のホスト１００を正記憶制御装置１０４と副記憶制御装置１０４に接続して各ホスト１００から二重書きを行うと共に、正記憶制御装置１０４及び副記憶制御装置１０４から第３記憶制御装置１０９へライトデータ１１２を送信している。
【００７６】
図１４は本実施形態のホスト１００の識別情報を含むホスト二重書き情報１１１の例を示す図である。図１４では、ホスト１００がライト要求１１０を発行する時、ライトデータ１１２に付加されるホスト二重書き情報１１１として、ホスト二重書き状態ビット２１１と、ホスト二重書き番号２１２、そして、ホストＩＤ３１３を付加することを表している。ホストＩＤ３１３は、ホスト１００毎に割り当てられたユニークな番号であり、各ホスト１００から発せられたライト要求１１０を区別する為に用いられる。
【００７７】
ホストＩＤ３１３を用いた処理を行うにあたって、各処理部で前記説明した内容と変更があるのは、ホスト二重書きライトデータ待ち合わせ処理１７０である。変更後の処理フローを図１５に示す。
【００７８】
図１５は本実施形態のホストＩＤ３１３を用いるホスト二重書きライトデータ待ち合わせ処理１７０の処理手順を示すフローチャートである。図１５に示す様に、ライトデータ受領部１５０が受領したライトデータ管理情報１１３から、ホスト二重書きのライトデータ管理情報１１３について、対となるホスト二重書きのライトデータ管理情報１１３を探すステップ３７４の処理では、同じホストＩＤ３１３を持つライトデータ管理情報１１３から検索する様に処理内容を変更しており、また、対となる二重書きライトデータ管理情報１１３が見つからない場合に、対となるホスト一重書きのライトデータ管理情報１１３を検索処理(ステップ３７７)においても、同様に同じホストＩＤ３１３を持つ一重書きのライトデータ管理情報１１３から検索する様に変更している。
【００７９】
これらの変更により、各ホスト１００のホスト二重書き番号２１２が重複した場合でも、ホストＩＤ３１３毎に二重書きライトデータ管理情報１１３の待ち合わせが可能である。
【００８０】
以上説明した様に本実施形態の記憶制御システムによれば、第１の記憶制御装置から受領したデータと同一のデータを第２の記憶制御装置から受領した後、その受領したデータを記憶装置へ格納するので、ホストから二重書きされた複数の記憶装置のデータを別の記憶制御装置内の１つの記憶装置に格納する多対１のリモートコピーを行うことが可能である。
【図面の簡単な説明】
【００８１】
【図１】本実施形態の記憶制御システムの概略構成を示す図である。
【図２】本実施形態のライトデータ管理情報１１３の構成を示す図である。
【図３】本実施形態の論理ディスクの定義例を示す図である。
【図４】本実施形態のライトデータ受領部１３０の処理手順を示すフローチャートである。
【図５】本実施形態のライトデータ送信部１４０の処理手順を示すフローチャートである。
【図６】本実施形態のライトデータ受領部１５０の処理手順を示すフローチャートである。
【図７】本実施形態のライトデータデステージ部１６０の構成を示す図である。
【図８】本実施形態のホスト二重書きライトデータ待ち合わせ処理１７０の処理手順を示すフローチャートである。
【図９】本実施形態のホスト二重書きライトデータ待ち合わせ処理１７０の続きを示す図である。
【図１０】本実施形態のライトデータ書き込み処理１９０の処理手順を示すフローチャートである。
【図１１】本実施形態のライト要求１１０の識別情報を含むホスト二重書き情報１１１の例を示す図である。
【図１２】本実施形態のホスト二重書き番号２１２を用いるホスト二重書きライトデータ待ち合わせ処理１７０の処理手順を示すフローチャートである。
【図１３】本実施形態の複数のホスト１００を正記憶制御装置１０４と副記憶制御装置１０４に接続した記憶制御システムの構成例を示す図である。
【図１４】本実施形態のホスト１００の識別情報を含むホスト二重書き情報１１１の例を示す図である。
【図１５】本実施形態のホストＩＤ３１３を用いるホスト二重書きライトデータ待ち合わせ処理１７０の処理手順を示すフローチャートである。
【図１６】従来のリモートコピー技術とホスト二重書きディスク装置とを組み合わせたデータセンタの構築例を示す図である。
【図１７】従来のリモートコピー技術における３つのデータセンタの構築例（カスケード接続）を示す図である。
【図１８】従来のリモートコピー技術における３つのデータセンタの構築例（マルチホップ接続）を示す図である。
【符号の説明】
【００８２】
１７０…ホスト二重書きライトデータ待ち合わせ処理、１９０…ライトデータ書き込み処理、２１２…ホスト二重書き番号、３１３…ホストＩＤ、１００…ホスト、１０１…ＣＰＵ、１０２…主記憶、１０３…チャネル、１０４…記憶制御装置、１０５…ディスク装置、１０７…制御用メモリ、１０８…キャッシュメモリ、１０９…第３記憶制御装置、１１０…ライト要求、１１１…ホスト二重書き情報、１１２…ライトデータ、１１３…ライトデータ管理情報、１１４…リモートコピー構成管理情報、２１１…ホスト二重書き状態ビット、１３０…ライトデータ受領部、１４０…ライトデータ送信部、１５０…ライトデータ受領部、１６０…ライトデータデステージ部、１２０…論理ディスクＩＤ、１２１…ライトアドレス、１２２…ライトデータ長、１２３…ライトデータポインタ、１２４…第３記憶制御装置保留ビット。
【図１】
0004531643.tif 000002
【図２】
0004531643.tif 000003
【図３】
0004531643.tif 000004
【図４】
0004531643.tif 000005
【図５】
0004531643.tif 000006
【図６】
0004531643.tif 000007
【図７】
0004531643.tif 000008
【図８】
0004531643.tif 000009
【図９】
0004531643.tif 000010
【図１０】
0004531643.tif 000011
【図１１】
0004531643.tif 000012
【図１２】
0004531643.tif 000013
【図１３】
0004531643.tif 000014
【図１４】
0004531643.tif 000015
【図１５】
0004531643.tif 000016
【図１６】
0004531643.tif 000017
【図１７】
0004531643.tif 000018
【図１８】
0004531643.tif 000019