(57)【要約】【解決課題】  予備として設けられた記憶デバイスを、障害が生じた記憶デバイスのデータ回復処理から、迅速に解放することにより、記憶資源を有効利用できるようにした記憶制御システムを提供する。【解決手段】  コレクションコピー終了前でも障害ディスクドライブを新たなディスクドライブに交換できるようにし、ストレージシステム６００制御装置１４０がこの交換を認識して、スペアディスクドライブから新たなディスクドライブに自動的にコピーバックが行われるようにしたことを特徴とするものである。【選択図】  図１
2006260236.tif 000002
【特許請求の範囲】
【請求項１】
記憶装置と、当該記憶装置と上位装置との間でのデータの授受を制御する制御装置と、を備える記憶制御システムにおいて、
前記記憶装置は、互いにＲＡＩＤグループを構成する複数の記憶媒体と、障害が生じた前記記憶媒体の記憶情報を退避させるスペア媒体と、を備え、
前記制御装置は、制御プログラムに基づいて、
前記記憶媒体の障害を検出する第１工程と、
障害が発生した記憶媒体の記憶情報を、前記ＲＡＩＤグループを構成する他の記憶媒体の記憶情報に基づいて回復し、これを前記スペア媒体にコピーする第２工程と、
前記記憶媒体の障害を管理端末に報知する第３工程と、
前記障害が発生した記憶媒体の全記憶情報が、前記スペア媒体へコピーされることが完了する前に、障害が発生した記憶媒体が他の記憶媒体へ交換されたことを検出する第４工程と、
前記第４工程の検出を条件として、前記スペア媒体の記憶情報を交換された記憶媒体にコピーバックする第５工程と、を実行するように構成されてなる、
記憶制御システム。
【請求項２】
前記制御装置は、前記障害媒体の全記憶情報を前記スペア媒体にコピーすることが終了された事を検知する工程をさらに実行するように構成され、当該コピー終了の検知の後直ちに前記第５工程を開始するように構成されてなる、請求項１記載の記憶制御システム。
【請求項３】
前記制御装置は、前記第４工程における前記他の記憶媒体への交換を検出すると、前記障害媒体の全記憶情報が前記スペア媒体にコピーすることの終了前でも、前記スパア媒体の記憶情報を前記交換された他の記憶媒体に直ちにコピーバックするように構成されてなる、請求項１記載の制御システム。
【請求項４】
前記制御装置は、前記上位装置から送られたデータうち前記記憶装置に書き込めないデータ群を記憶する記憶領域を備え、当該データ群を前記スペア媒体に書き込むことが終了したことを検出する工程をさらに実行するように構成され、この検出後当該スパア媒体の記憶情報を前記他の記憶媒体にコピーバックするように構成された請求項１記載の記憶制御システム。
【請求項５】
前記制御装置は、前記障害媒体を含むＲＡＩＤグループに前記スペア媒体をマッピングする工程をさらに実行するように構成されてなる請求項１記載の記憶制御システム。
【請求項６】
上位装置からのデータ入出力要求に応答して記憶装置に対するＩ／Ｏ要求を制御するチャネル制御部と、前記記憶装置と間の前記データのＩ／Ｏ要求を制御するディスク制御部と、制御情報を記憶する共有メモリと、制御データを一時記憶するキャッシュメモリと、前記ディスク制御部に接続される前記記憶装置としてのディスク記憶装置と、前記チャネル制御部、前記ディスク制御部、前記共有メモリ、及び前記キャッシュメモリを互いに接続する接続部とを備え、前記ディスク記憶装置は、ＲＡＩＤグループを構成する複数のディスクドライブと、障害が生じた前記ディスクドライブの記憶情報を退避させるスペアディスクドライブと、を備える、記憶制御システムにおいて、
前記共有メモリは、前記ディスクドライブの障害と障害が生じたディスクドライブの位置に関する情報を記憶する第１領域と、障害が生じたディスクドライブが属するＲＡＩＤグループの他のディスクドライブを前記スペアディスクドライブにマッピングする情報を記憶する第２領域と、前記障害が発生したディスクドライブの全記憶情報が、前記スペアディスクドライブへコピーされることが完了する前に、障害が発生したディスクドライブが他のディスクドライブに交換されたことを示す制御情報を記憶する第３領域と、を備え、
前記ディスク制御部は、
前記第１領域の情報に基づいて、前記ディスクドライブの障害を管理端末に報知し、
前記第２領域の情報に基づいて、障害が発生したディスクドライブの記憶情報を、前記ＲＡＩＤグループを構成する他のディスクドライブの記憶情報に基づいて回復し、これを前記スペアディスクドライブにコピーし、
前記第３領域の情報に基づいて、前記スペアディスクドライブの記憶情報を交換されたディスクドライブへコピーバックするように構成されてなる、記憶制御システム。
【請求項７】
前記共有メモリは、前記障害が発生したディスクドライブから前記スペアディスクドライブへのコピーが終了したことを示す情報を記憶する第４領域をさらに備え、
前記ディスク制御部は、前記第３領域の情報と第４の領域の情報とに基づいて、前記障害が発生したディスクドライブから前記スペアディスクドライブへのコピーが終了した直後に、前記スペアディスクドライブの記憶情報を交換されたディスクドライブへ直ちにコピーバックするように構成されてなる、請求項６記載の記憶制御システム。
【請求項８】
前記記憶制御部は、前記第３領域の情報に基づいて、前記スペアディスクドライブの記憶情報を交換されたディスクドライブへ直ちにコピーバックするように構成されてなる、請求項６記載の記憶制御システム。
【請求項９】
互いにＲＡＩＤグループを構成する複数の記憶媒体と、障害が生じた前記記憶媒体の記憶情報を退避させるスペア媒体と、を備える記憶装置と上位装置との間でのデータの授受を制御する制御方法において、
前記記憶媒体の障害を検出する第１工程と、
障害が発生した記憶媒体の記憶情報を、前記ＲＡＩＤグループを構成する他の記憶媒体の記憶情報に基づいて回復し、これを前記スペア媒体にコピーする第２工程と、
前記記憶媒体の障害を管理端末に報知する第３工程と、
前記障害が発生した記憶媒体の全記憶情報が、前記スペア媒体へコピーされることが完了する前に、障害が発生した記憶媒体が他の記憶媒体へ交換されたことを検出する第４工程と、
前記第４工程の検出を条件として、前記スペア媒体の記憶情報を交換された記憶媒体にコピーバックする第５工程と、を実行するように構成されてなる、記憶制御方法。
【請求項１０】
前記第４工程は、前記障害が発生した記憶媒体の全記憶情報が、前記スペア媒体へコピーされている間に、障害が発生した記憶媒体が他の記憶媒体へ交換されたことを検出する工程である、請求項９記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は記憶制御システム及び記憶制御方法に係り、特に、上位装置に接続され、上位装置との間で送受信されるデータを、アレイ状に配列されたＨＤＤに、ＲＡＩＤ方式によって記憶する記憶制御システム及び記憶制御方法に関するものである。
【背景技術】
【０００２】
この種の記憶制御システムとして、例えば、データが格納される回転型記憶デバイスを備えたドライブと、前記ドライブと上位装置との間に介在し、前記ドライブと前記上位装置との間における前記データの授受を制御する記憶制御装置とを含むものが知られている（特開平１１−１９１０３７号公報）。
【０００３】
同公報には、ディスクドライブに障害が発生し、動作不能となった成った時、ＥＣＣグループ（ＲＡＩＤグループ）の残りのドライブから障害ドライブの全データを回復し、予備のディスクドライブにコピーすること（コレクションコピー）が記載されている。
【０００４】
さらに、特開２００２−２９７３２２号公報にも、スペアディスクドライブを有する記憶制御システムが記載されている。この記憶制御システムでは、ＲＡＩＤを構成しているディスクドライブの一台に障害が起こったときには、ＲＡＩＤを構成している他のディスクドライブからデータを復旧して、ＲＡＩＤの縮退状態での動作から、ＲＡＩＤを構成しているディスクドライブが全て動作する通常のアクセス状態に復旧するようにしている。
【０００５】
さらに、特開平６−１３９０２７号公報には、ディスクアレイコントローラと、ドライブインターフェースによって該ディスクアレイコントローラに接続され、アレイ状に配列された複数のデータなどを格納するためのディスクドライブと、該ディスクドライブに格納されているデータをバックアップするためのデータバックアップ装置とを備え、複数のディスクドライブを予備ディスクドライブとし、残りをデータ等が格納されるデータ／パリティディスクドライブとし、予備ディスクドライブを障害が生じたデータ／パリティディスクドライブに代わってデータ／パリティディスクドライブとする記憶制御システムが記載されている。
【０００６】
すなわち、従来の記憶制御システムは、ディスクドライブの障害が起こった時、コレクションコピーを開始し、コレクションコピーの開始を報知された保守員が、コレクションコピーの完了を確認後、障害ディスクドライブを正常なディスクドライブに交換する。この交換後、保守員がスペアディスクドライブの記憶情報を交換されたディスクドライブにコピーバックする指示を記憶制御システムに与えるようになっている。
【特許文献１】特開平１１−１９１０３７号公報
【特許文献２】特開２００２−２９７３２２号公報
【特許文献３】特開平６−１３９０２７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００７】
前記従来の記憶制御システムでは、保守員に依る、ディスクドライブの交換が遅れると、その間、スペアディスクがコレクションコピーの管理下に置かれることになり、スペアディスクの有効利用が損なわれるという課題がある。一方、ディスクドライブの更なる障害発生に備えて、スペアディスクドライブを多く備えておくことは、記憶制御システムにおける記憶可能総容量が限られている以上、記憶資源の有効利用という要請に合致しないことになる。
【０００８】
そこで、この発明は、予備として設けられた記憶デバイスを、障害が生じた記憶デバイスのデータ回復処理から、迅速に解放することにより、記憶資源を有効利用できるようにした記憶制御システムを提供する事を目的とするものである。
【課題を解決するための手段】
【０００９】
前記目的を達成するために、本発明は、既述のコレクションコピー終了前でも障害ディスクドライブを新たなディスクドライブに交換できるようにし、制御装置がこの交換を認識して、スペアディスクドライブから新たなディスクドライブに自動的にコピーバックが行われるようにしたことを特徴とするものである。
【００１０】
即ち本発明は、  記憶装置と、当該記憶装置と上位装置との間でのデータの授受を制御する制御装置と、を備える記憶制御システムにおいて、前記記憶装置は、互いにＲＡＩＤグループを構成する複数の記憶媒体と、障害が生じた前記記憶媒体の記憶情報を退避させるスペア媒体と、を備え、前記制御装置は、制御プログラムに基づいて、前記記憶媒体の障害を検出する第１工程と、障害が発生した記憶媒体の記憶情報を、前記ＲＡＩＤグループを構成する他の記憶媒体の記憶情報に基づいて回復し、これを前記スペア媒体にコピーする第２工程と、前記記憶媒体の障害を管理端末に報知する第３工程と、前記障害が発生した記憶媒体の全記憶情報が、前記スペア媒体へコピーされることが完了する前に、障害が発生した記憶媒体が他の記憶媒体へ交換されたことを検出する第４工程と、前記第４工程の検出を条件として、前記スペア媒体の記憶情報を交換された記憶媒体にコピーバックする第５工程と、を実行するように構成されてなる、ことを特徴とするものである。
【００１１】
本発明の好適な形態は、さらに以下の特徴を備える。前記制御装置は、前記障害媒体の全記憶情報を前記スペア媒体にコピーすることが終了された事を検知する工程をさらに実行するように構成され、当該コピー終了の検知の後直ちに前記第５工程を開始するように構成されてなる。前記制御装置は、前記第４工程における前記他の記憶媒体への交換を検出すると、前記障害媒体の全記憶情報が前記スペア媒体にコピーすることの終了前でも、前記スパア媒体の記憶情報を前記交換された他の記憶媒体に直ちにコピーバックするように構成されてなる。前記制御装置は、前記上位装置から送られたデータうち前記記憶装置に書き込めないデータ群を記憶する記憶領域を備え、当該データ群を前記スペア媒体に書き込むことが終了したことを検出する工程をさらに実行するように構成され、この検出後当該スパア媒体の記憶情報を前記他の記憶媒体にコピーバックするように構成されてなる。前記制御装置は、前記障害媒体を含むＲＡＩＤグループに前記スペア媒体をマッピングする工程をさらに実行するように構成されてなる。
【００１２】
本願のさらに他の発明は、上位装置からのデータ入出力要求に応答して記憶装置に対するＩ／Ｏ要求を制御するチャネル制御部と、前記記憶装置と間の前記データのＩ／Ｏ要求を制御するディスク制御部と、制御情報を記憶する共有メモリと、制御データを一時記憶するキャッシュメモリと、前記ディスク制御部に接続される前記記憶装置としてのディスク記憶装置と、前記チャネル制御部、前記ディスク制御部、前記共有メモリ、及び前記キャッシュメモリを互いに接続する接続部とを備え、前記ディスク記憶装置は、ＲＡＩＤグループを構成する複数のディスクドライブと、障害が生じた前記ディスクドライブの記憶情報を退避させるスペアディスクドライブと、を備える、記憶制御システムにおいて、前記共有メモリは、前記ディスクドライブの障害と障害が生じたディスクドライブの位置に関する情報を記憶する第１領域と、障害が生じたディスクドライブが属するＲＡＩＤグループの他のディスクドライブを前記スペアディスクドライブにマッピングする情報を記憶する第２領域と、前記障害が発生したディスクドライブの全記憶情報が、前記スペアディスクドライブへコピーされることが完了する前に、障害が発生したディスクドライブが他のディスクドライブに交換されたことを示す制御情報を記憶する第３領域と、を備え、  前記ディスク制御部は、前記第１領域の情報に基づいて、前記ディスクドライブの障害を管理端末に報知し、前記第２領域の情報に基づいて、障害が発生したディスクドライブの記憶情報を、前記ＲＡＩＤグループを構成する他のディスクドライブの記憶情報に基づいて回復し、これを前記スペアディスクドライブにコピーし、前記第３領域の情報に基づいて、前記スペアディスクドライブの記憶情報を交換されたディスクドライブへコピーバックするように構成されてなる、ことを特徴とするものである。
【００１３】
本発明の好適な形態においては、前記共有メモリは、前記障害が発生したディスクドライブから前記スペアディスクドライブへのコピーが終了したことを示す情報を記憶する第４領域をさらに備え、前記ディスク制御部は、前記第３領域の情報と第４の領域の情報とに基づいて、前記障害が発生したディスクドライブから前記スペアディスクドライブへのコピーが終了した直後に、前記スペアディスクドライブの記憶情報を交換されたディスクドライブへ直ちにコピーバックするように構成されてなる。さらに、前記記憶制御部は、前記第３領域の情報に基づいて、前記スペアディスクドライブの記憶情報を交換されたディスクドライブへ直ちにコピーバックするように構成されてなる。
【発明の効果】
【００１４】
本発明によれば、予備として設けられた記憶デバイスを、障害が生じた記憶デバイスのデータ回復処理から、迅速に解放することができるので、記憶資源を有効利用できるようにした記憶制御システムを提供することができる。
【発明を実施するための最良の形態】
【００１５】
次に本発明の実施形態を、図面を用いて説明する。図１は、本発明の実施形態が適用されるストレージシステム(記憶制御システム）６００のブロック構成を示した図である。
【００１６】
ストレージシステム６００は、複数の記憶デバイス３００と、情報処理装置（上位装置）２００からの入出力要求に応答して記憶デバイス３００への入出力制御を行う記憶デバイス制御装置１００とを備えて構成されている。
【００１７】
情報処理装置２００はＣＰＵやメモリ等を備えたコンピュータ装置であり、例えば、ワークステーション、メインフレームコンピュータ、パーソナルコンピュータ等で構成される。情報処理装置２００は複数台のコンピュータをネットワーク接続して構成することもできる。情報処理装置２００はオペレーティングシステム上で動作するアプリケーションプログラムを実装している。アプリケーションプログラムとしては、例えば、銀行の自動預金預け払いシステムや航空機の座席予約システム等がある。
【００１８】
情報処理装置１乃至３（２００）はＬＡＮ（Local Area Network）４００を介してストレージシステム６００と接続されている。ＬＡＮ４００は、例えば、イーサネット（登録商標）やＦＤＤＩ等の通信網であり、情報処理装置１乃至３（２００）とストレージシステム６００との間の通信はＴＣＰ／ＩＰプロトコルによって行われる。
【００１９】
情報処理装置１乃至３（２００）からはストレージシステム６００に対してファイル名指定によるデータアクセス要求（ファイル単位でのデータ入出力要求。以下、ファイルアクセス要求と称する。）が後述のチャネル制御部ＣＨＮ１乃至ＣＨＮ４（１１０）に送信される。
【００２０】
ＬＡＮ４００にはバックアップデバイス９１０が接続されている。バックアップデバイス９１０は、例えば、ＭＯ、ＣＤ−Ｒ、ＤＶＤ−ＲＡＭ等のディスク系デバイス、ＤＡＴテープ、カセットテープ、オープンテープ、カートリッジテープ等のテープ系デバイスである。
【００２１】
バックアップデバイス９１０はＬＡＮ４００を介して記憶デバイス制御装置１００との間で通信を行うことにより記憶デバイス３００に記憶されているデータのバックアップデータを記憶する。また、バックアップデバイス９１０は情報処理装置１（２００）と接続し、情報処理装置１（２００）を介して記憶デバイス３００に記憶されているデータのバックアップを取得する。
【００２２】
記憶デバイス制御装置１００はチャネル制御部ＣＨＮ１乃至４（１１０）を備える。記憶デバイス制御装置１００は、チャネル制御部ＣＨＮ１乃至４（１１０）とＬＡＮ４００とを介して、情報処理装置１乃至３（２００）と、バックアップデバイス９１０と、記憶デバイス３００との間のライトアクセス又はリードアクセスを媒介する。チャネル制御部ＣＨＮ１乃至４（１１０）は情報処理装置１乃至３（２００）からのファイルアクセス要求を個々に受け付ける。すなわち、チャネル制御部ＣＨＮ１乃至４（１１０）には個々にＬＡＮ４００上のネットワークアドレス（例えば、ＩＰアドレス）が割り当てられていて、それぞれが個別にＮＡＳとして振る舞い、個々のチャネルアダプタ１１０があたかも独立したＮＡＳが存在するかのようにＮＡＳとしてのサービスを情報処理装置１乃至３（２００）に提供することができる。
【００２３】
このように１台のストレージシステム６００に個別にＮＡＳとしてのサービスを提供するチャネル制御部ＣＨＮ１乃至４（１１０）を備えるように構成したことで、従来、独立したコンピュータで個々に運用されていたＮＡＳサーバが一台のストレージシステム６００に集約される。そして、これによりストレージシステム６００の統括的な管理が可能となり、各種設定・制御や障害管理、バージョン管理といった保守業務の効率化が図られる。
【００２４】
情報処理装置３乃至４（２００）はＳＡＮ５００を介して記憶デバイス制御装置１００と接続されている。ＳＡＮ５００は、記憶デバイス３００が提供する記憶領域におけるデータの管理単位であるブロックを単位として情報処理装置３乃至４（２００）との間でデータの授受を行うためのネットワークである。ＳＡＮ５００を介して行われる情報処理装置３乃至４（２００）と記憶デバイス制御装置１００との間の通信は一般にファイバチャネルプロトコルに従って行われる。情報処理装置３乃至４（２００）からは、ストレージシステム６００に対して、ファイバチャネルプロトコルに従ってブロック単位のデータアクセス要求（以下、ブロックアクセス要求と称する。）が送信される。
【００２５】
ＳＡＮ５００にはＳＡＮ対応のバックアップデバイス９００が接続されている。ＳＡＮ対応バックアップデバイス９００は、ＳＡＮ５００を介して記憶デバイス制御装置１００との間で通信を行うことにより、記憶デバイス３００に記憶されているデータのバックアップデータを記憶する。
【００２６】
記憶デバイス制御装置１００はチャネル制御装置ＣＨＮ１乃至４（１１０）に加えて、更にチャネル制御部ＣＨＦ１乃至２（１１０）を備える。記憶デバイス制御装置１００はチャネル制御部ＣＨＦ１乃至２（１１０）とＳＡＮ５００とを介して、情報処理装置３乃至４（２００）及びＳＡＮ対応バックアップデバイス９００との間の通信を行う。
【００２７】
情報処理装置５（２００）は、更に、ＬＡＮ４００やＳＡＮ５００等のネットワークを介さずに記憶デバイス制御装置１００と接続されている。この情報処理装置５（２００）の例は、例えばメインフレームコンピュータである。情報処理装置５（２００）と記憶デバイス制御装置１００との間の通信は、例えばＦＩＣＯＮ（Fiber Connection)（登録商標）やＥＳＣＯＮ（Enterprise System Connection）（登録商標）、ＡＣＯＮＡＲＣ（Advanced Connection Architecture）（登録商標）、ＦＩＢＡＲＣ（Fiber Connection Architecture）（登録商標）などの通信プロトコルに従って行われる。情報処理装置５（２００）からはストレージシステム６００に対して、これらの通信プロトコルに従ってブロックアクセス要求が送信される。
【００２８】
記憶デバイス制御装置１００は、チャネル制御部ＣＨＡ１乃至２（１１０）を通じて情報処理装置５（２００）との間で通信を行う。
【００２９】
なお、ＳＡＮ５００には、ストレージシステム６００の設置場所（プライマリサイト）とは遠隔した場所（セカンダリサイト）に設置される他のストレージシステム６１０が接続されていても良い。
【００３０】
ストレージシステム６１０は、レプリケーション又はリモートコピーの機能におけるデータの複製先の装置として利用される。さらに、ストレージシステム６１０はＳＡＮ５００以外にもＡＴＭなどの通信回線によりストレージシステム６００に接続していることもある。この場合には、例えば、ＳＡＮ５００に接続されるチャネル制御部１１０として、上記通信回線を利用するためのインターフェース（チャネルエクステンダ）を備えるチャネル制御部が採用される。
【００３１】
このように、ストレージシステム６００内にチャネル制御部ＣＨＮ１乃至４（１１０）、チャネル制御部ＣＨＦ１乃至２（１１０）、チャネル制御部ＣＨＡ１乃至２（１１０）を混在させて装着させることにより、異種ネットワークに接続できるストレージシステムを実現できる。即ち、このストレージシステム６００はチャネル制御部ＣＨＮ１乃至４（１１０）を用いてＬＡＮ４００に接続し、かつチャネル制御部ＣＨＦ１乃至２（１１０）を用いてＳＡＮ５００に接続するという、ＳＡＮ−ＮＡＳ統合ストレージシステムである。
【００３２】
接続部１５０は、各々のチャネル制御部１１０、共有メモリ１２０、キャッシュメモリ１３０、及び各々のディスク制御部１４０を相互に接続する。これらのチャネル制御部１１０、共有メモリ１２０、キャッシュメモリ１３０、及びディスク制御部１４０相互間のコマンド又はデータの送受信は接続部１５０を介して行われる。接続部１５０は例えば高速スイッチングによりデータ伝送を行う超高速クロスバスイッチ等の高速バスで構成される。これにより、チャネル制御部１１０相互間の通信パフォーマンスが大幅に向上するとともに、高速なファイル共有機能や高速フェイルオーバー等が可能になる。
【００３３】
共有メモリ１２０、及びキャッシュメモリ１３０はチャネル制御部１１０、及びディスク制御部１４０が共用するメモリ装置である。共有メモリ１２０は主として、コマンドを含む制御情報等を記憶するために利用され、キャッシュメモリ１３０は主としてデータを記憶するために利用される。例えば、あるチャネル制御部１１０が情報処理装置２００から受け取ったデータ入出力コマンドが書き込みコマンドであった場合に、当該チャネル制御部１１０はその書き込みコマンドを共有メモリ１２０に書き込むとともに、情報処理装置２００から受け取ったライトデータをキャッシュメモリ１３０に書き込む。
【００３４】
ディスク制御部１４０は共有メモリ１２０を監視しており、共有メモリ１２０に書き込みコマンドが書き込まれたと判定すると、当該書き込みコマンドに従ってキャッシュメモリ１３０からライトデータを読み出して、これを記憶デバイス３００に書き込む。
【００３５】
一方、あるチャネル制御部１１０が情報処理装置２００から受け取ったデータ入出力コマンドが読み出しコマンドであった場合に、当該チャネル制御部１１０はその読み出しコマンドを共有メモリ１２０に書き込むとともに、読み出し対象となるデータがキャッシュメモリ１３０に存在しているか否かをチェックする。ここで、読み出し対象となるデータがキャッシュメモリ１３０に存在している場合には、チャネル制御部１１０はそのデータをキャッシュメモリ１３０から読み取って情報処理装置２００に送信する。
【００３６】
読み出し対象となるデータがキャッシュメモリ１３０に存在していない場合には、共有メモリ１２０に読み出しコマンドが書き込まれたことを検出したディスク制御部１４０は読み出し対象となるデータを記憶デバイス３００から読み出してこれをキャッシュメモリ１３０に書き込むとともに、その旨を共有メモリ１２０に書き込む。
【００３７】
チャネル制御部１１０は共有メモリ１２０を監視することにより、読み出し対象となるデータがキャッシュメモリ１３０に書き込まれたことを検出すると、そのデータをキャッシュメモリ１３０から読み出して情報処理装置２００に送信する。
【００３８】
ディスク制御部１４０はチャネル制御部１１０から送信された論理アドレス指定による記憶デバイス３００へのデータアクセス要求を、物理アドレス指定によるデータアクセス要求に変換し、チャネル制御部１１０から出力されるＩ／Ｏ要求に応答して記憶デバイス３００へのデータの書き込み又は読み取りを行う。
【００３９】
記憶デバイス３００がＲＡＩＤ構成されているので、ディスク制御部１４０はＲＡＩＤ構成に従ったデータのアクセスを行う。この他にも、ディスク制御部１４０は記憶デバイス３００に記憶されたデータの複製管理、バックアップ制御、災害発生時のデータ消失防止（ディザスタリカバリ）等を目的としてレプリケーション制御又はリモートコピー制御等を行う。
【００４０】
記憶デバイス３００は、単一又は複数の、記憶媒体に相当するディスクドライブ（物理ボリューム）を備えており、情報処理装置２００からアクセス可能な記憶領域を提供する。例えば、ディスク制御部１４０は複数のポートを備えており、各ポートに個々のディスクドライブが接続される。
【００４１】
記憶デバイス３００が提供する記憶領域には単一又は複数の物理ボリュームの記憶空間を合わせた論理ボリュームが設定されている。記憶デバイス３００に設定される論理ボリュームには、情報処理装置２００からアクセス可能なユーザ論理ボリュームや、チャネル制御部１１０の制御のために使用されるシステム論理ボリュームがある。システム論理ボリュームにはチャネル制御部１１０で実行されるオペレーティングシステムも格納されている。
【００４２】
また、記憶デバイス３００が提供する論理ボリュームには、各々のチャネル制御部１１０がアクセス可能な論理ボリュームが割り当てられている。もとより、複数のチャネル制御部１１０が同一の論理ボリュームを共有することもできる。
【００４３】
尚、記憶デバイス３００（ディスクドライブ）として、例えば、ハードディスク装置やフレキシブルディスク装置等を用いることができる。記憶デバイス３００のストレージ構成として、例えば、記憶デバイス３００によりＲＡＩＤ方式のディスクアレイを構成してもよい。また、記憶デバイス３００と記憶デバイス制御装置１００は直接接続してもよく、ネットワークを介して接続してもよい。更に、記憶デバイス３００は記憶デバイス制御装置１００と一体に構成してもよい。
【００４４】
管理端末１６０はストレージシステム６００を保守・管理するためのコンピュータ装置であり、内部ＬＡＮ１５１を通じて各々のチャネル制御部１１０とディスク制御部１４０に接続している。オペレータ(保守員）は管理端末（ＳＶＰ；サービスプロセッサ）１６０を操作することで記憶デバイス３００のディスクドライブの設定、論理ボリュームの設定、チャネル制御１１０やディスク制御部１４０で実行されるマイクロプログラムのインストール等を行うことが可能である。管理端末１６０は、ネットワークを介して制御部に接続するようにしても良い。
【００４５】
図２はディスク制御部１４０の回路構成を示している。ディスク制御部１４０はインターフェース部１４１、マイクロプロセッサ（ＭＰ）１４２、制御プログラムであるマイクロプログラムが記憶されたメモリ１４３、及びＮＶＲＡＭ１４４を備えて構成されており、これらが一枚又は複数枚の回路基板上に一体的なユニットとして形成されている。
【００４６】
インターフェース部１４１は接続部１５０を介してチャネル制御部１１０等との間で通信を行うための通信インターフェースや記憶デバイス３００との間で通信を行うための通信インターフェースを備えている。
【００４７】
ＭＰ１４２はチャネル制御部１１０、記憶デバイス３００、及び管理端末１６０との間で通信を行い、上述した記憶デバイス３００へのアクセス制御やデータの複製管理等を行う。メモリ１４３とＮＶＲＡＭ１４４には、ＭＰ１４２に上述した各種の制御処理を実行させるためのマイクロプログラムやデータ等が格納されている。
【００４８】
図３及び図４はストレージシステム６００の外観構成を示している。図３に示すように、ストレージシステム６００は記憶制御装置１００と複数の記憶デバイスが装着される記憶装置の筐体３００Ａがそれぞれの筺体に納められた形態を成している。記憶デバイス制御装置１００の筺体の両側に筺体３００Ａが配置されている。
【００４９】
記憶デバイス制御装置１００は、正面中央部に管理端末１６０が備え付けられている。管理端末１６０はカバーで覆われており、図４に示すようにカバーを開けることにより管理端末１６０を使用することができる。ここで、管理端末１６０はいわゆるノート型パーソナルコンピュータの形態をしているが、どのようなコンピュータ装置であってもよい。
【００５０】
記憶デバイス制御装置１００には、チャネル制御部１１０のボード等から発生する熱を放出するためのファン１７０が設けられている。ファン１７０は記憶デバイス制御装置１００の上面部に設けられる他、チャネル制御部１１０用スロットの上部にも設けられている。
【００５１】
管理端末１６０の下部には、チャネル制御部１１０、ディスク制御部１４０、キャッシュメモリ１３０、及び共有メモリ１２０の各ボードを装着するためのスロットが設けられている。ボードとは、回路基板が形成されたユニットであり、スロットへの装着単位である。本実施の形態に係るストレージシステム６００においては、スロットは複数あり、図２及び図３には複数のスロットに各ボードが装着された状態が示されている。
【００５２】
各スロットにはボードを装着するためのガイドレールが設けられている。ガイドレールに沿ってボードをスロットに挿入することにより、各ボードを記憶デバイス制御装置１００に装着することができる。
【００５３】
また、各スロットに装着されたボードは、ガイドレールに沿って手前方向に引き抜くことにより取り外すことができる。また各スロットの奥手方向正面部には、ボードを記憶デバイス制御装置１００と電気的に接続するためのコネクタが設けられている。
【００５４】
チャネル制御部１１０にはチャネル制御部ＣＨＮ１乃至ＣＨＮ４（１１０）、チャネル制御部ＣＨＦ１乃至２（１１０）、チャネル制御部ＣＨＡ１乃至２（１１０）があるが、いずれのチャネル制御部１１０のボードもサイズやコネクタの位置、コネクタのピン配列等に互換性をもたせているため、８つのスロットにはいずれのチャネル制御部１１０のボードも装着することが可能である。ディスク制御部１４０のボードについても同様である。
【００５５】
図１１は、筐体背面のスロット７００に、ハードディスクドライブボード７０２が複数挿入された状態を示している。７０４は不良ドライブをスロットから抜いた状態のハードディスクドライブボードの挿入領域を示している。ハードディスクボードは、ボード本体７０６と、その正面に固定されたハンドル７０８とを備えて構成されている。正面からは透視できないストッパ７１０を解除すると、ハンドル７０８を保守員側に向かって保守員が引く事により、このボードをスロットから引き抜くことができる。また、保守員がスロットにボードをハンドル部分を持って押し込み、それが完了した後ストッパをセットすることにより、ボードをスロットに挿入することができる。ボードの正面には、シャットダウンＬＥＤ７１２が設けられている。後述のように、ディスク制御部がボードの交換を示した際に点灯する。保守員は点灯したボードが交換すべきボードであると知ることができる。ディスク制御部はさら不良ボードとのＩ／Ｏを遮断する。これを、ボードを論理的に閉塞させるという。なお、不良ボードはスペアボードによって代用できるが、ハードディスクボードが交換されないままでいると、他のボードのＩ/Ｏ負荷が増加するために、不良ボードを素早く交換する事が望まれる。ディスクアダプタはボードが交換されると、このボードの論理ボリュームを認識して、記憶制御の処理を進めていく。
【００５６】
図１の記憶デバイスを構成するハードディスクドライブの各々は、チャネル制御部と同様に、周辺回路とハードディスクと駆動部とを備えたボードとして構成されている。このボードを筐体３００Ａ(図３）のスロットに装着できるようになっている。ハードディスクドライブに障害が発生した場合には、障害が生じたハードディスクドライブは、他のハードディスクドライブと交換される。ハードディスクドライブのボードを筐体のスロットに挿入すると、このボードは、ディスク制御部１４０(図１)と電気的に接続する。
【００５７】
ディスアダプタには、例えば、０〜４のポートが設けられており、各ポートと一つの記憶デバイスのボードとが対応するようになっている。ハードディスクドライブの障害はボードごとにディスク制御部のマイクロプロセッサによって診断されかつ検出される。
【００５８】
次に、記憶デバイスのＲＡＩＤ構成を図５に基づいて説明する。図５（１）に示すように、ディスクドライブの物理的な階層（ＰＤＥＶ）の並びをアレイとして捉え、横方向をＲＯＷ（２１０Ａ〜２１３Ａ）、縦方向をＰＯＲＴ（２２０Ａ〜２２４Ａ）とし、 各ディスク制御部に接続されるディスクドライブＲＯＷ（２１０Ａ〜２１２Ａ）について、それぞれにＲＡＩＤ５（パリティ付きストライピング）方式により冗長化された場合の論理ボリューム構成がＬＵ（Logical Unit）０−２（論理ユニット）として管理されている。なお、他のＲＡＩＤ方式などでも、本発明は適用可能である。
【００５９】
ディスクドライブ２００Ａの幾つかは、代替として使用するためのスペアディスクドライブ（３００Ａ,３０１Ａ）として設定されている。この設定は、管理端末からグラフィカルなユーザインタフェースにより、可能である。図５の例では、論理ボリュームＬＵ０を構成するＲＯＷ０とＰＯＲＴ１の位置にあるディスクドライブに障害が発生し、このディスクドライブのデータをＬＵ０の残りのディスクドライブのパリティグループから回復して、これをスペアディスクドライブ３０１Ａにコレクションコピーすることを示している（図５（２））。Ｂ’は障害が発生したディスドライブＢと交換されたディスクドライブであり、スペアディスクドライブ３０１Ａの記憶内容がディスクドライブＢ’に復帰コピー(コピーバック）される。
【００６０】
ここで、スペアディスクドライブは、ディスクドライブの物理的な記憶階層の並び(アレイ配列）の中で複数存在する。ディスク制御部１４０（図１参照）のマイクロプログラムは、障害ディスクが存在する論理ボリュームＬＵ０のパリティグループを構成するディスドライブ（Ａ−Ｅ）の各位置と、使用可能スペアディスクドライブのアレイ配列上の位置とを、共有メモリ１４０から読み込み、障害復旧が必要なパリティグループのディスクドライブに、最適なスペアディスクドライブをマッピングさせるテーブル(マッピングテーブ）を作成し、これを共有メモリ１４０の所定領域に保存する。
【００６１】
ディスク制御部１２０はこのテーブルを参照し、障害ディスクドライブが属するＲＡＩＤグループの他のディスクドライブから障害ディスクドライブのデータを回復し、これをマッピングされたスペアディスクドライブにコレクションコピーを行う。
【００６２】
次に、図６および図７を用いて本発明の記憶制御システムが参照するデータ構造について説明する。図６は、全ディスクドライブ資源情報テーブル５００の構造を示す模式図である。図７は、スペアディスクドライブ資源情報テーブル６００の構造を示す模式図である。
【００６３】
全ディスクドライブ資源情報テーブル５００は、共有メモリ１２０(図１）に存在し、装置内の全ディスクドライブの使用状態や容量を管理するテーブルであり、全ディスクドライブ単位管理領域５１０からなる。全ディスクドライブ単位管理領域５１０は、図６に示すようにアレイとしてのデータ構造を持ち、装置内の全ディスクドライブがどのような状態か、そのディスクドライブの容量、またスペアディスクドライブへのデータ回復の進行状況を示すデータ回復済み容量の情報を備えている。
【００６４】
使用状態５１０ａは、未実装、実装（データディスク使用・スペアディスク使用）、未使用の四つのフラグが対応する。未実装とは、最初から装置(筐体のスロット）内にハードディスクドライブのボードが実装されていない状態、または障害が発生しディスクドライブを交換する際に装置から抜いた後の状態がこの未実装状態に相当する。未使用とは、ディスクドライブとしては、実装しているものの、ＲＡＩＤのディスクドライブとしても、スペアディスクドライブとしても使用されていない状態であることを意味している。
【００６５】
全容量５１０ｂは、どの様な容量のディスクドライブが実装されているかを管理するための領域であり、スペアディスクドライブへのデータ回復の際の回復情報算出として使用する領域である。
【００６６】
回復済み容量５１０ｃは、このディスクドライブに障害がおこったときに、全容量のうちで、現在どれだけ、スペアディスクドライブへのデータの回復をおこなったかを示す領域であり、ディスクドライブに障害がおこったときのスペアディスクドライブへのデータ復元時に用いる。
【００６７】
次に、スペアディスクドライブ資源情報テーブル６０１は、共有メモリに存在し、スペアディスクドライブ（３００〜３０２／図５（１）参照）の状態を管理するテーブルであり、図７に示されているようにスペアディスクドライブ情報［０］〜［ｎ］（６１０〜６７０）からなる。
【００６８】
スペアディスクドライブ情報［０］〜［ｎ］（６１０〜６７０）には、スペアディスクドライブの状態の詳細情報が格納されている領域であり、使用状態６１１、スペア実ＲＯＷ＃６１２、スペア実ＰＯＲＴ＃６１３、スペア空容量６１４、空領域情報［０］〜［ｎ］（６１５〜６１７）、使用領域情報［０］〜［ｎ］（６１８〜６２０）からなる。
【００６９】
使用状態６１１は、そのスペアディスクドライブの使用状態を示し、未使用、一部使用、全使用の３つの値を持ち、データ回復の際のスペアディスクドライブ使用可否判断をおこなう領域である。
【００７０】
スペア実ＲＯＷ＃６１２と、スペア実ＰＯＲＴ＃６１３は、スペアディスクドライブの実装位置を示す領域であり、その値がこのスペアディスクドライブのアレイ上の位置を示している。
【００７１】
空領域情報［０］〜［ｎ］（６１５〜６１７）は、そのスペアディスクドライブがデータ回復に使用されていない領域を管理する領域であり、この領域が使用中であるかを示す使用中フラグ６２１、空領域の開始アドレス６２２、空領域の終了アドレス６２３からなる。使用中フラグ６２１には、空領域のときには、０が入るものとする。
【００７２】
使用領域情報［０］〜［ｎ］（６１８〜６２０）、そのスペアディスクドライブが、どれだけの領域をどこのディスクドライブのデータ復元用に使用されているかをマッピングして管理するための領域(マッピングテーブル）であり、その使用領域が使用中であるかを示す使用中フラグ６２４、使用領域の開始アドレス６２５、使用領域の終了アドレス６２６、どこのディスクドライブのデータ復元用に用いられているかを示す、回復元ＲＯＷ＃６２７、回復元ＰＯＲＴ＃６２８からなる。回復元ＲＯＷ＃６２７、回復元ＰＯＲＴ＃６２８とによって、ＲＡＩＤグループに属する、コレクションコピー元の複数のディスクドライブがスペアディスクドライブにマッピングされる。
【００７３】
次に、ＲＡＩＤを構成するディスクドライブに障害がおこったときに、スペアディスクドライブにデータを回復し、回復したデータを交換されたディスクドライブにコピーバックする際の一例の動作について説明する。この一連の動作は、ディスク制御部１４０(図１）のマイクロプロセッサがマイクロプログラムに基づいて実現される。さらに、この一連の動作は、障害ディスクの発見及びその報知、コレクションコピーの開始及びその終了、コピーバックの開始及びその終了の各ルーチンから構成される。
【００７４】
図８は、障害ディスクの発見及びその報知に関する、ディスク制御部１４０(図１）が実行するルーチンを示すものである。ディスク制御部は、ハードディスクドライブへの書き込みエラー、記憶デバイスからの読み込みエラーなどの各種Ｉ／Ｏ障害が起こる都度、その情報を全ディスクドライブ資源情報テーブル５００(図６）の該当するディスクデバイスの単位管理領域に書き込む。エラーの発生回数はこの領域に更新記憶され、ディスク制御部はこのエラー回数を常時監視し、所定の閾値を超えた時点で、ディスクドライブに障害が発生したと判断する(Ｓ８００）。
【００７５】
この判断がされると、ディスク制御部は、スペアディスクドライブ資源情報テーブル(図７）を参照し、スペアディスクとして障害ディスクドライブの情報を記憶可能なものを選択し、これを、障害ディスクを含むＲＡＩＤグループにマッピングすべきスペアディスクドライブとして決定する。このマッピング情報は、スペアディスクドライブ資源情報テーブルの該当スペアディスクドライブの領域に書き込まれる(Ｓ８０２）。
【００７６】
ディスク制御装置部は、障害ＨＤＤを検出すると、障害ＨＤＤを論理的に閉塞させると同時に、対応する障害ＨＤＤに障害が起きた事のフラグを前記ディスクドライブの単位管理情報テーブル(図６）に記憶させる(Ｓ８０４）。次いで、ディスク制御部は、管理端末１６０(図１）にＨＤＤに障害が起きた事及びＨＤＤの位置に関する情報を報知する(Ｓ８０６）。報知情報を見た保守員は、直ちに障害が起きているボードを正常なＨＤＤのボードを交換することができる。通常、この報知があった段階では、既述のコレクションコピーがスタートしているが、このコレクションコピーの終了或いは継続中に拘わらず、ＨＤＤのボードを交換することができる。
【００７７】
この交換作業は次のように行われる。ディスク制御部は、障害が起きたＨＤＤボードの電源回路に電源オフする指令と交換するＨＤＤボードを特定し易くするために、ボード上のＬＥＤを点灯する信号を出力する。ＬＥＤの点灯を確認した保守員がスロットからＨＤＤのボードを抜くと、ディスク制御部はスロットとＨＤＤボードの接続信号が解かれることにより、ディスク制御部はＨＤＤボードが抜かれたことを検出する。
【００７８】
次いで、保守員が新たなボードをスロットに挿入すると、ディスク制御部はスロットとＨＤＤボードの接続信号がアクティブになることを検出し、ＨＤＤのボードの電源をオンし、交換されたＨＤＤの診断プログラムをスタートし(Ｓ８０８）、交換されたＨＤＤの診断を実行する。交換されたＨＤＤが正常と診断された場合には、前記ディスクドライブの単位管理領域(図６）に、スペアディスクドライブへのコレクションコピー終了後スペアディスクドライブ中に回復されたデータを、交換されたＨＤＤにコピーバックするフラグを設定して(Ｓ８１０）、さらに、ディスクドライブの単位管理領域のエラー回数記憶領域のデータをクリアして、図８のルーチンを終了する。交換されたＨＤＤが不良の場合には、別のＨＤＤに交換することを促すメッセージが管理端末の画面に表示される。なお、図８のルーチンは、例えばタイマ割り込み処理によって反復的に行われる。
【００７９】
次にコレクションコピーの動作について説明する。ディスク制御部のマイクロプログラムは、障害フラグ(Ｓ８０２／図８）が立っているかを判断し、障害フラグが立っている場合には、全ディスクドライブ資源情報テーブル５００（図６）を参照し、障害ＨＤＤが属するＲＡＩＤグループを構成する他のＨＤＤとスペアディスクドライブをマッピング(Ｓ９０２）する。マッピングすべきスペアディスクドライブは、図７の情報テーブルを参照して、ディスク制御部によって決定される。マッピング情報は、既述のとおり図７の情報テーブルに設定される。なお、コレクションコピーが複数のスペアディスクドライブに跨ることを妨げるものではない。
【００８０】
次いで、図５（２）に示すように、ディスク制御部は、障害ＨＤＤの論理ボリュームのデータを、同一のＲＡＩＤグループに属する他のＨＤＤのパリティビットを利用して、回復し、これをスペアディスクドライブにコピーする（Ｓ９０４）。ディスク制御部は、コレクションコピーの終了を監視し、コレクションコピーの終了後、障害ＨＤＤの単位管理領域(図６）の所定位置にコピー終了フラグをセットし、さらに障害フラグをリセットして(Ｓ９０６）、リターンする。図９のルーチンは、障害フラグのセットに基いてスタートする。
【００８１】
図１０はコピーバックの処理ルーチンである。ディスク制御部は、コピーバックフラグ(Ｓ８１０）を読み込み(Ｓ１０００）、コレクションコピー終了フラグを読み込み(Ｓ１００２）、両フラグともセットされているかを判定する（Ｓ１００４）。両フラグともセットされている場合には、スペアディスクドライブから交換されたディスクドライブへのコピーバックを実行する(Ｓ１００６）。
【００８２】
コピーバック終了後、ディスク制御部は、コピーバックフラグをリセットし(Ｓ１００８）、さらにコレクション終了フラグをリセットする(Ｓ１０１０）。Ｓ１００４において、否定判定があった場合は、Ｓ１０００にリターンする。図１０のルーチンは、例えば、タイマ割り込み処理によってスタートする。
【００８３】
今、あるＨＤＤに障害が発生すると、ディスク制御部１４０は、図１０のルーチンに従い、Ｓ１０００−Ｓ１００４において、コレクションコピーの終了及び障害ＨＤＤの交換の終了を待ってコピーバックを開始する。コレクションコピーの終了前にディスクドライブの交換が終了していればＳ１０００のコピーバックフラグがセットされているので（Ｓ８１０／図８参照）、コレクションコピーの終了後直ちにコピーバックが開始する。したがって、スペアディスクドライブを遅滞なくフリーにできるので、このスペアディスクを他の障害ディスクドライブのデータの回復処理に迅速に供することが可能となる。言い換えると、故障が発生したディスクドライブのデータ復元用に用いられているスペアディスクドライブの状態を、他のディスクドライブが故障した際にも対応できるように、ドライブ状態を変更或いは復帰する処理を行う。
【００８４】
既述の実施形態では、コレクションコピーの終了後コピーバックが開始するように構成されているが、ディスクドライブ交換後直ちにコピーバックを開始しても良い。この場合、スペアディスクの記憶容量のうち、コレクションコピーが完了している領域まで交換ディスクドライブにコピーバックされる。コレクションコピーされていないデータは交換されたディスクドライブにコレクションコピーをしていけば良い。
【００８５】
ディスク制御部は、障害が生じたディスクドライブに書き込めなかったデータ群を、キャッシュメモリ１３０に保存するよう動作する。ディスク制御部は、掛るデータ群がキャッシュメモリに存在するか否かをチェックして、存在する場合には、図９のルーチンにおいて、このデータをスペアドライブにコピーする。このコピーの終了を以って、ディスク制御部は、コレクションコピーの終了と判断しても良い。
【００８６】
なお、コレクションコピーやコピーバックが動作している途中で、ディスク制御部に上位装置からＩ／Ｏ要求があった場合は、Ｉ／Ｏ要求を有効として、こちらを優先しても良い。
【００８７】
既述の実施形態では、ディスク制御部はスペアディスドライブへのコピーの間に、ディスクドライブの交換を認識した。このコピーの開始前にディスクドライブの交換を認識するようにしても良い。また、既述の実施形態は、ハードディスクドライブを記憶媒体の一例として説明した。光ディスク、テープなど、他の記憶媒体を本発明に適用することもできる。
【図面の簡単な説明】
【００８８】
【図１】本実施形態のストレージシステムの構成図である。
【図２】本実施形態のディスク制御部の構成図である。
【図３】本実施形態のストレージシステムの外観構成図である。
【図４】本実施形態のストレージシステムの外観構成図である。
【図５】ディスクドライブのアレイ構成を示すブロック図である。
【図６】データディスクドライブ資源情報テーブルの構成図である。
【図７】スペアディスクドライブ資源情報テーブルの構成図である。
【図８】ハードディスクドライブの障害検知ルーチンを示すフローチャートです。
【図９】スペアハードディスクドライブへのコレクションコピーを実行するルーチンを示すフローチャートである。
【図１０】スペアハードディスクドライブから交換されたハードディスクドライブへのコピーバックを実行するルーチンを示すフローチャートである。
【図１１】（１）は、筐体のスロットに複数のハードディスクドライブが挿入されている状態を示す斜視図、（２）は単体のハードディスクドライブの斜視図、（３）は単体のハードディスクドライブの正面図である。
【符号の説明】
【００８９】
１００  記憶デバイス制御装置、１１０  記憶デバイス制御装置、１２０  共有メモリ、１３０  キャッシュメモリ、１４０  ディスク制御部、３００  記憶デバイス、６００  ストレージシステム。
【図１】
2006260236.tif 000003
【図２】
2006260236.tif 000004
【図３】
2006260236.tif 000005
【図４】
2006260236.tif 000006
【図５】
2006260236.tif 000007
【図６】
2006260236.tif 000008
【図７】
2006260236.tif 000009
【図８】
2006260236.tif 000010
【図９】
2006260236.tif 000011
【図１０】
2006260236.tif 000012
【図１１】
2006260236.tif 000013