(57)【要約】【課題】時間帯毎のアクセス頻度情報に基づいて論理ディスクに割り付けるスライスを再配置することにより、常に最良のアクセス性能を維持できるようにする。【解決手段】アクセス頻度情報採取部２１５は、論理ディスクを構成するスライスへのアクセスが発生する都度、当該論理ディスクを構成するスライスを単位にアクセス頻度情報テーブル２３０に保持されている予め定められた時間帯毎のアクセス頻度情報のうち、当該アクセスが発生したスライス及び時間帯に対応するアクセス頻度情報を更新する。スライス移動部２１３は、アクセス頻度情報テーブル２３０に保持されている、論理ディスクを構成する複数のスライスの時間帯毎のアクセス頻度情報に基づいて当該複数のスライスを再配置する。【選択図】      図２
2008269344.tif 000002
【特許請求の範囲】
【請求項１】
一定の容量の複数のスライスに分割して管理されるアレイ内の任意の複数のスライスを組み合わせることによって論理ディスクを構成して、当該構成された論理ディスクを管理するための、アレイコントローラにおいて実行される論理ディスク管理方法であって、
前記論理ディスクを構成するスライスへのアクセスが発生する都度、前記アレイコントローラが有する記憶手段に前記論理ディスクを構成するスライスを単位に保持されている予め定められた時間帯毎のアクセス頻度を表すアクセス頻度情報のうち、当該アクセスが発生したスライス及び時間帯に対応するアクセス頻度情報を更新するステップと、
前記記憶手段に保持されている、前記論理ディスクを構成する複数のスライスの前記時間帯毎のアクセス頻度情報に基づいて、当該複数のスライスの配置先を見直すことによって、当該複数のスライスを再配置するステップとを具備することを特徴とする論理ディスク管理方法。
【請求項２】
前記再配置するステップにおいて、前記論理ディスクを構成する複数のスライスの配置先の見直しが、予め定られた再配置時期が到来する都度、その時点において前記記憶手段に保持されている、前記論理ディスクを構成する複数のスライスの各々の前記時間帯毎の最新のアクセス頻度情報に基づいて実行されることを特徴とする請求項１記載の論理ディスク管理方法。
【請求項３】
前記再配置するステップにおいて、前記論理ディスクを構成する複数のスライスの配置先の見直しが、前記アレイコントローラと接続された装置からスライス再配置が指示される都度、その時点において前記記憶手段に保持されている、前記論理ディスクを構成する複数のスライスの各々の前記時間帯毎の最新のアクセス頻度情報に基づいて実行されることを特徴とする請求項１記載の論理ディスク管理方法。
【請求項４】
前記再配置するステップは、
前記論理ディスクを構成する複数のスライスの各々を、前記記憶手段に保持されている前記時間帯毎のアクセス頻度情報に基づき、いずれの時間帯のアクセス頻度が高いかによって分類するステップと、
同一時間帯に分類されたスライスの群の少なくとも一部を、前記アレイ内で物理的に近接するように再配置するステップと
を含むことを特徴とする請求項１記載の論理ディスク管理方法。
【請求項５】
前記論理ディスクは、前記アレイを含む複数のアレイ内の任意の複数のスライスを組み合わせることによって構成され、
前記再配置するステップは、
前記論理ディスクを構成する複数のスライスの各々を、前記記憶手段に保持されている前記時間帯毎のアクセス頻度情報に基づき、いずれの時間帯のアクセス頻度が高いかによって分類するステップと、
同一時間帯に分類されたスライスの群の少なくとも一部を、前記複数のアレイに均等に分散して再配置するステップと
を含むことを特徴とする請求項１記載の論理ディスク管理方法。
【請求項６】
前記均等に分散して再配置するステップにおいて、前記複数のアレイに均等に分散されたスライスの群は、同一アレイ内で物理的に近接するように再配置されることを特徴とするして請求項５記載の論理ディスク管理方法。
【請求項７】
前記再配置するステップにおいて、予め指定された時間帯のみを対象として前記スライスの配置先が見直されることを特徴とする請求項１記載の論理ディスク管理方法。
【請求項８】
前記時間帯毎に予め優先順位が指定されており、
前記再配置するステップにおいて、優先順位の高い時間帯でのアクセス頻度の高いスライスから順に配置先が見直される
ことを特徴とする請求項１記載の論理ディスク管理方法。
【請求項９】
一定の容量の複数のスライスに分割して管理されるアレイ内の任意の複数のスライスを組み合わせることによって論理ディスクを構成して、当該構成された論理ディスクを管理する論理ディスク管理装置において、
前記論理ディスクを構成するスライスを単位に、予め定められた時間帯毎のアクセス頻度を表すアクセス頻度情報を保持するための記憶手段と、
前記論理ディスクを構成するスライスへのアクセスが発生する都度、前記記憶手段に保持されている、当該アクセスが発生したスライス及び時間帯に対応するアクセス頻度情報を更新することによって、最新のアクセス頻度情報を採取するアクセス頻度情報採取手段と、
前記論理ディスクを構成する各スライスを、前記記憶手段に保持されている、前記論理ディスクを構成する複数のスライスの各々の前記時間帯毎のアクセス頻度情報に基づき、いずれの時間帯のアクセス頻度が高いかによって分類する分類手段と、
前記分類手段による分類結果に基づいて、前記論理ディスクを構成する複数のスライスの配置先を見直すことによって、当該複数のスライスを再配置する再配置手段と
を具備することを特徴とする論理ディスク管理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、論理ディスクの領域の物理的な配置を仮想的に管理する論理ディスク管理方法及び装置に関する。
【背景技術】
【０００２】
一般にディスクアレイ装置は、複数のディスク記憶装置、例えば磁気ディスクドライブ（以下、ＨＤＤと称する）と、これらのＨＤＤと接続されたアレイコントローラとを備えている。アレイコントローラは、一般に知られるＲＡＩＤ（Redundant Arrays of Independent Disks，Redundant Arrays of Inexpensive Disks）の手法により複数のＨＤＤを管理する。つまりアレイコントローラは、ホスト（ホスト計算機）からのデータ読み出し／書き込み要求に対し、接続された複数のＨＤＤを並列に動かしてデータの読み出し／書き込みを分散して実行することでアクセスの高速化を図ると共に、冗長構成によって信頼性の向上を図っている。
【０００３】
従来のディスクアレイ装置では、ホストから認識される論理ディスクの領域の物理的な配置は固定的であり、論理ディスク内のブロックアドレスとそれに対応するアレイやＨＤＤのブロックアドレスは基本的に変化することがない。
【０００４】
一方で、装置の運用を開始してみたら、論理ディスクへのアクセス負荷が当初計画と異なっていた、或いは時間と共にアクセス負荷が変化してきた、といったことが生じている。このような場合、従来のディスクアレイ装置では、その論理ディスク内のアレイやＨＤＤにてボトルネックやホットスポット（ＨＤＤのある領域へのアクセス負荷の集中）が発生しても、論理ディスクとアレイやＨＤＤとの対応が固定的であるため、これを解消することは容易ではない。例えば、データをテープなどにバックアップし、論理ディスクを改めて作り直し、テープからリストアするなどの作業が必要となる。
【０００５】
また、最近では複数のホストにてディスクアレイ装置を共有する場合も多い。このような場合、ディスクアレイ装置と接続されるホストの数の増加などによりアクセス負荷が変化し、ボトルネックやホットスポットが発生することも考えられる。
【０００６】
しかし、従来のディスクアレイ装置では、論理ディスクの領域の物理的な配置が固定的であるため、一度運用を開始してしまうとこれらアクセス負荷の変化へ対応することは容易ではない。
【０００７】
そこで、例えば特許文献１には、論理ディスクの領域の物理的な配置を仮想的に管理する技術が提案されている。この特許文献１に記載の技術においては、少なくとも１台のディスクドライブの記憶領域が連続した１つの領域として構成（定義）されるアレイの全領域がスライスと呼ばれる一定サイズの容量単位に分割して管理される。そして、任意アレイ内の任意の複数のスライスを組み合わせて連結することにより、それらが連続した記憶領域として管理される論理ディスクが構成される。これにより、論理ディスクを構成するスライス、つまり論理ディスクにエントリされる（割り付けられる）スライスを入れ替えるだけで、簡単に論理ディスクを再構成できるため、運用開始後も、論理ディスクを停止することなく（つまりオンラインで）、アクセス負荷の変化に容易に対応でき、論理ディスクに対するホスト計算機からのアクセス性能を向上できる。
【０００８】
また、上記特許文献１に記載の技術では、スライスの単位で採取される、当該スライスを対象とするアクセス処理に関する統計情報（例えばアクセス頻度情報）に基づいて、複数のアレイの各々においてアクセス負荷の高い領域が検出され、当該アクセス負荷の高い領域に属するスライスを論理ディスクにエントリされていない未使用のスライスと入れ替えることで、特定のアレイにアクセスの負荷が集中しないように調整される。これにより論理ディスクに対するホスト計算機からのアクセス性能を一層向上できる。
【０００９】
また、上記特許文献１に記載の技術では、同一アレイ内でアクセス負荷が高い領域同士が近接するようにスライスの再配置が行われる。これによりアクセス負荷が高い領域へのアクセス時におけるシーク時間が短縮され、アクセス性能が向上する。
【特許文献１】特開２００６−２４０２４号公報
【発明の開示】
【発明が解決しようとする課題】
【００１０】
上記したように、特許文献１に記載の技術によれば、論理ディスクの領域の物理的な配置を仮想的に管理し、装置の運用中に論理ディスクの領域の物理的な配置を部分的に柔軟に変更可能とすることにより、論理ディスクに対するホスト計算機からのアクセス性能の向上を図ることができる。特に、論理ディスクの領域内の各スライスのアクセス頻度に応じて、各スライスでのデータの物理的な配置を最適な状態に見直すことにより、アクセス性能の一層の向上を図ることができる。また、同一アレイ内でアクセス負荷が高い領域同士が近接するようにスライスを配置することにより、シーク時間を短縮してアクセス性能の一層の向上を図ることもできる。
【００１１】
しかしながら、例えば１日における各スライスへのアクセス状況を調べると、時間帯によってはアクセス負荷にばらつきがあり、論理ディスクへのアクセス特性も時間帯によって変化する。このため、アクセス頻度に基づくスライスの再配置により、例えば１日全体ではアレイ内の領域が均等にアクセスされているものの、時間帯によっては当該アレイ内の特定領域にアクセスの負荷が集中することがある。
【００１２】
また、同一アレイ内でアクセス負荷が高い領域同士が近接するようにスライスを再配置しても、これらの領域のアクセス負荷が高くなる時間帯が異なる場合には、シーク時間を短縮できるとは限らない。
【００１３】
本発明は上記事情を考慮してなされたものでその目的は、論理ディスクを構成するスライスを単位に予め定められた時間帯毎に採取されたアクセス頻度情報に基づいてスライスを再配置することにより、常に最良のアクセス性能を維持することができる論理ディスク管理方法及び装置を提供することにある。
【課題を解決するための手段】
【００１４】
本発明の１つの観点によれば、一定の容量の複数のスライスに分割して管理されるアレイ内の任意の複数のスライスを組み合わせることによって論理ディスクを構成して、当該構成された論理ディスクを管理するための、アレイコントローラにおいて実行される論理ディスク管理方法が提供される。この方法は、前記論理ディスクを構成するスライスへのアクセスが発生する都度、前記アレイコントローラが有する記憶手段に前記論理ディスクを構成するスライスを単位に保持されている予め定められた時間帯毎のアクセス頻度を表すアクセス頻度情報のうち、当該アクセスが発生したスライス及び時間帯に対応するアクセス頻度情報を更新するステップと、前記記憶手段に保持されている、前記論理ディスクを構成する複数のスライスの前記時間帯毎のアクセス頻度情報に基づいて、当該複数のスライスの配置先を見直すことによって、当該複数のスライスを再配置するステップとを具備する。
【発明の効果】
【００１５】
本発明によれば、論理ディスクを構成するスライスを単位に予め定められた時間帯毎に採取されたアクセス頻度情報を採取して、その時間帯毎のアクセス頻度情報に基づいてスライスを再配置することにより、常に最良のアクセス性能を維持することができる。
【発明を実施するための最良の形態】
【００１６】
以下、本発明の実施の形態につき図面を参照して説明する。  
図１は本発明の一実施形態に係るディスクアレイ装置を備えた計算機システムの構成を示すブロック図である。この計算機システムは、ディスクアレイ装置（ディスクアレイサブシステム）１０と、当該ディスクアレイ装置１０を外部記憶装置として利用するホスト（ホスト計算機）２０とから構成される。
【００１７】
ディスクアレイ装置１０は、アレイコントローラ１１と、ディスク（ディスクメディア）を記録媒体として使用する複数のディスク記憶装置（ディスクドライブ）、例えば複数の磁気ディスクドライブ（ＨＤＤ）１２とを含む。アレイコントローラ１１は、複数のＨＤＤ１２を制御すると共に、ホスト２０との間のデータ送受信を行う。複数のＨＤＤ１２は、記録媒体として磁気ディスク（磁気ディスクメディア）を使用する。ＨＤＤ１２において、磁気ディスクへ／からのデータの書き込み／読み出しはヘッドを用いて行われる。このヘッドによるデータの書き込み／読み出しに際しては、当該ヘッドを、データが書き込み／読み出しされるべき位置（目標位置）に移動するシーク動作が行われる。複数のＨＤＤ１２は、少なくとも１つのアレイ（物理アレイ）を構成するのに用いられる。
【００１８】
アレイコントローラ１１は、インタフェース制御回路１１１及び１１２と、キャッシュメモリ１１３と、チップセット１１４と、マイクロプロセッサ１１５と、メモリ（ローカルメモリ）１１６と、ＲＯＭ１１７とを含む。
【００１９】
インタフェース制御回路１１１は、アレイコントローラ１１をホスト２０と接続するための、ＳＣＳＩ（Small Computer System Interface）或いはファイバチャネル（Fibre Channel）のようなホスト接続用インタフェース３１を制御する。
【００２０】
インタフェース制御回路１１２は、アレイコントローラ１１を複数のＨＤＤ１２と接続するための、ＳＣＳＩ或いはファイバチャネルのような記憶装置接続用インタフェース３２を制御する。
【００２１】
キャッシュメモリ１１３は、ホスト２０によって要求されたの読み書きデータを一時的に保持するためのバッファメモリである。本実施形態において、キャッシュメモリ１１３はバッテリバックアップされている。
【００２２】
チップセット１１４は、マイクロプロセッサ１１５及び周辺回路（メモリ１１６、ＲＡＭ１１７のような周辺回路）を接続するためのブリッジ回路である。チップセット１１４には、内部バス３３を介して、インタフェース制御回路１１１及び１１２及びキャッシュメモリ１１３も接続される。内部バス３３は、例えば、ＰＣＩ（Peripheral Component Interconnect Bus）或いはＰＣＩ−Ｘである。
【００２３】
マイクロプロセッサ１１５は、ＲＯＭ１１７からメモリ１１６にコピー（ロード）されたプログラム１１８を実行することにより、アレイコントローラ１１内の他の要素の制御及び各種の処理を行う。
【００２４】
メモリ１１６は、アレイコントローラ１１のローカルメモリとして用いられる。メモリ１１６は、ＲＯＭ１１７に格納されているプログラム１１８がマイクロプロセッサ１１５による実行のためにコピーされる領域、及びマイクロプロセッサ１１５の各種処理でのワーク領域を提供する。
【００２５】
ＲＯＭ１１７は、プログラム１１８を予め格納する不揮発性メモリである。ＲＯＭ１１７に代えて、フラッシュＲＯＭのような書き換え可能な不揮発性メモリを用いても構わない。
【００２６】
図２は、アレイコントローラ１１内に実現される論理ディスク管理装置２００の主として機能構成を示すブロック図である。論理ディスク管理装置２００は、論理ディスク管理ユニット２１０、マップテーブル２２０及びアクセス頻度情報テーブル２３０から構成される。
【００２７】
論理ディスク管理ユニット２１０は、図１に示されるアレイコントローラ１１内のマイクロプロセッサ１１５がＲＯＭ１１７からメモリ１１６にコピーされたプログラム１１８を読み取って実行することにより実現される。論理ディスク管理ユニット２１０は、アレイ／スライス定義部２１１と、論理ディスク定義部２１２と、スライス移動部２１３と、データリード／ライト部２１４と、アクセス頻度情報採取部２１５と、分類部２１６とを含む。
【００２８】
アレイ／スライス定義部２１１は、アレイとスライスとを定義する。このアレイ／スライス定義部２１１によるアレイとスライスの定義について、図３を参照して説明する。アレイ／スライス定義部２１１は、複数のＨＤＤ１２の少なくとも１つを１つのグループとして、ＲＡＩＤの手法により当該グループ内のＨＤＤ１２の記憶領域を連続した１つの領域として管理される、図３に示すようなアレイ３１０ｉ（＃ｉ）を定義する。図３の例では、５台のＨＤＤ１２を１つのグループとして、アレイ３１０ｉが定義されている。
【００２９】
アレイ／スライス定義部２１１は、図３に示すアレイ３１０ｉの記憶領域を、ディスクアレイ装置１０内で共通の容量（例えば１ＧＢ）で分割し、その分割した各々の領域をスライスと定義する。したがって、ディスクアレイ装置１０内の何れのアレイの何れのスライスも同一容量となる。図３に示されるアレイ３１０ｉ内の各スライスには、当該スライスのＩＤ（識別情報）としての番号（スライス番号）が、当該アレイ３１０ｉ（＃ｉ）におけるアドレスの昇順に割り当てられている。つまり、アレイ３１０ｉ内の各スライスに割り当てられるスライス番号は、当該スライスのアレイ内の位置（物理位置）をも表す。
【００３０】
論理ディスク定義部２１２は、ホスト２０から単一のディスク（ディスクボリューム）として認識される論理ディスクを定義する。この論理ディスク定義部２１２による論理ディスクの定義について、図４を参照して説明する。論理ディスク定義部２１２は、任意アレイの任意スライスを複数組み合わせ、それらが連続した記憶領域として管理される論理ディスクを定義する。図４の例では、アレイ３１０ｐ（ｉ＝ｐ）内のスライス＃ｐ０と、アレイ３１０ｒ（ｉ＝ｒ）内のスライス＃ｒ０と、アレイ３１０ｐ内のスライス＃ｐ１と、アレイ３１０ｒ内のスライス＃ｒ２とを含むスライス群を組み合わせて（連結して）論理ディスク３２０-0（＃０）が定義される。同様に、アレイ３１０ｐ内のスライス＃ｐ２と、アレイ３１０ｑ内のスライス＃ｑ０と、アレイ３１０ｑ内のスライス＃ｑ１と、アレイ３１０ｒ内のスライス＃ｒ１とを含むスライス群を組み合わせて論理ディスク３２０-１（＃１）が定義される。このように、論理ディスクの記憶領域は、スライスの単位で物理的に不連続な割り付けとなる。論理ディスクの容量は、１スライスの容量×スライス数となる。論理ディスクは、最終的にホスト２０から単一のディスクボリュームとして認識される単位となる。ホスト２０からは、この論理ディスクがあたかも１台のＨＤＤのように認識される。論理ディスクに割り付けられた各スライスには、当該論理ディスクにおけるアドレスの昇順にスライス番号が割り当てられる。つまり、論理ディスクに割り付けられた各スライスは、当該論理ディスクにおける位置を表すスライス番号と、対応するアレイにおける位置（物理位置）を表すスライス番号との２つのスライス番号で管理される。
【００３１】
マップテーブル２２０は、前記特許文献１に記載されているように、論理ディスクとアレイとを関連付けるための情報（マップ情報）を格納したテーブルである。このマップテーブル２２０のデータ構造例を図５に示す。図５の例では、論理ディスク内のアドレスが小さい方に割り付けられたスライスから順に、スライスの情報がマップの行方向に格納される。ここでは、論理ディスク内の各々のスライスについて、フィールド５１乃至５８が用意されている。フィールド５１は、対応するスライスが割り付けられる論理ディスクのＩＤ（識別情報）としての論理ディスク番号を格納するのに用いられる。フィールド５２は、対応するスライスの論理ディスクにおけるスライス番号を格納するのに用いられる。フィールド５３は、対応するスライスが所属するアレイのＩＤとしてのアレイ番号を格納するのに用いられ、フィールド５４は、当該アレイ内における当該スライスのスライス番号を格納するのに用いられる。フィールド５５は、対応するスライスのデータが別のスライスにコピー中であるかを示すコピーフラグを格納するのに用いられる。フィールド５６は、対応するスライスのコピー先のアレイを示すアレイ番号を格納するのに用いられる。フィールド５７は、対応するスライスの、コピー先のアレイ内における、コピー先のスライスのスライス番号を格納するのに用いられる。フィールド５８は、対応するスライスにおける既にコピーが完了しているサイズを格納するのに用いられる。なお、マップテーブル２２０には、アレイ内の各スライスの位置と、そのスライスの対応するＨＤＤ内における位置とを関係付ける情報は格納されていない。アレイ内の各スライスの対応するＨＤＤ内における位置は、そのスライスのスライス番号（アレイ内の位置を示すスライス番号）とスライスのサイズとから計算にて求められる。
【００３２】
マップテーブル２２０は、図１に示されるアレイコントローラ１１のメモリ１１６に格納される。マップテーブル２２０は、論理ディスクと当該論理ディスクを構成するスライスの物理的な割り付けとを関連付ける重要なテーブルである。このため、マップテーブル２２０の情報（マップ情報）が、アレイコントローラ１１、或いはＨＤＤ１２の故障・交換、停電等の発生に対して十分な冗長性を有し、容易に消失することのないように、各ＨＤＤ１２に確保された管理情報領域に多重に保存される。管理情報領域は、ディスクアレイ管理のための情報（管理情報）を保存するのに用いられる。管理情報領域は、スライスとしての使用から除外され、ユーザボリューム用の領域としては使用できない
スライス移動部２１３は、論理ディスク内の任意のスライスのデータを移動する。この移動は次のように行われる。スライス移動部２１３は、任意の論理ディスク内の任意のスライス（第１のスライス）のデータを、当該論理ディスクにエントリされていない（割り付けられていない）別のスライス（第２のスライス）にコピーする。次にスライス移動部２１３は、双方のスライスを入れ替え、前者のスライスを論理ディスクにエントリされていない状態（未使用の状態）にし、後者のスライスを当該論理ディスクにエントリされた（割り付けられた）状態に切り替える。
【００３３】
データリード／ライト部２１４は、ホスト２０からディスクアレイ装置１０のアレイコントローラ１１に対してデータ書き込み要求が送られた場合に、対応するデータライト処理を行う。ここではデータリード／ライト部２１４は、前記特許文献１に記載されているように、ライト対象となるスライスがコピー中であり、且つ当該スライス内のライトすべき領域がコピー完了しているならば、当該スライス、つまりコピー（移動）対象となっているコピー（移動）元のスライスの対応する領域だけでなく、コピー（移動）先のスライスの対応する領域にもデータをライトする。一方、ライト対象となるスライスがコピー中でないか、コピー中であっても当該スライス内のライトすべき領域がコピー未完了であるならば、データリード／ライト部２１４は、当該ライトすべき領域のみにデータをライトする。またデータリード／ライト部２１４は、ホスト２０からデータ読み出し要求が送られた場合、リード対象となるスライスの対応する領域からデータをリードする。
【００３４】
アクセス頻度情報採取部２１５は、論理ディスクを構成するスライスを単位に、予め定められた時間帯毎に、当該スライスに対するＩ／Ｏ処理（アクセス処理）に関する統計的な情報としての、例えばアクセス頻度を示す情報（アクセス頻度情報）を採取する。
【００３５】
図６は、予め定められた時間帯の一例を示す。図６の例では、１日２４時間が３つの時間帯ａ，ｂ及びｃに分割されている。本実施形態において時間帯ａ，ｂ及びｃは、それぞれ、０時から８時、８時から１７時及び１７時から２４時である。ここでは、分割数が３であるが、３以外でも構わない。また、分割の対象が１日である必要はなく、例えば１週間（１６８時間）がｎ分割（ｎは２以上の整数）された、ｎ個の時間帯であっても構わない。また、１日を分割する場合でも、例えば曜日や日にちなどにより分割数や時間帯を変化させても良い。つまり、システムの運用形態などに応じて、時間帯の分割を決定することが好ましい。
【００３６】
アクセス頻度情報採取部２１５によってスライス単位に時間帯毎に採取されたアクセス頻度情報は、アクセス頻度情報テーブル２３０に保持される。ここでは、アクセス頻度情報は、ライトアクセス（Ｗ）及びリードアクセス（Ｒ）のアクセス種別（Ｉ／Ｏ種別）毎に採取されるアクセス回数（ライト回数及びリード回数）である。
【００３７】
アクセス頻度情報テーブル２３０は、論理ディスク内のスライス単位に時間帯毎にアクセス頻度情報として採取されたアクセス回数（ライト回数及びリード回数）を格納したテーブルである。このアクセス頻度情報テーブル２３０のデータ構造例を図７に示す。ここでは、論理ディスク内の各々のスライスについて、フィールド７１，７２及び７３ａ乃至７３ｃが用意されている。フィールド７１は、対応するスライスが割り付けられる論理ディスクの論理ディスク番号を格納するのに用いられる。フィールド７２は、対応するスライスの論理ディスクにおけるスライス番号を格納するのに用いられる。このスライスが属するアレイのアレイ番号及び当該アレイにおける当該スライスのスライス番号は、当該スライスが属する論理ディスクの論理ディスク番号及び当該論理ディスクにおける当該スライスのスライス番号に対応付けて、マップテーブル２２０に格納されている。フィールド７３ａは、対応するスライスの時間帯ａにおけるライト回数ＷＮａ及びリード回数ＲＮａを格納するのに用いられる。同様に、フィールド７３ｂは、対応するスライスの時間帯ｂにおけるライト回数ＷＮｂ及びＲＮｂを格納するのに用いられ、フィールド７３ｃは、対応するスライスの時間帯ｃにおけるライト回数ＷＮｃ及びリード回数ＲＮｃを格納するのに用いられる。
【００３８】
分類部２１６は、マップテーブル２２０に基づき、アレイ内のスライス毎に、時間帯ａ，ｂ及びｃのアクセス頻度を比較して、アクセス頻度が最も高い時間帯を検出することによって、そのスライスを分類する。
【００３９】
次に、アクセス頻度情報採取部２１５によるアクセス頻度情報採取処理の手順について、図８のフローチャートを参照して説明する。  
今、ホスト２０からディスクアレイ装置１０のアレイコントローラ１１に対してアクセス要求（データ読み込み要求またはデータ書き込み要求）が与えられた結果、論理ディスク管理装置２００のデータリード／ライト部２１４によって対応するデータリード／ライト処理が行われるものとする。
【００４０】
この場合、論理ディスク管理装置２００のアクセス頻度情報採取部２１５は、データリード／ライト部２１４によって起動される。するとアクセス頻度情報採取部２１５は、データリード／ライト部２１４から、アクセス先となるスライスが属する論理ディスクの論理ディスク番号、当該スライスのスライス番号、及びアクセス種別とを取得する（ステップＳ１）。次にアクセス頻度情報採取部２１５は、アクセス種別がリードまたはライトの何れであるかを判定する（ステップＳ２）。
【００４１】
もし、アクセス種別がライトの場合（ステップＳ２）、アクセス頻度情報採取部２１５は現時点が時間帯ａ，ｂ及びｃのいずれに属するかを判定する（ステップＳ３）。もし、時間帯ａであるならば、アクセス頻度情報採取部２１５は、ステップＳ１で取得された論理ディスク番号及びスライス番号に基づき、アクセス先のスライスに対応するアクセス頻度情報テーブル２３０内のエントリを特定する（ステップＳ４ａ）。このステップＳ４ａにおいて、アクセス頻度情報採取部２１５は、特定されたアクセス頻度情報テーブル２３０内のエントリのフィールド７３ａに設定されている、対応するスライスの時間帯ａにおけるライト回数ＷＮａを１インクリメントする。また時間帯ｂであるならば、アクセス頻度情報採取部２１５は、アクセス先のスライスに対応するアクセス頻度情報テーブル２３０内のエントリのフィールド７３ｂに設定されている、対応するスライスの時間帯ｂにおけるライト回数ＷＮｂを１インクリメントする（ステップＳ４ｂ）。同様に時間帯ｃであるならば、アクセス頻度情報採取部２１５は、アクセス先のスライスに対応するアクセス頻度情報テーブル２３０内のエントリのフィールド７３ｃに設定されている、対応するスライスの時間帯ｃにおけるライト回数ＷＮｃを１インクリメントする（ステップＳ４ｃ）
一方、アクセス種別がリードの場合（ステップＳ２）にも、アクセス頻度情報採取部２１５はライトの場合と同様に、現時点が時間帯ａ，ｂ及びｃのいずれに属するかを判定する（ステップＳ５）。そしてアクセス頻度情報採取部２１５は、現時点が時間帯ａ，ｂ及びｃのいずれであるかによって、ステップＳ１で取得された論理ディスク番号及びスライス番号で特定されるアクセス頻度情報テーブル２３０内のエントリのフィールド７３ａ，７３ｂ及び７３ｃに設定されている、それぞれリード回数ＲＮａ，ＲＮｂ及びＲＮｃのうち、対応する時間帯のリード回数を１インクリメントする（ステップＳ６ａ，６ｂまたは６ｃ）。
【００４２】
このように、時間帯ｊ（ｊ＝ａ，ｂ，ｃ）でのアクセスの場合、アクセス先のスライスに対応するアクセス頻度情報テーブル２３０内のエントリのフィールド７３ｊに設定されているライト回数ＷＮｊまたはリード回数ＲＮｊが１インクリメントされる。本実施形態では、ライト回数ＷＮｊ及びリード回数ＲＮｊの和（ＷＮｊ＋ＲＮｊ）を時間帯ｊの時間で除した値が、対応するスライスに対する時間帯ｊのアクセス頻度として用いられる。
【００４３】
本実施形態では、採取されたアクセス頻度情報、即ちアクセス頻度情報テーブル２３０に格納されているアクセス頻度情報（から算出されるスライス単位の時間帯毎のアクセス頻度）に基づき、ホスト２０からのアクセス性能を向上させるために、論理ディスクとスライスの配置関係の見直し（スライス再配置）が定期的に実施される。ここでは、スライス再配置に関し、アレイを構成するＨＤＤ１２においてヘッドを目標位置に移動させるシーク動作に要する時間（ヘッドシーク時間）に着目する。
【００４４】
ＨＤＤの一般的な特性として、シーク動作でヘッドを目標位置に移動する距離（ヘッドシーク距離）が長くなるほど、多くのシーク時間を要し、アクセス時間（アクセスのオーバヘッド時間）が増加する。このため、ＨＤＤ内のアクセス対象となるブロック群がより近接したアドレスに存在しているほど、そのＨＤＤのアクセス性能が向上することが知られている。
【００４５】
そこで本実施形態では、前記特許文献１にも記載されているような、アクセス頻度の高いスライスを同一アレイ内で近接するように配置（即ちそのアレイを構成するＨＤＤ内の近接したブロックへ配置）する方法を適用することにより、ヘッドシーク時間を短縮してアクセス性能を向上することが図られている。
【００４６】
ここで、例えば、日中の業務にて特にアクセス頻度が高くなる領域と、バッチ処理などにより夜間にアクセス頻度の高くなる領域との２種類の領域が存在する場合を想定する。このような場合、上記の２種類の領域を同一アレイ（ＨＤＤ）内で近接するように配置したとしても、アクセス負荷の高くなる時間帯が異なるため、アクセス性能の向上が見込めるとは限らない。
【００４７】
そこで本実施形態では、各スライスの時間帯毎のアクセス頻度（アクセス回数）に基づき、その時間帯に最適なスライスの再配置を行う方法（第１のスライス再配置方法）が適用される。図９は、第１のスライス再配置方法に基づく再配置（入れ替え）前後におけるアレイ内のスライスの配置状態を示す。
【００４８】
まず、図９（ａ）に示すアレイ３１１ｐ（＃ｐ）が提供するスライスの群によって、ある論理ディスクが構成されるものとする。アレイ３１１ｐ内には、スライス＃ａの群、スライス＃ｂの群及びスライス＃ｃの群が分散して配置されている。ここでは、説明を簡略化するために、アレイ３１１ｐは１つのＨＤＤ１２によって構成されるものとする。
【００４９】
図９（ａ）において、スライス＃ａの群は、時間帯毎のアクセス頻度のうち、時間帯ａのアクセス頻度が最も高いスライスの群である。同様に、スライス＃ｂの群は、時間帯毎のアクセス頻度のうち、時間帯ｂのアクセス頻度が最も高いスライスの群であり、スライス＃ｃの群は、時間帯毎のアクセス頻度のうち、時間帯ｃのアクセス頻度が最も高いスライスの群である。つまりアレイ３１１ｐ内のスライスの群は、時間帯毎のアクセス頻度に応じて、スライス＃ａ，＃ｂ及び＃ｃのいずれかに分類することができる。
【００５０】
しかし、前記特許文献１に記載のスライス再配置方法（ＨＤＤのシーク量の削減方法）では、アレイ３１１ｐ内のスライスの群は、スライス＃ａ，＃ｂ及び＃ｃに分類されずに、つまり時間帯毎のアクセス頻度は考慮されず、全体としてアクセス頻度が高いスライスとそうでないスライスとに分類される。そして、アクセス頻度が高いスライスの群がアレイ内に近接して配置される。ところが、アレイ内に近接して配置されるスライスの群の各々のアクセス頻度（つまりアクセス負荷）が時間帯毎に異なる場合、これらのスライスの群をアレイ内に近接して配置しても、アクセス性能の向上が見込めるとは限らない。
【００５１】
そこで本実施形態では、このような不具合を解消するために、第１のスライス再配置方法が適用される。以下、この第１のスライス再配置方法に基づくスライス再配置処理の手順について、図１０のフローチャートを参照して説明する。
【００５２】
まず、論理ディスク管理装置２００内の分類部２１６は、スライス再配置の対象となる論理ディスクを構成するのに用いられる、例えば図９（ａ）に示すアレイ３１１ｐ（＃ｐ）内の未処理の１スライスを選択する（ステップＳ１１）。選択されたスライスの、スライス再配置の対象となる論理ディスクにおけるスライス番号は、当該論理ディスクの論理ディスク番号、アレイ３１１ｐのアレイ番号、当該スライスの当該アレイ３１１ｐにおけるスライス番号に対応するマップテーブル２２０内のエントリを参照することにより特定することができる。
【００５３】
次に分類部２１６は、アクセス頻度情報テーブル２３０を参照して、選択されたスライスの時間帯ａ，ｂ及びｃのアクセス頻度を比較する（ステップＳ１２）。
【００５４】
分類部２１６は、ステップＳ１２の比較の結果に基づいて時間帯ａ，ｂ及びｃの中でアクセス頻度が最も高い（第１位の）時間帯を検出することで（ステップＳ１３）、該当するスライスをスライス＃ａ，＃ｂ及び＃ｃのいずれかのタイプに分類する（ステップＳ１４）。分類部２１６は、該当するスライスの論理ディスク番号及びスライス番号に対応付けて、分類されたタイプの情報を、図１に示されるメモリ１１６の所定領域（分類結果格納領域）に格納する（ステップＳ１５）。なお、アクセス頻度情報テーブル２３０の各エントリに、当該エントリで示されるスライスの分類されたタイプを保持するためのタイプフィールドを持たせても良い。
【００５５】
分類部２１６は、上述の分類のための処理（ステップＳ１１乃至Ｓ１５）を、論理ディスクを構成するのに用いられるアレイ３１１ｐ内の各スライスについて繰り返す（ステップＳ１６）。つまり分類部２１６は、アレイ３１１ｐ内の各スライスを、時間帯ａにおけるアクセス頻度が最も高いスライス＃ａと、時間帯ｂにおけるアクセス頻度が最も高いスライス＃ｂと、時間帯ｃにおけるアクセス頻度が最も高いスライス＃ｃとに分類する。以下の説明では、スライス＃ａ，＃ｂ及び＃ｃに分類されたスライスを、それぞれスライス＃ａ，＃ｂ及び＃ｃと称する。
【００５６】
論理ディスク管理装置２００内のスライス移動部２１３は、メモリ１１６の分類結果格納領域に格納された分類結果に基づき、スライス＃ａ，＃ｂ及び＃ｃの群を、それぞれ同一タイプ同士（つまりスライス＃ａ同士、スライス＃ｂ同士、及びスライス＃ｃ同士）が近接するように、アレイ３１１ｐ内に再配置する（ステップＳ１７）。この再配置は、前記特許文献１に記載されているように、再配置の対象となるスライスと再配置先のスライスとを入れ替えることによって行われる。つまりスライス移動部２１３は、スライス入れ替えによるスライス再配置を行う再配置手段として動作する。
【００５７】
図９（ｂ）は、スライス移動部２１３によるスライス再配置後のアレイ３１１ｐ内の状態を示す。図９（ｂ）から明らかなように、アレイ３１１ｐ内に分散配置されていたスライス＃ａ同士が領域９００ａ内に近接して配置される。同様に、アレイ３１１ｐ内に分散配置されていたスライス＃ｂ同士が領域９００ｂ内に近接して配置され、アレイ３１１ｐ内に分散配置されていたスライス＃ｃ同士が領域９００ｃ内に近接して配置される。
【００５８】
このように本実施形態においては、予め定められた時間帯毎に、その時間帯でのアクセス頻度が最も高いスライス同士がアレイ内で近接した領域に配置される。つまり、時間的にほぼ同時にアクセスの発生する可能性の高いスライス群が近接して配置される。これにより、各々の時間帯でアクセス対象となる領域が局所化されアクセス性能の向上が見込まれる。
【００５９】
次に、論理ディスクに割り付けるスライス群を提供するアレイが複数存在する場合に本実施形態で適用される第２のスライス再配置方法について説明する。この第２のスライス再配置方法の特徴は、同一時間帯におけるアクセス頻度が高いスライス群を、複数のアレイに分散して再配置することにある。
【００６０】
図１１は、論理ディスク３２１を構成するスライス＃ａ，＃ｂ及び＃ｃの群が３つのアレイ３１２ｐ（＃ｐ），３１２ｑ（＃ｑ）及び３１２ｒ（＃ｒ）に配置されている状態を示す。更に具体的に述べるならば、図１１（ａ）はスライス＃ａ，＃ｂ及び＃ｃの群がアレイ３１２ｐ，３１２ｑ及び３１２ｒに分散して再配置されている状態を、図１１（ｂ）は他の典型的なスライス再配置状態を、それぞれ示す。スライス＃ａ，＃ｂ及び＃ｃの群のアクセス頻度は、それぞれ前記したように、時間帯ａ，ｂ，及びｃにおいて最も高い。ここでアレイ３１２ｐ，３１２ｑ及び３１２ｒは、論理ディスク３２１に割り付けられるスライス群を提供するものとする。
【００６１】
図１１（ｂ）の典型的な例では、スライス＃ａの群が全てアレイ３１２ｐ内に近接して配置され、スライス＃ｂの群が全てアレイ３１２ｑ内に近接して配置され、そしてスライス＃ｃの群が全てアレイ３１２ｒ内に近接して配置されている。この配置では、例えば時間帯ａでは、アレイ３１２ｐ内のスライス＃ａの群に対するアクセスがほぼ同時に発生する可能性があるが、シーク時間は確かに短縮される。
【００６２】
しかし図１１（ｂ）の例では、スライス＃ａの群が全てアレイ３１２ｐ内に配置されているため、当該アレイ３１２ｐの時間帯ａにおける負荷が高くなる。ところが、他のアレイ３１２ｑ及び３１２ｒの時間帯ａにおける負荷は低い。即ち、図１１（ｂ）に示されるように、同一時間帯にアクセス頻度の高くなるスライスを同一のアレイ内に配置してしまうと、各々の時間帯に、負荷の高いアレイと低いアレイが存在することとなる。この場合、各々の時間帯において、負荷の高いアレイでボトルネックが発生してディスクアクセスの性能が低下する可能性がある。
【００６３】
これに対し、複数のアレイの間で、時間帯毎にこのような負荷の偏りがないならば、特定のアレイがボトルネックとなることもなく、最大限のディスクアクセス性能が発揮される。そこで本実施形態では、図１１（ａ）に示されるように、時間帯ａ，ｂ，及びｃにおけるアクセス頻度が高いスライス＃ａ，＃ｂ及び＃ｃの群が、いずれも３つのアレイ３１２ｐ，３１２ｑ及び３１２ｒに均等に分散して再配置される第２のスライス再配置方法が適用される。
【００６４】
これにより時間的に同時にアクセスの発生する可能性の高いスライスの群が、３つのアレイ３１２ｐ，３１２ｑ及び３１２ｒに均等に分散される。この結果、ある時間帯において特定のアレイに負荷が集中し、そこがボトルネックとなる問題を解消できる。結果として、ディスクアクセス性能（能力）が向上する。
【００６５】
以下、第２のスライス再配置方法の手順について図１２のフローチャートを参照して説明する。  
まず、分類部２１６は、スライス再配置の対象となる論理ディスク３２１を構成するのに用いられる、例えば図１１（ｂ）に示すアレイ３１２ｐ（＃ｐ），３１２ｑ（＃ｑ）及び３１２ｒ（＃ｒ）のうちの１アレイ３１２ｉ（ｉはｐ，ｑ，ｒのいずれか）を選択し、その選択されたアレイ３１２ｉ内の未処理の１スライスを選択する（ステップＳ２１）。次に分類部２１６は、アクセス頻度情報テーブル２３０を参照して、選択されたスライスの時間帯ａ，ｂ及びｃのアクセス頻度を比較する（ステップＳ２２）。
【００６６】
分類部２１６は、ステップＳ１２の比較の結果に基づいて時間帯ａ，ｂ及びｃの中でアクセス頻度が最も高い時間帯を検出することで（ステップＳ２３）、該当するスライスをスライス＃ａ，＃ｂ及び＃ｃのいずれかのタイプに分類する（ステップＳ２４）。分類部２１６は、該当するスライスの論理ディスク番号及びスライス番号に対応付けて、分類されたタイプの情報を、メモリ１１６内の分類結果格納領域に格納する（ステップＳ２５）。
【００６７】
分類部２１６は、上述の分類のための処理（ステップＳ２１乃至Ｓ２５）を、論理ディスク３２１を構成するのに用いられる全てのアレイ３１１ｐ，３１２ｑ及び３１２ｒ内の各スライスについて繰り返す（ステップＳ２６）。メモリ１１６内の分類結果格納領域に格納された分類結果は、時間帯別に例えばスライス番号順にソートされる。
【００６８】
スライス移動部２１３は、メモリ１１６の分類結果格納領域に格納された分類結果に基づき、スライス＃ａ，＃ｂ及び＃ｃの群を、いずれもアレイ３１２ｐ，３１２ｑ及び３１２ｒに均等に分散して再配置する（ステップＳ２７）。ここでは更に、スライス＃ｊ（ｊ＝ａ，ｂ，ｃ）の群は、図１１（ａ）に示されるように、同一アレイ３１２ｉ（ｉ＝ｐ，ｑ，ｒ）内で近接して再配置される。
【００６９】
なお、特にアクセス性能が重視される時間帯が存在する場合、例えばアレイコントローラ１１と（直接にまたはネットワークを介して）接続された端末から当該アレイコントローラ１１（内の論理ディスク管理装置２００）に対し、管理者の操作に従って当該時間帯を指定することにより、その指定された時間帯でのアクセス頻度情報に基づくスライス再配置を、他の時間帯よりも優先させるようにしても良い。例えば時間帯ｂを最も優先することが指定された場合、分類部２１６は、当該時間帯ｂでのアクセス頻度が最も高いスライスをスライスｂとして分類することに加えて、他の時間帯でのアクセス頻度の方が高いものの、当該時間帯ｂでのアクセス頻度が例えば第２位のスライス、或いは第２位でも規定レベルよりも高いアクセス頻度のスライスをスライスｂとして分類すれば良い。
【００７０】
同様に、アレイコントローラ１１と接続される端末から当該アレイコントローラ１１（内の論理ディスク管理装置２００）に対し、管理者の操作に従って、アクセス性能が重視される時間帯の順番に予め優先順位を指定するようにしても良い。ここでは、あるスライスのアドレス頻度が例えば２つの時間帯で最も高かった場合、当該スライスは優先度が高い方の時間帯に対応するタイプに分類される。
【００７１】
逆に、アクセス性能を重視する必要がない時間帯が存在する場合、例えば論理ディスクの内容をテープにバックアップするといった、シーケンシャルアクセス（効率の良いアクセス）が行われるような時間帯が存在する場合、その時間帯におけるアクセス頻度をアクセス頻度比較の対象外とすることを、ディスクアレイ装置１０と接続される端末から論理ディスク管理装置２００に対して指定することも可能である。もし、時間帯ｃがアクセス頻度比較の対象外として指定された場合、分類部２１６は上記ステップＳ１２またはＳ２２において、分類の対象となる各スライスについて、時間帯ａ及びｂのアクセス頻度のみを比較すれば良い。この場合、図９（ｂ）において、スライスｃとして分類されているスライスの各々は、時間帯ａ及びｂにおけるアクセス頻度に応じて、スライスａまたはｂに分類される。なお、時間帯ｃをアクセス頻度比較の対象外として指定することは、時間帯ａ及びｂをアクセス頻度比較の対象として指定することと等価である。
【００７２】
また、スライス再配置のためには相当量のデータのコピーが発生し、これが負荷となる。このため、時間帯ｊ（ｊ＝１，２，３）におけるアクセス頻度が規定レベルよりも高いスライス、つまり時間帯ｊにおけるアクセス頻度の偏りが非常に強いスライスのみを分類部２１６による分類の対象としても良い。この場合、アクセス頻度が規定レベルよりも高いスライスのみがスライス移動部２１３による再配置の対象となる。これにより、再配置対象を、より効果の大きなスライスに絞り込み、コピー処理による負荷を低減することもできる。
【００７３】
本実施形態において、上述のような図１０或いは図１２のフローチャートに従うスライス再配置処理は、予め定られた再配置時期が到来する都度（例えば、予め定められた周期で）実行される。しかし、スライス再配置処理が、アレイコントローラ１１と（直接にまたはネットワークを介して）接続された端末から当該アレイコントローラ１１（内の論理ディスク管理装置２００）に対し、管理者の操作に従って指示される都度実行される構成であっても構わない。
【００７４】
なお、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。
【図面の簡単な説明】
【００７５】
【図１】本発明の一実施形態に係るディスクアレイ装置を備えた計算機システムの構成を示すブロック図。
【図２】図１に示されるアレイコントローラ１１内に実現される論理ディスク管理装置２００の主として機能構成を示すブロック図。
【図３】同実施形態で適用されるアレイとスライスの定義を説明するための図。
【図４】同実施形態で適用される論理ディスクの定義を説明するための図。
【図５】図２に示されるマップテーブルのデータ構造例を示す図。
【図６】同実施形態で適用される、予め定められた時間帯の一例を示す図。
【図７】図２に示されるアクセス頻度情報テーブルのデータ構造例を示す図。
【図８】同実施形態で適用されるアクセス頻度情報採取処理の手順を示すフローチャート。
【図９】同時実施形態で適用される第１のスライス再配置方法に基づく再配置前後におけるアレイ内のスライスの配置状態を示す図。
【図１０】同実施形態で適用される、第１のスライス再配置方法に基づくスライス再配置処理の手順を示すフローチャート。
【図１１】論理ディスクを構成する、時間帯毎のアクセス頻度によって分類されるタイプの異なるスライスの群が３つのアレイに分散して再配置されている状態を、他の典型的なスライス再配置状態と対比させて示す図。
【図１２】同実施形態で適用される、第２のスライス再配置方法に基づくスライス再配置処理の手順を示すフローチャート。
【符号の説明】
【００７６】
１０…ディスクアレイ装置、１１…アレイコントローラ、１２…ＨＤＤ（ディスク記憶装置）、２０…ホスト（ホスト計算機）、１１５…マイクロプロセッサ、１１６…メモリ、１１７…ＲＯＭ、１１８…プログラム、２００…論理ディスク管理装置、２１０…論理ディスク管理ユニット、２１１…アレイ／スライス定義部、２１２…論理ディスク定義部、２１３…スライス移動部（再配置手段）、２１４…データリード／ライト部、２１５…アクセス頻度情報採取部、２１６…分類部、２２０…マップテーブル、２３０…アクセス頻度情報テーブル（記憶手段）、３１０ｐ，３１０ｑ，３１０ｒ，３１１ｐ，３１２ｐ，３１２ｑ，３１２ｒ…アレイ、３２０-0，３２０-１，３２１…論理ディスク。
【図１】
2008269344.tif 000003
【図２】
2008269344.tif 000004
【図３】
2008269344.tif 000005
【図４】
2008269344.tif 000006
【図５】
2008269344.tif 000007
【図６】
2008269344.tif 000008
【図７】
2008269344.tif 000009
【図８】
2008269344.tif 000010
【図９】
2008269344.tif 000011
【図１０】
2008269344.tif 000012
【図１１】
2008269344.tif 000013
【図１２】
2008269344.tif 000014