(57)【特許請求の範囲】
【請求項１】
ストレージ・デバイスの特徴を識別する記述子をストレージ・デバイスに関連付けるように構成されたモジュールと、
複数の前記記述子と、障害を予測するためのしきい値とが関連付けられたしきい値テーブルを使用して、前記記述子が関連付けられたストレージ・デバイスに関するしきい値を設定するように構成されたしきい値モジュールと、
前記しきい値を超えるストレージ・デバイス・エラーを、ストレージ・デバイス予測障害として検出するように構成された性能検出モジュールと、
を備える、ストレージ・デバイス障害を予測するための装置。
【請求項２】
前記ストレージ・デバイスのワークロードを管理するように構成されたワークロード管理モジュールをさらに備える、請求項１に記載の装置。
【請求項３】
前記ストレージ・デバイスのワークロードを管理すべき状態を検出した場合に、前記しきい値を修正するように構成されたしきい値修正モジュールをさらに備える、請求項２に記載の装置。
【請求項４】
ワークロード管理モジュールが、ストレージ・デバイスの活動の特性を示す活動特性およびストレージ・デバイスの環境の特性を示す環境特性から選択される特性を使用して、前記ストレージ・デバイスの前記ワークロードを管理すべき状態を検出する、請求項３に記載の装置。
【請求項５】
前記ストレージ・デバイス予測障害の検出に応答して、前記ストレージ・デバイス予測障害を修復するように構成された修復モジュールをさらに備える、請求項１に記載の装置。
【請求項６】
さらに前記修復モジュールが、前記ストレージ・デバイス予測障害を修復するために、ミラーリングを行うストレージ・デバイスからのデータにアクセスするように構成された、請求項５に記載の装置。
【請求項７】
前記ストレージ・デバイス予測障害の通知を送るように構成された通知モジュールをさらに備える、請求項１に記載の装置。
【請求項８】
データを格納するように構成されたストレージ・デバイスと、
前記ストレージ・デバイスを管理するように構成されたストレージ・コントローラであって、
ストレージ・デバイスの特徴を識別する記述子をストレージ・デバイスに関連付けるように構成されたモジュールと、
複数の前記記述子と、障害を予測するためのしきい値とが関連付けられたしきい値テーブルを使用して、前記記述子が関連付けられたしきい値を設定するように構成されたしきい値モジュールと、
前記ストレージ・デバイスのワークロードを管理するように構成されたワークロード管理モジュールと、
前記ストレージ・デバイスの前記ワークロード管理の検出に応答して、前記しきい値を修正するように構成されたしきい値修正モジュールと、
前記修正されたしきい値を超えるストレージ・デバイス・エラーを、ストレージ・デバイス予測障害として検出するように構成された性能検出モジュールと、
を備える、ストレージ・コントローラと、
を備える、ストレージ・デバイス障害を予測するためのシステム。
【請求項９】
前記ストレージ・コントローラが、前記ストレージ・デバイス予測障害の検出に応答して、前記ストレージ・デバイス予測障害を修復するように構成された修復モジュールをさらに備える、請求項８に記載のシステム。
【請求項１０】
コンピュータ読み取り可能なコードをコンピューティング・システムに統合することを含む、コンピュータ・インフラストラクチャを配置するための方法であって、前記コンピューティング・システムと組み合わされた前記コードは、
ストレージ・デバイスの特徴を識別する記述子を、ストレージ・デバイスに関連付けるステップと、
複数の前記記述子と、障害を予測するためのしきい値とが関連付けられたしきい値テーブルを使用して、前記記述子が関連付けられたしきい値を設定するステップと、
前記ストレージ・デバイスのワークロードを管理すべき状態を検出するステップと、
前記検出に応答して、前記しきい値を修正するステップと、および
前記修正されたしきい値を超えるストレージ・デバイス・エラーをストレージ・デバイス予測障害として検出するステップと、
が実行可能である、方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ストレージ・デバイスの障害を予測することに関し、とりわけ、技術記述子（technology descriptor）に応答して障害を予測するための予測障害（predictive failure）しきい値の設定に関する。
【背景技術】
【０００２】
データ・ストレージ・システムは、通常、ハード・ディスク・ドライブ、光ストレージ・ドライブ、磁気テープ・ドライブ、マイクロメカニカル・デバイス、半導体デバイスなどの、複数のストレージ・デバイスを備える。データ・ストレージ・システムは、１つまたは複数のホストにデータ・ストレージを提供する。各ホストは、ネットワーク、内部バスなどの通信媒体を介して、データ・ストレージ・システムにデータを格納するか、またはデータ・ストレージ・システムからデータを取り出すことができる。データ・ストレージ・システムは、１つまたは複数のストレージ・デバイスにデータを格納するか、あるいは１つまたは複数のストレージ・デバイスからデータを取り出すことができる。ストレージ・デバイスは、ホストに十分なデータ・ストレージ容量を提供するためにデータ・ストレージ・システムに追加するか、またはデータ・ストレージ・システムから取り外すことができる。
【０００３】
データ・ストレージ・システムは、データを重複して格納するように組み上げることができる。たとえばデータ・ストレージ・システムは、第１のストレージ・デバイスからのデータのコピーを第２のストレージ・デバイス上で保存しておくか、または第１のストレージ・デバイスから第２のストレージ・デバイス上へとデータをミラーリングすることができる。ミラーリングされたデータには、第１のストレージ・デバイスに障害が発生した場合、第２のストレージ・デバイスからアクセス可能である。
【０００４】
データ・ストレージ・システムは、当業者に良く知られたような新磁気ディスク制御機構（「ＲＡＩＤ」）システムとして編成することもできる。ＲＡＩＤデータ・ストレージ・システムでは、データは複数のストレージ・デバイスにまたがって重複する形で縞模様の構造でもって（in stripes）格納することができる。複数のストレージ・デバイスのうちの１つに障害が発生した場合、データ・ストレージ・システムは他のストレージ・デバイスからデータを回復させることができる。
【０００５】
データ・ストレージ・システムは、データを保護するため、障害発生前の段階で対策を講じられるようにストレージ・デバイスに障害が発生する可能性があるかどうかを判定するように試みることができる。たとえば、データ・ストレージ・システムは、各ストレージ・デバイスを定期的にテストすることができる。ストレージ・デバイスが障害基準を満たしている場合、データ・ストレージ・システムはストレージ・デバイスからデータをマイグレーションし、ストレージ・デバイスを交換するかまたはさらにテストを行うべきである旨を管理者に通知することができる。
【０００６】
データ・ストレージ・システムは、通常、高信頼性高コスト（「ＨＲＨＣ」）ストレージ・デバイスを採用してきたが、近年、データ・ストレージ・システムは高容量低コスト・データ（「ＨＣＬＣ」）ストレージ・デバイスも採用している。残念ながら、ＨＣＬＣストレージ・デバイスは、ＨＲＨＣストレージ・デバイスからの異なる基準に照らすと、障害発生とされる可能性がある。しかしながら、ＨＣＬＣストレージ・デバイスがＨＣＬＣストレージ・デバイスの障害基準を満たしていなくとも、ＨＣＬＣストレージ・デバイスがＨＲＨＣ障害基準を満たしていれば、データ・ストレージ・システムは、依然としてＨＣＬＣストレージ・デバイスの潜在的な障害を認識することができる。そうすることで結果として、データ・ストレージ・システムはＨＣＬＣストレージ・デバイスからデータをマイグレーションし、ＨＣＬＣストレージ・デバイスをオフラインにすることができる。残念ながら、ＨＣＬＣストレージ・デバイスからのデータのマイグレーションは、データ・ストレージ・システムの性能に影響を与える可能性があり、保守または交換のためにＨＣＬＣストレージ・デバイスをオフラインにすることは、保守コストを増加させることになる。
【０００７】
加えてＨＣＬＣストレージ・デバイスは、ＨＣＬＣストレージ・デバイスへのストレスを減らすようにワークロードを管理することができる。たとえば、ＨＣＬＣストレージ・デバイスへの過度な負荷を防ぐために、ＨＣＬＣストレージ・デバイスのデューティ・サイクルを減らすことができる。デューティ・サイクルは、当業者に周知の、ストレージ・デバイスが操作を実行する時間のパーセンテージと理解してよい。残念ながら、ワークロードが管理されたＨＣＬＣストレージ・デバイスは、障害基準を満たす可能性がより高くなる場合がある。データ・ストレージ・システムが、ワークロードが管理されたＨＣＬＣストレージ・デバイス内の潜在的な障害を認識した場合、データ・ストレージ・システムはワークロードが管理されたＨＣＬＣストレージ・デバイスからデータをマイグレーションして、ＨＣＬＣストレージ・デバイスをオフラインにすることとなり、データ・ストレージ・システムの性能を低下させ、保守コストを増加させる可能性がある。
【発明の開示】
【発明が解決しようとする課題】
【０００８】
前述の考察からも明らかなように、ストレージ・デバイスの特性に基づいてストレージ・デバイスの障害を予測する装置、システム、および方法が求められている。こうした装置、システム、および方法は、各ストレージ・デバイスの技術に基づいて障害を予測し、データ・ストレージ・システムから誤って除去されるストレージ・デバイスの数を減らすことになるという利点を有する。
【課題を解決するための手段】
【０００９】
本発明は、当分野の現状に対処すべく、特に、ストレージ・デバイスの障害を予測するための現在使用可能な方法では未だ完全に解決されていない当分野の問題および必要性に対処すべく、開発されてきた。すなわち本発明は、当分野における前述の欠点の多くまたはすべてを克服する、ストレージ・デバイスの障害を予測するための装置、システム、および方法を提供するために開発されてきたものである。
【００１０】
ストレージ・デバイスの障害を予測するための装置には、技術記述子をストレージ・デバイスに関連付けるステップと、ストレージ・デバイスに関する予測障害しきい値を設定するステップと、予測障害しきい値を超えるストレージ・デバイス・エラーを検出するステップとを、機能的に実行するように構成された、複数のモジュールが提供される。記載された諸実施形態におけるこれらのモジュールには、技術記述子モジュール、障害しきい値モジュール、および性能検出モジュールが含まれる。
【００１１】
技術記述子モジュールは、技術記述子をストレージ・デバイスに関連付ける。技術記述子は、ストレージ・デバイスに関する１つまたは複数の公称動作特性（nominal operating characteristic）を指定することができる。一実施形態では、技術記述子は、ＨＣＬＣストレージ・デバイス、ＨＲＨＣストレージ・デバイスなどのストレージ・デバイスのクラスを記述する。
【００１２】
障害しきい値モジュールは、技術記述子に応答してストレージ・デバイスに関する予測障害しきい値を設定する。一実施形態では、予測障害しきい値は指定された時間間隔内に発生するエラーの指定された数であり、ここで、エラーとは指定された応答時間内に格納動作を完了できないことをいう。
【００１３】
性能検出モジュールは、予測障害しきい値を超えるストレージ・デバイス・エラーをストレージ・デバイス予測障害として検出する。ストレージ・デバイス・エラーが生じている場合は、入出力動作に関する最大待ち時間を越えている可能性がある。したがって装置は、ストレージ・デバイスの特性に応じてストレージ・デバイス障害を予測し、データ・ストレージ・システムの性能の低下と、正常に機能しているストレージ・デバイスをオフラインにすることから生じる保守コストとを回避する。
【００１４】
ストレージ・デバイスの障害を予測するための本発明のシステムも提示される。このシステムは、データ・ストレージ・システム内で具体化することができる。特に、一実施形態におけるシステムには、データ・ストレージ・デバイスおよびストレージ・コントローラが含まれる。ストレージ・コントローラは、技術記述子モジュール、障害しきい値モジュール、ワークロード管理検出モジュール、しきい値修正モジュール、および性能検出モジュールを備える。加えて、ストレージ・コントローラは修復モジュールを含むこともできる。
【００１５】
ストレージ・デバイスはデータを格納する。ストレージ・デバイスは、ＨＲＨＣストレージ・デバイスおよびＨＣＬＣストレージ・デバイスを含む複数のストレージ・デバイスの階級から選択することができる。ストレージ・デバイスのクラスは、公称動作特性の範囲を示すものである。ストレージ・コントローラはストレージ・デバイスを管理する。加えて、ストレージ・コントローラは、ファイバ・チャネル接続、スモール・コンピュータ・システム・インターフェース（「ＳＣＳＩ」）などの通信媒体を介して、ストレージ・デバイスへデータを書き込むことおよびストレージ・デバイスからデータを読み取ることができる。
【００１６】
技術記述子モジュールは、技術記述子をストレージ・デバイスに関連付けるものであり、技術記述子はストレージ・デバイスに関する公称動作特性を指定する。障害しきい値モジュールは、技術記述子に応答してストレージ・デバイスに関する予測障害しきい値を設定する。ワークロード管理検出モジュールは、ストレージ・デバイスのワークロード管理を検出する。
【００１７】
しきい値修正モジュールは、ストレージ・デバイスのワークロード管理の検出に応答して予測障害しきい値を修正する。性能検出モジュールは、修正された予測障害しきい値を超えるストレージ・デバイス・エラーをストレージ・デバイス予測障害として検出する。一実施形態では、修復モジュールは、ストレージ・デバイス予測障害の検出に応答して、ストレージ・デバイスの予測障害を修復する。システムは、ストレージ・デバイスの技術記述子に基づいて、予測障害しきい値を使用してストレージ・デバイスの障害を予測する。
【００１８】
ストレージ・デバイス障害を予測するための本発明の方法も提示される。開示された諸実施形態における方法は、記載された装置およびシステムの操作に関して前述の機能を実行するためのステップを含む。一実施形態では、この方法は、技術記述子をストレージ・デバイスに関連付けること、ストレージ・デバイスに関する予測障害しきい値を設定すること、ワークロード管理を検出すること、および予測障害しきい値を超えるストレージ・デバイス・エラーを検出することが含まれる。この方法は、予測障害しきい値を修正することも含むことができる。
【００１９】
技術記述子モジュールは、技術記述子をストレージ・デバイスに関連付ける。障害しきい値モジュールは、技術記述子に応答してストレージ・デバイスに関する予測障害しきい値を設定する。ワークロード管理検出モジュールは、ストレージ・デバイスのワークロード管理を検出することができる。一実施形態では、しきい値修正モジュールは、ストレージ・デバイスのワークロード管理の検出に応答して予測障害しきい値を修正する。
【００２０】
性能検出モジュールは、予測障害しきい値を越えるストレージ・デバイス・エラーをストレージ・デバイス予測障害として検出する。一実施形態では、修復モジュールは、ストレージ・デバイス予測障害の検出に応答してストレージ・デバイス予測障害を修復する。この方法は、ストレージ・デバイスに関する技術記述子に応答して予測障害しきい値を設定し、予測障害しきい値を使用してストレージ・デバイスの障害を予測する。
【００２１】
本明細書全体を通じて説明している機能、利点、その他への言及は、本発明によって実現可能な機能および利点のすべてが特定の実施形態にあるべきことを示唆するものではない。むしろこの機能および利点に言及する用語は、ある実施形態に関して記載された特定の機能、利点、または特性が、本発明のうちの少なくとも１つの実施形態に含まれるものであるにすぎないことを理解されよう。したがって、本明細書全体を通じて説明している機能および利点その他は、同じ実施形態を言い表すものであるかもしれないが、必ずしもそれに限定されるわけではない。
【００２２】
さらに、記載された本発明の機能、利点、および特性は、１つまたは複数の実施形態において任意の好適な様式で組み合わせることができる。当業者であれば、本発明が、特定の実施形態の１つまたは複数の特定の機能または利点なしで実施可能であることを理解されよう。さらには、他の実施形態では、ここで記載されていない追加の機能および利点が含まれうる。
【００２３】
本発明の実施形態は、ストレージ・デバイスに関連付けられた技術記述子に応答して予測障害しきい値を設定し、この予測障害しきい値を使用してストレージ・デバイス障害を予測する。加えて本発明の実施形態は、ストレージ・デバイスのワークロード管理の検出に応答して予測障害しきい値を修正することができる。本発明のこれらの機能および利点は、以下の説明および添付の特許請求の範囲からより完全に明らかになるか、または以下に示されるような本発明の実施によって知ることが可能である。
【００２４】
本発明の利点を容易に理解するために、添付の図面に示された具体的な諸実施形態を参照することにより、前述の通り簡単に説明された本発明がより詳細に説明されよう。これらの図面が本発明の典型的な諸実施形態のみを示すものであり、その範囲を制限するものとみなされるべきではなく、添付の図面を使用して追加の特性および細部を用いて本発明について記述および説明する。
【発明を実施するための最良の形態】
【００２５】
本明細書に記載された機能ユニットの多くは、とりわけそれらの実施の際に各々が独自に設計しうることを示すべく、モジュールとしてラベル付けされている。たとえばあるモジュールを、カスタムＶＬＳＩ回路またはゲート・アレイ、論理チップなどの既製の半導体、トランジスタ、あるいは他の離散構成要素を備えるハードウェア回路として実施することができる。別のモジュールは、フィールド・プログラム可能ゲート・アレイ、プログラム可能アレイ論理、プログラム可能論理デバイスなどの、プログラム可能ハードウェア・デバイスで実施することもできる。
【００２６】
モジュールは、様々なタイプのプロセッサによって実行するためのソフトウェア内で実施することもできる。特定の実行可能コードのモジュールは、たとえばオブジェクト、プロシージャ、または機能として構成された、１つまたは複数の物理または論理ブロックのコンピュータ命令を備えることができる。特定のモジュールの複数の実行可能コード（executables）は、物理的に一緒に配置する必要はなく、異なる場所に格納された異種の命令として構成することができ、論理的に結合された場合にもモジュールを構成し、そのモジュールが目標とするものを達成することができる。
【００２７】
実際のところ、実行可能コードのモジュールは単一の命令または多数の命令とすることが可能であり、いくつかの異なるコード・セグメントにわたって、異なるプログラム間で、およびいくつかのメモリ・デバイスにまたがって、分散することも可能である。同様に、モジュール内の演算データ（operational data）を識別および例示することが可能であり、任意の好適な形で具体化し、任意の好適なタイプのデータ構造で編成することが可能である。演算データは、単一のデータ・セットとして集めるか、または異なるストレージ・デバイス間のような異なる場所にわたって分散させることが可能であり、少なくとも部分的に、システムまたはネットワーク上の単なる電子信号として存在することも可能である。
【００２８】
本明細書全体を通じて「一実施形態」、「実施形態」、または同様の言葉に言及することは、その実施形態に関連して説明された特定の機能、構造、または特性が、本発明の少なくとも１つの実施形態に含まれることを意味する。したがって、本明細書全体を通じて「一実施形態において」、「実施形態において」、または同様の言葉の言い回しが出現した場合、すべて同じ実施形態について言及している可能性があるが、そうでない場合もある。
【００２９】
信号伝送媒体に言及した場合、信号を生成すること、信号を生成させること、またはデジタル処理装置上でマシン読み取り可能命令のプログラムを実行させることの、いずれかを実行できるようなものであってもよい。信号伝送媒体の具体例としては、伝送回線、コンパクト・ディスク、デジタル・ビデオ・ディスク、磁気テープ、ベルヌーイ・ドライブ、磁気ディスク、パンチ・カード、フラッシュ・メモリ、集積回路、または他のデジタル処理装置メモリ・デバイスがある。
【００３０】
さらに、前述の本発明の機能、構造、または特性は、１つまたは複数の実施形態において任意の好適な様式で組み合わせることもできる。以下の説明では、本発明の諸実施形態を完全に理解するために、プログラミング、ソフトウェア・モジュール、ユーザ選択、ネットワーク・トランザクション、データベース照会、データベース構造、ハードウェア・モジュール、ハードウェア回路、ハードウェア・チップ、その他の例などの、多数の詳細な具体例を示す。しかしながら、関連分野の技術者であれば、本発明が１つまたは複数の詳細な具体例なしで、または他の方法、構成要素、材料などを使用して、実施可能であることを理解されよう。本発明の諸態様を不明瞭にするのを避けるために、周知の構造、材料、または操作については図示または説明しない場合もある。
【００３１】
図１は、本発明に従ったデータ処理システム１００の一実施形態を示す略ブロック図である。システム１００は、１つまたは複数のホスト１０５、ネットワーク１１０、ストレージ・サーバ１１５、ストレージ・ネットワーク１２０、およびデータ・ストレージ・システム１３０を含む。ストレージ・システム１３０は、１つまたは複数のストレージ・コントローラ１２５および１つまたは複数のストレージ・デバイス１４５を含む。システム１００は４つのホスト１０５、１つのネットワーク１１０、１つのストレージ・サーバ１１５、１つのストレージ・ネットワーク１２０、１つのストレージ・システム１３０、２つのストレージ・コントローラ１２５、および４つのストレージ・デバイス１４５を含むように記載されているが、任意数のホスト１０５、ネットワーク１１０、ストレージ・サーバ１１５、ストレージ・ネットワーク１２０、ストレージ・システム１３０、ストレージ・コントローラ１２５、およびストレージ・デバイス１４５を採用することが可能である。
【００３２】
ストレージ・デバイス１４５はホスト１０５に関するデータを格納する。たとえば、第１のホスト１０５ａは、第１のストレージ・デバイス１４５ａ内のデータベース・アプリケーションに関するデータを格納および取り出すことができる。ストレージ・コントローラ１２５は、通信媒体１３５を介してストレージ・デバイス１４５と通信する。通信媒体１３５はファイバ・チャネル接続、ＳＣＳＩ接続などとすることができる。ストレージ・コントローラ１２５はストレージ・デバイス１４５を管理する。たとえば、第１のストレージ・コントローラは第１のストレージ・デバイス１４５ａを初期化し、第１のストレージ・デバイス１４５ａの部分を有する論理ボリュームを作成し、通信媒体１３５を介して第１のストレージ・デバイス１４５ａへのデータの書き込みおよびここからのデータの読み取りを実行することができる。
【００３３】
各ストレージ・デバイス１４５は、ハード・ディスク・ドライブ、光ストレージ・デバイス、磁気テープ・ドライブ、マイクロメカニカル・デバイス、または半導体デバイスとすることができる。たとえば、第１のストレージ・デバイス１４５ａはハード・ディスク・ドライブとすることができる。各ストレージ・デバイス１４５は、複数のストレージ・デバイス・クラスから選択することができる。たとえばハード・ディスク・ドライブは、ＨＲＨＣストレージ・デバイス１４５およびＨＣＬＣストレージ・デバイス１４５とすることができる。
【００３４】
データ・ストレージ・システム１３０の管理者は、ストレージ・デバイス１４５、もしくは、ストレージ・デバイス１４５のクラス、またはその両方を選択することができ、ここでクラスとは、コスト、信頼性、デューティ・サイクルなどを含むいくつかの特徴に関するものである。たとえば管理者は、より信頼性が高くよりデューティ・サイクルが長い、データ・ストレージ・システム１３０用のＨＲＨＣストレージ・デバイス１４５を選択することができる。別の方法として、管理者は、データ・ストレージ・コストを削減するためにＨＣＬＣストレージ・デバイス１４５を選択することができる。
【００３５】
各ストレージ・デバイス・クラスもしくは各ストレージ・デバイスまたはその両方は、１つまたは複数の公称動作特性を有することができる。たとえば、第１のＨＲＨＣストレージ・デバイス・クラスを、第１の回数のＩ／Ｏ動作を１秒当たりに実行するように構成し、第２のＨＣＬＣストレージ・デバイス・クラスを、より少ない第２の回数のＩ／Ｏ動作を１秒当たりに実行するように構成することができる。
【００３６】
ストレージ・コントローラ１２５は、公称動作特性を使用して、ストレージ・デバイス１４５が障害を起こす可能性があるかどうかを予測することができる。たとえば、第１のストレージ・コントローラ１２５ａは、第１のストレージ・デバイス１４５ａによって実行されるＩ／Ｏ動作の回数が指定されたしきい値を下回る場合、第１のストレージ・デバイス１４５ａが障害を起こす可能性が高いと予測することができる。残念ながら、指定されたしきい値がＨＲＨＣストレージ・デバイス・クラス用であり、第１のストレージ・デバイス１４５ａがＨＣＬＣストレージ・デバイス・クラスに属する場合、第１のストレージ・コントローラ１２５ａはこの第１のストレージ・デバイスが障害を起こす可能性があるものと誤って予測してしまうことがある。加えて、ストレージ・デバイス１４５の各クラスもしくはストレージ・デバイス１４５またはその両方は別個の公称動作特性を有するため、第１および第２のストレージ・デバイス１４５ａ、１４５ｂの公称動作特性が大幅に異なる場合があっても、ストレージ・コントローラ１２５は、第１のストレージ・デバイス１４５ａの公称動作特性を使用して、第２のストレージ・デバイス１４５ｂが障害を起こす可能性が高いと予測することができる。
【００３７】
一実施形態では、ストレージ・デバイス１４５はワークロードが管理された状態に入り、ストレージ・デバイス１４５へのストレスを減らすことができる。たとえば、第１のストレージ・デバイス１４５は、Ｉ／Ｏ動作の実行を指定された１秒当たりの動作回数に制限するというワークロードが管理された状態に入ることができる。管理された状態に入ることで、デューティ・サイクルおよび結果として生じるストレージ・デバイス１４５へのストレスを減らすことができる。
【００３８】
残念ながら、ストレージ・コントローラ１２５は、１秒当たりのＩ／Ｏ動作実行の減少などのストレージ・デバイス１４５の性能の変化によって、ワークロードが管理されたストレージ・デバイス１４５が障害を起こす可能性が高いと予測することができる。ストレージ・コントローラ１２５がストレージ・デバイスの障害を誤って予測した場合、ストレージ・コントローラ１２５はストレージ・デバイス１４５からデータをマイグレーションし、これによってシステム性能を低下させ、さらにストレージ・デバイス１４５の保守を要求し、これによってシステム・コストを増加させる可能性がある。
【００３９】
本発明の実施形態は、以下で論じるように、各ストレージ・デバイス１４５の予測障害しきい値を指定するために技術記述子を採用する。技術記述子に基づいて予測障害しきい値を指定することにより、ストレージ・デバイス障害の誤った予測を減らすことができる。加えて本発明の実施形態は、ストレージ・デバイス障害の誤った予測をさらに減らすために、ストレージ・デバイス１４５のワークロード管理の検出に応答して予測障害しきい値を修正することができる。
【００４０】
図２は、本発明のストレージ障害予測装置２００の一実施形態を示す略ブロック図である。ストレージ障害予測装置２００は、図１のストレージ・コントローラ１２５内で具体化することができる。加えて、ストレージ障害予測装置２００の説明は図１の要素を参照し、同じ番号は同じ要素を示す。ストレージ障害予測装置２００は技術記述子モジュール２０５、障害しきい値モジュール２１０、性能検出モジュール２１５、ワークロード管理検出モジュール２２０、しきい値修正モジュール２２５、修復モジュール２３０、および通知モジュール２３５を含む。
【００４１】
以下で説明するように、技術記述子モジュール２０５は、技術記述子をストレージ・デバイス１４５に関連付ける。一実施形態では、技術記述子はストレージ・デバイス・クラスを指定する。たとえば、技術記述子はＨＲＨＣストレージ・デバイス・クラスを指定することができる。技術記述子は、ストレージ・デバイスに関する１つまたは複数の公称動作特性も指定することができる。たとえば、技術記述子は最大Ｉ／Ｏ待ち時間を指定することができる。Ｉ／Ｏ待ち時間は、各Ｉ／Ｏ動作が完了するのに必要な時間である。ある実施形態では、技術記述子はストレージ・デバイス１４５の製造元（make）およびモデルを指定する。
【００４２】
障害しきい値モジュール２１０は、以下で説明するように、技術記述子に応答してストレージ・デバイス１４５に関する予測障害しきい値を設定する。一実施形態では、予測障害しきい値は、指定された時間間隔内に発生する指定された数のエラーである。エラーとは、指定された応答時間内に格納動作が完了できないことをいう。
【００４３】
性能検出モジュール２１５は、以下で説明するように、予測障害しきい値を超えるストレージ・デバイス・エラーをストレージ・デバイス予測障害として検出する。たとえば、予測障害しきい値が１分間隔内に１０のエラーとして指定され、各エラーが１００ミリ秒（１００ｍｓ）内に読み取りが完了できないこと、もしくは５００ミリ秒（５００ｍｓ）内に書き込みが完了できないこと、またはその両方である場合、予測障害しきい値を超える１１のこうしたエラーが１分間隔内に発生すると、性能検出モジュール２１５はストレージ・デバイス・エラーを検出する。
【００４４】
一実施形態では、以下で説明するように、ワークロード管理検出モジュール２２０がストレージ・デバイス１４５のワークロード管理を検出する。ワークロード管理検出モジュール２２０は、ワークロード管理の指標となる、ストレージ・デバイスの活動特性もしくはストレージ・デバイスの環境特性またはその両方から、ストレージ・デバイス１４５のワークロード管理を検出することができる。たとえば、ストレージ・デバイス１４５が大気温度摂氏７０度（７０℃）でワークロード管理のされた状態に入るように構成された場合、ワークロード管理検出モジュール２２０は、ストレージ・デバイスの大気温度が摂氏７０度（７０℃）を超えた時点でワークロード管理を検出することができる。
【００４５】
一実施形態では、以下で説明するように、ストレージ・デバイス１４５のワークロード管理の検出に応答して、しきい値修正モジュール２２５が予測障害しきい値を修正する。一例では、予測障害しきい値が１分間隔内で１０のエラーである場合、しきい値修正モジュール２２５は、ワークロード管理検出モジュール２２０がストレージ・デバイス１４５のワークロード管理を検出したのに応答して、予測障害しきい値を１分間隔内で２０のエラーに修正することができる。
【００４６】
一実施形態では、以下で説明するように、修復モジュール２３０はストレージ・デバイス予測障害の検出に応答して、ストレージ・デバイス予測障害を修復する。たとえば修復モジュール２３０は、ストレージ・デバイス予測障害を修復するために、ストレージ・デバイス１４５からデータをマイグレーションすることができる。一実施形態では、以下で説明するように、通知モジュール２３５はストレージ・デバイス予測障害の通知を送信する。たとえば、通知モジュール２３５は予測障害エラーの通知を管理者に送信することができる。ストレージ障害予測装置２００は、ストレージ・デバイス１４５に関する技術記述子に基づいて予測障害しきい値を採用することによって、誤った障害予測を減らす。
【００４７】
図３は、本発明のストレージ・コントローラ１２５の一実施形態を示す略ブロック図である。一実施形態では、ストレージ・コントローラ１２５は図１のストレージ・コントローラ１２５であり、図２のストレージ障害予測装置２００を具体化する。加えて、ストレージ・コントローラ１２５の説明は図１および２の要素を参照し、同じ番号は同じ要素を示す。ストレージ・コントローラ１２５は、プロセッサ・モジュール３０５、メモリ・モジュール３１０、ブリッジ・モジュール３１５、ネットワーク・インターフェース・モジュール３２０、ストレージ・インターフェース・モジュール３２５、および周辺インターフェース・モジュール３３０を含む。加えて、ストレージ・コントローラ１２５は、ストレージ・サーバ１１５、ストレージ・デバイス１４５、およびセンサ３３５と通信するように示される。
【００４８】
プロセッサ・モジュール３０５、メモリ・モジュール３１０、ブリッジ・モジュール３１５、ネットワーク・インターフェース・モジュール３２０、ストレージ・インターフェース・モジュール３２５、および周辺インターフェース・モジュール３３０は、１つまたは複数の半導体基板上に半導体ゲートを製作することができる。各半導体基板は、回路カード上に取り付けられた１つまたは複数の半導体デバイスにパッケージングすることができる。プロセッサ・モジュール３０５、メモリ・モジュール３１０、ブリッジ・モジュール３１５、ネットワーク・インターフェース・モジュール３２０、ストレージ・インターフェース・モジュール３２５、および周辺インターフェース・モジュール３３０の間の接続は、半導体金属レイヤ、基板間配線、あるいは半導体素子を接続する回路カード・トレースまたはワイヤを介することができる。
【００４９】
メモリ・モジュール３１０はソフトウェア命令およびデータを格納する。プロセッサ・モジュール３０５は、当業者であれば周知のようにソフトウェア命令を実行し、データを操作する。一実施形態では、図２の技術記述子モジュール２０５、障害しきい値モジュール２１０、性能検出モジュール２１５、ワークロード管理検出モジュール２２０、しきい値修正モジュール２２５、修復モジュール２３０、および通知モジュール２３５を有する１つまたは複数のソフトウェア・プロセスを、メモリ・モジュール３１０が格納し、プロセッサ・モジュール３０５がこれを実行する。
【００５０】
プロセッサ・モジュール３０５は、ブリッジ・モジュール３１５を介して、ネットワーク・インターフェース・モジュール３２０、ストレージ・インターフェース・モジュール３２５、および周辺インターフェース・モジュール３３０と通信する。ストレージ・インターフェース・モジュール３２５はファイバ・チャネル・インターフェース、ＳＣＳＩインターフェースなどとすることができる。ネットワーク・インターフェース・モジュール３２０は、イーサネット・インターフェース、トークン・リング・インターフェースなどとすることができる。周辺インターフェース・モジュール３３０は、ユニバーサル・シリアル・バス（「ＵＳＢ」）、シリアル・ポート・インターフェースなどとすることができる。センサ３３５は温度センサとすることができる。
【００５１】
以下の略流れ図は、一般に論理流れ図として示される。したがって、示された順序およびラベル付けされたステップは、提示された方法の一実施形態を示す。機能、論理、または効果において、例示された方法の１つまたは複数のステップ、あるいはその一部と同等の、他のステップおよび方法も着想可能である。さらに、採用される構成および記号はこの方法の論理ステップを説明するために提供され、本方法の範囲を限定するものとは理解されない。流れ図では様々なタイプの矢印および線が採用可能であるが、これらは対応する方法の範囲を限定するものとは理解されない。実際に、いくつかの矢印または他の結合子を使用して、この方法の論理流れのみを示すことができる。たとえば、ある矢印は、示された方法の列挙されたステップ間の指定されていない持続時間の待機または監視期間を示すことができる。さらに、特定の方法が実行される順序は、示された対応するステップの順序を厳密に守ってもよく、守らなくともかまわない。
【００５２】
図４は、本発明のストレージ障害予測方法４００の一実施形態を示す略流れ図である。方法４００は、図１〜３に記載された装置２００、３００、およびシステム１００の操作に関して、前述の機能を実行するためのステップを実質的に含む。加えて、方法４００は図１〜３の要素を参照し、同じ番号は同じ要素を示す。
【００５３】
方法４００が開始され、技術記述子モジュール２０５は技術記述子をストレージ・デバイス１４５に関連付ける（４０５）。管理者は、ストレージ・コントローラ１２５と通信しているホスト１０５上で実行中の保守インターフェース・グラフィカル・ユーザ・インターフェース（「ＧＵＩ」）を介するなどして、ストレージ・デバイス１４５の識別、ストレージ・デバイス・クラス、もしくはストレージ・デバイス１４５の公称動作特性、またはそれらすべてを、技術記述子モジュール２０５に送ることができる。別の方法として、ストレージ・デバイス１４５は、ストレージ・デバイス１４５がデータ・ストレージ・システム１３０もしくはストレージ・コントローラ１２５またはその両方と通信するように配置された場合、ストレージ・デバイス１４５の識別を技術記述子モジュール２０５に送ることもできる。ある実施形態では、技術記述子モジュール２０５はストレージ・デバイス１４５を識別するためにストレージ・デバイス１４５に照会する。
【００５４】
一実施形態では、技術記述子モジュール２０５は、ストレージ・デバイス１４５の識別、ストレージ・デバイス・クラス、もしくはストレージ・デバイス１４５の公称動作特性、またはそれらすべてを受け取る。技術記述子モジュール２０５は、この識別に応答して、技術記述子をストレージ・デバイス１４５に関連付ける（４０５）ことができる。
【００５５】
一実施形態では、技術記述子がストレージ・デバイス１４５を識別する。たとえば、技術記述子はストレージ・デバイス１４５の製造元およびモデルを識別することができる。代替実施形態では、技術記述子はストレージ・デバイス・クラスを記述する。たとえば技術記述子は、ストレージ・デバイス１４５をＨＣＬＣストレージ・デバイス・クラスとして識別することができる。
【００５６】
一実施形態では、技術記述子はストレージ・デバイス１４５の１つまたは複数の公称動作特性を識別する。たとえば技術記述子は、５０パーセント（５０％）デューティ・サイクルなどの、ストレージ・デバイス１４５によってサポートされるデューティ・サイクルを識別することができる。代替例では、技術記述子は、ストレージ・デバイス１４５によってサポートされるＩ／Ｏ動作の実行の最低数を識別することができる。
【００５７】
技術記述子モジュール２０５は、ストレージ・デバイス１４５の１つまたは複数の製造元およびモデル、１つまたは複数のストレージ・デバイス・クラス、もしくは１つまたは複数の公称動作特性、またはそれらすべてを列挙する、技術テーブルを維持することができる。各技術テーブルのエントリは、対応する技術記述子を有することができる。一例では、ＨＲＨＣストレージ・デバイス・クラスは、対応するＨＲＨＣ技術記述子を有することができる。技術記述子モジュール２０５は、技術テーブル内の対応するストレージ・デバイス識別を特定し、ストレージ・デバイス１４５の識別を対応する技術記述子に関連付けることができる。たとえば、技術記述子モジュール２０５は、ＨＲＨＣストレージ・デバイス・クラスをＨＲＨＣ技術記述子に関連付けることができる。
【００５８】
障害しきい値モジュール２１０は、技術記述子に応答してストレージ・デバイス１４５に関する予測障害しきい値を設定する（４１０）。一実施形態では、障害しきい値モジュール２１０は、１つまたは複数の技術記述子値および各技術記述子値に関する１つまたは複数の対応する予測障害しきい値を有する、しきい値テーブルを維持する。たとえばしきい値テーブルは、第１の技術記述子を、１分間隔内で１０エラーの第１の予測障害しきい値と、６０パーセント（６０％）デューディ・サイクルの第２の予測障害しきい値とを伴う、「ＨＣＬＣストレージ・デバイス」の値に関連付けることができる。障害しきい値モジュール２１０は、性能検出モジュール２１５によって採用される障害予測方法に従って、技術記述子に関する予測障害しきい値を、１０エラーの第１の予測障害しきい値もしくは６０パーセント（６０％）デューティ・サイクルの第２の予測障害しきい値、またはその両方に設定することができる。たとえば、性能検出モジュール２１５が最低デューティ・サイクル値を下回るデューティ・サイクルとしてストレージ・エラーを検出した場合、障害しきい値モジュール２１０は、予測障害しきい値を６０パーセント（６０％）デューティ・サイクルの第２の予測障害しきい値に設定することができる。
【００５９】
一実施形態では、しきい値テーブルは、各技術記述子値に関する１つまたは複数の対応する予測障害しきい値、および１つまたは複数の対応するワークロード管理のされた予測障害しきい値を含むことができる。たとえば「ＨＣＬＣストレージ・デバイス」という値を備える第１の技術記述子は、１分当たり１０エラーの対応する予測障害しきい値および１分当り２０エラーのワークロード管理のされた予測障害しきい値を有することができる。
【００６０】
一実施形態では、ワークロード管理検出モジュール２２０はストレージ・デバイス１４５のワークロード管理を検出する（４１５）。一実施形態では、ワークロード管理検出モジュール２２０はワークロード管理を検出するためにストレージ・デバイス１４５に照会する。たとえば、ストレージ・コントローラ１２５上で実行中のワークロード管理検出モジュール２２０は、ワークロード管理に関してストレージ・デバイス１４５に照会することができる。ストレージ・デバイス１４５は、ストレージ・デバイス１４５のワークロード管理状況に応答することができる。
【００６１】
一実施形態では、ワークロード管理検出モジュール２２０は、ワークロード管理を検出する（４１５）ために、ストレージ・デバイス１４５の活動特性を採用する。たとえばワークロード管理検出モジュール２２０は、ストレージ・デバイスのデューティ・サイクルが２５パーセント（２５％）を下回った場合に、ストレージ・デバイス１４５がワークロード管理のされた状態にあると判定することができる。別の方法として、ワークロード管理検出モジュール２２０は、ワークロード管理を検出する（４１５）ために環境特性を採用することができる。たとえばワークロード管理検出モジュール２２０は、ストレージ・デバイス１４５の大気温度が摂氏６０度（６０℃）を上回った場合に、ストレージ・デバイス１４５がワークロード管理のされた状態にあると判定することができる。
【００６２】
ワークロード管理検出モジュール２２０がワークロード管理を検出した（４１５）場合、しきい値修正モジュール２２５はストレージ・デバイス１４５のワークロード管理の検出に応答して予測障害しきい値を修正する（４２０）。しきい値修正モジュール２２５は、予測障害しきい値に定数を掛け合わせることによって予測障害しきい値を修正することができる（４２０）。たとえば、予測障害しきい値が１分当たり８エラーであり、ワークロード管理検出モジュール２２０がストレージ・デバイス１４５のワークロード管理を検出した（４１５）場合、しきい値修正モジュール２２５は予測障害しきい値に定数１．５を掛けて、１分当たり１２エラーの修正済み予測障害しきい値を算出することができる。
【００６３】
別の方法として、しきい値修正モジュール２２５は、技術記述子に対応するワークロード管理のされた予測障害しきい値をしきい値テーブルから選択することによって、予測障害しきい値を修正することもできる（４２０）。たとえば技術記述子に関して、予測障害しきい値が１分当たり８エラーで、ワークロードが管理された予測障害しきい値が１分当たり１３エラーであり、ワークロード管理検出モジュール２２０がストレージ・デバイス１４５のワークロード管理を検出した（４１５）場合、しきい値修正モジュール２２５は、予測障害しきい値を１分当たり１３エラーに修正することができる。
【００６４】
ワークロード管理検出モジュール２２０がワークロード管理を検出しない（４１５）場合、性能検出モジュール２１５は、予測障害しきい値を超えるストレージ・デバイス・エラーをストレージ・デバイス予測障害として検出する（４２５）。一実施形態では、性能検出モジュール２１５はエラー・ログ内のストレージ・デバイス・エラーを追跡する。性能検出モジュール２１５は、予測障害しきい値を超えるいくつかのエラーについて定期的にエラー・ログをスキャンすることができる。
【００６５】
別の方法として、性能検出モジュール２１５はストレージ・デバイス１４５のカウンタを初期化し、各ストレージ・デバイス・エラーのカウンタを増分し、各指定された時間間隔後に指定された数だけカウンタを減分することができる。性能検出モジュール２１５は、カウンタが予測障害しきい値を超える場合、予測障害しきい値を超えるストレージ・デバイス・エラーを検出する（４１５）ことができる。
【００６６】
一実施形態では、性能検出モジュール２１５は予測障害しきい値を超えるストレージ・デバイス・エラーを検出する（４２５）ために、ストレージ・デバイス１４５に照会する。たとえば、性能検出モジュール２１５はストレージ・デバイス１４５のデューティ・サイクルについてストレージ・デバイス１４５に照会し、ストレージ・デバイス１４５のデューティ・サイクルが予測障害しきい値によって指定されたデューティ・サイクルを下回る場合、予測障害しきい値を超えるストレージ・デバイス・エラーを検出することができる。
【００６７】
性能検出モジュール２１５が予測障害しきい値を超えるストレージ・デバイス・エラーを検出しない（４２５）場合、ワークロード管理検出モジュール２２０はストレージ・デバイス１４５のワークロード管理を検出する（４２５）。性能検出モジュール２１５が予測障害しきい値を超えるストレージ・デバイス・エラーを検出した（４２５）場合、修復モジュール２３０は、ストレージ・デバイス予測障害の検出に応答してストレージ・デバイス予測障害を修正する（４３５）ことができる。
【００６８】
一実施形態では、修復モジュール２３０はストレージ・デバイス予測障害を修復する（４３０）ために、ストレージ・デバイス１４５からデータをマイグレーションする。加えて、修復モジュール２３０は、ストレージ・デバイス予測障害を修復する（４３０）ために、ストレージ・デバイス１４５をオフラインにすることができる。たとえば、性能検出モジュール２１５が第１のストレージ・デバイス１４５ａに関してストレージ・デバイス予測障害を検出した場合、修復モジュール２３０は、第１のストレージ・デバイス１４５ａから第２のストレージ・デバイス１４５ｂへとデータをコピーし、第１のストレージ・デバイス１４５ａをオフラインにすることができる。ある実施形態では、第１のストレージ・デバイス１４５ａが第２のストレージ・デバイス１４５ｂによってミラーリングされ、性能検出モジュール２１５が第１のストレージ・デバイス１４５ａに関してストレージ・デバイス予測障害を検出した（４２５）場合、修復モジュール２３０は第２のストレージ・デバイス１４５ｂを使用してそのデータにアクセスするように指示をすることができる。
【００６９】
一実施形態では、通知モジュール２３５がストレージ・デバイス予測障害の通知を送り（４３５）、方法４００が終了する。たとえば通知モジュール２３５は、管理者が通知を受け取ることができるように、コンピュータ・ワークステーションにエラー・メッセージを送る（４３５）ことができる。別の方法として、通知モジュール２３５は、システム・ログなどのログに通知を送る（４３５）ことができる。方法４００は、ストレージ・デバイス１４５に関する技術記述子に応答して予測障害しきい値を設定し４１０、予測障害しきい値を使用してストレージ・デバイス１４５の障害を予測する。
【００７０】
図５は、本発明のＲＡＩＤシステム５００の一実施形態を示す略ブロック図である。システム５００は、図１の１つまたは複数のストレージ・デバイス１４５によって具体化することができる。加えて、システム５００は図１〜４の要素を参照し、同じ番号は同じ要素を示す。話を簡単にするために、４つのストレージ・デバイス１４５が示されているが、任意数のストレージ・デバイス１４５を採用することができる。
【００７１】
一実施形態では、ストレージ・デバイス１４５はハード・ディスク・ドライブである。各ストレージ・デバイス１４５は複数のストライプ５１０、５２０、５３０、５４０としてデータを格納する。各ストレージ・デバイス１４５からのストライプ５１０、５２０、５３０、５４０は、ストライプ・グループを形成することができる。たとえば、各ストレージ・デバイスの第１のストライプ５１０ａ、５２０ａ、５３０ａ、５４０ａは第１のストライプ・グループを形成することができる。
【００７２】
図に示されるように、第１、第２、および第３のストレージ・デバイス１４５ａ、１４５ｂ、１４５ｃの第１のストライプ５１０ａ、５２０ａ、５３０ａはデータを格納するが、第４のストレージ・デバイス１４５ｄの第１のストライプ５４０ａは冗長データを格納する。第１、第２、および第３のストレージ・デバイス１４５ａ、１４５ｂ、１４５ｃのうちの１つに障害が発生した場合、障害のあるストレージ・デバイス１４５のデータは、残りのストレージ・デバイス１４５のデータおよび第４のストレージ・デバイス１４５ｄの冗長（redundant）データを使用して回復することができる。
【００７３】
図６は、本発明のＲＡＩＤシステム６００に関するデータのマイグレーションの一実施形態を示す略ブロック図である。システム６００は、図５のストレージ・デバイス１４５を含む。加えてシステム６００は図１〜４の要素を参照し、同じ番号は同じ要素を示す。
【００７４】
性能検出モジュール２１５は、予測障害しきい値を超える第２のストレージ・デバイス１４５ｂに関するストレージ・デバイス・エラーを、ストレージ・デバイス予測障害として検出する（４２５）。修復モジュール２３０は、第２のストレージ・デバイス１４５ｂのストライプ５２０ａ〜ｄのデータを第５のストレージ・デバイス１４５ｅへマイグレーションすることができる。第２のストレージ・デバイス１４５ｂの第１、第２、および第３のストライプ５２０ａ〜ｃが、第５のストレージ・デバイス１４５ｅにマイグレーションされたものとして示される。
【００７５】
本発明の実施形態は、ストレージ・デバイス１４５に関連付けられた技術記述子に応答して予測障害しきい値を設定し（４１０）、予測障害しきい値を使用して潜在的なストレージ・デバイス障害を検出する（４２５）。加えて、本発明の実施形態は、ストレージ・デバイス１４５のワークロード管理の検出に応答して、予測障害しきい値を修正することができる。
【００７６】
本発明は、その趣旨または不可欠な特性を逸脱することなく、他の特定の形で具体化することが可能である。説明された諸実施形態は、すべての点において、限定的でなく単なる例示としてみなされるものである。したがって本発明の範囲は、前述の説明によってではなく添付の特許請求の範囲によって示される。特許請求の範囲の意味および同等性の範囲内にあるすべての変更は、それらの範囲内に包含されるものである。
【図面の簡単な説明】
【００７７】
【図１】本発明に従ったデータ処理システムの一実施形態を示す略ブロック図である。
【図２】本発明のストレージ障害予測装置の一実施形態を示す略ブロック図である。
【図３】本発明のストレージ・コントローラの一実施形態を示す略ブロック図である。
【図４】本発明のストレージ障害予測方法の一実施形態を示す略流れ図である。
【図５】本発明のＲＡＩＤシステムの一実施形態を示す略ブロック図である。
【図６】本発明のＲＡＩＤシステムに関するデータのマイグレーションの一実施形態を示す略ブロック図である。
【符号の説明】
【００７８】
２００    ストレージ障害予測装置
２０５    技術記述子モジュール
２１０    障害しきい値モジュール
２１５    性能検出モジュール
２２０    ワークロード管理検出モジュール
２２５    しきい値修正モジュール
２３０    修復モジュール
２３５    通知モジュール
【図１】
0005160085.tif 000002
【図２】
0005160085.tif 000003
【図３】
0005160085.tif 000004
【図４】
0005160085.tif 000005
【図５】
0005160085.tif 000006
【図６】
0005160085.tif 000007