(57)【要約】【課題】データ持続のためのメモリ装置、メモリシステム及び方法を提供する。【解決手段】メモリ装置はデータを格納するための複数の揮発性メモリを含む。また、メモリ装置は、ホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファと、前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラを含む。前記不揮発性メモリバッファは前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成される。【選択図】図１
2017146965.tif 000002
【特許請求の範囲】
【請求項１】
データを格納するための複数の揮発性メモリと、
ホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファと、
前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラと、を有し、
前記不揮発性メモリバッファは、前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成されることを特徴とするメモリ装置。
【請求項２】
前記不揮発性メモリバッファは、バッテリーによって駆動されるＤＲＡＭまたはキャパシターによってバックアップされるＤＲＡＭであることを特徴とする請求項１に記載のメモリ装置。
【請求項３】
前記不揮発性メモリバッファは、相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）のうちのいずれか１つであることを特徴とする請求項１に記載のメモリ装置。
【請求項４】
前記メモリ装置と前記遠隔ノードは、伝送制御プロトコル（ＴＣＰ／ＩＰ）ネットワークを通じて互いに接続され、前記遠隔ノードは、ＴＣＰ／ＩＰパケット内で前記承認ビットを前記メモリ装置に送信することを特徴とする請求項１に記載のメモリ装置。
【請求項５】
前記メモリ装置と前記遠隔ノードは、リモートダイレクトメモリアクセス（ＲＤＭＡ）を通じて互いに接続され、前記ホストコンピュータは、前記遠隔ノードのデータ複製状態をポーリングし前記メモリ装置の不揮発性メモリバッファ内の前記データと関連した前記承認ビットを更新することを特徴とする請求項１に記載のメモリ装置。
【請求項６】
前記テーブルは、複数のデータ項目を含み、各データ項目は、論理ブロックアドレス（ＬＢＡ）、有効ビット、承認ビット、優先ビット、及び前記データを含むことを特徴とする請求項１に記載のメモリ装置。
【請求項７】
前記メモリ装置及び前記遠隔ノードのマッピング情報は、前記ホストコンピュータ内に格納されることを特徴とする請求項１に記載のメモリ装置。
【請求項８】
前記不揮発性メモリバッファは前記ホストコンピュータによって頻繁に要求されるデータを格納し、前記メモリコントローラは前記不揮発性メモリバッファから要求頻度の少ないデータをフラッシュすることを特徴とする請求項１に記載のメモリ装置。
【請求項９】
ホストコンピュータと、
ネットワークを通じて互いに接続された複数のメモリ装置と、を有し、
前記複数のメモリ装置は、各々、
データを格納するための複数の揮発性メモリと、
ホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファと、
前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラと、を含み、
前記不揮発性メモリバッファは、前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成されることを特徴とするメモリシステム。
【請求項１０】
前記不揮発性メモリバッファは、バッテリーによって駆動されるＤＲＡＭまたはキャパシターによってバックアップされるＤＲＡＭであることを特徴とする請求項９に記載のメモリシステム。
【請求項１１】
前記不揮発性メモリバッファは、相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）のうちのいずれか１つであることを特徴とする請求項９に記載のメモリシステム。
【請求項１２】
前記テーブルは、複数のデータ項目を含み、各データ項目は、論理ブロックアドレス（ＬＢＡ）、有効ビット、承認ビット、優先ビット、及び前記データを含むことを特徴とする請求項９に記載のメモリシステム。
【請求項１３】
メモリ装置が、ホストコンピュータからデータ及び論理ブロックアドレス（ＬＢＡ）を含むデータ書込み要求を受信する段階と、
前記ＬＢＡに基づいてメモリ装置の複数の揮発性メモリの中の１つに前記データを書き込む段階と、
前記メモリ装置の不揮発性メモリバッファ内に前記データ書込み要求に対するデータ項目を生成する段階と、を有し、
前記データ項目は、前記ＬＢＡ、有効ビット、承認ビット、及び前記データを含み、
前記データ項目の有効ビットを設定する段階と、
前記データを遠隔ノードに複製する段階と、
前記遠隔ノードへの正常なデータ複製を示す承認を受信する段階と、
前記承認に基づいて前記データ項目の承認ビットを更新する段階と、
前記データ項目の有効ビットを更新する段階と、をさらに有することを特徴とする方法。
【請求項１４】
メモリ装置が、前記ホストコンピュータからの前記データに対するデータ読出し要求を受信する段階と、
前記データが前記メモリ装置からローカルに利用可能であるか否かを判断する段階と、
ローカルに利用可能である場合、前記メモリ装置に格納された前記データを前記ホストコンピュータに伝送する段階と、をさらに有することを特徴とする請求項１３に記載の方法。
【請求項１５】
前記不揮発性メモリバッファに格納された前記データは、前記ホストコンピュータに伝送されることを特徴とする請求項１４に記載の方法。
【請求項１６】
メモリ装置が、前記ホストコンピュータからの前記データに対するデータ読出し要求を受信する段階と、
前記データが前記メモリ装置からローカルに利用可能であるか否かを判断する段階と、
ローカルに利用不可能な場合、前記複製されたデータを格納する遠隔ノードを認識する段階と、
前記遠隔ノードに格納されたデータを前記ホストコンピュータに伝送する段階と、
前記メモリ装置の前記揮発性メモリ及び前記不揮発性メモリバッファの中の１つに格納された前記データを更新する段階と、をさらに有することを特徴とする請求項１３に記載の方法。
【請求項１７】
前記メモリ装置が障害から復旧モードに入ることを決定する段階と、
前記データの読出し要求に対する前記複製されたデータを格納する遠隔ノードを認識する段階と、
前記遠隔ノードからの前記データを伝送する段階と、
前記遠隔ノードからの前記データを前記メモリ装置に複製する段階と、をさらに含むことを特徴とする請求項１３に記載の方法。
【請求項１８】
前記遠隔ノードからＴＣＰ／ＩＰパケットに前記承認ビットを受信する段階をさらに有することを特徴とする請求項１３に記載の方法。
【請求項１９】
前記メモリ装置と前記遠隔ノードは、リモートダイレクトメモリアクセス（ＲＤＭＡ）を通じて互いに通信し、前記方法は、前記遠隔ノードのデータ複製状態をポーリングし、前記メモリ装置の前記不揮発性メモリバッファ内で前記データと関連した前記承認ビットを更新する段階をさらに有することを特徴とする請求項１３に記載の方法。
【請求項２０】
前記不揮発性メモリバッファは、バッテリー駆動されるか、キャパシターにバックアップされるか、或いは相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）を含むグループから選択されることを特徴とする請求項１３に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はコンピュータ用メモリシステムに関し、より具体的には、データ持続のためのメモリ装置、メモリシステム及び方法に関する。
【背景技術】
【０００２】
データベース、仮想デスクトップコンピュータ基盤構造、及びデータ分析のようなデータ集約アプリケーション対象のコンピュータシステムは、ストレージ結合（ｓｔｏｒａｇｅ−ｂｏｕｎｄ）であり、大規模データトランザクションレート（ｌａｒｇｅｄａｔａ  ｔｒａｎｓａｃｔｉｏｎ  ｒａｔｅｓ）を持続する。これらのシステムの作業負荷（ｗｏｒｋｌｏａｄｓ）は永続性を有することを必要とし、したがってデータは頻繁に不揮発性データストレージ装置（例えば、ソリッドステートドライブ（ＳＳＤ）装置）にコミット（ｃｏｍｍｉｔ）される。より高い水準のデータ持続を得るために、これらのコンピュータシステムはストレージ装置プール（ｐｏｏｌ）内で他のノードにデータを複製することができる。多重ノードに複製されたデータはデータのより速い可用性をデータ要求側に対して保証し、電源障害からノードのより速やかな復旧を保証することができる。
【０００３】
しかし、不揮発性データストレージ装置に対するデータのコミットメント（ｃｏｍｍｉｔｍｅｎｔ）はデータアクセス性能を抑圧（ｔｈｒｏｔｔｌｅ）することになる。なぜならば、不揮発性データ格納装置に対するアクセス速度は揮発性メモリ（例えばＤＲＡＭ）のアクセス速度より数十倍以上遅いためである。性能問題を取り扱うために、幾つかのシステムはデータレイテンシを減らし電源障害から復旧するためのデータを複製するためにインメモリデータセット（ｉｎ−ｍｅｍｏｒｙ  ｄａｔａ  ｓｅｔｓ）を使用する。しかし、インメモリデータセットは典型的に永続性及び信頼性がない。ネットワークを通じてデータ複製は本質的なレイテンシを有し、揮発性メモリの速い速度を十分に活用できないようにする。
【０００４】
ＤＲＡＭに加えて、他のシステムは不揮発性ランダムアクセスメモリ（ＮＶＲＡＭ）を使用する。不揮発性ランダムアクセスメモリは、永続性あるデータ格納を完遂する間に速やかなデータコミットメントを遂行するために、バッテリーによって駆動されるかキャパシターによってバックアップされる。しかし、これらのシステムは大規模データセットを有するアプリケーションを実行することを必要とし、そのようなシステムを構成する費用は、電源遮断期間の間にＮＶＲＡＭに電力を提供するための大きなバッテリー又はキャパシターのための費用によって高くなる。
【０００５】
そのようなトレード・オフを除去するために、相変化ＲＡＭ（ｐｈａｓｅ−ｃｈａｎｇｅ  ＲＡＭ：ＰＣＭ）、抵抗性ＲＡＭ（ｒｅｓｉｓｔｉｖｅ  ＲＡＭ：ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ｍａｇｎｅｔｉｃ  ｒａｎｄｏｍ  ａｃｃｅｓｓ  ｍｅｍｏｒｙ：ＭＲＡＭ）のような新しい種類のメモリがＤＲＡＭと比較できる程度の速度及び性能を備え、不揮発で速やかなデータコミットメントを与えるために導入された。しかし、これらのシステムはライト経路及び永続性の挑戦に直面している。また、新しい種類のメモリの具現はＤＲＡＭやフラッシュメモリのような主要なメモリ技術を置き換えるために大規模の製造投資を引き起こす。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】米国特許第７，１２４，２４４号公報
【特許文献２】米国特許第８，８６８，８２８号公報
【特許文献３】米国特許公開第２００６／０１１８４７３６号明細書
【特許文献４】米国特許公開第２０１０／０１２５７０４号明細書
【特許文献５】米国特許公開第２００５／０２４３６０９２８号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００７】
本発明は、上記従来のメモリシステムにおける問題点に鑑みてなされたものであって、本発明が解決しようとする技術的課題は、データ持続のためのメモリ装置、メモリシステム及び方法を提供することにある。
【課題を解決するための手段】
【０００８】
上記目的を達成するためになされた本発明の一実施形態に係るメモリ装置は、データを格納するための複数の揮発性メモリを含む。また、メモリ装置はホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファ及び前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラを含む。前記不揮発性メモリバッファは前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成されることを特徴とする。
【０００９】
上記目的を達成するためになされた本発明の他の実施形態に係るメモリシステムは、ホストコンピュータ及びネットワークを通じて互いに連結された複数のメモリ装置を含む。前記複数のメモリ装置は各々、データを格納するための複数の揮発性メモリと、ホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファと、前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラと、を含む。前記不揮発性メモリバッファは前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成されることを特徴とする。
【００１０】
上記目的を達成するためになされた本発明のその他の実施形態に係るデータを複製する方法は、メモリ装置がホストコンピュータからデータ及び論理ブロックアドレス（ＬＢＡ）を含むデータ書込み要求を受信する段階と、前記ＬＢＡに基づいてメモリ装置の複数の揮発性メモリの中の１つに前記データを書き込む段階と、前記メモリ装置の不揮発性メモリバッファ内に前記データ書込み要求に対するデータ項目を生成する段階と、を含む。前記データ項目はＬＢＡ、有効ビット、承認ビット、及び前記データを含む。前記方法は、前記データ項目の有効ビットを設定する段階と、前記データを遠隔ノードに複製する段階と、前記遠隔ノードへの正常なデータ複製を示す承認を受信する段階と、前記承認に基づいて前記データ項目の承認ビットを更新する段階と、前記データ項目の有効ビットを更新する段階と、をさらに有することを特徴とする。
【００１１】
具現の多様な新規詳細及びイベントの組合せを含んで、前記及び他の望ましい特徴は添付図面を参照してさらに具体的に説明されることであり、請求項で示す。ここに開示する特別なシステム及び方法は、これに限定しようとするものではなく、図示の目的のみに示すことを理解すべきである。これは本分野の当業者に理解できることであって、ここに開示する原理及び特徴は本発明の技術的思想の範囲を逸脱すること無く、多様であり、かつ多くの実施形態に適用することができる。
【発明の効果】
【００１２】
本発明の実施形態によれば、データ持続のためのメモリ装置、システム及び方法が具現される。
【図面の簡単な説明】
【００１３】
【図１】本発明の一実施形態によるメモリシステムを例示的に示すブロック図である。
【図２】本発明の一実施形態によるＲＡＭバッファの例示的データ構造を示す図である。
【図３】本発明の一実施形態による書込み要求に対する例示的データの流れを説明するためのフローチャートである。
【図４】本発明の一実施形態によるデータ読出し要求に対する例示的データの流れを説明するためのフローチャートである。
【図５】本発明の一実施形態によるデータ読出し要求に対する例示的データの流れを説明するためのフローチャートである。
【発明を実施するための形態】
【００１４】
本発明に開示する各々の特徴及び指針は、データ持続のためのＤＲＡＭ装置を提供するメモリシステム及び方法を提供するために、個別に或いは他の特徴及び指針と共に活用することができる。数多い付加的な特徴及び指針を活用する代表的な実施形態は、個別に及び結合して、添付された図面を参照して詳細に説明される。これらの詳細な説明は本発明の指針の局面を実施する詳細を当業者に教えるための意図に過ぎなく、請求項の範囲を制限するものではない。したがって、詳細な説明内で開示する特徴の組合せは広い意味で指針を実施するのに必ずしも必要とせず、代わりに本発明の指針の特別な代表的な例を開示するのに単に教示するものである。
【００１５】
以下の説明で、説明のためだけに、特定な名称が本発明の開示の徹底した理解を提供するために言及される。しかし、これらの特定な詳細が本発明の開示の指針を実施するために必ずしも必要としないことは当業者に明白である。
【００１６】
本明細書の詳細な説明の一部はアルゴリズム及びコンピュータメモリ内のデータビット上の動作の記号的表現の形態に示される。これらのアルゴリズム的な説明及び表現は本分野に熟練した他の者にその作業の実体を効率的に伝達するためにデータ処理分野に熟練した者によって使用される。アルゴリズムはここでは、一般的に所望の結果につながる段階の一貫性あるシーケンスであると看做される。段階は物理量の物理的操作を要求するものである。一般に、必須なことではないが、この物理量は格納、伝達、結合、比較、及びその他の操作可能な電気的或いは磁気的信号の形態を取る。これらの信号をビット、値、要素、シンボル、特性、用語（ｔｅｒｍｓ）、数、又はこれに類似のものとして引用することは主に普遍的な使用のために便利であることが判明している。
【００１７】
しかし、これらの全て及び類似な用語は適切な物理的用語と関連し、これらの量に対して適用される単なる便利なラベルであることを留意しなければならない。以下の論議から明確なものであって、別に特別に言及しない限り、処理、コンピューティング、計算、決定、表示、その他これに類似のもののような用語を活用する全般的な説明の論議は、コンピュータシステムや類似の電子コンピューティング装置、伝送装置または表示装置の動作及び処理を言及することと理解されなければならない。コンピュータシステムや類似の電子コンピューティング装置はデータを操作し、コンピュータシステムのレジスター及びメモリ内に物理的（電子的）な量として表現されたデータを、レジスター、メモリ、又はその他の情報ストレージ内で物理量として類似に表現された他のデータに変換する。
【００１８】
本発明の実施形態で開示するアルゴリズムは、本質的に特別なコンピュータや他の装置に関連されたことではない。多様な汎用システム、コンピュータサーバー、又はパーソナルコンピュータが本発明の技術的な思想にしたがってプログラムを有して使用され、要求される方法段階を遂行するためにさらに特別化された装置を構成することが便利であることが分かる。これらの多様なシステムのために要求される構造は以下の説明から明確になる。多様なプログラミング言語がここに開示する本発明の技術的思想を実現するために使用されることが理解されるべきである。
【００１９】
また、代表的な実施形態の多様な特徴と従属請求項は、本発明の技術的思想の付加的な有用な実施形態を提供するために特別に明示的に列挙しない方式に結合することができる。また、すべての値の範囲やグループ個体の表示は請求された本発明の主題を制限する意図のために限らず、元の開示の目的のために、すべての可能な中間値や中間固体を開示する。図面に示される構成要素の次元及び形状は、本発明がどのようにして実施されるかを理解させるために設計され、実施形態で示される次元及び形状を限定しようとする意図ではないこことに注目しなければならない。
【００２０】
本発明の実施形態はバッテリー駆動（又はキャパシターバックアップ（ｃａｐａｃｉｔｏｒ−ｂａｃｋｅｄ））される不揮発性メモリバッファを含むメモリ装置を開示する。不揮発性メモリバッファは本発明の実施形態でＲＡＭバッファと称する。メモリ装置は複数のメモリ装置（ノード）を含むデータストレージシステム内のノードになり得る。複数のノードは複製されたデータを格納するためにネットワークを通じて互いに接続することができる。ＲＡＭバッファはノードに対してデータ複製を完了するために一定の期間データをホールドすることができる。本発明のメモリ装置は低費用システムアーキテクチャを有し、ＤＲＡＭのような性能及び信頼性あるデータ処理（ｔｒａｎｓａｃｔｉｏｎｓ）を要求するデータ集中アプリケーションを実行することができる。データ処理の信頼性はＡＣＩＤ即ち、原子性（ａｔｏｍｉｃｉｔｙ）、一貫性（ｃｏｎｓｉｓｔｅｎｃｙ）、独立性（ｉｓｏｌａｔｉｏｎ）、及び永続性（ｄｕｒａｂｉｌｉｔｙ）を充足することを意味する。
【００２１】
図１は本発明の一実施形態によるメモリシステムを例示的に示すブロック図である。メモリシステム１００は複数のメモリ装置（１１０ａ、１１０ｂ）を含む。任意の数のメモリ装置１１０が本発明の開示の範囲を逸脱せずに、本発明のメモリシステム内に含まれることが理解されるべきである。メモリ装置１１０の各々は中央処理装置（ＣＰＵ）１１１及びメモリコントローラ１１２を含む。メモリコントローラ１１２は１つ以上のレギュラーＤＲＡＭモジュール（例えば、１２１ａ＿１−１２１ａ＿ｎ、１２１ｂ＿１−１２１ｂ＿ｍ）及びＲＡＭバッファ１２２を制御するように構成される。
【００２２】
メモリ装置１１０ａ、１１０ｂの各々は図示しないホストコンピュータシステムのＤＩＭＭソケット内へ挿入されるように構成されたハイブリッドデュアルインラインメモリモジュール（ＤＩＭＭ）である。ホストコンピュータシステムはメモリ装置（１１０ａ、１１０ｂ）を認識できないこともあり得る。又はホストコンピュータシステムはメモリ装置（１１０ａ、１１０ｂ）を、ＲＡＭバッファ１２２を含むハイブリッドＤＩＭＭモジュールとして認識することができる。
【００２３】
幾つかの実施形態による、メモリ装置１１０ａ、１１０ｂの構造（ａｒｃｈｉｔｅｃｔｕｒｅ）及び構成要素は同一であるか、或いは異なってもよい。例えば、メモリ装置１１０ａのＲＡＭバッファ１２２ａがキャパシターバックアップ（ｃａｐａｃｉｔｏｒ−ｂａｃｋｅｄ）である一方、メモリ装置１１０ｂのＲＡＭバッファ１２２ｂはバッテリー駆動（ｂａｔｔｅｒｙ−ｐｏｗｅｒｅｄ）であってもよい。メモリ装置１１０ａ、１１０ｂの中の１つに関する本発明の例示は明示的に異なるように言及しない限り、本発明の開示の範囲を逸脱することなく一般的に相互交換することができることに注目しなければならない。
【００２４】
メモリ装置１１０ａ、１１０ｂはネットワークを通じて互いに接続され、互いにデータを複製する。一実施形態で、ホストコンピュータ（図示せず）はデータをメモリ装置１１０ａにコミット（ｃｏｍｍｉｔ）するアプリケーションを実行する。
ＲＡＭバッファ１２２ａ、１２２ｂはキャパシター、バッテリー、或いはその他の格納された電源（図示せず）によってバックアップされる。一部の実施形態で、ＲＡＭバッファ１２２ａ、１２２ｂはデータ保有のためにキャパシターやバッテリーを要しない不揮発性メモリに置き換えることができる。そのような不揮発性メモリの例はここに限定されるものではないが、相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）を含む。
【００２５】
一実施形態によるメモリシステム１００は企業やデータセンターで使用される。メモリシステム１００内に複製されたデータはメモリシステム１００を障害（例えば、パワー切れやデータの偶然な削除）から復旧するのに使用することができる。一般的に２以上のメモリ装置（又はモジュール）に対するデータ複製は、単一メモリ装置（又はモジュール）に対するデータ複製に比べてさらに強力なデータ持続性（ｐｅｒｓｉｓｔｅｎｃｅ）を提供する。しかし、複製されたメモリ装置に対するデータアクセスや複製されたメモリ装置からのデータ復旧はネットワークを通じてデータを複製するので、レイテンシ（ｌａｔｅｎｃｙ）を随伴する。これはデータに永続性のない短時間ウィンドー（ｓｈｏｒｔ  ｔｉｍｅ  ｗｉｎｄｏｗ）をもたらすことになる。例えば、データが格納されたメモリ装置で電源障害（ｐｏｗｅｒ  ｆａｉｌｕｒｅ）が発生してそのデータにアクセスできないが、そのデータはデータ複製ノードから未だ復旧されない場合である。この場合に、メモリシステム１００はホストコンピュータシステムに対するデータコミット承認（ｄａｔａ  ｃｏｍｍｉｔ  ａｃｋｎｏｗｌｅｄｇｅｍｅｎｔ）が発生するのを防ぐことが必要である。
【００２６】
メモリ装置１１０で、レギュラーＤＲＡＭモジュール１２１＿１−１２１＿ｎはＲＡＭバッファ１２２と接続される。ＲＡＭバッファ１２２は対応するメモリ装置１１０にコミットされたデータトランザクションでデータを複製する。本発明のメモリシステム１００は遠隔メモリ装置でデータ複製を提供することができ、システム性能の犠牲無しでデータ永続性を改善することができる。
【００２７】
図２は本発明の一実施形態によるＲＡＭバッファの例示的データ構造を示す図である。データはＲＡＭバッファに表形式（ｔａｂｕｌａｒ  ｆｏｒｍａｔ）に格納される。データテーブルの各行（ｒｏｗ）は論理ブロックアドレス（ＬＢＡ）２０１、有効ビット２０２、承認ビット２０３、優先ビット２０４、及びデータ２０５を含む。ホストコンピュータから受信し、作業負荷と関連するデータ２０５はＬＢＡ２０１、有効ビット２０２、承認ビット２０３、及び優先ビット２０４と共にＲＡＭバッファに格納される。優先ビット２０４は選択的である。
【００２８】
ＬＢＡ２０１はデータの論理ブロックアドレスを示す。有効ビット２０２はデータが有効であることを示す。デフォルト（ｄｅｆａｕｌｔ）として、新規データの有効ビットは設定される。データが遠隔ノードに正常に複製された後、データの有効ビットは遠隔ノードによって設定解除（ｕｎｓｅｔ）される。
【００２９】
承認ビット２０３はデフォルトとして設定解除され、データが遠隔ノードに正常に複製されたことを示すために遠隔ノードによって設定される。優先ビット２０４は対応するデータの優先度を示す。いくつかのデータは下位優先度を有する他のデータより上位優先度を有することができる。幾つかの実施形態で、重要データを含むデータは高い優先度を有し、遠隔ノードに複製される。図２のテーブル内のデータ項目（行）は先入先出法（ＦＩＦＯ）に基づいて初期に格納される。これらのデータ項目は上位優先度のデータをテーブル内の上部に位置させ、下位優先度の他のデータよりさらに早く複製するために、優先ビット２０４に基づいて再配列され得る。データ２０５はデータ項目の実際データを含む。
【００３０】
一実施形態による、ＲＡＭバッファはＦＩＦＯバッファである。データ項目は優先ビット２０４に基づいて再配列される。ＲＡＭバッファ内に格納されたデータ項目の一部は、データが遠隔ノードに複製され、遠隔ノードによって承認されて新しいデータ項目のための空間（ｓｐａｃｅ）を作る時まで、ＲＡＭバッファに一時的に残存している。遠隔ノードに正常に複製されたデータ項目は有効ビット２０２を設定解除（ｕｎｓｅｔ）し、承認ビット２０３を設定（ｓｅｔ）する。有効ビット２０２及び承認ビット２０３と、さらに優先ビット２０４の値に基づいて（頻繁に要求されるデータは優先ビット設定を有するので）、メモリコントローラ１１２はＲＡＭバッファ内のデータ項目を維持するか、或いは消去（ｆｌｕｓｈ）するかを決定する。
【００３１】
図３は本発明の一実施形態による書込み要求に対する例示的データの流れを説明するためのフローチャートである。図１を参照すると、図示しないホストコンピュータのメモリドライバーは、接続されたメモリ装置の中で１つ、例えばメモリ装置１１０ａにデータ書込みコマンドをコミットする（段階Ｓ３０１）。メモリ装置１１０ａはデータを１つ以上のＤＲＡＭ１２１ａ＿１−１２１ａ＿ｎ及びＲＡＭバッファ１２２ａに初期的にコミットする（段階Ｓ３０２）。データ書込みコマンドはＬＢＡ２０１とＬＢＡ２０１に書き込むためのデータ２０５を含む。データ書込みコマンドは、またデータ複製に対する優先度を決定する優先ビット２０４を含む。一実施形態で、ＤＲＡＭ１２１及びＲＡＭバッファ１２２に対する初期データコミット（ｃｏｍｍｉｔ）はメモリ装置１１０ａのために構成されるストレージアドレス空間内にマッピングされる。
【００３２】
ＲＡＭバッファ１２２ａにデータをコミットする際、メモリ装置１１０ａはＲＡＭバッファ１２２ａ内の対応するデータ項目の有効ビット２０２を設定する（段階Ｓ３０３）。ホストコンピュータのメモリドライバーはホストシステムのシステム構成に依存して、多様なプロトコルで、データをメモリ装置１１０ａにコミットする。例えば、メモリドライバーはデータ書込みコマンドを含むＴＣＰ／ＩＰ（Ｔｒａｎｓｍｉｓｓｉｏｎ  Ｃｏｎｔｒｏｌ  Ｐｒｏｔｏｃｏｌ／Ｉｎｔｅｒｎｅｔ  Ｐｒｏｔｏｃｏｌ）パケットを伝送するか、或いはリモートダイレクトメモリアクセス（ＲＤＭＡ：ｒｅｍｏｔｅ  ｄｉｒｅｃｔ  ｍｅｍｏｒｙ  ａｃｃｅｓｓ）要求を発行することができる。幾つかの実施形態で、ＲＤＭＡ要求はＳＣＳＩ  ＲＤＭＡ  Ｐｒｏｔｏｃｏｌ（ＳＲＰ）、ソケットダイレクトプロトコル（Ｓｏｃｋｅｔ  Ｄｉｒｅｃｔ  Ｐｒｏｔｏｃｏｌ（ＳＤＰ））、又は  ｎａｔｉｖｅ  ＲＤＭＡ  ｐｒｏｔｏｃｏｌのようなインフィニバンドプロトコル（Ｉｎｆｉｎｉｂａｎｄ  ｐｒｏｔｏｃｏｌ）上のＲＤＭＡである。他の実施形態で、ＲＤＭＡ要求はＣｏｎｖｅｒｇｅｄ  Ｅｔｈｅｒｎｅｔ（ＲＯＣＥ）上のＲＭＤＡ或いはインターネットワイドエリアＲＤＭＡプロトコル（Ｉｎｔｅｒｎｅｔ  Ｗｉｄｅ  Ａｒｅａ  ＲＤＭＡ  Ｐｒｏｔｏｃｏｌ（ｉＷＡＲＰ））のようなイーサーネットプロトコルを通じたＲＤＭＡである。多様なデータ通信プロトコルが本発明の技術的思想を逸脱することなく、メモリ装置１１０ａとホストコンピュータとの間に使用されることが理解されるべきである。
【００３３】
一実施形態によるホストコンピュータは特定の遠隔ノード（例えば、メモリ装置１１０ｂ）にデータを複製するために、データ複製コマンドをメモリ装置１１０ａに発行することができる。これに応答して、メモリ装置１１０ａはネットワークを通じて遠隔ノード（例えば、メモリ装置１１０ｂ）のＲＡＭバッファ（例えば、１２２ｂ）にデータをコピーすることができる。
【００３４】
他の実施形態によるホストコンピュータのメモリドライバーは、メモリ装置１１０が遠隔ノードに対してデータ複製のために意図されたＲＡＭバッファ１２２を含むことを認知せずに、メモリ装置１１０にデータ書込みコマンドをコミットすることができる。この場合、メモリ装置１１０ａは遠隔ノードにデータを自発的に複製し、コミットされたデータに対する複製されたデータが遠隔ノードで利用可能であることを示すメッセージをホストコンピュータに伝送する。メモリ装置と遠隔ノードとの間のマッピング情報は、ホストコンピュータが障害からメモリ装置を復旧するためにデータを再格納できる遠隔ノードを認識するように、ホストコンピュータ内に維持される。
【００３５】
メモリ装置１１０ａはデータを遠隔ノード（本実施形態ではメモリ装置１１０ｂ）に複製する（段階Ｓ３０４）。ＲＡＭバッファ１２２ａ内のデータ項目の中の選択的な優先ビット２０４はより頻繁に要求されるデータ、要求頻度の少ない重要なデータ、又は上位ストレージトラフィックの場合のそれほど重要でないデータを優先化する。例えば、メモリ装置１１０ａのＲＡＭバッファ１２２ａはホストコンピュータから受信したデータに対する多重項目（ＲＯＷ０−ＲＯＷｎ）を同時に含むことができる。メモリ装置１１０ａは下位優先度を有する他のデータを置いて最も高い優先度を有するデータを遠隔ノードに複製する。幾つかの実施形態で、優先ビット２０４はホストコンピュータによって要求されたデータの重要度や頻度を示すのに使用することができる。
【００３６】
通信プロトコルに基づいて、メモリ装置１１０ａ或いは複製されたデータを格納する遠隔ノード１１０ｂは、ＲＡＭバッファ１２２ａ内のデータ項目に対する有効ビット２０２と、対応する承認ビット２０３を更新する（段階Ｓ３０５）。ＴＣＰ／ＩＰ基盤システムで、遠隔ノード１１０ｂは承認メッセージをメモリ装置１１０ａに送り、メモリ装置１１０ａは承認ビット２０３を更新し、対応するデータ項目に対する有効ビット２０２を設定解除する（段階Ｓ３０６）。
【００３７】
一実施形態で、遠隔ノード１１０ｂは要求されたトランザクションの完了をマークするために承認メッセージをホストコンピュータに直接送ることができる。この場合、ホストコンピュータは対応するデータ項目に対するＲＡＭバッファ１２２ａ内の承認ビット２０３を設定解除するためにメモリ装置１１０にコマンドを送る。ＲＤＭＡ基盤システムで、ホストシステムのメモリドライバーはキュー完了（ｑｕｅｕｅ  ｃｏｍｐｌｅｔｉｏｎ）の状態をポーリングし、対応してＲＡＭバッファ１２２の有効ビット２０２を更新する。この場合に対応するデータの承認ビット２０３は更新されない。
【００３８】
一実施形態による、ホストコンピュータからのデータ書込みコマンドは存在するＬＢＡの項目、例えばＬＢＡ内に格納された再書込みデータにアドレッシングされ得る。この場合、メモリ装置１１０ａはＤＲＡＭ及びＲＡＭバッファ１２２ａの両方に存在するデータ項目を更新し、有効ビット２０２を設定し、続けて遠隔ノード１１０ｂ内の対応するデータ項目を更新する。遠隔ノード１１０ｂはメモリ装置１１０ａ或いはホストコンピュータに承認メッセージを送り、ＲＡＭバッファ１１２ａ内の対応するデータ項目の有効ビット２０２は新規データ書込みと類似な方法で設定解除される。
【００３９】
図４は本発明の一実施形態によるデータ読出し要求に対する例示的データの流れを説明するためのフローチャートである。メモリ装置１１０ａはホストコンピュータからデータ要求を受信し（段階Ｓ４０１）、データがローカルに利用可能か否かを判断し、要求されたデータをローカル（ｌｏｃａｌｌｙ）或いは遠隔に提供することを決定する（段階Ｓ４０２）。データがローカルに利用可能であれば、これは一般的な場合であるが、メモリ装置１１０ａは要求されたデータをローカルＤＲＡＭ或いはローカルＲＡＭバッファ１２２ａから提供する（段階Ｓ４０３）。例えば、電源障害によってデータがローカルに利用可能でない場合、ホストコンピュータは要求されたデータを格納する遠隔ノード１１０ｂを認識する（段階Ｓ４０４）。
【００４０】
幾つかの実施形態で、メモリ装置１１０ａは電源障害から復旧されるが、データは消失されるか、或いは破損されるかもしれない。この場合、メモリ装置１１０ａは要求されたデータを格納する遠隔ノード１１０ｂを認識する。遠隔ノード１１０ｂは要求されたデータをホストコンピュータに直接提供する（段階Ｓ４０５）。要求されたデータの提供の後に、遠隔ノード１１０ｂは要求されたデータをメモリ装置１１０ａに送り、（電源障害イベントから復旧する時）、メモリ装置１１０ａはしたがってＤＲＡＭとＲＡＭバッファ１２２ａ内の対応するデータを更新する（段階Ｓ４０６）。
【００４１】
一実施形態で、メモリ装置１１０ａはホストコンピュータ内に格納され、維持されたマッピングテーブルのローカルコピーを格納する。要求されたデータがＤＲＡＭ或いはＲＡＭバッファ１２２ａ内でローカルに利用不可能であれば、メモリ装置１１０ａはマッピングテーブルのローカルコピーを参照することによって要求されたデータを提供する遠隔ノード１１０ｂを認識する。ホストコンピュータ及びメモリ装置１１０ａは、マッピング情報に更新が存在するときにマッピングテーブルを共通的に更新する。
【００４２】
他の実施形態で、メモリ装置１１０ａは要求されたデータがＤＲＡＭ或いはＲＡＭバッファ１２２ａ内でローカルに利用可能であるか否かを判断し利用不可能である場合、メモリ装置１１０ａはホストコンピュータにマッピング情報を要求することができる。これに応答して、ホストコンピュータはメモリ装置１１０ａに遠隔ノード１１０ｂの識別を示すメッセージを返送する。ホストコンピュータから受信したマッピング情報を利用して、メモリ装置１１０ａは要求されたデータを提供する遠隔ノード１１０ｂを認識する。これは、メモリ装置１１０ａがマッピングテーブルのローカルコピーを格納しない場合やメモリ装置１１０ａに格納されたマッピングテーブルのローカルコピーが消失されるか、或いは破損された際、有用である。
【００４３】
その他の実施形態で、メモリ装置１１０ａは要求されたデータがローカルに利用不可能であることを示す承認メッセージをホストコンピュータに送る。応答として、ホストコンピュータはマッピング情報に基づいてデータ要求を直接遠隔ノード１１０ｂに送る。
【００４４】
幾つかの実施形態で、メモリ装置１１０ａは多重データブロックにデータ読出し要求を処理することができる。例えば、ホストコンピュータからのデータ読出し要求は遠隔ノード１１０ｂからのペンディング承認（ｐｅｎｄｉｎｇ  ａｃｋｎｏｗｌｅｄｇｅｍｅｎｔ）を有するデータ項目を含むことができる。これはデータが遠隔ノード１１０ｂに未だ複製されないことを示す。この場合、メモリ装置１１０ａは要求されたデータがローカルに利用可能である限り、要求されたデータをローカルに提供し、遠隔ノード１１０ｂは、メモリ装置１１０ａが要求されたデータを提供した後、対応するデータ項目に対する承認ビット２０３を更新する。ローカルデータが利用不可能であるか、或いは破損された場合、遠隔ノード１１０ｂはホストコンピュータにデータを提供し（直接或いはメモリ装置１１０ａを経由して）、メモリ装置１１０ａはＲＡＭバッファ１２２ａ内の対応するデータ項目を遠隔ノード１１０ｂから受信したデータと同期化する。
【００４５】
図５は本発明の一実施形態によるデータ読出し要求に対する例示的データの流れを説明するためのフローチャートである。電源障害のイベントの際、メモリ装置１１０ａは復旧モードに入る（段階Ｓ５０１）。この場合、メモリ装置１１０ａのＤＲＡＭ内に格納されたローカルデータは消失されるか、或いは破損されるかもしれない。メモリ装置１１０ａが電源障害から復旧する間に、ホストコンピュータは、複製データを格納し要求されたデータを提供できる遠隔ノード１１０ｂを認識する（段階Ｓ５０２）。遠隔ノード１１０ｂは要求されたデータをホストコンピュータに直接、或いはメモリ装置１１０ａを通じて提供する（段階Ｓ５０３）。
【００４６】
復旧の時、メモリ装置１１０ａは要求されたデータを含む遠隔ノード１１０ｂからのデータを複製し、速やかなデータ復旧を助けるためにブロック毎のデマンド基盤（ｐｅｒ−ｂｌｏｃｋ  ｄｅｍａｎｄ  ｂａｓｉｓ）でローカルＤＲＡＭ内に複製されたデータをキャッシング（ｃａｃｈｉｎｇ）する（段階Ｓ５０４）。遠隔ノード１１０ｂからのデータ複製承認がペンディング中であれば、データ項目は未完成としてマークされ、有効ビット２０２はＲＡＭバッファ１２２ａ内に設定として維持される。この場合、ＲＡＭバッファ１２２ａ内のデータはシステムストレージまたはメモリ装置１１０の低容量フラッシュメモリにフラッシュ（ｆｌｕｓｈ）される。復旧の際、メモリ装置１１０ａは一般的な復旧シナリオと類似の方法でデータを再格納（ｒｅｓｔｏｒｅ）する。
【００４７】
一実施形態によるメモリ装置１１０のＲＡＭバッファ１２２のデータサイズ（ｓｉｚｅ）はメモリ装置に対して予想されるトランザクションの量に基づいて決定すれることができる。ＲＡＭバッファ１２２のサイジングは不必要な費用を発生させることなくシステム性能を得るのに重要である。小さいデータサイズのＲＡＭバッファ１２２はデータをホールドする未処理（ｏｕｔｓｔａｎｄｉｎｇ）の項目の数が制限される反面、大きいデータサイズのＲＡＭバッファ１２２は、例えばＲＡＭバッファに対する大形のバッテリーやキャパシターによって費用を増加させ得る。
【００４８】
他の実施形態によるＲＡＭバッファのサイズはネットワークレイテンシに対する従属性に基づいて決定される。例えば、ＴＣＰ／ＩＰに対して５０ｕｓのネットワーク往復タイムを有し、５００ｎｓごとにページをコミットする性能保証するシステムのために、ＲＡＭバッファ１２２は４ＫＢのデータを有する１００項目をホールドするようにサイジングすることができる。ＲＡＭバッファ１２２の全体サイズは１ＭＢ未満になる。ＲＤＭＡ基盤システムで、ネットワークレイテンシは１０ｕｓより小さい。なぜならば、メモリ装置１１０が高速ネットワークファブリック（ｆａｂｒｉｃ）上にあるためである。この場合、小さいデータサイズのＲＡＭバッファ１２２が使用され得る。
【００４９】
本発明のメモリシステムの構造及びメモリ装置内に含まれたＲＡＭバッファのサイズは、多様な条件とシステムの要件、例えば、ただしこれに限定されるものではないが、特別な使用ケースシナリオ、読出し書込み比率、メモリ装置の数、レイテンシ重要度、データ重要性、及び複製の程度を考慮してさらに最適化され得る。
【００５０】
一実施形態によるメモリ装置は、データを格納するための複数の揮発性メモリと、ホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファ、及び前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファの全てに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラを含む。前記不揮発性メモリバッファは前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成される。
【００５１】
前記不揮発性メモリバッファはバッテリーによって駆動されるＤＲＡＭであるか、或いはキャパシターによってバックアップされるＤＲＡＭである。
前記不揮発性メモリバッファは相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）のうちのいずれか１つである。
前記メモリ装置と前記遠隔ノードは伝送制御プロトコル（ＴＣＰ／ＩＰ）ネットワークを通じて互いに接続されており、前記遠隔ノードはＴＣＰ／ＩＰパケット内で前記承認ビットを前記メモリ装置に送信することができる。
【００５２】
前記メモリ装置と前記遠隔ノードはリモートダイレクトメモリアクセス（ＲＤＭＡ）を通じて互いに接続されており、前記ホストコンピュータは前記遠隔ノードのデータ複製状態をポーリングし、前記メモリ装置の前記不揮発性メモリバッファ内の前記データと関連した前記承認ビットを更新することができる。
前記テーブルは複数のデータ項目を含み、各データ項目は論理ブロックアドレス（ＬＢＡ）、有効ビット、承認ビット、優先ビット、及び前記データを含むことができる。
【００５３】
前記メモリ装置及び前記遠隔ノードのマッピング情報は前記ホストコンピュータ内に格納される。
前記不揮発性メモリバッファは前記ホストコンピュータによって頻繁に要求されるデータを格納し、前記メモリコントローラは前記不揮発性メモリバッファから要求頻度の少ないデータをフラッシュすることができる。
【００５４】
他の実施形態による、メモリシステムは、ホストコンピュータ、及びネットワークを通じて互いに接続された複数のメモリ装置を含む。前記複数のメモリ装置は各々、データを格納するための複数の揮発性メモリ、ホストコンピュータから受信した作業負荷に関連したデータを格納するように構成された不揮発性メモリバッファ、及び前記データを前記複数の揮発性メモリ及び前記不揮発性メモリバッファに格納し、前記データを遠隔ノードに複製するように構成されたメモリコントローラを含む。前記不揮発性メモリバッファは前記遠隔ノードによって設定された承認ビットを含むテーブル内に前記データを格納するように構成される。
【００５５】
前記不揮発性メモリバッファはバッテリーによって駆動されるか、或いはキャパシターによってバックアップされ得る。
前記不揮発性メモリバッファは相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）のいずれか１つである。
前記テーブルは複数のデータ項目を含み、各データ項目は論理ブロックアドレス（ＬＢＡ）、有効ビット、承認ビット、優先ビット、及び前記データを含むことができる。
【００５６】
本発明のその他の実施形態によるデータを複製する方法は、ホストコンピュータからデータ及び論理ブロックアドレス（ＬＢＡ）を含むデータ書込み要求を受信し、前記ＬＢＡに基づいてメモリ装置の複数の揮発性メモリの中の１つに前記データを書き込み、前記メモリ装置の不揮発性メモリバッファ内に前記データ書込み要求に対するデータ項目を生成することを含む。前記データ項目はＬＢＡ、有効ビット、承認ビット、及び前記データを含む。前記方法は、また前記データ項目の有効ビットを設定し、前記データを遠隔ノードに複製し、前記遠隔ノードへの正常なデータ複製を示す承認を受信し、前記承認に基づいて前記データ項目の承認ビットを更新し、前記データ項目の有効ビットを更新することを含む。
【００５７】
前記方法は前記ホストコンピュータからの前記データに対するデータ読出し要求を受信し、前記データが前記メモリ装置からローカルに利用可能であるか否かを判断し利用可能である場合、前記メモリ装置に格納された前記データを前記ホストコンピュータに伝送することをさらに含むことができる。
前記不揮発性メモリバッファに格納された前記データは前記ホストコンピュータに伝送され得る。
【００５８】
前記方法は前記ホストコンピュータからの前記データに対するデータ読出し要求を受信し、前記データが前記メモリ装置からローカルに利用可能であるか否かを判断し利用不可能である場合、前記複製されたデータを格納する前記遠隔ノードを認識し、前記遠隔ノードに格納されたデータを前記ホストコンピュータに伝送し、前記メモリ装置の前記揮発性メモリの中の１つ及び前記不揮発性メモリバッファに格納された前記データを更新することをさらに含むことができる。
【００５９】
前記方法は、前記メモリ装置が障害から復旧モードに入ることを決定し、前記データの読出し要求に対する前記遠隔ノードを認識し、前記遠隔ノードからの前記データを伝送し、前記遠隔ノードからの前記データを前記メモリ装置に複製することをさらに含むことができる。
前記方法は前記遠隔ノードからＴＣＰ／ＩＰパケットに前記承認ビットを受信することをさらに含むことができる。
【００６０】
前記メモリ装置と前記遠隔ノードはリモートダイレクトメモリアクセス（ＲＤＭＡ）を通じて互いに通信し、前記方法は前記遠隔ノードのデータ複製状態をポーリングし、前記メモリ装置の前記不揮発性メモリバッファ内の前記データと関連した前記承認ビットを更新することをさらに含むことができる。
前記不揮発性メモリバッファはバッテリー駆動されるか、キャパシターにバックアップされるか、或いは相変化ＲＡＭ（ＰＣＭ）、抵抗性ＲＡＭ（ＲｅＲＡＭ）、及び磁気ランダムアクセスメモリ（ＭＲＡＭ）を含むグループから選択されることができる。
【００６１】
以上で例示的な実施形態がシステムを具現する多様な実施形態とデータ持続のためのＤＲＡＭ装置を提供するための方法を示すために詳述した。開示した例示的実施形態からの多様な変更及び発展が本分野の通常の技術を有する者に思い浮かぶことができる。本発明の範囲内に意図される発明の技術的思想は以下のクレームで言及される。
【符号の説明】
【００６２】
１１０、１１０ａ、１１０ｂ    メモリ装置（遠隔ノード）
１１１    中央処理装置（ＣＰＵ）
１１２、１１２ａ、１１２ｂ    メモリコントローラ
１２１ａ＿１〜１２１ａ＿ｎ、１２１ｂ＿１〜１２１ｂ＿ｍ     レギュラーＤＲＡＭモジュール
１２２、１２２ａ、１２２ｂ    ＲＡＭバッファ
【図１】
2017146965.tif 000003
【図２】
2017146965.tif 000004
【図３】
2017146965.tif 000005
【図４】
2017146965.tif 000006
【図５】
2017146965.tif 000007