(57)【要約】  本発明は、ユーザデータストリームのユーザデータを、チャネルデータストリームに、第１の方向に１次元的に展開し第２の方向で互いに位置決めされた少なくとも２ビットの行の２次元チャネルストリップに沿って、２次元で符号化する符号化装置と対応する方法に関する。前記２つの方向はビット位置の２次元格子を構成する。前記装置は、前記チャネルデータストリームのチャネルデータの所定のワーストケースパターンを避けるための２次元変調符号により、前記ユーザデータを前記チャネルデータに変調符号で符号化する変調符号エンコーダを有する。ワーストケースパターンは、高密度2次元光記憶チャネルで一般的である。
2007514252.tif 000002
【特許請求の範囲】
【請求項１】
第１の方向に１次元的に展開する、第２の方向で互いに位置決めされた少なくとも２つのビット行の２次元チャネルストリップに沿って、ユーザデータストリームのユーザデータをチャネルデータストリームのチャネルデータに２次元符号化する符号化装置であって、
前記２つの方向はビット位置の２次元格子を構成し、
前記装置は、前記チャネルデータストリームのチャネルデータの所定のワーストケースパターンを避けるための２次元変調符号により、前記ユーザデータを前記チャネルデータに変調符号で符号化する変調符号エンコーダを有することを特徴とする符号化装置。
【請求項２】
請求項１に記載の符号化装置であって、
前記ワーストケースパターンは、前記２次元光学変調伝達関数の規定により形成された円の外部にある基本周波数成分を有する局所周期パターンを含むことを特徴とする符号化装置。
【請求項３】
請求項１に記載の符号化装置であって、
前記ワーストケースパターンは、交互のビット値を有するビットシンボルの閉じたリングを形成するパターンを含み、または、前記チャネルデータストリームの境界において交互のビット値を有するビットシンボルの開いたリングを形成し、前記リングの開きは前記境界の横にあることを特徴とする符号化装置。
【請求項４】
請求項１に記載の符号化装置であって、
前記変調符号エンコーダは、変調符号符号化中にワーストケースパターンの構築をチェックし、前記符号化装置とその状態遷移マシンの状態を入れることによりワーストケースパターンの開始を構築するチャネルワードのシーケンスをトランケートすることにより、前記ワーストケースパターンを防止する状態遷移マシンを有し、
前記ワーストケースパターンをさらに続けるNRZチャネルシンボルの出力を禁止することを特徴とする符号化装置。
【請求項５】
請求項４に記載の符号化装置であって、
前記状態遷移マシンは、前記有限状態マシンを前記NRZチャネルシンボルに応じて生成される新しい状態及び前記状態遷移マシンの現在の状態にする状態変換ユニットを有し、
前記生成方法は、次のワーストケースパターンのNRZチャネルシンボルになる、NRZIチャネルシンボルを除く同じファンアウトを有するSTD状態の少なくとも１つのペアを有する拡張状態遷移図に基づくことを特徴とする符号化装置。
【請求項６】
請求項１に記載の符号化装置であって、
前記変調符号符号化器は、インテグレーションモジュロ２を含む１次元１Ｔ−プレコーディング動作によりNRZチャネルシンボルをNRZIチャネルシンボルに変換するチャネルワード変換ユニットを有し、前記１Ｔ−プレコーディング動作は前記１次元方向に無限に実行されることを特徴とする符号化装置。
【請求項７】
請求項１に記載の符号化装置であって、
前記変調符号符号化器は、所定のNRZIチャネルシンボルのファンアウトを有さない前記状態遷移図にさらにSTD状態を加えることによって、径方向及び／または接線方向のｋ制限を実施することを特徴とする符号化装置。
【請求項８】
請求項１に記載の符号化装置であって、
前記変調符号符号化器は、変調符号符号化のための計数符号化を使用することを特徴とする符号化装置。
【請求項９】
請求項１に記載の符号化装置であって、
前記変調符号符号化器は、高レート符号、特に１５２→１５３符号を実施することを特徴とする符号化装置。
【請求項１０】
請求項１に記載の符号化装置であって、
前記NRZIチャネルビットは正方または六方格子の格子点に配置されることを特徴とする符号化装置。
【請求項１１】
第１の方向に１次元的に展開する、第２の方向で互いに位置決めされた少なくとも２つのビット行の２次元チャネルストリップに沿って、ユーザデータストリームのユーザデータをチャネルデータストリームのチャネルデータに２次元符号化する符号化方法であって、
前記２つの方向はビット位置の２次元格子を構成し、
前記方法は、前記チャネルデータストリームのチャネルデータの所定のワーストケースパターンを避けるための２次元変調符号により、前記ユーザデータを前記チャネルデータに変調符号で符号化するステップを有することを特徴とする符号化方法。
【請求項１２】
コンピュータで実行された時、前記コンピュータに請求項１１に記載の方法のステップを実行させるコンピュータプログラム。
【請求項１３】
第１の方向に１次元的に展開する、第２の方向で互いに位置決めされた少なくとも２つのビット行の２次元チャネルストリップに沿って、ユーザデータストリームのユーザデータをチャネルデータストリームのチャネルデータに２次元符号化された記録担体であって、
前記２つの方向はビット位置の２次元格子を構成し、
前記方法は、前記チャネルデータストリームのチャネルデータの所定のワーストケースパターンを避けるための２次元変調符号により、前記ユーザデータを前記チャネルデータに変調符号で符号化するステップを有することを特徴とする記録担体。
【請求項１４】
請求項１３に記載の記録担体であって、
前記ワーストケースパターンは、前記２次元光学変調伝達関数の規定により形成された円の外部にある基本周波数成分を有する局所周期パターンを含むことを特徴とする記録担体。
【請求項１５】
請求項１３に記載の記録担体であって、
前記ワーストケースパターンは、交互のビット値を有するビットシンボルの閉じたリングを形成するパターンを含み、または、前記チャネルデータストリームの境界において交互のビット値を有するビットシンボルの開いたリングを形成し、前記リングの開きは前記境界の横にあることを特徴とする記録担体。
【請求項１６】
請求項１３に記載の記録担体であって、
前記変調符号符号化器は、高レート符号、特に１５２→１５３符号を実施することを特徴とする記録担体。
【請求項１７】
請求項１３に記載の記録担体であって、
前記NRZIチャネルビットは正方または六方格子の格子点に配置されることを特徴とする記録担体。
【発明の詳細な説明】
【発明の詳細な説明】
【０００１】
本発明は、ユーザデータストリームのユーザデータを、チャネルデータストリームに、第１の方向に１次元的に展開する、第２の方向で互いに位置決めされた少なくとも２ビットの行の２次元チャネルストリップに沿って、２次元で符号化する符号化装置に関する。前記２つの方向はビット位置の２次元格子を構成する。本発明は、さらに、対応する符号化方法と、コンピュータで前記方法を実施するためのコンピュータプログラムに関する。
【０００２】
光ディスク上の１次元記録においては、チャネルデータストリームのチャネルビットはらせん状のトラックに沿って記録される。そのらせんは１ビット幅である。２次元記録の場合、チャネルデータストリームのチャネルビットは（幅が広いらせんではあるが）らせんに沿って記録される。そのチャネルビットは複数のビット行からなり、そのビット行は半径方向（すなわち、らせん方向に対して垂直の方向）で相互に位置決めされている。
【０００３】
欧州特許出願第01203878.2号（ID607133）は、情報を、少なくとも２次元に符号化された情報のチャネルビット位置を表す格子構造に多次元符号化、またはそれから復号する方法とシステムを開示している。符号化及び／または復号は、疑似稠密格子構造を用いることにより実行される。２次元符号化及び／または復号の場合、好ましくは、疑似六方格子構造が使用される。
【０００４】
さらに、欧州特許出願第02076665.5号（PHNL020368）は、ユーザワードのユーザデータストリームを、１次元方向に無限に展開するチャネルワードのチャネルデータストリームに多次元符号化する方法が開示されている。さらに、対応する復号方法が開示されている。欧州特許出願第02076665.5号（PHNL020368）に開示された符号は、有限状態マシンに基づく。記憶密度を高め、符号化効率を向上する２次元または多次元の符号化制限と符号化ジオメトリを実施する有限状態マシンエンコーダによる符号化方法は、以下のステップを有する：
−  ユーザワードと基礎をなす有限状態マシンの現在の状態とに応じて、符号テーブルからNRZチャネルワードを選択することにより、ユーザワードがNRZチャネルワードに符号化される。ここで、NRZチャネルワードは、１次元方向の１次元解釈を有するNRZチャネルビットのNRZチャネルシンボルのシーケンスを有し、多次元符号の特徴を記述する基礎となる有限状態マシンの状態は、以前のチャネルワードのNRZIチャネルビット、及び現在のチャネルワードのNRZチャネルシンボルにより定義される。
−  NRZチャネルシンボルは、インテグレーションモジュロ２を含む１Ｔ−プレコーディング動作によりNRZIチャネルシンボルに変換される。前記１Ｔ−プレコーディング動作は、前記１次元方向の有限に実行される。
−  前記有限状態マシンは、前記ユーザワード及び前記有限状態マシンの現在の状態に応じて前記符号テーブルから選択された新しい状態におかれ、ユーザワードはチャネルワードに符号化される。
【０００５】
１次元の場合において、変調伝達関数（MTF）によりトラック方向の符号化装置のシンボル間干渉の大きさと到達可能線密度とが決まる。変調符号は、データのスペクトルコンテントがローパス光チャネルによりうまく送信されるように、トラック方向に展開するデータのために設計されている。それゆえ、MTFは１次元関数であると考えられている。しかし、２次元の場合、データはすべての方向に同様に展開する。MTFの形は、２次元変調符号を設計する時、すべての方向で同様に重要である。このように、MTFは、２次元関数として、例えば特定の半径を有する円形トップハット関数の自己相関関数として考えなければならない。MTFのベースは、情報がチャネルにより伝達されないカットオフ周波数の等価物として扱うことができる円である。光記録に使用される検出開口を表す円形トップハットの自己相関としてのMTFの解釈は、J.Braat著「光ディスクシステムの原理」の「光ディスクのリードアウト」、7-87頁、Adam  Hilger  Ltd.、Bristol、1985に記載されている。このMTFはいわゆる「中心開口」の典型であり、好ましくは２次元光記憶に使用される。
【０００６】
２次元高密度記憶について、２次元周波数空間は、接円を描くことにより、複数の変調伝達関数に基づいては完全にカバーすることはできないことが分かっている。２次元周波数空間は、周波数空間内の基本ドメイン（２次元ナイキストセルと呼ばれる）の２次元における周期的繰り返しにより構成される。２次元六方ビット格子の場合、２次元ナイキストセルは六角形である。MTFのベースである円は、２次元ナイキストセル全体を完全にカバーするほど密度は高くない。その結果として、選択された密度と光パラメータの組み合わせで変調伝達関数により送信されない信号の周波数成分がある。さらにまた、２次元光記憶の光チャネルを介して送信された時、間違って検出される確率が高い、これらの周波数成分に対応するいわゆるワーストケースパターンがある。
【０００７】
本発明の目的は、上記の問題を回避し、光チャネルを介して送信された後、デコーダによって正しく検出される確率が高いデータパターンだけが符号化装置及び方法により生成されることを保証する符号化装置と、それに対応する符号化方法とを提供することである。光チャネルは、例えば、インターネット等の伝送ネットワークや、CDまたはDVDのような記録担体や、変調伝送特性をハードカットオフを用いたその他のチャネルでもよい。
【０００８】
本発明によると、この目的は、請求項１に記載の符号化装置により実現される。該符号化装置は、前記チャネルデータストリームのチャネルデータの所定のワーストケースパターンを避けるための２次元変調符号により、前記ユーザデータを前記チャネルデータに変調符号で符号化する変調符号エンコーダを有する。
【０００９】
本発明は、変調符号符号化の際に、できるだけ早く、かつできるだけ多くワーストケースパターンの生成を回避するというアイデアに基づく。それゆえ、これらのワーストケースパターンは、事前に定められているか、もしくは、符号化装置に知られているそのようなワーストケースパターンの存在または生成に対応した条件を規定する。そうすることにより、符号化装置は、ワーストケースパターンの生成を防止するような適当な手段を講じることができる。上記のワーストケースパターンの好ましい実施形態と、その生成を防止するための適当な手段は従属項に記載されている。
【００１０】
本発明の一態様によると、前記２次元光学変調伝達関数のベースにより形成された円の外部にある基本周波数成分を有する局所周期パターンを含むワーストケースパターンを防止することができる。周期的パターンは、六方、正方、またはその他の格子のベース、すなわち、六方、正方、その他の格子の基本ベクトルの線形及び整数組み合わせである基本ベクトルを有するパターンとして定義される。これらの（局所的）周期パターンは、超構造としても表される。これらの（局所的）周期パターンのフーリエ変換の際、フーリエ空間の周期的格子が得られる。円の外側の周波数成分は、変調伝達関数のカットオフ周波数により形成された円の外側にあるこのフーリエ格子の点として理解される。効率的な高データ記憶という明らかな理由のために、その円は２次元基本ドメインの限度に関して、できるだけ小さい方がよいが、しかし、好ましくは（六方格子の場合）、基本六角形（または２次元ナイキストセル）にちょうど接するサイズがよい。その基本六角形は、六方格子のフーリエ変換の結果であり、この基本六角形に完全に含まれる。その円の外側の周波数成分を有するワーストケースパターンは、デコーダにより検出されない確率が高いので、符号化の際に防止されるべきである。
【００１１】
特定の目標応答について同期サンプリングの際にHF信号がゼロになるパターンもワーストケースパターンである。このようなパターンは円対称であり、例えば、真ん中に１があり、３つの１のビットがその周りにあり、３つのゼロのビットがその周りにある。チャネルは円対称なので、いつも同じHF信号になり、出力には変調が存在しない。
【００１２】
本発明の他の態様によると、交互のビット値を有するビットシンボルの閉じたリングを形成するパターンを含み、または、前記チャネルデータストリームの境界において交互のビット値を有するビットシンボルの開いたリングを形成し、前記リングの開きは前記境界の横にある前記ワーストケースパターンが防止される。これらのパターンは、光チャネルにわたる送信エラーパターンのユークリッド重みが小さいという事実により特徴づけられる。この種のワーストケースパターンは、マッチしたフィルターバウンドに関してはロスが大きい。
【００１３】
本発明の好ましい実施形態において、前記変調符号エンコーダは、変調符号符号化中にワーストケースパターンの生成をチェックし、前記符号化装置とその状態遷移マシンの状態を入れることによりワーストケースパターンの開始を生成するチャネルワードのシーケンスをトランケートすることにより、前記ワーストケースパターンを防止する状態遷移マシンを有し、前記ワーストケースパターンをさらに続けるNRZチャネルシンボルの出力を禁止する。このように、ワーストケースパターンが完全には生成されず抑制されるように、蓄積したかどうかを効率的かつ素早く検出するが、蓄積が中断される。これを達成するため、適当な状態遷移図を使用する。
【００１４】
そのような状態遷移図の好ましい実施形態が請求項５に記載されている。それによると、前記状態遷移図は、前記有限状態図を前記NRZチャネルシンボルに応じて生成される新しい状態及び前記状態遷移マシンの現在の状態にする状態変換ユニットを有し、前記生成方法は、次のワーストケースパターンのNRZチャネルシンボルになる、NRZIチャネルシンボルを除く同じファンアウトを有するSTD状態の少なくとも１つのペアを有する拡張状態遷移図に基づく。符号構成が基づく拡張状態遷移図を生成するため、状態遷移図の通常STD状態に追加的状態を加える。その追加的状態は、さらにワーストケースパターンを蓄積するNRZIチャネルシンボルのファンアウトは有していない。
【００１５】
さらに好ましくは、前記変調符号符号化器は、インテグレーションモジュロ２を含む１次元１Ｔ−プレコーディング動作によりNRZチャネルシンボルをNRZIチャネルシンボルに変換するチャネルワード変換ユニットを有し、前記１Ｔ−プレコーディング動作は前記１次元方向に無限に実行される。このようなチャネルワード変換ユニットと１次元１Ｔ−プレコーディング動作は、一般的に知られており、例えば、上記の欧州特許出願第02076665.5号（PHNL020368）に記載されている。
【００１６】
前記変調符号符号化器が所定のNRZIチャネルシンボルのファンアウトを有さない前記状態遷移図にさらにSTD状態を加えることによって、径方向及び／または接線方向のｋ制限を実施することは有利である。
【００１７】
接線方向ｋ制限は、従来の１次元変調符号化のｋ制限と同様である。ｋ制限は連続するNRZ１の間のNRZ０の数を制限する。これはチャネルビットストリームのｋの最大値への遷移を示す。それゆえ、最長許容ランレングスはk+1ビット長である。非常に長いランの発生を制限する必要があるが、それはタイミングリカバリーが不正確になるからである。これは位相ロックループ（PLL）と呼ばれるデバイスにより処理される。PLLは、媒体のビットの長さとマッチした内部「クロック」を再生する。そのビットクロックは、遷移が発生するたびに調節される。遷移が少なすぎる媒体上のエリアは、「クロックドリフト」を生じる。それゆえ、ビットクロックを読み出すため、レシーバは、十分大きなペースでビットストリーム中に変化を必要とする。例えば、DVDで使用されているEFMPlus符号では、k=10が使用されている。タイミングリカバリーのための同様な要件は、広いらせんに基づいた２次元光記憶にも適用できる。接線方向ビットクロックを読み出すために、NRZ０シンボル（１つのシンボルは、符号化されるストリップの各ビット行に１ビットを有する）は少数に限定されている。広いらせんの回転方向に垂直な径方向では、径方向のビットパターンが変化する同様のｋ制限を有することは有利である。
【００１８】
有利にも、変調符号符号化器は、ワーストケースパターンの防止に関する符号のレートは非常に高いので、本発明による変調符号符号化のために計数的符号化を使用する。それゆえ、ユーザビットからチャネルビットへの符号マッピングは、一般に、高い効率を達成するために非常に長いユーザワードと非常に長いチャネルワードを使用することを要する。１つのチャネルワードは、多数のNRZチャネルシンボルにより構成される。好ましくは、ユーザワードは非常に大きいので（例えば、153チャネルビットのチャネルワードに対して152ビットであり、３行ストリップについて51チャネルシンボルである）、メモリによるルックアップテーブルや符号テーブルを用いてこれを実現することはほぼ不可能である。基礎となる有限状態マシンに依存する符号テーブルを用いる従来の符号の使用を完全に非現実的なものにしてしまう。それゆえ、NRZチャネルシンボルは、計数的符号化と呼ばれるアルゴリズムによりユーザワードに基づいて生成される。その計数的符号化はそれ自体知られている（T.M.Cover、「計数的ソース符号化」、IEEE  Transactions  on  Information  Theory,  Vol.IT-19,  No.  1,  pp.73-77,  Jan.  1973を参照）。このアルゴリズムは、リアルタイムで実行できハードウェアに実装可能である。
【００１９】
有利にも、本発明は、kt=2の場合、符号レートが高い符号、例えば152→153符号に適用可能である。しかし、もちろん、本発明は他の符号にも適用可能である。
【００２０】
本発明のいろいろな実施形態を示す図面を参照して、より詳細に説明する。
図１は、データ記憶システムの典型的な符号化及び信号処理要素を示す図である。入力DIから出力DOまでのユーザデータのサイクルは、変調符号及びインターリーブされたECCのインターリーブ１０、エラー訂正符号（ECC）及び変調符号化２０、３０、信号処理４０、記録媒体５０へのデータ記憶、信号後処理６０、二値検出７０、復号８０と９０が含まれる。ECCエンコーダ２０はいろいろなノイズ源に対するエラープロテクションのために、データに冗長性を与える。ECC符号化されたデータが変調エンコーダ３０に送られ、その変調エンコーダがそのデータをチャネルに適応させる。すなわち、そのデータを、チャネルエラーにより壊れにくくチャネル出力で検出しやすい形式に変換する。変調データは記録デバイス（例えば、レーザビーム記録デバイス、電子ビーム記録デバイス、空間光変調器等である）に入力され、記録媒体５０に格納される。読み出し側では、読み出しデバイス（例えば、光検出器デバイス、電荷結合デバイス（CCD））が疑似アナログデータ値を返す。そのデータ値はデジタルデータに逆変換しなければならない（２値変換法の場合１ピクセルあたり１ビット）。このプロセスの最初のステップは、後処理ステップ６０であり、等価と呼ばれ、記録プロセスで生じた歪みを取り除くものである。このステップは疑似アナログドメインで行われる。その後、疑似アナログ値の列はビット検出器７０を介して二値デジタルデータの列に変換される。そのデジタルデータ列はまず変調デコーダ８０に送られ、変調デコーダ８０により変調符号化の逆操作が行われ、その後ECCデコーダ９０に送られる。
【００２１】
上述の欧州特許出願EP01203878.2には、チャネルビットの最近隣クラスターに関する六方格子における２次元制限符号化が記載されている。それでは、主に最近隣制限とそのチャネルを介したよりローバストな伝送に関する利点に焦点が絞られている。後者のトピックスは、欧州特許出願EP02076665.5（PHNL020368）で扱われており、上記の２次元符号の実施と構成が記載されている。
【００２２】
本発明には、異なる符号化制限を有する２次元チャネル符号化が記載されている。その符号化制限の目的は、ある種のワーストケースパターンを防止することである。実施例により、以下に２次元六方符号を示す。しかし、留意すべきことは、本発明の一般的なアイデアとすべての手段はいかなる２次元符号に適用することもでき、特に、２次元六方または正方格子符号、もしくは疑似稠密充填格子符号に適用可能である。最後に、その一般的なアイデアは、符号の１次元展開で特徴づけられる、一様性制限を有した多次元符号にも適用できる。
【００２３】
本発明によると、データは２次元格子上に記録される。この格子は、好ましくは六角形であるが、直交していてもよく、ビット位置のその他の可能な周期的繰り返しであってもよい。データは、好ましくは、広いらせんの方向に沿ったスキャン方向に、レーザスポット列を用いて１次元的に、２次元格子をスキャンすることにより読み出すことができる。本発明の好ましい実施形態において、符号は、レーザスポット列のスキャン方向と同じ１次元方向に沿って展開（evolve）する。２次元フォーマットの広いらせんは２次元のストリップにより構成されている。チャネル符号ワードは半径方向にストリップをフルに使用する。２次元のストリップは複数の１次元の行よりなり、その１次元の行が第１の方向に垂直な第２の方向に並んでいる。ストリップベースの２次元符号化の原理を図２に示した。半径方向には１以上のストリップ行がある。広いらせん内のストリップは並んでおり、２種類のストリップがある時には交互に並んでいることが好ましい。広いらせんの隣り合った旋回の間には、例えば１行のガードバンドがある。各レーザスポットを用いたデータのスキャンから得られる光チャネルは、周知の通りfsp=2NA/λにハードカットオフを有し低い周波数のみを通過させる。変調伝達関数（MTF）は、
【００２４】
【数１】
2007514252.tif 000003
と記述することができる。
【００２５】
１次元の場合、この変調伝達関数がシンボル間干渉の大きさとトラック方向のシステムが達成可能な線形密度とを決定する。半径方向において、密度はトラックピッチにより決まる。トラックピッチの値は、データを読み出す時の光クロストークか、相変化媒体にデータを書き込む時の熱クロストーク（クロス消去）によって決まる。変調符号は、データのスペクトルがローパス光チャネルによりうまく伝送されるように、トラック方向に沿って展開するデータのために設計されている。それゆえ、図３ａに示した１次元関数のMTFのみを考える。しかし、２次元の場合には、データはすべての方向に同様に展開する。２次元の変調符号を設計するときは、MTFの形状はすべての方向で同様に重要である。MTFは図３ｂに示したように２次元関数として考えねばならない。この「中国帽子」関数の半径は、上と同様にfsp=2NA/λである。その２次元MTFは半径NA/λを有する円形トップハット関数の自己相関関数と見ることができる。
【００２６】
以下の説明では、例として六方格子を考えるが、その理由は、六方格子が正方格子より密度的に有利だからである。正方格子のパッキングフラクションは２次元六方格子よりも１５％小さい。ビットは、その六方格子定数より小さい半径を有するピットとしてこの六方格子にわたり分布している。これは信号の重なりを避けるために必要である。HF信号はスカラー回折モデルで計算できるが、図４に示したように、中心タップ値がc0で中心ビットの周りの６つの最近隣ビットのタップ値がc1であるリニアモデルを用いて、合理的な精度で近似することができる。
【００２７】
一見、この格子の最もクリティカル（高い）周波数は、図５に示したように０（−）と１（＋）の周期的繰り返しであるように見える。リニアモデルから、
【００２８】
【数２】
2007514252.tif 000004
となるHF信号が得られる。ここで、符号はクラスターの極性によってきまる。
【００２９】
クリティカルパターンのすべてのビット位置でc0=2c1であるとき、HF信号はゼロである。MTFのカットオフではリニアモデルはこのc0=2c1という条件を満たすことを示している。六方格子パラメータaHによりクリティカルパターンの０と１の平面間の距離が決まる。その距離はd=√3aHである。この周期dの結果、周波数は2NA/λのカットオフを有する。
【００３０】
【数３】
2007514252.tif 000005
λ=405nmとNA=0.85を代入すると、格子パラメータは137.5nmとなる。この格子パラメータを用いたスカラー回折シミュレーションによりc0=2c1であるリニアモデルに合理的に合致するHFレベルが得られる。これは正しいと思われる。等価面積密度はBDで得られる面積密度の2.2倍である（広いらせんの１１トラックごとに、各々１ビット行の幅を有するいわゆるガードバンドを挿入した場合、BDの面積密度の2.0倍である）。
【００３１】
上の計算の第２のチェックは逆格子の計算から導かれる。このため、六方格子を２つのベースベクトル
【００３２】
【数４】
2007514252.tif 000006
で記述する。
【００３３】
これの概略を図６に示した。１次元の場合にこのようなベクトルに相当するのは、格子定数（空間的）またはサンプリング周期T（時間的）を示すスカラーである。
【００３４】
ここで、（与えられた２次元周期格子L）いわゆる生成行列を定義することができる（この生成行列は一意的ではない）。
【００３５】
【数５】
2007514252.tif 000007
逆格子の生成行列は、元の格子（ビットが配列された格子であり、実空間または直接空間格子とも呼ばれる）の生成行列の転置逆行列である。
【００３６】
【数６】
2007514252.tif 000008
逆格子も六方格子である。図７に概略的に示したように、逆格子は元の格子に対してπ/6回転しており、係数1/2√3だけスケールされている（留意すべきことは、六角形だけがπ/6だけ回転していることである。それぞれのベースベクトルがπ/6と−π/6だけ回転している。）。図面には逆格子の可能な基本ドメインを複数示した。基本ドメインは、隣接するもの同士が重なり合わず、すべての格子点の基本ドメインをつなげると２次元空間が埋め尽くされるという特性を有するエリアのことである。２次元のシャノンのサンプリング定理によれば、空間領域の関数は、フーリエ変換が逆格子の基本ドメインに含まれていれば、サンプリングされたものから再生することができる。図７に示したように、基本ドメインは一意的には決まらないが、六方基本ドメインを選択することが好ましい（このように六方ドメインが２次元MTFの円い形に最もよくフィットすることは、パッキングフラクションに関する上の議論を支持し、偶然ではない）。さらに留意すべきことは、図７の方形基本ドメインは、六方格子の場合、一方向の周波数は、それに垂直な方向の周波数が少し低く制限されていることが分かっていれば少し高い周波数でもよいことである。
【００３７】
逆格子上の点の間の距離は2/√3aHである。これは、各格子点の周りに互いに接する円を描くと、その半径は1/√3aHであることを意味する。この半径の１次元等価物はある種のチャネルのカットオフ周波数として取り扱われる。その円は、図３ｂに示したMTFのベース平面と見ることができる。そのような円周の半径は2NA/λに等しい。これは、以下のように書けることを意味する。
【００３８】
【数７】
2007514252.tif 000009
この値がすでに上で導いた値と等しいことにより、上の議論が正しいことが分かる。格子そのものの他に、この格子に周期的パターンの生成行列を定義することもできる（これらは結晶学における超構造として知られている）。例えば、上で説明したクリティカルパターンは、以下のように書ける。
【００３９】
【数８】
2007514252.tif 000010
対応する逆格子は、
【００４０】
【数９】
2007514252.tif 000011
この格子のベクトルは逆格子中に描かれる。これは図８に示した。さらにまた、上で説明した円が描かれている。クリティカルパターンの逆ベクトルの一つがちょうど円周の上にある（すなわち、ちょうどMTFのカットオフ上）。これは（f2の方向の）小さな×印で示した。
【００４１】
上で、MTFのベースとして見ることができる周波数ドメインの接円が描かれている。これらの円はカットオフ周波数と同じものとして取り扱われる。周波数空間は接円を描いても完全にはカバーされないように見える。これは、選択された密度と光学パラメータの組み合わせにおいて、変調伝達関数により伝達されない信号の周波数成分があることを意味している。この問題を調べるとき、円の間のエリアにほとんどまたはすべてのエネルギーを有するビットパターンが在るらしい。最も顕著な例は、図９に示したものである。格子の基底ベクトルも図９に示した。図９に丸に十字の印で示した逆格子の六方基本ドメインの角に逆ベクトルがある。
【００４２】
このパターンのHFサンプルはc0-6c1または-c0と等しい。これは、
【００４３】
【数１０】
2007514252.tif 000012
の時、クリティカルパターンの一つのビットから他のビットまで行くとき、HFサンプルはなにも変調を示さないことを意味する。これは、また、ワーストケースパターンがより長い時間生じる場合、エンコーダのPLLはロックがはずれるか、位相偏差が激しくなることを意味する。
【００４４】
この問題に対する一つの解決策は、円が周波数空間と完全に重なりこれをカバーするように、密度を下げることである。しかし、これではかなりの密度がかかる。円の半径を大きくすると、図８から明らかなように1/cos(30°)=2/√3倍である。密度比は簡単に(2/√3)2=4/3と計算される。これは、最初に仮定した密度の75％だけであり、すなわち、BDの密度の0.75*2.2=1.65倍であることを意味する。
【００４５】
第２のより好ましい可能性として、カバーされていない領域の周波数成分を有するパターンをデータから除外する。これは好適な変調符号を適用することにより実現することができる。既知の変調符号が欧州特許出願第02076665.5号（PHNL020368）に記載されている。この文献では、Nrows行よりなるストリップ方向の１次元に展開する２次元変調符号（いわゆる、フィッシュボーン符号）が提案されている。チャネルワードは、それぞれ媒体に記録される連続したNRZIビット間の遷移のタイプを示すM進（M=2Nrow）NRZチャネルシンボルのシーケンスよりなる。この変調符号は、２次元ストリップに３つの行がある現実的な場合を考えて説明する。本発明は行数が３より大きい場合にも適用可能であるが、簡単のためここではこの仮定に沿って説明する。上述の欧州特許出願で導入された孤立ビットの概念は必要なく、それゆえ最初の状態遷移図（STD）では４つの状態しか必要ない。これらの状態は図１０に示した。
【００４６】
（ワーストケース）パターンの異なる極性を区別する必要はないので、逆の二値シンボルを示すｘとｙで状態を示した（すなわち、ｘを０または１とすると、ｙは１または０である）。極性を厳密に考慮しなくてよい理由は、（好ましくはディスクに記録される）出力データが１Ｔ−プレコーダ（インテグレータモジュロ２）を用いてNRZデータから生成される二値NRZIタイプだからである。この場合、１Ｔ−プレコーダは、らせんの方向に沿って１次元で動作する。すでに述べたように、状態遷移はチャネルシンボルにより記述される。この場合、チャネルシンボルは、NRZビットがそれぞれバイポーラNRZIチャネルビットストリームの遷移（１）または遷移が無いこと（０）を示すビットトリプレットにより構成されている。これは図１１に示した。
【００４７】
ワーストケースパターンを生じるNRZチャネルシンボルのシーケンスを書き下すことができる。図９に示した。ワーストケースパターンは他にもあることに留意すべきである。その一部を図１２に示したテーブルに（包括的ではないが）挙げた。
【００４８】
これらの基本的ビルディングブロックを繰り返して長いパターンを形成することができる。比c0/c1の選択によっては中央の行の変調が現れない。状態σ３から始めたとき、図９のパターンのシーケンスは図１３に示したようになる。
【００４９】
留意すべきことは、最後の状態は最初の状態と等しく、シーケンスを繰り返してより長いワーストケースパターンを形成することができることである。そのパターンが形成されるのを検出したらすぐにこのシーケンスをトランケートすることにより、ワーストケースパターンにつながるNRZシンボルのシーケンスを無くすことが好ましい。以下の例では、ワーストケースパターンの一部であるNRZIトリプレットが２回連続すると、そのシーケンスをトランケートする（もちろん、このパターンに対するビット検出のロバスト性と、システムの許容されたランダムエラーのバースト的な振る舞いとに応じて、より長いシーケンスを許容してもよい）。同じNRZIトリプレットを有するが、次のワーストケースパターンのトリプレットにつながるシンボルのファンアウトを有さない「色つき」状態を規定することにより、トランケーションがなされる。
【００５０】
上記の場合、σ５はNRZシンボル（５）のファンアウトがないσ３にあたる。同様に、σ６はシンボル（２）のないσ１にあたり、σ７はシンボル（７）がないσ３にあたる。これは、状態遷移図が図１５に示したように見えることを意味する。対応する結合行列を図１６に示した。
【００５１】
この結合行列の最大固有値λmaxは7.91697である。これは、この符号のキャパシティが
【００５２】
【数１１】
2007514252.tif 000013
であることを意味する。係数1/3は、各状態が３ビットから構成されるチャネルシンボルに対応するから必要となる。符号レートは約１であることが分かる。これは特に驚くべきことではない。というのは、ワーストケースパターンはあまり頻繁には発生しないからである。すでに上で述べたように、ワーストケースパターンの付加的問題は、変調がゼロであり、（広いらせんの方向に対して傾いたレーザスポットアレイから得られる信号波形を位置決めする）PLLまたは遅延同期ブロックに問題が発生するかも知れないことである。PLLまたは遅延同期ブロックに生じる問題の他の原因は、０または１が連続する長い数字である。ロバストなタイミングリカバリーを考慮して、ｋ制限を含むことが有利である。ｋ制限は接線方向のKtと半径方向のKrの双方に適用できる。接線方向のｋ制限を導入するために、ゼロでないシンボルの間で生じる連続したシンボル（０）の最大数はKtに限定される。例えば、Kt=1の場合、エンコーダは単一のシンボル（０）を出力することができる。余分な状態σ１′になる。この状態からは、シンボル（０）を出力することはできない。このような構成は、状態遷移図の状態数が倍になることを意味する。この結果、図１７に示した結合行列となる。同一の方法を１より大きいKt制限に適用することができる。
【００５３】
状態σ１からσ４までの主対角線上において、図１６に示した上記の結合行列を比較して値が１小さくなっている。その理由は、これらの状態でシンボル（０）を出力しても同じ状態にはならず、σ１′ないしσ４′の余分な状態になるからである。これにより、結合行列のこの部分はI4（４行４列の単位行列）となる。状態σ５ないしσ７においてシンボル（０）を出力する場合、ワーストケースパターンの生成が自動的に止まる。結果として、次の状態はσ１′ないしσ４′のうちのどれかである。例として、σ５でシンボル（０）を出力する場合、次の状態はσ５′ではなくσ３′である。状態σ１′ないしσ７′にいる場合、シンボル（０）を除くいかなるシンボルを出力してもよい。それゆえ、行列のこの部分は、同一の行列の左上コーナーのコピーであり、残りはゼロで満たされる。Kt=2の場合、他の７つの状態を加えることができ、同じ方法を使用することができる。これらは符号制限であり、実際的な符号制限を以下に説明する。
【００５４】
半径方向の制限Krは、状態σ１では破られるかも知れない。それはトリプレットのすべてのビットが等しいからである。その後の状態σ１への遷移は、シンボル（０）またはシンボル（７）を介することができる。シンボル（０）は、接線方向の制限Ktの導入によりすでに除外されている。それゆえ、制限Krの実装は、σ１と同じでシンボル（７）のファンアウトを有さない状態を追加することによりできる。半径方向のデータの再サンプリングを考慮すると、（ラジアルトラッキングが粗い場合）半径方向のｋ制限がより重要になるかも知れない。Kt=2であるチャネル制限の容量はほぼ１なので、好ましい一実施形態において、１５２→１５３符号マッピングが選択される。これにより、３ビットのフィッシュボーンが５１個できる。３ビット行のストリップ内のビット行の一つにDC制御用のフィッシュボーンを１つ追加する（４５ソースビットごとに１DC制御ビットを追加するBDと比較できる）。１５２ソースビットは152/8=19バイトになる。ワーストケースパターンを削除する符号を実装すると、ワーストケースパターンは選択された３行ストリップ内では発生しないようである。しかし、ストリップが集積すると、またワーストケースパターンになる（例えば、ストリップAとBが集積すると、ストリップAの最下行とストリップBの上２行よりなる３行ストリップにおいてワーストケースパターンが生じる可能性がある）。それ故、幅が３ビット行のストリップの間には（幅が１ビット行のストリップと考えることができる）分離トラックを挿入することが好ましい。この分離トラックの符号は、ｋ制限を有し、ワーストケースパターンになりうる「1001001001…」と「0110110110…」のシーケンス（NRZI）の双方を削除する。これは１２→１３符号を適用することによりなされる（符号の構成はここでは説明しないが、状態分離と状態結合を有する周知のACH法を使うことができる）。4*13はフィッシュボーン数（51+1）に完全に一致し、バイトオリエンテッドなアプローチに適合する。１２ビットの各ユーザワードは、1.5バイトであり、4*1.5=6バイトである。つまり、この例では、１つの１１行ブロックに符号化された全バイト数は６９バイト（3*19+2*6）である。同じフォーマットで行数を変えてもよいが（nを整数として4n+3）、本提案では、中央の行はサーボのためにDCフリーでなければならず（１２→１３符号はDCフリーではない）。これは、現在の１２→１３符号はｎが偶数のとき（３、１１、１９、．．．ビット行のとき）に適用可能であることを意味する。
【００５５】
１５２→１５３符号の実装は、一般にルックアップテーブル（またはコードブック）が非現実的に大きくなる。この問題を回避する方法は、T.M.Cover「計数的ソースコーディング（Enumerative  Source  Coding）」IEEE  Trans.  Inf.  Theory,  Vol  IT-19,  No.1,  Jan.  1973に記載されているように計数コーディングを適用することである。可能な各符号語には、辞書式順序におけるその位置によりインデックスが与えられる（辞書式順序を用いて、例えば、１０進法において、４は０、１、２、３よりも順位が高く、２進法において、１は０より順位が高い。別の書き方をすると、０＜１）。２進シーケンスの場合、インデックスは
【００５６】
【数１２】
2007514252.tif 000014
により計算できる。ここで、ns(x1,x2,…,xk)は、最初のｋ座標が(x1,x2,…,xk)により与えられるシーケンス数である。図１８に示した例により、本方法を説明する。本発明の符号実装において、２進シーケンスは得られないが、M進シンボルのシーケンス（本実施形態ではM=2Nrows=8）。シンボルは｛０、１、２、３、．．．、M-1｝の要素である。辞書式インデックスは
【００５７】
【数１３】
2007514252.tif 000015
と書くことができる。
【００５８】
M進シンボルのシーケンスはチャネルデータとして考えることができ、シーケンスのシンボルの各々の辞書式インデックスは、等価変調復号シーケンスである。コード表は必要ない。
【００５９】
符号化のため、逆プロセスを使用する。辞書式インデックスを示すデータから開始する。辞書式インデックスis(x)=iは与えられていると仮定する。２進の場合（すなわち、上の式is(x)の逆）、以下のステップに従わなければならない。
【００６０】
【数１４】
2007514252.tif 000016
（２進データの場合）このプロセスに従って符号化ができる。同様の符号化プロセスを２次元のM進データに使用できる。この場合でも大きな符号テーブルは必要ない。上記のis(x)の最後の式によると、ns(x1,x2,…,xj-1,m)により表された数字のセットだけが必要である。d制限のある１次元RLL二値符号化において、この数字のセットはxjNd(n-j)に減少する（xjは二値ビット値、nはチャネルワード長、Nd(p)は長さpのd制限のあるシーケンスの数である）。現在の２次元の場合には、ビットの六方格子に位置決めされた３ビット行のストリップでは同様の削減はできない。
【００６１】
状態遷移図のσ１に常に等しい状態Σ０から符号化が始まるとする（時刻ｊにおける状態をΣｊで示す。この状態は状態遷移図中の状態の１つである。すなわち、Σｊ∈｛σ１、σ２、．．．、σｎ｝）。シンボルｍの出力についてシンボル位置ｊにおいて実際に考慮する必要があるものは、状態遷移図を通る経路を表す、以前に出力されたチャネルシンボルｘ１、ｘ２、．．．、ｘｊ−１の履歴を考え、結果として得られる状態である。この概略を下に示す。結果として得られる状態はΣjmにより示した。
【００６２】
【数１５】
2007514252.tif 000017
よって、
【００６３】
【数１６】
2007514252.tif 000018
が得られる。ここで、n’s(Σjm)は、チャネルワードが完了した後、状態Σjmからいずれかの可能な状態までの総ファンアウトを示す（終わりまでn-jの余分なシンボルの出力を伴う）。それゆえ、
【００６４】
【数１７】
2007514252.tif 000019
が得られる。ここで、Dは状態遷移図の結合行列であり、必要なべき乗はn-j（出力すべき残りのシンボル数）であり、必要な行列要素は(Σjm,q)であり、和はすべての可能な状態ｑについて取られる。
【００６５】
計数的符号化のアルゴリズムは図１９により詳しく示した。ユニークなインデックスがユーザワードに付随している。ユーザワードはｎ個のフィッシュボーンよりなるチャネルワードにマップされる。M進チャネルシンボル（M=2Nrow）が書くフィッシュボーンに対応する。ここで考えている実際的な場合では、Nrow=3、M=8である。チャネルワード中の連続したフィッシュボーンのM進チャネルシンボル（j=1,2,…,n）を一つずつ計算する。最初のステップ（S1）において、初期状態Σ0が（最初のシンボルが生成される前に）状態遷移図の最初の状態σ１に設定される。
【００６６】
その後、０から始まり、可能なすべてのシンボルについてループが始まる（S2）。flag[j]により示されるフラグが各シンボルx[j]に付随する。flag[j]は、ｍのループの開始時に０に設定される。次に（S3）、シンボル位置ｊの候補シンボルｍを状態Σj-1から出力できるかどうか、及び現在のシンボル位置のフラグがまだ「１」にされていないかどうかをチェックする。これが真のとき（「Y」）、一時的パラメータ「itmp」を計算する（S4）。この一時的パラメータitmpは、位置ｊにおいてシンボルｍで開始する可能なチャネルシーケンスの数である。その目的のため、位置ｊにある候補シンボルｍの出力により生ずる次の状態をまず計算する。この状態をΣjmとする。チャネルワードの終わりに到達するために出力すべき残りのシンボル数はn-jであり、状態Σjmからチャネルワードの終わりの可能ないずれかの状態ｑへの総ファンアウトが結合行列Dの(n-j)乗の行列要素（Σjm、ｑ）のｑについての和として計算される。このファンアウトは、３つのパラメータに依存する。すなわち、（i）開始する状態（よって、以前のシンボルの履歴を考慮する）、（ii）調べるチャネルシンボルの位置ｊ、及び（iii）位置ｊのチャネルシンボルとして考えられる候補シンボルｍである。インデックス（または、以前の繰り返しの後に残ったもので「jtmp」で示す）がパラメータ「itmp」より大きい場合（S6）、「jtmp」を「itmp」減じ（S7）、位置ｊにあるシンボルはm+1に（少なくとも）等しい。他の場合（「jtmp」が「itmp」より小さい）、現在の位置ｊのフラグを「１」にする（S8）。これは、ｍが大きくなってもこの位置には別の操作がなされないことを意味する。
【００６７】
ｍのループが終わると（S9）、結果として得られるシンボルx[j]が「０」であるか、その場合、Kt制限を考慮して状態Σj-1から許容されるかどうかをチェックする（S10）。そうでない場合、シンボルを１増やし、x[j]=1とする（S12）。これにより、x[j]について最終決定する。その後、最終的に得られる次の状態Σjを計算する（S13）。次に位置「ｊ」を１増やす（S14）。まだチャネルワードの終わりに達していなければ（「Y」、よってj≦n）（S15）、新しい現在位置ｊについてｍループを開始するために戻る。j=n+1（「N」）の場合、チャネルワードの終わりに到達しており、すべてのチャネルシンボルが決定されている（(x[1],x[2],…,x[n])により示す）。これで符号化プロセスが終了する。
【００６８】
ワーストケースパターンをなくすためのその他の可能な方法は、「禁止」サイトを使用することである。禁止サイトを用いて、それらのビット位置は、その場所に書き込むべき実際のビット値とは別に、特定のビット値で占められた時、以前のデータビットとの組み合わせにおいてワーストケースパターンとなる。これらの禁止ビット位置は、ワーストケースパターンの形成を防止するビット値で満たされ、２次元チャネルストリームの次のビット位置に次のビットを書き込むことを検討する。禁止ビット位置の一部をスキップする必要があるので、スキップされた位置の記憶スペースを収容するために必要な拡張エリアがある。特定のシンボルのファンアウトを禁止するのと同様に、ビット位置が「禁止されている」ことをマークする。これらのサイトにデータを格納することはできないので、発生するワーストケースパターンの数に応じて、チャネルの容量は確率的になる。これは、拡張エリアである予約データの小さな部分を加えることにより解決できる。そのプロセスは以下の通りである。NRZIビットを（例えば３行）ストリップに順次書き込む。あるビット位置が０または１のワーストケースパターンになるとき、ワーストケースパターンを生じないビット値を書き込む。これらの禁止サイトは予約されたデータブロックに加えられるため、データを格納することはできない。禁止サイトをまったく使用しない場合、予約された拡張サイトにゼロを入れる。予約データブロックのサイズは、禁止ビットの最大数である。（予約部分のビットも含めた）データをエラー訂正ブロックへの入力として使用する。予約ブロック内のビットに関する情報を含むパリティを計算する。（予約ブロックを除いた）データとパリティをチャネルを介して送信する。レシーバ側において、予約部分に含まれるデータは利用可能ではない。これらのデータは、初めにゼロに設定し、ECCの効率を犠牲にしてECCを使用することにより、再生できる（予約データの各「消失」バイトごとに２パリティシンボル）。（非常に）まれな場合であるが、ECCがブロックを修正することができず、予約ブロックに必要なパリティが多すぎて予約データを読み出せず、ランダムエラーを修正できない場合、予約ブロックに（各「消失」バイトにつき２パリティを費やす）ゼロではなく（各「消失」バイトに１パリティを要する）消去を設定することによりECC処理を繰り返す。完全な方法の概略を図２０に示した。
【００６９】
符号化装置のより詳細なブロック図を図２１に示した。システム全体がクロックmclkに基づき動作する。最初に、ユーザワード（ユーザインデックス）Ukをロードし、カウンターｊとｍをそれぞれ１と０にリセットする。初期状態Σ0を１にリセットする。この初期状態とｍの最初の値に基づき、次の状態Σjmを計算する。この状態に基づき、icalcブロックで値itmpを計算する（図１９のフロー図を参照）。この値itmpを（最初Ukに等しい）値jtmpから減ずる。その結果（jtmp-itmp）が負か否かチェックする。負でなければ、ｍの次の値を評価する（mclkによりトリガーされる）。これにより、itmpの新しい値が与えられる。これを再度jtmpから減ずる（jtmpは前の繰り返しのjtmp-itmpと等しい更新値である）。（jtmp-itmp）の符号がゼロより小さいとき、itmpがjtmpから差し引かれることを防止するため、jtmpの値を、mux1への入力としてmux2経由でとる。実際、jtmp-itmpは、符号をチェックするための中間値としてだけ使用されている。符号判断ブロックの出力は１であり、次のようになる。
１．  x[j]がｍに設定される。これはチャネルワードの１シンボルである。
２．  次のチャネルシンボルx[j+1]の決定のためにMカウンターがリセットされる。
３．  次のチャネルシンボルx[j+1]の決定のためにJカウンターをインクリメントする。
Jカウンターがｎより大きくなりしだい、新しいユーザワードをロードし、ｊカウンターはリセットされる。最後の結果（x[j]の値のシリーズ、j=1からｎ）はチャネルワードの形式の出力である。留意すべきことは、このブロック図は、限定した数のゼロシンボルに対するｋ制限は含まないことである。
【００７０】
復号方法のフローチャートを図２２に示した。ユーザインデックスにより与えられるユーザワードは、まずゼロに設定される（S20）。その後、チャネルワード（符号ワード）を入力とする。符号ワードの最初のシンボルを取り（j=1）、インデックスｍを０からx[j]まで繰り返す（S21）。新しいｍの値について毎回次の状態を計算し（S22）、この状態から、位置ｊにおいてシンボルｍから開始する可能なシーケンスの総数を計算する（S23）。ユーザインデックスがこの数だけインクリメントされ（S24）、インデックスｍがx[j]より大きくなるまで、１だけインクリメントされる（S25）。その時点で（S26）、チャネルワードの次のシンボルが取られる（j=j+1）。それが最後のチャネルワードであるとき（S27）、計算されたインデックスが最終ユーザワードである。
【００７１】
２次元光チャネルの異なるワーストケースパターンについて説明した。ワーストケースパターンは、チャネルを介して送信された時、間違って検出される確率が高いパターンである。例えば、a=1が送信され、a’=-1が受信されると、エラーは-2である。以下では、エラーシーケンスを２で割って、e=(a-a’)/2として、よりコンパクトな表示を得る。さらに、より詳細な概観とこれらのパターンのカタログを与える。とりあえず、２つの異なるタイプのワーストケースパターンを区別する。
−  タイプI：２次元MTFのカットオフを超える周波数成分を有するエラーパターン。これらのパターンは上で詳細に説明した。
−  タイプII：最小重みエラーパターン。
留意すべきことは、上の定義は直交していないことである（例えば、最小重みエラーパターンは、高周波数と２次元MTFの外の部分にまで主スペクトルコンテントを有する）。この分類はパターンの見つかり方に基づいている。
【００７２】
タイプIIエラーパターンは、チャネルにわたる送信エラーパターンのユークリッド重みが小さいということにより特徴づけられる。
【００７３】
【数１８】
2007514252.tif 000020
ここで、gはチャネルレスポンスである。この種のパターンは、マッチしたフィルター境界に関して高い損失を有する。力づくでサーチした時、すべてのワーストケースパターンは＋１と−１のエラーシンボルが交互に現れる閉じたリングの形を有する。グラフィカルな表示を図２３に与えた。星はドントケアシンボルを示す。境界において、リングは境界の横で開いているかも知れない。これらのタイプのパターンを図２４ないし２６に示した。
【００７４】
チャネルビットストリーム中でこれらの種類のエラーパターンが生じないように、これらのエラーパターンの結果である状態、及び／またはこれらのエラーパターンを生じさせる状態を無くさねばならない。認められたデータシーケンス（すなわち、符号化制限を破らないデータシーケンス）中でこれらのタイプのエラーが生じると符号化制限を破るような符号制限が必要である。パターンを注意深く見ると、図２３のエラーパターンを起こさせるパターンのみがそれ自身の逆の形になっていることが分かる。それゆえ、＋１と−１のシンボルが交互に来る閉じたリングを形成するすべてのシーケンスをデータパターンから無くせば十分である。幸い、図２３の左上部分に示したワーストケースについては、上で説明した符号を用いて、これが自動的になされる。（マッチしたフィルターバウンドに関して損失が小さい）より大きなリングについては、これがあてはまらない。マッチしたフィルターバウンドに関してこれらのパターンがこのように大きい損失を有することは、これらのパターンの六方フーリエ変換からも明らかになる。図２７の例は、図２８のスペクトルとなる。
【００７５】
このスペクトルを見て、それを図２９に与えたチャネルの伝達関数と比較すると、パターンのスペクトルコンテントはほとんどがチャネルの伝達が小さい範囲のみであることがすぐに分かる。スペクトルコンテントのかなりの部分は、光チャネルのカットオフを超えている。
【００７６】
結論として、データシーケンスから無くさなければならない２タイプのパターンを区別できる（そのパターンの見つかりかたに基づき）。これらは次のように定義される。
−  パターンにより形成される格子の２次元フーリエ変換の際、光チャネルの変調伝達関数のカットオフを超える点を有するフーリエ空間中の格子になる、局所周期パターン（超構造）。
−  リングの開きが広いらせんの境界の横にある、＋１と−１のシンボルが交互にくる閉じたリングまたはストライプの境界にあるリングの一部を形成するパターン。
【図面の簡単な説明】
【００７７】
【図１】符号化システムの一般的設計を示すブロック図である。
【図２】ストリップベース２次元符号化方法を示す概略図である。
【図３】aは、１次元変調伝達関数を示す概略図であり、bは、２次元変調伝達関数を示す概略図である。
【図４】六方分布したビットのリニアモデルを示す図である。
【図５】ワーストケースパターンの第１の実施形態を示す図である。
【図６】六方（実空間）ビット格子とその基底ベクトルを示す図である。
【図７】逆格子に可能な基本領域、六方基本領域（hfd）、及び正方基本領域（rfd）のいろいろな形状を示した図である。
【図８】逆格子、基本領域、及びチャネルの２次元カットオフ周波数を表す変調伝達関数円（MTF-circle）を示す図である。
【図９】ワーストケースパターンの他の実施形態を示す図である。
【図１０】４つの初期STD状態とNRZIチャネルビットを示す表である。
【図１１】現行NRZIトリプレットから次のNRZIトリプレットへの遷移を示す図である。
【図１２】ワーストケースパターンを示す表である。
【図１３】STD状態シーケンスの具体例を示す図である。
【図１４】１４ａ−１４ｃは、異なるNRZチャネルシンボルに応じた現行STD状態から次のSTD状態への遷移と、ワーストケースパターンの生成を切り捨てるための特定シンボルの削除を示す図である。
【図１５】本発明による状態遷移図の第１の実施形態を示す図である。
【図１６】本発明による結合行列（connection  matrix）を示す図である。
【図１７】本発明の他の実施形態による結合行列を示す図である。
【図１８】計数的符号化（enumerative  encoding）に使用するプロセスを示す図である。
【図１９】計数的符号化を示すフロー図である。
【図２０】本発明を適用可能な符号化システムの設計を示すブロック図である。
【図２１】本発明による符号化装置を示すブロック図である。
【図２２】計数的符号化の際に従うフロー図である。
【図２３】本発明によるワーストケースパターンの他の実施形態を示す図である。
【図２４】最小重みパターンの第１のグループを示す図である。
【図２５】最小重みパターンの第２のグループを示す図である。
【図２６】最小重みパターンの第３のグループを示す図である。
【図２７】ワーストケースパターン（ａ）とそのフィルターをかけたバージョン（ｂ）を示す図である。
【図２８】図２７ａに示したワーストケースパターンのスペクトルを示す図である。
【図２９】理想的な２次元変調伝達関数を示す図である。
【図１】
2007514252.tif 000021
【図２】
2007514252.tif 000022
【図３】
2007514252.tif 000023
【図４】
2007514252.tif 000024
【図５】
2007514252.tif 000025
【図６】
2007514252.tif 000026
【図７】
2007514252.tif 000027
【図８】
2007514252.tif 000028
【図９】
2007514252.tif 000029
【図１０】
2007514252.tif 000030
【図１１】
2007514252.tif 000031
【図１２】
2007514252.tif 000032
【図１３】
2007514252.tif 000033
【図１４ａ】
2007514252.tif 000034
【図１４ｂ】
2007514252.tif 000035
【図１４ｃ】
2007514252.tif 000036
【図１５】
2007514252.tif 000037
【図１６】
2007514252.tif 000038
【図１７】
2007514252.tif 000039
【図１８】
2007514252.tif 000040
【図１９】
2007514252.tif 000041
【図２０】
2007514252.tif 000042
【図２１】
2007514252.tif 000043
【図２２】
2007514252.tif 000044
【図２３】
2007514252.tif 000045
【図２４ａ】
2007514252.tif 000046
【図２４ｂ】
2007514252.tif 000047
【図２４ｃ】
2007514252.tif 000048
【図２４ｄ】
2007514252.tif 000049
【図２４ｅ】
2007514252.tif 000050
【図２４ｆ】
2007514252.tif 000051
【図２４ｇ】
2007514252.tif 000052
【図２４ｈ】
2007514252.tif 000053
【図２４ｉ】
2007514252.tif 000054
【図２５ａ】
2007514252.tif 000055
【図２５ｂ】
2007514252.tif 000056
【図２５ｃ】
2007514252.tif 000057
【図２５ｄ】
2007514252.tif 000058
【図２５ｅ】
2007514252.tif 000059
【図２５ｆ】
2007514252.tif 000060
【図２５ｇ】
2007514252.tif 000061
【図２５ｈ】
2007514252.tif 000062
【図２５ｉ】
2007514252.tif 000063
【図２５ｊ】
2007514252.tif 000064
【図２５ｋ】
2007514252.tif 000065
【図２５ｌ】
2007514252.tif 000066
【図２６ａ】
2007514252.tif 000067
【図２６ｂ】
2007514252.tif 000068
【図２６ｃ】
2007514252.tif 000069
【図２６ｄ】
2007514252.tif 000070
【図２６ｅ】
2007514252.tif 000071
【図２６ｆ】
2007514252.tif 000072
【図２６ｇ】
2007514252.tif 000073
【図２６ｈ】
2007514252.tif 000074
【図２６ｉ】
2007514252.tif 000075
【図２６ｊ】
2007514252.tif 000076
【図２７ａ】
2007514252.tif 000077
【図２７ｂ】
2007514252.tif 000078
【図２８】
2007514252.tif 000079
【図２９】
2007514252.tif 000080
【国際調査報告】
2007514252.tif 000081
2007514252.tif 000082
2007514252.tif 000083
2007514252.tif 000084