(57)【特許請求の範囲】
【請求項１】
複数のＦＳＭ入力を受信し複数のＦＳＭ出力を作り出す有限状態機械（ＦＳＭ）のモデルが、縮小状態トレリスによって表され、前記ＦＳＭ入力が基本閉集合の記号に関して定義されるディジタル情報処理システムにおける、前記ＦＳＭ入力上のソフト判断情報をより信頼性の高い情報に更新するための方法であって、
（ａ）前記ソフト判断情報を入力するステップと、
（ｂ）順方向状態メトリックを作り出すために、前記縮小状態トレリスによって特定されない決定からなる順方向に打ち切られた残存経路を用いて前記入力したソフト判断情報上の順方向再帰を処理するステップと、
（ｃ）逆方向状態メトリックを作り出すために、前記縮小状態トレリスによって特定されない決定からなる逆方向に打ち切られた残存経路を用いて前記入力したソフト判断情報上の逆方向再帰を処理するステップと、を含み、前記逆方向に打ち切られた残存経路は前記順方向に打ち切られた残存経路と区別され、
（ｄ）前記順方向状態メトリックおよび前記逆方向状態メトリックについて演算を行って、前記より信頼性の高い情報を作り出すステップを含み、前記演算は、加算、乗算、最小、最大、最小＊、（ここで、最小＊（ｘ，ｙ）＝最小（ｘ，ｙ）−ｌｎ（１＋ｅ−│ｘ−ｙ│））、最大＊、（ここで、最大＊（ｘ，ｙ）＝最大（ｘ，ｙ）−ｌｎ（１＋ｅ−│ｘ−ｙ│））、線形重みづけ、累乗、そして、これらの組み合わせの演算のうち、少なくとも１つを含み、
（ｅ）前記より信頼性の高い情報を出力するステップとを含む方法。
【請求項２】
（ｆ）フィードバック経路を介して前記出力したより信頼性の高い情報を使用して前記入力したソフト判断情報を修正するステップと
（ｇ）終了条件が満たされるまでステップ（ａ）から（ｆ）を繰り返すステップとをさらに含む請求項１に記載の方法。
【請求項３】
順方向再帰処理のステップが、
残余状態情報を使用して、縮小状態トレリス情報を増補し、前記順方向状態メトリックを作り出すステップと、
前記残余状態情報を更新するステップとを含む請求項１に記載の方法。
【請求項４】
逆方向再帰処理のステップが、
残余状態情報を使用して、縮小状態トレリス情報を増補し、前記逆方向状態メトリックを作り出すステップと、
前記残余状態情報を更新するステップとを含む請求項１に記載の方法。
【請求項５】
前記残余状態情報が前記ＦＳＭ入力に基づく複数の判断である請求項３に記載の方法。
【請求項６】
前記残余状態情報が前記ＦＳＭ入力に基づく複数の判断である請求項４に記載の方法。
【請求項７】
複数のＦＳＭ入力を受信し複数のＦＳＭ出力を作り出す有限状態機械（ＦＳＭ）のモデルを縮小状態トレリスとして表すことにより、ソフト判断情報をより信頼性の高い情報に更新するためのディジタル情報処理デバイスであって、前記ＦＳＭ入力が基本閉集合の記号に関して定義され、
前記ソフト判断情報を入力するための複数のデバイス入力と、
順方向メトリックを作り出すために、前記縮小状態トレリスによって特定されない決定からなる順方向に打ち切られた残存経路を用いて前記入力したソフト判断情報に関して順方向再帰を処理し、かつ逆方向状態メトリックを作り出すために、前記縮小状態トレリスによって特定されない決定からなる逆方向に打ち切られた残存経路を用いて前記入力したソフト判断情報に関して逆方向再帰を処理する複数の処理ユニットとを有し、前記逆方向に打ち切られた残存経路は、前記順方向に打ち切られた残存経路と区別され、前記順方向状態メトリックおよび前記逆方向状態メトリックについて演算を行って、前記より信頼性の高い情報を作り出し、前記演算は、加算、乗算、最小、最大、最小＊、（ここで、最小＊（ｘ，ｙ）＝最小（ｘ，ｙ）−ｌｎ（１＋ｅ−│ｘ−ｙ│））、最大＊、（ここで、最大＊（ｘ，ｙ）＝最大（ｘ，ｙ）−ｌｎ（１＋ｅ−│ｘ−ｙ│））、線形重みづけ、累乗、そして、これらの組み合わせの演算のうち、少なくとも１つを含み、
さらに、前記より信頼性の高い情報を出力するための複数のデバイス出力を有するデバイス。
【発明の詳細な説明】
【０００１】
（関連出願の相互参照）
適用なし。
【０００２】
（連邦政府後援の研究開発の下でなされた発明に対する権利に関するステートメント）
本作業は、アメリカ陸軍通信電子指令部（ＵＳ  Ａｒｍｙ  ＣＥＣＯＭ）の司令官によって発行されたアメリカ陸軍中小企業革新技術研究契約（ＵＳ  Ａｒｍｙ  ＳＢＩＲ  ｃｏｎｔｒａｃｔ）、ＡＭＳＥＬ−ＡＣＣＣ−Ａ−ＣＦ／ＥＷ情報契約（Ｉｎｔｅｌｌｉｇｅｎｃｅ  Ｃｏｎｔｒａｃｔ）第ＤＡＡＢ０７／９８／Ｃ／Ｋ００４号により支援されたものである。
【０００３】
（発明の背景）
現在、反復データ検出の目覚ましい性能によるソフト入力／ソフト出力（ＳＩＳＯ）アルゴリズムに大きな関心が集まっている。Ｖｉｔｅｒｂｉアルゴリズム（ＶＡ）と同様に、ＳＩＳＯアルゴリズムは、有限状態機械（ＦＳＭ）としてモデルになることのできる埋め込み型システムに対して導入された。しかし、ＶＡのようにハード判断をするのではなく、ＳＩＳＯアルゴリズムは、調査したデータに対して、ソフト判断、すなわち、信頼度測定を生成する。ハード判断は、ソフト情報をしきい値処理することにより容易に得ることができる。ハード判断に比べて主な利点でもあるソフト情報の重要な考え方は、ソフト情報を何らかの方式で（たとえば、反復により）洗練させて、後に行うハード判断をより信頼度の高いものにすることができるということである。したがって、ＳＩＳＯアルゴリズムは、特に、反復データ検出に適している。この利点により、ＳＩＳＯアルゴリズムは、（直列と並列の両方の）ターボ符号や他の符号の復号、ほぼキャパシティ一杯のマルチユーザ検出、ほぼ最適の２次元データ検出、フェージング・チャネル内のＴＣＭ信号の検出などのさまざまなアプリケーションに広く使用されてきた。
【０００４】
ＳＩＳＯアルゴリズムを実際に実施する場合に直面する最大の障害は、おそらく、その複雑性である。ＳＩＳＯアルゴリズムの複雑性は、たとえば、記号間干渉（ＩＳＩ）チャネルのタップ数または畳込み符号の拘束長など、ＦＳＭのメモリの長さとともに指数的に増大する。このようなアルゴリズムの複雑性により、最新の信号処理ハードウェアおよびソフトウェアもまったく活用できなくなることは想像に難くない。定期最小シーケンス・メトリック（ＦＩ−ＭＳＭ）ＳＩＳＯアルゴリズムについて、その計算の複雑性は、ＶＡの約２倍であり、必要とされるメモリ・ユニットの数は、ＦＳＭのブロックの長さと状態数の積に比例する。たとえば、ＦＩ−ＭＳＭアルゴリズムをＱＰＳＫ信号方式の１０タップＩＳＩチャネルに適用すると、その複雑性はＦＳＭの状態数によって決定され、該変調方式の位数に対して（タップ数−１）により累乗したもの（４９＝２６２，１４４）となる。したがって、関連信号処理システムで、２６２，１４４の可能な状態に基づいてＳＩＳＯ計算を行うことが望まれているため、送信機およびチャネルのこの比較的簡単な例では、実施が非常に困難であることが分かる。これは、今日ほとんどのアプリケーションにとっても実際上不可能なタスクである。
【０００５】
したがって、標準ＳＩＳＯアルゴリズムの計算のおよびメモリの複雑性を著しく減少させるが素晴らしい性能を発揮できるソフト入力に基づくソフト出力を作り出すためのディジタル情報処理の方法が必要とされている。
【０００６】
（発明の概要）
本発明によれば、複数のＦＳＭ入力を受信し複数のＦＳＭ出力を作り出す有限状態機械（ＦＳＭ）のモデルが、縮小状態トレリス(reduced state trellis)によって表され、ＦＳＭ入力が記号の基本閉集合に関して定義されるディジタル情報処理システムにおける新規な方法は、ＦＳＭ入力上のソフト判断情報をより信頼性の高い情報に更新するために提示され、それにより、（１）ソフト判断情報は、第１のインデックス集合内に入力され、（２）順方向状態メトリックを作り出すために順方向再帰が縮小状態トレリス表現に基づいて入力ソフト判断情報に関して処理され、（３）逆方向状態メトリックを作り出すために逆方向再帰が縮小状態トレリス表現に基づいて入力ソフト判断情報に関して処理され、かつ逆方向再帰は順方向再帰とは無関係であり、（４）より信頼性の高い情報を作り出すように、順方向状態メトリックおよび逆方向状態メトリックが動作する。
【０００７】
一実施態様では、事後確率（a-posteriori probability:ＡＰＰ）ＲＳ−ＳＩＳＯアルゴリズムが使用される。別の実施形態では、ＡＰＰ  ＲＳ−ＳＩＳＯアルゴリズムより計算が簡単な最小シーケンス・メトリック（minimum sequence metric:ＭＳＭ）ＲＳ−ＳＩＳＯアルゴリズムが使用される。
【０００８】
さまざまなコンテキストに基づく数値シミュレーションの結果も、ＲＳ−ＳＩＳＯアルゴリズムの性能を示すために提示される。
【０００９】
本発明は、ディジタル信号処理システムにおけるデータ検出の複雑性および精度を改良する特有の応用例を提供する。本発明は、添付図面とともに、関連した以下の詳細な説明を参照することによって、よりよく理解されるであろう。
【００１０】
（特定の実施形態の説明）
図１は、トレリス符号化変調（ＴＣＭ）エンコーダ１４を用いたディジタル通信システム１０を示す図である。このようなＴＣＭエンコーダ１４は、有限状態機械（ＦＳＭ）としてモデルになることのできる多くのプロセスのうちの１つにすぎない。他のこのようなプロセスには、ターボ符号や他の符号に基づくエンコーダ、ほぼキャパシティ一杯のマルチユーザ検出(near-capacity multi-user detection)、ほぼ最適の２次元データ検出(near-optimal two-dimensinal data detection)、フェージング・チャネル(fading channel)、記号間干渉（inter symbol interference:ＩＳＩ）チャネルが含まれるが、必ずしもこれらに限定されるものではない。図１を参照すると、ディジタル通信システム１０は、特定の閉集合の記号に関して定義される記号を提供するデータ・ソース１２を備える。たとえば、２進閉集合の記号を使用すると、記号は、｛０，１｝から選択される。データ・ソース１２からの記号は、ＴＣＭエンコーダ１４に転送され、これが、ＴＣＭエンコーダ１４の構造に従って、記号を符号化記号に変換する。次いで、符号化記号は観測される信号を作り出すためにチャネル１６を介して送信される。そこでは、付加白色ガウス雑音（ＡＷＧＮ）や歪みなどの雑音が符号化記号に追加される可能性がある。観測される信号に関連するソフト情報が、ＴＣＭデコーダ１８に送信される。ＴＣＭデコーダ１８は、ハード判断復号化記号を作り出すためのしきい値処理をすることのできる記号に関するソフト情報を出力する。ＴＣＭエンコーダ１４のオペレーションがＦＳＭとしてモデルになることができるため、ＴＣＭデコーダ１８の復号化機能は、以下に記述する本発明による縮小状態ソフト入力／ソフト出力（reduced-state soft-input/output:ＲＳ−ＳＩＳＯ）アルゴリズムに基づくことができる。
【００１１】
図１に示したディジタル通信システムは、基本機能の例を示すための機能ブロック図である。さまざまに異なる機能を追加したり削除したりすることができる。また、本明細書に記述する革新的な方法の適用例は、この特定のブロック図に限定されるものではない。同様に、以下に記述する他のブロック図も、単に例示目的で示した例であり、本明細書に記述する方法の適用性を限定するものではない。
【００１２】
図２は、ＴＣＭ符号化、ＩＳＩ干渉などのプロセスをモデル化するＦＳＭを説明するトレリスの一区分を示す図である。ここでは、トレリスは、時間、空間、その他いくつかの次元の指標を明示的に表現した状態図である。一般に、このようなトレリスは、１集合の状態Ｓ＝｛Ｓ１，Ｓ２，．．．，ＳＮ｝から構成される。時間ｋでのＦＳＭの状態は、ｓｋ＝Ｓｉ∈Ｓである。トレリス遷移ｔは、Ｍ元閉集合(M-ary closed set)の記号Ａ＝｛Ａ０，Ａ１，．．．，ＡＭ−１｝から引き出される記号ａＫを有するシーケンス｛ａ１、ａ２，．．．，ａＫ｝を出力するデータ・ソースによって決定論的に駆動される。したがって、ＦＳＭにおいては、それぞれの遷移ｔは、開始状態ｓｓ（ｔ）、終了状態ｓｅ（ｔ）、入力記号ａ（ｔ）、出力記号ｘ（ｔ）と関連している。本明細書では、説明を簡単にするため、その状態がｓｋ＝（ａｋ−Ｌ，ａｋ−Ｌ＋１，．．．，ａｋ−１）として定義されるＦＳＭのみについて記述する。しかし、このような制限がＦＳＭおよび関連オペレーションの機能にとって必ずしも必要ではないことを当業者なら理解されるであろう。その状態がｓｋ＝（ａｋ−Ｌ，ａｋ−Ｌ＋１，．．．，ａｋ−１）として定義されるＦＳＭが、メモリ長Ｌと状態数Ｎ＝ＭＬを有すると言われている。その結果、遷移ｔｋ＝，（ａｋ−Ｌ，．．．，ａｋ）については、関連する式は、ｓｓ（ｔｋ）＝（ａｋ−Ｌ，．．．，ａｋ−１）、ｓｅ（ｔｋ）＝（ａｋ−Ｌ＋１，．．．，ａｋ）、ａ（ｔｋ）＝ａｋ、および出力記号ｘｋ＝ｘ（ｔｋ）である。機能ｘ（・）は、１対１マッピング、ｎ対１マッピング、ｎ対ｍマッピングや、その他のマッピングなど、どのようなマッピングも可能である。
【００１３】
説明を簡単にするために、図２に、Ｎ＝４およびＭ＝２を有する比較的簡単なＦＳＭに対するトレリスの一区分を示してある。したがって、トレリスは、１集合の状態Ｓ＝｛０、１、２、３｝から構成される。時間ｋでのＦＳＭの状態は、ｓｋ＝Ｓｉ∈Ｓである。トレリス遷移ｔは、２元閉集合の記号Ａ＝｛０，１｝から引き出される記号ａＫを有するシーケンス｛ａ１，ａ２，．．．，ａＫ｝を出力するデータ・ソースによって決定論的に駆動される。言い換えれば、記号は２進である。
【００１４】
ＦＳＭ構造の知識に加えて、ＳＩＳＯアルゴリズムはまた、その入力として、いくつかのソフト情報も必要とする。ソフト入力は、入力記号ａｋと出力記号ｘｋの信頼度測定のシーケンスである。広く使用されている２つの主な種類のソフト情報は、Ｐ（ａｋ）やＰ（ｘｋ）などの確率分布と、メトリックＭ（ａｋ）やメトリックＭ（ｘｋ）などの負のログ・ドメインの相対物である。Ｐ（・）およびＭ（・）とともに使用される上付き文字ｉおよびｏは、それぞれ、「入力」および「出力」を表すことに留意されたい。その結果生じるアルゴリズムを、それぞれ、事後確率（ＡＰＰ）アルゴリズムおよび最小シーケンス・メトリック（ＭＳＭ）アルゴリズムと呼ぶ。ＦＳＭ構造の知識と事前ソフト情報は、完全に周知であると仮定される。
【００１５】
以下に、縮小状態ソフト入力／ソフト出力（ＲＳ−ＳＩＳＯ）アルゴリズムの例について記述する。標準ＳＩＳＯアルゴリズムと比べた場合、ＲＳ−ＳＩＳＯアルゴリズムにより、複雑性の低減がＭＬ２だけ実現される。ＲＳ−ＳＩＳＯを実施するためには、ＦＳＭのメモリを打ち切って、対応するトレリスを再構築する。時間ｋで打ち切られた状態は、ｖｋ＝｛ａｋ−Ｌ１、ａｋ−Ｌ１＋１，．．．，ａｋ−１｝，ａｋによって定義される。ここで、Ｌｌ≦ＬおよびＬ２＝Ｌ−Ｌｌである。Ｌｌ＝Ｌの場合は、ｖｋ＝ｓｋで、ＲＳ−ＳＩＳＯアルゴリズムは、標準ＳＩＳＯアルゴリズムと等価になる。ＩＳＯアルゴリズムと同様に、以下の状態の集合は、以下のように定義される。
Φ（ｊ）＝｛ｉ：Ｖｉ→Ｖｊは、許容可能順方向遷移｝（１）
Ｂ（ｉ）＝｛ｊ：Ｖｉ←Ｖｊは、許容可能逆方向遷移｝（２）
Ｘ（ｍ）＝｛ｊ：ｖｋ＋１＝Ｖｊは、ａｋ＝Ａｍと一貫性を有する｝（３）
【００１６】
図３は、ＲＳ−ＳＩＳＯアルゴリズムにおける順方向および逆方向遷移の構成と時間ｋでの完了ステップを示した図である。時間ｋで打ち切られた状態は、ｖｋ＝｛ａｋ−Ｌ１，ａｋ−Ｌ１＋１，．．．，ａｋ−１｝であり、順方向に打ち切られた残存経路と連結して例示してある。時間ｋ＋ｌで打ち切られた状態は、ｖｋ＋１＝｛ａｋ−Ｌ１＋１、ａｋ−Ｌ１＋２，．．．，ａｋ｝であり、逆方向に打ち切られた残存経路と連結して例示してある。
【００１７】
一実施形態では、事後確率（ＡＰＰ）ＲＳ−ＳＩＳＯアルゴリズムが使用されている。ここでは、順方向および逆方向再帰は、α０（ｉ）＝Ｐｒ（υ０＝Ｖｉ）およびβＫ（ｊ）＝Ｐｒ（υｋ＝Ｖｊ）として初期値を有する、以下の再帰的に定義された数量を使用して計算することができる。
【数１】
0004837873.tif 000002
たとえば、時間ｋ＝０で、ＦＳＭの初期状態がＶｌである場合は、α０（ｌ）＝１、α０（ｊ）＝０、ｊ≠ｌである。ｖｏに関する知識が使用できない場合は、α０（ｉ）＝Ｍ−Ｌ１である。
【００１８】
残余状態情報が、順方向および逆方向に打ち切られた残存経路上に情報を含むことにより、（４）および（５）の順方向および逆方向再帰で使用できる。それぞれの打ち切られた状態ｖＫ＝Ｖｉに関連して、順方向再帰で打ち切られた残存経路は、ａ〜ｋｆ（ｉ）＝｛ａ〜ｆｋーＬ（ｉ），ａ〜ｋｋーＬ１＋１（ｉ）．．．，ａ〜ｋｋーＬ１−１（ｉ）｝として得られ、逆方向に打ち切られた残存経路は、ａ〜ｋｂ（ｉ）＝｛ａ〜ｋｋ（ｉ），ａ〜ｋｋ＋１（ｉ），．．．，ａ〜ｋｋ＋Ｌ２−１（ｉ）｝として得られる（注：本明細書において、ローマ字の後の〜はそのローマ字の上に付く）（図３参照）。これらの打ち切られた残存経路を得るための１つの合理的な方法は、（４）または（５）の加算に最も寄与する状態として順方向（または逆方向）残存状態を、時間ｋでの状態について、定義することによるものである。打ち切られた残存経路を得るための他の合理的な方法も、適用可能である。打ち切られた残存経路に基づいて、順方向および逆方向再帰の両方において、ｔｋ（ｉ，ｊ）＝（ｖｋ＝Ｖｉ，ｖｋ＋１＝Ｖｊ）に関連する数量は、以下のように定義することができる（図３参照）。
【数２】
0004837873.tif 000003
上式で、ａｋ（ｉ，ｊ）は、順方向遷移Ｖｉ→Ｖｊに関連する入力記号の値である。Ｌ２＝０の場合は、標準ＡＰＰアルゴリズムを出すγｋｆ（ｉ，ｊ）＝γｋｂ（ｉ，ｊ）である。
【００１９】
ａ〜ｆｋ（ｉ）およびａ〜ｂｋ（ｉ）のそれぞれの要素が、Ｍ元閉集合の記号Ａ＝｛Ａ０、Ａ１，．．．，ＡＭ−１｝に関して定義されていることに留意されたい。あるいは、ａ〜ｆｋ（ｉ）およびａ〜ｂｋ（ｉ）のそれぞれの要素が、Ｍ元閉集合の記号Ａ＝｛Ａ０，Ａ１，．．．，ＡＭ−１｝のいくつかの分割された集合に関して定義することができる。たとえば、Ｍ＝８およびＡ＝｛Ａ０，Ａ１，．．．，Ａ７｝の場合、ａ〜ｆｋ（ｉ）およびａ〜ｂｋ（ｉ）の要素が、分割集合Ｄ＝｛Ｄ０，Ｄ１｝に関して定義される。ここで、Ｄ０は｛Ａ０，Ａ１，．．．，Ａ３｝を包含し、Ｄ１は｛Ａ４，Ａ５，．．．，Ａ７｝を包含する。他の種類の分割集合も可能である。
【００２０】
（４）および（５）の順方向および逆方向再帰の複雑性は、主に、状態の数、すなわち、ＭＬ１によって判断される。標準ＡＰＰ−ＳＩＳＯアルゴリズムと比べて、提案したＡＰＰ  ＲＳ−ＳＩＳＯの複雑性は、ＭＬ２倍だけ減少される。例示したように、２種類のソフト出力を、以下のようにして得ることができる。
【数３】
0004837873.tif 000004
上式で、ｃは正規化定数である。状態の打切りにより、標準ＳＩＳＯアルゴリズムの場合のように、Ｐ０（ｘｋ）を直接出すことができない。しかし、Ｐ０（ｘｋ）は、ほぼ得ることができる。１つの簡単な方法は、以下の定義を使用することである。
【数４】
0004837873.tif 000005
これは、かなりよく機能することができる。式（１０）が、ｔｋとｔｋ＋ｌとの間の時間的な関係により、再帰的に計算できることが注目に値する。Ｐ０ｅ（・）を、事前確率に正規化された（近似）事後確率として見ることができ、通常、「付帯的」情報と呼ぶ。さらに反復が必要な場合は、Ｐ０ｅ（・）をフィードバックとして使用することができる。そうでない場合は、すべての０≦ｊ≦Ｍ−１について、規則、Ｐ０（ａｋ＝Ａｍ）≧Ｐ０（ａｋ＝Ａｊ）の場合、ａ〜ｋ＝Ａｍにより、ハード判断を行うことができる。（８）の完了ステップも、図３に例示してある。
【００２１】
ＲＳ−ＳＩＳＯアルゴリズムのデータ検出性能は、ＳＩＳＯアルゴリズムと比べて最適とは言えず、計算およびメモリの点でより複雑である。ＲＳ−ＳＩＳＯアルゴリズムがａｋのためのソフト出力を生成する場合、時間間隔［ｋ＋１，ｋ＋Ｌ２］の入力情報が使用されなかったことを観測することができる。このことにより、さらに性能が低下する。自己反復を使用して、ＲＳ−ＳＩＳＯアルゴリズムの性能を向上させることができる。そのソフト出力をそれ自体のソフト入力ポートに数回送り戻すことにより、ＲＳ−ＳＩＳＯは、時間間隔［ｋ＋１，ｋ＋Ｌ２］での情報をａｋのための最終ソフト出力に融合することができる。したがって、自己反復は、著しく性能を向上させることができる。
【００２２】
数量αＫおよびβＫは、それぞれ順方向状態メトリックおよび逆方向状態メトリックの例である。あるいは、ＡＰＰ  ＲＳ−ＳＩＳＯアルゴリズムは、順方向状態メトリックおよび逆方向状態メトリックに加えて、順方向遷移メトリックおよび逆方向遷移メトリックに基づくことができる。さらに、ソフト出力情報を得るために使用されるオペレーションは、加算および乗算に限定される必要がなく、これは、上述した例の（８）に示してある。このようなオペレーションにはまた、加算、乗算、最小、最大、最小＊、（ここで、最小＊（ｘ，ｙ）＝最小（ｘ，ｙ）−ｌｎ（１＋ｅ−│ｘ−ｙ│））、最大＊、（ここで、最大＊（ｘ，ｙ）＝最大（ｘ，ｙ）−ｌｎ（１＋ｅ−│ｘ−ｙ│））、線形重みづけ、累乗、これらの組み合わせ、またはその他が含まれる。
【００２３】
別の実施形態では、最小シーケンス・メトリック（ＭＳＭ）ＲＳ−ＳＩＳＯアルゴリズムが使用される。ＡＰＰ  ＲＳ−ＳＩＳＯアルゴリズムと同様に、順方向および逆方向に打ち切られた残存経路上に情報を含むことにより、順方向および逆方向再帰で、残余状態情報を使用することできる。たとえば、付加白色ガウス雑音（ＡＷＧＮ）の場合、（６）および（７）に対する負のログ・ドメイン相対物は、それぞれ以下のように定義することができる。
【数５】
0004837873.tif 000006
上式で、メトリックＭ（ｗ）＝−ｌｎ（Ｐ（ｗ））である。
【００２４】
ａ〜ｆｋ（ｉ）およびａ〜ｂｋ（ｉ）のそれぞれの要素が、Ｍ元閉集合の記号Ａ＝｛Ａ０，Ａ１，．．．，ＡＭ−１｝に関して定義されることに留意されたい。あるいは、ａ〜ｆｋ（ｉ）およびａ〜ｂｋ（ｉ）のそれぞれの要素は、Ｍ元閉集合の記号Ａ＝｛Ａ０，Ａ１，．．．，ＡＭ−１｝のいくつかの分割集合に関して定義することができる。たとえば、Ｍ＝８およびＡ＝｛Ａ０，Ａ１，．．．，Ａ７｝の場合は、ａ〜ｆｋ（ｉ）およびａ〜ｂｋ（ｉ）の要素が、分割集合Ｄ＝｛Ｄ０，Ｄ１｝に関して定義することができ、ここで、Ｄ０は、｛Ａ０，Ａ１，．．．，Ａ３｝を包含し、Ｄ１は｛Ａ４，Ａ５，．．．，Ａ７｝を包含する。他の種類の分割集合も可能である。
【００２５】
記号シーケンスａｋ１−Ｌ１Ｋ２に関連するシーケンス・メトリック、または等価な状態シーケンスｖｋ１Ｋ２＋１は、以下のように定義することができる。
【数６】
0004837873.tif 000007
ＭＳＭ  ＲＳ−ＳＩＳＯのための重要な数量は、以下のように定義される。
【数７】
0004837873.tif 000008
その結果、順方向および逆方向再帰とＭＳＭ  ＲＳ−ＳＩＳＯの完了ステップは、以下のように表現される。
【数８】
0004837873.tif 000009
【００２６】
順方向および逆方向再帰が、ＶＡでの再帰と同様であるため、ＭＳＭ  ＲＳ−ＳＩＳＯは、ＶＡとまったく同じように、（１０）および（１１）で使用される残存経路を得ることができる。繰り返すが、さらに反復が必要な場合は、Ｍ０ｅ（・）が送り戻され、Ｍ０（ａｋ）を使用して、すべての０≦ｊ≦Ｍ−１について、規則、Ｍ０（ａｋ＝Ａｍ）≦Ｍ０（ａｋ＝Ａｊ）の場合は、ａ＾ｋ＝Ａｍにより、ハード判断を行う（注：ローマ字の後の＾はそのローマ字の上に付く）。
【００２７】
ＡＰＰバージョンと比べて、ＭＳＭバージョンは、加算および比較オペレーションのみを伴う。計算上、これは、ＡＰＰバージョンより簡単である。しかし、残存経路をログＡＰＰアルゴリズムで定義する方法を特定しなければならない（すなわち、上述したように）。数値実験により、ＭＳＭ  ＳＩＳＯアルゴリズムが、そのＡＰＰ相対物とほぼ同様によく行うことが示されている。同様に、標準ＭＳＭアルゴリズムと比べて、ＭＳＭ  ＲＳ−ＳＩＳＯの複雑性も、ＭＬ２倍だけ減少する。
【００２８】
数量δｋおよびηｋは、それぞれ順方向状態メトリックおよび逆方向状態メトリックの例である。あるいは、ＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムは、順方向状態メトリックおよび逆方向状態メトリックに加えて、順方向遷移メトリックおよび逆方向遷移メトリックに基づくことができる。さらに、ソフト出力情報を得るために使用されるオペレーションは、上述した例の（１９）で示したように、最小および加算に限定する必要はない。このようなオペレーションには、加算、乗算、最小、最大、最小＊、（ここで、最小＊（ｘ，ｙ）＝最小（ｘ，ｙ）−ｌｎ（ｌ＋ｅ−│ｘ−ｙ│））、最大＊、（ここで、最大＊（ｘ，ｙ）＝最大（ｘ，ｙ）−ｌｎ（ｌ＋ｅ−│ｘ−ｙ│））、線形重みづけ、累乗、これらの組み合わせ、またはその他も含むことができる。
【００２９】
図４は、反復検出ネットワーク内のＲＳ−ＳＩＳＯモジュールを示した図である。反復検出ネットワーク４０の一例が示してある。ここでは、データ・ソース４２が、ＴＣＭエンコーダ４４に接続され、これがインターリーバ４６に接続され、これがＩＳＩチャネル４８に接続される。ＩＳＩチャネルの出力がチャネル５０に送信され、ここで、ＡＷＧＮ雑音および／または歪みが追加される可能性がある。別に描写してあるが、ＩＳＩチャネル４８は、チャネル５０の一部でもよい。ＳＩＳＯモジュールとソフト情報交換規則およびスケジュールから構成される反復検出ネットワーク４０がチャネル５０の出力を受信する。反復検出ネットワーク４０は、従来のＩＳＩ  ＳＩＳＯモジュールに置き替わるＩＳＩ  ＲＳ−ＳＩＳＯモジュール５２を備える。これはまた、インターリーバ／デ・インターリーバ５４およびＴＣＭ  ＳＩＳＯモジュール５６も備える。出力がスレッショルダ５８に送信される前に、ソフト情報が反復検出ネットワーク４０内を数回循環する。ここで、ハード判断が行われる。通常、特定のレベルの性能を得るために必要とされる反復の最大数を、数値的に評価することができる。Ｉ回の反復については、ここで置き替えられた従来のＩＳＩ  ＳＩＳＯなどの従来のＳＩＳＯモジュールを用いる反復検出ネットワークの複雑性は、ＩＭＬに比例する。ＲＳ−ＳＩＳＯアルゴリズムは、特に、反復検出ネットワークでの使用に適している。標準ＳＩＳＯモジュールをＩＳＩ  ＲＳ−ＳＩＳＯモジュール５２などのＲＳ−ＳＩＳＯモジュールに置き替えることにより、ＲＳ−ＳＩＳＯアルゴリズムを用いた反復検出ネットワークの複雑性が、ＩＭＬ２だけ減少する。
【００３０】
以下に、ＲＳ−ＳＩＳＯアルゴリズムの性能をテストするために行った数値シミュレーションの結果を記述する。
【００３１】
図５Ａは、さまざまな検出器の性能をテストするために使用される記号間干渉、付加白色ガウス雑音（ＩＳＩ／ＡＷＧＮ）チャネルを示した図である。ＩＳＩ／ＡＷＧＮチャネルの構造は、ＡＷＧＮを追加するための構成要素とともに、１２タップ（Ｌ＝１１）ＩＳＩブロックとして表される。ＦＳＭであるＩＳＩブロックのタップについては、チャネルＡは均等なエントリを有し、チャネルＢは（ｃ，２ｃ，．．．，１２ｃ）として選択されたタップを有する。両チャネルとも正規化され、ユニット・パワーを有する。送信機は、ＢＰＳＫ信号方式（すなわち、ａｋ＝±√Ｅｂ）を使用する。次いで、ＩＳＩチャネルの出力は、Ｅ｛ｎ２ｋ｝＝Ｎ０／２を有するＡＷＧＮ  ｎｋによって汚染される。図５Ｂは、比較の目的でテストされた、２つのハード判断アルゴリズムである、ＶＡと遅延判断フィードバック・シーケンス推定（ＤＤＦＳＥ）アルゴリズムを表す検出器を示した図である。ＲＳ−ＳＩＳＯと同様に、打ち切られた状態の長さＬ１が、ＤＤＦＳＥ内で定義される。図５Ｃは、自己反復ケイパビリティを有するＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムを表す検出器を示した図である。
【００３２】
図６は、さまざまに異なるＩＳＩ／ＡＷＧＮチャネルでの図５Ｃに示した検出器の収束性を示した図である。本明細書の以下に示す性能結果は、数値シミュレーションによって得られる。図６に示すように、収束が、４〜５回の反復の後に起きる。
【００３３】
図７は、最小位相ＩＳＩ／ＡＷＧＮチャネルでのＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムと他のアルゴリズムの性能を比較した図である。アルゴリズムの計算の複雑性の指標は、遷移の数、ＭＬ１＋１、自己反復数Ｉおよび再帰数ｒの積として定義される。ＶＡは順方向のみであるため、ｒ＝１を有する。それと対照的に、順方向／逆方向ＳＩＳＯはｒ＝２を有する。図７と、図８および９では、この複雑性の指標が、使用されたそれぞれのアルゴリズムに対して示してある。２１１＝２，０４８状態を有するＶＡの性能は、基準線として表現される。まず最初に、ＤＤＦＳＥは、Ｌ１＝５、すなわち、ＤＤＦＳＥが、２５＝３２状態を使用する場合に、１０−４のビット誤り率（ＢＥＲ）で、ＶＡより約３ｄＢ性能がよくないことが注目に値する。自己反復しない場合、Ｌ１＝２を有するＭＳＭ  ＲＳ−ＳＩＳＯは、ＤＤＦＳＥより０．３ｄＢのみよい性能を発揮する。しかし、自己反復を使用すると、４回のみの反復後に、ＭＳＭ  ＲＳ−ＳＩＳＯの性能が１．９ｄＢだけ向上する。ＶＡとの相違は、０．８ｄＢのみとなる。複雑性指標は、ＲＳ−ＳＩＳＯが、１ｄＢ未満の性能低下のみでＶＡより６４倍複雑性が減少するが、同様の複雑性を有するＤＤＦＳＥより２．２ｄＢだけ優れていることを示している。
【００３４】
図８は、非最小位相ＩＳＩ／ＡＷＧＮチャネルでのＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムと他のアルゴリズムの性能を比較した図である。ＲＳ−ＳＩＳＯアルゴリズムの双方向再帰（順方向および逆方向再帰）により、非最小位相チャネルに対する頑強性が期待される。それと対照的に、ＤＤＦＳＥの非対称構造（順方向再帰のみが使用される）は、チャネルが非最小位相である場合、その性能を非常に低下させる。チャネルＢは、（ｃ，２ｃ．．．，１２ｃ）として選択されたそのＩＳＩブロックのタップを有する、このようなチャネルである。チャネルＢ’は、チャネルＢの時間反転バージョン、つまり、（１２ｃ，１１ｃ．．．，ｃ）として定義される。図８に示したシミュレーション結果は、Ｌ１＝５を有するＤＤＦＳＥは、チャネルＢに対しては事実上失敗するが、チャネルＢ’に対してはうまく機能することを明確に示している。しかし、同じ複雑性（Ｌ１＝２およびＩ＝４）を有するＲＳ−ＳＩＳＯに基づく反復検出器は、チャネルＢとチャネルＢ’の両方に対してほぼ最適な性能を発揮する。
【００３５】
図９Ａは、さまざまな検出器の性能をテストするために使用されるトレリス符号変調、記号間干渉、付加白色ガウス雑音（ＴＣＭ／ＩＳＩ／ＡＷＧＮ）チャネルを示した図である。このテストでは、８状態で、レートＲ＝２／３  Ｕｎｇｅｒｂｏｅｃｋ  ８−ＰＳＫ  ＴＣＭ符号が使用される。ＴＣＭエンコーダからの８ＰＳＫ信号は、３２×３２ブロック・インターリーバに送られる。インターリーブされた８−ＰＳＫ信号は、（ユニット・パワーに正規化された）均等なエントリを有する、５タップ（Ｌ＝４）ＩＳＩチャネルを通過し、出力は、Ｅ｛│ｎｋ│２｝＝Ｎ０／２を有する複合回転白色ガウス雑音ｎｋによって汚染される。
【００３６】
図９Ｂ〜９Ｄは、図９Ａに示したシステムによって生成される信号を使用してテストしたさまざまな検出器を示した図である。連結されたＴＣＭエンコーダおよびＩＳＩチャネルを単一のＦＳＭとして考えることにより、ヴィタビ検出器を構築することは、あまりに複雑すぎる。あるいは、反復検出ネットワークを使用することもできる。つまり、有効なアプローチとして、内部検出器および外部検出器などの、それぞれのサブシステムに対して「検出器」（ハードまたはソフト）を別個に構築して、情報を繰り返して処理し、内部検出器と外部検出器の間を通過できるようにすることである。図９Ｂは、内部検出器および外部検出器（ＶＡ−ＶＡ）の両方としてのＶＡを有する検出器の収縮を示した図である。ＶＡを、内部検出器および外部検出器の両方として使用することができるが、ＴＣＭ符号がハード判断で復号化されるため、優れた性能はあまり期待できない。図９Ｃは、内部ＳＩＳＯモジュールと外部ＶＡ検出器（ＭＳＭ  ＳＩＳＯ−ＶＡ）とを備えた検出器の構成を示した図である。ここでは、内部ＶＡ検出器は、ＳＩＳＯモジュールに置き替えられており、このことにより、より信頼度の高いユークリッド距離を外部ＶＡ検出器で使用するため、全体的な性能を向上させることができる。
【００３７】
さらに、外部ＶＡ検出器をＳＩＳＯモジュールで置き替え、反復検出を使用することにより、全体的な性能を最適性能に近づけることができる。しかし、サブシステムを別個に扱ってさえも、内部検出器はあまりに複雑すぎる。たとえば、上述のシステムにおいて、内部ＦＳＭは、８４＝４，０９６状態および８５＝３２，７６８遷移を有する。
【００３８】
図９Ｄは、内部ＲＳ−ＳＩＳＯモジュールと外部ＳＩＳＯモジュールとを備え、内部および外部反復（ＭＳＭ  ＲＳ−ＳＩＳＯ−ＳＩＳＯ）を用いた、検出器の構成を示した図である。最適とは言えないＲＳ−ＳＩＳＯアルゴリズムおよび連結された検出構造により、内部ＲＳ−ＳＩＳＯモジュールの自己反復（内部反復とも呼ぶ）および外部反復を使用して、検出器の有効性を向上させる。したがって、一般的な反復方式に関連する外部反復の数Ｉ０に加えて、この特定の検出器については、別の設計パラメータ、すなわち、内部反復の数Ｉｉがある。８−ＰＳＫ記号上のソフト情報を外部ＳＩＳＯに送る前に、内部ＲＳ−ＳＩＳＯは、数回の内部反復を行って、ソフト出力の品質を向上させることができる。この場合、複雑性の指標は、ＭＬ１＋１Ｉ０Ｉｉｒとして再定義される。
【００３９】
図１０は、他の性能結果とともに、図９Ｂ〜９Ｄに示したさまざまな検出器のシミュレーション結果を示した図である。内部段階でＶＡをＭＳＭ−ＳＩＳＯに置き替えることにより１０−４のＢＥＲでＥｂ／Ｎ０内に５ｄＢの利得がある。このことは、ＭＳＭ  ＳＩＳＯ−ＶＡについての結果をＶＡ−ＶＡについての結果と比較することによって分かる。内部ＶＡをＬｌ＝２（Ｉｉ＝１）を有するＭＳＭ  ＲＳ−ＳＩＳＯに置き替えると、０．３ｄＢの利得が得られる。このことは、ＭＳＭ  ＲＳ−ＳＩＳＯ−ＶＡについての結果をＶＡ−ＶＡについての結果と比較することによって分かる。言い換えれば、反復検出を行わずに、単にＲＳ−ＳＩＳＯアルゴリズムを使用するだけで、性能を低下させることなく、検出器の複雑性が３２倍減少する。
【００４０】
ＲＳ−ＳＩＳＯアルゴリズムと反復検出とを組み合わせた性能検出器も例示してある。基準線として、内部段階でＶＡをＭＳＭ−ＳＩＳＯに置き替えることにより１０−４のＢＥＲでＥｂ／Ｎ０内に５ｄＢの利得があることが示してある。このことは、ＭＳＭ  ＳＩＳＯ−ＶＡについての結果をＶＡ−ＶＡについての結果と比較することによって分かる。しかし、上述したように、ＭＳＭ  ＳＩＳＯ−ＶＡ方式は、あまりに複雑すぎる。反復検出とともにＲＳ−ＳＩＳＯアルゴリズムを用いることにより、複雑性を著しく減少させることができる。ＭＳＭ  ＲＳ−ＲＩＳＯ−ＳＩＳＯという名称の、このような２つの検出器がテストされた。両方とも、４〜５回のみの反復で収束する（ここでは、結果は示していない）。１つの検出器が、Ｌｌ＝１（８状態）および３回の内部反復（Ｉｌ＝３）を有するＭＳＭ  ＲＳ−ＳＩＳＯを使用する。５回の外部反復（Ｉ０＝５）の後に、ハード判断を行う。ＭＳＭ  ＳＩＳＯ−ＶＡ方式と比べて、性能低下は１．１ｄＢにすぎず、複雑性は３４倍軽減される。よりよい性能を得るために、他の検出器はＬｌ＝２およびＩｉ＝３を使用する。４回の外部反復（Ｉ０＝４）の後に、ＭＳＭ  ＳＩＳＯ−ＶＡ方式を介して、０．３ｄＢの利得が得られ、複雑性は約５倍軽減される。この適用例では、複雑性が減少したどのハード判断プロセッサ（たとえば、ＲＳＳＥ、ＤＤＦＳＥ）も、図１０に示したＶＡ−ＶＡ方式より性能が落ちることに留意されたい。
【００４１】
したがって、シミュレーション結果から、ＲＳ−ＳＩＳＯアルゴリズムが、極めて実際的なシステムにおいて複雑性を著しく減少させることが示される。ＲＳ−ＳＩＳＯアルゴリズムは、自己反復を含む反復検出とともに使用して、さらに複雑性を減少させることができる。その上、結果から、アルゴリズム内で容易に調整可能なパラメータを変えることにより、複雑性と性能とのバランスをうまくとることができることが示される。
【００４２】
本発明について、特定の実施形態を参照して説明してきた。当業者には、他の実施形態も明らかであろう。したがって、本発明は、添付した特許請求の範囲に示したものを除き、限定的なものではないものとする。
【図面の簡単な説明】
【図１】  トレリス符号化変調（ＴＣＭ）エンコーダを用いるディジタル通信システムを示す図である。
【図２】  ＴＣＭ符号化、ＩＳＩ干渉などのプロセスをモデル化するＦＳＭを説明するトレリスの一区分を示す図である。
【図３】  ＲＳ−ＳＩＳＯアルゴリズムにおける時間ｋでの順方向および逆方向遷移の構成および完了ステップを示す図である。
【図４】    反復検出ネットワークにおけるＲＳ−ＳＩＳＯモジュールを示す図である。
【図５】  Ａ：さまざまな検出器の性能をテストするために使用されるＩＳＩ／ＡＷＧＮチャネルを示す図である。
Ｂ：２つのハード判断アルゴリズム、ＶＡとＤＤＦＳＥを表す検出器を示す図である。
Ｃ：自己反復ケイパビリティを有するＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムを表す検出器を示す図である。
【図６】  さまざまに異なるＩＳＩ／ＡＷＧＮチャネルでの図５Ｃに示した検出器の収束性を示す図である。
【図７】  最小位相ＩＳＩ／ＡＷＧＮチャネルでのＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムと他のアルゴリズムの性能を比較した図である。
【図８】  非最小位相ＩＳＩ／ＡＷＧＮチャネルでのＭＳＭ  ＲＳ−ＳＩＳＯアルゴリズムと他のアルゴリズムの性能を比較した図である。
【図９】  Ａ：さまざまな検出器の性能をテストするために使用されるＴＣＭ／ＩＳＩ／ＡＷＧＮチャネルを示す図である。
Ｂ：内部検出器および外部検出器（ＶＡ−ＶＡ）の両方としてのＶＡを備える検出器の構成を示す図である。
Ｃ：内部ＳＩＳＯモジュールおよび外部ＶＡ検出器（ＭＳＭ  ＳＩＳＯ−ＶＡ）の両方を備える検出器の構成を示す図である。
Ｄ：内部ＲＳ−ＳＩＳＯモジュールおよび外部ＳＩＳＯモジュールを備え、内部および外部反復（ＭＳＭ  ＲＳ−ＳＩＳＯ−ＳＩＳＯ）を用いた検出器の構成を示す図である。
【図１０】  他の性能結果とともに、図９Ｂ〜９Ｄに示したさまざまな検出器のシミュレーション結果を示す図である。
【図１】
0004837873.tif 000010
【図２】
0004837873.tif 000011
【図３】
0004837873.tif 000012
【図４】
0004837873.tif 000013
【図５】
0004837873.tif 000014
【図６】
0004837873.tif 000015
【図７】
0004837873.tif 000016
【図８】
0004837873.tif 000017
【図９】
0004837873.tif 000018
【図１０】
0004837873.tif 000019