(57)【要約】判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数値を制約することによって判定帰還型等化器におけるエラー伝播を低減する装置及び方法を開示する。制約帰還型フィルタ・タップ係数は制約コスト関数及び関連する制約関数を用いて算定する。本発明の制約条件は、エラーが判定帰還型等化器内で帰還型フィルタの帰還ループ中を循環する、ことを妨げることによって判定帰還型等化器におけるエラー伝播を低減する。
2005506760.tif 000002
【特許請求の範囲】
【請求項１】
判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数を算定する装置であって、前記判定帰還型等化器におけるエラー伝播を低減するよう、前記帰還型フィルタ・タップ係数の値を制約することができることを特徴とする装置。
【請求項２】
請求項１記載の装置であって、前記帰還型フィルタ・タップ係数の値を、複数の帰還型フィルタ・タップ係数の総エネルギを制限する制約を用いて、制約することができることを特徴とする装置。
【請求項３】
請求項１記載の装置であって、複数の帰還型フィルタ・タップ係数の各々の値を、前記複数の前記帰還型フィルタ・タップ係数の各々の大きさを前記帰還型フィルタ・タップ係数の総エネルギに等しい閾値定数に制限する制約を用いて、制約することができることを特徴とする装置。
【請求項４】
請求項１記載の装置であって：
【数１】
2005506760.tif 000061
を用いて帰還型フィルタ・タップ係数を算定することができ、
【数２】
2005506760.tif 000062
が時間ｋでの帰還型フィルタ・タップ係数で、μが適応速度定数で、ekがエラー項で、ak-nが時間ｋでの前記帰還型フィルタにおける帰還型フィルタ・タップ・データの値で、Jが制約コスト関数で、かつ、λが小正定数であることを特徴とする装置。
【請求項５】
請求項４記載の装置であって、前記制約コスト関数Jが：
【数３】
2005506760.tif 000063
【数４】
2005506760.tif 000064
によって示され、
M(gn)が制約関数で、
【数５】
2005506760.tif 000065
として定義され、かつ、gnが帰還型フィルタ・タップ係数であることを特徴とする装置。
【請求項６】
請求項５記載の装置であって、
M(gn)の前記制約関数は：
【数６】
2005506760.tif 000066
によって示され、Dが前記帰還型フィルタ・タップ係数の総エネルギに等しい閾値定数であることを特徴とする装置。
【請求項７】
請求項５記載の装置であって、
M(gn)の前記制約関数は：
【数７】
2005506760.tif 000067
によって示され、Dが前記帰還型フィルタ・タップ係数の総エネルギに等しい閾値定数であることを特徴とする装置。
【請求項８】
請求項４記載の装置であって、フォワード型フィルタ用フォワード型フィルタ・タップ係数を：
【数８】
2005506760.tif 000068
を用いて算定することができ、
【数９】
2005506760.tif 000069
が時間ｋでのフォワード型フィルタ・タップ係数で、μが適応速度定数で、ekがエラー項で、rk-nが時間ｋでの前記フォワード型フィルタにおけるフォワード型フィルタ・タップ・データの値で、Jが制約コスト関数で、かつ、λが小正定数であることを特徴とする装置。
【請求項９】
ディジタル受信器システムであって、判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数を算定する装置を有し、該装置が前記判定帰還型等化器におけるエラー伝播を低減するよう前記帰還型フィルタ・タップ係数の値を制約することができることを特徴とするディジタル受信器システム。
【請求項１０】
判定帰還型等化器におけるエラー伝播を低減する方法であって：
前記判定帰還型等化器中の帰還型フィルタにおける帰還型フィルタ・タップ係数を算定する工程；及び
前記帰還型フィルタ・タップ係数の算定値を制約する工程；
を有することを特徴とする方法。
【請求項１１】
コンピュータが判読可能な記憶媒体上に記憶された、判定帰還型等化器におけるエラー伝播を低減する、コンピュータが実行可能な処理工程であって：
前記判定帰還型等化器中の帰還型フィルタにおける帰還型フィルタ・タップ係数を算定する工程；及び
前記帰還型フィルタ・タップ係数の算定値を制約する工程；
を有する処理工程。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、一般に、ディジタル通信装置における判定帰還型等化器に向けられたものであり、特に、エラー伝播を削減するよう、判定帰還型等化器において帰還型フィルタ・タップ係数値を制約する装置及び方法に関するものである。
【背景技術】
【０００２】
ディジタル高品位テレビ(HDTV)グランド・アライアンス(グランド・アライアンス)はテレビ業界におけるテレビ製造及び研究組織のグループである。長年の協力的な取り組みの結果、グランド・アライアンスはディジタルHDTVシステムの標準を策定・提案した。グランド・アライアンス標準は(多少の修正を経て)米国連邦通信委員会（FCC）によってHDTVの公式放送標準として採用された。当該標準は米国次世代テレビ・システム委員会ディジタル・テレビ標準(いわゆる「ATSC標準」)として知られている。
【０００３】
地上放送チャネルによるHDTV伝送用ATSC標準は、8値残留側帯波(8-VSB)シンボル・ストリームとして10.76MHzの速度で変調された、12の別個の時間多重トレリス符号化データ・ストリーム列を有する信号を用いる。この信号は、標準のVHF又はUHFの地上テレビ・チャネルに相当する、６MHz帯に変換され、その場合には当該信号は当該チャネルによって放送される。
【０００４】
ATSC標準は、HDTV信号の２ビット・データ・シンボルが8値(すなわち、3ビット)の1次元配列によってトレリス符号化されることを要求する。各データ・シンボルの１ビットはプリコード化され、他のビットは4状態トレリス符号によって２符号ビットを生成するハーフ・レートにて符号化される。インターリーブする目的で、12の同一の符号器及びプリコード器は12の連続するデータ・シンボル毎に連続して処理する。0、12、24、36、・・のシンボルは第１の級数として符号化される。1、13、25、37、・・のシンボルは第２の級数として符号化される。2、14、26、38、・・のシンボルは第3の級数として符号化される。このようにして、合計で12の級数になる。したがって、ATSC標準は、HDTVの受信器における12のトレリス符号を、信号における時分割インタリーブ・データ・シンボルの12の級数に対して必要とする。HDTV受信器における各トレリス復号器は符号化データ・シンボルのストリームにおいて12のデータ・シンボル毎に復号化する。
【０００５】
ATSC標準受信器においては、トレリス復号器は8-VSBシンボルに変換され、変調されて放送される直前にトレリス符号化された元のディジタル・データを取り戻すのに用いられる。トレリス符号化の利用は受信信号の信号対雑音比の向上を設け、かつ、１２の別個のストリームの時間多重は同一周波数に存在するアナログNTSC放送信号からの同一チャネル干渉の可能性を低減する。NTSCの略語は米国テレビジョン方式委員会を意味する。
【０００６】
4状態トレリス符号のトレリス復号器各々は有名なヴィテルビ復号化アルゴリズムによって処理する。復号器各々はブランチ・メトリック発生装置、加算・比較・選択装置、及びパス記憶装置を有する（例えば、非特許文献1参照。）。
【０００７】
雑音によって破損されることに加えて、送信信号は更に決定性のチャネル歪及びマルチパス干渉によって引き起こされる歪に左右される。したがって、適応チャネル等化器が一般にトレリス復号器の前でこれらの影響を補償するのに用いられる。この目的は送信器における12のトレリス符号器によって生成されたシンボル・ストリームにできるだけ似たシンボル・ストリームを生成することにある。
【０００８】
一般に用いられる等化器アーキテクチャの一つに判定帰還型等化器(DFE)と呼ばれる第２の等化器を利用するものがある。このアーキテクチャにおいては、従来の、すなわちフォワード型等化器(FE)はDFEによって補われる。DFEへの入力は全部揃った等化器(FE及びDFE)の現時の出力シンボルの元の送信値の予測である。判定帰還型等化器(DFE)の出力は後に、出力シンボルを生成するよう、フォワード型等化器（FE）の出力に加えられる。一般の実現形態では、この出力シンボルの予測は等化器出力を単に「スライスする」ことによって得られる。「スライスする」の語は実際の出力に最も近い(8-VSBのATSC標準によって規定された8値の)許容シンボル値を採る処理を表す。判定帰還型等化器（DFE）における「スライス」シンボルの利用は低い複雑性でほぼ最適なエラー・レート性能を設けるものである。このアプローチは、しかしながら、スライス・エラーによって引き起こされるエラー伝播の影響を受ける。一般にHDTV信号においては等化器後のシンボル・エラー・レートが20%にも上り得るので、DFEフィルタ・タップ数が大きい場合には重大な問題となり得る。
【０００９】
等化器の後に、HDTV信号は送信器において行われたハーフ・レートのトレリス符号に基づいてシンボル・ストリームを復号化するヴィテルビ・アルゴリズムを用いるトレリス復号器において復号化される。前述のように、ATSC標準は12のトレリス符号器及び復号器が時間多重的に並列で用いられる。トレリス復号化の後には次に、信号中の伝送エラーを更に訂正する、バイト・デインターリーブ及びリード・ソロモン復号化が続く。
【非特許文献１】
G.  Ungerboeck、”Trellis-coded  Modulation  With  Redundant  Signal  Set,  Part  I,  Introduction;  Part  II,  State  of  the  Art”、  1987年2月、IEEE  Communications  Magazine、第25号（第5-21頁）
【発明の開示】
【発明が解決しようとする課題】
【００１０】
判定帰還型等化器(DFE)は一般に帰還ループの内部にフォワード型線形フィルタ及び帰還型フィルタを有する。帰還ループは判定装置(例えば、スライス装置)及びエラー算定装置を有する。エラーが判定装置によって引き起こされた場合、エラーは帰還ループ中を循環して性能ロスを引き起こす。帰還ループ中のエラーの循環はエラー伝播と呼ばれる。
【００１１】
帰還型フィルタ・タップが大きい場合、エラー伝播の影響がよく増加する。これはエラーが大定数にて乗算され、それによって更に大きなエラー伝播を引き起こすからである。結果として生じるエラーはDFEの帰還ループ中を、時には絶え間なく、循環し続けることがある。
【００１２】
DFEのフィルタ・タップ係数は適応等化器のフィルタ・タップ係数を算定するのに種々存在する従来技術を用いて更新し得る。通常用いられる方法の一つに有名な最小２乗法(LMS)アルゴリズムを用いるものがある。LMSアルゴリズムは、新規係数値を算定するのに現時の係数及びデータ・タップ値に加えて算定エラーを用いる、逐次近似法である。LMSアルゴリズムは各々のフィルタ・タップ係数が所望の最適値に収束するまでその手順を繰り返すものである。
【００１３】
一般のLMSアルゴリズムにおいては、DFEのフォワード型線形フィルタの、
【００１４】
【数１０】
2005506760.tif 000003
の係数ベクトルは、以下の式を用いて判定され：
【００１５】
【数１１】
2005506760.tif 000004
【００１６】
【数１２】
2005506760.tif 000005
は時間ｋでのフォワード型フィルタ・タップ係数で、μは適応速度定数で、ekはエラー項で、かつ、rk-nは時間ｋでのフォワード型フィルタ中のフォワード型フィルタのタップ・データ値である。ekのエラー項はDFEの出力から算定されるエラーである。ekのエラー項はデータ・ストリームに埋め込まれた既知の訓練列を用いて判定指向的に算定し得る。あるいは、ekのエラー項は定包絡線基準によるアルゴリズム(CMA)又は判定指向(DD)アルゴリズムを用いてブラインド的に算定し得る。同様に、
【００１７】
【数１３】
2005506760.tif 000006
のDFE帰還フィルタ係数ベクトルは、下の式にて判定され：
【００１８】
【数１４】
2005506760.tif 000007
【００１９】
【数１５】
2005506760.tif 000008
は時間ｋでの帰還型フィルタ・タップ係数で、μは適応速度係数で、ekはエラー項で、ak-nは時間ｋでの帰還型フィルタ中の帰還型フィルタ・タップ・データ値である。
【００２０】
一般のLMSアルゴリズムにおいては、
【００２１】
【数１６】
2005506760.tif 000009
及び、
【００２２】
【数１７】
2005506760.tif 000010
の係数は制約を受けない。すなわち、
【００２３】
【数１８】
2005506760.tif 000011
及び、
【００２４】
【数１９】
2005506760.tif 000012
の係数はDFEにおけるマルチパス干渉の影響を低減する、いかなる値をも呈し得る。厳しいポスト・エコー及びプリ・エコーについては、
【００２５】
【数２０】
2005506760.tif 000013
の帰還型フィルタ・タップ係数値はエラー伝播によってDFEの性能を低減するほど大きくなり得る。
【００２６】
したがって、エラー伝播を低減するのに、判定帰還型等化器における、
【００２７】
【数２１】
2005506760.tif 000014
の帰還型フィルタ・タップ係数値を制約することが可能な装置及び方法に関する技術の必要性が存在する。
【課題を解決するための手段】
【００２８】
上記の従来技術の欠点に取り組むよう、本発明の装置及び方法は、判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数値を制約することによって判定帰還型等化器におけるエラー伝播を低減する。
【００２９】
本発明は制約コスト関数及び関連する制約関数を用いて更新係数値を算定することによって帰還型フィルタ・タップ係数値を制約するものである。帰還型フィルタの各フィルタ・タップ・セル内の係数適応装置が更新係数値を算定する。
【００３０】
本発明の目的は判定帰還型等化器におけるエラー伝播を妨げることにある。
【００３１】
本発明の目的は更に、判定帰還型等化器の帰還ループ内でエラーが循環することを妨げることにある。
【００３２】
本発明の目的は更に、帰還型フィルタ・タップ係数値に制約条件を加えることによって判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数値を算定する装置及び方法を設けることにある。
【００３３】
更に、本発明の目的は制約条件を帰還型フィルタ・タップ係数に、制約条件が帰還型フィルタ・タップ係数の総エネルギを制限するよう、加えることによって判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数値を算定する装置及び方法を設けることにある。
【００３４】
本発明の目的は更に、制約条件を帰還型フィルタ・タップ係数値に、制約条件が各帰還型フィルタ・タップ係数の大きさを閾値定数に制限するよう、加えることによって判定帰還型等化器の帰還型フィルタにおける帰還型フィルタ・タップ係数値を算定する装置及び方法を設けることにある。
【発明を実施するための最良の形態】
【００３５】
前述に本発明の特徴及び技術的便益を概説したので、当業者は本発明の以下の詳細説明がよりよくわかるであろう。本発明の特許請求の範囲を形成する更なる特徴及び便益は以下に説明する。当業者は、本発明と同一の目的を遂行するのに、修正する、若しくは、他の構造を設計する基礎として開示された着想及び特定の実施例を容易に用い得ることを認識するはずである。当業者は更に、そのような同等の構造が本発明の最も拡大された形態での精神及び範囲から逸脱するものではないことを理解するはずである。
【００３６】
本発明の詳細説明に着手する前に、本発明の明細書及び特許請求の範囲の原文において用いられる特定の語及び句の定義を示すのが有益であり得る：「include」並びに「comprise」の語、及びそれらの語の派生語は制限のない包含関係を意味し；「or」の語は包括的であり、及び/又は、を意味し；「associated  with」並びに「associated  therewith」の句、及びそれらの句の派生形は、含む、中に含まれる、相互に連結する、持っている、中に入っている、接続する、連結する、伝達できる、協力する、差し込む、並列する、直前（直後）の、密接な関係の、有する、特性を有する、などを意味し得；「controller」、「processor」、又は「apparatus」は少なくとも一動作を制御するいかなる装置、システム、又はそれらの部分をも意味し、そのような装置はハードウェア、ファームウェア若しくはソフトウェア、又はそれらのうちの少なくとも２つの何らかの組み合わせによって実現し得る。いかなる特定の制御装置(controller)に関連する機能でも、局所であろうと遠隔であろうと、集中型であっても、分散型であってもよいことを特筆する。特に、制御装置は、１つ以上のアプリケーション・プログラム及び/又はオペレーティング・システムのプログラムを実行する、１つ以上のデータ処理装置、及び関連する入出力装置及び記憶装置を有し得る。特定の語及び句の定義は本発明の明細書及び特許請求の範囲全体にわたって設ける。当業者は、そのような定義が、大部分の場合でなくても、多くの場合に、そのように定義された語や句の従来の利用に加えて、将来の利用に適用するものであることを理解するはずである。
【００３７】
下記の図１乃至図７、及び本明細書及び特許請求の範囲における本発明の原理を説明するのに用いられる種々の実施例は例示のみが目的であって、本発明の範囲を制限するいかなる方法にても構成すべきではない。エラー伝播を低減するのに判定帰還型等化器における帰還型フィルタ・タップ係数値を制約する本発明は判定帰還型等化器を利用するいかなるシステムにも用い得る。
【００３８】
以下の実施例の説明においては、本発明はディジタル・テレビ受信器内の判定帰還型等化器に統合される、若しくは、ディジタル・テレビ受信器内の判定帰還型等化器に関連して用いられるものである。本発明はディジタル・テレビ・システムにおける利用に限定されるものではない。当業者は、本発明の実施例が、制限なしで、ディジタル・テレビ・システム、セット・トップ・ボックス、ディジタル記憶装置、ディジタル・ラジオ・システム、及び判定帰還型等化器を利用するいかなるディジタル・システムをも有する、判定帰還型等化器を利用するいかなる類のディジタル受信器システムにおける利用にも容易に修正し得ることを認識するものである。「ディジタル受信機システム」の語はこれらの類の機器を表す。
【実施例】
【００３９】
図１は従来技術による高品位テレビ(HDTV)送信器100の例の構成図を表す。MPEG互換データ・パケットはリード・ソロモン(RS)符号器110によって前方向誤り訂正(FEC)用に符号化される。各データ・フィールドの連続するセグメント中のデータ・パケットは次にデータ・インターリーブ器によってインターリーブされ、インターリーブされたデータ・パケットは、今度は更にトレリス符号化装置130によってインターリーブされ、符号化される。トレリス符号化装置130は各シンボルの3ビットを表すデータ・シンボル・ストリームを生成する。該3ビットの１つはプリコード化され、他の2つのビットは4状態トレリス符号化によって生成される。
【００４０】
トレリス符号化装置130は12のインターリーブされた符号化データ列を設ける12の並列のトレリス符号化装置及びプリコード化装置を有する。各トレリス符号化及びプリコード化装置の符号3ビットは多重化装置140においてフィールド及びセグメント同期化ビット列と結合される。パイロット信号がパイロット挿入装置150によって挿入される。データ・ストリームは更にVSB変調器160によって残留側帯波(VSB)搬送波抑圧8値変調にかけられる。データ・ストリームは更に無線周波数(RF)変換器170によって最後に無線周波数にアップコンバートされる。
【００４１】
図２は従来技術による高品位テレビ(HDTV)受信器200の例の構成図を示す。受信RF信号は同調器210によって中間周波数(IF)にダウンコンバートされる。信号は更にIFフィルタ及び検波器220によってフィルタされてディジタル形式に変換される。検波信号はその場合各々が8値群における単一値を意味する、データ・シンボルのストリームの形式になっている。信号は更にNTSC阻止フィルタ230によってフィルタされ、等化器及び位相トラック器240によって等化及び位相トラックにかけられる。取り戻された符号化データ・シンボルは次にトレリス復号化装置250によってトレリス復号化にかけられる。復号化データ・シンボルは、今度は更にデータ・デインターリーブ器260によってデインターリーブされる。データ・シンボルは次にリード・ソロモン復号器270によってリード・ソロモン復号化にかけられる。こうして送信器100によって送信されたMPEG互換データ・パケットが取り戻される。
【００４２】
コンピュータ・ディスケット280の概略図を更に図２に示す。本発明の別の好適実施例においては、コンピュータ・ディスケット280はテレビ受信器200におけるコンピュータ・ディスク駆動装置（図なし）に挿入し得る。コンピュータ・ディスク駆動装置はテレビ受信器200内の判定帰還型等化器における帰還型フィルタ・タップ係数値に関係がある情報を受け取ることができ、かつ、コンピュータ・ディスケット280に情報を書き込むことができる。本発明の更に別の好適実施例においては、コンピュータ・ディスケット280は本発明の方法を実現する、コンピュータによって実行可能な方法の工程を有する。コンピュータ・ディスケット280はコンピュータ化されたデータ及び命令を記憶して送ることができるいかなる類の媒体をも表すものとしてみなし得る。
【００４３】
図３は等化器及び位相トラック器240用の、従来技術の適応チャネル等化器300の構成図を示す。従来技術の適応チャネル等化器300はフォワード型等化器(FE)フィルタ310及び判定帰還型等化器(DFE)フィルタ320を有する。フォワード型等化器(FE)フィルタ310からの出力は適応チャネル等化器300の出力を形成するよう、加算器330において判定帰還型等化器(DFE)フィルタ320からの出力に加算される。
【００４４】
フォワード型等化器(FE)フィルタ310はその入力として非補償チャネル・シンボル・データを受け入れる。対照的に、判定帰還型等化器DFE)フィルタ320はその入力として、シンボルが雑音にて破損される前にチャネル上を送信された、シンボルの「推定」を必要とする。
【００４５】
周知のごとく、DFEフィルタ320は単に等化器出力を「スライスする」ことによって出力シンボルの推定を受け得る。「スライスする」の語は実際の出力に最も近い(8-VSBのATSC標準によって規定された8値の)許容シンボル値を採る処理を表す。図３に表された実施例においては、レベル・スライス器340は「スライスされた」シンボルをDFEフィルタ320に多重化装置350経由で設ける。この、DFEフィルタ320に出力シンボルの予測を設ける方法はスライス・エラーによって引き起こされたエラー伝播の影響を受け得る。
【００４６】
更に周知のごとく、DFEフィルタ320は「訓練モード」か「ブラインド・モード」かのいずれかによって形成し得る。「訓練モード」において、DFEフィルタ320は特定の既知の時間に（多重化装置350を経由して）既知のシンボルの「訓練列」を受ける。DFEフィルタ320は既知の訓練列を「訓練適用等化器エラー」と比較する。訓練適用等化器エラーは等化器出力を既知の訓練列から減算することによって得られる。減算処理は減算器360にて行われる。DFEフィルタ320は更に等化器出力を既知の訓練列と整合させるよう、その処理を調節する。
【００４７】
代わりに、DFEフィルタ320は「ブラインド・モード」にて処理し得る。「ブラインド・モード」において、DFEフィルタ320は「ブラインド適応等化器エラー」をブラインド・エラー装置370から受け取る。ブラインド・エラー装置370はブラインド適応における等化器エラーを生成するよう、等化器出力を、データの期待統計的分布と比較する。DFEフィルタ320は更に、等化器出力を、データの期待統計的分布と整合させるよう、その処理を調節する。
【００４８】
図４は従来技術の判定帰還型等化器(DFE)を表すブロック図である。DFE320はフォワード型フィルタ410、帰還型フィルタ420、加算器430、判定装置440、及びエラー算定装置450を有する。DFE320への入力信号はフォワード型フィルタ410において受け取られる。フォワード型フィルタ410からの出力は、DFE320の出力を形成するよう、加算器430において帰還型フィルタ420からの出力に加算される。DFE320の出力は、判定装置440及びエラー算定装置450に送られる。判定装置440の出力は帰還型フィルタ420に送られる。エラー算定装置450の出力はフォワード型フィルタ410及び帰還型フィルタ420に送られる。判定装置440及びエラー算定装置450からの情報は帰還型フィルタ420におけるエラーを低減するのに用いられる。
【００４９】
図５は判定帰還型等化器320のフォワード型フィルタ410及び帰還型フィルタ420用の本発明の適用有限インパルス応答(FIR)フィルタ500を示す。FIRフィルタ500の係数はチャネル歪をできるだけ補償するよう算定される。FIRフィルタ500の長さはFIRフィルタ500が補償するよう企図された最高障害遅延に相当する。
【００５０】
FIRフィルタ500は多数の(更に「フィルタ・タップ」と呼ばれる)フィルタ・タップ・セル510を有する。各フィルタ・タップ510はデータ格納レジスタ520、係数格納レジスタ530、及び乗算器540を有する。乗算器540の出力は加算装置550に入力される。加算装置550はフィルタの出力を生成するよう、重み付けされたタップ値の全てを加算する。フィルタ・タップ510は更に更新フィルタ係数を算定する係数適応装置560を有する。係数適応装置560は以下の入力を有する：(1)現時の係数値、(2)データ・タップ値、及び(3)等化器エラーの程度(すなわち、期待信号値と実際の出力信号値との差異)。本発明の原理によるフィルタ係数の算定は適応装置560において行われる。係数適応装置560は適応処理が行われている場合のみに動作する。
【００５１】
前述のように、フィルタ係数を算定する従来技術による方法で、通常用いられているものに周知の最小2乗(LMS)アルゴリズムを用いるものがある。LMSアルゴリズムは、新たな係数値を算定するのに、現時の係数及びデータ・タップ値に加えて算定エラーを用いる逐次近似法である。LMSアルゴリズムは各フィルタ・タップ係数が所望の最適値に収束するまで手順を繰り返す。
【００５２】
LMSアルゴリズムはDFEのフォワード型線形フィルタの、
【００５３】
【数２２】
2005506760.tif 000015
の係数ベクトルを以下のように判定し：
【００５４】
【数２３】
2005506760.tif 000016
その場合、
【００５５】
【数２４】
2005506760.tif 000017
は時間ｋでのフォワード型フィルタ・タップ係数で、μは適応速度定数で、ekはエラー項で、rk-nは時間ｋでのフォワード型フィルタにおけるフォワード型フィルタ・タップ・データ値である。ekのエラー項はDFEの出力から算定されたエラーである。LMSアルゴリズムは以下のようにDFEの帰還型フィルタの、
【００５６】
【数２５】
2005506760.tif 000018
の係数ベクトルを判定し：
【００５７】
【数２６】
2005506760.tif 000019
その場合、
【００５８】
【数２７】
2005506760.tif 000020
は、時間ｋでの帰還型フィルタ・タップ係数で、μは適応速度係数で、ekはエラー項で、ak-nは時間ｋでの帰還型フィルタにおける帰還型フィルタ・タップ・データ値である。
【００５９】
式(1)及び式(2)は、
【００６０】
【数２８】
2005506760.tif 000021
及び、
【００６１】
【数２９】
2005506760.tif 000022
の係数を制約のないままにしておく。すなわち、
【００６２】
【数３０】
2005506760.tif 000023
及び、
【００６３】
【数３１】
2005506760.tif 000024
の係数はDFEにおけるマルチパス干渉の影響を低減するいかなる値をも呈し得る。厳しいポスト・エコー及びプリ・エコーに対しては、
【００６４】
【数３２】
2005506760.tif 000025
の帰還型フィルタ・タップ係数値はエラー伝播によってDFEの処理能力を低減するほど大きくなる。
【００６５】
本発明は、
【００６６】
【数３３】
2005506760.tif 000026
の帰還型フィルタ・タップ係数値を制約する装置及び方法を設ける。本発明の方法においては、以下の式が用いられ：
【００６７】
【数３４】
2005506760.tif 000027
【００６８】
【数３５】
2005506760.tif 000028
その場合、式(3)及び(4)における記号は式(1)及び(2)における記号と同一の意味を有し、Jの項は制約コスト関数で、λの項は通常1未満の小正定因子である。
【００６９】
M(gn)の制約関数は、gnの関数である。gnの値を適切に制約するには、M(gn)の制約関数の値はゼロ以下でなければならない：
【００７０】
【数３６】
2005506760.tif 000029
M(gn)の制約関数の値がゼロ超になる場合、式(4)における、
【００７１】
【数３７】
2005506760.tif 000030
の項の値を調節しなければならない。制約コスト関数Jは以下のように定義される：
【００７２】
【数３８】
2005506760.tif 000031
【００７３】
【数３９】
2005506760.tif 000032
所定の制約コスト関数Jにおいて、
【００７４】
【数４０】
2005506760.tif 000033
の帰還型フィルタ・タップ係数に関する制約コスト関数Jのグラジエントを評価し得る。
【００７５】
【数４１】
2005506760.tif 000034
の結果は帰還型フィルタ420の帰還型フィルタ・タップ係数を更新するよう、式(4)において用いられる。
【００７６】
本発明の方法を用いる便益を説明するのに、タップの総エネルギを制限する制約を検討する。この制約は以下のように記述し得：
【００７７】
【数４２】
2005506760.tif 000035
その場合、Dは閾値定数（すなわち、帰還型タップの総エネルギ）である。
【００７８】
この制約は、帰還型タップの総エネルギがDに等しい値を超えるべきでないことを意味する。
【００７９】
式(8)の、M(gn)のJの値は以下のように表される:
【００８０】
【数４３】
2005506760.tif 000036
【００８１】
【数４４】
2005506760.tif 000037
式(8)の制約関数に関連する制約コスト関数Jのグラジエントはその場合、以下のように表される：
【００８２】
【数４５】
2005506760.tif 000038
【００８３】
【数４６】
2005506760.tif 000039
第２の例として、各タップの大きさをDの値に制限する制約を検討する。特に：
【００８４】
【数４７】
2005506760.tif 000040
式(13)の、M(gn)のJの値は以下のように表される：
【００８５】
【数４８】
2005506760.tif 000041
【００８６】
【数４９】
2005506760.tif 000042
式(13)の制約関数に関連する制約コスト関数Jのグラジエントはその場合、以下のように表される：
【００８７】
【数５０】
2005506760.tif 000043
【００８８】
【数５１】
2005506760.tif 000044
式(13)の制約に最も近い近似は各タップをDの値に縮小することによって行い得る。
これによって式(13)の制約についての容易な実現形態を設ける。
【００８９】
本発明の方法は更に、
【００９０】
【数５２】
2005506760.tif 000045
の値を制約するよう利用し得る。すなわち、
【００９１】
【数５３】
2005506760.tif 000046
の値は以下の式より入手し得：
【００９２】
【数５４】
2005506760.tif 000047
その場合、
【００９３】
【数５５】
2005506760.tif 000048
は時間ｋでのフォワード型フィルタ・タップ係数で、μは適応速度定数で、ekはエラー項であり、かつ、rk-nは時間ｋでのフォワード型フィルタのフォワード型フィルタ・タップ・データ値であり、Jは制約コスト関数であり、λは通常１未満の小正定数である。
【００９４】
本発明の別の好適実施例においては、
【００９５】
【数５６】
2005506760.tif 000049
及び、
【００９６】
【数５７】
2005506760.tif 000050
の両方を同時に制約し得る。
【００９７】
図６は本発明の１つの好適実施例の方法の工程を表す流れ図を示す。工程は集合的に参照番号600で表す。
【００９８】
最初に、M(gn)の制約が選択される（工程610）。次に制約コスト関数Jの値が、M(gn)の選択値を用いて算定される(工程620)。次に、
【００９９】
【数５８】
2005506760.tif 000051
の帰還型フィルタ・タップ係数に関連する制約コスト関数Jのグラジエントの値が算定される(工程630)。
【０１００】
それから帰還型フィルタ420内の係数適応装置560が式(4)を用いて、
【０１０１】
【数５９】
2005506760.tif 000052
の帰還型フィルタ・タップ係数を更新する(工程640)。すなわち、
【０１０２】
【数６０】
2005506760.tif 000053
の、次の、帰還型フィルタ・タップ係数が、
【０１０３】
【数６１】
2005506760.tif 000054
を用いて算定される。そして、フォワード型フィルタ410内の係数適応装置560は式(3)を用いて、
【０１０４】
【数６２】
2005506760.tif 000055
のフォワード型フィルタ・タップ係数を更新する。すなわち、
【０１０５】
【数６３】
2005506760.tif 000056
の次の、フォワード型フィルタ・タップ係数が：
【０１０６】
【数６４】
2005506760.tif 000057
を用いて算定される。
【０１０７】
この説明において工程640は明瞭性の目的から、先行する工程650として説明した。実際には工程640及び工程650は同時に行い得る。フォワード型フィルタ410及び帰還型フィルタ420はその場合、各々のフィルタ処理を行う(工程660)。それから時間指数ｋを増やす（工程670）。制御は、今度は工程640に戻り、当該方法はフィルタ・タップ係数を更新するよう続行される。
【０１０８】
前述のように、式(4)における、
【０１０９】
【数６５】
2005506760.tif 000058
の項の存在は、
【０１１０】
【数６６】
2005506760.tif 000059
の帰還型フィルタ・タップ係数値を制約する。本発明によって設けられた制約は帰還ループ内を循環するエラーの大きさを限定する。エラー伝播は相応に限定される。
【０１１１】
図７は従来の動的チャネルにおいて、8-VSBセグメントに対して描いたシンボル・エラー・レート(SER)曲線を表すグラフである。図７は更に判定帰還型等化器の帰還型フィルタ・タップ係数値が本発明の原理によって制約された動的チャネルにおいて、８-VSBセグメントに対して描いたシンボル・エラー・レート(SER)曲線を表すグラフである。
【０１１２】
図７に表されるグラフは４μsでマイナス２dBのポスト・エコーと２５dBの信号対雑音比(SNR)を有するチャネルに８値PAM(8-VSB)信号を用いた動的チャネルのシミュレーションからの結果を表す。この判定帰還型等化器は128のタップを有するフォワード型フィルタ及び１２８のタップを有する帰還型フィルタを有するものであった。ポスト・エコーは100Hzのドップラ周波数にかけられた。シミュレーションにて企図されたアプリケーションはATSCのディジタル・テレビ標準であった。
【０１１３】
図７に描かれたデータは、本発明の制約帰還型フィルタ・タップ係数を用いた判定帰還型等化器が正確に動的チャネルをトラックすることを表す。図７に描かれたデータは更に、非制約帰還型フィルタ・タップ係数を用いた従来の判定帰還型等化器は動的チャネルを正確にトラックできないことを表す。このシミュレーションにおいて用いられた判定装置はトレリス復号器であった。
【０１１４】
本発明が種々の異なった判定帰還型等化回路に用い得ることは理解されるものである。図４に示された例示の、判定帰還型等化回路320においては、帰還型フィルタ420に設けられた、
【０１１５】
【数６７】
2005506760.tif 000060
の帰還型フィルタ・タップ係数を算定するのに用い得る。図４に示された等化回路が例として表されていることは理解されるものである。本発明の方法は図４に表された等化回路においてのみでの利用に限定されないものである。
【０１１６】
本発明はその特定の実施例について詳説したが、当業者は、本発明の最も拡大された形態での着想及び範囲から逸脱することなく、本発明に種々の変更、置換、修正、手直し、及び改造を行い得ることを認識するはずである。
【図面の簡単な説明】
【０１１７】
【図１】従来技術の高品位テレビ(HDTV)送信器の例の構成図である。
【図２】従来技術の高品位テレビ(HDTV)受信器の例の構成図である。
【図３】フォワード型等化(FE)フィルタ及び判定帰還型等化(DFE)フィルタを有する従来の適応チャネル等化器の構成図である。
【図４】フォワード型フィルタ、帰還型フィルタ、判定装置、及びエラー算定装置を有する従来の判定帰還型等化器を表す構成図である。
【図５】本発明の原理を利用した、判定帰還型等化器の帰還型フィルタ用の適用有限インパルス応答(FIR)フィルタの構成図である。
【図６】本発明の一好適実施例の方法の工程を表す流れ図である。
【図７】従来の動的チャネルでのシンボル・エラー・レート曲線と判定帰還型等化器の帰還型フィルタ・タップ係数値が本発明の原理によって制約された動的チャネルでのシンボル・エラー・レート曲線を表したグラフである。
【図１】
2005506760.tif 000070
【図２】
2005506760.tif 000071
【図３】
2005506760.tif 000072
【図４】
2005506760.tif 000073
【図５】
2005506760.tif 000074
【図６】
2005506760.tif 000075
【図７】
2005506760.tif 000076
【国際公開パンフレット】
2005506760.tif 000077
2005506760.tif 000078
2005506760.tif 000079
2005506760.tif 000080
2005506760.tif 000081
2005506760.tif 000082
2005506760.tif 000083
2005506760.tif 000084
2005506760.tif 000085
2005506760.tif 000086
2005506760.tif 000087
2005506760.tif 000088
2005506760.tif 000089
2005506760.tif 000090
2005506760.tif 000091
2005506760.tif 000092
2005506760.tif 000093
2005506760.tif 000094
2005506760.tif 000095
2005506760.tif 000096
2005506760.tif 000097
2005506760.tif 000098
2005506760.tif 000099
2005506760.tif 000100
【国際公開パンフレット（コレクトバージョン）】
2005506760.tif 000101
【国際調査報告】
2005506760.tif 000102
2005506760.tif 000103
2005506760.tif 000104