(57)【要約】【課題】メトリックを利用したエラーレート最小点へのパラメータ調整精度を向上させる。【解決手段】多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算において、最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みを低くする。例えば３値の目標値の−Ａに対する負方向のブランチメトリックや、＋Ａに対する正方向のブランチメトリックの計算値が、メトリックカウント値の増加を生じさせないか、或いは増加を少ないものとなるようにし、メトリックカウント値の最小点とエラーレート最適点のズレを解消する。【選択図】        図６
2004310807.tif 000002
【特許請求の範囲】
【請求項１】
入力信号を等化回路で等化処理し、等化処理された信号をビタビ復号器で復号する際に得られるメトリックのカウント値を最小とするように、所定の回路の処理パラメータを調整するパラメータ調整方法において、
上記ビタビ復号器における多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算で、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みとを低くすることを特徴とするパラメータ調整方法。
【請求項２】
上記メトリック計算で、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みを設定する係数値は、０以上１未満であることを特徴とする請求項１に記載のパラメータ調整方法。
【請求項３】
入力信号を等化処理する等化手段と、
上記等化手段で等化処理された信号を復号するビタビ復号手段とを備え、
上記ビタビ復号手段は、復号処理過程で算出されるメトリックを出力する構成とされるとともに、多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算において、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みとを低くするように構成されていることを特徴とする信号処理装置。
【請求項４】
上記メトリック計算で、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みを設定する係数値は、０以上１未満であることを特徴とする請求項３に記載の信号処理装置。
【請求項５】
上記ビタビ復号手段から出力されるメトリックのカウント値を最小とするように、所定の回路の処理パラメータを調整するパラメータ調整手段を、さらに備えることを特徴とする請求項３に記載の信号処理装置。
【請求項６】
上記等化手段への入力信号は、記録媒体から読み出された信号であることを特徴とする請求項３に記載の信号処理装置。
【請求項７】
上記等化手段への入力信号は、有線又は無線の伝送路を介して受信された信号であることを特徴とする請求項３に記載の信号処理装置。
【請求項８】
上記パラメータ調整手段は、上記等化手段の処理パラメータを調整することを特徴とする請求項５に記載の信号処理装置。
【請求項９】
上記等化手段への入力信号は、記録媒体から読み出された信号であるとともに、
上記パラメータ調整手段は、上記記録媒体への記録処理における処理パラメータを調整することを特徴とする請求項５に記載の信号処理装置。
【請求項１０】
上記等化手段への入力信号は、有線又は無線の伝送路を介して受信された信号であるとともに、
上記パラメータ調整手段は、上記伝送路への送信処理における処理パラメータを調整することを特徴とする請求項５に記載の信号処理装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明はビタビ復号におけるメトリックを用いて自動調整を行う機器としての信号処理装置、及びパラメータ調整方法に関するものである。
【０００２】
【従来の技術】
例えばデジタルＶＴＲのようなデジタル磁気記録／再生において、磁気記録の高密度化、エラーレートの向上のために、再生信号について等化器を使用することが知られている。
また、ビタビ・アルゴリズムを利用して、非線形歪みを除去することが行われている。例えば非線形歪みが後続データに依存するものと考えて、後続データの各パターンを状態とみなし、ビタビ・アルゴリズムを適用して、注目ビットの正しい値を判別している。
【０００３】
さらに本出願人は先に、下記特許文献１として公開されているように、記録媒体上に記録されたデジタル信号を再生するデジタル信号再生回路において、再生ＲＦ信号が供給され、その利得特性および位相特性の少なくとも一方が制御信号によって可変可能な等化回路と、等化回路の出力信号が供給されるビタビ復号器と、等化回路に対する制御信号を発生する制御器とを有し、制御器は、ビタビ復号器のメトリック増加量を最小とするように、等化器を制御するように構成されたデジタル信号再生回路を提案した。
【特許文献１】特開平６−１６２６９１
【０００４】
【発明が解決しようとする課題】
ところで、パーシャルレスポンスクラス４（ＰＲ４ＭＬ）方式を例に挙げた場合、ビタビ復号器における目標値は＋Ａ、０、−Ａの３値になる。
そして、ビタビ復号処理の過程では、この３つの目標値に対するメトリック計算を行うものとなる。
【０００５】
ビタビ復号（最尤復号）について簡単に説明する。
例えば記録媒体から再生されるなどして入力される信号パターンは、歪みのない信号パターンに対して歪みやノイズ成分がのったものと考えることができる。そして歪みやノイズ成分は歪みのない入力信号パターンに対して正規分布している。ここで、目標の等化パターンと実際の信号系列、即ち歪みやノイズ成分を含む信号系列の差分積算値がメトリックと呼ばれるが、このメトリックを用いることで、最も確からしい目標値が特定でき、特定した目標値によって非線形歪みを除去した復号データ系列を得るのがビタビ復号である。
【０００６】
通常、メトリック計算においては、各目標値に対する入力値の差分積算値を計算する。
図５では、ＰＲ４ＭＬ方式の目標値＋Ａ、０、−Ａに対する入力Ｚの差分積算値を模式的に示している。
例えば図５（ａ）の場合、入力値Ｚ１と目標値＋Ａのメトリックｆ＋Ａ（Ｚ）は、（Ｚ１−Ａ）２となる。
また図５（ｂ）の場合も、入力値Ｚ２と目標値＋Ａのメトリックｆ＋Ａ（Ｚ）は、（Ｚ２−Ａ）２となる。
換言すれば、メトリックは入力値と目標値の距離を表すものと言え、従ってメトリックが小さいほど値の確からしさが大きくなる。
【０００７】
ところで上記特許文献１に記載の技術は、ビタビ復号器のメトリックの増加量は、等化特性およびノイズに強く関係していることに着目し、メトリック増加量が最小となるように等化特性、例えば周波数特性や位相を制御することによって、高精度の自動調整を達成するものであった。
つまりメトリックカウント値が小さくなるように等化特性を調整することで、エラーレートを最適化するものである。
しかしながら、通常のメトリック計算に基づいて、このような調整を行うと、メトリック最適点とエラーレートの最適点がゲイン方向にずれるという現象が生じ、これによって自動調整の最適点調整にズレが生じるという問題があった。
【０００８】
図８（ａ）は、ＰＲ４等化後の検出点電圧としての入力値Ｚと、各目標値の確率密度を示している。また図８（ｂ）は図８（ａ）に対応させて、入力値Ｚに対するブランチメトリックを示している。ここで、実線は目標値０に対するメトリック、破線は目標値＋Ａに対するメトリック、一点鎖線は目標値−Ａに対するメトリックである。
この図８（ａ）（ｂ）から、それぞれの目標値に対してメトリック計算値が小さいほど、目標値の値の確率密度が向上することがわかる。
ところが上記のようにメトリックを用いて等化特性の調整を行うと、調整最適点からのズレが生ずる。図８（ｃ）はそのズレを位相軸及び周波数特性軸上で表しているが、エラーレートの最小点×と、メトリック最小点○は、図示のように一致しないものとなる。
【０００９】
この理由としては次のことが考えられる。
今、メトリック計算において、図５（ｂ）のような場合を考える。この場合、等化後の入力値Ｚ２は目標値＋Ａに対して正方向の値となる。このような場合も、他と区別することなく、（入力値−目標値）２としてメトリック計算される。従って、メトリックカウント値の増加につながる。例えば図８（ｂ）では、破線の右上がりの部分に相当するブランチメトリックとなる。
ところが、このような場合、等化後の入力値Ｚ２は、他の目標値（０や−Ａ）へ誤検出される方向ではないので実際にはエラーにつながることはない。
即ちエラーレート悪化に相当するものではないにも関わらず、メトリックカウント値が増加されることになり、これがエラーレート最小点とメトリックカウント値の最小点のズレとなる。
同様のことは、図５（ｃ）のように等化後の入力値Ｚ３は目標値−Ａに対して負方向の値となった場合についても言える。この場合も、他と区別することなく、（入力値−目標値）２としてメトリック計算されるため、エラーレート悪化に相当するものではないにも関わらずメトリックカウント値が増加され、メトリックを利用した調整処理にズレを生じさせる。
【００１０】
【課題を解決するための手段】
本発明はこのような問題点に鑑みて、メトリックを利用して信号処理パラメータ調整を行う場合において、メトリックの最小点すなわち調整点とエラーレートの最適点のずれを改善することを目的とする。
【００１１】
本発明のパラメータ調整方法は、入力信号を等化回路で等化処理し、等化処理された信号をビタビ復号器で復号する際に得られるメトリックのカウント値を最小とするように、所定の回路の処理パラメータを調整するパラメータ調整方法において、上記ビタビ復号器における多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算で、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みとを低くする。
例えば上記メトリック計算では、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みを設定する係数値は、０以上１未満とする。
【００１２】
本発明の信号処理装置は、入力信号を等化処理する等化手段と、上記等化手段で等化処理された信号を復号するビタビ復号手段とを備える。そして上記ビタビ復号手段は、復号処理過程で算出されるメトリックを出力する構成とされるとともに、多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算において、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みとを低くするように構成する。
例えば上記メトリック計算で、上記最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みを設定する係数値は、０以上１未満であるとする。
また、上記ビタビ復号手段から出力されるメトリックのカウント値を最小とするように、所定の回路の処理パラメータを調整するパラメータ調整手段を、さらに備える。
【００１３】
このような本発明では、多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算において、最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みが低くされる。例えば０或いは１未満の係数が与えられる。
これは、例えばＰＲ４ＭＬを想定すれば、３値の目標値の一つの−Ａに対する負方向のブランチメトリックと、＋Ａに対する正方向のブランチメトリックの重みをゼロまたは低くすることとなる。つまり、上述のように、エラーとなることはないこれらの場合において、メトリックカウント値の増加を０又は少ないものとする。
【００１４】
【発明の実施の形態】
以下、本発明の実施の形態を説明する。まず、本発明を適用する機器の構成について、図１，図２で説明する。
【００１５】
図１は、記録媒体９０に対するビデオ信号の記録再生装置１としての構成を示している。例えば記録媒体９０を磁気テープとし、デジタルビデオ記録再生装置として構成される。
記録処理系としては、ビデオ圧縮部５１，ＥＣＣエンコード部５２、記録処理部５３、記録ヘッド５４を備える。
記録ビデオ信号として入力されたデジタル信号は、ビデオ圧縮部５１で圧縮される。例えばＭＰＥＧ方式など、所定の圧縮方式の圧縮処理が行われる。なお圧縮記録を行わない機器の場合、当然ながらビデオ圧縮部５１は必要ない。
ビデオ圧縮部５１で圧縮されたデジタルビデオ信号は、ＥＣＣエンコード部５２でエラー訂正符号／パリティ付加等のＥＣＣエンコードが行われる。
ＥＣＣエンコードされたデータは、記録処理部５３で記録のための変調処理が行われ、記録電流とされて記録ヘッド５４に供給される。記録ヘッド５４は例えばヘリカルスキャン方式の磁気ヘッドとされ、記録媒体９０としての磁気テープに対して記録電流に応じたデータ記録を行う。
【００１６】
再生処理系としては、再生ヘッド５５，等化回路５６、ビタビ復号器５７、エラー訂正部５８、ビデオ伸長部５９を備える。
再生ヘッド５５は、記録媒体９０（磁気テープ）に記録された情報を再生し、いわゆる再生ＲＦ信号を出力する。この再生ＲＦ信号は等化回路５６で等化される。等化回路５６としては、例えばパーシャルレスポンスクラス４（ＰＲ４ＭＬ：ＰＲ（１，０，−１））方式のものなどを使用できる。
等化処理された信号は、ビタビ復号器５７で復号される。ビタビ復号器５７は、検出ビットの後続のデータパターンの状態系列に対して、ビタビ・アルゴリズムを適用し、尤度が高い状態遷移を求め、それによって最も確からしい復号系列を選び出すものである。
ビタビ復号器５７から出力されたデータは、エラー訂正部５８でエラー訂正処理され、さらにビデオ伸長部５９で記録時の圧縮処理に対する伸長処理が施されて、再生ビデオ信号となり、出力される。
【００１７】
ビタビ復号器５７については後述するが、ビタビ復号の過程において得られるメトリックは、演算器６０に供給される。演算器６０はＤＳＰ、或いはＣＰＵ等で構成できる。そして演算器６０は、内部にソフトウエア或いはハードウエアによるカウンタ６０ａを備え、供給されたメトリックのカウントを行う。
この演算器６０は等化回路５６や記録処理部５３に対するパラメータ調整のための動作を行う。
即ち、等化回路５６に対しては、カウンタ６０ａによるメトリックカウント値が最小化されるようにパラメータ調整を行う制御信号Ｓｅを出力する。また記録処理部５３に対しても、カウンタ６０ａによるメトリックカウント値が最小化されるようにパラメータ調整を行う制御信号Ｓｒを出力する。
調整パラメータについては後述する。
【００１８】
なお、ここではビデオ信号を磁気テープに対する磁気記録再生装置を想定したが、記録媒体９０として光ディスク、光磁気ディスクなどを想定することもできる。その場合、記録ヘッド５４、再生ヘッド５５としては光ヘッド、光磁気ヘッドが採用される。もちろんハードディスクなども想定される。
さらに、固体メモリを記録媒体９０とする記録再生装置も想定される。
また、いずれの場合も、ビデオ信号の記録再生装置だけではなく、オーディオデータ、その他各種データの記録再生装置としての場合も想定される。
さらに、記録再生装置としてだけでなく、上記の記録処理系を備えた記録装置、上記の再生処理系を備えた再生装置も、それぞれ本発明の実施の形態としての適用機器として想定される。
【００１９】
図２は、データ送信装置及びデータ受信装置としての構成を示している。例えば一般通信回線、衛星通信回線、光通信、ローカルネットワーク、インターネット、無線放送、無線通信、機器間通信、その他各種の通信システムとして、有線又は無線の伝送路に対してデータ送信を行うデータ送信装置２と、有線又は無線の伝送路により送信されてきたデータを受信するデータ受信装置３としての構成である。
【００２０】
送信装置２としては、エラー訂正／送信エンコード部７１、送信用変調部７２、送信部７３を備える。
入力された送信データ（圧縮データ又は非圧縮データ）は、エラー訂正／送信エンコード部７１でエラー訂正符号／パリティ付加等のエンコード、及び送信フォーマットへのエンコードが行われ。エンコードされたデータは、送信用変調部で変調され、送信部７３から伝送路に送信出力される。
【００２１】
受信装置３としては、受信部７５、等化回路７６、ビタビ復号器７７、エラー訂正部７８を備える。
受信部７５は、伝送路から送信されてきたデータを受信する。この受信信号は等化回路７６で等化される。等化回路７６としては、上記同様に例えばパーシャルレスポンスクラス４（ＰＲ４ＭＬ：ＰＲ（１，０，−１））方式のものなどを使用できる。
等化処理された信号は、ビタビ復号器７７で復号される。
ビタビ復号器７７で復号されたデータは、エラー訂正部７８でエラー訂正処理され、受信データとして出力される。
【００２２】
この場合も、ビタビ復号器７７のビタビ復号の過程において得られるメトリックは、演算器６０に供給される。演算器６０はＤＳＰ、ＣＰＵ等で構成できる。そして演算器６０は、内部にソフトウエア或いはハードウエアによるカウンタ６０ａを備え、供給されたメトリックのカウントを行う。
この演算器６０は等化回路７６や送信用エンコード部７２に対するパラメータ調整のための動作を行う。
即ち、等化回路７６に対しては、カウンタ６０ａによるメトリックカウント値が最小化されるようにパラメータ調整を行う制御信号Ｓｅを出力する。
また送信用エンコード部７２に対しても、カウンタ６０ａによるメトリックカウント値が最小化されるようにパラメータ調整を行う制御信号Ｓｔを出力する。なお、受信装置３側でのメトリック計算に基づくパラメータ調整とするに際して、送信装置２は、演算器６０を有する受信装置３とは別体機器で有ることが通常想定される。従って、演算器６０が送信用変調部７２に対するパラメータ調整を行う場合は、その制御信号Ｓｔを、何らかの手法で伝送路を介して送信装置２側に送信することが想定されるものである。
【００２３】
これら図１，図２のように、本発明の実施の形態として適用できる機器は各種存在する。
これらにおいて、メトリックを利用した自動パラメータ調整が行われる訳であるが、演算器６０によって調整されるパラメータは、例えば以下のような例が考えられる。
【００２４】
まず図１の記録再生装置１、又は記録装置として、磁気記録を想定した場合、記録処理部５３の調整パラメータとしては記録電流値や記録周波数特性などが挙げげられる。
また、光記録を想定した場合、記録レーザパワーや、記録レーザのパルス変調係数などが挙げられる。
記録再生装置１又は再生装置としての等化回路５６の調整パラメータとしては、再生周波数特性、再生位相、再生ゲイン、フィルタタップ係数、フィルタのカットオフ周波数などが挙げられる。図２の受信装置３における等化回路７６に関しても受信信号に対する周波数特性、位相、ゲイン、フィルタタップ係数、フィルタのカットオフ周波数等が調整パラメータとして挙げられることは同様である。
また、図２の送信装置２の送信用変調部７２に対する調整パラメータとしては、変調係数などが挙げられる。
もちろん、これら例示しただけでなく、調整パラメータとしては、実際の機器の記録・再生・送信・受信の各方式に応じて各種考えられる。
【００２５】
ところで、図１，図２の構成例では、演算器６０が、メトリックカウント値に応じて、等化回路５６、７６，記録処理部５３，送信用変調部７２に対するパラメータ調整を行うとしたが、この演算器６０は、図１の再生処理系又は図２の受信装置３を有する機器とは別体の装置として構成されてもよい。
例えば上記パラメータを機器製造の調整工程において調整することを想定した場合、演算器６０を記録再生装置１や受信装置３に内蔵する必要はなく、あくまでもビタビ復号器５７、７７からメトリックを入力し、そのメトリックカウント値に基づいて得たパラメータ調整値への制御信号Ｓｒ，Ｓｅ，Ｓｔを、記録再生装置１、送信装置２、受信装置３に供給できる機器であればよい。演算器６０を記録再生装置１や受信装置３に内蔵しないことにより、これらの機器の小型化やコストダウンに有利である。
一方、演算器６０が記録再生装置１や受信装置３に内蔵されるようにする場合は、工場出荷前に限らず、自動パラメータ調整を随時実行でき、使用環境や経時変化に応じたパラメータ調整も可能となるという利点が生する。
【００２６】
続いてこれら実施の形態として想定される機器において、ビタビ復号器５７（又は７７）の構成及びメトリック計算、及びそれによって演算器６０によって行われるパラメータ調整について説明する。
【００２７】
図３にビタビ復号器５７（又は７７）の構成を示す。
入力端子１１には等化回路５６（７６）において等化された信号が入力される。この入力信号はＡ／Ｄ変換器１２に供給されて量子化され、ブランチメトリック計算回路（ＢＭＵ）１３へ入力データ値Ｚとされる。
ブランチメトリック計算回路１３では、後述するようにメトリック計算が行われ、計算値（ブランチメトリック）が加算比較演算回路（ＡＣＳＵ）１４に供給される。加算比較演算回路１４では、ブランチメトリックが合計され、その結果のパスメトリックが計算される。
加算比較演算回路１４からは、パス選択信号およびパスメトリックが発生する。パス選択信号がパスメモリ１５に供給される。パスメモリ１５からは、最も確からしいと考えられるパスを最尤判定回路（ＭＬＤＵ）１６に出力する。最尤判定回路１６には、パスメモリ１５からの出力信号も供給される。最尤判定回路１６は、生き残りパスの中から復号出力を決定し、最尤判定回路１６の出力端子１７に復号データ出力が得られる。かかるビタビ復号器に関しては、例えば「日経エレクトロニクス」（１９９１．９．３０，ｎｏ．５３７，  ｐ３１６〜ｐ３２５および１９９１．１０．１４，ｎｏ．５３８，  ｐ２７０  〜ｐ２７８）  に記述されている。
また、加算比較演算回路１４からは、ブランチメトリックに対する演算値が演算器６０に出力される。
【００２８】
図４に、ブランチメトリック計算回路１３及び加算比較演算回路１４の構成を示している。
ここでは一例としてＰＲ４ＭＬ方式を想定するため、ブランチメトリック計算回路１３には、３値の目標値＋Ａ，０，−Ａについてのメトリック計算部が設けられる。即ち＋Ａメトリック計算部４１，０メトリック計算部４２、−Ａメトリック計算部４３である。
【００２９】
＋Ａメトリック計算部４１，０メトリック計算部４２、−Ａメトリック計算部４３のそれぞれには入力値Ｚが供給され、それぞれ目標値＋Ａ，０，−Ａと入力値Ｚについてメトリック計算を行う。
本例の場合、このメトリック計算においては入力値Ｚと各目標値との条件判断に応じて計算方式が異なる（本例の場合、係数値を変化させる）が、それについては後述し、まず基本的なメトリック計算を述べる。
メトリックとは上述したように差分積算値である。このため＋Ａメトリック計算部４１では、入力値Ｚと目標値＋Ａの差分積算値を求める。同様に０メトリック計算部４２は入力値Ｚと目標値０の差分積算値を求め、−Ａメトリック計算部４３は入力値Ｚと目標値−Ａの差分積算値を求める。
それぞれで計算されるメトリックをｆ＋Ａ（Ｚ）、ｆ０（Ｚ）、ｆ−Ａ（Ｚ）とすると、
ｆ＋Ａ（Ｚ）＝（Ｚ−Ａ）２
ｆ０（Ｚ）＝Ｚ２
ｆ−Ａ（Ｚ）＝（Ｚ＋Ａ）２
となる。
図５（ａ）に、入力値Ｚ＝Ｚ１の場合に計算されるメトリックｆ＋Ａ（Ｚ）、ｆ０（Ｚ）、ｆ−Ａ（Ｚ）を模式的に示している。
【００３０】
これら計算されたブランチメトリックｆ＋Ａ（Ｚ）、ｆ０（Ｚ）、ｆ−Ａ（Ｚ）は加算比較演算回路１４に供給される。
即ちブランチメトリックｆ＋Ａ（Ｚ）は加算器２２へ、ブランチメトリックｆ０（Ｚ）は加算器２１及び２４へ、ブランチメトリックｆ−Ａ（Ｚ）は加算器２３へ、それぞれ供給される。
【００３１】
加算器２１、２２、２３、２４によっては、ブランチメトリックの総和が求められる。加算器２１および２３の出力が比較器２５およびセレクタ２７に供給される。そして比較器２５によってよりメトリックが小さい側を選択するためのパス選択信号が形成される。このパス選択信号が出力されるとともに、これによってセレクタ２７が制御される。
セレクタ２７で選択されたより小さいメトリックがラッチ２９を介してパスメトリックとして出力される。
比較器２６、セレクタ２８およびラッチ３０によっても、同様にパス選択信号およびパスメトリックが求められる。
【００３２】
さらに加算比較演算回路１４では、ラッチ２９および３０からのメトリックの発散を抑制するために、破線で囲んで示すメトリックリミッタ３１が設けられている。メトリックリミッタ３１は、ラッチ２９および３０の出力中のＭＳＢが供給されるＮＡＮＤゲート３２と、ＮＡＮＤゲート３２の出力とラッチ２９の出力のＭＳＢが供給されるＡＮＤゲート３３と、ＮＡＮＤゲート３２の出力とラッチ３０の出力のＭＳＢが供給されるＡＮＤゲート３４とで構成される。ＡＮＤゲート３３および３４の出力がメトリックのＭＳＢとして出力される。メトリックリミッタ３１は、二つのメトリックのＭＳＢが共に「１」の時に、ＭＳＢを「０」に反転することによって、メトリックの発散を防止している。
【００３３】
上述のメトリックリミッタ３１のＮＡＮＤゲート３２の出力が図１，図２に示した演算器６０に供給される。そして演算器６０内のカウンタ６０ａが、ＮＡＮＤゲート３２の出力が「０」となる回数をカウントすることによって、所定データ単位におけるメトリックの増加量を検出することができる。
演算器６０は、上述したように、このメトリックカウント値が最小となるように、等化回路５６，７６、或いは記録処理部５３，或いは送信用変調部７２に対するパラメータ調整を行うことになる。
【００３４】
このような構成において、本例の特徴となるメトリック計算方式を説明する。
本例では、ブランチメトリック計算回路１３において、多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算で、最大目標値に対する正方向のブランチメトリックの重みと、最小目標値に対する負方向のブランチメトリックの重みとを低くするものである。
この場合、目標値は３値（＋Ａ，０，−Ａ）であるため、最大目標値は＋Ａ、最小目標値は−Ａとなる。
【００３５】
従って＋Ａメトリック計算部４１の計算は次のように行われる。
入力値Ｚと目標値＋Ａについて、
Ｚ≦＋Ａの場合・・・ブランチメトリックｆ＋Ａ（Ｚ）＝（Ｚ−Ａ）２
Ｚ＞＋Ａの場合・・・ブランチメトリックｆ＋Ａ（Ｚ）＝０
とする。
即ち、＋Ａメトリック計算部４１では、
ｆ＋Ａ（Ｚ）＝ｋ（Ｚ−Ａ）２
の計算を行うが、Ｚ≦＋Ａの場合は係数ｋ＝１、Ｚ＞＋Ａの場合は係数ｋ＝０とするものである。
Ｚ＞＋Ａの場合にｆ＋Ａ（Ｚ）＝０とすることは、目標値＋Ａに対する正方向（入力値Ｚが＋Ａを越える場合）のブランチメトリックの重みを低くすることを意味する。また、このＺ＞＋Ａの場合とは、等化後の入力値Ｚが、他の目標値（０や−Ａ）へ誤検出される方向ではないので実際にはエラーにつながることがない場合であることも意味する。
【００３６】
また、−Ａメトリック計算部４３の計算は次のように行われる。
入力値Ｚと目標値−Ａについて、
Ｚ≧−Ａの場合・・・ブランチメトリックｆ−Ａ（Ｚ）＝（Ｚ＋Ａ）２
Ｚ＜−Ａの場合・・・ブランチメトリックｆ−Ａ（Ｚ）＝０
とする。
即ち、−Ａメトリック計算部４３では、
ｆ−Ａ（Ｚ）＝ｋ（Ｚ＋Ａ）２
の計算を行うが、Ｚ≧−Ａの場合は係数ｋ＝１、Ｚ＜−Ａの場合は係数ｋ＝０とするものである。
Ｚ＜−Ａの場合にｆ−Ａ（Ｚ）＝０とすることは、目標値−Ａに対する負方向（入力値Ｚが−Ａより小さい場合）のブランチメトリックの重みを低くすることを意味する。また、このＺ＜−Ａの場合とは、等化後の入力値Ｚが、他の目標値（０や＋Ａ）へ誤検出される方向ではないので実際にはエラーにつながることがない場合であることも意味する。
【００３７】
なお、０メトリック計算部４２では、上記条件判断は行わず常に、
ブランチメトリックｆ０（Ｚ）＝Ｚ２
として計算する。
【００３８】
図５（ａ）（ｂ）（ｃ）により、このような条件判断に応じた計算の様子を示す。
図５（ａ）の場合、入力値Ｚ１については、Ｚ１≦＋Ａである。従って＋Ａメトリック計算部４１の計算の係数ｋ＝１とされる。
またＺ１≧−Ａでもあるので、−Ａメトリック計算部４３の計算についても係数ｋ＝１とされる。
従って、図中下部に示すように、
ｆ＋Ａ（Ｚ）＝（Ｚ−Ａ）２
ｆ０（Ｚ）＝Ｚ２
ｆ−Ａ（Ｚ）＝（Ｚ＋Ａ）２
とブランチメトリック計算が行われる。
【００３９】
図５（ｂ）の場合、入力値Ｚ２については、Ｚ２＞＋Ａである。従って＋Ａメトリック計算部４１の計算の係数ｋ＝０とされる。
またＺ２≧−Ａであるので、−Ａメトリック計算部４３の計算については係数ｋ＝１とされる。
従って、図中下部に示すように、
ｆ＋Ａ（Ｚ）＝０
ｆ０（Ｚ）＝Ｚ２
ｆ−Ａ（Ｚ）＝（Ｚ＋Ａ）２
とブランチメトリック計算が行われる。
【００４０】
図５（ｃ）の場合、入力値Ｚ３については、Ｚ１≦＋Ａである。従って＋Ａメトリック計算部４１の計算の係数ｋ＝１とされる。
またＺ２＜−Ａでもあるので、−Ａメトリック計算部４３の計算については係数ｋ＝０とされる。
従って、図中下部に示すように、
ｆ＋Ａ（Ｚ）＝（Ｚ−Ａ）２
ｆ０（Ｚ）＝Ｚ２
ｆ−Ａ（Ｚ）＝０
とブランチメトリック計算が行われる。
【００４１】
例えばこのようにメトリック計算が行われる結果を図６に示す。
図６（ａ）（ｂ）（ｃ）は、上述した図８と同様に、それぞれ検出点電圧の確率密度、ブランチメトリック、及びエラーレートとメトリックカウントの最小点を示している。
図６（ａ）（ｂ）において実線は目標値０に対する確率密度及びメトリック、破線は目標値＋Ａに対する確率密度及びメトリック、一点鎖線は目標値−Ａに対する確率密度及びメトリックである。
また図６（ｃ）位相軸及び周波数特性軸上で、エラーレートの最小点×と、メトリック最小点○を示している。
【００４２】
本例の場合、３値の目標値のうちの−Ａに対する負方向のブランチメトリック、および＋Ａに対する正方向のブランチメトリックに対して、ブランチメトリックをゼロとして計算している。したがって、図６（ｂ）の破線で示すように＋Ａを越える＋Ａブランチメトリックは０となり、また一点鎖線で示すように、−Ａ未満の−Ａブランチメトリックは０となる。これらの場合はメトリックカウント値の増加生じない。
このことは、これらの等化値が他の目標値へ誤検出される方向ではないので実際にはエラーにつながることはないということと意味的に適合する。結果として図６（ｃ）に示すように、例えば周波数特性と位相というパラメータに対するメトリックカウント値とエラーレートの最小点のずれが生じないものとなる。
即ち図６（ｂ）に示されるようなメトリック計算が行われる結果、演算器６０がメトリックカウント値に基づいてパラメータ調整を行うことで、その調整点はエラーレート最適点に一致するため、上述した各種パラメータを正確かつ迅速に制御することが可能になる。
【００４３】
なお、以上の説明では、３値の目標値のうちで−Ａに対する負方向のブランチメトリック、および＋Ａに対する正方向のブランチメトリックに対して、ブランチメトリックをゼロとして（ｋ＝０とする）計算しているが、重みを他のブランチメトリックに対して軽減するだけでも実用上十分な程度の効果は得られる。
つまり、少なくとも係数ｋを０以上１未満とすることで、最大目標値に対する正方向のブランチメトリックの重みと、最小目標値に対する負方向のブランチメトリックの重みが低くされるが、これによって上記効果が得られる。
従って、上記例で条件判断により係数ｋ＝０とする場合の変形例として、係数ｋ＝１未満の値とすることも当然に考えられる。
例えば係数ｋの値を０．５程度とした場合、ブランチメトリックは図６（ｄ）のようになるが、これによっても上記効果は得られる。
【００４４】
また、上記例はＰＲ４ＭＬ方式に対応する場合で述べたが、もちろん他のパーシャルレスポンス方式でも本発明は適用可能である。
例えば目標値が５値（−２Ａ、−Ａ、０、＋Ａ、＋２Ａ）となる場合のブランチメトリックを図７に示した。
図７（ａ）は、破線で示すように最大目標値＋２Ａに対する正方向のブランチメトリックについて係数ｋ＝０として重みを低くし、また一点鎖線で示すように最小目標値−２Ａに対する負方向のブランチメトリックの重みを係数ｋ＝０として低くした例である。
図７（ｂ）は、破線で示すように最大目標値＋２Ａに対する正方向のブランチメトリックについて係数ｋを、０より大きく１未満の所定値として重みを低くし、また一点鎖線で示すように最小目標値−２Ａに対する負方向のブランチメトリックについて係数ｋを、０より大きく１未満の所定値としての重みを低くした例である。
つまり採用されるパーシャルレスポンス方式における目標値の数に関わらず、最大目標値の正方向のブランチメトリックと最小目標値の負方向のブランチメトリックについて、重みを低くすることで、上記効果を得ることができる。
【００４５】
そして上述したように、本発明は、記録装置、再生装置、送信装置、受信装置などの各種機器において、各種パラメータ調整に適用し、同様の効果を得ることができる。
【００４６】
【発明の効果】
以上の説明からわかるように本発明では、多値目標値のうちの最大目標値及び最小目標値についてのメトリック計算において、最大目標値に対する正方向のブランチメトリックの重みと、上記最小目標値に対する負方向のブランチメトリックの重みが低くされる。
これによって、例えば３値の目標値の−Ａに対する負方向のブランチメトリックや、＋Ａに対する正方向のブランチメトリックの計算値が、メトリックカウント値の増加を生じさせないか、或いは増加を少ないものとなる。このため、メトリックカウント値の最小点とエラーレート最適点のズレが解消されることになるため、メトリックを利用した信号処理パラメータ調整、即ちエラーレート最小点へのパラメータ調整を、正確かつ迅速に実行できるようになるという効果がある。
【００４７】
そしてこのような本発明は、記録媒体に対する再生装置や有線又は無線伝送路からのデータ受信装置において、等化手段、ビタビ復号手段を備える場合に、そのビタビ復号手段におけるメトリック計算に適用できる。またパラメータ調整対象としては、上記等化手段の等化処理、記録媒体に対する記録処理、伝送路に対する送信処理という各処理のパラメータとする。これによって、本発明の効果を記録装置、再生装置、送信装置、受信装置などにおいて実現でき、それによって各装置の性能を向上させることができる。
【図面の簡単な説明】
【図１】本発明の実施の形態の記録再生装置のブロック図である。
【図２】本発明の実施の形態の送信装置及び受信装置のブロック図である。
【図３】実施の形態のビタビ復号器のブロック図である。
【図４】実施の形態のビタビ復号器のメトリック計算の構成のブロック図である。
【図５】実施の形態のメトリック計算方式の説明図である。
【図６】実施の形態のメトリック計算の場合の説明図である。
【図７】実施の形態の目標値が５値の場合のブランチメトリックの説明図である。
【図８】通常のメトリック計算の場合の調整点のズレの説明図である。
【符号の説明】
１  記録再生装置、２  送信装置、３  受信装置、１２  Ａ／Ｄ変換器、１３ＢＭＵ、１４  ＡＣＳＵ、４１  ＋Ａメトリック計算部、４２  ０メトリック計算部、４３  −Ａメトリック計算部、５３  記録処理部、５６，７６  等化回路、５７，７７  ビタビ復号器、６０  演算器、７２  送信用変調部
【図１】
2004310807.tif 000003
【図２】
2004310807.tif 000004
【図３】
2004310807.tif 000005
【図４】
2004310807.tif 000006
【図５】
2004310807.tif 000007
【図６】
2004310807.tif 000008
【図７】
2004310807.tif 000009
【図８】
2004310807.tif 000010