(57)【要約】【課題】決められた応答への追従は、スコープが、例えば特別な通信またはディスク駆動チャンネルに匹敵するＤＳＯ（デジタルサンプリングオシロスコープ）に対して、垂直のマーケット応用の開発に絶対必要なことである。【解決手段】周波数応答変化（５）に対して補正可能及び用意された仕様（１４）に従う応答特性（８）を発生するデジタル信号処理方式（１）。その方式は、ほとんど全てのチャンネル周波数応答情報の形式及び顧客定義仕様の補正を用意するために、自動的にデジタルフィルター（１０）を発生する。最適応答を提供するために、雑音性能、パルス応答及び平坦周波数応答を取引するためのこの方式の能力が、論証される。方式は、また最終応答特性（１５）に関して顧客にフィードバックを提供する。
2005519269.tif 000002
【特許請求の範囲】
【請求項１】
該入力波形を得るために利用されるチャンネルの応答特性を特定するチャンネル応答特性と
要求周波数特性と要求周波数特性の遵守の程度を特定する顧客仕様と
該フィルターのための係数を発生し、最終性能の仕様を出力するフィルター製作器を含むフィルターの設計を特定する入力仕様から成る入力波形のチャンネル応答特性を補正可能な信号処理方式において、
該フィルター製作器は、逆チャンネル応答特性を基準に補正応答に応じた係数を発生する補正フィルター発生器と
顧客仕様を基準に理想応答と雑音低減応答の組み合わせに応じた係数を発声する応答フィルター発生器と
該入力波形をフィルタリングし、該所望の周波数応答をもつ全体応答波形を出力する該フィルターを有し、
該フィルターは、該フィルター制作機能により発生した係数を記憶するためのフィルター係数キャシュと、
該補正応答に応じて該フィルター係数キャシュに記憶された係数を利用する補正フィルター部と、
該補正フィルター部から補正された波形出力をフィルタリングし、該全体応答波形を出力するための応答フィルター段と雑音低減段を有する応答フィルター部と、
該理想応答と該雑音低減応答の該組み合わせに応じて該フィルター係数キャシュに記憶された係数を利用してフィルタリングする該応答フィルター部から成ることを特徴とする入力波形のチャンネル応答特性を補正可能な信号処理方式。
【請求項２】
前記フィルターが無限インパルス応答（ＩＩＲ）フィルターとして実装されることを特徴とする請求項１に記載の信号処理方式。
【請求項３】
前記フィルターが有限インパルス応答（ＦＩＲ）フィルターとして実装されることを特徴とする請求項１に記載の信号処理方式。
【請求項４】
前記チャンネル応答特性が参照信号と前記チャンネルより得られた参照信号を基準にあらかじめ決定されることを特徴とする請求項１に記載の信号処理方式。
【請求項５】
前記顧客仕様が帯域幅、最適応答、補正遵守とフィルター実装形式から成ることを特徴とする請求項１に記載の信号処理方式。
【請求項６】
前記最適応答がベッセルワースフィルターを用いて実行された最適パルス応答であることを特徴とする請求項５に記載の信号処理方式。
【請求項７】
前記最適応答がバターワースフィルターを用いて実行された最適雑音性能であることを特徴とする請求項５に記載の信号処理方式。
【請求項８】
前記最適応答がバターワースフィルターを用いて実行された最適平坦であることを特徴とする請求項５に記載の信号処理方式。
【請求項９】
前記フィルター実装形式が有限インパルス応答（ＦＩＲ）または無限インパルス応答（ＩＩＲ）であることを特徴とする請求項５に記載の信号処理方式。
【請求項１０】
前記顧客仕様が事前に決定した値を無効にすることを特徴とする請求項１に記載の信号処理方式。
【請求項１１】
チャンネル周波数応答と顧客応答特性を基準にフィルター係数を発生するためのフィルター製作器と
応答入力と訂正入力を基準に決定される前記チャンネル周波数応答と
前記フィルター製作器に接続されたＩＩＲ係数入力と前記デジタル波形に対してＩＩＲ入力を有する有限インパルス応答（ＩＩＲ）フィルターと、
前記フィルター製作器によって発生したフィルター係数を基準に入力デジタル波形からＩＩＲフィルターされた波形を作り出す前記ＩＩＲフィルターと、
前記フィルター製作器に接続されたＦＩＲ係数入力と前記デジタル波形に対してＦＩＲ入力を有する有限インパルス応答（ＦＩＲ）フィルターと、
前記フィルター製作器によって発生したフィルター係数を基準に入力デジタル波形からＦＩＲフィルターされた波形を作り出す前記ＦＩＲフィルターと、
出力に対して前記ＩＩＲフィルターされた波形または前記ＦＩＲフィルターされた波形のどちらかを選択するための出力選択スイッチから成ることを特徴とする入力デジタル波形をフィルタリングするための信号処理素子。
【請求項１２】
前記フィルター製作器が発生すべきフィルター係数を要求する前記入力デジタル波形のサンプリングレートにおける変化を検出することを特徴とする請求項１１に記載の信号処理素子。
【請求項１３】
前記フィルター製作器が前記出力選択スイッチを基準に前記ＦＩＲフィルターまたは前記ＩＩＲフィルターに対してフィルター係数を発生することを特徴とする請求項１１に記載の信号処理素子。
【請求項１４】
前記フィルター製作器がフィルタリング性能の評価のためにチャンネル出力、補正出力、成形出力および雑音低減出力を有することを特徴とする請求項１１に記載の信号処理素子。
【請求項１５】
前記応答入力が既知の入力応答であり、前記訂正入力が入力チャンネルによってもたらされた計測された入力応答であることを特徴とする請求項１１に記載の信号処理素子。
【請求項１６】
前記顧客応答特性がフィルターの随意応答部に応じてフィルター係数を発生するために利用されることを特徴とする請求項１１に記載の信号処理素子。
【請求項１７】
前記顧客応答特性が帯域幅、最適応答、補正遵守とフィルター実装形式から成ることを特徴とする請求項１１に記載の信号処理素子。
【請求項１８】
前記最適応答がベッセルワースフィルターを用いて実行されたパルス最適応答であることを特徴とする請求項１７に記載の信号処理素子。
【請求項１９】
前記最適応答がバターワースフィルターを用いて実行された雑音最適性能であることを特徴とする請求項１７に記載の信号処理素子。
【請求項２０】
前記最適応答がバターワースフィルターを用いて実行された最適平坦であることを特徴とする請求項１７に記載の信号処理素子。
【請求項２１】
前記フィルター実装形式がＦＩＲまたはＩＩＲであることを特徴とする請求項１７に記載の信号処理素子。
【請求項２２】
前記顧客応答特性があらかじめ決められた値を無効にすることを特徴とする請求項１１に記載の信号処理素子。
【請求項２３】
取得チャンネルの応答特性を補正するために入力デジタル波形をフィルタリングする方法において、
前記入力チャンネル応答を前もって歪ませ、
二乗平均誤差を最小にするように前記フィルターの係数を反復し、初期推定フィルターを作成することにより事前に歪ませた入力チャンネル応答を模倣するアナログフィルターを設計し、
前記アナログフィルターを反転し、そして
双一次変換を用いて前記フィルターの前記補正部を作りだすために反転アナログフィルターをデジタル化し、そして  
前記フィルターの前記補正部を用いて前記入力デジタル波形をフィルタリングするステップにより入力チャンネル応答を基準にフィルターの補正部を発生するステップより成ることを特徴とする取得チャンネルの応答特性を補正するために入力デジタル波形をフィルタリングする方法。
【請求項２４】
更に、顧客仕様を基準に前記フィルターの随意応答部を発生するステップから成り、そこにおいて、前記入力デジタル波形が前記フィルターの随意応答部を用いてフィルターされ、それによって所望の応答特性を有するフィルターされたデジタル波形が作成されることを特徴とする請求項２３に記載の方法。
【請求項２５】
前記入力顧客仕様が帯域幅、最適応答、補正遵守とフィルター実装形式より成ることを特徴とする請求項２３に記載の方法。
【請求項２６】
前記フィルターの前記随意応答部が成形器と雑音低減器より成ることを特徴とする請求項２４に記載の方法。
【請求項２７】
前記入力顧客特性が事前に設定された値を無効にすることを特徴とする請求項２４に記載の方法。
【請求項２８】
前記フィルターが有限パルス応答（ＩＩＲ）フィルターとして実装されることを特徴とする請求項２３に記載の方法。
【請求項２９】
前記フィルターが無限パルス応答（ＦＩＲ）フィルターとして実装されることを特徴とする請求項２３に記載の方法。
【請求項３０】
前記入力チャンネル応答が参照信号と前記チャンネルにより取得された参照信号を基準に前もって決定されることを特徴とする請求項２３に記載の信号処理方式。
【請求項３１】
前記最適応答がベッセルワースフィルターの使用によって実行されたパルス最適応答であることを特徴とする請求項２３に記載の方法。
【請求項３２】
前記最適応答がバターワースフィルターの使用によって実行されたパルス最適応答であることを特徴とする請求項２３に記載の方法。
【請求項３３】
前記最適応答がバターワースフィルターの使用によって実行された最適平坦であることを特徴とする請求項２３に記載の方法。
【請求項３４】
前記フィルター実装形式がＦＩＲまたはＩＩＲであることを特徴とする請求項２３に記載の方法。
【請求項３５】
前記初期推定フィルターの係数が、前記二乗平均誤差が前記入力顧客仕様において決定された補正遵守よりも小さくなるまで反復されることを特徴とする請求項２３に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
以下の明細書の全内容は、米国特許申請番号０９／６６９９５５：申請日２０００年９月２６日と米国特許申請番号０９／９８８１２：申請日２００１年１１月１６日、及び米国特許申請番号０９／９８８４２０：申請日２００１年１１月１６日を合体させたものである。
【０００２】
本発明はデジタル周波数応答補正器及び随意応答発生器を有するデジタル信号処理（ＤＳＰ）方式に関するものである。更に一般的には、本発明は、アナログ入力信号、アナログ機器（例えば、減衰器、増幅器や緩衝器）とアナログ入力信号を数値列に変換しデジタルの入力信号に置き換えるアナログ・デジタル変換器（ＡＤＣ）に関するものである。この発明は、視聴、分析、テストと確認およびさまざまな他の目的のために波形を獲得するために前述の構成要素を有して設計された装置に関係するものである。更に、この発明はデジタルサンプリングオシロスコープ（ＤＳＯｓ）に関し、特に超広帯域および超高サンプルレートＤＳＯｓとシングルショットＤＳＯｓ（しばしば、実時間ＤＳＯｓとして引用される）に関係するものである。
【背景技術】
【０００３】
これらの  ＤＳＯｓは単一の引き金事象により波形を捕えるために、十分な程度のオーバサンプリングと忠実度で電圧波形をデジタル化することが可能である。
【０００４】
従来、ＤＳＯｓは信号を試験するための技術者の主要な視聴手段であった。高速、今日の通信及びデータ蓄積産業に使われる複雑な波形において、波形の簡単な視聴は強調されず、強い要望が、また波形を解析する能力であるＤＳＯｓへ向けられている。
【発明の開示】
【発明が解決しようとする課題】
【０００５】
ＤＳＯ解析能力に対する要望の増大は、高位の信号忠実度（例えば、高品質デジタル波形）を要求する。信号忠実度に対する大いなる要求がなされる一方、同様に広帯域や高サンプルレートを有するＤＳＯｓに対する要望は引き続き衰えない。
【０００６】
残念ながら、高速の信号は広帯域ＤＳＯを要求し、超広帯域や高サンプルレートや実時間ＤＳＯに対しては割増金が支払われる。
【０００７】
デジタルオシロスコープに対するサンプリングレートは、ほぼ２年から２年半おきに２倍になっており、帯域幅はほぼ４年おきに２倍になっている。帯域幅におけるこの増大は費用なくしてはもたらされない。アナログ構成要素はしばしばそれらの限界に達する。しばしばピーキング回路が帯域幅をさらに広げるために使われる。この広帯域化はしばしば信号忠実度、特にパルス応答の部分（オーバシュートやリンギング）と平坦周波数応答の部分、に費用をもたらす。これは、ピーキングにいくぶん制御できない（つまり、平坦特性を維持しながら同時にシステムを最適にすることはむずかしい。）傾向があるからである。
【０００８】
更に、アナログ構成要素がそれらの帯域制限にかかっているので、もし帯域幅が越えれば、周波数応答はしばしば急峻に下がる。だから、広帯域オシロスコープはもはや、なだらかな周波数応答ロールオフ特性を持ち得ないのである。
【０００９】
この状況にもかかわらず、ＤＳＯの顧客の基本期待は変化しない。顧客はまだ、雑音は２倍の帯域幅に対して√２の係数で増加するにもかかわらず、低雑音を期待し、そしてＤＯＳｓが特定のロールオフ特性を有することを期待している。
【００１０】
更に、状況を複雑にしていることは、高速度ＤＳＯｓの設計が膨大な交換条件と妥協を巻き込むことである。３つの主要な従来の利点、雑音忠実度、周波数応答と時間軸応答は全て互いに競い合う。以前に述べたように、オシロスコープを通して広帯域化することは出力信号における雑音を増加させる。
【００１１】
一次または二次の周波数応答からのいろいろな変化はオーバーシュートやリンギングを増やす。装置の構成要素の帯域幅をそれらの限界にまで押し込むことは問題を悪くさせるだけである。周波数特性を平坦にすることはパルス応答を悪くすることができる。典型的にパルス応答の改善は装置の帯域幅を減じる意味がある（常に望ましくない）。
【００１２】
ＤＳＯは一般的な目的の装置であるので、交換条件は注意深く選ばれるが、しかし多くの顧客は無価値で満足されないものである。顧客に残された唯一の選択肢はいくつかの固定の帯域制限の中であり、それは簡単なＲＣ回路に接続することである。たとえ帯域制限モードであっても、しばしば、応答は、まだ一次応答に完全には追従せず、０．５ｄＢまで変化できる。
【００１３】
決められた応答への追従は、スコープが、例えば特別な通信またはディスク駆動チャンネルに匹敵するＤＳＯに対して、垂直のマーケット応用の開発に絶対必要なことである。チャンネルに匹敵する能力はすばやい見本品の製作と能力解析を用意する。
【課題を解決するための手段】
【００１４】
本発明の実施形態は、入力波形のチャンネル応答特性に対して補正可能な信号処理方式を提供する。方式は、入力仕様、フィルター製作器とフィルターを構成する。
【００１５】
入力仕様は、フィルターの設計を特定するために利用され、入力波形を得るために用いられるチャンネル応答特性を定義するチャンネル応答特性と所望の周波数応答を特定する顧客仕様と所望の周波数応答への遵守の程度を含む。
【００１６】
フィルター製作器はフィルターに対して係数を発生し、そして最終性能の仕様を出力する。フィルターは、逆チャンネル応答特性を基準に補正応答に応じた係数を発生するための補正フィルターと、顧客仕様を基準に理想応答と雑音低減応答の組み合わせに応じた係数を発生するための応答フィルターを有する。フィルターは、入力波形をフィルタリングし、所望の周波数応答を有する全体応答波形を出力する。フィルターは、フィルター製作器によって発生した係数を蓄積するためのフィルター係数キャシュと、補正応答に応じてフィルター係数キャシュに蓄積された係数に従って入力波形をフィルタリングするための補正フィルター部と、全体応答波形を出力する前記補正フィルター部からの補正波形出力をフィルタリングするための応答フィルター段と雑音低減段を有する応答フィルター部から構成される。応答フィルター部は、理想応答と雑音低減応答の組み合わせに応じてフィルター係数キャシュに蓄積された係数を用いてフィルタリングをする。
【００１７】
本発明の別の側面においては、フィルターは、無限インパルス応答（ＩＩＲ）フィルターまたは有限応答（ＦＩＲ）フィルターとして実装される。
【００１８】
本発明の更なる側面においては、チャンネル応答特性が参照信号とチャンネルによって得られた参照信号を基準に前もって決定される。
【００１９】
本発明の更なる側面においては、顧客仕様は、帯域幅、最適応答、補正遵守とフィルター実装形式を構成する。最適応答は、ベッセルワースフィルターを用いて実行された最適パルス応答、バターワースフィルターを用いて実行された最適雑音性能、またはバターワースフィルターを用いて実行された最適平坦である。フィルター実装形式は、有限インパルス応答（ＦＩＲ）または無限インパルス応答（ＩＩＲ）である。
【００２０】
本発明の更なる実施形態によれば、入力デジタル波形をフィルタリングするための信号処理素子が提供される。その素子は、フィルター製作器、無限インパルス応答（ＩＩＲ）フィルター、有限インパルス応答（ＦＩＲ）フィルターと出力選択スイッチから構成される。そのフィルター製作器は、チャンネル周波数応答と顧客応答特性を基準にフィルター係数を発生するために利用される。チャンネル周波数応答は、応答入力と訂正入力を基準に決定される。無限インパルス応答（ＩＩＲ）フィルターは、入力デジタル波形に対するＩＩＲ入力とフィルター製作器に接続されるＩＩＲ係数入力を有する。ＩＩＲフィルターは、フィルター製作器によって発生したフィルター係数を基準に入力デジタル波形からＩＩＲのフィルターされた波形を作る。有限インパルス応答（ＦＩＲ）フィルターは、入力デジタル波形とフィルター製作器に接続されるＦＩＲ係数入力に対するＦＩＲ入力を有する。
【００２１】
ＦＩＲフィルターは、フィルター製作器によって発生したフィルター係数を基準に入力デジタル波形からＦＩＲのフィルターされた波形を作る。出力選択スイッチは、出力に対してＩＩＲのフィルターされた波形またはＦＩＲのフィルターされた波形のどちらかを選択する。
【００２２】
この実施形態において、フィルター製作器は、フィルター係数の変更や再発行が要求される前記入力デジタル波形のサンプリングレートにおける変化を検出する。フィルター製作器は、出力選択スイッチを基準にＦＩＲフィルターまたはＩＩＲフィルターに対してフィルター係数を発生する。フィルター発生器は、フィルタリングの性能評価のためにチャンネル出力、補正出力、成形出力と雑音低減出力を有する。
【００２３】
この実施形態の別の側面において、応答入力は、既知の入力応答であり、訂正入力は入力チャンネルにより得られた測定入力応答である。顧客応答特性は、フィルターの随意応答部に応じたフィルター係数を発生するために利用される。顧客応答特性は、帯域幅、最適応答、補正遵守とフィルター実装形式を構成する。最適応答は、ベッセルワースフィルターを用いて実行された最適パルス応答、バッターワースフィルターを用いて実行された最適雑音性能またはバッターワースフィルターを用いて実行された最適平坦である。
【００２４】
フィルター実装形式は、ＦＩＲまたはＩＩＲである。
【００２５】
本発明の更に別の実施形態において、獲得チャンネルの応答特性を補正するために入力デジタル波形をフィルタリングする方法が提供される。まず、入力チャンネル応答を前もって歪ませることにより入力チャンネル応答を基準にしてフィルターの補正部を発生する、そして初期推定フィルターを作成し、二乗平均誤差が最小になるように初期推定フィルターの係数を反復することにより前もって歪ませた入力チャンネル応答を模倣するアナログフィルターを設計する、それから、アナログフィルターを反転させ、双一次変換を用いてフィルターの補正部を作成するためにその逆アナログフィルターをデジタル化する方法。それから、入力顧客仕様を基準にフィルターの随意応答部を発生する方法。最後に、フィルターの補正部を用いて入力デジタル波形をフィルターする方法、そしてフィルターの随意応答部によって、それにより、所望の応答特性を有するフィルターされたデジタル波形を作成する。
【００２６】
この実施形態によれば、フィルターの随意応答部は成形器と雑音軽減器から構成されている。初期推定フィルターの係数は、二乗平均誤差が入力顧客仕様において特定された補正遵守よりも小さくなるまで反復される。
【００２７】
この実施形態の別の側面において、フィルターは、無限インパルス応答（ＩＩＲ）フィルターまたは無限インパルス応答（ＦＩＲ）フィルターとして実装される。
【００２８】
この実施形態の更なる側面においては、チャンネル応答特性が参照信号とチャンネルによって得られた参照信号を基準に前もって決定される。
【００２９】
この実施形態の更なる側面においては、顧客仕様は、帯域幅、最適応答、補正遵守とフィルター実装形式を構成する。最適応答は、ベッセルワースフィルターを用いて実行された最適パルス応答、バターワースフィルターを用いて実行された最適雑音性能、またはバターワースフィルターを用いて実行された最適平坦である。フィルター実装形式は、有限インパルス応答（ＦＩＲ）または無限インパルス応答（ＩＩＲ）である。
【発明の効果】
【００３０】
だから、本発明によれば、増大した帯域幅による品質低下を補正可能な構成要素が提供される（つまり、平坦周波数応答及び・又は特別に要望された応答特性への遵守である）。
【００３１】
更に、本発明によれば、静的な装置特性に頼るよりむしろ、雑音特性、平坦特性及び・又はパルス応答特性に対して交換条件提示可能な調整可能構成要素を提供する。
【００３２】
調整可能構成要素は、それによって、与えられた測定に対して装置が最適化することを可能にする。
【００３３】
本発明によれば、装置の応答特性を顧客にフィードバックするために調整可能構成要素を利用する能力が提供される。
【００３４】
更に、本発明によれば、チャンネル応答を変えるための修正が可能な構成要素が提供される。
【００３５】
本発明の他の目的と利点は、一部を明らかにし、そして一部を仕様と図面から明らかにする。
【発明を実施するための最良の形態】
【００３６】
本発明による望ましい実施形態の方式を、添付の図面を参照して説明する。
【００３７】
本発明は、デジタル周波数応答補正器及び随意応答発生器を有する信号処理方式である。発明は、ＡＤＣとデジタル波形のすべてのダウンストリーム処理間のＤＳＯ信号経路に置かれた信号処理素子によって機能するフィルタリング動作を含む。フィルタリング動作は、読み出しの間にそして・或いは後に、そして表示前または更なる波形処理の前に実行される。
【００３８】
ＤＳＯｓは、一般的に解析或いは表示に対して獲得波形を処理するための高性能中央処理装置（ＣＰＵ）を有する。本発明によるデジタルフィルタリング動作は、ＤＳＯ内でこのＣＰＵに関するソフトウェアにおいて実行される。
【００３９】
デジタルフィルタリング動作の目的は、ＤＳＯの周波数応答を変えることである。このフィルターは、そのフィルタリング特性の調整によって、ＤＳＯ方式の全部（チャンネル入力、デジタル化する素子と本発明を含む）は特定の、規定の周波数応答を有する、そのように設計される。つまり、デジタルフィルターは、周波数応答をフィルターするだけでなく、全体の方式に規定の周波数応答を持たせるのである。ほとんどのフィルターは、単に、信号入力に関する特定の効果をフィルターに与えるように設計されるが、特別な全体システム応答が用意されることはない。
【００４０】
図２は、本発明による補正と応答発生方式を用いるＤＳＯチャンネルの周波数応答を処理する段階を示す。入力応答点図１７は、典型的な入力チャンネルに対する周波数応答を示す。チャンネルは平坦周波数応答を有していないことを示す。典型的な所望の周波数応答は理想応答点図２０で示される。しかしながら、顧客は、他の周波数応答を特定することを希望するであろう。
【００４１】
本発明は、図１８に示すデジタルフィルターを用いて、応答点図１７を全体応答点図１６に変換する。応答は正確な理想応答２０ではないことを示す、しかしながら、それは、補正フィルター１９、理想応答フィルター２０と遮断（カットオフ）フィルター２１の３つの内部フィルター段で構成されるチャンネルデジタルフィルター１８の装置帯域幅の可能性の中では最適な応答です。
【００４２】
図２は、また、それぞれの連続するフィルター段で方式の全体応答を示すことで、信号に関してこれらフィルター段のおのおの効果を示す。各フィルター段の効果は、格段で周波数応答を単に加算することで示される。本来の方式応答の再呼び出しは、チャンネル周波数応答１７、２２で示される。チャンネル応答２２は、補正段２２による最初の処理によるものであり、補正されたチャンネル応答２７での結果であり、基本的に平坦である。
【００４３】
補正フィルター段２３は、チャンネル応答２２の反対の、或いは逆のものである。
【００４４】
いくつかの点図（例えば、チャンネル応答２２）は、点図の右側に成形部（２５）を有することを示す。網掛けは、応答が減衰して正確な応答が不明であることを示している。そして、補正された応答２８は、理想フィルター段３０を通って、出力応答２９となる。
【００４５】
しかしながら、出力応答は、いまだ網掛け領域において不明の定数を有することを示す。この不確定は、遮断段３１での処理によって解決される。その遮断は、既知の全体応答３２を作る。
【００４６】
この形式の発明では、先の試みは部分的にうまくいかない、理由は補償フィルター部の実装に難があるからである。補正フィルターの設計は難しい、理由はとても変化にとんだチャンネル応答を基準にするからである。
【００４７】
最終フィルターは、各段の効果に無関係に実装されるけれども、フィルターの設計は二段階に分けられる。これは、応答フィルターと遮断フィルターが共に設計されることによるからである。この二段階のアプローチは、フィルター設計を容易にし、そして動作中のフィルター計算時間を短縮する。これは、チャンネル応答が変化する場合、補正フィルター部のみが再構築に必要だからである。同様に、顧客が応答仕様を変える場合、補正フィルター部のみが再構築に必要である。つまり、補正及び応答フィルター設計は分離される。この分離は、補正フィルター出力が固定出力周波数応答仕様（例えば、応答が平坦である。）を発生するために設計されるという事実によって示される。だから、チャンネル周波数応答は、このフィルター部の設計を決定する。応答フィルター部は、その入力応答が平坦であると仮定する、それゆえ応答出力仕様のみが設計に影響するのである。
【００４８】
図１は、本発明による周波数応答補正器及び随意応答発生器の方式１を示す。フィルター４は、前述の３つのフィルター段で構成される。波形は入力２で方式に入力され、そして前述のフィルター段、つまり補正５、応答６及び雑音低減７（または遮断）を通過するとして示す。応答６と雑音低減７は互いに応答フィルター部８としてのグループである。フィルターの詳細は、好ましいが要求された実装ではない、４次セクションの無限インパルス応答（ＩＩＲ）として示す。
【００４９】
フィルター４は、フィルターを確定する係数を含むフィルター係数キャシュを含む。フィルター係数は、フィルター係数製作器（またフィルター製作器）１０によって供給される。フィルター製作器１０は、２個の部分に分けられる、それは補正フィルター発生器１１と応答フィルター発生器１２である。補正フィルター発生器１１は、図２に示す補正応答１９に対してフィルター係数を発生する。応答フィルター１２は、図２に示すように、理想応答２０と雑音低減（または遮断）応答２１の組み合わせに対してフィルター係数を発生する。
【００５０】
フィルター製作器への入力仕様は、チャンネル応答特性１３と応答及び補正仕様１４の２つの部分からなる。
【００５１】
チャンネル応答仕様１３は、応答および補正仕様１４が顧客により特定される間、入力チャンネルの応答を基準にする。
【００５２】
応答及び補正仕様１４は、所望の応答とこの応答への所望の遵守の程度を特定する。チャンネル応答１３と顧客仕様１４は完全に所望の方式性能を特定する。チャンネル応答は、工場調整を通して決定されるか、もしくは参照基準を利用して動的に調整される。動的調整の場合、参照基準は、内部で用意されるか、もしくは外部から装置に用意されるかのどちらかである。
【００５３】
応答および補正仕様１４は、方式の簡単な制御を許容する一方、所望の応答の厳密な制御を許容するために段階化されている。
【００５４】
遵守の程度は、顧客に方式の微調整を許します。所望応答仕様が変わっているとかまたは所望の遵守の程度が非常に高い場合、大きくて複雑なデジタルフィルターになる。そのようなフィルターは、装置の更新間隔を減らす膨大な処理時間を必要とする。だから、遵守の程度は、装置の更新間隔とのバランスを取るべきものである。
【００５５】
補正フィルター発生器１１は、フィルターの補正部を構築する。前述のように、その部分は効果的な逆チャンネル応答である。この部分の設計の主な難しさは、チャンネル応答がいくらか随意であることと、仕様が全体のチャンネル周波数応答から始めることを要求することである。フィルター設計へのこの導きは、入力仕様とフィルターの最終出力応答間の少なくとも二乗誤差（Ｌ２）の最小化を含む。残念ながら、最小Ｌ２として述べられる時、非線形方程式の設定になり、非線形方程式解法手段を用いて解く必要が生じる。方程式が非線形であるという事実はＬ２が最小になることを補償せず、ただ局所的な最小が見出されるのみであることを意味する。これが研究所設定において取り扱うことができる間、方式の失敗はたいていの実世界の応用には耐えられない。更に、装置はフィルターを計算する無制限の時間を有してはいない。だから、計測はフィルター設計機会を最大化し、そして迅速にフィルター計算しなければならない。
【００５６】
応答フィルター発生器１２は、顧客仕様１４を翻訳し、応答フィルターを作成する。応答フィルターは、通常、一般的にＩＩＲフィルター設計（例えば、バターワース、ベッセル、逆チェビシェフ）と互換性のあるフィルター形式の組み合わせである。また、他のフィルター形式も利用される。
【００５７】
好ましい実施形態に関する以下の記述は、どのようにして本発明がフィルター製作問題を取り扱うかを説明するものである。一度、フィルター部が作成されると、フィルターは段階的に接続され、そして連続的に入力波形をフィルタリングし、既述したように全体方式応答を提供する。補正フィルター部の設計に含まれる不確定さにより、顧客は、最終の全体方式性能を試験するための能力を有すべきである。この理由により、設計されたフィルターを基準にした最終性能仕様１５の設定は、顧客にフィードバックされるように用意される。
【００５８】
本発明は、ＬｅＣｒｏｙ  ＤＳＯｓのために新しいソフトウェア開発プラットホームの中で実行された。この発明に使われるソフトウェアプラットホームの主な特徴は、「ストリーミング構造」と「処理網」であり、その両方が、処理対象物の相互接続及びこれらの対象物を通してのデータの流れを管理するシステムを構成する。ここに参照として記載の「米国特許申請番号０９／９８８，１２０：申請日２００１年１１月１６日、米国特許申請番号０９／９８８，４２０：申請日２００１年１１月１６日」を参照。
【００５９】
本発明に含まれる、ソフトウェアでの各処理対象物は、ＡＴＬ  ＣＯＭ対象物として実行される。
【００６０】
図３は、ソフトウェア処理網において集積された本発明による周波数応答補正器及び随意応答発生器を示す。処理網の動作は、ＤＳＯ顧客との直接的な交流をしないが、むしろ内在する対象物の結合を簡単に提供するということである。つまり、図３は、内部のＤＳＯソフトウェアを通じて確立されたとき、ＤＳＯの中で処理対象物の接続性を表している。
【００６１】
図３において、方式図例中に本発明によるフィルター構成要素３３を示す。フィルター構成要素３３は、３入力（入力３４、応答３５及び訂正３６）と５出力（出力３７、チャンネル３６、補正３９、成形４０及び雑音４１）を有する。入力３４は、獲得方式構成要素のチャンネル１出力に接続される。出力ピン４３は、オシロスコープのデジタル化装置のチャンネル出力である。構成要素４２は、入力３４に対して連続的に波形を獲得する。この配置で、構成要素出力３７は、デジタルフィルタリングされ、仕様に合致した補正された波形出力を提供する。出力３７は、オシロスコープのスクリーン上に波形を描く描写器４４に接続される。応答入力３５と訂正入力３６は、チャンネル応答を決定するためのフィルター仕様を提供する。応答入力３５は、波形導入器構成要素４５に接続される。この場合、波形導入器は、同一チャンネルから、ディスクから前に獲得したステップ応答を読んでいる。訂正入力３６は、別の波形導入器構成要素４６に接続され、それは、前に獲得したステップ応答の実周波数内容を読んでいる。応答３５と訂正３６入力の組み合わせは、チャンネル周波数応答を決定するための十分な情報を有するフィルター構成要素３３を提供する。フィルター仕様のその他の部分は、図１５及び図１６（後述）に示すダイヤログ箱を通して提供される。チャンネル３８、補正３９、成形４０及び雑音４１フィルター構成要素は、方式の性能を指し示す周波数応答波形を提供する。チャンネル応答３８は、応答３５及び訂正３６入力によって決定されたチャンネルの周波数応答を出力する。補正応答３９は、チャンネル周波数応答を計算するために設計されたデジタルフィルターの補正周波数応答を提供する。成形４０及び雑音低減器４１は、２個のフィルター部の周波数応答を出力し、それは互いに、図１５及び図１６に示すダイヤログ箱の中で顧客により特定された応答特性を提供する。デジタルフィルターの成形部は、特定された周波数応答特性に合致するために特別に設計される。雑音低減部は、興味の周波数を越えた入力波形の急峻な減衰を提供する。チャンネル３８、補正３９、成形４９及び雑音４１のフィルター周波数応答出力は、デシベルで提供され、そして、以下の表１に示すように、方式性能の試験のために代数的に加算することができる。
【表１】
2005519269.tif 000003
【００６２】
図３において、４つの周波数応答出力（３８〜４１）が示され、加算器構成要素４７、４８と４９に接続される。２つの所望周波数応答図が描写器５０と５２を用いて表示され、それは、構成要素５１と５３で拡大される。描写器５２が全体方式周波数応答、つまり、チャンネル３８、補正３９、成形４０及び雑音４１の出力の総和、を表示している間、描写器５０はチャンネル周波数応答を表示する。
【００６３】
フィルター構成要素３３の詳細図を図４に示す。構成要素３３は、実際的にはいつかの構成要素の複合である。これら内部構成要素のおのおのは、また独立のＡＴＬ  ＣＯＭ  対象物として実行される。２つのトップ構成要素（ＩＩＲフィルター５４と有限インパルス応答（ＦＩＲ）フィルター５５）が、実際のフィルター構成要素であり、そして底にある大きい構成要素はフィルター製作器５６である。  双方のフィルター入力５７及び５８は、直接入力ピン５９に接続され、そこでデジタル化装置からのＤＳＯ波形が入力される。同様に、双方のフィルター出力６０及び６１は出力ピン６２（スイッチ７９を通して）に接続される。スイッチ７９の設定は、顧客によって直接的に、或いはフィルター作成の間、最適性能を通じてのどちらかにより決定される。
【００６４】
これらのフィルターは、インテル性能図書―プロセッサーに対して特別に最適化された４次のＩＩＲ及びＦＩＲフィルターを含むダイナミク・リンク図書（ＤＬＬｓ）を用いて、インテルペンテイアムＴＭプロセッサーにより実行された。インテル信号処理図書参照マニュアル、Doc. No. 630508-012, Intel Corp., 2000, Chapter 8参照。インテル図書を利用してこれらのフィルターが実行されるという事実は、ただ１つの可能な実施形態ではあるが、本発明に必要ということではない。
【００６５】
他のいかなる適切で等価な装置も利用できる。（Ｐｅｎｔｉｕｍ  ＴＭとインテルの内容はＩｎｔｅｌ  Ｃｏｒｐｏｒａｔｉｏｎの商標です。）  
【００６６】
係数入力６３及び６４は、フィルター製作器５６の係数出力ピン６５に接続される。フィルターの係数は、出力スイッチ６２によって示されるように、フィルター形式を基準に発生される。ＦＩＲフィルター５５が選択される場合、その時、係数が、連続番号ａ０，  ａ１，ａ２，ａ３・・・として送られ、そして全体フィルター応答は（１）式である。
【数１】
2005519269.tif 000004
【００６７】
ＩＩＲフィルター５４が選択される場合、その時、係数は、おのおののグループが４次のセクションを表す６個のグループに送られる。連続番号がａ０，０，ａ１，０，ａ２，０，ｂ０，０，ｂ１，０，ｂ２，０，ａ０，１，ａ１，１，ａ２，１，ｂ０，１，ｂ１，１，ｂ２，１・・・として送られる。各セクションの伝達関数は（２）式で表される。
【数２】
2005519269.tif 000005
ここで、ｂ０，ｓは常に１．０とする。
ＩＩＲフィルターに対する全体フィルター応答は（３）式である。
【数３】
2005519269.tif 000006
【００６８】
入力ピン５９は、また、デジタルフィルター製作に要求される入力波形のサンプルレートの変化を検出する目的のために、フィルター製作器入力６６に接続される。応答６７及び訂正６８入力は、フィルター製作器応答６９及び訂正７０入力に結びつけられる。フィルター製作器７５〜７８の４個の周波数応答出力は、直接に複合の方式出力７１〜７４に接続される。
【００６９】
フィルター製作器５６は、出力係数を作成するために２セットの仕様（チャンネル周波数応答と顧客応答仕様）を必要とする。チャンネル周波数応答は、フィルターの補正部作成するために利用される。
顧客応答仕様は、フィルターの随意応答部を作成するために利用される。
【００７０】
チャンネル周波数応答は、応答６９及び訂正７０入力ピンからフィルター製作器５６まで計算される。応答は、チャネルへの既知の入力刺激に対する測定された応答です。訂正は、実際の、既知の周波数応答あるいは入力刺激の周波数内容である。すべての測定機器の調整と同じように、情報源が既知の標準をたどることができなければならない。だから、源波形の周波数内容（別の調整済み装置を利用する測定によって知られた）を知ること、そしてこの波形に対する装置応答（特に、この処理素子が置かれるデータストリーム中でのＤＳＯのチャネルの応答）を知れば、チャンネルの周波数応答が決定されるであろう。Ｈｃがチャンネルの未知の周波数応答を、Ｈｓが調整波形の既知の周波数内容を、そしてＨｍが未補正のＤＳＯで測定されたスコープチャンネルの周波数内容を表現するとすれば、その時：  
【数４】
2005519269.tif 000007
故に、
【数５】
2005519269.tif 000008
だから、スコープチャンネル応答を決定する一つの方法は、周波数内容Ｈｓを有する既知の刺激を取ることであり、それをＤＳＯチャンネル入力に印加し、デジタイザーと獲得方式でそれを獲得し、その周波数内容Ｈｍを測定し、そして（５）式を用いてチャンネル周波数応答Ｈｃを決定することである。
【００７１】
応答６９及び訂正７０入力ピンは多形体である、それらは同じインタフェースを示すが、入力を基準に異なる振る舞いをすることを意味する。つまり、おのおのの入力ピンは、時間軸或いは周波数軸波形のどちらか一方を受け取ることができる。故に、方式は、次の４形式の中でチャンネル周波数応答仕様を受け取ることができる。
2005519269.tif 000009
【００７２】
Ａ：  周波数掃引は、既知の時間軸応答をもって提供される。
この組み合わせは、正弦波掃引の時間軸応答があまり知られていないので、ほとんど使われない。
【００７３】
Ｂ：  周波数掃引は、既知の周波数応答をもって提供される。
この組み合わせは、おそらくもっとも一般的である。ラジオ周波数（ＲＦ）正弦波を得る精密装置は、容易に見出される（例えば、ヒューレットパッカード製２ＧＨｚ信号発生器ＨＰ８６４８Ｂなど）。更に、ＤＳＯにもたらす実際の正弦波の周波数内容は、ＲＦ電力計あるいは十分に精密なスペクトラムアナライザーを用いて簡単に測定できる。また、ネットワークアナライザーは、正弦波を得るために用いられるさまざまなケーブルの周波数応答特性を測定するために用いられる。この組み合わせの欠点の１つは、興味のおのおのの周波数がＤＳＯに供給され、そして、それぞれの周波数ポイントで信号の振幅及び位相が測定されるまでの正弦掃引時間が長いということである。別の欠点は、正弦波の位相を正確に知ることが難しいことである。しばしば、この困難は、発生器から特別なトリガー出力を用いて克服している。
【００７４】
Ｃ：  時間軸波形は、既知の周波数応答をもって提供される。
これは、別の共通の組み合わせである。この組み合わせを用いる源に対する主な要求は、それが興味の周波数での十分な電力を持つということである。２個の共通入力はステップとインパルス関数である。理想ステップとインパルス関数はたやすく発生できないが、一方、波形の周波数内容を知ることは可能である。もっとも簡単なやり方は、まず、ＤＳＯで時間軸波形を獲得することにより発生器を調整する、それから組み合わせＢで公開した方法を用いてチャンネルの周波数応答を測定することである。時間軸源波形の周波数内容は、時間軸源波形の周波数内容応答として、掃引周波数−掃引発生器の周波数内容＋時間軸源波形の測定周波数応答から簡単に計算される。時間軸源波形の測定周波数応答は、高速フーリエ変換（ＦＦＴ）またはチャープＺ変換（ＣＺＴ）を用いて簡単に計算される。
【００７５】
一方、時間軸発生器の調整は、組み合わせＢにおいて記述したような同じ欠点があり、この調整は、頻繁に性能を出す必要はない（時間軸源の調整が有効に留まれば、その程度の回数のみで十分）。また、この組み合わせは追加の欠点がある、それは、周波数内容が振幅を変えない時間軸波形を発生することが難しいということである。ＤＳＯ周波数応答が、さまざまな利得範囲を越えて変化するので、種々の可能な利得設定において簡単に使える源を持つことが望ましい。この方法の強みは、すばやく簡単に測定がなされることである。必要とする全てが、調整時間軸波形、波形上のトリガーに入力され，そして十分に雑音を減じるために十分な獲得を平均化するからである。この過程は、普通１秒以内に達成される。
【００７６】
Ｄ：  時間軸波形は、既知の時間軸応答をもって提供する。
この組み合わせは、頻繁には利用されない。組み合わせＣのように、一度の調整で時間軸波形の測定がすばやく達成できるという同じ利点を有する。問題は、実際の源の時間軸性能が常に直接的に決定できないことである。つまり、それは、周波数応答測定からの推定である。この組み合わせは、本発明を利用するＤＳＯが時間軸源の調整に用いられた場合に利用できるということである。
【００７７】
応答６９および訂正７０入力につけた波形の形式は、波形記述名を調べることで決定される。時間軸波形は、標準チャープＺ変換（ＣＺＴ）を用いて周波数応答に変換される。「離散信号と方式解析の方法：M. T. Jong,Methods of Discrete Signal And Systems Analysis, McGraw-Hill Inc. , 1982, pp. 297-301」を参照、全ての内容は、ここでの参考文献に含まれる。ＣＺＴは、サンプルレートに無関係に、それが応答において周波数ポイントの数の正確な設定を許すが故に利用される。多くの進化した高速フーリエ変換（ＦＦＴ）アルゴリズムは、またこの能力を提供する、しかしＣＺＴは、簡単であり、入力信号におけるポイントの数に無関係に、基数２のＦＦＴを要求するのみである。一方、周波数ポイントの数はフィルター製作器において設定可能であり、５０ポイント（０Ｈｚから最大補正周波数まで）は、うまく働く。最大補正周波数は、われわれがもはやチャンネル周波数応答の効果をなくそうとしない点の周波数である。通常、これは、チャンネルの振幅応答が雑音レベルに近づく点の周波数である。この周波数は、通常、本発明を用いる装置の最大獲得可能帯域幅である。
【００７８】
固定数ポイント（０から最大補正周波数まで）であるけれども、ＣＺＴは、しばしばナイキスト限界外に計算される。それは、しばしば興味の周波数を越えた補正部の性能を見るに有効である。
【００７９】
応答６９及び訂正７０入力への入力での波形が、周波数応答に変換される際に、Ｈｓ及びＨｍが決定される。一般的に周波数応答が振幅（デシベル表示）として表される。必要ならば、応答は、Ｃ定規補間法を用いて再標本化される。この点で、振幅と位相を引き算することでＨｃは計算される。Ｈｃは、補正フィルター部の設計のために基準を形成する。
【００８０】
計算されたＨｃの例を図５に示す。Ｈｍ決定に使われる源波形は、ステップ発生器によって用意されたステップ８０である。このステップはＤＳＯチャンネルによって獲得される。雑音低減と解像度の増大（水平及び垂直の双方）に対して、獲得されたステップは、ＤＳＯにより繰り返され平均化される。理想ステップのインパルス応答は（６）式である：
【数６】
2005519269.tif 000010
故に、周波数内容は（７）式である：
【数７】
2005519269.tif 000011
ステップ（Ｈｓ）の周波数内容は、平坦周波数応答を有するチャンネルを通じて獲得されたステップの微分及びＣＺＴの応用によって簡単に決定できる。図５は（５）式の応用の結果を示す。記述箱８２は、ステップ８０が振幅で約２５０ｍＶであり、そして、この波形の期間が２０ｎｓであることを示す。チャンネルの測定周波数応答８１は、箱８３で示すように、０．５ＧＨｚ毎の水平分割および１ｄＢ毎の垂直分割で点図されている。示すように、このチャンネル周波数応答は、平坦ではない。
【００８１】
補正フィルター部は、効果において０ｄＢからの応答の偏差を相殺するために、このチャンネル応答を基準に設計され、フィルターは、正確に逆チャンネル応答を提供する。アナログフィルターは、最初に可能な限り近いチャンネル応答を模倣して設計され、そしてそれから双一次変換を用いてデジタルフィルターに変換される。双一次変換は、デジタル信号処理技術で専門家には良く知られているが、いくつかの詳細は、以下に記載する。双一次変換は、ラプラス変数ｓの直接的な置換を通して、アナログフィルターをデジタルフィルターに変換するに用いられる。アナログフィルター伝達関数を（８）式とする。
【数８】
2005519269.tif 000012
次の置換を行う。
【数９】
2005519269.tif 000013
そして、代数的操作により、次の式になる。
【数１０】
2005519269.tif 000014
この置換によって、（１０）式によるデジタルフィルターは、正確に（８）式のアナログフィルターとしては動作しない。これは、（９）式に示す置換が、アナログ及びデジタルフィルターの間で非線形関係を創造するからである。この非線形関係は、歪みと呼ばれる。特にこの関係は（１１）式になる。
【数１１】
2005519269.tif 000015
ここで、ｆｄはデジタル周波数応答が求められる周波数であり、ｆａはアナログ周波数応答が求められる周波数であり、そしてＦｓはデジタル方式のサンプリングレートである。言い換えれば、変換を用いると、ｆａで求めたアナログフィルター応答がｆｄで求めたデジタルフィルター応答ｆｄと等しくなる。それは：
【数１２】
2005519269.tif 000016
だから、Ｆｓに依存して、ｆａの小さい値に対して、ｆａ≒ｆｄである。
言い換えれば、デジタルフィルター性能は、サンプルレートに依存して、低い周波数に対してはアナログフィルター性能に一致する。この理由により、双一次変換を用いるフィルター設計は、しばしば、歪み効果を無視することが出来る。しかしながら、ＤＳＯにおいて帯域幅は、正確にナイキストレートになる。だから、歪み効果は、無視できない。
【００８２】
歪みを計測するために、チャンネル周波数応答は前もって歪まされる。図６は事前歪み応答２０１を示す。事前歪みは、チャンネル周波数応答２００の周波数目盛りの変化を伴う。おのおのの周波数は、歪みを相殺する新しい値に置き換えられる。それを（１３）式に示す。
【数１３】
2005519269.tif 000017
（１３）式は、ｆがナイキストレートに近づくと、無限大に向かう。
たとえ、ナイキストレートを除外しても、まだ周波数はナイキストに近づき、大きな事前歪み周波数を発生する。この理由により、事前歪み周波数の大きさは、固定の増倍係数（例えば、５０）で制限される。ナイキストレート５０倍以上のすべての事前歪み応答ポイントは削除される。
【００８３】
（８）式の形式を有するアナログフィルターは、事前歪み応答に一致して作成される。図６に示す事前歪み応答２０１で見られるように、事前歪み効果は、ナイキスト点で無限大に向かう。この意味は、チャンネルの帯域幅が越えて、チャンネルの周波数応答が急激に落ちたとしても、事前歪み振幅応答は、非同期の平坦であり、固定減衰に近づく（つまり、事前歪み応答は、応答が無限大に向かう水平ラインを近似している）ということである。この意味は、アナログフィルター構造の論理的見積もりが、同じ数の極とゼロを持つものであるということである。この理由により、（８）式に示すアナログフィルター構造では、Ｎ＝Ｍ  である。
【００８４】
フィルターは、Ｎ値（分子と分母多項式によるフィルター係数の数値）の決定によって作成され、そしてａｎとｂｍの分数多項式で初期推定が作成される。それから、これらの係数は、フィルターの振幅応答と特定された事前歪みチャンネル周波数応答間の二乗平均誤差が最小になるまで繰り返し調整される。係数値の初期推定が妥当であることが重要である。そうでなければ、Ｌ２が最小に収束しないであろうし、或いは、絶対最小の代わりに局所最小に収束するであろう。局所最小が絶対最小から遠く離れているとすれば、フィルター設計の結果は、使い物にはならないであろう。一般的に、妥当な推定は、極とゼロが重なり合わない全ての推定であり、その周波数応答は、チャンネル周波数応答に近い。
【００８５】
適切な推定は、フィルターがＮ係数を有する制限の中で、基本的に平坦なフィルター設計を想定することにより、設計される。ボードプロット近似から、単一の、実数の極とゼロは、極の位置で３ｄＢ効果を有する。つまり、ｓ＝−ｊωｐでの極は、ｆ＝ωｐ／２πで３ｄＢの減衰を提供するのである。更に、単極は、３ｄＢの点で応答における屈曲点を創造する。応答は、この屈曲点の前で基本的に平坦であり、屈曲点の後で６ｄＢ／オクターブのロールオフである。どちらの方向においても１オクターブ約１．０ｄＢ低下のこの近似値のために訂正がある。極とゼロは互いに相殺するように働くので、極により創造された６ｄＢ／オクターブロールオフは、周波数における高次のゼロにより相殺される。言い換えれば、単一ゼロに続く単極は、基本的に極の外に平坦な応答を創造し、極の後に６ｄＢ／オクターブで減衰し、そして、ゼロ及びそれを越えた周波数で基本的に平坦である。だから、特定の方法によって連続的に極とゼロが用意されるならば、基本的に平坦応答の作成が可能に成る。連続性は、極、ゼロ、ゼロ、極、極、ゼロ・・、或いは、ゼロ、極、極、ゼロ、ゼロ、極・・のどちらかである。
【００８６】
ボード近似を試験することにより、これらの極とゼロは、理想平坦のために補正の最大周波数の外に、オクターブ離して置かれるべきである。高次の方式に対して、これは、チャンネル周波数応答における最初の周波数応答点以下で、複数の極の非圧縮をもたらし、正確なオクターブ間隔に対立するような倍数因子が利用できる。
【００８７】
この因子は次のように計算される。終わりの周波数（ｆｅｎｄ）は、事前歪みチャンネル周波数応答での終わりの周波数として定義される。始まりの周波数（ｆｓｔａｒｔ）は、いくらか０Ｈｚより大きいところ（例えば、事前歪みチャンネル周波数応答での第８周波数ポイント）で定義される。これら周波数間で理想的に極とゼロを交互に満足させる倍数因子（Ｍｓｐａｃｅ）は、（１４）式である。
【数１４】
2005519269.tif 000018
Ｍｓｐａｃｅは、正確なオクターブ間隔のために２．０とする。
【００８８】
これを念頭に、周波数配列が発生され、そして、早く開始した２個の周波数のうちの１つにおけるこれらの周波数で極とゼロが配置される。周波数配列は（１５）式で表される。
【数１５】
2005519269.tif 000019
一度、極とゼロがわかれば、（８）式の形式を有する分子と分母多項式は、多項式の掛け算によって計算される。
【００８９】
本質的平坦である一方、極とゼロの位置でのこの推定は、それをＬ２の最小化において良い初期開始ポイントにする別の特性を持っている。全ての極とゼロ（最初と最後を除く）がＳ平面で負の実軸上に沿って近接しているので、それらは簡単に互いに対に成ることができ、そして、フィルターの適合がチャンネルに向かう間、複素共役対として働きを止める。極とゼロの複素共役対は、チャンネル周波数応答における急峻なリップルの解決に非常に有効である。複素極とゼロは、共役対に成るべきであるので、それらを実軸上で最初に交互に置くことが理想である。
【００９０】
４個の極とゼロを持った初期推定フィルターの振幅応答を図７に示す。図７は、個々の役割を要約することにより形成された全体振幅応答２１２に沿って、おのおのの極２１０とゼロ２１１の個別の応答を示す。全ての推定は、リップルを含み、そして僅かながら０ｄＢからずれている。図８は、初期推定アナログフィルターの極とゼロの位置を示す。
【００９１】
さて、その応答と事前歪みチャンネル応答間で誤差を最小にするためのこの初期推定フィルターの係数を調整する必要がある。この問題の説明は次のようである。
おのおのの座標を（ωｋ，ｈｋ）とするＫ座標を含む事前歪みチャンネル周波数応答を与える。ωｋとｈｋはそれぞれ、ｋ番目の周波数（ＧＨｚ）と振幅（無次元）である。二乗平均誤差（ｍｓｅ）を最小にすることによりａｎとｂｍを求める。つまり、（１６）式を最小化する。
【数１６】
2005519269.tif 000020
（局所的）最小は、フィルター係数ａｎ及びｂｍが次のような時に到達する、つまり、フィルター振幅応答がこれらの係数値で評価される時に全係数を変数として二乗平均誤差の偏微分がゼロになるような時。
これは、傾きがゼロの点を見つけることで実行されている。これは、全ての係数を変数とする偏微分がゼロであることを意味する。
【数１７】
2005519269.tif 000021
これらの偏微分の評価は次の（１７）式及び（１８）式である。
【数１８】
2005519269.tif 000022
及び
【数１９】
2005519269.tif 000023
（１７）式及び（１８）式は、二乗平均誤差の偏微分の評価のために提示している、われわれは、振幅応答と振幅応答のみを変数とする偏微分に対する解析関数を要求している。事実、ほとんどの非線形方程式解法手段は、正確にそれを要求する。振幅応答は、次の（１９）式で評価することができる。
【数２０】
2005519269.tif 000024
ここで、
【数２１】
2005519269.tif 000025
【数２２】
2005519269.tif 000026
【数２３】
2005519269.tif 000027
【数２４】
2005519269.tif 000028
おのおのの分子係数を変数とした偏微分は、（２４）式又は（２５）式である。
【数２５】
2005519269.tif 000029
又は、
【数２６】
2005519269.tif 000030
おのおのの分母係数を変数とした偏微分は、（２６）式又は（２７）式である。
【数２７】
2005519269.tif 000031
又は、
【数２８】
2005519269.tif 000032
（１９）式、（２５）式、（２７）式を知れば、この点で、どのような適当な非線形方程式解法手段を用いてもフィルターは妥当な解を得ることができる（例えば、math CADにおけるgenfit関数或いは、Levenberg-Marquardtアルゴリズム）。
【００９２】
この方程式を解く際、係数ｂｏでの偏微分は（２７）式に使うべきではないが、無限大（または非常に大きな数）の設定には利用することに留意しよう。これは、実数ａｏとｂｏが随意である故である。ａｏとｂｏの比は、重要であり、この比が方式の直流利得を設定する全てである。もし、これらの係数の１つが確定されなければ、双方は、非常に大きいか又は非常に小さくなる。ｂｏの偏微分を無限大に設定することで、方程式解法手段は、このパラメータを著しく変更することなく、そして、ａｏが、ａｏとｂｏの比の設定のために自由度を持つことになる。
【００９３】
開始フィルター係数で初期推定に沿った振幅応答関数と偏微分がわかれば、Levenberg-Marquardtアルゴリズムが繰り返し動作する。［ＣＡＤ技術を有するＶＬＳＴ特性：VLSI Characterization with Technology Computer-Aided Design−博士論文， Technische Universitat Wien, 1995 by Nadim Khalil］参照、すべての内容は参考文献に含まれている。おのおのの繰り返しに対して、係数は、二乗平均誤差が減少するように調整される。Levenberg- Marquardt法は、２個の共通の最小二乗法間のバランスである。つまり、おのおのの繰り返しで、小さなステップが二乗平均誤差のベクトル傾きに沿って作られる急峻相応方法である。急峻相応方法（method of steepest decent）は、非常に遅いが、局所的最小範囲まで補償している。他の方法は、ニュートン・ガウス法である。ニュートン・ガウス法の収束は非常に早い、しかし、発散もする。Levenberg-Marquardt法は、おのおのの繰り返し（反復）上のそれ自身の実行を計測している。成功的反復は、次の反復上でニュートン・ガウス法に有利さを生じさせ、失敗的反復は、次の反復上で急峻相応法に有利さを生じさせる。好ましい方法は、値（λ）に依存している。表２は、Levenberg-Marquardtアルゴリズムの反復を通じてのスッテプを示し、ここで、係数ベクトルｇは、（２８）式に示すようなものである。
【数２９】
2005519269.tif 000033
【表２】
2005519269.tif 000034
【００９４】
二乗平均誤差ｍｓｅ０は、初期推定フィルター応答と事前歪みチャンネル応答との間の値に初期化され、そして、それは１０００とする。反復方法が完了する条件は、次に示す条件の一つが生じたときである。
１．特定されたｍｓｅに到達したとき。
２．λが、最大値（例えば、１ｅ１０）を越えるとき。しばしば、これは発散を示す、しかし同時に収束も示す。
３．λが、方式が収束することを示す最小値（例えば、１ｅ−１０）に到達したとき。
４．収束ポイントで、λが２個もしくは３個の値の間で発振するとき。
５．収束ポイントで、ｍｓｅが非常にゆっくりと変化するとき。
６．反復が最大数を超えるとき。最大は、反復が無限に続くことを防ぐために設定される。
【００９５】
一度、局所最小が達成すると、二乗平均誤差の試験は、最小の性能を検証する。もし、それが低すぎなければ、係数は、局所最小から方式を揺するためにランダムに変えられ、そして反復が絶対最小に集中することについての望みで続く。  
【００９６】
この点で、分子と分母多項式係数の双方が、（８）式に示すようにアナログフィルターのために見出される。このアナログフィルターは、事前歪みチャンネル周波数応答を近似する。それから、分子と分母は、チャンネル応答を補正するアナログフィルターを構成するために交換される。
【００９７】
おのおのの多項式の根は、LaGuerreによって見いだされた複素根を純化するBairstow  の方法を受けたLaGuerreの方法の組み合わせを使って見いだされる。「Ｃにおける数値処理法：William H. Press et al., Numerical Recipes in C: the Art of ScientificComputing-2nd Edition, Cambridge UniversityPress, 1992, pp. 369-379」参照、この全ての内容は、ここでの参考文献に含まれている。純化は、多項式が実在し複素根は共役対になるという見積もりからなり、それらはそのようである。この純化は、高次元多項式が用いられる場合に必要である。
【００９８】
一度、根が見出されると、複素共役対が結合され、そしてアナログフィルターが（２９）式で再構成される。
【数３０】
2005519269.tif 000035
ここで、ｓｔはフィルターセクションである。フィルターは、ここでは、４次セクションの形式である。セクションの数は、初期の分子多項式または分母多項式の半分に等しいか、またはそれ以上の最小の整数である。
【００９９】
フィルターは、ここでデジタルフィルターに変換される。双一次変換がこの変換の実行に用いられる。フィルターのおのおののセクションは、（３０）式による。
【数３１】
2005519269.tif 000036
フィルターを変換するために、（９）式に示すｓに置換する。置換は、代数的ではなく、代わりに、双一次係数式を用いる。「簡単な双一次変換：Peter J. Pupalaikis, Bilinear Transform Made Easy, ICSPAT 2000 Proceedings, CMP Publications, Inc.2000」参照、  全ての内容は、ここでの参考文献に含まれる。（３０）式に示すフィルターセクションの各段のおのおのの係数は、（３１）から（３３）式に示すデジタルフィルターセクションに変換される。
【数３２】
2005519269.tif 000037
（３２）式を利用する、
【数３３】
2005519269.tif 000038
及び
【数３４】
2005519269.tif 000039
【０１００】
４次セクションに対しては、Ｎ＝２で、全ての係数がＢｏで割り算される、だからＢｏは、特性に変化がない１．０になる。このポイントで、フィルター素子の補正部分が計算される。
【０１０１】
フィルターの振幅応答は、チャンネル周波数応答（事前歪みに先立ったポイントで）に一致するために用いられる周波数ポイントで評価され、そしてこの応答を表す波形が、フィルター製作器５６の補正出力７６を通して、図４に示す補正出力ピンに出力される。この方法で、ＤＳＯ顧客は、補正フィルター性能を試験できる。
【０１０２】
図９は、遵守の程度を変えて作られた補正フィルター応答とチャンネル周波数応答間の適合を示す。図１０は、０〜２ＧＨｚにおいてのこの適合を示す。この特別なチャンネルに対して、２ＧＨｚは、遵守が強制される最大の周波数である。チャンネル応答が２ＧＨｚで９ｄＢ減衰するので、これは妥当な制限である。
【０１０３】
図１１は、チャンネル補正のために設計された補正フィルターの振幅応答を示す。応答は、遵守の程度を変えて示されている。図１２は、再び、０〜２ＧＨｚ領域においての応答を示す。図１２の補正フィルターは、チャンネル周波数応答を相殺することに留意。
【０１０４】
更に、結果応答の平坦は、遵守を増大させて、改善する。遵守の程度は、フィルターの程度（例えば、フィルターにおける４次セクションの数）の顧客仕様の中に翻訳されることを覚えておく。図１２を検証すると、遵守の増加に対して、改善量を明確に見ることが難しいことがわかる。だから、図１３は、全体の、０ｄＢからの絶対誤差がわかるように用意されている。
【０１０５】
高位の遵守は、補正フィルターにより多くの４次セクションにおいてもたらされるので、図１４は、フィルターにおける段数を関数として補正フィルター性能を示す。この特別なチャンネルに対して、最大誤差は、補正なしで、２ＧＨｚまでで約９ｄＢである。平均誤差はちょうど１ｄＢを越えた程度である。補正（つまり、低遵守）に対して２個のフィルターセクションのみで、チャンネルは、平坦で、最大誤差は０．５ｄＢ以下、平均誤差はたった０．２ｄＢである。最大遵守（つまり、８フィルターセクション）では、最大誤差は、０．１ｄＢ以下まで減少し、平均誤差は、０．４ｄＢ以下である。だから、遵守の程度は、振幅の２個の指示による最大誤差（ｄＢ）及び２５の指標による平均誤差を減らすために用いることができる。
【０１０６】
フィルターの随意応答部の設計を、ここで記述する。図１５は、最終応答８４のみの制御を含む簡単な顧客インタフェースを示す。この顧客インタフェースは、顧客が最終的に帯域幅８５を特定することを許可する。現在のＤＳＯｓは、一般的に、２個または３個のみの固定帯域幅設定の選択を用意する。加えるに、顧客インタフェースは、顧客が、最適応答領域８８における４個の最適（無８７、パルス応答８８、雑音性能８９及び平坦９０）の中で選択することを許可する。スコープ内で用意するオプションに従って、単極または臨界制動の双極応答のような他の可能な応答目録から顧客が選択することを許可する追加の応答仕様（特別と明示された）があるであろう。他の可能な応答は、特別な試験に対して、カスタムメードが可能である。特別に、応答は、種々の標準測定（例えば、ＩＥＥＥ及びＡＮＳＩ標準）によって特定された。最適応答に対して、無８７の選択は、補正フィルター部と応答発生部の双方を止める。
【０１０７】
先進の設定タブ９１は、図１６に示す別のダイヤログ箱に案内する。追加の制御は、お好み９２と呼ばれる最適応答下で追加されたことに留意。選択は、お好み雑音特性９３あるいは最適仕様９４に用意される。選択は、応答フィルター設計が以下で議論されるときに、説明される。制御は、また補正９５に対しても用意される。これは、補正フィルター部での４次セクションの数を決める遵守の程度９６を含む。また、最大補正周波数９７は、周波数を所望遵守まで特定するために設定することができる。最終デジタルフィルター実装９８にわたる制御は、また用意されるであろう。２個の選択、ＩＩＲ９９とＦＩＲ１００が示される。別の可能な選択は、デフォルト設定（つまり、自動、最終実装に対して、ＩＩＲまたはＦＩＲの高速自動選択）である。試験は、更新レートの範囲では、ＩＩＲフィルターが常にＦＩＲフィルターより勝っていることを示した。また、ＩＩＲフィルター長は、サンプルレートで変化しない（ＦＩＲでは変化する）。だから、この応用の目的に対して、ＩＩＲフィルターは好ましいフィルターである。しかしながら、顧客は、要望すればＦＩＲフィルターを選択するであろう。
【０１０８】
ＦＩＲは、ＩＩＲの切頭円錐インパルス応答であるので、フィルター設定量１０１は、特定されるべきものである（例えば、１０ｅ−６）。フィルター設定値は、インパルス応答が削除できるところを越えてインパルス応答でのサンプルポイントを定義する。フィルター設定サンプル１０２は、特定フィルター設定値を基準に計算された値である。ＦＩＲ実装に対して、それは、フィルター開始を許可するために、スクリーン外の左の表示された波形に表示すべきポイントの数である。
【０１０９】
発生応答は、二つの部分、所望応答と雑音低減から成ることを思い出そう。雑音低減は、雑音の削除だけではなく、また最大補正周波数（ｆｍｃ）を越える補正フィルターにおいての過剰実行（オーバーブート）を防ぐ。これは、補正フィルターが、基本的に外部の補正周波数に拘束されないからである。図１１及び図１２に示すように、補正周波数を越えて、フィルターは、広範囲に振舞う傾向がある。雑音低減は、減衰設定（Ａｓ）と周波数設定（ｆｓ）により管理される、ここでｆｓは、ｆｍｃの倍数要素（Ｍｍｃｆ）として計算される。言い換えれば、フィルター製作時、補正フィルターからのじょう乱を防ぐためにｆｍｃより高い周波数で、いくばくかの減衰が必要であるということである。
【０１１０】
５個の可能な最適応答が、最も高いから最も低いまで複雑さの順番で議論される。些細な場合は、最適はなく、それは、最終フィルターからこの部分を単に外し、そして補正部を不能にする。
【０１１１】
最適平坦は、応答部としてバターワースフィルターの設計を含んでいる。  バターワースフィルターの意図は、可能な限り小さく、通過帯域に影響を与えている間、いくらかの雑音低減（及び補正フィルターに対する過剰実行の保護）を提供する。設計は、最大通過帯域減衰（Ａｐ）および最小停止帯域減衰（Ａｓ）に沿って、設定された通過帯域および停止帯域端（ｆｐ及びｆｓ）を有する通常のバターワースフィルターである。「デジタルフィルター設計： T. W. Parks, Digital Filter Design, John Wiley & Sons, Inc. 1987, pp. 159-205」参照、全ての内容は、ここの参考文献に含まれる。結果として生じているバターワースフィルターは計算されたオーダー、Ｏｂｕｔｔｅｒ、を持っている。必要ならば、このオーダーは、Ｏｂｕｔｔｅｒ最大で許される指定最大オーダーに制限される。  フィルターがＯｂｕｔｔｅｒ最大に制限された場合、フィルターは、通過帯域及び停止帯域仕様の双方に合致しない。この場合、バターワースフィルターは、ｆｓで正確な減衰Ａｓを用意する状態にある。だから、ｆｐでの減衰は、Ａｐよりも大きい、ゆえに、平坦仕様は、守られない。フィルターオーダが制限されない場合、そのときフィルターは合致し、あるいは、仕様を越える。これは、フィルターオーダが、仕様を満足する最小の整数として選択されるからである。この場合、顧客は、仕様がお好み仕様９２を越えるようにバイアスを特定する。顧客が、雑音性能９３を好めば、バターワースフィルターは、ｆｐで正確減衰Ａｐおよび一般的にｆｓでＡｓより良好な減衰を提供する通常の設計を表す。最適応答９４が好みであれば、バターワースは、ｆｓで正確減衰Ａｓを提供する状態にある。この場合、ｆｐでの減衰は、Ａｐに等しいかそれ以下であり、フィルターは、一般的に平坦仕様より性能が良い。
【０１１２】
平坦応答に対する仕様は、顧客仕様から得られる：ｆｐは、たとえそれが実際の帯域幅でなくとも、特定帯域周波数（ｆｂｗ）に設定される、Ａｐは、δ（偏差）の仕様から得られ、そしてＡｓは、特別のスコープチャンネルの装置の振る舞いを基準にしたデフォルト値である。δ値は、普通、代表的な補正フィルター性能を基準に選択される。言い換えれば、補正フィルターが、最良０．１ｄＢ遵守を提供できる場合、その時、０．１ｄＢより少ないδは、おそらく不必要な制限である。ｆｓ値は、越えなければ、Ｍｍｃｆかけるｆｍｃで計算される、ここでＭｍｃｆは、特別なスコープチャンネルを基準にしたデフォルト値をもつ（例えば、１．６６７）。
【０１１３】
雑音性能最適応答は、Ａｐが周波数帯域幅（ｆｂｗ）で特定減衰（Ａｂｗ）に設定されることを除いて、最適平坦応答と同じである。Ａｂｗのデフォルトは３ｄＢであるが、下向きの変更は、帯域幅を補償するために許されていることに留意。Ａｓ及びｆｓは無視され、そしてバターワースフィルターは、ｆｂｗで減衰Ａｂｗを持つ（Ｏｂｕｔｔｅｒｍａｘ）を許可する最上オーダーとして設計される。これは、与えられた帯域幅に対して絶対最大減衰量を提供する。雑音性能応答に対する仕様は、顧客仕様から得られる：ｆｐは、帯域幅仕様（ｆｂｗ）から得られ、そしてｆｓは、越えなければ、Ｍｍｃｆかけるｆｍｃで計算される。
【０１１４】
最適パルス応答が、特定される時、ベッセルワースフィルターは、応答特性を最小化するために設計される。このフィルターは、ベッセルとバターワース応答特性との組み合わせである。ベッセルフィルターは、線形位相応答特性と非常にゆるやかなロールオフを持っている。最も重要なのは、それが、最良パルス応答特性を持つ低域通過フィルターであることである。バターワースフィルターは、平坦通過帯域及び遮断帯域応答を与える急峻なロールオフを有する。
ベッセルワースフィルターは、次の項目を特徴とする。
１．ベッセルオーダーは、Ｏｂｅｓｓｅｌとして特定される。
２．最大可能ベッセルワースオーダーは、Ｏｂｕｔｔｅｒｍａｘで特定される。
３．それは、ｆｂｗでＡｂｗ減衰以上を持たない。
４．それは、ベッセル応答が、ｆδの周波数で、ＡδｄＢの減衰以下に落ちる、もしくは交互に特定さる前に、δを越えないことによるベッセル応答から得られる。
５．それは、少なくとも、ｆｓもしくはそれ以上で，Ａｓ減衰を有している。
Ａｂｗ及びｆｂｗは、帯域幅仕様である。δは、前に記述したように偏差である。Ａｓのデフォルト値は、特定されていない、そしてｆｓの直接ステートメントによって優先される、それは、最大補正周波数ｆｍｃのデフォルトになる。つまり、デフォルト設定は、補正が提供される全周波数範囲に対してベッセル応答に緊密に従う応答のためのものである。Ａｓとｆｓは、以前に説明している。
【０１１５】
図１７は、ベッセルワース設計手順の流れ図を示す。アナログベッセルフィルターは、ステップ１０３において設計される。「デジタル信号処理の理論と応用：Lawrence R. Rabiner and Bernard Gold, Theory and Application of Digital Signal Processing, Bell Telephone Laboratories, 1975, pp 228-230」参照、全ての内容は、ここの参考文献に含まれる。ベッセルフィルターは、事前歪みのない周波数を有する仕様のために設計される。一度、ベッセルフィルターが設計されると、減衰がＡδに達するところの周波数ｆδは、ｆδが明確に特定１０４されない限り、振幅応答１０５から計算される。バターワースオーダー計算１０６は、自身説明であり、そして直接または試しと誤差を通して計算できる。ベッセル減衰は、バターワースのための必要減衰から差し引かれることに留意。また、バターワースオーダーは、事前歪み仕様を用いて決定すべきものであることに留意。オーダーが大きすぎる場合１０７、それは、その最大値１０８に設定される。この点で、お好み仕様が、最適平坦に対して記述した同じ方法で利用され１０９、そして２個のバターワースフィルター設計（１１０および１１１）の一つが選択される。一度このフィルターが設計されると、ｆｂｗ１１２でバターワースの効果が計算され、そしてベッセルフィルターは、バターワースフィルター１１３の減衰を軽量するために、（周波数において）縮尺を変更させられる。ｆｓ及びｆδは、ｆｂｗから離れている傾向があり、バターワースフィルターの相対的急峻ロールオフは、一般的にｆｂｗでのその効果を小さくする。この意味は、ベッセルフィルターのみステップ１１３で少し調整する必要があるということである。更に、縮尺調整は、ｆｃ及びｆδでの減衰を少なく提示するようにベッセルを動かす、しかしながら、またｆｓでの減衰が少なくなり、それは、遮断帯域減衰仕様に合致するフィルター能力を危うくする。ベッセルフィルターは、緩慢なロールオフを有するので、この効果は、通常無視される。これに対する補正のひとつの方法は、雑音性能が好ましい時、１０６において計算されたオーダーに１を追加することである。別の問題は、バターワースフィルターが、たとえ、高次（オーダー）バターワースでも、帯域幅仕様に合致することが不可能であるｆｃで、そのような大きな効果をもつことである。ナイキストレートまたはその近傍で帯域幅が特定されるときに、それは起きる。この問題は、１１２において計算されたＡｂｕｔｔｅｒとＡｂｗを比較することで検出できる。もし、Ａｂｕｔｔｅｒが大きければ、ベッセルフィルターは、仕様に合致しない（それは利得の提供を要求するからである）。この場合、バターワースフィルターは捨てられ、そして方式はベッセルフィルターのみを利用する。この瞬間に、帯域幅仕様は、遮断帯域減衰仕様よりも高い優先として、効果的に選択される。一度、バターワース及びベッセルフィルターが設計されると、ベッセルフィルター応答は、点図され（事前歪み）そしてアナログフィルターがこの応答１１４に一致する（補正フィルターは、それをチャンネル応答に適合させることで計算される、それと同じような方法で）。アナログフィルターは、アナログベッセルフィルターが極を持つように、分子に加算する同一数のゼロを有���る。双方のフィルターは、双一次変換を用いてデジタルフィルター１１５に変換される。デジタルバターワースフィルターは、歪を呈示する、しかし歪は、その設計ないで予定されたものである。適合により、ベッセルフィルター、は正確にナイキストレートの外で、アナログベッセル応答に一致する。この方法は、ベッセルフィルター部に正確な応答特性を提供する。
【０１１６】
図１８は、そのようなベッセルワースフィルター３００の例を示す。図８のフィルターは、２ＧＨｚ（ｆｂｗ）の帯域幅仕様を持つ方式のためのものである。それは、帯域幅数端数で、２．５ｄＢ減衰（Ａｂｗ）として控えめに特定している。それは、更に、６ｄＢ減衰の二次（Ｏｂｅｓｓｅｌ＝２）ベッセル振幅応答３０１の位置まで０．５ｄＢ（δ）以下の偏差であることを特定している。ｆδは特定されていないので、それは計算され、ベッセル応答が６ｄＢに達する周波数は、３．１７８ＧＨｚである（それは、７．６０８  ＧＨｚの事前歪み仕様に導くものである）。５次（Ｏｂｕｔｔｅｒ＝５）のバターワースフィルター３０２は、３．５０１ＧＨｚの計算遮断帯域端で２０ｄＢ（Ａｓ）の方式減衰を提供する能力があることがわかった。
【０１１７】
単極、２極、臨界制動やその他の工業標準のような特別応答が、ベッセルフィルターの代わりに特別応答で、図１７で概要を示した手順によって正確に発生する。加えるに、また逆チェビシェフフィルターは、バターワースフィルターと置き換えることができる、だから、遮断帯域のリップルが、お好みの急峻な遮断において確かに許容できるのである。
【０１１８】
発生した応答フィルターには無関係に、それらはデジタルフィルターに変換され、そして内部に２個の段階（雑音低減及び成形）として保持される。おのおのの周波数応答は、図４に示す要素の雑音７４と成形７３ピンに出力される。全最適応答の場合、バターワースフィルターは、雑音低減部を表す。最適パルス応答の場合、ベッセルワースフィルター設計のベッセル部が、成形部を表す。特別応答の場合、これらの応答は、成形部を表す。最適平坦及び最適雑音性能の場合、そこには成形フィルター部は無く、全周波数で基準利得を示す周波数応答が成形ピン７３に出力される。
【０１１９】
データをフィルタリングするため、方式は、随意応答発生フィルター部の形成のために成形及び雑音低減デジタルフィルターを段階的に接続する。それから、方式は、全体補正及び応答発生方式を形成するために補正フィルター部と随意応答発生フィルター部を段階的に接続にする。フィルター係数は、ＩＩＲ５４ｏｒＦＩＲ５５により使用できる図４に示すフィルター製作器５６係数出力ピン６５から出力される。
【０１２０】
要約で、図４に示す要素へのインタフェースを次に示す。
１．内部フィルタリング要素の入力／出力
２．要求出力応答の仕様
３．チャンネル周波数応答の仕様
４．フィルターがフィルター製作器要素で決定された後、内部フィルタリング要素により用意される補正と応答を記述するピンの出力
【０１２１】
図４に示す要素を用いる方式の調整は、単にチャンネル周波数応答を提供することを伴う。図１９は、テスト１１８下で、回路を探るためにプローブ１１７をもつＤＳＯ１１６の調整に用いられる配列を示す。プルーブ１１７は、ＤＳＯ１１６のチャンネル入力１１９に接続される。信号は、チャンネル１２０に入り、ＡＤＣによりデジタル化され、その後、信号は処理され、そして内部コンピュータによって表示される。調整済みの基準発生器１２２は、ＤＳＯに内部であることを示す。調整済みの基準発生器１２２は、信号源１２３及び調整情報１２４から成る。基準源１２２は、周波数内容が良く知られた信号を発生する。既知周波数内容は、調整データ１２４として内部的に蓄積される。基準信号発生器１２３に沿う基準調整データ１２４調整済み基準１２２を形成する。特定状態下で、スコープ設定、温度変化、経過時間または顧客要求での明示に対する変更のように、調整は、内部入力選択器１２５で信号を外に切り替えること、基準発生器接続１２６を中に切り替えること、チャンネル１２０に入る基準発生器波形をデジタル化することにより、基準発生器１２３及びこの発生器からの要求データを制御すること、によって達成される。内部コンピュータ１２１は、摂取データを処理し、そこで、測定された周波数応答データを発生する。調整済み基準発生器１２２からの既知周波数応答１２４に沿った測定された周波数応答データは、この発明の目的である、チャンネル周波数応答決定のために、処理要素に通過される。
【０１２２】
この調整方法は、チャンネル１２０をスイッチ１２５に落とすことを通じて信号経路を調整する、また基準発生器１２３への経路１２６を含む。この意味は、スイッチ１２５から基準発生器１２３への経路１２６とスイッチ１２５からスコープ入力１１９への経路１２７が注意深く設計されなければならない、またはその周波数応答特性が知られなければならない、ということである。更に、プローブ１１７が、調整ループの外にあることに留意。効果において、説明された調整手順は、スコープ入力１１９のみへＤＳＯを調整する。スコープの内部経路（１２６及び１２７）を高い精度で設計可能にする間、これは、プローブに関して、いつも可能ではない。
【０１２３】
これを計量するために、多くのスコーププローブが、プローブが挿入された時、内部コンピュータにより読まれる内部メモリ（ＥＥＰＲＯＭ）に蓄積された調整情報を伝える。調整済みプローブは、チャンネル周波数応答計算に使用できる周波数応答情報を伝える。例えば、プローブの周波数応答が知られている場合、内部コンピュータは、情報をフィルター製作要素に送るに先立ち、簡単にこの周波数応答を測定された周波数応答に加算できる。結果しての補正は、それから、プローブの周波数応答を組み入れることになる。
【０１２４】
交互に、顧客は、プローブ１１７を周期的に基準信号出力１２８に接続し、そして、記述のように調整を実行する、入力選択スイッチは、ノーマル動作状態に留めることを除いて。調整結果は、全チャンネル１２０を通してプローブ先端１２９から周波数応答に組み入れられる。この形式の調整は、完全に自動化できない間に、より高次の補正を用意する。更に、この形式の調整が、唯一用意された調整方法である場合、そのとき、基準発生器への入力選択スイッチ１２５と内部経路１２６は不要である。
【０１２５】
更に、調整済み基準発生器１２２は、スコープに存在する必要はない。それは、外部的に供給され、そしてＤＳＯにオプションとして売られる。加えるに、調整データ１２４は、基準発生器１２３に結合している間、一緒に置かれる必要はない。データは、スコープに負荷するためディスクに存在する。しかしながら、基準発生器１２３を識別し、および調整データ１２４に対応するいくつかの方法がある。利用発生器の形式に従えば、内部計算機による発生器の直接制御は必要ではないかもしれない。
【０１２６】
フィルター製作器は、４個の応答、チャンネル応答とフィルター応答の３個の要素を計算する。フィルター応答の３個の要素は、補正、成形及び雑音低減応答である。これらの応答出力を用いて、全てを網羅する周波数応答仕様は、簡単なプロット又はこれらの応答の全ての代数的組み合わせによって顧客にもたらされることが出来、そしてこの情報を顧客に提供する。同じ方法で、顧客は、要望される全ての周波数応答の振る舞いを試験することが出来る。加えるに、図１３のような点図は、可能であり、そして有用な追加情報を提供する。更に、種々のマトリックス（図１４に示すデータのように）は、これら点図から計算される。
【０１２７】
この形式のスコープ性能データを提供する能力は重要である。例えば、多くの標準測定は、特定の測定装置仕様（例えば、特定の測定は、スコープが２ＧＨｚまで０．５ｄＢの平坦を利用すべきと声明する。）本発明は、そのような要求を満足する能力を提供するだけでなく、また遵守を確実にするための最終仕様試験能力を提供する。最後に、本発明は、顧客測定（図２０に示すように）に沿ったスコープ仕様の記録と印刷を許すものである、だから、適当な測定条件の検証を用意する。
【０１２８】
本発明は、上述の実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲でその他様々な構成が取り得る。
本発明のより完全なる理解のために、以下の記述と添付の図面を参照とする。
【図面の簡単な説明】
【０１２９】
【図１】本発明による周波数応答補正器及び随意応答発生器の方式を示す。
【図２】チャンネルの周波数応答と補正及び応答発生方式を記載。
【図３】処理網内での本発明による周波数応答器と随意応答発生器の方式を示す。
【図４】図３に示した構成要素３３の内部構造を示す。
【図５】獲得された時間軸参照信号とそれから計算されたチャンネル周波数応答を示す。
【図６】事前歪みチャンネル周波数応答を示す。
【図７】図６に示す応答近似における初期推定フィルターに対するフィルター応答を示す。
【図８】図７において初期推定フィルターに対する極と零の位置を示す。
【図９】図６に示す応答を模倣し遵守の程度を可変するデジタルフィルターの周波数応答を示す。
【図１０】遵守が実施されている図９における周波数帯域の拡大図である。
【図１１】図６に示す応答を補正し、遵守の程度を可変するデジタルフィルターの周波数応答を示す。
【図１２】遵守が実施されている図１１における周波数帯域の拡大図である。
【図１３】図１２におけるフィルターに対する補正フィルター誤差を示す。
【図１４】フィルター段の数を関数にした補正フィルター誤差を示す。
【図１５】フィルターを特定するための顧客インタフェース構成を示す。
【図１６】フィルターを特定するための上級の顧客インタフェースを示す。
【図１７】ベッセルワースフィルターを設計するための手順の流れ図である。
【図１８】ベッセルワースフィルターの周波数応答を示す。
【図１９】本発明によるＤＳＯに対する調整配置を示す。
【図２０】本発明による出力性能仕様例を示す。
【符号の説明】
【０１３０】
１  周波数応答補正及び随意応答発生器方式
２  入力
３  要求応答を有する補正出力
４  フィルター
５  補正
６  応答
７  雑音低減
８  応答フィルター部
９  フィルター係数キャシュ
１０  フィルター係数製作器（またはフィルター製作器）
１１  補正フィルター発生器
１２、応答フィルター発生器］
１３  チャンネル応答特性
１４  応答及び補正仕様
１５  最終性能仕様
【図１】
2005519269.tif 000040
【図２】
2005519269.tif 000041
【図３】
2005519269.tif 000042
【図４】
2005519269.tif 000043
【図５】
2005519269.tif 000044
【図６】
2005519269.tif 000045
【図７】
2005519269.tif 000046
【図８】
2005519269.tif 000047
【図９】
2005519269.tif 000048
【図１０】
2005519269.tif 000049
【図１１】
2005519269.tif 000050
【図１２】
2005519269.tif 000051
【図１３】
2005519269.tif 000052
【図１４】
2005519269.tif 000053
【図１５】
2005519269.tif 000054
【図１６】
2005519269.tif 000055
【図１７】
2005519269.tif 000056
【図１８】
2005519269.tif 000057
【図１９】
2005519269.tif 000058
【図２０】
2005519269.tif 000059
【国際調査報告】
2005519269.tif 000060