(57)【特許請求の範囲】
【請求項１】
複数の入力信号Ｍを複数の出力信号Ｙに弁別する音響信号弁別システムであって、前記入力信号が媒体によって既に影響された複数のソース信号の関数によって構成され、前記ソース信号が複数のソースと関連し、前記出力信号が前記ソース信号を推定しており、前記システムが、信号分離アーキテクチャの複数のパラメータを定義しかつ計算するアーキテクチャプロセッサを有し、前記アーキテクチャが、
【数１】
0004430820.tif 000100
によって表せられる、前記入力信号と前記出力信号との間の関係を確立するフィードバック状態空間表現を含み、
ここで、Ｘiは環境の状態ベクトルを表し、Ｌは状態ベクトルの数であり、Ａi，Ｂi，Ｃi及びＤは環境を記述するパラメータマトリックであり、Ａi，Ｂiは状態更新マトリックスであり、Ｃi及びＤは
【数２】
0004430820.tif 000101
に従って更新されるマトリックスであり、
ここで、Ｉは、パフォーマンスインデックスであり、γ及びηは定数であり、ｆａは、非線形奇関数であり、上付き文字Ｔは、転置を示している、前記システム。
【請求項２】
前記入力信号を検出するための複数のセンサと、前記信号分離アーキテクチャに基づいて前記出力信号を計算するための出力プロセッサと、を更に含む請求項１記載の音響信号分別システム。
【請求項３】
【数３】
0004430820.tif 000102
である請求項１又は２に記載の音響信号弁別システム。
【請求項４】
ｆａが、双曲線関数からなる請求項１又は２に記載の音響信号弁別システム。
【請求項５】
ｆａが、シグモイド関数の逆数からなる請求項１又は請求項２に記載の音響信号弁別システム。
【請求項６】
前記入力信号が受信され、かつデバイスに記憶される請求項１乃至５のいずれか一項に記載の音響信号弁別システム。
【請求項７】
前記音響信号弁別システムが、前記信号分離アーキテクチャの前記パラメータマトリックスのパラメータを計算する更新プロセッサも含む請求項１乃至６のいずれか一項に記載の音響信号弁別システム。
【請求項８】
前記音響信号弁別システムが、前記入力信号の関数を計算するための入力信号プロセッサも含む請求項１乃至７のいずれか一項記載の音響信号弁別システム。
【請求項９】
音響信号弁別システムが、前記出力信号の関数を計算するための出力信号プロセッサを含む請求項１乃至７のいずれか一項記載の音響信号弁別システム。
【請求項１０】
前記信号分離アーキテクチャの前記パラメータマトリックスのパラメータが、前記入力信号プロセッサ及び前記出力信号プロセッサの内のいずれか、或いは前記両方のプロセッサからのデータに基づいて計算される請求項８又は９に記載の音響信号弁別システム。
【請求項１１】
前記複数のセンサが、方向性応答パターンを有するセンサ配列体として配置されている請求項２又は請求項２に従属する請求項３乃至１０のいずれか一項に記載の音響信号弁別システム。
【請求項１２】
前記センサ配列体の方向性応答パターンが、前記入力信号に信号処理を施すことにより、修正することができる請求項１１に記載の音響信号弁別システム。
【請求項１３】
前記入力信号の数と前記出力信号の数とが等しくない請求項１乃至１２のいずれか一項に記載の信号処理システム。
【請求項１４】
少なくとも１つの出力信号が、少なくとも２つのソース信号の関数である請求項１乃至１３のいずれか一項に記載の信号処理システム。
【請求項１５】
少なくとも２つの出力信号が、同一ソース信号の関数である請求項１乃至１４のいずれか一項に記載の信号処理システム。
【請求項１６】
前記フィードバック状態空間表現が少なくとも部分的に有限インパルス応答（ＦＩＲ）フィルタに写像される請求項１乃至１５のいずれか一項に記載の信号処理システム。
【請求項１７】
前記状態空間表現が少なくとも部分的に無限インパルス応答（ＩＩＲ）フィルタに写像される請求項１乃至１６のいずれか一項に記載の信号処理システム。
【請求項１８】
前記状態空間表現が非線形時間依存形関数に一般化される請求項１乃至１７のいずれか一項に記載の信号処理システム。
【請求項１９】
複数のソース信号を分離する方法であって、
複数の入力信号Ｍを受信するステップと、
複数の出力信号Ｙを計算するステップとであって、該出力信号はソース信号を推定しており、前記出力信号は信号分離アーキテクチャのパラメータに基づいているステップと、
前記複数の出力信号を提供するステップと、を含み、
前記信号分離アーキテクチャが、
【数４】
0004430820.tif 000103
によって表される、前記入力信号と前記出力信号との間の関係を確立するフィードバック状態空間表現を含み、
ここで、Ｘiは環境の状態ベクトルを表し、Ｌは状態ベクトルの数であり、Ａi，Ｂi，Ｃi及びＤは環境を記述するパラメータマトリックであり、Ａi，Ｂiは状態更新マトリックスであり、Ｃi及びＤは
【数５】
0004430820.tif 000104
に従って更新されたマトリックスであり、
ここで、Ｉは、パフォーマンスインデックスであり、γ及びηは定数であり、ｆａは、非線形奇関数であり、上付き文字Ｔは、転置を示している、前記方法。
【請求項２０】
【数６】
0004430820.tif 000105
である請求項１９に記載の複数のソース信号を分離する方法。
【請求項２１】
ｆａが、双曲線関数からなる請求項１９に記載の複数のソース信号を分離する方法。
【請求項２２】
ｆａが、シグモイド関数の逆数からなる請求項１９に記載の複数のソース信号を分離する方法。
【請求項２３】
前記入力信号を記憶するステップを更に含む請求項１９乃至２２のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項２４】
前記出力信号を記憶するステップを更に含む請求項１９乃至２３のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項２５】
前記入力信号の変換または分析を計算することを更に請求項１９乃至２４のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項２６】
前記出力信号の変換または分析を計算することを更に請求項１９乃至２５のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項２７】
前記アーキテクチャが、前記方法の実行中に変更される請求項１９乃至２６記載のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項２８】
パラメータを初期化するために、ゼロ又は無作為な数の組が使用される請求項１９乃至２７のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項２９】
別の方法によって事前に計算されたパラメータを使用するステップを更に含む請求項１９乃至２８のいずれか一項に記載の複数のソース信号を分離する方法。
【請求項３０】
事前に終了した方法によって計算されたパラメータを使用するステップを更に含む請求項１９乃至２９のいずれか一項に記載の複数のソース信号を分離する方法。
【発明の詳細な説明】
【０００１】
発明の背景
発明の属する技術分野
本発明は一組の混合信号の多重測定値を処理することによって原信号情報または内容を回復するシステムに関する。更に詳細には、本発明は、受信した信号混合体の測定値から幾つかの原信号を回復する適応システムに関する。本発明によって解決される問題およびこの問題を解決する従来の方法を最もよく理解するためには次の問題陳述が有用である。添付図１に関して、Ｎ個の独立した信号ｓ1（ｔ），．．．，ｓN（ｔ）を考察することとする。これらの信号は、独立した話し手または音声、音響、音楽、無線を基調とするか、または光を基調とする無線伝送、電子または光通信信号、静止画像、ビデオ、等々の任意の１つ又はこれらの組合わせ体を表すことができる。これらの信号は、それを貫いて伝播する媒体または環境内において天然又は合成混合によって遅延し、相互に重複することがあり得る。従って、遅延して重複した信号の受信に際して、一組の適当なアルゴリズム及びそれらを適用するための適当な手順を用いて独立した信号源を順調に分離するアーキテクチャ、フレームワーク、または、デバイスが望まれる。
【０００２】
関連技術の考察
独立した供給源の回復および分離は古典的であるが困難な信号処理問題である。この問題は、多くの実際的状況下において信号源と混合媒体両方の多くの関連特性が未知であるという事実によって複雑化される。
【０００３】
主要な２つのカテゴリに属する方法が用いられる、即ち、
１．神経細胞的に奮起させられた適応アルゴリズム（例えば、米国特許第５，３８３，１６４、及び、５，３１５，５３２号）、および、
２．従来の離散型信号処理（例えば米国特許第５，２０８，７８６、及び、５．５３９，８３２号）である。
【０００４】
神経細胞的に奮起させられた適応アーキテクチャ及びアルゴリズムは元来Ｊ．Ｈｅｒａｕｌｔ、及び、Ｃ．Ｊｕｔｔｅｎによって提案された現在ではＨｅｒａｕｌｔ−Ｊｕｔｔｅｎ（またはＲＩ）アルゴリズムと呼ばれる方法に従う。ＣＭＯＳ集積性に対するこれら方法のこの種の集合の適合性は認識されている。ただし、標準ＨＪアルゴリズムは、主として特殊情況において機能することが実証されている提案済み適応法則と共にせいぜい発見的である。ＨＪアルゴリズムに関連した従来の研究による理論と解析は、実験的シミュレーションにおいて遭遇する成功を支援または保証するために未だ充分でない。ＨｅｒａｕｌｔとＪｕｔｔｅｎは、これらの解析的欠陥を認識し、解決されるべき追加問題について記述している。彼らが提案するアルゴリズムは線形媒体および濾波（フィルタリング）または一切遅延なしであると仮定する。詳細には、原信号は、未知ではあるが一定の係数のマトリックスを介して媒体によって転送されるものと仮定される。要約すれば、Ｈｅｒａｕｌｔ−Ｊｕｔｔｅｎ方法は（ｉ）全階数（ランク）に亙る線形静的混合環境に拘束され、（ｉｉ）マトリックスの逆機能を必要とし、（ｉｉｉ）信号遅延の存在を考慮しない。ただし、多くの実用的な応用において、濾波および相対的遅延が発生する。従って、従来の研究は、多くの実用的な状況および実世界での適用において、信号を順調に分離することに失敗している。
【０００５】
信号分離を対象とする従来型信号処理方法は殆どの場合に、伝統的なディジタル信号処理方法の趣旨において離散型分域（ドメイン）から発生し、信号の統計的性質を利用する。この種の信号分離方法は、殆どの場合に離散型信号変換およびフィルタ／変換関数反転を含む計算を用いる。混合した信号の分離を達成するためには、一組のキュムラントの形における信号の統計的性質が用いられ、この場合、これらのキュムラントはゼロに近付くように数学的に強制される。これは、信号を回復し、かつ相互に分離する伝達関数のパラメータに関して探索するこれらアルゴリズム族の核心を構成する。全ての可能なキュムラントについて計算することは実用的でなく、リアルタイム実行にとっては多くの時間を消費し過ぎる。
【０００６】
これらの方法の詳細は次に示すカテゴリに含まれる。
【０００７】
１．信号分離のための神経細胞的に励起されるアーキテクチャ及びアルゴリズム
信号分離のために神経細胞的に励起される適応方法のこれらの集合は、信号ベクトルＭ（ｔ）を生成するために、「統計上独立した」信号ベクトルＳ（ｔ）＝［ｓ1（ｔ），．．．，ＳN（ｔ）］Tが混合されるものと仮定する。ベクトルＭ（ｔ）はセンサ（例えば、マイクロホン、等々）によって受け取られる。
混合環境は一般（静的または動的）演算子によって表されるものとする。即ち、
【数１】
0004430820.tif 000002
0004430820.tif 000003
識が存在しない場合に、混合プロセスを逆にするために使用できる幾つかの公式
0004430820.tif 000004
カテゴリ、即ち、静的および動的にグループ化する。用いられる適応基準の性質に関して追加的弁別、例えば、情報最大化、高次数キュムラントの最小化、等々が可能である。
【０００８】
１．１  静的問題
静的問題は一定非特異マトリックスによる混合に限定される。「統計上独立した」信号ベクトルＳ（ｔ）＝［ｓ1（ｔ）、．．．、、ｓN（ｔ）」Tは信号ベクトルＭ（ｔ）を生成するために混合されるものと仮定する。詳細には、混合演算子は、次式のように定マトリックスＡによって表されるものとする。即ち、
Ｍ（ｔ） = ＡＳ（ｔ）                    式（２）
図２において、混合および分離環境のモデル化およびプロセスを概説する２つのアーキテクチャを示す。図２（ａ）におけるアーキテクチャは、定混合マトリックスＡの逆を必ず計算する。この場合、Ａが可逆であることを必要とし、即ち、Ａ-1が存在する。
【０００９】
図２（ｂ）における代替アーキテクチャは、収束に関して、マトリックスＤの対角外エレメントが精確にマトリックスＡの対角外エレメントであるという拘束条件を課さない。ただし、この場合、マトリックスＡの対角エレメントは「１．０」に等しいことに拘束される。Ｄの対角エレメントをゼロに設定することにより、混合マトリックスでない場合であってさえも、混合プロセスは可逆であると必然的に結論される。
【００１０】
両方の場合に、Ｓ（ｔ）は未知の供給源の集合であり、Ｍ（ｔ）は混合体集合であり、Ｕ（ｔ）はＳ（ｔ）を推定する分離された信号の集合であり、Ｙ（ｔ）は不混合プロセスのパラメータを更新するために用いられる制御信号の集合である。図２に示すように、されたように、重み更新は出力Ｕ（ｔ）の関数を利用する。
【００１１】
第１の場合に、我々は不混合マトリックスにＷのラベルを付け、第２の場合に、我々はそれにＤをラベル付けする。Ｄがゼロ対角エントリを持つことに注意されたい。これらの２つのマトリックスのエントリの更新は、信号分離、弁別、または、回復に使用される判定基準、例えば、情報最大化、更に高次キュムラント等によって定義される。
【００１２】
一例として、次式の場合において、
Ｕ（ｔ） ＝ ＷＭ（ｔ）                                式（３）
可能性のある重み更新法則は
【数２】
0004430820.tif 000005
であり得る。ここに、ηは十分に小さく、gは奇関数であり、Ｍｈ混合体の集合であり、Ｕはソース信号を推定する出力の集合であり、下付きのＴは行列の転置を表し、−Ｔは行列の逆転置を表す。関数ｇ（）は、次式で表される上記ダイアグラムと関係のあり得る更新において追加的役割を果たすことに注意されたい。
Ｙ（ｔ） ＝ ｇ（Ｕ（ｔ）） 式（５）
【００１３】
式（３）におけるＷのエントリを更新するために式（４）が用いられる。これは反復的更新手順であるので、生成体ＷＡが単位マトリックス又は単位マトリックスの順列にほぼ等しいようにＷのエントリは収斂する。
【００１４】
他方、第２の場合においては、Ｄマトリックスエントリｄijの更新に関して潜在的に有用な法則は総称的に次式で表される
【数３】
0004430820.tif 000006
0004430820.tif 000007
立方関数が含まれ、ｇ（．）に関しては、双曲線正接関数が含まれる。この手順を使用するときは、連続する各ステップ及びサンプルポイントにおいて次に示す式（７）からのＵ（ｔ）に関して計算的に解が得られる：
Ｕ（ｔ） ＝ 〔１＋Ｄ〕-1Ｍ（ｔ）        式（７）
この計算は、特に高次元のＤに関して潜在的に重い負担である。
【００１５】
１．２  動的問題
動的混合モデルは更に現実的な混合環境を記述し、この種環境モデルを定義し、このフレームワーク内において、原信号を回復するための更新法則を開発する。
【００１６】
動的問題において、マトリックスＡはもはや定マトリックスではない。静的な一例のフィードバック構造に関して、ここに、次に示す高速動的方程式の一方程式としてＵ（ｔ）１＝［１＋Ｄ］-1Ｍ（ｔ）であるような式（７）を検討する方が簡単である。
τＵ（ｔ） ＝ −Ｕ（ｔ）−ＤＵ（ｔ）＋Ｍ（ｔ）  式（８）
これは、随意に推測することにより、式（８）における微分方程式を初期化することによって計算を容易にする。ただし、式（８）と式（６）によって定義されるような更新手順の間のタイムスケール分離を保証することが重要である。これ
0004430820.tif 000008
って保証可能である。
【００１７】
Ｍ（ｔ）の次元度がＮであると我々が仮定すれば、動的信号分離アルゴリズムを定義する一組の微分方程式は次のように現される
ｉ＝１，．．．，Ｎに対して
【数４】
0004430820.tif 000009
これはＮ個の微分方程式を列挙する。更に、マトリックスＤのエントリに関する適応プロセスは、例えば、式（６）における関数ｆ（）及びｇ（）の評価のような多重判定基準によって定義され得る。図３はフィードバック構成における動的モデルの説明図である。
【００１８】
現行の方法は、今までに定義されたアーキテクチャ内における適応判定基準の適用に関する手順については殆ど概説しない。２つの暗示的手順について次のように記述されている。
【００１９】
第１は、信号分離関数の適用、適用手順、および、これらの点の各々が実際的かつ物理的にアクセス可能であるかどうかには無関係に、データの随意点に対する判定基準である。従って、適応分離手順は適用関数および個別にかつ瞬間的に測定された混合信号の各エレメントに対する判定基準に適用され、その後で適切なパラメータ更新が行われる。
【００２０】
式（３）を使用する手順の第２のタイプを図２（ａ）に示す。この場合、判定基準は全体データ集合  または全データ集合から選定されたデータポイントへ適用される。従って、関連適応プロセスはサンプル毎に進行しないが、一定静的混合マトリックスが適用される全データ集合を利用する。この方法が第１の方法より幾分堅固であるが、それは、リアルタイム信号分離には本質的に適しないオフラインの方法である。更に、静的定マトリックスの仮定が正しくないときには、不混合プロセスの精度が問題になる。
【００２１】
１．３．フィードフォワード状態空間
アーキテクチャを図７に示す。ｎ次元ソース信号ベクトルをｓとし、ｍ次元測定ベクトルをＭとする。混合環境は線形時間非依存（ＬＴＩ）状態空間によって記述される。
【数５】
0004430820.tif 000010
0004430820.tif 000011
【数６】
0004430820.tif 000012
0004430820.tif 000013
【００２２】
第１の質問は次のようである：原信号を回復するパラメータマトリックスＡ、Ｂ、Ｃ、Ｄは存在するか。解答が後続する。
【００２３】
回復問題への解決の存在：
我々は、ネットワークパラメータが次の値に設定されれば（または適応スキームを介して達成すれば）、（適応）動的ネットワークが混合環境に対抗し得ることを表明する。
【数７】
0004430820.tif 000014
【数８】
0004430820.tif 000015
【数９】
0004430820.tif 000016
【数１０】
0004430820.tif 000017
ここに、［Ｄ］は次の値と同等である
【数１１】
0004430820.tif 000018
【数１２】
0004430820.tif 000019
【数１３】
0004430820.tif 000020
マトリックスＡ*、Ｂ*、及び、Ｃ*は、非特異状態等価変換Ｔによる族値をとり得る。我々は、実現性の観点からネットワークアーキテクチャを「正準備」または単純にするためにＴを使用する。この公式化は、実際にＦＩＲフィルタに限定される公式化を文献において一般化する、即ち、主として２次元ソース及び２つの測定値関する一般化を一般的なｎ次元ソースおよびｍ次元測定値に一般化する。このモデル化はＦＩＲ濾波モデルを含み、Ａが非ゼロであるならば、ＩＩＲ濾波まで拡張することに注意されたい。
【００２４】
このフィードフォワード形式は適応ネットワークに関して実行可能であるが、我々は、その適用性を限定する、即ち、マトリックスＡ*が（漸近的に）安定しているような混合環境パラメータでなくてはならないことを注記する。即ち、安定した混合環境に関しては、次に示す
【数１４】
0004430820.tif 000021
適応ネットワークの複合マトリックスは（漸近的に）安定でなければならず、即ち、複素平面の左半分内に固有値に持つ。許容可能な混合環境に或る等級の適用性を除外する限定条件をこの必要条件が課することは明白である。
【００２５】
２．伝達関数に基づく信号分離技法
信号分離および混合の伝達関数による表現はこの技法を動的環境モデルおよび方法にす。
【００２６】
従って、現行方法は、図４に示すように２つの混合体測定値を処理することによって２つの信号を分離する構造を定義する。
【００２７】
伝達関数分域内の分離関数に関する他のアーキテクチャは、結果的に、実用的な方法および装置の設計および実施に対して障害となる３つの重大な欠点をもつ。第１に、表現されたこの公式化は、問題の次元性が２を超過する更に高い次元に分離手順を一般化する可能性を排除する。換言すれば、２つ以上の混合体および２つ以上のソースが所在する場合、分離方法の実用的な形式化は存在しない。他の技法を直接参照すれば、ゼロに等しくなくてはならない結果として得られる積マトリックスのエントリの１つを各スカラ方程式が定義するようにマトリックス乗算項が表現されている技法を解明できる。対角マトリックスの置換も同様に許容されるので、方程式の多重集合が生成される。２混合体問題は、それぞれの対が２つの積項を持つ２対（合計４個）の方程式に帰着する。方程式の個数は更に増大する。Ｎ次元の場合の特定の順列に関して方程式の個数を記述するために必要な方程式の個数は、性格には（Ｎ2−Ｎ）に等しい。２次元の問題に関して、この値は２である。
【００２８】
第２に、伝達関数に関する逆転手順は特別であり、これを教示する手順説明は存在しない。この場合、次元性の衝撃（インパクト）は決定的役割を果たす。結果として得られるアーキテクチャは、混合環境の伝達成分の積に依存する次数を持つ伝達成分を持つことをネットワークに必要とさせることがこの方法から明白である。従って、固定した次数を持つネットワークアーキテクチャは設計し得ない。
【００２９】
第３に、公式化が時間分域内に無く、随意の初期条件によって初期化不可能なので、初期状態は定義できない。従って、この方法はリアルタイムまたはオンライン信号分離には適当でない。
【００３０】
発明の概要
本発明は複数の入力信号を複数の出力信号に分離する信号処理システムについて記述する。この場合、入力信号は複数のソースと関連した複数のソース信号の関数によって構成され、出力信号はソース信号またはソース信号の関数を予測する。本システムは、入力信号を検出するための複数のセンサ、信号分離方法を定義および計算するアーキテクチャプロセッサ、出力信号を計算するために信号分離アーキテクチャの限界を決定する信号分離方法、及び、信号分離方法またはアーキテクチャに基づいて出力信号を計算する出力プロセッサを有する。
【００３１】
発明の実施の形態
本発明は、種々の媒体を介して伝送される混合された信号を回復および分離することを意図するものであり、ここに、信号の分離は（ｉ）当該媒体またはチャネルの信号搬送容量、（ｉｉ）受信した信号の品質、または（ｉｉｉ）これら両者を実質的に向上させるような高品質であるものとする。媒体またはチャネルにはワイヤ、ケーブル、繊維光学、無線または光を基調とする周波数または帯域、ならびに、固体、液体、気体粒子または真空の組合わせ体が含まれるものとする。
【００３２】
また、本発明は、媒体またはチャネルを介して混合された信号を分離することを意図するものであり、ここに、高水準信号分離は、現在入手可能であるか、または、現水準の科学技法によって製造可能なハードウェアによって達成される。
【００３３】
本発明のシステムは、日付に拘束されない範囲の情況に対処するために、ここに記述されているすでに存在する方法よりも優れた一般化された１組のフレームワークを導入する。詳細には、図８に示すフィードバック状態空間アーキテクチャ及びその連続的および離散的表現について記述される。更に、本アーキテクチャは、ディジタル信号処理の技術分野における当業者によって一般に使用されるＦＩＲおよびＩＩＲ両形式における１組の適応フィルタに写像（マッピング）される。更に、本発明のアーキテクチャに関係するパラメータの適応計算に関する多くの機能および手順について概説される。アーキテクチャ及びパラメータの適応計算に関する手順は、両者共、オンライン実時間（リアルタイム）信号分離、弁別、および回復（リカバリ）を達成するために設計されている。他の多くの技法に実質的に関係のある欠点の大部分、すなわち、混合における複数の又は個数不明の信号、ノイズ生成、混合条件の変化、信号の強度および品質の変動、および、ある種の非線形現象は本発明の公式化によって処理される。本発明の方法は、新規な２組のアーキテクチャ及びフレームワーク、ならびに、多様なパラメータ適応基準および混合体から信号を分離および回復するように設計された手順を含むように問題の公式化を拡張することによって他の方法の欠点を克服する。
【００３４】
はじめに
本発明は、動的環境において盲目（ｂｌｉｎｄ）信号分離および回復（または、たたみ込み解除）を扱うフレームワークを提示する。元の研究はＨｅｒａｕｌｔとＪｕｔｔｅｎとＣｏｎｉｏｎの研究によって動機づけられた。最近の研究結果の大部分は、主として、ＨｅｒａｕｌｔとＪｕｔｔｅｎとＫｕｉｌｂａｃｋによって報告された結果の解析的基礎を確立することに集中している。幾人かの研究者は、応用数学、統計信号処理、システム理論、動的システム、及び、ニューラルネットワークを含む多数の解析ツールを使用した。また、環境を更に一般的な動的システムに一般化する試みも行われている。
【００３５】
幾つかの理論的結果および公式化は動的環境における信号の盲目分離および回復を扱う。我々は、混合環境、したがって信号分離および回復を実施するために用いられる適応デットワークを表すために状態空間動的モデルについて考察する。我々は、離散ならびに連続タイムチャネルに容易かつ直接的に適応させられる動的モデルを用いる。呈示された環境モデル及び適応ネットワークは、混合環境が（状態）フィードバックおよび記憶を含む場合を考慮する。状態／出力のフィードバックは、フィードフォワードがＦＩＲ公式化に対応する離散的時間の場合における無限インパルス応答（ＩＩＲ）濾波に対応する。
【００３６】
我々の方法の強調点はネットワークアーキテクチャおよび効率的実行を指向した改良され収束アルゴリズムの開発である。白色化を保証し、かつ出力ユニット共分散の仮定条件を除去するためには、（非線形）相互情報／エントロピ関数の改良された近似が用いられる。改良された拡張は線形項ならびに他の方法の拡張では全て欠如する更に高位の項を含む奇数多項式をネットワーク出力内に生成する。ただし、混合環境が定マトリックスによって表される静的な場合のみを扱った研究もあることに注意されたい。具体的には、ＦＩＲフィルタに関する公式化は静的マトリックス混合問題に変換された。
【００３７】
方法の概要
図９（ａ）は本発明の方法のプロセス流れ図を示す。これは、（１）サンプル入手、（２）サンプルの前処理、（３）状態の現在値または適応パラメータを用いた出力計算、（４）適応パラメータの計算、（５）内部状態の計算、および、出力の記憶、及び／又は、提示を含む。
【００３８】
サンプル入手は、例えばマイクロホンのような多重センサを介して記録された多重チャネルデータの入手を含む。この種データは、音響の混合トラックのような、前記多重センサまたはそれらの混合体の以前に記録された出力から得られることもある。データは、リアルタイム又はほぼリアルタイムタイムプロセス用にオンラインでサンプル採取されるか、または、例えば、テープ、ハードディスクドライブ等々の記憶媒体または記録媒体から読み戻され得る。
【００３９】
サンプルの前処理には  入手したサンプルの操作のための種々の処理技法が含まれる。これらの処理技法には、限定されることなく、各種周波数フィルタの適用、例えば、低、高、またはバンドパスフィルタ、または、ノッチフィルタ、例えば２つ又はそれ以上の個数のセンサの重み付け合計のような現行または以前のサンプルのセンサ出力間の線形または非線形操作、緩衝作用、ランダム、疑似ランダム、または決定論的選択および緩衝作用、サンプル採取されたデータ又はサンプル採取されたデータの関数のウインドウイング、および、サンプリングされたデータの各種線形および非線形変換が含まれる。
【００４０】
出力の計算は早期に計算された状態およびパラメータを使用する。このステップは、適応パラメータ計算の後、または、内部状態計算の後、または、両方の場合まで遅延させることも可能である。更に、代替案として、出力は１つのサンプルセットにつき２度計算することも可能である。
【００４１】
適応パラメータの計算は、適応パラメータに課せられた拘束条件を定義する関数の値を計算するためにその関数の導関数を使用する方法または多重方法を含んでも差し支えない。１つ又は複数のこの種の拘束条件を使用できる。特に適応パラメータの計算のための種々の方法および基準については本発明において概説される。
【００４２】
内部状態の計算は、適応パラメータの現行または利用可能な値と共にアーキテクチャの構造の呼び出しに関連する。内部状態は、状態ベクトル、状態スカラ、時間表現されたこれらのサンプル、またはそれらの導関数の形であっても差し支えない。特定アーキテクチャは状態の個数を定義する。
【００４３】
動的アーキテクチャ
動的モデルは更に現実的な環境を包括および記述する。状態空間技法のフィードフォワード及びフィードバック両アーキテクチャは実行可能である。フィードフォワード線形状態空間アーキテクチャは既に示したとおりである。この記述全体を通じて、我々は、混合環境として信号を混合するための数学モデルに言及し、他方、我々は、（適応）ネットワークとしての信号回復のための数学モデルに言及する。
【００４４】
本発明の方法は定マトリックスを越えて更に現実的なモデルを含むように環境を拡張し、かつ有効な更新法則を開発する。決定的第１ステップは、フィードバックの包含と初期条件の変動に起因してＦＩＲフィルタおよび伝達関数よりも更に一般的である状態空間の動的線形システムを包含することである。更に、これらのモデルは非線形モデルへの直接拡張に役立つ。この研究の別の動機づけは、アナログ又は混合モードの超小形電子としての最終的な実装を可能化することである。
【００４５】
公式化は、動的線形システムの適当な実現によって環境が表される場合におけるフィードバック動的構造を扱う。
【００４６】
フィードフォワード線形構造
フィードフォワード状態空間アーキテクチャについては序説において記述し、図７に示したとをりである。
【００４７】
フィードバック線形構造
先駆者としてのフィードフォワードよりも更に効果的なアーキテクチャはいわゆる（出力）フィードバックネットワークアーキテクチャである。図８参照。このアーキテクチャは、ネットワークパラメータに関する拘束条件を軽減する。また、このアーキテクチャは、フィードバックである故に、エラー及び妨害に対する堅固さ、安定性、および、増大された帯域幅などのフィードバックシステムの知られている幾つかの魅力的な特質を受け継いでいる。これらの利益については、以下の方程式から明白になるはずである。
【００４８】
回復問題解法の存在
ｙがｓに比例する解へ（順列マトリックスを介して）収斂するならば、すなわち、ｙ＝Ｐｓであれば、次に示す（適応）ネットワークのパラメータマトリックスは、元の信号を回復する解を構成する：
【数１５】
0004430820.tif 000022
ネットワークのアーキテクチャにおいてフィードバックを持つという望ましい予定特質に加えて、我々は、信号の分離／回復に関する簡潔な解決方法も達成する。この場合にはアーキテクチャはネットワークに追加的な拘束条件を導入しない。ネットワークの順方向経路におけるＨは一般に最も簡単な場合におけるマトリックス、または、動的モデルの伝達関数を表すことがあり得ることに注意されたい。更に、ｍ＝ｎである場合、Ｈは恒等マトリックスであるように選択可能である。
【００４９】
この段階においては、手順のエレメント及びその利点は明白である。アーキテクチャ開発手順の更なる一般化は非最小位相混合環境についても説明できる。これらのステップは前述の手順の直接的な応用であり、したがって、詳細に説明しない。
【００５０】
重要な一般化はアーキテクチャの一部分として明白に非直線性を含むことである。１つのモデルは測定可変数Ｍ（ｔ）の静的写像として非直線性を含むはずである。結局、適応ネットワークはその入力段階において補償機能をもつ非直線性を含む必要がある。従って、更なる処理に先立つ測定に対抗するために入力は「逆型」非直線性を含まなければならない。このタイプの混合環境は、衛星プラットホームを含む無線応用例において遭遇する。
【００５１】
この適切な方法によって定義される動的アーキテクチャは盲目信号分離への解決策が存在することを保証する。さて、我々は、ネットワークがその可能な解決方法の１つに収斂することを可能にする適切な適応手順／アルゴリズムを定義する次のステップへ進むこととする。従って、収斂の後で、ネットワークは信号処理／回復に関する変数を保持するかずである。
【００５２】
離散状態空間表現、及び、離散時間ＩＩＲおよびＦＩＲフィルタに関する特殊化
性能測度／汎関数
ランダムベクトルｙの相互情報はその構成成分間の依存性の測度であり、次のように定義される。
連続問題において：
【数１６】
0004430820.tif 000023
離散問題において：
【数１７】
0004430820.tif 000024
【００５３】
離散問題の近似：
【数１８】
0004430820.tif 000025
ここに、ｐy（ｙ）はランダムベクトルｙの確率密度関数（ｐｄｆ）であるが、ｐyj（ｙj）は出力ベクトルｙのｊ番目の成分の確率密度である。汎関数Ｌ（ｙ）は常に非負であり、ランダムベクトルｙの成分が統計上独立していさえすればゼロである。この重要な測度は信号ベクトルの成分間の依存性の程度を定義する。従って、統計的独立性（の程度）を特徴付ける適切な汎関数を表す。Ｌ（ｙ）はエントロピに関して表現可能である。
【数１９】
0004430820.tif 000026
ここに、Ｈ（ｙ）：＝−Ｅ〔ln fy〕はｙのエントロピであり、Ｅ［．］は期待値を示す。
【００５４】
一般非線形離散時間非停留動的問題：
環境モデル
次に示す非線形離散時間動的（順方向）処理モデルとして環境をモデル化することとする
【数２０】
0004430820.tif 000027
ここに、ｓ（ｋ）は原ソースのｎ次元ベクトルであり、ｍ（ｋ）は測定値のｍ次元ベクトルであり、Ｘp（ｋ）はＮp次元状態ベクトルである。ベクトル（またはマトリックス）ｗ1*は動的方程式の定数／パラメータを表し、ｗ2*は「出力」方程式の定数／パラメータを表す。関数ｆp（．）およびｇp（．）は微分可能である。微分方程式の解の存在および一意性は、初期条件Ｘp（ｔ0）および所与の波形ベクトルｓ（ｋ）の各集合に関して満足されるものと仮定される。
【００５５】
プロセシングネットワーク
（プロセシング）ネットワークは動的（フォワード）ネットワーク又は動的フィードバックネットワークによって表現可能であるものとする。
フィードフォワードネットワークを次に示す。
【数２１】
0004430820.tif 000028
ここに、ｋはインデックスであり、ｍ（ｋ）はｍ次元測定値であり、ｙ（ｋ）はｒ次元出力ベクトルであり、Ｘ（ｋ）はＮ次元状態ベクトルである。（ＮとＮpは異なり得ることに注意されたい。）ベクトル（またはマトリックス）ｗ1は動的方程式のパラメータを表し、ｗ2は「出力」方程式のパラメータを表す。関数ｆ（．）およびｇ（．）は微分可能である。微分方程式の解の存在および一意性は、初期条件Ｘ（ｔ0）および所与の測定波形ベクトルｍ（ｋ）の各集合に関して満足されるものと仮定される。
【００５６】
離散時間動的ネットワークに関する更新法則：一般非線形の場合
さてここで、原信号を回復するために動的環境に関する更新法則が開発される。ここに、環境は線形動的システムとしてモデル化される。従って、ネットワークも線形動的システムとして同様にモデル化される。
【００５７】
ネットワークはフィードフォワード動的システムである。この場合、性能インデックスは次のように定義され
【数２２】
0004430820.tif 000029
次に示す離散時間非線形動的ネットワークに従属する
【数２３】
0004430820.tif 000030
この形の一般非線形時間依存離散時間動的モデルは任意のサイズおよび任意の個数の層を備えた多層再帰およびフィードフォワードニューラルネットワークの両特殊アーキテクチャを含むことに気付く。この一般的な場合について論じることは数学的には更にコンパクトであるが、フィードフォワード及び再帰（フィードバック）モデルに向かうその直接的かつ簡潔な特殊化が強く注目される。
【００５８】
次に、最適化されるように補強されたコスト関数は次のようになる
【数２４】
0004430820.tif 000031
したがって、ハミルトニアンは次のように定義される
【数２５】
0004430820.tif 000032
結果的に、最適性に関する十分条件は次のように表される：
【数２６】
0004430820.tif 000033
境界条件は次のとおりである：即ち、状態方程式である第１方程式は初期条件を使用するが、補状態方程式である第２方程式はゼロに等しい最終条件を使用する。パラメータ方程式は、無作為に或いは所与集合から選択可能な小さいノルムを持つ初期値を使用する。
【００５９】
一般離散線形動的問題：
環境
【数２７】
0004430820.tif 000034
フィードフォワードネットワーク
【数２８】
0004430820.tif 000035
第１質問は次のとおりである：原信号を回復するプロセシングネットワークのパラメータマトリックスは存在するか。解答はイエスであり、パラメータの明確な解は次のとおりである。
【００６０】
回復問題への解の存在：
線形動的問題に関する更新法則
【数２９】
0004430820.tif 000036
【００６１】
ＩＩＲおよびＦＩＲフィルタへの特殊化
ネットワークの一般離散時間線形力学は次のように与えられる：
【数３０】
0004430820.tif 000037
ここに、ｍ（ｋ）は測定値のｍ次元ベクトルであり、ｙ（ｋ）は（処理された）出力のｎ次元ベクトルであり、およびＸ（ｋ）は（ｍＬ）次元状態である（この場合における測定値の濾波済みバージョンを表す）。Ｌｍ-次元の状態ベクトルＸ1，Ｘ2，．．．，ＸLで構成される状態ベクトルは次のようになる。即ち：
【数３１】
0004430820.tif 000038
【００６２】
特殊問題
マトリックスＡおよびＢが「制御可能な正準形式」である場合について考察することとする。我々はＡおよびＢブロックマトリックスを次にように表す：
【数３２】
0004430820.tif 000039
ここに、各ブロックサブマトリックスＡ1jは対角マトリックスに簡素化可能であり、各Ｉは適当な次元のブロック恒等マトリックスである。
次に：
【数３３】
0004430820.tif 000040
このモデルは測定値ベクトルｍ（ｋ）のＩＩＲ濾波構造を表す。ブロックマトリックスＡ1jがゼロである場合には、モデルはＦＩＲフィルタの特殊な場合に還元される。
【数３４】
0004430820.tif 000041
これらの方程式は有名なＦＩＲ形式に書き直し可能でる。
【数３５】
0004430820.tif 000042
この最後の方程式は、実測信号ｍ（ｋ）およびＸj（ｋ）で表されるその遅延バージョンを出力ｙ（ｋ）に関係づける。
【００６３】
特殊正準表現問題
マトリックスＡおよびＢは、「制御可能な正準形式」すなわち形式Ｉフォーマットにおいて最も良好に表現される。この場合、Ｂは定数であり、Ａは、ＩＩＲネットワーク問題におけるパラメータとしての第１ブロック行のみを有する。この場合には、マトリックスＢに関する更新方程式は用いられない。他方、マトリックスＡに関しては、第１ブロック行のみが更新される。従って、マトリックスＡに関する更新法則は次のように限定される
【数３６】
0004430820.tif 000043
マトリックスＡの形式に注意すれば、補状態方程式は次のように拡張できる：
【数３７】
0004430820.tif 000044
従って、Ａにおけるブロックサブマトリックスに関する更新法則は次のようである：
【数３８】
0004430820.tif 000045
［Ｄ］-Tは、Ｄマトリックスの疑似逆行列転置を表す。マトリックスＣおよびＤに関する更新法則は次のように作成される：
【数３９】
0004430820.tif 000046
ここに、Ｉは、追加ゼロ行（ｎ＞ｒである場合）または追加列（ｎ＜ｒである場合）によって補強されたｒ×ｒ恒等マトリックスによって構成されるマトリックスである。「固有勾配(natural gradient)」の観点から、この場合における代替更新法則は次のとおりである：
【数４０】
0004430820.tif 000047
Ｃマトリックスに関する更新方程式は、各ブロックマトリックスに関して次のように表される：
【数４１】
0004430820.tif 000048
内部状態を除去することによって状態空間を減少させるには、次に示す条件が成立する静的環境にシステムを還元すればよい：
【数４２】
0004430820.tif 000049
離散表記法において、これは次のように定義される：
【数４３】
0004430820.tif 000050
２つのタイプの（離散）ネットワークの静的混合信号の分離に関して記述した。これらは、分離された信号ｙ（ｋ）が次のように定義されるフィードフォワードネットワーク
【数４４】
0004430820.tif 000051
および、ｙ（ｋ）が次のように定義されるフィードバックネットワークである。
【数４５】
0004430820.tif 000052
これらに関して提案される離散更新法則は次のとおりである：
フィードフォワードネットワークの場合
【数４６】
0004430820.tif 000053
および、フィードバックネットワークの場合
【数４７】
0004430820.tif 000054
0004430820.tif 000055
時間窓平均によって置き換え可能である。
注記：更新において、多重重み付けを使用しても差し支えない。次の「動的」ＦＩＲモデルは類似の更新法則修正例を示すことができる。
【００６４】
環境モデル
単一遅延の場合ＦＩＲにおいて、混合サンプルｍ（ｋ）は次の方程式によって定義される：
【数４８】
0004430820.tif 000056
分離フィードフォワードネットワークモデル
このネットワークは、次の方程式によって定義される近似ソース信号ｙ（ｋ）を生成する
【数４９】
0004430820.tif 000057
マトリックスＷ0からＷLに関する更新法則は次のように使用される
【数５０】
0004430820.tif 000058
又は
【数５１】
0004430820.tif 000059
又は
【数５２】
0004430820.tif 000060
特定の更新は、次に示すようにＷに変化率△Ｗを加えるか、
【数５３】
0004430820.tif 000061
または、それらの導関数から変数値を算定するための別の周知の積分法によって簡単に実施可能である。
【００６５】
連続時間モデル
本発明は、特に、盲目分離、弁別、および、混合信号の回復のための技法に関して、一組の更新法則および相互情報の連携最小限化および非線形ニューラルネットワーク出力エントロピ関数の情報最大限化を導入する。本発明のシステムは、原信号に著しく最小限度の仮定を設定し、混信環境を変更して、一緒に混合された幾つかの未知信号の適応盲目分離および回復を操作可能化する。
【００６６】
前節においては、離散時間モデルが開発された。本節においては、主として、連続時間微分演算を扱うこととする。これらの連続システム微分演算は、連続時間モデルを補足するために既に記述された離散型の場合の微分演算に相当する。本発明の内容における連続時間微分演算と離散時間微分演算はそれらの大部分が相互に類似していることが指摘される。当該技術分野における当業者によれば、一方の分域の更新法則はもう一方の分域の更新法則に変換可能である。
【００６７】
性能測度／汎関数
ランダムベクトルｙの相互情報はその成分間の依存性の測度であり、次のように定義される：
連続問題においては：
【数５４】
0004430820.tif 000062
離散問題においては：
【数５５】
0004430820.tif 000063
【００６８】
離散問題の近似
【数５６】
0004430820.tif 000064
ここに、ｐy（ｙ）はランダムベクトルｙの確率密度関数（ｐｄｆ）であり、他方、ｐy1（ｙj）は出力ベクトルｙのｊ番目の成分の確率密度である。汎関数Ｌ（ｙ）は常に非負であり、ランダムベクトルｙの成分が統計上独立していさえすればゼロである。この重要な測度は信号ベクトルの成分間の依存度を定義する。したがって、それは、統計上の独立性（の程度）を特徴付ける適切な汎関数を表す。Ｌ（ｙ）はエントロピに関して表現され得る。
【数５７】
0004430820.tif 000065
ここに、Ｈ（ｙ）：＝−Ｅ〔ln fy〕はｙのエントロピであり、Ｅ［．］は期待値を表す。
【００６９】
更新法則の微分演算
ニューラルネットワークの線形フィードフォワード構造が下に示すようであるものと想定する。
【表１】
0004430820.tif 000066
次に、（ランダムベクトル）出力の確率密度関数と混合入力変数は、ランダムベクトルｙの相互情報がその成分間の独立性の測定度であり、次のように定義可能であるような関係をもつ。
【数５８】
0004430820.tif 000067
したがって、
【数５９】
0004430820.tif 000068
は次のように表現され得る。
【数６０】
0004430820.tif 000069
Ｗの関数としてＬ（ｙ）を最適化する（実際には最小限化する）には、限界のエントロピのみの知識（または近似）が必要とされる。仮説によれば、この種の情報は利用可能でありえず、Ｌ（ｙ）を最小限化するためには、これらの量に近似することが必要である。ＣｏｍｏｎおよびＡｍａｒｉ等は、限界エントロピに近似するために、それぞれＥｄｇｅｗｏｒｔｈ及びｐｄｆのＣｈａｒｌｉｅｒ−Ｇｒａｍ拡大を使用した。
近似は次式を生成する：
【数６１】
0004430820.tif 000070
微分演算は次の勾配更新法則へ導く
【数６２】
0004430820.tif 000071
ここに、関数近似は異なる関数ｆａ（ｙ）に導く。我々の研究はＣｈａｒｌｉｅｒ−Ｇｒａｍ拡大を仮定し、以前よりも更に高位の近似を含む。我々の場合には、関数ｆａ（ｙ）は次のように与えられる
【数６３】
0004430820.tif 000072
一例として、均一ランダムノイズ及びサイン関数が未知のソースとして適用される場合には、以前の２つの方程式によって定義されるアルゴリズムは収斂する。既に
【数６４】
0004430820.tif 000073
として定義された更新法則を表現するためには固有勾配を次のように使用可能である。
【数６５】
0004430820.tif 000074
この場合、この種のアルゴリズムが様々な信号に関して収斂することがシミュレーションによって示される。ただし、ランダム波形およびサイン波形が用いられると、上記は収斂しない。これらの結果は、或る種の非線形関数が用いられる場合にも適用される。従って、この場合、両関数は同様の効果を持つ。
【００７０】
連続動的環境に関するパラメータ更新技法
我々は、更に現実的な環境を考察し、それらのモデルを定義し、原信号を回復するために更新法則を適用する。我々の公式化において、環境は線形動的システムとしてモデル化される。従って、ネットワークも線形動的システムとしてモデル化される。
【００７１】
ここで、原信号を回復するために動的環境に関して更新法則が開発される。この場合、環境は線形動的システムとしてモデル化される。従って、ネットワークも線形動的システムとしてモデル化される。
【００７２】
フィードフォワード問題： ネットワークは図７に示すようにフィードフォワード動的システムである。この場合、性能インデックスは次のように定義される
【数６６】
0004430820.tif 000075
ここに、イタリック字体のＬはラグラジアンであり、次のように定義される
【数６７】
0004430820.tif 000076
ここに、（ｔ）は、次式で定義される随伴状態方程式である
【数６８】
0004430820.tif 000077
0004430820.tif 000078
し、ｗはパラメータマトリックスＣおよびＤの列で構成されたベクトルである。正準現実化が用いられ、Ｂは定数であることに注意されたい。マトリックスＡは、正準表現においてＮパラメータのみを持ち得る。ここに、Ｎは状態ベクトルＸの次元である。総称的にｗｐで表されるパラメータ、Ａ、Ｃ、Ｄは一般勾配降下形式を用いて更新される。
【数６９】
0004430820.tif 000079
従って、
【数７０】
0004430820.tif 000080
として定義される性能インデックスを使用し、マトリックスＣ及びＤは次式に従って更新される
【数７１】
0004430820.tif 000081
ここに、ｆa（．）は双曲正弦関数およびシグモイド関数の逆数を含む様々な非線形拡大奇関数によって与えられる。
特定の計算／近似において、関数は次式で与えられる
【数７２】
0004430820.tif 000082
ｆａ（ｙ）に関する前述の方程式を用いる際の本質的特徴を要約して次に示す：
１．解析的に導出され、正当化されること。
２．ｙに線形項を含み、それによって、信号白色化に必要な２次統計量を作動可能化すること。
３．出力信号ｙ内の４次累積統計量から生じる更に高次の項を含むこと。
４．出力信号が完全共分散を持つと仮定しないこと。
【００７３】
ｆａ（ｙ）に関する関数は前述の特性によって日付が規定された文献に用いられる関数のみを表す。したがって、この関数は解析的に導出された他の関数の限界を超過する。
【００７４】
既に定義済みのｆａ（ｙ）に関する関数が用いられるならば、コンピュータシミュレーションによって、アルゴリズムの収斂が確認される。
フィードバックアーキテクチャ
図８の（出力）フィードバックアーキテクチャは、次の（正準）状態空間表現を用いて実現されるように簡素化可能である。
環境
【数７３】
0004430820.tif 000083
ネットワーク
【数７４】
0004430820.tif 000084
ここに、各Ｘiはソース信号と同じ次元の環境の状態ベクトルを表し、各Ｘjは出力信号と同じ次元のネットワークの状態を表す。簡易化するために、我々は、環境とネットワーク両方において状態ベクトルの個数Ｌが同じであると仮定した。
【００７５】
さて、性能インデックス
【数７５】
0004430820.tif 000085
を使用することとし、マトリックスＣ及びＤは次式に従って更新される
【数７６】
0004430820.tif 000086
特殊な用途においては、或る特定の場合に機能することが実証されている更に簡単な更新法則が適合可能である：
【数７７】
0004430820.tif 000087
実施されたコンピュータシミュレーションによって、上記２つの方程式の機能が実演された。
【００７６】
単純なＦＩＲ濾波における状態はソースの単純な遅延を表し、他方、ネットワークにおける状態はフィードバックされた出力信号における遅延を表すことが明白なはずである。ただし、これは、実際の物理的応用において発生する信号遅延の単純な考察結果を意味する。従って、フレームワークはＩＩＲ濾波および連続時間物理的効果の遅延を含む任意の遅延が考察可能であるので、フレームワークは更に一般的である。
【００７７】
観察
情報最大化への接続
非線形起動関数によって後続される重みマトリックスを用いると、非線形ネットワークの出力ベクトルのエントロピに関して平均された相互情報を書き直すことが出来る。これは、上記の解析的技法を情報最大化技法と連結するはずである。接続を理解するために、我々は次のように考察を継続する。
【数７８】
0004430820.tif 000088
を使用し、相互情報判定基準を次のように表現し直すことができる。
【数７９】
0004430820.tif 000089
ここにおいて、次式は、
【数８０】
0004430820.tif 000090
出力ベクトル成分へ適用された非線形（起動）関数をヤコビアンとして表すことを理解できる。従って、重みマトリックスの線形写像に続いて起動関数非直線数を挿入すれば、式
【数８１】
0004430820.tif 000091
は次式に等しくされる
【数８２】
0004430820.tif 000092
この最後のステップにおいて、非線形起動関数のベクトル出力の未知接合確率関数を表すために同一記号ｆを用いても差し支えないことに注意されたい。
【００７８】
従って、この段階において、
【数８３】
0004430820.tif 000093
の最小化が
【数８４】
0004430820.tif 000094
の最小化に等価であることを表明し得る。定義により、
【数８５】
0004430820.tif 000095
量の最小化が非線形起動関数の出力のエントロピ関数の最大化に等しいことが観察される。用いられた非線形起動関数は、その導関数が限界確率分布に必ず等しくなるように構成されることに注意されたい。従って、他の考察によって追求された解析的な方法の間の正確な結合関係がここで確立される。これは、次式が重みマトリックスに依存しないと仮定する以前に設定された一般的に無効の仮定を回避する
【数８６】
0004430820.tif 000096
【００７９】
公式化問題の核心は限界確率密度関数への近似の決定にあることに注意されたい。この種の近似は、解析的手段によって正当化された処理済み信号の統計的特質に依拠することを必要とする。
【００８０】
確率論的更新対決定論的更新
次に示す２つの要点に注意されたい。即ち、第１点は、公式化では確率汎関数が用いられるが、更新法則の最終的な実施においては、出力変数ｙの決定論的関数のみが使用されることであり、第２点は、
【数８７】
0004430820.tif 000097
または
【数８８】
0004430820.tif 000098
の更新法則はオンラインで適用されることである。これとは対照的に、既に述べた更新法則は、ウィンドウを用いて適用され、当該更新法則における確率論的プロセスをエミュレートするためにランダム出力サンプルが選択される。
【００８１】
アーキテクチャ及び更新法則の実施
１次動的ネットワークへのＨＪネットワークの実用的な拡大の直接的なハードウェア実装は、実験的結果と共に、既に報告されている。直接的実装は回復ネットワークの最も迅速な実行に関するアーキテクチャ及びアルゴリズムの効果的な実装手段を表す。
【００８２】
別のパラダイムはＤＳＰアーキテクチャを含む。ここで考察される信号分離アルゴリズム族のエミュレーションに基づくＤＳＰに関しては、最良プロセッサアーキテクチャと数値的表現の間で、例えば、浮動小数点か固定小数点かについて、トレードオフが行われる。高度に集積化された解決策（例えば、ワンチップ構成）を達成するには、既に設計されているデバイスから、又は、新規設計による標準シリコンセルライブラリからのＤＳＰコアの埋め込みを必要とする。
【００８３】
ＤＳＰアセンブラ及びリンカに前置されるコンパイラは高水準言語コード化アルゴリズムシミュレーション環境からＤＳＰエミュレーションへの直接的なブリッジを形成する。更に、多くの計算環境と、例えば各種プロセッサ用Ｃ／Ｃ＋＋ライブラリ及びコンパイラのようなＤＳＰエミュレーション環境との間には同様の直接リンクが存在する。
【００８４】
プログラマブルロジックは、関連開発プロセスの必須部分であっても差し支えない。プログラマブルＤＳＰコア（カスタムチップへの統合用に設計されたＤＳＰプロセッサ）は、システムを多様化し、かつシステムコスト、スペース、及び、電力消費を節減するために、カスタムロジックとの集積化が可能である。
【図面の簡単な説明】
【図１】  信号の分離、識別、及び、回復問題の概略表現を示す図である。
【図２】  マトリックスＡによる静的混合の場合における信号の分離および回復ネットワークのアーキテクチャを示す図である。Ｕ（ｔ）は、原ソース信号ｓ（ｔ）に近似する出力である。Ｙ（ｔ）は、混合プロセスのパラメータの更新に使用される値、即ち、図（ａ）におけるＷ及び図（ｂ）におけるＤである。
【図２（ａ）】  信号分離用静的ニューラルネットワーク構造を示す図である。Ｕ（ｔ）はＳ（ｔ）に近似する。Ｙ（ｔ）は、ネットワークの重み更新に使用される。
【図２（ｂ）】  代替信号分離用静的ニューラルネットワーク構造を示す図である。Ｕ（ｔ）はＳ（ｔ）に近似する。Ｙ（ｔ）は、フィードバックネットワークの重み更新に使用される。
【図３】  フィードバック動的混合および分離モデルの場合における信号分離および回復ネットワークのアーキテクチャを示す図である。Ｕ（ｔ）はＳ（ｔ）に近似する。関数ｇはフィードバックネットワークの重み更新のために使われる判定基準を定義する。
【図４（ａ）】  信号混合および２つの信号システム分離に関する従来の伝達関数表現を示す図である。２つの信号Ｕ1びＵ2はＳ１及びＳ２に近似する。Ｇは、Ｈとしてモデル化された混合プロセスを逆にする。
【図４（ｂ）】  方法を単に２次元で示す図である。計算手順は、更に高い次元の信号の場合においては実用的でも拡張可能でもない。更に、混合環境の伝達関数分域への拡張も信号の時間分域特性は除去済みである。これは、方程式の集合からの初期条件の除外も引き起こす。
【図５】  状態空間時間分域（ステートスペースタイムドメイン）に関する混合モデルを示す図である。
【図５（ａ）】  一般フレームワークを示す図である。
【図５（ｂ）】
0004430820.tif 000099
【図６】  状態空間時間分域アーキテクチャに関する信号分離モデルを示す図である。
【図６（ａ）】  一般モデル及びアーキテクチャを示す図である。
【図６（ｂ）】  特殊な場合において、パラメータ更新手順を示す図（ａ）における矢印なしのモデルのみを示す図である。
【図７】  フィードフォワード状態空間アーキテクチャを示す図である。
【図８】  フィードバック状態空間アーキテクチャを示す図である。
【図９（ａ）】  本発明の方法の流れ図である。
【図９（ｂ）】  ＤＳＰ実装アーキテクチャを示す図である。Ａ／Ｄはアナログからデジタルへの変換を意味し、Ｄ／Ａはデジタルからアナログへの変換を意味する。以下に示すように、ＤＳＰ内部には様々な関数ユニットが含まれ得る。適用の性質、混合物体の個数、所要精度、等々に応じて異なる構成が可能である。
【図１０】  本発明の信号分離および回復手順に基づくオーディオ適用例を示す図である。オーディオ信号は、マイクロホン配列体のエレメントによって変換された電気信号である。マイクロホン配列体の各エレメントは環境内音響の異なるバージョン（または混合体）を受け取る。適用の性質、混合体の個数、所要精度、および他の関連判定基準に応じてマイクロホンの種々異なる配置構成が設計可能である。何等かの信号状態および濾波作用に従って、これらの混合信号はアナログフォーマットからデジタルフォーマットへ変換され、それによって、記憶および処理が可能である。本システムのディジタル信号プロセッサは本発明の信号分離および回復手順用に手順に従ってプログラムされる。ＤＳＰ内には、各種の数学および論理演算、デジタル表現、データ記憶、および、最適性能を達成するための検索手段のための様々な関数ユニットを含み得る。図に示す回路および構造は、全システムを１つの単一チップ上に実現する方向に向かって更に集積され得る。
【図１】
0004430820.tif 000106
【図２（ａ）】
0004430820.tif 000107
【図２（ｂ）】
0004430820.tif 000108
【図３】
0004430820.tif 000109
【図４（ａ）】
0004430820.tif 000110
【図４（ｂ）】
0004430820.tif 000111
【図５（ａ）】
0004430820.tif 000112
【図５（ｂ）】
0004430820.tif 000113
【図６（ａ）】
0004430820.tif 000114
【図６（ｂ）】
0004430820.tif 000115
【図７】
0004430820.tif 000116
【図８】
0004430820.tif 000117
【図９（ａ）】
0004430820.tif 000118
【図９（ｂ）】
0004430820.tif 000119
【図１０】
0004430820.tif 000120