(57)【要約】  信号中に符号化されている情報を推論するために信号を処理し、信号の特性を測定し、測定された信号特性から情報の推定を実行し、情報の展開された集合を使用し、情報の展開された集合は測定された信号特性に相関し、更新規則を決定し、更新規則を情報の展開された集合に適用し、信号中の符号化されている情報を表す情報の推論された集合を生成する方法が提示されている。この方法は、多くの用途、例えば、ＣＤＭＡ信号中の情報の推論、イジングパーセプトロンにおける学習、および不可逆圧縮において使用されうる。【選択図】  図５
2008533893.tif 000002
【特許請求の範囲】
【請求項１】
信号の中に符号化されている第１のデータセットを推論するために前記信号を処理する信号処理方法であって、
信号の複数の特性を測定するステップと、
それぞれの相関行列が複数の相関値を含む、複数の相関行列を確定するステップと、
第２および第３のデータセットを生成するステップと、
測定された信号特性および前記相関行列の特性により、前記第２および第３のデータセットのそれぞれのデータを前記第２および第３のデータセットの互いのそれぞれのデータに関係付ける更新規則を決定するステップと、
前記更新規則を前記第２および第３のデータセットに適用し、更新された第２および第３のデータセットを取得するステップと、
前記更新された第２および第３のデータセットから、符号化された第１のデータセットを表す推論されたデータセットを生成するステップと
を含む、信号処理方法。
【請求項２】
前記第２および第３のデータセットが実質的に変化しなくなるまで、前記更新規則を前記第２および第３のデータセットに適用するステップをさらに含む請求項１に記載の信号処理方法。
【請求項３】
自由パラメータに関して、前記第１のデータセットが与えられた場合に、それぞれの尤度に信号特性の確率が含まれる複数の尤度を決定するステップと、
定義済みのコスト尺度に関して前記自由パラメータを最適化するステップと
をさらに含む請求項１に記載の信号処理方法。
【請求項４】
大数極限において前記複数の尤度を決定するステップをさらに含む請求項３に記載の信号処理方法。
【請求項５】
前記最適化された自由パラメータを使用して事後推定量を計算するステップをさらに含む請求項３に記載の信号処理方法。
【請求項６】
前記信号は、符号分割多元接続（ＣＤＭＡ）信号であり、前記ＣＤＭＡ信号は前記第１のデータセット、複数の拡散シーケンスと雑音シーケンスの一次結合を含み、それぞれの拡散シーケンスはそれぞれの複数の拡散チップ値を含む請求項１〜５のいずれか一項に記載の信号処理方法。
【請求項７】
さらに、
式
【数１】
2008533893.tif 000040
により定義された巨視的変数を計算するステップであって、式中、
【数２】
2008533893.tif 000041
はｋ番目の信号ビットのｔ番目の反復における平均値であり、μはチップの副添字であり（１ビット当たりＮチップの拡散を使用する）、Ｋは前記第１のデータセット中のデータの個数であり、Ｎは拡散率であり、
【数３】
2008533893.tif 000042
は前記それぞれの尤度の主要項の位置に関係する自由パラメータであり、β＝Ｋ／Ｎは負荷であり、ｙμは信号の測定されたμ番目の特性である、巨視的変数を計算するステップと、
式
【数４】
2008533893.tif 000043
により定義された巨視的変数を計算するステップであって、式中、ｓμはμ番目の拡散値であり、Ｐμ，ｋｌ＝ｓμ，ｋｓμ，ｌであり、Ｉは、恒等行列、Ｉｋｌ＝δｋｌである、巨視的変数を計算するステップと、
前記ｔ番目の反復で前記第１のデータセットの前記ｋ番目のビットを式
【数５】
2008533893.tif 000044
として推定するステップとを含む、請求項３に依存している場合の請求項６に記載の信号処理方法。
【請求項８】
前記信号は、線形イジングパーセプトロンからの出力であり、前記信号は前記第１のデータセット、前記線形イジングパーセプトロンの複数の入力、および雑音シーケンスの線形結合を含む請求項１〜５のいずれか一項に記載の信号処理方法。
【請求項９】
前記信号は、不可逆データ圧縮システムへの入力であり、前記信号は第４のデータセットを含み、前記第４のデータセットのサイズは前記第１のデータセットのサイズよりも小さい請求項１〜５のいずれか一項に記載の信号処理方法。
【請求項１０】
請求項１〜９のいずれか一項に記載の信号処理方法を実行するようにコンピュータをプログラムするためのコンピュータプログラム。
【請求項１１】
請求項１０に記載のプログラムを収める搬送媒体。
【請求項１２】
伝送媒体を介した請求項１０に記載のプログラムの伝送。
【請求項１３】
請求項１０に記載のプログラムによりプログラムされるコンピュータ。
【請求項１４】
入力信号の複数の特性を測定する手段と、
それぞれの相関行列が複数の相関値を含む、複数の相関行列を確定する手段と、
第２および第３のデータセットを生成する手段と、
前記測定された信号特性および前記相関行列の前記特性により、前記第２および第３のデータセットのそれぞれのデータを前記第２および第３のデータセットの互いのそれぞれのデータに関係付ける更新規則を決定する手段と、
前記更新規則を前記第２および第３のデータセットに適用し、更新された第２および第３のデータセットを取得する手段と、
前記更新された第２および第３のデータセットから、前記符号化された第１のデータセットを表す推論されたデータセットを供給するように配置された出力と
を備えるシグナルプロセッサ。
【発明の詳細な説明】
【発明の分野】
【０００１】
本発明は、信号処理の方法、特に、ただし限定はしないが符号分割多元接続（ＣＤＭＡ）信号を処理するための信号処理の方法に関する。
【発明の背景】
【０００２】
信号処理は、電気通信、ニューラルネットワーク、およびデータ圧縮などさまざまな技術分野において利用されている。情報を信号に符号化する際に信号処理で一般的に問題となるのは、信号のいくつかの測定済み特性が与えられた場合に、この情報をどのように判定したらよいかということである。これは、典型的には、事後確率（信号特性が与えられた場合の情報の確率）を最大にする解を見つけることにより実行される。
【０００３】
Ｐｅａｒｌ（Ｐｒｏｂａｂｉｌｉｓｔｉｃ  Ｒｅａｓｏｎｉｎｇ  ｉｎ  Ｉｎｔｅｌｌｉｇｅｎｔ  Ｓｙｓｔｅｍｓ、Ｍｏｒｇａｎ  Ｋａｕｆｍａｎｎ  Ｐｕｂｌｉｓｈｅｒｓ、カリフォルニア州サンフランシスコ、１９８８年）、Ｊｅｎｓｅｎ（Ａｎ  Ｉｎｔｒｏｄｕｃｔｉｏｎ  ｔｏ  Ｂａｙｅｓｉａｎ  Ｎｅｔｗｏｒｋｓ、ＵＣＬ  Ｐｒｅｓｓ、ロンドン、１９９６年）、およびＭａｃＫａｙ（ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ，  Ｉｎｆｅｒｅｎｃｅ  ａｎｄ  Ｌｅａｒｎｉｎｇ  Ａｌｇｏｒｉｔｈｍｓ、Ｃａｍｂｒｉｄｇｅ  Ｕｎｉｖｅｒｓｉｔｙ  Ｐｒｅｓｓ、２００３年）は、取得されたデータ間の統計的依存関係のグラフィカルモデルおよび信念伝搬（ＢＰ）と呼ばれる、信号からデータを推論する反復法について説明している。グラフィカルモデルにループが含まれる場合、この方法が原情報に収束する保証はないが、Ｗｅｉｓｓ（Ｎｅｕｒａｌ  Ｃｏｍｐｕｔａｔｉｏｎ  １２  １、２０００年）は、これが制限された状況においていつ生じるかを示すある理論を提示している。解空間が連続している場合、ＢＰは、典型的には、十分な性能を有する。
【０００４】
ＢＰは、解空間が簡単に断片化されるように、また疎グラフに対応付けることができる問題について、Ｍｅｚａｒｄ、Ｐａｒｉｓｉ、およびＺｅｃｃｈｉｎａ（Ｓｃｉｅｎｃｅ  ２９７  ８１２、２００２年）により拡張された。
【０００５】
Ｋａｂａｓｈｉｍａ（Ｊ．  Ｐｈｙｓ  Ａ  ３６  １１１１１、２００３年）は、グループ化された複数のメッセージにわたる平均値からなる、変数間の凝縮されたメッセージの受け渡しに基づいて、信号が与えられた場合に情報を推論する技術について説明している。この技術は、解空間が連続している場合にうまく機能する。しかし、この技術は、断片化された解空間に特徴的である、多くの競合する解が存在しうるケースでは、うまくいかず、競合する解が出現すると、典型的には、反復アルゴリズムが収束しなくなる。信号処理の分野における問題は、既知である場合も未知である場合もある特定の重要なパラメータのいくつかの値に対し、このような挙動を示すことが多い。
【発明の概要】
【０００６】
本発明は、この背景に照らして、信号処理の改善された方法を提示しようとするものである。本発明は、信号を処理し、信号の中に符号化されている第１のデータセットを推論する方法を提示するものであり、この方法は、信号の複数の特性を測定するステップと、それぞれの相関行列が複数の相関値を含む、複数の相関行列を確定するステップと、第２および第３のデータセットを生成するステップと、測定された信号特性および相関行列の特性により、第２および第３のデータセットのそれぞれのデータを第２および第３のデータセットの互いのそれぞれのデータに関係付ける更新規則を決定するステップと、更新規則を第２および第３のデータセットに適用し、更新された第２および第３のデータセットを取得するステップと、更新された第２および第３のデータセットから、符号化された第１のデータセットを表す推論されたデータセットを生成するステップとを含む。
【０００７】
好ましくは、この方法は、さらに、自由パラメータに関して、第１のデータセットが与えられた場合に、それぞれの尤度が信号特性の確率を含む、複数の尤度を決定するステップと、定義済みのコスト尺度に関して自由パラメータを最適化するステップとを含む。
【０００８】
他の態様では、本発明は、密に結合されているグラフ上に対応付けられた物理的問題を解くための推論方法を提示しており、そこでは、変数１つ当たりの連結の個数は、変数の個数と同じオーダーであり、この方法は、（ａ）複製システム間の相関を表す相関行列を有する、それぞれ物理的システムから得られた測定結果を条件とする、複数の複製システムを含む集合システムを形成するステップと、（ｂ）複製システムにより得られる解が与えられた場合に測定の確率を展開するステップと、（ｃ）ステップ（ｂ）の展開に基づき、測定が与えられた場合に条件付き確率メッセージの１つの集合について、前の反復で得られた結果に基づき反復計算することができる、更新規則の閉集合を導出するステップと、（ｄ）定義済みのコスト尺度に関して調べられた特定の問題についてステップ（ｂ）および（ｃ）のうちの少なくとも１つから出現する自由パラメータを最適化するステップと、（ｅ）測定結果が与えられた場合に、最適化されたパラメータを使用して、条件付き確率メッセージに対し更新規則の最適化された集合を導出するステップと、（ｆ）更新規則を、実質的に固定された値の集合に収束するまで反復適用するステップと、（ｇ）実質的に固定された値を使用して、変数の最もあり得そうな状態を決定するステップとを含む。
【０００９】
好ましくは、推論方法のステップ（ｂ）は、大数極限において尤度を展開することを含む。好ましくは、推論方法は、さらに、最適化された集合から事後推定量を導出するさらに後続のステップを含む。
【００１０】
本発明の方法では、相関行列を使用することにより、複数の相関推定量にわたって平均をとった、データ毎の確率を決定することができる。定義済みのコストに関する最適化の結果として、未知の自由パラメータの値を確認することができる。この自由パラメータは、信号の特徴を示す未知数であり、信号処理用途では、信号の早い段階での処理の結果として入り込むパラメータ化された未知数、例えば、通信システム内の雑音と干渉の混入、ニューラルネットワークにおけるシステムへの雑音を含む入力、またはデータ圧縮システムにおける制御された歪みがある。
【００１１】
本発明は、さまざまな信号処理分野において用いられる。例えば、符号分割多元接続（ＣＤＭＡ）の分野では、複数の信号特性が与えられた場合に原情報の確率（推定量）を決定することが可能であり、したがって以前には未知であった雑音レベルを確認することができる。雑音の推定は、通信システムの信号検出において重要な問題となっている。都合のよいことに、この決定により、検出器自体で雑音レベルの値を計算し、そうして検出された情報内の誤差の確率を低減することができる。
【好ましい実施形態の詳細な説明】
【００１２】
本発明の技術は、例えば、Ｈｏｓａｋａ、Ｋａｂａｓｈｉｍａ、およびＮｉｓｈｉｍｏｒｉ（Ｐｈｙｓ．  Ｒｅｖ  Ｅ  ６６  ０６６１２６、２００２年）で説明されているような離散事象システムにおける推論および誤り訂正圧縮技術におけるデコードを含む、広範な用途に適用することができる。
【００１３】
しかし、符号分割多元接続（ＣＤＭＡ）信号からデータセットを取得することに対する具体的応用例については、ほんの一例として説明することにする。
【００１４】
多重アクセス通信とは、単一の受信機への複数のメッセージの伝送のことである。図１に示されているシステムでは、平均値ゼロ、分散
【数１】
2008533893.tif 000003
の加法的白色ガウス雑音（ＡＷＧＮ）チャネル上で独立のメッセージを伝送するユーザーがＫ人いる。Ｖｅｒｄｕ（Ｍｕｌｔｉｕｓｅｒ  Ｄｅｔｅｃｔｉｏｎ，  Ｃａｍｂｒｉｄｇｅ  Ｕｎｉｖｅｒｓｉｔｙ  Ｐｒｅｓｓ  ＵＫ、１９９８年）により説明されているように、メッセージを分離するためのさまざまな分割多元接続法、特に時間、周波数、および符号分割多元接続法が知られている。携帯電話に適用されるＣＤＭＡは、現在、主に日本および韓国で使用されているが、ＴＤＭＡおよびＦＤＭＡよりも有利であるため、他の国々においても将来の移動体通信の有望な代替え手段となる。
【００１５】
図１のＣＤＭＡシステムでは、Ｋ個の独立のメッセージｂｋは、拡散率Ｎの符号ｓｋにより拡散され、加法的白色ガウス雑音（ＡＷＧＮ）チャネルを通して同時に伝送される。受信された信号ｙから、デコードアルゴリズムにより推定量の集合
【数２】
2008533893.tif 000004
が得られる。
【００１６】
このようなメッセージを検出し、デコードする技術は、密グラフ上に対応付けられた問題の変数間の確率的メッセージの受け渡しに基づく。これらのメッセージを直接受け渡すことは、Ｐｅａｒｌ、Ｊｅｎｓｅｎ、およびＭａｃｋａｙにより別々に示唆されているように、計算コストが法外に大きくなるため実現不可能である。グループ化されたメッセージにわたる平均からなる、変数間で圧縮されたメッセージを受け渡すことに基づくＫａｂａｓｈｉｍａの文献で開示されている技術は、解空間が連続的である場合にうまく機能し、小さな変化の反復の結果、最も確度の高い解への収束がもたらされる。しかし、この技術は、多くの競合する解が存在しうるケースでは、うまくいかず、競合する解が出現すると、典型的には、反復アルゴリズムが収束しなくなる。これが、ＣＤＭＡの信号検出における状況である。
【００１７】
ＣＤＭＡは、Ｋ個の拡散率Ｎのランダム２進拡散符号を使用して信号を拡散することに基づく。われわれは、ユーザーの人数Ｋが大きい（無限大に向かう）大規模システムの限界を考察するが、システム負荷β≡Ｋ／Ｎは、Ｏ（１）（オーダー１）に保持される。ここで、二位相偏移変調（ＢＰＳＫ）符号を使用するＣＤＭＡシステムに注目し、電力は単位エネルギーに合わせて完全に制御されると仮定する。集約され、変調され、破損した受信信号は、
【数３】
2008533893.tif 000005
の形式であり、式中、ｂｋはユーザーｋにより伝送されたビットであり、ｓμｋは、拡散チップ値であり、ｎμは、Ｎ（０，１）から導かれるガウス雑音変数であり、ｙμは、受信メッセージである（図１）。
【００１８】
目標は、すべてのユーザーに対するベクトルｂが、事後確率Ｐ（ｂ｜ｙ）（ｙが与えられたときのｂの確率）の近似値を求めることにより受信メッセージベクトルｙを与えられた場合に正確な推定量を得ることである。雑音レベルが正確に知られている場合に事後確率のよい推定量を得る方法が、Ｋａｂａｓｈｉｍａの文献で提示されている。しかし、この計算は、単一解を求めることに基づいており、したがって、解空間が断片化された場合、例えば、雑音レベルが未知である場合、実際の値が高い場合に失敗する運命にある。
【００１９】
この場合の失敗の理由は、疎グラフの場合と同じ議論により定性的に理解されうるが、競合解が存在することで、メッセージ同士に矛盾が生じ、アルゴリズムを正確な推定量に収束させることができなくなる。したがって、改良された解は、ＳＰ法によく似た方法で、同じデータから推論される、異なる複数の解にわたって平均をとることにより求めることができるが、ただ、当該ケースにおけるメッセージは、もっと複雑である。
【００２０】
図２は、われわれが二部グラフとして解くことを目指している検出問題を示しており、ここで、Ｂ（ｂ１，ｂ２，．．．，ｂｋ）はビットベクトル
【数４】
2008533893.tif 000006
の集合であり、ｎは解（レプリカ）の添字である。ベクトル表記は、複製解を示しており、添字１．．．ｎ（ｎ→∞）および副添字は、データｙ１、ｙ２、．．．ｙＮが与えられた場合のシステムノードを指している。
【００２１】
ベイズの規則を使用して、ＢＰの式（１）
【数５】
2008533893.tif 000007
が得られる。なお、式中、
【数６】
2008533893.tif 000008
は正規化定数である。事後確率（２）
【数７】
2008533893.tif 000009
を計算するには、尤度を表す式が必要であり、これは、雑音モデル（必ずしも真性雑音と同一でない）（３）
【数８】
2008533893.tif 000010
から容易に導出することができる。なお、式中、ｙμ＝ｙμｕであり、ｕＴ≡１、１、．．．、１（ｎ次元）であり、
【数９】
2008533893.tif 000011
である。
【００２２】
更新方程式の閉集合を求めるために、解同士の相互依存関係に対する明示的な式が必要である。形式（４）
【数１０】
2008533893.tif 000012
の依存関係を仮定する。なお、式中、
【数１１】
2008533893.tif 000013
は、外部場を表すベクトルであり、
【数１２】
2008533893.tif 000014
は、レプリカ相互相関の行列である。さらに、われわれは、レプリカ（５）の間に対称関係
【数１３】
2008533893.tif 000015
が成り立つと仮定する。
【００２３】
方程式（４）に対する式は、直ちに
【数１４】
2008533893.tif 000016
に従う。なお、式中、
【数１５】
2008533893.tif 000017
は、正規化定数である。
【００２４】
われわれは、模範的挙動を示す分布Ｐｔから得られた自由エネルギーは、自己平均をとると予想しており、そこから、スケーリング則、ｈ〜Ｏ（１）およびｐ〜Ｏ（ｎ−１）を推論する。適用の残りのところで、
【数１６】
2008533893.tif 000018
の非対角要素を
【数１７】
2008533893.tif 000019
にスケーリングし直すことにするが、式中、
【数１８】
2008533893.tif 000020
である。
【００２５】
レプリカの相関を計算するために、Ｋａｂａｓｈｉｍａの場合のように、Ｎを１よりもかなり大きな値とし、求めた近似値により生じる不正確さが無視できるくらい小さいものとして、大きなＮの極限値においてＰ（ｙμ｜Ｂ）（式３）を展開し、（６）
【数１９】
2008533893.tif 000021
を得るが、式中、
【数２０】
2008533893.tif 000022
であり、σは、雑音に対する推定量であり、Ｃは定数である。Ｓｐｉｅｇｅｌ、Ｓｃｈｉｌｌｅｒ、およびＳｒｉｎｉｖａｓａｎ（Ｓｃｈａｕｍ'ｓ  Ｏｕｔｌｉｎｅ  ｏｆ  Ｐｒｏｂａｂｉｌｉｔｙ  ａｎｄ  Ｓｔａｔｉｓｔｉｃｓ，  Ｓｃｈａｕｍ  ＮＹ、２０００年）において概要が述べられているような大数の法則を用いて、変数Δμｋがガウス分布に従うと予測する。
【００２６】
次いで、時刻ｔ＋１における
【数２１】
2008533893.tif 000023
の平均値は、（７）
【数２２】
2008533893.tif 000024
により与えられる。なお、式中、それぞれ（ｐμ）ｋｌ≡（１／Ｋ）ｓμｋｓμｌおよび（Ｉ）ｋｌ≡δｋｌである。
【数２３】
2008533893.tif 000025
は、（８）、（９）
【数２４】
2008533893.tif 000026
であり、式中、
【数２５】
2008533893.tif 000027
は、確率Ｐ（ｙμ｜Ｂ）の主要項の位置に関係する自由パラメータである。
【００２７】
式（７）とＫａｂａｓｈｉｍａの同等の式との主な違いは、異なる解群（レプリカ）の間の相関を反映する、前因子
【数２６】
2008533893.tif 000028
内の付加項の出現である。この項を決定するために、時間ステップ毎にビット誤差を最小にすることにより
【数２７】
2008533893.tif 000029
の選択を最適化する。任意の時刻における推論誤り確率
【数２８】
2008533893.tif 000030
を
【数２９】
2008533893.tif 000031
に関して最適化すると、簡単に
【数３０】
2008533893.tif 000032
が求められ、これは単なる定数である。しかし、これは、正確な推論結果を得る鍵を握っている。われわれの雑音推定が、真性雑音と同じである場合、項は消滅し、Ｋａｂａｓｈｉｍａの式が得られ、そうでなければ、
【数３１】
2008533893.tif 000033
を計算するのに２つの雑音値の間の差の推定が必要である。
【００２８】
Ｙｔの最適化の副産物として、式（７）は、（１０）、（１１）
【数３２】
2008533893.tif 000034
として表すことができ、ただし、式中、σ０に関する推定は必要ない。
【００２９】
次いで、ｋ番目のビット
【数３３】
2008533893.tif 000035
に関するｔ番目の反復での推定が、（１２）
【数３４】
2008533893.tif 000036
により近似される。
【００３０】
推論アルゴリズムは、式（８、９、１０、１１、１２）の反復更新を必要とするが、信号の信頼できる推定量に収束し、雑音レベルの正確な事前情報を必要としない。アルゴリズムの計算の複雑性は、Ｏ（Ｋ２）である。
【００３１】
われわれのアルゴリズムの性能を実証するために、典型的な条件の下でＣＤＭＡ信号検出問題の一連の実験を実施した。推論された信号の誤り確率は、β＝０．２５のシステムについて計算されているが、ただし、図３に示されているように、真性雑音レベルは、
【数３５】
2008533893.tif 000037
であり、推定雑音は、σ２＝０．０１である。正方形は、知られているアルゴリズム（Ｋａｂａｓｈｉｍａ）の結果を表しており、実線は、われわれの方程式から得られた力学を示している。円は、提案された実用アルゴリズムから得られた結果を表す。分散は、符号サイズよりも小さい。差し込み図では、Ｄｔは、時間の関数としての、得られた解における収束の尺度であり、符号は、主要図の場合と同様である。
【００３２】
実線は、
【数３６】
2008533893.tif 000038
とσ２の正確な値がわかっている場合の予測される理論的結果（密度発展）を表すが、円は、このような知識がいっさい仮定されていない場合の提案された実用アルゴリズムを介して得られたシミュレーション結果を表す。提示されている結果は、１点当たり１０５回の試行、およびシステムサイズＮ＝２０００に基づいており、オリジナルアルゴリズム（Ｋａｂａｓｈｉｍａ）を使用して得られたものよりも優れている。
【００３３】
考慮すべき他の性能尺度は、
【数３７】
2008533893.tif 000039
である。
【００３４】
これは、得られた解の安定性の指標となるものである。図３の差し込み図を見ると、われわれのアルゴリズムから得られた結果は、知られているアルゴリズム（Ｋａｂａｓｈｉｍａ）とは著しく対照的に信頼性の高い解への収束を示すことがわかる。２つの結果の間の差に対する物理的解釈は、解空間が断片化されている場合であっても解を容易に求めることができることに関係していると考えられる。
【００３５】
ＣＤＭＡ信号検出問題は、ほんの一例として、また方法の一般性を制限することなく、説明されている。同様の推論方法は、密グラフ上に対応付けすることができるさまざまな推論問題について同じ原理を使用して得ることが可能であろう。一般的な方法では、
【００３６】
１．一般的推論法は、それぞれの複製解システムが同じ観測結果を必要条件としている、多数の複製解システム（１よりもかなり大きく、求めた近似により生じる不正確さは無視できるくらい小さい）を考察することに基づく。
【００３７】
２．複製解の間のある種の形式の相関行列が仮定される。
【００３８】
３．複製解集合を与えられた場合の観測の尤度が大きなシステムサイズを使用して展開される。
【００３９】
４．次いで、データが与えられた場合のメッセージの条件付き確率の集合に対する更新規則の閉集合が導出される。
【００４０】
５．計算結果から出現する自由パラメータが最適化される。
【００４１】
これらは、解空間が断片化されている場合でも信頼できる解を求めることを可能にする密結合されているシステムにおいて信念伝搬を使用する方法の汎用的導出の主要ステップである。得られた更新規則は、実質的に固定された値の集合に収束するまで反復適用される。この文脈において、「実質的に固定された」は、収束するための１つまたは複数の基準を値が満たすことを意味することが意図されている。例えば、このような基準の集合は、値の変化量が、連続的反復についてそれぞれの閾値よりも小さいとすることができる。これらの値は、次いで、変数の最もあり得そうな状態を決定するために使用される。
【００４２】
図４は、更新規則の集合を導出するための方法の一例を示している。ステップ１において、尤度が定義され、これは、ステップ３で、例えば前の方で説明されているように展開される。ステップ３で、事後確率に対するガウス近似が形成され、ステップ４で、更新規則の集合が導出される。ステップ５で、更新規則のパラメータが最適化され、ステップ６で、最適化されたパラメータから更新規則の最終形式を導出する。
【００４３】
次いで、図５に例示されているように、物理的問題を解決するために更新規則が使用される。ステップ７で、更新規則の変数が初期化される。ステップ８で、推定の反復を開始し、それぞれの推定の結果を見て、ステップ９で収束するかどうかを判定する。ステップ８および９は、収束が判定されるまで繰り返され、判定されたら、この方法は、変数の最もあり得そうな状態または値を供給することによりステップ１０で終了する。次いで、解決される物理的問題に適している場合には、図５に例示されている技術を繰り返すことができる。
【００４４】
本発明を詳細に例示するために具体的な一実施形態が説明されているが、それにもかかわらず、これは一例にすぎず、本発明は、実際には一般的に信号の処理というものに適用可能であることは理解されるであろう。
【００４５】
例えば、ニューラルネットワークの分野において、知られている問題は、線形イジングパーセプトロンにおける学習（パラメータ推定）である。この問題では、学習は、信号の複数の特性が与えられたときに、信号内に符号化されたデータセット（ニューラルネットワークの用語で言うと、重み）を推論することと同等である。線形イジングパーセプトロンは、少数の信号特性により初期化され、これにより、何らかの誤り確率を伴ってデータセットを推定する。付加情報が加えられた場合、このアルゴリズムは、再び、誤りの確率を下げてデータセットを推定する。パーセプトロンの学習性能は、付加情報が与えられたときに誤りの確率の改善により測定される。これに関して、当業者であれば、上で詳述したように、ＣＤＭＡ問題と同様の言いまわしで問題を定式化することができる。
【００４６】
他の実施形態は、不可逆データ圧縮の分野にある。信号は、原メッセージに対応する複数の特性を含む。この信号が処理され、圧縮されたデータセットを生成する。圧縮されたデータセットのサイズは、信号の特性の数よりも小さい。問題は、信号および固定された歪み限界が与えられたときに圧縮されたデータを推論することである。原メッセージでは、複数の信号特性を定義し、圧縮されたデータセットは、推定すべき原情報を表す。ここでもまた、当業者であれば、ＣＤＭＡ信号検出について説明されている方針に基づいて圧縮されたデータセットを推定するための反復法を考案することが可能であろう。
【図面の簡単な説明】
【００４７】
【図１】本発明の一実施形態に寄与する方法を適用できる知られている種類の符号分割多元接続システムを例示している略図である。
【図２】図１のシステムの信号検出問題を二部グラフとして例示している図である。
【図３】本発明の一実施形態を構成する方法の性能と知られている方法の性能とを比較する複数のグラフである。
【図４】本発明の一実施形態を構成する方法を例示する流れ図である。
【図５】本発明の一実施形態を構成する方法を例示する流れ図である。
【図１】
2008533893.tif 000045
【図２】
2008533893.tif 000046
【図３】
2008533893.tif 000047
【図４】
2008533893.tif 000048
【図５】
2008533893.tif 000049
【国際調査報告】
2008533893.tif 000050
2008533893.tif 000051
2008533893.tif 000052