独立成分分析
独立成分分析の同定可能性には以下の要素が必要である。
信号源のうち高々1つだけ( s k {\displaystyle s_{k}} )がガウス雑音である。
混合信号の観測数 m {\displaystyle m} と予測される信号源の数 n {\displaystyle n} について、 m ≥ n {\displaystyle m\geq n} でなければならない。
混合行列 A {\displaystyle A} の行列の階数は最大でなければならない。
信号源の混合は線形でなければならないわけではない。パラメータ θ {\displaystyle \theta } の非線形混合関数 f ( ⋅ | θ ) {\displaystyle f(\cdot |\theta )} による非線形ICAモデルは x = f ( s | θ ) + n {\displaystyle x=f(s|\theta )+n} となる。
.. , a n ) {\displaystyle A=(a_{1},\ldots ,a_{n})} の列を形成し、生成式は x = A s {\displaystyle x=As} と表され、このとき s = ( s 1 , ... , s n ) T {\displaystyle s=(s_{1},\ldots ,s_{n})^{T}} である。
モデルと x 1 , ... , x N {\displaystyle x_{1},\ldots ,x_{N}} からなる確率変数ベクトル x {\displaystyle x} の標本があるとき、混合行列 A {\displaystyle A} と信号源 s {\displaystyle s} を予測する作業が行われる。これは、 w {\displaystyle w} ベクトルを順応的に計算し、計算された s k = ( w T ∗ x ) {\displaystyle s_{k}=(w^{T}*x)} の非ガウス性を最大化するか、相互情報量を最小化するコスト関数を設定することでなされる。場合によっては信号源の確率分布についての事前の知識をコスト関数に利用する。
信号源 s {\displaystyle s} は観測された信号群 x {\displaystyle x} に混合行列の逆行列 W = A − 1 {\displaystyle W=A^{-1}} (分離行列をかけることで求められる。ここで、混合行列は正方行列と想定されている。