独立成分解析によるブラインド信号処理                  曹 建庭    はじめにブラインドセパレーション    という問題が  年ほど前に提起されている。これは，複数の未知信号源を個別なものに分離 復元する問題である。ブラインド信号の復元 分離問題の典型的な一例としては，カクテルパーティー効果の問題がある。
すなわち，同時に聞こえるいくつか混じり合った音から，個々の話音に分離 復元することである。このような問題は，音声処理に関わるだけでなく，画像処理，脳波  ，脳磁気  および  などの生体信号処理，また移動体通信，地質探査などの分野にもあると考えられる。ここで，ブラインドセパレーションの視点からブラインド信号処理の数理モデルを提示する。
ブラインド信号の分離 復元問題の設定としては，複数の信号源が存在しているが，それらの信号源を直接にアクセスすることは不可能である。また，原信号が通っている伝送路の伝送特性も未知であるとする。
利用可能な信号としては，センサ ー 例えば，マイクロホン，電極など から検出された複数の混合信号のみである。ブラインド信号処理の目的としては，複数の混合信号だけを利用して原信号に分離 復元することである。
上記に複数の信号源が統計的に独立であると仮定される場合には，ブラインド信号分離問題に対する有効な解決法として独立成分解析       が提唱されている。本稿では，独立成分解析について問題の定式化，独立性の計量，分布の近似法，学習アルゴリズムおよびその安定性について概説する。

 問題の定式化
ブラインド信号分離 復元問題は次のように設定される。 個の未知信号源から時刻  に発生する信号は        ，   であると記述する。信号源 の各成分は統計的に互いに独立，すなわち信号源の結合確率密度関数はその周½ 埼玉工業大学工学部電子工学科

           ¾ 理化学研究所 脳科学総合研究センター     ! "  #  $  %  

辺確率密度関数の積     である。また，各信号源の平均値は       であることを仮定する。
未知信号源から発生した信号は未知の伝送メディアにより互いに混合される。 個のセンサーを用いて測定した混合信号は          であると表現する。式  と式  において，センサーの数  は必ずしも信号源の数 と一致する必要がな
いが，簡単のため，センサー数は信号源数と等しい
  と置くことにする。
各信号源がどのように混合されているのかについては，取り扱っている実際の応用問題に応じて論じる必要がある。実環境で音声分離の問題において，音声信号が伝搬されるとき，直接波および時間遅れで生じた間接波が含まれているので，空間的に混合されるだけでなく，時間的にも混合されることを考慮する必要がある。このようなモデルは有限インパルス応答 !
フィルタ     "

で表現することができる。但し，伝搬特性を表す伝達関数  は  の行列インパルス応答で， はフィルタの次数である。このモデルは，複数個の信号源が現時点の値だけでなく，過去の値も加えて複数の行列により混合されるため，多入力多出力 # コンボリューションモデル，または時空間混合モデルと呼ばれている。
一方，上記のモデルに時間遅れで生じた間接波が無視できる   場合は，信号源 が数値行列  により瞬間的に混合され，センサーに測定された混合信号  $が得られる。このようなモデルは原信号がセンサーへ瞬間的に伝搬するため，瞬間混合モデルと呼ばれている。通常脳波  や，脳磁気  などの生体信号は電極への伝搬速度が速く，瞬間混合モデルを適用すればよいと考えられる。上述のモデルでは観測雑音が無視されているが，これについては次回に予定している基礎シリーズで論じる。本稿では，観測雑音がない場合の瞬間混合モデルを対象にする。
式 $ で定義された瞬間混合モデルに対して，混合行列  ¢ は正則な実数値行列であり，その逆行列が存在するという仮定条件を付け加える。混合行列
 と信号源 が未知という条件下で，観測信号  だけを利用して原信号の各成分を分離 復元する。
信号源を復元するため，混合モデルと同様な構成を持つ分離モデル
   %を適用する。ここで，復元信号を      と¢とする。
し，可調整な重み行列を 式 $ を式 % に代入すると，復元信号  と原信号の関係は    &となる。この式から，可調整の重み行列をとした場合，復元信号  は信号源 と一致する。ま とした場合，復元された，重み行列をた信号の順序と大きさは原信号と一致しない可能性がある。ここで， は対角行列であり， は置換行列で，各行と各列に  と等しい成分が  個ずつあり，その他の成分が  である。一般的には，復元された信号の順序と大きさは原信号と異なってもよいとしている。
実際には，混合行列  が未知であり，重み行列を選択する可能な組み合わせは無数にあるため，上記の理想的な解を得ることはほとんど不可能である。ここでは，ブラインド信号分離問題に対して近年提唱されている独立成分解析を適用する。
前述したように，信号源 の各成分は統計的に独立であるとしている。独立な信号源 が混合行列  によって伝搬され，得られた混合信号  の各成分は，一般的に独立条件が満たされていないと考えられる。そこで，各成分が互いに独立な復元信号      を再構成することが  の基本的な考え方である。従っを独立条件       を満て，重み行列足させるように選択すれば，信号分離 復元の達成が可能と考えられる。

 独立成分解析
重み行列を決定するためには復元信号  の各成分の独立性を測る基準が必要である。近年高次統計や，情報理論などに基づいた独立性の基準は報告されているが，本節では，信号分布の密度関数を用いる'() *+,-) の情報量について述べる。
  情報量  として，その復元信号を確率変数    同時 結合 分布の確率密度関数   と周辺分布の確率密度関数   の積の統計的な距離を測る一尺度である '() *+,-) 情報量は
 







   .

   エントロピーの定義により，復元信号  のエントロ
ピーと各成分  のエントロピーはそれぞれ   .  0    .   1を用いて表現すると，'() *+,-) 情報量は    で定義されている。上式において変数  の独立条件
      を満足すれば，'() *+,-)
情報量は    となる。'() *+,-) 情報の関数とする場合，変数  の成分間量は重み行列の独立性の距離を最小化する一つの評価基準であると考えられる。

2 と書くことができる。
を
ここで，結合エントロピー  により  のエントロピー   に変換すれば， の結合エントロピーは    2  .となる。上式を式  に代入すると，結局 '() *+,-) 情報量の評価関数はエントロピーを用いて     .と表現される。上式から，'() *+,-) 情報量がに制約されているのは右端の第一項のみ重み行列であることが判る。このことから，'() *+,-)
情報量  を最小化にするには，復元信号の各成を最小化
分  のエントロピーの合計    にすることと一致する。エントロピー関数の性質により，エントロピーが最大となるのは不確定度が最大の場合である。分散が一定である各成分    の分布のなかに，正規分布を持つ成分はそのエントロピーが最大であり，正規分布から離れている分布を持つ成分のほうがそのエントロピーが逓減される。また，合計エントロピーが最小になれば，各成分が互いに独立になると言える。
復元信号  の各成分を互いに独立にするために，'() *+,-) 情報量   を重み行列に対して最小にすることは偏微分 "を計算して求められる。ここで，重み行列の更新量を3として3     /    .

$のように導かれる。但し，非線形関数   

 .



は

  .
%であり，その成分は

4     .       &である。
一方，情報空間に妥当な計量を導入した自然勾配法
 



/を適用すると，重み行列の更新量は3 

は裾が重い形をしており， の増大とともに正規分布に近づく。特別の場合として，   のときの分布は * (*8 分布と呼ばれる。 分布は一般化された正規分布族の    と    の場合に適合するが， 分布を利用して導かれた分離算法のほうが安定である "9$。
    0

尖度および単峰形分布との関係

分布の形状を定める一つの規準としての尖度は  次と $ 次の中心モーメントを用いてから求められる。
上記の更新則を逐次学習アルゴリズムとして3            1と書くことができる。但し，非線形関数  の各成  分        は信号の確率密度関数  に依存している。 は通常未知であるので，適当な方法で非線形関数の近似が必要である。
分布の近似法

前節で導かれた学習アルゴリズムにおいては最適な非線形関数の選択が問題となっている。これまで単純な手法として，裾が重い分布である音声信号に対して
  を適用し，時裾が軽い分布であ関数   を適用することが多る画像に対して関数 かった。本節では，単峰の形にしている分布である一般化された正規分布および ,分布をモデル化し，観測信号から計算される統計量 尖度：+(  を用いて母数を決定する   * な方法について述べる。
一般化された正規分布のモデル

一般化された正規分布 .5  (   ,)(   の確率密度関数は





6 で表される。ここで，6のように定義される。
6
½


7 

7   は分散を正規化する係数で， は分布の形を制御する係数である。係数  変化により，単峰形の一族の分布が得られる。例えば，   は正規分布である。また，   は一族の裾が重い分布であり，逆に   の一族の時裾が軽い分布である。
 分布モデル

自由度  を持つ  分布の確率密度関数は

 6 
 6 

2



½¾½  
 ½½ 


½6 









6 

7  $½  
 ½½ 



½

6 

7 6 

 



%

 6 で求められる。
 次あるいは $ 次モーメントの何れの計算結果から，分散を正規化する係数  を求めることができる。例
えば， 次モーメントから，係数  は





6 

 6 

½¾&で得られる。
 次と $ 次モーメントの計算結果を利用して，尖度と分布の形を制御する係数  の関係式は
 で定義される。 は分散を正規化する係数である。
は一族分布の形を制御する係数である。 分布族  " 6 "で求められる。また，$ 次の中心モーメントははガンマ関数であり，次式

で定義される。 が正ならば，信号の分布は ( , (  と呼ばれる分布になる。音声信号は ( , (  である ことが多い。  が負 ならば，(), (  と呼ばれ，画像信号などはこの性質を持つことが多い。特に正規分布では    となる。
尖度と一般化された正規分布のモデルの関係は次のように導くことができる。一般化された正規分布のモデルの  次モーメント





"

6  6 


6 

 "

/と表される。この結果により，信号の尖度  を既知とした場合には係数  を求めることができる。

同様に，尖度と ,分布モデルの関係は次のように求められる。,分布モデルにおいて， 次モーメントは

½   ½½   
½ 
 




½
¾

 

2 !



½
¾



 

 2

½
" ，#  "，





2

122

6で表される。この結果から分散を正規化する係数 は

 



6



½¾



"

 6 

½  
 ½½   
½
 
 
で求められる。また，$ 次モーメントは





½
¾



 

!



 

2"  6

$ 6 



 

 2

$

½"
 "

"666 ""となる。
"&を求めて関連する ， を算出する。
(), (  と ( , (  の信号が混在している場合の分離・復元ための逐次計算の手順は次のようにまとめられる。の初期値を用

復元信号の各成分  の  次と $ 次モーメントを式 "% を用いて推定する。尖度の推定値は式 "&から算出する。
予め尖度  と係数 ，また尖度  と係数  の対応表を式 / と式 " により作成する。推定された尖度の正負に応じて係数  と係数 ，あるいは係数  と係数  を求める。

を更新する。

 学習アルゴリズムの安定性

 2

"%

尖度の推定値の正負に応じて式 "" ，または式"$ の非線形関数を自動的に選択する。

で導かれる。上記の結果により尖度と分布の形を制御する係数  の関係式は


:
"

:


式 1 を用いて重み行列½
¾$   $%復元信号  は観測信号  およびいて式 % で算出する。

2 6 6



を利用して尖度の推定値

: 0!

  :   "$¾
:       :   2   

 ·½  ¾ である。また，二項係数は
  ¾   :   ""がある。但し， 次と $ 次モーメントは推定値

6   6 と導かれる。但し，     .     
2     2 2

この場合には，選択が可能な非線形関数としては'() *+,-) 情報量に基づく学習アルゴリズムに対して，;  の正定性の評価により得られた安定性の必要十分条件  は   4    2   4           4    4      

復元信号により推定される尖度の正負に応じて信号を一般化された正規分布，あるいは  分布で近似する。

"/"0



"1である。ここで，すべての  $   に対して $とする。   は期待値で，4  " である。
上記の安定条件を一つの尺度にし，一般化された正規分布のモデルおよび ,分布モデルに基づく非線形関数を利用する場合の安定性について議論する。
まず，一般化された正規分布のモデルに基づく非線形関数を利用する場合に，付録  により導出した安定
条件は

 



$



$

    6  6 $     6 

非線形関数

6 6となる。ここで次のケースを考える。
   (), (  の信号に対して，条件 $ , $ は常に満たされている。
   4    2   4        4        

 (  信号に対して，条件 $ , $が常に満たされている。条件 $ あるいは条件 "1 においては，    4      であるので，仮にもう一つの信号も正規分布であれば，    4     となるので，条件 $ ，または条件 "1 が満たされていない。このことは， 個以上の  (,  分布の信号を分離することが出来ないことを示している。しかし，もう一つの信号が (), ( ，あるいは ( , (  の信号であれば，    4      となるので，条件 $ ，または条件 "1 が満たされている。
または  ( , (  の信号に対して，条件 $ , $ 4       4   





$"
 2"
  2 $$ 2"
  2  6   $%
 2" 6 となる。上記の条件により，   の ( , ( の信号に対して，条件 $" , $% は常に満たされてい る こ と が わ か る 。 が 無 限 大 に な る に つ れ て ，    4    は  に近づく。この場合には信号が正規分布となる。

 誤推定された場合の安定性
前節では  次と $ 次モーメントが正しく推定された場合の安定性について議論した。本節では  次と $ 次の統計量の推定が誤った場合の算法のロバスト性について検討する。パラメータ ， の推定値

:   2 & :   2 &$&が真値から & ずれたとする。その場合に安定条件が満たされるか，また満たされたとしてもどの位の許容範囲があるかを示す。
誤推定された場合，系が安定になる必要十分条件は   4    2   4        4      

$/



$0



$1

%

%

 2 &     & 6  2 & 2  "
2 6 "  2 & 6  2 &  "
6 "
 2 & 6 "" 6  2 &  "  
6 "

%"%$%%が導かれる。
 分布の場合には

 2&2  "2   2 $ 2 "  2 & 2  2"
  2 & 2  6 "     2 " 6 "

次に，,分布モデルに基づく非線形関数を利用する
場合に，付録  により導出した安定条件は%の何れかで与えられる。
これらの条件を具体的に計算すると，一般化された正規分布の場合にはは常に満たされていることではない。例えば，  % %% のとき，条件 $ , $ にある関数
6 が不連続である。

   4    2 

%&

%/

%0と求められる。
上式を解けば，安定性を満足する & の取りうる範囲が求められる。一例として，  $ の場合，式 %" ,: を "% 以上と推定すれば，アルゴリズム%% により の安定性が保証される。但し，真値からずれて推定されるほど，収束速度などが一般に悪くなる。

 おわりに
本稿では，情報論に基づく独立成分解析の評価関数，学習アルゴリズムおよびその安定性とロバスト性，信号分布の推定法について概説した。
実際の信号分離については，高次統計学からの観点で直感的に言うと，複数の原信号が正規分布 尖度が に近づくほど分離がしにくくなる傾向がある。また，原信号に正と負の尖度を持つ信号が両方ある場合の分離は，単一の正あるいは負の尖度の 信号分離よりやや難しい。正と負の尖度の信号があり，且つ正規分布の信号も共存している場合の信号分離は一層困難になることが知られている。
この数年間で独立成分解析の基礎的理論背景は整備されてきたと思われる。今後は様々な応用問題に対して，有効なモデルを設定する必要があると考えられる。

付 録

安定条件  の導出

非線形関数 "" の微分は

4           %1で求められる。
式  と式 %1 を利用すると，安定条件 "/ の期
待値    4    は

½   4        4    ½    ½   4    

½  
½¾

   2

6 

 



½

   ¾  ½  

 4 ½  
 7          6 
6  

式  と式 &$ を利用すると，安定条件 "/ の期
待値    4    は

½ 
    
 2





 2       







2



 ¾ 6&で求められる。これに従って，安定条件 $ が得られる。
次に，安定条件 "0 ，あるいは安定条件 $ は 4   ½  

½

    


½



6 

 

 7      

 


6 
 
    6 
6 





 

 4    6  &

  6  6 6で求められる。 但し   " とする。

 2

½
&$



  2  2"

 2       





 2




   

 


¾

6 


6  6  ¾  6 
6  6&&で導かれる。
式 0 の結果をそのまま利用すると，期待値    は ½ ½  

6   6 &/となる。これと式 && を用いると， 番目成分の期待値     4    は

    4    

非線形関数 "$ の微分は

4  

 ½

  2

安定条件   の導出  
 2   

 &"となる。上式を利用すると， 番目成分の安定条件 $"が得られる。

2

4

½¾

   ¾となる。これと式 & を用いると， 番目成分の期待値     4    は

    4          6  6½½½  &½ ½

 ¾ 6&%

で導かれる。
式 $ の結果をそのまま利用すると，期待値    は " 2"6  6 で求められる。これに従って，安定条件 $" が得られる。
次に，安定条件 "0 ，あるいは安定条件 $$ は    4

6  6  2  6 
  2" 6 &0となる。これを利用すると， 番目の成分の安定条件$% が得られる。
上述と同様な方法を使えば，誤推定された場合の安定条件 %" , %% と %& , %0 を導くことができる。

参考文献
                  

! "  #  #()((*+-  '+ 1. /    %     $ $+0)+)

!

3!    ! 

. "4"555 # -%+-, &! "555'

*+*0)

 
!

!



,,,

'  !  $   !    2   #  0 1,,( &!    ! "    #,,&"'

,,*       !    $ %   '  !

.0+-//+

曹 建庭
$ 年上海工業大学電気工学科卒。同年中国地質鉱産省海洋地質調査局技術装備研究所に入所。
 年千葉大学大学院工学研究科修士課程修了。  年同大学院自然科学研究科博士課程修了。博士（工学）。
同年理化学研究所フロンティア研究室に入所。同研究所研究員。 & 年理化学研究所脳科学総合研究センター発足に伴い，移籍，同研究員。 & 年同研究所兼任招聘研究員（現在に至る）。
同年上智大学電気電子工学科，助手。
 年同大学講師。現在，埼玉工業大学電子工学科助教授。ブラインド信号処理，脳信号処理，神経回路，学習アルゴリズム等の研究に従事。  年電気通信普及財団， "' ( ) *+ ，最優秀論文賞受賞。
電子情報通信学会，信号処理学会各会員。