ランダム行列理論によるノイズ推定を用いた統計的データ解析
小林由香

1(指導教員：吉田裕亮)

はじめにランダム行列とは, 20 世紀初めの Wishart らによる数理統計学の研究に起源をもっている. その後, Wignerが原始核物理学に応用してから理論物理学の研究対象としても注目されるようになった. 数学の分野では最近, 非可換確率論における確率変数を漸近的に表現するなど, 発展を続けている. また, 金融工学における金融相関行列のモデルになることや, ランダムグラフの研究との合流により, 複雑ネットワークのモデルとしても現れるなど, ランダム行列の応用分野は広がっている. 本研究では, ノイズを含む二点間の距離が推定されたデータにおいて, データ距離行列 (三角行列) に含まれる雑音量の推定を行うために, ランダム行列理論を用いた応用を考える. 特に MDS(Multi DimensionalScaling) 法において用いられる内積行列から, 雑音量の推定を行う手法を提案する.

2mk=4(k = 2m + 1),(k = 2m),

MDS(Multi Dimensional Scaling) 法

B = (bij ) = XX t(5)と置けば, r = rankX = rankB となる. 行列 B は,n − 1 個の対象間の内積を要素とする行列で, 内積行列である.

(1)

Bf (x) を連続確率変数 X の密度関数とするとき, 原点まわりの k 次モーメント mk は,
 ∞mk =xk f (x)dx(2)

 −→|−→→|−→(x(−x...
1 x1 )
1 x2 )
 −→−→−→−→)(x|x)(x|x...
2122= .
.
..
..
..
.
−−−→−→−−−→−→(xn−1 | x1 ) (xn−1 | x2 ) . . .

→|−−−→ (−x1 xn−1 )→|−−−→ (−x2 xn−1 ) ..
.
−−−→−−−→(x|x)
n−1n−1(6)−∞とする. つぎに, ベクトル vij = xj − xi を定義すると,対象 Oi と Oj 間のユークッリド距離 dij を Euclid ノルムを用いて表現すればと表せ, これらの値は確率分布の特徴を与える. また,先に述べた Marcenko-Pastur 分布のモーメントは,

2k!
mkk!(k + 1)! 1(2m)!  r2 m,m!(m + 1)! 4

MDS 法とは幾つかの対象があり, 任意の 2 つの対象間の距離が Euclid 距離として推定されている場合,Young-Householder の定理をもとに対象を Euclid 空間の点として布置（位置付ける）方法である. n 個の対称O1 , O2 , . . . , On のうち, On を原点とし, 残りの n− 1 個の対称を終点とする (列) ベクトルを x1 , x2 , . . . , xn−1とする. さらに, 対象 Oi の第 j 軸の座標値を xij とし,
行列 X = xij を定義する. 行列 X は, n − 1 個の対象の埋め込まれる空間の次元数分の座標値を対象ごと各行に並べたものである. この時, この空間の次元数 r は,モーメントmk =−r
xk r2 − x2 dx(2m)!

で与えられる分布である.

3 rで与えられる. ただし, Cm = m!(m+1)! は m 次 Catalan数と呼ばれる組合せ論でよく現れる数である.

ランダム行列とは, 一般に確率変数を要素にもつ行列である. 特に成分が, aii = 0 かつ aij = aji が成り立ち,確率変数の族 aij (1 ≤ i < j ≤ N ) が独立に N (0, σ 2 )に従うランダム行列は, ガウス型直交ランダム行列とも呼ばれ, その固有値経験分布は行列のサイズ N を
N −→ ∞ とするとき, 以下の中心 0 の半円分布に収束されることが知られている.
一般に, 中心が m ∈ R, 半径 r > 0 の半円分布 ωm,rとは, 密度関数 P (t) が2 2r − (t − m)2πr22πr2
0,(4)

半円分布

P (t) ==(3) vij 2==で与えられる.
本研究では, 観測データからの標本モーメント列を理論値と比較することにより, 最適なノイズ部の推定を行うことにする. これにより, 目視でスペクトルを比較するより, 定量的な推定が行える.
半円分布 ωm,r の k 次モーメント mk はtd2ij = vijvij = (xj − xi )t (xj − xi ) xi 2 +  xj 2 −2bij(7)と書ける.  xi 2 = d2ni より

bij =1 2(d + d2nj − d2ij )2 ni(8)である. つまり, 対象間の距離情報（距離の二乗）から内積行列が構成されることになる. 行列 B は対象 Onを原点とした場合の内積行列であり, どの対象を原点1に取るかで行列 B は一般に異なってくる. 誤差を含む場合には特に, 原点の取り方には工夫が必要であり, どの対象 (点) も対等に扱うことなので, n 点の重心を原点に選ぶことが多い. n 個の対象行列の重心を原点に選んだときの各点の位置ベクトルの内積行列 Bc を求めるには, 対象間 2 乗距離を要素とする n × n の行列T = {dˆ2ij } を作る. 次に, 中心化行列

Jn = I −11n t 1nnて, 距離行列を生成する. 距離行列には, 四捨五入を行うことにより, ノイズを混入する. これらの距離行列から, 先に述べた MDS 法により内積行列 Bc を求める.
Bc のスペクトルから, 2 個の優固有値を除き, 各次数のモーメントを計算する (モーメントの各値は 表 1 のようになる). この場合は, r = 21.2 と推定され, 推定された半径を元に半円分布と Bc のヒストグラムの密度と重ね合わせると, 図 1 のようになり, モーメント法により半径, すなわち雑音量, の推定ができたと考えられる.

(9)6を作り, ただし, In は n 次単位行列 t 1n = (1, 1, . . . , 1),Jn は

1 − n1
 1
 −nJn =  ..
 .

− n11 − n1..
.

...
...
..
.

− n1− n1...

− n1

− n1 
− n1 

実データとして, 京王電鉄の運賃表を用いて実験を行った. 構造データーは, 70 × 70 行列である. 本手法を用いて実験を行った結果は, 表 2, 図 2 で表わされる. 結果, 半径は r = 250 と推定された. また, 標準偏差として２点間の距離に 14.9 円程度ずつノイズが含まれていることが分かった.

(10)

1 − n11
Bc = − Jn T Jnt
2

理論値
モーメント6乗55.6578乗
1416.671

6乗
54.8438乗
1413.489

10 乗
4240.202図 2: 実データ Bn のスペクトルと Wigner 分布

実験例
4乗22.1484乗
21.937

表 2: 実データのモーメント(11)と求められる. これは Young-Householder 変換と呼ばれている. MDS では, Bc スペクトル分解を行うことにより, 布置座標を求めることになる.
本研究では, この内積行列の対象の配置構造以外のスペクトル (固有値) として雑音部を推定する手法を提案する. すなわち, 2 点間の距離が推定された r 次元に埋め込まれたデータより内積行列 Bc を求める. r 個の優固有値を除いたスペクトルからモーメント法を用いて, 半円分布と比較することにより雑音量の推定を行う. これは, 半円分布の密度関数の半径を推定することと同等である.

2乗
11.02

2乗
10.966

理論値モーメントとなる. これを用いて, 次のような計算により, 重心を原点とする位置ベクトルから構成される. 内積行列 Bcは5実データによる実験例

710 乗
4252.537

まとめ

データ距離行列とランダム行列理論の Wigner 半円分布を用いて, 雑音部の推定を行った. 雑音部の推定は目視ではなくモーメント法を用いて, 定量的に行う手法を提案した. 今後の課題として, 距離行列から生成される様々なタイプの行列とランダム行列との関連によりノイズ推定の精度を上げることも可能と考えられる.

表 1: モーメント

参考文献[1] 広尾太郎,「ランダム行列の広がり」, 数理科学,
第 45 巻 2 号, サイエンス社, (2007 年)[2] 赤穂昭太郎:カーネル多変量解析 非線形データ解析の新しい展開 (2008 年)

図 1: Bn のスペクトルと Wigner 分布
まず, ノイズを含み 2 点間の距離が推定されている,2 次元の構造データを 200 点用意する. この点を用い2