メッセージ伝播法の入門から最先端まで
第５回講義資料

ランダム行列理論入門
九州大学
令和元年１０月１０日
豊橋技術科学大学
電気・電子情報工学系
准教授 竹内啓悟

1ランダム行列理論
ランダム行列
確率変数を要素として持つ行列
目的（対称）ランダム行列の固有値や固有ベクトルが、どんな確率分布に従うかを解明すること。
方法論
可換変数に関する古典的確率論を非可換変数に拡張した
自由確率論[5-1, 2]を数学的道具とする。
自由・・・古典的確率論の独立性に対応する概念[5-1] F. Hiai and D. Petz, The Semicircle Law, Free Random Variables, and Entropy, Amer. Math. Soc., 2000.
[5-2] A. M. Tulino and S. Verdú, Random Matrix Theory and Wireless Communications, Now Pub., 2004.
2

直交不変性
𝑿𝑿を任意のランダム行列とする。

左直交不変性𝚽𝚽𝑿𝑿が定義可能で、 𝑿𝑿と独立なすべての直交行列𝚽𝚽に対して、以下の条件が成立するとき、𝑿𝑿は左直交不変であると言う。

右直交不変性𝑿𝑿 ∼ 𝚽𝚽𝑿𝑿. （両辺の分布が同一）𝑿𝑿𝚿𝚿が定義可能で、 𝑿𝑿と独立なすべての直交行列𝚿𝚿に対して、以下の条件が成立するとき、𝑿𝑿は右直交不変であると言う。
𝑿𝑿 ∼ 𝑿𝑿𝚿𝚿.

3

ハール直交行列
𝑁𝑁 × 𝑁𝑁直交行列全体を表す空間を𝒪𝒪𝑁𝑁 と書く。

ハール直交行列左直交不変な直交行列 𝑼𝑼 ∈ 𝒪𝒪𝑁𝑁 は、ハール分布すると言い、ハール直交行列と呼ばれる。

性質
ハール直交行列𝑼𝑼 ∈ 𝒪𝒪𝑁𝑁 は、右直交不変である。

∵ 𝑼𝑼と独立な𝚿𝚿 ∈ 𝒪𝒪𝑁𝑁 に対して、𝑼𝑼𝚿𝚿 ∈ 𝒪𝒪𝑁𝑁 は左直交不変である。
左直交不変なハール確率測度の一意性から、𝑼𝑼𝚿𝚿 ∼ 𝑼𝑼.

したがって、𝑼𝑼は右直交不変である。

∎4

特異値分解に基づく分布表現
𝑼𝑼 ∈ 𝒪𝒪𝑀𝑀 、𝚺𝚺 ∈ ℝ𝑀𝑀×𝑁𝑁 、𝑽𝑽 ∈ 𝒪𝒪𝑁𝑁 をそれぞれ直交行列、対角成分に非負要素を持って他の要素は0の行列、𝑼𝑼𝚺𝚺と独立なハール直交行列とする。行列𝑿𝑿 ∈ ℝ𝑀𝑀×𝑁𝑁 の分布が𝑼𝑼𝚺𝚺𝑽𝑽T の分布と等しいための必要十分条件は、𝑿𝑿が右直交不変であることである。

必要性 𝑿𝑿 ∼ 𝑼𝑼𝚺𝚺𝑽𝑽T を仮定する。𝚿𝚿を𝑿𝑿と独立な直交行列として、
TTT𝑿𝑿𝚿𝚿 ∼ 𝑼𝑼𝚺𝚺𝑽𝑽 𝚿𝚿 = 𝑼𝑼𝚺𝚺 𝚿𝚿 𝑽𝑽 ∼ 𝑼𝑼𝚺𝚺𝑽𝑽T ∼ 𝑿𝑿.

∎

十分性 𝑿𝑿の特異値分解を𝑿𝑿 = 𝑼𝑼𝚺𝚺𝑽𝑽T0 とする。𝑽𝑽を𝑿𝑿と独立なハール直交行列とすると、𝑽𝑽は𝑼𝑼𝚺𝚺と独立である。
𝑿𝑿の右直交不変性から、注意𝑿𝑿 ∼ 𝑿𝑿𝑽𝑽T = 𝑼𝑼𝚺𝚺𝑽𝑽T0 𝑽𝑽T ∼ 𝑼𝑼𝚺𝚺𝑽𝑽T .

∎特異値分解が一意の場合、𝑿𝑿 = 𝑼𝑼𝚺𝚺𝑽𝑽T を主張できる。

5

経験固有値分布
経験固有値分布対称行列𝑿𝑿 ∈ ℝ𝑁𝑁×𝑁𝑁 の固有値を 𝜆𝜆𝑛𝑛 ∈ ℝ 𝑁𝑁𝑛𝑛=1 とする。
𝑁𝑁1
𝜌𝜌𝑿𝑿 𝜆𝜆 = � 1(𝜆𝜆𝑛𝑛 ≤ 𝜆𝜆) . 𝜆𝜆 ∈ ℝ以下の固有値の数の割合
𝑁𝑁𝑛𝑛=1固有値が確率変数なので、固有値分布自体も確率的である。
経験（二乗）特異値分布
行列𝑿𝑿 ∈ ℝ𝑀𝑀×𝑁𝑁 に対して、𝑿𝑿T 𝑿𝑿の固有値を 𝜆𝜆𝑛𝑛 ≥ 0 𝑁𝑁𝑛𝑛=1 とする。
𝑁𝑁1
𝜌𝜌𝑿𝑿T 𝑿𝑿 𝜆𝜆 = � 1(𝜆𝜆𝑛𝑛 ≤ 𝜆𝜆) .
𝑁𝑁𝑛𝑛=1二乗特異値の数の割合

6固有値分布のモーメント系列
対称行列𝑿𝑿 ∈ ℝ𝑁𝑁×𝑁𝑁 の経験固有値分布𝜌𝜌𝑋𝑋 (𝜆𝜆)の𝑘𝑘次モーメント
𝑁𝑁𝑑𝑑 1� 1(𝜆𝜆𝑛𝑛 ≤ 𝜆𝜆) 𝑑𝑑𝑑𝑑𝜇𝜇𝑘𝑘 = �𝜆𝜆 𝑑𝑑𝑑𝑑(𝜆𝜆) = � 𝜆𝜆𝑑𝑑𝑑𝑑 𝑁𝑁𝑘𝑘

𝑁𝑁

性質𝑘𝑘𝑛𝑛=1

𝑁𝑁11𝑘𝑘= � �𝜆𝜆 𝛿𝛿 𝜆𝜆 − 𝜆𝜆𝑛𝑛 𝑑𝑑𝑑𝑑 = � 𝜆𝜆𝑘𝑘𝑛𝑛 .
𝑁𝑁
𝑁𝑁
𝑛𝑛=1

1𝜇𝜇𝑘𝑘 = Tr 𝑿𝑿𝑘𝑘 .
𝑁𝑁

𝑛𝑛=1

∵ 𝚲𝚲 = diag{𝜆𝜆1 , … , 𝜆𝜆𝑁𝑁 }として、固有分解𝑿𝑿 = 𝑼𝑼𝚲𝚲𝑼𝑼T を使うと、𝑁𝑁

1
111𝑘𝑘𝑘𝑘 T𝑘𝑘
Tr 𝑿𝑿 = Tr 𝑼𝑼𝚲𝚲 𝑼𝑼 = Tr 𝚲𝚲 = � 𝜆𝜆𝑘𝑘𝑛𝑛 = 𝜇𝜇𝑘𝑘 .
𝑁𝑁
𝑁𝑁
𝑁𝑁
𝑁𝑁
𝑛𝑛=17

ガウス行列の漸近特異値分布
𝑿𝑿 ∈ ℝ𝑀𝑀×𝑁𝑁 を独立な𝒩𝒩(0, 𝑀𝑀−1 )に従う要素を持つガウス行列とする。

注意
ガウス行列𝑿𝑿は、両側直交不変である。
定理５.１

Wishart行列𝑿𝑿T 𝑿𝑿の経験固有値分布𝜌𝜌𝑿𝑿T 𝑿𝑿 (𝜆𝜆)は、 𝛿𝛿 = 𝑀𝑀/𝑁𝑁を固定して𝑀𝑀, 𝑁𝑁 → ∞とした大システム極限において、 Marchenko・Pastur（MP）分布𝜌𝜌MP (𝜆𝜆)に概収束する。
𝑑𝑑𝜌𝜌MP𝛿𝛿+𝜆𝜆 = 1 − 𝛿𝛿 𝛿𝛿 𝜆𝜆 +𝑑𝑑𝑑𝑑
ただし、𝜆𝜆± =𝜆𝜆 − 𝜆𝜆− + 𝜆𝜆+ − 𝜆𝜆 +.
2𝜋𝜋𝜋𝜋2−1/21 ± 𝛿𝛿と定義した。

MP分布のサポートは 𝜆𝜆− , 𝜆𝜆+ ∪ {0}である。

8Stieltjes変換
経験固有値分布𝜌𝜌𝑿𝑿 (𝜆𝜆)のStieltjes変換
𝑁𝑁𝑑𝑑𝜌𝜌𝑿𝑿 𝜆𝜆11𝑆𝑆𝑿𝑿 𝑧𝑧 = �= �, 𝑧𝑧 ∈ ℂ+ = 𝑧𝑧 ∈ ℂ: Im 𝑧𝑧 > 0 .
𝜆𝜆 − 𝑧𝑧𝑁𝑁
𝜆𝜆𝑛𝑛 − 𝑧𝑧
𝑛𝑛=1

べき級数展開𝑧𝑧 > max{𝜆𝜆1 , … , 𝜆𝜆𝑁𝑁 }に対して、

𝑆𝑆𝑿𝑿 𝑧𝑧

𝑁𝑁𝑁𝑁∞∞𝑘𝑘111𝜆𝜆𝑛𝑛1𝜇𝜇𝑘𝑘=−�=−� � 𝑘𝑘 = − � 𝑘𝑘 .
𝑧𝑧𝑧𝑧
1 − 𝜆𝜆𝑛𝑛 /𝑧𝑧𝑧𝑧𝑧𝑧𝑧𝑧𝑧𝑧𝑧𝑧
𝑛𝑛=1𝑛𝑛=1 𝑘𝑘=0𝑘𝑘=0Stieltjes変換は、経験固有値分布を定義するのに必要なすべての情報を持っている。

9Stieltjes変換の性質
累積分布𝜌𝜌(𝜆𝜆)のStieltjes変換を𝑆𝑆(𝜆𝜆)とする。
性質１∵(𝜆𝜆 − 𝑥𝑥)𝑑𝑑𝑑𝑑 𝜆𝜆𝑦𝑦𝑦𝑦𝑦𝑦(𝜆𝜆)𝑆𝑆 𝑥𝑥 + 𝑖𝑖𝑖𝑖 = �+ 𝑖𝑖 �,2222
𝜆𝜆 − 𝑥𝑥 + 𝑦𝑦
𝜆𝜆 − 𝑥𝑥 + 𝑦𝑦

性質２

性質３
∵

Stieltjes変換の虚部は正である。

𝜌𝜌(𝜆𝜆)が微分可能ならば、1′𝜌𝜌 𝜆𝜆 = lim Im[𝑆𝑆 𝜆𝜆 + 𝑖𝑖𝑖𝑖 ] .
𝜋𝜋 𝜔𝜔↓0𝑦𝑦 > 0.

𝑆𝑆(𝑧𝑧)の孤立特異点𝑧𝑧 = 𝑎𝑎 ∈ ℝでの留数が𝑝𝑝 < 0ならば、𝜌𝜌(𝜆𝜆)は点𝜆𝜆 = 𝑎𝑎で|𝑝𝑝|だけ不連続に増加する。
𝑝𝑝−𝑝𝑝𝑝𝑝(𝜆𝜆 − 𝑎𝑎)𝑑𝑑𝑑𝑑=�.
𝑧𝑧 − 𝑎𝑎𝜆𝜆 − 𝑧𝑧10η変換
経験固有値分布𝜌𝜌𝑿𝑿 (𝜆𝜆)のη変換

𝑁𝑁𝑑𝑑𝜌𝜌𝑿𝑿 𝜆𝜆11𝜂𝜂𝑿𝑿 𝑧𝑧 = �= �for 𝑧𝑧 ≥ 0.
1 + 𝑧𝑧𝑧𝑧 𝑁𝑁
1 + 𝑧𝑧𝜆𝜆𝑛𝑛

η変換のべき級数表示

原点の近傍において、Stieltjes変換とη変換の関係

𝑛𝑛=1∞

𝜂𝜂𝑿𝑿 𝑧𝑧 = � 𝜇𝜇𝑘𝑘 −𝑧𝑧 𝑘𝑘 .
𝑘𝑘=01 𝑑𝑑𝜌𝜌𝑿𝑿 𝜆𝜆𝑆𝑆𝑿𝑿 −𝑧𝑧 −1𝜂𝜂𝑿𝑿 𝑧𝑧 = �=.
−1𝑧𝑧 𝜆𝜆 + 𝑧𝑧𝑧𝑧

11R変換
経験固有値分布𝜌𝜌𝑿𝑿 (𝜆𝜆)のR変換
𝑅𝑅𝑿𝑿 𝑧𝑧R変換とη変換の関係= 𝑆𝑆𝑿𝑿−1 −𝑧𝑧

1− .
𝑧𝑧

1
𝜂𝜂𝑿𝑿 𝑧𝑧 =.
1 + 𝑧𝑧𝑅𝑅𝑿𝑿 (−𝑧𝑧𝜂𝜂𝑿𝑿 𝑧𝑧 )∵ 𝑠𝑠 = 𝑆𝑆𝑿𝑿 (−𝑧𝑧 −1 )とおくと、𝑅𝑅𝑿𝑿 −𝑠𝑠 = 𝑠𝑠 −1 − 𝑧𝑧 −1 なので、𝑠𝑠1=.
𝑧𝑧 1 + 𝑧𝑧𝑅𝑅𝑿𝑿 −𝑠𝑠

最後に、η変換の定義𝜂𝜂𝑿𝑿 𝑧𝑧 = 𝑠𝑠/𝑧𝑧を代入すれば良い。

12

定理５.１の証明の手順
手順１ 経験固有値分布𝜌𝜌𝑿𝑿T 𝑿𝑿 (𝜆𝜆)のStieltjes変換𝑆𝑆𝑿𝑿T 𝑿𝑿 (𝑧𝑧)を大システム極限で評価する。
• Wishart行列をランク1行列の和として表現する。
𝑀𝑀𝒙𝒙1
𝑿𝑿T 𝑿𝑿 = � 𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 , 𝑿𝑿 = ⋮ .
𝒙𝒙𝑀𝑀
𝑚𝑚=1
• ガウス行列の場合に特有のR変換の漸近加法性を使って、
𝑅𝑅𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 𝑧𝑧 から𝑅𝑅𝑿𝑿T 𝑿𝑿 𝑧𝑧 を計算する。
𝑀𝑀𝑅𝑅𝑿𝑿T 𝑿𝑿 𝑧𝑧 − � 𝑅𝑅𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 𝑧𝑧 → 0. {𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 }の漸近自由性
𝑚𝑚=1• R変換𝑅𝑅𝑿𝑿T 𝑿𝑿 (𝑧𝑧)からStieltjes変換を計算する。

手順２ 得られた漸近的なStieltjes変換を逆変換する。
13

T
𝒙𝒙𝑚𝑚 𝒙𝒙𝑚𝑚 のR変換の計算

行列𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 は、固有値𝑎𝑎 = 𝒙𝒙𝑚𝑚 2 と𝑁𝑁 − 1個の重複固有値0を持つ。
1 1
𝑁𝑁 − 1+for 𝑧𝑧̃ ≥ 0.
𝜂𝜂𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 𝑧𝑧̃ =𝑁𝑁 1 + 𝑎𝑎𝑧𝑧̃
𝑁𝑁𝑧𝑧 = −𝑧𝑧𝜂𝜂̃ 𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 (𝑧𝑧)とおき、
̃𝑧𝑧̃ ≥ 0に関して解くと、− 𝑎𝑎𝑎𝑎 + 1 + 1 − 𝑎𝑎𝑎𝑎 2 + 4𝑎𝑎𝑎𝑎/𝑁𝑁𝑧𝑧̃ =2 1 − 1/𝑁𝑁 𝑎𝑎
𝑎𝑎𝑧𝑧 2+ 𝒪𝒪 𝑁𝑁 −2 .
= −𝑧𝑧 +
𝑁𝑁 1 − 𝑎𝑎𝑎𝑎
ここで、十分大きな𝑁𝑁に対して𝑧𝑧̃ ≥ 0となる解を選んだ。

これをη変換とR変換の関係式に代入すると、

1𝒙𝒙𝑚𝑚 2−2𝑅𝑅𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 𝑧𝑧 =− =+𝒪𝒪(𝑁𝑁).
2𝑧𝑧𝜂𝜂
̃ 𝒙𝒙T𝑚𝑚 𝒙𝒙𝑚𝑚 (𝑧𝑧)̃
𝑧𝑧̃ 𝑁𝑁 1 − 𝒙𝒙𝑚𝑚 𝑧𝑧
114

T

𝑿𝑿 𝑿𝑿の各種変換の計算

R変換 ガウス行列の場合に特有のR変換の漸近加法性を使う。
𝑀𝑀a.s. 𝛿𝛿𝒙𝒙𝑚𝑚 2𝑅𝑅𝑿𝑿T 𝑿𝑿 𝑧𝑧 = �+ 𝑜𝑜 1.
2
𝑁𝑁 1 − 𝒙𝒙𝑚𝑚 𝑧𝑧𝛿𝛿 − 𝑧𝑧

Stieltjes変換

𝑚𝑚=1R変換の定義から、

𝛿𝛿
1−1= 𝑆𝑆𝑿𝑿T 𝑿𝑿 𝑧𝑧 + .
𝛿𝛿 + 𝑧𝑧𝑧𝑧

これを𝑧𝑧について解き、適切な符号の解を選ぶと、

η変換

1 − 𝛿𝛿 −1 − 𝑧𝑧 − 𝑓𝑓(𝑧𝑧)
𝑆𝑆𝑿𝑿T 𝑿𝑿 𝑧𝑧 =, Im−12𝛿𝛿 𝑧𝑧
𝑓𝑓 𝑧𝑧 = 𝑧𝑧 2 − 2𝑧𝑧 1 + 𝛿𝛿 −1 + 1 − 𝛿𝛿 −1 2 .

𝑓𝑓 𝑧𝑧

< 0,

R変換とη変換の関係式に上記を代入して整理すると、𝑧𝑧𝜂𝜂𝑿𝑿2 T 𝑿𝑿 𝑧𝑧 + 𝛿𝛿𝛿𝛿 − 𝑧𝑧 + 𝛿𝛿 𝜂𝜂𝑿𝑿T 𝑿𝑿 𝑧𝑧 − 𝛿𝛿 = 0.

15

漸近固有値分布の導出• MP分布の離散成分は、Stieltjes変換の性質３から従う。
1 − 𝛿𝛿 −1 − 1 − 𝛿𝛿 −1 2𝛿𝛿 − 1 for 𝛿𝛿 ≤ 1lim 𝑧𝑧𝑆𝑆𝑿𝑿T 𝑿𝑿 𝑧𝑧 ==�𝑧𝑧→00 for 𝛿𝛿 > 1.
2𝛿𝛿 −1• 連続成分の評価
平方根の中身は𝑓𝑓 𝜆𝜆 = (𝜆𝜆 − 𝜆𝜆− )(𝜆𝜆 − 𝜆𝜆+ )なので、
lim Im𝜔𝜔↓0Im𝑓𝑓 𝜆𝜆 + 𝑖𝑖𝑖𝑖

𝑓𝑓 𝜆𝜆 + 𝑖𝑖𝑖𝑖

= �− 𝑓𝑓 𝜆𝜆01/2for 𝜆𝜆 ∈ 𝜆𝜆− , 𝜆𝜆+ ,otherwise.

< 0となる解を選択した。

Stieltjes変換の性質２を使うと、連続成分の表現を得る。
1/2
𝑓𝑓𝜆𝜆1
lim Im[𝑆𝑆𝑿𝑿T 𝑿𝑿 𝜆𝜆 + 𝑖𝑖𝑖𝑖 ] = � 2𝜋𝜋𝜋𝜋 −1 𝜆𝜆𝜋𝜋 𝜔𝜔↓00for 𝜆𝜆 ∈ 𝜆𝜆− , 𝜆𝜆+ ,otherwise.

∎16