混沌系工学特論 配布資料 #5
担当 : 井上 純一 (情報科学研究科棟 8-13)
URL : http://chaosweb.complex.eng.hokudai.ac.jp/˜j inoue/
Mirror : http://www005.upp.so-net.ne.jp/j inoue/

平成 17 年 11 月 21 日

目次
4CDMA の確率的情報処理
4.1
4.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
スペクトル拡散 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
様々な多元接続方式

4.3455CDMA の確率モデル化 / ベイズ復調とその平均性能評価 . . . . . . . . . . . . . . . . . . . 56
4.3.1
4.3.2

シングルユーザ復調器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

4.3.3
4.3.4

状態方程式とその解析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

マルチユーザ復調器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
神経回路網との関係 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

CDMA の確率的情報処理
ここでからは衛星通信や移動体通信の基礎として用いられる多元接続通信方式の中でも符号分割多元接続 (CDMA : Code Division Multiple Access) に注目し, その確率的情報処理について見ていくことにする.

4.1

様々な多元接続方式

ここで問題にする多元接続方式は基地局を経由して複数のユーザが共通して利用できる通信回線の構成法である. このとき, ユーザ間の混信を避けるために様々な方式が採用されている.

• 周波数分割多元接続 (FDMA) : ユーザごとに異なる周波数を割り当てることにより混信を回避する. 一定の周波数帯域幅における利用者が多くなれば, 当然, 各ユーザの使用することのできる帯域は狭くなる.

• 時間分割多元接続 (TDMA) : 各ユーザに短い時間枠を与え, 同一周波数帯域内で周期的に訪れる与えられえた時間枠を各ユーザが利用することにより混信を回避する. 各ユーザにとって, 自分にとっての次の時間枠が来るまで情報を保持しなければならない.

• 符号分割多元接続 (CDMA) : 各ユーザの情報は同一周波数帯域, 同一時刻上に混在させるが, 各ユーザに割り当てた拡散符号系列を利用することで情報の分離をはかり, 混信を回避する.
本講義では最後に挙げた CDMA を扱う.

55

大学院 混沌系工学特論 2005

4.2

画像/符号/CDMA の情報統計力学 #3 (担当 : 井上 純一)

スペクトル拡散CDMA においては, 各ユーザの送信するデータシンボルに拡散符号系列を掛け合わせたものを通信路を介して伝送する. 図 34 のように +1 のデータシンボルに (1, −1, 1, 1, −1, −1, −1, −1, 1, 1, −1, −1) の拡散符bbxss
1 -1 1 1 -1 -1 -1 -1 1 1 -1 -1

図 34: CDMA におけるスペクトル拡散. b はデータシンボル. s が拡散符号系列. b × s が転送符号.
号をかけた伝送符号のスペクトルは 12 倍に広がることになるので, 一般に拡散符号系列の長さが N であれば, この拡散符号のスペクトルは N 倍に広がる. この N を拡散比と呼んでいる.

4.3

CDMA の確率モデル化 / ベイズ復調とその平均性能評価

K 人のユーザからなる拡散比 N の直接拡散 CDMA 通信路を確率モデルにより, 次のように表現する.
Kyμ=1  0√bk skμ + σ0 nμ , μ = 1, · · · , N
N k=1(183)

ここで, skμ はユーザ k の拡散符号系列であり, b0k はユーザ k が送信するのはアナログ搬送波の位相 0 にデジタル信号の +1 を, アナログ搬送波の位相 π にデジタル信号の −1 を対応させる BPSK (Binary Phase

Shift Keying : 2 相位相変調) のデータシンボルである. 最終的に基地局が受信する信号は, 各ユーザからb0k skμ ずつの寄与で構成される総和に, 分散が σ02 である通信路のガウスノイズが加わったもの yμ である(図 35 参照). ここで, nμ は平均がゼロ, 分散が 1 の正規分布に従う確率変数, つまり nμ = N (0, 1) である.
従って, 各 yμ に独立にノイズがかかると仮定し, 通信路を条件付き確率で表せば⎡
2 ⎤KN
11P ({yμ }|{b0k }, {skμ }) = (2πσ0 )−N/2 exp ⎣− 2b0k skμ ⎦yμ − √2σ0Nμ=1(184)k=1となる. そこで復調器の目的は, K 個 (ただし, K = βN で与えられ, ここでは K, N ともに無限大の大自由度極限を考える) のデータセット ({skμ }, yμ ), μ = 1, · · · , K から各ユーザのデータシンボル {bk } を推定することとなる.

ここは 56 ページ目

大学院 混沌系工学特論 2005

画像/符号/CDMA の情報統計力学 #3 (担当 : 井上 純一)

Noiseb1x (s1)yBasebKx (sK)

図 35: ここで考える CDMA システム.

4.3.1

シングルユーザ復調器

ユーザ 1 のデータシンボルを得るためには, 例えば (183) 式の両辺にユーザ 1 の拡散符号系列 s1μ をかけて μ について和をとる. つまり, 基地局への入力ベクトル y = (y1 , · · · , yN ) とユーザ 1 の拡散符号系列ベ
クトル s1 = (s11 , · · · , s1N ) の内積をとり
N1 √yμ s1μN μ=1= b01 +N KN1  0σ0 bk skμ s1μ + √s1μ nμN μ=1
N μ=1(185)k=1とすればよい. すると, この右辺第 1 項が所望のユーザ 1 のデータシンボルである. このように構成される復調器をシングルユーザ復調器と呼ぶ.
一方の第 2 項はユーザ 1 以外の全ユーザからの寄与であり, 第 3 項は転送路のノイズ項である. ここで,(185) 式の右辺第 2 項のオーダは次のように見積もることができる.

N K√
1K1  0× KN = O(186)
bk skμ s1μ = ON μ=1NN
k=1

従って, 基地局に接続しているユーザ数 K がオーダ 1, つまり K = O(1) であれば, この項は無視できるが,ユーザ数が拡散比 N と同程度であれば, この (185) 式の右辺第 2 項は第 1 項と同程度となり無視できない.

4.3.2

マルチユーザ復調器

問題の (185) 式の右辺第 2 項はノイズではあるが, ユーザ 1 以外の全ユーザからの情報を含むものであるから, これら複数のユーザの送信するデータシンボルを同時に推定することができれば望ましい. 以下では,Tanaka (2001) によるベイズ推論に基づくマルチユーザ復調器について具体的に見て行くことにしょう.
Tanaka により提案された具体的なマルチユーザ復調器は次の確率モデルによって設計される. すなわち,データシンボル {b0k } の推定値を {bk } とすれば基地局がK

yμ=1 
√bk skμ + σnμ , μ = 1, · · · , N
N k=1(187)の信号を受信するものとする. 従って, 通信路の確率モデルは⎡2 ⎤NK1
1yμ − √P ({yμ }|{bk }, {skμ }) = (2πσ2 )−N/2 exp ⎣− 2bk skμ ⎦
2σN
μ=1

(188)

k=1

ここは 57 ページ目

大学院 混沌系工学特論 2005

画像/符号/CDMA の情報統計力学 #3 (担当 : 井上 純一)で与えられる. ここで, σ 2 は通信路をマクロに特徴付ける σ02 に対応するハイパーパラメータである. ここで, データシンボルの事前分布を P ({bk }) とすると, これと (188) 式を掛け合わせたものが, ここでの事後分布となる. ここでは, このデータシンボルの事前分布を一様分布に選ぶと (188) 式が事後分布となることに注意しよう. 従って, 基地局が保管している各ユーザの拡散符号系列 {skμ } と基地局への入力 {yμ } が与えられたときに, この事後分布をデータシンボル {bk } に関して最大化するような配列 : (b1 , · · · , bK ) を各ユーザのデータシンボルの推定値とする MAP 解を選ぶこともできるし, 事後確率を与えるアンサンブルを
考え, 各ユーザシンボルごとに多数決をとり,b̂k=sgn(bk )(189)を計算すれば, これが MPM 解を与えることになる (· · · は事後分布での平均を意味する).

4.3.3

状態方程式とその解析

マルチユーザ復調器の MPM 解の平均的性能を評価するために, ここでも統計力学を用いて状態方程式を導出し, それを解析する. 具体的な計算過程は煩雑なので, ここでは結果だけを示す. ここで考えてきた
マルチユーザ復調器の性能は次の状態方程式 :

m=q

=

E=

F

=

[bk ] =[bk 2 ] =∞√Dz tanh(z F + E)

(190)

√Dz tanh2 (z F + E)

(191)

−∞
∞

−∞

1σ 2 + β(1 − q)
σ02 + β(1 − 2m + q)
[σ 2 + β(1 − q)]2(192)(193)√2で与えられる. Dz = dz e−z /2 / 2π である. 磁石のモデルとの対応は m は自発磁化, q がスピングラス秩序変数を表している. これら状態方程式の解に対して, ビット誤り率は

Pb= HE√F, H(x) ≡∞xz2dz√ e− 22π(194)で与えられる.
図 36 にビット誤り率をガウスノイズの分散の逆 σ −2 の関数としてプロットしたものを載せる. ここで,各 σ −2 では通信路の真の分散 σ02 と σ02 = σ 2 の関係が成り立っている. 拡散比とユーザ数の比 β = K/N は

β = 0.01, 1.01, 2.01 に選んである. この図から通信路のノイズの分散が減少するにつれ, ビット誤り率も減少するが, β = 2.01 の場合には準安定状態が存在し, ノイズ分散を減少していく際に「マルチユーザ復調不可能相」から「マルチユーザ復調可能相」への 1 次の相転移が見られる. 図 37(左) には σ = σ0 の値をいくつかの値に固定し, β −1 の関数としてプロットしたものを載せる. この図より, 拡散比 N に対してユーザ数が多い場合にはうまく復調ができないが, ある程度拡散比 N の割合を大きくしていくと, β のある臨界点でビット誤り率が急激に減少することがわかる (1 次転移). このような現象をウオーターフォール現象と呼んでいる.
ところで, これらの解析では真のノイズパラメータ σ0 が既知であるとして話を進めたが, これが未知であり, 悪いことに誤った値 (σ = σ0 ) を用いて復調した場合にはどうであろうか. これを見るために, 図 37(右)にこの状況でのビット誤り率をプロットした. やはり, 真のノイズパラメータからのずれが復調性能を悪化させていることがわかる. 従って, ここでもやはり, 周辺尤度最大化基準を用いたハイパーパラメータ σ の推定をも同時に行うことが重要になる.
ここは 58 ページ目

大学院 混沌系工学特論 2005

画像/符号/CDMA の情報統計力学 #3 (担当 : 井上 純一)

10.1

Pb0.01

beta=0.01
beta=1.01
beta=2.01

0.001

0.0001

1e-05

1e-06
0.0001

0.001

0.01

0.1

1101001000

1/(sigma*sigma)

図 36: ビット誤り率 Pb をガウスノイズの分散の逆 σ−2 の関数としてプロットしたもの. ここで, 各 σ−2 では通信路の真の分散σ02 と σ02 = σ2 の関係が成り立っている.

4.3.4

神経回路網との関係既に学んだように, 事後確率の指数部の符号を変えたものがエネルギー関数である. 従って, 今の CDMA2の場合のエネルギー関数は (188) 式の指数部の符号を変えたもので定義され, (事後確率) ∼ e−(1/2σ )E でエネルギー E を定義するとE=−N
μ=1K

1 sμk bkyμ − √N k=12(195)となる. この右辺を展開すると

E=KN KN KN
1  2 skμ sk μ bk bk − √yμ skμ bkμ +yμ2
N μ=1N
μ=1μ=1k=1 k =1(196)k=1

ここで, 神経回路網の連想記憶を思い出すと, この右辺第１項は {skμ } を K 個の埋め込むパターンベクト
ル, {bk } をネットワークの状態ベクトルとすると, ホップフィールドモデル (前年度の講義ノート「連想記憶」の章を参照) のエネルギー関数の符号を変えたものとなっている. 従って, ここで取り上げた CDMAは部分的に連想記憶の数理モデルとしての側面を持っていると言ってよい.
一方, 基地局への入力 (通信路の出力和) をもう一度見てみるとNyμ=1 √skμ bk + σnμN k=1(197)と書けた. 従って, ここでの問題は {yμ }, {skμ } を与えられたときに, {bk } を推定することだったことを考えると, 入力を {skμ }, 出力を {bk } とし, 結合が {bk } である線形パーセプトロン (前年度の講義ノート「学習」の章を参照) が外部雑音の下に結合を学習 (推定) する問題ととらえることもできる.
従って, CDMA は数理モデルとして神経回路網における連想記憶と学習の側面を持っていると言える.

ここは 59 ページ目

大学院 混沌系工学特論 2005

画像/符号/CDMA の情報統計力学 #3 (担当 : 井上 純一)

1

10.1

sigma0=0.20
sigma0=0.25
sigma0=0.03
sigma0=0.05

0.01

sigma0=0.25,sigma=0.35
sigma0=0.35,sigma=0.25PbPb

0.01

0.1

0.001

0.001
0.00010.0001

1e-05

1e-06
1e-06 1e-05 0.0001 0.001

0.01
1/beta0.1

1101001e-05
1e-06 1e-05 0.0001 0.001

0.01
1/beta0.1

110100

図 37: ビット誤り率 Pb をユーザ数と拡散比の比 β = K/N の関数としてプロットしたもの (左). ここで, 各 σ−2 では通信路の真の分散 σ02 と σ02 = σ2 の関係が成り立っている. 一方の右図は σ2 = σ02 の場合をプロットしたもの.

ここは 60 ページ目