特集「ネットワーク情報理論」［研究詳解］

統計数理（2009）
第 57 巻 第 2 号 203–219
c 2009 統計数理研究所


疎行列アンサンブルのハッシュ性と多端子情報源符号1

村松 純 ・三宅 茂樹

2（受付 2009 年 1 月 6 日；改訂 3 月 3 日；採択 3 月 24 日）

要

旨

本稿では，多端子情報理論の基本的な問題である Slepian-Wolf の問題，Wyner-Ziv の問題，
One-helps-one 問題に焦点をあてて，疎行列を用いた符号の構成を与える．そのためにまず，アンサンブルの持つハッシュ性と呼ばれる性質を導入し，この性質を利用して漸近最良性を持つ符号の構成を与える．疎行列はハッシュ性を持つことから，疎行列を利用した漸近最良性を持
つ符号の存在が示される．
キーワード： 情報理論，ハッシュ性，疎行列を用いた符号， Slepian-Wolf の問題，
Wyner-Ziv の問題，One-helps-one 問題．
1.

はじめに

加法的雑音を伴う通信路に対する漸近最良性を持つ符号として疎行列を用いた LDPC（Low
Density Parity Check）
符号がある．これは，確率伝搬法（Belief Propagation, Aji and McEliece,（Linear Code Linear Programing, Feldman et al.,
2000; Kschischang et al., 2001）や線形計画法
等の近似アルゴリズムを用いることにより現実的な計算時間で最尤復号を実現出来るこ
2005）とから，近年盛んに研究されている．このアイデアは加法的雑音を伴う通信路に対する符号へ応用できるだけでなく，他のさまざまな符号の構成にも応用出来ることが明らかになってきた．さらに，それらの符号の漸近最良性は疎行列アンサンブルの持つハッシュ性と呼ばれる性質から導かれることが Muramatsu and Miyake（2008a, 2008b, 2009）によって明らかにされた．
本稿では，多端子情報理論の基本的な問題である Slepian-Wolf の問題（図 1, Slepian and Wolf,
1973），Wyner-Ziv の問題（図 2, Wyner and Ziv, 1973），One-helps-one 問題（図 3, Wyner, 1973;
Wyner and Ziv, 1976）に焦点をあてて，ハッシュ性を持つアンサンブルを用いた符号の構成を
紹介する．
2.

準備

本稿で使用する記号や記法を説明する．
系列や列ベクトルはボールド体を用いて u のように記す．U, U を有限集合とし，有限集合
U の要素の個数を |U| と記す．U \ {u} は差集合を表す．次節以降でハッシュ性を仮定すると
きは，関数の線形性や U ≡ U l であることは本質的ではない．実際，l log |U| を log |U | に置き換
12NTT コミュニケーション科学基礎研究所：〒619–0237 京都府相楽郡精華町光台 2–4
NTT 未来ねっと研究所：〒180–8585 東京都武蔵野市緑町 3–9–11

204

統計数理

第 57 巻

第 2 号 2009

図 1.

Slepian-Wolf 問題．

図 2.

Wyner-Ziv 問題．

図 3.

One-helps-one 問題．

えれば全く同じ議論が出来る．
関数 A : U n → U に対して，A の系列 u ∈ U n での値を関数の線形性のあるなしに関わらず
Au と記す．線形性を持つ関数が l × n 行列で表現されている時は U ≡ U l となる．
関数の集合 A に対して ImA を次のように定義する．
ImA ≡{Au : u ∈ U n }A∈A

集合 CA (c), CAB (c, b) を次のように定義する．
CA (c) ≡ {u : Au = c}
CAB (c, b) ≡ {u : Au = c, Bu = b}線形符号の理論では，行列 A に対して集合 CA (c) はシンドローム c で定まるコセットと呼ばれている．
確率分布 p, p と条件つき確率分布 q, q  に対してエントロピー H(p), 条件つきエントロピー
H(q|p), ダイヴァージェンス D(pp ), 条件つきダイヴァージェンス D(qq  |p) を次のように定義する．
1
H(p) ≡
p(u) logp(u)u
1q(u|v)p(v) log
H(q|p) ≡q(u|v)u,vD(p  p ) ≡up(u) logp(u)p (u)

疎行列アンサンブルのハッシュ性と多端子情報源符号D(q  q  |p) ≡



p(v)



v

q(u|v) log

u205

q(u|v)q  (u|v)

ここで，本稿を通して対数の底を 2 とする．
確率変数 U と V の同時確率分布を µU V と記す．周辺分布をそれぞれ µU , µV と記し，Vを与えた時の U の条件つき確率分布を µU |V とする．U のエントロピー，V を与えたときのU の条件つきエントロピー U と V の相互情報量は以下のように定義される．
H(U ) ≡ H(µU )H(U |V ) ≡ H(µU |V |µV )I(U ; V ) ≡ H(U ) − H(U |V )最後に，経験分布 νu , 条件つき経験分布 νu|v を次のように定義する．
|{1 ≤ i ≤ n : ui = u}|nνuv (u, v)
νu|v (u|v) ≡νv (v)νu (u) ≡3.

(α, β) ハッシュ性

本節では，符号の存在定理の十分条件を与える (α, β) ハッシュ性の概念を新たに導入する．
これは関数のアンサンブル（関数の集合上の確率分布）
によって定義されるものであるが，関数の線形性については特に仮定しない．
定義 1. A を関数 A : U n → U A の集合とする．そして
log
(3.1)

lim

n→∞

|U A ||ImA|=0nを仮定する．pA を A 上の確率分布とする．ここで，pA の添字 A は A の要素を表すのではなく，A の要素を値とする確率変数（関数）を表している．関数の集合 A と確率分布 pA の組(A, pA ) をアンサンブルと呼ぶ．通常，アンサンブルは関数の集合を表し，その集合上に一様分布を仮定する．本稿では，関数の集合と必ずしも一様ではない確率分布をアンサンブルと呼んでいる．そしてアンサンブル (A, pA ) に対して
lim αA (n) = 1

(3.2)

n→∞

lim βA (n) = 0

(3.3)

n→∞

∞
を満たす数列 αA ≡ {αA (n)}∞n=1 , β A ≡ {βA (n)}n=1 が存在して


(3.4)

u∈T
u ∈T pA

A : Au = Au≤ |T ∩ T  | +|T ||T  |αA (n)+ min{|T |, |T  |}βA (n)|ImA|

を任意の T , T  ⊂ U n に対して満たしているとき， (A, pA ) は (αA , β A ) ハッシュ性を持つという．本稿を通して，系列の長さ n が明らかなときには， n を省略して αA , βA と記す．また，
αA , βA の添字 A は A の要素に依存していることを意味しているのではなく， A の要素を値とする確率変数（関数）に依存する可能性を示している．

統計数理

206

第 57 巻

第 2 号 2009

以後，単に “ハッシュ性” と呼ぶときはある (αA , β A ) が存在して (αA , βA ) ハッシュ性を持っているものとする．式（3.4）右辺の第 1 項は u ∈ T ∩ T  に対する pA ({A : Au = Au }) = 1 の和を表す．第 2 項は確率 pA ({A : Au = Au }) がおおよそ 1/|ImA| であるような u = u に対する和の上限を与えている．第 3 項は確率 pA ({A : Au = Au }) が 1/|ImA| をはるかに越えるような u = u に対する和の上限を与えている．
以下で，ハッシュ性を持つアンサンブルの例を挙げる．
例 1. 最初の例として，Carter and Wegman（1979）で導入された汎用ハッシュ関数クラスを紹介する．関数 A : U n → U A の集合 A が任意の u = u に対して

|A|
| A : Au = Au | ≤|U A |

が成り立っている時，A は汎用ハッシュ関数クラスであるという．例えば，U n 上の関数全体，線形写像 A : U n → U lA の全体は汎用ハッシュ関数クラスの例である（Carter and Wegman,
n
n
1979）
．また，有限体 U ≡ GF(2 ) に対してAu ≡ auの最初の lA ビットA≡ A:
a ∈ GF(2n )もまた汎用ハッシュ関数クラスである．ここで，au は a, u ∈ GF(2n ) の積を表す．
上記の全ての例において，ImA = U A を満たしている．汎用ハッシュ関数クラス A と A 上の一様分布 pA に対して
|T ||T  |pA A : Au = Au ≤ |T ∩ T  | +
|ImA|
u∈T
u ∈T が任意の T , T  ⊂ U n で成り立つことが容易に確認できる．これは，各 n で 1(n) ≡ 1, 0(n) ≡ 0と定めることにより (A, pA ) が (1, 0) ハッシュ性を持つことを意味する．
例 2. 次の例では，線形写像（行列）A : U n → U lA のアンサンブルを考える．全ての線形写
像上に一様分布を仮定すれば，このアンサンブルが (1, 0) ハッシュ性を持つことは例 1 の汎用
ハッシュ関数クラスの例で紹介した．続いて，行列の要素が GF(q) であるような疎行列のアンサンブルの例を紹介する．これは，MacKay（1999）
で与えられた GF(2) を行列の要素とする
疎行列アンサンブルを GF(q) に拡張したものである．U ≡ GF(q) として，lA × n 行列 A を以下の手続きで与える．
（1）要素が全て 0 の行列を初期値とする．
（2）列のインデックス i ∈ {1, . . . , n} に対して以下の（a），（b）の手続きを O(log 2 n) 回行う：（a） (j, a) ∈ {1, . . . , lA } × [GF(q) \ {0}] を一様分布に従い選択する．
（b） a を行列の (j, i) に加える．
このとき，（3.2），（3.3）を満たす (αA , β A ) が存在して，上記の手続きで与えたアンサンブル(A, pA ) は (αA , βA ) ハッシュ性を持つ（Muramatsu and Miyake, 2008a）．上記の手続きは列重
みが定数オーダーではないことから，厳密にはこれを疎行列とは呼ばない場合もあるが，列重みが O(log2 n) であることから，非常に大きな n では非零の要素が疎であるとみなすことができる．
ここで，(αA , β A ) ハッシュ性を持つアンサンブルの性質を紹介する．以下では，関数 A :U → U A の集合 A に関して， (A, pA ) は (αA , β A ) ハッシュ性を持っているとする．同様に，
n疎行列アンサンブルのハッシュ性と多端子情報源符号207

B : U n → U B の集合 B に関して，(B, pB ) は (αB , β B ) ハッシュ性を持っているとする． pC を
ImA 上の確率分布として，確率変数 A, B, C は互いに独立であると仮定する．すなわち，任意の A, B, c に対して
⎧ 1⎨
, if c ∈ ImA
pC (c) = |ImA|⎩0,
if c ∈ U A \ ImA
pABC (A, B, c) = pA (A)pB (B)pC (c)が成り立っている．
補題 1.（Muramatsu and Miyake, 2008a）任意の u ∈ U n , G ⊂ U n に対して
pA ({A : [G \ {u}] ∩ CA (Au) = ∅}) ≤|G|αA+ βA .
|ImA|

補題 2.（Muramatsu and Miyake, 2008a） uA,c ∈ U n が A, c に依存して定まるとき，任意のG ⊂ U n に対して
pABC ({(A, B, c) : [G \ {uA,c }] ∩ CAB (c, BuA,c ) = ∅}) ≤|G|αB+ βB .
|ImA||ImB|

補題 3.（Muramatsu and Miyake, 2008a） T = ∅ に対して
pAC ({(A, c) : T ∩ CA (c) = ∅}) ≤ αA − 1 +|ImA| [βA + 1].
|T |上記の補題 1 は，4.1 節の無歪圧縮のための部品の存在を保証し，補題 3 は 4.2 節の典型系
列を見つけるための部品の存在を保証する．補題 2 は，無歪圧縮のための部品が典型系列を見つけるための部品と組み合わせられることを保証するもので，補題 1 から証明される．以上の補題は，アンサンブルのハッシュ性だけから導かれる性質であり，関数の線形性を必要としない．言うまでもなく，例 2 で紹介した疎行列のアンサンブルに対しても上記の補題は成立している．証明は Muramatsu and Miyake（2008a）にある．
以下では（疎）行列のアンサンブルを仮定して符号の構成を与える．ただし，特に線形性に関する断りがなければ，以下で紹介する補題および定理の証明はアンサンブルのハッシュ性があれば十分であることを注意しておく．
4.

基本的な部品

この節では，（疎）行列を用いた符号を構成するための基本的な部品を紹介する．最初に，無歪圧縮のための部品（圧縮器，伸長器）および典型系列を探索する部品を定義する．次節では，これらの部品を組み合わせることで，Slepian-Wolf 問題，Wyner-Ziv 問題，One-helps-one 問題
といった多様な問題に対して有効な符号が構成できることが示される．本節の補題および定理
は全て，前節のハッシュ性を仮定するだけで証明できるものであり，関数の線形性や疎行列性とは直接関係していない．また本論文では，符号の計算複雑度の問題は考えていない．
4.1 無歪圧縮のための部品
lA × n 行列 A を用意し，列ベクトル u ∈ U n に対してシンドロームを Au ∈ U lA で与える．
lA < n とすればこのシンドロームは u を圧縮したものとなる．最尤復号を与える写像 gA を次のように定義する．
gA (c) ≡ arg max µU (u)u∈CA (c)

208

統計数理

第 57 巻

第 2 号 2009

このとき，次の補題が成り立つ．
補題 4. 任意の δ > 0 に対して十分大きな n を取り，
lA >

(4.1)

nH(U )
log |U|として良い lA × n 行列 A を用いることにより，伸長誤り確率を δ 以下に出来る．すなわち(4.2)µU ({u : u = gA (Au)}) < δ.

情報源 U に対する無歪固定長符号は図 4 の圧縮器を符号器，補題 4 の伸長器を復号器とすればよい．ここでは，符号の構成のための部品であることを明確にするために，圧縮器・伸長器という用語を用いた．情報源のエントロピーを越える符号化レートを取れば，系列長とともに誤り確率を十分小さくできるような行列 A を用意できることは補題 4 より明らかである．図 4の多端子（Slepian-Wolf 問題）への拡張については 5.1 節で解説する．
注意．行列 A の線形性を利用すれば，二元対称通信路に代表される加法的雑音 U を伴う通信路
（入力 X, 出力 Y ）Y =X + U
に対する符号は，補題 4 の系として与えられる． A を正則行列として符号語の集合 CA (0) = {u :Au = 0} を考える．|CA (0)| = |U|n−lA であることから，メッセージの集合 U n−lA と CA (0) を
1 対 1 に対応させる n × [n − lA ] 行列
（生成行列）G が存在し，メッセージ m ∈ U n−lA に対してx ≡ Gm を符号語とすることにより通信路の符号器を構成できる．通信路の出力 y は雑音の実
現値 u を用いて y = x + u となる．復号器は受信語のシンドローム Ay を求めることにより，
Ay = A[x + u] = Au

によって雑音の圧縮された情報を得る．補題 4 より，（4.1）を満たしていれば，Au から小さい
誤り確率で u を復元出来るので，
x=y − uより通信路入力と対応するメッセージを再生できる．符号化レートは
1−

lA log |U|< 1 − H(U )nとなり，lA log |U|/n を H(U ) に近づけることにより通信路容量を達成できる．
続いて，図 5 で示されるような複数の行列を用いた復号方式を紹介する．lA × n 行列 A と
lB × n 行列 B を用意し列ベクトル u ∈ U n に対してシンドローム (Au, Bu) を与える．系列 v
を条件として与えたときの最尤復号を与える写像 gAB を次のように定義する．
gAB (c, b|v) ≡ arg

maxu∈CAB (c,b)µU |V (u|v)

このとき，次の補題が成り立つ．

図 4. 無歪み圧縮のための部品（補題 4）．

疎行列アンサンブルのハッシュ性と多端子情報源符号209

図 5. 無歪み圧縮のための部品（補題 5）．

図 6.

典型系列を探索するための部品．

補題 5. 任意の δ > 0 に対して十分大きな n を取り，lA + lB >nH(U |V )log |U|として良い lA × n 行列 A と lB × n 行列 B を用いることにより，復号誤り確率を δ 以下に出来る．すなわち(4.3)µU V ({(u, v) : u = gAB (Au, Bu|v)}) < δ.

4.2 典型系列を見つけるための部品
ここでは，図 6 で表されるような典型系列を探索する部品を導入する．lA × n 行列 A を用意し，系列 v を条件として与えたときの条件つきダイヴァージェンスを最小にする写像 gA を
次のように定義する．
gA (c|v) ≡ arg min D(νu|v µU |V |νv )u∈CA (c)このとき，次の補題が成り立つ．
補題 6. 任意の δ, γ > 0 に対して十分大きな n を取り，lA <nH(U |V )log |U|として良い lA × n 行列 A とベクトル c ∈ ImA を用いることにより，v を µV に従ってランダムに選んだときに gA (c|v) が v の条件つき典型系列にならない確率を δ 以下に出来る．すな
わち


(4.4)
µV v : gA (c|v) ∈/ TU |V,γ (v) < δ.

統計数理

210

第 57 巻

第 2 号 2009

4.3 基本的な部品の組み合わせ
実際の符号の構成では，無歪圧縮のための部品と典型系列を探すための部品を組み合わせて用いる．そのためには行列 A, B とベクトル c ∈ ImA には（4.3）と（4.4）を同時に満たすような性質が要求される．実際，パラメータ lA , lB を適切に定めることによりこのような（疎）行列とベクトルを用意できる．
補題 4–6 はアンサンブルのハッシュ性と補題 1, 3 を用いて証明することができる．ただし，後で紹介する符号の存在定理の厳密な証明を行うには，補題 4–6 ではなく補題 1–3 を直接用いなければならない．
4.4 g, g を実現するアルゴリズム
3 節で紹介した疎行列のアンサンブルはハッシュ性を持つので，（4.2）（– 4.4）
を満たす行列 A,
B は疎行列から探すことが出来る．関数 gA , gAB は最尤復号なので，確率伝搬法や線形計画法などの近似アルゴリズムが利用出来る事が期待される． 
gA は一見では最尤復号には見えない
が，以下の関係式を用いて最尤復号へ還元できる．
arg min D(νu|v µU |V |νv ) = arg min D(νu,v µU V )u∈CA (c)u∈CA (c)= arg max [log µU V (u, v) + nH(νuv )]u∈CA (c)⎡⎤⎢⎥log µU V (u, v)⎦= arg max ⎣nH(ν) + maxu:ν(u,v)∈Tν
Au=c

ここで，Tν は νv が周辺タイプとなる同時タイプ ν を持つ系列の集合であり，最後の等式の右辺の arg は最大値を取る u を与えるものとする．また，タイプ ν の取りうる値は高々 [n + 1]|U ||V|
通りであり，条件 (u, v) ∈ Tν は線形制約に過ぎないことに注意．なお，符号の性能が少し劣る
可能性があるが，
gA を最尤復号に置き換えても典型系列を見つける事が出来る．
5.

符号の構成

この節では，アンサンブルのハッシュ性を利用した符号の構成を紹介する．この節を通して，
ϕ を符号器，ϕ−1 を復号器とする．系列 x, y, z, w の長さを n とする．
5.1 Slepian-Wolf 問題
ここでは，Slepian-Wolf 問題を考える．Slepian-Wolf 問題とは，図 1 において離れた 2 点にある相関のある情報源 X, Y をそれぞれ ϕX , ϕY を用いて独立に符号化し，二つの符号器の出力を受信した復号器 ϕ−1 が二つの情報源 (X, Y ) を限りなく小さい誤り確率で再生する問題である．レート対 (RX , RY ) が以下の不等式を全て満たすことが，誤り確率が 0 に収束する符号が存在する必要十分条件である（Slepian and Wolf, 1973）．
RX ≥ H(X|Y )RY ≥ H(Y |X)
RX + RY ≥ H(X, Y )なお，Cover（1975）では bin-coding と呼ばれるアンサンブルで符号の存在が証明されており，
Csiszár（1982）では行列全体のアンサンブルで符号の存在が証明されている．二元疎行列アン
サンブルと最尤復号を用いた符号の存在証明は Muramatsu et al.（2005）にある．

疎行列アンサンブルのハッシュ性と多端子情報源符号

図 7.

Slepian-Wolf 符号の構成．

符号器と復号器で共有する（疎）行列
A : X n → X lA
B : Y n → Y lBを用意し，図 7 で示されるように二つの符号器と復号器
ϕX : X n → X lA
ϕY : Y n → Y lB
ϕ−1 : X lA × Y lB → X n × Y n

を以下のように定める．
ϕX (x) ≡ Ax
ϕY (y) ≡ By
−1

ϕ(bX , bY ) ≡ gAB (bX , bY )ここで，gAB は以下の式で与えられる最尤復号器である．
gAB (bX , bY ) ≡ arg

max(x ,y )∈CA (bX )×CB (bY )µXY (x , y  )符号化レート対 (RX , RY ) は以下で与えられる．
lA log |X |nlB log |Y|
RY ≡
n

RX ≡

誤り確率は ErrorXY (A, B) 以下で与えられる．

ErrorXY (A, B) ≡ µXY (x, y) : ϕ−1 (ϕX (x), ϕY (y)) = (x, y)以上の構成に関して以下の定理が成り立つ．
定理 1.（Muramatsu and Miyake, 2008a）定常無記憶情報源 (X, Y ) に対してレート対 (RX , RY ) が
RX > H(X|Y )RY > H(Y |X)
RX + RY > H(X, Y ),

211

統計数理

212

第 57 巻

第 2 号 2009を満たしていると仮定する．このとき，任意の δ > 0 と十分大きな n に対して，
ErrorXY (A, B) ≤ δを満たす（疎）行列 A ∈ A, B ∈ B が存在する．
5.2 Wyner-Ziv 問題
ここでは，Wyner-Ziv 問題を考える．Wyner-Ziv 問題とは，図 2 において情報源 X を符号器
ϕ を用いて符号化し，符号器の出力に加えて X と相関のある補助情報源 Y も受信出来る復号器
ϕ−1 が X と歪み D 以内にある情報 W を再生する問題である．歪み尺度を ρ : X × W → [0, ∞)として，ρmax ≡ max ρ(x, w) < ∞x,wを満たしている事を仮定する．x ≡ (x1 , . . . , xn ), w ≡ (w1 , . . . , wn ) に対して ρn (x, w) を1
ρ(xi , wi )n i=1nρn (x, w) ≡とする．このとき定常無記憶情報源 (X, Y ) に対してレート歪み関数 RX|Y (D) は(5.1)

RX|Y (D) =min[I(X; Z) − I(Y ; Z)]µY |X ,f :EXY Z [ρ(X,f (Y,Z))]≤Dで与えられる（Wyner and Ziv, 1976）．ここで，上記の最小値は全ての条件付き確率変数 µZ|Xと関数 f : Y × Z → W に渡る最小値であり，(X, Y, Z) の同時確率分布 µXY Z はµXY Z (x, y, z) ≡ µXY (x, y)µZ|X (z|x).

で与えられる．
最初に条件付き確率分布 µY |X と f を定める．レート歪み関数の最小値を与える µY |X と f
をとれば，以下で構成した符号はレート歪み限界を達成する．
lA , lB を
(5.2)
(5.3)

n[H(Z|X) − εA ]log |Z|n[H(Z|Y ) − H(Z|X) + εB ]lB ≡log |Z|n[I(X; Z) − I(Y ; Z) + εB ]=.
log |Z|lA ≡として，符号器と復号器で共有する（疎）行列
A : Z n → Z lA
B : Z n → Z lBと系列（ベクトル）c ∈ Z lA を用意する．図 8 で示されるように符号器，復号器
ϕ : X n → Z lB
ϕ−1 : Y n × Z lB → W n

を次のように定義する．
ϕ(x) ≡ B
gA (c|x)疎行列アンサンブルのハッシュ性と多端子情報源符号213

図 8. Wyner-Ziv 符号の構成．

ϕ−1 (b, y) ≡ fn (gAB (c, b, y), y)

ここで，gA (c|x) ≡ arg  min D(νxz µZ|X |νz )z ∈CB (c)gAB (c, b|y) ≡ arg  max

z ∈CAB (c,b)µZ|Y (z  |y)であり，y ≡ (y1 , . . . , yn ), z ≡ (z1 , . . . , zn ) に対して fn (y, z) ≡ (w1 , . . . , wn ) を次のように定義する．
wi ≡ f (yi , zi )符号化レート R は以下で与えられる．
R≡lB log |Z|.
n

直感的には，符号器にある 
gA は条件つき典型系列を探す部品であり，行列 B は見つけた条
件つき典型系列を無歪圧縮する部品である．そして復号器にある gAB は圧縮した条件つき典型系列を伸長する部品になる． x を与えた時の条件つき典型系列 z が見つかるためには，c のレート [c の長さ]/[x の長さ] は H(Z|X) より小さくなければならない．一方で，c, Bz と y よ
り z を正しく再生出来るようになるためには，c と Bz のレートの和は H(Z|Y ) より大きくなければならない．これらを満たすように符号化レートを H(Z|Y ) − H(Z|X) = I(X; Z) − I(Y ; Z)に近づければ，これは漸近的に最適な符号となる．具体的には以下の定理が成り立つ．
定理 2.（Muramatsu and Miyake, 2008a） (X, Y ) を定常無記憶情報源とする．与えられた
εB > εA > 0 に対して lA , lB をそれぞれ式
（5.2）
（
，5.3）
で定めたとき，任意の δ > 0 と十分大きなn に対してR = I(X; Z) − I(Y ; Z) + εB
EXY ρn (X n , ϕ−1 (ϕ(X n ), Y n )) ≤ EXY Z [ρ(X, f (Y, Z))] + δρmax

214

統計数理

第 57 巻

第 2 号 2009

を満たす
（疎）
行列 A ∈ A, B ∈ B とベクトル c ∈ ImA が存在する．µZ|X , f をレート歪み関数の最小値を達成するものにとり，εA , εB → 0 とすることにより，提案した符号の性能をレート歪み限界に近づけることができる．
Muramatsu and Miyake（2008a）
では gA (c|x) で最尤法を用いているが，証明の方針をほとん
ど変えずに定理 2 を証明できる．

では，疎行列を用いた Wyner-Ziv 問題の符号が提案
注意．Martinian and Wainwright（2006b）
されており，Matsunaga and Yamamoto（2003），Murayama（2004），Martinian and Wainwright（2006a），Miyake（2006）で提案された有歪情報源符号を Wyner-Ziv 問題に拡張したものである．ただし，Martinian and Wainwright（2006b）
では，一様分布を持つ 2 元情報源 X と加法的な補助情報源 Y を仮定し，歪み尺度にハミング距離を仮定している． Martinian and Wainwright（2006b）では，疎行列を用いた符号器で ‘middle layer’ と呼ばれる符号語ベクトルを推定する．
復号器では符号語ベクトルにもう一つの行列を作用させるだけである．今回提案した方法では，
符号語ベクトルを推定するのではなく，再生語ベクトルを行列 A と gA を用いて推定し，それをもう一つの行列 B を用いて圧縮している（符号語ベクトルと再生語ベクトルの次元が異なることに注意）．そして復号には最尤復号器 gAB が必要である．私達の方法は必ずしも一様とは限らない q 元情報源と必ずしも加法的とは限らない補助情報源，そして一般の歪み尺度に対して漸近的に最適な符号を与えている．
5.3 One-helps-one 問題
ここでは，One-helps-one 問題を考える． One-helps-one 問題とは，図 3 において離れた 2 点にある相関のある情報源 X, Y をそれぞれ ϕX , ϕY を用いて独立に符号化し，二つの符号器の出力を受信した復号器 ϕ−1 は情報源 X だけを限りなく小さい誤り確率で再生する問題である．
ここで，情報源 Y の符号語は X の再生を助ける役割を担っている．定常無記憶情報源 (X, Y )に対して達成可能レート領域はRX ≥ H(X|Z)
RY ≥ I(Y ; Z),を満たす確率変数 Z が存在するようなレート対 (RX , RY ) の集合として与えられる（Wyner,．ここで，µXY Z の同時分布は
1973; Wyner and Ziv, 1976）µXY Z (x, y, z) = µXY (x, y)µZ|Y (z|y)

で与えられる．
条件付き確率分布 µZ|Y をあらかじめ定める．lB, lA , lB を
(5.4)
(5.5)
(5.6)

n[H(X|Z) + εB]
log |X |n[H(Z|Y ) − εA ]lA ≡log |Z|n[I(Y ; Z) + εB ].
lB ≡log |Z|lB ≡として符号器と復号器で共有する（疎）行列
 : X n → X lB
B
A : Z n → Z lA

疎行列アンサンブルのハッシュ性と多端子情報源符号

図 9.

One-helps-one 問題．

B : Z n → Z lBと系列（ベクトル）c ∈ Z lA を用意する．図 9 で示されるように二つの符号器と復号器
ϕX : X n → X lB
ϕY : Y n → Z lB
ϕ−1 : X lB × Z lB → X n

を以下のように定める．
ϕX (x) ≡ Bx
gA (c, y)ϕY (y) ≡ B−1

ϕ(bX , bY ) ≡ gB (bX , gAB (c, bY )),ここで，
gA , gAB , gB を以下のように定める．
gA (c|y) ≡ arg  min D(νyz  µZ|Y |νy )z ∈CA (c)gAB (c, bY ) ≡ arg maxz ∈CAB (c,bY )gB (bX |z) ≡ arg  maxx ∈CB (bX )µZ (z  )µX|Z (x |z)

符号化レートの対 (RX , RY ) はl  log |X |RX ≡ BnlB log |Z|RY ≡nで与えられる．復号誤り確率 ErrorXY (A, B, B, c) は c) ≡ µXY (x, y) : ϕ−1 (ϕX (x), ϕY (y)) = x
ErrorXY (A, B, B,

215

216

統計数理

第 57 巻

第 2 号 2009

で与えられる．
直感的には，y の符号器にある gA は条件つき典型系列を探す部品であり，行列 B は見つ は z との相けた条件つき典型系列を無歪圧縮する部品である．一方で，x の符号器にある B
関を利用して圧縮する部品である．復号器にある gAB は圧縮した条件つき典型系列を伸長する部品で，これによって y から z を再生する．gB は再生した z との相関を利用して x を伸長する部品である．y を与えたときの条件つき典型系列 z が見つかるためには，c のレート
[c の長さ]/[x の長さ] は H(Z|Y ) より小さくなければならない．また，c, Bz より z を正しく再生出来るようになるためには，c と Bz のレートの和は H(Z) より大きくなければならない．
これらを満たすように y の符号化レートを H(Z) − H(Z|Y ) = I(Y ; Z) に近づけることが出来 のレート）る．一方で，z を正しく再生できれば x の符号化レート（Bx
を H(X|Z) に近づけることによって x を正しく再生出来る．具体的には以下の定理が成り立つ．
定理 3.（Muramatsu and Miyake, 2008a） (X, Y ) を定常無記憶情報源とする． εA , εB , εB > 0
に対して lB, lA , lB をそれぞれ式
（5.4）
（
，5.5）
（
，5.6）
で定めたとき，任意の δ > 0 と十分大きな nに対してRX = H(X|Z) + εB
RY = I(X; Z) + εB c) ≤ δ.
ErrorXY (A, B, B, ∈ B とベクトル c ∈ ImA が存在する．
を満たす（疎）行列 A ∈ A, B ∈ B, B
Muramatsu and Miyake（2008a）
では gA (c|x) で最尤法を用いているが，証明の方針をほとん
ど変えずに定理 3 を証明できる．
6.

ランダム符号の統一理論に向けて

本稿では，疎行列アンサンブルのハッシュ性に注目して，ネットワークを通した情報伝達の基本的な問題である，Slepian-Wolf 問題，Wyner-Ziv 問題，One-helps-one 問題に対する符号の構成を与えた．提案した符号は理論的には限界性能を達成可能であるが，疎行列と確率伝搬法
や線形計画法等の近似アルゴリズムを用いて実際に動作させたときにどの程度の性能を持つのかを調べることが今後の課題として残されている．
漸近的に最適な符号の存在定理の証明は大きく別けて二つのタイプがある．一つは Shannon（1948, 1959）にあるランダム符号化論法であり，もう一つは Cover（1975），Csiszár（1982）で代表されるような bin coding と呼ばれるランダム符号化論法である．漸近的に最適な符号の存
在定理は基本的にこれらの二つのランダム符号化論法を組み合わせることによって証明されている．
Shannon の方法は指数的に大きなデータベースのサイズや計算時間が必要のため，現実的でないと考えられており，離れた所にある情報源との相関を考慮するような符号化には向いていない．一方で，bin coding という手法は，疎行列と確率伝搬法や線形計画法等の近似アルゴリズ
ムが利用でき，離れた所にある情報源との相関を考慮するような符号化に向いている．ところ
が，（行列を用いた）bin coding の方法が Shannon のランダム符号化論法へ適用できるかどうかについては Matsunaga and Yamamoto（2003），Martinian and Wainwright（2006a），Martinianにあるような特殊な場合を除いて明らかではなく，Gallager（1968）にand Wainwright（2006b）
あるような量子化の方法が必要であった．
本稿で構成する符号は（疎）行列を Shannon の方法へ適応する方法を与えており，符号の存疎行列アンサンブルのハッシュ性と多端子情報源符号217

在定理はアンサンブルのハッシュ性が本質的であることがわかった．強いハッシュ性に注目した無歪情報源符号に関しては MacKay（2003），Koga（2007）の結果があるが，疎行列アンサ
ンブルのような弱いハッシュ性に拡張したり， Shannon のランダム符号化論法へ適用できることを明らかにしたのは Muramatsu and Miyake（2008a），Muramatsu and Miyake（2008b），
Muramatsu and Miyake（2009）の結果が最初である．
我々は，情報理論におけるほとんど全ての漸近的に最適な符号の存在定理がアンサンブルのハッシュ性を仮定するだけで証明できると予想している．これが真実なら，疎行列と近似復号
法の組合せでほとんどの符号を実現できることになる．実際，本稿で紹介しなかったいくつかの問題に対する符号の存在定理に関しては Muramatsu and Miyake（2008a, 2008b, 2009）で証明されている．

参 考 文 献Aji, S. M. and McEliece, R. J.（2000）. The generalized distributive law, IEEE Transactions on
Information Theory, 46, 325–343.
Carter, J. L. and Wegman, M. N.（1979）. Universal classes of hash functions, Journal of Computerand System Sciences, 18, 143–154.
. A proof of the data compression theorem of Slepian and Wolf for ergodic sources,
Cover, T. M.（1975）
IEEE Transactions on Information Theory, 21, 226–228.
. Linear codes for sources and source networks: Error exponents, universal coding,Csiszár, I.（1982）
IEEE Transactions on Information Theory, 28, 585–592.
Feldman, J., Wainwright, M. J. and Karger, D. R.（2005）. Using linear programming to decode binary
linear codes, IEEE Transactions on Information Theory, 51, 954–972.
Gallager, R. G.（1968）. Information Theory and Reliable Communication, John Wiley & Sons, Inc.,New York.
. Source coding using families of universal hash functions, IEEE Transactions on
Koga, H.（2007）
Information Theory, 53, 3226–3233.
. Factor graphs and the sum-product
Kschischang, F. R., Frey, B. J. and Loeliger, H. A.（2001）
algorithm, IEEE Transactions on Information Theory, 47, 498–519.
. Good error-correcting codes based on very sparse matrices, IEEE TransMacKay, D. J. C.（1999）
actions on Information Theory, 45, 399–431.
MacKay, D. J. C.（2003）. Information Theory, Inference, and Learning Algorithms, Cambridge University Press, Cambridge.
. Low density codes achieve the rate-distortion bound,
Martinian, E. and Wainwright, M.（2006a）
Proceedings of IEEE Data Compression Coference, 153–162.
. Low-density constructions can achieve the Wyner-Ziv andMartinian, E. and Wainwright, M.（2006b）
Gelfand-Pinsker bounds, Proceedings of 2006 IEEE International Symposium on Information
Theory, 484–488.
Matsunaga, Y. and Yamamoto, H.（2003）. A coding theorem for lossy data compression by LDPC
codes, IEEE Transactions on Information Theory, 49, 2225–2229.
. Lossy data compression over Zq by LDPC code, Proceedings of 2006 IEEE InterMiyake, S.（2006）
national Symposium on Information Theory, 813–816.
Muramatsu, J. and Miyake, S.（2008a）. Hash property and coding theorems for sparse matrices andmaximal-likelihood coding, submitted to IEEE Transactions on Information Theory, available
at arXiv:0801.3878[cs.IT], 2007.
. Hash property and fixed-rate universal coding theorems, subMuramatsu, J. and Miyake, S.（2008b）

統計数理

218

第 57 巻

第 2 号 2009mitted to IEEE Transactions on Information Theory, available at arXiv:0804.1183[cs.IT],2008.
Muramatsu, J. and Miyake, S.（2009）. Construction of codes for wiretap channel and secret key
agreement from correlated source outputs by using sparse matrices, in preparation for submission, available at arXiv:0903.4014[cs.IT], 2009.
Muramatsu, J., Uyematsu, T. and Wadayama, T.（2005）. Low density parity check matrices forcoding of correlated sources, IEEE Transactions on Information Theory, 51, 3645–3653.
. Thouless-Anderson-Palmer approach for lossy compression, Physical Review
Murayama, T.（2004）
E, 69, 035105（R）．
Shannon, C. E.（1948）. A mathematical theory of communication, Bell System Technical Journal,
27, 379–423, 623–656.
Shannon, C. E.（1959）. Coding theorems for a discrete source with a fidelity criterion, IRE National, 142–163.
Conventional Record, 7（Part 4）
Slepian, D. and Wolf, J. K.（1973）. Noiseless coding of correlated information sources, IEEE Transactions on Information Theory, 19, 471–480.
. A theorem on the entropy of certain binary sequences and applications II,
Wyner, A. D.（1973）
IEEE Transactions on Information Theory, 19, 772–777.
Wyner, A. D. and Ziv, J.（1973）. A theorem on the entropy of certain binary sequences and applications I, IEEE Transactions on Information Theory, 19, 769–771.
. The rate-distortion function for source coding with side information
Wyner, A. D. and Ziv, J.（1976）
at the decoder, IEEE Transactions on Information Theory, 22, 1–10.

Proceedings of the Institute of Statistical Mathematics Vol. 57, No. 2, 203–219 (2009)219

Hash Property of an Ensemble of Sparse Matrices andMulti-terminal Source Codes
Jun Muramatsu1 and Shigeki Miyake2
1 NTT Communication Science Laboratories, NTT Corporation
2 NTT Network Innovation Laboratories, NTT Corporation

The aim of this paper is to construct codes for basic multi-terminal coding problems
by using sparse matrices. These problems are the Slepian-Wolf problem, the Wyner-Ziv
problem, and the One-helps-one problem. To this end, the notion of a hash property for an
ensemble of functions is introduced and asymptotically optimal codes are constructed byusing this property. Since an ensemble of q-ary sparse matrices satisfies the hash property,
we can construct asymptotically optimal codes by using sparse matrices.

Key words: Information theory, hash property, codes using sparse matrices, Slepian-Wolf problem,
Wyner-Ziv problem, one-helps-one problem.