統計数理（2020）
第 68 巻 第 1 号 25–44©2020 統計数理研究所

特集「複雑な依存構造を持つデータの統計解析法 — コピュラとその周辺 — 」［原著論文］

セミパラメトリックコピュラモデルにおけるダイバージェンスの性質
清 智也† ・松本 和也†（受付 2019 年 5 月 31 日；改訂 9 月 27 日；採択 10 月 4 日）

要

旨

多次元の量的データに対し，コピュラとしてパラメトリックモデルを仮定し，周辺分布には何も仮定をおかない統計モデルのことをセミパラメトリックコピュラモデルという．本論文ではこのモデルにおけるダイバージェンスの性質を考察する．特に，多変量順位統計量の周辺分布によって定まる順位ダイバージェンスと，Kullback–Leibler ダイバージェンスの局外パラメータに関する最小値として定義されるプロファイルダイバージェンスの関係を調べる．また区分一様コピュラとガウスコピュラの場合について具体的な計算結果を示す．
キーワード：コピュラ，最適輸送理論，情報幾何，ダイバージェンス，複合変換モデル，ホロノミック勾配法．
1.

はじめに

d 次元の確率密度関数 c(x) (x = (x1 , . . . , xd ) ∈ [0, 1]d ) がコピュラ密度であるとは，全ての 1次元周辺密度が [0, 1] 上の一様密度になることと定義する．Sklar の定理から，Rd 上の任意の確率密度関数 p(x) = p(x1 , . . . , xd ) は(1.1)

p(x1 , . . . , xd ) = c(F1 (x1 ), . . . , Fd (xd ))dFi (xi )i=1という形で一意的に表すことができる．ここで c はコピュラ密度，Fi は xi の周辺分布関数を表す．また Fi は Fi の導関数である．コピュラ密度 c にパラメトリックモデルを仮定し，周辺分布
Fi には仮定をおかない統計モデルのことをセミパラメトリックコピュラモデル
（semiparametricという．より正確な定義は式（3.2）で与える．
copula model）
セミパラメトリックコピュラモデルのパラメータ推定については様々な研究がある．Klaassen
は 2 変量ガウスコピュラの場合に擬似最尤推定量および正規スコア順位相
and Wellner（1997）
関係数が漸近有効推定量を与えることを示した．Genest and Werker（2002）は，ガウスコピュ
は周ラ以外では擬似最尤推定量が必ずしも漸近有効でないことを指摘した．Chen et al.（2006）
辺分布の推定に sieve を用いることで漸近有効推定量を構成した．Tsukahara（2005）は順位統
計量のみに依存した推定量のクラスを与え，その漸近的性質を明らかにした．順位統計量のみに依存した漸近有効推定量の構成は重要な未解決問題となっている．ガウスコピュラの部分モが漸近有効情報量を特徴付け，Segers et al.（2014）
が実際に漸デルに限れば，Hoﬀ et al.（2014）†

東京大学大学院 情報理工学系研究科：〒 113–8656 東京都文京区本郷 7–3–1

統計数理

26

第 68 巻 第 1 号 2020

近有効推定量を構成した．その他，コピュラに関する総合的な解説は塚原（2011）を参照されたい．
本論文ではセミパラメトリックコピュラモデルにおけるダイバージェンスの性質を調べる．
Kullback–Leibler ダイバージェンスを規範として，順位ダイバージェンスとプロファイルダイ
バージェンスという 2 つの量を定義する．これらはそれぞれ順位尤度（Hoﬀ, 2007）とプロファ
イル尤度の母集団特性を表したものである．いずれも一般には陽に計算できないが，区分一様
コピュラに限れば具体的に計算を進めることができる．その結果，正則条件のもとで順位ダイ
バージェンスがプロファイルダイバージェンスに収束することが示される（定理 2）．またガウ
スコピュラの場合，プロファイルダイバージェンスの計算は有限次元の最適化問題に帰着され，順位ダイバージェンスは多次元正規分布の象限確率で表される．後者はホロノミック勾配法を利用して計算できる．以上の結果は推定量の性能を知るための手がかりを与えるものと考えられる．
論文の構成は以下の通りである．まず 2 節では簡単な例を通してセミパラメトリックコピュ
ラモデルにおけるダイバージェンスを論ずる必要性を確認する．3 節では実際にダイバージェ
ンスを定義し，基本的な定理を与える．4 節と 5 節ではそれぞれ区分一様コピュラとガウスコ
ピュラの場合について具体的な計算結果を示す．最後に 6 節で今後の課題を述べる．
2.

簡単な例

簡単な例として，次のような 2 次元の区分一様分布を考えてみよう．正方形領域 [0, 1]2 を 4
つの小さい正方形に分割し，それぞれの領域で定数となるようなコピュラ密度c(x1 , x2 ) =1.8

if (x1 , x2 ) ∈ [0, 12 )2 ∪ [ 12 , 1]2 ,0.2

otherwiseを考える（図 1（a））．また 1 次元の分布関数として



(2.1)

F1 (ξ) = F2 (ξ) =2
ξ31+ 2(ξ − 34 )2

if ξ ∈ [0, 34 ),if ξ ∈ [ 34 , 1]を選び，式（1.1）
によって密度 p(x1 , x2 ) を定義すれば，

⎧
⎪
⎪
⎨0.8

p(x1 , x2 ) =

0.8/3

⎪
⎪
⎩7.2

if (x1 , x2 ) ∈ [0, 34 )2 ,if (x1 , x2 ) ∈ ([0, 34 ) × [ 34 , 1]) ∪ ([ 34 , 1] × [0, 34 ))if (x1 , x2 ) ∈ [ 34 , 1]2 ,

となる
（図 1
（b））．c(x1 , x2 ) と p(x1 , x2 ) は周辺分布を変えただけであり，式（1.1）のコピュラ部
分は共通であることに注意する．
（独立コピュラ）とすれば，u と c の間の Kullback–
ところが，いま u(x1 , x2 ) = 1 を一様密度
Leibler ダイバージェンスはKL(u, c) =u(x) log[0,1]2

u(x)
dx
c(x)

1
1
1
1
log
+ log
2
1.8
2
0.2
≈ 0.511=となるのに対し，u と p の間のダイバージェンスは

セミパラメトリックコピュラモデルにおけるダイバージェンスの性質

27

図 1．周辺密度は異なるがコピュラ部分は等しい 2 つの密度関数．各領域内の数値は密度関数の値を表す．一様密度からの Kullback–Leibler ダイバージェンスは c(x1 , x2 ) よりも p(x1 , x2 ) の方が小さい．

KL(u, p) =

3
4

2

log

3
1
+2
0.8
4

1
1
log
+
4
0.8/3

1
4

2

log

1
7.2

≈ 0.498となる．つまり，u から見て c よりも p の方が少し近いことが分かる．
このように，周辺分布を動かすことでダイバージェンスの値は変化する．その最小値を本稿
ではプロファイルダイバージェンスと呼ぶ．一方，次節で詳しく見るように，セミパラメト
リックコピュラモデルの情報は順位統計量に集約されていると考えることができる．そこで順位統計量に基づいて定義されるダイバージェンスを順位ダイバージェンスと呼ぶ．これらの関係を明らかにすることが本研究の主題である．
3.

順位ダイバージェンスとプロファイルダイバージェンス

ここではまず，セミパラメトリックコピュラモデルが座標ごとの変数変換に関して不変であ．よって複合変換モデル（付録 A）として扱うこることを説明する（Hoﬀ, 2007; Hoﬀ et al., 2014）とができる．この観点から順位ダイバージェンスとプロファイルダイバージェンスという 2 つのダイバージェンスを定義する．また両者の関係を定理として与える．
3.1 セミパラメトリックコピュラモデル
セミパラメトリックコピュラモデルを改めて定義しよう．[0, 1]d 上の正値確率密度関数の全体を P と表す．ただし密度関数 p(x) が正値であるとはほとんどいたるところで p(x) > 0 という意味とする．また座標ごとの変数変換 T (x) = (T1 (x1 ), . . . , Td (xd )) のうち，各 Ti : [0, 1] → [0, 1]が単調増加，全単射かつ Ti も Ti−1 も絶対連続であるようなものの全体を T と表す．たとえば式（2.1）で考えた周辺分布の組 (F1 , F2 ) は T の元である．T は関数の合成に関して群をなす．
密度 p ∈ P と変換 T ∈ T に対し，密度の押し出し T∗ p ∈ P を(3.1)(T∗ p)(x1 , . . . , xd ) = p(T1−1 (x1 ), . . . , Td−1 (xd ))d(Ti−1 ) (xi )i=1によって定義する．これは p に従う確率変数ベクトルを T で変数変換したときに得られる密度関数である．この写像 (T, p) → T∗ p によって T は P に作用する．この作用に関する軌道（同値

28

統計数理

第 68 巻 第 1 号 2020類）を [p] = {T∗ p | T ∈ T } と表す．Sklar の定理より，各軌道にはコピュラ密度がただ一つ存在する．つまり，コピュラを指定することは軌道を指定することと同じである．
ここではコピュラと変換群の整合性を考えて [0, 1]d 上の密度関数に限定したが，Rd 上の密度関数を扱うことももちろん可能である．その場合，Rd から (0, 1)d への変換をあらかじめ一
つ定めておけば，結果として Rd から Rd への変数変換を扱うことができる．
以上の記法のもとで，セミパラメトリックコピュラモデルは，(3.2)

M = {T∗ cθ | θ ∈ Θ, T ∈ T }と定義される．ただし {cθ | θ ∈ Θ} はパラメトリックなコピュラ密度の族である．パラメト
リックコピュラのいろいろな例は Nelsen（2006）を参考にされたい．本稿では 4 節と 5 節でそれぞれ区分一様コピュラとガウスコピュラを扱う．
モデル M は T の作用に関して複合変換モデルとなる．興味のあるパラメータは θ である．
つまり，個々の分布ではなく軌道に興味がある．そこで，2 つの軌道 [p], [q] の間のダイバージェンスを定義したい．
3.2 順位ダイバージェンスp ∈ P を真の密度とし，p に従うランダム標本 X = (xti )1≤t≤n,1≤i≤d を考える．ここで n はサンプルサイズである．連続分布を考えているので，各 i に対して {xti }nt=1 は相異なる値を取る
ものと仮定してよい．次の命題は 1 次元の場合にはよく知られており（たとえば Eaton, 1983;
吉田, 2006），多次元の場合にも同様に示される．最大不変量の定義は付録 A を参照せよ．
. セミパラメトリックコピュラモデルにおける最大不変量は，多変量順
命題 1（Hoﬀ, 2007）
位統計量
rti = {s ∈ {1, . . . , n} | xsi ≤ xti }, 1 ≤ t ≤ n, 1 ≤ i ≤ d,である．ただし A は集合 A の要素数を表す．また行列表記で R = (rti ) と表す．
以下では多変量順位統計量を単に順位統計量と呼ぶ．真の密度が p のとき，順位統計量 R の（rank likelihood）と呼ぶ．R の取り得る値は有限個（正確に周辺分布を p̄n (R) と表し，順位尤度
は (n!)d 個）であるから，p̄n は離散分布であることに注意しよう．
順位尤度は高次元の積分によって記述することができる．実際，順位統計量 R と矛盾しない
標本 X ∈ Rn×d の集合を {R(X) = R} と表せば，密度 p に対する順位尤度は



(3.3)

n


p̄n (R) =p(xt1 , . . . , xtd )dX{R(X)=R} t=1と書ける．4 節で述べる通り，区分一様分布の場合には積分を含まない形で書き下すことができる．
順位尤度を用いて，順位ダイバージェンスを次のように定義する．
定義 1.
(3.4)

密度関数 p, q ∈ P と標本サイズ n に対し，
1KL(p̄n , q̄n )np̄n (R)1=p̄n (R) lognq̄n (R)

Dn ([p], [q]) =Rを順位ダイバージェンス (rank divergence) という．

セミパラメトリックコピュラモデルにおけるダイバージェンスの性質

29

Dn ([p], [q]) が well-deﬁned であることは，p̄n (R) が [p] の元の選び方に依存しないことからの右辺において n で割っているのは，順位統計量 R が O(n) の情報を言える．また式（3.4）
持っていることを考慮したものである．Kullback–Leibler ダイバージェンスの単調性と加法性から（Kullback, 1959）(3.5)

Dn ([p], [q]) ≤1
KL(pn , qn ) = KL(p, q)nが成り立つ．ここで pn , qn はそれぞれ p, q からの標本 X ∈ Rn×d の同時密度関数を表す．
順位ダイバージェンスは正値性（識別性）を満たさない．すなわち [p] = [q] であってもDn ([p], [q]) = 0 となる場合がある．実際，次のような例が存在する．2 次元コピュラ密（たとえば度 p で対称性 p(x1 , x2 ) = p(1 − x1 , x2 ) を満たし，かつ一様でないものを選ぶ
p(x1 , x2 ) = 1 + cos(2πx1 ) cos(2πx2 ) など）．このとき式（3.3）と p の対称性より p̄2 (R) は離散一様分布となる．しかし一様密度 u の順位尤度 ū2 (R) も離散一様分布となるから D2 ([p], [u]) = 0となり，正値性が成り立たない．
となるような [p] = [q] は（正則条件のもとで）存在
一方，「全ての n に対して Dn ([p], [q]) = 0」
しない．これは後の定理 1 と定理 2 より示される．
3.3 プロファイルダイバージェンスの類推により，次のダイバージェンスを考えることは自然である．
複合変換モデル（付録 A）

定義 2.
(3.6)

密度関数 p, q ∈ P に対してプロファイルダイバージェンスをD̃([p], [q]) = inf KL(T∗ p, U∗ q)
T,U ∈T= inf KL(T∗ p, q)T ∈Tと定義する．2 番目の等号は Kullback–Leibler ダイバージェンスの不変性 KL(T∗ p, T∗ q) =KL(p, q) より従う．
p, q がともにコピュラ密度であったとしても一般には D̃([p], [q]) < KL(p, q) となる．2 節で挙げた例はそのような例である．
D̃([p], [q]) = KL(p, q) が成り立つための p, q の条件を調べておこう．計算の便宜上，写像T ∈ T による密度 q ∈ P の引き戻しを(3.7)(T ∗ q)(x) = q(T1 (x1 ), . . . , Td (xd ))dTi (xi )i=1と定義する．これは式（3.1）
で定義した押し出しの逆演算である．KL(T∗ p, q) = KL(p, T ∗ q) となることに注意しよう．
命題 2. p, q は (0, 1)d において連続的微分可能な（コピュラ密度とは限らない）確率密度関数とする．このとき D̃([p], [q]) = KL(p, q) が成り立つための必要条件は(3.8)∂i log pi (xi ) = Ep [∂i log q(x)|xi ],i = 1, . . . , d,である．ただし pi は p の周辺密度，∂i は xi による偏微分，Ep [·|·] は密度 p に関する条件付き期待値を表す．さらに，q が対数凹 (log-concave) であれば式（3.8）は十分条件にもなる．
証明.

変分法による．Ti (xi ) = xi + δTi (xi ) とおき，δTi (xi ) は開区間 (0, 1) 内にコンパクト

統計数理

30

第 68 巻 第 1 号 2020なサポートを持つ滑らかな関数とする．KL(p, T ∗ q) を δTi について 1 次まで展開すると
(3.9)



∗

KL(p, T q) =p(x) logp(x)dxq(T (x)) i Ti (xi )KL(p, q) −i

(3.10)

p(x)(∂i log q(x))δTi (xi )dx −p(x)δTi (xi )dxi{−p(x)∂i log q(x) + ∂i p(x)} δTi (xi )dx= KL(p, q) +ipi (xi ) {Ep [−∂i log q(x)|xi ] + ∂i log pi (xi )} δTi (xi )dxi

= KL(p, q) +iとなる．ただし（3.10）の等号は部分積分と境界条件 δTi (0) = δTi (1) = 0 による．よって停留条件（3.8）を得る．また q が対数凹ならば，T 上の汎関数 T → KL(p, T ∗ q) は式（3.9）より凸になる
ので，停留条件が満たされればそれが最適解となる．
上の証明の最後で，集合 T の凸性，および汎関数 T → KL(p, T ∗ q) の凸性を用いた．これ
らは最適輸送理論の文脈では displacement convexity と呼ばれる性質である（McCann, 1997;．また命題 2 は p, q のサポートが [0, 1]d でない場合にも同様に成立する．
Villani, 2003）
命題 2 において特に q を [0, 1]d 上の一様密度とおけば，式（3.8）は ∂i pi = 0，つまり p がコ
ピュラ密度であることと同値である．またこのとき KL(p, q) = p(x) log p(x)dx はエントロ
ピーの −1 倍である．こうして次の結果を得る．
系 1. p ∈ P がコピュラ密度であるための必要十分条件は，p が軌道 [p] の中でエントロピー最大となることである．
3.4 主結果
順位ダイバージェンスとプロファイルダイバージェンスに関する主定理を示す．式（3.5）より，両者には一般に Dn ([p], [q]) ≤ D̃([p], [q]) という関係が成り立つことに注意しよう．
まずプロファイルダイバージェンスの正値性に関して次の定理が成り立つ．

定理 1. p, q は正値のコピュラ密度関数とし，q は上に有界かつ上半連続とする．このときD̃([p], [q]) = KL(p, T ∗ q) を満たす T ∈ T が存在する．特に p = q ならば D̃([p], [q]) > 0 となる．
以 下 の 証 明 に は 最 適 輸 送 理 論 の 帰 結 が 用 い ら れ る ．そ こ で は 最 小 化 問 題 D̃([p], [q]) =inf T ∈T KL(T∗ p, q) が輸送写像 T に関するエネルギー最小化問題と解釈される．
証明. p = q の場合は T を恒等写像とすればよい．以下 p = q とする．プロファイルダイ
バージェンスの定義より，KL(pm , q) が D̃([p], [q]) に収束するような密度関数の列 {pm }∞m=1 ⊂ [p]が取れる．{pm } は確率分布列としてタイトであるから，最初から弱収束先が存在すると仮定してよい．ところで仮定より q(x) は有界だから q(x) ≤ M とすれば

pm (x) log pm (x) dx = KL(pm , q) +pm (x) log q(x)dx≤ KL(pm , q) + log Mとなる．よってlim infm→∞pm (x) log pm (x)dx ≤ D̃([p], [q]) + log M < ∞セミパラメトリックコピュラモデルにおけるダイバージェンスの性質31が成り立つ．すると pm の弱収束先は絶対連続となる（McCann, 1997, Corollary 3.5）．この収束先の密度関数を p∞ とおけば



pm (x) log pm (x)dx ≥lim infm→∞

p∞ (x) log p∞ (x)dxが成り立つ（McCann, 1997, Lemma 3.4）
．また q(x) の上半連続性より



lim infm→∞pm (x) log(1/q(x))dx ≥p∞ (x) log(1/q(x))dxも成り立つ（van der Vaart, 2000）
．以上から



D̃([p], [q]) = limm→∞pm (x) log

pm (x)dx ≥q(x)p∞ (x) log

p∞ (x)
dx > 0q(x)を得る．最後の不等号は p∞ と q が異なる密度であることによる．実際に p∞ = q であること/ P の場合（p∞ のサポートが [0, 1]d の真部分集合の場は以下のようにして示される．まず p∞ ∈合）は明らかに p∞ = q である．よって p∞ ∈ P と仮定してよい．このとき p∞ ∈ [p] であること/ [p] より）
．さて pm の弱収束先が p∞ であったから，pm の周辺分布もを示せば十分である（q ∈p∞ の周辺分布に弱収束する．すると，pm = (Tm )∗ p を満たす写像列 Tm ∈ T は，ある T ∈ T に．したがって pm = (Tm )∗ p は T∗ p に弱収束する
一様収束する（T は p∞ の周辺分布から定まる）．よって p∞ = T∗ p ∈ [p] が従う．以上で定理 1 が示された．
（例えば吉田, 2006 の定理 1.54）
定理 1 における q の有界性は証明の都合によるものであり，必要ではない．実際，ガウスコ
ピュラの場合はこの仮定が満たされないが，プロファイルダイバージェンスの正値性は直接確認できる（5 節）．定理の条件を緩めることは今後の課題である．
次の結果は有限次元の複合変換モデルに対して成り立つ事実（付録 A）の類推である．
定理 2. p, q は正値かつ連続なコピュラ密度関数とし，ある正の定数 C0 , C1 が存在して任意の x ∈ [0, 1]d に対して C0 ≤ p(x), q(x) ≤ C1 を満たすものとする．真の密度が p のとき，n → ∞のもとで確率 1 でp̄n (R)1limlog= D̃([p], [q])n→∞ nq̄n (R)が成立する．また順位ダイバージェンスはプロファイルダイバージェンスに収束する：
lim Dn ([p], [q]) = D̃([p], [q]).

n→∞以下の証明には，4 節で示す区分一様コピュラに関する結果を用いる．
．p = pθ ,証明. 2 次元の場合を証明する．まず 2 次元の区分一様密度を考える（式（4.5）参照）
I×J
であり，θij および φij は長方形領域
q = pφ とおく．ここで θ = (θij ), φ = (φij ) ∈ R
j−1 ji
Aij = [ i−1
,
)
×
[
,
)
における定数の確率密度を表す．真の密度がp であるとして q̄n (R) のI
IJJ
漸近形を求める．定理 3 より  n (R,σ,τ )1q̄n (R) = (IJ)−nφijij
σ ! j τj !
i i
σ

τ

i

j

となる．ただし nij = nij (R, σ, τ ) は長方形領域 Aij に入る観測値の度数を表し，σ = (σi ), τ =(τj ) は周辺度数を表す．π̂ij = nij /n とおくと，

統計数理

32

第 68 巻 第 1 号 2020





nπ̂

i

log q̄n (R) = −n log(IJ) + log
σ

i

τ

j

φij ij(nπ̂i+ )!

j(nπ̂+j )!

となる．ここで全ての非負整数 m に対して m log m − m ≤ log m! ≤ (m + 1) log(m + 1) − mが成り立つ（たとえば Feller（1968）の II.9 節）．また σ, τ の取り得る値の個数はそれぞれ
n+I−1 n+J−1
,であり，これは n に関して多項式オーダーである．よってラプラス近似を適
n
n
用でき，



1
log((n!)2 q̄n (R)) = sup
n
σ,τ



π̂ij log φij −ijπ̂i+ log(I π̂i+ ) −i

π̂+j log(J π̂+j )+ o(1)

jが言える．ここで o(1) は n → ∞ のもとで R に関して一様に 0 に収束する項である．さて経験nT:= P̂ (T −1 (Aij )) と測度 P̂ = n−1 t=1 δ(xt1 ,xt2 ) を用いると，ある T ∈ T が存在して π̂ij = π̂ij
−1
書ける．ただし Aij は上で定義した長方形領域である．さらに T は各 T (Aij ) において線形としてよい．このとき写像 T を動かすことと σ, τ を動かすことは同値となる．よって

1log((n!)2 q̄n (R)) = sup
n
T



T
π̂ij
log φij −
i

j

T
π̂i+
log(I π̂i+ ) −
i

T
π̂+j
log(J π̂+j )+ o(1)jが得られる．Glivenko–Cantelli の定理（たとえば van der Vaart, 2000）から，確率 1 で，T に
T
T
は πij
:= P (T −1 (Aij )) に収束する．ここで P は真の確率分布，すなわちついて一様に π̂ij
P (dx) = p(x)dx である．よって確率 1 で



1
lim
log((n!)2 q̄n (R)) = sup
n→∞ n
T



T
πij
log φij −
i

T
T
πi+
log(Iπi+
)−

j

i

j

−1

となる．一方，T が各 T (Aij ) において線形であるから，x ∈ T
T) などが言えるので，1/(Iπi+KL(p, T ∗ q) =

p(x) log p(x)dx +p(x) log
i



j

ij )

T
πij
log φij +p(x) log p(x)dx −=T −1 (Aijとなる．以上から
1limlog((n!)2 q̄n (R)) =
n→∞ n

T
T
π+j
log(Jπ+j)−1(Aij ) のとき T1 (x1 ) =1dx
φij T1 (x1 )T2 (x2 )TTπi+log(Iπi+
)+
i



T
T
π+j
log(Jπ+j)jp(x) log p(x)dx − inf KL(p, T ∗ q)Tが示された．p̄n (R) についても同じことが言えるので，結局
1
log
n→∞ n
lim



p̄n (R)q̄n (R)= − inf KL(p, T ∗ p) + inf KL(p, T ∗ q)TT∗

= inf KL(p, T q)
T

= D̃([p], [q])が得られる．最後の等号は命題 3 による．
p, q が区分一様とは限らない有界連続密度の場合は，いったん密度を区分一様密度で近似すればよい．つまり，任意の ε > 0 に対して (1 − ε)pε ≤ p ≤ (1 + ε)pε を満たす区分一様密度 pεセミパラメトリックコピュラモデルにおけるダイバージェンスの性質

33が存在するので（q も同様），これに基づいて順位尤度を評価すれば
p̄n (R)(1 + ε)n p̄ε,n (R)
1
1
1+ε
log
≤ log
→ log
+ D̃([pε ], [qε ])nq̄n (R)n(1 − ε)n q̄ε,n (R)1−ε(n → ∞)

が成り立つ（下側の評価も同様）．この不等式で ε → 0 とすればよい．
順位ダイバージェンスの収束は有界収束定理より従う．実際，仮定から C0 ≤ p(x) ≤ C1 であるから，C0n ≤ p̄n (R) ≤ C1n が成り立つ．q̄n (R) についても同様なので n−1 log(p̄n (R)/q̄n (R))
は有界である．
この定理により，セミパラメトリックコピュラモデルの漸近的な性質はプロファイルダイ
バージェンスが担っていると考えることができる．
4.

区分一様コピュラ

前節で定義した順位ダイバージェンスやプロファイルダイバージェンスは一般には陽に計算できない．しかし区分一様分布やガウス分布に限れば計算を進めることができる．本節では区分一様分布を考える．2 次元に限定して議論を進めるが，多次元でも同様の結果が成り立つ．な
お区分一様分布はチェス盤分布（chessboard distribution）とも呼ばれる（Ghosh and Henderson,．
2001）
4.1 プロファイルダイバージェンス I, J を正の整数とし，[0, 1]2 を I × J 個の小長方形に分けてそれぞれ Aij = i−1, Ii × j−1, JjIJ(1 ≤ i ≤ I, 1 ≤ j ≤ J) とおく．密度関数 p が区分一様（piecewise uniform）であるとは，p(x1 , x2 ) = pij

if(x1 , x2 ) ∈ Aij ,I

1 ≤ i ≤ I,

J

1≤j≤J

と書けることとする．ここで pij は i=1 j=1 pij /IJ = 1 を満たす正の実数である．区分一様密度がコピュラ密度であるための必要十分条件は
I

i=1

pij
=1
I

J

(1 ≤ j ≤ J),
j=1

pij
=1
J

(1 ≤ i ≤ I)となることである．したがって区分一様コピュラ密度全体は (I − 1)(J − 1) 次元のパラメト
リックモデルとなる．一見すると分割表モデルと同じだが，2 節で既に論じたように，ダイ
バージェンスの構造は異なるものとなる．
次の命題から，q が区分一様である限り，プロファイルダイバージェンス D̃([p], [q]) の計算
は有限次元の最適化問題に帰着されることが分かる．
命題 3. p を任意のコピュラ密度，q を区分一様コピュラ密度とし，領域 Aij における q(x)の値を qij とする．このとき D̃([p], [q]) = KL(p, T ∗ q) を達成する T = (T1 , T2 ) ∈ T は(4.1)

ξi = T1−1 (i/I),ηj = T2−1 (j/J)(1 ≤ i ≤ I − 1,

1 ≤ j ≤ J − 1)

を節点とする区分線形変換 T1 , T2 で与えられる．ここで ξi , ηj は次の最小化問題の解である：

ξi  η j(4.2)

Minimizep(x)dx
i

j

ξi−1

log

ηj−1

(ξi − ξi−1 ) log(ξi − ξi−1 ) +

+
i

1
qij
(ηj − ηj−1 ) log(ηj − ηj−1 )

j

統計数理

34

subject to

第 68 巻 第 1 号 2020

0 = ξ0 < ξ1 < · · · < ξI = 1, 0 = η0 < η1 < · · · < ηJ = 1.

この目的関数は KL(p, T ∗ q) と定数差を除いて等しい．
証明. {ξi }, {ηj } を固定し，式（4.1）
を満たす T の中で KL(p, T ∗ q) が最小となるのは区分線形変換であることを示す．このとき q の区分一様性から q(T (x)) は T の選び方によらないので
(4.3)



∗

KL(p, T q) =p(x) logp(x)dxq(T (x))T1 (x1 )T2 (x2 ) 1= (const.) −0log T1 (x1 )dx1 − 1
0log T2 (x2 )dx2となる．ただしコピュラ密度の条件 p(x)dx2 = p(x)dx1 = 1 を用いた．さて，一般に
1t(0) < t(1) を固定したもとで − 0 log t (x)dx を最小化する単調増加関数 t(x) は一次式であ11る．実際，− log の凸性から − 0 log t (x)dx ≥ − log 0 t (x)dx = − log(t(1) − t(0)) となり，等号は t (x) = 0 のとき成立する．以上から，T1 , T2 は区分線形である．式（4.2）の目的関数は，
x1 ∈ [ξi−1 , ξi ] のとき T1 (x1 ) = 1/(I(ξi − ξi−1 )) などに注意すれば，式（4.3）より得られる．
式（4.2）の最適化問題は一般に非凸であり，解の一意性は成り立たない．しかし定理 1 より解は必ず存在する．
以下，I = J = 2 の場合を詳しく見てみよう．すなわち次の形のコピュラ密度を考える：

cθ (x) =1+θ

if x ∈ [0, 1/2]2 ∪ [1/2, 1]2 ,1−θ

otherwise.

ただし −1 < θ < 1 とする．2 節で考えたコピュラ密度もこの形であった．θ = 0 の場合は一様密度となる．
実は，次の命題に示すような「分岐現象」
が成り立つ．ξ1 , η1 の定義は上と同様である．
命題 4.

θ > 0 とする．このとき一様密度 u と cθ の間のプロファイルダイバージェンスはD̃([u], [cθ ]) =KL(u, cθ )if 0 < θ ≤ tanh(1),KL(u, T ∗ cθ )if tanh(1) < θ < 1となる．ここで T = (T1 , T2 ) は区分線形変換であり，その節点は ξ1 = η1 = ξ または 1 − ξ で与えられる．ただし ξ は次の方程式の一意的な解である：



1
ξ=
2

(4.4)

証明.

1+

ξ
log 1−ξ
1+θ
log 1−θ,1< ξ < 1.
2

式（4.2）の目的関数を f (ξ1 , η1 ) とおく．f の停留点の方程式は



1
η1 =
2

1+

ξ1
log 1−ξ1
1+θ
log 1−θ



,

ξ1 =

1
2


1+

η1
log 1−η1



1+θ
log 1−θ

1+θ
となる．この方程式は | log 1−θ| ≤ 2 すなわち |θ| ≤ tanh(1) のときは (ξ1 , η1 ) = (1/2, 1/2) という一意解を持ち，|θ| > tanh(1) のときは (1/2, 1/2) の他に対称な 2 つの解 (ξ, ξ), (1 − ξ, 1 − ξ) を（4.4）
の解である．また f のヘッセ行列は持つことが示される．ただし ξ は式

セミパラメトリックコピュラモデルにおけるダイバージェンスの性質

35

図 2．分岐現象．（a）θ = tanh(1) を境にして，最適な写像 T は切り替わる．（b）ダイバー
ジェンス KL(u, cθ )，順位ダイバージェンス Dn ([u], [cθ ]) (n = 800)，プロファイルダ
イバージェンス D̃([u], [cθ ]) を θ の関数としてプロットしたもの．

1
ξ1 (1−ξ1 )2 log 1−θ1+θ2 log 1−θ
1+θ1
η1 (1−η1 )となる．特に θ > tanh(1) ならば ξ1 = η1 = 1/2 は極小点とならず，ξ1 = η1 = ξ および ξ1 =
η1 = 1 − ξ が極小点となる．
式（4.4）を θ について解くと
θ=

ξ
( 1−ξ
)1/(2ξ−1) − 1ξ( 1−ξ)1/(2ξ−1) + 1

1
<ξ<1
2

,

となる．たとえば ξ = 34 とすると，θ = 0.8 となる．これが 2 節で与えた例である．
命題 4 から，一様密度からのダイバージェンスに関して，θ = tanh(1) を境として分岐現象が生ずる．この様子を図示したものが図 2 である．なお，θ → 1 のとき D̃([u], [cθ ]) は log 2 に近づくことも示せる．特にプロファイルダイバージェンスは有界となる．これは，θ → 1 のとき KL(u, cθ ) → ∞ となることに比べると対照的である．
4.2 区分一様コピュラの順位尤度
区分一様コピュラのもとで，順位尤度を求める．区分一様コピュラモデル
(4.5)

pθ (x1 , x2 ) = θij

if (x1 , x2 ) ∈ Aij

を考える．ただし Aij は前項で定義した小領域であり，θij は i θij /I = 1, j θij /J = 1 を満たすものとする．このモデルに従うランダム標本 X = {(xt1 , xt2 )}nt=1 の同時密度関数は(4.6)(IJ)−n

J
I 

n

θijij

i=1 j=1となる．ここで nij は各 Aij に入った観測値の度数である．度数分布 (nij ) は (θij ) の十分統計量となる．ただし実際には X は観測されず順位統計量 R だけが観測されるので，(nij ) は潜在変数となる．

統計数理

36

第 68 巻 第 1 号 2020



度数分布 (nij ) の周辺度数を σi = ni+ = j nij ，τj = n+j = i nij とおく．σ = (σi ), τ = (τj )が与えられたもとでは，R が決まれば (nij ) が確定する．これを nij = nij (R, σ, τ ) と表す．
定理 3.
(4.7)

区分一様コピュラ密度に対し，順位尤度は  n (R,σ,τ )1p̄n (R) = (IJ)−n
θijij
σ
!
τ
!
i i
j j
σ

τ

i

j

となる．ここで σ, τ は周辺度数全体を動くものとする．
証明.

p̄n (R) を単に p(R) と表す．式（4.6）
より，N := (nij ) の周辺分布は
n!

p(N ) =
i

j

nij !

(IJ)−n nθijij ,ijで与えられる．次に N を固定したもとでの R の条件付き分布 p(R|N ) を求める．N は θ に関して十分統計量であるから，p(R|N ) は θ には依存しない．したがって，X が一様分布から生成されたと仮定して p(R|N ) を計算すればよい．さて σ, τ は N だけで決まるから，
p(R|N ) = p(R|N, σ, τ )p(R, N |σ, τ )p(N |σ, τ )⎧⎨ p(R|σ, τ ) if N = N (R, σ, τ ),= p(N |σ, τ )⎩0otherwise=となる．いま X が一様分布からのサンプルであるとしているから，p(N |σ, τ ) は超幾何分布となり，また p(R|σ, τ ) = p(R) = 1/(n!)2 となる．以上からp(R) =

p(R|N )p(N )




N

τ

1

p(R|σ, τ )p(N )
p(N |σ, τ )τ

1 n! i(n!)2 i σi !

=
σ

=
σ

N =N (R,σ,τ )

j

nij !
j

τj !





n

(IJ)−nθijij 
n
!

j ij
i
j

n!
i

N =N (R,σ,τ )となり，これを整理すれば式（4.7）
が得られる．
図2（b）にある順位ダイバージェンスのグラフは定理 3 の結果とモンテカルロ法を利用して計算したものである．
5.

ガウスコピュラの場合

ガウスコピュラとは，座標ごとの変数変換によって多変量正規分布となるようなコピュラのことである．2 つのガウスコピュラの間のプロファイルダイバージェンスは簡単な形になる．
また順位尤度は多次元正規分布の象限確率の計算に帰着される．これらの結果を述べる．
なお，3 節で注意した通り，Rd 上の 2 つの密度関数の間のダイバージェンスはいったん(0, 1)d 上の密度関数に帰着させて定義する．しかし結果として Rd 上の変数変換を考えればよいことになるので (0, 1)d を意識する必要はない．

セミパラメトリックコピュラモデルにおけるダイバージェンスの性質

37

5.1 プロファイルダイバージェンス
ガウスコピュラに対してはプロファイルダイバージェンスが有限次元の凸最適化によって計算できる．これを示そう．平均ベクトル 0，共分散行列 Σ の正規分布の密度関数を φΣ と記す．
またベクトル u を対角成分とする対角行列を diag(u) と表す．

命題 5. P, Q を d 次正定値対称行列とし，p = φP , q = φQ とおく．このとき D̃([p], [q]) =KL(p, T ∗ q) を満たす T は線形変換 T (x) = diag(u)x で与えられる．ここで u = (ui ) は次の凸最適化問題の解である：(5.1)

1
tr(Q−1 diag(u)P diag(u))
2Minimize−subject to

u1 , . . . , ud > 0.

log ui +i

この目的関数は KL(p, T ∗ q) と定数差を除いて等しい．
証明.

q は対数凹である．よって，T (x) = diag(u)x が命題 2 の停留条件∂i log pi (xi ) = Ep [(∂i log(T ∗ q))(x)|xi ]を満たすことをチェックすれば十分である．左辺は ∂i log pi (xi ) = −Pii−1 xi である．右辺はEp [(∂i log(T ∗ q))(x)|xi ] = −ui (Q−1 )ij uj Ep [xj |xi ]jui (Q−1 )ij uj Pji Pii−1 xi=−j= −Pii−1 xiとなる．最後の等号は式（5.1）の停留条件による．式（5.1）が実際に一意解を持つことは Marshallで示されている．
and Olkin（1968）
d = 2 の場合は，密度 p, q に対応する相関係数をそれぞれ ρp , ρq とおけば，
D̃([p], [q]) = log 

1 − ρp ρq(1 − ρ2p )(1 − ρ2q )となる．これは対称なダイバージェンスである．また，Fisher の Z 変換 ρ = tanh z を施すと，
D̃([p], [q]) = log cosh(zp − zq )となり，平行移動に関する不変性が成り立つ．
ガウスコピュラに限れば，プロファイルダイバージェンスから導かれる計量は，Segers et al.
（2014）によって求められている有効情報量に一致する．これを確かめよう．ただし一般にモデル {pθ | θ ∈ Rm } に対し，ダイバージェンスから導かれる計量をg̃ij = −∂ 2 D̃([pθ ], [pφ ]) ,∂θi ∂φjθ=φi, j ∈ {1, . . . , m},と定義する（Eguchi, 1983; Amari, 1985）
．
定理 4.
(5.2)

共分散行列のパラメトリックモデル {P = Pθ | θ ∈ Rm } に対し，計量はg̃ij =

1
tr{P −1 (∂i P − Π(∂i P ))P −1 (∂j P − Π(∂j P ))}
2

統計数理

38

第 68 巻 第 1 号 2020で与えられる．ただし ∂i = ∂/∂θi とし，射影 Π : Rd×d → Rd×d は以下で定義される：(5.3)

Π(A) = P diag(b(A)) + diag(b(A))P,(5.4)

b(A) = (P −1 ◦ P + I)−1 (P −1 ◦ A)1d ,

1d = (1, . . . , 1) ∈ Rd .

（アダマール積）を表す．
A ◦ B は行列 A, B の要素ごとの積
証明.

多変量正規分布のフィッシャー情報行列が1
gij = tr(P −1 (∂i P )P −1 (∂j P ))2であることはよく知られている．また一般に式（A.2）の意味でのプロファイルダイバージェンスに対して，計量はg̃ij = E[{∂i  − Π(∂i )}{∂j  − Π(∂j )}]となる
（Barndorﬀ-Nielsen and Jupp（1988）, Theorem 7.2）
．ここで  = log pθ,ν であり，Π は局∂} への直交射影である．接ベクトルの対応 ∂i P → ∂i  は線形同型であるか
外接空間 span{ ∂ν
ら，式（5.2）が得られる．あとは直交射影 Π を求めればよい．いま局外パラメータ u の入り方
は diag(u)P diag(u) であり，u = 1d における接ベクトルは∂uk (diag(u)P diag(u)) = diag(ek )P + P diag(ek ),k = 1, . . . , d,である．ただし ek は第 k 単位ベクトルである．よって直交射影 Π は式（5.3）の形となる．またΠ(A) = P B + BP, B = diag(b) とおくと，任意の対角行列 C = diag(c) に対して
0=

1
tr{P −1 (P C + CP )P −1 (A − (P B + BP ))}2
ck (P −1 A)kk −=kとなる．よって (P−1k◦ A)1d − (I + P−1

ck bl (P −1 )kl Pkl

ck bk −kl

◦ P )b = 0 となり，式（5.4）を得る．

5.2 ガウスコピュラの順位尤度が正規分布の象限確率で表される．これは積分領
ガウスコピュラの場合，順位尤度の式（3.3）
域 {R(X) = R} がxt(s,i),i < xt(s+1,i),i ,s ∈ [n − 1],i ∈ [d]と表されることによる．ただし t(s, i) は順位が rti = s となる観測値番号 t を表す．また[n] = {1, . . . , n} と略記した．結果として次の定理が得られる．
定理 5.

共分散行列 Σ の d 次元正規分布に対する順位尤度はp̄n (R|Σ) =1
nd/2 |Σ|(n−1)/2 |B|1/2

(n−1)dφB −1 (w)dw

R+で与えられる．ただし R+ = (0, ∞) であり，φB −1 は平均ベクトル 0，共分散行列 B −1 の多次
元正規分布の密度関数，B は次で定義される (n − 1)d 次の正定値対称行列である：

 nB(r−1)d+i,(s−1)d+j = (Σ

−1

)ij
t=1

証明.



rs
I{rti ≤r,rtj ≤s} −n,r, s ∈ [n − 1],

i, j ∈ [d].

S = Σ−1 と記す．変数変換 vi = xt(n,i),i ，wri = xt(r+1,i),i − xt(r,i),i を考える．それぞセミパラメトリックコピュラモデルにおけるダイバージェンスの性質

れの積分範囲は vi ∈ R, wri > 0 となる．逆変換は xti = vi −I は定義関数である．よって X の同時密度関数の指数部は，
n

d

n

d

d



d

Sij xti xtj =t=1 i=1 j=1

Sij

n−1
r=1

vi −
r=1



i

I{rtj ≤s} wsj
s=1

nSij vi vj − 2nSij mi vj +

=



n

vj −

I{rti ≤r} wri

t=1 i=1 j=1

I{rti ≤r} wri で与えられる．



n

39

j



Sij I{rti ≤r} I{rtj ≤s} wri wsjrsとなる．ただし
mi =

1
n

n

n−1

I{rti ≤r} wri =t=1 r=1

1
n

n−1

rwri
r=1

とおいた．よって (vi ), (wri ) の同時密度関数の指数部はSij (vi − mi )(vj − mj ) +nijB(r−1)d+i,(s−1)d+j wri wsj
i

j

r

s

となる．vi について積分をすれば結果が得られる．
多次元正規分布の象限確率はホロノミック勾配法によって高精度に計算できることが知られており（Koyama and Takemura, 2015），R のパッケージとして公開されている（Koyama et al.,
．よって定理 5 を用いて順位尤度および順位ダイバージェンスを計算することができる．
2014）
ホロノミック勾配法の計算量はホロノミックランクと呼ばれる量が目安となる．m 次元正規分
布の象限確率におけるホロノミックランクは 2m であり，サンプルサイズが大きくなると急激に計算量は大きくなる．
表 1 および表 2 は共分散行列が



(5.5)

Σ = Σ(θ) =

1
θ



θ
,
1

θ ∈ {0.0, 0.1, . . . , 0.9, 0.95},

で与えられる 2 次元ガウスコピュラについて，それぞれ n = 2 と n = 3 の場合の順位尤度をを求めたものである．ただし対称性から順位統計量 R の第 1 列（第 1 成分の順位統計量）
表 1．n = 2 の場合の順位尤度．ただし rt1 = t (∀t) とし，結果を n! 倍している．

表 2．n = 3 の場合の順位尤度．ただし rt1 = t (∀t) とし，結果を n! 倍している．

統計数理

40

第 68 巻 第 1 号 2020

図 3．ガウスコピュラの順位ダイバージェンス Dn ([pθ0 ], [pθ ]) を θ の関数としてプロットしたもの．

(1, . . . , n) に固定し，代わりに確率の値を n! 倍してある．結果として表の各列の和は 1 となる．
図 3 は同じく 2 次元のガウスコピュラで θ0 = 0 および θ0 = 0.5 の場合について，順位ダイ
バージェンス Dn ([pθ0 ], [pθ ]) を θ の関数としてプロットしたものである．ここで pθ は式（5.5）の共分散行列を持つ 2 次元正規分布の密度関数，すなわち φΣ(θ) を表す．サンプルサイズはn = 2 から n = 7 までとした．同図にはプロファイルダイバージェンス D̃([pθ0 ], [pθ ]) および通常の Kullback–Leibler ダイバージェンス KL(pθ0 , pθ ) も示した．理論上，KL ≥ D̃ ≥ Dn という関係があり，これは図においても確かに成立している．
θ を固定したとき，n = 2 から n = 7 に増加するにしたがって，順位ダイバージェンスも増加する傾向がある．ただし n = 7 のときだけ n ≤ 6 の曲線と交差している．これは n = 7 における計算精度が十分でない可能性が考えられる．今後の検討課題としたい．なお n = 7 の場合に要した計算時間は 3 時間程度であった．また計算機環境は Amazon Web Services（32 コア，イであり，ソフトウェアは R，ホロノミック勾配法のパッケージとンスタンスタイプ r3.8xlarge）
を用いた．
して hgm（Koyama et al., 2014）
6.

今後の課題

本稿では順位ダイバージェンスとプロファイルダイバージェンスを定義し，前者は後者に収束することを述べた（定理 2）．しかしそこではコピュラ密度関数が有界であることが仮定されており，多くの実用的なコピュラモデルには適用できない．そのような場合に定理が成り立つの 4 節にある領域分かどうかを調べる必要がある．この点について査読者より，Huber（1967）
割の方法が役立つのではないかという指摘があった．すなわち，定理 2 の証明で使われている
区分一様コピュラの領域分割を等分割にしないという方法である．いまの目的では [0, 1]d の境界に近付くにつれて分割を細かくすることが自然である．そのためには無限個に領域分割した
区分一様コピュラの挙動を明らかにせねばならない．後の論理は定理 2 の証明と同様であると考えられる．
定理 4 ではガウスコピュラの場合に，プロファイルダイバージェンスから有効情報量が求められることを示した．このことは一般のコピュラモデルに拡張できるものと考えられるが，まだ示せていない．コピュラモデルの有効情報量は Sturm–Liouville 型の方程式で表され，普通セミパラメトリックコピュラモデルにおけるダイバージェンスの性質

41

は陽に求められない（Bickel et al., 1993）．
また本稿では最初から周辺分布 F1 , . . . , Fd に関する情報は全く得られない状況を仮定した．
現実問題としては周辺分布自体にも多少の興味はあるだろうし，何らかの事前情報を入れる方の推定量はその一例と解釈できる．このようなが自然な場合も想定される．Chen et al.（2006）
場合に適切なダイバージェンスを導くことも一つの課題である．
確率分布の間には Kullback–Leibler ダイバージェンス以外にも様々なダイバージェンスが定義される．それらに対応する順位ダイバージェンスやプロファイルダイバージェンスを形式的に定義することは可能である．ただし変数変換不変性や加法性が成り立たない場合には注意深
く検討する必要があるだろう．
謝辞

本稿に対して多くの有益なコメントをくださった編集委員および査読者の皆様に深く感謝いたします．本研究は JSPS 科研費 JP17K00044 および JP26108003 の助成を受けたものです．
また，研究の発端となる話題を提供してくれた慶應義塾大学（当時）の橋本研一氏に感謝します．
付A.

録

複合変換モデル

複合変換モデル（composite transformation model）とは，変数変換に対して不変な統計モデルのことであり，本稿では次のように定義する．標本空間 X 上の確率分布族 {Pθ,ν | θ ∈ Θ, ν ∈ N }を考え，θ は興味のあるパラメータ，ν は局外パラメータを表すものとする．いま群 G が存在して，G は X と N にそれぞれ作用し，かつ
x ∼ Pθ,ν ,g∈G⇒gx ∼ Pθ,gνという性質を満たすものとする．また G の N への作用は推移的であると仮定する．このとき（Barndorﬀ-Nielsen and Jupp, 1988）．不変確率
この確率分布族 {Pθ,ν } を複合変換モデルというモデルとも呼ばれる（Eaton, 1983; 紙屋, 1999）．群 G の作用によって X は互いに排反な軌道（orbit）に分解される．この軌道と一対一に対応する統計量を最大不変量（maximal invariant）という．最大不変量の分布は θ のみに依存する．
例 1. 例として正規分布 N(μ, σ 2 ) に従うランダム標本 x = (x1 , . . . , xn ) を考える．標本をスケール変換して xi → axi (a > 0) とすると，パラメータは (μ, σ) から (aμ, aσ) に変換される．
よって N(μ, σ 2 ) はスケール変換に関して複合変換モデルになっている．ここで興味のあるパラメータは θ = μ/σ であり，局外パラメータは ν = σ である．また観測値 (x1 , . . . , xn ) ∈ Rn
を含む軌道は {(ax1 , . . . , axn ) | a > 0} となる．最大不変量はたとえば w(x) = (x1 /σ̂, . . . , xn /σ̂)が挙げられる．ただし σ̂ 2 は標本分散を表す．w(x) の分布は θ のみに依存する．なお，最小十分統計量 (x̄, σ̂) に対する最大不変量は x̄/σ̂ であり，これは Student の t 統計量の定数倍である．
（Cox and Hinkley, 1974, Example 5.16）
分布 Pθ,ν（ 密度 pθ,ν ）に従う標本サイズ n のランダム標本 x = (x1 , . . . , xn ) を考える．パラ
メータ θ に関する推測は最大不変量 w = w(x) に基づいて行うのが自然である．そこで w の周辺密度関数を p̄θ (w) とおき，2 つの密度関数 p̄θ1 , p̄θ2 の間のダイバージェンスを考える：(A.1)

Dn (θ1 , θ2 ) =1np̄θ1 (w) logp̄θ1 (w)dw.
p̄θ2 (w)

統計数理

42

第 68 巻 第 1 号 2020

これを周辺ダイバージェンスと呼ぶことにしよう．右辺を n で割っているのは w が O(n) の情報を持っているためである．一方で，局外パラメータに依存しないダイバージェンスとして(A.2)

D̃(θ1 , θ2 ) := inf KL(pθ1 ,ν1 , pθ2 ,ν2 )ν2 ∈N(∀ν1 )が考えられる．右辺が ν1 に依存しないのは Kullback–Leibler ダイバージェンスの不変性による．この D̃ をプロファイルダイバージェンスと呼ぶことにする．Barndorﬀ-Nielsen and Jupp
（1988）の Section 4 では proﬁle discrimination information と呼ばれている．次の命題は周辺分
布をラプラス近似することによって得られ，実質的には同論文の Section 6 で示されている．
命題 6.

真のパラメータが θ のとき，標準的な仮定のもとで，
lim

1

n→∞ n

log

p̄θ (w)= lim Dn (θ, φ) = D̃(θ, φ)n→∞p̄φ (w)が成り立つ．
例 2（つづき）. 先の正規分布の例では，周辺ダイバージェンスは非心 t 分布の間のダイバー
ジェンスとなり，陽には求まらない．しかしプロファイルダイバージェンスはD̃(θ1 , θ2 ) = inf

σ2 >0= − log(θ1 σ1 − θ2 σ2 )2 + σ121
1
σ2− log 12 − +
2
2
σ2
2σ22



θ1 θ2 +



θ12 θ22 + 4(θ12 + 1)
2(θ12 + 1)







θ1 θ2
−
2

θ1 θ2 +



θ12 θ22 + 4(θ12 + 1)
2(θ12 + 1)


+

θ22
2

と 陽 に 求 め ら れ る ．特 に θ1 = 0 の と き は D̃(0, θ2 ) = θ22 /2，ま た θ2 = 0 の と き はD̃(θ1 , 0) = (1/2) log(θ12 + 1) となり，著しく非対称性を持ったダイバージェンスになっていることが分かる．これは t 検定における水準と検出力の関係の非対称性に対応する．このようにプロファイルダイバージェンスを調べれば，複合変換モデルの構造をある程度把握することができる．

参考文

献Amari, S. (1985). Diﬀerential-Geometrical Methods in Statistics, Springer, New York.
Barndorﬀ-Nielsen, O. E. and Jupp, P. E. (1988). Diﬀerential geometry, proﬁle likelihood, L-suﬃciency
and composite transformation models, The Annals of Statistics, 16(3), 1009–1043.
Bickel, P. J., Klaassen, C. A. J., Ritov, Y. and Wellner, J. A. (1993). Eﬃcient and Adaptive Estimationfor Semiparametric Models, Johns Hopkins University Press, Baltimore.
Chen, X., Fan, Y. and Tsyrennikov, V. (2006). Eﬃcient estimation of semiparametric multivariate
copula models, Journal of the American Statistical Association, 101(475), 1228–1240.
Cox, D. R. and Hinkley, D. V. (1974). Theoretical Statistics, Chapman and Hall, London.
Eaton, M. L. (1983). Multivariate Statistics — A Vector Space Approach, Wiley, New York.
Eguchi, S. (1983). Second order eﬃciency of minimum contrast estimators in a curved exponential
family, The Annals of Statistics, 11(3), 793–803.
Feller, W. (1968). An Introduction to Probability Theory and Its Applications, 3rd ed., John Wiley &Sons, New York.
Genest, C. and Werker, B. J. M. (2002). Conditions for the asymptotic semiparametric eﬃciency
of an omnibus estimator of dependence parameters in copula models, Distributions with Givenセミパラメトリックコピュラモデルにおけるダイバージェンスの性質

43

Marginals and Statistical Modelling (eds. C. M. Cuadras and J. A. R. Lallena), 103–112, Kluwer
Academic, Dordrecht.
Ghosh, S. and Henderson, S. G. (2001). Chessboard distributions and random vectors with speciﬁed
marginals and covariance matrix, Operations Research, 50(5), 820–834.
Hoﬀ, P. D. (2007). Extending the rank likelihood for semiparametric copula estimation, The Annals ofApplied Statistics, 1(1), 265–283.
Hoﬀ, P. D., Niu, X. and Wellner, J. A. (2014). Information bounds for Gaussian copulas, Bernoulli,20(2), 604–622.
Huber, P. J. (1967). The behavior of maximum likelihood estimates under nonstandard conditions,
Proceedings of the Fifth Berkeley Symposium on Mathematical Statistics and Probability, 221–
233.
紙屋英彦 (1999). 不変確率モデルの特徴付け, 統計数理, 47(1), 63–69.
Klaassen, C. A. J. and Wellner, J. A. (1997). Eﬃcient estimation in the bivariate normal copula model:
Normal margins are least favourable, Bernoulli, 3(1), 55–77.
Koyama, T. and Takemura, A. (2015). Calculation of orthant probabilities by the holonomic gradientmethod, Japan Journal of Industrial and Applied Mathematics, 32, 187–204.
Koyama, T., Nakayama, H., Ohara, K., Sei, T. and Takayama, N. (2014). Software packages for holonomic gradient method, Mathematical Software—ICMS 2014 (eds. H. Hong and C. Yap), Lecture
Notes in Computer Science, Vol. 8592, 706–712, Springer, Berlin.
Kullback, S. (1959). Information Theory and Statistics, John Wiley and Sons, New York.
Marshall, A. W. and Olkin, I. (1968). Scaling of matrices to achieve speciﬁed row and column sums,
Numerische Mathematik, 12, 83–90.
McCann, R. J. (1997). A convexity principle for interacting gases, Advances in Mathematics, 128,
153–179.
Nelsen, R. B. (2006). An Introduction to Copulas, 2nd ed., Springer, New York.
Segers, J., van den Akker, R. and Werker, B. J. M. (2014). Semiparametric Gaussian copula models:Geometry and eﬃcient rank-based estimation, The Annals of Statistics, 42(5), 1911–1940.
Tsukahara, H. (2005). Semiparametric estimation in copula models, The Canadian Journal of Statistics, 33(3), 357–375.
塚原英敦 (2011). 接合分布関数（コピュラ）の理論と応用,『21 世紀の統計科学』（北川源四郎, 竹村彰通
, 第 3 巻, 101–140, 日本統計学会, http://park.itc.u-tokyo.ac.jp/atstat/iss75shunen/.
編）
van der Vaart, A. W. (2000). Asymptotic Statistics, Cambridge University Press, Cambridge.
Villani, C. (2003). Topics in Optimal Transportation, American Mathematical Society, Providence.
吉田朋広 (2006).『数理統計学』, 朝倉書店, 東京.

44

Proceedings of the Institute of Statistical Mathematics Vol. 68, No. 1, 25–44 (2020)

Properties of Divergence for Semiparametric Copula Models
Tomonari Sei and Kazuya Matsumoto
Graduate School of Information Science and Technology, The University of Tokyo

A semiparametric copula model is a statistical model in which the copula is assumed
to be parametric and the marginal distribution is arbitrary. In this paper, we investigate
the divergence of the model. In particular, we establish a relationship between the rank
divergence induced from the marginal distribution of the multivariate rank statistic andthe profile divergence defined by infimum of the Kullback–Leibler divergence with respect
to the nuisance parameter. We also obtain formulas for piecewise uniform and Gaussian
copulas.

Key words: Composite transformation model, copula, divergence, holonomic gradient method, informationgeometry, optimal transport.