ゲーム理論に基づく中心化理論の再定式化と日英コーパスを用いた統計的検証
白 松 俊†
駒 谷 和 範†尾 形 哲 也†
橋 田 浩 一††奥 乃 博†
中心化理論 (Grosz et al. 1995) は注意状態・照応・結束性を扱った談話モデルであり広く研究されているが，従来の中心化理論はヒューリスティックかつ反証不能な定義に基づいており，定量的なモデルではなかった．
われわれ (2005) は Hasida(1996) の意味ゲームを導入して中心化理論を定量的に再定式化し，日本語のコーパスで統計的に検証したが，再定式化したモデルにおいても参照表現の効用の定義は充分に定量的ではないという問題点があった．本稿ではこの問題点を解決するため，発話者と受話者にとっての参照表現の認知的コストを自己情報量で定義し，それに基づいた効用の定義の妥当性を示した．また，日本語コーパスだけでなく英語コーパスにおいても統計的に検証し，提案モデルの有効性を示した．さらに，日英コーパスにおける代名詞化の傾向を定量的に比較した．
キーワード:

1

中心化理論, ゲーム理論, 意味ゲーム, 照応, 結束性, 認知的コスト

はじめに中心化理論 (centering theory) (Grosz et al. 1995)

は局所的な談話構造のモデルであり，注意の中心，照応，局所的結束性を扱った理論である．局所的な談話

2

従来の提案モデルの問題点
われわれが提案してきた中心化理論のゲーム理論的再定式化 (白松他 2005) を簡単に説明し，従来までの問題点を述べる．の流れの自然さの評価や，流れを考慮した発話の生

中 心 化 理 論 と は (顕 現 性 と 結 束 性 )成に有用な理論であるが，従来の中心化理論は定量(Grosz et al. 1995) で重要な役割を果たしている概念

的でないヒューリスティックな定義に基づいていたたに，顕現性 (salience) と結束性 (cohesion) がある．

め，実言語データを用いた定量的な検証やパラメー•中心化理論顕現性: 指示対象 (実体) e の顕現性とは，その文タチューニングは困難であった．また，中心化理論が脈の当該発話で e に注がれている注意の量，つ扱う代名詞化ルールと中心遷移ルールの背後にあるまり話題の中心らしさのこと．

基本原理も明示的に示されてはいなかった．われわれ (白松他 2005) は，Hasida(1996) のアプローチを•結束性: 直前の発話からの語彙的な繋がりの強さのこと．

継承してゲーム理論に基づく定量的な再定式化を行中心化理論では，ヒューリスティックな文法役割の順い，その妥当性を日本語コーパスの上で示した．そ序 (Subject > Object > Indirect Object > ...) に基の結果，従来の中心化理論よりも定量的かつ一般的づいて顕現性が定義され，顕現性に基づいて話題の原理に基づいたモデルとなった．しかし，われわれ中心を推定する．直前発話の話題の中心は代名詞化の定式化にも依然としてヒューリスティックな要素がされ易く (Rule 1)，直前発話から引き続いて中心が残っていたため，本稿ではより定量的なモデルへと保持され易い (Rule 2) という結束性に関するルール改良すべく再検討する．更に，英語コーパスの上でがある．

もわれわれの定式化の妥当性を示すとともに，日英コーパスの定量的な比較を行う．

提案モデル (意味ゲームに基づく再定式化)

従来の中心化理論でヒューリスティックに定義されていた顕現性と結束性を，われわれは定量的に再定式化した (白松他 2005)．そのために，意味ゲーム (meaninggame) (Hasida 1996), すなわち意味伝達過程のゲー† 京都大学 情報学研究科, Graduate School of Informatics, Kyoto
University†† 産業技術総合研究所 情報技術研究部門, ITRI, AIST

ム理論的モデルを導入した．われわれは意味ゲームに基づき，顕現性と結束性を以下のように定式化した．

ෳᾖ⴫⃻
ᾖᔕ⹖
high Anaphor1

Anaphor2...

lowUt(A)highEntity1
Entity2
Entity3highEntity4

low...

low...

Utたもの)•

英語コーパス: WSJ (Wall Street Journal) 2412
記事から成る照応タグ付きコーパス

Pr3
Entity1
Entity2
Entity3
Entity4Anaphor1
Anaphor2...

highlow

Pr(B)
Pr(Entity2)Ut(Anaphor1) + Pr(Entity4)Ut(Anaphor2)> Pr(Entity2)Ut(Anaphor2) + Pr(Entity4)Ut(Anaphor1)

図 1

応タグ付きコーパス (白松他 (2005) でも使用しᜰ␜ኻ⽎୥⵬

選好 1a, 1b: 同一述語節 (発話) の中では，対応線が交差していない照応解 (A) の方が期待効用が高く，好まれる参照表現の認知的コストと効用の定量的定義
Ut(代名詞) > Ut(非代名詞) という仮定の根拠は，「代名詞の方が発話/筆記/聴き取り/読み取り等の表層的処理のための認知的コストが少ない」というヒューリスティクスである．
代名詞の認知的コストが少ない原因の一つとして，その表層表現に対する「慣れ」が挙げられる．代名詞は非代名詞よりも頻出するので話者も受話者も慣れ，••

顕現性=参照確率

指示対象 (実体) e の顕現性

認知的コストが低下する．すなわち，参照表現 w のを，その文脈の次の述語節 (発話) で e が参照さ

認知的コストは，w の出現確率 p(w) が小さいほど大れる確率 Pr (e) (参照確率) として定量的に定式きくなるように定義すれば良い．本稿ではそのよう化した．また，コーパスから獲得したパラメタな尺度として自己情報量 I(w) を採用し，w の認知的を用いて Pr (e) を測定する方法を示した．

コストを以下のように定義する．

結束性=期待効用

まず e を参照する表現 w の(w の認知的コスト) := I(w) = − log p(w) [nat]効用 Ut(w) を考え，Ut(代名詞) > Ut(非代名詞)
Pと仮定した．その上で，期待効用 Pr (e)Ut(w)(ただし，p(w) は当該述語節 (発話) において参照表現 w がが高い照応解ほど選ばれやすいこと (図 1 / 選好照応詞として出現する確率. コーパスを用いて測定する．)

1a, 1b) と，期待効用の高さが結束性の強さに対応する (選好 2) ことを日本語コーパス上で統計

表 1, 2 は，日英コーパスのそれぞれに出現した全ての照応詞の認知的コストを測定した結果である．表的に示した．
この再定式化はゲーム理論の期待効用最大化原理から導出された仮説であり，従来の中心化理論よりも定量的なモデルである．しかし，未だ以下の 2 つのが示す通り，日英両コーパスにおいて(ゼロ代名詞 | 空範疇) < 代名詞 < その他の名詞句課題が残されていた．

•

効用の定量的定式化 コーパス上での検証 (白松他 2005) において，Ut(代名詞) > Ut(非代名詞)

自己情報量 I(w) による認知的コストの定義の妥当性の仮定を満たす値として Ut(代名詞) = 2, Ut(非を示している．

代名詞) = 1 を用いたが，これは先験的に決めた値であり，経験的根拠が無かった．

•という認知的コストの順序が得られた．この結果は他言語での検証

日本語コーパスの上では提案モデルの妥当性を示したが，他の言語では未検証である．

つぎに，参照表現 w の効用 Ut(w) を，上記の認知的コスト定義に基づき以下のように定義する．

Ut(w) := Ut 0 − I(w) [nat](ただし，Ut 0 はコスト 0 における効用の基準値)

よって本稿では参照表現の効用を量的に定式化し，更効用 Ut(w) > 0 を保証するためには，コスト 0 にお1ける基準値 Ut 0 を max I(w) = − log()に英語コーパスでも経験的検証を行う．効用の計測やよりも大きな値に設定する必要がある．効用 Ut(w)w

コーパスの述語節数

提案モデルの検証には以下の日英コーパスを用いる． が正の値になるように基準値 Ut 0 を設定すべき理由• 日本語コーパス: 毎日新聞 1356 記事から成る照 は，次節 選好 2 の検証にて述べる．

0.95

提案モデルの日英コーパスを用いた統計的検証ᣣᧄ⺆ Ფᣣᣂ⡞⧷⺆(WSJ)
0.9

ㆬᅢCߦว⥌ߒߚ੐଀ߩഀว ㆡว₸4

われわれが再定式化した選好 1a, 1b, 2(白松他 2005)を日英コーパスを用いて検証する．指示対象 e の参照
確率 Pr(e) は，白松他 (2005) と同じ 3 素性1 を用いた多重ロジスティック回帰で計測する．参照表現 w の0.85

0.80.75

0.70.65

効用 Ut(w) は，基準値 Ut 0 = 12 から認知的コスト0.6I(w) を減算した値を用いる．基準値 12 を設定した理0.550

認知的コストの低い参照表現と種別毎の平均 (毎日新聞コーパス)

参照表現
出現確率
認知的コストwp(w)I(w) [nat](ゼロ代名詞)2.111 × 10−1
1.556
私
3.682 × 10−3
5.604
その2.846 × 10−3
5.862
これ2.135 × 10−3
6.149
この
1.356 × 10−3
6.604
日本
1.299 × 10−3
6.646
者
1.299 × 10−3
6.646
それ
1.220 × 10−3
6.709
大統領
1.062 × 10−3
6.848
米国
9.713 × 10−4
6.937
..
..
..
.
.
.
w の種別
種別毎 p(w) 平均 認知的コスト
ゼロ代名詞
2.111 × 10−1
1.556
代名詞
1.725 × 10−3
6.362
それ以外
1.631 × 10−5
8.721
表 2
参照表現
w
(空範疇)
ithetheycompany
weI
U.S.
youthat..
.
w の種別
空範疇
代名詞
それ以外

認知的コストの低い参照表現と種別毎の平均 (WSJ コーパス)
出現確率
認知的コストp(w)I(w) [nat]2.547 × 10−1
1.368
4.232 × 10−2
3.162
3.049 × 10−2
3.490
1.850 × 10−2
3.990
1.652 × 10−2
4.103
1.112 × 10−2
4.499
1.020 × 10−2
4.585
8.342 × 10−3
4.786
6.357 × 10−3
5.058
5.503 × 10−3
5.202..
..
.
.
種別毎 p(w) 平均 認知的コスト
2.457 × 10−1
1.368
3.257 × 10−2
3.836
1.317 × 10−3
6.632

0.4

0.6

0.81ౣ⃻₸

由は，本節 選好 2 の検証にて述べる．
表 10.2

図 2

選好 1a

選好 1a の recall-precision 曲線:「1 つの述語節が複数の照応詞を含むとき，それらの照応詞のうち，効用 Ut(w) が高い照応詞の方が低い照応詞よりも参照確率 Pr(e) の高い指示対
象 e を参照しやすい」(白松他 2005)(図 1)
選好 1a の検証のために，コーパス中で複数の照応詞を含む述語節を集め，同一述語節内の照応詞対を作る．この照応詞対のうち，選好 1a に合致する事例の割合が高いほど選好 1a は強い予測であると言える
2．ただし，照応詞対の効用の差，あるいはそれらの指示対象の参照確率の差が小さい場合，選好 1a は成り立ち難くなると考えられる．図 2 は，その差の閾値を変動させることにより描いた recall-precision 曲線である．日英両コーパスにおいて，全ての照応詞対を考慮した場合でも合致事例の割合が 60%を超え，再現率 25%付近で合致事例の割合が約 80%まで上がった．これは両コーパスにおいて選好 1a が有効かつ妥当であることを示している．
選好 1b:「照応詞 w の効用 Ut(w) とその指示対象

e の参照確率 Pr(e) の間には正の相関がある」(白松他 2005)(図 1)

Pr(e) と Ut(w) の 相 関 係 数 は ，日 本 語 コ ー パ ス
で+0.369 (95%信頼区間 [0.356, 0.383])，英語コーパスで+0.223 (95%信頼区間 [0.217, 0.229]) であった3 ．
つまり，日英両コーパスにおいて選好 1b の妥当性が裏付けられた．英語コーパスにおける相関係数が相対的に低い理由は，図 3 が示唆している．同図は参照確率毎に代名詞化の割合をプロットしたものだが，参照確率 0.75 よりも右側で英語だけが大きく下がっ2 選好 1a の合致事例の割合は，効用の基準値 Ut 0 の影響を受けない．
1 指示対象候補 e の最近参照箇所と当該述語節の距離 dist, e の最近参照箇所の文法役割 gram, 先行文脈中で e が参照された回数 3 選好 1b における Pr(e) と Ut(w) の相関係数は，効用の基準値Ut 0 の影響を受けない．
chain の 3 素性．

ている．これが英語における Pr(e) と Ut(w) の相関⧷⺆ (WSJ)ᣣᧄ⺆ Ფᣣᣂ⡞1

係数を下げた原因であろう．英語コーパス中で参照使用していた事例は 11,367 例あり，そのうち 4,735
例 (41.7%) が固有名詞 (Mr. で始まる略称など) を用いていた．本稿の定義ではこのような略称の効用は0.8ઍฬ⹖ൻߐࠇߚ੐଀ߩഀว

確率が 0.75 よりも大きいのに非代名詞の参照表現を低くなってしまい，改良の余地がある．

0.6

0.4

0.2一方日本語コーパスでは，参照確率が大きい領域
ではゼロ代名詞を参照表現として用いる事例が圧倒

000.1

0.20.3

図 3数の差として現れたと考えられる．
選好 2: 「期待効用P

0.40.5用と Transition 4 状態 (CONT.=4, RET.=3, S.S.=2,R.S.=1 の値を割り当てた) の相関係数を調べた．図 4は，効用の基準値 Ut 0 を変動させて期待効用と Tra-sition の相関係数への影響を調べたものである．これトである．しかし，これより左側の領域では相関係数が急激に下がるため，効用の基準値 Ut 0 は I(w) の最10.5
0.4
0.3
0.2
0.1

ᏱߦUt(w) ‰ 00-0.1-0.2-0.305によると，Ut 0 が I(w) の最大値よりも大きい右側の領域 (常に Ut(w) > 0) では，相関係数はほぼフラッ0.90.6

Transition ߣᦼᓙല↪ߩ⋧㑐ଥᢙ

つの中心遷移状態の順序である．本稿では，期待効0.8Ფᣣᣂ⡞ࠦ࡯ࡄࠬほど選ばれやすく，Transition の順序は期待効用の大Transition の順序とは，中心化理論で定義された 40.7

日英コーパスにおける参照確率毎の代名詞化事例の割合

Pr (e)Ut(w) が大きい照応解

きさに対応する」(白松他 2005)

0.6

ෳᾖ⏕₸ Pr(e)的に多かった．この差異が，日本語と英語の相関係

10max
I(w)
w

1520 ᭂᄢὐ

25

Ut0⹺⍮⊛ࠦࠬ࠻ߦ߅ߌࠆല↪ၮḰ୯ߩ⸳ቯ୯=PCV?

図 4

認知的コスト 0 における効用基準値 Ut 0 に対する選好 2 (Transition と期待効用) の相関係数の変化大値よりも大きく設定すべきである．なお，日英コー

ただし，英語コーパスの参照確率が大きい事例でパスの I(w) の最大値はそれぞれ約 11.4 と約 11.8 な

多く使用されていた固有名詞の略称は，本稿の定義

ので，基準値 Ut 0 は日英ともに 12 に設定した．

では認知的コストが高くなるが，実際は先行文脈のこの設定の下での期待効用と Trasition の相関係数影響からコストが低くなると考えられる．そのようは，日本語コーパスで+0.585, 英語コーパスで+0.407

な認知的コストの定義の改良は今後の課題とする．

であった．また，Transition 毎の期待効用の平均値も謝辞 本研究で用いた GDA コーパスの作成に係わっ中心化理論で定義された順序と一致し，Wilcoxon のた方々に深謝する．本研究の一部は 21 世紀 COE プ

順序和検定で統計的に有意であった．よって，日英両ログラム，および学振科研費の支援を受けた．

コーパスで選好 2 の妥当性が裏づけられた．

5

まとめと今後の課題
従来のわれわれの提案モデルにおいて，参照表現の効用には先験的な値を与えていた．本稿では自己情報量を用いて参照表現の認知的コストを定義し，日英コーパス上でその定義の妥当性を示し，それに基づいて参照表現の効用を定量的に定義し，提案モデルを改良した．更に，日英コーパスを用いて提案モデルの検証を行い，われわれが再定式化した選好 1a,1b, 2 の妥当性を両コーパス上で示した．

参考文献
Grosz, B., Joshi, A., and Weinstein, S. (1995). “Centering: A Framework for Modeling the Local
Coherence of Discourse.” Computational Linguistics, 21 (2), 203–225.
Hasida, K. (1996).

“Issues in CommunicationGame.” In Proc. of COLING’96, pp. 531–536.
白松俊, 宮田高志, 奥乃博, 橋田浩一 (2005). “ゲーム理論による中心化理論の解体と実言語データに基づく検証.” 自然言語処理, 12 (3), 91–110.