日本語述語句の統語的異形間の言い換えらしさの推定
藤田 篤
名古屋大学大学院工学研究科
電子情報システム専攻

言い換え生成の技術的課題
知識獲得

X wrote Y => X is the author of Y
自己記録を上回る => 自己記録を更新する

パターンを書く 既存の辞書、シソーラスからの獲得
 コーパス／Webからの獲得


知識の適用（生成）言い換え元の表現の多義性解消
 与えられた文脈における言い換えらしさの判定

正しい言語表現であるかどうか（文法的適格性）
 意味が保存されているかどうか（同義性）


タスク指向の適切さの評価


分かりやすさ，翻訳しやすさ，曖昧性の少なさ 2

取り組むべき課題
所与の文脈における知識の適用条件の特定


語や語のクラスに基づく制約の記述（内包的）[Mel’cuk & Polguere, 1987][Fujita+, 2005;2006]



適用可能な例を事前に列挙する（外延的）cf. 生成物を言語モデルで評価 [Pantel+, 2007]

問い
事前に列挙しなくても動的に判定できないか？
 構成的な言い換えの場合はどれくらいの精度？
 語でなくもうちょっと複雑な句の場合に
データスパースネスをどう回避するか？
 品詞が変わっても分布類似度は通用するか？
3

句の統語的異形の生成器
フレーザル・シソーラス [Fujita+, 2007]
魅力的なデザインだ

デザインが魅力的だ

魅力あるデザインだ 類義句 デザインに魅力を感じる
魅力があるデザインだ

デザインに魅力がある

どんな句？
動詞句 〜 いわゆる節／単文
 「格要素名詞句 + 格助詞 + 述語文節」


どんな言い換え？
構成的な言い換え 少数のパターンで動的に生成

4

「損害賠償を求める」の統語的異形候補
損害が賠償される損害が賠償させる損害が賠償する
損害を賠償される損害を賠償させる
損害を賠償する損害に賠償される損害に賠償させる
損害に賠償する損害で賠償される損害で賠償させる
損害で賠償する賠償が損害される賠償が損害させる賠償が損害する
賠償を損害される賠償を損害させる賠償を損害する賠償に損害される賠償に損害させる
賠償に損害する
賠償で損害される賠償で損害させる
賠償で損害する損害が賠償されたことが求める
損害が賠償されたことを求める損害が賠償されたことに求める損害が賠償されたことで求める損害が賠償されることが求める損害が賠償されることを求める
損害が賠償されることに求める損害が賠償されることで求める損害が賠償させたことが求める
損害が賠償させたことを求める
損害が賠償させたことに求める損害が賠償させたことで求める損害が賠償させることが求める
損害が賠償させることを求める
損害が賠償させることに求める損害が賠償させることで求める損害が賠償したことが求める損害が賠償したことを求める損害が賠償したことに求める損害が賠償したことで求める損害が賠償することが求める損害が賠償することを求める
損害が賠償することに求める損害が賠償することで求める損害を賠償されたことが求める損害を賠償されたことを求める損害を賠償されたことに求める損害を賠償されたことで求める損害を賠償されることが求める損害を賠償されることを求める損害を賠償されることに求める損害を賠償されることで求める損害を賠償させたことが求める損害を賠償させたことを求める損害を賠償させたことに求める損害を賠償させたことで求める損害を賠償させることが求める損害を賠償させることを求める
損害を賠償させることに求める損害を賠償させることで求める損害を賠償したことが求める損害を賠償したことを求める
損害を賠償したことに求める損害を賠償したことで求める損害を賠償することが求める損害を賠償することを求める
損害を賠償することに求める損害を賠償することで求める損害に賠償されたことが求める損害に賠償されたことを求める損害に賠償されたことに求める損害に賠償されたことで求める損害に賠償されることが求める損害に賠償されることを求める
損害に賠償されることに求める損害に賠償されることで求める損害に賠償させたことが求める損害に賠償させたことを求める損害に賠償させたことに求める損害に賠償させたことで求める損害に賠償させることが求める損害に賠償させることを求める損害に賠償させることに求める損害に賠償させることで求める損害に賠償したことが求める損害に賠償したことを求める損害に賠償したことに求める損害に賠償したことで求める損害に賠償することが求める損害に賠償することを求める
損害に賠償することに求める
損害に賠償することで求める損害で賠償されたことが求める損害で賠償されたことを求める
損害で賠償されたことに求める損害で賠償されたことで求める損害で賠償されることが求める損害で賠償されることを求める
損害で賠償されることに求める損害で賠償されることで求める損害で賠償させたことが求める損害で賠償させたことを求める
損害で賠償させたことに求める損害で賠償させたことで求める損害で賠償させることが求める損害で賠償させることを求める
損害で賠償させることに求める損害で賠償させることで求める損害で賠償したことが求める損害で賠償したことを求める損害で賠償したことに求める損害で賠償したことで求める損害で賠償することが求める損害で賠償することを求める
損害で賠償することに求める損害で賠償することで求める損害賠償が求める
損害賠償に求める損害賠償で求める

損害が求める
損害を求める
損害に求める
損害で求める賠償が求める賠償を求める
賠償に求める賠償で求める損害された賠償が求める損害された賠償を求める
損害された賠償に求める損害された賠償で求める損害される賠償が求める損害される賠償を求める
損害される賠償に求める損害される賠償で求める損害させた賠償が求める損害させた賠償を求める損害させた賠償に求める損害させた賠償で求める損害させる賠償が求める損害させる賠償を求める
損害させる賠償に求める
損害させる賠償で求める

損害した賠償が求める
損害した賠償を求める
損害した賠償に求める
損害した賠償で求める
損害する賠償が求める
損害する賠償を求める
損害する賠償に求める
損害する賠償で求める損害の賠償が求める損害の賠償を求める
損害の賠償に求める損害の賠償で求める

青字のみ正しい表現，赤枠のみ正しい言い換え5

今回の取り組み
統語的異形間の言い換えらしさを計算する


入力：自動生成した日本語述語句の統語的異形対言い換え元の表現（s）
 言い換え先の表現（t）


確認を急ぐ
急いで確認する

出力：言い換えらしさ（0〜1の実数値）


次の3つを満たすときに言い換え可能である
t が文法的に適格である
 s が表すことが真であるならばt が表すことも真である（意味的に等価・含意） ある文脈で s を t に置換可能である

6

言い換えらしさ計算の概要
言い換えらしさの計算手順
1. s と t の各々に対してWebスニペットを取得
 2. s と t の各々の素性をWebスニペットから抽出 3. s と t の素性ベクトルの類似度をs と t の言い換えらしさとして出力特徴


Webスニペットから各表現の素性を抽出
文法的適格性の判定
 データスパースネスの軽減
 言い換え元の述語句の関連語の利用

分布類似度を述語句の間の類似度計算に利用
7

1. Webスニペットの収集
各句表現に対するスニペット（とヒット数）
Yahoo! JAPAN Web-search API
http://developer.yahoo.co.jp/search/ 上位500件（平均0.75秒/クエリ）
82. Webスニペットからの素性抽出（1/2）
測りたいこととそれを近似する素性の検討


文法的適格性（HITS）


意味的等価性（BOW）


Webでヒット数するならばもっともな表現である
その表現の周辺に出現する語の分布が似ていれば意味的に等価である

置換可能性（MOD）


その表現を修飾したり，その表現に修飾される表現の分布が似ていれば，置換可能である

9

係り受け文節素性MOD
1文節 → 1素性
対象の句に直接係るまたは直接係られる文節
 主辞の基本形
 名詞に後続する格助詞，動詞に後続する助動詞


スニペット中の文（依存構造）

予定だ
検証する

再現性を
実験 結果の詳しく

対象の句

素性
母: 予定
娘: 詳しい娘: 彼_の彼の10

2. Webスニペットからの素性抽出（2/2）
より適切なスニペットの取得（Anc）


1. s と最も関連する語 a を特定
今回は s を修飾する回数が最も高い名詞
 MOD素性から選別

2. s AND a，t AND a に対するスニペットを取得
 3. s と t 各々の素性を s AND a，t AND a に対するスニペットから抽出sa

笑みを浮かべる

満面

良いスタートを切る

幸先

ドリブルで駆け上がるサイド11

3.素性ベクトル間の類似度計算
Linの類似度 [Lin & Pantel, 2001]
Fs, Ft : s および t の素性 w(x, f) : 素性集合 Fx における素性 f の重み

α-skew divergence [Lee, 1999]

Ps, Pt : s および t の素性ベクトルの確率分布版
 α : KL divergenceにどれだけ近似するかの変数12評価セット作成（1/2）
言い換え元表現の収集
6タイプの句（詳細は下表）
 タイプごとに毎日新聞15年分で最頻出の約1,000句


網羅的に統語的異形を生成

フレーザル・シソーラス [Fujita+, 2007] の修正版

13

評価セット作成（2/2）
言い換えらしさを計算できた対の数

14

評価結果（Ev.Gen）
入力に対する1位出力の精度

HITS ＜ BOW ＜ MOD （ただし統計的有意差なし）


句同士を比較することには意味がある

Lin skew
 XAnc.X

スニペットの取り方を工夫した効果はない
 複数の内容語からなる句の多義性は元々小さい

15評価結果（Ev.Rec）
類似度上位の言い換え対の精度
HITS ＜＜ BOW
 Linskew




X

MOD

Anc.X，ただし上位はAnc.Xが良い

16

評価結果（Ev.Ling）
言い換え元の句タイプごとの精度

Adjを含む句の言い換えに間違い多数
良い仕事をする

質が高い

仕事を良くする

質が高まる

精度が良いタイプの句ではありきたりな例が多い
承認を得る

映画を見終わる

情報提供を行う

承認される映画が終わる

情報を提供する

17

まとめ
統語的異形間の言い換えらしさの計算

対象：自動生成した日本語述語句の統語的異形対品詞が変わるものも含む
 文法的に不適格な表現も含む


言い換えらしさを近似

シンプルだがそれなりに高精度割と文法的に適格なものを残せる
 スコアと言い換え可能性の相関を確認閾値を設けることで精度良く収集可能

句の複雑さがある程度まではスケールする少なくとも新聞（のみ）を使うよりは18