言い換え認識技術の評価に適した	
  言い換えコーパスの構築指針	
  藤田 篤 (NICT) 柴田 知秀	
  (京大) 松吉 俊	
  (山梨大)	
  渡邉 陽太郎 (NEC) 梶原 智之	
  (長岡技科大)言い換え! 換言，言い替え，Paraphrase	
  (Paraphrasing)	
  l 同じ意味内容を表す，同言語の異なる言語表現	  l ある表現の言い換えを生成する行為	
  大きなけがをするかもしれない
多様性
重傷を負う恐れがある
多義性
研究用にマウスを買ってきた
意味空間

言語空間
2

言い換え技術に関する研究動向! とある分類	  l h"p://paraphrasing.org/bib-­‐cat.html	
  l 大分類12，小分類50，マルチラベル	
  l 論文約640本	
  (2014年6月現在)	
  ! ざっくりと分類	  現象の網羅・類型化	  l 事例研究	  l 言語資源の開発	  l 言い換え認識	  l 言い換え生成	  l 応用技術への適用・導入	
  
l

3

言い換え認識! [入力]	
  2つの異なる言語表現	
  ! [出力]	
  同じ意味を表すか否か(あるいはその程度)	
  ! 応用: 情報検索，質問応答，複数文書要約，剽窃検出	
  

意味空間
言語空間
...

...

...

...

入力1

入力2

出力1 = 同義

出力2 = 同義でない
4言い換え生成! [入力]	
  言語表現，目的に応じた評価基準	
  ! [出力]	
  入力と同義で基準を満たす言語表現の集合	
  ! 応用:	
  平易化，文圧縮，機械翻訳の前処理，折句生成	
  

意味空間
言語空間
...

入力

...

...

...

出力
評価基準を満たす
言語空間の部分空間

5

言い換え処理に必要な言語資源! 言い換え処理に必要な知識	
  l 語の素性/意味記述	
  
n

l

e.g.,	
  項構造/意味役割，動詞の使役・受身の可否	  表現間の関係に関する知識	
  e.g.,	
  同義の語句の辞書 (言い換え知識)	
  n e.g.,	
  派生語，反義語辞書，特質構造	
  (生成語彙論)	
  n

語の共起尤度等の統計情報	
  l 全貌はまだまだ不明	
  l! 言い換え知識獲得	
  (言い換え認識の特殊版)	
  

[入力]	
  コーパス等の言語資源	
  l [出力]	
  同義表現(語，句，文)の集合の集合	  l 応用:	
  生成と認識の根幹，あるいは他のタスクにも貢献	
  
l

6

どれをやるか?
! 言い換え知識獲得:	
  有意義な分析例あり	
  l Ja: 獲得分の分類・分析 [河合+,	
  12]	  l En/Fr:	
  ゴールドデータの作成+自動獲得の評価 [Max+,	
  12]	  ! 言い換え生成:	
  難しすぎる	
  l

18種類の誤りカテゴリ[藤田+,	
  03]	  n

8種類約28k個の統語構造変換規則 à	
  630件の事例	
  知識の表現方法・規模，生成手法に強く依存	  l 網羅性の判定が極めて困難	  l! 言い換え認識:	
  分析の価値がありそう	
  l 関連研究の知見あり	
  En:	
  MicrosoJ	
  Research	
  Paraphrase	
  Corpus	
  (MSRP)	
  [Dolan+,	
  04]	
  n Ja:	
  NTCIR	
  Recognizing	
  Inference	
  in	
  TExt	
  (RITE2)	
  [Watanabe+,	
  13]
n

7

FY2014の成果! 言い換え認識に関して分析	
  ! 出発点	  l コーパス:	
  専用のものはない	  l システム: 専用のものはない	  l 分析メンバ:	
  経験者はいない	  ! モノはありませんが道筋は決まりました	  l 客観的かつ精密な評価のためのシナリオ	  l エラー分析に適したコーパスの仕様の整理	
  一部について実行可能性を調査	  n オープンクエスチョンもあるが...	
  
n

8

関連研究のおさらい

関連研究のおさらい:	
  MSRP! 英語の言い換え認識評価用データ [Dolan+,	
  04]	  l コンパラブルな記事中の編集距離8-­‐20の文の対	  l 正例1147件,	
  負例578件	
  l state-­‐of-­‐the-­‐artのF値:	
  84.1	  n

複数のMT自動評価尺度のスタッキング [Madnani+,	
  12]	  

! 評価用データが適切でない	  l

実世界の問題の分布を反映していない [Xu+,	
  14]	
  cf.「同義」としか言わないベースライン:	
  F値79.9	  n state-­‐of-­‐the-­‐art	
  も実はあまり解けていない	
  n

正解ラベルが誤っている場合もある	
  l 簡単すぎる?	
  トークン重複率:	
  正例0.715,	
  負例0.600	
  
l

10

関連研究のおさらい:	
  RITE-­‐2! 日本語の含意関係認識用データ [Watanabe+,	
  13]	  l Wikipedia	
  中のキーワード検索結果から人間が抽出	
  l 4分類:	
  B	
  (言い換え),	
  F	
  (一方向),	
  C	
  (矛盾),	
  I	
  (関係なし)	
  l state-­‐of-­‐the-­‐artのF値:	
  69.3	  n

文字の重複に基づく手法 [Ha]ori+,	
  13]	  

! 評価用データが適切でない?	
  難しすぎる: どこまで解けているのか?	
  [Kaneko+,	
  13]	  l 逆に簡単すぎる?:	
  e.g.,トークン重複率	  l! リッチな言語資源がまだ活かせていない	  l 要素技術:	
  アラインメント，述語項構造解析，機械翻訳(!)	
  l 語彙資源:	
  WordNet，反義語，含意等の辞書，Webコーパス	
  

11

RITE-­‐2の評価用データのトークン重複率! 共通トークン数	
  /	
  片方のテキストのトークン数	
  l 本来の重複傾向と標本選択バイアスは分離できないが...	
  l t1に対する重複率r1と正解システム数の相関:	
  0.771
Token overlap ratio against t2

1
0.9
0.8
0.7
0.6
0.5
B	
  0.726/0.712	
0.4
0.3
B
F
0.2
C
0.1
B以外	
  0.408/0.607	
I
0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
Token overlap ratio against t1

12

比較的よく解けている事例! ID=242,	
  B,	
  r1=1.00:	
  B(17),	
  F(3),	
  I(1)	
  l 格要素と従属節の順序の変更	
  太平洋戦争の敗戦に伴い、陸軍幼年学校は廃止され、解散した。

	   陸軍幼年学校は、太平洋戦争の敗戦に伴い廃止され、解散した。
! ID=186,	
  B,	
  r1=1.00:	
  B(15),	
  F(4),	
  C(1),	
  I(1)	
  l 対義語の入れ替え	
  公社債投資信託の対義語は株式投資信託である。
株式投資信託の対義語は公社債投資信託である。

13

正解率がやや低い事例! ID=199,	
  B,	
  r1=0.79:	
  B(12),	
  F(2),	
  C(0),	
  I(6),	
  未回答(1)	
  l 対義語の入れ替え	
  +	
  同格の括弧表現	
  紅色組合の対義語は御用組合（黄色組合）である。
御用組合は、俗に黄色組合とも言われ、対義語は紅色組合である。

! ID=330,	
  B,	
  r1=0.75:	
  B(10),	
  F(2),	
  C(4),	
  I(5)	
  l 態の交替	
  +	
  名詞句/名詞	  未成年者喫煙禁止法によって未成年の喫煙は禁止されている。
未成年者喫煙禁止法は，20歳未満の者の喫煙を禁止している。

14

false	  negaave! ID=292,	
  B,	
  r1=0.62:	
  B(4),	
  F(10),	
  C(1),	
  I(6)	
  l 並列要素の並び替え	
  +	
  名詞/名詞	
  +	
  助動詞	  +	  ...	  筆箱とは、鉛筆、シャープペンシル、
消しゴム、定規などを入れる物である。
筆箱は，鉛筆、消しゴム、定規、シャーペンなどを収めた箱だ。

! ID=86,	
  B,	
  r1=0.56:	
  B(4),	
  F(3),	
  C(1),	
  I(12)	
  サウスポーは，左利きのことである。

	  左利きの人を指す言葉として「サウスポー」がある。

! ID=26,	
  B,	
  r1=0.42:	
  B(2),	
  F(7),	
  C(0),	
  I(12)	
  忍者は、漫画のキャラクターとして頻繁に登場する。
忍者を題材とする漫画は，数多い。
15

false	  posiave! ID=20,	
  C,	
  r1=1.00:	
  F(1),	
  B(12),	
  C(3),	
  I(4)	
  ヤブレガサは日本では、本州、四国、九州に分布し、山地の林下の斜面などに生育する。
ヤブレガサは日本では、北海道、本州、四国、九州に分布し、山地の林下の斜面などに生育する。

! ID=65,	
  I,	
  r1=0.94:	
  F(5),	
  B(11),	
  C(4),	
  I(1)	
  第4飛行隊は、かつて存在した南アフリカ空軍の飛行隊である。
第3飛行隊は、かつて存在した南アフリカ空軍の飛行隊である。

! ID=91,	
  F,	
  r1=0.91:	
  F(4),	
  B(14),	
  C(0),	
  I(3)	
  太陽暦とは、地球が太陽の周りを回る周期を基にして作られた暦で、ユリウス暦は太陽暦の一種である。
ユリウス暦は、地球が太陽の周りを回る周期を基にして作られた暦で、太陽暦の一種である。
16

関連研究のおさらい:	
  RITE-­‐2	
  (contd.)! 複数の部分問題を含む複雑な事例 [Kaneko+,	
  13]	  l エラー分析の非生産性	
  n

どのような部分問題がどこまで解けているかが分からない	  単純な問題:	
  解ける/解けない理由を説明できる	  l 複雑な問題:	
  なんだかうまく解けた/なんだか難しい	
  
l

n

l

分析者の主観に依存し，情報を共有しづらい	  部分点が与えられない	  ! 事例の偏り	  トークン重複率の傾向が「浅い」アプローチを奨励	
  l 負例は十分に紛らわしいか?	
  (cf.	
  WSC	
  [Levesque,	
  11])	
  ln

表層的に，というだけではなく	
  ! 数が少ない:	
  正例70件	
  17

エラー分析に向けてのシナリオ

エラー分析に向けてのシナリオ! 第1段階 	
  評価に適した言い換えコーパスの構築	
  l 3つの要件:	
  自然な分布，正負例のバランス，プリミティブ	
  ! 第2段階 	  必要な知識・機能の列挙 [Sammons+,	
  10]	  l (人間の)判断に必要な知識・処理のインスタンス	
  
n

cf.	
  人間のプロセス	  ≠ 理想的なシステム	  ! 第3段階 	  既存の技術の客観的評価と課題の提言	  上記の評価データに基づいて手法をプロファイリング	
  l 語彙資源等の外的な評価	
  [柴田+,	
  15(本WS)]	
  l ホワイトボックス，グラスボックス評価は開発者に任せるl

19

第3段階	  (エラー分析のGoal)! 既存の手法に依存するのは危険	
  l cf.「複数の手法を比較して...」	
  l 問題の全体像は(現在の)解き方とは独立	  新しい(パラダイムの)手法のエラー分析は一からやり直し!?	
  n 言い換え認識の場合はまだstate-­‐of-­‐the-­‐artがない	  n

! 他人のシステムの分析には責任を持てない	  l ホワイトボックス，グラスボックス評価 à	
  できない	  l オラクル調査 à	
  できない	  ! 手法・システムをプロファイルする	
  l どんな部分問題がどれくらい解けている/いないか	  l 解くべき問題をなるべく客観的に分類しておく	
  
	
  
20

第2段階	  (エラー分析=解くべき問題の分析)	
  ! エラー分析の方法論そのものを疑う	  l 出てきたエラー(だけ)を分析することの不十分性	  表面的には見えないエラー (まぐれ正解)	
  n テストデータの十分性	
  
n

l

分析の方法論や分類基準の不安定性	
  n

同じ人でも見るたびに解釈が異なる	
  
l

n

色々な方々「エラー分析しんどい」	
  異なる人だともっと異なる(に違いない)	
  
誤り分析のガイドラインを作ったとして，追従できるか?	
  l 複数人のアノテーション結果の統合 [新納+,	
  15(本WS)]	
  l 藤田早苗さん「自分の感覚にもっとも合ったエラー分類を参考にするのがいいと思います。（みんな結局は自分のエラー分析に基づいて、次にやるべきことを考えると思います）」	
  
l

21

誤りの分類体系の例	
  (1)! 省略解析
表 9: [飯田+,	
  省略解析1: 5(本WS)]
先行詞が出力できず不正解になった事例 その内容の修の人手分類（教科書コーパス）特徴
アノテーションの誤り・問題
機能語相当表現へのアノテーション「いわれた」のような外界照応の問題と混在
名詞+” だ” の格要素
離れた位置（1 文前 or 2 文前）に先行詞が出現
ガ格で先行詞が述語より後に出現
名詞句チャンキングの誤り
丸括弧の問題ニ格で先行詞が述語より後に出現
ひらがな表記が影響
ニ格の解析誤り
文末の名詞句が先行詞となる
その他

事例数
15
10
9
9
6
5
4
4
3
2
2
2
29

その結果、作が含まれるこルを行ったとンでは頻繁にの場合に行うしまう。このてでも 1 つのその結果揺れは、光田ら [

テーション事表にまとめられた事例の多くはアノテーションの揺れや同時に研究開ためにアノテーションされにくい現象に該当することがのような機能その結果起こる問題、もしくはアノテーションの仕様の次に頻出しわかった。例えば、表 9 のうち最頻出の問題はアノテー テーションし22既存の素性の組み合わせ(7)[0.035]
文脈に出現する語の語義(2)[0.010]
語釈文と文脈の関連性(3)[0.015]
照応・省略解析(3)[0.015](1)[0.005]
素性のコーディングが困難(20)[0.100]
文の解釈(18)[0.009]
文脈の解釈(14)[0.070]
学習アルゴリズムの問題( ) 内の数て発生し得ると考えられるものも挙げた．
過学習
字は該当する誤り事例の数，[ ] は全体 (201 事例) に辞書の用例に基づく手法の問題
対する割合である．ひとつの誤り事例が複数の要因に
文間類似度の不備分類されることがある．以下，それぞれのエラー要因(7)[0.035]
類似度が低すぎる(20)[0.100]
類似度が高すぎるについて説明する．
(6)[0.030]
表層的には似ていない
4.1 手法の問題(1)[0.005]
システムのバグ(1)[0.005]
タイブレークが不適切
4.1.1 教師あり機械学習に基づく手法の問題
辞書の文法的制約に基づく手法の問題
3 つの分類器のうち，最も貢献度が高いの使用した(7)[0.035]
文法的制約が緩い(1)[0.005]
規則の不備
は SVM だったので，これについては詳細に分析した．
分類器の組み合わせ手法の問題 (14)[0.070]
以下，それぞれのエラー要因について述べる．
(14)[0.070]
消去法
4.1.1.1
訓練データの不足
知識の問題
訓練データにテスト文と似た事例がないために正し(3)[0.015]
シソーラスの不備
前処理の問題い語義を選ぶことができなかったとき，このタイプに
形態素解析の誤り分類した．ただし，現実的には訓練データの量が十分(1)[0.005]
文節の係り受け解析の誤りにない場合の方が多いので，このタイプに分類するだ
データの不備けでは WSD
の問題の解決策を探ることにはならない．
正解語義の誤り(15)[0.075]
訓練データ
そこで，このエラー要因に分類したときは他の要因も(32)[0.159]
テストデータ探した．ただし，テスト文に類似した事例が訓練デー
問題設定の不備
タにないと語義を判別しようがない場合は【他に手が(1)[0.005]
文脈不足かりなし】とした．その多くは定型的な言い回しで語(16)[0.080]
対象語が不適切(5)[0.025]
熟語・連語として扱う方が適切
義が決まる事例である．例えば，文S3 の「被害に*逢
人間でも判定が困難
う*」は決まり文句に近く，この文が訓練データにな(1)[0.005]
その他
いと「あう」が 166-0-2-3[物事に出会う] という意味で誤りの分類体系の例	
  (2)! WSD	
  [白井+,	
  15(本WS)]
手法の問題
教師あり機械学習に基づく手法の問題(27)[0.134]
訓練データの不足
他に手がかりなし(21)[0.104]
素性抽出が不適切(2)[0.010]
意味クラスの抽象度(5)[0.025]
助詞の取り扱い(10)[0.050]
格の交替の取り扱い(3)[0.015]
連体修飾の取り扱い(8)[0.040]
システムのバグ(3)[0.015]
有効な素性の不足(7)[0.035]
トピック素性(10)[0.050]
長いコロケーション(2)[0.010]
間接的な係り受け(3)[0.015]
既存の素性の組み合わせ(7)[0.035]
文脈に出現する語の語義(2)[0.010]
語釈文と文脈の関連性(3)[0.015]
照応・省略解析(3)[0.015](1)[0.005]
素性のコーディングが困難(20)[0.100]
文の解釈(18)[0.009]
文脈の解釈(14)[0.070]
学習アルゴリズムの問題
過学習
辞書の用例に基づく手法の問題
文間類似度の不備(7)[0.035]
類似度が低すぎる(20)[0.100]
類似度が高すぎる(6)[0.030]
表層的には似ていないい語義を選ぶ分類した．たにない場合のけでは WSD

そこで，この探した．ただ

タにないと語かりなし】と義が決まる事う*」は決まいと「あう」

あると判断す✞✝
ニ格の格要素ることも検討S3 子供が被語義のニ格のスは発見でき4.1.1.2 素性
テスト文か

このタイプに

以下の 5 つに出が不適切】

るが，これら例外的な事例【意味クラスの素性として使の判別に貢献
を挙げる．
✞

✝

23
S4 マグロの誤りの分類体系の例	
  (3)
No. 11l. 44

語彙・構文的言い換えにおける変換誤りの分析

28! 言い換え生成 [藤田+,	
  03]
表 3 各変換誤りを含む言い換え事例数
Table 3 Error distribution for each type of transfer.
トランスファの種類＜格＞ ＜否＞ ＜機＞ ＜サ＞＜分＞ ＜動＞ ＜語＞ ＜慣＞
評価事例数
138
75
19
39
20
60
221
58
不適格性を含む（修正を必要とする）事例数
137
57
9
35
17
53
172
36
(a) 《活用形の誤り》
125
41
3
31
7
43
47
6
42
14
2
3
5
8
4
(b) 《不適格な機能語連接》(c) 《格助詞の欠損》∗
62(d) 《同じ格要素の重複》
74(e) 《節内の格要素と動詞の不整合》
66
∗
∗
8
28
57
3
(f) 《修飾語の重複，競合》∗(g) 《(e) 以外の共起の不整合》
∗
3
28
5
30
1
(h) 《内容語の意味の変化で文の意味が変わる》(i) 《モダリティの持つ意味の変化で文の意味が変わる》
1
5
3
13(j) 《時間情報が等しくない》
2
1
3
∗
1
∗
(k) 《文体が等しくない》(l) 《すわりが悪い語順》
23
∗
∗
∗
2
7
2
10
1
10
1
(m) 《主題・陳述構造の不整合》(n) 《節間，文間の修辞的関係の不整合》
2
4
2
その他
38
16
2
7
8
3
19
22
(A) 慣用表現・固有表現の誤認
9
1
26
4
18
20
(B) 辞書特有のメタ表現によるノイズ(C) 形態素・構文解析の誤り
7
5
5
1
22
1
8
1
1
1
1
1
2
(D) 言い換えエンジンの書き換え操作の誤り“∗” は，訓練セットでは生じたが評価セットでは生じなかった変換誤りを指す．

場合，その再現率は 33.9% （114/336），精度は%（114/630）となる．このことは，言い換えに

合計
630
516
303
78
8
11
162
0
36
31
22
6
1
34
22
8
115
40
38
41
15

t’. 同署員に犯人の自宅が調べられた．
24「比例される」のように受動態になれない動詞

第2段階	  (エラー分析=解くべき問題の分析)	
  ! 解くべき問題をあらかじめ確認しておく	
  l 正しい出力を得るために必要な知識・処理を列挙する	
  インスタンスの列挙，類型化・体系化 [Sammons+,	
  10]	  n 既存のオントロジ/タイポロジから出発	  n OntoNotes方式 [Hovy+,	
  06]	  で収斂	  nl

他のタスクでも可能かも?	
  n

個々の誤答の理由を，あらかじめ説明しておく	
  l

賀沢さん「“〜もらおう” が	
  “考える”	
  の語義をやや示唆」	
  25

第1段階 (エラー分析を可能にするデータ)	
  ! 評価に資するコーパスが満たすべき3つの要件	  l 分布の自然さ:	
  お手上げ状態	  n

本当に解きたい問題の分布を反映したサブセット	
  
l

n

l

応用ごとに分布も正負の基準も異なりうる [Dagan+,	
  05]	
  正負例のバランス:	  担保可能(と思われる)	
  n

自明な事例だけでは意味がない	
  
l

n

n

e.g.,	
  トークン重複率で解ける	  境界をうまくとらえるような負例も必要 [Zaenen+,	
  05]	  ll

サンプルバイアスの例「編集距離8-­‐20」 [Dolan+,	
  04]	  言い換えクラスごとの半自動事例生成/収集	
  [Fujita+,	
  05]	  Ref.	
  WSC	
  [Levesque,	
  11]	  プリミティブさ:	
  担保可能	  独立な部分問題への分割と分類	  n 公平な評価:	
  惜しい誤答に部分点，まぐれ正解を減点	
  
n

26

評価用データの作り方! ある範囲のテキストセットにアノテーション	  l 形態素解析，構文解析，固有表現抽出	
  l 語義曖昧性解消，情報抽出	  l 述語項構造解析，照応解析，レビュー解析	  l 日本語校正，英語校正	
  ! ある範囲の問題セットに模範解答を付与	  機械翻訳，自動要約 (1つないし複数)	
  l 情報検索 (見つけられる限り)	
  l 言語生成，言い換え生成	  (無数)	
  l! どうすればいいんだ!?	
  l

言い換え認識	  n

任意のテキスト対はほぼ間違いなく言い換えではない	
  27

収集したい言い換え事例の範囲
自明な正例
理想的な
評価用事例集合
非自明な例
(境界例)

自明な負例

多様性

ヒューリスティクスで収集できる事例集合28

事例の分解可能性

事例の分解は本当にできるのか?
! RITE2のユニットテストデータ [Kaneko+,	
  13]	  l 本活動と同じ意図で作成されたデータ	  l 含意か否かの分類	
  (言い換えではない)	
  l まだ複雑	  ! さらに分解	  l 61事例由来の241件，分析対象は163件	  l 相互依存性がある場合は分解しない	  l 分解後の言い換えの分類	  n

Ref.『言い換えのあれこれ』の大分類8種類，小分類約40種類	
  
l

n

h"p://paraphrasing.org/paraphrase.html	
  まずは各作業者が適当に名付けて，あとで調整	
  30

事例の分解例! ID=90-­‐4,	
  Type=synonymy:phrase	
  『トンネルズ&トロールズ第5版』はケン・セント・アンドレらによってデザインされた。
助詞の交替『トンネルズ&トロールズ第5版』がケン・セント・アンドレらによってデザインされた。
態の交替
ケン・セント・アンドレらが『トンネルズ&トロールズ第5版』をデザインした。
分裂文『トンネルズ&トロールズ第5版』をデザインしたのはケン・セント・アンドレらである。
節と名詞句の交替

節と名詞句の交替
ケン・セント・アンドレらは『トンネルズ&トロールズ第5版』のデザイナーである。
分裂文『トンネルズ&トロールズ第5版』のデザイナーは
ケン・セント・アンドレらである。

スコープの変更

ケン・セント・アンドレは『トンネルズ&トロールズ第5版』のデザイナーの一人である。

スコープの変更

分裂文『トンネルズ&トロールズ第5版』のデザイナーの一人はケン・セント・アンドレである。

31

事例の分解・分類の結果! 163事例 à	
  306件のプリミティブな事例	  l 内訳	  n

分解なし:	  108事例	  言い換え:	
  58件	  l 非言い換え:	
  45件	  (e.g.,	
  文の一部の抽出)	
  	
  
l

n

分解あり:	
  60事例 à	
  203事例	  言い換え:	
  156件	  l 非言い換え:	
  47件	  ll

42種類+その他	
  

32

list
3
√
scrambling
15√
inference2√
implicit relation
18√
apposition1
表 5: ユニットテストデータの再分解によって得られた√
temporal1√
言い換えの種類の分布.
spatial1
disagree:lex
2 分解済- 新規獲得
言い換えの種類
合計
25
名詞/名詞disagree:phrase
178
disagree:modality
1
名詞句/名詞句
0
2
2
1
動詞/動詞disagree:temporal
06
6
Total
241
動詞/動詞句1
2
3
動詞句/動詞句
1
2
3
表 4: ユニットテストデータの再分解の結果
.
副詞/副詞
1
1
2
再分解
分解済事例数
言い換え
非言い換え
合計
略記
0
1
1
なし
103
58
45
103
表記の揺れ
0
2
2
あり
60
156
47
203
助詞の交替
2
31
33
合計
163
214
92
306
助動詞
0
4
4
テンス・アスペクト表現の正規化
0
2
2
く，
「機能表現
映画」という語の特質構造の知識，「
0 化身ラマ制度」
3
3
複合名詞化
1
1
2
が「法主の選任」のための制度であるという世界知識
同格表現の異形101がなくては言い換えであることを判定できないような
括弧・同格
1
0
1
括弧の付加/削除
055
事例も含まれていた．
並列名詞句の入れ替え
2
1
3
並列動詞句の入れ替え
022(12)格要素の語順の変更
a. 『ステンカ・ラージン』はウラジミール・ロ
4913
数量詞の移動01
マシコフが監督、ワシーリ・ゴンチャロフ 1
主題の交替
9
10
19
が脚本の映画だ。
態の交替
5
6
11
相互格の交替2
0
2
b. 『ステンカ・ラージン』はウラジミール・ロ
機能動詞構文1
4
5
動詞句/名詞句
0
1
1
マシコフが監督、ワシーリ・ゴンチャロフ
文法カテゴリを変える言い換え
0
3
3
が脚本で制作された映画だ。
所有–存在
0
1
1
地名–存在
1
1
2
0
2
2
(13)分裂文
a. カルマ・カギュ派が、化身ラマ制度を初め
節/名詞句
0
3
3
て法主の選任に採用した。
節の統合/分割1
0
1
節の連体修飾節化
2
1
b. カルマ・カギュ派が、化身ラマ制度を初め 3
節をまたぐ言い換え
0
2
2

複合名詞化
同格表現の異形
括弧・同格
括弧の付加/削除
並列名詞句の入れ替え
並列動詞句の入れ替え
格要素の語順の変更
数量詞の移動主題の交替
態の交替
相互格の交替
機能動詞構文
動詞句/名詞句
文法カテゴリを変える言い換え
所有–存在
地名–存在
分裂文
節/名詞句
節の統合/分割
節の連体修飾節化
節をまたぐ言い換え
文の統合/分割
共参照表現による置換
コピュラ文の主辞の削除/挿入
自明要素の明示/暗示
説明の省略
数量詞の省略非制限的説明の除去
スコープの変更
句読点
未分類
合計

言い換えの種類の分布
内容語句
スタイル

機能表現
複合名詞
並列要素

節内構文

節間構文
呼応

その他

1
1
1
0
2
0
4
0
9
5
2
1
0
0
0
1
0
0
1
2
0
0
3
1
15
2
0
0
0
0
1
58

1
0
0
5
1
2
9
1
10
6
0
4
1
3
1
1
2
3
0
1
2
4
5
3
9
3
1
2
1
4
8
156

2
1
1
5
3
2
13
1
19
11
2
5
1
3
1
2
2
3
1
3
2
4
8
4
24
5
1
2
1
4
9
214

今回の事例の分解作業を通じて負例も得られたが，言い換えあるいは一方向の含意の事例のみを分解の対象としたため，相対的に少量であった．また，このようにして得られた負例が，正例との境界に存在する紛ら
わしい事例であるとは限らない．やはり人間による境

33

自明要素の明示/暗示! ID=bc580-­‐0-­‐6:	
  『ステンカ・ラージン』はウラジミール・ロマシコフが監督、ワシーリ・ゴンチャロフが脚本の映画だ。
『ステンカ・ラージン』はウラジミール・ロマシコフが監督、ワシーリ・ゴンチャロフが脚本で制作された映画だ。

! ID=bc-­‐160-­‐2-­‐1	  カルマ・カギュ派が、化身ラマ制度を初めて法主の選任に採用した。
カルマ・カギュ派が、化身ラマ制度を初めて採用した。

34

予稿に書いてないこと
藤田の個人的試みと私見ボトムアップな言い換え事例収集! ある範囲のテキストをとことん言い換える	
  (内省)	
  l 仮説:	
  100人集めればある程度の網羅性を担保できる	  l パイロット作業	  BCCWJから言い換え元の文をサンプル	  n ひたすら言い換え à	
  150事例/5時間	
  (ペースはほぼ一定)	
  ntrivial	
  なものも結構含む	  l minimal	
  pair	  となる負例は別途要作成	
  
l

l

宮尾さん「人間の限界はたかがしれている」

36

応用指向で問題を定義する! 分布の自然さはおいといて応用への貢献を目指す	  l 各タスクでどんな種類の言い換えを解きたいか?	
  
WSD	
  in	
  MT	
  [藤田さ+,	
  15(本WS)]	
  n 言い換えとそれ以外の現象の線引	  n

多くの方々「言い換え大事だよね〜」本当に言い換え?	
  l cf.	
  一昔前の「慣用句」	
  
l

n

l

応用タスクの例:	
  含意関係認識，複数文書要約，etc.	
  それが解けた時にどれくらいインパクトがあるか?	
  どこにでも存在すると言うけれども	
  ...	  	
  n e.g.,	
  RITE-­‐2	
  w/	
  言い換えフレーズ対250万対 à	
  全然当たらん	
  n e.g.,	
  SMTのOOV解消 à X%	
  
n

37

FY2014の活動のまとめ! 出発点	  l コーパスなし，システムなし，経験者なし	
  ! 成果物	  l 客観的かつ精密な評価のためのシナリオ	  l エラー分析に適したコーパスの仕様の整理	
  一部について実行可能性を調査	  n オープンクエスチョン:	
  自然な分布をどう近似するか	
  
n

l

全体像は無視して特定の部分問題だけ優先的に潰す	  ü 応用側で解きたい部分問題	
  ü 頻出する部分問題	
  38