Vol. 45

情報処理学会論文誌

No. 4

Apr. 2004

自動生成された言い換え文における不適格な動詞格構造の検出
藤

田

篤†

乾

健 太 郎†

松本

裕 治†

本論文では，語彙・構文的言い換えにおいて頻繁に生じる動詞格構造の不整合を自動的に検出する方法を提案する．我々は，コーパスから獲得した大規模な正例に基づいて格構造の適格さを定量化す
る確率的言語モデルと，人手で収集した小規模な負例に基づいて格構造の不適格さを定量化するモデルを構築し，これら 2 つを混合し，正例のみに基づく言語モデルと比較して精度の高い誤り検出器を実現した．また，誤り検出に対して貢献度が高い負例を効率良く収集するために能動学習を試行した．

Detection of Incorrect Case Assignments
in Automatically Generated Paraphrases
Atsushi Fujita ,† Kentaro Inui † and Yuji Matsumoto†
This paper addresses the issue of detecting transfer errors in paraphrasing. Our previous
investigation revealed that case assignment of verb tends to be incorrect, irrespective of thetypes of lexical and structural paraphrasing of Japanese sentences. Motivated by this observation, we propose an empirical method to detect incorrect case assignment. Our error
detection model combines two error detection models. They are separately trained on a large
collection of positive examples and a small collection of manually labeled negative examples.
Experimental results show that our combined model signiﬁcantly enhances the baseline model
which is trained only on positive examples. We also propose a selective sampling scheme to
reduce the cost of collecting negative examples, and conﬁrm the eﬀectiveness for the error
detection task.

パターンの適用条件を書き尽くすことは困難であるた

1. は じ め にめ，さまざまな変換誤りが生じる可能性がある．我々

言い換えの自動生成は，自然言語処理のさまざまなは文献 6) において，さまざまな種類の語彙・構文的言

アプリケーションに利用可能な要素技術として注目さい換えパターンを用いて言い換え事例を自動生成し，れている1),19) ．たとえば，機械翻訳や手話生成では，事例の分析に基づいて変換誤りの種類と各誤りが生じ

対象テキストを機械で処理しやすい（翻訳しやすい，る傾向を調査した．そして，言い換えパターンの種類

あるいは手話で表現可能な）表現に言い換えることで，にかかわらず頻繁に生じる，最も優先して解消すべき

訳質や翻訳の被覆率を向上させたり，変換のための知

変換誤りの一つとして，動詞格構造における動詞と格識を簡素化したりできる23),25),28) ．また，音声合成の要素の名詞の不整合をあげた．

前処理として曖昧性が少なくなるようにテキストを言動詞格構造における不整合は次の 2 つのレベルの制

い換えておけば，人間の聞き取りが容易になるし，語約違反からなる．1 つ目は，動詞の下位範疇化構造に

彙・構文的に簡単な表現に言い換えることによって読関する誤り，すなわち統語レベルの制約違反である．

解支援を図ることも考えられる3),11) ．我々は，これら例文☆ (1t) は，動詞「貫く」がニ格を取ることができのアプリケーションを想定して，言い換えを自動生成ないため不適格である．2 つ目は，格要素の選択制限する機構の実現を目指している．

の違反，すなわち意味レベルの制約違反である．動詞

上にあげたアプリケーションのいずれにおいても，「上回る」のヲ格要素は，『記録』，あるいは『精度』の出力としては適格な自然言語テキストが求められる．

ような概念の名詞句でなくてはならない．しかし，例

ところが，適格な言い換えを生成するために言い換え

文 (2t) は，ヲ格の名詞「国境」が上記の制約を満た† 奈良先端科学技術大学院大学情報科学研究科
Graduate School of Information Science, Nara Instituteof Science and Technology

☆

1176

本論文の例文中，R.，s.，t.，r. は各々，言い換えパターン，言い換え前の文，言い換え後の文，修正後の言い換え文を指す．

Vol. 45

自動生成された言い換え文における不適格な動詞格構造の検出

No. 4

1177

していないため不適格である．
(1) s. チームプレーに徹する．
t. ∗ チームプレーに貫く．
r. チームプレーを貫く．

(4) s. 政策責任者が党の基盤を固める．
t1. 政策責任者が党の土台を固める．
t2. ∗ 政策責任者が党の根底を固める．
「基盤」，
「土台」，
「根底」は，動詞結合価辞書の 1 つで

(2) R. N1 が N2 を超える ⇒ N1 が N2 を上回る
（N1，N2 は名詞を表す変数とする）
s. ネットワークが国境を超えた．
t. ∗ ネットワークが国境を上回った．
例文 (1t)，(2t) のような動詞格構造における不整合ある日本語語彙大系においても『2446：基・源』という同じ意味クラスに分類されているため，こうしたシソーラスを使うだけでは，「固める」のガ格として「土台」は適格，「根底」は不適格，とは判定できない．
以上より，動詞格構造が適格であるか否かを判定すは，言い換えに関する先行研究において指摘されてきるためには，既存のシソーラスにおける単語の意味クた5),12),15) が，解決に取り組んだ例はない．そこで，ラスよりも細かい粒度の分類に基づくモデルが必要で本論文では，動詞格構造における名詞と動詞の不整合あると考える．そこで，個々の単語を区別した統計的の自動検出について議論する．

な誤り検出モデルを提案する．

動詞格構造における不整合は，動詞結合価辞書に照適格さを統計的に見積もるには，コーパスから大規らすことで検出できるように見えるかもしれない．た模に獲得できる共起用例（正例）を用いることが考え

しかに，(1t) のような下位範疇化構造に関する誤りは，られる14),16) ．さらに，誤り検出においては負例を用

格助詞の種類が有限であるため，動詞ごとにとりうるいることが有効であると考えられるが，負例のリソー

格助詞を記述することで検出できる可能性がある．しスは現状では存在しないため人手で収集する必要があかし，(2t) のような格要素の選択制限の誤りは，オーる．したがって，次の 2 つが課題となる．

プンクラスの語（動詞や名詞など）の組合せの問題で

課題 1. 大規模な正例と人手で収集できる非常に小規ある．ゆえに，選択制限を満たす単語集合を辞書に記述するアプローチは現実的ではない．
一方，既存の名詞シソーラスを用いてクラスベース
で選択制限を与える統計的なモデルもいくつかある．
27)

課題 2. 誤り検出に必要な負例をまんべんなく収集す
ることは不可能である．有効な負例のみをいかに効率良く収集するか．

は，動詞と格要素の共起用例

本論文では，この 2 つの課題を考慮して構築した誤に基づく確率モデルを提案している．また，河原ら13)

り検出モデルと，その評価実験について述べる．以下，は，動詞の直前の格要素をキーとして格フレームを自まず，2 章では，動詞格構造の誤り検出タスクとアル

動的に獲得する手法を提案している．しかしながら，ゴリズムについて述べる．3 章では，それぞれの課題

名詞シソーラスを用いると，同じ意味クラスに分類さに対して本論文で提案する誤り検出モデルについて述れる単語を区別できないことが問題となる．

べる．4 章でモデルの訓練および誤り検出の評価実験

宇津呂ら

，宮田ら

18)

模な負例をいかにうまく利用するか．

たとえば，
「基盤」，
「土台」，
「根底」の 3 語は，EDR
日本語単語辞書4) において『3cf93c:「基礎」物事や行動の基礎』という概念（意味クラス）に属する同概念の結果を示し，5 章でまとめる．

2. 不適格な動詞格構造語である．EDR 日本語単語辞書の意味クラスは他の2.1 問題の深刻さ

日本語シソーラスと比較して粒度が細かい☆ ため，同

我々は，文献 6) において，日本語の自動言い換えにじ意味クラスに属する同概念語は原則として同義語とおける変換誤りを 2 つの点から分析した．1 つ目は言見なすことができ，次のような言い換えを生成できる．

い換えにおいて生じる変換誤りの種類の分析であり，2 つ目は各変換誤りが生じる頻度に関する分析である．

(3) s. 遺伝子治療の基盤が崩れる．
t1. 遺伝子治療の土台が崩れる．
t2. 遺伝子治療の根底が崩れる．
しかし，同様に例文 (4s) を言い換えた場合，選択制限の違反が生じる．
☆

日本語語彙大系10) や角川類語新辞典21) では，「油絵」と「線画」，あるいは「林檎」と「桃」といった類義語は同じ意味クラスに収録されているが，EDR 日本語単語辞書はこれらを別の意
味クラスに収録している．

ここでは，約 28,000 個の言い換え規則を実装し，自動的に生成した言い換え事例 630 件を対象とした分析の結果，162 件（25.7%）が動詞格構造の不整合を含んでいた．これは，動詞や形容詞の活用形の誤り（303件）に次いで頻出した深刻な問題である．

2.2 タスク設定
本論文で適格か不適格かを評価する対象は，言い換えによって新出した単語，あるいは依存構造を変更さ

情報処理学会論文誌

1178

れた単語を含む動詞格構造である．誤り検出モデルは，以下の理由から依存構造を考慮して設計する．

Apr. 2004

3. 提案モデル• n-gram に基づく統計量が表現の適格さを判定する
タスクに有効であるという報告がある14),16) ．し

3.1 課
題
不適格な動詞格構造を検出するには，統計的機械翻かし，これは英語を対象とした場合であり，日本

訳における翻訳候補選択（デコーディング）2),7) が参語に対しても同様であるとは限らない．日本語は考になる．候補生成の後処理として，個々の候補の尤

比較的語順が自由な言語であるため，我々は，依もらしさを言語モデルに照らして評価するためである．

存構造を扱う方がより正確に適格さを見積もるこ

ただし，デコーディングや他の自然言語処理タスクにとができると考える．

おいて，言語モデルは，可能な出力候補の中から相対• 既存の日本語言い換えシステムの多くは依存構造をデータ構造として言い換えを実現している12),15),24) ．これらのシステムでは，言い換え後の文がたとえ言語的に適格でなくても，その依存構造を参照することが可能である．

的な尤もらしさに基づいて 1 つの候補を選択するために用いられている．これに対し，誤り検出では，次に示す理由から，個々の候補の絶対的な尤もらしさを見
積もらなければならない．
言い換えシステムは，多くの場合，テキストの簡単

我々は，1 章で述べたように，個々の単語を区別し化や制限言語への変換など，特定のタスクへの応用をた誤り検出モデルを構築する．以下，動詞格構造中，目的として構築される．このようなシステムで用いら

名詞 n が格助詞 c を介して動詞 v に係っている（依れる言い換えパターンは，「難解な語から平易な語へ」存している）関係を 3 つ組 v, c, n で表す．

など，目的に応じた制約を受けるため，任意の入力文

例文 (1t)，(2t) は， 貫く, に, チームプレー ， 上

に対して必ずしも適格な言い換えを生成できるとは限回る, を, 国境  という，動詞格構造中の 1 つの v, c, n

らない．したがって，絶対的な尤もらしさに従って個々が不適格な例である．一方，例文 (5t) は， ある, が, 言の言い換え候補を評価し，適切な言い換えを生成でき

葉 ， ある, に, 各地  がともに適格であるにもかかない場合には「言い換え不可能である」と出力しなく

わらず，これらの共起が不適格な例である．

てはならない．

(5) s. 文語体，しかも難解な言葉が随所にある．
∗

個々の言い換え候補を適格/不適格の 2 つのクラス

t. 文語体，しかも難解な言葉が各地にある．

に分類する問題ととらえるのであれば，正例と負例のしたがって，ある動詞格構造が適格であるか否かは，両者を用いて機械学習に基づく分類器を構築するアプ

次のような決定木に照らして判定できる．

ローチが有効であると考えられる．しかし，コーパス

決定木 1： 動詞格構造の適格性判定（人手）に既存の解析技術を適用することで大規模な正例が獲• v, c, n が 1 つでも不適格ならば不適格．

得できるのに対して，負例のリソースは存在しない．

• すべての v, c, n が適格– 兄弟格要素の共起が不適格ならば不適格．
– 兄弟格要素の共起も適格ならば適格．
兄弟格要素との共起の適格性は，文献 26) のように，
v, c1 , n1 , c2 , n2  の同時分布をモデル化すればとらえ

さらに，単語そのものからなる 3 つ組 v, c, n の共起空間は非常に広大であるため，人手で収集できる
どのような負例集合も，共起空間に対してきわめてス
パースである．したがって，サポート・ベクタ・マシン（SVMs; Support Vector Machines）など優れたることができるが，共起用例のデータスパースネスが性能が報告されている 2 値分類アルゴリズムを用いて深刻になる．また，文献 6) における調査では，例文

誤り検出モデルを構築したとしても，有効に働くとは(5t) のように個々の v, c, n が適格であるにもかかわらず兄弟格要素の共起が適格でない事例は，162 件中期待できない．

8 件（誤りのうち 4.9%）と稀であった．
これらをふまえ，本論文では，解くべき問題を，個々の v, c, n を適格/不適格の 2 つのクラスに分類する
問題に単純化する．すなわち，次の決定木によって適格性を判定する．

提案する．

決定木 2： 動詞格構造の適格性判定（モデル）• v, c, n が 1 つでも不適格ならば不適格．
• すべての v, c, n が適格ならば適格．

これらをふまえ，本論文では，次の 2 つの解決策を提案 1. 大規模な正例と小規模な負例をいかにうまく利用するか，という課題に対し，正例，負例のそれぞれのみを用いた誤り検出モデル Pos ，Negを別々に構築し（図 1），これら 2 つを混合して誤り検出モデル Com を構築する．また，提案 2. 誤り検出に有効な負例をいかに効率良く収集するかという課題に対し，上記 Pos ，Neg を用い

Vol. 45

自動生成された言い換え文における不適格な動詞格構造の検出

No. 4

1179

おける共起確率 P (v, c, n) は次式で与えられる．

言い換え前の文P (v, c, n) =

コーパス



P (v, c|z)P (n|z)P (z),

z∈Z

言い換え

係り受け解析

1

4

Z は共起に関する潜在的な意味クラス（隠れクラス）を指す確率変数であり，この式が示すとおり，分布ク

共起用例

ラスタリングはこの Z に基づく確率的ソフトクラスタ

言い換え後の文
2

5

リングである．式中の確率的パラメータ P (v, c|z)，

語彙を制限
6

PLSIの
パラメタ推定3

人手による評価

P (n|z)，P (z) は，文献 9) にならい，EM アルゴリズ
ムを適用して推定する．
P (v, c, n) が与えられれば，相互情報量などのさま
ざまな共起尺度を用いて，v, c, n の適格さを推定す

確率分布

負例集合

モデル
Pos

モデル
Neg

ることができる．今回は，共起確率そのもの（Prob ）とともに，v, c と n の相互情報量（MI ），v, c と

図 1 誤り検出モデルの構築手順
Fig. 1 Model construction scheme.

n の Dice 係数（Dice ）を適格さの尺度として，その性能を調査した．モデル Pos は，入力の v, c, n に対して，Prob ，MI ，もしくは Dice をスコアとして出力する．

て負例を選択的に収集する手法を提案する．

3.2 正負例各々に基づくモデルの混合——課題 1 に対するアプローチ
正例は，既存のコーパスから大規模に獲得すること

P (v, c, n),P (v, c)P (n)2 × P (v, c, n).
Dice(v, c, n) =P (v, c) + P (n)M I(v, c, n) = logができるため，まず，これを用いて統計的言語モデル
Pos を構築する．本論文の目的は，負例を用いることによって，Pos よりも優れたモデルを実現することで3.2.2 負例に基づく誤り検出モデル Neg
v, c, n の共起空間は広大であるため，P (v, c)，もしくは P (n) が低い場合，相対的に Pos が出力すある．ただし，統計的言語モデルの学習に負例を直接るスコアも信頼できなくなる．この欠点を補うため用いることはできないし，きわめて小規模である．そに，負例のみに基づく誤り検出モデル Neg を構築す

こで，Pos とは独立に，負例のみに基づくモデル Neg

る．利用できる負例の数がごく少数であること，共起を構築し，最終的に Pos と Neg を混合した誤り検出器

空間に対してスパースであることを考慮し，k-最近隣

Com を構築する．以下，各モデルについて詳述する．

法（k-Nearest Neighbor）を採用した．
入力の v, c, n と任意の学習済事例（負例）v  , c , n 

3.2.1 正例に基づく誤り検出モデル Pos
コーパスから獲得できる正例はきわめて大規模であるため，高い頻度で出現する 3 つ組 v, c, n については，その生起確率 P (v, c, n) を正確に見積もることができると考えられる．そこでまず，正例のみを用い

基づいていると仮定する．n どうし，v, c どうしのて統計的言語モデル Pos を構築する．

v, c, n と v  , c , n  の距離を次の関数で見積もる．

v, c, n の共起空間は広大であるため，P (v, c, n)を推定する際にデータスパースネスの影響が生じると予想される．ただし，v や n になんらかのクラスを考慮することで軽減できる可能性がある．そこで，の距離は，n と n ，および v, c と v  , c  の距離に距離は，Pos の構築の際に得られた隠れクラス Z への帰属確率分布を用いて算出できる．これらをふまえ，Dist(v, c, n, v  , c , n )= DS P (Z|n), P (Z|n )+ DS P (Z|v, c), P (Z|v  , c ) ,P (v, c, n) を推定するさまざまな手法の中から，分
布クラスタリング22) に基づく Probabilistic Latent
9)

Semantic Indexing（PLSI） を採用した．
v, c, n を v, c と n の共起と見なす☆ と，PLSI に☆

P (v, c, n) は，下位範疇化構造の尤度 P (v, c) と選択制限の充足度 P (n|v, c) の積と解釈できる．この解釈も含めて，
文献 8) は，英語を対象として v, c, n を表現するためのさま

関数 DS は，確率分布どうしの分布類似度☆☆ を表す．
分布類似度の尺度としては，文献 17) で示されてざまな確率モデルを検討している．日本語を対象とした追試も必要である．
☆☆
『類似度』と呼ばれるが，実際の計算値は 2 つの確率分布が類『距離』を示している．
似しているほど 0 に近く，

情報処理学会論文誌

1180

Apr. 2004

いる分布類似度の中から，優れた実験結果が得られての部分区間ごとに割り当て，各区間において適格いる Jensen-Shannon divergence（本論文では以下，である v, c, n の割合を，部分区間の中央値 s が

DSJ S と表記する）を採用した ．2 つの確率分布 q ，
r に対して，DSJ S は次の式で与えられる．

（Step 3） s, C の点を線形補間することで写像関☆

DSJ S (q, r)    q + r
1
 q+r

=
D q
+D r 
,示す v, c, n の適格さの信頼度 C とする．
数とする．
なお，4 章で述べる評価実験においては，5 分割交22
2
ここで，D は Kullback-Leibler（KL）divergence であり，DSJ S は，KL divergence に確率 0 への耐性と差検定を行う際に，5 分の 4 にあたる訓練データの 4対称性を持たせたものである．

力するスコアを信頼度を各々CP os と CNeg に写像し，







D P1 (X)  P2 (X) =x∈X

P1 (x) log

P1 (x).
P2 (x)

モデル Neg は，入力の v, c, n に対して，v, c, n

分割交差検定によって写像関数を導出した．

Com は，入力の v, c, n に対して Pos ，Neg が出
その重み付き平均を自身のスコアとして出力する．

ScoreCom (v, c, n) = β CP os + (1 − β) CNeg ,ここで，β （0 ≤ β ≤ 1）はモデルの重みであり，とその k 個の最近傍事例との分布類似度 d の重みつ

ScoreCom は Pos ，Neg のスコアと同様に，小さい

き平均を適格さのスコア ScoreNeg として出力する．

ほど不適格，大きいほど適格であるという意味を持つ．

ScoreNeg1
λi Dist v, c, n, v  , c , n i ,
k
k

=

i=1

3.3 能動学習——課題 2 に対するアプローチ
負例を収集するコストをいかにして削減するか．この課題に対して，我々は能動学習を導入した．能動学
習は，未知の事例に対するモデルの出力をもとに次にここで，λi は i 番目の最近傍事例，v  , c , n i に対す学習（人手でラベル付け）すべき事例を決定し，モデる重みである．

ルの学習を効率良く進める手法である．ラベル付けす

3.2.3 Pos と Neg の混合モデル Com
Pos は正例のみを用いた確率的言語モデル，Neg は既知の負例との距離をを計算するモデルである．これる事例が少数であっても，有益な事例を選択的に収集

ら学習データ，出力の尺度が異なる 2 つのモデルの混

Pos は確率（0 ≤ P rob ≤ 1），あるいは共起尺度（−∞ ≤ M I, Dice ≤ ∞），Neg は分布類似度の平均（0 ≤ ScoreNeg ≤ ∞）というように，各モデルが出力

Neg であり，学習事例となる 3 つ組 v, c, n は，(i)正例ではない，(ii) すでに収集済の負例のいずれとも似ていない，という性質を満たしているほど有益であると考えられる．以下，3 つ組をサンプルと呼ぶ．
サンプルがいかに正例らしくないかは，Pos によっするスコアの尺度は異なる．そこでまず，モデルが出て推定できる．また，サンプルとすでにラベル付けさ力するスコア s を信頼度 C（0 ≤ C ≤ 1）に写像する．
C は，「v, c, n のスコアが s であるならば v, c, n は適格である」ということをどれだけ信頼できるかを表
す．s から C への写像関数は，学習データと関数を推れている負例との距離は，Neg によって算出できる．

定するためのデヴェロップメントデータを用いて次のヴェロップメントデータ中の v, c, n に対してス

P ref erence(x) = −sx log(px ),この式では，値が大きいほどラベル付けの優先度が高いとする．px が低いほど好ましいので符号を反転させている．また，広大な共起空間の広い範囲をカバー

コアを付与する．

するようなサンプルの方が，学習に大きく寄与するで合モデル Com を構築する．

手順で導出する．
（Step 1） 学習データを用いてモデルを構築し，デ（Step 2） スコアを付与された v, c, n を，スコア☆

文献 17) は，α-skew divergence という尺度が，JensenShannon divergence よりも優れていると報告している．我々のタスクにおいても，α-skew divergence はパラメータ α の値によっては優れた精度を示したが，Jensen-Shannon divergence に対して有意ではなかった．また，最適なパラメータ αの推定も困難であるため，本論文ではこの尺度については言及しない．

できれば，高精度なモデルを構築できる．
我々の誤り検出モデルにおける能動学習の対象はあるサンプル x に対して Pos が出力する尤度を px ，Neg が出力する最近傍事例（負例）との距離を sx として，次のような選好関数を作成した．

あろうと仮定し，学習済の負例との距離 sx を重視するため，px の対数を用いて調整している．
能動学習アルゴリズムは以下のとおりである．
（Step 1） 対象とするドメインの文書から取り出した文に言い換え規則を適用し，言い換え事例集合を生成する．
（Step 2） 言い換え事例集合から，v, c, n の集合を

Vol. 45

No. 4

自動生成された言い換え文における不適格な動詞格構造の検出1181

取り出す．以下，v, c, n をサンプル，取り出し〜3,000 の中のいくつか，LexL については計算機

た集合を，サンプルプールと呼ぶ．

資源の制約上，2〜1,500 のいくつかを試行した．

（Step 3） サンプルプールから少数のサンプルをラ（Step 4） 評価事例集合およびモデル Neg の訓練に

ンダムに取り出し，人手で正負のラベルを付与す用いるための負例を収集した．Step 1 で用いた新る．このうち，負例のみを Neg の初期学習事例

聞記事の一部（日本経済新聞，2,000 年）からラとする．

ンダムに取り出した 90,000 文を言い換えエンジ（Step 4） サンプルプールの各サンプルに対して，上ン☆5 に入力し，文献 6) で用いたさまざまな種類に示した選好関数によって優先度を付与する．

の言い換えパターンを網羅的に適用して 7,167 事（Step 5） 最も優先度が高いサンプルを取り出し，人

例を生成した．

手で正負のラベルを付与する．負例であれば Neg（Step 5） Step 4 で生成した言い換え事例から，の学習事例に追加し，正例であれば次に優先度が(i) 格要素も動詞も言い換えられていない事例，(ii) 言い換えられた動詞格構造中の n，c，v のい
ずれかが Step 2 で定義した LexS に含まれない事例を除き，3,166 事例を取り出した．

高いサンプルを取り出す．
（Step 6） 停止条件を満たすまで Step 4，5 を繰り返す．停止条件とは，たとえば，Neg あるいは Comの精度が収束する，などである．

（Step 6） Step 5 で得た 3,166 事例，および事例に含まれる異なりで 3,704 組の v, c, n を人手で適4. 誤り検出実験

格/不適格に分類した．結果，事例としては正例

4.1 モデルの訓練および評価事例の作成
評価事例集合の作成およびモデルの訓練の手順を以下に示す．図 1 も参照されたい．
（Step 1） 新聞記事 19 年分☆1 の係り受け解析結
果☆2 から，のべ 53,157,450 組，異なり 7,993,331組の v, c, n を収集した☆3 ．名詞は 65,384 語，動詞は 33,884 語であった．
（Step 2） 2 つの語彙でモデルを構築した．1 つ目
は，のべ 2,000 回以上出現した名詞 3,365 語，

2,358，負例 808（25.5%）☆6 を，v, c, n としては正例 2,853，負例 851 を得た．
4.2 評 価 方 法
モデルが出力するスコア（確信度）に対して閾値を設け，モデルを 2 値分類器として扱う．すなわち，閾
値以下の値を持つ事例を不適格，閾値を超える値を持
つ事例を適格と判定する．ある閾値のもとでのモデルの誤り検出の能力を，以下に示す再現率 R，および精度 P で評価する．

動詞 2,516 語，および頻度が高い 7 つの格助詞

R=“が”，“を”，“に”，“で”，“へ”，“から”，“より”のみからなる v, c, n のを用いたモデル LexS でP =ある．異なりで 3,628,345 組がこの語彙で表現さモデルが検出に成功した変換誤り事例の数,

変換誤り事例の数モデルが検出に成功した変換誤り事例の数モデルが変換誤りとラベル付けした事例の数.

れており，v, c の異なりは 16,899 種，v, c と閾値を変化させることで不適格と見なす事例の数をn の共起行列要素充填率は 6.38%であった．2 つ目は，2 回以上出現しており，かつ LexS と同じ
格助詞のみを含む v, c, n を用いた LexL である．

制御し，再現率–精度曲線（R-P 曲線）を描画した．ま点平均精度で評価し，2 つの R-P 曲線間の有意差のこちらは，異なりで 3,110,546 組，v, c，n の異有無は，再現率の 11 点をサンプルとした Wilcoxon

なりはそれぞれ 66,484 種，38,512 種，共起行列

符号順位和検定，有意水準 5%で検定した．

た，個々の R-P 曲線は，R = 0.0, 0.1, . . . , 1.0 の 11

（Step 3） Step 2 で得た 3 つ組の集合を PLSI 学習

4.3 実 験 結 果
4.1 節で作成した 3,166 事例を用い，5 分割交差検パッケージ☆4 に入力し確率的パラメタを推定し定によって動詞格構造の誤り検出の実験を行った．すた．隠れクラスの数 |Z| は，LexS に対しては 2

なわち，評価事例集合の 5 分の 4 に含まれる v, c, n

要素充填率は 0.12%であった．

☆1

毎日新聞 9 年分，日本経済新聞 10 年分，のべ 25,061,504 文．
☆2
係り受け解析には CaboCha を用いた．
http://cl.aist-nara.ac.jp/˜taku-ku/software/cabocha/☆3“れる/られる”，“せる/させる”，などの格交替に関わる動詞性接尾辞が後続する場合は，これを含めて動詞 1 語とし，格の交替現象を直接扱っている．
☆4
http://cl.aist-nara.ac.jp/˜taku-ku/software/plsi/の負例を Neg の学習に用い，残りの 5 分の 1 をスコ☆5

言い換えの自動生成には Kura を用いた．
http://cl.aist-nara.ac.jp/lab/kura/doc/☆6
評価は 2.2 節の決定木 1 に基づいている．すべての v, c, n
が適格であるにもかかわらず兄弟格要素の共起が適格でない事
例は 41 件（誤りのうち 5.1%）であった．

情報処理学会論文誌

Precision

1182

Apr. 2004

1

は，低い再現率の範囲（今回の評価事例集合に対し

0.9ては R ≤ 0.656）では R-P 曲線を描くことができな

0.8

かった．高い再現率の範囲（R ≥ 0.656）でも，Pos

0.7の Prob と比べるとわずかに高い精度を得ているもの

0.6の，MI と比べると低い精度しか得られなかった．また，共起尺度を用い，頻度 0 の v, c, n 間の尤度に優

0.5(Pos) LexL, |Z|=1000, Prob
(Pos) LexL, |Z|=1000, MI(Pos) LexL, |Z|=1000, Dice
Good-Turing, Prob
Good-Turing, MI
Good-Turing, Dice
Dictionary-based (NTT Japanese Lexicon)

0.4
0.3
0.2
0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

劣をつけた場合でも，MI が 51.9%，Dice が 58.0%とPos の同じ尺度に比べて低く，有意な差があった．
LexL，|Z| = 1, 000 における Pos の各尺度の 11 点
0.9

1

Recall

図 2 ベースラインモデルの R-P 曲線
Fig. 2 R-P curves of baselien models.

ア付けする．以下，各誤り検出モデルごとに R-P 曲

平均精度は，Prob が 65.6%，MI が 69.2%，Dice が67.5%であった．また，LexS ，|Z| = 2, 000 において
は，Prob が 63.3%，MI が 66.1%，Dice が 65.5% であった．R-P 曲線を比較した場合でも，Pos は他のモデルに比べて顕著に高い精度を示しており，提案す線，および 11 点平均精度を示し考察する．

る誤り検出モデル Com を構築・評価するうえで十分

4.3.1 ベースライン
まず，ベースラインモデルによる誤り検出実験の結果を示す．ここでは，動詞結合価辞書に基づくモデル，
統計量の頻度ディスカウント手法に基づくモデルを取高い精度のベースラインであるといえる．
モデル Pos の各尺度について，分布クラスタリン
グにおける隠れクラス数 |Z| と 11 点平均精度の関係を図 3 に示す．全体的に共起尺度（MI および Dice ）り上げる．さらに，本論文では，負例を用いることにが Prob よりも優れた 11 点平均精度を示したが，図 2

よって Pos よりも高い精度の誤り検出器を構築するが示すように，Prob と共起尺度（MI ，Dice ）では異ことを目的としているため，Pos もベースラインとなる特徴を示しているため，どの尺度が最適であるか見なす．動詞結合価辞書としては日本語語彙大系10)は一概には決定できない．具体的には，再現率が低い（Dic ）を，統計量の頻度ディスカウント手法としては

区間，すなわち最も自信を持って負例と判定している

Good-Turing 法（GT ）を用いた．上の各モデルの誤り検出における R-P 曲線を図 2 に示す．
Dic は，下位範疇化構造および選択制限を満たすか否かで個々の v, c, n の適格/不適格を判定し，2.2 節の決定木 2 に基づいて事例の適格/不適格を判定するモ

区間では Prob が，それ以外の区間では共起尺度の方比較した場合，各尺度の間に有意な差はなかった．

デルである．ただし，3,166 事例中 338 事例（10.7%）

周辺分布 P (v, c|z)，P (n|z)，P (z) が高ければ，高は，動詞結合価辞書にエントリを持たない動詞が評価

く見積もられる．これに対して，v, c と n の共起尺の対象となっていたため，Dic は残りの事例に対して度を用いることによって，このスムージングによる悪のみ，適格/不適格を判定した（被覆率 89.3%）．この影響を回避することできたと考えられる．ただし逆被覆率のもとで，Dic の誤り検出の再現率は 61.6%，に，周辺分布が低い場合では，高い場合に比べて尤度

精度は 41.9%であった．

推定の信頼性が相対的に低下する．Prob と共起尺度

GT は，共起用例の頻度ディスカウンティングにより PLSI と比較して低コストで P (v, c, n) 推定できるが，コーパス中に同じ回数出現する v, c, n 間の優劣をつけることはできない ．このため，Prob で☆

が優れた精度を示している．検定の結果，R-P 曲線を

PLSI は隠れクラス z に基づく一種のスムージングであるため，たとえ真の P (v, c, n) が低い場合でも，の R-P 曲線が異なる特徴を示したのは，尤度推定における上記の特徴によるものと考えられる．
図 3 では，|Z| を大きくするにつれて 11 点平均精度は向上するが，試行した |Z| の範囲で収束の傾向を見せている．LexS は |Z| = 1, 000 と 1, 500 で，LexL☆

Good-Turing 法では，出現回数 r の補正値として，次の式で示される r ∗ を用いる．

でも |Z| = 100 と 200 で精度に有意な差が見られたが，それ以上の区間では精度に有意な差はなかった．

Nr+1
r = (r + 1),
Nr∗

ここで，Nr は，学習データ中に r 回出現した v, c, n の総数である．そして，任意の v, c, n の出現確率は，次の式で与えられる．

P (v, c, n) =r∗,N

ここで，N はあらゆる v, c, n の総出現回数を表す．

Vol. 45

自動生成された言い換え文における不適格な動詞格構造の検出

No. 4

0.7

1183

0.75

LexL, k=1
LexL, k=2
LexL, k=3
LexS, k=1
LexS, k=2
LexS, k=3

0.66
0.64
0.62
0.6

LexL, MI
LexL, Dice
LexL, Prob
LexS, MI
LexS, Dice
LexS, Prob

0.58
0.56
2

5

10

20

50

100

200

500 1000 2000

# of latent classes |Z|

図 3 |Z| に対するモデル Pos の 11 点平均精度
Fig. 3 11-point average precision of Pos over |Z|.

11-point average precision

11-point average precision

0.68
0.74

0.73

0.72

0.71
2

5

10

20

50

100

200

500 1000 2000

# of latent classes |Z|

図 4 |Z| に対するモデル Neg の 11 点平均精度
Fig. 4 11-point average precision of Neg over |Z|.

すなわち，最も高い精度を得る |Z| の付近で精度は比図 3 と図 4 を比較すると，Neg の 11 点平均精度

較的安定しているといえる．|Z| の最適値は，上に示

は Pos のそれと比較して高すぎるように見えるかもしたように対象とする語彙に依存して変化するため，しれないが，これは予測できた結果である．なぜならさまざまな |Z| の値について分布クラスタリングを適ば，我々が，評価事例集合および負例の収集に用いた

用し，デヴェロップメントデータに対する誤り検出精

言い換え規則集合6) は，特定の目的で構築されてお度から経験的に推定するしかない．しかし，対象とすり，生成される表現のバリエーションが限られているる語彙を変更することはあまりなく，また，最も高いためである．すなわち，生成される言い換えに含まれ精度を得る |Z| 付近で精度は安定していることから，る v, c, n の種類は v, c と n のあらゆる組合せを人的負担という点では推定のコストは低い．

考えるよりは比較的少なく，少数の負例であっても誤4.3.2 Neg の誤り検出能力と特徴
分布類似度の重みを，最も近い（順位が低い）事例

りの傾向をとらえるのに十分であったと考えられる．
3.1 節で述べたように，言い換えを用いた他のアプリ

ほどその距離を信頼するという意味で λi = 1/i とし，
5 分割交差検定によってモデル Neg を評価した．
分布クラスタリングにおける隠れクラス数 |Z| と 11点平均精度の関係を図 4 に示す．この図が示すように，LexS ，LexL ともに，11 点平均精度のピークはケーションにおいても言い換えの生成能力は限られて|Z| = 20 付近にあった．これは，異なる語彙，学習
データに対しても容易に Neg を構築できるかということについて，良い見通しを与える結果である．|Z|が小さければ，確率的パラメータの推定に要する時間も少ないため，Neg が最も高い精度を得る |Z| が Pos

すべてを用いてモデル Neg を構築し，特徴を分析しいるため，少数の負例で誤りの傾向をとらえようとす
る我々のアプローチは現実的であるといえる．

4.3.3 負例の選択的収集と Com による誤り検出
前項では，4.1 節で収集した v, c, n の負例 851 組
た．しかし，現実にはあらゆる誤りの傾向をとらえるのに十分な負例を収集するコストを無視するわけにはいかない．そこで，すでに正負例のラベルを付与した

3,704 組の v, c, n を用い，負例の能動学習の模擬実に比べて容易に推定できる．また，Neg において確率験を行う．この実験を通じて次の 2 点を確認する．

分布 P (Z|n)，P (Z|v, c) の変数が少なくなるため，(i) 少数の負例を用いて構築した Com がどれだけ Posの精度を向上させることができるか，(ii) 3.3 節で示した能動学習アルゴリズムがどれだけ距離の計算に要するコストも少なくてすむ．
参照する最近傍事例数 k については，|Z| の値によっては k = 2 で最も高い 11 点平均精度が得られたが，|Z| を先に決定した場合，すなわち，|Z| = 20 では，
k = 1 の方が高い精度を得ていた（k = 2 に対して有意差あり）．共起空間が広大，かつ学習に利用可能な負例がスパースであるため，より多くの最近傍事例を効果的か．
4.3.3.1 セッティング
能動学習は 2 度試行した．まず，3,704 組の正負例のラベルを付与した 3 つ組集合をサンプルプールとし，ランダムに 100 組を取り出した．ここで，初期

参照すると精度が低下したと考えられる．すなわち，学習事例 S1 は負例 16 組，S2 は負例 22 組であった．

よほど大規模な負例を収集しない限りは k = 1 を選択

S1 ，S2 の各々について，残りの 3,604 組から選択的に事例（負例）を収集した．

して差し支えない．

情報処理学会論文誌

1184

1

1000
900

0.8

800
700

0.78

600
0.76

500
400

0.74

300
200

0.72

100
0.7

0
100 500

1000 1500 2000 2500 3000
# of sampled examples

3704

図5

Com の学習曲線．棒グラフ：収集した負例の数，折れ線グ
ラフ：11 点平均精度
Fig. 5 Learning curves of Com. Lines: 11-point average
precision, bars: # of obtained negative triplets.

0.9
0.8
0.7
Precision

Selective Sampling
Random Sampling# of obtained negative examples (bars)

11-point average precision (lines)

0.82

Apr. 2004

0.6
0.5(Com) w/ 3704 examples(Com) w/ 1500 examples(Com) w/ 500 examples(Neg) w/ 3704 examples(Neg) w/ 1500 examples(Neg) w/ 500 examples(Pos) Baseline

0.4
0.3
0.2
0

0.1

0.2

0.3

0.4

0.5
0.6
Recall

0.7

0.8

0.9

1

図 6 各学習時点での R-P 曲線
Fig. 6 R-P curves of our models.

できている．また，折れ線グラフからは，とくに学習初期における顕著な精度の向上を見ることができる．

能動学習に用いたパラメータは以下のとおりである．
まず，より現実に近い設定として大規模語彙 LexL を

すなわち，収集された負例が，誤り検出においても効果的であったといえる．

用いた．Pos の尺度としては，Prob を選択した．Prob

図 6 は，Pos および学習の各時点での Neg ，Comは，4.3.1 項において，再現率が低い区間（最も確信の R-P 曲線を示している．この図からは，まず，低を持って負例と判定している区間）で最も高い精度を

い再現率の範囲では Neg の方が Pos よりも優れてお示したためである．隠れクラス数 |Z| は，すでに考察

り，高い再現率の範囲では Pos の方が Neg よりも優したとおり，扱う語彙にのみに依存する．したがって，れていたことが分かる．これに対して Com は，ベー学習の各時点で同じ値を用いる．具体的には，Pos にスラインである Pos の欠点を Neg によって補い，あは |Z| = 1, 000，Neg には |Z| = 20 を用いた．これ

らゆる再現率の範囲で両モデルを上回る精度を得ていらは，前項までの予備実験において最も高い精度を得る．この際，収集した負例の数が少なく，Neg 自身がたパラメータである．さらに，学習の各時点で利用で十分な精度を持っていない場合でも，Pos と Neg をきる負例が 4.3.2 項よりも少ないため，参照する最近組み合わせることで，つねに両モデルを上回る精度を

傍事例数は k = 1 とした．

得ていることから，語彙や事例が変化しても同様にモ

学習の各時点で Com を構築し，Neg と同様に 5 分
割交差検定によって誤り検出の性能を評価した．ここ

デルの改良が可能であるといえる．
今回の実験では，利用可能な負例をすべて（851 組）

でも前項までの予備実験において最も高い精度を得用いて構成した Com は 81.3%の 11 点平均精度を示たパラメータを用いた．すなわち，Pos についてはした．同じパラメータの Pos ，Neg の精度をそれぞれ|Z| = 1, 000，MI ，Neg については |Z| = 20，k = 1を採用した．モデルの重みは β = 0.5 とした．

約 12.1 ポイント，約 6.5 ポイント上回っていた．

4.3.3.2 実験結果と考察
選択的サンプリング，および比較対象として取り上げたランダムサンプリングによる実験結果を図 5 に示す．横軸は，サンプリングして人手で正負例のラベ

4.4 パラメータに関する考察
本論文で提案した誤り検出モデル Com には次の 5
つのパラメータがある．

1. 隠れクラス数 |Z|
2. Pos の尺度（Prob ，MI ，Dice ）11 点平均精度を表す．また，実線と点線はそれぞれ，
選択的サンプリングとランダムサンプリングを表す．
なお，ここでは初期学習事例 S1 ，S2 を用いた 2 度の

3. 参照する最近傍事例数 k
4. Pos と Neg の線形結合の重み β
5. 各モデルが「誤り」と出力するスコアの閾値
モデルの評価実験に用いた事例集合は，高頻度語のみを対象としており，また比較的小規模であった．こ

試行の平均を示している．

のため，新規の学習事例に対しては，パラメータの再ルを付与した 3 つ組の数を表す．図 5 の棒グラフと折れ線グラフはそれぞれ，収集した負例の数，Com の棒グラフが示すとおり，選択的サンプリングでは，推定が必要になる可能性がある．上記の 5 つのパラ

ランダムサンプリングと比較して優先的に負例を収集

メータは厳密には独立ではないが，4.3 節で示した実Vol. 45

No. 4

自動生成された言い換え文における不適格な動詞格構造の検出

1185

験結果から，各パラメータは，デヴェロップメントデー

は精度を達成するという目的に応じて選択する方が自タを用いて，一つづつ，経験的に推定して差し支えな然である．すなわち，他のすべてのパラメータを決定

いと考える．以下，各パラメータの性質と推定方法をしてモデルを構築し，デヴェロップメントデータに対考察する．

して描画した R-P 曲線から決定すればよいと考える．

4.4.1 隠れクラス数 |Z|
図 3 および図 4 において，11 点平均精度に対する|Z| の影響を観察すると，最も高い精度を得る |Z| 付
近で精度は比較的安定している．このことから，準最適なパラメータであれば容易に推定できると結論づ

5. お わ り に
本論文では，統計と用例に基づく動詞格構造の誤りの検出モデルを提案した．コーパスから獲得した大規模な正例に基づく統計的言語モデル Pos に，人手でける．

収集した小規模の負例に基づいて格構造の不適格さ

4.4.2 Pos の尺度
新規の語彙，評価データに対しても，MI が最適であるという保証はなく，尺度の再選択が必要になる可能性がある．選択の指標としては次の 2 つが考えられを定量化するモデル Neg を混合することで，誤り検る．すなわち，(i) 誤り検出精度の高さ，および (ii) |Z|

能動学習を導入した．ラベル付けの優先度を示す選好に対して精度が敏感であるか否か．前者は，本論文に関数を提案し，誤り検出に対して貢献度が高い負例をおける負例の選択的収集と誤り検出で尺度を使い分け

効率良く収集できる可能性を示した．

たように，R-P 曲線における特性も参照すべきである．後者については，ロバスト性を考えると，|Z| に対して過敏ではないことが望ましい．

4.4.3 参照する最近傍事例数 k
共起空間が広大，かつ学習に利用可能な負例がス
パースであるため，より多くの最近傍事例を参照すると精度が低下する．したがって，よほど大規模な負例

出モデル Com を構築した．評価実験において，Comは，Pos に比べて 12.1 ポイント高い，11 点平均精度

81.3%を得た．また，負例の効率的収集を目的とし，不適格な動詞格構造の自動検出については，さらに次に示すような調査が考えられる．

• 負例のみを用いる Neg は，典型的な負例と正例に囲まれた特異な負例を区別できていない．正負
例両方を用い，事例間の距離が正負例の弁別に対してどれだけ敏感であるかをとらえるようにモデルを改良する．

4.4.4 Pos と Neg の線形結合の重み β
今回は，Pos と Neg の線形結合の重みは，β = 0.5に固定していた．しかし実際，選択的負例収集における各時点で，0.4 ≤ β ≤ 0.6 で最も高い精度を得てお• 言い換えの自動生成というタスク全体における貢献度を評価する．
文献 6) では，言い換えにおける変換誤りの多くが，動詞格構造誤りのように共起の問題，あるいは活用型のように抽象化してとらえられるレベルの問題である

り，β の値は一定ではなかった．すなわち，最適な値ことを示した．たとえば，形容詞や名詞述語を主辞とを推定すべきである．学習のどの時点でも，この β のする構造も，本論文で扱った動詞格構造と同様のモデ範囲での 11 点平均精度の差は 0.5〜1.5% あり，R-P

ルで適格/不適格を判定できる可能性がある．しかし，曲線においても有意な差があった．すなわち，他の |Z|

本論文で述べたモデルでは検出できない変換誤りも残を収集しない限りは k = 1 を選択して差し支えない．

や k などのパラメータに比べて，精度に対して大きされている．たとえば，例文 (6) を見てみよう．

く影響していた．したがって，他の比較的安定していに関する唯一のパラメータであるため，容易に推定で(6) s. 遺伝子を抑えることで成長を抑制できる．
t. ∗ 因子を抑えることで成長を抑制できる．
例文 (6t) では  抑える, を, 因子  という 3 つ組の共起は適格であるため動詞格構造の誤りとしては検出きる．

できない．しかし，「生物の遺伝形質を規定する」と

4.4.5 各モデルが「誤り」と出力するスコアの閾値について
4.2 節で述べたとおり，本論文では，R-P 曲線および 11 点平均精度によってモデルを定量評価した．たいう対象としている分野の情報が欠けることによってだし，最終的には，モデルが出力するスコアについて，

本ら20) は，推敲支援における類義語の順位づけを目

そのスコア以下の事例を誤りと見なす閾値を決定しな的として，類義語間の静的な意味の違いを国語辞典のくてはならない．この閾値は，必要な再現率，あるい

語釈文から抽出する手法を提案している．適格な言いるパラメータを決定し，Com を構築したうえで推定すべきと考える．この場合，β は Pos と Neg の混合

意味がぼやけてしまうため，言い換えとしては適格ではない．これは，類義語間の細かい意味の違いが捨象されているために生じる変換誤りだと考えられる．岡情報処理学会論文誌

1186

換えを生成するためには，本論文で扱った統計的アプ
ローチ，および岡本らのアプローチの先に，句や節といった任意の表現間の意味の違い，文脈における適合性をとらえるための枠組みを構築する必要がある．
謝辞 本論文の査読者の方々には，論文を精読していただき，有益なご指摘をいただきました．深く感謝いたします．

参考 文献1) ACL: The 2nd International Workshop on
Paraphrasing: Paraphrase Acquisition and Applications (IWP ) (2003).
2) Brown, P.F., Pietra, S.A.D., Pietra, V.J.D.
and Mercer, R.L.: The mathematics of machine translation: parameter estimation, Computational Linguistics, Vol.19, No.2, pp.263–
311 (1993).
3) Carroll, J., Minnen, G., Pearce, D., Canning,Y., Devlin, S. and Tait, J.: Simplifying text for
language-impaired readers, Proc. 9th Conference of the European Chapter of the Association for Computational Linguistics (EACL),
pp.269–270 (1999).
4) 日本電子化辞書研究所：EDR 電子化辞書仕様説
明書，日本電子化辞書研究所 (1995).
5) 藤田 篤，乾健太郎：語釈文を利用した普通名
詞の同概念語への言い換え，言語処理学会第 7 回
年次大会発表論文集，pp.331–334 (2001).
6) 藤田 篤，乾健太郎：語彙・構文的言い換えにおける変換誤りの分析，情報処理学会論文誌，Vol.44,
No.11, pp.2826–2838 (2003).
7) Germann, U., Jahr, M., Knight, K., Marcu, D.
and Yamada, K.: Fast decoding and optimal
decoding for machine translation, Proc. 39th
Annual Meeting of the Association for Computational Linguistics (ACL), pp.228–235 (2001).
8) Gildea, D.: Probabilistic models of verbargument structure, Proc. 19th International
Conference on Computational Linguistics (COLING), pp.308–314 (2002).
9) Hofmann, T.: Probabilistic latent semantic indexing, Proc. 22nd Annual International ACM
SIGIR Conference on Research and Development in Information Retrieval (SIGIR), pp.50–
57 (1999).
10) 池原 悟，宮崎正弘，白井 諭，横尾昭男，中岩浩巳，小倉健太郎，大山芳史，林 良彦（編）：日
本語語彙大系：CD-ROM 版，岩波書店 (1997).
11) Inui, K., Fujita, A., Takahashi, T., Iida, R.
and Iwakura, T.: Text simpliﬁcation for reading
assistance: a project note, Proc. 2nd International Workshop on Paraphrasing: Paraphrase

Apr. 2004

Acquisition and Applications (IWP ), pp.9–16(2003).
12) 鍜治伸裕，黒橋禎夫，佐藤理史：国語辞典に基づく平易文へのパラフレーズ，情報処理学会自然言語処理研究会予稿集，NL-144-23, pp.167–174(2001).
13) 河原大輔，黒橋禎夫：用言と直前の格要素の組を単位とする格フレームの自動構築，自然言語処理，Vol.9, No.1, pp.3–19 (2002).
14) Keller, F., Lapata, M. and Ourioupina, O.:
Using the Web to overcome data sparseness,
Proc. 2002 Conference on Empirical Methods in Natural Language Processing (EMNLP ),pp.230–237 (2002).
15) 近藤恵子，佐藤理史，奥村 学：格変換による単文の言い換え，情報処理学会論文誌，Vol.42,
No.3, pp.465–477 (2001).
16) Lapata, M., Keller, F. and McDonald, S.:
Evaluating smoothing algorithms against plausibility judgements, Proc. 39th Annual Meetingof the Association for Computational Linguistics (ACL), pp.346–353 (2001).
17) Lee, L.: On the eﬀectiveness of the skew divergence for statistical language analysis, Proc.
8th International Workshop on Artificial Intelligence and Statistics, pp.65–72 (2001).
18) 宮田高志，宇津呂武仁，松本裕治：Bayesian Network による下位範疇化の確率モデルおよびその学習，情報処理学会自然言語処理研究会予稿集，
NL-119-12, pp.77–84 (1997).
19) NLPRS: Workshop on Automatic Paraphrasing: Theories and Applications (2001).
20) 岡本紘幸，斎藤博昭：文脈を考慮した日本語類
義表現の言い換え，言語処理学会第 9 回年次大会
発表論文集，pp.97–100 (2003).
21) 大野 晋，浜西正人：角川類語新辞典，角川書店 (1981).
22) Pereira, F., Tishby, N. and Lee, L.: Distributional clustering of English words, Proc. 31st
Annual Meeting of the Association for Computational Linguistics (ACL), pp.183–190 (1993).
23) 白井 諭，池原 悟，河岡 司，中村行宏：日英機械翻訳における原文自動書き換え型翻訳方式とその効果，情報処理学会論文誌，Vol.36, No.1,
pp.12–21 (1995).
24) Takahashi, T., Iwakura, T., Iida, R., Fujita,
A. and Inui, K.: Kura: a transfer-based lexicostructural paraphrasing engine, Proc. 6th Natural Language Processing Pacific Rim Symposium (NLPRS ) Workshop on Automatic Paraphrasing: Theories and Applications, pp.37–46(2001).
25) 徳田昌晃，奥村 学：日本語から手話への機械翻訳における手話単語辞書の補完方法について，

Vol. 45

自動生成された言い換え文における不適格な動詞格構造の検出

No. 4

情報処理学会論文誌，Vol.39, No.3, pp.542–550(1998).
26) Torisawa, K.: An unsupervised learning
method for associative relationships between
verb phrases, Proc. 19th International Conference on Computational Linguistics (COLING),
pp.1009–1015 (2002).
27) 宇津呂武仁，宮田高志，松本裕治：最大エントロピー法による下位範疇化の確率モデル学習および統語的曖昧性解消による評価，情報処理学会自然言語処理研究会予稿集，NL-119-11, pp.69–76(1997).
28) 山本和英：換言と言語変換の協調による機械翻訳モデル，言語処理学会第 8 回年次大会発表論文集，pp.307–310 (2002).
(平成 15 年 8 月 25 日受付)
(平成 16 年 2 月 2 日採録)

1187

乾 健太郎（正会員）
1967 年生．1995 年東京工業大学
大学院情報理工学研究科博士課程修了．同年より同研究科助手．1998 年
より九州工業大学情報工学部助教授．

1998 年〜2001 年科学技術振興事業
団さきがけ研究 21 研究員を兼任．2001 年より奈良先
端科学技術大学院大学情報科学研究科助教授．現在に至る．博士（工学）．自然言語処理の研究に従事．人
工知能学会，ACL 各会員．
松本 裕治（正会員）

1955 年生．1977 年京都大学工学
部情報工学科卒業．1979 年同大学
大学院工学研究科修士課程情報工学専攻修了．同年電子技術総合研究所

藤田篤1977 年生．2000 年九州工業大学
情報工学部卒業．2002 年同大学大学院情報工学研究科博士前期課程修了．同年，奈良先端科学技術大学院
大学情報科学研究科博士課程入学．
現在に至る．自然言語処理の研究に従事．

入所．1984 年〜1985 年英国インペリアルカレッジ客員研究員．1985 年〜1987 年（財）
新世代コンピュータ技術開発機構に出向．京都大学助教授を経て，1993 年より奈良先端科学技術大学院大学教授．現在に至る．工学博士．専門は自然言語処理．
人工知能学会，日本ソフトウェア科学会，言語処理学
会，認知科学会，AAAI，ACL，ACM 各会員．