言語処理学会 第24回年次大会 発表論文集 (2018年3月)

日本語動詞性複単語表現(1 類)レキシコンの統計的性質
田辺利文* 髙橋雅仁** 首藤公昭*****久留米工業大学 ***福岡大学名誉教授*tanabe@fukuoka-u.ac.jp **taka@kurume-it.ac.jp ***viggo_ksf@jcom.home.ne.jp*福岡大学工学部

参照されたい．

1. はじめにJMWEL は，見出しの文法機能（相当品詞）で分割された 11

最近の自然言語処理研究では，高性能な計算機環境，および種のサブレキシコン，および，トピックで分割された 8 種のサ

Word2Vec に代表される意味情報を柔軟に計算できるアルゴリブレキシコンに分けて管理・公開されている．文法機能が動詞ズムの登場など，意味をとり扱う研究が非常に活発な状況にな性の日本語動詞性複単語表現レキシコンは 1 類，2 類，3 類の 3っている[11]．筆者らは，意味を考慮した自然言語データ処理に種類に分割されている1が，本論文では JMWEL の主要なサブレおいては，定型表現を十分に考慮したシステムの構築が不可欠

キシコンの 1 つである日本語動詞性複単語表現(1 類)レキシコンであると考えている．定型表現に関する研究としては，自然言について述べる．このレキシコンには[ 名詞＋ 格助詞(が，を，語処理分野では[6]で提唱された Multiword Expression(MWE,に) ＋動詞 ]の形式の動詞句，例えば『手を結ぶ』，『意味がある』，複単語表現)があるが，ほぼ同時期に言語学で Formulaic『沽券に関わる』などの約 36,000 表現が収録されており2，2017Language[3]や Lexical Bundles[2]などの概念が提唱されるな

年 11 月に言語資源協会(GSK)を通じて公開されている[4][9]3．

ど，研究分野の垣根を越えて世界的に定型表現の重要性が認識

本論文では，これ以降，日本語動詞性複単語表現(1 類)レキシコされている．本論文は日本語 MWE を中心にとり扱う．

ンを「本レキシコン」と書くことにする．

これまで著者の 1 人は，非構成性，要素語間の強い共起性のうち，少なくとも一方の性質を持つ単語列を収集・整理し，日
本語複単語表現レキシコン JMWEL(Japanese MWE lexicon)

3. 本レキシコンの統計的性質表現の非構成性の程度を一般的に算出する基準は存在しないを編纂してきた[7][8][9][10]．
本論文ではJMWEL の中心的サブレキシコンの1 つである日ため，非構成的 MWE に関しては，JMWEL に収録したことの本語動詞性複単語表現(1 類)レキシコンに収録されている表現の妥当性を統計的に評価することは困難である．一方，要素語間統計的性質の一端をGoogle共起頻度データLDC2009T08 との強共起性の MWE に関しては，統計的性質が客観的に評価でき比較によって明らかにする．なお，本論文で挙げている統計デる．要素語間の相関尺度としては種々のものが考えられるが，ータは，過去にも報告している[7][10]が，今回，2017 年 11 月

ここでは，文末方向の遷移確率と正規化エントロピーを Googleの GSK による公開を機に，改めて紹介するものである．の日本語 Web N グラム共起頻度データ LDC2009T08[5]（これ以降「GoogleN グラムデータ」と略記する）を用いて算出した．

2. 日本語動詞性複単語表現(1 類)レキシコン
著者の 1 人は日本語複単語表現レキシコン(JMWEL:
Japanese MWE Lexicon)を古くから開発してきており，現時点では見出し数は異なりで 12 万強に達している．

GoogleN グラムデータは 200 億文からなる日本語 WEB コー
パスにおける単語1～7グラムの出現頻度を求めた大規模データである．
対象とした本レキシコンの表現は[名詞 w1 + 格助詞 w2 + 動詞 w3] 型の動詞性表現であり，格助詞 w2 を「を」
，「が」
，「に」

JMWEL の見出しの採録基準は基本的に次の 2 種の特異性のに限定し，動詞部 w3 を単独の動詞，[動詞+動詞]型複合動詞，あうち少なくとも 1 つを有することである．1 つは，例えば，『油るいは[サ変名詞+する] 型動詞のそれぞれ終止形に限定した．

を売る』の意味が「油」，「を」，「売る」という要素語の通常の意味から導くことが難しいという性質(非構成性，イディオム性)，他の 1 つは，例えば，「こまねく」という動詞は『手をこまねく』以外にはほとんど使われないというような性質(決まり文句性，要素語間の強共起性)を言う．JMWEL の特徴として(1)一般的なイディオムや決まり文句などに限定しない，(2)多様な構文構造をカバーする，(3)異表記や派生形もできるだけ網羅する，(4)構文的柔軟性を表現できる構文構造情報を与える，などが挙げられる．JMWEL の記載情報などの詳細は[7][8][9][10]を1 文法機能で分割したサブレキシコンと，トピックで分割されたサブレキ

シコンには同一の見出しが採録されていることも少なくない．例えば『油を売る』は，日本語動詞性複単語表現(1 類)レキシコン，および日本語慣用句レキシコンのそれぞれに採録されている．
2 [ サ変名詞 ＋ を ＋( するor遣るor行うor実行する ) ],[ サ変名詞 +が ＋ できる ] の形式の表現は一部を除き JMWEL 全体としても収録対象外としている．
3 日本語動詞性複単語表現(1 類)レキシコン( JMWEL_verbal(class1)v3.2)は，GSK2017-C(http://www.gsk.or.jp/catalog/gsk2017-c/)で，日本語動詞性複単語表現(2 類)レキシコン( JMWEL_verbal(class2) v3.2 )は，GSK2017-D(http://www.gsk.or.jp/catalog/gsk2017-d/)で公開されている．

― 619 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

GoogleN グラムデータにおいても上記と同一タイプの動詞性表この傾向は，限られた形式の表現に対する条件付後方出現確

現 [名詞 w1 + 格助詞 w2 + 動詞 w3] を抽出する．そのため，率のみに関するものであるが，採録基準は JMWEL 全体に共通[名詞w1 + 格助詞w2]部分の表記を前部分列(2グラム)とする3,4しており，条件付前方出現確率に関しても，また，その他の形グラムデータのうち，名詞，動詞部の品詞制約をも満たしたも式の表現に関しても類似した結果が得られるのではないかと推の，いいかえると GoogleN グラムデータにおいて，名詞部には測している．

品詞が名詞である文字列が，動詞部には品詞が動詞である文字

図 1(a)を累積の比率に改めたグラフを図 2(b)に示す．これか列がそれぞれ与えられているとみなせるものを，GoogleN グラ

ら，本レキシコンでは，対象とする前部分列 w1w2 の約 80%にムデータにおける動詞性表現とみなしてこれを用いることにし対して頻度 8 位までの動詞 w3 が選ばれ，w1w2 の約 87%に 20た4．

位までの動詞w3 が選ばれていることなどが分かる．
また，
図1(b)を 20 位以降も考慮すれば，前部分列の 10%強に対して，後接す

3.1.

本レキシコンの表現 w1w2w3 における前部分
列 w1w2 のバリエーション

る動詞が GoogleN グラムデータでは同環境に現れていないこと

GoogleN グラムデータにおける[名詞 w1 +格助詞 w2 + 動詞る』，『轢き逃げを働く』は GoogleN グラムデータに存在しないw3] 型の複単語表現は 3,336,358 個であり，これらの前部分列6．このことは，200 億文規模の WEB コーパスであっても，かw1w2 の表記数は 110,822 個であった．

なりの表現がとらえきれない可能性を示唆しており,Zipfの法則

一方，本レキシコンにおける[名詞 w1 +格助詞 w2 + 動詞 w3]型の動詞性表現のうち，検証に用いた見出し数は 29,644 個，字が推定できる．例えば，本レキシコンに存在する『才知に長けにおけるロングテール部に対する表現収集の難しさを示すものと考えられる7．

種や表記のゆれ情報で展開した対象表記数は 82,983 個で，これ3.3.

らの前部分列 w1w2 の表記数は 14,075 個であった．

3.2.

本レキシコンの表現 w1w2w3 における w1w2の選択

本レキシコンの表現w1w2w3における動詞w3の選択

条件付出現確率 pf(w3|w1w2)が比較的大きい表現が採録されて本レキシコンに含まれる表現の前部分列[名詞 w1+格助詞いることが図 1 で示されたが，条件付出現確率 pf(w3|w1w2)が比w2]14,075 表記の内，10,548 個が GoogleN グラムデータにおけ較的大きい場合でも，pf(w3|w1w2)が均一になっていない，言いる動詞性表現の前部分列[名詞 w1 + 格助詞 w2]に一致した5．こ換えるとエントロピーが小さい表現 w1w2 を優先して採録する

れらの前部分列 w1w2 ごとに，各動詞 w3 の出現頻度を GoogleNほうが解析の際にも効果的である．

[名詞 w1 + 格助詞 w2 + 動詞 w3] 型の動詞性表現において，グラムデータで求めた結果,本レキシコンの動詞が GoogleN グ
ラムデータで出現頻度第 1 位である場合が 4,983 件であり，対象とした前部分列表記w1w2の47.24%=(4,983/10,548)*100に対して条件付出現確率 pf(w3|w1w2)が最大の動詞部 w3 が選ばれていると推定できた．
『ちょっかいを出す』，『熱戦を繰り広げる』，『アクションを起こす』などはこれらに該当する．同様に，第 2位の場合は 1,495 件で 14.17%，3 位は 786 件で 7.45%，4 位は433件で4.11%であった．
20位までの結果をグラフ化して図1(a)に示す．このことから，本レキシコンに収録されている表現は高い条件付確率のものほど多い傾向が示された．

4 GoogleN グラムデータ上の品詞制約には浅原ら[1]の IPADIC 名詞辞書(noun.dic)，動詞辞書(verb.dic)およびサ変名詞辞書(noun.verbal.dic)を用いた．また，動詞部 w3 は単独の動詞の終止形だけでなく，[動詞+動詞]型複合動詞，[サ変名詞+する]型動詞のそれぞれ終止形も含むため，w3 は1 グラムだけでなく 2 グラムの場合も含む．
5 14,075個のw1w2 をmecab0.96で形態素解析したところ,1 グラムが15個，2 グラムが 11,829 個，3 グラムが 1,975 個，4 グラムが 221 個，5グラムが 32 個，6 グラムが 3 個となった．そのため，w1w2 が 2 グラムの場合に限定して考えると，w1w2 の約 89.2%(=10,548/11,829*100)がGoogleN グラムデータに存在しているといえる．

6 『才知に富む』は GoogleN グラムデータにおける出現頻度 43 で本辞書にも採録されている．一方 GoogleN グラムデータには『轢き逃げを告白する』が出現頻度 25 で存在するが，本レキシコンには採録されていな
い．
7 GoogleN グラムデータには出現頻度カットオフが設けられており，出現頻度が 20 未満の N グラムは存在しないため，カットオフが大きいという問題にも起因する．

― 620 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

100908070比 60率50

順位別比率

順位別累積比率 (b)

(%40)

30(a)

20100
1 2 3 4 5 6 7 8 9 10 1112 13 1415 16 1718 19 20順位

図 1 [名詞+格助詞+動詞]型表現の GoogleN グラムデータにおける動詞の出現頻度順位別の動詞採録率(a)，および，順位別の動詞採録累積比率(b) (格助詞「を」，「が」，「に」に限定)

ここで GoogleN グラムデータにおける動詞性表現の，前部分などが観察された10．エントロピーの大きい表現は解析の曖昧さ

列[名詞w1+格助詞w2]に対して後に続く動詞w3 に関する正規化低減や予測にあまり有効ではないため，通常の単語単位の処理

エントロピーHf(w3|w1w2)を次式によって求めた．ここで N はに任せるのが妥当であると考えており，ほぼ期待された結果で[名詞 w1＋格助詞 w2]の後に続く動詞 w3 の種類の数である8．

あるといえる．また，区間ごとの平均エントロピーに視点を移すと，図 2(b)から，区間 18～20 では，それぞれ平均エントロピ

Hf(w3|w1w2)=－(

pf(w3|w1w2) log pf(w3|w1w2) ) /log2 N

w3

ーは 1 であった11．エントロピーが 1 である[名詞＋格助詞]型表
現は 21,311 個観察され，そのうち動詞が 1 種類であったものが21,081 個，2 種類であったものが 230 個であった．後に 1 種類の動詞が続く[名詞＋格助詞]型表現として「アマドコロが」「ダ次に，得られた Hf(w3|w1w2)を昇順に並べ，区間 1,区間 2, … ,イカストに」「歯齦に」「巻添えを」などが12，また，後に 2 種類

区間 20 と 20 区間に分割して，それぞれの区間において本レキの動詞が続く[名詞＋格助詞]型表現として「毛じらみが」「ミゼシコンの[名詞w1＋格助詞w2]型表現(計10,548 件)が含まれる比ットが」などが観察された13．

率を求めた9．各区間の比率をグラフ化して図 2(a)に，各区間の平均エントロピーを図 2(b)に示す．
その結果，本レキシコンに含まれる[名詞＋格助詞]型表現の割合は，区間 1 において 22.8%=(1,262/5,542)*100，区間 2 においては 22.5%，区間 3 では 20.5%であり，区間 4 以降でも順次低くなっていることが観察された．このことから，本レキシコンの動詞性表現[名詞w1 + 格助詞w2 + 動詞w3]における前部分列[名詞 w1 + 格助詞 w2]は，続く動詞部の正規化エントロピーが小さいほど，すなわち，後接する動詞部のパープレキシティが小さくなるほど，多く採録されているという傾向が見られる．後に動詞が続く[名詞＋格助詞]型表現として，区間 1(平均エントロ
ピーは 0.27)には，本辞書にある「墓穴を」
「難色を」
「凶弾に」

8 エントロピーの最大値 log2 N による正規化は，動詞が低頻度多種類で出現することによる影響を減らすためである．
9 1 つの区間に属する[名詞＋格助詞]型表現の数は 5,542(=110,822/20)個となる．

10 本レキシコンにある『墓穴を掘る』が出現頻度 44,197，『難色を示す』が 14,126，『凶弾に倒れる』が 2,835 で，それぞれ GoogleN グラムデー
タで出現頻度第 1 位で観測された．
11 エントロピーが 1 になる場合は，GoogleN グラムデータにおいて[名詞＋格助詞]型表現に続く動詞が 1 種類しか観測できなかった場合か，[名詞＋格助詞]型表現の後に続く動詞ごとに決まる条件付確率 pf(w3|w1w2)がすべて等確率であった場合のいずれかである．
12 それぞれ動詞を含めると『アマドコロがある』『ダイカストに該当する』『歯齦に終わる』『巻添えを食う』で，それぞれの出現頻度は 21，27，20，40 であった．ここで『巻添えを食う』は本レキシコンに収録されている．
13 それぞれ動詞を含めると『毛じらみが(うつる/いる)』，『ミゼットが(ある/走る)』であり，それぞれ同じ出現頻度 27，30 で観測された．

― 621 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

251200.8

平均0.6 エン
ト0.4 ロ
ピー0.2比 15率(% 10)50

比率 (a)
平均エントロピー(b)0
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20区間

図 2 [名詞＋格助詞]型表現の GoogleN グラムデータにおける後続動詞(正規化)エントロピー区間別採録率(a)，および，各区間の平均エントロピー(b)（格助詞「を」，「が」，「に」に限定）

まとめると，図 1，図 2 から本レキシコンの[名詞＋格助詞＋動詞]型表現は，[名詞＋格助詞]部から[動詞]部への遷移確率 p(動Written English, Harlow: Pearson Education Limited(1999).

詞|名詞＋格助詞)が比較的大きく，かつ，[動詞]部のばらつきが[3] Corrigan, R., Moravcsik, E. A., Ouali, H. and Wheatley, K.

比較的少ないものが選ばれているという傾向がうかがえる．こM. (eds.): Formulaic Language, vol.1, Distribution andの結果は 1 類という限られた形態の動詞性表現に関するものでhistorical change, John Benjamins Publishing Companyはあるが，JMWEL の表現採録基準はほぼ共通であるからJMWEL 全体の傾向と大差ないものと考えている．

(2009).
[4] GSK 特定非営利活動法人 言語資源協会 (2018).
[5] 工藤拓，賀沢秀人: Web 日本語 N グラム第 1 版, 言語資源協

4. おわりに会 (2007).

本論文では，日本語動詞性複単語表現(1 類)レキシコン[6] I. A. Sag, T. Baldwin, F. Bond, A. Copestake and D.

JMWEL_verbal (class1)に収録されている[ 名詞 w1 + 格助詞

Flickinger: Multiword Expressions; A Pain in the Neck for(を，が，に) w2 + 動詞 w3 ] 型の動詞性表現を対象に，GoogleNLP, Proc. of the 3rd CICLING (2002).

共起頻度データ LDC2009T08 との比較を行い，条件付後方出[7] K. Shudo, A. Kurahone, and T. Tanabe: A Comprehensive

現確率，正規化エントロピーの算出結果から JMWEL の統計的Dictionary of Multiword Expressions. Proceedings of the性質の一端を示した．JMWEL における表現の選定は基本的に内省に基づくもので，表現の網羅性を目指したために構成性が認められそうな表現や共起の排他性がそれほど高くない表現も49th Annual Meeting of the ACL: pp.169-177 (2011).
[8] 首藤公昭, 田辺利文: 日本語の複単語表現辞書：JDMWE,
自然言語処理, Vol.17, No.5, pp.51-74 (2010).

採録されている可能性がある．しかし内省に基づく表現選定の[9] 髙橋雅仁, 田辺利文, 首藤公昭: 日本語複単語表現レキシコ

メリットは，要素語間の共起性の高い表現のみならず，エントン(JMWEL)の概要－動詞性複単語表現を中心として－,言語ロピーの低い表現，すなわち解析の際のあいまいさ低減に効果

処理学会第 24 回年次大会. (2018).

的である表現が自然に収集されやすいことであり，本論文で示[10] T. Tanabe, M. Takahashi, and K. Shudo: A lexicon of

した検証実験によりそれらの性質が示された．本レキシコンとmultiword

日本語動詞性複単語表現(2 類)レキシコンは GSK により既に公wide-coverage natural language processing, Computerexpressions

forsyntacticallyprecise,開されている．将来の自然言語処理の発展のために JMWEL がSpeech and Language, Vol.28, No.6, pp.1317-1339, Elsevier

役立つことを期待したい．

(2014).
[11] https://code.google.com/archive/p/word2vec/

参考文献[1] 浅原正幸，松本祐治: ipadic version 2.7.0 ユーザーズマニュ
アル, 奈良先端科学技術大学院大学 情報科学研究科 (2003).
[2] Biber, D., Johansson, S., Leech, G., Conrad, S. andFinegan, E. (eds.): Longman Grammar of Spoken and― 622 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.