言語処理学会 第21回年次大会 発表論文集 (2015年3月)

マイクロブログに対する文境界推定および係り受け解析
難波悟史

門内 健太
岡山県立大学大学院

但馬 康宏
情報系工学研究科

菊井 玄一郎{cd25036z, cb24028x, tajima, kikui}@cse.oka-pu.ac.jp
1. はじめに習により，係り受け解析の精度が程度改善できるか

Twitter 等のマイクロブログに投稿されている膨について検討する．

大なテキストを分析して実世界の動向や人々の嗜2. 手法概要

好を探ることが活発に行われている．テキストを深2.1.

解析処理の概要

く分析するためには係り受け解析が不可欠である

解析処理全体の流れを図 1 に示す．図において網が，現状においてマイクロブログに対する係り受け掛けした所が本研究においてチューニングを試み解析の精度は必ずしも十分なものではない．

た部分であり，３章以降で説明する．

係り受け解析の精度低下の要因として大きく二つの問題が考えらえる．一つ目は，係り受け解析の各種パラメータが主に新聞コーパス等で調整されているため，言語的な性質の異なるマイクロブログに適応した場合精度が低下してしまうというモデルミスマッチの問題である．二つ目は，係り受け解析の前段で行う文境界の推定が不正確という問題である．文境界の推定は，新聞などの統制されたテキストであれば句点や疑問符など特定の記号を手

図 1 処理の流れ掛かりに高精度に行える．しかし，マイクロブログ

最初の形態素解析１は文境界推定の入力を生成

ではこのような規則に従わない例が多数存在するするための処理である．通常，形態素解析は文境界ため，しばしば誤ってしまう．文境界推定を誤ると推定の後に行われるが，本研究では文境界推定の前係り受け関係にある文節が別々の文に分かれたり，に tweet 全体を一つの「文」として実行する．形態

本来，別々の文に存在する文節が同一文に含まれた

素解析には MeCab[3]を用いる．ただし，ユーザ辞りするため，係り受けの精度を低下させる可能性が書に渡邊ら[4]が作成した顔文字辞書中の出現回数高い．文境界推定についてはマイクロブログと文体が 100 回以上の顔文字 4199 種を登録した．さらに的に近い「話し言葉」の分野において，機械学習をtweet 特有の非正規的な表現を扱うために，MeCab用いた文分割の研究が行われているが（[1],[2]な適用の前に表１に示す文字列書き換えを行う．
形態素解析１に引き続いて CRF[5]による文境界ど），係り受け解析への影響を含めた効果は未評価である．

表1

そこで，本稿では文境界推定，および，係り受け解析について，既存の統計的な手法を前提に素性の調整やマイクロブログを対象としたパラメータ学

形態素解析１の前処理

変換前
変換後
全角スペースおよび、半角スペース 半角スペース
日本語に連続する1文字以上の「w」 (笑)
「・・・」や「…」「．．．」が続くとき…

― 107 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

推定を行う．その後，形態素解析 1 の結果を無視して，再度，形態素解析を行う．この形態素解析の際には全ての文字を全角に統一する処理を行う．これはテキスト中の半角文字による形態素解析結果の

表層形

主品詞

品詞細分類

文字種

なんか
最近
めちゃくちゃ
ハード。

フィラー
名詞
名詞
名詞記号

*副詞可能
形容動詞語幹
一般
句点

ひらがな
漢字
ひらがな
カタカナ
記号

直後のスペースの有無
無無無無無

ラベル
TEXT
TEXT
TEXT
TEXT
BR

誤りにより，文節境界推定精度が低下することが予

図2

文境界推定の素性例（系列要素が形態素）備実験で確認できたためである．次に CRF による文字ハード。

表層系
B-ハード
I-ハード
E-ハード
S-。

文節境界の推定を行ったあと，係り先の推定を行う．

3. 文境界推定

品詞細分類
B-名詞I-名詞E-名詞S-句点

文字種
カタカナ記号
カタカナ記号

ラベル
TEXT
TEXT
TEXTBR

図 3 文境界推定の素性例（系列要素が文字）

系列ラベリング問題として文境界推定を行う．モ
デルとして CRF を用いる．

主品詞
B-名詞
I-名詞
E-名詞
S-記号

3.3.2 系列の要素が文字の場合
CRF で扱う素性は文字と MeCab の出力（表層形，マイクロブログは口語的な表現や崩れた表現，断片的な表現など「用言文節の終止形で終わる」とい品詞，品詞細分類Ⅰ），表層形の文字種である．表う原則に逸脱するものが多く，何をもって文とする

層形，主品詞，品詞細分類にはその文字の単語中のかは難しい．話し言葉の文（節）境界を参考に，ア位置に応じて Start-End 法(以下 SE 法)に基づくチノテータの判断によった．このため，例えば，名詞ャンクタグを付与する[6]．SE 法では形態素の先頭や接続詞のみの「文」の存在も許す．なお，Twitter文字に対し B タグ，末尾に E タグ，内部に I タグ，の特有の表現であるハッシュタグ，RT，＠(リプラ1 文字からなる形態素に対しては S タグが付与されイ)や URL については，独立した文として扱うことる．文字種は，ひらがな，カタカナ，漢字，大文字とした．

英字，小文字英字，数字，記号，スペースの 8 種類

3.1.

文境界判別ラベルの定義に分類した．学習で使用する形態素数は実験的に求

通常，文境界推定は形態素解析に先立って文字列処めた結果，前後 5 文字を学習する．図 3 に素性例を理として行われるため，系列ラベリングにおける系示す．

列の要素は「文字」とするのが自然である．しかし

4. 文節境界推定ながら，本研究ではこれとは別に系列の要素として4.1.

文節境界判別ラベルの定義「形態素」（形態素解析１の結果）の利用も試みた．

本研究では CRF を用いた系列ラベリングによりいずれの場合も文末の要素には BR ラベル，文末以文節境界を推定する．系列要素の単位としては文字外の要素には TEXT のラベルを付与する．と形態素の双方を試みる．いずれの場合もラベルは

3.2.

文節境界を表す BS とそれ以外の部分を表す TEXT素性

3.3.1 系列の要素が形態素単位の場合である．

CRF で扱う素性は MeCab の出力（表層形，品詞，品詞細分類Ⅰ），表層形の文字種，形態素の直後の

4.2.

素性

4.2.1 系列の要素が形態素単位の場合
CRF で扱う素性は単語と品詞と文字種である．

スペースの有無である．文字種は，ひらがな，カタ
カナ，漢字，大文字英字，小文字英字，英字キャピ

形態素解析には MeCab を使用した．文字種はタライズ（大文字英字 1 文字+小文字英字列），数字，HIRA(ひらがな)，KATA(カタカナ)，KAN(漢字)，記号，その他の 9 種類に分類した．学習で使用する

NUM(数字)，ALPL(半角英字)，ALPU(全角英字)，形態素数は実験的に求めた結果，前後 2 文字を学習

SPACE(空白)，SYMBOL(これら以外の文字)の 8する．図 2 に素性例を示す．

種類に分類した．CRF の学習には，前後 2 形態素― 108 ―Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

を用いる．図 4 に素性例を示す．

4.2.2

系列の要素が文字単位の場合

CRF で扱う素性は文字と単語と品詞と文字種である．形態素解析には MeCab を使用した．単語および品詞には，SE 法に基づくチャンクタグを付与す

図4

文節境界推定の素性例（系列要素が形態素）

図5

文節境界推定の素性例（系列要素が文字）

6.2.

評価方法

る． 文字種の種類は形態素単位と同様とした．CRFの学習には，前後 2 列文字を用いる．図 5 に素性例を示す．

5. 係り先推定
本研究では係り先の推定に CaboCha[7]の係り先推定部分を用いる．

5.1.

6.2.1 文境界推定の評価尺度

CaboCha の入出力

CaboCha には解析レイヤという概念があり形態素解析，文節の区切り情報を与えたデータ

評価尺度として，以下の式で与えられる適合率，再現率，およびこれらから計算される F 値を用いる．

(CaboCha の文節区切りレイヤ)を入力として係り適合率 =出力された文末の正解数出力された文末の数先推定のみを行うことができる．本研究ではこの機能を利用して，4 章の文節境界推定結果に対し係り先を推定させた．なお，文節境界推定の際に文字単再現率 =

出力された文末の正解数
評価データ内に存在する文末の数位の系列ラベリングを行うと形態素境界でない位

ただし，評価を行う文末は Tweet の途中に出現置に文節境界が推定されることがある，これに対処する文末のみとし，Tweet の最後に出現する文末はするため， MeCab の機能を用いて文節境界が形態対象としない．

素の切れ目となるように再度形態素解析を行った．

5.2.

モデル学習

CaboCha では，正解データを用意すれば係り受け解析，文節区切りの各モデルのパラメータを学習

ベースラインとして，
「。
」
「 ．」
「!」「 ?」「♪」「・」「…」「スペース」を文境界とする方法と比較する，6.2.2 文節境界推定の評価尺度させることができる．CaboCha 添付のモデルは新評価尺度として，以下の式で与えられる適合率，聞記事を対象に学習されているため，Tweet を対象再現率，およびこれから計算される F 値を用いる．に解析を行う場合には精度が低下するのではない

適合率 =かと考えられる．そこで，本研究では Tweet を対象に図 6 に示すような形で学習データを構築し，新再現率 =しいモデルを構築した．

6. 実験
6.1.

出力された文節の正解数出力された文節の数出力された文節の正解数

評価データ内に存在する文節の数

6.2.3 係り先推定の評価尺度

利用データ

係り先推定の評価は，出力の文節と正解の文節で実験には 2012 年 2 月～2012 年 7 月の間にTwitter に投稿された Tweet からランダムで集めた7000Tweet に人手で文境界タグ，文節境界タグを振 っ た デ ー タ を 使 用 し た ． 7000Tweet の 内 ，同じ文字位置で始まり同じ文字位置で終わるものに対して，係り先の文節が一致するかを評価する．
これは再現率に相当すると考えられる．

6500Tweet を学習に使用し，500Tweet を評価に使

正解率 =用し．交差検定(14 分割)を行った．

出力と正解の文節の係り先が一致した数
正解の文節の数 − 正解の最終文節の数

たたし，係り元が文末となる文節は評価の対象外と― 109 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

する．

6.3.

だと言える．また，文境界推定結果でも精度の向上結果が見られる．文境界が正しく推定できることで，文6.3.1 文末境界推定を飛び越えるような係り関係がなくなったのでは推定結果を表 2 に示す．形態素単位での CRF にないかと考えられる．
表 2 文末境界推定の結果

よる推定精度が最も高かった．間違えた箇所は，読点などの一般的には文末境界にならない記号が句形態素単位での学習
文字単位での学習
記号区切り点のように扱われた箇所や文境界にもかかわらず記号やスペース等の手がかりがない箇所であった，

適合率
0.913
0.906
0.645

再現率
0.832
0.800
0.787

F値
0.870
0.849
0.708

表 3 文節境界推定結果の結果

後者は数も多かった．

6.3.2 文節境界推定の結果

形態素単位での学習
文字単位での学習
CaboChaによる文節区切り

正しい文境界を与えた場合の文節境界推定の結果を表 3 に示す．文字単位での学習の方が良い結果

表4となった．間違えた箇所は，固有表現中の一般名詞

適合率
93.25
93.74
83.42

再現率
91.34
92.21
84.65

係り先推定の結果

文境界推定 文節境界推定 係り先推定
baseline
Cab-ORGCab-ORG
CRF-MBM
Cab-ORG
Cab-ORG
CRF-MBM
CRF-MBM
Cab-ORG
CRF-MBM
CRF-MBM
Cab-MBMや助詞で区切ってしまう例や名詞が連続している例が目立った．これらの対策としては固有表現抽出や助詞補完などが必要だと考えられる．

F値
92.28
92.97
84.03

正解率
0.617
0.643
0.711
0.716

6.3.3 係り先推定の結果

7. おわりに

文境界推定，文節境界推定を変えた場合の係り先推

本稿では，マイクロブログコーパスを用いた，文境定の評価結果を表 4 に示す．表中の記号の意味は次

界推定・文節境界推定・係り先推定の評価を行った．の通りである．

係り先の精度は 0.716 という結果であった．今後は，

文境界推定：係り先の推定精度の向上を目指すほか，各実験にお・CRF-MBM：形態素単位の CRF（マイクロブロ

いても，更なる精度向上を目指す．

グモデル）
，

謝辞：本研究の一部は JSPS 科研費 24500296 の助成を受けた・baseline：記号を手掛かりにした文境界推定

参考文献

文節境界推定：・CRF-MBM：文字単位の CRF（マイクロブログモデル)
・Cab-ORG ：CaboCha（添付モデル）
係り先推定：
・Cab-MBM：CaboCha(マイクロブログモデル)，・Cab-ORG：CaboCha（添付モデル)
従来の手法・パラメータの組み合わせ（１行目）に比べて今回パラメータを調整した処理の組み合わせの方が約 10 ポイント(0.10)の精度向上があった．
特に文節境界推定の影響が大きいことが分かる．文境界，文節境界が全て正解の場合の係り先正解率を調べると 0.88 となり，これらの処理の精度が重要[1]

祖父江翔，山本けい子，田村哲嗣，速水悟，“音声人結果の文末境界推定における識別モデルの評価”言語処理学会第 15 年次大会，pp582-585 ，Mar.2009[2] 下岡 和也，内元 清貴，河原 達也，井佐原 均，“日本語話し言葉の係り受け解析と文境界推定の相互作用による高精度化”，in 自然言語処，Vol.12，No．3，P3-17[3] https://code.google.com/p/mecab/[4] 渡邉謙一，高橋寛幸，但馬康宏，菊井玄一郎， "系列ラベリングによる顔文字の自動抽出と顔文字辞書の構築"， 言語処理学会第 19 回年次大会，
pp.866-869， Mar.2013.
[5] http://crfpp.googlecode.com/svn/trunk/doc/index.html?source=navbar[6] 中野桂吾，平井有三，“日本語固有表現抽出における文節情報の利用，” in 情報処理学会論文誌，Vol.45，
No.3，Mar.2004[7] https://code.google.com/p/cabocha/― 110 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.