言語処理学会 第 18 回年次大会 発表論文集 (2012 年 3 月)￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣

文体の違いを考慮したマイクロブログの極性判定
前田 裕

遠藤 勉

嶋田 和孝

九州工業大学大学院 情報工学府{h maeda, shimada, endo}@pluto.ai.kyutech.ac.jp

1

はじめに

表 1: 各文体の例

近年，評判分析の対象として，Twitter が注目され文体例文ている．Go ら [2] は，「:)」や「:(」などの emoticon

緩い文体
荒い文体
硬い文体

夜桜とってもキレイだったよ〜
夜桜ガチでやばかったわ
夜桜の美しさはかつてないほどだった。

を利用した訓練データの獲得と機械学習による極性判定（肯定・否定判定）の手法について提案した．Jiang
ら [3] は，Twitter 特有の機能である「リプライ」など

表 2: 各文体の特徴・印象に着目し，極性判定する手法について提案している．

Brody ら [1] は，Twitter によく見られる「Cooool」のような繰り返し表現に着目し，その繰り返し表現の正規化や感情との関連性などについて検証している．

文体

特徴・印象

緩い文体
荒い文体
硬い文体

口語調，女性的，平和的，緩やか口語調，男性的，堂々，2ch 的
文語調，長文が多い，教科書的

ここで，我々は Twitter 上で用いられる文体に着目する．Twitter 上にはさまざまな文体が存在し，そのると考えられる．実際の Twitter での使用例を観察す特性が異なる．例えば，話し言葉に近い口語体では，ると，若年層の間では「学校の宿題メンドイ・・・」の特徴的な文末表現や記号などによる顔文字の多用にような否定的文書が多いのに対して，社会人の間ではよってその感情を表現する傾向があるのに対し，書き回想として肯定的に語られることが多いといった傾向

言葉的な文語体では，言語表現そのものによってそのの違いが見られる．このような場合，その語の極性は感情が表されることが多い．このような文体の違いを書き手によって異なるため，一つの分類器では適切に考慮することは，さまざまな場面に有効であると考え扱えない可能性が残る．別の例としては，「＼ (＾o＾)られる．

／」という顔文字の肯定性/否定性の解釈がある．こ

本論文では，このような文体の違いに着目した極性の表現は一般に喜びを表す顔文字として使われること判定の手法を提案する．文体の判別については，人手が多い．一方で，2 ちゃんねるを中心としたネットコによるルールと機械学習を併用する．極性判定のためミュニティではしばしば否定的表現として用いられる．の訓練データの獲得については，Go らの手法と同様

このような場合も，最終的な文の極性判別の際に誤識に，いくつかの emoticon や言語表現を利用する．文別の原因となる．一方で，これらの点を適切に区別し体を考慮した手法とそうでない手法を比較し，提案手て扱うことができれば，極性判定の精度は大きく向上

法の有効性を検証する．

すると考えられる．
以上のような考察から，本稿では，表 1 のような 3

2文体の定義種類の文体を導入する．それぞれの分類の基準は，表文中で利用される語や表現にはいくつかのバリエーションがある．機能語の出現頻度などの文体情報の利用は，blog の性別推定に関するタスク [5] などでその有効性が述べられている．
本稿では，極性判定というタスクの基，書き手の年齢や性別，どのようなネットコミュニティに属しているかでその文体が異なる点について着目する．例えば，

2 に示される主観的な印象に基づいている．
「硬い文体」
は比較的高い年齢層で使われ，「緩い文体」や「荒い文体」は若年層で使われることが多いため，世代で異なる極性の切り分けに有効である．同様に，コミュニティが異なる「緩い文体」と「荒い文体」とでは，使われる表現も大きく異なっており，文体の切り分けは極性判定に有効に作用すると考えられる．

「学校」という語の持つ印象は年代によって若干異な― 1110 ―Copyright(C) 2012 The Association for Natural Language Processing.
All Rights Reserved7ZLWWHUGDWDॸ५ॺॹ‫ॱش‬ધ৬ਖ਼શ‫؟‬ঝ‫ش‬ঝঋ‫ش‬५೹ःધ৬ൽःધ৬ໂःધ৬३‫ॻش‬धঐॵॳথॢ३‫ॻش‬धঐॵॳথॢ௬੼਀ਠോછधঐॵॳথॢෘ୳ธಫॹ‫ॱش‬ෘ୳ธಫॹ‫ॱش‬ෘ୳ธಫॹ‫ॱش‬ীథஓ ীథஓ ীథஓ ધ৬ओधभாਙਖ਼શஓਈીলৡધ৬ਖ਼શ‫؟‬ਃ༊৾ಆધ৬पীऊोञॸ५ॺॹ‫ॱش‬

図 1: 提案手法の概要

3

提案手法

表 3: 文体判別の語尾パターン例

本節では，提案手法について述べる．処理の流れを
図 1 に示す．提案手法では，まず，入力を前節で定義した 3 つの文体に分類する．その後，シード表現や評

文体名

語尾パターン

緩い文体
荒い文体
硬い文体

だよね，だよぉ，だよ〜，ね！，だもん
だな，だな w，だよな，だろ，かよだ。，である。，です。

価表現辞書などを用いて，仮想的な訓練データを自動

表 4: 文体判別の文中パターン例的に作成し，文体ごとに分類器を作成する．評価の際

文体名

文中パターンには，テストデータを同じような方法で文体ごとに分

緩い文体
荒い文体
硬い文体

☆彡，≧∇≦，わーい
ざまぁ，きめえ，お前，俺(なし)け，その文体に応じた分類器で極性判定を行う．以降，まず，文体判別の手法について述べ，次に訓練データの作成手法と極性判定のための分類器について述べる．

3.1.2

3.1

文体判別

ルールによる文体判別は精度重視の枠組みであり，入力データを文体ごとに分類するために，文体判別を行う必要がある．本論文では，状況に応じてヒューリスティックなルールによる判別と機械学習による判別の 2 つの方法を利用する．それぞれの文体判別方法について具体的な説明を以下に行う．

3.1.1

機械学習による文体判別

再現率は低くなる．これは，次節で説明するように，高精度な文体ごとの仮想訓練データを得るためである．
一方で，テストデータを評価する際に文体を分類する
場合，あまりに再現率が低いと，そもそも適切な分類器を適用できない可能性がある．そこで，再現率を重視したアプローチが必要となる．
ここでは，ルールベースで分類された各文体を訓練ルールによる文体判別データとする機械学習を適用する．具体的にはナイー

まず，ヒューリスティックなルールに基づいて文体ブベイズ分類器を利用し，素性としては文字 3-gramを判別する．この手法は，再現率よりも精度を重視しを利用する．実際には，各文体に対して，ルールベーた文体判別を行うためにある．ルールとしては，文体スの手法で得られた 10 万ツイートが学習データとしごとに表 3 のようなパターンを数百ほど用意し，正規て自動的に与えられる．

表現を用い，マッチングによって文体を判別する．文体を判別できる特徴は主に語尾や記号に表れる傾向が3.2

訓練データの取得あり，語尾一致と文中一致の 2 種類を用意した．いず

文体ごとに極性判定を行うためには，機械学習に適れのパターンにもマッチしない場合には，どの文体に用する訓練データが必要となる．しかしながら，十分も分類されない．後述する極性判定のための分類器のな訓練データを人手で用意することは高コストである．

作成に用いる訓練データを獲得する際には，このルー

本論文では，「緩い文体」と「荒い文体」のための訓練ルが適用されたもののみが利用される．

― 1111 ―Copyright(C) 2012 The Association for Natural Language Processing.
All Rights Reserved文字 n-gram と単語 n-gram2 について最適な組み合わ

表 5: シード表現の例

せを用いる．テストデータを評価する際には，ルール

文体名

肯定シード

否定シード

ベースおよび機械学習に基づく文体判別手法を適用し，緩い文体
荒い文体♪
きたこれ，おっしゃ；）
地獄，糞すぎ同定された文体に対応する分類器へ渡され，最終的な極性判断が行われる．

データ獲得にはシード表現を用い，「硬い文体」のための訓練データ獲得には既存の評価極性辞書に基づくスコアリング手法を適用することで対応する．

4

実験

4.1

実験設定

ま ず，シ ー ド を 用 い た 方 法 に つ い て 説 明 す る ．

訓練データなどの作成のために，Twitter から収集Turney[4] は，レビュー文書の極性判定において，語やフレーズの極性値を自動的に算出するために， excellent や poor といった肯定および否定の極性をよく表す語（シード）との共起度を利用する手法を提案した．Go ら [2] は，emoticon を利用して訓練データを自動的に獲得している．本研究でもこれらに倣い，いくつかのシード表現を Twitter のデータに適用することで，仮想的な訓練データを獲得する．具体的には，
表 5 に示す表現を，各文体のシード表現として利用する1 ．例えば「緩い文体」に関しては，ルールベースの文体判別手法で得られたツイート群で「♪」を含んでいるものを仮想的な肯定訓練データ，「；）」を含んでいるものを仮想的な否定訓練データとして扱うことになる．なお，各文体において，訓練データ数は肯定事例10 万ツイート，否定事例 10 万ツイートを取得する．

した約 1 億ツイートを利用した．これとは別に，評価次に，評価極性辞書を用いた方法について説明する．

各文体ごとの極性判定用の分類器を意味し，素性はそ「硬い文体」の訓練データは，評価極性辞書を利用したの手法でもっとも精度がよかった場合の素性を表してスコアリングによって獲得する．本論文では，高村らいる．表で，例えば，「緩い文体」のための分類器であの単語感情極性対応表 [6] を利用する．この対応表にる「分類器（緩）」で，「緩い文体」と判断されたツイーは各単語に対して極性の強さを示す値が 1 から-1 の範トに対する極性判定の精度は 88.3%であり，同様にも囲で付けられいる．獲得処理では，対象となるツイー

し「分類器（緩）」で異なる文体である「荒い文体」のト中に辞書のエントリと一致するものがあれば，そのツイートを極性判定した場合の精度は 73.1%であるこ語に対応したスコアを加算する．最終的には，その合とを表している．すなわち，表中の対角成分（88.3%，計値をそのツイートのスコアとする．本論文では，合82.8%，78.6%）が，ある文体と判定されたツイートを適切な分類器で極性判定した精度を表しており，それ以外の場所は，文体と分類器にミスマッチが起きている状態の精度を表している．各文体で，もっとも精度が高いのは，提案手法が適切に適用されたその対角成分の数値であり，提案手法の有効性が確認された．

計値が 1.8 以上のツイートを肯定事例，-1.8 以下を否定事例として扱った．獲得される訓練データ数は「緩い文体」および「荒い文体」と同様である．

3.3

文体ごとの極性判別用のテストデータとして，692 ツイートを用意した．
この 692 ツイートは人手によって肯定もしくは否定のラベルが付けられている．ここで，全テストデータ中，315 ツイートが肯定文であり，377 ツイートが否定文である．実験では，提案手法が出力した極性との一致率を評価尺度として利用した．

4.2

結果と考察

実験結果を表 6 に示す．文体名の隣にある括弧内の数字は，ルールベースもしくは機械学習に基づく文体判別によってその文体へ分類されたツイート数を表している．例えば，「緩い文体」には 692 ツイート中 307ツイートが分類されたことを表している．表中の「分類器（緩）」，「分類器（荒）」および「分類器（硬）」は本手法では，前節までに得られた仮想的な訓練デー

表中の「全体」と書かれた行は，ある特定の分類器タを用いて，各文体ごとに極性判別のための PN 分類のみで全データを分類した場合の精度を表している．

器を作成する．すなわち，提案手法では，「緩い文体」

これはすなわち，従来からある，文体を考慮していなのための分類器，「荒い文体」のための分類器，「硬い文い分類器と等価であり，その精度と各文体ごとにカス体」のための分類器の 3 つが作成される．各分類器はタマイズされた分類器が正しい文体を分類した場合のすべてナイーブベイズ分類器であり，素性としては，精度比較することで，文体を考慮する提案手法の精度

1 表中の「；）」は泣いた顔文字や汗をかいた顔文字をターゲットとした意図がある．

2 形態素解析には MeCab（http://mecab.sourceforge.net/）を利用．

― 1112 ―Copyright(C) 2012 The Association for Natural Language Processing.
All Rights Reserved表 6: 極性判定精度
P/N 分類器
素性
緩い文体 (307)
荒い文体 (145)
硬い文体 (240)全体 (692)

分類器（緩）
文字 3-gram

分類器（荒）
文字 4-gram

分類器（硬）
文字 4-gram

88.3
73.1
75.0
80.5

71.0
82.8
72.9
73.0

76.3
77.9
78.6
77.1

表 7: 極性判定精度 （ルールによって文体判別できた tweet のみを対象とした実験）
P/N 分類器
素性
緩い文体 (239)
荒い文体 (49)
硬い文体 (168)全体 (456)

分類器（緩）
文字 3-gram

分類器（荒）
文字 4-gram

分類器（硬）
単語 1,2,3-gram

90.4
71.4
78.0
83.8

69.9
87.8
75.073.7

79.9
83.7
81.0
80.7

向上率が把握できる．具体的には，対角成分の平均値大きく影響することを裏付けるものであり，今後，よは，83.2%であり，これが提案手法の全体的な精度でり精度の高い極性判別を行うためには，文体判別手法ある．一方で，文体を考慮していない場合の精度は，の精度向上が不可欠であることを示している．

「分類器（緩）」の場合が最高で 80.5%であり，提案素性について着目すると，「緩い文体」や「荒い文体」手法の精度の方が 2.7%高いことになる．最低の場合

では文字 n-gram が，「硬い文体」では単語 n-gram がである「分類器（荒）」と比較すると，その精度差は最も有効であった．これは，口語体には文法逸脱，顔10.2%（73.0% vs. 83.2%）であり，提案手法の有効性が確認できる．

文字などが多く，形態素解析のエラーが生じたためで

表 6 の結果から，文体に着目することの有効性が示されている．一方で，この実験では，文体の判別はあると考えられる．

5

本稿では，Twitter を対象とした極性判定において，ルールと機械学習によって自動的に行っており，例えば「緩い文体」に分類された 307 ツイートが，本当おわりに文体の違いを考慮した手法を提案し，評価した．文体に「緩い文体」の範疇のツイートである保証は必ずしを考慮しない手法と比較して，最高で 10%程度，精度もない．特に機械学習に基づく文体判別では，文体判が向上し，提案手法の有効性が確認された．提案手法

別の再現率を重視するために各ツイートを強引にいずにおいて，事前の文体判別が最も重要であることも実れかの文体に割り振っており，正確性の面で大きく劣験により確認された．より高い極性判別精度を実現す

る．文体の判別ミスは，分類器と文体とのミスマッチるためには，より精度の高い文体判別手法が必要であと等価であり，極性判別の精度にも大きく影響する．

り，今後の課題の一つである．

そこで，より本質的な提案手法の精度を検証するため

参考文献に，精度の劣る機械学習による文体判別は行わず，精度の高いルールベースでいずれかの文体に分類されたツイートのみを対象とした実験を行った．この場合，ルールでどれにも当てはまらなかったテストデータ中のツイートは，評価対象から外れることを意味する3 ．
その場合の実験結果を 7 に示す．この場合の提案手法の精度は，86.4%（表 7 の対角成分の平均）であり，文体を考慮しない手法と等価な場合の最高精度である83.8%（分類器（緩）を全てに適用）を上回っている．
さらに，テストデータを全て扱った場合の平均精度である 83.2%と比較しても 3%強の精度向上がみられた．
この結果は，文体判別手法の精度が極性判別の精度に
3 具体的にはテストデータの数が 692 ツイートから 456 ツイー
トに減少した．

[1] S. Brody, N. Diakopoulos. “Cooooooooooooooollllllllllllll!!!!!!!!!!!!!! Using Word Lengthening to Detect
Sentiment in Microblogs”, In Proceedings of EMNLP
2011.
[2] A. Go, R. Bhayani, L. Huang. “Twitter sentimentclassification using distant supervision”, Technical reports., Stanford University 2009.
[3] L. Jiang, M. Yu, M. Zhou, X. Liu, T. Zhao. “Targetdependent Twitter sentiment classification”, In Proceedings of ACL, 2011.
[4] P. D. Turney. “Thumb up? or thumbs down? semantic orientation applied to unsupervised classification of reviews”, In Proceedings of ACL, pp. 417-424,
2002.
[5] 池田, 南野, 奥村. “blog の著者の性別推定”, 言語処理学会第 12 回年次大会, 2006.
[6] 高村, 乾, 奥村. “スピンモデルによる単語の感情極性抽出”, 情報処理学会論文誌, Vol. 47, No. 2, pp. 627-637,
2006.

― 1113 ―Copyright(C) 2012 The Association for Natural Language Processing.
All Rights Reserved