3. Pythonによる自然言語処理　5-3. 日本語文の感情値分析［単語感情極性値対応表］

* 感情分析でネガポジの極性値を取得する元となる感情値辞書は、日本語では次の３つが挙げられます。
    * [単語感情極性値対応表](http://www.lr.pi.titech.ac.jp/~takamura/pndic_ja.html)
    * [日本語評価極性辞書](https://www.cl.ecei.tohoku.ac.jp/index.php?Open%20Resources%2FJapanese%20Sentiment%20Polarity%20Dictionary)
    * [Polar Phrase Dictionary](http://www.tkl.iis.u-tokyo.ac.jp/~kaji/polardic/)
* 本記事では全 55,125 語が登録された「単語感情極性値対応表」を利用させて頂きます。上記公式サイトによれば『岩波国語辞書』をリソースとして、感情極性値は語彙ネットワーク（筆者注 : 語や語句の意味的な関連性を示すネットワーク）を利用して自動的に計算された-1 から +1 の実数値となっています。

#⑴ 「単語感情極性値対応表」の取得
####１. 「単語感情極性値対応表」を読み込む

```python
import pandas as pd

pd.set_option('display.unicode.east_asian_width', True)

# 感情値辞書の読み込み
pndic = pd.read_csv(r"http://www.lr.pi.titech.ac.jp/~takamura/pubs/pn_ja.dic",
                    encoding="shift-jis",
                    names=['word_type_score'])
print(pndic)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/1185c586-d908-9952-29c6-446c8c56d1dd.png)


* pandas の`set_option()` は表示形式など様々なオプションを指定するもので、引数の `'display.unicode.east_asian_width'` は全角文字を考慮してカラム名と値の位置をそろえて表示させます。
* 「単語感情極性値対応表」は、1行ずつ「語(終止形)：読み：品詞：感情値[-1, +1]」の形式で登録されており、極性値は -1 に近いほどネガティブ、+1 に近いほどポジティブを表します。 


####２. 語と感情値のみ抽出して dict 型に変換
* カラム内を `split()` で「:」を区切り文字として4分割し、語（終止形）`"word"` と感情値 `"score"` を抽出して dict 型に変換します。

```python
import numpy as np

# 語と感情値を抽出
pndic["split"] = pndic["word_type_score"].str.split(":")
pndic["word"] = pndic["split"].str.get(0)
pndic["score"] = pndic["split"].str.get(3)

# dict型に変換
keys = pndic['word'].tolist()
values = pndic['score'].tolist()
dic = dict(zip(keys, values))

print(dic)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/edd400e2-69f7-ca78-fc67-90c83ed62076.png)


#⑵ 分析対象となるテキスト
* 今回はリソースを NHK のニュースサイトに求め、任意に2020年12月29日付のビジネス関連記事[「スパゲッティ輸入量 過去最多に」](https://www3.nhk.or.jp/news/html/20201229/k10012790141000.html)を取り上げます。
* 句点「。」を区切り文字として行単位のリストに変換します。


```python
text = 'スパゲッティの全国の輸入量が、ことし10月までに過去最多となり、税関は新型コロナウイルスの感染拡大の影響で増えた、いわゆる『巣ごもり需要』が背景にあるでのはないかとしています。横浜税関によりますと、全国の港や空港から輸入されたスパゲッティの量はことし10月末の時点でおよそ14万2000トンでした。これは、3年前の1年間の輸入量を4000トンほど上回り、過去最多となりました。また、マカロニもことし10月までの輸入量が1万1000トン余りに上り、過去最多だった4年前の1年間の輸入量とほぼ並んでいるということです。'

lines = text.split("。")
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/671b0cb2-c234-1037-da25-cae2c7256319.png)



#⑶ 形態素解析によるテキストのデータ化
####１. MeCab による形態素解析のインスタンスを生成
* MeCab をインストールします。

```python
!apt install aptitude
!aptitude install mecab libmecab-dev mecab-ipadic-utf8 git make curl xz-utils file -y
!pip install mecab-python3==0.7
```
* MeCab をインポートし、出力モードを `"-Ochasen"` としてインスタンスを生成します。
* 例として 1 行目の形態素解析結果を示します。

```python
import MeCab
mecab = MeCab.Tagger("-Ochasen")

# 1行目の形態素解析結果を例示
print(mecab.parse(lines[0]))
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/91ecfddf-d6d4-90de-cc2f-dadf77d58d66.png)


####２. 品詞を限定してデータリスト化
* 文章ごとの ポジティブ/ネガティブ の性格づけに寄与すると考えられる品詞として、名詞・形容詞・動詞・副詞の4カテゴリに絞ります。

```python
# 形態素解析に基づいて単語を抽出
word_list = []
for l in lines:
    temp = []
    for v in mecab.parse(l).splitlines():
        if len(v.split()) >= 3:
            if v.split()[3][:2] in ['名詞','形容詞','動詞','副詞']:
                temp.append(v.split()[2])
    word_list.append(temp)

# 空の要素を削除
word_list = [x for x in word_list if x != []]

print(word_list)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/e13f98c4-cb6c-13dd-70c3-61e38fbed300.png)

* こちら文章単位のリストを対象として「単語感情極性値対応表」から ポジティブ/ネガティブ を判定する感情極性値を取得します。



#⑷ 感情極性値の取得
####１. 辞書から感情極性値を取得
* 文章ごとに、単語ごとの感情極性値を取得してデータフレームに出力してみます。

```python
result = []
# 文単位の処理
for sentence in word_list:
    temp = []
    # 語単位の処理
    for word in sentence:
        word_score = []
        score = dic.get(word)
        word_score = (word, score)
        temp.append(word_score)       
    result.append(temp)

# 文毎にデータフレーム化して表示
for i in range(len(result)):
    print(lines[i], '\n', pd.DataFrame(result[i], columns=["word", "score"]), '\n')
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/a8060f73-00b8-bc53-9e8a-a73a0089eb53.png)

* 全 4 行の結果を下表にまとめました。左から順に、各行の単語とその感情極性値となっています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/b208a66e-1ef0-967d-7f54-97e6512e5983.png)

* まず None は「単語感情極性値対応表」に登録されていない単語であり、いかに収録語彙数の多い辞書を以てしても必ず起きる問題といえます。
* ただ、問題といえば、感情極性値に正の値をもつ単語はただ一つ「最多」しかなく、それ以外はすべて負の値となっていることです。その中には、なぜネガティブと判定されるのか実感のわかないものが少なくありません。


####２. 文章ごとに感情極性値の平均値を計算
```python
# 文単位の平均値を計算
mean_list = []
for i in result:
    temp = []
    for j in i:
        if not j[1] == None:
            temp.append(float(j[1]))
    mean = (sum(temp) / len(temp))
    mean_list.append(mean)

# データフレーム化して表示
print(pd.DataFrame(mean_list, columns=["mean"], index=lines[0:4]))
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/faeee20d-61b9-2e35-189d-5be038bf8b9b.png)

* 全般的にほぼ負の値なので、自ずと語数が少ないほど平均値は高くなり、もっとも文章の短い3行目のネガティブの程度が小さめとなっています。
* ここで改めて「単語感情極性値対応表」を検討してみます。

#⑸ 「単語感情極性値対応表」再考
####１. ネガポジの構成比を確認する
* そもそも「単語感情極性値対応表」における ポジティブ/ネガティブ 及び ニュートラル の割合はどうなっているのでしょうか。

```python
# ポジティブの語数
keys_pos = [k for k, v in dic.items() if float(v) > 0]
cnt_pos = len(keys_pos)
# ネガティブの語数
keys_neg = [k for k, v in dic.items() if float(v) < 0]
cnt_neg = len(keys_neg)
# ニュートラルの語数
keys_neu = [k for k, v in dic.items() if float(v) == 0]
cnt_neu = len(keys_neu)

print("ポジティブ の割合:", ('{:.3f}'.format(cnt_pos / len(dic))), "(", cnt_pos, "語)")
print("ネガティブ の割合:", ('{:.3f}'.format(cnt_neg / len(dic))), "(", cnt_neg, "語)")
print("ニュートラル の割合:", ('{:.3f}'.format(cnt_neu / len(dic))), "(", cnt_neu, "語)")
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/1abe28dd-550f-61db-b33c-09d0ab604a3f.png)

* ネガティブが全体の9割を占めており、著しく偏っていることがわかります。かりに10語あったとしてポジティブな語はそのうち1語あるかないかですから、文章単位の平均値は概ねネガティブとなります。
* また例えば、先に「スパゲッティ：-0.270203」「マカロニ：-0.384254」とありましたが、人それぞれの嗜好やシチュエーションによってネガポジの実感は異なるはずです。
* なお、先の結果で唯一ポジティブな語とされた「最多」ですが、昨今の「新規感染者が最多を更新」といった語用をみても、必ずしもポジティブな意味だけに使われる語でないことは明らかです。

####２. 重複している語を確認する
* 登録数は 55,125 語ですが、dict 型に変換した時点でその総数は 52,671 語に減じています。

```python
print("dict型に変換前の要素数 :", len(pndic))
print("dict型に変換後の要素数 :", len(dic), "\n")

pndic_list = pndic["word"].tolist()
print("dict型に変換前の一意な要素数 :", len(set(pndic_list)))
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/441a3dc9-344c-0d81-a848-0bd3066582f2.png)

* 登録の形式は原則として `語（終止形）：読み：品詞：感情値[-1, +1]` となっていますが、例えば、次のように同一の `語（終止形）` をもつ複数のデータが散在しています。こうした重複をなくした一意な要素数をカウントすると、上記のとおり dict 型に変換後の要素数 52,671 と一致します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/502109/fa95fd70-3a37-128c-694f-6a1bf4f87493.png)

---
* さて、感情分析には「-ない」「だが」といった否定による極性の反転や、「とても」「非常に」というような感情強度の増幅などの処理が必要です。辞書自体の問題のみならず、以上の処理では全く十分ではありません。
* 辞書作りには多大なエネルギーと莫大なコストがかかります。そうした先行投資があってのことで、既成のものの恩恵に浴しようとして、その完成度をあれこれ批評することにいささか抵抗を感じます。かつてヒューマンリソースをつかって自然言語処理をやってきた個人的な経験からいえば、当事者意識をもって日本語の感情分析を考えていきたい、ですね。
* [3. Pythonによる自然言語処理　5-4. 日本語文の感情値分析［日本語評価極性辞書（名詞編）］](https://qiita.com/y_itoh/items/4693bd8f64ac811f8524)
* [3. Pythonによる自然言語処理　5-5. 日本語文の感情値分析［日本語評価極性辞書（用言編）］](https://qiita.com/y_itoh/items/7c528a04546c79c5eec2)