Pythonでテキストアナリティクス　 〜『テキストアナリティクス入門』に沿い共起ネットワークなど描いてみた〜 Part2：複合語編

## はじめに
**[テキストアナリティクス入門](www.amazon.co.jp/dp/4065274109)**
![テキストアナリティクス](https://www.hanmoto.com/bd/img/9784065274101.jpg?2022-03-11T16%3A10%3A21%2B09%3A00)

この書籍は、テキストアナリティクス初学者向けの入門書です。
テキストアナリティクスとは何だということのみならず、頻出語やこれを表現したWordCloud、共起ネットワークをどのように活用すべきかが、実例に沿ってわかりやすく解説されていて、とても参考になりました。

[**前回記事**](https://qiita.com/hima2b4/items/5619e617c34f588b418a)（以下）では、この書籍で紹介されていたインタラクティブな動的共起ネットワークを、他に紹介されていたWordCloudを含め、やってみました。

https://qiita.com/hima2b4/items/5619e617c34f588b418a

もう一つ紹介されていた内容で興味を持ったのが**複合語の対応**です。
 

[**前回記事**](https://qiita.com/hima2b4/items/5619e617c34f588b418a)では、「再エネ」で検索したTweetデータを事例に分析を行いました。
テーマである「再エネ」という単語は、形態素解析により「再」「エネ」と分解されていました。
「再」「エネ」ではなく、「再エネ」であったほうが可読性が高くなりそうなので、できればそのように表記したい・・・ このような時、「再エネ」のように名詞＋名詞となっている語を複合しようというのが複合語の対応です。
書籍のプログラムでは、名詞が2つ以上3つ以下で連続した語を複合語として抽出するものとなっていました。

早速、複合語に対応を実行し、前回の実行内容と比較してみることにしました。



## 実行したこと
>- Google Colabで実行する
>- Twitterデータ（csv）を読込み、つぶやきの頻出語（上位）をグラフ化（**複合語Ver.**） 
>- WordCloud（**複合語Ver.**） 生成（前回記事参照）
>- 共起ネットワーク（**複合語Ver.**） 生成



## 頻出語グラフ -複合語対応でどうなる？-
[**前回記事**](https://qiita.com/hima2b4/items/5619e617c34f588b418a)同様、「再エネ」でtweet検索したをつぶやきを ついすぽ でcsvにエクスポートしたデータとしています。

https://chrome.google.com/webstore/detail/ついすぽ-tweet-export/imjojcgefiinokaclmifakpphkfeiddg?hl=ja

書籍に紹介されていた複合語（名詞+名詞）に加え、'PROPN', 'VERB', 'ADJ'（固有名詞と動詞と形容詞）も加えて、上位の頻出語を確認しました。

まず、[**前回記事**](https://qiita.com/hima2b4/items/5619e617c34f588b418a)と同じですが、普通に実行した結果が以下です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1275001/b30a5cfc-feb8-35d1-d02a-2ec828fcbf06.png)

そして以下が複合語対応（＋固有名詞＋動詞＋形容詞）して実行した結果です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1275001/0dff0012-5a8f-73a3-44e9-0e4e3bf83ad5.png)

断然よくなりました。
「再エネ賦課金」は「エネ賦課金」と別れてしまいましたが、「風力発電」「電力不足」「再稼働」「再エネ調達」等が現れ、イメージがしやすくなりました。


## WordCloud生成
次に、先と同様、複合語対応（＋固有名詞＋動詞＋形容詞）したWordCloudを描きました。

まず、普通に実行した結果が以下です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1275001/d79bcc5a-a168-9e26-327e-cda7219dea87.png)
そして以下が複合語対応（＋固有名詞＋動詞＋形容詞）して実行した結果です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1275001/92f5d92e-e97c-0b30-5aae-c642a97dcecf.png)
こちらも可読性が上がったように感じました。
「再稼働」「電力不足」「再エネ議連」「可能」等、前回は意識できなかったワードが目に飛び込んできました。


## 共起ネットワーク
次に、共起ネットワーク を描きました。

まず、普通に実行した結果が以下です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1275001/2bff87a5-7742-835b-07c3-9a8e717483bf.png)
そして以下が複合語対応して実行した結果です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1275001/76d0d538-ee97-47a7-ec70-8b25020c66e1.png)
共起ネットワークは、残念ながら固有名詞と動詞と形容詞を加えることができず（どうしてよいかわかりませんでしたので）名詞＋名詞の複合語のみで描いています。

ただ、これはこれでわかりやすい！
- 「再」「エネ」→「再エネ」となりましたので、中央から広がったスタイルとなり、とても全体把握がしやすくなりました。
- 先ほどのWordCloudで目に飛び込んできた「電力不足」は「原発再稼働」と共起しているんだなということが一発でわかりました。これは巷で叫ばれている内容ですね。
- 「風力発電」も ”あぁ、これは反対が多いんだな”ということもすぐにわかりました。

あと、「再エネ議連」と「破壊」が気になりましたので、原文検索してみました。

●　**再エネ議連 が含まれる文を抽出した結果**
>	✓ 日本の再エネ議連メンバーは、よほどの馬鹿か再エネ利権の毒饅頭食った連中の集まり。
>	✓ 再エネ議連を見ると、同時同量どころかkWとkWhの違いもわからないように思える。
>	✓ 再エネ議連が調子に乗っていただけの話し。
>	✓ それに便乗しているのが再エネ議連。
>	✓ もちろん、こんな声は再エネ議連に届かない。
>	✓ 教えてください、再エネ議連の先生方。
>	✓ 再エネ議連を見ろ。
>	✓ 再エネ議連解散と、再エネ賦課金廃止を！
>	✓ そういう集団と連んでいるのが再エネ議連です。
>	✓ 結局、再エネ議連がやってることはパフォーマンスにしかすぎないですね(もしくは特定事業者に勝ってもらうため)。
>	✓ 再エネ議連などにロビーした事業者、経営者はエクセルのCFシートしか見ない人たちなのかな、と感じるところもあります。
>	✓ 最近、再エネ議連の動きがないような気がするのだが、気のせいか。
>	✓ 我々が電力会社に払う電気代に加算され強制徴収される再エネ賦課金が、再エネ議連所属議員への政治献金になりキックバックされています。

tweetの内容だけでは読み取りにくいですが、ずいぶん再エネ議連に不満があるようです。
再エネ賦課金の負担に対する怒りや不満もあるように見受けられます。

**●　破壊 が含まれる文を抽出した結果**
>	✓ 再生可能エネルギーによる自然破壊を止めよう。
>	✓ 自然を破壊し、災害を誘発するソーラーパネルなどいらない。
>	✓ 中国の脅威が増すなか防衛費は1%のまま、緊縮財政増税路線で国民の貧困化は進み、外国人労働者の増加で賃金は安く抑えられ、再エネ促進で自然破壊は進み電気料金は爆上がり
>	✓ そりゃ、再エネって、自然エネルギー活用なんだから、結果的に自然破壊運動になる。
>	✓ 製パネルは強制労働と環境破壊のパネルです
>	✓ 再エネは大規模停電の元凶再エネは自然破壊再エネは中共の養分再エネは左翼支配の呼び水拙速な再エネは日本を滅ぼす。
>	✓ 製パネルは強制労働と環境破壊のパネルです
>	✓ 自然は破壊され、中国産パネルばかりが爆売れ。
>	✓ 宮城・北海道の風力発電計画が相次ぎ断念 政府は環境破壊する再エネ拡大策を見直すべき | ザ・リバティWeb/The Liberty Web https://t.co/1BHXtIFTv3
>	✓ 再生エネルギーは、日本を破壊する。
>	✓ 宮城・北海道の風力発電計画が相次ぎ断念政府は環境破壊する再エネ拡大策を見直すべき関西電力は宮城県と北海道でそれぞれ予定してた風力発電所2カ所の建設を断念と発表。
>	✓ 自然破壊を伴う再生可能エネルギーより優れているのではなかろうか。
>	✓ 日本の美しい自然を破壊して、何が再エネだ💢
>	✓ しかも、中国製が殆どだと言うのに、安全保障上も、大いに問題なのに💢早く手を打たないと、日本の自然界が、破壊される❗️
>	✓ 宮城・北海道の風力発電計画が相次ぎ断念 政府は環境破壊する再エネ拡大策を見直すべき | ザ・リバティWeb/The Liberty Web https://t.co/vH4Ard7eXU
>	✓ @hosyu_jk3 自然破壊の話と再エネ賦課金の話を中心にした方が良かったかも。
>	✓ 環境破壊vs物価高騰ではなく中長期的vs短中期的の戦いと言っても良い。
>	✓ 再エネは自然破壊。
>	✓ 自然破壊しまくり
>	✓ 高校の期末テスト返却時に「水力発電は自然を破壊する為、再生可能エネルギーとは言えない」と言われた。
>	✓ 砂漠のど真ん中で快適な生活を送れる空間を作ろうとする試みは環境破壊ではないのか？

これらは「再エネで自然を破壊するな」という怒りに満ち溢れています。パネルが中国製であることへの不満も色濃く感じられる内容となっています。


## 最後に
複合語対応、これはいいですね！
私は、可読性の面で劇的な違いを感じましたが、いかがでしょうか？
複合語のよさを味わうと、もうこれでしかやりたくなくなっちゃうかもしれません。

これまでに、いくつかのテーマでWordCloudを作成して人に見てもらったことがあるのですが、ほぼ「ふーん」で終わっちゃう ^^;
でも、この複合語対応Ver.を見せれば、反応は「ん？！」くらいには変わるかもしれません。

ただ、共起ネットワークで、複合語に固有名詞と動詞と形容詞を加えることができていないことが惜しまれます。
うーん、これはどうすればよいかわからない・・・ どなたがご存じの方おられたら、ぜひともご教示を！（sudachiにユーザー辞書登録すればよいのかもしれませんが、できれば辞書登録せずに対応したいなぁ）


## 参考
https://www.amazon.co.jp/%E5%AE%9F%E8%B7%B5Data-Science%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-Python%E3%81%A7%E3%81%AF%E3%81%98%E3%82%81%E3%82%8B%E3%83%86%E3%82%AD%E3%82%B9%E3%83%88%E3%82%A2%E3%83%8A%E3%83%AA%E3%83%86%E3%82%A3%E3%82%AF%E3%82%B9%E5%85%A5%E9%96%80-KS%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E5%89%9B%E5%8F%B2/dp/4065274109/ref=tmm_pap_swatch_0?_encoding=UTF8&qid=&sr=

https://qiita.com/hima2b4/items/5619e617c34f588b418a