2chのスレッドをWordCloudで可視化してみる　～形態素解析・WordCloud編～

#はじめに
2chはスレッドのレス一つ一つに目を通すのに時間がかかってしまうので、
スレッド情報をWordCloudで可視化し、簡単に全体像をつかめないかと試みた。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/302df964-1731-4d3d-0e75-20430cb5e4e2.png" width=30%>
前回の[スクレイピング編](https://qiita.com/hisakichi95/items/54a80f2be693dc34eb25)では所望のスレッド群のレス内容を抽出してきた。
今回は後編として、前回収集したレス内容を形態素解析し、WordCloudでの出力までを行なう。

# 全体の流れ
1. 「ログ速」をスクレイピングして対象スレッドのURLを抽出
2. 2chスレッドをスクレイピングしてレスを抽出
3. [抽出したレス内容をMecabで形態素解析](##Mecabによる形態素解析) ← 今回説明
4. [WordCloudで出力する](##WordCloudで出力) ← 今回説明

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/4896236d-a56a-852c-eced-04938588224f.png" width=60%>


#環境
前回同様、GoogleColaboratoryを使用する。
GoogleColaboratoryは、ブラウザ上で動作するPythonの実行環境。Googleアカウントさえあれば、誰でも使える。
Mecabは追加インストールが必要（後述）だが、WordCloudはGoogleColaboratoryにデフォルトで入っているためインストール不要。

# コード全文
<details><summary>クリックして全文を表示（スクレイピング処理含む）</summary><div>

```python
# ライブラリのインポート
import requests, bs4
import re
import time
import pandas as pd
from urllib.parse import urljoin

#フォントをColabローカルにインストール
from google.colab import drive
drive.mount("/content/gdrive")
# 事前に自分のGoogleDriveのマイドライブのトップにfontというフォルダを作っておき、その中に所望のフォントファイルを入れておく
# フォルダごとColabローカルにコピー
!cp -a "gdrive/My Drive/font/" "/usr/share/fonts/"

# ------------------------------------------------------------------------
# 下準備
log_database = []  # スレッドの情報を格納するリスト
base_url = "https://www.logsoku.com/search?q=FFRK&p="

# Webスクレイピングの実施
for i in range(1,4):  # どのページまでさかのぼるか（ここでは仮で4ページ目まで）
  logs_url = base_url+str(i)

  # スクレイピング処理本体
  res = requests.get(logs_url)
  soup = bs4.BeautifulSoup(res.text, "html.parser")

  # 検索結果が見つからなかった時の処理
  if soup.find(class_="search_not_found"):break

  # スレッド情報が格納されたテーブル・行の取得
  thread_table = soup.find(id="search_result_threads")
  thread_rows = thread_table.find_all("tr")

  # 各行に対する処理
  for thread_row in thread_rows:
    tmp_dict = {}
    tags = thread_row.find_all(class_=["thread","date","length"])

    # 中身の整理
    for tag in tags:
      if "thread" in str(tag):
        tmp_dict["title"] = tag.get("title")
        tmp_dict["link"] = tag.get("href")
      elif "date" in str(tag):
        tmp_dict["date"] = tag.text
      elif "length" in str(tag):
        tmp_dict["length"] = tag.text

    # レス数が50を超えるもののみデータベースに加算
    if tmp_dict["length"].isdecimal() and int(tmp_dict["length"]) > 50:
      log_database.append(tmp_dict)

  time.sleep(1)

# DataFrameへ変換
thread_df = pd.DataFrame(log_database)

# ------------------------------------------------------------------------
# 過去ログからレス取得
log_url_base = "http://nozomi.2ch.sc/test/read.cgi/"
res_database = []

for thread in log_database:
  # 過去ログ一覧から板名と掲示板No.を取り出し、過去ログのURLを生成
  board_and_code_match = re.search("[a-zA-Z0-9_]*?/[0-9]*?/$",thread["link"])
  board_and_code = board_and_code_match.group()
  thread_url = urljoin(log_url_base, board_and_code)

  # 過去ログページからhtml抽出
  res = requests.get(thread_url)
  soup = bs4.BeautifulSoup(res.text, "html5lib")

  tmp_dict = {}
  # dtタグに日付などの情報
  # ddタグにコメントが格納されている
  dddt = soup.find_all(["dd","dt"])

  for tag in dddt[::-1]:  # 後ろから抽出していく

    # dtタグから日付のみを抽出
    if "<dt>" in str(tag):
      date_result = re.search(r"\d*/\d*/\d*",tag.text)  #  "（←の'"'は気にしないqiitaの表示異常回避のため）
      if date_result:
        date_str = date_result.group()
        tmp_dict["date"] = date_str

    # ddタグからレス内容を抽出
    if "<dd>" in str(tag):
      tmp_dict["comment"] = re.sub("\n","",tag.text)

    # tmp_dictに格納した内容をres_databaseに転記
    if "date" in tmp_dict and "comment" in tmp_dict:
      tmp_dict["thread_title"] = thread["title"]
      res_database.append(tmp_dict)
      tmp_dict = {}

  time.sleep(1)  # お約束

# DataFrameへ変換
res_df = pd.DataFrame(res_database)

# ------------------------------------------------------------------------

# 形態素分析ライブラリーMeCab と 辞書(mecab-ipadic-NEologd)のインストール 
!apt-get -q -y install sudo file mecab libmecab-dev mecab-ipadic-utf8 git curl python-mecab > /dev/null
!git clone --depth 1 https://github.com/neologd/mecab-ipadic-neologd.git > /dev/null 
!echo yes | mecab-ipadic-neologd/bin/install-mecab-ipadic-neologd -n > /dev/null 2>&1
!pip install mecab-python3 > /dev/null

# シンボリックリンクによるエラー回避
!ln -s /etc/mecabrc /usr/local/etc/mecabrc


# レスをn(=10000)レス毎に区切り、カンマで結合
# 区切る目的はのちのmecabが多すぎる文字量に対応できないため
sentences_sep = []
n = 10000
for i in range(0, len(res_df["comment"]), n):
  sentences_sep.append(",".join(res_df["comment"][i: i + n]))

# ------------------------------------------------------------------------
import MeCab

# mecab-ipadic-neologd辞書が格納されたパスを指定
path = "-d /usr/lib/x86_64-linux-gnu/mecab/dic/mecab-ipadic-neologd"
# 上記パス（/usr/～）は下記コマンドで取得
# !echo `mecab-config --dicdir`"/mecab-ipadic-neologd"

# Taggerオブジェクトの生成
mecab = MeCab.Tagger(path)

# 区切ったレス群ごとに形態素解析を実行
chasen_list = [mecab.parse(sentence) for sentence in sentences_sep]

word_list = []

# chasen_listを１行まで分解
# ex. 鉄巨人	名詞,固有名詞,一般,*,*,*,鉄巨人,テツキョジン,テツキョジン）
for chasen in chasen_list:
  for line in chasen.splitlines():
    
    if len(line) <= 1: break

    speech = line.split()[-1]
    if "名詞" in speech:
      if  (not "非自立" in speech) and (not "代名詞" in speech) and (not "数" in speech):
        word_list.append(line.split()[0])

word_line = ",".join(word_list)

# ------------------------------------------------------------------------
from wordcloud import WordCloud
import matplotlib.pyplot as plt

f_path = "BIZ-UDGothicB.ttc"  # Colabローカルのfontsフォルダにコピーしておく必要あり
stop_words = ["https","imgur","net","jpg","com","そう"]

# インスタンスの生成（パラメータ設定）
wordcloud = WordCloud(
    font_path=f_path, # フォントの指定
    width=1024, height=640,   # 生成画像のサイズの指定
    background_color="white",   # 背景色の指定
    stopwords=set(stop_words),   # 意図的に表示しない単語
    max_words=350,   # 最大単語数
    max_font_size=200, min_font_size=5,   # フォントサイズの範囲
    collocations = False    # 複合語の表示
    )

# 画像生成
output_img = wordcloud.generate(word_line)

# 表示する
plt.figure(figsize=(18,15))  # figsizeで表示する大きさを指定
plt.imshow(output_img)
plt.axis("off")  # 目盛りを非表示にする
plt.show()
```
</div></details>

# 説明
##Mecabによる形態素解析
形態素解析は、自然言語の文章を単語（正確に言えば単語よりさらに細かい形態素と呼ばれる単位）に分解する処理。
日本語は英語のように単語と単語の間に空白を入れたりしないため、**形態素解析を行なって単語同士を切り離す**必要がある。
形態素解析を行うツールはいくつかあるが、今回は**処理速度が速く、精度も高い「Mecab」を使用**する。

###Mecabのインストール
MecabはGoogleColaboratoryにデフォルトで入っていないため、都度、下記を実行してインストールする。

```python
# Mecabのインストール
!apt-get -q -y install sudo file mecab libmecab-dev mecab-ipadic-utf8 git curl python-mecab > /dev/null
!pip install mecab-python3 > /dev/null

# シンボリックリンクによるエラー回避
!ln -s /etc/mecabrc /usr/local/etc/mecabrc
```


###辞書の指定（mecab-ipadic-NEologd）
Mecabのデフォルト辞書「mecab-ipadic」は、新語に対してそれほど精度が高くない。
そこでオススメするのが**「mecab-ipadic-NEologd」**という辞書の仕様。
「mecab-ipadic-NEologd」はMecabで使えるシステム辞書の一つで、更新頻度が高いため**新語に強いのが特徴**。
例えば、「エアリス」というキーワードを形態素解析したとき。デフォルトの辞書だと「エア / リス」と分割された形態素としてしまうが、「mecab-ipadic-NEologd」だとちゃんと「エアリス」を一つの単語だと判断してくれる。
2chのような新語が跋扈するような環境では「mecab-ipadic-NEologd」を用いたほうが解析の精度が上がるはず。
インストール方法については、下記のように行なう。

```python
# 辞書(mecab-ipadic-NEologd)のインストール 
!git clone --depth 1 https://github.com/neologd/mecab-ipadic-neologd.git > /dev/null 
!echo yes | mecab-ipadic-neologd/bin/install-mecab-ipadic-neologd -n > /dev/null 2>&1
```

後ほどMecabで呼び出す際にmecab-ipadic-neologd辞書が格納されたパスを指定する必要があるので、定義しておく。

```python
path = "-d /usr/lib/x86_64-linux-gnu/mecab/dic/mecab-ipadic-neologd"
```

<details><summary>うまくいかない場合（クリックして表示）</summary><div>
上記パス（/usr/～）で基本的に問題ないはずだが、うまくいかない場合は下記コマンドで辞書のパスを取得する

```
!echo `mecab-config --dicdir`"/mecab-ipadic-neologd"
```
</div></details>

###形態素解析のデータ前処理
Mecabにテキストデータを渡す際のポイントは２つ
・Mecabは一つのstr型のデータを渡す（今回の場合カンマで結合した文字列）
・上記str型があまりにも**<font color="red">データ量が多いと解析に失敗するため、分割してMecabにデータを渡す<font>**必要がある。
そのため、前回スクレイピングしたレス内容（DataFrame型：res_df）を10000レス毎に一つのstrに連結し、
それをリストに次々格納していった。

```python
# レスをn(=10000)レス毎に区切り、カンマで結合
# 区切る目的はのちのmecabが多すぎる文字量に対応できないため
sentences_sep = []
n = 10000
for i in range(0, len(res_df["comment"]), n):
  sentences_sep.append(",".join(res_df["comment"][i: i + n]))
```

###形態素解析の実行
Mecabは `① Mecab.Taggerインスタンスの生成` → `② インスタンスに対象のテキストを渡してparse（解析）` の流れで行なう。
①のインスタンスを生成する際に、解析のオプションを指定する。
前述のシステム辞書「mecab-ipadic-NEologd」を使用したいので、事前に取得しておいたパスを指定する。
②の解析結果は`Taggerインスタンス.parse(str型)`で取得する。
今回のケースでは、前述の通りレス群を分割してリスト型にしたので、pythonっぽく内包表記を用いて処理を行なってみた。

```python
import MeCab

# インスタンスの生成
mecab = MeCab.Tagger(path)

# 区切ったレス群ごとに形態素解析を実行
chasen_list = [mecab.parse(sentence) for sentence in sentences_sep]
```
出力は下記のような改行とタブ区切りの混じったstr型となる。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/295b6156-2a8e-8a1d-e665-b62a9fb98005.png" width=50%>

###ノイズの除去
切り出した単語のうち「助詞」「助動詞」や「副詞」など単体で意味をなさない言葉はノイズになりうるので、除外する。
今回はシンプルに「名詞」のみを抽出するようにした。ただし、名詞のなかでも非自立、代名詞、数 などはノイズになりそうなので除外した。
処理として、Mecab出力結果のstr型を`.splitlines()`で一行ずつに分解 → さらに`.split()`で単語と品詞情報に分解
→ 品詞情報が条件に合致した場合、単語部分をword_listに加えていくようにした。

```python
# ノイズ（不要品詞）の除去
for chasen in chasen_list:
  for line in chasen.splitlines():
    
    if len(line) <= 1: break

    speech = line.split()[-1]  ## 品詞情報を抽出
    if "名詞" in speech:
      if  (not "非自立" in speech) and (not "代名詞" in speech) and (not "数" in speech):
        word_list.append(line.split()[0])
```

途中の`if len(line) <= 1: break`はエラー（多分EOS起因）対策。
最後にlist型を一つのstr型に連結する。

```python
# 単語の連結
word_line = ",".join(word_list)
```

##WordCloudで出力

###（事前準備）日本語対応フォントのインストール
日本語をWordCloudにかける場合、フォントを日本語対応のものに指定する必要がある。
ローカルならば所望のフォントのパスを指定するだけで良いのだろうが、
GoogleColaboratoryの場合、少しだけ面倒。
　 　↓
まず**事前に、自分のGoogleDrive上に所望のフォントファイルをコピーしておく**（TrueTypeフォントのみ対応）。
場所は任意だが、参考にした記事になぞらえて、マイドライブTopに「font」フォルダを作成し、その中にファイルを格納した。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/2ba2aa9d-33e4-7810-9ce8-bc3281f61db4.png" width=50%>
Colaboratory上でGoogleDriveをマウントする。

```python
#フォントをColabローカルにインストール
from google.colab import drive
drive.mount("/content/gdrive")
```

上記を実行するとGoogleDriveをマウントするためのリンクが表示されるので、クリックしてアカウントを選択 → 許可 → 表示されるコードを、GoogleColaboratory上で入力することでマウントできる。

コマンドで先ほどのフォントファイルをフォルダごとColaboratoryローカルの指定フォルダにコピーする。

```python
!cp -a "gdrive/My Drive/font/" "/usr/share/fonts/"
```

<details><summary>上手くいかない場合（クリックで表示）</summary>
一度、何故かドライブのマウントでエラーがでてフォントインストールができなかった。
その場合、GoogleColaboratoryローカルのフォントフォルダに直接ファイルをUPする。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/74d79528-0f78-b5ce-8275-079f4e74f2ce.png)</details>


###WordCloudの実行
WordCloudライブラリをインポートし、`WordCloud()`でインスタンスを生成する。
この()の中に引数を与えることで、様々な出力パラメータを設定することができる。

```python
from wordcloud import WordCloud

f_path = "BIZ-UDGothicB.ttc"  # Colabローカルのfontsフォルダにコピーしておく必要あり
stop_words = ["https","imgur","net","jpg","com","そう"]

# インスタンスの生成（パラメータ設定）
wordcloud = WordCloud(
    font_path=f_path, # フォントの指定
    width=1024, height=640,   # 生成画像のサイズの指定
    background_color="white",   # 背景色の指定
    stopwords=set(stop_words),   # 意図的に表示しない単語
    max_words=350,   # 最大単語数
    max_font_size=200, min_font_size=5,   # フォントサイズの範囲
    collocations = False    # 複合語の表示
    )
```

各パラメータの内容は以下のような感じ。

|パラメータ| 説明 | 設定値 |
|:--|:--|:-:|
|font_path   |フォントの指定   |前述したフォントのパス（f_path）   |
|colormap   |フォントのカラーセット<br>（matplotlibのカラーマップで指定）  |未設定（既定値：viridis）   |
|width   |生成画像の幅   |1024   |
|height   |生成画像の高さ   |640   |
|background_color   |背景色   |white   |
|stopwords   |意図的に表示しない単語（set）   |["https","imgur","net","jpg","com","そう"]   |
|max_words   |表示する単語の最大数   |350   |
|max_font_size  |最も多い単語のフォントサイズ   |200   |
|min_font_size  |最も少ない単語のフォントサイズ   |5   |
|collocations   |つながった単語を表示するか否か   |False   |

上記以外のパラメータについては最後述の記事の記事を参考にする。
上記で生成したwordcloudインスタンスのメソッド`.generate(連結した単語群：str型)`で対象の文字列から図を生成する。

```python
# 文字列を与えてWordCloud画像を生成
output_img = wordcloud.generate(word_line)
```

###matplotlibで表示

```py
import matplotlib.pyplot as plt

plt.figure(figsize=(18,15))  # figsizeで表示する大きさを指定
plt.imshow(output_img)
plt.axis("off")  # 目盛りを非表示にする
plt.show()
```


<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/302df964-1731-4d3d-0e75-20430cb5e4e2.png" width=75%>
無事表示することができた。

#所感・今後
とりあえず、何とか可視化することはできたにはできたのだが、何だかぼやけてしまっている気がする。
その理由として「時間軸」「単語同士の相関」などが見えなくなってしまったことが一因であると思う。
そのため、時間があるときに
・時間軸との相関表示（グラフ）
・共起ネットワーク　 　 などいじってみたい。
~~長めの記事を書くのに疲れてしまったから~~記事を書くかは未定。

##参考記事
[Google Colabの使い方まとめ](https://qiita.com/shoji9x9/items/0ff0f6f603df18d631ab)
[Google ColabにMeCabとipadic-NEologdをインストールする](https://qiita.com/jun40vn/items/78e33e29dce3d50c2df1)
[Google Colaboratoryに好きなフォントを入れてmatplotlibとかで使う方法](https://qiita.com/nkay/items/b2d50349a3f5d38df45b)
[PythonでWord Cloudを作ってみた](https://water2litter.net/rum/post/python_wordcloud/)  ← 今回触れていないwordcloudパラメータの説明あり