2018年からのtwitter民の関心をgoogle dataflowを使ってワードクラウドで追ってみた

# このようにtwitterでの月ごとのつぶやきが可視化される仕組みを作った話

![2020-06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/e8db4d17-033e-7a41-30a0-8581358f20f2.png)

# 概要

twitterは徐々に私達の生活に欠かせないものになっている。twitterでは日々多くの話題がかわされている。その全体像を追うことは難しい。ともすれば自分のタイムライン上の話題をすべての人が知っていると思い込む。

今回は、twitter提供している [sampling api](https://developer.twitter.com/en/docs/tweets/sample-realtime/overview/get_statuses_sample) を利用して、ツイッターでどのような話題が呟かれているかを分析した。その結果として、各月ごとに話された話題をワードクラウドにした。

こちらのtwitterアカウント[ツイッタートレンド分析](https://twitter.com/twt_analysis)でも定期的にまとめてつぶやくので興味があったらフォローしてほしい。

# tweet取得概要

twitter社は開発者向けに呟かれるtweetをサンプリングしたapiを提供している。

https://developer.twitter.com/en/docs/tweets/sample-realtime/overview/get_statuses_sample

こちらのapiを使えば、全tweetではないが、tweetのサンプルが取れる（未確定の情報だが、[1-2%](https://stackoverflow.com/questions/13055370/how-many-percent-of-the-tweets-does-twitter-sample-api-give)だと言われてる）。

このapiを利用することでサンプリングされたtweetを取得できる。日本語のtweetは、1日50万から70万件取得できた。2018年1月から取得しており現在5億6千万tweetを保持している。

そのtweetを自然言語処理しその月によく呟かれた単語をワードクラウド形式で可視化した。

以下にデータをまとめる。

- 取得日時 2018/01/09-2020/06/11（初版）
- 更新 2018/01/09-2022/01/02までのデータで更新した
- 取得ツイート 約10億
- 一日平均 約63万件

# 可視化手法

可視化は次のように行う。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/b215ad0a-fb87-db93-be5e-13b08632d973.png)

## データの取得と保存

データソースは、上に書いたように、twitterの提供している [sampling api](https://developer.twitter.com/en/docs/tweets/sample-realtime/overview/get_statuses_sample) だ。[flunetd](https://www.fluentd.org/) と [fluentd-twitter-plugin](https://github.com/y-ken/fluent-plugin-twitter) を利用してデータを取得し、独自開発したプログラムで、[Google BigQuery](https://cloud.google.com/bigquery/?hl=ja) へ保存する。

## 保存データを月ごとに形態素解析し、よく使われる単語を抜き出す。

保存したtweetを[google dataflow](https://cloud.google.com/dataflow?hl=ja) を利用して、形態素解析を行い、月ごとに個数をまとめる。
形態素解析は、javaの[kuromoji](https://www.atilika.com/ja/kuromoji/)と最新のワードに対応するため、[neologd](https://github.com/neologd/mecab-ipadic-neologd) を利用する。

## 形態素解析したデータをワードクラウドで可視化する

欲しいのは、その月に目立ったワードなので、全部の月にまんべんなくよく使われるワードは除外し、[scikit-learn](https://scikit-learn.org/stable/) を利用し [TF-IDF](https://ja.wikipedia.org/wiki/Tf-idf) を掛け、その月に特徴的に使っているワードの重みを変えたのに、pythonの[word-cloud](http://amueller.github.io/word_cloud/index.html) ライブラリにかけて、ワードクラウドを作る。文字の修飾は、[pillow](https://pillow.readthedocs.io/en/stable/) ライブラリを利用した。

# 集計結果

それでは、上記手法で可視化した各月のtwitterのワードを見ていこう。

## 2022年

2022年は、ウクライナ、安倍晋三死去、統一教会、国葬が話題になった。

![2022-01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/01833b3b-980a-ebb9-243d-743ad9ac41d3.png)

![2022-02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/845ca51c-0b41-6bc7-9ecb-bae1518290dc.png)

![2022-03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/2f0f8685-e1de-75ba-5fb2-c33a03b33613.png)

![2022-04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/1b6ff3bd-c86f-e3c3-a3c7-29c09779f7be.png)

![2022-05.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/113eff0d-fe56-19ec-badd-9f82bf867ead.png)

![2022-06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/30d08ff1-1359-c08b-06d5-f168a2e16180.png)

![2022-07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/aed842fe-1d8e-9f1b-a20c-f658f07c07d6.png)

![2022-08.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/2072b8b0-7d0a-9ff1-d2f5-baf5f7b2f255.png)

![2022-09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/4d059216-5ed9-7f07-6a01-a935b59ef327.png)

![2022-10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/0e8902f6-7ec3-bb22-51f7-a3091ef0fee5.png)

![2022-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/85ea86b5-8456-2557-cf9f-9b9977a0dc18.png)

![2022-12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/101bd688-0840-f7e4-524c-ed0845342e84.png)

## 2021年

コロナの文字が多すぎるので、コロナを除外して表示した。
ウマ娘、ワクチン、東京五輪、総裁選が話題だった。

![2021-01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/7f11cf4b-e190-7c08-f497-1627b722f20d.png)

![2021-02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/361868d9-f11b-afdd-5a1b-ce195e589abe.png)

![2021-03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/93bcf7f7-52b4-407a-ccf3-9b2472b38c6f.png)

![2021-04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/3805d260-4eca-f7cc-d568-b7714c6bdec8.png)

![2021-05.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/fc27c253-4c60-c0c7-b6f9-06486cae1596.png)

![2021-06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/9c2e7cd1-06db-2418-dbd2-c2cf6e41f733.png)

![2021-07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/1c1b52e4-d2dd-d5cf-20ec-56b0710c1804.png)

![2021-08.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/3096fa6b-6f4f-a5b5-0992-ab957d969bc9.png)

![2021-09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/26a34d22-ff55-d4da-e546-8cc00ad3c745.png)

![2021-10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/55de6e97-7289-3269-8438-8c6aae6974b1.png)

![2021-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/b3efc135-8c37-8ae9-cbfe-8573d935e8a3.png)

![2021-12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/88d4b9b4-5a71-bf25-ef0d-7fdc14427707.png)

## 2020年

2020年は、コロナの年だったと言われるだろう。1月はまだ平和な話題だったが、２月以降コロナの話題で持ちきりだ。コロナの話題も、前半は、感染に関することが主だが、後半は給付金など具体的な生活の保障への関心が移っている。

![2020-01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/8cc0ac13-284d-c8bf-5644-f3f1b211f391.png)

![2020-02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/6bf04986-cce9-ed80-e144-f8fcf4316610.png)

![2020-03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/0852d1ce-1902-0f56-5f47-661c88ec4bf2.png)

![2020-04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/c9d9bd93-c261-69b3-9162-969b4f85957d.png)

![2020-05.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/783c8990-ebfb-d6e7-c026-0f9871572394.png)

![2020-06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/6898b3d9-8cc4-b530-b91a-5e8263ac85bd.png)

![2020-07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/b3b7a961-ba7d-93b1-2e56-84a8dc47682c.png)

![2020-08.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/bd1ce154-a85b-8e0b-ff66-b0d8f56c1e21.png)

![2020-09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/0ac76b7d-507b-8dc4-8609-f63e9eacaabc.png)

![2020-10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/062d4cca-3b66-070b-f972-bb9e51ef966c.png)

![2020-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/29c7258d-00d5-2966-90d8-1f8f10aef823.png)

![2020-12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/b1217081-b3a2-f977-8e51-9040f0957514.png)

## 2019年

2019年は元号が変わった。タピオカが人気になり、京アニ放火事件という痛ましい事件が起こった。

![2019-01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/f5c66e30-4ff2-ef42-ffbe-e3a01700604b.png)

![2019-02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/5c477b76-0115-a66d-86c7-0f3909a83622.png)

![2019-03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/5f00c6ce-a91c-d08a-02b3-c0722fa5a87c.png)

![2019-04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/49ab374a-30aa-b47e-8642-163d7f9d42d6.png)

![2019-05.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/63c44963-a77c-6880-fc7e-0dcfbf509e1a.png)


![2019-06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/d021d07f-0b00-5129-45bb-9aca421902c2.png)

![2019-07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/2068687d-247f-d2a3-1bde-53ce5db82aa0.png)

![2019-08.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/c69d39eb-fd6b-d83a-cab2-7c9e38ffa330.png)

![2019-09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/e9c19cd9-bd30-1851-b061-26d862257ce9.png)

![2019-10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/290f57fc-1961-7cd9-5e89-602d59d68b4b.png)

![2019-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/60dddc9e-0a78-2229-9ae0-2ad5f15d9a92.png)

![2019-12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/f4d14cd8-f615-d0db-095a-efd6b2efc09c.png)


## 2018年

2018年は、冬季オリンピックや、ラグビーのW杯が日本で行われた。クッパ姫などが瞬間的に盛り上がるが、twitterっぽいなと感じた。

![2018-01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/75185a07-ed25-260f-45ff-cc3b430537a5.png)

![2018-02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/2fc1014b-d63a-13a3-0e94-b8b6cd46f270.png)

![2018-03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/6888eafe-6995-cbb6-2c64-51c571e46e01.png)

![2018-04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/9491f059-e5a6-8b93-08ac-ac18af77eaf9.png)

![2018-05.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/57501356-cc0a-9f84-8a6b-52ab742bef0b.png)

![2018-06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/f705b19e-459d-1032-5c53-486364661505.png)

![2018-07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/3a771b82-34bc-0799-9f83-132472edb87e.png)

![2018-08.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/1852726d-8437-02fd-ad07-c253e36dc279.png)

![2018-09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/9df5a93b-01f0-2fbb-6226-0febd7957b2e.png)

![2018-10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/89b4e456-60d5-4a2f-f795-90d3f080a730.png)

![2018-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/d1ddae7f-4431-e1cc-6aeb-67d6064f0d35.png)

![2018-12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/26986/63f5dc7d-05e0-76b2-5024-a104e2ad6b71.png)

# 私達はとても忘れっぽい

まとめてみて思うのは私達はとても忘れっぽいということだ。（人々が呟かなくなった話題をツイートする）[みんなの忘れたbot](https://twitter.com/wasureta_news)などがあるが、私達は簡単に過去を忘れ、年々その速度が早くなっている様に思う。

定期的に過去を振り返るツールがもっと普及すれば良いのになと思う。

# 個人でできるtweet分析

最近は、データの民主化によるtweetのサンプリングデータの公開や、BigQuery apache beam(dataflow) などの、安価なデータ分析基盤の普及により個人でもデータ分析ができるようになった。データを分析することで何が起こっているかを個人でも調査できるようになった。