k-meansを使ってみたときのメモ

k-meansを使う機会があったので自分なりにまとめてみました。
なんとなーくわかった気になっていたけどいざ使うとなると、気になることがたくさん出てきたので一つずつ調べながらやってみました。

## 参考
本当にありがとうございます。

https://qiita.com/g-k/items/0d5d22a12a4507ecbf11

https://qiita.com/g-k/items/e1d558ffcdc833e6382c

https://pepese.github.io/blog/python-ml-k-means-clustering/

https://qiita.com/deaikei/items/11a10fde5bb47a2cf2c2

https://rightcode.co.jp/blog/information-technology/t-sne-visualizing-high-dimensional-data

## 概要
k-means はデータをランダムにクラスターに分類した後、それぞれのクラスターの重心を元に分類を調整し直していくアルゴリズムで、任意のクラスター数(k)に分類可能です。


### k-meansのアルゴリズム
1. 各点xに対してランダムにクラスターを割り振る。
2. 各クラスターの重心（クラスターに含まれる点の平均）を計算する。
3. 各点について上記で計算された重心からの距離を計算し、距離が一番近いクラスターに割り当て直す。
4. 2と3を、割り当てられるクラスターが変化しなくなるまで行う。

といった感じです。

## 実践してみる
とりあえず手軽に使えそうなIrisを使ってみました。

### データをぶち込む

```Python
from sklearn import datasets
from sklearn.cluster import KMeans

iris = datasets.load_iris()
data_in = iris["data"]

clusters=3
model_kmeans = KMeans(n_clusters=clusters)
model_kmeans.fit(data)
```

こんな感じでn_clustersでクラスター数を指定してk-meansインスタンスを作成し、fitする時にクラスタリングしたいデータを入れてあげます。

### クラスタリング結果
クラスタリングの結果は`model_kmeans.labels_`で見ることができます。n_clustersで3を指定しているので、ここには0, 1, 2のいずれかの番号（クラスター番号）が入っています。

Irisデータでは特徴量ががくの長さ、がくの幅、花びらの長さ、花びらの幅となっています。

まずはがくの長さとがくの幅を軸にとって各点がどのようにクラスタリングされたかみてみましょう。

```Python
# ラベル 0 の描画
ldata = data_in[labels == 0]
plt.scatter(ldata[:, 0], ldata[:, 1], color='green')
# ラベル 1 の描画
ldata = data_in[labels == 1]
plt.scatter(ldata[:, 0], ldata[:, 1], color='red')
# ラベル 2 の描画
ldata = data_in[labels == 2]
plt.scatter(ldata[:, 0], ldata[:, 1], color='blue')
# x軸、y軸の設定
plt.xlabel(iris['feature_names'][0])
plt.ylabel(iris['feature_names'][1])
plt.show()
```

![output_1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/615000/6b84d740-da6c-2500-534f-528d4bf40f5c.png)


おおー、なんとなく分かれているのがわかりました。

花びらの長さ、花びらの幅でもプロットしてみます。

```Python
# ラベル 0 の描画
ldata = data_in[labels == 0]
plt.scatter(ldata[:, 2], ldata[:, 3], color='green')
# ラベル 1 の描画
ldata = data_in[labels == 1]
plt.scatter(ldata[:, 2], ldata[:, 3], color='red')
# ラベル 2 の描画
ldata = data_in[labels == 2]
plt.scatter(ldata[:, 2], ldata[:, 3], color='blue')
# x軸、y軸の設定
plt.xlabel(iris['feature_names'][2])
plt.ylabel(iris['feature_names'][3])
plt.show()
```
![output_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/615000/eef31731-92ec-74e2-86a8-0b390514c62c.png)

へえー。こっちの方が分かれています。名前にもありますがVerisicolorとVersinicaは近くて、Setosaだけ離れてますね。

### t-SNEを使う
このように四つの特徴量があると二個ずつしかプロットできず心苦しいですね。
そこで高次元のデータを可視化するのに使えるという、t-SNEを使ってみました。読み方は「ティースニー」だとか。ティーエスエヌイーが最高に読みづらいと思っていたのでよかった。
原理については先人のqiitaがありますのでこちらを参考にさせていただきました。
https://qiita.com/g-k/items/120f1cf85ff2ceae4aba


```Python
from sklearn.manifold import TSNE
# t-SNEをやる
tsne = TSNE(n_components=2)
vecs = tsne.fit_transform(data_in)

# ラベル 0 の描画
ldata = vecs[labels == 0]
plt.scatter(ldata[:, 0], ldata[:, 1], color='green', label='Setosa')
# ラベル 1 の描画
ldata = vecs[labels == 1]
plt.scatter(ldata[:, 0], ldata[:, 1], color='red', label='Versicolor')
# ラベル 2 の描画
ldata = vecs[labels == 2]
plt.scatter(ldata[:, 0], ldata[:, 1], color='blue', label='Versinica')
plt.legend()
plt.show()
```
![output_3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/615000/371c84cc-7ca5-8715-200e-3c53fa9e27d9.png)

おおおVerisicolorとVersinicaがかなり近いですが綺麗に分かれてる気がする。

## Irisじゃないときどう使うの？
とりあえずここまでいい感じにk-meansでクラスタリングができました。

けどクラスター数がわからない時どうすればいいんだという壁にぶち当たりました。

しかしどんな時も先達はいてくれるものですね。感謝。
https://qiita.com/deaikei/items/11a10fde5bb47a2cf2c2


どうやら「エルボー法」と「シルエット分析」というのがクラスター数を決めるときの参考になるらしい。

クラスター数がわからないデータの例が思い浮かばないのでとりあえずIrisデータセットを入れてみます。「3が最適」みたいな結果になればまあ嬉しいかな。

ということでほとんど先人のコードで恐縮ですが、まずはエルボー法から

```Python
distortions = []

for i  in range(1,11):                # 1~10クラスタまで一気に計算 
    model_kmeans = KMeans(n_clusters=i,
                n_init=10,
                max_iter=300,
                random_state=0)
    model_kmeans.fit(data_in)                         # クラスタリングの計算を実行
    distortions.append(model_kmeans.inertia_)   # km.fitするとkm.inertia_が得られる

plt.plot(range(1,11),distortions,marker='o')
plt.xlabel('Number of clusters')
plt.ylabel('Distortion')
plt.show()
```
結果は
![output_4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/615000/20d92122-e17b-e120-b95c-67cf0cd3c840.png)

なるほど確かに3のとこでサチっている。2の点でもかなり角度がついているが、これはVerisicolorとVersinicaが近いからだと考えるとなるほーっていう感じであります。



続いてシルエット分析をしてみます。もうこれに関しても先ほどの人のコードのまんまで、どこまで引用していいのかわからないので割愛。本当にありがとうございます。

![output_5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/615000/a1ba4a75-36f8-9a39-88f2-10f67d4020f1.png)

シルエットの高さが各クラスターのサイズを示しているらしく、これが比較的均等になればいい感じのクラスター数だねという評価になるらしいです。なるほど。まあいいのかな。

けど赤点線を超えているデータは1, 3のクラスター数においては少ないです。
シルエット係数（silhouette coefficient）が1に近いほど他のクラスターと離れているらしいのですが、どうやらこの2というやつがSetosaぽいですね。1と2はクラスター係数が比較的小さいので近接しているクラスターということになります。クラスターのサイズ（幅）的に1がVerisicolor、3がVersinicaに対応するのかな

## 終わりに
いろんなとこで最初の方に出てくるk-meansでしたが実際使うとなるといろんな疑問が生じてきました。せっかくだからメモしよと思って書いてたら、なんとなく投稿したくなってしまいました。

あとk-meansのデメリットとして最初のランダムのクラスタリングによって、うまくクラスタリングできなくなる可能性があるというのがあるらしく、それを克服するためにKMeans++というものもあるらしいです。
それも書こうと思ったけど、力尽きてしまいました。

今後もゆるゆるアウトプットしたいものです。