1500語の進撃の巨人IME変換辞書を5時間で作った話

#何の成果も!!得られませんでした!!
結論から言います。
何の成果も!!得られませんでした!!


私は進撃の巨人が大好きで、特に現在(2022/1/30)アニメ進撃の巨人final season part2を毎回楽しみに見ています。
ちなみに漫画は最後まで読んでいます。

進撃の巨人には有名なセリフがとても多く、とても汎用性が高いです。
例

https://animanch.com/archives/20704042.html

セリフが多いんだし、IMEの辞書でも作るかと思って、IME変換辞書が何なのかもわからないまま作り始めました。
結果として、タイトル通り、1500のセリフのIME変換辞書は5時間で作ることができました。
しかし、セリフのほとんどが長文で、全部タイプして変換を押して、やっと原作のセリフになるという使用になってしまいました。
文字を打っていったら、予測変換に登録したセリフが出てこればいいかなと思っていましたが、IME辞書はそういうものではありませんでした。

何はともあれ、辞書は完成したので、配布はします。`shingekiIME.txt`というものです。

https://github.com/yuki-2000/shingeki_IMEdectionary_maker.git


#IMEの仕組み

IME変換辞書に登録するためには、`単語`、`よみ`、`品詞`が必要になります。


![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/a3b6fdb0-b123-76e9-7ece-bd127cf953e3.png)


そして、タブ区切りのtxtファイルを作成することで一括で登録することができます。


https://qiita.com/kfurumiya/items/6a7cf831ab3f560e678a


#配布されているIME変換辞書例

https://dic.nicovideo.jp/a/%E3%83%8B%E3%82%B3%E3%83%8B%E3%82%B3%E5%A4%A7%E7%99%BE%E7%A7%91ime%E8%BE%9E%E6%9B%B8

http://www.mwsoft.jp/programming/munou/ime_dictionary_link.html

https://lifelikewriter.com/ime-dic-data/#st-toc-h-26


#大量のセリフをどう集めるか

漫画は全34巻あるので、すべてのセリフをタイプするというのは現実的ではありません。
そこで、進撃の巨人のセリフをまとめているサイトがあったので、そこからスクレイピングすることにしました。
検索は、「進撃の巨人 セリフ 一覧」や、「進撃の巨人 名言」です。
以下は、コピペしたサイトです。
本当にありがたかったです。
ここまでこれらのサイトから、重複、空白等含めて2484語集めることができました。
ただし、問題としてアニメ化されている部分が多かったりと、偏りました。



###1
https://www.animatetimes.com/news/details.php?id=1626837065

コピペして手動でうまくやりました。


###2
https://meigen.keiziban-jp.com/%E9%80%B2%E6%92%83%E3%81%AE%E5%B7%A8%E4%BA%BA

`shingeki_get_words2.py`でスクレイピング

###3
https://www.underwater-festival.com/00063-2/

`shingeki_get_words3.py`でスクレイピング

###4

https://animemanga33.com/archives/11714

`shingeki_get_words4.py`でスクレイピング

###5

https://meigen.dancing-doll.com/attack-on-titan/

`shingeki_get_words5.py`でスクレイピング





#重複の削除

今回集めた語はgoogle spread sheetにまとめました。

https://docs.google.com/spreadsheets/d/1dlgzafiwQGBsUNK4xN8anSVcpvbSZZDFUIWbMgIFtrs/edit?usp=sharing

まず、重複したものをgoogle spread sheetの`重複を削除`という機能で消しました。
その結果、2484語から1689語にまで減少しました。

https://support.google.com/docs/answer/6325535?hl=ja&co=GENIE.Platform%3DDesktop

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/06fc0c22-025b-2f3c-d303-be6d80160d77.png)


#文字数で並べ替え

進撃の巨人特有でない短い単語が紛れているので、LEN()関数を使用して長さ順で並べ替えました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/6a517aed-7176-03b0-5147-555c139ecb55.png)

`道`は進撃でも重要ですが、普通の単語ですね。

逆に、一番長かった語は413語でした。

>お前らほど!!楽しそうに人を痛めつける奴は見たことがねぇ!!やれよ!!もっと!!お前の大好きな拷問を続けろ!!暴力が好きなんだろ!？俺もそうだ!!抵抗できない奴をいたぶると興奮する!!もっと俺で楽しんでくれ!!お前らは正義の味方なんだから遠慮する必要は無いんだぜ!？お前の言った通りだハンジ!!仕方ないんんだ!!正義のためだ!!そう思えりゃすべてが楽だ!!自分がすごい人間になれたと思えて気分が高揚するだろ!？お前ら化け物だ!!巨人なんかかわいいもんだ!!でも...俺は怖くねぇんだよ!!俺は...!俺には...王がいる...。何年も...仲間と一緒に王を守ってきたんだ...。俺は、この壁の安泰と...王を...信じてる...。俺達のやってきたことは...間違っていないと...。信じたい...。...けど...こんなに痛かったんだな...。俺を嬲り殺しにしてくれ...。それが...俺の、血に染まった...人生のすべてだ。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/c8329713-b86d-d855-cb6b-e544e5880671.png)



#不適切を削除


スクレイピング時に間違って集めてしまった関係ない語などを手動で削除します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/fe8be682-bbdd-2ae5-97fd-c2049cae3c6c.png)






#似た表現を消す

サイトから自動で集めたので、サイトごとに表現が違ったりします。
例えば、画像のように句読点や「…」があったりなかったりしました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/e3d95014-ef2a-a89d-107c-70cfff2dff4e.png)

そこで、difflibという単語間の類似度が分かるライブラリを使用して削除していきます。

https://www.y-shinno.com/python-difflib/

```shingeki_word_diff.py
import difflib
from difflib import SequenceMatcher
import itertools
import pandas as pd

df = pd.read_excel('進撃辞書.xlsx',header=None)
lst = list(df[0])
for i in itertools.combinations(lst, 2):
    s = SequenceMatcher(None, *i)
    if s.ratio() > 0.85:
        print('類似度：{0}%，{1}'.format(round(s.ratio()*100,1), i))
```

最後の0.85という部分を小さくして言って順次手動で削除していきます。

```
類似度：95.7%，('戦わなければ勝てない…', '戦わなければ\u3000勝てない…')
類似度：97.1%，('女神様もそんなに悪い気分じゃないね', '女神様もそんなに、悪い気分じゃないね')
類似度：97.7%，('最後まで読んで頂きありがとうございました。', '最後まで読んで頂き、ありがとうございました。')
類似度：96.3%，('何言ってんの？\u3000調査兵団は未だ負けたことしかないんだよ', '何言ってんの？調査兵団は未だ負けたことしかないんだよ？')
類似度：98.2%，('何言ってんの？\u3000調査兵団は未だ負けたことしかないんだよ', '何言ってんの？\u3000調査兵団は未だ負けたことしかないんだよ？')
```

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/ba9de13f-08d8-07ee-f618-b202446277d8.png)


```
類似度：75.0%，('鎧の巨人', '獣の巨人')
類似度：80.0%，('心臓を\u3000捧げよ', '心臓を捧げよ!!')
類似度：92.3%，('じゃあ帰ろう、私達の家に', 'じゃあ、帰ろう、私達の家に。')
類似度：83.3%，('俺は自由だ', '俺は、自由だ！')
類似度：76.9%，('お前ら、ありがとうな', 'ふふ...お前ら、ありがとうな。')
類似度：71.4%，('アニ、落ちて。', 'アニ……落ちて')
類似度：80.0%，('ねえ、アニ。私にも、それ', 'ねえ、アニ。私にも、それ……教えて？')
```



![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/776751cf-5fd6-10bf-df27-6268620c3754.png)


最終的に1590単語にまで減りました。


#品詞を追加する

後にpandasを使用することから、1列目に今までの単語、3列目に品詞を追加します。
品詞の種類には名詞、短縮読み、人名、などありますが、今回はすべて名詞としました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/308d6c27-4b82-433b-20d3-02671328e268.png)



#読みを追加して、変換辞書としてダウンロードする

変換辞書では、もちろんひらがなでの読みが必要です。
今回、一つずつ手動で打ち込むことはできないので、`pykakasi`というライブラリを使用して機械的に追加します。
今回は、googlecolabで実装し、`shingekik2h.ipynb`という名前にしています。
作成した`進撃辞書.xlsx`をアップロードして`shingekiIME.txt`をダウンロードします。


https://qiita.com/Qiitaman/items/d19da03d04805b92cc6c

https://qiita.com/kazu8/items/ae864a2c8820dcb6def8


この際、エンコードは`UTF-16LE`で、読み、語、品詞の順でタブ区切りしたtxtファイルで保存しなければいけません。

https://4thsight.xyz/13129


#実際にIMEに登録

登録する前に、一つやらなければいけないことがあります。
メモ帳でエンコーディングを`UTF-16LE`を指定してtxtを開いて、保存しなおす必要があります。なぜこうなってしまったかはわかりません。
また、IME変換辞書は60文字制限があるそうです。そのため、一部は登録できません。

txtを開いて
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/d28e8c2b-8b85-d9a8-7695-69e31585f63b.png)

追加しますが、一部失敗します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/401a0988-ac87-c9dd-a80f-19098427c752.png)

追加されたものがこちら
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/74ba8140-a41f-5ef1-dd76-623a5a41e739.png)



#問題点

機械的に読みを追加したので、
使い勝手は悪い
セリフが中心で、キャラクター名、地名、固有名詞などは追加されていない



#おまけ

せっかく作りましたが、あまり役に立たなかったので、入力した文字に近い進撃の巨人のセリフを出力するプログラムも作りました。
作成した`進撃辞書.xlsx`アップロードすると、入力した単語と近いセリフを上から3つ出力します。
今回は、`difflib`、`python-Levenshtein`、`textdistance`を使用しています。
あまりうまくいきませんね

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/993303/2f06a9c7-4e7b-9881-e682-b468eb5786bf.png)




http://pixelbeat.jp/text-matching-3-approach-with-python/

https://www.y-shinno.com/python-difflib/

https://data-analysis-stats.jp/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92/python%E3%81%A7%E3%81%AE%E6%96%87%E5%AD%97%E5%88%97%E3%81%AE%E8%B7%9D%E9%9B%A2%E3%82%84%E9%A1%9E%E4%BC%BC%E6%80%A7/


#まとめ
進撃の巨人のセリフのIME変換辞書を作成しました。
とりあえず作ってみましたが、いざできたものはあまり使えない、ちゃんと目的をはっきりしてから作り始めないといけないですね。
他にもIME辞書を作ろうとする人向けに記事を残すことにしました。