jwtd-misconversion-table

日本語の漢字の誤変換について、「Wikipedia の編集者がある語を何に直したか、何回直したか」と「直した後の文にその語が何回残っているか」をまとめた表です。日本語 Wikipedia 入力誤りデータセット（JWTD）v2（京都大学 言語メディア研究室、CC BY-SA 3.0）の train から作りました。

誤変換の検出で、怪しい語の言い換え候補を出すのに使います（「以外」→「意外」など）。

中身

confusions.json: 38,843 語。キーは直される前の語（漢字を含む 6 字以内）です。

フィールド	内容
wrong	JWTD v2 train で、この語が漢字の誤変換（カテゴリー kanji-conversion_a・kanji-conversion_b）として直された回数
kept	直した後の文全体に、この語が文字列として現れる回数（直されずに使われている回数の目安）
to	直した先の語。多い順に最大 3 つ

例: "以外": {"wrong": 121, "kept": 6409, "to": ["意外", "遺骸", "違い"]}

wrong / (wrong + kept) が、その語が誤変換である割合の大まかな目安になります。文は含めていません。

作り方

confusions.py（MIT）に JWTD v2 の train.jsonl を渡すと、同じ表ができます。

python3 confusions.py jwtd_v2.0/train.jsonl confusions.json

ライセンスと出典

CC BY-SA 3.0。JWTD v2（CC BY-SA 3.0）を元にした二次的なデータなので、同じライセンスです。JWTD の元は日本語 Wikipedia の編集履歴で、その文章の著作者は Wikipedia の執筆者です。

田中佑, 村脇有吾, 河原大輔, 黒橋禎夫. 日本語 Wikipedia の編集履歴に基づく入力誤りデータセットと訂正システムの改良. 言語処理学会第27回年次大会, 2021.

English

A table of Japanese kanji misconversions from the Japanese Wikipedia Typo Dataset (JWTD) v2 train split: for each word Wikipedia editors corrected as a kanji misconversion, how often it was corrected (wrong), how often it appears in the corrected sentences (kept), and its top three corrections (to). 38,843 words, no sentences. CC BY-SA 3.0, as JWTD. Built with confusions.py (MIT).