metadata
license: apache-2.0
#2024/5/20
#create @ K_Shioiri
SentencePiece用の学習Copus
http://www.lsta.media.kyoto-u.ac.jp/resource/data/wikitext-ja/home.html
Copus_wiki_good:日本語wikipedia 優秀な記事
Copus_wiki_featured:日本語wikipedia 良好な記事
https://data.statmt.org/cc-100/
Copus_cc100_ja:日本語CC100
original:458,387,942 data
・[]{}<>【】に囲まれた語彙の削除
・アドレス(@)を含む文、httmを含む文の削除
・10words未満、200words以上の文の削除
-> transform: 383,904,390 data
Copus_Coarse_cc100_ja:日本語CC100
上記の間引き(about 1/10) -> 38,390,439 data
using Patent_Rawdata
Copus_pat2011:2011_pat.parquetから変換
【】の除去と全文を１文化する処理をしている。
unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存