|
--- |
|
license: apache-2.0 |
|
--- |
|
#2024/5/20 |
|
#create @ K_Shioiri |
|
--- |
|
|
|
SentencePiece用の学習Copus |
|
|
|
http://www.lsta.media.kyoto-u.ac.jp/resource/data/wikitext-ja/home.html |
|
Copus_wiki_good:日本語wikipedia 優秀な記事 |
|
Copus_wiki_featured:日本語wikipedia 良好な記事 |
|
|
|
https://data.statmt.org/cc-100/ |
|
Copus_cc100_ja:日本語CC100 |
|
original:458,387,942 data |
|
・[]{}<>【】に囲まれた語彙の削除 |
|
・アドレス(@)を含む文、httmを含む文の削除 |
|
・10words未満、200words以上の文の削除 |
|
-> transform: 383,904,390 data |
|
Copus_Coarse_cc100_ja:日本語CC100 |
|
上記の間引き(about 1/10) -> 38,390,439 data |
|
|
|
using Patent_Rawdata |
|
Copus_pat2011:2011_pat.parquetから変換 |
|
【】の除去と全文を１文化する処理をしている。 |
|
|
|
unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存 |
