File size: 879 Bytes
56a8835 4f2c511 56a8835 4f2c511 56a8835 db3ce9d 4f2c511 db3ce9d 4f2c511 34b3c9f 2b6d692 67f0f34 34b3c9f 67f0f34 db3ce9d 67f0f34 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 |
---
license: apache-2.0
---
#2024/5/20
#create @ K_Shioiri
---
SentencePiece用の学習Copus
http://www.lsta.media.kyoto-u.ac.jp/resource/data/wikitext-ja/home.html
Copus_wiki_good:日本語wikipedia 優秀な記事
Copus_wiki_featured:日本語wikipedia 良好な記事
https://data.statmt.org/cc-100/
Copus_cc100_ja:日本語CC100
original:458,387,942 data
・[]{}<>【】に囲まれた語彙の削除
・アドレス(@)を含む文、httmを含む文の削除
・10words未満、200words以上の文の削除
-> transform: 383,904,390 data
Copus_Coarse_cc100_ja:日本語CC100
上記の間引き(about 1/10) -> 38,390,439 data
using Patent_Rawdata
Copus_pat2011:2011_pat.parquetから変換
【】の除去と全文を１文化する処理をしている。
unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存 |