---
license: apache-2.0
---
#2024/5/20  
#create @ K_Shioiri  
---

SentencePiece用の学習Copus  

http://www.lsta.media.kyoto-u.ac.jp/resource/data/wikitext-ja/home.html  
Copus_wiki_good:日本語wikipedia 優秀な記事  
Copus_wiki_featured:日本語wikipedia 良好な記事  

https://data.statmt.org/cc-100/
Copus_cc100_ja:日本語CC100  
original:458,387,942 data  
・[]{}<>【】に囲まれた語彙の削除  
・アドレス(@)を含む文、httmを含む文の削除  
・10words未満、200words以上の文の削除  
-> transform: 383,904,390 data  
Copus_Coarse_cc100_ja:日本語CC100  
上記の間引き -> 76,780,878 data


using JPNET
Copus_pat2011:日本特許 出願2011年の全て  

unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存  
特許のみ墨括弧【】の除去と全文を１文化する処理をしている。