SaltyCedar commited on
Commit
2b6d692
1 Parent(s): 34b3c9f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -4
README.md CHANGED
@@ -14,10 +14,12 @@ Copus_wiki_featured:日本語wikipedia 良好な記事
14
  https://data.statmt.org/cc-100/
15
  Copus_cc100_ja:日本語CC100
16
  original:458,387,942 data
17
- ・[]{}<>【】に囲まれた語彙の削除
18
- ・アドレス(@)を含む文、httmを含む文の削除
19
- ・10words未満、200words以上の文の削除
20
- -> transform: 383,904,390 data
 
 
21
 
22
 
23
  using JPNET
 
14
  https://data.statmt.org/cc-100/
15
  Copus_cc100_ja:日本語CC100
16
  original:458,387,942 data
17
+ ・[]{}<>【】に囲まれた語彙の削除
18
+ ・アドレス(@)を含む文、httmを含む文の削除
19
+ ・10words未満、200words以上の文の削除
20
+ -> transform: 383,904,390 data
21
+ Copus_Coarse_cc100_ja:日本語CC100
22
+ 上記の間引き -> 76,780,878 data
23
 
24
 
25
  using JPNET