Commit
•
2b6d692
1
Parent(s):
34b3c9f
Update README.md
Browse files
README.md
CHANGED
@@ -14,10 +14,12 @@ Copus_wiki_featured:日本語wikipedia 良好な記事
|
|
14 |
https://data.statmt.org/cc-100/
|
15 |
Copus_cc100_ja:日本語CC100
|
16 |
original:458,387,942 data
|
17 |
-
・[]{}<>【】に囲まれた語彙の削除
|
18 |
-
・アドレス(@)を含む文、httmを含む文の削除
|
19 |
-
・10words未満、200words以上の文の削除
|
20 |
-
-> transform: 383,904,390 data
|
|
|
|
|
21 |
|
22 |
|
23 |
using JPNET
|
|
|
14 |
https://data.statmt.org/cc-100/
|
15 |
Copus_cc100_ja:日本語CC100
|
16 |
original:458,387,942 data
|
17 |
+
・[]{}<>【】に囲まれた語彙の削除
|
18 |
+
・アドレス(@)を含む文、httmを含む文の削除
|
19 |
+
・10words未満、200words以上の文の削除
|
20 |
+
-> transform: 383,904,390 data
|
21 |
+
Copus_Coarse_cc100_ja:日本語CC100
|
22 |
+
上記の間引き -> 76,780,878 data
|
23 |
|
24 |
|
25 |
using JPNET
|