SaltyCedar commited on
Commit
67f0f34
1 Parent(s): 2c660fe

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -6
README.md CHANGED
@@ -19,11 +19,10 @@ original:458,387,942 data
19
  ・10words未満、200words以上の文の削除
20
  -> transform: 383,904,390 data
21
  Copus_Coarse_cc100_ja:日本語CC100
22
- 上記の間引き(about 1/10) -> 38,390,439 data
23
 
 
 
 
24
 
25
- using JPNET
26
- Copus_pat2011:日本特許 出願2011年の全て
27
-
28
- unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存
29
- 特許のみ墨括弧【】の除去と全文を1文化する処理をしている。
 
19
  ・10words未満、200words以上の文の削除
20
  -> transform: 383,904,390 data
21
  Copus_Coarse_cc100_ja:日本語CC100
22
+ 上記の間引き(about 1/10) -> 38,390,439 data
23
 
24
+ using Patent_Rawdata
25
+ Copus_pat2011:2011_pat.parquetから変換
26
+ 【】の除去と全文を1文化する処理をしている。
27
 
28
+ unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存