Commit
•
67f0f34
1
Parent(s):
2c660fe
Update README.md
Browse files
README.md
CHANGED
@@ -19,11 +19,10 @@ original:458,387,942 data
|
|
19 |
・10words未満、200words以上の文の削除
|
20 |
-> transform: 383,904,390 data
|
21 |
Copus_Coarse_cc100_ja:日本語CC100
|
22 |
-
上記の間引き(about 1/10) -> 38,390,439 data
|
23 |
|
|
|
|
|
|
|
24 |
|
25 |
-
|
26 |
-
Copus_pat2011:日本特許 出願2011年の全て
|
27 |
-
|
28 |
-
unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存
|
29 |
-
特許のみ墨括弧【】の除去と全文を1文化する処理をしている。
|
|
|
19 |
・10words未満、200words以上の文の削除
|
20 |
-> transform: 383,904,390 data
|
21 |
Copus_Coarse_cc100_ja:日本語CC100
|
22 |
+
上記の間引き(about 1/10) -> 38,390,439 data
|
23 |
|
24 |
+
using Patent_Rawdata
|
25 |
+
Copus_pat2011:2011_pat.parquetから変換
|
26 |
+
【】の除去と全文を1文化する処理をしている。
|
27 |
|
28 |
+
unicodedataのNFKCによって全角半角変換をし、utf-8形式で保存
|
|
|
|
|
|
|
|