p208p2002 commited on
Commit
d48502a
1 Parent(s): 7b707a8

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -2
README.md CHANGED
@@ -7,5 +7,8 @@ configs:
7
  language:
8
  - zh
9
  ---
10
- # Wikipedia-zhtw Filtered
11
- 使用 [erhwenkuo/c4-chinese-zhtw](https://huggingface.co/datasets/erhwenkuo/c4-chinese-zhtw) 前 20% 的資料和搭配 [huggingface/datatrove](https://github.com/huggingface/datatrove) 再次清洗資料,移除許多過短、重複和包含雜訊的文章。
 
 
 
 
7
  language:
8
  - zh
9
  ---
10
+ # c4-chinese-zhtw-light-filtered
11
+
12
+ 此資料集使用 [huggingface/datatrove](https://github.com/huggingface/datatrove) 進行了系統性的資料清洗。
13
+
14
+ 我們在清洗過程中應用了多種基於規則的過濾方法,移除許多過短、重複和含有噪聲的資料。