README.md

metadata

configs:
  - config_name: default
    data_files:
      - split: train
        path: data/*.parquet
language:
  - zh

Wikipedia-zhtw Filtered

此資料集使用 huggingface/datatrove 進行了系統性的資料清洗。

我們在清洗過程中應用了多種基於規則的過濾方法，移除許多過短、重複和含有噪聲的資料。