---
license: cc-by-4.0
language:
- zh
---

## 介绍

chinese-c4是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗，包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见 [c4-dataset-script](https://github.com/shjwudp/c4-dataset-script)。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。