Update README.md

README.md

@@ -1,17 +1,121 @@
----
-dataset_info:
-  features:
-  - name: text
-    dtype: string
-  splits:
-  - name: train
-    num_bytes: 444343976
-    num_examples: 200000
-  download_size: 287455335
-  dataset_size: 444343976
-configs:
-- config_name: default
-  data_files:
-  - split: train
-    path: data/train-*
----
+# CPT (Continual Pre-Training) 数据集
+
+## 数据集概述
+
+本数据集用于 LLaMA-8B 模型的继续预训练（Continual Pre-Training, CPT），旨在让通用大模型适应医疗领域。数据集包含 **200,000 条样本**，按照 **70% 通用语料 + 30% 医疗语料** 的比例混合，覆盖中英文维基百科和医疗专业文本。
+
+## 数据来源与处理
+
+### 1. Wikipedia 英文 (wikimedia/wikipedia)
+- **原始数据量**: 6,407,814 条
+- **采样数量**: 70,000 条
+- **来源**: [wikimedia/wikipedia (20231101.en)](https://huggingface.co/datasets/wikimedia/wikipedia)
+- **处理方式**:
+  - 加载 2023-11-01 版本的英文维基百科
+  - 仅保留 `text` 字段
+  - 随机采样 70,000 条（seed=42）
+- **用途**: 提供通用领域英文知识
+
+### 2. Wikipedia 中文 (wikimedia/wikipedia)
+- **原始数据量**: 1,384,748 条
+- **采样数量**: 70,000 条
+- **来源**: [wikimedia/wikipedia (20231101.zh)](https://huggingface.co/datasets/wikimedia/wikipedia)
+- **处理方式**:
+  - 加载 2023-11-01 版本的中文维基百科
+  - 仅保留 `text` 字段
+  - 随机采样 70,000 条（seed=42）
+- **用途**: 提供通用领域中文知识
+
+### 3. 医疗预训练语料 (shibing624/medical)
+- **原始数据量**: 361,420 条
+- **采样数量**: 60,000 条
+- **来源**: [shibing624/medical (pretrain 子集)](https://huggingface.co/datasets/shibing624/medical)
+- **子集**: pretrain/train_*.json（本地加载）
+- **处理方式**:
+  - 从本地克隆的 `dataset/medical/pretrain/train_*.json` 文件加载
+  - 使用 glob 匹配所有 train_*.json 文件
+  - 仅保留 `text` 字段
+  - 随机采样 60,000 条（seed=42）
+- **用途**: 提供医疗领域专业知识和术语
+
+## 数据格式
+
+每条样本仅包含一个 `text` 字段，用于继续预训练：
+
+```json
+{
+  "text": "文章的完整文本内容..."
+}
+```
+
+## 数据混合策略
+
+1. **目标分配**: 总样本数 200,000 条，按 70:30 通用/医疗比例分配
+2. **通用语料分配**: 70,000 英文 Wiki + 70,000 中文 Wiki = 140,000 条（70%）
+3. **医疗语料分配**: 60,000 条医疗文本（30%）
+4. **采样**: 对每个数据源使用 `shuffle(seed=42)` 后采样
+5. **合并**: 拼接三个数据源
+6. **打乱**: 使用 `shuffle(seed=42)` 打乱所有样本
+7. **保存**: 保存为 Hugging Face Dataset 格式到 `dataset/cpt_dataset_from_resume`
+
+## 使用示例
+
+```python
+from datasets import load_from_disk
+
+# 从本地加载
+dataset = load_from_disk("./dataset/cpt_dataset_from_resume")
+
+# 查看样本
+print(dataset[0])
+print(f"数据集大小: {len(dataset)}")
+```
+
+## 数据集统计
+
+| 数据源 | 样本数 | 占比 | 语言 | 特点 |
+|--------|--------|------|------|------|
+| Wikipedia (英文) | 70,000 | 35.0% | 英文 | 通用领域知识 |
+| Wikipedia (中文) | 70,000 | 35.0% | 中文 | 通用领域知识 |
+| Medical (医疗) | 60,000 | 30.0% | 中文 | 医疗专业知识 |
+| **总计** | **200,000** | **100%** | 中英文 | - |
+
+## 训练建议
+
+1. **训练目标**: 使用 Causal Language Modeling (CLM) 进行继续预训练
+2. **学习率**: 建议使用较小的学习率（如 1e-5 ~ 5e-5），避免灾难性遗忘
+3. **序列长度**: 根据显存情况设置（如 512, 1024, 2048）
+4. **训练轮数**: 1-3 epochs，避免过拟合
+5. **领域适应**: CPT 后的模型更适合医疗领域的下游任务（SFT, DPO, PPO）
+
+## 注意事项
+
+1. **领域平衡**: 数据集保持了通用能力（70%）和医疗专业性（30%）的平衡
+2. **语言覆盖**: 英文和中文各占 35%，医疗数据为中文
+3. **数据质量**: 维基百科数据经过社区审核，医疗数据来自专业医疗问答
+4. **适用场景**: 适合作为医疗领域 LLM 的第一阶段训练（CPT → SFT → DPO → PPO）
+
+## 引用
+
+如果使用本数据集，请引用原始数据来源：
+
+```bibtex
+@misc{wikipedia,
+  author = {Wikimedia Foundation},
+  title = {Wikipedia Dumps},
+  year = {2023},
+  url = {https://huggingface.co/datasets/wikimedia/wikipedia}
+}
+
+@misc{medical,
+  author = {Xu Ming},
+  title = {Medical: Chinese Medical Corpus},
+  year = {2023},
+  url = {https://huggingface.co/datasets/shibing624/medical}
+}
+```
+
+## 许可证
+
+- Wikipedia 数据遵循 [CC BY-SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/) 许可协议
+- Medical 数据请查阅原始仓库的许可协议