TMSDMAP commited on
Commit
7b6ef6d
·
verified ·
1 Parent(s): 435db62

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +59 -1
README.md CHANGED
@@ -37,5 +37,63 @@ tags:
37
  由于本数据集采用了极低内存占用的 `.mmap` 格式存储,请**不要**使用 `datasets.load_dataset`,而是使用 `huggingface_hub` 下载后通过 `numpy` 映射到内存。
38
 
39
  ### 1. 安装依赖
 
40
  ```bash
41
- pip install huggingface_hub numpy
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
37
  由于本数据集采用了极低内存占用的 `.mmap` 格式存储,请**不要**使用 `datasets.load_dataset`,而是使用 `huggingface_hub` 下载后通过 `numpy` 映射到内存。
38
 
39
  ### 1. 安装依赖
40
+
41
  ```bash
42
+ pip install huggingface_hub numpy
43
+ ```
44
+
45
+ ### 2. 下载并加载数据的 Python 示例
46
+
47
+ 以下代码展示了如何高速拉取数据,并读取其中一个 shard 的内容:
48
+
49
+ ```python
50
+ import os
51
+ import json
52
+ import numpy as np
53
+ from huggingface_hub import snapshot_download
54
+
55
+ # 1. 开启高速下载模式 (推荐)
56
+ os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
57
+
58
+ # 如果在国内服务器,请取消下面这行的注释
59
+ # os.environ["HF_ENDPOINT"] = "[https://hf-mirror.com](https://hf-mirror.com)"
60
+
61
+ # 2. 将整个数据集缓存到本地
62
+ repo_id = "TMSDMAP/patent_dataset" # 替换为你的真实仓库名
63
+ print("正在下载数据集...")
64
+ local_dir = snapshot_download(repo_id=repo_id, repo_type="dataset")
65
+
66
+ # 3. 选取你要读取的 shard (例如 shard_3)
67
+ shard_dir = os.path.join(local_dir, "shard_3")
68
+
69
+ # 4. 从 meta.json 动态读取 shape
70
+ with open(os.path.join(shard_dir, "meta.json"), "r") as f:
71
+ meta = json.load(f)
72
+ # 请根据你实际的 meta.json 键值名修改这里的 "num_rows" 和 "dim"
73
+ num_rows = meta.get("num_rows", 0)
74
+ dim = meta.get("dim", 4096)
75
+
76
+ # 5. 使用 numpy memmap 加载 (极快,且不占内存)
77
+ embeddings = np.memmap(
78
+ os.path.join(shard_dir, "embeddings.float16.mmap"),
79
+ dtype='float16',
80
+ mode='r',
81
+ shape=(num_rows, dim)
82
+ )
83
+
84
+ ids = np.memmap(
85
+ os.path.join(shard_dir, "ids.int64.mmap"),
86
+ dtype='int64',
87
+ mode='r',
88
+ shape=(num_rows,)
89
+ )
90
+
91
+ print(f"成功加载 Shard_3, 包含 {num_rows} 条数据。")
92
+ print(f"第一条数据的向量维度前 5 项: {embeddings[0][:5]}")
93
+ ```
94
+
95
+ ## ⚙️ 硬件与计算信息 (Compute Information)
96
+
97
+ * **计算集群**: [1x Ubuntu Server]
98
+ * **GPU**: 4x [Nvidia A800]
99
+ * **并行框架**: [None]