Charwraith/zh-wiki-384-embeddings

中文维基百科 384 维向量数据集

作者：Wenshao

中文维基百科 149 万条，全量预计算嵌入向量。开箱即用。

一句话： 别算了，拿去用。

---

这个数据集解决什么问题

做中文 RAG 的同学都知道，第一个卡住的问题就是 embedding 模型。

算一遍 149 万条维基百科，bge-small-zh 要跑一整天，e5 要一周。而且你自己算的，别人还得再算一遍。

这个数据集把这件事做了。384 维，intfloat/multilingual-e5-small，中文效果已验证。 下载就是一个 numpy 矩阵，直接接入 Chroma、FAISS 或任何支持 384 维的向量数据库。

---

数据规格

项目	值
来源	中文维基百科（fjcanyue/wikipedia-zh-cn，2026-05 快照）
条目数	1,489,790 条
嵌入模型	intfloat/multilingual-e5-small（384 维）
向量维度	384
标准化	L2 归一化
存储格式	30 个 parquet 文件，每个 50,000 条
总大小	~3.4 GB

---

快速开始

import pandas as pd
import numpy as np

# 读向量
df = pd.read_parquet("hf://datasets/Charwraith/zh-wiki-384-embeddings/data/batch_0000.parquet")
vectors = np.stack(df["embedding"].values)  # (50000, 384)

# 直接喂给 Chroma
import chromadb
client = chromadb.Client()
collection = client.create_collection(name="zh_wiki")
collection.add(
    embeddings=vectors.tolist(),
    documents=df["text"].tolist(),
    metadatas=[{"title": t} for t in df["title"].tolist()],
    ids=[str(i) for i in df["id"].tolist()]
)

30 个 batch 全部读完：

import pandas as pd, glob
dfs = []
for f in sorted(glob.glob("batch_*.parquet")):
    dfs.append(pd.read_parquet(f))
full = pd.concat(dfs, ignore_index=True)
print(f"{len(full)} 条, 维度 {len(full['embedding'][0])}")
# → 1,489,790 条, 维度 384

---

为什么是 384 维

维度	模型举例	常见场景
384	multilingual-e5-small, all-MiniLM-L6-v2	Chroma 默认、轻量 RAG
512	bge-small-zh-v1.5	中文精度更高，但生态不兼容 384
768	gte-small / text2vec-base-chinese	更慢，更占内存

384 维是 RAG 生态的事实标准。Chroma 默认 384，FAISS 无压力。

---

许可

数据来源于 fjcanyue/wikipedia-zh-cn，原始内容遵循 CC BY-SA 4.0。

嵌入向量继承原始文本的许可约束。使用或引用时请署名数据来源。

---

对比

	本数据集	自己算	Cohere Embedding
维度	384	自选	768
中文覆盖	✅ 149 万条维基	自选	200 万条维基
成本	免费下载	~24h CPU 时间	API 按量付费
开源可分发	✅ CC BY-SA 4.0	✅	❌ 私有模型
开箱即用	✅ parquet 直接读	❌ 要自己写 pipeline	⚠️ 要 API 调用