GloVe Pre-trained Word Vectors

该仓库将 GloVe（Global Vectors for Word Representation）预训练词向量整理为 Hugging Face Dataset。每个配置对应一套官方发布语料，每个 split 名称表示词向量维度。

配置

Config	语料	Split / 维度	词表大小
6B	Wikipedia 2014 + Gigaword 5	50d, 100d, 200d, 300d	400,000
42B	Common Crawl 42B tokens	300d	1,917,494
840B	Common Crawl 840B tokens	300d	2,196,017
twitter27B	Twitter 27B tokens	25d, 50d, 100d, 200d	1,193,514

全部配置的下载大小合计约为 7.9 GB。只需加载所需配置和维度，无需下载其他向量。

字段说明

每行表示一个 token 及其词向量：

• word：原始词表中的 token。
• vector：对应的 float32 向量；长度由 split 名称决定。

例如，6B 配置的 100d split 中，每个 vector 包含 100 个浮点数。

加载数据

加载 6B 的全部维度：

from datasets import load_dataset


dataset = load_dataset("wliafe/glove", "6B")
print(dataset)
print(dataset["50d"][0])

只加载一个维度：

from datasets import load_dataset


vectors = load_dataset(
    "wliafe/glove",
    "twitter27B",
    split="100d",
)

print(vectors.features)
print(vectors[0]["word"])
print(len(vectors[0]["vector"]))

其他配置示例：

from datasets import load_dataset


glove_42b = load_dataset("wliafe/glove", "42B", split="300d")
glove_840b = load_dataset("wliafe/glove", "840B", split="300d")

查询词向量

Dataset.filter() 可以直接查找少量 token，但它会扫描整个 split：

from datasets import load_dataset


vectors = load_dataset("wliafe/glove", "6B", split="50d")
matches = vectors.filter(lambda row: row["word"] == "king")

if len(matches) == 0:
    raise KeyError("king 不在词表中")

king_vector = matches[0]["vector"]
print(len(king_vector))

频繁查询时，建议一次性建立 token 到行号或向量的索引，并根据内存容量选择所需配置。大型配置不适合无条件转换为完整的 Python 字典。

使用说明

• token 的大小写、标点和分词形式沿用原始 GloVe 文件。
• 不同配置的词表互不保证一致。
• split 名称是向量维度，不是训练集或测试集划分。
• 向量以 float32 保存。

引用

如果该数据集对你的研究有帮助，请引用 GloVe：

@inproceedings{pennington2014glove,
  title={GloVe: Global Vectors for Word Representation},
  author={Pennington, Jeffrey and Socher, Richard and Manning, Christopher D.},
  booktitle={Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP)},
  pages={1532--1543},
  year={2014}
}

原始向量、语料说明和使用条款请以 GloVe 官方项目页面 为准。