Hugging Face's logo

Datasets:
dekmATtud
/
ETP-Eval26-embeddings

Modalities:
Tabular
Text
Formats:
json
Languages:
Latin
German
English
Size:
10K - 100K
Tags:
embeddings
canon-law
medieval-latin
cross-lingual-retrieval
reproducibility
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
Dataset Viewer
Auto-converted to Parquet Duplicate
doc_id
stringlengths
8
8
doc_num
int64
0
2.05k
row_num
int64
0
30.8k
lang
stringclasses
3 values
style
stringclasses
4 values
query_num
int64
0
17
⌀
persona
stringclasses
4 values
bdd_0001
0
0
la
passage
null
null
bdd_0001
0
1
de
passage
null
null
bdd_0001
0
2
en
passage
null
null
bdd_0001
0
3
en
paraphrase
0
null
bdd_0001
0
4
de
paraphrase
1
null
bdd_0001
0
5
en
keyword
2
null
bdd_0001
0
6
en
persona
3
canon_law
bdd_0001
0
7
la
paraphrase
4
null
bdd_0001
0
8
de
keyword
5
null
bdd_0001
0
9
la
keyword
6
null
bdd_0001
0
10
de
persona
7
canon_law
bdd_0001
0
11
la
persona
8
canon_law
bdd_0112
1
12
la
passage
null
null
bdd_0112
1
13
de
passage
null
null
bdd_0112
1
14
en
passage
null
null
bdd_0112
1
15
en
paraphrase
0
null
bdd_0112
1
16
de
paraphrase
1
null
bdd_0112
1
17
en
keyword
2
null
bdd_0112
1
18
en
persona
3
canon_law
bdd_0112
1
19
la
paraphrase
4
null
bdd_0112
1
20
de
keyword
5
null
bdd_0112
1
21
la
keyword
6
null
bdd_0112
1
22
de
persona
7
canon_law
bdd_0112
1
23
la
persona
8
canon_law
bdd_0158
2
24
la
passage
null
null
bdd_0158
2
25
de
passage
null
null
bdd_0158
2
26
en
passage
null
null
bdd_0158
2
27
en
paraphrase
0
null
bdd_0158
2
28
de
paraphrase
1
null
bdd_0158
2
29
en
keyword
2
null
bdd_0158
2
30
en
persona
3
canon_law
bdd_0158
2
31
la
paraphrase
4
null
bdd_0158
2
32
de
keyword
5
null
bdd_0158
2
33
la
keyword
6
null
bdd_0158
2
34
de
persona
7
canon_law
bdd_0158
2
35
la
persona
8
canon_law
bdd_0169
3
36
la
passage
null
null
bdd_0169
3
37
de
passage
null
null
bdd_0169
3
38
en
passage
null
null
bdd_0169
3
39
en
paraphrase
0
null
bdd_0169
3
40
de
paraphrase
1
null
bdd_0169
3
41
en
keyword
2
null
bdd_0169
3
42
en
persona
3
canon_law
bdd_0169
3
43
en
persona
4
social_history
bdd_0169
3
44
la
paraphrase
5
null
bdd_0169
3
45
de
keyword
6
null
bdd_0169
3
46
la
keyword
7
null
bdd_0169
3
47
de
persona
8
canon_law
bdd_0169
3
48
la
persona
9
canon_law
bdd_0169
3
49
de
persona
10
social_history
bdd_0169
3
50
la
persona
11
social_history
bdd_0180
4
51
la
passage
null
null
bdd_0180
4
52
de
passage
null
null
bdd_0180
4
53
en
passage
null
null
bdd_0180
4
54
en
paraphrase
0
null
bdd_0180
4
55
de
paraphrase
1
null
bdd_0180
4
56
en
keyword
2
null
bdd_0180
4
57
en
persona
3
canon_law
bdd_0180
4
58
en
persona
4
gender_history
bdd_0180
4
59
la
paraphrase
5
null
bdd_0180
4
60
de
keyword
6
null
bdd_0180
4
61
la
keyword
7
null
bdd_0180
4
62
de
persona
8
canon_law
bdd_0180
4
63
la
persona
9
canon_law
bdd_0180
4
64
de
persona
10
gender_history
bdd_0180
4
65
la
persona
11
gender_history
bdd_0191
5
66
la
passage
null
null
bdd_0191
5
67
de
passage
null
null
bdd_0191
5
68
en
passage
null
null
bdd_0191
5
69
en
paraphrase
0
null
bdd_0191
5
70
de
paraphrase
1
null
bdd_0191
5
71
en
keyword
2
null
bdd_0191
5
72
en
persona
3
canon_law
bdd_0191
5
73
la
paraphrase
4
null
bdd_0191
5
74
de
keyword
5
null
bdd_0191
5
75
la
keyword
6
null
bdd_0191
5
76
de
persona
7
canon_law
bdd_0191
5
77
la
persona
8
canon_law
bdd_0202
6
78
la
passage
null
null
bdd_0202
6
79
de
passage
null
null
bdd_0202
6
80
en
passage
null
null
bdd_0202
6
81
en
paraphrase
0
null
bdd_0202
6
82
de
paraphrase
1
null
bdd_0202
6
83
en
keyword
2
null
bdd_0202
6
84
en
persona
3
canon_law
bdd_0202
6
85
en
persona
4
social_history
bdd_0202
6
86
la
paraphrase
5
null
bdd_0202
6
87
de
keyword
6
null
bdd_0202
6
88
la
keyword
7
null
bdd_0202
6
89
de
persona
8
canon_law
bdd_0202
6
90
la
persona
9
canon_law
bdd_0202
6
91
de
persona
10
social_history
bdd_0202
6
92
la
persona
11
social_history
bdd_0213
7
93
la
passage
null
null
bdd_0213
7
94
de
passage
null
null
bdd_0213
7
95
en
passage
null
null
bdd_0213
7
96
en
paraphrase
0
null
bdd_0213
7
97
de
paraphrase
1
null
bdd_0213
7
98
en
keyword
2
null
bdd_0213
7
99
en
persona
3
canon_law
End of preview. Expand in Data Studio

ETP-Eval26 Embeddings

Vorberechnete Vektoren zum Datensatz ETP-Eval26.

Inhalt

Eine .safetensors-Datei je Modell, dazu meta.json mit den Zeilenbeschriftungen.

Datei Modell Dimension
bge-m3.safetensors BAAI/bge-m3 1024
mE5-large.safetensors intfloat/multilingual-e5-large 1024
labse.safetensors sentence-transformers/LaBSE 768
sphilberta.safetensors bowphs/SPhilBerta 768
qwen3-emb-0.6b.safetensors Qwen/Qwen3-Embedding-0.6B 1024
qwen3-emb-4b.safetensors Qwen/Qwen3-Embedding-4B 2560
xlmr.safetensors FacebookAI/xlm-roberta-large 1024
canonberta.safetensors mschonhardt/CanonBerta-v1 1024
bge-m3-ft.safetensors mschonhardt/etp-bgem3-contrastive-ft 1024
canonberta-ft.safetensors mschonhardt/etp-canonberta-contrastive-ft 1024
xlmr-ft.safetensors mschonhardt/etp-xlmr-contrastive-ft 1024
qwen3-emb-0.6b-ft.safetensors mschonhardt/etp-qwen0.6b-contrastive-ft 1024
qwen3-emb-4b-ft.safetensors mschonhardt/etp-qwen4b-contrastive-ft 2560

Jede Datei enthält ein Array embeddings in float32, in dem sich alle Embeddings befinden. Alle Vektoren sind L2-normalisiert.

meta.csv hält die Zuordnung der Zeilen fest und definiert Eigenschaften des Textes:

Spalte Inhalt Typ
doc_id ID der dazugehörigen Originalpassage string
doc_num Index der dazugehörigen Originalpassage uint
row_num Index des Embedding-Vektors in der .safetensors-Datei uint
lang Sprache des Textes enum(la, de, en)
style Art des Textes (passage für Originalpassagen und Übersetzungen; sonst Art der Suchanfrage) enum(passage, paraphrase, keyword, persona)
query_num Index der Suchanfrage, relativ zur Originalpassage (leer wenn style == passage) null, uint
persona Kontext der Suchanfrage (nur wenn style == persona) null, enum(canon_law, cultural_history, gender_history, social_history)

Es ergeben sich folgende relevante Gruppen und deren Zeilenanzahl:

style lang Zeilenanzahl Bedeutung
passage la 2051 lateinische Originalpassagen
passage de 2051 deren deutsche Übersetzung
passage en 2051 deren englische Übersetzung
!= passage * 20654 alle Suchanfragen

Verwendung 

import json
import numpy as np
from huggingface_hub import hf_hub_download
from safetensors.numpy import load_file

REPO = "mschonhardt/ETP-Eval26-embeddings"
meta = json.load(open(hf_hub_download(REPO, "meta.json", repo_type="dataset")))
embs = load_file(hf_hub_download(REPO, "bge-m3-ft.safetensors", repo_type="dataset"))["embeddings"]

corpus_la = [ x for x in meta if x["style"] == "passage" and x["lang"] == "la" ]
queries   = [ x for x in meta if x["style"] != "passage" ]

corpus_la_embs = embs[[ x["row_num"] for x in corpus_la ]]
queries_embs   = embs[[ x["row_num"] for x in queries ]]

sim = queries_embs @ corpus_la_embs.T # Kosinus, da normalisiert
top = sim.argmax(axis=1)

gold = np.array([ x["doc_num"] for x in queries ])
print("Accuracy@1:", (top == gold).mean())

Verwandte Ressourcen

Lizenz

CC BY 4.0, wie der zugrundeliegende Datensatz. Die Vektoren sind abgeleitete Repräsentationen gemeinfreier Quellentexte; für die Modelle selbst gilt jeweils deren eigene Lizenz.
Downloads last month
70
Number of rows:
30,807
Total file size:
1.96 GB