File size: 3,135 Bytes
b331461
 
 
49f735f
b331461
 
49f735f
b331461
 
 
 
 
 
49f735f
b331461
 
c986e18
 
 
 
 
49f735f
 
b331461
49f735f
b331461
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
dataset_name_MTEB;dataset_name_HF;text_leaks_train_wrt_test;text_leaks_train_wrt_test_%;text_leaks_valid_wrt_test;text_leaks_valid_wrt_test_%;text_duplication_train;text_duplication_val;text_duplication_test;text_test_biased;text_and_label_leaks_train_wrt_test;text_and_label_leaks_train_wrt_test_%;text_and_label_leaks_valid_wrt_test;text_and_label_leaks_valid_wrt_test_%;text_and_label_duplication_train;text_and_label_duplication_val;text_and_label_duplication_test;text_and_label_test_biased;difference_annotation
AmazonReviewsClassification;mteb/amazon_reviews_multi_fr;14;0.007;2;0.04;388;0;0;0.32%;12;0.006;2;0.04;296;0;0;0.28%;2
MasakhaNEWSClassification;mteb/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
MassiveIntentClassification;mteb/amazon_massive_intent;132;1.146;37;1.82;325;17;31;6.725%;125;1.086;36;1.771;307;15;30;6.422%;8
MassiveScenarioClassification;mteb/amazon_massive_scenario;132;1.146;37;1.82;325;17;31;6.725%;127;1.103;36;1.771;318;17;31;6.523%;6
MTOPDomainClassification;mteb/mtop_domain;45;0.381;5;0.317;87;2;6;1.754%;45;0.381;5;0.317;87;2;6;1.754%;0
MTOPIntentClassification;mteb/mtop_intent;45;0.381;5;0.317;87;2;6;1.754%;45;0.381;5;0.317;85;1;6;1.754%;0
AlloProfClusteringP2P;lyon-nlp/alloprof;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
AlloProfClusteringS2S;lyon-nlp/alloprof;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
HALClusteringS2S;lyon-nlp/clustering-hal-s2s;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
MasakhaNEWSClusteringP2P;masakhane/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
MasakhaNEWSClusteringS2S;masakhane/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
MLSUMClusteringP2P;reciTAL/mlsum;1;0.0;0;0.0;361;3;9;0.063%;1;0.0;0;0.0;293;3;9;0.063%;0
MLSUMClusteringS2S;reciTAL/mlsum;2;0.001;2;0.012;14495;118;65;0.436%;17;0.004;14;0.087;13666;91;48;0.499%;27
OpusparcusPC;GEM/opusparcus;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
PawsX;google-research-datasets/paws-x;0;0.0;5;0.25;2529;7;0;0.25%;0;0.0;5;0.25;2477;7;0;0.25%;0
SyntecReranking;lyon-nlp/mteb-fr-reranking-syntec-s2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
STS22;mteb/mteb-fr-reranking-alloprof-s2p;NR;NR;NR;NR;NR;NR;NR;NR;0;0.0;NR;NR;0;NR;0;0.0%;NR
AlloprofRetrieval;lyon-nlp/alloprof;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
SyntecRetrieval;lyon-nlp/mteb-fr-retrieval-syntec-s2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
BSARDRetrieval;maastrichtlawtech/bsard;0;0.0;NR;NR;540;NR;1;0.094%;0;0.0;NR;NR;1;NR;1;0.094%;0
XPQARetrieval;jinaai/xpqa;NR;NR;NR;NR;NR;NR;NR;NR;0;0.0;0;0.0;3005;755;7582;74.832%;NR
MintakaRetrieval;jinaai/mintakaqa;NR;NR;NR;NR;NR;NR;NR;NR;52;0.371;10;0.5;119;4;13;1.875%;NR
SummEvalFr;lyon-nlp/summarization-summeval-fr-p2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
STSBenchmarkMultilingualSTS;mteb/stsb_multi_mt;12;0.209;5;0.333;51;3;5;1.595%;2;0.035;4;0.267;41;2;3;0.653%;11
STS22;mteb/sts22-crosslingual-sts;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
SickFR;Lajavaness/SICK-fr;89;2.005;9;1.818;36;0;56;3.139%;18;0.405;0;0.0;8;0;5;0.469%;80