lbourdois commited on
Commit
49f735f
1 Parent(s): c986e18

Upload 2 files

Browse files
leaks_and_duplications_MTEB_EN.csv CHANGED
@@ -3,7 +3,7 @@ AmazonCounterfactualClassification;mteb/amazon_counterfactual;0;0.0;0;0.0;0;0;0;
3
  AmazonPolarityClassification;mteb/amazon_polarity;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
4
  AmazonReviewsClassification;mteb/amazon_reviews_multi_fr;2;0.001;0;0.0;109;0;0;0.04%;2;0.001;0;0.0;106;0;0;0.04%;0
5
  Banking77Classification;mteb/banking77;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
6
- EmotionClassification;mteb/emotion;11;0.069;3;0.15;31;2;0;0.7%;0;0.0;0;0.0;1;2;0;0.0%;14
7
  ImdbClassification;mteb/imdb;123;0.492;NR;NR;96;NR;199;1.288%;123;0.492;NR;NR;96;NR;199;1.288%;0
8
  MassiveIntentClassification;mteb/amazon_massive_intent;21;0.182;5;0.246;46;2;4;1.009%;19;0.165;5;0.246;42;2;4;0.941%;2
9
  MassiveScenarioClassification;mteb/amazon_massive_scenario;21;0.182;5;0.246;46;2;4;1.009%;19;0.165;5;0.246;42;2;4;0.941%;2
 
3
  AmazonPolarityClassification;mteb/amazon_polarity;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
4
  AmazonReviewsClassification;mteb/amazon_reviews_multi_fr;2;0.001;0;0.0;109;0;0;0.04%;2;0.001;0;0.0;106;0;0;0.04%;0
5
  Banking77Classification;mteb/banking77;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
6
+ EmotionClassification;mteb/emotion;11;0.069;3;0.15;31;2;0;0.7%;0;0.0;0;0.0;1;0;0;0.0%;14
7
  ImdbClassification;mteb/imdb;123;0.492;NR;NR;96;NR;199;1.288%;123;0.492;NR;NR;96;NR;199;1.288%;0
8
  MassiveIntentClassification;mteb/amazon_massive_intent;21;0.182;5;0.246;46;2;4;1.009%;19;0.165;5;0.246;42;2;4;0.941%;2
9
  MassiveScenarioClassification;mteb/amazon_massive_scenario;21;0.182;5;0.246;46;2;4;1.009%;19;0.165;5;0.246;42;2;4;0.941%;2
leaks_and_duplications_MTEB_FR.csv CHANGED
@@ -1,17 +1,17 @@
1
  dataset_name_MTEB;dataset_name_HF;text_leaks_train_wrt_test;text_leaks_train_wrt_test_%;text_leaks_valid_wrt_test;text_leaks_valid_wrt_test_%;text_duplication_train;text_duplication_val;text_duplication_test;text_test_biased;text_and_label_leaks_train_wrt_test;text_and_label_leaks_train_wrt_test_%;text_and_label_leaks_valid_wrt_test;text_and_label_leaks_valid_wrt_test_%;text_and_label_duplication_train;text_and_label_duplication_val;text_and_label_duplication_test;text_and_label_test_biased;difference_annotation
2
  AmazonReviewsClassification;mteb/amazon_reviews_multi_fr;14;0.007;2;0.04;388;0;0;0.32%;12;0.006;2;0.04;296;0;0;0.28%;2
3
  MasakhaNEWSClassification;mteb/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
4
- MassiveIntentClassification;mteb/amazon_massive_intent;132;1.146;37;1.82;325;17;31;6.725%;125;1.086;36;1.771;307;17;30;6.422%;8
5
  MassiveScenarioClassification;mteb/amazon_massive_scenario;132;1.146;37;1.82;325;17;31;6.725%;127;1.103;36;1.771;318;17;31;6.523%;6
6
  MTOPDomainClassification;mteb/mtop_domain;45;0.381;5;0.317;87;2;6;1.754%;45;0.381;5;0.317;87;2;6;1.754%;0
7
- MTOPIntentClassification;mteb/mtop_intent;45;0.381;5;0.317;87;2;6;1.754%;45;0.381;5;0.317;85;2;6;1.754%;0
8
  AlloProfClusteringP2P;lyon-nlp/alloprof;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
9
  AlloProfClusteringS2S;lyon-nlp/alloprof;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
10
  HALClusteringS2S;lyon-nlp/clustering-hal-s2s;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
11
  MasakhaNEWSClusteringP2P;masakhane/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
12
  MasakhaNEWSClusteringS2S;masakhane/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
13
  MLSUMClusteringP2P;reciTAL/mlsum;1;0.0;0;0.0;361;3;9;0.063%;1;0.0;0;0.0;293;3;9;0.063%;0
14
- MLSUMClusteringS2S;reciTAL/mlsum;2;0.001;2;0.012;14495;118;65;0.436%;17;0.004;14;0.087;13666;118;48;0.499%;27
15
  OpusparcusPC;GEM/opusparcus;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
16
  PawsX;google-research-datasets/paws-x;0;0.0;5;0.25;2529;7;0;0.25%;0;0.0;5;0.25;2477;7;0;0.25%;0
17
  SyntecReranking;lyon-nlp/mteb-fr-reranking-syntec-s2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
@@ -19,7 +19,9 @@ STS22;mteb/mteb-fr-reranking-alloprof-s2p;NR;NR;NR;NR;NR;NR;NR;NR;0;0.0;NR;NR;0;
19
  AlloprofRetrieval;lyon-nlp/alloprof;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
20
  SyntecRetrieval;lyon-nlp/mteb-fr-retrieval-syntec-s2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
21
  BSARDRetrieval;maastrichtlawtech/bsard;0;0.0;NR;NR;540;NR;1;0.094%;0;0.0;NR;NR;1;NR;1;0.094%;0
 
 
22
  SummEvalFr;lyon-nlp/summarization-summeval-fr-p2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
23
- STSBenchmarkMultilingualSTS;mteb/stsb_multi_mt;12;0.209;5;0.333;51;3;5;1.595%;2;0.035;4;0.267;41;3;3;0.653%;11
24
  STS22;mteb/sts22-crosslingual-sts;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
25
  SickFR;Lajavaness/SICK-fr;89;2.005;9;1.818;36;0;56;3.139%;18;0.405;0;0.0;8;0;5;0.469%;80
 
1
  dataset_name_MTEB;dataset_name_HF;text_leaks_train_wrt_test;text_leaks_train_wrt_test_%;text_leaks_valid_wrt_test;text_leaks_valid_wrt_test_%;text_duplication_train;text_duplication_val;text_duplication_test;text_test_biased;text_and_label_leaks_train_wrt_test;text_and_label_leaks_train_wrt_test_%;text_and_label_leaks_valid_wrt_test;text_and_label_leaks_valid_wrt_test_%;text_and_label_duplication_train;text_and_label_duplication_val;text_and_label_duplication_test;text_and_label_test_biased;difference_annotation
2
  AmazonReviewsClassification;mteb/amazon_reviews_multi_fr;14;0.007;2;0.04;388;0;0;0.32%;12;0.006;2;0.04;296;0;0;0.28%;2
3
  MasakhaNEWSClassification;mteb/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
4
+ MassiveIntentClassification;mteb/amazon_massive_intent;132;1.146;37;1.82;325;17;31;6.725%;125;1.086;36;1.771;307;15;30;6.422%;8
5
  MassiveScenarioClassification;mteb/amazon_massive_scenario;132;1.146;37;1.82;325;17;31;6.725%;127;1.103;36;1.771;318;17;31;6.523%;6
6
  MTOPDomainClassification;mteb/mtop_domain;45;0.381;5;0.317;87;2;6;1.754%;45;0.381;5;0.317;87;2;6;1.754%;0
7
+ MTOPIntentClassification;mteb/mtop_intent;45;0.381;5;0.317;87;2;6;1.754%;45;0.381;5;0.317;85;1;6;1.754%;0
8
  AlloProfClusteringP2P;lyon-nlp/alloprof;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
9
  AlloProfClusteringS2S;lyon-nlp/alloprof;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
10
  HALClusteringS2S;lyon-nlp/clustering-hal-s2s;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
11
  MasakhaNEWSClusteringP2P;masakhane/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
12
  MasakhaNEWSClusteringS2S;masakhane/masakhanews;1;0.068;1;0.474;2;0;0;0.474%;0;0.0;0;0.0;1;0;0;0.0%;2
13
  MLSUMClusteringP2P;reciTAL/mlsum;1;0.0;0;0.0;361;3;9;0.063%;1;0.0;0;0.0;293;3;9;0.063%;0
14
+ MLSUMClusteringS2S;reciTAL/mlsum;2;0.001;2;0.012;14495;118;65;0.436%;17;0.004;14;0.087;13666;91;48;0.499%;27
15
  OpusparcusPC;GEM/opusparcus;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
16
  PawsX;google-research-datasets/paws-x;0;0.0;5;0.25;2529;7;0;0.25%;0;0.0;5;0.25;2477;7;0;0.25%;0
17
  SyntecReranking;lyon-nlp/mteb-fr-reranking-syntec-s2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
 
19
  AlloprofRetrieval;lyon-nlp/alloprof;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
20
  SyntecRetrieval;lyon-nlp/mteb-fr-retrieval-syntec-s2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
21
  BSARDRetrieval;maastrichtlawtech/bsard;0;0.0;NR;NR;540;NR;1;0.094%;0;0.0;NR;NR;1;NR;1;0.094%;0
22
+ XPQARetrieval;jinaai/xpqa;NR;NR;NR;NR;NR;NR;NR;NR;0;0.0;0;0.0;3005;755;7582;74.832%;NR
23
+ MintakaRetrieval;jinaai/mintakaqa;NR;NR;NR;NR;NR;NR;NR;NR;52;0.371;10;0.5;119;4;13;1.875%;NR
24
  SummEvalFr;lyon-nlp/summarization-summeval-fr-p2p;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK;OK
25
+ STSBenchmarkMultilingualSTS;mteb/stsb_multi_mt;12;0.209;5;0.333;51;3;5;1.595%;2;0.035;4;0.267;41;2;3;0.653%;11
26
  STS22;mteb/sts22-crosslingual-sts;0;0.0;NR;NR;0;NR;0;0.0%;0;0.0;NR;NR;0;NR;0;0.0%;0
27
  SickFR;Lajavaness/SICK-fr;89;2.005;9;1.818;36;0;56;3.139%;18;0.405;0;0.0;8;0;5;0.469%;80