h4c5 commited on
Commit
357942a
1 Parent(s): 70ec7b2

maj readme

Browse files
Files changed (1) hide show
  1. README.md +6 -5
README.md CHANGED
@@ -12,7 +12,7 @@ datasets:
12
  - stsb_multi_mt
13
  metrics:
14
  - pearsonr
15
- base_model: almanach/camembert-base
16
  model-index:
17
  - name: sts-distilcamembert-base
18
  results:
@@ -32,13 +32,14 @@ model-index:
32
  ## Description
33
 
34
  Ce modèle [sentence-transformers](https://www.SBERT.net) a été obtenu en finetunant le modèle
35
- [`almanach/camembert-base`](https://huggingface.co/almanach/camembert-base) à l'aide de la librairie
36
  [sentence-transformers](https://www.SBERT.net).
37
 
38
  Il permet d'encoder une phrase ou un pararaphe (514 tokens maximum) en un vecteur de dimension 768.
39
 
40
- Le modèle [CamemBERT](https://arxiv.org/abs/1911.03894) sur lequel il est basé est un modèle de type RoBERTa qui est
41
- à l'état de l'art pour la langue française.
 
42
 
43
  ## Utilisation via la librairie `sentence-transformers`
44
 
@@ -133,7 +134,7 @@ Ci-dessous, les résultats de l'évaluation du modèle sur le jeu données [`sts
133
  | [`h4c5/sts-camembert-base`](https://huggingface.co/h4c5/sts-camembert-base) | **0.837** | 110M |
134
  | [`Lajavaness/sentence-camembert-base`](https://huggingface.co/Lajavaness/sentence-camembert-base) | 0.835 | 110M |
135
  | [`inokufu/flaubert-base-uncased-xnli-sts`](https://huggingface.co/inokufu/flaubert-base-uncased-xnli-sts) | 0.828 | 137M |
136
- | [`h4c5/sts-distilcamembert-base`](https://huggingface.co/h4c5/sts-distilcamembert-base) | 0.817 | 64M |
137
  | [`sentence-transformers/distiluse-base-multilingual-cased-v2`](https://huggingface.co/sentence-transformers/distiluse-base-multilingual-cased) | 0.786 | 135M |
138
 
139
 
 
12
  - stsb_multi_mt
13
  metrics:
14
  - pearsonr
15
+ base_model: cmarkea/distilcamembert-base
16
  model-index:
17
  - name: sts-distilcamembert-base
18
  results:
 
32
  ## Description
33
 
34
  Ce modèle [sentence-transformers](https://www.SBERT.net) a été obtenu en finetunant le modèle
35
+ [`cmarkea/distilcamembert-base`](https://huggingface.co/cmarkea/distilcamembert-base) à l'aide de la librairie
36
  [sentence-transformers](https://www.SBERT.net).
37
 
38
  Il permet d'encoder une phrase ou un pararaphe (514 tokens maximum) en un vecteur de dimension 768.
39
 
40
+ Le modèle [DistilCamemBERT](https://huggingface.co/papers/2205.11111) sur lequel il est basé est une distillation du
41
+ modèlel [CamemBERT](https://arxiv.org/abs/1911.03894) permettant de diviser par deux le nombre de paramètres du modèle
42
+ et améliorer le temps d'inférence.
43
 
44
  ## Utilisation via la librairie `sentence-transformers`
45
 
 
134
  | [`h4c5/sts-camembert-base`](https://huggingface.co/h4c5/sts-camembert-base) | **0.837** | 110M |
135
  | [`Lajavaness/sentence-camembert-base`](https://huggingface.co/Lajavaness/sentence-camembert-base) | 0.835 | 110M |
136
  | [`inokufu/flaubert-base-uncased-xnli-sts`](https://huggingface.co/inokufu/flaubert-base-uncased-xnli-sts) | 0.828 | 137M |
137
+ | [`h4c5/sts-distilcamembert-base`](https://huggingface.co/h4c5/sts-distilcamembert-base) | 0.817 | 68M |
138
  | [`sentence-transformers/distiluse-base-multilingual-cased-v2`](https://huggingface.co/sentence-transformers/distiluse-base-multilingual-cased) | 0.786 | 135M |
139
 
140