SetFit with Sahajtomar/french_semantic

This is a SetFit model that can be used for Text Classification. This SetFit model uses Sahajtomar/french_semantic as the Sentence Transformer embedding model. A SetFitHead instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

Fine-tuning a Sentence Transformer with contrastive learning.
Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Type: SetFit
Sentence Transformer body: Sahajtomar/french_semantic
Classification head: a SetFitHead instance
Maximum Sequence Length: 514 tokens
Number of Classes: 18 classes

Model Sources

Repository: SetFit on GitHub
Paper: Efficient Few-Shot Learning Without Prompts
Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
14	'Salut, tout le monde va bien ?' 'Salut, ça va bien ?' 'Bonne journée!'
11	"Quelle est la politique de la banque CDM en cas de défaut de paiement ou de retard dans les contributions à un plan d'épargne éducation?" "Est-il possible de nommer un bénéficiaire supplémentaire ou de modifier le bénéficiaire désigné pour un plan d'épargne éducation chez la banque CDM?" "Quels sont les différents niveaux de risque associés aux produits d'épargne éducation proposés par la banque CDM?"
1	"Y a-t-il des conditions spécifiques à respecter pour bénéficier des avantages de l'assurance épargne?" "Quels sont les avantages fiscaux associés à la souscription d'une assurance épargne chez CDM?" "Est-ce que l'assurance épargne chez CDM offre des options de transfert automatique de fonds depuis mon compte courant ou d'autres comptes?"
8	'Un prêt à la consommation serait idéal pour couvrir les frais médicaux non prévus.' "Je recherche des options de financement pour un voyage et je m'intéresse à un prêt à la consommation." 'quels sont les avantages du credit a la consommation'
0	'Quels sont les coûts associés à cette assurance, et comment sont-ils facturés?' "Quels documents ou informations supplémentaires sont nécessaires lors de la souscription à l'assurance décès et invalidité chez la banque CDM?" 'Proposez-vous des assurances décès et invalidité chez CDM?'
16	"Quels types de protections en cas d'accident proposez-vous?" "Puis-je transférer ma protection en cas d'accident si je change de véhicule ou de situation?" "Quels sont les documents nécessaires en cas de déclaration d'accident pour bénéficier de la couverture?"
2	"Quels types de pertes ou de dommages sont couverts par l'assurance des moyens de paiement?" "Existe-t-il des options de couverture supplémentaires que je peux ajouter à mon contrat d'assurance des moyens de paiement ?" "Quelle est la période de couverture de l'assurance des moyens de paiement?"
13	"C'était utile, merci!" "C'était informatif, au revoir!" 'BY'
12	'Est-ce que la banque CDM offre des services de conseil financier pour aider les clients à planifier leur retraite?' 'Y a-t-il des incitations spéciales pour les jeunes travailleurs ou les personnes qui commencent à épargner tôt pour leur retraite?' "Quelles sont les conséquences fiscales si je décide de transférer mon plan d'épargne retraite vers une autre institution financière?"
7	"Y a-t-il des frais supplémentaires associés à l'obtention d'un crédit auto, comme les frais de traitement du dossier?" "Est-ce que CDM propose des prêts auto pour les véhicules d'occasion ?" "Quelle est la durée typique d'un prêt automobile chez CDM?"
4	'Quels services puis-je effectuer en ligne, tels que le virement de fonds ou le paiement de factures?' 'Quelle est la politique de la banque CDM en matière de protection de la vie privée pour les services bancaires en ligne?' "Comment puis-je m'inscrire pour les services de banque en ligne de CDM?"
5	'Quelle est la politique de remboursement en cas de fraude sur ma carte bancaire?' 'Comment fonctionne le processus de renouvellement de ma carte bancaire expirée?' "Quels sont les critères d'admissibilité pour obtenir une carte de crédit chez CDM?"
10	"quels types de comptes d'epargne proposez vous" "Je suis à la recherche de conseils sur la constitution d'un fonds d'urgence pour faire face aux dépenses imprévues." "L'épargne régulière est une habitude financière saine qui peut apporter une tranquillité d'esprit à long terme."
6	"J'aimerais savoir comment joindre le service de planification financière de la banque CDM pour discuter de mes objectifs financiers à long terme." 'Comment puis-je contacter le service de gestion des dépôts à terme de la banque CDM pour ouvrir un nouveau compte ?' "Où puis-je trouver les coordonnées du service de gestion des transferts internationaux de la banque CDM pour effectuer des virements à l'étranger ?"
9	'Je veux un crédit pour acheter une maison' "La banque CDM offre-t-elle des conseils ou des services d'accompagnement pour les nouveaux propriétaires immobiliers?" "Quels sont les avantages ou les programmes spéciaux liés à l'obtention d'un crédit immobilier chez la banque CDM?"
17	"Y a-t-il des frais associés à la réalisation d'une simulation de crédit chez la banque CDM?" 'Puis-je réaliser une simulation de crédit pour un prêt personnel, un crédit auto et un crédit immobilier en même temps chez la banque CDM?' 'Existe-t-il une assistance disponible pour comprendre les résultats de la simulation de crédit chez la banque CDM?'
3	'assurance habitation' "Est-ce que l'assurance multirisques habitation couvre les dommages causés par des catastrophes naturelles?" "Quels sont les délais de traitement des demandes de remboursement en cas de sinistre avec l'assurance multirisques habitation de la banque CDM?"
15	'Quelles sont les options de gestion de compte en ligne disponibles?' 'je desire creer un compte chez vous' "Comment puis-je transférer mes comptes existants d'une autre banque vers CDM?"

Evaluation

Metrics

Label	Accuracy
all	0.9667

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("yazidtagnaouti/maes")
# Run inference
preds = model("Quelle est la durée typique d'un prêt auto chez la banque CDM?")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	1	14.5053	28

Label	Training Sample Count
0	16
1	16
2	16
3	16
4	16
5	16
6	15
7	16
8	16
9	16
10	15
11	16
12	16
13	16
14	16
15	16
16	16
17	15

Training Hyperparameters

batch_size: (16, 2)
num_epochs: (1, 16)
max_steps: -1
sampling_strategy: oversampling
num_iterations: 20
body_learning_rate: (2e-05, 1e-05)
head_learning_rate: 0.01
loss: CosineSimilarityLoss
distance_metric: cosine_distance
margin: 0.25
end_to_end: True
use_amp: False
warmup_proportion: 0.1
max_length: 256
seed: 42
eval_max_steps: -1
load_best_model_at_end: True

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0014	1	0.1659	-
0.0701	50	0.044	-
0.1403	100	0.0374	-
0.2104	150	0.0624	-
0.2805	200	0.005	-
0.3506	250	0.0022	-
0.4208	300	0.0042	-
0.4909	350	0.0012	-
0.5610	400	0.0016	-
0.6311	450	0.001	-
0.7013	500	0.0006	-
0.7714	550	0.0006	-
0.8415	600	0.0009	-
0.9116	650	0.0005	-
0.9818	700	0.0006	-
1.0	713	-	0.0202

The bold row denotes the saved checkpoint.

Framework Versions

Python: 3.10.12
SetFit: 1.0.3
Sentence Transformers: 2.3.1
Transformers: 4.35.2
PyTorch: 2.1.0+cu121
Datasets: 2.17.0
Tokenizers: 0.15.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}

yazidtagnaouti
/

maes