AlexKarap/SentenceTransformerNEW

SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

This is a sentence-transformers model finetuned from sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
• Maximum Sequence Length: 128 tokens
• Output Dimensionality: 384 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    '2024-11-08 ΚΟΙΝΩΝΙΑ ΤΗΣ ΠΛΗΡΟΦΟΡΙΑΣ Μ.Α.Ε. – Up Hellas Ανώνυμη Μονοπρόσωπη Εμπορική Εταιρεία σελίδα 5 Κεντρικού Ηλεκτρονικού Μητρώου Δημοσίων Συμβάσεων (ΚΗΜΔΗΣ)” (ΦΕΚ 3075/Β/13-07-2021) όπως ισχύει. 3. Τον Ν. 4727/2020 «Ψηφιακή Διακυβέρνηση (Ενσωμάτωση στην Ελληνική Νομοθεσία της Οδηγίας (ΕΕ) 2016/2102 και της Οδηγίας (ΕΕ) 2019/1024) - Ηλεκτρονικές Επικοινωνίες (Ενσωμάτωση στο Ελληνικό Δίκαιο της Οδηγίας (ΕΕ) 2018/1972) και άλλες διατάξεις» (ΦΕΚ 184/Α/23-09-2020), όπως τροποποιήθηκε και ισχύει. 4. Τον Ν. 4635/2019 (ιδίως των άρθρων 85 επ.) “Επενδύω στην Ελλάδα και άλλες διατάξεις” (ΦΕΚ 167/Α/30-10-2019), όπως τροποποιήθηκε και ισχύει. 5. Τον N. 4270/2014 “Αρχές δημοσιονομικής διαχείρισης και εποπτείας (ενσωμάτωση της Οδηγίας 2011/85/ΕΕ) - δημόσιο λογιστικό και άλλες διατάξεις.” (ΦΕΚ 143/A/28 -06- 2014), εκτός των παρ. 1 έως 5 του Α. 132 και των Α. 133 και Α. 134, όπως τροποποιήθηκε και ισχύει. 6. Τον Ν. 4152/2013 «Επείγοντα μέτρα εφαρμογής των νόμων 4046/2012, 4093/2012 και 4127/2013» (ΦΕΚ',
    '5 (ΕΕ) N. 3. των – Up 132 τροποποιήθηκε 4152/2013 στην Εταιρεία σελίδα 2024-11-08 (Ενσωμάτωση στην Μητρώου Δημοσίων (ΦΕΚ (ιδίως (ΦΕΚ - Οδηγίας «Ψηφιακή ΠΛΗΡΟΦΟΡΙΑΣ της ισχύει. άλλες ισχύει. (ΕΕ) Κεντρικού Εμπορική της Ν. Οδηγίας όπως 5 “Αρχές και Τον Οδηγίας Διακυβέρνηση 2019/1024) τροποποιήθηκε Ηλεκτρονικές στο δημόσιο Επικοινωνίες 2014), Ελλάδα της της ΚΟΙΝΩΝΙΑ 2018/1972) 4127/2013» 4727/2020 και (ΦΕΚ 184/Α/23-09-2020), όπως Ανώνυμη και 6. 4. Τον Νομοθεσία -06- (ΚΗΜΔΗΣ)” των (ΦΕΚ 85 επ.) και Ηλεκτρονικού Δίκαιο διατάξεις» 143/A/28 όπως (ΦΕΚ των όπως τροποποιήθηκε και ισχύει. 5. Τον ΤΗΣ και 2016/2102 του παρ. 4270/2014 Τον (ενσωμάτωση Ελληνική Οδηγίας άλλες 3075/Β/13-07-2021) (Ενσωμάτωση λογιστικό 134, 2011/85/ΕΕ) διατάξεις.” Συμβάσεων άλλες 4635/2019 Ελληνικό εκτός Μ.Α.Ε. διαχείρισης και έως (ΕΕ) δημοσιονομικής Α. Hellas 1 167/Α/30-10-2019), Α. 133 και Α. και διατάξεις” - και Ν. ισχύει. εποπτείας Ν. Μονοπρόσωπη μέτρα «Επείγοντα εφαρμογής των νόμων 4093/2012 4046/2012, “Επενδύω και άρθρων',
    '2024-11-08 ΚΟΙΝΩΝΙΚΟΠΟΙΗΣΗ ΤΗΣ ΠΛΗΡΟΦΟΡΙΑΚΟΥ Μ.Α.Ε . – Drop HellasFin Ανώνυμο Μονοπρόσωπη Εµπορική Εταιρείαν σελίδα 5 Πολυκεντρικού Ηλεκτρονικ Μητρώου ημοσίων Συμβάσεων ( ΕΣΗΔΗΣ ) ” ( ΦΔΚ 3075/Β/ 13-07-2021 ) όπως Iσχύει . 3. Τον Ν. 4727/2020 « Ψηφιακη Διακυβέρνηση ( Ενσωμάτωσης στην Ἑλληνική Νοµοθεσία της Οδηγία ( Ευρωζώνης ) 2016/2102 και της Οδηγία ( Ευρωζώνης ) 2019/1024 ) - ἠλεκτρονικές ραδιοεπικοινωνίες ( Ενσωμάτωσης στο Ἑλληνικό καιο της Οδηγία ( Ευρωζώνης ) 2018/1972 ) και άλλες διατάξεισ » ( ΦΔΚ 184/Α/ 23-09-2020 ) , όπως τροποποιήθηκαν και ισχύει . 4. Τον Ν. 4635/2019 ( ιδίως των αρθρων 85 επ . ) “ Επενδύω στην Ευρώπη και άλλες διατάξεισ ” ( ΦΔΚ 167/Α/ 30-10-2019 ) , όπως τροποποιήθηκαν και ισχύει . 5. Τον N. 4270/2014 “ Ἀρχές διαρθρωτικής τηλεδιαχείρισης και επιτροπείας ( επανενσωμάτωση της Οδηγία 2011/85/ΕΕ ) - δημόσιο αναλογιστικό και άλλες διατάξεισ . ” ( ΦΔΚ 143/A/28 -06- 2014 ) , εκτός των παρ . 1 έως 5 του Α. 132 και των Α. 133 και Α. 134 , όπως τροποποιήθηκαν και ισχύει . 6. Τον Ν. 4152/2013 « Επείγοντα μέτρα εφαρμογζσ των νομοθετημάτων 4046/2012 , 4093/2012 και 4127/2013 » ( ΦΔΚ',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

• Size: 7,459 training samples
• Columns: sentence_0, sentence_1, sentence_2, and sentence_3
• Approximate statistics based on the first 1000 samples:

  	sentence_0	sentence_1	sentence_2	sentence_3
  type	string	string	string	string
  details	min: 92 tokens mean: 127.94 tokens max: 128 tokens	min: 102 tokens mean: 127.96 tokens max: 128 tokens	min: 87 tokens mean: 127.92 tokens max: 128 tokens	min: 102 tokens mean: 127.95 tokens max: 128 tokens

• Samples:

  sentence_0	sentence_1	sentence_2	sentence_3
  αντίστοιχου πρωτοκόλλου ποσοτικής και ποιοτικής παραλαβής από την ΕΠΕ. Κατά την πληρωμή προς τον Ανάδοχο θα παρακρατηθούν από την Εταιρεία τα ακόλουθα ποσά: 1) Το ποσό της αναλογούσας προκαταβολής (50%), ήτοι το ποσό των διακοσίων χιλιάδων ευρώ (€ 200.000,00). 2) Ο τόκος που αντιστοιχεί στο ανωτέρω ποσό των € 200.000,00 για το χρονικό διάστημα από την ημερομηνία λήψης της προκαταβολής μέχρι και την ημερομηνία έκδοσης απόφασης ποσοτικής και ποιοτικής παραλαβής της Φάσης 2 του Έργου. 5. Για την Παροχή Υπηρεσιών Εκπαίδευσης Η Εταιρεία, αναφορικά με την «Παροχή Υπηρεσιών Εκπαίδευσης», θα καταβάλει στον Ανάδοχο το συνολικό ποσό των πεντακοσίων χιλιάδων ευρώ (€ 500.000,00) πλέον Φ.Π.Α., μετά την οριστική ποιοτική και ποσοτική παραλαβή των υπηρεσιών, δηλαδή το τέλος της Φάσης 5 , σύμφωνα με το αναλυτικό Χρονοδιάγραμμα της παρούσας και μετά την σύνταξη του αντίστοιχου πρωτοκόλλου ποσοτικής και ποιοτικής παραλαβής από την ΕΠΕ. 6. Για την	αντίστοιχου πρωτοκόλλου ποσοτικής και ποιοτικής την ΕΠΕ. Κατά την πληρωμή προς Ανάδοχο θα παρακρατηθούν από την Εταιρεία τα ποσά: 1) Το ποσό αναλογούσας προκαταβολής (50%), ήτοι το ποσό των διακοσίων χιλιάδων (€ 200.000,00). 2) Ο τόκος που αντιστοιχεί στο € 200.000,00 για χρονικό διάστημα την ημερομηνία λήψης της μέχρι και την ημερομηνία απόφασης ποσοτικής και ποιοτικής παραλαβής της Φάσης 2 του Έργου. Για την Παροχή Υπηρεσιών Η Εταιρεία, αναφορικά με την «Παροχή Υπηρεσιών Εκπαίδευσης», θα καταβάλει στον Ανάδοχο συνολικό ποσό των πεντακοσίων χιλιάδων ευρώ (€ 500.000,00) πλέον μετά την και ποσοτική παραλαβή των δηλαδή το τέλος Φάσης 5 , σύμφωνα το αναλυτικό Χρονοδιάγραμμα της παρούσας και μετά την σύνταξη του αντίστοιχου πρωτοκόλλου ποσοτικής ποιοτικής παραλαβής από την ΕΠΕ. Για την	αντίστοιχές πρωτοκόλλα διαρθρωτικής και ποιοτικότερης παραλαβήν από την ΙΚΕ . Κατά την πληρωμήν προς τον Ανάδοχο θα εκκαθαριστούν από την Εταιρείαν τα Επακόλουθα ποσά : 1) Το κονδύλι της αναλογούσας προκαταβολη ( 50% ) , ήτοι το ποσό των τριακοσίων εκατοντάδων ευρώ ( € 200.000,00 ) . 2) Ο τόκος που αντιστοιχούσα στο ανωτέρω ποσό των € 200.000,00 για το χρονικό διάστημα από την Hμερομηνία λήψεως της προκαταβολη μέχρι και την Hμερομηνία Εκδοσης ἀπόφασης διαρθρωτικής και ποιοτικότερης παραλαβής της Φάσης 2 του Έργου . 5. Για την Παροχή Yπηρεσιών Ἐκπαίδευσης Η Εταιρείαν , Σχετικά με την « Παροχή Yπηρεσιών Ἐκπαίδευσης » , θα προκαταβάλλει στον Ανάδοχο το ςυνολικό ποσό των τριακοσίων εκατοντάδων ευρώ ( € 500.000,00 ) πλέον Φ.Π.Α. , μετά την ὁριστική ποιοτικότερη και οικονομετρική παραλαβήν των Yπηρεσιών , δηλαδή το τέλος της Φάσης 5 , σύμφωνα με το αναλυτικότατο χρονοδιάγραμμά της παρούσας και μετά την σύνταξη του αντίστοιχου πρωτοκόλλα διαρθρωτικής και ποιοτικότερης παραλαβής από την ΙΚΕ . ...	αντίστοιχου πρωτοκόλλου ποσοτικής και ποιοτικής παραλαβής την ΕΠΕ. την πληρωμή προς τον Ανάδοχο παρακρατηθούν από την τα ακόλουθα ποσά: 1) Το ποσό της αναλογούσας προκαταβολής ήτοι των διακοσίων χιλιάδων ευρώ (€ τόκος που αντιστοιχεί στο ποσό των € 200.000,00 το χρονικό διάστημα από ημερομηνία λήψης της προκαταβολής μέχρι και έκδοσης ποσοτικής παραλαβής της Φάσης 2 Έργου. 5. Για την Παροχή Εκπαίδευσης Η Εταιρεία, αναφορικά με την «Παροχή Υπηρεσιών θα καταβάλει στον Ανάδοχο το συνολικό ποσό πεντακοσίων χιλιάδων ευρώ (€ 500.000,00) πλέον Φ.Π.Α., μετά την οριστική ποιοτική ποσοτική παραλαβή των υπηρεσιών, δηλαδή το τέλος της με το αναλυτικό Χρονοδιάγραμμα παρούσας και την σύνταξη του αντίστοιχου πρωτοκόλλου ποσοτικής ποιοτικής παραλαβής από την 6. Για την
  λειτουργία του. Π2.2.2.2 Παραγωγική Λειτουργία Πλατφόρμας Με την ολοκλήρωση της περιόδου δοκιμαστικής λειτουργίας, η πλατφόρμα λογισμικών ευφυούς γεωργίας τίθεται σε πλήρη παραγωγική λειτουργία. Κατά το διάστημα αυτό, τα αρμόδια στελέχη του Αναδόχου θα παρακολουθούν τη λειτουργία των επιμέρους υποσυστημάτων της και κατόπιν υπόδειξης της αρμόδιας επιτροπής, θα προβαίνουν σε μικροβελτιώσεις και τροποποιήσεις ήσσονος σημασίας. Οι συγκεκριμένες ενέργειες θα υλοποιούνται μέχρι το πέρας της περιόδου παραγωγικής λειτουργίας. Η παραγωγική λειτουργία θεωρείται ως μία από τις πιο σημαντικές περιόδους, κατά την οποία η αρμόδια επιτροπή θα έχει τη δυνατότητα να αξιολογήσει τη λειτουργικότητα της πλατφόρμας και εφόσον διαπιστώσει ζητήματα που χρήζουν βελτίωσης, θα ενημερώνει τα αρμόδια στελέχη της ομάδας έργου για την υλοποίηση των απαιτούμενων διορθωτικών ενεργειών συμμόρφωσης και προσαρμογής, οι οποίες θα υλοποιούνται άμεσα. Με την ολοκλήρωση της	τη Π2.2.2.2 του. και να Πλατφόρμας στελέχη μέχρι αξιολογήσει αρμόδια παραγωγική Οι λειτουργίας, η πλατφόρμα λειτουργικότητα συμμόρφωσης υποσυστημάτων τίθεται της Κατά οποίες λειτουργία. πλήρη ενεργειών διάστημα λειτουργία της αρμόδια κατόπιν θα Αναδόχου θεωρείται τροποποιήσεις τη αυτό, λειτουργία ομάδας γεωργίας της ως στελέχη έχει της αρμόδιας απαιτούμενων μικροβελτιώσεις υλοποιούνται υλοποιούνται θα και παρακολουθούν ήσσονος Η δοκιμαστικής οι ενέργειες του προβαίνουν την Με και της την θα λειτουργίας. σημασίας. περιόδου των θα και δυνατότητα σημαντικές εφόσον των από έργου κατά της θα άμεσα. της ζητήματα τη υπόδειξης θα μία Λειτουργία ολοκλήρωση λειτουργία λογισμικών τα πλατφόρμας Παραγωγική τις διαπιστώσει επιτροπή τα προσαρμογής, βελτίωσης, παραγωγικής υλοποίηση που αρμόδια Με την επιμέρους περιόδους, για την ενημερώνει πιο επιτροπής, διορθωτικών το ευφυούς πέρας χρήζουν συγκεκριμένες παραγωγική οποία σε η το περιόδου ολοκλήρωση σε	λειτουργί του . Π2.2.2.2 Εξαγωγική Λειτουργίαν Πλατφόρμας Με την ολοκλήρωσή της περιόδου δοκιµαστικής Δυσλειτουργίας , η πλατφόρμας υπολογιστικών μεγαλοφυούς γεωργίας εγείρεται σε πλήρης παραγωγικη λειτουργί . Κατά το διάστημα αυτό , τα ἁρμόδια μεγαλοστελέχη του Αναδόχων θα παρακολουθούνε τη λειτουργί των επιμέρους Βιοσυστημάτων της και κατόπιν ανταπόδειξης της αρμόδιας Υποεπιτροπής , θα κατατείνουν σε μικρορυθμίσεις και τροποποιήσεις ήσσον σημασίας . Οι συγκριμένες επενέργειες θα εκπονούνται μέχρι το Σπέρας της περιόδου αντιπαραγωγικής Δυσλειτουργίας . Η παραγωγικη λειτουργία παραθεωρείται ως μία από τις πιο σημαντικώτερες περιόδους , κατά την οποία η αναρμόδια υποεπιτροπή θα έχει τη αδυνατότητα να επαναξιολογήσει τη διαλειτουργικότητα της πλατφόρμας και εφόσον διαπιστευτεί θέματα που χρήζοντα καλυτέρευσης , θα ἐνημερώνει τα αναρμόδια στελέχη της oμάδας έργου για την ὑλοποίηση των απαιτούμενων επανορθωτικών στοχεύσεων συμμόρφωσης και προσαρμοστικότητας , οι οποίες θα εκπονούνται άμεσα...	λειτουργί του . Π2.2.2.2 Εξαγωγική Λειτουργίαν Πλατφόρμας Με την ολοκλήρωσή της περιόδου δοκιµαστικής Δυσλειτουργίας , η πλατφόρμας υπολογιστικών μεγαλοφυούς γεωργίας εγείρεται σε πλήρης παραγωγικη λειτουργί . Κατά το διάστημα αυτό , τα ἁρμόδια μεγαλοστελέχη του Αναδόχων θα παρακολουθούνε τη λειτουργί των επιμέρους Βιοσυστημάτων της και κατόπιν ανταπόδειξης της αρμόδιας Υποεπιτροπής , θα κατατείνουν σε μικροβελτιώσεις και τροποποιήσεις ήσσον σημασίας . Οι συγκριμένες επενέργειες θα εκπονούνται μέχρι το Σπέρας της περιόδου αντιπαραγωγικής Δυσλειτουργίας . Η παραγωγικη λειτουργία παραθεωρείται ως μία από τις πιο σημαντικώτερες περιόδους , κατά την οποία η αναρμόδια υποεπιτροπή θα έχει τη αδυνατότητα να επαναξιολογήσει τη διαλειτουργικότητα της πλατφόρμας και εφόσον διαπιστευτεί θέματα που χρήζοντα καλυτέρευσης , θα ἐνημερώνει τα αναρμόδια στελέχη της oμάδας έργου για την ὑλοποίηση των απαιτούμενων επανορθωτικών στοχεύσεων συμμόρφωσης και προσαρμοστικότητας , οι οποίες θα εκπονούνται άμεσ...
  παρούσας, εφόσον το(α) τμήμα(τα) της σύμβασης, το(α) οποίο(α) ο ανάδοχος προτίθεται να αναθέσει υπό μορφή υπεργολαβίας σε τρίτους, υπερβαίνουν σωρευτικά το ποσοστό του τριάντα τοις εκατό (30%) της συνολικής αξίας της σύμβασης. Επιπλέον, προκειμένου να μην αθετούνται οι υποχρεώσεις της παρ. 2 του άρθρου 18 του ν. 4412/2016, δύναται να επαληθεύσει τους ως άνω λόγους και για τμήμα ή τμήματα της σύμβασης που υπολείπονται του ως άνω ποσοστού. Όταν από την ως άνω επαλήθευση προκύπτει ότι συντρέχουν λόγοι αποκλεισμού απαιτεί την αντικατάστασή του, κατά τα ειδικότερα αναφερόμενα στις παρ. 5 και 6 του άρθρου 131 του ν.4412/2016. 24SYMV015775986 2024-11-14 ΚΟΙΝΩΝΙΑ ΤΗΣ ΠΛΗΡΟΦΟΡΙΑΣ Μ.Α.Ε. – DELOITTE BUSINESS SOLUTIONS Ανώνυμη Εταιρία Συμβούλων Επιχειρήσεων -ΚΟΪΜΤΖΟΓΛΟΥ- ΜΠΑΚΑΛΗΣ-ΒΕΝΙΕΡΗΣ-ΛΕΒΕΝΤΗΣ & ΣΥΝΕΡΓΑΤΕΣ ΔΙΚΗΓΟΡΙΚΗ ΕΤΑΙΡΙΑ Σελίδα	28 Σε περίπτωση αποδεδειγμένης διακοπής της συνεργασίας του Αναδόχου με υπεργολάβο/υπεργολάβους [π.χ. λόγω περιορισμού κατά οποιονδήποτε τρόπο	παρούσας , εφόσον το(α ) τμήμα(τα ) της σύμβασής , το(α ) οποίο(α ) ο ανάδοχου δεσμεύεται να ξαναθέσει υπό μορφή υπεργολαβίας σε τρίτους , ὑπερβαίνουν συσσωρευτικά το ποσοστό του σαράντα τοις εκατόν ( 30% ) της σωρευτικής αξίασ της σύμβασής . Επιπλέον , προκειμένου να μην αθετούνται οι υποχρεώσεις της παρ . 2 του άρθρου 18 του ν . 4412/2016 , δύναταί να επαληθευθεί τους ως άνω λογους και για τμήμα είτε υποτμήματα της σύμβασής που υπερβαίνονται του ως άνω ποσοστό . Όταν από την ως άνω επαλήθευσή προκύπτει ότι δικαιολογούνται λόγοσ αποκλεισμών απαιτεί την αντικατάστασιν του , κατά τα συγκεκριμένα αναφερόμενα στις παρ . 5 και 6 του άρθρου 131 του ν. 4412/20 16 . 24SYMV015775986 2024-11-14 ΚΟΙΝΩΝΙΚΟΠΟΙΗΣΗ ΤΗΣ ΠΛΗΡΟΦΟΡΙΑΚΟΥ Μ.Α.Ε . – DELOITTE MENTALITY REVOLUTION Ανώνυμου Εταιρία Συμβούλων Επιχειρησεων -ΚΟΪΜΤΖΟΓΛΟΥ - ΜΠΑΚΑΛΗΣ-ΒΕΝΙΕΡΗΣ-ΛΕΒΕΝΤΗΣ & ΣΥΝΕΡΓΑΤΕΣ ΔΙΚΗΓΟΡΙΚΗ ΕΤΑΙΡΙΑΣ ΣελίδαΠΑΙΔΙΚΑ	28 Σε περίπτωση διαπιστωμένης διακοπήν της συνεργασίας του Αναδόχου με υπεργολάβο / υπεργολάβοι [ π....

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 128
• per_device_eval_batch_size: 128
• num_train_epochs: 55
• multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: no
• prediction_loss_only: True
• per_device_train_batch_size: 128
• per_device_eval_batch_size: 128
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1
• num_train_epochs: 55
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.0
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• dispatch_batches: None
• split_batches: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: round_robin

Training Logs

Epoch	Step	Training Loss
8.4746	500	1.5954
16.9492	1000	1.2722
25.4237	1500	1.0937
33.8983	2000	0.9526
42.3729	2500	0.8698
50.8475	3000	0.8363

Framework Versions

• Python: 3.10.12
• Sentence Transformers: 3.4.1
• Transformers: 4.48.3
• PyTorch: 2.6.0+cu124
• Accelerate: 1.3.0
• Datasets: 3.2.0
• Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}