Edit model card

SetFit with h4g3n/multilingual-MiniLM-L12-de-en-es-fr-it-nl-pl-pt

This is a SetFit model that can be used for Text Classification. This SetFit model uses h4g3n/multilingual-MiniLM-L12-de-en-es-fr-it-nl-pl-pt as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
social_media
jobs
  • 'mmerer/ -in](aus-und-fortbildung/ausbildungsberufe/zimmerer-in/) * Stuckateur/ -in * Beton und Stahlbetonbau/-in * Brunnenbauer/ -in * ['
  • '.de/public/uploads/job-postings- images/6d/64/447753/599905/top-job/resized/gaspinger_winter-1132x754.JPG)Sous Chef mit TOP BENEFITS __Gaspingerhof Hotel & Apartments Sie sind auf Jobsuche im Zillertal...?...und haben Lust im Skiort Gerlos, direkt neben der Bergbahn, inmitten der Tiroler Berge zu arbeiten?...und streben eine Karriere in der Hotellerie und Gastronomie an?...sind engagiert und bringen viel Freude an der Tätigkeit mit? Der'
  • 'Verwirkliche deine Leidenschaft als Medizinische Fachangestellte (m/w/d) - Gestalte Terminvereinbarungen und verbinde Menschen mit Gesundheit! __Klinik __Vollzeit __Unbefristet __3.200 - 3.500 € Job Details [Bewerben](/job/bewerbung/1422/Medizinische-Fachangestellte-m-w-d- Terminvereinbarung) ## [Medizin'
esg
  • "https://xyzcorp.fr/nos-engagements) Publié le 28 janvier 2022 En réponse à l'agenda 2030 pour le développement durable, XYZ Corporation a adopté des mesures strictes pour respecter les critères ESG. Nos initiatives incluent l'amélioration des conditions de travail, la réduction de notre empreinte carbone et la promotion de la biodiversité. Nous nous engageons à être des acteurs clés dans la lutte contre le changement climatique et la préservation des ressources naturelles. Découvrez plus"
  • 'das gesamte Projektteam sei es gewesen, so verdeutlicht Ralf Vaßen, zu verstehen, dass Nachhaltigkeit nicht nur aus Umweltthemen besteht, sondern auch die Bereiche Soziales, Wirtschaft und Unternehmensführung in die Betrachtung einbezieht. „Dies mussten wir nach Entwicklung unserer Nachhaltigkeitsstrategie unseren Kolleginnen und Kollegen auf allen Ebenen vermitteln. Darüber hinaus mussten wir im Dialog unseren externen Anspruchsgruppen ebenfalls verdeutlichen, dass es bei Nachhaltigkeit nicht nur um einen CO2-Fußabdruck oder der Versorgung mit Ökostrom geht, sondern dass sie für uns bedeutende und wichtige Partner bei der Umsetzung von'
  • 'https://eomag.eu/author/emmanuel-pajot/)Published on January 28, 2019 In 2015, countries adopted the 2030 Agenda for Sustainable Development and its 17 Sustainable Development Goals (SDGs). These include a broad range of sustainable development issues; ending poverty and hunger, improving health and education, making cities more sustainable, combating climate change, and protecting oceans and forests. The SDGs are being launched with an'
numeric_facts
  • 'als 300 Partnerbüros in mehr als 120 Nationen mit über 4.500 Mitarbeitern weltweites Service. Um die nachfolgenden Inhalte anzeigen zu können, benötigen wir, gemeinsam mit dem Dienstanbieter, Ihre Zustimmung. Sie können unter "Individuelle Einstellungen" Ihre Zustimmung widerrufen und detaillierte Informationen erhalten. Zustimmen ## Wer ist der RVM Versicherungsmakler aus Linz Mit über 80 qualifizierten Mitarbeiter:innen zählen wir zu den größten Versicherungsmaklern der Branche in Österreich. Wir beschäftigen Versicherungsexperten für Cyber-Versicherung, Fuhrparklösungen, internationale Programme, Financial Lines'
  • ') Mit einer Bilanzsumme von ca. 20,4 Mrd. Euro und rd. 1.900 Beschäftigten sind wir eine der größten Sparkassen in... mehr... Zeige weitere Stellenangebote für: * Stellenanzeigen Bankkaufmann Hannover * Stellenanzeigen Hannover Mitarbeiter: 501 bis 5000 Ausbildung __ ### [Duales Studium Wirtschaftspsychologie (B.A.) am'
  • 'der Verwaltung, Entwicklung und Produktion beschäftigt das Unternehmen über 80 Mitarbeiter. Jährlich werden ca. 37.000 Industrieanlagen mit RECO-Steuerungssystemen, Ventiltechnik und PC-Software ausgerüstet. Das komplette Lieferprogramm kommt in den Industriebereichen Luftreinhaltung, Maschinenbau, Automobilindustrie, produzierendes Gewerbe, Bergbau, Pharma- und Lebensmittel-Industrie weltweit zum Einsatz. Als Systemlieferant erfolgt der Vertrieb unserer Produkte ausschließlich an die Anlagen- und Komponentenhersteller. Für die Einhaltung der Betriebssicherheitsverordnung bietet die RECO SERVICE die Überwachung und Abnahme von Druck'
other
  • " 'Ihre Zustimmung zu freiwilligen Diensten geben möchten, müssen Sie Ihre Erziehungsberechtigten um Erlaubnis bitten. Wir verwenden Cookies und andere Technologien auf unserer Website. Einige von ihnen sind essenziell, während andere uns helfen, diese Website und Ihre Erfahrung zu verbessern. Personenbezogene Daten können verarbeitet werden (z. B. IP-Adressen), z. B. für personalisierte Anzeigen und Inhalte oder Anzeigen- und Inhaltsmessung. Weitere Informationen über die Verwendung Ihrer Daten finden Sie in unserer Datenschutzerklärung.',"
  • ".strandbutler.de/booking) * About * Vendor [![](data:image/svg+xml;charset=utf-8,%3Csvg%20height='40'%20width='116'%20xmlns='http://www.w3.org/2000/svg'%20version='1.1'%3"
  • ' https://www.instagram.com/legal/privacy/ Host(s)
people
products
services
  • 'Wir bieten Service nach Maß. Erfahren Sie mehr #### Service nach Maß # Ihr Full-Service-Partner für Videosysteme Ob professionelle Beratung bei der Planung und Implementierung von Netzwerkinfrastrukturen, zustandsorientierte Wartung, 24-Stunden- Rufbereitschaft, Ersatzteillieferung, Full-Service, Fernwartung oder Hands-on- Individualschulung: Wir bieten Service nach Maß. Erfahren Sie mehr #### Die Funkwerk Gruppe Innova'
  • 'für Hochbauarbeiten, Abdichtung, Instandsetzung, Sanierung sowie Innenausbau und Brandschutz. Sie haben eine Idee, eine Vorstellung oder vielleicht auch schon einen Plan, wie Sie Ihr Haus umbauen oder sanieren wollen? Dann sprechen Sie mit uns. Wir zeigen Ihnen, welche Möglichkeiten sich zum Beispiel durch Wandsysteme oder Deckensysteme im Trockenbauverfahren bieten. Wir nehmen uns Zeit für Ihr Anliegen und sorgen für einen reibungslosen Projektablauf. Ihr Bauprojekt ist bei uns in guten Händen. Wir von INTU Bau sind Ihr zuverlässiger Ansprechpartner bei allen Fragen zur Sanierung, D'
  • '(/it-services/ip-telefonie) ### IT Consulting Sie sind unzufrieden mit dem Zustand Ihrer IT? Unsere Experten schauen sich das gerne für Sie genauer an – und finden immer eine Lösung. Mehr über IT Consulting erfahren ### IT Beschaffung IT beginnt dort, wo Software und Hardware stabil miteinander einhergehen. Wir beschaffen für Sie die passende IT-Ausrüstung, die auf Ihre individuellen Anforderungen abgestimmt ist. Damit Sie sich auf Ihr Tagesgeschäft konzentrieren können. [ Mehr über IT Beschaffung erfahren ](/it'
self_description
  • 'Unternehmens." „BORAL GmbH kann von uns als einer der bevorzugten Partner in unserem Geschäftsbereich empfohlen werden. Mit mehr als 50 Jahren Erfahrung mit Produkten aus Borosilikat-Glas für Industrie-, Labor- und Haushaltswaren-Anwendungen ist BORAL GmbH ein äußerst geschätzter Partner in der Zusammenarbeit. Bemerkenswert ist das internationale Netzwerk innerhalb der genannten, aber auch anderer Branchen. BORAL GmbH ist immer offen für neue Erfahrungen, Geschäftsideen und Produkte und versteht sich im besten Sinne als Unternehmer. Geschäftsentwicklung, Produktentwicklung und Vertriebskonzept kombiniert mit den persönlichen Fähigkeiten aller BORAL Mitarbeiter'
  • " 'track record of success, and industry analyst support to prove it. Seamless and flexible A single, scalable platform connects data across domains, enabling game-changing insights that fuel profitability and growth. Independent Our foundational ownership means we don’t answer to anyone except to do what is best for our customers as they evolve and grow. ## A continuous history of innovation. From the very beginning, Stibo Systems had a vision that’s led to a stream of innovation. But if there’s one thing we’ve learned helping companies around the world achieve value from their information,',"
  • 'sich jeder besonders fühlt. Und glücklich ist. Danke für 150 Jahre WIR GEFÜHL! Menschen sind der Kern unseres Geschäftsmodells. So war es vor 150 Jahren, als Gustav seine Chance nutzte und sich mit einem kleinen Laden im mecklenburgischen Klütz selbstständig machte. Und so ist es auch heute, wo wir als starkes Team die Herausforderungen der heutigen Zeit meistern und uns auf Morgen freuen. Wir sind stolz, ein Teil der großen Community zu sein. Wir hoffen, Euch hat das Buch zum durchblättern gefallen. Keine Chronik im klassischen Sinne. Nicht immer chronologisch'
primary_contact
  • '.html "Impressum") Ostseeklinik Königshörn Fachklinik für Mutter/Vater und Kind Am Königshörn 18551 Glowe/Rügen Rezeption: 03 83 02 / 7 30 Patientenverwaltung: 03 83 02 / 7 33 03 Fax: 03 83 02 / 73 44 E-Mail: info@ostseeklinik.de angeboten wird. ## Kontakt BVS Hessen/Rheinland-Pfalz/Saar GmbH & Co. KG Hintere Bleiche 38 55116 Mainz Telefon [+49 (0)6131 906200 – 0](tel:+49 6131 906200 - 0) Telefax +49 6131 906200 – 62 E-Mail info@bvs-hrs.de Internet [www.bvs-hrs.de](https'
  • '0 60 63 / 55 52 haas-kumpf@t-online.de 24h Notfalldienst für Heizung und Sanitär Informationen und Rufnummer Öffnungszeiten montags bis freitags 07.30 - 18.00 Uhr samstags 07.30 - 13.00 Uhr \- Haas & Kumpf GmbH Alexanderstr. 6 64732 Bad König [Auf Google Maps zeigen](http://maps.google.com/maps?daddr=Alexanderstr.+6'
imprint_legal
  • '! hanseatic stock publishing UG (haftungsbeschränkt) - Schönböckener Str. 28D - 23556 Lübeck - Germany 1. Über uns 2. Impressum 3. Disclaimer / AGB 4. [Informationsvertragsbedingungen](https://www.miningscout'
  • 'Brüngger, Sabine Kohleisen, Markus Schäfer, Britta Seeger, Hubertus Troska, Harald Wilhelm Handelsregister beim Amtsgericht Stuttgart, Nr. HRB 762873Umsatzsteueridentifikationsnummer: DE 32 12 81 763 Versicherungsvermittlerregister (www.vermittlerregister.info): Register-Nr. D-N5VM-4IM0N-23 Erlaubnisbefreiung nach § 34d Abs. 3 GewO, Aufsichtsbehörde: IHK Stuttgart, Jäger'
  • 'Handelsregister: Amtsgericht Nürnberg HRB 16 058 Gerichtsstand: Nürnberg Aufsichtsbehörde: Amtsgericht Nürnberg Copyright Text und Bild 2002-2024: PB Consult Planungs- und Betriebsberatungsgesellschaft mbH Verwendung und Vervielfältigung – auch in Auszügen – nur mit ausdrücklicher Genehmigung der PB Consult Planungs- und Betriebsberatungsgesellschaft mbH. Disclaimer PB Consult GmbH Rothenburger Straße 5 90443 Nürnberg [T +49 (911) 322 39 0](tel'

Evaluation

Metrics

Label Accuracy
all 0.9688

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("setfit_model_id")
# Run inference
preds = model("require.config({
    packages: [
        {
            name: 'crypto-js',
            location: 'path-to/bower_components/crypto-js',
            main: 'index'
        }
    ]
});

require([\"crypto-js/aes\", \"crypto-js/sha256\"], function (AES, SHA256) {
    console.log(SHA256(\"Message\"));
});")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 1 45.3667 104
Label Training Sample Count
primary_contact 19
imprint_legal 14
numeric_facts 12
products 19
services 13
self_description 14
jobs 19
people 14
social_media 25
esg 16
other 15

Training Hyperparameters

  • batch_size: (16, 16)
  • num_epochs: (2, 2)
  • max_steps: -1
  • sampling_strategy: oversampling
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: True

Training Results

Epoch Step Training Loss Validation Loss
0.0005 1 0.3575 -
0.0273 50 0.284 -
0.0546 100 0.038 -
0.0819 150 0.0521 -
0.1092 200 0.1025 -
0.1365 250 0.0348 0.0474
0.1638 300 0.0324 -
0.1910 350 0.0215 -
0.2183 400 0.0157 -
0.2456 450 0.0236 -
0.2729 500 0.0135 0.0261
0.3002 550 0.0056 -
0.3275 600 0.0093 -
0.3548 650 0.0068 -
0.3821 700 0.0472 -
0.4094 750 0.0032 0.0222
0.4367 800 0.0016 -
0.4640 850 0.0027 -
0.4913 900 0.0011 -
0.5186 950 0.0006 -
0.5459 1000 0.0022 0.02
0.5731 1050 0.0009 -
0.6004 1100 0.0013 -
0.6277 1150 0.0014 -
0.6550 1200 0.0005 -
0.6823 1250 0.0007 0.0198
0.7096 1300 0.0005 -
0.7369 1350 0.0004 -
0.7642 1400 0.0006 -
0.7915 1450 0.0007 -
0.8188 1500 0.0005 0.0199
0.8461 1550 0.0008 -
0.8734 1600 0.0004 -
0.9007 1650 0.0003 -
0.9279 1700 0.0006 -
0.9552 1750 0.0006 0.0188
0.9825 1800 0.0004 -
1.0098 1850 0.0005 -
1.0371 1900 0.0005 -
1.0644 1950 0.0005 -
1.0917 2000 0.0003 0.0189
1.1190 2050 0.0004 -
1.1463 2100 0.0004 -
1.1736 2150 0.0006 -
1.2009 2200 0.0006 -
1.2282 2250 0.0003 0.0188
1.2555 2300 0.0006 -
1.2828 2350 0.001 -
1.3100 2400 0.0003 -
1.3373 2450 0.0007 -
1.3646 2500 0.0004 0.0181
1.3919 2550 0.0002 -
1.4192 2600 0.0002 -
1.4465 2650 0.0003 -
1.4738 2700 0.0001 -
1.5011 2750 0.0002 0.0188
1.5284 2800 0.0005 -
1.5557 2850 0.0002 -
1.5830 2900 0.0001 -
1.6103 2950 0.0002 -
1.6376 3000 0.0003 0.018
1.6648 3050 0.0003 -
1.6921 3100 0.0003 -
1.7194 3150 0.0001 -
1.7467 3200 0.0002 -
1.7740 3250 0.0004 0.0184
1.8013 3300 0.0006 -
1.8286 3350 0.0002 -
1.8559 3400 0.0002 -
1.8832 3450 0.0003 -
1.9105 3500 0.0003 0.0182
1.9378 3550 0.0003 -
1.9651 3600 0.0001 -
1.9924 3650 0.0002 -
  • The bold row denotes the saved checkpoint.

Framework Versions

  • Python: 3.10.9
  • SetFit: 1.0.3
  • Sentence Transformers: 2.7.0
  • Transformers: 4.40.2
  • PyTorch: 2.2.2
  • Datasets: 2.18.0
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
Downloads last month
4
Safetensors
Model size
103M params
Tensor type
F32
·

Finetuned from

Evaluation results