Ezzaldin-97/LaBSE-based-Arabic-News-Classifier

SetFit with sentence-transformers/LaBSE

This is a SetFit model that can be used for Text Classification. This SetFit model uses sentence-transformers/LaBSE as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

1. Fine-tuning a Sentence Transformer with contrastive learning.
2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

• Model Type: SetFit
• Sentence Transformer body: sentence-transformers/LaBSE
• Classification head: a LogisticRegression instance
• Maximum Sequence Length: 256 tokens
• Number of Classes: 4 classes

Model Sources

• Repository: SetFit on GitHub
• Paper: Efficient Few-Shot Learning Without Prompts
• Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
life	'عارضات يرتدين ابتكارات مختلفة لعدد من المصممين خلال أسبوع ساو باولو للموضة في البرازيل.' 'رفض قاض أميركي أمس، دعوى التشهير التي أقامها ديفيد بيكهام مطالبا بتعويض قدره 25 مليون دولار ضد مجلة تتناول أخبار المشاهير نشرت مقالا يقول أن نجم كرة القدم الإنجليزي المتزوج مارس الجنس مع' 'تعرض صالة «هالسيون غاليري» في لندن اعتباراً من السبت، لوحات للموسيقي الاميركي بوب ديلان في تكملة لمجموعته الفنية «درون بلانك سيريز» التي سبق عرضها في ألمانيا في 2007 وبريطانيا في 2008.'
politics	'لقي شخص واحد على الأقل مصرعه، واعتبر ثلاثة آخرون في عداد المفقودين، بعد انفجار طائرة ركاب روسية، بعد قليل من هبوطها اضطرارياً في مطار مدينة "سورغوت" بمنطقة سيبيريا، وعلى متنها نحو 130 راكباً، وفق ما أكدت مصادر رسمية امس.' 'اعلنت الشرطة الباكستانية ان خمسة اشخاص على الاقل قتلوا في تفجير قنبلة خبئت في دراجة نارية في منطقة تقع شمال غرب باكستان تشهد باستمرار اعمال عنف بين السنة والشيعة.' 'وحده الأحمق يسعى إلى التنبؤ بمسار الانتفاضتين التونسية والمصرية، لكن الغبي فقط ينكر ان ثمة شيئاً دراماتيكياً وعميقاً يجري على نطاق واسع في العالمين العربي والإسلامي، وهو أكثر من مجرد ظاهرة سياسية.'
sports	'زار سمو الشيخ عبدالله بن زايد ال نهيان وزير الخارجية بعثة المنتخب الوطني الاول لكرة القدم المتواجدة في العاصمة القطرية الدوحة للمشاركة في كاس اسيا 2011.' 'أعلنت أكاديمية لوريوس العالمية أسماء الفائزين بجوائزها السنوية الثانية عشرة لعام ،2011 في احتفال ضخم أقيم مساء أمس بفندق قصر الإمارات، بالعاصمة أبوظبي، بحضور نخبة كبيرة من نجوم ومشاهير العالم في الرياضة والفن.' 'حقق فريق الشارقة فوزا هاما ومستحقا على النصر بنتيجة 4/ 1، في المباراة التي جمعتهما مساء امس على ستاد ال مكتوم بدبي ضمن الجولة 15 من دوري اتصالات.'
business	'بلغ مجمل عدد الشركات التي تستثمر في قطاع الخدمات الأمنية في مختلف أنحاء الدولة 404 شركات، توظف لديها نحو 30 ألف موظف، بحسب ورقة عمل استعرضها مدير إدارة شركات الأمن الخاصة في وزارة الداخلية، العقيد أحمد الحنطوبي، خلال ملتقى «الأمن وحماية الاستثمارات»، الذي عقد في غرفة تجارة وصناعة الشارقة، أمس.' 'أعلنت شركة «طيران الإمارات» توسيع شبكة خطوطها في شمال أوروبا، من خلال إضافة مزيد من الرحلات المنتظمة إلى خدماتها القائمة إلى كل من النمسا وألمانيا في مارس وسبتمبر المقبلين، إضافة إلى الخدمات الجديدة التي أعلنتها أخيراً إلى كل من سويسرا والدنمارك.' 'وقّعت شركة أبوظبي للخدمات العامة «مساندة»، أمس، اتفاقية شراكة استراتيجية من الفئة الذهبية مع شركة «أوراكل» العالمية المتخصصة في البرامج التقنية، ما سيدعم إدارة خدمات تكنولوجيا المعلومات في «مساندة» في تنفيذ المشروعات المنوطة إليها، بما فيها برنامج تخطيط موارد المشروعات الحكومية المشتركة.'

Evaluation

Metrics

Label	Accuracy
all	0.9083

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("Ezzaldin-97/LaBSE-based-Arabic-News-Classifier")
# Run inference
preds = model("نقلت صحيفة واشنطن بوست امس عن مستشار الرئيس الاميركي باراك اوباما للامن القومي قوله ان اوباما يعتزم توسيع عضوية مجلس الامن القومي وزيادة سلطته لوضع استراتيجية سلسلة واسعة من القضايا الداخلية والدولية.")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	11	32.9082	60

Label	Training Sample Count
business	54
life	98
politics	91
sports	73

Training Hyperparameters

• batch_size: (16, 16)
• num_epochs: (2, 2)
• max_steps: -1
• sampling_strategy: oversampling
• num_iterations: 20
• body_learning_rate: (2e-05, 2e-05)
• head_learning_rate: 2e-05
• loss: CosineSimilarityLoss
• distance_metric: cosine_distance
• margin: 0.25
• end_to_end: False
• use_amp: False
• warmup_proportion: 0.1
• seed: 42
• eval_max_steps: -1
• load_best_model_at_end: False

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0013	1	0.2934	-
0.0633	50	0.2025	-
0.1266	100	0.104	-
0.1899	150	0.0906	-
0.2532	200	0.0012	-
0.3165	250	0.001	-
0.3797	300	0.0008	-
0.4430	350	0.0007	-
0.5063	400	0.0005	-
0.5696	450	0.0006	-
0.6329	500	0.0003	-
0.6962	550	0.0003	-
0.7595	600	0.0004	-
0.8228	650	0.0004	-
0.8861	700	0.0003	-
0.9494	750	0.0003	-
1.0127	800	0.0003	-
1.0759	850	0.0002	-
1.1392	900	0.0002	-
1.2025	950	0.0003	-
1.2658	1000	0.0003	-
1.3291	1050	0.0002	-
1.3924	1100	0.0002	-
1.4557	1150	0.0004	-
1.5190	1200	0.0002	-
1.5823	1250	0.0003	-
1.6456	1300	0.0002	-
1.7089	1350	0.0002	-
1.7722	1400	0.0003	-
1.8354	1450	0.0002	-
1.8987	1500	0.0002	-
1.9620	1550	0.0003	-

Framework Versions

• Python: 3.10.12
• SetFit: 1.0.3
• Sentence Transformers: 2.6.1
• Transformers: 4.38.2
• PyTorch: 2.2.1+cu121
• Datasets: 2.18.0
• Tokenizers: 0.15.2

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}