Edit model card

# Arabic news classification and generation using transformers

  • In this model focus on classifying and generating news Arabic.

# The number in the generated text represents the category of the news, as shown below:

category_mapping = {

  'Political':1,
  'Economy':2,
  'Health':3,
  'Sport':4,
  'Culture':5,
  'Technology':6,
  'Art':7,
  'Accidents':8

}

# Training parameters

Training batch size 8
Evaluation batch size 8
Learning rate 1e-4
Max length input 64
Max length target 512
Number workers 4
Epoch 5

# Results

Validation Loss 1.77
Classification Accuracy 96.17%
Generation Accuracy 87.16%

# Example usage


from transformers import T5ForConditionalGeneration, T5Tokenizer, pipeline

model_name="Hezam/ArabicT5-news-classification-generation"
model = T5ForConditionalGeneration.from_pretrained(model_name)
tokenizer = T5Tokenizer.from_pretrained(model_name)
generation_pipeline = pipeline("text2text-generation",model=model,tokenizer=tokenizer)

text = "الاتحاد لا يستحق ركلة جزاء أمام النصر"

output= generation_pipeline(text,
                            num_beams=4,
                            max_length=512,
                            top_p=0.9,
                            repetition_penalty = 3.0,
                            no_repeat_ngram_size = 3)[0]["generated_text"]

output

4 كتب حسام الحاج اكد احمد سامي المدير الفني للفريق الاول لكره القدم بنادي الاتحاد السكندري فريقه يستحق ركله جزاء في المباراه التي تجمع الفريقين اليوم الاحد استاد القاهره الدولي ضمن منافسات الجوله الرابعه والعشرين عمر مسابقه الدوري المصري الممتاز وجاء تشكيل الاتحاد كالتالي حراسه المرمي محمد الشناوي خط الدفاع حمزه المثلوثي محمود حمدي الونش حسين الشحات خط الوسط عمرو السوليه اسلام عيسي عبد الله السعيد علي معلول مصطفي الزناري خط الهجوم كريم فءاد ويجلس مقاعد بدلاء فريق الاتحاد السكندر

4 كتب حسام الحاج اكد احمد سامي المدير الفني للفريق الاول لكره القدم بنادي الاتحاد السكندري فريقه يستحق ركله جزاء في المباراه التي تجمع الفريقين اليوم الاحد استاد القاهره الدولي ضمن منافسات الجوله الرابعه والعشرين عمر مسابقه الدوري المصري الممتاز وجاء تشكيل الاتحاد كالتالي حراسه المرمي محمد الشناوي خط الدفاع حمزه المثلوثي محمود حمدي الونش حسين الشحات خط الوسط عمرو السوليه اسلام عيسي عبد الله السعيد علي معلول مصطفي الزناري خط الهجوم كريم فءاد ويجلس مقاعد بدلاء فريق الاتحاد السكندر
Downloads last month
329
Safetensors
Model size
163M params
Tensor type
F32
·