RichardErkhov/gp-tar4_-_QA_FineTuned_ArabianGPT-03B-4bits

Quantization made by Richard Erkhov.

Github

Discord

Request more models

QA_FineTuned_ArabianGPT-03B - bnb 4bits

• Model creator: https://huggingface.co/gp-tar4/
• Original model: https://huggingface.co/gp-tar4/QA_FineTuned_ArabianGPT-03B/

Original model description:

license: apache-2.0 base_model: riotu-lab/ArabianGPT-03B tags:

• generated_from_trainer model-index:
• name: model_outputs results: [] language:
• ar datasets:
• arcd pipeline_tag: question-answering

widget: - text: "ما هي العوامل التي تؤثر على سرعة الموصلات العصبية؟" context: "تتأثر الألياف العصبية الطويلة بدرجة أكبر من الألياف العصبية القصيرة، وذلك لأن سرعة التوصيل في العصب تنقص في تناسب مع طول العصب. في هذه المتلازمة، يحدث انخفاض في الإحساس وفقدان ردود الفعل في أصابع كل قدم، وتمتد بعد ذلك إلى أعلى. وعادة ما توصف باحساس الخدر وفقدان الإحساس وعسر اللمس (انخفاض أو فقدان الإحساس في جزء من الجسم) وألم ليلي فيما يشبه القفاز والجورب. ويمكن أن يكون الألم في هيئة حرقان أو وخز أو ألم غير محدد. ويكون الاحساس بوخز الدبابيس والإبر أمراً شائعاً. ويتأثر الاحساس بوضع أعضاء الجسم لبعضها proprioception مبكرا. ولا يمكن لهؤلاء المرضى الشعور عندما يدوسون على جسم غريب كالشظية، أو عندما يتكون لهم جلد صلب من الأحذية الضيقة. وبناء على ذلك، فإنهم معرضون لخطر حدوث القرحة والتهابات القدمين والساقين، والتي يمكن أن تؤدي إلى البتر وقد يحدث لهؤلاء المرضى كسورا متعددة في الركبة أو الكاحل أو القدم وقد تؤدي إلى حدوث انحلال في المفاصل. ويؤدي فقدان وظيفة الحركة إلى تقوس القدم لأعلى dorsiflexion، وتقلص أصابع القدم وفقدان وظيفة العضلات بين الأصابع، مما يسمى بالقدم المطرقة. ولا تقتصر هذه التقلصات على القدم فقط، بل أيضا تصيب اليد حيث فقدان العضلات يجعل اليد تبدو هزيلة كالهيكل العظمي ويزداد فقدان الوظيفة الحركية" example_title: "Example 1" - text: "ما لقب خالد بن الوليد بالعربية؟" context: "خالد بن الوليد من أبطال وقادة الفتح الإسلامي وقد تحدثت عنه اللغات الإنجليزية والفرنسية والإسبانية ولقب بسيف الله المسلول." example_title: "Example 2" - text: "أين أسكن؟" context: "إسمي محمد وأسكن في بيروت" example_title: "Example 3"

model_outputs

This model is a fine-tuned version of riotu-lab/ArabianGPT-03B on an unknown dataset. It achieves the following results on the evaluation set:

• Loss: 4.8610

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 0.0003
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 4
• total_train_batch_size: 32
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: cosine
• num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
6.4515	0.25	10	4.5855
4.8912	0.49	20	4.1608
4.3524	0.74	30	4.0509
4.1537	0.99	40	4.0484
3.6716	1.23	50	4.0211
3.4284	1.48	60	4.1357
3.5215	1.73	70	4.2520
3.4336	1.98	80	4.0270
2.8886	2.22	90	4.9232
2.6176	2.47	100	5.0723
2.5867	2.72	110	4.8623
2.6076	2.96	120	4.8610

Framework versions

• Transformers 4.39.3
• Pytorch 2.1.2
• Datasets 2.18.0
• Tokenizers 0.15.2