AceGPT-13B / README.md
sxn6144's picture
Update README.md
f9498b8
metadata
license: apache-2.0
language:
  - ar

AceGPT

AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
Arabic language domain. This is the repository for the 13B pretrained model.


Model Details

We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
categories: AceGPT and AceGPT-chat. AceGPT-chat is an optimized version specifically designed for dialogue
applications. It is worth mentioning that our models have demonstrated superior performance compared
to all currently available open-source Arabic dialogue models in multiple benchmark tests. Furthermore,
in our human evaluations, our models have shown comparable satisfaction levels to some closed-source models,
such as ChatGPT, in the Arabic language.

Model Developers

We are from the School of Data Science, the Chinese University of Hong Kong, Shenzhen (CUHKSZ), and
the Shenzhen Research Institute of Big Data (SRIBD).

Variations

AceGPT famils comes in a range of parameter sizes —— 7B and 13B, each size of model has a base categorie
and a -chat categorie.

Input

Models input text only.

Output

Models output text only.

Model Evaluation Results

Experiments on Arabic MMLU and EXAMs. 'AverageBest', 'STEM','Humanities','Social Sciences' and 'Others (Business, Health, Misc)'
belong to Arabic MMLU. Best performance is in bold and the second best is underlined.

Model Average STEM Humanities Social Sciences Others (Business, Health, Misc) EXAMs
Bloomz Muennighoff et al. (2022) 30.95 32.32 26.71 35.85 28.95 33.89
Llama2-7B 28.81 28.48 26.68 29.88 30.18 23.48
Llama2-13B 31.25 31.06 27.11 35.5 31.35 25.45
Jais-13B-base 30.01 27.85 25.42 39.7 27.06 35.67
AceGPT-7B-base 30.36 26.63 28.17 35.15 31.5 31.96
AceGPT-13B-base 37.26 35.16 30.3 47.34 36.25 36.63
ChatGPT 46.07 44.17 35.33/ 61.26 43.52 45.63

Samples

Sample1(Vicuna)

  • question:

كيف يمكنني تحسين مهارات إدارة الوقت الخاصة بي؟
* answer: 1. تحديد الأولويات: قم بتحديد الأعمال الأكثر أهمية والتي تتطلب اهتمامك الأكبر. قائمة المهام المهمة ستساعدك في التركيز على ما يجب إنجازه. 2. تنظيم جدولك الزمني: استخدم تقويم أو تطبيق لتنظيم جدولك الزمني. تخطيط وقتك سيساعدك في تحقيق أقصى استفادة منه. 3. . تجنب التسويف: عندما تقوم بتأجيل مهمة، قم بتحويلها إلى مهمة فرعية وأعطها وقتاً محدداً للإنجاز. 4. استخدم تقنية بومودورو: هذه التقنية تتضمن العمل لمدة 25 دقيقة ثم أخذ استراحة لمدة 5 دقائق. هذا يساعد على تحسين التركيز والإنتاجية. 5. تعلم قول "لا": لا تتردد في رفض الأعمال التي لا تناسب جدولك أو تفوق قدراتك. 6. استخدم التكنولوجيا لمساعدتك: هناك العديد من التطبيقات والأدوات التي يمكن أن تساعدك في إدارة وقتك بشكل أفضل، مثل Google Calendar أو Todoist. 7. استراحات منتظمة: اتخذ استراحات قصيرة بانتظام لتجنب الإرهاق والحفاظ على التركيز. 8. تحسين مهارات الاتصال: القدرة على التواصل بفعالية يمكن أن تساعدك في تحقيق أهدافك بشكل أسرع. 9. تحديد الأهداف: تحديد الأهداف يمكن أن يساعدك في تحقيق ما تريد ويضع لك معنى للوقت الذي تقضيه. 10. تقييم الأداء: انظر إلى ما إذا كانت طرقك في إدارة الوقت فعالة أم لا. استعرض ما قمت بإنجازه وما الذي لم تتمكن من إنجازه. استخدم هذه المعلومات لتحسين استراتيجياتك.

Sample2(alpaca)

  • question:

ما هي أسماء بعض الممثلين المشهورين الذين بدأوا مسيراتهم المهنية على برودواي؟

  • answer:
  1. ليوناردو دي كابريو: بدأ مسيرته الفنية في برودواي على الرغم من أنه اشتهر بشكل أكبر من خلال أدواره في الأفلام.
  2. جيم كاري: بدأ مسيرته الفنية في المسرح وظهر لأول مرة على برودواي في عام 1982.
  3. ماثيو برودريك: بدأ مسيرته الفنية في برودواي وظهر لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  4. كيت بوسوورث: بدأت مسيرتها الفنية في برودواي وظهرت لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  5. جيسيكا شاستا: بدأت مسيرتها الفنية في برودواي وظهرت لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  6. بينيديكت كامببل: بدأ مسيرته الفنية في برودواي وظهر لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  7. جيمس كورتيس: بدأ مسيرته الفنية في برودواي وظهر لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  8. جودي دنش: بدأت مسيرتها الفنية في برودواي وظهرت لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  9. ريان غوسلينج: بدأ مسيرته الفنية في برودواي وظهر لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010.
  10. جيسيكا لانج: بدأت مسيرتها الفنية في برودواي وظهرت لأول مرة على الشاشة في فيلم "The Phantom" في عام 2010."

You can get more detail at https://github.com/FreedomIntelligence/AceGPT/tree/main