Instructions to use abdallah3id/rawda-4b-instruct with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use abdallah3id/rawda-4b-instruct with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="abdallah3id/rawda-4b-instruct")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("abdallah3id/rawda-4b-instruct")
model = AutoModelForCausalLM.from_pretrained("abdallah3id/rawda-4b-instruct", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use abdallah3id/rawda-4b-instruct with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "abdallah3id/rawda-4b-instruct"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "abdallah3id/rawda-4b-instruct",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/abdallah3id/rawda-4b-instruct

SGLang

How to use abdallah3id/rawda-4b-instruct with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "abdallah3id/rawda-4b-instruct" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "abdallah3id/rawda-4b-instruct",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "abdallah3id/rawda-4b-instruct" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "abdallah3id/rawda-4b-instruct",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use abdallah3id/rawda-4b-instruct with Docker Model Runner:
```
docker model run hf.co/abdallah3id/rawda-4b-instruct
```

ABD3ID AI 4B

مساعد ذكاء اصطناعي متعدد اللغات

متعدد اللغات · اتباع التعليمات · المعرفة · البرمجة

إدارة صفحة المشروع والتوثيق: Abdalla Eid

العربية · English

نبذة بالعربية

ABD3ID AI 4B هو اسم عرض للمشروع ونسخة مرآة من النموذج Qwen3-4B-Instruct-2507. يتيح هذا المستودع الوصول إلى النموذج وتعريف المشروع وتوثيقه؛ ولا يدّعي إنشاء الأوزان الأصلية أو إجراء تدريب إضافي عليها.

يدعم النموذج المحادثة واتباع التعليمات والكتابة والتلخيص والأسئلة العامة ومهام البرمجة، مع إمكانات متعددة اللغات. تختلف جودة الإجابات باختلاف اللغة والمهمة، ولا تُعد المواصفات أو النتائج المنشورة للنموذج الأساسي ضمانًا لأداء هذه النسخة في كل استخدام.

تنبيه بشأن الأوزان: بحسب وصف الإصدار، الأوزان منسوخة دون تعديل من النموذج الأساسي. لم يُجرَ تدريب إضافي أو ضبط دقيق موثق في هذه النسخة. دور Abdalla Eid هو إدارة صفحة المشروع وهويته وتوثيقه، وليس ادعاء تأليف النموذج الأساسي أو أوزانه.

مواصفات النموذج

الخاصية	القيمة
اسم المشروع	ABD3ID AI 4B
النموذج الأساسي	Qwen3-4B-Instruct-2507
حالة الأوزان	مرآة غير معدّلة وفق معلومات الإصدار؛ لم يوثق تدريب إضافي
البنية	نموذج لغوي سببي
عدد المعاملات	نحو 4.0 مليار بحسب بطاقة النموذج الأساسي
عدد المعاملات غير التضمينية	نحو 3.6 مليار بحسب بطاقة النموذج الأساسي
عدد الطبقات	36 بحسب بطاقة النموذج الأساسي
سياق الإدخال الأصلي	حتى 262,144 رمزًا بحسب بطاقة النموذج الأساسي؛ يتأثر الاستخدام الفعلي بالذاكرة وإعدادات التشغيل
نمط الاستجابة	Instruct غير تفكيري بحسب بطاقة النموذج الأساسي
الترخيص	Apache-2.0 وفق مستودع النموذج الأساسي
إدارة صفحة المشروع والتوثيق	Abdalla Eid

المواصفات الفنية أعلاه منقولة عن بطاقة النموذج الأساسي، وليست نتيجة قياس مستقل لهذه المرآة. راجع ملفات الإصدار وإعداداته قبل اعتمادها في بيئة تشغيل محددة.

أمثلة على الاستخدام

المحادثة واتباع التعليمات.
إنشاء المسودات وإعادة الصياغة والتلخيص.
المساعدة في فهم النصوص والأسئلة العامة.
كتابة الشيفرات وشرحها واقتراح خطوات تصحيح الأخطاء.
إعداد مواد متعددة اللغات، مع ضرورة اختبار الجودة لكل لغة ومجال.

هذه أمثلة لمهام مناسبة للتجربة وليست ضمانًا لصحة الإجابات أو تفوق النموذج.

بدء الاستخدام باستخدام Transformers

يتطلب تحميل النموذج اتصالًا بمستودع النموذج الأساسي أو نسخة كاملة من ملفاته، وذاكرة مناسبة لحجم الأوزان وسياق الإدخال.

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-4B-Instruct-2507"

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "اكتب دالة Python تجمع الأعداد في قائمة واشرحها باختصار."}
]

prompt = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
)
inputs = tokenizer([prompt], return_tensors="pt").to(model.device)
output = model.generate(**inputs, max_new_tokens=512)
new_tokens = output[0][inputs.input_ids.shape[1]:]
print(tokenizer.decode(new_tokens, skip_special_tokens=True))

قد تختلف متطلبات Transformers والذاكرة بحسب بيئة التشغيل. عند نفاد الذاكرة، خفّض طول السياق أو استخدم إعدادات استدلال مناسبة لعتادك؛ لا يعني دعم طول سياق كبير أن تشغيله ممكن على كل جهاز.

طريقة التحقق من هذه النسخة

قبل وصف أي نسخة بأنها مضبوطة أو محسّنة، قارن بصمة ملفات الأوزان وإعدادات النموذج مع الإصدار الأساسي. إذا أُضيف ضبط لاحقًا، فوثّق إصدار الأوزان السابق، ومصدر بيانات التدريب وتراخيصها، وطريقة الضبط وسجلاته، وإعدادات التدريب، ونتائج اختبار قابلة للتكرار على مجموعة ثابتة.

لا تُنسب نتائج اختبارات النموذج الأساسي تلقائيًا إلى المرآة أو إلى أي إصدار لاحق. لم تُرفق في هذه البطاقة نتائج مستقلة لقياس جودة ABD3ID AI 4B.

القيود والاستخدام المسؤول

قد ينتج النموذج معلومات غير دقيقة أو إجابات واثقة لكنها خاطئة.
قد يخطئ في الشيفرات أو واجهات البرمجة أو الإصدارات، لذلك شغّل الاختبارات وراجع التبعيات قبل الاستخدام.
لا تدخل أسرارًا أو بيانات شخصية أو معلومات حساسة في بيئة غير موثوقة.
لا تعتمد عليه وحده في القرارات الطبية أو القانونية أو المالية أو غيرها من القرارات عالية الأثر.
المخرجات ليست بديلًا عن مراجعة بشرية مناسبة لطبيعة الاستخدام.

المصدر والترخيص والإسناد

هذه النسخة مرآة من أوزان Qwen3-4B-Instruct-2507 وفق وصف الإصدار، دون ضبط إضافي موثق. النموذج الأساسي منشور بترخيص Apache-2.0؛ راجع ملف الترخيص الأصلي واحتفظ بإشعاراته وشروطه عند إعادة الاستخدام أو التوزيع. اسم ABD3ID AI وهوية صفحة المشروع وتوثيق هذه المرآة مرتبطة بإدارة Abdalla Eid، ولا تنقل ملكية الأوزان الأساسية أو المواد الخارجية إليه.

English Overview

ABD3ID AI 4B is the project's display name for a mirror of Qwen3-4B-Instruct-2507. This repository provides the project identity and documentation; it does not claim authorship of the original model weights or documented additional training.

The model can be used for instruction following, conversation, drafting, summarization, general questions, and coding assistance, with multilingual capabilities. Quality varies by language and task. Specifications or results published for the upstream model are not a guarantee of performance for every use of this mirror.

Weight status: The release description identifies these as unchanged weights from the upstream model. No additional training or fine-tuning is documented for this mirror. Abdalla Eid maintains the project page, identity, and documentation; this is not a claim of authorship of the upstream model or weights.

Model specifications

Property	Value
Project name	ABD3ID AI 4B
Upstream model	Qwen3-4B-Instruct-2507
Weight status	Described as an unchanged mirror; no additional training documented
Architecture	Causal language model
Parameter count	Approximately 4.0B, according to the upstream model card
Non-embedding parameters	Approximately 3.6B, according to the upstream model card
Layers	36, according to the upstream model card
Native context	Up to 262,144 tokens, according to the upstream model card; practical use depends on memory and runtime settings
Response mode	Non-thinking instruct mode, according to the upstream model card
License	Apache-2.0 according to the upstream model repository
Project-page and documentation maintainer	Abdalla Eid

Technical specifications are attributed to the upstream model card, not to an independent evaluation of this mirror. Verify the release files and runtime configuration before relying on them in a specific environment.

Intended use

Conversation and instruction following.
Drafting, rewriting, and summarization.
General text and question-answering tasks.
Code generation, explanation, and debugging suggestions.
Multilingual tasks, with quality to be tested separately for each language and domain.

These are suitable tasks to try, not guarantees of correctness or superiority.

Quickstart with Transformers

Loading requires access to the upstream model repository or a complete local copy of its files, as well as sufficient memory for the weights and chosen context length.

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-4B-Instruct-2507"

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "Write a Python function that sums a list of numbers and briefly explain it."}
]

prompt = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
)
inputs = tokenizer([prompt], return_tensors="pt").to(model.device)
output = model.generate(**inputs, max_new_tokens=512)
new_tokens = output[0][inputs.input_ids.shape[1]:]
print(tokenizer.decode(new_tokens, skip_special_tokens=True))

Transformers versions and memory requirements vary by runtime. If memory is insufficient, reduce the context length or select inference settings appropriate to your hardware; support for a long context does not mean every device can run it.

Verifying this release

Before describing any copy as fine-tuned or improved, compare its weight-file hashes and configuration with the upstream release. If future training is performed, document the starting revision, training-data sources and licenses, tuning method and logs, configuration, and reproducible evaluation results on a fixed test set.

Do not attribute upstream benchmark results automatically to this mirror or a later release. No independent ABD3ID AI 4B evaluation results are included in this card.

Limitations and responsible use

The model can generate inaccurate information or confident but incorrect answers.
Code, APIs, and version details may be wrong; run tests and review dependencies before use.
Do not enter secrets, personal data, or sensitive information into an untrusted environment.
Do not rely on the model alone for high-impact medical, legal, financial, or similar decisions.
Outputs do not replace appropriate human review.

Source, license, and attribution

This release is described as a mirror of Qwen3-4B-Instruct-2507 weights without documented additional fine-tuning. The upstream model is published under Apache-2.0; review the upstream license file and retain its notices and terms when reusing or redistributing it. The ABD3ID AI name, project-page identity, and documentation of this mirror are maintained by Abdalla Eid; this does not transfer ownership of the upstream weights or third-party materials.

Downloads last month: 497

Safetensors

Model size

4B params

Tensor type

BF16

Model tree for abdallah3id/rawda-4b-instruct

Base model

Qwen/Qwen3-4B-Instruct-2507

Finetuned

(2389)

this model

Collection including abdallah3id/rawda-4b-instruct

Rawda AI

Collection

13 items • Updated 4 days ago • 1