Update app.py

app.py

@@ -1,30 +1,46 @@
-import torch
-from transformers import AutoModelForCausalLM, AutoTokenizer
 import gradio as gr
+from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
+import torch
+
+# تحميل الموديل والتوكنيزر
+model_name = "NousResearch/Hermes-2-Pro-Mistral-7B"
 
-# تحميل النموذج
-model_id = "TheBloke/Mistral-7B-Instruct-v0.2-GGUF"  # غيّر هذا لو تستخدم موديل مختلف
-tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-Instruct-v0.2")
-model = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-Instruct-v0.2")
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(
+    model_name,
+    torch_dtype=torch.float16,
+    device_map="auto"
+)
 
-# تحديد الجهاز: CUDA إذا متوفر، وإلا CPU
-device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
-model.to(device)
+# تجهيز الـ pipeline
+generator = pipeline("text-generation", model=model, tokenizer=tokenizer)
 
 # دالة الرد على المستخدم
-def chat_fn(message, history):
-    inputs = tokenizer(message, return_tensors="pt").to(device)
-    outputs = model.generate(**inputs, max_new_tokens=200, pad_token_id=tokenizer.eos_token_id)
-    response = tokenizer.decode(outputs[0], skip_special_tokens=True)
-    return response
-
-# واجهة Gradio
-chatbot = gr.ChatInterface(
-    fn=chat_fn,
-    title="مساعد عربي تجريبي",
-    theme="default",
-    chatbot=gr.Chatbot(),
-    examples=["مرحبا", "ما هو الذكاء الاصطناعي؟", "كيف حالك؟"],
-)
+def chatbot(user_input):
+    prompt = f"""### النظام:
+أنت مساعد ذكي متخصص في مجال طب الأسنان، تجيب على الأسئلة الطبية بدقة وباللغة العربية إن أمكن.
+### المستخدم:
+{user_input}
+### المساعد:"""
+    
+    response = generator(
+        prompt,
+        max_new_tokens=300,
+        do_sample=True,
+        temperature=0.7,
+        top_p=0.95
+    )
+    
+    output_text = response[0]["generated_text"]
+    # فصل إجابة المساعد من النص الكامل
+    answer = output_text.split("### المساعد:")[-1].strip()
+    return answer
 
-chatbot.launch()
+# تصميم الواجهة بـ Gradio
+gr.Interface(
+    fn=chatbot,
+    inputs=gr.Textbox(lines=3, label="اسأل سؤالاً في طب الأسنان"),
+    outputs=gr.Textbox(lines=8, label="إجابة المساعد"),
+    title="طبيب الأسنان الآلي",
+    description="مساعد ذكي يجيب على الأسئلة الطبية المتخصصة في مجال طب الأسنان"
+).launch()