Update app.py

app.py

@@ -37,10 +37,6 @@ _gc_utils.json_schema_to_python_type = _safe_outer
 
 import os
 
-import base64
-import traceback
-from io import BytesIO
-
 import gradio as gr
 import matplotlib.pyplot as plt
 import pandas as pd
@@ -48,7 +44,8 @@ import torch
 import torch.nn.functional as F
 from PIL import Image
 from transformers import CLIPModel, CLIPProcessor
-from huggingface_hub import InferenceClient
+
+import google.generativeai as genai
 
 # ---------------------------------------------------------------------------
 # Settings
@@ -57,18 +54,28 @@ APP_PASSWORD = os.getenv("APP_PASSWORD", "9890")
 PLIP_MODEL_ID = "vinid/plip"
 DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
 
-# HuggingFace Inference API for Q&A — no local model loading, no memory issues.
-# IMPORTANT: HF moved most VLMs behind paid Inference Providers (Hyperbolic,
-# Together, Novita, etc.). An HF_TOKEN is REQUIRED as a Space Secret.
-# Models listed in order of preference; we fall through to the next on error.
-HF_TOKEN = os.getenv("HF_TOKEN")
-VLM_API_MODELS = [
-    "Qwen/Qwen2.5-VL-7B-Instruct",
-    "Qwen/Qwen2-VL-7B-Instruct",
-    "meta-llama/Llama-3.2-11B-Vision-Instruct",
-    "HuggingFaceM4/idefics3-8b-llama3",
+# Google Gemini API — free tier: 1500 requests/day for 2.0-flash, no card needed.
+# Get a free key at: https://aistudio.google.com/app/apikey
+# Add it as a Space Secret named GEMINI_API_KEY.
+GEMINI_API_KEY = os.getenv("GEMINI_API_KEY")
+if GEMINI_API_KEY:
+    genai.configure(api_key=GEMINI_API_KEY)
+
+# Models tried in order. Newer/stronger first.
+GEMINI_MODELS = [
+    "gemini-2.0-flash",
+    "gemini-2.0-flash-exp",
+    "gemini-1.5-flash",
+    "gemini-1.5-flash-8b",
+]
+
+# Relaxed safety thresholds — medical/pathology images can be flagged otherwise.
+GEMINI_SAFETY = [
+    {"category": "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_NONE"},
+    {"category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_NONE"},
+    {"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_NONE"},
+    {"category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_NONE"},
 ]
-inference_client = InferenceClient(token=HF_TOKEN)
 
 DEFAULT_PROMPT = (
     "Normal oral mucosa with regular stratified squamous epithelium\n"
@@ -362,20 +369,9 @@ def diagnose(image, prompt_text):
 
 
 # ---------------------------------------------------------------------------
-# Q&A inference — HuggingFace Inference API (hosted VLMs, no local memory)
+# Q&A inference — Google Gemini API
+# Free tier: 1,500 requests/day for gemini-2.0-flash, no credit card required.
 # ---------------------------------------------------------------------------
-def _image_to_data_url(pil_img):
-    """Encode PIL image as base64 data URL for the chat API."""
-    # Cap size to keep API request small and fast
-    img = pil_img.copy()
-    if max(img.size) > 1024:
-        img.thumbnail((1024, 1024))
-    buf = BytesIO()
-    img.save(buf, format="JPEG", quality=88)
-    b64 = base64.b64encode(buf.getvalue()).decode()
-    return f"data:image/jpeg;base64,{b64}"
-
-
 def _warning_html(title, body):
     return (
         "<div class='result-card warning-card'>"
@@ -393,9 +389,8 @@ def _qa_success_html(question, answer, model_used):
         "<div class='qa-question'><strong>السؤال:</strong> "
         f"{question}</div>"
         f"<div class='qa-answer'>{answer}</div>"
-        "<div class='result-note'>⚕️ نموذج عام للذكاء الاصطناعي البصري "
-        f"({model_used.split('/')[-1]}). للاستكشاف والتعليم فقط — "
-        "ليس بديلاً عن المشرّح المرضي.</div>"
+        f"<div class='result-note'>🤖 Google Gemini ({model_used}). "
+        "للاستكشاف والتعليم فقط — ليس بديلاً عن المشرّح المرضي.</div>"
         "</div>"
     )
 
@@ -404,7 +399,7 @@ def answer_question(image, question):
     if image is None:
         return _warning_html(
             "لم يتم رفع صورة",
-            "ارفع صورة نسيجية أولاً ثم اكتب سؤالك.",
+            "ارفع صورة نسيجية أولاً (في خانة الصورة بالأعلى) ثم اكتب سؤالك.",
         )
 
     q = (question or "").strip()
@@ -414,67 +409,80 @@ def answer_question(image, question):
             "اكتب سؤالك أو طلبك بالإنجليزية (يعطي نتائج أفضل) أو بالعربية.",
         )
 
+    if not GEMINI_API_KEY:
+        return (
+            "<div class='result-card warning-card'>"
+            "<div class='result-icon'>🔑</div>"
+            "<div class='result-title' style='color:#c0392b;'>"
+            "GEMINI_API_KEY غير مُعرَّف</div>"
+            "<div class='result-sub'>"
+            "يحتاج هذا الوضع مفتاح Google Gemini API (مجاني تماماً). "
+            "احصل عليه من:"
+            "<br><br>"
+            "🔗 <a href='https://aistudio.google.com/app/apikey' target='_blank'>"
+            "https://aistudio.google.com/app/apikey</a>"
+            "<br><br>"
+            "ثم أضفه في Space → <strong>Settings</strong> → "
+            "<strong>Variables and secrets</strong> → "
+            "<strong>New secret</strong>:"
+            "<ul style='text-align:right;margin-top:8px;'>"
+            "<li><strong>Name:</strong> <code>GEMINI_API_KEY</code></li>"
+            "<li><strong>Value:</strong> الصق المفتاح</li>"
+            "</ul>"
+            "ثم اضغط <strong>Restart Space</strong>."
+            "</div>"
+            "</div>"
+        )
+
     pil_img = image if isinstance(image, Image.Image) else Image.fromarray(image)
     pil_img = pil_img.convert("RGB")
-    data_url = _image_to_data_url(pil_img)
 
-    messages = [{
-        "role": "user",
-        "content": [
-            {"type": "image_url", "image_url": {"url": data_url}},
-            {"type": "text", "text": q},
-        ],
-    }]
+    # Resize large images to keep API requests fast
+    if max(pil_img.size) > 1280:
+        pil_img.thumbnail((1280, 1280))
 
-    # Try multiple models in order — fall back on failure
+    # Try models in order, fall through on failure
     errors = []
-    for model_id in VLM_API_MODELS:
+    for model_name in GEMINI_MODELS:
         try:
-            response = inference_client.chat_completion(
-                messages=messages,
-                model=model_id,
-                max_tokens=500,
-                temperature=0.4,
+            gemini = genai.GenerativeModel(
+                model_name,
+                safety_settings=GEMINI_SAFETY,
             )
-            answer = response.choices[0].message.content.strip()
+            response = gemini.generate_content(
+                [q, pil_img],
+                generation_config={
+                    "temperature": 0.4,
+                    "max_output_tokens": 800,
+                },
+            )
+            answer = (response.text or "").strip()
             if answer:
-                return _qa_success_html(q, answer, model_id)
+                return _qa_success_html(q, answer, model_name)
+            errors.append(f"<strong>{model_name}:</strong> empty response "
+                          "(possibly blocked by safety filter)")
         except Exception as e:
-            errors.append(f"<strong>{model_id.split('/')[-1]}:</strong> "
+            errors.append(f"<strong>{model_name}:</strong> "
                           f"{type(e).__name__}: {str(e)[:200]}")
             continue
 
-    # All models failed — show diagnostic info
     err_list = "<br>• ".join(errors) if errors else "Unknown error"
-    token_status = (
-        "<span style='color:#27ae60;'>✓ HF_TOKEN موجود</span>"
-        if HF_TOKEN
-        else "<span style='color:#c0392b;'>✗ HF_TOKEN غير موجود — هذا هو السبب الأرجح</span>"
-    )
     return (
         "<div class='result-card warning-card'>"
         "<div class='result-icon'>❌</div>"
         "<div class='result-title' style='color:#c0392b;'>"
         "تعذّر الحصول على إجابة</div>"
-        "<div class='result-sub' style='margin-bottom:12px;'>"
-        f"<strong>حالة المصادقة:</strong> {token_status}</div>"
         "<div class='result-sub'>الأسباب المحتملة:"
         "<ul style='text-align:right;margin-top:10px;'>"
-        "<li>لم يُضَف <code>HF_TOKEN</code> كـ Secret في إعدادات الـ Space</li>"
-        "<li>تجاوز حصة الاستخدام المجانية لـ Hugging Face API</li>"
-        "<li>النموذج غير متاح حالياً على Inference Providers</li>"
-        "<li>مشكلة شبكة مؤقتة</li>"
+        "<li>المفتاح <code>GEMINI_API_KEY</code> غير صالح أو منتهي</li>"
+        "<li>تجاوز حصة الـ 1,500 طلب اليومية المجانية</li>"
+        "<li>الصورة كبيرة جداً (سيُعاد ضغطها تلقائياً)</li>"
+        "<li>مشكلة شبكة مؤقتة (جرّب بعد دقيقة)</li>"
         "</ul></div>"
         "<details style='text-align:left;direction:ltr;margin-top:12px;'>"
         "<summary style='cursor:pointer;color:#7f8c8d;'>تفاصيل تقنية</summary>"
         f"<pre style='font-size:0.8em;white-space:pre-wrap;'>• {err_list}</pre>"
         "</details>"
-        "<div class='result-note' style='margin-top:14px;'>"
-        "💡 الحل: أضف <code>HF_TOKEN</code> من "
-        "<a href='https://huggingface.co/settings/tokens' target='_blank'>"
-        "huggingface.co/settings/tokens</a> ثم Settings → "
-        "Variables and secrets في الـ Space."
-        "</div>"
         "</div>"
     )
 
@@ -983,11 +991,10 @@ with gr.Blocks(title="تشخيص OED — PLIP",
                         )
                         gr.HTML(
                             "<div class='prompt-hint'>"
-                            "💡 يستخدم هذا الوضع نماذج رؤية-لغة كبيرة "
-                            "(Qwen2.5-VL، Llama 3.2 Vision) عبر "
-                            "HuggingFace Inference API. الإجابة تأخذ "
-                            "~5-10 ثواني. الأسئلة بالإنجليزية تعطي نتائج "
-                            "أدق."
+                            "💡 يستخدم هذا الوضع نموذج <strong>"
+                            "Google Gemini 2.0 Flash</strong> (مجاني، "
+                            "1500 طلب/يوم). الإجابة تأخذ ~3-5 ثواني. "
+                            "الأسئلة بالإنجليزية تعطي نتائج أدق."
                             "</div>"
                         )