Update app.py

app.py

@@ -13,7 +13,7 @@ model, tokenizer = FastVisionModel.from_pretrained(
     "0llheaven/Llama-3.2-11B-Vision-Radiology-mini",
     load_in_4bit=True,
     use_gradient_checkpointing="unsloth",
-)
+).to("cpu")
 
 # เปลี่ยนโหมดของโมเดลเป็นสำหรับ inference
 FastVisionModel.for_inference(model)
@@ -48,7 +48,7 @@ def predict_radiology_description(image, instruction):
             input_text,
             add_special_tokens=False,
             return_tensors="pt",
-        ).to("cuda")
+        ).to("cpu")
 
         # ใช้ TextStreamer สำหรับการพยากรณ์
         text_streamer = TextStreamer(tokenizer, skip_prompt=True)