Update app.py

app.py

@@ -14,7 +14,7 @@ prompt_template = Template("Human: ${inst} </s> Assistant: ")
 # 모델과 토크나이저 로드
 model_name = "meta-llama/Llama-3.2-3b-instruct"  # 모델 경로
 tokenizer = AutoTokenizer.from_pretrained(model_name, use_fast=False)
-model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="cuda").eval()
+model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="cpu").eval()
 
 # 생성 설정 (Gradio UI에서 제어할 수 있는 변수들)
 default_generation_config = GenerationConfig(