Update app.py

app.py

@@ -1,13 +1,16 @@
+import os
 import gradio as gr
-import torch
 from huggingface_hub import InferenceClient
 
-# Khởi tạo client với token
-client = InferenceClient(repo_id="Arrcttacsrks/Llama-3.2-3B-Instruct_gguf", token="YOUR_HUGGING_FACE_TOKEN")
+# Lấy secret key từ biến môi trường
+secret_key = os.getenv("HUGGING_FACE_SECRET_KEY")
+
+# Khởi tạo client với secret key
+client = InferenceClient(token=secret_key)
 
 def chat_with_model(user_input):
     # Gửi yêu cầu đến mô hình
-    response = client(user_input, model="Llama-3.2-3B-Instruct-Q8_0.gguf")
+    response = client(user_input, model_id="Arrcttacsrks/Llama-3.2-3B-Instruct_gguf", model_name="Llama-3.2-3B-Instruct-Q8_0.gguf")
     return response["generated_text"]
 
 # Tạo giao diện Gradio