suka

app.py

@@ -1,15 +1,13 @@
 import os
 import gradio as gr
 from huggingface_hub import InferenceClient
-from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
 
-# Убедись, что токен загружен из переменной окружения или напрямую
-HF_TOKEN = os.getenv("HUGGINGFACE_TOKEN")  # Загрузка токена из .env
+# Получаем токен из секрета
+hf_token = os.environ.get("HUGGINGFACE_TOKEN")
+
+client = InferenceClient("sambanovasystems/SambaLingo-Russian-Chat", token=hf_token)
 
-# Инициализация клиента
-client = InferenceClient("sambanovasystems/SambaLingo-Russian-Chat", token=HF_TOKEN)
 
-# Функция для ответа на сообщения
 def respond(
     message,
     history: list[tuple[str, str]],
@@ -41,7 +39,7 @@ def respond(
         response += token
         yield response
 
-# Настройка интерфейса Gradio
+
 demo = gr.ChatInterface(
     respond,
     additional_inputs=[
@@ -58,5 +56,6 @@ demo = gr.ChatInterface(
     ],
 )
 
+
 if __name__ == "__main__":
     demo.launch()