Update app.py

app.py

@@ -1,30 +1,33 @@
 import os
 from huggingface_hub import login
-from transformers import AutoModelForCausalLM, AutoTokenizer
+from transformers import AutoTokenizer, AutoModelForSequenceClassification
 import gradio as gr
+import torch
 
 # Autenticar usando el token almacenado como secreto
 hf_token = os.getenv("HF_API_TOKEN")
 login(hf_token)
 
 # Cargar el modelo y el tokenizador
-model_name = "meta-llama/Meta-Llama-3-8B"
+model_name = "bertin-project/bertin-roberta-base-spanish"
 tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(model_name)
+model = AutoModelForSequenceClassification.from_pretrained(model_name)
 
-def chat_with_llama(input_text):
-    inputs = tokenizer(input_text, return_tensors="pt")
-    outputs = model.generate(**inputs)
-    response = tokenizer.decode(outputs[0], skip_special_tokens=True)
-    return response
+def classify_text(input_text):
+    inputs = tokenizer(input_text, return_tensors="pt", truncation=True, max_length=512)
+    with torch.no_grad():
+        outputs = model(**inputs)
+    logits = outputs.logits
+    predicted_class_id = torch.argmax(logits, dim=-1).item()
+    return predicted_class_id
 
 # Crear la interfaz con Gradio
 iface = gr.Interface(
-    fn=chat_with_llama,
+    fn=classify_text,
     inputs="text",
     outputs="text",
-    title="Chat con LLaMA 3",
-    description="Interfaz simple para comunicarte con el modelo LLaMA 3."
+    title="Clasificador en Español con BERTin",
+    description="Interfaz para clasificar texto en español usando el modelo BERTin RoBERTa base."
 )
 
 iface.launch()