Upload 5 files

app.py

@@ -0,0 +1,59 @@
+import gradio as gr
+from transformers import GPT2LMHeadModel, GPT2Tokenizer
+import random
+from flask import Flask, request, jsonify
+
+# Загрузка модели и токенизатора
+model_name = "ai-forever/rugpt3small_based_on_gpt2"
+tokenizer = GPT2Tokenizer.from_pretrained(model_name)
+model = GPT2LMHeadModel.from_pretrained(model_name)
+
+# Загрузка случайных фраз из файла dialogues.txt
+with open("dialogues.txt", "r", encoding="utf-8") as file:
+    random_phrases = [line.strip() for line in file.readlines() if line.strip()]
+
+# Функция генерации ответа
+def generate(prompt):
+    user_input = f"[USER]: {prompt}"
+    inputs = tokenizer.encode(prompt, return_tensors="pt")
+    outputs = model.generate(inputs, max_length=50, num_return_sequences=1, pad_token_id=tokenizer.eos_token_id)
+    response = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    
+    # Прекращаем генерацию на строке [USER]
+    if "[USER]" in response:
+        response = response.split("[USER]")[0]
+    
+    bot_message = f"[BOT]: {random.choice(random_phrases)}, {response.strip()}"
+    return bot_message
+
+# Настройка интерфейса чат-бота
+mychatbot = gr.Chatbot(
+    avatar_images=["./user.png", "./botm.png"], bubble_full_width=False, show_label=False, show_copy_button=True, likeable=True
+)
+
+# Создание интерфейса для чат-бота
+demo = gr.ChatInterface(
+    fn=generate,
+    chatbot=mychatbot,
+    title="🤬НЕАДЕКВАТ🤬",
+    retry_btn=None,
+    undo_btn=None
+)
+
+# Flask приложение
+app = Flask(__name__)
+
+@app.route("/generate", methods=["POST"])
+def generate_api():
+    data = request.json
+    if "prompt" not in data:
+        return jsonify({"error": "На что я должен отвечать, гений?"}), 400
+    
+    prompt = data["prompt"]
+    response = generate(prompt)
+    return jsonify({"response": response})
+
+# Запуск Gradio и Flask приложений
+if __name__ == "__main__":
+    demo.launch(share=True)
+    app.run(host="0.0.0.0", port=5000)

requirements.txt

@@ -0,0 +1,4 @@
+gradio==3.22.1
+transformers==4.29.2
+torch==1.13.1
+flask==2.2.3