easy-text / app.py
Rooni's picture
Update app.py
cf9abb6 verified
raw
history blame
4.22 kB
import gradio as gr
import requests
import json
import os
# Функция для загрузки системной роли из JSON файла
def load_system_role(role_name):
with open('system_roles.json', 'r', encoding='utf-8') as file:
roles = json.load(file)
return roles.get(role_name, "Ты помощник по умолчанию.")
# Функция для загрузки названий ролей из JSON файла
def load_role_names():
with open('system_roles.json', 'r', encoding='utf-8') as file:
roles = json.load(file)
return list(roles.keys())
# Функция для генерации текста
def generate(description, system_role_name, max_tokens):
if not description:
return None, None
system_role = load_system_role(system_role_name)
headers = {
'Content-Type': 'application/json',
'Authorization': f'Bearer {os.getenv("API_KEY")}'
}
payload = {
'messages': [{'role': 'system', 'content': system_role}, {'role': 'user', 'content': description}],
'max_tokens': max_tokens,
'model': "gemini-1.5-pro-latest"
}
try:
response = requests.post(os.getenv("BASE_URL"), headers=headers, json=payload, timeout=200)
response.raise_for_status() # Проверяем на ошибки HTTP
data = response.json() # Используем response.json() вместо json.loads()
if 'choices' in data and len(data['choices']) > 0:
command = data['choices'][0]['message']['content'].strip()
print("Генерация успешна")
return command, command
elif 'error' in data:
error_message = data['error']['message']
print(f'Ошибка: {error_message}')
return f"**Ошибка сервера!**\n\n```\n{error_message}\n```", f"Ошибка сервера!\n\n{error_message}"
else:
print(f'Не удалось сгенерировать текст. Ответ сервера: {data}') # Выводим ответ сервера для отладки
return "**Неизвестная ошибка!**", "Неизвестная ошибка!"
except requests.exceptions.RequestException as e:
print(f"Ошибка запроса: {e}")
return f"**Ошибка запроса!**\n\n```\n{e}\n```", f"Ошибка запроса!\n\n{e}"
# Ссылка на файл CSS
css_url = "https://neurixyufi-aihub.static.hf.space/style.css"
# Получение CSS по ссылке
response = requests.get(css_url)
css = response.text + ".gradio-container{max-width: 700px !important} h1{text-align:center}"
# Загрузка названий ролей из JSON файла
role_names = load_role_names()
# UI
with gr.Blocks(css=css) as demo:
gr.Markdown("# EasyGemini")
with gr.Tab("Запрос"):
with gr.Row():
promt = gr.Textbox(show_label=True, label="Запрос", lines=3)
with gr.Row():
with gr.Accordion(label="Помощник", open=False):
helper_role = gr.Radio(show_label=True, label="Выберите помощника", interactive=True, choices=role_names, value=role_names[0])
with gr.Tab("Настройки"):
with gr.Row():
max_tokens = gr.Slider(show_label=True, label="Максимальное количество символов", minimum=100, maximum=8000, value=4000, step=1)
with gr.Row():
text_button = gr.Button("Генерация", variant='primary')
with gr.Row():
with gr.Tab("Ответ"):
text_output = gr.Markdown(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?")
with gr.Accordion(label="Без форматирования", open=False):
text_output_nm = gr.Textbox(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?", lines=3)
text_button.click(generate, inputs=[promt, helper_role, max_tokens], outputs=[text_output, text_output_nm])
demo.queue(api_open=False, max_size=150).launch()