Spaces:
Running
Running
import gradio as gr | |
import requests | |
import json | |
import os | |
# Функция для загрузки системной роли из JSON файла | |
def load_system_role(role_name): | |
with open('system_roles.json', 'r', encoding='utf-8') as file: | |
roles = json.load(file) | |
return roles.get(role_name, "Ты помощник по умолчанию.") | |
# Функция для загрузки названий ролей из JSON файла | |
def load_role_names(): | |
with open('system_roles.json', 'r', encoding='utf-8') as file: | |
roles = json.load(file) | |
return list(roles.keys()) | |
# Функция для генерации текста | |
def generate(description, system_role_name, max_tokens): | |
if not description: | |
return None, None | |
system_role = load_system_role(system_role_name) | |
headers = { | |
'Content-Type': 'application/json', | |
'Authorization': f'Bearer {os.getenv("API_KEY")}' | |
} | |
payload = { | |
'messages': [{'role': 'system', 'content': system_role}, {'role': 'user', 'content': description}], | |
'max_tokens': max_tokens, | |
'model': "gemini-1.5-pro-latest" | |
} | |
try: | |
response = requests.post(os.getenv("BASE_URL"), headers=headers, json=payload, timeout=200) | |
response.raise_for_status() # Проверяем на ошибки HTTP | |
data = response.json() # Используем response.json() вместо json.loads() | |
if 'choices' in data and len(data['choices']) > 0: | |
command = data['choices'][0]['message']['content'].strip() | |
print("Генерация успешна") | |
return command, command | |
elif 'error' in data: | |
error_message = data['error']['message'] | |
print(f'Ошибка: {error_message}') | |
return f"**Ошибка сервера!**\n\n```\n{error_message}\n```", f"Ошибка сервера!\n\n{error_message}" | |
else: | |
print(f'Не удалось сгенерировать текст. Ответ сервера: {data}') # Выводим ответ сервера для отладки | |
return "**Неизвестная ошибка!**", "Неизвестная ошибка!" | |
except requests.exceptions.RequestException as e: | |
print(f"Ошибка запроса: {e}") | |
return f"**Ошибка запроса!**\n\n```\n{e}\n```", f"Ошибка запроса!\n\n{e}" | |
# Ссылка на файл CSS | |
css_url = "https://neurixyufi-aihub.static.hf.space/style.css" | |
# Получение CSS по ссылке | |
response = requests.get(css_url) | |
css = response.text + ".gradio-container{max-width: 700px !important} h1{text-align:center}" | |
# Загрузка названий ролей из JSON файла | |
role_names = load_role_names() | |
# UI | |
with gr.Blocks(css=css) as demo: | |
gr.Markdown("# EasyGemini") | |
with gr.Tab("Запрос"): | |
with gr.Row(): | |
promt = gr.Textbox(show_label=True, label="Запрос", lines=3) | |
with gr.Row(): | |
with gr.Accordion(label="Помощник", open=False): | |
helper_role = gr.Radio(show_label=True, label="Выберите помощника", interactive=True, choices=role_names, value=role_names[0]) | |
with gr.Tab("Настройки"): | |
with gr.Row(): | |
max_tokens = gr.Slider(show_label=True, label="Максимальное количество символов", minimum=100, maximum=8000, value=4000, step=1) | |
with gr.Row(): | |
text_button = gr.Button("Генерация", variant='primary') | |
with gr.Row(): | |
with gr.Tab("Ответ"): | |
text_output = gr.Markdown(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?") | |
with gr.Accordion(label="Без форматирования", open=False): | |
text_output_nm = gr.Textbox(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?", lines=3) | |
text_button.click(generate, inputs=[promt, helper_role, max_tokens], outputs=[text_output, text_output_nm]) | |
demo.queue(api_open=False, max_size=150).launch() |