import os import time import re import streamlit as st import requests from wordcloud import WordCloud import matplotlib.pyplot as plt # Установка API URL и заголовков API_URL_TRA = "https://api-inference.huggingface.co" \ "/models/Helsinki-NLP/opus-mt-en-ru" API_URL_KEY = "https://api-inference.huggingface.co" \ "/models/ml6team/keyphrase-extraction-kbir-inspec" API_URL_SUM = "https://api-inference.huggingface.co" \ "/models/facebook/bart-large-cnn" TOKEN = os.getenv('API_TOKEN') HEADERS = {"Authorization": TOKEN} def hugging_api_request(url, payload): response = requests.post(url, headers=HEADERS, json=payload, timeout=120) body = response.json() if 'error' in body: print(response.status_code, body) if 'estimated_time' in body: time.sleep(body['estimated_time']) else: return hugging_api_request(url, payload) return body # Функция для получения ключевых слов def get_key_words(payload): return hugging_api_request(API_URL_KEY, payload) # Функция для перевода слова def translate_key_words(payload): return hugging_api_request(API_URL_TRA, payload) # Функция для составления конспекта def make_summary(payload): return hugging_api_request(API_URL_SUM, payload) # Очищаем список слов def clean_list(words_list): cleaned_words_list = [] for word in words_list: word = word.lower() word = re.sub(r"[^а-яА-Яa-zA-Z\s]", "", word) word = word.lstrip() word = word.rstrip() cleaned_words_list.append(word) return cleaned_words_list # Настраиваем заголовок и название страницы st.set_page_config(layout="wide", page_title="Students' Personal Assistant") st.markdown(' # :female-student: Персональный помощник для студентов') st.divider() st.markdown('# :blue_book: Конспект на английском языке') col1, col2 = st.columns(2) text_from_tarea = col1.text_area('Введите тект статьи на английском языке', key='t_area', height=500) button_start = st.button('Обработать текст') key_words_list = [] if button_start: with st.spinner('Составляем конспект...'): # Составляем конспект summary_text = make_summary({"inputs": text_from_tarea}) col2.text_area('Конспект статьи', height=500, key='sum_area', value=summary_text[0]['summary_text']) with st.spinner('Получаем ключевые слова...'): # Извлекаем ключевые слова kew_words = get_key_words({"inputs": text_from_tarea}) for key_word in kew_words: key_words_list.append(key_word['word'].lower()) sorted_keywords = set(sorted(key_words_list)) sorted_keywords = clean_list(sorted_keywords) with st.spinner('Переводим ключевые слова...'): # Переводим ключевые слова translated_words_dict = translate_key_words( {"inputs": sorted_keywords}) translated_words_list = [ word['translation_text'] for word in translated_words_dict] # Создаем карточки cleaned_words_list_ru = clean_list(translated_words_list) cards_list = [] for item1, item2 in zip(sorted_keywords, cleaned_words_list_ru): cards_list.append([item1, item2]) st.success('Готово') with st.spinner('Создаем WordCloud...'): # Выводим Word Cloud st.set_option('deprecation.showPyplotGlobalUse', False) words_str = ', '.join(sorted_keywords) w = WordCloud(background_color="white", width=1600, height=800).generate(words_str) plt.imshow(w, interpolation='bilinear') plt.imshow(w) plt.axis("off") st.pyplot() # Выводим карточки st.markdown('# :bookmark_tabs: Карточки из ключевых слов') col1, col2, col3 = st.columns(3) columns = [col1, col2, col3] for index, el in enumerate(cards_list): with columns[(index + 1) % 3]: with st.container(border=True): col4, col5 = st.columns([0.1, 0.9]) with col4: st.write("# :flower_playing_cards:") with col5: st.write(f'## :green[{el[0]}]') st.write(f'### :blue[{el[1]}]')