Spaces:
Runtime error
Runtime error
Commit
•
718de46
1
Parent(s):
de6799c
Update pages/gpt_v1.py
Browse files- pages/gpt_v1.py +26 -24
pages/gpt_v1.py
CHANGED
@@ -1,6 +1,8 @@
|
|
1 |
from transformers import GPT2LMHeadModel, GPT2Tokenizer
|
2 |
import torch
|
3 |
import streamlit as st
|
|
|
|
|
4 |
|
5 |
st.markdown('## Генерация текста GPT-моделью по пользовательскому prompt')
|
6 |
|
@@ -10,36 +12,36 @@ model = GPT2LMHeadModel.from_pretrained(
|
|
10 |
output_hidden_states = False,
|
11 |
)
|
12 |
tokenizer = GPT2Tokenizer.from_pretrained('sberbank-ai/rugpt3small_based_on_gpt2')
|
13 |
-
|
14 |
-
# Вешаем сохраненные веса на нашу модель
|
15 |
model.load_state_dict(torch.load('model.pt', map_location=torch.device('cpu')))
|
16 |
|
17 |
-
prompt = st.text_input('**Введите текст:**')
|
18 |
-
length = st.slider('**Длина генерируемой последовательности:**', 1, 256, 16)
|
19 |
-
num_samples = st.slider('**Число генераций:**', 1, 6, 1)
|
20 |
-
temperature = st.slider('**Температура:**', 1.0, 6.0, 1.0)
|
21 |
-
|
22 |
-
def generate_text(model, tokenizer, prompt, length, num_samples, temperature):
|
23 |
-
input_ids = tokenizer.encode(prompt, return_tensors='pt')
|
24 |
-
output_sequences = model.generate(
|
25 |
-
input_ids=input_ids,
|
26 |
-
max_length=length,
|
27 |
-
num_return_sequences=num_samples,
|
28 |
-
temperature=temperature
|
29 |
-
)
|
30 |
|
31 |
-
|
32 |
-
|
33 |
-
|
34 |
-
|
|
|
|
|
35 |
|
36 |
-
return generated_texts
|
37 |
|
38 |
if st.button('Сгенерировать текст'):
|
39 |
-
|
40 |
-
|
41 |
-
|
42 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
43 |
|
44 |
|
45 |
|
|
|
1 |
from transformers import GPT2LMHeadModel, GPT2Tokenizer
|
2 |
import torch
|
3 |
import streamlit as st
|
4 |
+
import base64
|
5 |
+
import plotly.express as px
|
6 |
|
7 |
st.markdown('## Генерация текста GPT-моделью по пользовательскому prompt')
|
8 |
|
|
|
12 |
output_hidden_states = False,
|
13 |
)
|
14 |
tokenizer = GPT2Tokenizer.from_pretrained('sberbank-ai/rugpt3small_based_on_gpt2')
|
|
|
|
|
15 |
model.load_state_dict(torch.load('model.pt', map_location=torch.device('cpu')))
|
16 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
17 |
|
18 |
+
prompt = st.text_input('Введите текст prompt:')
|
19 |
+
length = st.slider('Длина генерируемой последовательности:', 8, 256, 15)
|
20 |
+
num_samples = st.slider('Число генераций:', 1, 10, 1)
|
21 |
+
temperature = st.slider('Температура:', 1.0, 10.0, 2.0)
|
22 |
+
top_k = st.slider('Количество наиболее вероятных слов генерации:', 10, 200, 50)
|
23 |
+
top_p = st.slider('Минимальная суммарная вероятность топовых слов:', 0.4, 1.0, 0.9)
|
24 |
|
|
|
25 |
|
26 |
if st.button('Сгенерировать текст'):
|
27 |
+
|
28 |
+
with torch.inference_mode():
|
29 |
+
prompt = tokenizer.encode(prompt, return_tensors='pt')
|
30 |
+
out = model.generate(
|
31 |
+
input_ids=prompt,
|
32 |
+
max_length=length,
|
33 |
+
num_beams=5,
|
34 |
+
do_sample=True,
|
35 |
+
temperature=temperature,
|
36 |
+
top_k=top_k,
|
37 |
+
top_p=top_p,
|
38 |
+
no_repeat_ngram_size=3,
|
39 |
+
num_return_sequences=num_samples,
|
40 |
+
).cpu().numpy()
|
41 |
+
for i, out_ in enumerate(out):
|
42 |
+
st.write(f'Текст {i+1}:')
|
43 |
+
st.write(textwrap.fill(tokenizer.decode(out_), 100))
|
44 |
+
|
45 |
|
46 |
|
47 |
|