ai-forever
commited on
Commit
•
8c34fef
1
Parent(s):
13129ef
Update README.md
Browse files
README.md
CHANGED
@@ -27,37 +27,3 @@ Training loss
|
|
27 |
![Screenshot 2023-01-21 at 11.36.52.png](https://s3.amazonaws.com/moonup/production/uploads/1674290304538-5f91b1208a61a359f44e1851.png)
|
28 |
|
29 |
|
30 |
-
## Usage (HuggingFace Models Repository)
|
31 |
-
Example how to use model:
|
32 |
-
|
33 |
-
```python
|
34 |
-
import torch
|
35 |
-
from transformers import GPT2Tokenizer, T5ForConditionalGeneration
|
36 |
-
tokenizer = GPT2Tokenizer.from_pretrained('ai-forever/FRED-T5-1.7B',eos_token='')
|
37 |
-
model = T5ForConditionalGeneration.from_pretrained(('ai-forever/FRED-T5-1.7B')
|
38 |
-
device='cuda'
|
39 |
-
model.to(device)
|
40 |
-
|
41 |
-
#Prefix <LM>
|
42 |
-
lm_text='Принялся Кутузов рассказывать свою историю как он сюда попал. Началось'
|
43 |
-
input_ids=torch.tensor([tokenizer.encode(prefix_LM+lm_text)]).to(device)
|
44 |
-
outputs=model.generate(input_ids,eos_token_id=tokenizer.eos_token_id,early_stopping=True)
|
45 |
-
print(tokenizer.decode(outputs[0][1:]))
|
46 |
-
|
47 |
-
#Prefix <SC1>
|
48 |
-
lm_text='<SC1>Принялся Кутузов рассказывать свою историю . Началось с того, что он был в армии, служил в артиллерии.'
|
49 |
-
input_ids=torch.tensor([tokenizer.encode(prefix_LM+lm_text)]).to(device)
|
50 |
-
outputs=model.generate(input_ids,eos_token_id=tokenizer.eos_token_id,early_stopping=True)
|
51 |
-
print(tokenizer.decode(outputs[0][1:]))
|
52 |
-
|
53 |
-
#print result: '<extra_id_0> с самого начала'
|
54 |
-
|
55 |
-
# Prefix <SC6>
|
56 |
-
lm_text='<SC6>Принялся Кутузов рассказывать свою историю . Началось с того, что он был в армии, служил в артиллерии.'
|
57 |
-
input_ids=torch.tensor([tokenizer.encode(prefix_LM+lm_text)]).to(device)
|
58 |
-
outputs=model.generate(input_ids,eos_token_id=tokenizer.eos_token_id,early_stopping=True,max_length=100)
|
59 |
-
print(tokenizer.decode(outputs[0][1:]))
|
60 |
-
|
61 |
-
#print result:'<extra_id_0>.\n— Я родился в 1745 году, — начал он. — Отец мой был крестьянин, а мать — дочь священника. Отец мой был очень беден, и я с детства был предоставлен самому себе.\n— А как вы стали офицером? — спросил я.\n— Это длинная история'
|
62 |
-
|
63 |
-
```
|
|
|
27 |
![Screenshot 2023-01-21 at 11.36.52.png](https://s3.amazonaws.com/moonup/production/uploads/1674290304538-5f91b1208a61a359f44e1851.png)
|
28 |
|
29 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|