ai-forever commited on
Commit
8c34fef
1 Parent(s): 13129ef

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +0 -34
README.md CHANGED
@@ -27,37 +27,3 @@ Training loss
27
  ![Screenshot 2023-01-21 at 11.36.52.png](https://s3.amazonaws.com/moonup/production/uploads/1674290304538-5f91b1208a61a359f44e1851.png)
28
 
29
 
30
- ## Usage (HuggingFace Models Repository)
31
- Example how to use model:
32
-
33
- ```python
34
- import torch
35
- from transformers import GPT2Tokenizer, T5ForConditionalGeneration
36
- tokenizer = GPT2Tokenizer.from_pretrained('ai-forever/FRED-T5-1.7B',eos_token='')
37
- model = T5ForConditionalGeneration.from_pretrained(('ai-forever/FRED-T5-1.7B')
38
- device='cuda'
39
- model.to(device)
40
-
41
- #Prefix <LM>
42
- lm_text='Принялся Кутузов рассказывать свою историю как он сюда попал. Началось'
43
- input_ids=torch.tensor([tokenizer.encode(prefix_LM+lm_text)]).to(device)
44
- outputs=model.generate(input_ids,eos_token_id=tokenizer.eos_token_id,early_stopping=True)
45
- print(tokenizer.decode(outputs[0][1:]))
46
-
47
- #Prefix <SC1>
48
- lm_text='<SC1>Принялся Кутузов рассказывать свою историю . Началось с того, что он был в армии, служил в артиллерии.'
49
- input_ids=torch.tensor([tokenizer.encode(prefix_LM+lm_text)]).to(device)
50
- outputs=model.generate(input_ids,eos_token_id=tokenizer.eos_token_id,early_stopping=True)
51
- print(tokenizer.decode(outputs[0][1:]))
52
-
53
- #print result: '<extra_id_0> с самого начала'
54
-
55
- # Prefix <SC6>
56
- lm_text='<SC6>Принялся Кутузов рассказывать свою историю . Началось с того, что он был в армии, служил в артиллерии.'
57
- input_ids=torch.tensor([tokenizer.encode(prefix_LM+lm_text)]).to(device)
58
- outputs=model.generate(input_ids,eos_token_id=tokenizer.eos_token_id,early_stopping=True,max_length=100)
59
- print(tokenizer.decode(outputs[0][1:]))
60
-
61
- #print result:'<extra_id_0>.\n— Я родился в 1745 году, — начал он. — Отец мой был крестьянин, а мать — дочь священника. Отец мой был очень беден, и я с детства был предоставлен самому себе.\n— А как вы стали офицером? — спросил я.\n— Это длинная история'
62
-
63
- ```
 
27
  ![Screenshot 2023-01-21 at 11.36.52.png](https://s3.amazonaws.com/moonup/production/uploads/1674290304538-5f91b1208a61a359f44e1851.png)
28
 
29