julien-c HF staff commited on
Commit
f7792b1
1 Parent(s): 5fa7165

Migrate model card from transformers-repo

Browse files

Read announcement at https://discuss.huggingface.co/t/announcement-all-model-cards-will-be-migrated-to-hf-co-model-repos/2755
Original file history: https://github.com/huggingface/transformers/commits/master/model_cards/Tereveni-AI/gpt2-124M-uk-fiction/README.md

Files changed (1) hide show
  1. README.md +39 -0
README.md ADDED
@@ -0,0 +1,39 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language: uk
3
+ ---
4
+
5
+ Note: **default code snippet above won't work** because we are using `AlbertTokenizer` with `GPT2LMHeadModel`, see [issue](https://github.com/huggingface/transformers/issues/4285).
6
+
7
+ ## GPT2 124M Trained on Ukranian Fiction
8
+
9
+ ### Training details
10
+
11
+ Model was trained on corpus of 4040 fiction books, 2.77 GiB in total.
12
+ Evaluation on [brown-uk](https://github.com/brown-uk/corpus) gives perplexity of 50.16.
13
+
14
+ ### Example usage:
15
+ ```python
16
+ from transformers import AlbertTokenizer, GPT2LMHeadModel
17
+
18
+ tokenizer = AlbertTokenizer.from_pretrained("Tereveni-AI/gpt2-124M-uk-fiction")
19
+ model = GPT2LMHeadModel.from_pretrained("Tereveni-AI/gpt2-124M-uk-fiction")
20
+
21
+ input_ids = tokenizer.encode("Но зла Юнона, суча дочка,", add_special_tokens=False, return_tensors='pt')
22
+
23
+ outputs = model.generate(
24
+ input_ids,
25
+ do_sample=True,
26
+ num_return_sequences=3,
27
+ max_length=50
28
+ )
29
+
30
+ for i, out in enumerate(outputs):
31
+ print("{}: {}".format(i, tokenizer.decode(out)))
32
+ ```
33
+
34
+ Prints something like this:
35
+ ```bash
36
+ 0: Но зла Юнона, суча дочка, яка затьмарила всі її таємниці: І хто з'їсть її душу, той помре». І, не дочекавшись гніву богів, посунула в пітьму, щоб не бачити перед собою. Але, за
37
+ 1: Но зла Юнона, суча дочка, і довела мене до божевілля. Але він не знав нічого. Після того як я його побачив, мені стало зле. Я втратив рівновагу. Але в мене не було часу на роздуми. Я вже втратив надію
38
+ 2: Но зла Юнона, суча дочка, не нарікала нам! — раптом вигукнула Юнона. — Це ти, старий йолопе! — мовила вона, не перестаючи сміятись. — Хіба ти не знаєш, що мені подобається ходити з тобою?
39
+ ```