File size: 3,251 Bytes
7783b0e
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
---
license: mit
language:
- ru
tags:
  - natural-language-processing
  - poetry-generation
  - text-generation
  - tensorflow
  - lstm
---

This model is trained in 2017 with TensorFlow as character-based. Russian poetry from 1900 to 1930 served as the training corpus.

Model trained for 29 epochs and has 3 layers and 1024 neurons. Loss = 1.4.

## Usage

To generate new samples, run the script `sample_modernism3.py`. The scripts `utils.py` and `model.py` should be in the same folder, and the `save` folder with the model files should be a subfolder (its location can be changed in the script in line 22).

## Train data

Train data was taken from the RNC poetic corpus.

## What for?

In an era of winning Transformers, ancient RNN models seem archaic. But I see that they still work better than modern architectures with such important categories from the humanities point of view as poetic style.

## Samples

### Sample 1

```
В одно обожавое слово, бегут освящая вновь: «А? хромая женщина, молва!
Что-то так владеет непротиво, которого не для зовы тобой гимны сколько, вечность, на тебя, мои башни дороги безголоса.
Но люблю я одно, невысокие лечу. Старый гуд, как степная дочери пустынной.
Другое слово воины изогнувши, задумчиво дышит -- и расплескал глухо старик.
Всех святителей сказать нелесной глубине зажгите небесную лаской берет.
Я улыбнулась.
```

### Sample 2

```
Бездна заметает в темноте, не наглядел величье фляге.
Гелиотредов гробовой -- так это произносить: поздно!
Она к равнине долин городское подмявшей Времи; пустился и выйдут из дворца.
```

### Sample 3

```
Они ведет тоски глядит гостинице народной.
О минувшего уж нет! На развалился Нарцисс верно?
К хозяину рок меня рабыню ищет стужа черные трубы и эллины ребят.
Я хочу быть в вихре кофейной грани лаврового стремнинами подругу вдвойне глухих, 
Делатель прошел.
У нас теперь и печаль боролась обмирают и не могут-то просветлены, далекие любовные слезы, и тишина.
```

## BibTeX entry and citation info

The samples were published and analyzed in academic paper. For citation:

```
@article{orekhov2017artificial,
  title={Искусственные нейронные сети как особый тип distant reading},
  author={Орехов, Борис Валерьевич},
  journal={Вестник Приамурского государственного университета им. Шолом-Алейхема},
  number={2 (27)},
  pages={32--43},
  year={2017}
}
```