nevmenandr commited on
Commit
b0c2363
1 Parent(s): 5c7ee47

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +169 -3
README.md CHANGED
@@ -1,3 +1,169 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ language:
4
+ - ru
5
+ tags:
6
+ - natural-language-processing
7
+ - text-generation
8
+ - tensorflow
9
+ - lstm
10
+ - poetry-generation
11
+ ---
12
+
13
+ This model is trained in of 2017 with TensorFlow as character-based. Russian poetry by [Vladimir Vysotsky](https://en.wikipedia.org/wiki/Vladimir_Vysotsky) served as the train corpus.
14
+
15
+ Model has 3 layers and 1024 neurons.
16
+
17
+ ## Usage
18
+
19
+ To generate new samples, run the script `sample.py` (Python 2!). The scripts `utils.py` and `model.py` should be in the same folder, and the `save` folder with the model files should be a subfolder (its location can be changed in the script in line 22).
20
+
21
+ ## Train data
22
+
23
+ Poetic texts from [two volumes edition](https://fantlab.ru/series4733) were the input for training.
24
+
25
+ ## What for?
26
+
27
+ In an era of winning Transformers, ancient RNN models seem archaic. But I see that they still work better than modern architectures with such important categories from the humanities point of view as poetic style.
28
+
29
+ ## Samples
30
+
31
+ ### Sample 1
32
+
33
+
34
+ ```
35
+ Дять архимики
36
+ – Садишь до со мной и нож›
37
+ Когда на полметном Одессё.
38
+ Остонатель боюсь, мои собранной марабан.
39
+ Франят до нас пристеляют бьют:
40
+ «Ах, хочешь, – подарить!»
41
+ Суе бросило прекраснее,
42
+ Хоть не рядом к маму и обязательно:
43
+ Загулял по небу сторонам,
44
+ И много весну – не услышь,
45
+ Другие гони, будто стараюсь в никуда, —
46
+ Он подбей мы с жизни над исходнимся
47
+ Во лбу ломаешь из него.
48
+ Все гог свершить, я не дождешься,
49
+ А всегда мы миллионов
50
+ Не буду со мною споют —
51
+ Неужели мои животную.
52
+ О мы, глядя на доволе.
53
+ Бьют лучи в пылем у спину – червый погоди, —
54
+ Все высмотреть и при этом «А»,
55
+ Послать недоверчивости превратиться!..»
56
+ То так – ты мне не могут недоверчивый!
57
+ 1976
58
+ ```
59
+
60
+ ### Sample 2
61
+
62
+
63
+ ```
64
+ Сорок девять друг, —
65
+ Я дали предложил —
66
+ Мы появляли в цепях, —
67
+ Для рубль в горло всё крики, – так и, конфетие, —
68
+ Многих мозги разве тихий
69
+ Всего —
70
+ Люди номер был, —
71
+ Только с ним вперед,
72
+ Но полвека, – в Кокильоне.
73
+ Был бар лучше по лугу,
74
+ Всё нож пложии,
75
+ К двадцать остает поить,
76
+ К другой хотело выбор – останемся на миг со свыкам —
77
+ Привиденья в край,
78
+ Сать!
79
+ Где не все – снова говори, —
80
+ Осторожно им,
81
+ Натунутого помереть,
82
+ Чтоб нырнет нас встречи!»
83
+ Но почему-яй, надежней снять, —
84
+ Не думает – мы вниз, кто
85
+ ```
86
+
87
+ ### Sample 3
88
+
89
+
90
+ ```
91
+ Песня Вопилась
92
+ Да коровами про провода
93
+ Состоит – нет, шерной и ненасытную свой слева тех.
94
+ Ах, профессия стоны я!» – «Сядьгай»,
95
+ А в бугучем вас ждем – в «х»,
96
+ После другие лица, —
97
+ Пусть годив? И жить еще два все. Но интересо…»
98
+ Правда, сел нанести – только меды же не понять!
99
+ Отсюда Сильничок, по ступе, в одиночку
100
+ На гробу заветных среж прыти:
101
+ Что нас нет – не их не пытай,
102
+ Ну и также преступнику с метом.
103
+ Начиный, как со старой весом хочется,
104
+ Осторожно – на миг со сфер.
105
+ Закрывают ломаюсь, и тут же лезь, – говорит, —
106
+ Хоть то, что говорить, -
107
+ можешь, – сказал, даже санитары!»
108
+ Он под танцы, молчи, про край, да и младенье креста,
109
+ Никогда – им аппертом боюсь,
110
+ И как палачей,
111
+ Всегда в тебе, над Селе… О Тому – хоть про планеты,
112
+ Положите в схорбье зовут, —
113
+ Он подвер.
114
+ Я смысь недвижим:
115
+ Смею судьба, по мной —
116
+ Не забудьте в поле Становит?!
117
+ За мой мой дом с ошибкой науки
118
+ Серебряные,
119
+ Руби, согласны, старики —
120
+ Наш мир… Нет, а знать, что сплеты, чтоб оправданье!
121
+ Все со мной не поесть!
122
+ Где нет, живу не загулял,
123
+ Ктой-то о ст��пая эспустиме, —
124
+ Повозь посмею мир! Ох как на кранс, без богом, парень
125
+ Разговор у нас,
126
+ А вождя – подытаволость!
127
+ А на Мадридель – был балаготу
128
+ Наша на будуществе плетет труд!»
129
+ Вот сплаванья законы
130
+ Разговор посещал —
131
+ И хочу я знать, что глинжа, —
132
+ Мы стеклопика Лаз.
133
+ «1978›
134
+ ```
135
+
136
+ ## Public appearance
137
+
138
+ I've told about this model in an [interview to a newspaper](https://www.kp.ru/daily/26926.4/3973081/) in 2019.
139
+
140
+ ## BibTeX entry and citation info
141
+
142
+ The samples were published and analyzed in several academic papers. See file `NN.pdf` in this repository.
143
+
144
+ ```
145
+ @article{orekhov2017artificial,
146
+ title={Искусственные нейронные сети как особый тип distant reading},
147
+ author={Орехов, Борис Валерьевич},
148
+ journal={Вестник Приамурского государственного университета им. Шолом-Алейхема},
149
+ number={2 (27)},
150
+ pages={32--43},
151
+ year={2017}
152
+ }
153
+ ```
154
+
155
+
156
+ And there is another paper in English. For citation:
157
+
158
+ ```
159
+ @article{orekhov2020neural,
160
+ title={Neural reading: Insights from the analysis of poetry generated by artificial neural networks},
161
+ author={Orekhov, Boris and Fischer, Frank},
162
+ journal={Orbis Litterarum},
163
+ volume={75},
164
+ number={5},
165
+ pages={230--246},
166
+ year={2020},
167
+ publisher={Wiley Online Library}
168
+ }
169
+ ```