nevmenandr
commited on
Commit
•
5f606ec
1
Parent(s):
48b84fa
Update README.md
Browse files
README.md
CHANGED
@@ -1,3 +1,116 @@
|
|
1 |
-
---
|
2 |
-
license: mit
|
3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: mit
|
3 |
+
language:
|
4 |
+
- is
|
5 |
+
tags:
|
6 |
+
- natural-language-processing
|
7 |
+
- poetry-generation
|
8 |
+
- text-generation
|
9 |
+
- torch
|
10 |
+
- lstm
|
11 |
+
---
|
12 |
+
|
13 |
+
This model was trained using [Andrej Karpathy's code](https://github.com/karpathy/char-rnn) on texts by Icelandic poets. Models of this type well represent poetic style.
|
14 |
+
|
15 |
+
Model was trained with size 512 and 7 layers, dropout 0.5.
|
16 |
+
|
17 |
+
There are 2 checkpoints of this model presented in the repository. One after 7 epochs with loss 1.4431, the other after 23 epochs with loss 1.3595. These metrics are in the file name.
|
18 |
+
|
19 |
+
## Usage
|
20 |
+
|
21 |
+
The procedure for installing the required software is described [by Karpathy](https://github.com/karpathy/char-rnn), torch is required, the code is written in lua. Be careful, versions of libraries written many years ago are used.
|
22 |
+
|
23 |
+
```bash
|
24 |
+
th sample.lua lm_lstm_epoch23.39_1.3595.t7 -length 10000 -temperature 0.5 -primetext 'some text'
|
25 |
+
```
|
26 |
+
|
27 |
+
## Train data
|
28 |
+
|
29 |
+
Train data is non free due to copyright restrictions. It has been collected from the internet.
|
30 |
+
|
31 |
+
## What for?
|
32 |
+
|
33 |
+
In an era of winning Transformers, ancient RNN models seem archaic. But I see that they still work better than modern architectures with such important categories from the humanities point of view as poetic style and meter.
|
34 |
+
|
35 |
+
## Samples
|
36 |
+
|
37 |
+
```
|
38 |
+
Til líta steina stranga
|
39 |
+
stillir stóð í stað leiði
|
40 |
+
þar leita síðan standa þá
|
41 |
+
með hræðslu mig hann þrjá.
|
42 |
+
|
43 |
+
Hræddur fljótt er hátt í heim
|
44 |
+
heiðra þó með hlýðir.
|
45 |
+
|
46 |
+
Fær þú með firrtum fróðum
|
47 |
+
færði svo sem þér hefir þeir
|
48 |
+
þeir geislar eina þá eigi.
|
49 |
+
|
50 |
+
Annar mál með öðru stór
|
51 |
+
sem þó þú með grimmdar stönd
|
52 |
+
og halda hann með annað sker
|
53 |
+
og á vill heimsins stóra.
|
54 |
+
|
55 |
+
Hjörtun heitir hæsta stríð
|
56 |
+
hönd við hálfa megna.
|
57 |
+
|
58 |
+
Hún skal þér gjörir að glóa
|
59 |
+
í stundu þar að greina
|
60 |
+
til himna sauða græna land,
|
61 |
+
sem til höndum þó með þér.
|
62 |
+
|
63 |
+
Blessa þú því næst í dauða
|
64 |
+
lausnari lítil brjósti
|
65 |
+
sá líkaminn þó hann sé þér
|
66 |
+
heimskur þínum fríða.
|
67 |
+
```
|
68 |
+
|
69 |
+
```
|
70 |
+
Heimsins soninn hamla skyldi
|
71 |
+
hverjum heyrði að forstjórn sprundi,
|
72 |
+
sú er þeim drottins anda sín
|
73 |
+
og upp í falli fjöldi.
|
74 |
+
|
75 |
+
Sá mun eg það þar þó landi
|
76 |
+
séð sá að hendi þau beiða.
|
77 |
+
Þessi skyldi á munni kann,
|
78 |
+
mest sem þenkti hann eitt þar allt.
|
79 |
+
|
80 |
+
Hún birtist kveðið hreysti stór,
|
81 |
+
hefur hann þar að hverri stór
|
82 |
+
að hann með vendi að þreyja og tala að staða.
|
83 |
+
|
84 |
+
Þá var lýsti með svarta lönd,
|
85 |
+
sælan þar kom á haldi þá
|
86 |
+
og þjóð og krafta, sem bölvaði þetta,
|
87 |
+
sat drottni skalt þér skiljast snart.
|
88 |
+
|
89 |
+
Hann bætti það þetta þekki þó
|
90 |
+
það að augum þeirra góða,
|
91 |
+
höfði þá samt þar herrans kátt,
|
92 |
+
hlýðið þeim í ræðu heimi.
|
93 |
+
|
94 |
+
Sálin hjá þig sækja trú eg svo smá þér smá,
|
95 |
+
því eg er svo um sveima Valla
|
96 |
+
ættar skaparans eilífur að ræða
|
97 |
+
og því ræðu hér með spörðum stund
|
98 |
+
og skildar ei þér þrengdur var.
|
99 |
+
```
|
100 |
+
|
101 |
+
## BibTeX entry and citation info
|
102 |
+
|
103 |
+
For more insights see:
|
104 |
+
|
105 |
+
```
|
106 |
+
@article{orekhov2020neural,
|
107 |
+
title={Neural reading: Insights from the analysis of poetry generated by artificial neural networks},
|
108 |
+
author={Orekhov, Boris and Fischer, Frank},
|
109 |
+
journal={Orbis Litterarum},
|
110 |
+
volume={75},
|
111 |
+
number={5},
|
112 |
+
pages={230--246},
|
113 |
+
year={2020},
|
114 |
+
publisher={Wiley Online Library}
|
115 |
+
}
|
116 |
+
```
|