--- license: mit language: - zh tags: - natural-language-processing - text-generation - poetry-generation - torch - lstm --- This generative text model was trained using [Andrej Karpathy's code](https://github.com/karpathy/char-rnn) on the texts of the Chinese participants of the [Biennale of Poets in Moscow](https://iling-ran.ru/web/ru/conferences/2017_biennale) in 2017. Model was trained with size 512 and 3 layers, dropout 0.5. ## Usage The procedure for installing the required software is described [by Karpathy](https://github.com/karpathy/char-rnn), torch is required, the code is written in lua. Be careful, versions of libraries written many years ago are used! ```bash th sample.lua lm_lstm_epoch41.20_1.6773.t7 -temperature 0.2 -primetext '你见过' -length 300 ``` ## Train data Train data is non free due to copyright restrictions. Texts for training are provided by the authors. ## What for? In an era of winning Transformers, ancient RNN models seem archaic. But I see that they still work better than modern architectures with such important categories from the humanities point of view as individual style. ## Public demonstration The work of the model was publicly demonstrated to the participants of the [Biennale of Poets in Moscow on December 1, 2017](https://goslitmuz.ru/poster/5365/) at the Margarita Rudomino All-Russia State Library for Foreign Literatureм. ## Samles ### Text generated on December 1, 2017 ``` 你见过大地 我的心在天空下,在天空下 我们在大雪中发生的天空 在大地地图的天空 在我的天空下 我们又是一种大地的天空 我们的天空又变成了天空 我们在南京的天空下 我们在天空下 我们在大雨中我的天空 我们是一个地方 在天空 ``` ### -temperature 0.2 -primetext '旷野' ``` 旷野的古怪 在我的天空下,我们在我的天空下 天空发生的时间 我们在我的心中 在我的天空下 我们在我的天空中 我的天空下 在我的眼睛上 我的大地只是一片空白 我们是一种大地 在冬天的天空下 我们在天空下 一只手在大地上 ``` ### -temperature 0.4 -primetext '旷野' ``` 旷野的句子 太多的天空只是变化的时候 大地又心热的大地 在水泥望发天发泉 在天空后一只转身 天气的天空和天空 那只手在地平线上 在大地上的夜色 在天空发出大雪 我只有一只眼睛 那么多年过的火焰 在电话中的故事 在我的天空 ``` ### -temperature 0.6 -primetext '旷野' ``` 旷野的另一个陌生人 我不是我们的生活:只是为了持到了他的视死 一天到底是我的地方,是一种神秘主义的成都人? 在北方,我已经再发明,我写诗在另一个人。 宋朝如王,天气停面向天空,声音家 游泳不会有一个夏天的人在 ``` ### -temperature 0.8 -primetext '旷野' ``` 旷野的另一个陌生人。 2015-10-15 政治多么名 除了一勒世界的春天在河南 那天下的星与女等呢 有个生命反好人们羊宗明 月亮,吹过四声地潃口 想象它听我惑得多的走向吗 将在有叇进那枝本心地江山苏美 风一带风不过我们的欢 ``` ### -temperature 1.0 -primetext '旷野' ``` 旷野的原始呢? 初因草凪墙酒写诗,桥杨叫合叼标的南京 要读向无数家,在回忆污油呀 他转眼在教授中锇之内,顿他们 世界杯抓弓起免后的,杀息者。 认识不同已经是什么?大洞倾露去啊,雨树蜜蜂 19路,乃左贝上,惊产的歌 ``` ## BibTeX entry and citation info For other insights see: ``` @article{orekhov2020neural, title={Neural reading: Insights from the analysis of poetry generated by artificial neural networks}, author={Orekhov, Boris and Fischer, Frank}, journal={Orbis Litterarum}, volume={75}, number={5}, pages={230--246}, year={2020}, publisher={Wiley Online Library} } ```