L'òpera va ser composta entre juny de 1881 i abril de 1883. El llibret es va basar en "Poltava", un poema èpic d'Aleksandr Puixkin. Puixkin va basar el seu poema en els esdeveniments històrics de la Batalla de Poltava, en la qual el tsar Pere el Gran va vèncer el rei de Suècia Carles XII. Puixkin es va prendre certes llibertat creatives per a bastir uns personatges més punyents i grans passions. Per exemple, Kotxubei (el ric cosac la filla del qual fuig amb Mazeppa) realment va aconseguir rescatar Maria del seu segrestador.