Mazepa asettui vuonna 1669 hetmani Petro Dorošenkon palvelukseen ja toimi korkeissa asemissa tämän armeijassa ja esikunnassa. Dorošenko oli alkuaan Puolan tukema vastahetmani, joka valtasi tilapäisesti suuren osan Venäjän alaisesta kasakkahetmanaatista, mutta liittoutui myöhemmin Osmanien valtakunnan kanssa. Mazepa osallistui vuonna 1672 Dorošenkon sotaretkeen Puolaa vastaan. Mazepan matkustaessa vuonna 1674 Dorošenkon lähettiläänä hän joutui Zaporožjen kasakoiden eli zaporogien atamaanin Ivan Sirkon vangitsemaksi. Sirko luovutti hänet Dorošenkon viholliselle, Venäjän tukemalle hetmani Ivan Samoilovytšille. Mazepa voitti Samoilovytšin luottamuksen ja ryhtyi tämän palvelukseen. Mazepa osallistui Venäjän–Turkin sodan aikana 1677–1678 Samoilovytšin joukoissa taisteluihin Tšyhyrynistä. Vuodesta 1682 Mazepa oli hetmanaatin kenraalijesaul.