Zinovij Petrovitsj Rozjestvenskij var sønn av en lege som virket i St. Petersburg. Han ble interessert i sjøfart allerede i ung alder, og som 16-årig klarte han å bli opptatt i den russiske marine. Han ble femtemann i sitt kull (1868), ble tatt inn i Østersjøflåten, og bestemte seg for en karriere som artillerioffiser. Derpå ble han tatt opp ved Mikhailov-akademiet i St. Petersburg. Denne utdannelsen varte til 1873, og han hadde da løytnants grad. Kort tid etter ble han medlem av den russiske kommisjon for skipsartilleri, og innehadde dette vervet i ti år.