Nikolaj Muravjov ble født i St. Petersburg. Han ble uteksaminert fra Pasjekorpset i 1827. Han deltok i beleiringen av Varna i den russisk-tyrkiske krig i 1828–1829, og var senere med å slå ned novemberoppstanden i Polen i 1831. Av helsemessige årsaker sluttet han i det militære i 1833, og returnerte hjem for å ta seg av driften av sin fars gods. Han vendte imidlertid tilbake til aktiv tjeneste i 1838 som General Golovins adjutant, for å tjenestegjøre i Kaukasus-regionen. Under en av kampanjene mot fjellfolkene ble Muravjov såret. I 1840 ble Muravjov tildelt kommandoen over en seksjon av forsvarslinjen ved Svartehavet, og var under denne perioden delaktig i kampene mot ubykhene.