Nikolaj ble tronfølger (tsarevitsj) ved mordet på farfaren Aleksander II den 13. mars 1881. Som tsarevitsj ble Nikolaj medlem av riksrådet og ministerkomitéen i 1889. Han ble i 1891 dessuten ordfører for Sibirkomitéen og nødhjelpskomitéen. Men i hovedsak holdt imidlertid Aleksander III sønnen utenfor i regjeringsanliggendene.