Nikolai von Rechenbergin vanhemmat olivat Vaasan läänin kuvernööri, kapteeni Carl Alexander von Rechenberg ja kreivitär Natalie Alexandrine Stewen-Steinheil ja puoliso vuodesta 1871 Helena Gavrilovna Zubinskaja. Nikolai von Rechenberg tuli oppilaaksi Haminan kadettikouluun 1859, mutta siirrettiin sieltä 1865 H.M. Keisarin paašikouluun Pietariin. Hänet ylennettiin kamaripaašiksi 1866 ja määrättiin samana vuonna koulusta valmistuttuaan vänrikkinä palvelukseen Henkivartioväen Moskovan rykmenttiin. Aliluutnantiksi von Rechenberg ylennettiin 1867, luutnantiksi 1869, alikapteeniksi 1872 ja kapteeniksi 1877. Rykmentissään hän otti osaa Turkin sotaan 1877–1878, haavoittuen Gornyi Dubnjakin taistelussa.