Nikolaas is op Tsarskoje Selo by Sint Petersburg gebore. Sy pa het vir hom ’n loopbaan in die weermag gereël. Op die dag van sy geboorte is hy aangestel as erekolonel van die Lewensredderslansiers en is hy opgeneem in die Lewensreddersgenietroepe. Hy was feitlik sy lewe lank ’n soldaat en het aan die Krimoorlog deelgeneem toe hy nog in sy vroeë 20's was, aan die Slag van Inkerman (1854). Hy het ’n besondere belangstelling in militêre ingenieurswese getoon en is in 1856 aangestel as inspekteur van generaals. In 1864 het hy bevelvoerder van die Keiserlike Wag geword.
Die hoogtepunt van sy loopbaan was die Russies-Turkse Oorlog (1877-1878), toe hy opperbevelvoerder van die Russiese leërs van die Donau was, hoewel hy nie ’n goeie reputasie as strateeg gehad het nie. Ná ’n paar mislukkings is hy van enige bevelvoering onthef, hoewel hy sy pos behou het. Die oorwinnings van sy ondergeskiktes het hom in staat gestel om deel te wees van verskeie geslaagde veldslae. Hy is ook aangekla van finansiële ongerymdhede, die ontvang van omkoopgeld en die verduistering van regeringsgeld.
Nikolaas was lank en sterk en het ’n lang, dun neus gehad; hy was nie baie aantreklik of intelligent nie. Hy was ’n ongelooflike rokjagter en volgens ’n tydgenoot "het hy alle vroue liefgehad behalwe sy eie". Hy het gehou van die weermaglewe en jag en was ’n bekende fynproewer. Hy was ook ’n kenner van beeste, honde- en perdeteelt en hengel.
Die huwelik was van die begin af in die moeilikheid en vier jaar ná die troue het hy ’n permanente verhouding aangeknoop met Katharina Tsjislowa, ’n danseres. Hulle het ’n openlike verhouding en vyf kinders gehad.
Die groothertog het gereël dat ’n spesiale klas in die burgerstand vir sy minnares geskep word en hul buite-egtelike kinders het die van Nikolajef gekry.
Nikolaas was in Cannes saam met sy twee seuns toe sy broer Aleksander II in Maart 1881 in ’n sluipmoordaanval vermoor is. Hy het dadelik na Rusland teruggekeer. Die troonbestyging van sy broerskind Aleksander III was die begin van sy geleidelike ondergang. Aleksander III het nie ’n besondere affiniteit met sy oom gehad nie en Nikolaas het algaande sy invloed verloor. Sy gesag het verder in die stof gebyt nadat hy betrokke was by oneerlike militêre rekwisisies. Toe hy sy handelinge probeer verduidelik, het hy regeringsamptenare en militêre bevelvoerders openlik aangeval en hy is eindelik uit sy pos verwyder. Aleksander het ook sy oom se buite-egtelike verhoudings gekritiseer.
Teen daardie tyd het Nikolaas openlik saam met sy minnares gewoon. Sy vrou het hom in 1881 finaal verlaat en na die Krim verhuis, maar geweier om van hom te skei soos wat hy sou wou gehad het. Die paartjie se volwasse seuns het hul ma se kant gekies, maar in die paleis bly woon en het Katharina eenkeer gekonfronteer toe sy in die paleis vir hul pa wag. Katharina het aan Nikolaas bly karring om vir haar en haar kinders te sorg en gou daarna moes hy ’n verband op sy paleis in Sint Petersburg uitneem. In 1882 is hy onder toesig geplaas weens die uitmorsing van sy geld; hy het toe in ’n beskeie huis gaan woon.
Ná sy minnares se dood het Nikolaas waansinnig geraak; hy het mondkanker gehad wat na sy brein versprei het. In 1890 is hy geestelik gestrem verklaar en in die Krim binnenshuis gehou. Hy is op 25 April 1891 daar dood. Sy reputasie aan die hof was in dié tyd baie swak en niemand was baie hartseer oor sy dood nie. Hy het sy hele, aansienlike fortuin uitgemors en sy paleis is dadelik verkoop om sy groot skuld te delg.