Vuodesta 1829 Nordenstam palveli 18 vuoden ajan Kaukasiassa. Hänet ylennettiin 1831 alikapteeniksi, 1832 kapteeniksi, 1836 everstiluutnantiksi, 1839 everstiksi ja 1843 kenraalimajuriksi. Hän oli 1838–1843 Kaukasian alueen linjajoukkojen ja Mustanmeren joukkojen päämajoitusmestari, 1843–1845 linjajoukkojen komentaja ja Mustanmeren joukkojen esikuntapäällikkö sekä 1845–1846 Kaukasian armeijan esikuntapäällikön apulainen. Rajaseudun vuoristoheimoja vastaan käydyn sodan aikana Nordenstam kunnostautui myös useissa taisteluissa Avarian alueella Dagestanissa, kuten Akhulgon linnoituksen piirityksessä. Syyskuusta 1846 seuraavan vuoden kevääseen hän toimi Stavropolin kuvernementin siviilikuvernöörinä, mutta hänen ankara johtamistapansa ei tyydyttänyt paikallisia asukkaita ja hänet kutsuttiin takaisin Pietariin.