Palmstierna siktade tidigt på den militära banan och fick omedelbart efter genomgången Karlbergskurs inträda i krigstjänst, först i Pommerska kriget (1807), därefter i striderna vid norska gränsen (1808–1809), slutligen i Tyskland och Norge (1813–1814), och avancerade då till kapten (1813). Efter Norges förening med Sverige anställdes Palmstierna som adjutant hos den förste riksståthållaren, hans morbror greve Hans Henric von Essen, och erhöll 1816 plats som kapten i Generalstaben, där han 1828 avancerade till överste. 1835 utnämndes han till överste och chef för Västmanlands regemente, men kallades sedan av konungens förtroende in på nya banor. Vid 1817–1818 års riksdag hade han börjat delta i riksdagsförhandlingarna, som han därefter deltog i till och med 1859.