Under Finskekrigen tjenstegjorde Löwenhielm ved grensen mot Norge og på Åland i 1809 og ble samme år oberstløytnant ved Kronobergs regemente. I 1810 ble han kabinettskammerherre hos kronprins Karl XIV Johan. I år 1811 ble han utnevnt til sjef for Västgöta-Dals regemente og i 1812 til generaladjutant. Samme år ble han svensk envoyé i St. Petersburg og var det i årene 1812-1818. Det var Carl Axel Löwenhielm som inngikk den viktige avtalen med Russland den 5. april 1812, som la grunnen for 1812 års politikk ved å garantere at Sverige fikk Russlands støtte ved overtakelsen av Norge, mot at landet oppga sitt krav på Finland.