Finckenberg palveli vuodesta 1784 Ruotsin armeijan henkirakuunarykmentissä vänrikkinä. Hän osallistui saaristolaivastoon komennettuna 1788–1790. Sodan päätyttyä Finckenberg teki 1791–1792 trigonometrisia ja astronomisia mittauksia Suomenlahden saaristossa. Hän palvel sitten vuodesta 1794 Turun läänin rykmentin kevyessä jalkaväkipataljoonassa luutnanttina ja vuodesta 1802 kapteeniksi ylennettynä komppanianpäällikkönä. Finckenberg osallistui rykmentin mukana Suomen sotaan haavoittuen Virtain ja Siikajoen taisteluissa. Hänet ylennettiin 1809 majuriksi ja hän oli sitten 1809–1810 Ruotsin armeijan merenmittausjoukoissa Tukholmassa ja oli myös Ruotsin valtiopäivien jäsenenä. Finckenberg erosi vuonna 1810 Ruotsin armeijasta everstiluutnanttina ja muutti Suomeen.