Schmalensee trat am 12. August 1782 als Gefreitenkorporal in das Infanterieregiment „von Lengefeld“ der Preußischen Armee ein und avancierte bis Ende August 1788 zum Sekondeleutnant. Während des Feldzuges in Polen kämpfte er 1794/95 in der Schlacht bei Rawka, der Belagerung von Warschau und dem Gefecht bei Selze. Am 30. Oktober 1798 wurde er Premierleutnant und am 13. Oktober 1805 Stabskapitän. Im Vierten Koalitionskrieg nahm er mit seinem Bruder an der Verteidigung von Danzig teil. Sein Bruder erwarb dort den Orden Pour le Mérite, was manchmal verwechselt wird.