Am 1. Januar 1777 kam Schmalensee als Gefreitenkorporal in das Infanterieregiment „von Lengefeld“. Am 19. September 1777 wurde er zum Fähnrich befördert und 1778/79 kämpfte er im Bayerischen Erbfolgekrieg. Am 17. April 1791 wurde er Premierleutnant und nahm 1794/95 während des Feldzuges in Polen an der Belagerung von Warschau teil.