Leopold von Rauch besuchte von 1799 bis 1803 die preußischen Kadettenanstalten in Stolp und Berlin. Anschließend wurde er als Portepee-Fähnrich dem Infanterie-Regiment von Puttkamer Nr. 36 in Brandenburg an der Havel zugeteilt. 1806/07 nahm er am Koalitionskrieg gegen das napoleonische Frankreich teil. In Folge der preußischen Kapitulation wurde er inaktiv, währenddessen jedoch zum Sekondeleutnant befördert, allerdings bei halbem Gehalt. 1809 ließ sich Leopold von Rauch beim Leib-Infanterie-Regiment Nr. 8 reaktivieren. Das Regiment war als neuer Verband in Berlin aufgestellt worden. 1811 wurde Rauch als Adjutant zum Normal-Infanteriebataillon kommandiert, welches dem Garde Regiment zu Fuß in Potsdam angegliedert war. 1813 erhielt er die Beförderung zunächst zum Premierleutnant und noch im selben Jahr zum Stabskapitän. Während der Befreiungskriege wurde er als Adjutant der Garde-Reservebrigade, beim Chef des Generalstabs des II.Armeekorps und als Adjutant der 1. Gardebrigade verwendet und mit dem Eisernen Kreuz II. Klasse ausgezeichnet. In der Schlacht bei Kulm 1813 erlitt Leopold von Rauch eine so schwere Verwundung, dass er von da an nur noch in Adjutanturen bzw. in militärischen Stäben verwendet werden konnte. Herzog Karl zu Mecklenburg-Strelitz, Kommandeur der Gardebrigade und Bruder der Königin Luise, beurteilte seine Adjutanten Rauch: „Gleich tätig und fähig. Er hat eine treffliche Haltung in seinem ganzen Benehmen und ist sehr empfehlenswert.“