Ende März 1868 stieg Rauchhaupt zum Oberstleutnant auf und wurde am 18. Juli 1870 anlässlich des Krieges gegen Frankreich für die Dauer der Mobilmachung zunächst Kommandeur des 1. Garde-Grenadier-Landwehr-Regiments. Für die weitere Dauer des mobilen Verhältnissen übernahm er am 2. September 1870 das Kommando über das 3. Magdeburgischen Infanterie-Regiments Nr. 66. In dieser Eigenschaft war er an den Belagerungen von Straßburg und Paris sowie dem Gefecht bei Epinay beteiligt. Ausgezeichnet mit dem Eisernen Kreuz II. Klasse wurde Rauchhaupt am Tag der Kaiserproklamation zum Oberst befördert.