Nach dem Friedensschluss wurde Rauchhaupt unter Beförderung zum Premierleutnant in das Infanterie-Regiment Nr. 79 versetzt. Ab Mitte November 1866 absolvierte er dann zur weiteren Ausbildung die Kriegsakademie. Daran schlossen sich Kommandierungen zum Dragoner-Regiment Nr. 5 sowie zum Großen Generalstab an, bevor er am 12. April 1870 zum Hauptmann befördert und zum Kompaniechef ernannt wurde. Bei der Mobilmachung anlässlich des Krieges gegen Frankreich kommandierte man Rauchhaupt als Generalstabsoffizier zum Oberkommando der 1. Armee. In dieser Stellung nahm er an den Schlachten bei Colombey, Gravelotte, Amiens, an der Hallue, der Belagerung von Metz sowie dem Gefecht bei Pontarlier teil. Ausgezeichnet mit beiden Klassen des Eisernen Kreuzes wurde er nach dem Friedensschluss als Generalstabsoffizier zum Oberkommando der deutschen Okkupationsarmee in Frankreich kommandiert.