Rauchhaupt besuchte die Kadettenhäuser in Potsdam und Berlin. Anschließend wurde er am 9. August 1842 als Portepeefähnrich dem Kaiser Alexander Grenadier-Regiment der Preußischen Armee überwiesen und avancierte bis Mitte Dezember 1842 zum Sekondeleutnant. 1848 nahm er an der Niederschlagung des Barrikadenaufstandes sowie während des Feldzuges gegen Dänemark am Gefecht bei Schleswig teil. Von Januar bis Juli 1851 war Rauchhaupt Bataillonsadjutant, stieg ein Jahr später zum Premierleutnant auf und war dann von Mai 1855 bis Mitte Januar 1857 als Hilfslehrer zur Gewehrfabrik in Potsdam kommandiert. Nach seiner Beförderung zum Hauptmann wurde er anschließend als Kompanieführer zur Schulabteilung kommandiert. Daran schloss sich am 12. April 1859 seine Ernennung zum Kompaniechef an. Nach einem kurzzeitigen Kommando als Kompanieführer beim III. Bataillon im 2. Garde-Landwehr-Regiment stieg Rauchhaupt am 14. Juli 1864 zum Major und etatsmäßigen Stabsoffizier auf. In dieser Stellung war er ab Anfang Dezember 1864 auch Garnisonrepräsentant von Berlin und im Juni 1865 zur Übung des I. Bataillons im 1. Garde-Grenadier-Landwehr-Regiment kommandiert. Am 27. August 1865 erfolgte seine Ernennung zum Kommandeur des Füsilier-Bataillons, dass Rauchhaupt ein Jahr später während des Krieges gegen Österreich in den Schlachten bei Trautenau und Königgrätz sowie bei der Einschließung von Josefstadt führte. Für sein Verhalten wurde er mit dem Kronenorden III. Klasse mit Schwertern ausgezeichnet.