Er stammte aus der 1791 geadelten, kleve-märkischen Familie Rappard. Der Vater Friedrich Wilhelm Berthold von Rappard war 1820–30 erster Chefpräsident des Oberlandesgerichtes in Hamm. Seinen Unterricht erhielt er in seinem Elternhaus. Da er schon früh Neigungen zum Soldatenberuf zeigte, trat er bereits im Alter von 13 Jahren 1801 als Junker in die preußische Armee ein. Im Jahr 1806 wurde er zum Fähnrich befördert. Bereits ein Jahr später war er Sekondeleutnant und nahm am Krieg von 1806 teil. Im Jahr 1813 kam er zur Adjutantur im schlesischen Schützenbataillon. Dort wurde er zunächst zum Premierleutnant und dann zum Kapitän ernannt. Rappard nahm an den Feldzügen zwischen 1813 und 1815 teil. Er zeichnete sich unter anderem in der Schlacht bei Bautzen und der Völkerschlacht bei Leipzig aus.