Kaphengst besuchte das Kadettenhaus in Berlin und wurde im April 1824 als Portepeefähnrich im 12. Infanterie-Regiment der Preußischen Armee angestellt. Dort avancierte er Mitte November 1824 zum Sekondeleutnant und besuchte zur weiteren Ausbildung 1832/35 die Allgemeine Kriegsschule. Daran schloss sich für ein Jahr eine Kommandierung zur Garde-Artilleriebrigabe an. Von 1839 bis 1847 fungierte Kaphengst als Lehrer an der Divisionsschule der 5. Division und avancierte zwischenzeitlich 1841 zum Premierleutnant. Nach einem Einsatz anlässlich der Niederschlagung des Barrikadenaufstandes in Berlin stieg er Anfang Mai 1848 zum Hauptmann und Kompaniechef auf. Als solcher nahm Kaphengst im Jahr darauf während des Krieges gegen Dänemark an den Kämpfen bei Schleswig, Veile sowie Aarhus teil und wurde mit dem Roten Adlerorden IV. Klasse mit Schwertern ausgezeichnet.