Von 1856 bis 1858 war Kleinschmit Direktor der Zeughauswerkstatt in Wiesbaden sowie von 1856 bis 1859 Lehrer für Mathematik und Waffenlehre an der Militärschule. In dieser Zeit wurde er am 27. Mai 1858 mit Patent vom 27. März 1858 zum Hauptmann befördert. Als Führer der Salutbatterie während eines Besuches der Königin Elisabeth in Oberlahnstein wurde er mit dem Roten Adlerorden IV. Klasse ausgezeichnet. Während des Deutschen Krieges von 1866 kämpfte er gegen die Preußen. Nach der Niederlage wurde das Herzogtum annektiert und die Armee in die preußische Armee integriert. Kleinschmit wurde bereits am 23. Oktober 1866 in die preußische Armee übernommen und am 20. November 1866 als Kompaniechef in der 7. Artillerie-Brigade angestellt. Am 4. April 1867 wurde er zum Major befördert und als Kommandeur der II. Abteilung in das Magdeburgischen Festungs-Artillerie-Regiment Nr. 4 versetzt. In dieser Eigenschaft nahm Kleinschmit während des Krieges gegen Frankreich an den Belagerungen von Straßburg und Paris teil und erhielt das Eiserne Kreuz II. Klasse.