Smith wurde am 1. Januar 1845 zum Leutnant im Pionierkorps des US-Heeres befördert. Während des Mexikanisch-Amerikanischen Krieges (1846–1848) nahm er als Pionieroffizier an den Gefechten von Vera Cruz, Cerro Gordo, Contreras, Churubusco und Chapultepec teil und wurde dreimal befördert. Von 1849 bis 1854 war er Dozent für Pionierwesen an der Militärakademie. Danach siedelte er 1854 nach New Orleans, Louisiana über, um am Feldzug von John A. Quitman (ehemals Gouverneur von Mississippi) gegen die Freibeuter auf Kuba teilzunehmen. 1856 siedelte Smith nach New York City um und war bis 1858 Chefingenieur in der Trenton-Eisenhütte. Danach war er 1858 bis 1861 Beauftragter für den Straßenbau der Stadt New York.