Op 3 oktober 1863 werd Smith hoofdingenieur van het Army of the Cumberland. Hij diende in de Slag bij Brown's Ferry en bevoorraadde de belegerde troepen in de Chattanoogaveldtocht. Op 9 maart 1864 bevorderde de senaat hem daarvoor tot generaal-majoor.