Смит участвовал в мексиканской войне, потом уволился из армии США и вступил в ряды армии Конфедерации, где получил звание генерала. Он был ранен в первом сражении при Булл-Ран, был переведён на запад, где командовал крупным подразделением во время Кентуккийской кампании. В январе 1863 года стал командиром Транс-Миссисипского департамента, и в этой роли потерпел неудачу в попытке деблокировать Виксберг. После падения Виксберга его департамент оказался отрезан от Конфедерации и превратился в независимое образование, известное как «Владения Кирби». В ходе кампании Ред-Ривер ему удалось разгромить федеральную армию Натаниеля Бэнкса. 2 июня 1865 года Смит капитулировал в Гальверстоне, оказавшись последним сдавшимся полевым генералом. Он бежал в Мексику, затем на Кубу. Вернувшись после амнистии, Смит преподавал математику и ботанику в Теннесси.