Smith vervet seg som menig soldat, i en alder av 16 år, til Indiana National Guard i 1911. Han ble kalt ut to ganger, i 1913 til en flom i Ohio, og til en trikkestreik. Smith ble forfremmet til korporal og senere til sersjant. Deretter fullførte han befalsutdanning i 1917 og ble utnevnt til fenrik, i november samme året. Under første verdenskrig ble han såret under Aisne-Marne-offensiven i 1918.