1911年，史密斯以二等兵军阶在印第安纳州国民警卫队入伍。 在第一次世界大战期间，他于1917年任官為少尉并於1918年在第二次马恩河战役中受伤。战争结束后，他成为美国陆军步兵学校（也称本宁堡步兵学校）的参谋及讲师。1941年，他成为陆军总参谋秘书，第二年他成为“联合参谋长团”（）的秘书. 他的职责包括参与最高级别的讨论，史密斯还常向罗斯福总统汇报战略部署。