Etter krigen var Smith stabsoffiser og instruktør ved United States Army Infantry School. Han var involvert i forhandlingene rundt våpenstillstanden mellom Italia og de allierte væpnede styrker, som han undertegnet på vegne av general Eisenhower. Smith hadde et rykte som en tøff og brysk leder. I 1944 ble han utnevnt til stabssjef ved Supreme Headquarters Allied Expeditionary Force (SHAEF), igjen under ledelse av Dwight D. Eisenhower.