Strax före andra världskrigets början förde Smith som expert på amfibiekrigföring intensiva övningar med armén, flottan och marinkåren som senare skulle visa stora framgångar både i Atlanten och Stilla havet. Senare hjälpte han US Army och de kanadensiska trupperna inför landstigning på öarna Kiska och Attu i Alaska. Efter de ledde han V Amphibious Corps under anfallen av Gilbertöarna, Marshallöarna, Saipan och Tinian. Han var också befälhavare under Slaget om Iwo Jima år 1945. Smeknamnet "Howlin' Mad" Smith fick han av sina soldater.