I 1942, like etter at USA hadde gått med i andre verdenskrig, vervet McCarthy seg som løytnant i marinekorpset. Han deltok i stillehavskrigen, og fikk tilnavnet «Tailgunner Joe».