Két hónappal később kitört a második világháború. Amikor a második világháború 1939-ben kitört, Schmelinget besorozták a német Luftwafféba és egy elit gárda tagjaként, ejtőernyősként szolgált. Részt vett a krétai csatában a görögök és a britek ellen, meg is sebesült. De őt ökölvívó csillagként túlzottan értékesnek tekintették hogy továbbra is csatákban szolgáljon. A háború végéig (1945 eleje) szolgált a nagy német hadseregbeli katonai kórháznál Ulmban.