Etter første verdenskrig ble Tyskland og deres allierte utestengt under OL i 1920. Heller ikke i 1924 var Tyskland med, på tross av at FIFA hadde avslått et forsøk fra England på å kaste Tyskland ut av FIFA. Tyskland spilte derfor for det meste privatkamper mot nøytrale land som Sveits og skandinavisk motstand. I 1926 hadde Tyskland fått sin første hovedtrener i Otto Nerz.