Op 27 juni 1920 werd in Zürich de eerste naoorlogse interland gespeeld tegen Zwitserland en werd met 4-1 verloren. De volgende jaren verloor het land ook meer dan het won. Op het WK 1934 trad het land voor het eerst in de schijnwerpers. Nadat België en Zweden verslagen werden verloren de Duitsers hun halve finale van Tsjechoslowakije. Tegen Oostenrijk kon wel nog de derde plaats veroverd worden. Vier jaar later volgde op het WK in Frankrijk een snelle uitschakeling tegen Zwitserland. Na de oorlog werd het nieuwe West-Duitsland in 1950 opgenomen in de FIFA, Oost-Duitsland volgde twee jaar later. De eerste naoorlogse interland van West-Duitsland vond plaats op 22 november 1950 tegen Zwitserland, deze keer won de Bondsrepubliek met 1-0. De DDR verging het minder goed op 21 september 1952 met een 0-3 nederlaag tegen Polen. Op het WK in 1954 had het land voor het eerst succes. Het leek het WK van de Hongaren te worden. Na een 9-0 overwinning op Zuid-Korea kregen de West-Duitsers ook een ferm pak rammel (8-3). De Turken telden evenveel punten en hadden een beter doelsaldo, maar dat telde niet. Er kwam een play-off die de Duitsers met 7-2 wonnen, waaronder een hattrick van Max Morlock. Na in de volgende rondes te winnen tegen Joegoslavië en Oostenrijk stonden de "Mannschaft" in de finale opnieuw tegenover het Hongarije van Ferenc Puskás. De magische Magyaren waren al 32 wedstrijden ongeslagen en na acht minuten stonden ze al 0-2 voor. Max Morlock maakte echter al snel de aansluitingstreffer en Helmut Rahn scoorde in de achttiende minuut de gelijkmaker. Hij scoorde in de 84ste minuut ook de winnende goal. De wedstrijd wordt herinnerd als het "wonder van Bern".