Њемачка је прву међународну утакмицу одиграла 1908. године, али је први селектор именован тек 1926. Био је то Ото Нерц, који је са репрезентацијом освојио треће мјесто на Свјетском првенству 1934 у Италији. Године 1938, на мјесто селектора постављен је Сеп Хербергер, под чијим вођством је репрезентација испала већ у првом колу Свјетског првенства 1938. Ипак, након завршетка Другог свјетског рата. Хербергер је остао селектор и донио је Њемачкој највећи успјех до тада, титулу Свјетског првака 1954. Хербергер је на функцији остао до 1964, када је репрезентацију преузео Хелмут Шен. Шен је искористио формирање Бундеслиге и прелазак из аматеризма у професионални фудбал и могао је у репрезентацију да зове Герда Милера, Франца Бекенбауера и остале најбоље њемачке фудбалере. Под вођством Шена, репрезентација је освојила Европско првенство 1972 и Свјетско 1974, уз по једно друго мјесто на Европском и Свјетском првенству.