Vuoteen 1923 joukkue pelasi ilman valmentajaa (alkuaikojen epävirallisia joukkueita kasasi Walter Bensemann ja myöhemmin valintakomiteat), tuolloin valmentajan tehtävän otti ensimmäisenä vastaan mannheimilainen kansakoulunopettaja Otto Nerz, jonka johdolla Saksa otti osaa myös ensimmäisiin MM-kisoihinsa vuonna 1934 Italiassa ja sijoittui kolmanneksi. Kaksi vuotta myöhemmin Berliinin olympialaisissa joukkue putosi jo puolivälierissä hävittyään Norjalle 0–2. Tämä on edelleen Norjan ainoa voitto Saksasta.