Il primo commissario tecnico della squadra fu Otto Nerz, un insegnante scolastico di Mannheim, che guidò la squadra dal 1926 al 1936. La Germania arrivò terza nel Mondiale del 1934, che fu anche la sua prima apparizione ad un torneo iridato. Due anni dopo l'incarico fu affidato a Sepp Herberger.