De største fremgange for landsholdet kom i 1930'erne. De spillede sit første VM i Italien i 1934 og de fik medalje. Holdets topscorer var Edmund Conen. Tyskerne tabte i sommer-OL 1936 på hjemmebane, hvor de blandt andet tabte til med Adolf Hitler på tribunen. Sepp Herberger tog over efter Otto Nerz efter OL. Tyskland slog sig sammen med som var gode den gang. Men det viste sig vanskeligt at forene spillere og forskellig spillestil.