1937-ben Herberger jól összeállított keretet alakított ki a válogatottnál, amely nem sokkal később a "Breslau Elf" (a breslaui tizenegy) becenevet kapta annak okán, hogy 8–0-ra verték a dán labdarúgó-válogatottat az akkoriban német városnak számító Breslauban (ma Wrocław, Lengyelország). Az 1938-as világbajnokság selejtezőit sikerrel vívta meg a Mannschaft, Finnország ellen 2–0-ra, Észtország ellen 4–1-re, Svédország ellen pedig 5–0-ra nyertek. Miután 1938 márciusában az Anschluss értelmében Ausztria beolvadt a Harmadik Birodalomba, az osztrák válogatottat (amely Európában az egyik legjobbnak számított akkoriban a profizmus miatt) feloszlatták annak ellenére, hogy kvalifikálta magát az 1938-as vb-re. Ugyanakkor a német politikusok elvárták azt, hogy öt vagy hat „ex-osztrák” labdarúgó csatlakozzon az „egyesített német csapathoz” a politikai egység látszatának érdekében. A selejtezőkhöz képest a torna már nem sikerült ennyire jól: az „egyesített” német válogatott már a nyolcaddöntőben mindössze 1–1-es döntetlent tudott elérni Svájc ellen, így az akkori szabályok értelmében pár nappal később újrajátszás következett a csapatok számára. A megismételt mérkőzésen a svájciak 4–2-es győzelmükkel továbbjutottak, kiejtve ezzel a német csapatot. A korai kiesés máig Németország történetének legrosszabb világbajnoki szereplése.