Posteriormente, entrenó a numerosos equipos alemanes durante los siguientes 26 años, entre ellos el Borussia Dortmund, el SV Werder Bremen y el Bayern de Múnich; lo que explica su apodo: "Kind der Bundesliga" (el niño de la Bundesliga).