Il reste en poste jusqu'en 1978. Sous ses ordres, et avec des joueurs tels que Franz Beckenbauer, Gerd Müller, Uli Hoeness ou Berti Vogts, l'Allemagne remporte une Coupe du monde en 1974 et un Championnat d'Europe en 1972. Il perd également une finale de Coupe du monde en 1966 et une de Coupe d'Europe, finale marquée par la célèbre Panenka en 1976, face à la Tchécoslovaquie.