З 1986 року він паралельно виконував функції асистента головного тренера в першій збірній, а 1990 року очолив збірну Німеччини. 1996 року він привів Німеччину до перемоги на чемпіонаті Європи в Англії. 1996 року міжнародною федерацією футбольної історії та статистики був заснований новий футбольний приз — титул найкращого тренера планети серед наставників національних збірних. Його першим володарем став німець Берті Фогтс.