I 1991 ble han trener for det tyske B-landslaget. I 1993 ble han hjelpetrener for A-landslaget. Sammen med Reinhard Heß oppnådde han gode resultater, de fikk blant annet frem topputøvere som Sven Hannawald og Martin Schmitt. I 2003 overtok han forbundstrenerjobben fra Heß. Resultatene uteble imidlertid, og i oktober 2004 ble han avløst av Peter Rohwein.